1950年6月，毛主席任命谭希林为中国驻捷克斯洛伐克特命全权大使。谭希林到任不久适逢新中国一周年国庆，他在环境新、时间紧、语言不通等困难情况下，仍把举办国庆招待会当成第一件大事抓。谭希林积极的外交工作功绩卓著。四年任期内，中捷双方共签订文化、科技、邮政、电讯、广播等6个协定，两国还互办了多次展览会和电影周，推动了北京郊区张郭庄和捷克维纳日采村建立友好联系，屈原和鲁迅等人的作品在捷广泛流传。

    1954年谭希林出任中国驻捷克斯洛伐克大使届满回国后，重回部队，任训练总监部副部长。1955年被授予中将军衔，荣获一级八一勋章、一级独立自由勋章、一级解放勋章。1958年至1969年任北京军区副司令员。1970年2月11日在北京逝世。有诗称赞“救驾”与“大使”将军：

古今史籍幼时学，文武双全军旅扬。
井冈山头炮火响，黄洋界里马戈强。
率团攻打雍家镇，争战纵冲致敌亡。
外事场中显身手，何人世上留词章。