中华人民共和国成立后，谭知耕参加了解放浙江沿海岛屿作战。1949年12月，任第三野战军第二十三军参谋长。1950年12月任第二十五军副军长。1952年7月，调任华东军区第四步兵学校校长。1958年2月，任北京高等军事学院战役教授会主任。1964年任该院教育长。1975年任南海舰队司令员。1978年12月调任中国人民解放军军事科学院副院长。1955年9月谭知耕被授予少将军衔。先后荣获二级八一勋章、二级独立自由勋章、一级解放勋章和一级红星功勋荣誉章。

    2001年4月10日，谭知耕在北京逝世，享年85岁。

    在举国上下迎接中华人民共和国诞辰75周年之际，写诗赞之

    七律.赞谭知耕将军

    河南新县谭知耕，白马勤书夜响声。
    鄂豫皖区反“围剿”，苏家埠战见分明。
    驱倭挺进到江浦，逐虏飞驰惊日兵。
    培养人才勤钻研，军科发展为精英。