1949年7月,刘伯承率中国人民解放军第二野战军挥戈西去,指挥解放祖国大西南的战役,离开了第一任南京市委书记兼市长与南京军事管制委员会主任的岗位。1951年起,刘伯承又在南京军事学院任院长,在此定居七年之久。
刘伯承去世后,根据他的遗嘱,家人将他的一部分骨灰撒在曾经工作和生活的原中国人民解放军南京军事学院内。