1957年，陈祥调中国人民解放军政治学院学习。1959年调任陆军第二十四军政治部主任、副政委兼政治部主任。1964年10月，调任北京军区政治部副主任。1970年12月任北京军区副政委。1978年12月，调任军委工程兵副政委。在以上的各个任职中，陈祥继续保持了革命战争年代里的那一种勇往无前的英雄气概和踏踏实实的工作作风，把全部精力投入到部队的各项工作上。他认真贯彻毛泽东军事思想和军委战略方针，发挥我军优良传统，大力加强部队政治工作。他经常深入基层调查研究，总结经验，指导工作，帮助部队解决实际问题，在机关和部队中享有很高的威信。党的十一届三中全会后，他坚持实事求是的思想路线，探索新时期部队政治工作的新路子，为我军革命化、现代化、正规化建设作出了积极的贡献。

    1955年，陈祥荣获三级八一勋章、二级独立自由勋章、二级解放勋章。1961年晋升为少将军衔。1988年8月，荣获一级红星功勋荣誉章。

    1980年5月，陈祥光荣离休。戎马六十多载的陈祥将军，一朝卸担息肩，念念不忘的是两件事：一是如何在有生之年留下弥足珍贵的革命史料。于是他积极参加了红二十军、红二十七军和红二十八军的军史编写工作。为此，他与老战友一起，多次往返大别山。在重返故地考查后，他亲自动手，或口述后由他人整理，撰写了数十万字的革命回忆录，为后人留下了一笔宝贵的精神财富。另一件事便是他时时牵挂的死难烈士的亲人。他年年回到大别山，寻访烈士亲属，寻求脱贫途径。为改变老区交通、供电等落后面貌，他殚精竭虑，四处奔走。

    他调查研究，听取各方面的意见，向中央有关部门写信，请求解决实际问题，得到了有关部门的解决和支持。

    改革开放后，他担任了中国老区建设促进委员会理事，积极致力于老区的经济腾飞。

    今天金寨县的西洋参种植正在形成产业，当初从引进试验到取得产品合格证书，样样都饱含着他的心血和汗水。为解决板栗的防蛀保鲜，他曾四次陪着家乡的干部到北京近郊的怀柔、良乡取经。据1994年统计，他仅为金寨县引种西洋参就创产值70多万元，使当地农民多了一条致富路。陈祥同志在病重期间，仍挂念着老区的建设，在丧失语言功能的情况下，还顽强地以笔代言，含着热泪，写下了“我现在对皖西的一山一水和人民仍念念在怀”，足见陈祥对故乡和人民怀着多么深厚真挚的情感，充分体现了一个共产党人、红军老战士生命不息、战斗不止的崇高品德。

    1997年6月23日，陈祥在北京病逝，享年82岁。7月6日上午，陈祥的老领导、老战友、老部下和亲朋好友千余人，在北京八宝山革命公墓礼堂，为陈祥举办了隆重的遗体告别仪式。在将军灵堂四周的挽联中，一幅是军旅作家魏巍手书：“转战南北功绩卓著，忠诚朴实尽瘁一生”，另一幅是原总政治部副主任周克玉上将手书：“忠厚本色一代楷模，务实风范千载永生”，贴切地道出了陈祥的为人本色。

    遵照陈祥生前的遗嘱，他的骨灰由家人送回故乡，在金寨县革命烈士陵园安葬，这个要求得到了总政治部和北京军区特许，国防部长迟浩田上将亲自为其题写墓碑。大别山走出来的陈祥又回到了大别山的怀抱，永远陪伴着当年并肩浴血的十万战友。