独立第五师师长周磐一直很赏识、器重彭德怀。彭德怀曾经建议他办一个学兵连。周磐听说一团要办学兵连，也想办一所随营学校。彭德怀就利用周磐想以此培植和扩大势力的野心，积极支持他办随营学校。彭德怀建议校长由周磐自兼，周磐提出要找一个有经验、有学识、有朝气的人充任，彭德怀便向他推荐一年前去黄埔军校高级班深造的黄公略。周磐很满意，就叫彭德怀写信给黄公略，要他毕业后立即回师部。黄是湖南湘乡县人，少年好学，喜读兵书，彭德怀早在1916年第一次入伍时就和他结识，当时黄公略是营部文书兼团训练队语文教员，在革命低潮时，黄公略与彭德怀一样秘密加入了中国共产党。

　　黄公略到随营学校任职后不久，共产党就控制了这所学校。1928年7月18日，彭德怀到二营视察，恰好二营营长陈鹏飞的一个亲戚从长沙来，告诉陈说，昨天长沙破坏了共产党的一个机关，从被捕人身上搜出随营学校校长黄公略亲笔开具的通行证。周磐辨认笔迹后确定黄公略是共产党员。由于事态严重，彭德怀立即返回县城，国民党湖南省主席鲁涤平更怀疑推荐黄公略的彭德怀也是共产党。

　　由于事关重大，当晚，彭德怀等人以探望病人为名在医院里秘密商量对策，中共湖南省委特派员滕代远也参加了会议。会上，彭德怀主张立即举行起义，但有人认为时机尚不成熟，提出让黄公略离开部队，就可以应付危险局面。这说服大家，彭德怀先分析他领导下的一团：“第一营完全可靠，是基本力量。第二营六至七成可靠。第三营只有二成多至三成可靠。团特务连基本可靠。”他又分析了第二、第三团情况：“三团主力驻长寿街，离城有一日行程，这个团最反动，但战斗力很弱。第二团驻北乡，主力离城50里，我团起义，该团会暂时守中立，不会马上配合刘济仁第三团来进攻。”他认为平江周围的敌情不算严重，“浏阳方面张辉瓒有一个团，醴陵有陈光中部，长沙约有3个团，岳阳、湘阴均无正规军，茶陵、安仁、攸县等吴尚部队正在部署向井冈山进攻”，只要“彻底消灭城内反动武装，就能争取时间，巩固胜利”。当时，独立第五师已经有几个月没有发饷了，士兵怨气很深，这可以作为起义的导火线。滕代远也当机立断，赞同彭德怀立即起义的主张，最后他们把起义的日期定为7月22日。

　　1928年7月22日11时，独立第五师一团800人，集合在平江城东门外一营驻地天岳书院操场上，誓师起义。下午1时，800勇士向平江县城进发，以迅雷不及掩耳之势，一举解除了城内反动军警2000余人的武装，缴获步枪1000余支、子弹100万发，还活捉了罪恶多端的县长刘作柱等反动分子200余人，五师副师长李慧根、参谋长杜际唐乘乱越墙逃走，起义部队顺利占领平江县城。

　　7月24日上午，举行士兵委员会联席会议，决定成立红军第五军，彭德怀被推选为红五军军长兼十二师师长，滕代远为军党代表，邓萍为参谋长。全军共2500余人，编为一团、四团、七团及特务连、迫击炮连、重机枪连等单位。下午，红五军及数万群众在平江城内月池塘举行庆祝起义胜利大会，宣告成立红军第五军，建立县工农兵苏维埃政府。7月29日，国民党调集湘军8个团形成对平江城半月形的大包围，彭德怀率领一、七团和军直属队退出平江城，向东乡龙门转移。
彭德怀险些被叛徒枪杀

　　平江起义之后，国民党调集10个团“会剿”红五军，尽管彭德怀采用“打圈子战术”，避免同优势敌人硬拼，跟国民党军周旋了三个多月，但部队仍减员1000余人。由于环境险恶，一些意志薄弱者或投机分子相继离队或叛变。红五军四团团长陈鹏飞忍受不了艰苦，彭德怀让其回家了。四大队队长李玉华假传军长命令，以打民团为名拉着全队逃跑了。李玉华叛逃后，彭德怀就命人将与李玉华串通一气的雷振辉监视起来。第二天早晨，队伍集合出发前，彭德怀正在讲话，雷振辉突然夺过警卫员薛洪全的手枪，对准了彭德怀。紧急时刻，身材魁梧的新党员黄云桥一手扳倒雷振辉，一手拔枪将雷击毙。许多人都惊呆了，但彭德怀却面不改色，继续讲话并明确表示：“就是剩下我彭德怀一个人，爬山越岭也要走到底!”

　　最后，彭德怀决定留三个纵队在原地打游击，他自己率两个纵队800多人南下，前往井冈山，跟朱、毛部队会合。1928年12月11日，在宁冈新城召开纪念广州起义爆发一周年和庆祝两军胜利会师大会，毛泽东、朱德在大会上讲话，欢迎红五军的到来。彭德怀在讲话中称红四军是五军的老大哥，号召红五军向红四军学习。大会正开得热烈，忽然讲台坍塌了，有人说这预示着不吉利，红四军军长朱德则微笑着大声说，不要紧，台子坍塌了搭起来再干嘛!朱德的这句话对彭德怀影响很大，后来，在斗争的最艰危时刻，彭德怀总是引用朱德的这句话，“台坍了，搭起再干”，以此来鼓舞他的部下。

    彭德怀参与了杀害袁文才、王佐的行动

　　红军两大主力会师后，井冈山的武装力量得到了进一步壮大。蒋介石调动湘赣两省6个旅约3万兵力，分5路向井冈山革命根据地发动大规模“会剿”。1929年1月上旬，红四军前委、中共湘赣边界特委、红五军军委及中共各县县委领导人在宁冈柏露村举行联席会议。会上，毛泽东传达了中国共产党第六次代表大会的决议案，这也是彭德怀第一次聆听中共中央文件的传达。会议讨论决定实行“围魏救赵”的策略，由红四军向敌人后方赣南进军以解井冈山之围，还决定将到达井冈山的红五军一、三纵队暂编为红四军三十团，由彭德怀任红四军副军长兼三十团团长，滕代远任红四军副党代表兼三十团党代表，留守井冈山。

　　1929年1月14日，红四军撤离井冈山，湘赣两省“会剿”军队只动用一个旅的兵力尾追红四军，以其大部兵力从永新、莲花、酃县向井冈山推进，于1月26日向井冈山根据地发起总攻。守卫井冈山的红五军800战士，以轻武器和每人10余发子弹，凭借新修筑的竹钉阵和土木工事，击退了20倍于己敌人的多次进攻。后来，彭德怀考虑到如果继续坚守硬拼，就有全军覆灭的危险，于是决定收拢队伍突围。

　　4月1日，红军的两支主力部队在瑞金实现了第二次会合，毛泽东听了彭德怀叙述的井冈山失守的经过后，沉默良久，说这次很危险，不应该让你们留守井冈山。4月8日，在红四军前委扩大会议上，前委同意彭德怀的提议，原红五军返回井冈山，恢复湘赣边界，巩固和扩大罗霄山脉中段根据地。

　　湘赣边界各县，素有土、客籍的矛盾。客籍，也就是客家人，袁文才、王佐的祖辈都是为了躲避北方的战乱，背井离乡从北方迁移到此的。因为当地的“土著人”占据着适合农耕的平坦地区，所以客家人只能居住在土著人不愿意居住的山区，而且还要受到当地土籍豪绅地主的压迫和剥削。1929年，这种土、客籍矛盾尖锐地反映到党内来。湘赣边界特委的主要领导大部分是土籍人，袁、王是客籍人，掌握着一个团的兵力，一时间形成土籍人掌权，客籍人有枪，互不相让，愈演愈烈。加之王佐秉性豪爽，不拘一格，专听毛泽东的话，其他人指手画脚，他有些不买账。袁文才、王佐的工作作风和生活作风的确也有些问题，被掌权的土籍人抓住不放。1930年2月，边界特委以袁文才招降茶陵靖卫团团长罗克绍为口实，指责袁文才、王佐与敌勾结。恰在这时，中央巡视员彭清泉悄然来到了边界，他带着中共“六大”对土匪处置的教条，认为袁文才、王佐过去曾经做过土匪，准备以非常手段解决袁、王问题，这一想法与边界特委的想法不谋而合。但是袁、王掌控的红四军三十二团，拥有1000余兵员，700余支枪，还有一座兵工厂，他们又无力对付，于是，就决定采用行骗的办法，将袁、王二人诱至永新县城，然后借助正在安福、永新边界的彭德怀的红五军，再行下手。特委负责人连夜报告彭德怀称，袁文才勾结反动民团，背叛革命，边界党有一网打尽的危险，必须抢先动手诛除袁王，请求红五军出手协助。彭德怀起初并不相信，在来人的反复劝说和要求下，彭德怀派出了两个大队（相当于两个连），并反复告诫：一定不要动枪，要抓起来谈判。

　　一个不应该发生的悲剧发生了，袁文才、王佐死在了自己同志的手里。远在赣南的毛泽东听说袁王被杀，十分震惊，井冈山是他建立的第一个农村革命根据地，而袁文才、王佐对这块红色根据地的营建有着不可抹杀的功劳。因此，毛泽东把袁、王被杀的主要责任记在彭德怀身上，后来，彭德怀在回忆这一历史事件时说：“我们也有轻听轻信的责任。”

　　袁文才、王佐被错杀后不久，王佐的哥哥王云隆，袁文才的妻叔、袁部骨干谢角铭收集残部并“电省反赤”，从此，井冈山革命根据地彻底丧失，后来，红军多次力图恢复，但没有任何收获，反遭到极其严重的损失。直到1949年全国解放，井冈山才回到人民手中。