1962年朱德在《从南昌起义到井冈山》一文中说：“1928年4月28日，我们南昌起义保留下来的这部分队伍和湖南地方武装，在宁冈县的砻市同毛泽东直接领导的工农革命军胜利会师。”后来，何长工、肖克等老同志的回忆也都认为会师的时间是4月28日。1928年5月4日，两军会师大会和红四军成立大会在砻市举行。会上宣布成立工农革命军第四军。朱德任军长，毛泽东任党代表，王尔琢任参谋长，下设第十、十一、十二师。21岁的林彪任第十师第二十八团一营营长，何长工任该营党代表。

　　井冈山会师后，革命的武装力量更加壮大了。后来，蒋介石调集湘、赣两省军队多次“进剿”井冈山，少的时候有八九个团，最多的时候达18个团。在井冈山的反“围剿”斗争中，特别是在毛泽东亲自指挥的三打永新和龙源口激战中，林彪机智灵活、善用疑兵的战术风格赢得了毛泽东的赏识。

　　1928年6月，江西的国民党军队发动5个团的兵力“围剿”井冈山，第二十八团奉命前往老七溪岭袭击敌人。由于敌人在老七溪岭有3个团的兵力，地形又对红军不利，这次战斗任务极其艰巨。为此，团长王尔琢召集全团连以上干部开会研究作战方案。会上，几种意见争论不休，而且谁也说服不了谁。这时，一向沉默寡言的林彪突然站起来说：“不要争了，我建议从全团连排干部中，挑选一部分骨干组成十几个冲锋队，每24人为一个冲锋队，轮流向敌人猛冲猛打。这样，敌人必败无疑。”王尔琢觉得林彪这个意见很好，就采纳了。林彪提出的这一方案果然十分奏效，敌人被打得连气都喘不过来，林彪见敌人已开始溃败，就马上提出组织兵力追歼逃敌。战斗结束后，毛泽东、朱德在作战总结会上，对林彪在这次战斗中的作用给予了很高的评价。

　　1928年6月下旬，中共湖南省委派代表杜修经、杨开明带着省委的指示来到边界，要红军离开井冈山，“立即向湘南发展”，强迫边界特委、红四军军委必须“毫不犹豫”地执行。为此，特委、军委和永新县委在永新城内召开联席会进行讨论。毛泽东、朱德等人在会上陈述红四军不能轻易离开宁冈、冒进湘南的理由，与杜修经发生激烈的争论。毛泽东认为红军远离根据地十分危险，决定仍坚持发展罗霄山脉中段政权的原定方针。从安福连夜赶回永新参加会议的王尔琢，也反对冒进湘南，并与杜修经据理力争。

    恰在这时，湘赣国民党军队联合进攻永新，朱德、王尔琢根据军委决定，率领第二十八团、二十九团出击湘东，红军首先攻克湖南的茶陵，后又进占酃县。可是，当部队准备回师宁冈的时候，由宜章农民军编成的第二十九团部分官兵因思念家乡，想取道郴县返回湘南。杜修经坚持执行湖南省委向湘南发展的指令，利用第二十九团宜章籍士兵欲回家乡的情绪，引导部队冒进湘南。

　　朱德、王尔琢得知信息后，觉得二十九团单独深入湘南，处境将十分危险，遂决定率二十八团前去追赶。7月23日，二十九团抵达郴州，在攻城战斗中先胜后败，幸亏二十八团及时赶到，才免于全团覆灭。但在撤出战斗时，二十九团部分官兵仍然不听指挥，并私自散去，“当日收集的不过百人”。王尔琢与朱德商量后，就将二十九团剩余的人员编入二十八团，然后率队从资兴、桂东回师井冈山。8月23日，在桂东与从湘赣边界赶来接应的毛泽东带领的三十一团三营会合，并召开前委扩大会议，决定部队重返井冈山。

　　二十八团第二营营长是袁崇全，党代表是杜松柏。在部队向井冈山进发途中，由袁崇全率部打前卫。8月25日，当部队到达崇义新地圩时，袁崇全突然改变行军路线，串通营党代表杜松柏，伙同副营长，胁迫该营及一个机枪连、迫击炮连共6个连向敌刘士毅部投降。袁崇全的行踪引起了四连连长粟裕、机枪连党代表何笃才、六连党代表赵尔陆等人的怀疑，他们识破了袁崇全的阴谋，率领4个连设法摆脱了袁崇全，但第五连和迫击炮连还是被袁带走了。

　　林彪率部疾追，很快便追赶上了二营，并包围了二营驻扎的思顺圩，袁崇全命令反包围，双方一场血战在即。在这紧要关头，团长王尔琢带领军部警卫排赶到，王尔琢边走边喊：“我是团长王尔琢，是来接你们回去的！”一听到王尔琢的声音，部队没做任何抵抗就回到了王尔琢身边。

　　王尔琢向战士们问明情况后,布置警卫排从两侧包围上去,防止袁崇全等人逃走，当时袁崇全等人正在庙里打麻将，王尔琢念及是同乡又是黄埔军校同学，就不顾危险，对着庙里喊道：“袁崇全，你们快出来，我接你们回去！”听到喊话后，袁崇全首先冲出来，他手持双枪，二话没说，对准王尔琢一连打了几枪，王尔琢当场牺牲。

　　第二十八团是北伐时期叶挺独立团的老底子，后补充了南昌起义、湘南起义的精干力量，全团1900多人，是红四军中有名的“钢铁团”，1个团可以与国民党军1个师相抗衡。王尔琢牺牲后，经毛泽东、朱德再三思考，决定由二十八团一营营长林彪接任团长职务，这也充分表明了毛泽东对林彪的器重。这样，年仅21岁的林彪成为了红四军中仅次于毛泽东、朱德和陈毅的第四号人物。

　　再接下来，彭德怀率领平江起义部队来到井冈山，彭德怀的红五军与朱德、毛泽东的红四军胜利会师。从此，林彪与彭德怀成了毛泽东、朱德军事上的左膀右臂。