1935年3月底，项英、陈毅等历尽艰险，到达赣粤边中心区域油山，与赣粤边特委书记李乐天、副书记杨尚奎等会合。随后，赣南军区司令员蔡会文、少共赣南省委书记陈丕显率领部分突围部队也到达油山。这样，项英和陈毅便确定以油山为中心，建立赣粤边游击根据地。他们将赣粤边地区分成5块游击区，将在赣粤边的红军和游击队分成4个大队和若干小队，分散开展游击战争。至此，中央分局实现了由正规战争向游击战的转变，开始了坚持三年艰苦的游击战争的战斗历程。

　　这一时期，留在南方坚持斗争的红军和游击队共开辟了15块游击区，分布在江西、福建、广东、浙江、湖南、湖北、安徽、河南8个省160个县。由于被国民党军重兵包围分割，又失去电台通讯设备，中央分局与中共中央、与各个游击区失去联系，各个游击区之间的交通也被隔断，因此，各个游击区不得不独立地开展游击战争。

　　蒋介石一直视南方游击区为心腹之患，反复进行“清剿”，到处烧杀掳掠，给南方红军游击队造成了极大的困难。指战员们长年战斗在荒山野岭之中，没有吃，没有穿，过着“天当被，地当床，树皮、野菜当干粮”的艰苦生活。

　　在非常艰难困苦的环境下，南方红军游击队以坚定的革命信念和坚韧的斗争精神，谱写了革命英雄主义的壮歌。各游击区和红军游击队都采用高度灵活的游击战术，利用各省边界地区的有利地形，以山地为依托，避强击弱，昼伏夜击，化整为零，集零为整，声东击西，神出鬼没地开展对敌斗争。

　　为了鼓舞指战员们的革命斗志，战胜各种困难，坚持斗争，直到取得最后的胜利，项英和陈毅十分注意加强政治思想工作。他们经常对指战员进行革命前途教育和革命气节教育，积极提高指战员的素质，正确地执行党的政策，牢固树立依靠人民群众的观念，同时，处处以身作则，充分发挥个人的表率作用。正是这样，他们在残酷的斗争中，巩固了自己的队伍，度过了三年游击战争的艰苦岁月，进入了新的历史阶段。

　　新四军的前身就是在南方坚持三年游击战争的红军游击队。红军游击队在南方艰苦卓绝的三年游击战争中形成的战斗经验、光荣传统和优良作风，对铁军精神的形成，无疑具有重要意义和影响。因此，铁军、铁军精神和南方红军游击队更具有直接的历史渊源。