红28军是1932年秋红4方面军退出鄂豫皖根据地后，由留在当地坚持斗争的省、道委负责人刘士奇、郭述申、沈泽民、吴焕先、王平章、徐宝珊、郑位三等同志，共同召开会议决定恢复省委、道委，组织皖西红28军。1933年一月在湖北省麻城县组建军长为廖荣坤、政委王平章，领导原25军特务营、224团、246团。1935年4月，28军和25军会合，为集中力量对付国民党军对鄂豫皖根据地的“围剿”，两军进行整编，28军改编为25军73师。后遭敌围截，25军被分割，徐海东率74师回皖西，于1933年10月在安徽省金寨县再次组建28军并担任军长，政委郭述申。下辖82、84两师，约3000人。1934年春，红25军到皖西，28军再次编入25军。1935年初，红二十五军奉命西征。西征时留下指示要求皖西道委书记高敬亭再次组建红二十八军，坚持鄂豫皖边区斗争。
高敬亭于1935年2月4日在安徽省岳西县河图镇的凉亭坳第三次组建起了红二十八军，高敬亭将皖西北红二一八团和鄂东北独立团合编，全军1000余人。高敬亭自己任军政委，统一领导鄂豫皖边区党政军工作。从此这支队伍扎根大别山，以岳西县鹞落坪为大本营并坚持了三年艰苦卓越的游击战争。三年中以不足两千人的兵力牵制了国民党十七万正规部队和十余个地方保安团，转战鄂豫皖大别山区45个县，与敌人发生大小占地共计243次。粉碎了国民党反动派的多次大规模清剿。从红二十八军1935年2月第三次重建到1937年8月国共和谈成功仅30个月，几乎每个月要打8次仗，平均3、4天就有一次战斗。这是战争史上很少见的。并且自身也发展壮大到3100人，是南方十四省游击队中实力最强的一支，并且最先于地方国民党政府作成功和谈，首开南方八省成功和谈之先河。

    毛泽东曾赞扬这支部队是：“很不容易，很有成绩，很了不起”。他的评价是很恰当的；一支与党中央失去联系，几乎是孤军奋战于白色恐怖区内45个县达三年之久，这很不容易。以2000人的兵力与17万武装力量的悬殊最终能取得胜利，这很了不起。而这支部队牵制了敌人大量军队，从战略上减少了北上主力红军的压力，同时给南方十四省红军游击队以支持，并与国民党成功和谈，因此是很有成绩。

    红二十八军的第三次组建，建立大本营已经与国民党政府谈判匀是在岳西，因此说：“红二十八军在岳西，是一个灿烂夺目的亮点，是革命进行曲中动魄惊心的乐章”。