建国后，有一次陈先瑞看望李先念时，李先念主动谈起了陈先瑞二进陕南的往事，解了他心中多年的疑惑。

    1946年8月底，陈先瑞在武当山率领15旅开辟新区正紧要，突然接到中原局的电报，命令：陈先瑞率原来在陕南开展游击战争的旧部（74师）做好入陕准备。

    原来是李先念他们在创建豫鄂陕边区根据地时，由于诸多因素，局面十分困难。其中最突出困难的是，当地老百姓不能够很快与他们建立信任关系，老百姓还念叨着当年的红军。于是中央就同意了中原局的建议。

    对陈先瑞来说，困难还是有的，但军令如山！

    第一个困难就是干部缺乏。当年的74师战绩突出，团以上干部都上调到其他部队“开枝散叶”了。比如郑位三、方升普、杨焕民、李学先、刘建挺等。但是陈先瑞这次倒也不着急，因为有了上次的经验，干部都是锻炼出来的。按照要求，陈先瑞就把还在15旅中的相关干部进行了集中。

    第二就是加强党的领导和梳理协调好指挥系统。10月初，陈先瑞率队到达豫鄂陕边区，于8日召开豫鄂陕边区党委会，对边区党委、地委和军区、军分区作出了统筹安排和调整。

    第三就是打破敌人的“清剿”。在中央的支持下，缓解了财政困难，解决了粮食和冬衣问题，各军分区化整为零、灵活机动、四面出击、遍地开花，到10月底就取得了反敌第一次“清剿”的胜利。

    随之而来的第二次“清剿”，敌人转变了策略，调集9个正规旅、17个保安团，采取“铁壁合围”和“反复扫荡”相结合的战法，蚕食根据地。显然，原来的纯粹内线作战已经不适应了。陈先瑞决定自己带头，下沉到军分区领导作战，顺势建立了2个野战纵队，实行内外线相结合的方法，取得了胜利。

    1947年3月20日，陈先瑞率第2野战纵队渡过黄河。22日，部队到达山西晋城，实现了豫鄂陕边区党委和部队的大会师。7月底，中原局遵照中央军委电令，对所辖部队进行整训。陈先瑞从陕南带出来的部队，改为晋冀鲁豫野战军第12纵队。不久，陈先瑞被调离。