由于太原失陷，阎锡山的第二战区长官部已经撤退到临汾，为便于与二战区的联络和协调指挥，我八路军总部也有晋北南下，经昔阳、和顺、榆社、沁县、沁源、安泽到达临汾附近的洪洞县，先后在高公村和马牧村共驻扎86天。在这里，朱总司令不仅会见了美国记者安娜·路易斯·斯特朗和美国海军情报官埃文斯·福代斯·卡尔逊等，向他们介绍了八路军在敌后进行游击战争的情况和八路军的战略战术，提出了拯救中国的希望大部分在华北的八路军和游击队。同时，根据抗战需要，主持研究并组建了炮兵团。1938年1月中旬，彭德怀与三师师长前往洛阳参加了蒋介石主持召开的第一、二战区将领会议。

　　在战火纷飞的日子里，朱彭总副司令根据党中央和毛主席“关于开展独立自主山地游击战”的原则，指挥八路军将士在分兵发动群众的同时，抓住有利战机，集中兵力消灭敌人。1938年1月，129师政委张浩调回延安，政治部副主任邓小平接任该师政委，遗职由傅钟接任。2月28日，为统一对外名义，驻延安的中共中央军委总政治部以八路军政治部名义出现，任弼时同志因前往苏联，政治部主任一职由王稼祥接任，因此时王稼祥在苏还未回国，为加强八路军的政治领导，毛泽东同志，亲自兼任了八路军政治部代主任，直到8月份王稼祥回国。同时任命谭政为政治部副主任。将晋东南前线的八路军政治部改称为野战政治部，傅钟任八路军政治部副主任兼野政主任，随八路军总部行动，主持前方政治工作。

　　此间，129师初上太行，在总部领导及刘邓首长的指挥下，接连在晋东南打了三个大胜仗。2月22日，386旅在长生口设伏消灭敌荒井丰吉少佐之两个中队;随后总部调129师南下邯长公路，又在黎城、潞城之间的神头岭设伏，歼敌108师团笹尾部队和第16师团林清部队共1500余人;接着，129师副师长徐向前又亲率三个团的兵力，在晋冀交界的响堂铺设伏，歼敌森木部队400余人。

　　129师三战三捷之后声威大振，太行民众抗日情绪高涨，而日寇则深感威胁，于是调集3万重兵，分九路向我辽县(今左权)、榆社、太谷、襄垣地区围攻，企图歼灭我八路军主力，吃掉我总部首脑机关。还在1938年2月17日，朱德总司令赴临汾土门镇，参加阎锡山主持的第二战区作战会议，会议决定，将二战区所属部队分为西路军、南路军和东路军。东路军除八路军(120师除外)和山西青年抗敌决死队第一纵队、第三纵队外，还辖有国民党的第3军、第17军、第47军、第94师、第17师、骑兵第4师及第529旅等部，由朱德、彭德怀分任东路军正副指挥。由于晋东局势紧急，阎锡山、卫立煌要朱德立刻就职，并马上到晋东南前线指挥作战。20日，八路军总部离开马牧村，向太行山区挺进。23日凌晨，总部获悉日军苫米地旅团3000余人，从长治出发企图夺取临汾，并南过黄河进攻西安、武汉，其先头部队已占领屯留县城。当时朱总司令身边仅有两连警卫通讯部队200余人，为使临汾的友军指挥机关及大批军用物资能够安全转移，使友军有更多的时间进行战斗准备，阻止日军长驱直入夺取临汾，决定阻击迟滞敌人。200人对3000人，敌我力量如此悬殊，这需要多么大的决心和意志，朱总曾给附近的友军发电报要求他们赶来联合作战，次日在安泽县古县镇附近与日军先头部队接触，但友军未能赶到，就在这样的紧急关头，朱德、左权英勇机智指挥部队阻击敌人。此刻日军已探知正面阻击他们的是仅数百人的八路军总部及警卫通讯部队，于是出动十几架飞机向古县实施轰炸，谁知天助我也，日军空军在军用地图上找到一个故县的地名，便去疯狂轰炸，结果屯留的故县镇被炸为焦土，而安泽县的古县镇安然无恙。就这样我总部率领200余兵力将敌3000余人迟滞了3天之久。

　　3月15日，八路军总部转战到达沁县小东岭村，根据战争局势，为稳定友军情绪，坚定他们抗战的信心，争对敌人对晋东南地区实施围攻的企图，研究和统一反围攻的作战方针，朱德、彭德怀主持在小东岭召开了东路军将领会议，会议讨论了目前战争形势及任务、改善部队政治工作、建立根据地等问题，同时就反围攻问题作出决定，要求以一部主力在地方部队、游击队的配合下，钳制进犯各路敌军，集中主力寻机歼灭敌之一部。就在敌人九路围攻开始之时，八路军总部已经转移至武乡义门村，总部领导在这里共同研究制定了整个反围攻计划，并颁发了《粉碎敌人大举进攻部队政治工作纲领》，在部队中进行深入的政治动员，又发动人民群众进行空室清野，使进犯之敌陷入饥饿疲惫和恐慌不安的困境。面对敌人的大举围攻，朱、彭首长与刘伯承、徐向前、邓小平等领导紧调129师主力集中于武乡胡家垴一带。4月16日，进犯之敌3000余人沿浊漳河东窜，我军沿两岸高地平行追击，至长乐滩附近，将敌人压至一段窄长河谷，这里是伏击敌人的最好战场，我八路军立刻向敌开火，将其截为数段，激战一整天，歼敌2200余人。其它各路日军见其主力惨遭重创，纷纷回窜，总部指挥所属部队，乘胜追击，相继收复了辽县、黎城、潞城、襄垣、屯留、沁县、沁源、高平、晋城、长治等18座县城，粉碎了敌人的九路围攻，为晋冀豫根据地的形成奠定了坚实的基础。

　　与此同时，120师也由渡河时的3个团扩大为6个团，并粉碎了日伪军对晋西北发动的三路围攻，先后收复了宁武、神池、偏关、保德、河曲、五寨、岢岚等7座县城，歼敌1500余人，为建设晋西北抗日根据地奠定了基础。115师主力也在晋西南一带与敌战斗，1938年3月2日，师长林彪在隰县千客庄被晋军哨兵误伤，经延安转赴莫斯科治疗，总部任命343旅旅长陈光为代师长，李天佑为343旅代旅长。344旅在旅长徐海东、政委黄克诚的率领下，开赴阳城、晋城一带，进行了张店、町店等战斗，与唐天际支队一道开创了太南根据地。

　　为了巩固和扩大晋西北抗日根据地，并以此为依托，向东、向北发展，八路军总部指示120师除以主力保卫和巩固晋西北外，组建宋时轮支队开赴平西;359旅开赴浑源、广灵地区开展游击战争，开创恒山抗日根据地;以358旅715团及师骑兵营1个连队组成大青山支队，由旅政委李井泉任司令员，率部挺进绥远，开辟大青山抗日根据地。1938年6月，宋支队在平西与晋察冀军区的邓华支队会合，八路军总部命令，两支队合并编为八路军第4纵队，宋时轮任司令员，邓华任政委，第4纵队向冀东挺进，将配合李运昌发动冀东起义。1939年2月，根据中央和八路军总部决定，以第4纵队为基础与起义部队合编成立冀热辽挺进军，派120师副司令员肖克任司令员，开展冀热察辽地区的抗日游击战争。还是在1937年底，原东北军116师388旅691团在团长中共党员吕正操的率领下，在河北晋县誓师抗日，成立冀中人民自卫军，1938年4月中共冀中区党委成立，根据八路军总部指示，将自卫军与河北游击军合编为八路军第3纵队兼冀中军区，吕正操任司令员，王平、程子华先后任政委。