1935年冬，日本帝国主义在华北地区加紧扩大侵略，全国人民抗日救亡运动高涨，而国民党政府继续推行“攘外必先安内”的政策。为贯彻抗日民族统一战线政策和把国内革命战争同抗日民族战争结合起来的战略方针，发展苏区和红军，中国共产党中央委员会决定，红一方面军以“中国人民红军抗日先锋军”的名义，从陕甘苏区东渡黄河，进入山西，发起东征战役。

　　12月24日，西北革命军事委员会主席毛泽东、副主席周恩来依据瓦窑堡会议确定的东征战略，签发了《关于四十天准备行动计划》。红一方面军在陕甘苏区党政军民的支持配合下，按照军委的计划，对东征作战进行多方面准备。

　　1936年1月31日，西北革命军事委员会在延长县召开会议，进一步讨论战略方针和作战问题，决定进军路线，并部署了兵力。2月18日，毛泽东、彭德怀在袁家沟发布东征作战命令。20日，红一方面军以“中国人民红军抗日先锋军”的名义，从绥德沟口和清涧县的河口强渡黄河，首先击破敌人东岸的堡垒封锁线，而后迅速向敌阵地纵深发展。21日，红军第1军团占领三交镇后，歼敌一个营，后即挥师东进，攻占留誉镇；红军第15军团突破敌堡垒封锁线后，继续东进，占领义碟镇，歼敌一个营。第81师尾随第15军团渡过黄河。24日，毛泽东、彭德怀向各军团、各师、各团首长发出为粉碎晋绥军进攻及争取在山西发展抗日根据地的训令。25日，第1军团又奉命向吕梁山区中阳县关上村前进，控制东出要点。第15军团向隰县进击。

　　在红军抢占有利阵地的同时，晋绥军独立第2旅抢先占据吕梁山东出要冲，防堵红军东进。26日，第1军团就攻击关上村之敌战斗情况致电毛泽东、彭德怀等：“本日一军团于午后二时许开始与敌接触，因山大林密，部队运动极感困难，于黄昏稍前，始夺取敌之野战阵地。战斗开始时即将敌退汾阳路截断，击溃其一个营，将敌之旅部及1团与驻关上村之1个团隔断，其旅部及1团向汾阳退去，现究至何处不明。现关上村尚有敌之1个团固守大庙子及工事房屋，我们拟今晚袭取之。”

　　当天，毛泽东、彭德怀给第1军团回电：“甲、敌情如另电。乙、对关上之敌，如地形有利，应于明（27）日坚决消灭之。丙、如地形不利，无解决战斗之可能，则明日以小部监视该敌，主力撤至关上以南（即关上、水头镇之间）荫（隐）蔽休息，以便待敌增援，向其攻击前进，并待十五军团靠近你们，然后全力消灭之。丁、十五军团明日到水头镇。”

　　此时，阎锡山得到情报，急电晋绥军独立第2旅从汾阳、孝义出发增援阻击。晋绥军独立第2旅是个摩托化旅，下辖2个团，3600多人，清一色德国机械装备，行动迅速，哪里吃紧，就“飞”到哪里去救急，号称“满天飞”。红军第1军团首长当机立断，决定红军主力东进迎敌，挺进到关上村阻击敌独立第2旅。

　　关上村位于中阳城南25里的南川河上游的河谷山口，大山四合，一线中通，为东出汾阳、孝义，南下临汾的咽喉要冲。红军第1、第4师占据关上村西北山头，封堵来援之敌逃往中阳县城的去路。红军第2师配合红军第1师切断弓阳镇敌旅部第3团和敌第4团的联系，布成“口袋”阵地，严阵以待。

　　接到增援命令的晋绥军独立第2旅及配属的炮兵第26团第1营，由孝义出发，行到本县大营、弓阳镇一带扎营。敌先头部队第4团和炮兵第4连接近刘家坪、关上村宿营，一头扎进了“口袋”之中。当日下午，红军由北向东南和由南向北包抄，敌第4团被包围在关上村。

　　当晚8时，红军从预伏高地向敌第4团发起攻击，彭德怀亦由留誉镇赶到凤尾山指挥。红军第1、第4师在聂荣臻指挥下，由关上村西、北两面山头进攻，堵死敌北逃的道路。红军第1师第3团迂回至关上村东侧发动猛攻。

　　红军第2师配合红军第1师截断了关上村和刘家坪村敌军逃跑的退路，紧紧扎住了“口袋阵”的口子。关上村敌军突遭袭击，仓促应战，集中兵力向东南突围，企图与大营、弓阳镇之敌靠拢。红军战士利用有利地形，充分发挥夜战、近战的威力，卡住“袋口”，寸步不让。各种炮火密集发射，前沿阵地打成一片火海，敌残部退回村中固守待援。此时，集结于大营、弓阳镇一带的敌独立第2旅旅部和第3团已被红军击溃，向汾阳、孝义方向逃跑。

　　中阳县城、吴城方面的敌军各部亦因情况不明，不敢妄动。关上村之敌孤立无援，退守于村北的宁国寺，成为笼中之鸟，再也“飞”不起来了。敌炮兵连退守于村中的骡马店内，企图作拼死抵抗。