抗日战争全面爆发后，时任国民政府第四十七军军长的李家钰率四十七军1.8万余人出川抗战。

    李家钰率部于当年1937年12月抵达晋东南抗日前线，在八路军和抗日游击队的配合下，连续猛攻并收复了被日军侵占的晋南平陆、芮城、安邑等县城多处，毙伤日寇2000余人。1939年冬，李家钰升任第三十六集团军总司令，统辖三个军7个师兵力。

    在山西抗战的岁月里，李家钰部与八路军关系融洽。1938年1月，八路军129师师长刘伯承外出回部途中，曾在长治市四十七军军部留住数日，李家钰邀请刘伯承为全军营以上军官讲授抗日游击战术。1940年春，李家钰得悉八路军总司令朱德由武乡赴洛阳开会途经其驻地时，曾派兵一个连前往迎接并设宴款待。当晚，朱德就团结御侮，抗日及民主等问题，同李家钰促膝磋谈至深夜，当时，第一次反共高潮刚刚过去，朱德举杯问道:其相兄，他日你若奉命与我军兵戎相见，你当如何？李举杯道:我当效晋文公退避三舍再战。两人相视而笑。次晨，朱德一行跨越晋(城)博(爱)公路日军封锁线时，李家钰为安全计，增派一个加强连，掩护朱德顺利过境。对八路军的游击战术，李家钰亦颇赏识，曾多次派遣所部军官到八路军游击训练班学习。

    1940年，已升任第三十六集团军总司令的李家钰奉调率部进驻豫西，担负河南陕县、渑池、灵宝、阌乡一带黄河防务。期间，李家钰曾多次派出部队配合八路军及抗日游击队，渡河北击晋南一带日军。1944年4月，日军发动“河南战役”，第一战区司令长官蒋鼎文和副司令长官汤恩伯先行撤逃，李家钰忧心忡忡，他在47军师团干部会议上讲话，动情地说:“我们吃了豫西百姓四年饭，现在不能见了日本人就跑。”

    5月11日，李家钰命令所部以一部守备河防，以主力一〇四师在渑池、新安县边界的云梦山抢占有利地形，阻击敌人。5月12日以后，战况更为紧急。李家钰的第三十六集团军处于人困马乏、孤军奋战的境地，只好边战边撤，至5月17日，进入陕县李村乡岳庄一带。当时，国民党新八军军长胡伯翰遭到从白浪渡河的日军袭击，部队溃乱，胡只身逃脱。李家钰闻讯，即派一〇四师占领高地，阻击日军。5月17日晚，李家钰在陕(县)、渑(池)边界的翟延村与西撤的国民党军将领刘戡、张际鹏、胡伯翰、谢辅三、李宗豫相遇，当即举行临时会晤，商讨在战区长官去向不明、群龙无首的情况下，如何统一行动，统一指挥，将领们一致推举李家钰为指挥官。李家钰认为，西撤部队人马相挤，争先恐后抢路走不是办法，若遇日军袭击，将损失惨重。随后画出两条行军道路。由于人数众多，行动不便，李家钰遂决定走这两条道路之间的路，以掩护各部向西转移。

    当时，因弹缺粮绝，多日长途跋涉行军作战，官兵饥饿，农民仅有的玉米、杂粮、红薯根等已被前边撤退的军队抢吃一空，后来的部队，只能搜寻些野菜、草根煮后充饥。次日，李家钰命参谋长张仲雷率集团军赶往陕县菜园乡雁翎关，筹措粮食。5月19日晨，因日军一部已在陕县会兴镇渡河，灵宝也有日军驻防。李家钰一面派出数名侦察兵向陕县大营、灵宝等处搜索敌情，一面在雁翎关村外召集官兵训话说:“再饥饿也不能擅入民间抢劫。违犯者，军法处置！”还当场处决了一个抢劫百姓财物的士兵。

    此后，各路大军分道西行，李家钰的部队就担负起了掩护友军撤退的任务，这时，从晋南平陆茅津渡过黄河的日军进入陕县城。5月20日，李家钰率部从雁翎关出发，宿营于陕县张村镇东窑院村。据友军情报，日军千余人由陕县南关太阳渡出发，正追击高树勋部，已进犯到距东窑院村仅10余里处。李家钰判断:日军来得不会这么快。同时鉴于友军正纷纷向西转移，掩护任务急需进行到底，即决定按原计划行军。

    5月21日，李家钰率集团军总部人员继续殿后，在友军各部相继撤退之后，于上午10时从东窑院出发，按原计划向西行目标——南寺院行军。由于对敌情疏于侦察，情况不明，李家钰率部到达张家河谷底时，埋伏在安家山上的日军已居高临下，对其形成包围。中午时分，当缺乏战斗力的总部人员及家属刚登上旗杆岭，早有准备的日军大队人马从山头上冲下来，李家钰率部与敌战斗，背部和左腋下连中两抢和一片弹片，壮烈殉国。同时受伤的一个士兵后来回忆说，他跟着李总司令跑，看到李家钰挨了敌人两枪及一个榴弹碎片。李家钰还挣扎着跑了几步，终于倒在了旗杆岭上。同时把鲜血洒在陕县土地上的抗日将士还有200余人。担负殿后任务、跟在总部后边的四十七军一〇四师闻讯赶来，在南寺院与日军激战，悬赏募来五名敢死的士兵，冲到旗杆岭上，将李家钰的遗体抢回。

    李家钰殉国后其遗体旋即被运回四川，这是继第三十三集团军总司令张自忠战死于枣宜会战后，国民政府丧失的又一位集团军总司令。