1937年8月，工农红军改编为八路军，刘伯承担任一二九师师长。早在抗战初期，他就对一二九师随营学校指示:将毛泽东军事论著，作为“第一种教材”。他认为，毛泽东军事思想，人民军队战史尤其是较近的实战战例，应作为第一种教材，只有这样才可以正其本；而日军的军事条令、教令等可作为“第二种教材”，只有这样才能用以分析研究作战对象的特点和战术；苏军的一些条令和军事理论则可作为“第三种教材”，可以开阔眼界，推动军事教育的发展。整个抗战时期，参加一二九师的绝大多数是工农分子，他们政治觉悟高，作战勇敢，但是文化水平较低。在刘伯承的关怀和号召下，部队办起了许多扫盲班、文化班，掀起学习文化的热潮。为练成抗日铁军，他还“运筹帷幄、先胜教场”，先后办过师训练队(班)、师随营学校、师轮训队、师参谋训练班等，大力培养军事、政治、参谋人才。由于他的深谋远虑和把“治军先治校”理念化为实践，一二九师军事素养闻名八路军、新四军，成为“华北抗日铁军中的铁军”。

    1945年9月，日寇刚刚投降，国共两军拉开战幕。刘伯承领导的晋冀鲁豫地区人民军队，仍然强调“治军先治校”，各级随营学校建制齐全，对加强部队军政素养起到了不可或缺的作用。1948年9月2日，中原军政大学成立，时任中原野战军司令员的刘伯承兼任校长和政委。由于刘伯承的“名头”，中原军政大学在各军政大学中风头一时无两，为中原(第二)野战军培养了大批军政干才，为中国人民解放战争的胜利提供了军事人才支撑。