一九三二年十月十三日，中华苏维埃共和国中央人民委员会发出第三十号命令后，刘伯承就以红军总参谋长的职务，到前方协助总司令朱德、总政委周恩来指挥作战。一九三三年十月，第三国际派来的军事顾问李德进入中央根据地，很快同当时党中央的“左”倾教条主义者结合在一起。
 
 
 
作为总参谋长的刘伯承实际上被剥夺了作战指挥权。第五次反“围剿”失败后，刘伯承被调到五军团，不久，就开始了长征。

　　智取遵义城

　　一九三四年八月，中央命令任弼时、肖克率领红六军团退出湘赣根据地突围转移，作为先遣队为主力红军侦察、探路。十月，六军团在贵州东部与贺龙、关向应率领的红二军团会合，转战于湘鄂川黔革命根据地。

　　红军主力统一、三、五、八、九军团和中央、军委机关共八万多人，于十月十六日夜，陆续从福建西部的长汀、宁化和江西南部的瑞金、于都出发，向西突围转移，最初的目标是与二、六军团会合，开辟新的根据地。行军的序列是：一、八军团为左纵队，三、九军团为右纵队，中央和军委机关居中，五军团殿后掩护。中央根据地留项英、陈毅率三万多地方武装坚持游击战争。

　　十月二十日，五军团开始行动。出发时，刘伯承正患疟疾，发烧到摄氏三十九度，骑马不行，用担架抬着他。军团长董振堂，政治委员李卓然，认为刘伯承经验多阅历深，经过大的阵仗，行军作战倚重他，对他的身体，也无微不至地照顾。刘伯承对军团长和政治委员非常尊重，积极出主意，想办法，十月二十一日，红军于安远、信丰间突破粤军余汉谋布设的第一道封锁线，自南康、大余间渡过章水，进入广东北部。十一月五日占领湘粤边境上的城口镇，进入湖南，又在桂东、故城间突破湘军何键布设的第二道封锁线。十五日占领宜章，突破粤汉铁路沿线湘粤军共同布设的第三道封锁线。十六日占领临武，分两路向西挺进，一路前出道县，一路前出江华、永明(今江永)，二十四日渡过潇水，直逼广西边境。十一月二十五日，红军到达湘江东岸，遭桂系军队顽强阻击、截击，后面还有从江西一路尾追的薛岳、周浑元纵队八个师。为了掩护庞大的机关和笨重的辎重，不得已使用大军作甬道式的两侧掩护，在广西全县（今全州）以南湘江东岸与敌激战一个星期，遭受重大伤亡，终于突破了第四道封锁线，继续向西前进。湘江南段，水不深，可以徒涉。刘伯承骑一匹艺白马过江。跟在他后边的有二十多个“红小鬼”。是他在长征途中办起来的参谋训练班。为了培养参谋人才，加强百令部建设，他把这些粗通文墨的青年组织起来，每天利用行军作战的间隙，给他们上一两个小时的课。一个叫丁甘如的“红小鬼”，个头矮小，刘伯承关切地说：“来，小鬼，拽着马尾巴，别让江水冲跑了。”他看到牺牲的战士，丢弃的机器，满江漂流的文件、钞票，长长地叹了一口气：“这样下去怎么得了！”后来，他在《回顾长征》一文中描述了他和广大干部当时的心情：“广大干部眼看反第五次‘围剿”以来，迭次失利，现在又几乎濒于绝境，与反第四次‘围剿’以前的情况对比下，逐渐觉悟到这是排斥了以毛泽东同志为代表的正确路线、贯彻执行了错误的路线所致部队中明显地滋长了怀疑不满和积极要求改变领导的情绪。这种情绪，随着我军的失利，日益显著，湘江战役，达到了顶点。”(1)

　　为了策应中央红军突围，红军第二、六军团在川黔湘边界发动强大的攻势，消灭敌军两个师，占领澧县、桃源，威胁常德。但因城步、武冈已被敌军占领，堵住了中央红军北上会合二、六军团的道路，中央红军遂沿西延山脉苗岭进入贵州东部，十二月十五日，前锋第二师，击溃黔敌一个团，攻占黎平。军委纵队十七日入城，在这里休整了三天。十八日，中央政治局在黎平召开会议，会上采纳了毛泽东的意见，放弃到湘西会合二、六军团的企图，改向敌人力量薄弱的贵州前进。同时，不顾李德的反对，决定重新起用刘伯承为中央军委参谋长。还讨论了部队整编的方案决定中央纵队和军委纵队合编，五、八军团合编为五军团，教导师补充各军团。