在这座黔北名城中，中央红军休整了十二天，具有伟大意义的遵义会议就在这里召开。遵义会议批判了博古、李德在军事领导上的错误，通过了《中共中央关于反对敌人五次“围剿”的总结决议》，重新肯定了毛泽东的正确领导，增选毛泽东为政治局常委，取消了博古、李德的最高军事指挥权。随后政治局常委进行分工，确定张闻天为总书记，主持党中央的日常工作。

　　遵义会议期间，叶剑英在军委总部协助周恩来、朱德指挥作战，处理日常事务。

　　遵义会议后，面临着一系列军事行动问题亟需解决。在行军途中，开了一次军事会议。有的同志提出要夺取打鼓新场(即金沙)，正在讨论，敌人的飞机突然来了，叶剑英和毛泽东等连忙躲进屋后的茅草屋里，没有发生什么危险，飞机过后又继续开会。在这次会议上，成立了以毛泽东、周恩来、王稼祥三人组成的军事指挥小组，负责指挥红军的作战行动。

　　遵义会议结束了长达四年之久的王明“左”倾冒险主义在党中央的统治，确立了以毛泽东为代表的新的中央的正确领导，在最危急的关头挽救了红军，挽救了党，是党的历史上一次生死攸关的转折点。叶剑英衷心拥护会议的决定，拥护毛泽东的领导，积极宣传贯彻会议精神。他回忆说，遵义会议肯定了毛泽东等关于红军作战的基本原则，使毛泽东重新取得了军事指挥权。这在当时是有重要意义的，对后来粉碎张国焘的分裂阴谋，取得抗日战争的胜利和解放全中国，也有其深远的影响。

　　长征以来，叶剑英总是夜以继日地工作着，有时一天只能休息三四个小时，为军委总部起草了许多电报。他工作严肃认真，一丝不苟，他常对参谋人员说，一字之差，关系到许多同志的生死存亡，写完电报一定要多看几遍，反复推敲，达到简明、准确无误。当时红军中有的参谋人员业务水平不高，叶剑英经常对他们言传身教。参谋起草的电报，他认真修改，有时几乎全部重写。他将改好的电报，让参谋重抄，抄好后他还要认真看两遍，然后签字发出。有的参谋同志不懂韵目代日，他就给他们讲授一东、二冬、三江、四支等基础知识，在实践中锻炼提高参谋的工作能力。

　　第二次占领遵义的娄山关战斗中，三军团参谋长邓萍光荣牺牲了。三军团向中央发电报，要求叶剑英去接任。中央考虑战斗正在激烈进行，前方确实需要派得力的人，同意三军团的要求。叶剑英在危难之际奉命前往三军团任参谋长。

　　有一天，部队行军八十里，在宿营地已经吹过熄灯号，一军团来电报说，三军团前方有一座桥被水冲断了，需要连夜修架，以便第二天部队通过。这时大家经过一天的行军，都很疲劳。叶剑英带伤走路，已是十分困苦，但仍然连夜召集司令部李天佑、孙毅等几个科长碰头研究，布置第二天的行军任务，并要求自己带工兵连夜赶修桥梁。几位科长考虑到他负伤未愈，坚决不让他去，叶剑英只好将架桥任务交给了孙毅，说：“架桥关系到全军的行动，桥修不好就要耽误部队的行军速度。对我们来说，时间就是生命。你去修桥，可能一夜不能休息，第二天还需照常行军，任务十分艰巨。”他对如何完成任务，可能遇到的问题，如何解决等等，又作了具体的交代，才放心让孙毅同志带工兵连二十多人前去。他们走了几十里路，在河边整整劳累了一夜才把桥架通。拂晓时彭德怀、杨尚昆、叶剑英带领部队顺利通过。

　　六月中旬，三军团来到终年积雪的夹金山下，这是红军长征翻越的第一座雪山。夹金山高耸入云，经常不见山峰。气候寒冷，空气稀薄，终年积雪不化，深处竟达数丈。当时是六月炎热季节，红军指战员每人只有一套单衣，要过雪山了，想补充点衣服也无处可寻，周围是起伏不断的山地，人烟稀少，哪里来这许多衣服？最初他们也曾想带点烧酒御寒，但当地人不过百户，哪里来这许多烧酒？叶剑英找大家商量后，布置部队要多准备点生姜、辣椒以备上山压寒；因为山上空气稀薄，走路时，一不能快，二不能说话，三不能坐下来休息。