南昌起义爆发后，张发奎原准备遵照汪精卫的命令，火速追赶叶、贺部队，加以歼灭，在第二方面军高级干部会议上，叶剑英以第4军参谋长的身份，提出不要追赶叶、贺，直接回师广东的建议。他劝说张发奎尽早打回广东，实现总理遗训，以图重新北伐，这也是张发奎早有的计划。只因李济深坐镇广东，反对张发奎回广东，叶剑英还从容不迫地分析了战局，叶挺、贺龙已撤离南昌，正在南下广东，广东的李济深必不相容并派兵出击，广州城也就因派兵出击而造成空虚，这正是我们南下广东的最好时机。叶剑英还分析了跟着叶挺、贺龙部队追击，将造成两败俱伤，会大伤部队的实力。叶剑英的一番“宏谈”，正合张发奎做“广东王”的愿望，他改变了追击叶、贺部队的计划，派部队佯装追赶一段后，即命黄琪翔代理总指挥，直接把部队拉到了广东，张发奎自己到香港去了。国民党出版的《国民革命军战史初稿》中记载：“叶、贺等遂东去抚州，张发奎率师追之。嗣忽分途，叶贺等由闽粤边境趋潮汕，张发奎部则改由南雄入粤。”叶剑英使南昌起义的部队减少了追击的压力，将第4军拉回广东，为广州起义创造了条件。
　　1927年12月11日凌晨3时半广州起义开始，叶剑英创建的教导团打响了广州起义的笫－枪，起义中展示了叶剑英卓越的军事指挥才能。上午6时左右，广州苏维埃政府和工农红军总指挥部在市公安局内成立，由苏兆征担任广州苏维埃政府主席，但苏兆征当时在外省，并没有到任；张太雷任政府代主席兼人民军事委员；恽代英任政府秘书长；叶挺任工农红军总指挥；叶剑英任工农红军副总指挥； 12月11日，广州苏维埃政府第一次会议决定：组织工农红军三个军，第一军由工人赤卫队扩大组织而成，第二军由海陆丰的农民赤卫军组成，第三军以叶剑英指挥的教导团为中心组织成立。
　　起义的第二天，既12月12日，敌人组织军队反扑广州城，当日夜里起义军被迫退出广州城，向农村转移，13日，敌人重新占领广州，起义宣告失败，但叶剑英仍然留在广州坚持斗争，起义失败后的第三天拂晓，既12月15日，叶剑英在党的地下交通员李运全的掩护下，才化装成铁路工人离开广州前往香港。1928年秋，叶剑英被党组织派往苏联学习。
　　三：反对张国焘，拥护毛泽东
　　从苏联留学回国后，叶剑英先在上海周恩来的领导下工作了一段时间，后经周恩来同意，1931年4月，叶剑英到达江西瑞金，并第一次见到了毛泽东。
　　第五次反围剿失败后，党中央、中央红军踏上了长征之路。1935年6月下旬，党中央、中央红军与红四方面军在功懋胜利会师。当时中央根据华北事变后，全国抗日民主运动已走向新的高潮，华北已成为抗日斗争前线的形势，主张红军继续北上，建立川陕甘革命根据地，以便在北方建立抗日的前线阵地，领导和推动全国抗日民主运动。但张国焘依仗他指挥的红四方面军人多枪多，向党中央闹独立，他反对红军北上的主张，提出向川、康地区退却或南下的意见。为了解决这一重大战略方针问题，党中央于6月26日在懋功北部的两河口召开政治局会议，作出了《一、四方面军会合后战略方针的决定》，指出“我们的战略方针是集中主力向北进攻，在运动战中大量消灭敌人，首先取得甘肃南部，以利创造川陕甘苏区根据地，使中国苏维埃运动放在更巩固更广大的基础上，以争取中国西北各省以至全国的胜利。”红军北上时，“在战役上必须首先集中主力消灭与打击胡宗南军，夺取松潘与控制松潘以北地区，使主力能够胜利地向甘南前进。”“为了实现这一战略方针，必须坚决反对避免战争退却逃跑，以及保守偷安停止不动的倾向。这是右倾机会主义的动摇，是目前创造新苏区斗争的主要危险。”这个决定是十分符合当时形势的，是完全正确的。会后，张国焘一回到驻地，就立即致电党中央，仍坚持南下，并在部队散布不信任党中央的言论，策动他的支持者向中央提出改组军委和红军总司令部的名单，竟然提出要张国焘任“军委主席”，并给予“独断决行”的大权。中央坚决拒绝了张国焘等人的无理要求，但为了照顾红军的团结，6月29日任命张国焘为中央军委副主席，还把周恩来担任的红军总政治委员的职务让给张国焘。这样，张国焘才勉强同意红四方面军向松潘西部的毛儿盖前进。为了动员张国焘北上，党中央还派叶剑英道张国焘的红四军里工作，7月，叶剑英又被中央任命为前敌总指挥部参谋长。