开展游击战争，壮大力量。10月彭德怀、滕代远率红五军主力赴井冈山后，他率部留在湖南平江、浏阳一带发动群众，开展游击战争，创建湘鄂赣苏区。曾先后组织发动了毛田、鲁家湾、老乌塅、金坑等地暴动，指挥了白沙、大胜、永和等战斗，消灭大量国民党驻军和挨户团，扩大了游击队，在平江、浏阳，及江西修水、铜鼓等县境内开辟了数块根据地。11月，他指挥江西万载县突袭战，消灭了国民党的靖卫团，镇压了国民党县长，缴获了很多枪支弹药。

    1929年3月，黄公略指挥红五军第二大队会同区赤卫队，夜袭永和市，毙伤国民党军100多人，缴获枪支100余支。4月12日，中共湘鄂赣边特委扩大会议召开以后，黄公略担任湘鄂赣边支队队长，并任特委军委书记，统一指挥湘鄂赣支队和各县赤卫队，开展积极的游击战争，挫败了国民党军的“进剿”，发展各县赤卫队，增强了部队战斗力。

    黄公略很重视思想政治工作，号召共产党员发挥先锋模范作用，教育部队团结友爱，他还以自己的言行为部队作出表率。寒冬腊月，大雪封山，他仍穿着单衣单裤和自己打的布草鞋，没穿袜子的脚常常龟裂。裤子破了，就把裤腿撕下来补上去，还戏称这是“灵活机动的战略”。黄公略指挥部队常常给国民党军沉重的打击，使国民党军坐立不安。有一次，国民党军司令部贴出了一纸告示：“若有捉拿共军头子黄公略者，赏大洋5万元；若有击毙黄公略拿头来见者赏大洋2万元。”有人在后面加了一句：“若拔到黄公略一根汗毛者，赏黄金万两。”可见黄公略的影响之大。

    同年9月初，彭德怀率部返回湘鄂赣边区与已发展到2000余人的黄公略红军支队重新合编为红五军，黄公略任副军长。参与制定和指挥红五军向北开辟鄂东南地区，向南打通与湘赣苏区联系的作战行动，扩大了湘鄂赣苏区。

    1930年初，红六军正式组建，黄公略任军长，不久，红六军改为红三军，黄公略任红三军军长。

    建成主力部队，创根据地。红六军、红三军成立的时候，部队中存在着各种各样的问题，如纪律松懈、地方观念、本位主义、农民意识、游击主义习气都较严重，黄公略倾注了大量心血来改变部队的不良习气，努力把这支队伍建成一支优秀的主力部队。红六军干部缺乏，他写信给毛泽东和朱德，从红五军，红四军抽调了一批干部充实到红六军，大大提高了红六军干部的素质。又由于他的知人善任，敬贤爱才，干部的能力得到充分发挥。同时他还加强政治思想建设，注重对干部战士进行群众观点和纪律性教育，反对本位主义和地方观念，引导指战员树立消灭新军阀，争取全国独立解放的革命思想，还言传身教，督促师团干部学习文化知识。在黄公略的坚强领导下，红三军的队伍整体素质、思想觉悟、组织纪律性和战斗力都有很大提高。到1930年10月底，赣西南革命根据地已经有34个县，人口达到400多万，加入赤卫队的就有将近100万人。红军主力迅速发展，新组建了红二十军、红二十二军、红三十五军。赣西南地区已发展成具有统一领导的、连成一片的大块红军根据地，为建立中央苏区奠定了基础。

    1930年7月，毛泽东率领红四军、红十二军再次来到赣西南，同红三军会合，成立中国工农红军第一军团，黄公略所部直接接受毛泽东、朱德的指挥。

    拥护正确领导，立场坚定。1930年初，“立三路线”统治了党中央，黄公略是非分明、立场坚定，始终拥护以毛泽东为首的总前委的领导。1930年6月，李立三把持下的中共中央命令红一军团攻打南昌。毛泽东命令队伍向樟树镇推进，在樟树镇召开了总前委会议，作出全军团不打南昌西渡赣江和红三军团会合的决定。黄公略坚决拥护总前委的决定，率领红三军撤离南昌城郊，进入浏阳。为了掩护红三军团从长沙撤退，黄公略自动请战，率红三军突袭国民党军戴斗垣旅。8月28日夜，红三军悄然占领文家市东南一个制高点，拂晓，向戴斗垣旅发动突然袭击，激战一小时后全歼戴斗垣旅，击毙了旅长戴斗垣、团长田应棠。文家市歼灭战胜利后，红一、三军团在永和会师，成立红一方面军。8月28日，红一方面军开进到长沙东南枫树湾、新桥一带。湖国民党南省主席何键在长沙大肆修筑防御工事，巨形鹿砦、密布的竹钉、高大的电网，形成三道坚不可摧的防线，工事后是密集的碉堡。但是红军在长沙城郊截断了国民党军的主要交通要道，仍给国民党军很大的威胁。总前委令黄公略的红三军控制猴子石的侧面，作为方面军的预备队。9月4日下午，国民党军朝猴子石出击，下午五时左右，黄公略下令所部大举出击，势如破竹冲向国民党军，打得国民党军措手不及，全歼国民党军陶广的两个师，击毙敌近800人，俘敌千余人。这是红一方面军第二次攻打长沙取得的惟一一次胜利。此后，红军撤出长沙来到江西，10月5日，占领吉安。此时，蒋介石任命鲁涤平为总司令，何键为副总司令，张辉瓒为前敌总指挥，出动10万大军，限一个半月内“消灭赤匪”。这时红军主动撤出吉安。10月下旬，毛泽东在新余县罗坊召开总前委会议，提出“诱敌深入”、“退却到根据地作战”的方针，红军主力遂挥师东渡赣江，向根据地中部退却。

    卓越指挥才能，显反“围剿”。在中央革命根据地三次反“围剿”的斗争中，黄公略率领红三军英勇作战，屡立奇功，显示出卓越的指挥才能。第一次反“围剿”，红三军从正面出击，迎击东进的张辉瓒所率十八师先头部队。1930年12月30日拂晓，浓雾弥漫，红三军七八九师隐蔽在龙冈黄竹岭一带，准备对来犯之敌来个迎头痛击。清晨，张辉瓒率第五十二、五十三旅及师部8000人马，偷偷地从龙冈向君埠进犯，黄公略一声令下，沉睡的山岭顿时沸腾起来，英勇的红军很快把敌军逼到河边，敌人有的被打死、有的被淹死，顿时乱了阵脚。穷途末路的张辉瓒狼狈地藏进了草丛中，被红军活捉。张辉瓒的警卫营全营官兵缴械投降。龙冈一役，全歼敌军9000人，缴获了大批武器。其中有一批“马克沁”重机枪和“哈齐克斯”轻机枪，战士们爱不释手，却没人会用。找了个俘虏来教，这个俘虏却说： “我在士官学校，光认识零件，装装卸卸，就搞了3个月，你们——”，黄公略听说以后，立即召集师团的作训参谋，亲自做射击示范，仅用20多分钟，30多个作训参谋都学会了使用这两种机枪。一旁的俘虏目瞪口呆，红军干部和战士都佩服黄军长的技术。