张开贵1901年农历6月27日生于郴州市苏仙区（原郴县）观山洞街道观山洞村8组。因家庭贫穷，长大后靠做篾匠维持生计，娶曹氏为妻，生二女昭芝、昭弟（张凤英）。

    1926年，经常去郴州城卖竹制品的张开贵，认识了来郴县开展农民运动的共产党员谢怀德和彭搌卿。在他俩的启发和帮助下，张开贵懂得了不少革命道理，与坳上镇的曾子刚一起加入农民协会，参加了一些革命活动。

    1928年1月12日，朱德、陈毅率领部队点燃了宜章年关暴动的熊熊烈火，拉开湘南起义的宏伟序幕。1月31日，朱德、陈毅在湘粵交界的坪石一举击溃许克祥的6个团，取得了“坪石大捷”的胜利。当天，朱德決定挥师北上郴州，占领郴县、耒阳，发动湘南暴动。

    2月3日，起义军在郴县地下党和农军的配合下，迅速打败了良田镇折岭之敌。朱德、陈毅率领部队进入郴州城，城內一片沸腾。

    张开贵参加了湘南起义，领导的农民武装插标杆分田地。3月中旬，湘南特委出现了“左”倾盲动主义错误，发生了“反白事件”，给革命带来了巨大损失。

    危难之时，张开贵受湘南特委书记王涛的委托，将陈毅部下的傅秋涛连长安排在自己家秘密居住。而他利用做篾匠生意的身份，多次往返郴州城与观山洞村白云庵之间，为中共地下党传递情报。

    3月下旬，蒋介石调集重兵围攻起义部队，朱德、陈毅率部撤离湘南，张开贵等人便随胡少海上了井冈山。同年四月底，他奉命回郴县开展游击斗争。

    回到家里后，张开贵立即被敌人发觉，遭到了国民党挨户团的通缉和搜捕。

    张开贵只得把女儿寄养在刘孝德家里，自己则外出寻找游击队和地下党组织。经过几个月寻找，他终于与湘南特委尹子韶取得了联系，并于1931年光荣加入中国共产党。

    1932年，李鄂领导的湘南游击队活跃在坳上的骑田岭一带。在攻打大奎上乡政府的战斗中，由于敌人的3个碉堡成“品”字形，相互掎角，易守难攻，游击队两次强攻只拿下了樊公祠的两处碉堡，而山顶的乡政府处碉堡没有拿下。

    这时，张开贵提出暂时撤退，用智取代替强攻。但队长李鄂没有采纳他的意见，而是带领游击队发动第三次强攻，却意外遭到了敌人的内外夹击，李鄂不幸中弹牺牲。紧要关头，张开贵挺身而出，临时担负起指挥责任，与萧仰岳一起将游击队员向一个山谷转移。

    1934年，李林任湘南游击队长，张开贵任副队长。3月中旬，国民党部队欧冠的一个连，一路掠夺老百姓的财物，从江口与黄芽交界处的打鸟坳，大摇大摆地回郴州城。李林、张开贵得知情报后，决定在敌人返回的路上打埋伏。

    当欧冠的部队返回到雷打石时，立刻遭到游击队的痛击，一部分敌人慌忙向竹视水方向逃跑，一部分敌人被游击队打得哭爹喊娘，死的死，伤的伤。当敌人再往龙广洞方向逃串时，迎面而来的是“激枪不杀”的喊声。这次战斗共击毙敌人20多名，俘虏30多名，缴枪72支及一些军需物资。

    雷打石伏击战后，敌人很长一段时间不敢出来活动，让五岭山脉的江口、保和、南溪3个游击队根据地连成一片，组建了中共二六区委，使根据地呈现一大片好形势。

    随后，中共郴县县委部署迎接红六军通过湘南地区。6月29日，郴县县委在王仙岭街道铁炉冲村召开会议，黄体国传达中共湘南特委的五大任务：向群众宣传红军战略转移的意义，主要是北上抗日；筹集粮草支援红军，发动群众打草鞋；摧毁敌人碉堡和炮楼，为红军前进扫除拦路虎；接待伤病员，建立秘密医疗点；确定带路人，迎接红军过郴县。

    李林、张开贵等人发动群众打草鞋2.8万双，储备粮食12万斤，筹集光洋4000元，带领游击队员摧毁了敌人在永春、桥口、良田、城前岭等地设置的碉堡及炮楼10多个。

    当红军经过郴县时，李林、张开贵率游击队到桥口迎接，在平田附近妥善安排食宿。对于红军留下的417名伤员，妥善安署在永春的田池洞、坳上的东市、塘溪的横龙、板桥的观山洞一带山区养伤。

    1934年7月，国民党调集一个正规师，以及郴县周边十几个县的保安团，对过郴县的红军进行疯狂地围剿。在红军西征和国民党部队重兵压境的艰难时期，郴县出现了一股自首的反水逆流，一些人叛变革命。如郴县县委书记陈文光，就将湘南特委副书记彭林昌杀死，并残忍地割下彭林昌的头去国民党邀功请尝，当上了反共大队长。