绥宁反日同盟军组建成之后，穆棱游击队队长胡仁同志调到同盟军总政治部任主任，宋一夫调到地方工作，只剩下张镇华同志。他领导这支游击队，战斗在穆棱县各地，不断地打击敌人，使日伪军非常头痛，贴出布告用高价买张镇华的人头，布告说：有告之张镇华准确下落的赏现大洋500元，击毙者赏现大洋1000元，活捉者赏现大洋5000元。张镇华听了哈哈大笑说：“想不到我竟值这么多钱！”

    1935年1月，中共吉东地区党组织接到中共满洲省委关于东北反日部队统一建制的指示。根据这一指示，吉东局和宁安县委、绥宁反日同盟军党委共同决定：将绥宁反日同盟军改编为东北反日联合军第五军，周保中任军长、党委书记，柴世荣任副军长，胡仁任政治部主任，张建东任参谋长，军部设在八道河子根据地（现东京城林业局红旗林场）。

    在组建东北反日联合军第五军的过程中，张镇华同志领导的穆棱游击队作为骨干队伍，被编为军部直属警卫连，张镇华任连长。从这时起，张镇华同志就开始在周保中的直接领导下转战于吉东地区，从事艰苦抗战的工作，从警卫连长到警卫营长，从师参谋长到师政治部主任，从副师长又到师长、师党委书记，逐渐成为抗联五军和抗联第二路军的主要骨干力量，同时还兼作艰巨的军部教导队训练工作以及对伪军策反工作。

    张镇华同志率领抗日健儿，在第五军东部派遣队的战斗历程中，勇敢机智，使每次战斗都取得了胜利：三次攻打林口；夜袭日军守备队；参加了小穆棱河、大小杨木背战斗；在白石砬子、四合屯等地战斗中缴了伪军和地方武装队的械；袭击了日本兵营等。在这些战斗中，据不完全统计，打死打伤日伪军23人，俘虏伪军50多人，缴获步枪65支、手枪3支及弹药等多种物资。其中影响较大的是马路沟战斗和亮子河战斗。到1936年初，抗联五军东部先遣队由于正确地执行了联合抗日的政策，与地方保甲、地方武装和山林队都建立了良好的关系，将群众武装天龙队（30多人）改编为五军第八团，将“小金山”队编入了军部警卫连，使东部先遣队逐步壮大起来。

    1936年2月，为了策应、掩护抗联五军的主力部队第一师和第二师向中东铁路道北转移，张镇华率领军部直属队和道南留守部队，在周保中同志的统一指挥下，在宁安、东宁、穆棱等地展开了积极的活动，采取机动灵活的战略战术，既从正面对日伪军进行坚决的打击，又从侧面通过各种关系展开策反工作。3月，策反伪军一位连长带领12名弟兄携枪投诚；通过内线工作，争取内外结合的办法，将驻守宁安境内的伪警备27团第三连全部缴械，共获得三八式步枪65支、十一年式轻机枪2挺、手枪3支、子弹万余发、服装170多套；在三道河子缴伪军一个连，得步枪100余支、轻机枪2挺、子弹4万余发；在烟筒沟伏击了伪森林警察队，获步枪28支、手枪1支、轻机枪1挺，俘虏伪军31人。

    张镇华同志随抗联五军军部转移到中东铁路道北之后，从1936年末到1937年1月以前，一直活动在穆棱、勃利、方正一带，多次打击日伪军，为军部和部队筹集了大批给养，使军部和部分部队渡过了严冬。1936年12月3日，在刁翎大通沟的战斗影响比较大，抗联部队200余人与日军和伪军二十九团70余人相遇，双方激战了一昼夜，各自撤出了战斗。这次战斗击毙日军8名、伪军2名，伤日军3名、伪军5名。缴获鞍马7匹和很多子弹、手榴弹。张镇华率领军部警卫营，在林口大盘道，配合柴世荣调集来的部队，伏击了从刁翎镇开来的300余名日军和运载给养的200多张马爬犁。300多名日军全部被歼灭，俘虏28名。缴获了全部辎重和500多匹战马，沉重地打击了敌人，武装了自己。这时五军军部决定：趁大盘道伏击战胜利的影响，利用敌人要过春节的麻痹机会，一举歼灭前刁翎的伪军。2月1日傍晚时分，张镇华配合柴世荣调来的军部警卫营、青年义勇军、妇女团和第二师的四、五团等兵力，急行军30多里路，于当天夜间包围了刁翎镇，驻刁翎镇的一个营的伪军全部被俘。日军进行抵抗，激战到2月3日晨结束，打死日军教官5名、宪兵16名，取得了辉煌的胜利。

    1937年2月，在洼洪河沟里抗联九军军部召开了抗日联军军领导会议，会议决定由周保中指挥攻打依兰县城。洼洪会议后，周保中于3月初日夜兼程返回了三道通，为了取得攻打依兰县城的胜利，必须派人进城侦察，摸清敌人在城里的情况。周保中和柴世荣考虑再三，决定派张镇华进城去侦察，因为张镇华同志机智勇敢，还有文化，完全能完成这一任务。找来张镇华向他说明情况后，张镇华向周保中表示：坚决完成侦察任务。

    张镇华接受任务后，化装成一个普通群众混进了依兰县城。进城后，首先与在伪军22团中的地下党员取得了联系，然后来到在依兰县警察署当警察的朋友关振环家，向关振环借了一套警察服装穿上，在城里开始了侦察工作。张镇华同志通过各种关系和亲自观察，不到一周的时间，就把依兰县城内的敌人情况摸清楚了，并根据摸到的情况画了一张依兰县城内敌人兵力布置图，标明了驻军、仓库等重要位置和兵力配备，然后回到22团，向地下党同志交待了攻城战斗打响后，应做好内应工作。

    依兰城地处松花江、牡丹江下游的汇合处，素有“东北重镇，遐迩通衢”之称，是日伪军军事物资的集结地。城内驻有日军150人，伪军700余人，守备比较松懈，兵心普遍动摇，民众倾向抗日，因地形复杂，敌人增兵比较困难。张镇华一向工作细致，他把侦察到的详细情况一一向周保中做了汇报，周保中听了十分满意。拍着他的肩膀赞扬道：“镇华同志，你为攻打依兰县城立了大功，我代表军党委感谢你。”

    周保中根据张镇华侦察到的情况，做了详细的攻城战斗计划，调集了东北抗联第四、第五、第八、第九军组成联合攻城大军，于3月19日夜晚，在周保中的统一指挥下打响了攻城战斗，张镇华率领他的部队担任突击队，首先攻进了城里。经过四、五个小时的激战，迅速攻占了依兰县城，共歼灭敌人300余人，缴获了大批物资。这一战斗的胜利，打乱了敌人准备春季大讨伐的部署；打通了抗联部队通向图佳铁路以东桦川、富锦的交通封锁；扩大了抗联部队的政治影响，提高了人民群众抗日斗争的积极性。

    1937年3月，联军打完依兰县城后，大家都说：“张镇华是一名出色的‘虎将’，是一位‘孤胆英雄’，有文武双全的才能，有同敌人进行各种形式斗争的艺术才干。”周保中同志认为张镇华是一位难得的人才，因而把很多复杂艰巨的任务交给他去完成。4月份又派他到穆棱县镇北街找地下党员冯淑艳、王杰忱夫妇，对宁安县三道河子伪森林警察大队进行策反工作，因为冯淑艳和王杰忱夫妇是森林警察大队长李文彬的表哥表嫂。张镇华对策反工作很有经验，他和冯、王研究后，又派人打进了李文彬的警察大队进行卧底。经过一段工作，摸清了李文彬的底细后，张镇华又不畏艰险，亲自深入到警察大队和李文彬接触。经过他耐心的说服教育后，李文彬终于打消了顾虑，于1937年7月12日宣布起义，把在警察队伍中的8名日本人全部击毙，烧毁了日本军官的住宅和警察大队住的房屋，破坏了各种军事建筑，缴械了由五虎林（现为林口县五林镇）派来的50名官兵的枪支。李文彬在张镇华、冯淑艳、王杰忱的策应下，率领森林警察大队的150多人连同家属六、七百人，携带全部军需物资来到了五军驻地三道通，走上了彻底抗日的光荣道路。7月15日，起义队伍在三道通举行了誓师大会，正式宣告参加抗联五军，改编为抗联五军警卫旅，下编第一、第二两个团，李文彬任旅长，张镇华任旅政治部主任。当时又召开了群众大会，热烈欢迎李文彬起义，群众给起义官兵佩戴红花，送来猪肉、粉条、白面进行慰问。

    张镇华同志策动李文彬率队起义，在吉东地区影响很大。不久驻扎在依兰县的伪军38团、在勃利县的伪军29团，带着3门火炮、4挺重机枪、16挺轻机枪，还有大批步枪、手榴弹等起义投诚，壮大了我抗日队伍，使敌人惶恐难安。

    因长期过着艰苦的游击战争生活，使张镇华同志的健康受到了影响，加上缺医少药，脾脏受伤，又患上了慢性惊风症，时常发作，小发作时休息会儿就好，大发作时面白神萎，抽搐无力或吐或泻，四肢发冷，严重时睁眼昏睡、嘴唇发青。但他从没叫苦，从不休息，一直战斗在第一线。1938年3月，周保中调他到二师任副师长，虽然宋一夫兼二师师长，但因他是整个西征部队的主要负责人，二师的西征整顿训练全落在张镇华一个人肩上。1938年4月，开始从下江出发，向宝清集中，5月27日，又从宝清县大叶沟出发开始西征。西征是十分艰苦的，部队要穿行深山密林，要过红眼哈塘，要忍饥挨饿，要和野兽蚊蝇做斗争，还要和阻击拦截的敌人进行斗争。部队于7月8日，逼近了苇河县的楼山镇。

    楼山镇是日本侵略者掠夺东北森林资源的一个重要木材砍伐场所，设有日本关东军经营的木材采伐所。镇内有伐木工人和商业市民600余户，是苇河县东部地区一个较大的集镇，森林铁路从此通向中东路亚布力车站。经侦察得知，这里驻有日本关东军木材采伐机关、伪军守备中队、守备森林铁路的白俄军队，还有部分伪警察、自卫团等武装，市区外围及伪军营房附近设有炮台、地堡、暗沟等防御工事。张镇华和陶净非等人商量决定攻打楼山镇，拔掉前进路上的钉子。于是制定了详细的作战计划，分别成立了奋勇队、没收队、收容队，充分地做好了进攻的准备，于7月12日拂晓，张镇华和陶净非指挥西征部队突然向楼山镇发起了进攻。经过激烈的战斗，很快就占领了楼山镇。这次战斗，取得了很大胜利，俘虏敌军中队长以下40余人，击毙敌人20多名，缴获轻机枪2挺、步枪100余支、子弹4万余发，还有粮食等多种物品。焚烧了敌人在楼山镇设的官署，破坏了附近的防御建筑物、铁道桥梁、通讯设备等。抗联西征部队在撤出楼山镇之前召开了群众大会，张镇华同志向人民群众进行了抗日救国的宣传。

    抗联第二路军的西征部队在楼山镇战斗后继续西征，但斗争环境更加险恶，给养也更加困难。有时一连几天也吃不到一粒粮食，全靠杀战马来充饥，骑兵变成了步兵，后来战马杀光了，就吃野草、野菜、树皮、草根等。指战员们的鞋子破了，就光着脚坚持行军打仗。西征部队不仅生活极其艰苦，而且日伪军前堵后追，经常是边打边走。到了同年8月份之后，队伍受到了严重损失，人员也越来越少，一些优秀指战员们相继牺牲。1938年8月末，张镇华与陶净非率领西征部队，过牤牛河之后又和敌人相遇，与敌人进行激战后，不仅与第一师的部分人失去了联系。第二师本身也被敌人冲散了，相互之间失去联系，与张镇华同志共同战斗了一年多的陶净非也失踪了，他率领剩余的部分同志在附近找了好几天，也没有找到陶净非他们。

    张镇华在找陶净非的几天里，始终在敌人的包围追击之中，天天都要打仗，同志们一个个倒下去，最后只剩下7个人。但张镇华是个乐观主义者，面对着目前的严峻形势和艰苦环境，他笑着鼓励同志们：“我们已经到了苦难的极限，再往前发展，就会往好的方面转化了，大家一定要咬紧牙关，把眼前的困难渡过去。”他的乐观革命精神，鼓舞了同志们，终于渡过了难关，在宝清县找到了抗联四军在下江留守处的彭施鲁同志。他们在彭施鲁这儿休息了几天，恢复了体力后，又出发去找抗联五军队伍了。

    1939年5月初，抗联二路军总指挥周保中从刁翎地区突围后来到宝清。得知周保中到宝清的消息后，张镇华于5月9日急来相见，倍感亲切，互致问候后，张镇华同志详细地向周保中汇报了西征情况，并根据自己所看到、遇到的实际情况，分析了当前的形势，对下步工作又提出了自己的意见。

    周保中同志认为张镇华对形势的分析很准确，符合实际情况，下步工作意见也很具体，就召集留守处同志对这些问题进一步详细讨论。最后周保中对下步工作提出了要求：（1）统一大家认识，增强内部团结，坚定胜利信心，坚决同敌人斗争到底；（2）分头巡视各部队，帮助基层领导解决具体问题；（3）根据情况的变化，改变征收给养的办法，今后要通过“集团部落”、敌人的据点和交通建筑工地、林场、采金所等来解决给养问题。并把这项艰巨的任务交给了张镇华具体实施。会议后，他们于5月15日又分头出发巡视各部队去了。

    由于张镇华同志率领小分队积极活动，不断地破坏敌人修筑的公路、袭击据点、伏击敌人运输队等，获得了很多粮食和牲畜，从而使总指挥部机关和警卫人员的给养得到了比较充分的供应，生活有了很大改善。张镇华同志于7月22日回到总指挥部，开始参与总指挥部的领导工作，开会研究处理了一系列重大问题，如讨论处理“叛徒宋一夫”事件，对“佳木斯宝清”事件、“密山宝清”事件的制造者，应给予重重打击等。在这些问题的处理上，张镇华同志都出了不少好主意，深得周保中的赞赏。会议后，张镇华又率领小分队出发了，深入到各地积极进行抗日活动。