张兰生十分重视对收编的抗日队伍的思想教育工作。他在给抗联三军补充师师长李发等人的信中，再三嘱咐他们，必须加强教育工作，改掉恶习。信中说:“人民反对乱抢乱夺......只有严格的军纪，良好的风尚，爱护民利，才能得到民众的拥护，这个队伍才能有发展的前途。”这期间，张兰生还针对日伪加紧对我抗联及党组织派遣特务、奸细，企图进行分化、瓦解等反动措施，领导三军一师开展了反投降、反奸细的斗争，处决了叛徒任永富，粉碎了敌人利用特务瓦解我军的阴谋，在危急关头，挽救了三军一师，教育了广大官兵。事后，张兰生与周庶泛写出《关于清理队内奸细情况》的报告和《反奸细斗争》的文章，总结了这次反奸细斗争的经验教训。

    1940年6月，张兰生受北满省委的委派，赴讷(河)、嫩(江)地区，与东北抗联第三军总指挥张寿筏研究开展此地区的群众工作问题，主办设在这里的北满省军政干部训练班。张兰生亲自给学员们讲授了毛泽东《论持久战》中关于游击战的战略战术以及中国抗战前途等重大问题。

    7月上旬，抗联三支队攻打了德都朝阳山北、嫩江县科洛村公所，引起敌人的注意。战斗中缴获了一部油印机和一批纸张。支队考虑军政干部训练班急需这些物品，决定由参加训练班学习的抗联三支队政委赵敬夫和几名战士携带，送交总指挥部。赵敬夫他们从科洛村出发，沿着崎岖的山路，秘密行进。7月19日，他们的行踪被驻在讷河县的伪警察大队长、土匪出身的董连科发现。他带领150余名伪军警，分两路向朝阳山总指挥部和附近的军政干部训练班扑来。张兰生和抗联战士听到敌人的马蹄声，知道敌人摸进山来。为了保卫总指挥部和首长，张兰生和赵敬夫指挥干部训练班30多名学员迅速撤向坐落在森林茂密的朝阳山中的总指挥部。他们刚到这里，敌人便从东、西、北三面包围了总指挥部，顿时，枪炮齐响。张兰生冒着枪林弹雨，拼命往山上冲。赵敬夫带两名机枪手，掩护总指挥张寿筏冲出包围。赵敬夫再次返回山上，准备接应张兰生等人。当张兰生和赵敬夫等人正要顺沟向东撤退时，敌人已攻到山的东侧，西面的敌骑兵也迂回到南面，以机枪、钢炮向沟塘猛烈射击。密集的火力封锁了他们后撤的通路。他们奋力抵抗，张兰生不幸中弹，壮烈牺牲，时年31岁。

    张兰生用自己的鲜血和生命实现了他生前向党发出的“我的头颅，我的热血，是献给民族革命，是献给党的事业”的伟大誓言。