抗战开始后，杨秀峰奉上级命令，率领北平爱国学生组成游击队，在冀西承担起建立抗日民族统一战线的任务。

　　冀西游击队迅速发展到9个大队，700余人。他们采用“打小仗，多打仗”的方针，积极袭扰敌人，在不断战斗中锻炼队伍。当杨秀峰获悉临城内只有少数伪警察防守，立即在夜间组织袭城。在攻克县城后，杨秀峰组织战士们将缴获的大批粮食分给穷苦百姓，既做到了发动群众，又扩大了游击队的影响。此后，杨秀峰又组织游击队夜袭祁村和冯村火车站，除歼灭敌人守备部队外，还缴获了大量军用物资。在随后的黑水河战斗中，杨秀峰率领战士们成功毙伤敌人200余人，缴获山炮一门、轻机枪3挺。其中日军的100多人属于“士官训练队”成员，都是尉级军官和即将升入尉级军官的老兵。敌人恼羞成怒，于次日出动三架飞机进行轰炸和扫射。游击队队员用缴获的敌人优质武器还击，结果当场击落敌机一架，这次战斗让日军从此再也不敢轻视冀西游击队。

　　此后杨秀峰又组织了多次战斗，使部队的战斗力有了很大提高，而部队的装备也随着不断缴获敌人武器而迅速改善。几个月后，游击队每个连都最少配有1－2挺轻机枪，每个营都至少有1挺重机枪，团还组建了迫击炮部队。

　　鉴于部队的发展壮大，杨秀峰开始率领战士们主动寻找战机打击日军正规部队。与此同时，杨秀峰还派人在附近县区建立起地方武装，其主要工作是配合冀西游击队破坏敌人交通线、割电线、制造地雷、伏击小股日伪、惩办汉奸等。杨秀峰的游击队在地方武装的配合下，多次破坏敌人加强控制的平汉铁路，仅1938年5月13日，杨秀峰等人就组织了几千人，同时拆毁铁路140多里，致使敌人平汉铁路运输彻底中断。这次战斗有力配合了正面战场，此后敌人不得不从进攻部队中抽调大批精锐回撤沿途布防。

　　敌人兵力加强，对我冀西游击区严加封锁。这时的杨秀峰，开始认真考虑如何保证游击队在平汉线两侧、冀南太行山根据地乃至与华中、山东、陕北等地我军部队的联络问题。在短短两个月内，杨秀峰依靠广大群众，在敌占区内建立起情报联络点和3条交通线，确保了往来干部、信件、物资的畅通，巩固了冀西斗争成果。

　　在“保卫家乡、保卫华北、保卫全中国”的感召下，杨秀峰提出“有人出人，有粮出粮，有钱出钱，有枪出枪”的政策，广大民众从冀西游击队真切体恤民众疾苦、抗击侵略者的活动中看到了民族的希望，视冀西游击队为保护民众利益的子弟兵。于是，“要出头，找冀游”的呼声不胫而走，出现了支持和参加抗战的热潮。临城一百来户的一个小村庄，竟有七八十人参加了游击队，内丘南岭一带近百名青年参加冀游。其中不乏涌现出父送子、妻送夫、父子同参军的景象。同时，广大民众纷纷捐大刀、长矛、猎枪、步枪甚至手榴弹等军用物资。有的地主也捐出了看家护院的枪支。杨秀峰共收集武器数百件。

　　随着部队的日益壮大，冀西游击队改称“冀西游击区司令部”，杨秀峰任司令，当时全队共1000余人。一年来，冀西游击队经过杨秀峰的训练和周密的思想政治工作，政治和军事素质均有很大提高。特别是有一次，杨秀峰带领部队经过一片田埂时，坐骑受惊跑到田里踩坏了庄稼，杨秀峰当即掏出钱来赔偿给田边的老乡。这次事件给在场的战士们教育很大。在杨秀峰等领导的亲自示范和带动下，游击队爱护群众的一草一木，不拿群众的一针一线，对群众公平买卖，借东西一定按时奉还，对损坏的东西坚决照价赔偿。在部队里形成惯例:每到一地，一定主动帮助当地群众挑水劈柴、打扫场院街道，而且帮助群众特别是军属解决实际问题。一次，杨秀峰带队进入一个村子，发现老乡们没有盐吃，就和干部战士们将自己带的盐全部分给了乡亲们。有一个战士向房东借了小半截铅笔，出发时没有还给老乡，结果跑了十里路返回老乡家里，把铅笔归还。1939年春节，部队开进内丘县的一个村庄，为了不打扰群众，就在空场墙下宿营休息了一夜。另一次，杨秀峰夜里率领部队到达一处村寨，村里为了防备土匪和汉奸侵扰，在杨秀峰组织下成立了自卫队。巡逻的自卫队员发现来了这么一大群人，以为是土匪侵犯，连忙叫来大批弟兄，不管三七二十一向下射击。杨秀峰命令部队不准还击，一面让战士们高唱《义勇军进行曲》，并让干部喊话说“我们是冀西游击队”。自卫队员听到了喊话，虽然不再开枪，但仍然担心是土匪冒充，整个晚上没有开寨门。杨秀峰和战士们一起背靠背互相取暖，在村寨外宿营。天亮后自卫队员发现是自己的队伍，连忙开门道歉，杨秀峰却夸他们警惕性高。

　　由于严格的军纪和对抗战的坚决态度，杨秀峰和冀西游击队声望日著，冀西十三个县也迅速被建立成为一个中共的战斗堡垒。整个抗战期间，在冀西曾经流传着一首名为《杨秀峰走遍十三县》的民谣:

　　杨秀峰，意志坚，组织民众来抗战；自卫队，青抗先；妇救会，儿童团，全民总动员。杨司令，真能干，武装民众千百万，到处开展游击战。炸碉堡，崩汉奸，扒铁道，过平汉，打得敌伪心胆寒。

　　随着根据地的日益巩固，杨秀峰开始着手建立更广泛的抗日民族统一战线工作。在杨秀峰的领导下，民训处和冀西游击队与八路军密切配合，先由村开始，继而发展到区县建立各级民间抗日组织，推动了群众性抗战的全面展开:农民救国会、青年救国会创建以来，积极动员青年参军参战，支援前线，照顾军烈属的日常生活；妇女救国会建立以来，组织妇女碾米磨面、做军鞋、照顾伤员；孩子们也组织成儿童团，负责站岗放哨、盘查行人、传递文件；自卫队负责地方治安，清除汉奸，参加破坏敌人交通线等活动。在此基础上，杨秀峰又将抗日组织推广到区县。

　　杨秀峰非常重视听取各阶层代表的意见，在充分进行民主协商的基础上，领导推选区县长。1938年1月，冀西已经有7个县建立了抗日民主政府。