起义后，郑道济将部队编为3个突击队，分头行动。

　　第一突击队在毕昆山和刘国璋的率领下直奔日军辅导部，站岗的伪兵郭小嘎听说起义了，也迅速加入了进来，他们先奔值班室，将值班日军砍毙，又将在栈桥上钓鱼的3个日军击毙。经过搜查，辅导部再无其他日军人员，练兵们将缴获的十几支日本手枪和两挺轻机枪送回练兵营。

　　第二突击队在连城和崔大伟的率领下向要港司令部接近。他们佯装找人，说通门岗，径直奔向值班室，将值班的伪少尉军官丁尔为击毙，占领了司令部。

　　第三突击队在郑道济的率领下冲向西炮台派遣队，他们冲进炮阵地下面的窑洞里，说服守卫士兵加入了起义队伍。

　　与此同时，起义队伍还解放了伪“中华海员养成所”的海员，海员中有50余人参加了起义行动。下午5时，为了对付从威海回来的日伪军官，郑道济等人进行了周密的布置，连城带人埋伏在栈桥附近，两挺轻机枪交叉瞄准栈桥。

　　5时30分，从威海开回来的交通艇“日生利”号徐徐靠上栈桥，伪装带缆的崔大伟、许传礼、刘秉义、冯醒雄、张玉亭、张树和等十几名起义练兵，腰里暗藏手枪，紧密注视着上岛的日伪军。回岛的日军有7人，伪军官有基地司令员李玉昆、军需课长周尔康、副长王景和等十几人，像往常一样，他们按照军阶的高低先日军后伪军依次走上栈桥，每一个日伪军官身后都有一个起义的练兵跟随。当走在前面的日军快到栈桥末端时，连城突然开了一枪，发出了动手的信号，跟在日军和伪军官身后的练兵们纷纷举枪射击，顿时枪声大作，日军和伪官一个个应声倒地，没有被打死的日伪军官企图逃跑，埋伏在栈桥下面的练兵们一拥而上，将其全部消灭。至此，刘公岛上的日军和伪军官大部被歼。共计日军17名，伪军官上校1名，中校2名，少校1名，尉官和个别反动老兵10余人。司令鲍一民听到枪声后慌忙藏在暗室里，起义军几次搜索都未找到，使他侥幸逃脱。参谋长孟铁樵负伤，也躲藏起来侥幸逃命，事后二人被日军押往威海进行处置。起义的练兵无一伤亡，取得了彻底的胜利。

　　傍晚，起义的练兵们开始打扫战场，做着离岛的准备工作。郑道济等把部队进行了重新编队，共编成8个队，每队约40人，分别由连城、毕昆山、李仁德、刘国璋、王文翰等人担任队长。把海员和部队家属也进行了组织和清点。6时许，人员开始登船。由于人员、物资太多，登船缓慢，直到次日凌晨1时多才登船完毕。随后，包括部队、家属、海员在内的600余人，分乘“同春”、“日生利”、“东海”等舰船以及23号内火艇，缓缓地驶离了刘公岛，向威海港的北口开去。11月6日7时左右，起义部队在双岛港西海岸登陆。

　　在起义期间，郑道济等人对胶东半岛的形势并不十分了解，总以为威海外围地区已在国民党军队的手里。其实，进入1944年以来，胶东地区除了少数地方在汉奸赵保原的占据之下外，其他地区已经连成一片，成为八路军的抗日根据地。他们登陆的地方已是抗日根据地的边缘了，这里已经建立了革命政权。郑道济等人对八路军的政策不了解，不敢贸然加入，他们决定按原计划向牟平进发，寻找国民党军队。

　　起义部队登陆后，即被胶东半岛中共地方党组织获悉，他们很快报告了八路军东海军分区。不久，军分区也从威海地下党处获悉刘公岛汪伪海军起义的消息，决定争取这支抗日的队伍。为了预防不测，军分区派出文西独立营于7日拂晓前占据了通往牟平的必经之路双林前村附近的高地。

　　当起义部队到达了双林前村时，八路军立即派人与他们联系，说服他们参加八路军。经过一番工作之后，郑道济等人同意参加八路军，但提出了三个条件:一是愿意加入八路军，服从命令听指挥，但不是缴械投降；二是队伍不拆散不改编，干部不受训；三是家属要给予妥善安置。

　　八路军东