1940年9月，胶东八路军奉命进行第三期整训，“八路军山东纵队第5支队”改称山东纵队第5旅，于得水调任第5旅第14团副团长（没有团长），率部由平度返回文登，部队很快发展到2300多人，并在南黄集歼灭顽固派秦毓堂部征粮队300余人，收复文登县境内的高村、张家埠、登登口、上庄（今属荣成市）等日伪据点，巩固扩大了东海抗日根据地。

    在巩固和扩大东海抗日根据地上，于得水是立下大功的：1941年1月8日，于得水率第14团配合兄弟部队向盘踞昆嵛山的国民党顽固派“抗八联军”发起进攻，激战3昼夜，解放昆嵛山区，歼敌2000余人，缴获轻机枪30余挺，步枪1500余支。这次反顽作战，一战而屈人之兵，使东海地区国民党顽固派再也不敢造次了。是年10月，他因战伤导致身体不适，调任东海公署专员、胶东军区第1军分区副司令员兼任文（登）西行署主任。