1938年4月21日，日军攻占临沂县城。在日军攻占临沂城前，曾先后在城北古城村和城西大岭村制造了两起惨案。3月下旬的一天，日军闯入古城村。农民王汉友一家4口躲在地瓜窖里，被日军用点燃的秫秸堵住窖口，活活烧死。1个躲在墙角里吓昏了的老嬷嬷，被日军拖到街上点火焚烧，老人惨叫，日军却站在一边狂笑。逃难的群众在渡河时，又被日军抓住数十人，用刺刀逼着脱光衣服向河里跳，谁不跳，上去就是一刺刀。除个别人死里逃生外，多数人惨死在水中，日军却在岸上狂笑。日军进大岭村后，更是无恶不作。刘志贤母亲的嘴巴、王富德母亲的乳房被害掉，姜志敏之父及祖母等27人被枪杀。与此同时，日军不断派飞机对城里滥肆轰炸，一枚炸弹在城内北大街路南王贞一杂货店的防空洞口爆炸，在洞内避难的男女老少30多人，有的被炸死，有的被闷死，无一幸免。在西门里天主堂内避难的群众被炸伤300多人，修女尤姑娘被炸得骨肉分离，糊到墙上。日军进城后，在大街小巷密布岗哨，架上机枪，挨户搜查，堵门截杀。日军进城的当天，发现了在城内西北坝子3个防空洞及西城墙根躲难的群众，于是，先用机枪扫射，再用刺刀戮杀，480多人全被残害。万恶的日本侵略军，在城西疯狂屠杀10余日还不算，又在火神庙旁和南门里路西设了两处杀人场，用军犬、刺刀连续残杀无辜群众以取乐。日军在进行血腥大屠杀的同时，还纵火毁城。从火神庙以西、僧王庙玉聚福街东、洗砚池以南，北到石坊、杨家巷至刘宅一带，大火一直延续烧了六、七天，整个城西南隅化为灰烬。南关老母庙前、阁子内外，房屋全被烧光，至于其他财产的损失，更无法统计。