1994年12月30日，徐以新因心力衰竭逝世。人生何处不青山，终年83岁。遗体１月18日在北京八宝山革命公墓火化。他的部分骨灰撒在家乡抱珠垄村的土地上。徐以新同志去世后，胡锦涛、钱其琛、杨尚昆、宋平、雷洁琼、吴阶平、吴学谦、王鹤寿、秦基伟、廖汉生、伍修权、王恩茂等，对徐以新同志的逝世表示悼念，对家属表示慰问。

    遥想当年沙场，红旗卷苍穹。将士醉九泉，飞梦贯长虹。用脚步丈量一段共和国历史，无限哀思无限情，《北黄钟·缅怀半个布尔什维克徐以新》祭之以礼，以寄亡魂：徐公仙逝，寿终正寝，鹤驾西天；又是一年，抱珠垄下，故人长眠。音容在目，德泽铭心，功耿人间！