1941年1月，新四军在盐城重建军部是新四军发展史上的重要里程碑。那段峥嵘岁月是盐城历史上值得铭记的独特的红色篇章。1986年，盐城市委、市政府研究决定，在盐城这片新四军曾经浴血奋战过的红色土地上建筑一座全面反映新四军历史的新四军纪念馆。

    新建新四军纪念馆是盐城人民的夙愿。党的十一届三中全会以后,许多在盐城战斗生活过的新四军老战士纷纷提出在盐城建一所新四军纪念场馆的设想,当时的盐城地委接受了这个建议。1978年11月14日,地区文教局成立盐城新四军军部原址纪念馆筹备处,先行开展筹备工作。1980年10月,为迎接新四军在盐城重建军部40周年,地委宣传部、地委党史资料征集办公室及盐城新四军军部原址纪念馆筹备处,向全国各地的相关部门和当年在盐阜地区生活战斗过的老同志发函,征集抗战回忆录,拉开了盐城新四军抗战文物史料征集工作的序幕。为配合征集活动的开展,地区文教局举办题为“盐阜区新四军斗争历史”的展览,借用位于盐城浠沧巷内原盐城县博物馆一楼场地作展厅。由于时间久远,新四军在盐阜区相关人物、事件、战役、战斗的档案、文献等资料及实物匮乏。然而,就是这样一个极为简单的展览却引起社会各界人士的高度关注,人们纷至沓来,许多新四军老战士专门从北京、上海等地赶来参观。尽管这个展览谈不上展示形式,更没有多媒体的展示手段,可面对图片上的某个人物、某个战斗遗址、哪怕是一张不完整的图表,老战士都会驻足细看,陷入沉思,每一个细节,都会引起他们对那段烽火岁月的回忆。1983年3月,盐城撤地建市。市委、市政府进一步加快新四军抗战文物史料征集工作，陆续从全国各地征集到一批珍贵文献资料,涵盖新四军党建、军事、政治、经济、文化、教育等各个领域,其中近60篇为当年在盐城率领抗日军民奋勇击敌的新四军将领陈毅、刘少奇、张云逸、赖传珠、邓子恢、黄克诚、张爱萍、洪学智等人所著。

    建市仅仅9个月后,1983年12月,盐城市委、市政府向江苏省委、省政府提出建立新四军纪念馆、修复新四军重建军部旧址泰山庙、兴建市中心新四军纪念塔的方案。市政府从地方财政拨款15万元用于改建新四军重建军部纪念塔。市文化局多次向省文化厅和国家文物局表达盐城修复新四军军部旧址的愿望。为尽快取得国家文物局支持,市文化局多次向国家文物局作专题汇报。1984年4月3日,省委宣传部根据省委常委会意见,向中央宣传部提出在盐城筹建新四军纪念馆的申请,19日获得批复同意。一直关心新四军纪念馆项目的新四军老领导、老战士、社会各界闻讯都欣喜万分。时任国家主席、原新四军第5师师长李先念,为新四军纪念馆和新四军重建军部纪念碑题写馆名与碑名。时任中纪委第二书记、原新四军第3师师长兼政委黄克诚为纪念馆撰写《盐城会师记》。时任国防部长,原新四军第3师副师长、盐阜军分区司令员张爱萍，为盐城题写新四军重建军部纪念塔塔名。时任中国佛教协会会长赵朴初,为新四军军部旧址题写“泰山庙”三个字……

    盐城市很快成立了以市长秦兆桢为主任，13个部门主要负责人组成的新四军纪念馆筹备委员会。为确定纪念馆馆址，筹委会成员们登上盐城大众饭店的楼顶(位于今盐阜人民商场东南角)实地调研并广泛征询,考虑到市中心空间太小，不利于纪念馆长远发展，最后确定在城东建馆。为了弄清新四军军部在泰山庙内的分布情况，筹备处奔赴全国各地，走访当年在军部工作生活过的20多位老战士。1985年3月30日，盐城市举行新四军纪念馆的奠基仪式。

    随即，盐城各有关部门单位，齐上阵、共努力，投入到新四军纪念馆的建设中。与此同时，新四军军部旧址“泰山庙”内的拆迁、市中心新四军重建军部纪念塔的改造设计工作全面展开。

    10月5日，中央党史资料征集委员会向江苏、安徽、湖北、浙江、河南、江西等省党史部门发出通知，要求各地全力协助盐城完成新四军纪念馆的陈列展出任务。