新中国成立后，倪南山先后任景德镇地区警备司令员，江西省军区副司令员，福建省军区第一副司令员、第一政委，中共福建省委书记，福建省政协副主席，江西省政协副主席等职。1955年，倪南山被授予陆军少将军衔。1988年7月，倪南山荣获中国人民解放军一级红星功勋荣誉章。1989年1月11日，倪南山因心脏病复发，医治无效逝世，享年78岁。