1947年9月，徐海东的担架部队到达山东半岛。中央决定将他和部分家属撤往苏军控制下的大连。9月18日，徐海东告别生死与共的战友，从威海乘船前往大连，被安置在文化街75号住宅养病。为保密起见，徐海东使用化名叫余立仁。苏联军医给他做了X光透视，发现他的肺部大部分功能都已失效，当听到徐海东多年来靠中草药维持生命，都对他的生命力钦佩不已。韩荣萱今年84岁，曾给徐海东当了三年秘书，他回忆说:徐大将常常对我们说，他是一个粗人，因为他不怎么识字。但徐大将的记忆力很好，一般文件，我们给他读上两遍，他几乎就能够背诵下来了。

　　1951年5月，周恩来专程到大连看望徐海东。他看见徐海东的卧室里挂着洗过的新四军旧军装，就对其夫人周东屏说:"这衬衣、裤子、袜子，都是补丁摞补丁啦！不能把我们的猛将军打扮成叫花子嘛。"徐海东却说:"我喜欢穿它们。我们刚刚建国，资金短缺，把剩余的钱给那些死难烈士的家属用吧。"后来，实行军衔制，中央决定授予他大将军衔，其名字排在粟裕之后，位列第二，十分显赫。徐海东得知后，非常不安。恰巧，周恩来又来大连，并前来看望他。徐海东恳切地说:"总理，我长期养病，为党做的工作太少，授我大将军衔太高，我受之有愧啊！"周恩来握着他的手，动情地说:"海东同志，毛主席说了，你是对中国革命有大功的人啊！授予你大将军衔，是根据你对革命的贡献决定的，我看不高也不低，恰当！"

　　徐海东身居高位，但从不恃功自傲。他在大连期间，时时处处严格要求自己。大连文史专家孙玉写道:"徐海东大将平易近人，生活俭朴。为节约用水，大将吩咐工作人员不要将他的洗澡水放掉，而是用来冲厕所。大将对工作人员说，新中国百废待兴，需要大量的财力、物力，我们应该带头节约，从节约一滴水、一度电抓起。疗养院的老同志都记得，战功赫赫的大将不择衣食。平常他舍不得吃鱼、肉，只是到了周末才改善一次伙食。他吃剩的饭菜从来不许倒掉，而是让厨师妥善保管，下顿热热再吃。他说，每顿饭为国家节约一分钱，日积月累，也是不小的数字啊！"

　　1956年9月，徐海东离开大连，迁往北京，住在观音寺一号。但是，他与大连的友谊仍在继续。一次，徐海东咯血不止，中央派出军用飞机，将大连著名中医李寿山请去会诊。由于支气管扩张，诱发大咯血，北京专家组采用石灰散、咳血方等凉血止血的方子，效果不佳。诊断时，李寿山发现徐海东精神萎靡，面色苍白，而且烦躁汗出，呼吸困难，不能平卧，语声低微，喉有痰鸣，咳中带血，其色浅红或暗红有块，每次约100～200ml。李寿山认为，他患的是阳虚夹寒不能摄血之症。于是，他对症开方，并亲自煎药。徐海东连服6剂，咯血症状止住了。随后，李寿山给他开了一些补养的方子，以增强体质。1962年2月，徐海东再度病危，高烧不退。徐海东点名叫李寿山去北京。李寿山在北京住了两个月，诊脉煎药，使徐海东转危为安。

　　1969年10月21日，根据林彪签发的"中央军委一号命令"，徐海东带着氧气瓶上了去郑州的火车。1970年3月25日病逝。后来，周东屏来到大连，专门约见李寿山，说:"将军临终的时候，还在想着大连，嘱咐我有时间一定要去大连走走，见见李大夫。唉，如果当时能找到你，也许将军就不会死了……"

　　大连人民也没有忘记徐海东大将，大连市人民政府已经将徐海东旧居分别列入"大连市市级文物保护单位"和"大连市第一批重点保护建筑名单"。