新中国成立以后，连云山担任《人民日报》社军事记者组组长。1962年9月，连云山到抚顺采访，市委秘书长告诉他，刚去世一个月的雷锋做了很多好事。第二天，时任抚顺市委书记的沈越也向他提起了雷锋，并邀他到礼堂去听宣讲雷锋事迹的报告会。报告人是沈阳军区军人俱乐部主任陈广生，连云山和自发前来的听众都听得声泪俱下。这时雷锋的影响还局限在抚顺市和沈阳军区的范围内。

    连云山觉得雷锋与革命战争年代的英雄不一样，他是和平时期军队的英雄，应该在更大范围内宣传。他深入到雷锋生前的运输连，看了雷锋的遗物和厚厚的十几本日记，并且找汽车班的同志座谈。大家都非常敬重雷锋，谈了不少，只有肇事司机低着头，始终不说话。连队干部说，出了恶性事故，检查还检查不过来呢，还宣传什么？这毕竟是忽视安全的恶性事故，沈阳军区工程兵被通报批评了。

    这时，因有急事，北京打电话叫连云山赶快回去。临走时，他交代驻沈阳军区军事记者佟希文采写雷锋的稿子。佟希文说，因为事故，工程兵军务部门不让宣传。连云山跟佟希文说，我们宣传的是雷锋的事迹，不是事故。你再去采访，尽快把稿子发来。早在1960年冬天，佟希文和同事李健羽在雷锋入伍10个月时曾采访过他。采写了《好战士雷锋和红领巾》。后来还写了有关雷锋的通讯《党的好后生》。因为有一系列跟踪报道的基础，关于雷锋的稿子很快便写好了。这篇稿子由佟希文执笔，雷润明(时任《人民日报》驻辽宁分社记者)补充，甄为民(时任《人民日报》驻辽宁分社社长)最后定稿。由于连云山催得急，他们便一面定稿一面用电话传稿。连云山收到稿子后，迅速把雷锋的长篇通讯编完，送总编室审阅。时任《人民日报》副总编辑的李庄与张潮决定拿出两个整版来宣传雷锋。1963年2月7日，《人民日报》同时在一版、二版和五版发表长篇通讯《毛主席的好战士——雷锋》《雷锋日记摘抄》和由连云山撰写的人民日报评论员文章 《伟大的普通一兵》。这样，由于连云山的独具慧眼与努力促成，《人民日报》一共两个半版全部给了一位雷锋这位普通士兵。3月5日，毛主席欣然提词“向雷锋同志学习”。于是，雷锋就成了全国人民学习的榜样。