7月23日，中国共产党第一次代表大会在上海望志路106号（今兴业路76号）召开，李汉俊作为上海的代表参加大会，并为马林担任翻译。

    7月30日，会场突然闯进来一个陌生人，窥探了一下，忙说：“对不起，我找错了人家。”马林十分机警，立即说：“此人可疑，会议立即停止，所有的人分途离开。”实际上，此人是身着便衣的上海法租界巡捕程子卿。代表们离开后，李汉俊声言是房子的主人不应离开，与陈公博一起应对。

    过了十几分钟，果然一群法国巡捕、警探蜂拥而至。巡捕和警探大肆搜查，没有发现什么可疑的证据。陈公博在发表于1921年8月《新青年》第九卷第三号的《十日旅行中的春申浦》中回忆了当时的情形。一个法国巡捕问李汉俊：“你们开什么会？”“我们在编辑新时代丛书，不是开会！”李汉俊以房主的身份镇静地用法语回答。“他们都是些什么人？”“北京大学的教授。”“那两个外国人是什么人？”“也是北京大学的教授，趁暑假之便来上海谈谈。”随后，巡捕又讯问陈公博，也没有问出什么。据包惠僧回忆：距我们离开李汉俊家不到两点钟的时间，他们要我到汉俊家去看看动静。我当时是没有经验的人，就冒冒失失地跑到李汉俊家里，走上楼梯的中间汉俊和陈公博迎出来说：“你回来干什么？你快走吧！巡捕房来了十余个武装巡捕和包打听搜查了一番，没有搜到什么，很侥幸！我的写字桌抽屉内有一份中国共产党的纲领，一开抽屉就看见了，他们竟没有发现，好在我还会说几句法国话，他们也知道这是阿哥的（李书城）公馆，把紧张的场面缓和了些，最后还说了几句客气话走了”。汉俊还说：“你还是多绕几个圈子再回宿舍，防着还有包打听盯梢。”

    大会最后一天的会议转移到嘉兴南湖的一艘画舫上继续进行，完成伟大使命。张国焘回忆：“代表中只有陈公博未来，他早一天坦率的向我和李达表示请假不出席，因为他太太对于在李家所发生的事尤有余悸。其他的代表却不将这件事放在心上，身当其冲的李汉俊也满不在乎，大家仍然兴高采烈地继续工作，并笑陈公博是个弱不禁风的花花公子。”

    一大会议后，李汉俊和董必武还受大会委托向共产国际写了一个报告。

    中国共产党的诞生是开天辟地的大事变，从此中国革命的面貌焕然一新了。