1926年3月20日，时任任黄埔军校校长，兼任国民革命军第一军军长，国民党中央执行委员、中央常务委员兼任国民革命军总司令，后在国民党当政时期的党、政、军主要领导人蒋介石借故扣押了中山舰舰长(共产党员)李之龙，以此为信号，开始在国民革命军第一军中“清党”。王尔琢与中国共产党早期的优秀党员、学生运动杰出领袖、“黄埔三杰”之首、北伐战争烈士蒋先云，及时为黄埔军校第一期毕业的杰出指挥官，后成为革命家、军事家，中国人民解放军的卓越领导人，新中国开国大将、国防科技、教育事业的奠基者之一陈赓一道，除了与蒋介石展开三次舌战之外，还借用学校和社会上的舆论工具，披露这一事件真相，使身为一校之长的蒋介石气得“娘希匹”地骂娘。但因为王尔琢才华出众，蒋介石又有意拉拢他。面对蒋介石的厚颜无耻，王尔琢冷冷地回答道：“校长不是也喊国际共产主义万岁么！我为什么不能信仰共产主义？”蒋介石一时语塞，片刻才虎着脸说：“你要坚持这个信仰，今后不会有好处的。”谈话不欢而散，此后王尔琢处境艰难。

    当时，担任国民革命军第三军党代表兼政治部主任的中共早期优秀党员朱克靖正在广州开办第三军军官学校，恰好那里缺乏政工干部，周恩来决定让王尔琢到国民革命军第三军第九师当党代表，参与该师的改编工作，并兼师政治部主任、第二十六团团长。

    第九师师长李明扬是个无党派人士，为要把这支老牌的赣军改造成为真正的国民革命军，王尔琢同其他党员一道，通过李明扬团结进步力量，使党的统一战线工作在东路先遣军中开展得较为顺利。出师北伐后，东路先遣军在党代表王尔琢和师长李明扬等人的带领下，不到半年就进军至浙江桐庐一带，在攻城战役中，师长李明扬在前线负伤，由王尔琢代理师长职务。由于王尔琢善于指挥、部署得当，经过数日激战后，攻克桐庐县城，为北伐军进军浙江开辟了通道。一路上，部队先后攻克南昌、桐庐，最后攻克上海。

    1927年4月初，王尔琢率东路先遣军打到了上海外围。有一天，蒋介石的两个亲信，携带蒋介石的亲笔信来先遣军司令部找王尔琢。说如果他听命于蒋介石，就正式委任他为军长。王尔琢看了信，放声大笑，笑得十分响亮：“一个军长太小了，应该给我一个军阀，一个大军阀！”

    同月12日，以蒋介石为首的国民党新右派在上海发动反对共产党的政变，这就是历史上著名的“四一二”政变。这次政变前夕，蒋介石密令李明扬逮捕部队中所有的共产党人，而李明扬却将蒋介石的密令偷偷拿给王尔琢看。情况紧急，王尔琢当机立断，布置师内所有的共产党员迅速离开东路先遣军。

    那是上月初的一天午后，江西南昌市城郊牛行火车站附近，到处是残垣断壁，余烟袅袅，景况凄凉。显然，这儿刚经历过一场激战。第二十六团团部就设在这里的一座天主教堂里。李明扬正召集军官们开会，研究战斗部署，突然，副官推门而入，呈递上总司令部的急电。

    李明扬看完电文皱起眉头：“蒋总司令怎么直接给我发电报？这是怎么回事？”他脸上布满阴云，长叹了口气，宣布散会。军官们不知发生了什么事，面面相觑，唯唯而退。副官关上门，会议厅内静悄悄的，光线也暗多了，李明扬背手踱步沉吟着。电报是蒋介石亲自签署的，命令他立即逮捕第二十六团的共产党员王尔琢和营长宋知荃等１４个人，并押解总司令部处置，其罪名定为“图谋不轨，危害军事”。

    李明扬认为王尔琢等人在历次战斗中表现出色。王尔琢文武双全，严于律己，擅长做官兵们的宣传鼓动工作，且善于发动工农群众。逮捕王尔琢等优秀军队干部，于情于理都说不过去，况且蒋介石竟越过第三军军长朱培德，直接给自己下电令，这本来就不正常。

    李明扬考虑再三，决定抗命。他立即请来王尔琢，让他看了蒋介石的密电。王尔琢看罢脱口说道：“怪不得朱党代表提醒我们要保持警惕……”他说的“朱党代表”就是担任第三军党代表兼政治部主任的中共党员朱克靖。王尔琢问道：“师座，你打算怎么办？”“放心，我不会拿你们去向蒋总司令邀功，良心和人格也不许我这么干。革命尚未成功，竟背弃总理遗训，搞起革命军内部自相残杀，实为不智不义之举！”李明扬神色凛然。