第一次国共合作期间，在共产党人影响和帮助下，1926年9月，冯玉祥率部在绥远五原誓师，响应北伐战争。11月，冯率部南下入陕，解围西安。西安解围后，国民军联军驻陕总司令部成立，一大批共产党员、共青团员参加该部工作，有些还担任重要职务。在共产党支持和帮助下，国民军联军驻陕总司令部摧毁了北洋政府在陕西的政权及其体系，统一了全省行政，在思想教育、奖励惩戒、行政立法等方面进行大量工作。这些革命措施受到陕西人民的拥护，也使陕西的政治和社会风气出现新的变化。

    与此同时，陕西地区出现有利于共产党组织活动和革命发展的新形势。1927年2月，中共陕甘区委、共青团陕甘区委相继成立，推动国民革命运动在陕西的蓬勃发展。西安成为北方革命运动的中心，一时间有“南广州，北西安”之美誉。

    随着西北革命形势迅速发展，国民军联军部队规模不断扩大，人才缺乏问题日益凸显。在此情况下，为加强共产党在部队中的力量和影响，时任国民军联军政治部副部长的刘伯坚不失时机地提出，创办一所以孙中山先生名字命名的军事学校，为军队培养军政干部。这一提议很快得到批准。

    1927年3月，中山军事学校筹备处在西安城内的北院门开始办公。为扩大中山军事学校的影响，吸引更多优秀青年入校学习，国民军联军驻陕总司令部在《陕西国民日报》上刊登中山军事学校的招生公告。招生公告见报后引发强烈反响，报名青年络绎不绝。经过严格选拔，第一期录取学员700余人。

    5月12日，中山军事学校举行了隆重的开学典礼。这所军校名义上归国民军联军驻陕总司令部管辖，实际上由中共陕西组织直接领导和掌握。学校主要领导职务均由共产党员担任：史可轩任校长，李林任副校长兼教务主任，邓小平为政治部主任，许权中为学员总队总队长，高致凯、张汉俊、杨浪波分别担任3个学员大队的大队长。此外，各大队下辖的中队、分队领导和绝大多数军事政治教官都是共产党员或共青团员。学校还设有中共特别支部，以保证党的领导，高克林任特别支部书记。

    中山军事学校规定每期学习时间为6个月，采用政治与军事并重的教育训练模式。军事教学方面，学校注重基础训练，旨在使学员快速掌握基本军事技能和相关理论知识。主要课程包括：军事术课（单兵徒手教练至班排连合练）、军事理论课（射击原理、地形学、条令操典、步兵战术）及野外作业课等。政治教育方面，学校将革命教育作为重要教学内容之一，意在夯实学员的政治基础。主要课程有中国革命史、形势任务教育和《资本论》简介等。学校经常举行阅兵式、实弹射击、野外操练等，剧团也不时上演自编剧目，学习生活丰富多彩，洋溢着浓烈的革命氛围。邓小平、许权中等校领导也参与到教育训练工作，开展政治讲座和军事教学，广受学员欢迎。

    此外，中山军事学校还组织学员积极参加社会革命活动，让学员在革命的大环境中接受熏陶和洗礼，如召开“四·二八”死难烈士追悼大会，组织师生参加西安市5月游行活动，与陕西省立第一中学联欢并进行军事表演，派学员出席陕西青年社第一届代表大会等。陕西省农民协会成立时，协会代表80余人来校参观，学校特地举行阅兵式，以示隆重欢迎。当学校向协会代表赠送印有“要想得着你们自身的解放，只有团结起来，在工农兵联合形式之下努力前进”内容的锦旗时，全场掌声雷动。锦旗上的内容充分展示中山军事学校的政治倾向，体现了我党的领导地位。

    正当学校各项事业蒸蒸日上之际，冯玉祥于1927年6月公开反共。他先将中山军事学校副校长兼教务主任李林、政治部主任邓小平等调离，而后将学校与国民军联军驻陕总司令部政治