1924年2月21日，蒋介石留书请辞，“怫然而行”。
当蒋介石带着妻子陈洁如来到上海张静江公馆时，张静江非常讶异。他不解地问：“介石，中山先生器重你，委托你办军校，你理应尽力才是，怎么在这个节骨眼上来上海？”
蒋介石告诉张静江：“中常委打算让孙先生兼任校长，而孙先生属意程潜和许崇智，只让我和李济深为副校长，我实在不愿给人家做嫁衣裳!”
听明白蒋介石的意思后，张静江答应他，在孙先生面前说话，保举他当“校长”。
张静江
蒋介石负气出走之后，黄埔军校的筹备事务，全摊在廖仲恺身上。廖仲恺于3月26日电蒋：“转介石兄，归否？请即复，俾得自决。”言下之意，你再不回来，我就自己干了！蒋介石也知道，军校不会因他辞职而不办，遂以婉转的文字给廖仲恺复电：“函电敬悉，弟必来粤勿念。”最终是孙中山等不及了，派许崇智请他回来履职。许崇智告诉蒋介石，自己无心校长一职，蒋介石这才心满意足地回到广州，于4月26日到黄埔军校办公。5月3日，孙中山正式任命蒋介石为黄埔军校校长兼粤军参谋长，并允诺给予他在人事与财政上更多的权力。此时，孙中山自兼军校总理、廖仲恺出任中国国民党代表，蒋介石在黄埔名列第三。直至次年，孙、廖相继辞世，蒋介石才真正坐上黄埔军校第一把交椅。
