3月29日，孙中山打电报给蒋介石，说出征广西关系重要，盼他速来粤筹划。蒋介石不予理睬，31日他去祭扫三代先人墓。4月21日，孙中山又给蒋介石打电报，说出征广西已下动员令，许崇智病未痊愈，军事紧急，盼他接电速来。蒋介石在接到孙中山电报的同一天，却带上儿子蒋纬国游天童山去了。
蒋介石这时迟迟不肯去广州帮助孙中山筹划平定广西的事情，原因一方面是他不愿意再和日趋骄横、以粤军为私产、视广州为领地的陈炯明共事，为陈"做嫁衣裳"；另一方面，他当时已另有打算：一是想赴欧洲考察，并去看看苏俄是怎样粉碎内外敌人和联合进攻而取得革命胜利的。后来这个赴欧计划因张人杰和戴季陶两个把兄弟的劝阻而告吹。还有一个打算是想练成一支由他掌握的军队，因为这些年来，蒋介石深深感到自己无一兵一卒之苦。因此在后方练兵，"准备于半年之内，练成一支劲旅"。
在蒋介石认为，只要自己有了部队，就会有一切。练兵时最好"不引起某部注意"、"招他人之疑忌"、"引起军饷无法解决，而使练兵计划成为泡影。"
蒋介石想赴欧洲、苏俄考察和自己训练军队的两个打算，虽然这时没有实现，但是后来由于孙中山实行了联俄、联共政策，成立黄埔军校而才得以一一实现。
由于蒋介石认为自己没有军队，仗打得再好，也是替他人做嫁衣裳，所以他迟迟不愿意。但是，孙中山一直催促他到粤军中供职。直到5月10日，他才勉强离开奉化的寓所，20日抵达广州。他来到广州后，既不愿在粤军中供职，又惦念他母亲的病，于是没过多久，又设法脱身。
1921年5月底，蒋介石从广州回到奉化溪口家中。6月14日上午，蒋母王采玉因患心脏病离开了人世。蒋母死后，蒋介石在家守孝，并自己撰写了《哭母文》和《先妣王太夫人事略》两篇祭文。然后，又把已经风起云涌的革命浪潮完全被他搁置脑后，在奉化溪口大学姜子牙渭水垂钓，韬光养晦。
1924年1月，国共合作正式开始，并且共同筹划创办黄埔军校。
当蒋介石得知孙中山准备让程潜任黄埔军校校长，让他和李济深为副校长时，老大不高兴，嫌官小无权。
其实，这时蒋介石无论在党内还是在军中都是后辈。蒋介石任副校长已是重用，孙中山满以为能拢住蒋。谁知道，蒋介石不愿居程潜之下，于是，便耍起以退为进的手段，竟放弃筹备学校的重要任务，未经孙中山和廖仲恺的许可，擅自发给为黄埔军校招来的教职员一笔离职津贴，声称学校不办了。而他本人则于2月21日私自溜回了上海，又从上海回到老家溪口，整天同自己的新欢陈洁如游山玩水，他想以此要挟孙中山。