在广州那边，由于孙中山的不懈努力，国民党人终于重创革命局面：非常国会通过决议，成立中华民国正式政府，选举孙中山为中华民国政府非常大总统。其时百废待兴，国民政府诸人忙得不可开交，甚感人手不足，急需大量干部。孙中山一位部下曾与蒋介石同期留学日本，便想起正在上海混事的蒋介石，致函要他前往广州革命。蒋介石把信抛到一边，气愤地道：“就是孙中山本人请我我也不去，哼！革命？值多少钱一斤？革命有多少进帐？搞不好老命也会丢掉；交易所天天有进帐，吃喝嫖赌全靠它。”
不料，好景不长，交易所出现不景气风潮，蒋介石与张静江等的合伙买卖债台高筑，逼得蒋介石卖出洋房、包车以及除妓女外的一切，尚欠债主3千元，被债主雇来流氓，左右开弓，“啪”、“啪”地打了无数耳光。若非其师杜月笙打了招呼，几乎连命亦搭上。
杜月笙在上海可是叫得响的人物。他以贩卖鸦片起家，后为上海法租界青帮头子之一。在上海依仗着帝国主义势力，广收门徒，横行霸道，欺压人民。1927年参加“四·一二”反革命政变，国民党统治时期，任上海地方协会会长、中汇银行董事长、法租界公董局华董和国民党政府行政院参议等职。抗日战争胜利后，任国民党上海参议会副会长，利用他的流氓“恒社”勾结军统特务残害中国人民。
蒋介石摸着被扇得发热的脸颊，愤懑之下，想去自杀，却又怕楼高摔得重；又想回溪口雪窦寺出家，却又丢不开眼前的黄金美女。
忽然，张静江找上门来，送给三千块大洋，千言万语劝他前往广州革命。
蒋介石心灰意懒，哪里还打得起精神谈论革命。张静江正色劝告：“交易所也罢，革命也罢，反正都是赌博。只要其中一项顺利，还不是失之东隅，收之桑榆吗？”
蒋介石听罢，以为言之有理，遂请张静江向孙中山写封介绍信。
不几天，江浙财团另一人物虞洽卿也劝蒋介石说：“老本没了，张静江这些大阔人也干不了，你将如何在交易所混？别忘记孙中山在广州很得势，走这条路，比交易所更不要本钱。”
虞洽卿是浙江镇海人。1895年起先后任德商鲁麟洋行、华俄道胜银行、荷兰银行买办。1906年组织成立国商团中华队，协助上海租界当局镇压中国人民。曾先后创办“宁绍”和“三北”轮船公司。1925年，在帝国主义指使下分裂上海人民的反帝统一战线，破坏“五卅”运动。1927年积极支持蒋介石发动“四·一二反革命”政变。在国民党反动统治期间，他一贯支持蒋介石的卖国独裁政策。
于是，蒋介石下决心投机革命，拍拍胸脯，发表临别宣言：“如今广东的局势，真是大有可为！孙中山已经同苏联发生了联系，我们的革命眼看就要成功。兄弟此去，一定马到成功。”
孙中山创立的国民党势力较小，而孙中山本人有时也是个不切实际的梦想家。在中国人的眼里，民主的概念是不可思议的，而已有的一些议会民主经验也已误入歧途。
清王朝垮台了，但还没有取而代之的产物，中国面临一个漫长的动荡不安的局面，不断遭到外来干涉。
中国出现了几个相互敌对的政权。一个是北京政府，另一个是孙中山在广州领导的政府。1917年7月，还有人企图重新恢复清王朝的统治，但仅仅维持了11天。事实上，这些政府都无实权，几乎所有省份都为当地军阀所统治。
1916年至1926年这十年间，中国处于动乱之秋，局势混乱不堪。1917年5月3日北京政府非法解散议会。同年10月，在海军第一舰队的护送下，孙中山偕同两位前任部长和130名前国会议员回到广州。
孙中山宣布成立国民军政府，他被选举为大元帅。他严正地指出北京的“总统”是革命的叛徒。此时的孙中山正如以前一样，不知道又一起背叛正引而待发。他的新政府里的一个高级官员正暗中与北洋政府勾结，并派人暗杀了第一舰队司令，这个叛徒就是桂系军阀陆荣廷，他公然无视和违背孙中山的命令。
1918年5月4日，孙中山这位共和国的创始人在绝望之中被迫辞职。
以后的3年是军事混战政治混战的岁月。蒋介石已任粤军要职，这支部队由陈炯明将军领导，在表面上效忠孙中山。由于粤军全是广东人，再加上蒋介石要求纪律严明，作为外乡人的他并不受官兵欢迎。
最后，蒋宣布辞职，并告诫孙中山，陈炯明不可信赖。但是，孙中山没有考虑蒋介石意见。后来的事实证明，蒋介石的这一判断是有根据的。
1919年上半年，蒋介石以看望母亲为借口离开部队。事实上，这一年的大部分时间，蒋介石却停留在上海和东京。
粤军参谋长邓铿是蒋介石最好的朋友，这年夏天，蒋介石曾两次给他写信，谈论对粤军的看法。蒋介石抱怨说，已经无法对第2支队进行改造了，军饷无端被浪费，他也不能自己选拔军官，而他提的任何建议都未被采纳。总之，情况简直令人感到不可救药，所以，蒋介石认为应解散第2支队。
在7月9日的第2封信中，蒋介石抱怨情况越来越糟，他“身心憔悴”，有些地区土匪活动猖獗，但由于部队纪律涣散，内部派系斗争严重，他们根本无力对付土匪。为避免人们指责他迷恋官职，喜欢投机，蒋介石决定辞去第2支队司令一职。
在蒋介石的生涯中，每当形势不能如他所愿时，他就以辞职的方式来以退为进。他多次辞职，试图以此来证明他是不可缺少的，其结果也往往是他一旦复出，职权就会更大。这次孙中山和陈炯明再三挽留，但蒋介石都予以拒绝。直到1920年9月，由于他的一个朋友朱执信被桂系军阀杀害，蒋介石才重返广东。朱执信的棺木被运往香港，蒋介石前往悼念，并拟定了一份以粤军驱逐桂系军阀的作战计划。
但是此时，蒋介石与陈炯明的矛盾已不可调和。1920年11月，孙中山写了一封情真意切而又严肃的信给蒋介石，劝他留下来并努力与陈炯明搞好关系。
孙中山不顾年龄长幼的传统习惯，称蒋介石为“我亲爱的介石兄”。信中写道：
执信忽然殂折，使我如失左右手。计吾党中知兵事而能肝胆照人者，今已不可多得，惟兄之勇敢诚笃，堪与执信比，而知兵则尤过之。兄性刚而嫉欲过甚，故常龃龉难合，然为党负重大之责任，则勉强牺牲所见而降格以求，所以为党，非为个人也。
起初，蒋介石还能听进孙中山的劝告，但他对陈炯明的不满还是有增无减。陈炯明未采纳蒋介石的意见，结果没有全部消灭桂系军阀。蒋介石愤怒之下，拂袖而去，前往上海。
他打电话给孙中山，解释他离职的原因，但此时孙中山已无心思听蒋的抱怨了。在他看来，陈炯明已实现了他的目的，即将桂系军阀赶出广东，桂系军阀尚有残余留存，但却无妨大局。孙中山决定返回广州，重建军政府。孙中山要求蒋回广州，履行自己的职责。蒋一气之下，回到老家溪口探家去了。
即使蒋长期不在职，孙中山仍十分信任他。1920年11月底，蒋闯广州，发现给他的职位是重建的军政府内政部部长，而这并不合他的胃口。
另一方面陈炯明已开始建立自己的势力，他的职务头衔甚至超过了孙中山：陆军部长、广东都督、粤军总司令、两广最高检察长。
1921年1月12日，在广州召开国会议员大会，进行投票选举。尽管代表不足法定人数，孙中山作为“革命之父”已数次成为正义力量的领袖，这一次，孙中山希望通过法律程序成为当然的领袖。
蒋介石再三劝告孙中山不要搞这个选举，因为这种选举未达到法定人数，缺少法律效力；而且一旦南方联合瓦解，不再效忠政府，这种选举便毫无意义。蒋介石争论说，任何不同意见都应被考虑。
蒋介石最后负气离职，时间近3个月。他不断受到各个方面的压力，要求他回广州，为孙中山效劳。他最后竟失去耐心，将国民党的说客给打发走了。1921年1月5日，蒋就他的行为写信表示道歉：“我脾气暴躁，行为鲁莽，……事后反省，深感惭愧，意识到自己太可笑了。”
孙表示原谅他的行为，但也说：
“我兄——你过于固执己见，实为不可救药。任何小事于你不满，你都火冒三丈。”
蒋介石自己回忆说，在读了来访者带来的信后，他感动得几乎流泪，他决定返回广州。
陈炯明在击败他的对手桂系军阀后，手下已有几个师组成的庞大队伍。这时，他准备在中国南方建立自己的封建割据势力。因此，他对孙中山的继续西伐桂系的命令拖延不理，更不用说蒋介石的任何建议了。
1921年2月在广州，蒋介石已察觉出陈炯明的野心，但孙中山还不相信。
蒋之所以仍然回到广州，一方面是由于孙中山再三催促，另一方面是他一直渴望有机会彻底铲除广西的残余桂军，此时，这位内政部长最愁的是缺乏经费，因此暂时还顾不上向陈炯明挑战。蒋介石认为，征收关税是筹集资金的最佳办法，但问题是在北京的外国使馆和公馆不承认广东军政府，拒绝与之合作，而陈炯明也支持外国使馆的态度。正是这个原因，促使孙中山进行选举，以当选非常大总统。因为这样一来，就使得他和北洋政府的首脑一样，具有平等的法律地位。
1921年5月，蒋介石写信给孙中山，表示完全反对这个选举计划。他认为：广西的军阀还未彻底清除，西南部也还未得到控制，此刻没有时间进行选举。更何况，选举因议员不够法定人数而缺乏法律依据。他写到：“在平息广西的叛乱后，我们可望继续向东北进军，直捣敌人的心脏”。他还充满信心地写道：“统一全中国并非一个非常艰苦的任务”。在信的最后，他再次提醒孙中山不要轻信陈炯明。
孙中山并未重视蒋介石的这封信。蒋介石没有参加广西战役，6月14日他母亲去世，他立即赶了回去，一直呆到11月他母亲安葬完毕。这期间，他除了几次返回广东外，大部分时间都在溪口。孙中山未出席葬礼，但他为蒋太夫人写了一篇感人的悼文，并在葬礼上由人代读。
正如蒋所判断的那样，陈炯明开始背叛革命。1922年3月21日，粤军高级军官蒋介石的朋友邓铿被暗杀。陈炯明涉嫌很深，但没有确凿的证据可以指控他。陈炯明有很大的可能暗杀邓铿，因为邓铿非常忠心于孙中山，陈炯明计划排挤或除掉孙中山周围的高级军官，使其孤立无援；然后他再逼迫孙中山推迟甚至放弃北伐计划。
蒋介石强烈要求孙中山将他的部队秘密开进广州，重建其大元帅的权威，然后清除广西残余桂军，最后出征北伐。
4月，孙中山的部队开到广州。这时，陈炯明拍电报给孙中山，请求辞去他的几个主要职务——这是传统的拉开距离的中国方式。孙中山批准了他的辞呈，但要求他仍留任陆军部长职，陈炯明拒绝孙中山的挽留，将他的部队开回老巢——广州东部的惠州，在那里静观事态的发展，等待时机。
蒋介石强烈要求进攻惠州，然后平定广西，但孙中山又一次拒绝了蒋介石的建议。恼怒之下，蒋介石回到上海。4月22日他写信给陈炯明，呼吁他与孙中山团结合作，参加北伐。陈炯明未予理睬。
陈炯明与北方军阀的暗中勾结公开化了。这些北方军阀都有自己的代表在北京政府内任职。北洋政府致电孙中山，要求他辞职，陈炯明及其手下公开支持这种要求。
6月16日，陈炯明倚仗北洋政府在政治和军事上的支持，公然派他的部队炮击孙中山的官邸，企图谋害孙中山。
这时，蒋介石还在上海，陈炯明曾向他的部下许诺，如果能杀死孙中山，则犒赏20万美金，他还要洗劫广州城三天。
孙中山坚持到最后，只是在他的同志们的劝说下，才离开广州。在广州的大街上，他一度与叛军相遇，但侥幸的是未被认出来。孙中山逃到停泊在黄埔港的“永丰”号军舰上。
尽管孙中山不听蒋介石的劝告，以致于到了今天这样的处境，但蒋介石如果不忠诚于孙中山，他也将一文不值。
蒋介石闻讯立即由沪南下，继续追随孙中山。他们在舰上呆了56天。舰上闷热难熬，又缺乏食物和淡水。一到晚上，蒋介石就上岸寻找食物，天亮则回到舰上睡觉或在甲板上警戒。
他们没有很快乘舰离开，因他们寄希望于蒋的同事许崇智率领讨伐军打败陈炯明。但是他们的希望落空了。8月6日他们得到许战败的坏消息；7日，他们又得知详细情况。两天以后，他们的内线报告有人要阴谋杀害孙中山。终于，这艘英国军舰同意将孙中山及其不多的追随者送往香港，再从那里去上海。
这段处于逆境的日子里，蒋介石一直追随在孙中山左右，忠诚不移，尽管他并不事事服从。孙中山终于认识到，此前曾给予他良好建议并一直坚定不移地支持他的人，不是别人而正是蒋介石。
广州是革命力量同反动力量决斗的中心。广州商团在英帝国主义的支持下，从1924年5月开始酝酿叛乱。英帝国主义分子对商团团长陈廉伯说：“如果你能够运动商团，反对政府，我们英国便帮助你组织商人政府，你陈廉伯就是中国的华盛顿。”
陈廉伯于5月27日主持召开“商团乡团会议”，宣布要在8月14日推翻大元帅府取而代之。
孙中山得知这一消息，立即采取措施。8月9日晚，孙中山命长洲要塞司令蒋介石扣留商团购买的长短枪9800支，子弹300多万发。广州政府下令通缉陈廉伯。
8月12日，商团1000多人列队到大元帅府请愿，要求发还扣留的枪械，并以罢市相威胁。孙中山揭露了陈廉伯运动商团策划叛乱的阴谋，要求商团自行检举陈廉伯的罪行。商团竟不服从，25日，广州商人总罢市。
孙中山、廖仲恺一面派出湘、滇、桂、豫各军1000多人，进驻佛山市区和铁路沿线，预为防范；一面电告各地商会，晓以大义，明以利害，劝其复业，不要附逆作乱。
不料，那些挂着国民党招牌的军阀头目暗中同商团相互勾结，狼狈为奸。滇军总司令杨希闵、桂军总司令刘震寰、湘军总司令谭延闿、粤军总司令许崇清、豫军总司令樊钟秀、福军总司令李福林等，以调停为名，向商团暗通款曲，给孙中山施加压力。尤其是滇军范石生、廖行超等，竟以“不欲驻地糜烂”为借口，要孙中山缓行军事处分，他们私下同商团密议，提出6项条件，要孙中山接受，即：政府交出所扣枪械；商团交纳军费50万元；陈廉伯、陈恭受发表通电拥护孙中山政府。孙中山几次向范石生、廖行超晓以大义，明以利害，要他们站在政府立场上，一致对付商团。
范、廖本性难移，就是不听。孙中山大怒，他召集商团头目和范、廖等人座谈，范、廖二人分座在孙中山左右两侧。孙中山指着范、廖道：“我不怕商团联合左右两只老虎向我反噬。”
范威胁孙道：“市面危机四伏，险象环生，万一变故发生，全局皆坏，所谓小不忍，则乱大谋。在此两三日内，无论若何，必要解决，否则，我撒手不理，将全军调回。”
孙中山闻言，颜色立变，但身受扼制，也无可奈何。范石生还以撤廖仲恺职为条件，要廖仲恺去职。
在右派的压力下，廖仲恺辞去了广东省长职务，由胡汉民继任，广州市长和公安局长也换成了同情商团的人，并交还了所扣枪械，广东的人事发生了变化，商团的反动气焰重趋高涨。
10月10日，广州各界举行庆祝双十节大会。30多个爱国团体和学生、市民三四万人举行游行示威，高喊“打倒帝国主义”、“推翻反动军阀”、“打倒一切反革命派”、“实行国民革命”、“复活辛亥革命精神”等口号。游行队伍在太平路至西豪口之间，与全副武装的商团军相遇，商团团丁先是不准游行队伍通过，继而开枪，当场打死20多人，受伤10多人，被捕10多人。团丁将打死的，刨肝剖肺、割头断脚，把死尸分成无数部分，拿到沿街示众。次日，商团军封锁市区，迫令商店罢市，张贴“打倒孙政府”、“请孙文下野”的反动标语。
广东政府立即成立革命委员会，孙中山为会长，廖仲恺、许崇清、汪精卫、蒋介石、谭平山、陈友仁为委员，作为平定叛乱的最高指挥机关。
孙中山又任命蒋介石为指挥，廖仲恺、谭平山为正副监察，负责平乱。孙中山限令在24小时内，务必解除商团武装。孙中山下令由黄埔军校、铁甲车队、工团军、飞机队、农民自卫军、陆军讲武学校、滇军干部学校、兵工厂、吴铁城的警察部队参加平叛战斗。
10月14日黄昏时分，政府军向商团军发起进攻，商团军在西关一带架设天桥、炮台、构筑街垒，厚建竹木栅，进行顽抗。政府军采用火攻，由消防队救火车载煤油喷射连接各马路的竹栅，引火燃烧。顿时烈焰冲天，西关一带化为火海，街垒路堡，立成灰烬，有1千多家商店也悉数被焚，商团军不堪火攻，迅即溃散，或缴械投诚，或弃甲而逃。
陈廉伯在沙面租界内指挥，眼看大势已去，窜上了英舰，商团副团长李颂韶纳械请降。另一商团头目陈恭受用巨款收买滇军，逃往香港。至此，商团叛乱被平息。
