國民黨的二大三中全會在蔣介石拒不出席的情況下，沒能真正解決問題，強調“恢復黨權”，欲以黨來控制槍桿子也徒託空言。不過至少暫時掩遮了波濤洶湧的政潮，以及蔣總司令悍然抗命的威脅，軍事行動得以繼續進行，然而隨著軍事的發展，蔣介石權勢的上升，政潮與威脅反而與日俱增。
國民革命軍繼續軍事行動，兵分三路，西路唐生智任總指揮，與國民軍總司令馮玉祥夾擊河南，中路由蔣介石擔任總指揮，李宗仁率江左軍，程潛率江右軍，沿長江而下，進掠南京、安慶等地。東路白崇禧於二月十日即已佔領杭州，等待何應欽自福建北上的縱隊，會師後向淞滬挺進，於三月二十日入據上海附近的龍華。稍後於三月二十三日，程潛江右軍佔領南京，由於革命軍之反帝，英美帝國主義於翌日炮轟南京城以示威，死傷約千餘人。李宗仁江左軍於三月中已達安慶，守軍陳調元“附義”，不血刃而定安徽，北洋長江艦隊亦於三月二十三日“起義”，北洋軍隊遂退守徐州一線，至此長江中下游盡入國民革命軍之手。奪取長江下游如此神速，鮮遭抵抗，固然由於革命風潮澎湃、民心歸向，令敵無鬥志。然而同時還有別的奧秘。據於此時訪問南昌的俄國漢學家卡沙寧(MarcKasanin)探知，蔣介石在南昌發動攻勢之前，已用威迫利誘手法，逐步贏得京、滬歸順，因其十分渴望與長江下游的資產階級結合，然後與革命分道揚鑣。(見氏著ChinaintheTwenties，P.196)
蔣介石此時已與軍閥、資本家、帝國主義勾結妥協，但絕不肯與國民黨左派與共產黨合作，他已決心抗爭到底。他於三月十六日臨行之前下令解散南昌市國民黨黨部，直接向“恢復黨權”的訴願挑戰，同時又解散南昌學聯以及查封《貫徹日報》。十七日抵達九江，槍斃市黨部與工會負責同志四人，又於二十三日搗毀設在安慶的省黨部與總工會。
蔣介石以槍桿子對付黨的行徑，武漢中央頗為震驚。孫中山的兒子孫科就在中國國民黨中央委員會政治委員會第八次會議上憤然說：“(蔣)現在愈鬧愈不像話，好像是他總司令的世界，為所欲為，把黨的威權弄得掃地，我們如果再不下決心，何必還革什麼命!”但是武漢中央政府猶如遙控脫韁之馬，難以著力。而蔣介石又玩弄兩面手法，骨子裡一意孤行，表面上服從中央，如三月三十日還發電請示軍事外交方針，以至於連鮑羅廷尚欲“愛惜蔣同志”，幫助他不受反革命包圍。(見《中國國民黨中央執行委員會第二屆常務委員會第五次擴大會議速紀錄》)當然武漢中央也想到過解除蔣介石的兵柄，不僅僅是鮑羅廷與中共黨人，國民黨中重要人物如譚延、徐謙、顧孟餘、鄧演達、張發奎等人曾經一再勸說戰功甚高的李宗仁，取而代之。(見《李宗仁回憶錄》，頁二八九)但李宗仁以洪楊同室操戈為鑑，不肯答應。三月下旬武漢中央還草擬了一個伺機逮捕蔣介石的密令，由國府代主席譚延闓親筆寫在綢子上，交給在南京的程潛執行，但程潛雖然擁護武漢三中全會決議，但不願因執行密令而導致國民黨的分裂，卻沒有想到程潛離寧以後，他委託衛戍南京的楊傑與賀耀組竟倒向蔣介石，蔣遂下令調程之二、六兩軍北上，使整個南京城完全在蔣控制之下，卒令滬杭甬盡成蔣氏天下。(參閱楊天石《尋求歷史的謎底》，頁五二六至五二七；另參閱WuT’ien-wei，ChangKai-shek’sApril12thCoupof1927P．154)
蔣介石於三月二十六日自安慶抵達上海，瞭解到中共與工會的實力，頗感驚異與不安。緣自三月二十一日，東路軍前敵總指揮白崇禧兵臨上海城郊，因怕帝國主義軍事幹涉，不敢遽攻，然而市內總工會組織第三次大罷工，發動五十萬人，終於克復上海。周恩來與顧成章指揮下的武裝工人糾察隊，約有二千七百餘名。蔣抵滬後，立即受到右派分子以及買辦、幫會、帝國主義者的包圍與支持，實力亦屬不小，何況還有包括桂系在內的武力後盾。三月二十八日吳稚暉就提出“請查辦共產黨”呈文，擬斷然結束孫中山的容共政策。
吳稚暉是個進了大觀園的劉姥姥，“一貫以插科打諢的丑角姿態出現”，以博取主子的歡心。自中山艦事件以後，一直為蔣開鑼喝道、保鏢幫腔，此時在滬倡議清黨既是奉命辦事，也是善體君意。蔣介石蓄意清黨已久，到上海後更感“吾道不孤”。但是清黨分共牽涉到國民黨根本政策的改變，不僅茲事體大，而且影響到整個革命的前途，更不必說因分裂可能造成的嚴重後果了。
就在此緊要關頭，國府主席汪精衛返抵國門。汪氏不是悄然返國，而是在國民黨同志們千呼萬喚始歸來，尤其是由於國民黨內部危機四伏，切望汪能復職扭轉乾坤。即使是蔣介石，雖然在心中或私下不願汪回(見陳公博《苦笑錄》)，但在表面上仍然是函電懇請，甚至要派張靜江、李石曾到法國去迎駕，說是“非兄速回，不能補救；望兄之切，無由表示，請以兄念弟愛弟者，而測弟孺慕之情為何如”，甚至假仁假義地說：“如兄不來，則弟唯有辭去一切職務，以謝國人。”(引自蔡穗金《汪精衛評傳》，頁一一五)汪精衛終於繞道俄國，自海參崴回到了上海，那天正好是一九二七年四月一日愚人節。汪氏回國後的遭遇，確有不少“愚人”的意味。
蔣介石親往碼頭迎汪，移樽就教，闢室密談。蔣之意旨十分明確，即要汪跟他一起清黨反共趕走鮑羅廷，採取斷然措施。這當然也是蔣支持汪“主持一切”的條件。但是汪精衛是國府主席，雖稱病出國，主席一職仍由人代行，而三中全會繼續被選為黨的最高領導人，總不能跟在一個總司令後面擅自做重大的政策改變，否則何異吳稚暉之投靠，更置武漢黨中央同志於何地？即使要改變政策，亦應從長計議，召開黨的四中全會來決定，誠如汪氏致函李石曾時所說，聯俄容共政策，“絕非不可更改，然更改必須依據黨的紀律，非可以個人自由行動，亦非武力可以迫成。”(《汪精衛全集》，頁一八四)汪之不能應蔣之求，留滬“清黨”，是必然的。
蔣介石及其“清黨”的附和者顯然在汪面前，力數共產黨的“陰謀”，要打倒國民黨、打倒三民主義，以及製造恐怖、引發外交衝突等等。這種指控如果屬實，當然有違當初國共合作的原則、破壞了合作的基礎，於是汪在上海兩次往訪中共總書記陳獨秀，欲探明真相。陳力言絕無此事，親筆作書，並表之於《汪陳聯合聲明》之中，以昭公信。陰謀既系謠言，則蔣介石用武力“清黨”的主張便無著落，汪自無不維護聯共政策之理，故汪陳於聯合聲明中說：
兩黨合作，本有各種不同的方式、重要之點，是在兩黨大多數黨員，雙方以善意的態度，解決此問題，方不違背合作之根本精神。中國國民黨多數同志，凡是瞭解中國共產黨的革命理論及對於國民黨真實態度的人，都不會懷疑孫總理的聯共政策。(載《時事新報》一九二七年四月五日)
如果胸懷善意，面對此公開的宣言，自應儘量祛除誤解，再謀合作，以完成尚未成功的革命。孰料聯合聲明公佈之後，吳稚暉立即無理取鬧，破口大罵，甚至譏嘲陳是中共的總書記，而汪之國府主席恐怕有名無實，暴露出吳氏有恃無恐，甘願充當蔣介石的打手。足見蔣等“清黨”，純粹為了反共而“清黨”、為了鞏固一己的權力而“清黨”，其他種種看似光明正大的理由，不過是藉口而已。事已至此，汪精衛留滬若不順從蔣之意志，勢必糾纏不清，理性解決問題唯有回武漢中央處理。汪於行前致書蔣之親信張靜江，明言赴漢之必要，若謂：
黨事至此，以銘之愚，唯有提議開四次會議於南京，以解決糾紛，舍此實無出路。欲達此目的，不得不往武漢一行。(汪精衛一九二七年四月五日致張靜江書)
翌晨，汪即乘船溯江而上，於十日舟抵漢口，復職後成為國民黨中央與國府的最高領導人，並立即與譚延闓、孫科等協商到南京去開四中全會，以求解決問題，又於十三日，抵漢口的第三天，馳電蔣介石告知，“中央已經決定遷都南京，不日即可來寧開會”，要蔣耐心等待。哪裡知道蔣已於四月十二日在上海發動血腥鎮壓，史稱四一二事件。蔣顯因汪離滬赴漢而老羞成怒，悍然單幹，以示決裂，他雖身為中常委，既沒把汪精衛放在眼裡，也沒有把國民黨中央與國民政府放在眼裡，更無參與四中全會和平解決糾紛的誠意。
四月十一日晚，蔣介石命投誠的軍閥周風岐派兵嚴守閘北，當晚杜月笙將總工會會長汪壽華騙到家裡，爾後殺之。翌日清晨五時二十分，黑社會控制的中華共進會開始向在商務印書館的工人糾察隊攻擊，直到上午十時，三百五十名糾察隊被繳械。在浦東的糾察隊抵抗最烈，死傷也多。同日下午群眾集會市體育場抗議攻擊工人，南市聚集了五十萬人，海員工會宣佈罷工。但是上海的商會卻通電慶賀鎮壓，並歌頌杜月笙、黃金榮、張嘯林三大流氓頭子，摧毀了總工會與糾察隊，更希望其他各地效法上海，殺盡共產黨。(見《第一次國內革命戰爭》，頁五二八)在租界內的外國勢力也頗合作，搜捕共產黨員和工人千餘人，交給蔣介石。然而上海工人仍不知蔣是幕後的黑手，當日還致電南京蔣總司令，電文曰：
蔣總司令勳鑑：本月十二日晨四時，本埠閘北、南市、浦東、吳淞各處工人糾察隊的槍械，同時被白總指揮命令二十六軍派遣大隊悉數追繳，各處均死傷多人。查上海總工會領導全上海工人，數年來與帝國主義者暨軍閥不絕的奮鬥，最近又不惜重大犧牲，數次武裝暴動，響應北伐軍，消滅直、魯軍，其功績灼然可見。其有今日之地位，實以無量數之熱血、頭顱換來。是以鈞座獎賜旌旗，題曰“共同奮鬥”。上海收復以來，協同軍警維持秩序，毫無軌外行動。彼帝國主義者及反動派，雖百計挑撥，造謠中傷，卒無間隙可乘入。萬不料同隸青天白日旗下者，乃有橫肆摧殘之舉，先總理出生入死，從事革命者，全在解放被壓迫民族，而臨終遺囑，無念念不忘於喚起民眾。鈞座為總理忠實之信徒，對此有組織、有紀律、富有犧牲革命精神、有著偉大功績之工人群眾，方保護獎勵之不暇，絕無橫施摧殘之意，伏祈迅賜嚴命，徹底查究，將所繳槍械悉數發還，並予確實保障，此後不再發生此類事端，庶不致愧對先總理在天之靈，並有自解於普天下之民眾，且免革命軍民之聯合戰線破裂，而為帝國主義所求。黨國前途，實利賴之。臨電不勝迫切待命之至。(引自司馬璐《中共黨史及文獻選粹》第五部，頁二十八)
蔣遲至四月底五月初，仍公開地說：“糾察隊本應武裝，斷無繳械之理”，甚至曾於四月六日贈“共同奮鬥”錦旗一面給總工會。(見上海《申報》一九二七年三月二十九日、四月六日)我們只有說，工人群眾太不夠警覺，竟不知蔣介石早已於四月十一日在南京密令“已克復的各省，一致實行清黨”，並鎮壓群眾運動。要他來“徹底查究”，何異與虎謀皮？不盡此也，四月十三日，工人群眾更天真地去周風岐的司令部請願，但請願隊伍到寶山路時，即遭機槍掃射，時降大雨，血與雨水齊流。同時南市遊行工人也遭射擊。此日約六十六人被殺，三百一十六人受傷。閘北名流七人當天馳書蔡元培、吳稚暉、李石曾，譴責屠殺市民。(見《第一次國內革命戰爭》，頁五二一至五二二)蔡、吳、李早已附從“清黨”，只有心裡竊笑而已（中國國民黨中央監察委員於三月三日在滬舉行“清黨”前會議，到會者有蔡元培、吳稚暉、張人傑、古應芬、李石曾，蔡為主席，見《中華民國重要史料初編》——對日抗戰時期》續編[二]，頁三十七至三十八)，直至四月十五日，死了三百餘人，被捕五百餘人，逃亡與失蹤者五千餘人。總工會在淫威下屈服，取消罷工，唯有向武漢中央報告蔣介石罪行。蔣於四一二發動之後，兩個月內，聲言對共產黨須用“決絕手段”，大舉捕殺，上海尤成為恐怖世界，主其事者楊虎、陳群被稱為“狼虎成群”。屠殺又從上海擴及蔣介石控制下的其他城市。至一九二七年九月二十七日，國民黨中央特別委員會第四次會議於南京召開時，仍然要求各地黨部繼續“（一)厲行清黨(二)重新登記”。(見記錄原件，頁六)陳獨秀的兒子延年固然被捕殺，李宗仁表弟李珍鳳也被捕殺。據當時《中國週報》(ChinaWeeklyReview)記者斯諾(EdgarSnow)估計，被殺害的“左”傾分子在五千人以上。(見Powell，MyTwentyfiveYearsinChinap.157)後來中共說，蔣介石雙手沾滿了革命人民的血，這應該是最大的一筆血債。然而歷史學者黃仁宇卻說：“用道德名義解釋不足以答覆這樣的一個歷史問題。”(《從大歷史的角度讀蔣介石日記》頁八十一)
但此舉使武漢國民黨黨中央大為震驚，四月十三日下午政治委員會開會後，即致電蔣介石責問：
現本黨駐滬軍隊，竟有用武力令上海糾察隊繳械之舉，顯系違背命令，甘為反革命，在黨紀上萬難寬恕，望即將此次膽敢違犯黨紀之部隊官長，即刻停職拘捕，聽候國民政府查明事實，依法懲辦，總司令及總指揮未能事前防範，亦應依法嚴重處分，並應飭令將已繳槍械，退回糾察隊。(《漢口民國日報》一九二七年四月十四日)
十五日國民黨中常會又開第七次擴大會議，討論懲蔣問題，最後一致決議：“蔣中正屠殺民眾，摧殘黨部，甘心反動，罪惡昭彰，已經中央執行委員會決議，開除黨籍，免去本兼各職，著全國將士及各革命團體拿解中央，按反革命罪條例懲治。”(《革命生活》第五十八期，一九二七年四月十九日出版)但是蔣介石羽毛已豐，乾脆一不做二不休，於四月十八日在南京另立中央，製造一黨兩府，導致寧漢分裂。二十一日汪精衛、譚延、孫科、宋子文等四十人聯名發表通電，譴責蔣介石由反抗中央進而自立中央之行為，並號召民眾與同志“去此總理之叛徒、中央之敗類、民眾之蟊賊”。(見《漢口民國日報》一九二七年四月二十二日)
通電雖嚴正，然口誅筆伐於實無補。武漢方面雖有軍隊，但北方軍閥未除，多數傾向北伐討奉。徐謙甚至說：“反革命蔣介石，用不著出兵聲討，就是用黨制裁，開除黨籍，免去軍職，在東南的革命力量，不久會把反叛的蔣介石，拿送中央懲辦的。”(轉引自楊天石《尋求歷史的謎底》，頁五三五至五三六)未免過於天真，結果反被“叛徒”“制裁”了。不過，由於武漢中央急於先擊潰北方之敵，東征討蔣一役得免。蔣介石闖了決裂的窮禍之後，卻倖免一場國民黨自家兵戎相殘的悲劇。
武漢中央痛責蔣介石為反革命叛徒，是合乎事實的。“反革命”好像是一項空洞的政治罪行，但當時所謂“革命”，有其具體內容的。那個革命的淵源是一九二四年孫中山改組國民黨，精神是聯俄容共，方策是發動工農等群眾運動，目標是打倒軍閥、打倒帝國主義、統一中國。然而蔣介石到上海後立即清黨反共驅俄，明顯反“革命之精神”：鎮壓工人，明顯反“革命之方策”。據英國的紀錄，蔣在上海清除共黨與工人，其大膽遠遠超過北方的軍閥(引自Lsaacs，TheTragedyoftheChineseRevolution，P.181)，所以一九二七年四月汪蔣上海密談，汪即以不可犧牲革命的精神、方策、紀律相勸，但蔣置若罔聞，一意孤行。後來的國民黨史官輒以共黨暴亂，蔣介石討赤有功為說(如李雲漢之《從容共到清黨》)，殊不知北洋軍閥如孫傳芳等自稱討赤軍，而蔣正是北伐赤軍的總司令。赤軍總司令成為討赤元勳，豈不是革命的最大諷刺？還不足以被稱為“反革命”嗎？至於勾結軍閥與帝國主義，更是反“革命之目標”而行。蔣介石在上海與資本家、買辦、地主等結合，固與革命不搭調。暗通杜月笙、黃金榮、張嘯林等幫會頭目，引為內助，則與革命更加風馬牛不相及了。蔣介石平生以革命自詡，實際上卻為喊著革命反革命提供了最佳的例證。
上海幫會流氓分子原與共產黨也有關係，所以汪壽華才會上當。但蔣介石與他們的關係更加深厚，與黃金榮且有師徒之誼。蔣又用六十萬元收買流氓，到各地去打總工會。(參閱一九二七年四月一日《上海區委各部委書記組織會議》)蔣甚至許諾張嘯林、杜月笙為江蘇水上警察廳正副廳長。(見一九二七年四月《上海公共租界工部局警務日報》)上海流氓勢力既然反共清黨有功，自然成為蔣介石的黨國新貴、地方政要，後來杜月笙成為南京陸海空軍總司令部少將參議，也就不稀奇了。(參閱蘇智良《上海流氓勢力與四一二政變》，《近代史研究》一九八八年第二期，頁二一二至二二五)李宗仁在回憶錄中也提到了上海流氓，由於國民黨的提攜而登上大雅之堂，頗不以為然。