國民黨的中央監(jiān)察委員會在上海再度開會，成立一個委員會，執(zhí)行清黨任務(wù)。清黨始于1927年4月12日。蔣介石軍隊進攻上?？偣酥泄卜矫婧翢o準備之際使出殺手锏，用機槍掃射在工會機關(guān)和街頭反抗的工人，把共產(chǎn)黨工人糾察隊解除武裝，沒收3000支步槍。次日，上海全市20萬工人罷工，上海市總工會又在閘北青云路召開群眾大會，會后，工人高呼“還我武裝”、“打倒新軍閥”口號，冒雨游行。游行隊伍走到寶山路三德里附近時，遭遇反動軍隊的機槍掃射，上百名工人、市民當場斃命，傷者無數(shù)，尸橫滿街，血流成渠。

蔣介石心一狠，掉轉(zhuǎn)槍口，白色恐怖籠罩了整個上海。以往意氣風發(fā)的工人糾察隊、地下黨，轉(zhuǎn)眼間失蹤或被屠殺，許多共產(chǎn)黨人和革命者成了“國軍”的刀下冤魂。據(jù)統(tǒng)計，幾天之內(nèi)，共產(chǎn)黨員和革命群眾被殺者達三百多人，被捕者五百多人，逃亡失蹤者五千多人。

國民黨稱這次血腥屠殺為“清黨”，中共則稱為“四一二”反革命政變或“四一二大屠殺”。第三國際原寄厚望于唐生智、馮玉祥和蔣介石較量一下。不料這最后的希望亦告落空，唐、馮倒戈與蔣聯(lián)手，武漢政府隨即解體。5月17日，蔣介石召集國民黨中央政治委員會議，決定18日在南京成立國民政府，與武漢的國民政府分庭抗禮。

第二天，南京政府發(fā)布第一號令，“通緝共黨首要”，包括共產(chǎn)黨領(lǐng)導(dǎo)人、工農(nóng)運動領(lǐng)袖和國民黨左派人士及其他著名活動家共197人。蔣介石曾稱為“亞父”的莫斯科的欽差大臣鮑羅廷等一百四十余名蘇聯(lián)顧問也被弄得一臉晦氣，被列為“不受歡迎的人物”，于7月被驅(qū)逐歸國。

對于突然出現(xiàn)的這次反革命政變的事前種種征兆，莫斯科卻渾然不知，麻木不仁。即使有的領(lǐng)導(dǎo)人有所警覺，斯大林也把他們當作反對派置之不理。

中國接連傳來壞消息，共產(chǎn)黨人士在前線迭遭迫害，國民黨持續(xù)右傾，托洛茨基和拉狄克對此首先起了警覺。托洛茨基首次公開主張，中共要和蔣介石及右派國民黨完全決裂。然而，他依然認定，中共不能放棄左派國民黨人主導(dǎo)的武漢國民政府，以及仍在武漢政府掌控下的國民革命軍部隊的支持。拉狄克立刻遵循托洛茨基旨意，要求中共和左派國民黨人攜手，從蔣介石及右派手中奪回控制權(quán)。到了3月底，拉狄克已大膽預(yù)測，蔣介石會對付共產(chǎn)黨人，背叛革命。

1927年4月5日，即上海反共政變前一周，斯大林覺得有點被動，針對托洛茨基及其他批評者的抨擊，覺得有必要做出回答，便對莫斯科的黨部工作人員發(fā)表了談話。他在這項沒有公布的談話中提起中國問題時說，國民黨就“好像革命議會”，有左派、右派，也有共產(chǎn)黨人。他反問：“當右派對我們有效用時，為什么要趕走他們？當他們沒有用處時，我們就會擺脫他們?！薄艾F(xiàn)在沒有必要試圖去驅(qū)除國民黨右派。蔣介石是服從紀律的，共產(chǎn)黨人需要國民黨右派，在國民黨右派中有能干的軍事領(lǐng)袖?！苯酉聛?，他才講出現(xiàn)在他對蔣介石的對策——“像檸檬一樣擠干、丟掉”。

被蒙在鼓里的“中大”學(xué)生還在籌備隆重慶祝“五一”節(jié)，校園內(nèi)到處懸掛著蔣介石、馮玉祥的巨幅畫像。一幅更巨大的蔣介石油畫肖像正在加班繪制中，準備到紅場游行時，和馬恩列斯畫像同時亮相，表示對蔣介石的尊崇。