在这种情况下，一切的一切，都要看蒋介石的最后决心了。
蒋介石15日离开南昌，16日江西省党部捣毁了左派掌握的南昌市党部，并随即封闭和解散了共产党及左派领导下的各种报刊和民众团体。蒋16日到九江，次日九江市党部及总工会等即被捣毁。蒋20日到安徽安庆，23日安徽省市党部及其领导下的民众团体亦遭捣毁。不难看出，在武汉方面坚持于3月10~17日召开二届三中全会，通过了一系列限制蒋介石个人权力的决议会议通过了包括《统一党的领导机关案》、《统一革命势力决议案》及《军事委员会组织大纲》等15个文件，决定实施集体领导，限定总司令只是军委委员之一，包括军官任免、出征、动员等都须经军委会集体决议，再提交中央执行委员会通过后，才能交由总司令执行。蒋介石的军委会主席、军人部长和黄埔军校校长等职务亦被取消。之后，蒋毫不犹豫地纵容其手下贯彻其2月21日南昌会议夺取各地党政权力的既定方针。其方法，很大程度上就是依靠仅有的少数骨干分子，利用地方帮会势力，通过“打”、“砸”、“冲”，或干脆挑起左右派的“械斗”，来区分“敌”“我”，进而组织自己的力量，夺取权力。关于因搞不清谁是自己人，以至于四处发动械斗来分清敌我和利用帮会势力来夺权的情况，可参见陈立夫《成败之鉴——陈立夫回忆录》，台北正中书局，1994，第96～100页。
但是，值得注意的是，蒋介石一路暗中支持下属夺取地方党政权力，甚至自行任命地方党政高官，却从未有过与武汉翻脸的任何公开的言论。因此，其手下也始终要借助于地方帮会势力来协助自己的夺权行动，不能合法地动用军警政等力量。且蒋在公开场合也还要表示中立，对所发生的一切佯装不知。不仅如此，自出发之日起，他一直在就武汉方面的各种批评和指责做出回应和进行辩解，却也都是在尊奉武汉方面为“中央”的口气下出之。包括3月26日到上海之后，其在公开场合服从武汉中央及国民政府的态度亦未稍有改变。很显然，正如何应钦等人所言，蒋介石对公开打出清除共产党的旗号，以至于与武汉公开分裂，另立中央，尚在犹豫动摇之中。说蒋这时已决心“清党”，恐非准确的说明。前人习惯据当事人之一白崇禧的口述为证。《白崇禧访问录》（上）有云：蒋总司令自九江乘舰抵达上海召见我，面示清党之决心。给人印象，蒋到上海时已决心清党。然此说并无相关文献可予证实。鉴于上文下接“并召集薛岳之第一师，及刘峙之第二师各级干部训话”之语，查蒋之训话为4月4日，已去蒋到上海之日一周以上，可知白此说时间跨度甚大，不可简单做蒋到上海之3月26日或3月底理解
。《白崇禧访问录》（上），台北“中央研究院”近代史研究所，1989，第37～38页。
蒋介石的决心如何下定？据邵元冲日记，3月21日他正准备离开杭州之际，恰好张静江从南昌来杭，当晚约邵与这时也到杭州的蔡元培等谈话。张因了解蒋认可南昌会议并纵容部下在各地夺权的情形，故声称：“介石对于与共产党分离事已具决心，南京定后，即当来宁共商应付。”受此鼓舞，邵等于次日上午遂进一步与张静江商量“此后应付事宜”。当日得知上海已经克复，张静江、蔡元培、邵元冲、蒋梦麟、马叙伦等当即同车赶往上海。
25日上午，张静江一行抵沪后，即约集吴稚晖、李石曾同至前敌总指挥部晤白崇禧、潘宜之等驻沪高级将领，“共商应付党务事宜”。吴稚晖明确认为“非分裂不可”，李石曾态度“亦激昂”。因得知蒋26日晚到上海，27日众人便一并迁入蒋介石总部行营内，与蒋“开会讨论与共产党分裂之办法”。讨论中，吴稚晖力主以中央监察委员会名义提出弹劾共产党员及跨党分子谋危本党、动摇后方及卖国之行为案，“然后再由监察委员会召集中央执行委员之非附逆者开会商量以后办法，而开除及监视一切附逆及跨党之首要等，听候代表大会裁判云云。”
《邵元冲日记》，第313～314页。 公开打出清除共产党的旗号来否定武汉中央的权威，因为涉及到与苏联，特别是与这时在军事行动中起着重要作用的苏联军事顾问的关系问题，故蒋介石一时还有所犹豫。由邵元冲日记可知，27日的会商并未决定出任何具体办法，故28日不得不“继续讨论”。到28日，又因东路军总指挥何应钦、江右军总指挥程潜等均未到，且还必须要等江左军总指挥李宗仁、政治部主任黄绍竑和总参谋长李济深到后，才能决定实施分裂的可能程度，会议仍未形成最后意见，“拟待彼等到后，再行决定”
《邵元冲日记》，第314页。故说本日晚监察委员数人曾单独召开清党之预备会议，令人置疑。台北中国国民党党史馆藏有该次会议之会议录（罗家伦主编《革命文献》第17辑第128～129页），但其一，据会议录记：当晚“到会蔡元培、吴敬恒、张人杰、古应芬、李煜瀛”共5名监委，对照邵元冲日记，可知此记录不实。因古应芬当日似未到会，邵元冲当晚日记有“介石谓湘芹处已去电促其即来”，次晚日记有“程颂云、古应芬、何敬之等皆来共商”。其二，据雷德华（朱华）早有之考证：1927年4月29日《民国日报》有报道称：“江苏特别委员吴稚辉（晖），昨日（二十八日）因事乘车（上午十时零七分—引者注）赴杭，闻不日即行返沪。”可知当晚吴亦不可能返回上海参加会议。（见雷德华《国民党中监委会全体紧急会议记录是赝品》，《档案与历史》1986年第4期）其三，该日之会议录存有两种不同版本，一为罗家伦公布的“中央监察委员会第□次常务委员会会议纪录”；一为“中国国民党第二届中央监察委员会第三次全体会议第一号会议”（档案号2～6.1/6）。不仅名称各异，而且内容文字也各异。可见，此一会议录恐系事后补造之物。因邵元冲日记有多处填错日期之处，可知邵之日记有事后补记的情况。但比较吴稚晖28日上午已赴杭，事后却在当日日记中记为：“入住道署，开监察会”，以及其会议录之作伪，笔者宁可信邵所记更为真实一些。（原藏台北党史馆的《吴稚晖日记》的相关片断，为杨天石教授所提供。）
29日，何应钦、程潜和古应芬等到会，但程潜的态度显然十分摇摆，会议还是没有得出结论。次日因李宗仁等仍未到而休会。4月1日李济深等到会，对分裂主张表示赞同。“惟同时得朱益之（培德）致介石函，劝介石一切慎重以退为进等语，介石又为踌躇。”邵元冲记曰：“连日工人纠察队等以武力猛扑租界等消息日剧，而当局者总迟日无所表示，疑事无成”，倍感焦急。
《邵元冲日记》，第314～315页。可知连日讨论中，蒋始终不置可否，没有明确地表示过意见。
如此反反复复，延至4月2日，又意外得知汪精卫经由苏联远东已回到上海。因国民党内无论武汉派及非武汉派，一向公开都表示拥护汪精卫在党内的魁首地位，故汪回对两方面影响均甚为重大。考虑到汪的态度可能影响双方党众，蒋介石自然倾向于做争取汪的工作。结果，邵元冲当日记称：“此间日内正拟以断然手段处置者，乃不得不暂行延搁。”
《邵元冲日记》，第315页。
众人4月2日花了将近一天时间与汪精卫座谈，纷纷告以武汉近来之作为，特别以共产党控制上海工人武装纠察队，随时可能学武汉以武力收回英租界，引起列强干涉为虑。但十分明显，由于并未形成确定的意见，故无论是蒋，还是吴稚晖等，当日都未将正在讨论中的“清党”意向告知汪精卫。故汪对众人所言并不以为意，他只是主张约请武汉诸人来宁，以会议方式解决问题。在这种情况下，说本日监察委员们正式开会并通过了弹劾共产党人案，正式议决清党，亦大可怀疑。
一般史书所据“中央监察委员会第□次会议纪录”，亦存在与“中央监察委员会第□次常务委员会会议纪录”相似的问题。因此一时期监察委员会议录均为议事录，向无速记录，却惟独此一记录有吴稚晖个人发言的完整速记，显不合逻辑。且党史馆所藏“原档”（档案号2～6.1/6）与罗家伦主编《革命文献》第17辑第129～134页收录之“原件”，还是两个不同的版本。除开始程序及吴稚晖主发言内容大体一致外，其他内容之文字，包括会议的后半议程，都不相同，几乎看不出是同一次会议。此亦足以见其为补造之物。关于4月2日可能并未召开过正式监察委员会会议并通过了清党决议的理由，还可参见当事人之一黄绍竑的说法（《四一二政变前的秘密反共会议》，《四一二反革命政变资料选编》，第443～450页），以及雷德华（朱华）的相关考证（雷德华：《国民党中监委会全体紧急会议记录是赝品》，《档案与历史》；朱华《再谈四一二政变前国民党中临会会议记录的真伪》，《档案与史学》1991年第4期）。