调停，宁、粤双方决定在上海举行和谈会议。10月18日，汪精卫夫妇乘麦狄生总统号由香港去上海，行前，再次对陈公博、顾孟余表示，胡汉民身边净是政客，与我们格格不入，而与蒋介石合作的可能性是存在的。20日，以汪精卫为首的粤方代表团一百余人到达上海，和胡汉民会合。汪精卫到上海后，常对人表示他们改组派人多，都想一官半职。汪愿当行政院长兼一个部长，用意是露骨地想当行政院长。陈公博也几次对大家说，最好叫汪做行政院长，好维持大家反蒋的团结。顾孟余是阴谋家，叫汪不宜在反蒋的局面下上台，不如稍候时机，在蒋、汪合作的形势下上台。胡汉民对汪精卫无诚意，不愿汪抓权。胡和汪从1926年离开广东以后，一直是遥遥对垒，到这时才因为似乎一致反蒋，才有可能见面。当时国民党中也颇有人以为这回
胡、汪两个“领袖”能合作了，国民党可以改变了过去内部派系斗争的局势。
当胡汉民、汪精卫第一次在上海伍朝枢住宅见面的时候，汪作出一付谦虚诚恳的样子，对胡说：“中山先生在日时，我就是小兄弟，现在经过多少离合悲欢，回想起中山先生，真是痛心！我情愿听老大哥的教训。”于是胡也就公然用老大哥的口吻说了几句批评的话。然后胡汉民、汪精卫、孙科三个人同照了一张像，表示从此要团结起来了。可是他们一方面和蒋方代表在和平会议中明争，一方面又展开内部同床异梦的暗斗。胡汉民当时对于再返南京，最无指望，因之反蒋情绪最高。他生怕汪与蒋妥协，自己又不是和议代表，只有在后台出主意，极力鼓舞和推重孙科。
22日，蒋介石乘飞机抵沪，立即同宋子文会商，然后才约于右任、蔡元培、张继和陈铭枢晤谈。是日下午一时，蒋到孙科寓所与汪精卫、胡汉民等人会见，彼此握手后，互道契阔，蒋介石、汪精卫、胡汉民三巨头会谈，谈笑风生，握手言欢，真似亲密无间，旋即正式举行会谈。出席者为：蒋介石、汪精卫、胡汉民、于右任、蔡元培、张继、陈铭枢、李文范、邹鲁、伍朝枢、张静江、李石曾、陈友仁、邵元冲、孙科、林森等十六人。众人入座后，由胡汉民请汪精卫先发言，汪起立说：“同志们年来隔离，致行动冲突，但系为公，非为私。此次代表粤方同志解决一切，共赴国难。”同时并提出粤方三项主张：“（一）国府组织宜如德、法总统制，由行政院负政治责任；（二）废除总司令职；（三）由一、二、三届中委任党事。”同时对蒋所拟关于他个人进退的电稿，表示赞同。蒋介石继起发言，先赞成汪发言，并说：“本人亦如是，公而忘私。”又说：“诸同志皆党中前辈，本人为后进，向来服从前辈。此次诸同志议定办法，凡胡、汪先生同意的事，我无不同意照行；若我不行，尽可严责。”言毕，李石曾发言，先述及国难和团结的必要，主张大家马上入京，已无须在沪会议。蔡元培、张继等即表同意。孙科立即起来反对说：“我们此来系代表粤府，须照预定程序，议有端倪始可入京，否则须电粤府请示。”汪随即说：“入京本无不可，不过现下若入京，则协议签诺之事，各方将误会吾人为自由意志，反为不佳。”蒋对汪言，表示谅解，赞成即在沪会议，并说：“胡先生可代表本人。”又叮咛地说：“胡、汪先生同意的事，无不照办。”就这样，蒋、汪、胡几年来的恩恩怨怨似乎告一段落。
经过蔡元培、陈铭枢、张继等人对宁、粤间的调停，10月27日，宁、粤双方在上海伍朝枢宅举行和平会议，粤方代表为汪精卫、孙科、邹鲁等，宁方代表为李石曾、蔡元培、陈铭枢、张继、张静江、吴铁城。会议争斗的焦点是：粤方坚持蒋介石下野为和平条件，而宁方力主“中枢不宜更动，维持党统”。11月7日，会议宣告结束，这是一次双方政治分赃的会议。会议经过激烈斗争，最后达成协议：双方“各于所在地”召开国民党四全大会，分别选出同等数量的中央执、监委员作为合作的基础，由双方选出的中执委召开一中全会，修改国民政府组织法，实行中央政治体制改革，并改组南京国民政府，随后宣布取消广州国民政府。对此，鲁迅于10月29日写了一篇《沉滓的泛起》的杂文，揭露国民党反动派的表演，“恰如用棍子搅了一下停滞多年的池塘，各种古的沉滓、新的沉滓，就都翻着筋斗漂上来，在水面上转一个身，来趁势显示自己的存在了。”什么蒋派、汪派、胡派、西山派，都不过是被国难搅起的古的、新的沉滓而已。这时，蒋介石派宋子文去上海，给汪精卫送去二百万元。汪表示“不需要”，陈璧君立即说：“如果他不接受，我可以接受。”就这样，汪精卫、陈璧君决定卖身投靠蒋介石了。
按照双方的协议，11月12日至23日，蒋介石主持召开了南京“四大”，蒋在开幕式上做了《党内团结是我们惟一的出路》的讲话，标榜大会的使命是“团结内部”、“抵御外侮”。通过了恢复汪精卫、陈公博、李宗仁、冯玉祥、阎锡山、李济深等481人党籍案。11月18日和12月3日，反蒋各派分别在广州和上海召开四大。广州四大在胡汉民主持下举行，会议提出“精诚团结，共赴国难”的口号，并坚持蒋下野和改组南京政府的要求。12月7日，广州中央党部正式宣布成立。因内部争论，造成会议分裂，汪派代表二百多人退会后回到上海。在准备袍笏登场之先，这班“代表”在上海大世界游艺场举行了一次内部分赃会议，在会议上选出了唐生智、王懋功、曾仲鸣、唐有壬、谷正纲、黄少谷、萧忠贞、邓飞黄、范予遂、陈孚木10人作为汪、蒋妥协条件中给予改组派的十名“中央委员”人选。因为大世界这个地方是演滑稽戏和妓女集中的地方，所以当时鄙视他们的都称之为“大世界中委”、“野鸡中委”。会议还决定了参加政府和党部分赃所得的部长人选。这群人为了争“中委”，争“部长”、“次长”，在会中结成了许多小集团，勾心斗角，各不相让，争持不下，结果打得一塌糊涂。同时因为有一部分“代表”由粤来沪时误了船期，在选了“中委”的第二天才赶到，这一部分人因为“中委”向隅，于是自以为于改组派有功，势在必得“中委”头衔的人又声称“选举非法”，大叫大闹。
当时上海报纸把这场臭不可闻的丑剧都绘声绘影描述起来，讥诮他们这就是“共赴国难的序幕”。于是这班家伙才悄悄收兵，不好再公开闹了。
三个大会开完后，粤方强烈要求蒋下野，12月15日，国民党在中央党部举行临时常会，在京中央执监委均参加，于右任任主席，决议案为：（一）国民政府主席兼行政院长蒋中正呈请辞职案，决准蒋同志辞职；推林森同志代理国民政府主席、陈铭枢同志代理行政院长。
（二）考试院长戴传贤、监察院长于右任、立法院长邵元冲呈请辞职案，决议慰留。
会后蒋介石发表辞职通电，略谓：“乃第四次全国代表大会，已以委曲求全的精神，接纳全党团结之方案，而在粤同志迄未能实践诺言，共赴国难。胡汉民同志等微（五）日通电，且有必须中正下野，解除兵柄，始赴京出席等语。是必使中正解职于先，和平统一方能实现。权衡轻重，不容稍缓须臾，再四思维，惟有恳请中央准予辞去国民政府主席等本兼各职……”蒋再次施展“以退为进”的伎俩，宣布下野。
蒋介石行前曾约陈公博、顾孟余、王法勤谈话，说：“本人甚盼汪先生能不顾一切，任此艰钜。前在沪时，曾向汪先生面述此意，汪太客气，希望三位再代转达。中兴本党，非汪先生莫属。”同时蒋又留函致于右任、何应钦、孙科等人，说：“全会既开，弟责即完，故须还乡归田，还我自由。”并说：“此去须入山静养，请勿有函电来往，即有函电，弟亦不拆阅也。”次日，蒋果然登上了溪口妙高台。22日，国民党四届一中全会在南京开幕。
会议：（一）推举胡汉民、汪精卫、蒋介石、于右任、叶楚伧、顾孟余、居正、孙科、陈果夫等九人为中执会常委，并以叶楚伧为秘书长。
（二）选任国府主席、委员及五院院长案，主席团对于国府人选，提出声明两点：（1）五院院长及所属各部长、委员长不兼国委；（2）现任军人不兼国委。众无异议。
（三）选林森为国民政府主席。
（四）选任蒋介石、汪精卫、胡汉民、唐绍仪、张人杰、萧佛成、邓泽如、谢持、许崇智、王法勤、李烈钧、邹鲁、邵元冲、陈果夫、叶楚伧、宋子文、王柏龄、方振武、熊克武、阎锡山、冯玉祥、赵戴文等33人为国府委员。
（五）选任孙科为行政院长，陈铭枢为行政院副院长，张继为立法院长，覃振为副院长，伍朝枢为司法院长，居正为副院长，戴季陶为考试院长，刘芦隐为副院长，于右任为监察院长，丁惟汾为副院长。
（六）通过中央政治会议组织原则：（1）中央政治会议以中执监委组织之；（2）中政会议设常务委员三人，开会时轮流做主席；（3）中央候补执监委得列席中政会议。
（七）选举蒋介石、汪精卫、胡汉民为中政会议常务委员。
（八）关于国难会议、国民会议及国民代表大会等之组织及缩短训政实行宪政各案，决议：（1）国难会议由国民政府于半个月内召集，讨论御侮、救灾、绥靖各事宜；（2）国民救国会议之组织及召集，由中常会筹议办理；（3）
应从速限期完成地方自治，筹备召集国民代表机关，交中常会遵照建国大纲妥速议定办法。
四届一中全会闭幕时，冯玉祥始到京，当天他着青布短棉袄进入会场，其朴素作风便引起了全场的注意。他在会上发表演说，说：“只有自己到总理陵前痛哭流涕，责备自己对不起国家，痛自忏悔。党中先进同志，汪先生学识宏富，胡先生是总理信徒，玉祥自己是混账。蒋先生有其长处，有其短处，在郑州同我结金兰时，有海枯石烂，此志不渝，结果竟自打起来，致成今日之局。盼同志用手用嘴将此三人拉在一起，到总理陵前认罪忏悔。”出乎意料的是，汪精卫突然称病不至。此时，蒋、胡、汪三人各有用心：蒋介石游玩于山水之间，心怀诡计，待机而起；汪精卫安坐于上海租界，假称养病，窥测跨入南京中枢的门径；胡汉民则以广东为根据地，与蒋介石周旋到底。冯自参加一中全会闭幕会以后，旋即到沪晤汪。冯对人说：“此次南来目的，完全想团结同志，以谋抵制暴日，故望各领袖能在一块负起救国责任。”
又说：“若汪于最近期内痊可，当劝其速入京；对胡亦同样希望，必要时拟到香港一行；对蒋亦望其能尽其责，共赴国难。”冯在此期间，对团结合作，极为努力。在一片劝驾声中，蒋、汪、胡仍无入京表示，孙科于1月8日晚中委谈话会中说：“愿回粤一行，促胡北来。”于右任等力阻，以孙负行政责任甚重，不能离开。孙说：“将短期离京，到奉化请蒋，到上海请汪。”各方仍多方劝阻。散会后，孙即同财政部长黄汉梁