”汪精卫说：“蒋介石既然容我不得，我又何必留在他身边合作？合则留，不合则去，这是我的办事原则。与其受人之羁縻，不如离去。”
陈公博说：“我的想法与汪先生不同。合则留，不合则去，虽然有古君子之风，但我认为每个国民对国家都有一份责任。
我的处世原则是：合则留，不合则打，打不过才去。我也知道留在上海有一定危险，但我要做一个斗士，上海就是我的斗场。我手下没有兵，但我手中有笔，有一批朋友，我要同蒋介石展开理论上的战斗！“在白崇禧的武力相逼、蒋介石的”好意“相劝下，当夜，汪精卫偕陈璧君、曾仲鸣乘法国轮船离沪。21日抵香港，旋由港启程赴法，1928年1月中旬到法国马赛。
四中全会正式召开前，南京国民政府做出决议，增推蒋介石、孙科、林森为国民政府常委。蒋介石携宋美龄由沪至宁，正式宣布复任总司令职。随后，蒋介石命谭延，丁惟汾、陈果夫等接收特委会机构，恢复中央常务委员会并由中央常务委员会临时会议做出决定，停止汪精卫、陈公博、顾孟余、甘乃光等人出席四中全会，交第三次全国代表大会处分。胡汉民等人因与蒋介石不合而离沪出洋。1928年2月，蒋通过二届四中全会，改组了国民党政府和国民党中央党部，担任了中央常务委员会主席、中央政治会议主席兼军事委员会主席，谭延为国民政府主席。同年10月，国民党中央第一七二次常务会议通过《训政纲领》，蒋介石担任国民政府主席兼海陆空三军总司令；蒋拉拢胡汉民，导致汪、蒋关系的破裂，种下了汪派公开反蒋的根苗。蒋以纵横捭阖的手段攫取了中央大权，也成了各派军阀、政客共同反对的目标。
汪精卫虽身在国外，却密切注视着国内政局的变化。
对蒋介石的得势，汪急得像热锅上的蚂蚁，接二连三地写文章。从1928年4月开始，他先后抛出了《复驻法总支部函》、《一个根本观念》、《致陈树人书》、《复林伯生书》等文章书信，说国民党改组精神“此时实已岌岌摇动”，如果“本党改组之精神消失净尽，而本党亦随以俱亡”，打出“改组国民党”的幌子，把矛头指向蒋介石的南京政府和蒋记国民党。他给在国内的汪派人物去电，打出“改组国民党”的招牌，把矛头直指蒋介石的南京政府和蒋记国民党。
陈公博没有追随汪精卫亡命海外，他决定去上海，陈公博到上海后，住在上海法租界贝勒路（今黄陂南路）一所民宅内。
一连几个月深居简出，日日埋头于著书立说，日夕所思索的是怎样在政治上打开局面，“使革命复兴”。5月7日，他创办了《革命评论》周刊，在《革命评论》上，陈公博还与国民党中央监察委员吴稚晖大开笔战，在国民党内部闹得天翻地覆。8月，传来胡汉民即将回国的消息，一度使蒋介石大为紧张。一天，他跑到陈公博家，说：“胡汉民回来一定要动兵的，我们应该要准备。”谁知胡汉民是支持蒋介石的，于是蒋、胡合作迅速形成，蒋介石为了拉住胡，对汪派的态度发生变化。在南京，蒋介石制定了“政治倒汪”的计划，蒋派陈立夫在南京、上海，重提“三。二”事件，做汪精卫企图谋害蒋介石的宣传。陈公博忍不住给蒋介石写了一封长信，叙述宁、汉合作后汪精卫对蒋介石的谅解经过，并对“三。二”事件做了解释。在信的末尾，陈公博对蒋介石说：“汪、蒋能合作固佳，就是合而不作也有利。”蒋介石接信后，曾到上海和陈公博谈话。陈公博向蒋献议：“我赞成汪、蒋合作，不是希望汪先生做国民政府主席，你做总司令，或汪先生做党的领袖，你做政府领袖这样简单。我以为今日汪先生是代表革命青年，你还可以代表革命军人，以革命青年和革命军人合作，中国才有办法。”蒋介石虽当面表示：“陈立夫是小孩子，不懂事，我将责罚他。”但实际上却因陈立夫反汪有功而不断奖励他，不久陈改组派的实际领导人陈公博。
立夫即升任国民党中央执行委员。1928年冬，与汪精卫相呼应，自称“猛野”（粤语，意即勇敢之士）、说“不合则打，打不过才去”的汪派骨干陈公博，伙同顾孟余、甘乃光、王法勤等人组织的“中国国民党改组同志会”在上海成立，它的总部设在法租界，各省市及海外设有分部。他们利用广大群众日益增长的反蒋情绪，打着恢复中山先生改组国民党的革命精神的旗号，“继承本党孙总理的三民主义，继承第一、第二次代表大会的纲领，集合革命同志，努力改组运动，务期重新建设能担负实现三民主义的中国国民党而后已。”会议没有正式选举中央委员会，而以“粤方委员”组成临时领导机关机构，奉汪精卫为精神领袖。但汪精卫并不承认他是“改组派”的领袖，因为有人向他献议，他应该做全党的领袖，而不仅仅是“改组派”的领袖。“改组派”的实际领导责任落到了陈公博的肩上。
改组派总部设在上海，下设总务、组织、宣传三个部。活动的主要方式是利用国民党原有的组织，建立改组派的各级地方组织。从中央到基层分为四级：中央设总部；各省市机构外各地设支部；支部设书记1人，委员若干人；支部下设分部，分部设书记1人；分部下设小组，小组设组长1人，组员3人以上至10余人不等。这个组织成分复杂，基本队伍是大革命时期一部分国民党左派，及其他出身中小资产阶级的知识分子。它成为反蒋派中人数最多、政治影响最大的一个派别。至1929年上半年，南京、上海、北平、天津等大城市和江苏、安徽、浙江、江西、河南、湖南、广东、四川、山东、山西、绥远、辽宁、甘肃等省相继建立了支部，并在香港、法国、日本、越南、新加坡等地建立了海外支部。
“改组派”的发展组织，扩大势力，到了无孔不入的地步，连年不断的新军阀混战和国民党内部几次大规模的反蒋风潮，都没有离开过改组派的魔影。
蒋介石为包办国民党三大，用圈定与指派的方式产生出席三大的代表。3月11日，汪精卫、陈公博、顾孟余、陈璧君等十四人联名发表了《关于最近党务政治宣言》，反对蒋介石指定“代表”。宣言指出：“同人等对此违法之代表产生法，虽屡次提出异议，而主持中央者，竟充耳不闻。同人等深恐此种大会一旦开成，其结果适与巩固党及中国和平之期望相反。同人等为遵守总理遗教，努力革命，对此种大会誓不承认。当此本党陷于危亡，革命濒于失败之今日，绝不畏惧强御！始终与本党忠实同志共同奋斗！”1929年3月15日，蒋介石在南京主持召开了国民党第三次全国代表大会。
在这次蒋介石包办的大会上，通过了很多处分反对蒋介石之人的决议案。蒋介石在主席团报告中说：“今日讨伐叛徒，以国家论，是为讨伐叛将；以党论，即为讨伐反革命分子。此等叛党分子，应由大会开除其党籍。”结果大会通过李宗仁、白崇禧等人的“叛党乱国罪”，永远开除党籍，改组派领袖陈公博永远开除党籍，顾孟余开除党籍三年。对汪精卫则予以书面警告的处分，处分汪精卫的理由是“迹近纵袒弄兵，酿成广州共变”。1929年3月1日，陈公博乘船抵达法国马赛，前往迎接他的是汪精卫的亲信秘书曾仲鸣。次日早上转赴巴黎，下午他去拜访汪精卫、陈璧君夫妇，报告国内“改组派”的活动情况。
陈公博在巴黎的生活自在悠闲，他住在城里，汪精卫夫妇住在乡间，一星期见一两次面。4月，他去伦敦住了两个星期。返回巴黎后，陈公博在郊外的云山门租赁了一层楼房，很想在法国做上一两年寓公。蒋介石继编遣会议之后，又急于召开国民党的三全大会，好似连续点燃了两只火药桶。国民党内部的矛盾立即爆发。蒋、桂又起战端，桂系倒鲁（涤早）立何（键），“湘案”成为战争的导火线。桂系战败，第四集团军瓦解。蒋介石倒桂得手之后，效法张仪的远交近攻之法，拉阎攻冯。冯面对蒋军的强大压力，通电下野，西北军据守潼关，只守不攻，一场厮杀转为纵横捭阖的政治阴谋，演出了一场曲曲折折的蒋、阎、冯离合剧，国民党各派新军阀几乎都卷入了内战漩涡。军事倒蒋浪潮迅猛发展，使汪精卫与陈璧君看到国内形势大有可为，汪精卫夫妇对陈公博的悠闲态度感到不满，决定由陈璧君去劝说陈公博，立即回国领导反蒋运动，汪夫妇也准备随后回国。陈公博回忆陈璧君劝说他的情况：那时我已赁了一层楼在巴黎郊外的云山门，打算做比较长住之计，一天汪夫人忍不住便找我去谈话了。
“我以为汪先生年纪大，身体又多病，才常居国外，怎么以你这样的年轻人也打算常住外国？”汪夫人的脾气一向谈话都用责备和质问的神气。“不常住怎么办？”我实在猜不出汪夫人是怎样的心事。“我不信国内一点办法都没有？”
汪夫人提出了意见。
“什么办法？要办法只有反蒋和打仗，汪先生是不愿意的，因为现在还是汪、蒋合作。”我禁不住发点牢骚。“你怎么知道汪先生不愿意？现在蒋介石这样做法，谁也忍不住，只有你才忍得住。”汪夫人大约用激将方法了。
“对于政治和党务，我真有些厌了。如果要我干，汪先生也得回国。否则你们会住巴黎，难道我不会住巴黎？”我那时对于怎么干，其实一点把握也没有。“你肯回国，汪先生也一定回国的。”汪夫人似肯定地保证。这样汪先生是要我回国了。我和汪夫人谈话之后，再见汪先生商量以后的步骤，汪夫人又每天催我启程，我遂于5月12日离马赛回国。
“改组派纠集了二十多个省市党部、海外总支部反对国民党三全大会，开展反对蒋介石独裁的斗争。陈公博回到香港后，立即与上海总部联系，决心发动武装反蒋。为了制造反蒋舆论，汪精卫在国外写了一系列的文章。5月，他发表了《十八年的总决算与十九年的新局势》一文，称蒋介石主持召开的国民党”三大“，是”段祺瑞式的善后会议“，”倒蒋运动“是”民主势力与封建势力之争“，公开与蒋介石决裂。6月，汪精卫又发表谈话，号召”一般有廉耻的文人，应该奉献此身于民主势力，将血作水，以溉民主势力之根，将身作肥料，以沃民主势力之果。“9月，改组派总部也发表了《讨蒋宣言》。
看到国内这种混乱局面，陈公博感到自己“毛头小子”担不起此项重任。他一面进行军事发动，一面电请汪精卫立即回国主持大计。1929年9月17日，张发奎在湖北打出“护党救国军”的大旗，发表《拥汪讨蒋宣言》，电请汪精卫回
国：“主席回国方可对国内军事发挥号召力，对官兵之影响尤为重大。即使返国不能深入军中，亦可居香港以指导军事，策励士气。”在这种情况下，汪精卫决定回国抗蒋。临行前他与陈公博等人联名发表一篇《中国国民党第二届中央执监委员会最近对时局宣言》，历数蒋介石的十大罪状：“习于专制，私利是图，首内启本党之纠纷，复外援帝国主义及国内反动派以自固；啸聚群