原来袁崇全已向朱德表示了悔过，朱便派他以营长身份率第2营和团直机炮连为先遣部队，去桂东县的沙田以及他们所熟悉的湘粤赣边区方向执行任务。不料，袁崇全率部出发的第一天，还送回报告，接着就断了消息，数日后送信回来说：“不杀朱德、陈毅，不回来了。”
28团团长王尔琢得悉袁崇全胁骗的团直机炮连驻扎在思顺圩，亲自带领誓卫排去追寻。机炮连就应声回归了，王尔琢却在追劝袁崇全归队时，被袁开枪打死。朱德痛感“人心难问”。此事向党员大会宣布后，一致声讨袁崇全的反革命罪行，决心革命到底，并要求派部队把袁追回。陈毅、朱德深感领导不力，在沙田召开党员代表大会，会议由何长工主持，朱德、陈毅作了自我批评，听取了与会代表的尖锐批评。前委委员、特务营营长宋乔生要求将朱德、陈毅撤职查办。但多数人的意见是分别给予朱德、陈毅以“留党查看3个月”的处分。会议按照多数人的意见作出决定。
是时，毛泽东只带领32团1个营住在永新。江西敌人拼凑了11个团的兵力进攻永新。毛泽东决定把赤卫队、暴动队动员起来，发动群众，保住永新，他动员了几万地方武装投入战斗，同敌苦斗了一个月，敌人见没有打胜仗的希望，便撤退了。永新保住了，但宁冈、莲花等县却落入敌人手中。林彪率领28团1营占领桂东。几天后，毛泽东率32团1个营到桂东，迎接朱德、陈毅及其部队回井冈山。8月23日，朱德、陈毅等赶往桂东同毛泽东会合。这次开往湘南的行动，使红四军和井冈山根据地均受到很大损失，因而称为“八月失败”。
8月30日，湘敌吴尚部、赣敌王均部等4个团，以10倍于我的优势兵力，向井冈山黄洋界发动攻击。不料毛泽东对井冈山早有布防，井冈山军民凭险抵抗，激战一昼夜，次日从茨坪调来一门迫击炮增援，两发皆命中，终于击溃敌军，保卫了井冈山。毛泽东有诗为证：山下旌旗在望，山头鼓角相闻。敌军围困万千重。我自岿然不动。早已森严壁垒，更加众志成城。黄洋界上炮声隆，报道敌军宵遁。红四军主力返回井冈山后，连续打了几个胜仗，收复了边界大部分失地，粉碎了敌人的“会剿”。
1928年11月2日，红四军接到中共中央6月4日来信，便召集特委、军委和地方党负责人参加的中共湘赣边界特委扩大会议讨论贯彻。中央指定朱德为军委书记，指定由毛泽东、朱德等人组成中共红四军前委，毛泽东为书记。前委当即成立，毛泽东、朱德、谭震林、宋乔生、毛科文为前委委员，谭震林为特委书记。陈毅为前委秘书长，后改任士兵委员会秘书长。前委统辖边界特委和红四军军委的工作。毛泽东总结了作战经验，提出“敌进我退，敌驻我扰，敌疲我打，敌退我追”的16字决，这些带有朴素性质的游击战争的基本原则，对红军游击战争起了有效的指导作用。12月11日，彭德怀、滕代远、黄公略带领的湖南平江起义的红五军来到井冈山，受到毛泽东、朱德、陈毅及红四军的欢迎。次日，红四军、红五军在宁冈新城召开了会师庆祝大会。
彭德怀和毛泽东的年龄相当，是湖南湘潭人。他出生在一个富裕农民的农庭，自幼性格倔强，脾气暴躁，6岁时母亲病逝，失去母爱。后因在私塾里和老师对打，而被后母赶出了家门，婶母收养了他。不久他因踢翻了祖母的鸦片烟盘，祖母决定溺死他，父亲没有反对。当执行祖母决定时，舅父出来保护他。他得救后不得不离开家去当放牛娃，这时他才9岁。后来他去做矿工，尔后在鞋匠那里学徒，到烧碱矿做工，最后去修水渠。
彭德怀16岁时回到舅父那里。但第二年湖南发生大饥荒，他支持和帮助穷人去抢一个富豪家的粮食，事发后出逃去当兵，18岁就升为排长。他在军队受到进步思想影响，去长沙刺杀督军，在街上扔出一颗炸弹，但没爆炸。随后，他在程潜军队里当了谍报员，在长沙执行任务时被叛徒出卖，被张敬尧部逮捕。在狱中被严刑拷打了一个多月，一直没有招供。彭德怀出狱后被派往湖南军校学习，以后又转往南昌军校学习，毕业后任营长，至1927年升至旅长。他在湘军中以“自由派”军官著称。彭德怀自1926年起读马克思列宁主义著作，次年加入共产党。他在自己的部队里办马克思主义政治训练班，成立士兵委员会。
湘军何键从1927年开始大举清洗军队中的左派分子，屠杀了成千上万名共产党员和进步的工农群众。彭德怀因极孚众望，何不敢贸然下手。1928年7月，彭德怀、滕代远、黄公略率部队举行了平江起义，成立工农革命军第五军，以后改为红五军。毛泽东初次见到彭德怀时，就拍着他的肩头说：“了不起，真正了不起！贺龙是条龙，你彭德怀也是一条龙呀！”彭德怀激动地说：“龙没有大海就活不了！”朱德接过话来说：“现在龙归大海啦！” 至此，井冈山革命根据地集中了未来新中国的5名元帅，即朱德、彭德怀、陈毅、林彪、罗荣桓。
井冈山虽是地势险要，易守难攻，但毕竟是弹丸之地，红五军来到井冈山后，部队增加了700多人，对这个人口不满2000，产谷不满万担的山区来说，负担太重了。而国民党对井冈山反复“进剿”和严密封锁，经济困难日趋严重。鉴于这种情况，前委、湘赣边界特委、红四军委、红五军委联席会议决定，由彭德怀、滕代远率领的红五军和袁文才、王佐的32团留守井冈山，坚持内线作战；毛泽东、朱德、陈毅率领红四军主力3600人于1929年1月14日向赣南出击，实行外线机动作战。赣南山峦起伏，林木繁茂，物产比较丰富，并同闽西、粤北山区连接，回旋余地宽广，且共产党在那里有较好的群众基础；反动驻军力量薄弱，战斗力不强；交通不便，敌军往来聚集困难，适宜于发展游击战争。
红四军在阴雨连绵的天气下，在偏僻的山区行军，宿营、侦察都很困难。红四军在大余县被敌人包围，经过激战，红军突围出去。但这一仗，31团营长周舫、独立营营长张威牺牲，28团党代表何挺颖负重伤。部队向广东南雄县方向撤退。部队在重新进入赣南时，又遇敌情，部队仓促奔走，重伤的党代表何挺颖在混乱中不幸牺牲。 2月初，红军到了赣南寻乌县的圳下，敌军刘士毅旅1个团在拂晓时分包围圳下，红军失利，朱德的爱人伍若兰被敌人俘去杀害，许多指战员牺牲了。
陈毅匆忙披上大衣急走，被突然冲上来的敌人一把抓着大衣，陈毅即把大衣向后一抛，正好罩住那个敌人的脑袋，陈快跑脱身。朱德离开住房时，敌军已近在眼前。警卫员开枪掩护，中弹牺牲。朱德摘下警卫员的冲锋枪，在敌我交错中夺路撤退。毛泽东经常夜间工作，晚睡晚起，他尚未起床，便被枪声惊醒，敌军先头分队已越过他的住房，他当即随警卫员乘昏暗向村外转移。红军部队突围出去。红四军在罗幅嶂休整一天，朱德、毛泽东、陈毅等决定将红四军改编为两个纵队，一纵队由28团、特务营编成，林彪为纵队长，陈毅为党代表；三纵队由31团编成，伍中豪为纵队长，蔡协民为党代表。多数干部要求两个纵队分兵活动，毛泽东不同意，认为分兵活动，容易被敌人个个击破，他对分兵活动的意见压下不予讨论，对因此产生的不满情绪，也置之不理。
2月11日，红军在赣南瑞金北大柏地设下埋伏，一举歼灭紧紧追随而来的刘士毅旅大部，活捉了800余名敌军，缴获800余枝枪，扭转了被动局面。毛泽东没有同意分兵，才取得此次胜利。战前，毛泽东为了让部队有足够体力打山地肉搏战，批准可以动用群众的粮食，留下借条，保证日后偿还。群众将信将疑。后红军再次路过，果然按借条归还。红军挥师北上，陈毅、林彪率一纵队取道兴国向东固进发。行至葛坳，遭众多敌军截击。林彪指挥果断，迅速突围，得以脱离，抵达东固地区。红军在东固同李文林、段起凤率领的江西红军独立第2、4团会师，开始在赣南站住脚跟。红四军在东固休整了一个星期。全军3000余人，从一纵、三纵中抽调人员，编为第二纵队，胡少海为纵队长，彭祜为党代表。此时，得悉井冈山已经失守，红五军编成的30团、32团已突围，向赣南进军。朱德、毛泽东和前委决定采取变定不居的游击政策，即打圈子政策，以对付敌人的跟踪穷追政策。 朱德、毛泽东利用闽西敌军兵力空虚之时机，向闽西急进。3月14日，在长岭寨歼福建省防军郭凤鸣旅，歼敌2000余人，缴获大批武器弹药。郭凤鸣被击毙。红军乘胜占领闽西重镇长汀城，缴获了一批武器和大量给养。
此时得知红五军已到达赣南，前委作出决定：红四军回师赣南，同红五军会合，以赣南、闽西20余县为范围，用游击战术公开建立苏维埃割据区，同湘赣边界割据区相连接。4月1日，红四军回师赣南到达瑞金，同红五军会合，随后在于都、兴国、宁都一带，开辟了赣南革命根据地。接着又回到闽西，3次攻克龙岩，歼灭了陈国辉的1个旅，在龙岩、上杭、永定和长汀等地建立了闽西根据地，发展了地方革命武装。
但就在这时，红四军党内和领导之间，在建军思想和建军原则问题上，出现了一些不同看法。毛泽东和朱德两位主要领导人对这些问题的看法也不尽一致。红军的生活比井冈山时好多了，但国民党军部队的俘虏兵参加了红军，他们壮大了红军的力量，同时也带来了旧军队的旧作风，红军的另一些成员来自农民，要改变他们原有的观点和习惯需要一个过程。中共中央派来的刘安恭从上海辗转来到宁都。
刘安恭是四川人，早年留学德国，回国后在四川省当过邮政局长，后来参加了共产党，南昌起义后，到苏联学习过军事，有较好的军事理论修养。他一到红四军便受到推崇，担任了红四军临时军委书记兼政治部主任。刘安恭回国不久，才到苏区，不了解红军的历史和斗争情况，主张搬用苏联红军的一些做法，这就加剧了红四军党内本已存在的有关军队的领导、单纯军事观点、流寇思想、极端民主化的问题的争论。6月，争论的双方各持己见。临时军委坚持要搞偏于军事观点的那一套，要限制前委的权力，并要正式设立军委，坚持要“分权”。这使前委无法统一领导，不好工作。6月8日，在闽西长汀的白沙举行了前委扩大会议，以多数票作出决定撤消临时军委。这样刘安恭担任的临时军委书记一职自然免去。政治部主任一职后来也由陈毅接替。但争论并没因此结束，有些方面反而更趋激烈。6月22日，中共红四军在闽西龙岩召开了第七次代表大会。大会的主要主持人是陈毅。会上，军内存在的单纯军事观点、流寇思想、极端民主化和军阀主义残余等非无产阶级思想有所抬头。对这些思想没有给予应有的批评，对于争论的不少问题，都作了折中平衡、息事宁人的批评和回答。毛泽东提出的坚持和加强党对军队的绝对领导、克服红军中正在滋长的单纯军事观点、极端民主化、流寇思想等主张，未被大会接受，他处于孤立的地位。在改选前委时，陈毅被选为前委�