了生存下去，为了混口饭吃，朱元璋只得忍气吞声。
由于旱情严重，地里的植物颗粒无收，靠收租来度日的皇觉寺终于维持不下去了。入寺才50天，经文没念上一卷，各种杂活倒做了不少的小沙弥朱元璋，被主持打发去“云游”了。说是云游，其实就是流浪各地，向大户人家化缘，求乞度日。这样一去就是三年。
三年后，朱元璋回到了皇觉寺。朱元璋在这三年的奔波流浪中，尝尽了人间辛酸，也看到了各地百姓的困苦。到处是衣服褴褛，到处是如土的面色，到处是成群结队的逃难人群。百姓们已不再对腐败的朝廷、官府抱有任何希望，他们只有把满腹的希望寄于神灵、菩萨的保佑。他发现一路上除了各大小寺院里虔诚的信男信女之外，百姓们普遍信仰白莲教，并大有积蓄力量、蠢蠢欲动之势。
他目睹国事日非，预感天下大乱的时候就要到了，即立志勤学，广交朋友，以待时而动。他在这里学习了三教九流的许多知识，诵经，打坐，做布施，做道场，外加清除，上香，劈柴，担水，读书，识字。一晃，又过了较为平静的四年时间。
这时的中国，正处于元朝末年社会矛盾空前激化的年代。在元廷的暴政统治之下，老百姓长期过着“窦娥冤”式的生活，有冤无处申，有理无处说。不堪忍受元朝封建统治者的残酷剥削和压迫的农民们终于勇敢地行动起来了。1351年，当元廷征集数十万民工治理黄河时，在工地上挖出了一个石人，只有一只眼睛，于是民间盛传“石人一只眼，挑动黄河天下反”。白莲教主韩山童乘机聚集数千人，斩白马乌牛，祭告天地，揭竿起义。因起义军头裹红巾，身穿红衣，打着红旗，被称为“红巾军”。从此，抗元的怒火燃遍了中华大地。英雄四起，各据一方。彭莹玉、徐寿辉在湖北组织起义，土豪方国珍、盐贩张士诚也先后在浙江和苏北起兵反元。与此同时，郭子兴在濠州起兵响应，袭杀州官，占领了濠州城。至此，农民起义的烈火迅速燃烧在大江南北。
虽然身居静门，内心却早已不安分的朱元璋，听到不断传来的农民起义的消息，已是热血沸腾。面对黑暗的社会，他早就有了投奔红巾军的念头，但由于对红巾军内部不甚了解，再加上元军追杀得太紧，怕他们成不了气候，而犹豫不决，持观望态度。正在这时，已在郭子兴的军队里当上了小头目的儿时的穷伙伴汤和，给朱元璋捎来了一封信，邀请他前去投军。此时他仍举棋不定，但同屋的师兄却偷偷告诉他：汤和来信邀他参军一事已被人知道了，就要去报官领赏。被逼上绝路的朱元璋，终于看清了自己所面临着的危险形势，于是丢掉幻想，连夜向濠州城急急奔去。
起义军里的一方霸主
朱元璋参加了郭子兴的红巾军，深得郭子兴赏识。朱元璋果然不负郭子兴的重望，更加苦练武艺，并且处事沉稳，计虑周详，仗打得漂亮，且能独当一面，是个难得的人才。由此，郭子兴就把他当作知己，时常把他叫到内宅议事，信宠有加。不久，他就娶了郭子兴的养女。
1355年春，朱元璋率军攻下和州（今安徽和县）后，郭子兴任命他为总兵官，统率和州诸将兵马。当时和州的诸将成分复杂，多为郭子兴的部下，纪律松弛，为所欲为，很不得人心。朱元璋上任后，不被他们所看重，每次议事，都把最末的一个座位留给他。朱元璋决心改变这种状况。不久，他创议修建城池，规定每人负责一段，限定三天完工。届时只有朱元璋负责的一段修完。于是，他拿出郭子兴的金牌，厉声说：“我这个总兵官是郭元帅任命的，大家理应服从。修建城池已有约在先，大家不能按时完工，万一敌人来犯，我们怎么对付？此事既往不咎，今后再有违抗命令者，一律军法严惩！”众将从此听命于朱元璋，再也没有违纪现象发生。
同年三月，郭子兴因病故去。此时，韩山童的儿子韩林儿被拥立为小明王，国号宋。小明王任命朱元璋为左副元帅。不久，其两副帅又先后战死，朱元璋遂被升任为大元帅。至此，他的岳丈郭子兴所创建的起义军旧部已全部归为他指挥了。
朱元璋成了一军之主后，感到自己掌管的地盘狭小，兵马太少，难以实现自己的宏图大业，必须打过长江去，才能求得进一步的发展。于是，他特别注意瓦解敌人，壮大自己；同时，又采取措施，鼓舞土气，使他们勇猛作战，一往无前。至正十六年（1356）三月，朱元璋亲统水陆大军，进攻集庆（今南京），三天内就攻破了城外的陈兆先军营，陈部36000人投降。朱元璋看到投降过来的将士顾虑重重，恐惧万分，就从中挑选出500名勇士当自己的亲军，让他们在夜里当自己的守卫，而自己平时的卫士则一个不留，全部打发走。朱元璋独自脱下战甲，酣然入梦，一觉到天亮。3万多降兵知道了这件事，大为感动，便赤胆忠心地为朱元璋效力，甘心情愿地跟随朱元璋打天下。
很快朱元璋就攻下了集庆。第二天，朱元璋带领徐达等巡视全城，看到它的雄伟、它的富庶和繁华，恍忽如在梦中，那种激动与兴奋简直无法按捺，遂对徐达等人说：“金陵枕山带江，真是天造地设的一块宝地，难怪古人称之为长江天堑。况且仓廪实，人民足，今天终为我有。再加上诸位同心协力相助，还有什么样的功业不能建立！”徐达附和道：“元帅建功立业决非偶然。今天能够得到它，实在是上天所授！”听到这话，元璋更是喜欢。于是，改集庆为应天府，设置大元帅府，朱元璋自任大元帅。从此，朱元璋有了一个为将来打天下而积蓄力量的可以立足的基地。
朱元璋以应天府为根据地，经过了几年的努力，拥有集庆路、太平路、镇江路、广德路等江南地盘、十几万军队，成为江南很有势力的割据政权。此时，他的上游有义军徐寿辉，下游有张士诚，今天的浙江宁波、临海沿海一带有方国珍，其他江南地区仍为元朝所占有。江北则有韩林儿的大部队牵制着元朝主力，做了南方农民军的屏障，使他们得以任意地蚕食元属领地，并彼此之间展开厮杀与拼搏。此时的朱元璋，已不是早先的小和尚了，已成长为一名驰骋疆场的将帅、一个称雄一方的霸主。
取得了初步胜利后，如何发展今后的事业，是摆在朱元璋面前的首要问题。1357年在攻占了徽州后，朱元璋亲自到了石门山拜访老儒朱升，请教夺取天下的计策。朱升高瞻远瞩地送给他三句话：“高筑墙，广积粮，缓称王。”所谓“高筑墙，广积粮”就是筑好防御工事，多存粮草，暂取守势，不要出击，多保存自己的实力，坐山观虎斗。等到别人实力耗尽，再出来收拾残局。所谓“缓称王”，是指对付元廷的策略，即不图虚名，暂不称王。许多友军称帝称王，成了元兵打击的目标，太不合算，不如先做缩头乌龟，在别人大事招摇之时，深藏不露，设法自保；等到时机成熟，再一鸣惊人。朱元璋认为朱升的话很有道理，心领神会，于是制定了一个在两淮、江南地区“积粮训兵，待时而动”的行动计划。他还在《菊花诗》中这样写道：“百花发时我不发，我一发时都吓杀；要与西风战一场，满身披的黄金甲。”
兴国之本，在于强兵足食。按照朱升的提示，朱元璋首先抓紧军队建设，提高军队的作战本领，尤其重视军事纪律的训练和整顿，强调“惠爱加于民，法度行于军”。同时，朱元璋大抓农业生产。他设置营田司，任命营田使，负责兴修水利，并且还抽出一部分将士，在战事之余开荒屯田；推行民兵制度，组织农村丁壮，一面练武，一面耕种。这样一来，所生产的粮食不仅能自给自足，还能支援贫苦的百姓，改变了军队历来吃粮靠百姓的习惯，深受农民的欢迎。
为了发展自己的势力，朱元璋还礼贤下士，广揽人才。刘基、叶琛、宋濂、章溢四大名士被应聘至应天，朱元璋称他们为“四先生”，特筑礼贤馆，给他们居住。
此外，朱元璋为了避免树大招风、过早地暴露自己，以防止在自己力量脆弱的时候被吃掉，他在形式上一直对小明王保持臣属关系，用的还是宋政权的龙凤年号，打的还是红巾军的红色战旗，连斗争的口号也不改变。直到朱元璋改称吴王后，发布文告，第一句话仍是“皇帝圣旨，吴王今旨”，表示自己仍是小明王的臣属。朱元璋经过这十几年的卧薪尝胆，韬光养晦，积蓄力量，开拓疆土，其所辖的根据地终于巩固地建立起来了，在人们不知不觉中拔地崛起一支足以与元军相匹敌的强大军事力量。
朱元璋尽管一直把抗元的口号喊得震天价响，却在后方蚕食友军，耐心等待元廷主力的溃败和各路友军实力的耗尽。时机成熟，他才下手，不仅摘了许多“大桃子”，而且坐得“民族英雄”的美名。
随着朱元璋势力的一天比一天强大起来，原先的盟友，为了争得利益，也逐渐变成了对头，变成了朱元璋改朝换代的强大阻力。于是，朱元璋在同元军进行殊死搏斗的同时，不得不对盘据在周围的敌对势力进行清除。四周的陈友谅、张士诚、方国珍、陈友定部，以陈友谅部的势力最大，他也是朱元璋占领应天后所遇到的第一个劲敌。
1360年5月，陈友谅以派人祝贺胜利的名义去江州（今九江）杀死徐寿辉。他估计应天指日可下，野心勃发，就以采石五通庙为行殿，草草即了皇帝位，改国号为汉。随后盛食厉兵，约张士诚夹攻朱元璋。
陈友谅当时的势力相当强大，光战舰就有百余艘，且兵众士广，杀气腾腾。驻守应天城中的朱元璋的文官武将，风闻陈友谅部已顺江而下，旌旗指向应天，都吓得惊慌失措。一时间，众将领议论纷纷，有的主张投降，有的主张放弃应天，也有的主张抵抗，各执一词，乱成一团。唯有谋臣刘基成竹在胸，静坐不语。朱元璋问计刘基，刘基答道：“张士诚目光短浅，胸无大志，只满足于割据一方，没有什么可怕的。陈友谅占据上流，拥有精兵利舰，来势凶猛，是一支不可小视的队伍，我们必须集中力量打败他们。这样，张士诚便不敢出兵，应天城就没有什么忧患了。我们再北向中原，必定可成王业。”朱元璋又问他：“如何打败陈友谅呢？”刘基说：“陈友谅自恃人多势众、装备精良，骄傲轻敌。诱敌深入，用伏兵截击，定能取胜。”朱元璋觉得刘基的分析非常深刻，入木三分，便采纳了他的意见，遂决定伏兵智取陈友谅。
如何诱使陈友谅迅速东下、进入伏击圈呢？这使朱元璋颇费思量。突然，他想起了一个人，这就是他早年攻打集庆时招降的元水军元帅康茂才。康本是陈友谅的好友，但归顺朱元璋后，深得器重和宠信。他早有报答朱元璋之意，只是没有机会。此时，朱元璋将他找来，如此这般地告知了他这次行动的计划，他非常痛快地接受了任务，遵照朱元璋的指令，康茂才派一个亲信将其亲笔信秘密送给“老友”陈友谅，约陈及早来攻应天，由他作内应，里迎外合，一举拿下应天城。陈友谅见信后，大喜，忙问来人：“康将军现驻在何处？”来人答称在�