朱元璋击败了陈友谅之后，把大军集中起来，向东面进攻，很快消灭了张士诚和其他一些对手。这时候，朱元璋已经拥有一支很强大的军队，占据了长江中下游一大片富饶的地区，具备了推翻元朝、统一全国的实力。朱元璋积极地做准备，想一举消灭腐朽的元朝。
而元顺帝非常昏庸无耻，当他的军队与红巾军浴血奋战之时，他却整日在皇宫里寻欢作乐，不理朝政。皇太子爱猷识理达腊看不惯父亲的这种做法，他认为再如此混乱下去，元朝的江山迟早会落到别人的手里。于是，就联合皇后和左丞相哈麻，想废掉元顺帝，自己当皇帝。元顺帝听说哈麻想背叛自己，非常生气，下令把哈麻充军到广东，又派人在路上把哈麻活活打死。皇太子和皇后没有成功，很不甘心，就又寻找下一个的机会，这样，宫廷里矛盾重重。
在镇压红巾军的过程中，元朝内部形成了一批新的军事头目，像河南的扩郭帖木儿（本名叫王保保，是察罕贴木儿的干儿子），山西的孛罗帖木儿，还有李思齐和张良弼等，都握有重兵，各霸一方，根本就不把皇帝放在眼里。这些人为了争夺地盘，扩大自己的势力，经常互相攻打。元顺帝多次下令，让他们不要自相残杀，不但不起一点作用，扩郭帖木儿和孛罗帖木儿反而打得更凶了。元顺帝没有办法，自己手里没有多少军队，还得依靠这些将领们对付各地的红巾军，也只好听之任之。
可是没过多久，宫廷里的斗争又和外面的斗争联系了起来。元顺帝依靠孛罗帖木儿和张良弼的扶持，而皇太子却同扩郭帖木儿、李思齐结成一派，两派相互斗争，吵闹不停。后来，孛罗帖木儿被杀，扩郭帖木儿掌握了大权。李思齐见年纪轻轻的扩郭帖木儿位居自己之上，就联合张良弼等将领，共同对付扩郭帖木儿，双方在关中相持，前前后后共打了一百多仗，也分不出高下。
此时的朱元璋羽翼已丰，整个南方都在自己掌握之中。他看出了元朝内部矛盾重重，已经没有多大的力量了，认为消灭元朝的机会到了。
1367年十月，朱元璋发布了北伐檄文，在檄文里他指责元顺帝昏庸无能，把人民逼到了起义造反的地步，元朝的气数已尽，上天派他来领导人民把蒙古贵族赶出中原，建立汉人的政权，拯救百姓。接着，他任命徐达为征虏大将军，常遇春为副将军，统率二十五万大军，向元朝发动进攻。
朱元璋凭借他对元朝形势的深刻了解，给北伐军制定了“先攻取山东，再占据河南，然后夺占潼关，控制这个门槛，最后进攻大都，扫荡山西和陕西”的正确战略计划。朱元璋还给他的军队制定了严格的军纪，不能随便屠杀人民，不能抢夺老百姓的财产，所以，他的军队很受老百姓欢迎。
徐达按照朱元璋的计划，很快就攻下了山东、河南，元朝的军队不是投降就是逃跑，根本就挡不住北伐军的进攻。1368年，朱元璋在应天做了皇帝，明朝正式建立了。
不久，北伐军攻克了潼关，大都已岌岌可危。可是，扩郭帖木儿却把军队驻扎在太原，不愿意来援救大都。李思齐和张良弼也慑于明朝军队的威势，带着残兵败将向西逃窜了。七月，各路明军在山东德州集结，然后分水陆两路沿着运河北上，几十万大军浩浩荡荡杀奔大都。一路上势如破竹，先占领了长芦、青州，然后攻占直沽。之后又攻下了大都的最后一道门户通州。通州失守，大都危在旦夕。
元顺帝征求文武大臣们的意见，一个叫伯颜不花的太监哭着建议皇帝坚守大都，元顺帝觉得这话有些道理，但无奈城中兵少将寡，外边又无救兵，无奈之下乘着黑夜，元顺帝率领后妃、太子和文武大臣一百多人，从建德门逃出了大都，奔向北方茫茫的草原。
几天之后，明军攻占了大都，元朝灭亡了。朱元璋把大都改称北平，明朝正式取代了元朝。
