丰臣秀吉去世后，以五大老和五奉行为中心的领导团决定对在朝诸将隐瞒秀吉的死讯，并秘密安排撤退工作。而相对的，由于第一次蔚山城之战的失败，明朝再向朝鲜增兵派将。1598年9月，明、朝联军总兵力10余万人分兵三路，向蔚山、泗川、顺天三个据点发动攻击，同时水军也出击策应。东路军由总兵麻贵指挥，共计29500人（明军24000人，朝军5514人），于9月21日自庆州出发，22日进击至蔚山城。但由于加藤清正率领的1万日军坚守不出，加之城防已被修缮，故明军未能取得有效进展，于10月6日退回庆州。
进攻泗川的明、朝联军共3万多人，由明军将领董一元率领。泗川位于日军防线中的釜山和顺天中间，如此地陷落，则西边的小西行长所部将被明军分割包围。而如此重要的一个据点，仅仅只有岛津义弘和岛津忠恒所率领的岛津军7000人镇守。岛津义弘还拒绝了手下向立花宗茂和宗义智求援的建议，准备独自面对敌人。岛津义弘迅速命令其所属守备泗川古城、永春、昆阳、望晋的部队向义弘本人所在的泗川新城集结。但泗川古城的部队由于后撤较慢而被联军包围。驻守泗川古城的主将川上忠实虽有接近一万石的兵粮储备，但其麾下兵力仅有数百人。9月27日，明军开始强攻泗川古城，川上忠实在进行了短暂的防御以后，率军出城对明军实施了反突击，并成功击杀了明军游击李宁、卢德功及其以下数百人，但自军伤也伤亡惨重。最后，川上忠实不得不选择放弃泗川古城而向泗川新城方向突围。尽管突围成功，但川上忠实身中36箭，所部共150余人全部战死。在泗川新城的岛津忠恒曾向岛津义弘提出了向古城派遣援军的建议，但被岛津义弘以兵力不足为由驳回。直到见到身负重伤的川上忠实，岛津义弘泪流满面：“你能活着回来，真是太好了！请原谅我的见死不救！”。川上忠实哽咽道：“义弘大人，请放心，我已命濑户口重治烧毁粮草，没有留给敌人。”“好样的，不愧是萨摩响当当的男子汉，你去安心养伤，之后的战斗就都交给我了。”川上忠实放心的闭上了眼睛昏死了过去。联军在占领泗川古城后，于10月1日对泗川新城发动了攻击。
岛津义弘在泗川新城修筑了坚固的防御工事，并配置了大量铁炮、地雷，并于各处险要设下伏兵，而且收集铁片和铁钉作为大炮的备用弹药。联军则由明将茅国器、叶邦荣、彭信古等进攻泗川新城的大手门，郝三聘、师道立、马呈文、蓝芳威等分别在左右，董一元则亲率中军，位列主攻部队正后方。就在激战之时，一只白色的狐狸和一只红色的狐狸从城中向联军的方向跑去，看到的岛津军士兵以为是稻荷大明神显灵，士气大振，跟随狐狸开始突击。城内日军伏兵四起，联军被各个分断，岛津义弘身先士卒连斩4人，岛津忠恒身受枪伤也斩杀7人。这时联军的火药库突然爆炸，顿时大乱。岛津军趁此机会打开城门，反杀了出去，一直追击到南江右岸，联军无数士兵逃入江中溺水而死。10月1日夜间，岛津军在泗川平原地区召开庆功大会。而撤退后又重新集结的联军已经不足万人，此战让岛津义弘扬名朝鲜，被称作“鬼石曼子”。
再说顺天方面，明朝大将刘綎率领的21900人与朝鲜权粟率领的5928人从陆上出发，明朝水军由陈璘率领的19400人与朝鲜水军由李舜臣率领的7328人从水路出发，两路大军于9月18日在顺天城汇合。在全罗道平定后，日军在顺天郡光阳湾的中央部分开始修筑顺天城，由宇喜多秀家、藤堂高虎负责，于1597年12月完工。之后，由小西行长、松浦镇信、有马晴信、五岛玄雅、大村喜前5人统领的13700人驻守。
9月18日刘綎写信给小西行长，约其进行会谈。虽然松浦镇信担心其中有诈，劝阻小西行长别去，但遭到了拒绝。9月19日直到小西行长一行发现了刘綎在会谈地点半路设下的伏兵，才恍然大悟。明军伏兵的暴露使得刘綎生擒小西行长的计划落空，不得不于19日下午开始向顺天城发动进攻。经过两天的火炮对射，联军没能占到丝毫便宜。刘綎遂下令停止攻城，开始制作云梯、箭楼、冲车等攻城武器。10月2日，攻城武器完工，联军从水陆两面开始总攻。但是遭到日军炮火猛烈的压制，联军战死800余人，日军趁机杀出城外，放火烧毁了还没有冲到城下的攻城武器。另一方面，由于船只在海上无险可守，在日军强大的炮火下，水军也被迫撤退，朝鲜蛇渡俭使黄世得战死。
10月3日刘綎约陈璘于夜晚偷袭。于是陈璘在当晚8时许率领水军趁涨潮之际向顺天迫近，并于半夜抵近顺天城，同日军开始交战。明水军苦战，但迟迟不见陆军动静，直到潮汐退去。明、朝水军共有战船二十三艘搁浅在海滩上。搁浅的战船随后被日军放火点燃。明军死伤及被俘者甚多，生还者不过140人。4日，联军水军再次对顺天发起进攻，但仍被日军击退。陈璘不明原因，写信质问陆军的刘綎。原来，刘綎和权粟的陆军在前两日攻城中伤亡惨重，同时又接到了泗川城攻击失败的消息，所以迟迟没有出兵。10月7日，仅剩1万余兵力的联军陆军开始撤退，水军也于9日解除了对顺天的海上封锁。刘綎虽然失败，但比董一元的情况要好的多。联军撤退的路上扔下了不少军粮，都被日军当作战利品抢了回去。
击退了明、朝联军三路猛攻的日军于10月15日终于接到了国内传来的回国命令。于是，在朝鲜各地的日军相继开始准备撤军。10月下旬，小西行长通过上交人质的方式，同明将刘綎达成合约，开始撤退。但这一消息却为已退回古今岛的联军水军得知。11月10日，联军水军再度出击至顺天城附近海域实施海上封锁，对日军撤退进行阻拦。小西行长不得不再以上交人质的方式同明朝水军将领陈璘进行交涉，期望和平撤退，但这一议和的行为却遭到了朝鲜水军将领李舜臣的强烈反对，并继续主张进攻日军，故联军水军并未后退，而继续在这一海域实施海上封锁。得知小西军撤退受阻的消息后，已从泗川撤退的岛津义弘、立花宗茂、高桥直次、寺泽广高、宗义智等诸将立即编成了水军船队，前往救援被中朝联军围困的小西行长。而探知日军援军前来的明、朝联军水军随后前往迎击。两军于11月18日凌晨，在露梁海峡遭遇发生激战。此战，亦为整个文禄庆长之役中的最后一战。
1598年11月18日凌晨，想要穿过露梁津的日本水军500支船行进至南海岛西北的小岛，遭遇了事先在竹岛和观音浦埋伏好的联军水军500支战船的夹击。首先交战的是用心侦查的立花宗茂、高桥统增兄弟二人。立花家臣池边贞政奋勇冲锋率先登上陈璘的旗舰，但被明军乱枪刺死。联军水军先锋因此节节败退。老将邓子龙见状与李舜臣一起出动主力助战，岛津义弘见状也率领日军水军主力迎敌，双方陷入猛烈激战。岛津义弘的部队遭到了沉重的打击，伤亡惨重，大将桦山久高虽然率领部队突破了露梁津，但也被联军切断了归路，与大部队失去了联系。桦山久高误打误撞来到了观音浦，船只触礁，只能徒步逃到南海岛东岸。岛津义弘的旗舰也因为潮汐的原因与舰队脱离，被联军战船包围，陷于危机之中。老将赵子龙看准机会向岛津义弘的旗舰发动冲锋，但立花宗茂、宗义智从侧面杀来营救岛津。双方都知道，这是最后一战了，必须以死相拼……天色渐渐明亮，日军见战况不利撤退，约损失200艘船。而明朝老将邓子龙，朝鲜水军统帅李舜臣战死，损失战船100余艘。
1598年11月19日，小西行长避开南海岛北部，迂回走南边于20日到达了巨济岛，并收纳了残留在南海岛的桦山久高所部。23日，加藤清正等人从釜山回国。24日，毛利吉城等从釜山回国。25日，小西行长、岛津义弘等从釜山回国。至此，出征朝鲜的日本大名已全数从朝鲜撤回日本，丰臣秀吉征服朝鲜和明朝的野望成为了泡影。
