公元383年八月初二,苻坚派遣阳平公苻融率领张蚝、慕容垂等人率领步骑兵二十五万为先锋,开始南下伐晋。初八日,苻坚亲自从长安出发,总计步卒六十多万,骑兵二十七万,旌旗、战鼓,遥遥相望,前后延绵千里。九月,苻坚来到项城,凉州兵才刚抵达咸阳,蜀地和汉中的士兵才刚顺流而下,幽州、冀州的士兵到达彭城。东西方延绵万里,水陆并进,运送物资的漕船有上万艘。阳平公苻融等人率领三十万大军,先期抵达颍口。

东晋闻报,就下诏任命尚书仆射谢石担任征虏将军、征讨大都督,任命徐、兖二州刺史谢玄为前锋都督,和辅国将军谢琰、西中郎将桓伊等人,总共率领八万兵马前去抵御。同时派龙骧将军胡彬率领五千水军增援寿阳。当时前秦兵势非常强盛,建康城内震惊恐惧。谢玄人朝,向谢安问计,谢安泰然自若,回答说:“已经另外有旨意了。”接着就沉默下来。谢玄不敢再说什么,就让张玄重新请求命令。谢安让车驾驶往山中别墅,把亲朋好友全都请来,和谢玄下围棋来赌别墅的归属。谢安下围棋经常会输给谢玄,但是当天,谢玄恐惧,在有利的情况下反而难以取胜。桓冲深深地担心都城的安全,派遣三千精锐前去守备京城,谢安坚决推辞。桓冲对辅佐官员说:“谢安石有高居朝堂的气量,却不懂军事。如今大敌将至,他还继续游玩、清谈,派不懂事的年轻人去抵御,军队数量又少,力量又弱,天下事已经可以知道了,我将要成为蛮夷的臣民啦。”

冬季十月,苻融等人攻打寿阳,十八日破城,俘虏平虏将军徐元喜等人。慕容垂攻克郧。胡彬听说寿阳失陷,就退守硖石,苻融前进攻打他。前秦卫将军梁成等人率领五万兵马屯扎在洛涧,在淮水上竖起栅栏,以抵挡东方来的晋军。谢石、谢玄等人距离洛涧二十五里,列开军阵,因为忌惮梁成而不敢前进胡彬粮草吃尽,秘密派遣使者去告诉谢石等人,但使者被前秦军逮住,押送到苻融面前。苻融派遣使者禀报苻坚,于是苻坚就把大军留在项城,率领八千精锐骑兵,兼程前往寿阳和苻融会合。他派遣尚书朱序去劝说谢石投降,朱序私下对谢石等人说:“倘若百万秦军全都到来,确实难以抵敌。如今趁着他们各路兵马没有集结起来,应当快速发起进攻。要是挫败他们的前锋,则敌人胆气已丧,就可以趁机将其击破了。”

谢石听说苻坚就在寿阳,非常害怕,想要不战以使秦军疲惫,谢琰劝谢石听从朱序的建议。十一月,谢玄派遣广陵相刘牢之率领五千精兵前往洛涧,政打梁成,大败敌军,斩杀梁成和弋阳太守王咏。他还分兵断绝了前秦军后撤的渡口,前秦的步骑兵彻底崩溃,争相跃入淮水,士卒战死一万五千人,俘虏了前秦扬州刺史王显等人,全部缴获军资器械。于是谢石等各路兵马就水陆并进。苻坚和苻融登上寿阳城头眺望,只见晋军队列整齐,又看到八公山上的草木,都以为是晋兵。苻坚转头对苻融说:“这也是敌手啊,谁说他们弱呢?”开始露出了恐惧的神色。前秦军通近淝水列阵,晋兵无法渡江。谢玄派人对苻融说:“您大军深入,却在江岸布阵,这是持久的计划,不是想速战速决。倘若把阵列略微向后移动,使得晋兵能够渡过河去,一决胜负,不是很好吗?”前秦众将都说:“我众敌寡,不如堵住他们,使他们不能渡河,可以万全。”但是苻坚却说:“只要率军略微后退,让他们渡到一半的时候,我派铁骑冲杀过去,就没有不胜的道理。”苻融也颇以为然,于是就勒兵后退。

谁想到前秦军才刚后退,朱序就在阵后高呼:“秦兵败啦!”于是众人就此崩溃。谢玄、谢琰、桓伊等人领兵渡过淝水发起攻击,苻融骑马巡视军阵,想要阻止后退,结果马倒人翻,被晋兵所杀。谢玄等人趁胜追击,一直追到青冈,前秦军大败,自相践踏而死的尸体遮蔽原野,堵塞河川。那些逃走的人风声鹤唳,都以为晋军就要杀到了,昼夜都不敢停息,在草地上奔走,在原野上露宿,加上饥寒,死掉了十之七八。苻坚本人也中了流箭,单人匹马逃到淮北。后来他对张夫人说:“我如今还有什么面目治理天下呢?!”