谢石听说苻坚在寿阳，十分害怕，想用不出战的方法拖垮秦军。谢琰劝谢石听从朱序的建议。十一月，谢玄派广陵相刘牢之率领精兵五千人火速奔赴洛涧，在距离洛涧十里的地方，梁成守着洛涧严阵以待。刘牢之直接向前渡过涧水，攻打梁成，将梁成打败，将梁成和弋阳太守王咏斩杀，又分派部队阻断他们归途的渡口，秦军步兵骑兵崩溃，争相逃往淮水，一万五千名士兵战死。秦国扬州刺史王显等人被抓，兵器、军资全被没收。谢石等各路军队水路陆路并进，秦王苻坚与阳平公苻融登上寿阳城观望，苻坚看到晋军队列整齐，阵形严密，又望见八公山上的草木，以为都是晋国士兵，回头对苻融说：“东晋是强敌，怎么能说他们弱呢？”说完脸上露出怅然若失又恐惧的神色。
秦军紧逼淝水布阵，晋军无法渡过淝水。谢玄派使者对阳平公苻融说：“你孤军深入，紧逼淝水布阵，这是打持久战的计策，不是打算速战速决。如果能把阵形稍稍后撤，让晋军渡过淝水，一决胜负，不好吗？”秦国各将领都说：“我军人多晋军人少，不如遏制他们，让他们不能上岸，可以万无一失。”苻坚说：“我们就率兵稍稍退后一些，让他们一半人渡过淝水，我们派铁骑部队迅速攻杀，没有不胜的道理。”苻融觉得很有道理，于是率兵后退。秦兵一撤退就无法阻止，谢玄、谢琰、桓伊等人率军渡过淝水攻打他们。苻融骑马驰奔巡视阵营，想要率领退却的秦兵，可是马摔倒了，苻融被晋兵杀死，秦兵因此四处溃逃。谢玄等人乘胜追击，追到青冈。秦兵大败，相互踩踏而死的人，遮蔽了山野堵塞了山川。逃走的人听到风声和鹤的叫声，都以为是晋兵追上来了，日夜不敢停歇，走在野草里，睡在露天下，加上饥饿寒冷，十个人中死了七八个人。当初，秦兵稍稍撤退时，朱序在阵后大喊：“秦兵战败了。”于是众人迅速奔跑撤退。朱序趁机与张天锡、徐元喜都来投奔东晋。东晋缴获秦王苻坚所乘坐的云母车以及礼服、器械、军资、珍宝、牲畜等不计其数，又攻占寿阳，抓获淮南太守郭褒。