棋局如战场，谢安显然深谙此道，他虽然无甚军事才能（淝水之战从始至终，只见谢安淡定从容，没见他使出一招具体的克敌之计）却用了一道特殊的诏令，亮明了他本人对此战的态度—面对百万大军压境，江山社稷危悬，他的选择，是以谢氏子弟，共赴国难！故接到诏令之后，谢石、谢玄、谢琰等人虽然心中依旧没底，但都毅然地踏上征途；龙骧将军胡彬也率所部水师，全力以赴的向寿阳方向增援。
晋军终于也亮出了利剑，但可惜的是，在战场之上，打仗靠的绝不仅仅只是勇气，还必须靠硬实力说话。十月十八日，距离苻融大军抵达寿阳才过半月，行军至半途的胡彬得到了前线传来的噩耗：在三十万前秦大军的猛烈攻击下，寿阳城已经沦陷，守将徐元喜等人被俘。
寿阳，即之前的寿春，楚国曾以此地为都，袁术曾据此城称帝，东晋晋元帝在位时，将寿春改名为寿阳。从地理上看，寿阳位于淝水西岸，北临淮河，向东南去不到百里，便是晋国的另一重镇合肥，在当时，享有“淮南水陆枢纽”之美誉。随着此城失守，苻融三十万大军集体渡过了淮水，在淝水西岸构筑阵地；晋军出师不利，胡彬只得带着五千军队向西方回撤，准备与谢石、谢玄的主力大军会合。
然而，胡彬所部的动向，很快又被秦军的骑哨探得。苻融闻讯，忙派遣部将梁成率军五万，对胡彬展开追击；另外，因担心桓冲随时会派出荆州军驰援淝水战场，苻融驻军寿阳之后，又下令慕容垂，让他率领由鲜卑人组成的三万军队转道向西，前往攻打郧城（在今湖北安陆一带），以拦截荆州军东进。当月，梁成、慕容垂二人皆传回捷报—梁成所部五万人，已成功追上胡彬，将五千晋军包围于硖石（在今安徽凤台县西南）；慕容垂也凭借三万鲜卑士兵，轻松攻克了郧城，斩杀该地的晋军守将。
晋军连连失利，严重动摇了谢石、谢玄二位主帅的决心。胡彬被五万秦军包围之后，闻讯赶来救援的八万北府兵行至洛涧（淝水以东的另一条黄河支流，在今安徽淮南市东）以东二十五里处，便一齐裹足不前。梁成听闻此事，大喜，忙下令对胡彬驻守的硖石展开急攻，同时又分出部分军士，在淮水—洛涧之间设置障碍，以防止谢石、谢玄的主力部队渡过洛涧。胡彬率五千军士奋战多日，人人带伤，粮草尽绝，他见援军迟迟不敢渡河，绝望之下，派人杀出重围，送信给谢石、谢玄二人。书信中道：“眼下贼寇强盛，我军又已断粮，胡彬不惧一死，可惜的是此生再无机会见到自家官兵了。”
书信送出后，很快便被梁成部下截获，梁成转将该书信送给苻融过目。苻融遂报告苻坚道：“晋军军心已乱，我军就快取胜了，微臣担心他们会逃走，请陛下速速前来支援我军！”苻坚得到该消息时，正身处项城，那些从辽东、凉州等偏远地区征发的大量援军尚未能赶到前线。苻坚对苻融的话信以为真，于是传令下去：“自即日起，朕亲率八千精骑赶往寿阳前线指挥作战，其余将士们听令，你等继续留在项城，等待后续援军抵达。”
此令下达后，苻坚亲率八千骑兵向南驰援，数日之内，亦抵达寿阳前线。苻融带人前来拜见，启禀苻坚道：“晋将胡彬已被梁成包围，谢石、谢玄驻军于洛涧东岸，据此地一百余里。据臣下观察，其二人明知同胞命在旦夕，却只敢隔岸观火，不敢踏过洛涧一步，可知晋人战心已怯。陛下若能选择一上好说客，前往说服谢石、谢玄归降，则我军兵不血刃，即可全得江东矣！”
苻坚深以为然，询问一众属下道：“谁人敢当此任？”话音方落，一人应声出列，答道：“卑职愿意前往。”苻坚目视此人，正是当日孤身镇守襄阳，现已是秦国度支尚书的朱序。苻坚大喜道：“像爱卿这样的硬骨头，尚且归降于朕，由你前去游说，足以显示出朕的仁义品德。你到晋军大营后，可好生劝说谢石、谢玄等人，就说秦、晋两国强弱悬殊，让那二人不要再做无谓的抵抗。”朱序连连点头，也不要求随从，仅一人一骑孤身去了。
朱序来到晋军营地之后，求见谢石、谢玄。那二位主帅见来者是已降了秦国的朱序，只道他真的是奉苻坚之命前来劝降的，勃然大怒，就要下令斩之。朱序从容解释道：“二位将军错怪在下了—昔日，卑将仅凭二万军士，与二十万秦军鏖战近有一年，直到李伯护临阵倒戈，襄阳城方才失陷，我岂是贪生怕死之人？襄阳失陷后，我曾有以身殉国之念，可是后来一想：我这么死去当然容易，但想再寻机会报效国家可就极难了，所以我才留着这条性命，不惜被国人唾骂，一直身处敌营。今日前来拜见二位将军，为的并非劝降，正为献上击败秦军之计。”
谢石、谢玄听后，稍一分析，觉得以朱序的忠勇，这番解释可以相信。于是二人连忙请朱序坐了，诚恳地向他求教击败百万秦军的计策。朱序娓娓说道：“众所周知，此次苻坚为了攻占江南，一举灭晋，不惜劳师动众，共征召军队达百万余人。而我大晋国力相对弱小，能够用来出战的军队，不足二十万，且仅有一半身处东线主战场，恕卑将直言，若是以一敌十，二位将军取胜的机会实在渺茫。不过好就好在，此时秦国的主力部队大多尚前往项城的途中，未曾集合完毕，已抵达前线的军队不过三十万。三十万人之中，苻融已分出三万军队交给慕容垂，用作攻打郧城；又分出五万人交给梁成，用作围困胡彬，这么算下来，留在寿阳的秦国士兵不过区区二十万。而且这二十万人，并非是清一色的氐族士兵，其中混杂着许多汉人、羌人、鲜卑人，不同民族的士兵之间，他们语言不通，习性不同，更谈不上有何凝聚力可言。二位将军若能抓住这一机会，先奇袭洛涧，击败梁成，将胡彬救出包围；然后直捣寿阳，抢在秦军主力抵达之前与苻融展开决战，那么届时战场之上，晋国和秦国的实际参战人数，则分别是八万人和二十万人，在下深信，以二位将军的智慧，以及北府将士的骁勇善战，我军足以克服这等程度的兵力劣势，一战告捷。”
朱序是一名勇将，但这一番分析，如同庖丁解牛一般将秦军的弱点拆解得淋漓尽致，不负智勇双全的美誉，谢石、谢玄听后，如何不欣喜若狂。二人遂劝说朱序就此留下，一道见证接下来奇迹的发生。朱序推辞道：“不可，若我不回去，苻坚定会起疑，那么秦军对我军接下来的攻势便有了提防。再说了，几日之后决战打响，我身处敌军内部，也更方便于策应，此次非得教苻坚的百万大军土崩瓦解不可。”匆匆答话几句，朱序便孤身又回去寿阳，故作羞愧地告知苻坚，说此次游说未能成功。苻坚心想：谢石、谢玄都是晋国宰相谢安推荐的，不肯投降也是情理之中，于是只道朱序已尽力游说，并不责怪。
几日后的一个清晨，在朱序的帮助下已了解秦军内幕的晋国征讨大都督谢石，突然下令以谢玄为首的八万北府军将士，强渡洛涧，救援胡彬！由于晋军此前的表现，一直是胆小怯战，秦军将领梁成根本未预料到他们会在这时突然选择发起全面反攻，故而把五万兵力都部署在胡彬镇守的硖石阵地周围，而在洛涧西岸，他仅留下了极少的军士，以及那些临时设置其实根本没什么作用的障碍物。洛涧之战打响后，谢玄的参军，北府名将刘牢之一舟当先，勇不可当，带着五千水军如旋风一般地席卷至对岸，轻易在洛涧以西建立起阵地，并接应谢玄的大部队过河；与之同时，已是矢尽粮绝的胡彬见援军赶到，士气大振，也下令部下奋不顾身地向外发起冲锋。在两支晋军一内一外的猛烈夹击下，秦军大败，主将梁成，以及其弟梁云，皆被刘牢之斩杀于阵前，其所部军士五万人各自逃生，纷纷被驱赶入淮水，几乎全军覆没。
该年十一月，在洛涧之战中得胜的谢玄，带着缴获得来的大量的兵器、钱粮，以及八万北府精兵，继续向西推进。不日，便顺利抵达淝水东岸，与二十万余秦军沿着江面展开对峙。