太元三年(378年)，前秦征南大将军苻丕率步兵、骑兵七万人进攻襄阳。苻坚又另派十万多人，分三路合围襄阳。襄阳守将朱序死守近一年。
太元四年(379年)，襄阳城破，朱序被俘。苻坚又派彭超围攻彭城，秦晋淮南之战爆发。谢安在建康布防，又令谢玄率五万北府兵，自广陵起兵应敌。谢玄四战四胜，全歼秦军。
太元五年(380年)五月，谢安因功被任命为卫将军、开府仪同三司，进封建昌县公。
太元八年，苻坚率领着号称百万的大军南下，志在吞灭东晋，统一天下。当时军情危急，建康一片震恐，可是谢安依旧镇定自若，以征讨大都督的身份负责军事，并派谢石、谢玄、谢琰和桓伊等率兵八万前去抵御。谢玄手下的北府兵虽然勇猛。但是前秦的兵力是东晋的十倍多，谢玄心里到底有点紧张。出发之前，谢玄特地到谢安家去告别，请示一下这个仗怎么打。但谢安神情泰然，毫无惧色，回答道:“朝廷已另有安排。“过后默默不语。谢玄不敢再问，便派好友张玄再去请示。谢安于是驾车去山中别墅，与亲朋好友聚会，然后才与张玄坐下来下围棋赌别墅。谢安平常棋艺不及张玄，这一天张玄心慌，反而败给了谢安。谢安回头对外甥羊昙说:“别墅给你啦。“说罢便登山游玩，到晚上才返回，把谢石、谢玄等将领，都召集起来，当面交代机宜事务。
当时，桓冲在荆州听说形势危急，打算专门拨出三千精兵到建康来保卫。谢安对派来的将士说:“我这儿已经安排好了，你们还是回去加强西面的防守吧!“将士回到荆州告诉桓冲，桓冲很担心。他对将士说:“谢公的气度确实叫人钦佩，但不懂得打仗。眼看敌人就要到了，他还那样悠闲自在:兵力那么少，又派一些没经验的年青人去指挥。我看我们都要失败被俘了。“
同年十一月，谢玄遣部将刘牢之以五千精兵奇袭，取得洛涧大捷。十二月，双方决战淝水，谢玄、谢琰和桓伊率领晋军七万战胜了苻坚和苻融所统率的前秦十五万大军，并阵斩苻融。淝水之战以晋军的全面胜利告终。
当晋军在淝水之战中大败前秦的捷报送到时，谢安正在与客人下棋。他看完捷报，便放在座位旁，不动声色地继续下棋。客人憋不住问他，谢安淡淡地说:“没什么，孩子们已经打败敌人了。“直到下完了棋，客人告辞以后，谢安才抑制不住心头的喜悦，舞跃入室，把木屐底上的屐齿都碰断了。淝水之战的胜利，使谢安的声望达到了顶点。以总统诸军之功，进拜太保。
听到这里的小花，心里不由得一震。这个老祖先要倒霉了。飞鸟尽良弓藏，狡兔死走狗烹。这是小花一个小女孩子都知道的道理，难道谢安这个老江湖会不知道？他的功劳太大了，大到了朝廷和皇帝封无可封的地步，他当然会成为朝廷或者是皇帝下一个下手目标了。