八公山上，草木皆兵
西晋的统一仅仅持续了30年左右，这也是魏晋南北朝400余年间仅有的短暂的统一。
“八王之乱”后，匈奴贵族刘渊攻入洛阳，西晋宗室司马睿以都督江南诸军事之便，在南方重建晋朝政权，史称东晋。其时，北方成为各少数族争雄的战场，重新陷入混乱。在100来年中，改朝换代不断，先后建立过十余个民族政权。这些胡汉政权在军事体制上皆以部落组织为特色，少数族的各级首领同时又是各地的地方军政长官，所谓全民皆兵、全族皆兵。同时作为游牧民族，骑兵在北方武装中占据主要地位，成为征战的主力，战斗力极强。水军则由陆军改建，故远远不能与南方相比。在军事领导体制上，北方的少数族皇帝向以本部族为主组成军队主力——中军，并亲自指挥从皇族本部落中专门筛选的战斗力强的士兵构成的禁卫军，禁军以外的军队则由部族的宗室大臣担任指挥，而地方上的军队则称为外军，由其他被统治部族的首领率领。
东晋所代表的南方汉人政权理应北伐复国，但一则忙于内部稳定，另一方面则军事实力有限，长期无暇北顾，祖逖、桓温的北伐也都虎头蛇尾，成效不大。
与此同时，在北方，出身氐族的苻坚在汉人谋士王猛的辅佐下，不断改革政治，发展经济，建立了前秦政权，统一了中国的北方，建立了东起高句丽，西至西域、梁、益等州（今甘肃、陕西、四川等地），南迄江淮的庞大帝国。
统一北方之后，苻坚朝思暮想的就是一举消灭南方的东晋，实现天下的统一。但因为时机尚不成熟，他的这一想法遭到大家的反对。尤其他最信任的谋士王猛在临终之际还苦口婆心地劝他不可贸然发动对东晋的战争。王猛认为：“东晋虽偏安于吴越一隅，但终究秉承中原正统。我们前秦当前最重要的是与邻国搞好关系。臣死之后，请千万不要立即发兵讨伐东晋。在国内的鲜卑、羌族，是我们的仇敌，也终究是国家的祸患，应该想办法逐渐予以消灭，以便使国家安定。”
王猛的这一临终嘱托主要强调两点：第一，前秦虽然在较短的时间里逐一兼并了北方各割据政权，但靠的是强大的军事力量进行征服完成的，内部仍有严重的民族矛盾，刚刚归附的民族多怀二心，只是未有时机得以表现。所以，巩固北方的统一尚需要一个较长的过程，只有在内部整合、巩固的基础上，方可谋求考虑用兵南方。就南方而言，晋室南渡后，一直面临着生死存亡的问题。同时，它虽顿失中原，偏安一隅，但却仍以中原正统自居，有北伐中原，重建全国政权的理想。谢安执政后，又任用贤才，团结大臣，识拔了一批文武人才，在政治、军事方面“君臣辑睦，内外同心”、“百姓乐业，谷帛殷阜”。因中原战乱流寓到南方的北方人民，除有故国之思外，还有保护新家园求安定的思想，并未对东晋政权失望。这就是当时的“时势”。所以，王猛提出在目前刚刚完成北方统一的情况下，应暂“不以晋为图”，即不要贸然发动统一战争，而要与东晋保持友善的睦邻关系，赢得和平，赢得时机。俾可专心于内部问题的解决，为日后一统天下积蓄力量，耐心等待历史机遇，俟各方面条件成熟后，再挥师南下，实现统一。第二，王猛明智地向苻坚指出，目前策略的重心应是保持国内稳定，消化、解决各种矛盾，尤其对当时因军事失败暂时归附前秦的鲜卑、羌等族要留有戒心，并要想法慢慢解决这些问题，保证国家内部的安定。(https://www.daowen.com)
当时的实际情况和后来形势的发展，都证明了这是一份有远见的和正确的战略谋划。因为南北统一的历史条件并不成熟。当时北方和南方的经济条件，均难支撑起一个全国性的政权。但苻坚既不知彼，又不知己，特别是昧于时势，过分迷信自己在军队数量上的优势，认为“有众百万”，“投鞭于江，足断其流”。他没有认识到，中国自东汉以来长期战乱之后，最需要的是休养生息。且历史上传统的“南船北马”问题也未遑在短时间内加以克服，一旦仓促发动统一战争，北方步、骑在南方水泽地区和南方水军面前势必难逞其长。
383年，苻坚终于将王猛的临终嘱托弃置脑后，在国内民族矛盾重重的情况下，踌躇满志地认为统一全国的时机已经成熟，于是征兵27万之众，号称百万，“东西万里，水陆并进”南下攻晋。
面对前秦大军压境，东晋内部暂得团结，除派桓冲前往长江中游御敌外，在正面战场淮南，则由谢石任征讨大将军组织抵抗。谢石任谢玄为前锋都督，率北府兵8万赶往淮南，迎击前秦主力。北府的士兵基本上是战乱期间北方流寓到南方的农民，皆怀有故国之思，有很强的战斗力，是东晋军队的主力。南下之初，前秦军队进展顺利，遂以为南方不堪一击，大军进至项城。苻坚灭东晋心切，径率8 000 轻骑直趋寿阳，并想靠强大的军事威慑逼东晋投降，所以派东晋降将朱序前往东晋劝降。朱序心怀故国，到东晋后，尽告以前秦虚实，劝南方在苻坚大部队主力到达前线之前，迅速击退其前锋，以挫其锐气。东晋方面接受了朱序的建议，速遣北府军进至淝水，苻坚所率前秦先锋隔淝水为阵。苻坚登上寿阳城，远望南崖晋军阵容严整，误以为八公山上的草木也是晋军，遂生惧心。当时谢玄派人向苻坚提出请求，要前秦稍为后撤，以便晋军渡河决战。苻坚满以为可以在晋军半渡时予以袭击，于是答应了晋军的要求，下令部队后撤。谁知这一下反上了当，因为前秦大军是临时匆匆集结的，内中民族成分复杂，早不愿为苻坚卖命，兼之对晋军有畏惧心理，所以一退遂不可收拾，而朱序又作为晋军的内应，在阵后大呼“秦军败矣”。秦军士兵不明真相，以为真的败了，于是自相践踏，只求逃命，遂至大溃。而晋军渡河之后，水陆并进予以追杀。苻坚虽想阻止部队后撤，但难以奏效。时值隆冬，秦军于逃命途中冻死饿死者不计其数，苻坚自己也中流矢，最后收集残卒，数十万人只剩下10万之众，仓皇逃回北方，不久死去。
苻坚仓促之间倾全国之力，伐晋统一全国的尝试以失败和亡国告终，他企图将统一大业“毕其功于一役”，结果是丧师辱国，贻笑千古。突然崛起的前秦不仅未能完成统一大业，反而经淝水之战，流星一样地从历史舞台上消失了。
但东晋并没能进一步扩大战果甚而趁此良机收复北方。因为南方的长者为水军，进军作战虽无长途跋涉之苦，但过了淮水则是北方，水军难逞其长。所以南北双方就以淮水为界，旷日持久地相持处于拉锯战的胶着状态。黄仁宇先生在《赫逊河畔谈中国历史》一书中曾有精辟之论：“北人所擅长的骑兵战术，至此已无法展开有效的发挥。南人所长为水军，不仅兵力以舟楫输送，能够争取战场的主动，而且将士无行军之劳，粮糈有速达之效。只是这种长处，也不能向北延伸使用。淝水之战时，双方受地形限制的情形，已见其端倪。”一直到200多年后的589年，隋文帝杨广才以北方统一南方，结束了这长期分裂割据的历史。