前秦攻占彭城、下邳与谢玄、刘牢之北伐
前秦建国初期在关中发展。前燕国力衰微之时，前秦趁机一举灭掉前燕，尽有其地，疆域东至大海，结束了历时十九年的前秦、前燕、东晋三国鼎峙局面，青徐兖地域开始处于前秦的统治之下。
前秦在苻坚统治时期，国力强盛。桓温北伐时，前秦与前燕暂时结成联盟，但前秦并未参战，只是派兵向东进驻颍川，对晋军起到威慑作用。“晋大司马桓温伐慕容暐，次于枋头。暐众屡败，遣使乞师于坚，请割武牢以西之地。坚亦欲与暐连横，乃遣其将苟池等率步骑二万救暐。王师寻败，引归，池乃还”[165]。《资治通鉴》卷一〇二《晋纪二四》海西公下太和四年：“八月，遣将军苟池、洛州刺史邓羌帅步骑二万以救燕，出自洛阳，军至颍川；又遣散骑侍郎姜抚报使于燕。”海西公太和五年（370），前秦苻坚坐收渔翁之利，灭掉前燕，青徐兖地域尽入前秦疆域，前燕“诸州郡牧守及六夷渠帅尽降于坚”[166]。苻坚据有青徐兖之后，曾下令迁徙陈留、东阿万余户民众充实青州。看来青州遭到石虎的大屠杀后，至此仍未完全恢复，依然人烟稀少，苻坚不得不从兖州移民来充实青州。
前秦灭燕之后，开始有计划的向南、西、北等方向展开统一北方的征伐。首先南攻巴蜀，咸安元年（371）伐仇池，宁康元年（373）取蜀，太元元年（376）西灭前凉张天赐，又北逐鲜卑涉翼犍之代国。东晋方面，桓温北伐失败后，归罪于豫州刺史袁真，致使袁真、袁瑾父子反叛于寿春，归降前燕。至简文帝咸安元年（371）正月，桓温才平定豫州袁氏叛乱。前秦东征西伐时正是东晋桓温废帝欲篡位之时，无心顾及前秦统一北方的军事行动。孝文帝宁康元年（373），桓温在死后，东晋内争局面才逐步改变。
（1）前秦攻占淮泗重镇彭城、下邳
前秦灭掉凉、代之后，南征东晋不再有后顾之忧。于是在公元378年七月，前秦发动了进攻东晋的淮南战役，虽然前秦失败，但是夺取了位于淮泗水道的重镇彭城、下邳，使东晋的防线撤至淮南，由守淮退至守江。淮南之战后，前秦以毛当为平南将军、徐州刺史，镇彭城；毛盛为平东将军、兖州刺史，镇胡陆；王显为平吴校尉、扬州刺史，戍下邳[167]。前秦欲统一南北的淝水之战中，徐州淮泗地区之彭城是前秦四路大军东路军的集聚地，苻坚“发长安，戎卒六十余万，骑二十七万，前后千里，旗鼓相望。坚至项城，凉州之兵始达咸阳，蜀汉之军顺流而下，幽冀之众至于彭城，东西万里，水陆齐进。运漕万艘，自河入石门，达于汝颍”[168]。前秦欲一举灭掉东晋，各路大军最终必定直捣东晋京城建康，而淮泗之东路军离建康最近，最具威胁。然而，前秦的东路军进至彭城后，再不见有其它举动，慕容垂、姚苌所率之军更是如此。可见苻坚四路大军同时进攻东晋的部署并未落实，真正作战时只是苻坚、苻融进攻项城、寿阳的主力军孤军作战而已。
幽州苻洛兄弟反叛，苻坚派军平叛，青州便利的海路交通在这次平叛中发挥了重要作用。苻坚海、陆两道派遣将领率大军进攻，海路由“屯骑校尉石越自东莱帅骑一万，浮海袭和龙，斩平规，幽州悉平”[169]。
（2）东晋谢玄、刘牢之北伐
东晋乘前秦淝水之战后国家倾败之际，以谢玄、刘牢之为首进行了北伐。淝水之战后第二年即公元384年八月，谢安奏请开拓中原，讨伐前秦。这次北伐首要战场就是青徐兖地域。九月，谢玄进军下邳，前秦徐州刺史赵迁弃彭城而逃，谢玄遂进据彭城；刘牢之进攻兖州，前秦兖州刺史张崇弃守鄄城逃归慕容垂，[170]刘牢之遂“进屯鄄城，讨诸未服，河南城堡承风归顺者甚众”[171]。
攻下兖州后，为了解决继续深入北伐所需军粮的运输问题，谢玄采纳督护闻人奭的计策，堰吕梁水以兴漕运，“兖州既平，玄患水道险涩，粮运艰难，用督护闻人奭谋，堰吕梁水，树栅，立七埭为派，拥二岸之流，以利运漕”[172]，解决了军粮不继的问题。谢玄派淮陵太守高素率三千人进军青州广固，受降青州刺史苻朗。令龙骧将军刘牢之、济北太守丁匡占据黄河南岸要津碻磝，开始进攻冀州，东晋济阳太守郭满占据黄河南岸要津滑台，不久收复三魏[173]。谢玄收复青徐兖司豫后，认为应当镇守梁国、彭城二地，而东晋朝廷却令其退守淮阴和寿阳，结果难以控制北方地区。太元十一年（386）黎阳翟辽、泰山张愿各据郡反叛，至此东晋朝廷才令谢玄还镇淮阴，朱序镇守淮北重镇彭城[174]。
刘牢之镇守彭城之时，平定彭城民乱，并同前秦将领作战，征战于兖州之泰山、鄄城，起到守边御敌的作用。《晋书》卷八四《刘牢之传》：“牢之以军败征还……守淮阴。后进戍彭城，复领太守。祅贼刘黎僭尊号于皇丘，牢之讨灭之。苻坚将张遇遣兵击破金乡。围太山太守羊迈，牢之遣参军向钦之击走之。会慕容垂叛将翟钊救遇，牢之引还。钊还，牢之进平太山，追钊于鄄城，钊走河北，因获张遇以归之彭城。”但是这一时期内忧外患同时迸发，“袄贼司马徽聚党马头山，牢之遣参军竺朗之讨灭之。时慕容氏掠廪丘，高平太守徐含远告急”[175]，刘牢之不能兼顾，遂被免职。