王猛死後，苻堅對天痛哭道：“這是上天不想讓我一統天下啊！”苻堅按照漢大將軍霍光的規格安葬王猛，又諡王猛為“武侯”，這本是諸葛亮的諡號，苻堅以此來說明王猛在他心中的地位。
王猛死後，前涼的張天錫又開始與東晉接觸，準備向東晉稱藩。苻堅便以這個理由進攻前涼。他先派尚書郎閻負和梁殊去詔請張天錫入長安，同時派苟萇、毛盛、梁熙、姚萇等率十三萬大軍分四路陳兵邊境，同時命秦州刺史苟池、河州刺史李辯、涼州刺史王統作為預備軍。如果張天錫拒絕來長安，便立刻發兵。
張天錫是個很梗氣的人，他問前秦的這兩個使者：“你們是想站著回去呢？還是想躺著回去？”
閻負和梁殊一聽張天錫語氣不善，遂反問道：“您是想奉詔去長安呢？還是不去長安？”
張天錫道：“我本是晉朝之臣，世代忠義，豈肯奉秦賊的詔？”
閻負和梁殊二人一聽，估摸著張天錫是已經下定決心讓他們躺著回去了，都很驚訝。閻負說：“你們涼國曾經向劉漢和石趙稱臣，後來又向我大秦稱臣，憑什麽自稱世代忠義？”
梁殊也嘆道：“可惜涼州自先祖武公蒞涼以來，歷經八世七十多年，如今卻要亡在你的手裏。”
無論二人如何勸說，張天錫已經是下定決心和前秦翻臉了。他讓士兵把兩個人綁在軍門，然後招來士兵，一齊向二人射箭。張天錫說：“凡是不能射中二人的，一定是有異心。”士兵們一齊去射二使，竟然沒有一支箭射偏。射完之後，兩個人就像全身長滿了刺一樣。
前秦得到二使被射殺的消息，便開始進攻。苟萇先派揚武將軍馬暉、建武將軍杜周，西出恩宿（今甘肅永昌南），截斷張天錫逃走的路，然後派姚萇、梁熙、王統及李辯四路兵馬從清石津渡黃河，進攻河會城（黃河與湟水會合處）。前涼驍烈將軍梁濟戰敗投降。
苟萇也帶一支軍隊由石城津（今蘭州西北）渡黃河，與梁熙等四部會合後，猛攻纏縮城（今甘肅永登南），很快攻下城。前涼的主將馬建雖帶兵五萬，卻不敢出戰，而是退守清塞（今甘肅石浪境）。同時張天錫又派征東將軍常據率軍三萬進駐洪池嶺（今甘肅武威南），自率軍五萬屯金昌（今甘肅永昌北）。三軍形成三足之勢。
不久，姚萇與馬建決戰。馬建失敗後雖然仍有一定的實力，但他無心再戰，率一萬餘人投降，剩下的涼兵不願投降，全部潰逃。苟萇攻入洪池，常據兵敗後不願投降而自殺。
張天錫再派司兵趙充哲率最後的一支軍事力量與前秦軍戰於赤岸（今甘肅武威東南），整整打了兩天。涼軍再敗，四萬人隻剩下一千多人，趙充哲戰死沙場。此時張天錫隻有一萬多人了，他仍然堅持，準備堅守金昌城。這時金昌城內發生叛亂，張天錫隻好帶三千騎兵逃回姑臧（今甘肅武威）。很快前秦軍又追到姑臧，張天錫知道自己無力再戰，隻好出降，前涼滅亡。時晉太元元年（376）八月。苻堅以梁熙為涼州刺史，留守姑臧。把涼州有勢力的豪族七千餘戶遷到關中，封張天錫為歸義侯，拜北部尚書。
前秦滅涼的時候，東晉桓沖派兵攻秦以分散秦軍的兵力。兗州刺史朱序、江州刺史桓石秀與荊州督護桓羆進攻漢水流域，豫州刺史桓伊從壽陽向北進兵，淮南太守劉波以水軍從淮河向山東進攻，但各路軍隊都沒取得實質性的進展。前涼被滅後，東晉所有軍隊又撤回防地。
到這個時候，北方諸國隻剩下代國沒有被前秦兼併了。
代王猗盧死後，代國內亂不斷，代王王位在很短時間內幾經易手後，最後落到拓跋賀傉頭上。賀傉的母親是拓跋猗盧的弟媳婦惟氏。惟氏一直執掌代國朝權到324年病亡後，賀傉才有機會親政。賀傉僅親政一年便病逝，其弟拓跋紇那繼王位。
拓跋紇那與哥哥文弱懦弱的性格大不相同，他性格剛猛又好用兵，很快統一了各部。但327年，紇那與石虎打了一仗，紇那大敗，隻得遷都大寧（今河北張家口）。329年，賀蘭部及其他各部酋長擁立紇那的堂侄，也就是拓跋鬱律的兒子拓跋翳槐為代王。紇那帶兵鎮壓，兵敗後逃往遼東的宇文部。拓跋翳槐成為代王。
公元335年，翳槐和當年擁立他的舅父賀蘭部酋長賀蘭藹頭發生矛盾，並引發戰爭。紇那趁機從宇文部返回，再次被擁立為代王，翳槐則逃到後趙。公元337年，翳槐在後趙將領李穆保護下來到大寧，奪回代王位。紇那逃到前燕，後不知所終。
晉鹹康四年十月，翳槐死，遺命其異母弟拓跋什翼犍為代王。拓跋什翼犍繼位時十九歲，在位時進行了大規模有利於國家的改革，並且不參與中原的戰爭，國力得到發展，在位三十餘年，其疆域發展到東起穢貊（今黑龍江嫩江流域），西到破落那（今中亞的亞費爾幹納盆地），南達陰山（內蒙古自治區中部到河北省西北部），北至沙漠，人口近百萬。
苻堅滅涼之後，便以幽州刺史、行唐公苻洛為北討大都督，率十萬軍隊進攻代國；又命後將軍俱難、鎮軍大將軍鄧羌、尚書趙遷、李柔、前將軍朱肜、前禁將軍張蠔、右禁將軍郭慶等分領共二十萬大軍，與苻洛聯攻代國。
代國雖然中興，但力量仍然不能與前秦相提並論，代王什翼犍又在重病之中，病得連路都走不了，根本沒辦法指揮戰鬥。代軍屢戰屢敗，代王什翼犍隻好向秦國稱藩。苻堅於是撤兵。此時為太元元年（376）十二月。
王猛死後，前涼的張天錫又開始與東晉接觸，準備向東晉稱藩。苻堅便以這個理由進攻前涼。他先派尚書郎閻負和梁殊去詔請張天錫入長安，同時派苟萇、毛盛、梁熙、姚萇等率十三萬大軍分四路陳兵邊境，同時命秦州刺史苟池、河州刺史李辯、涼州刺史王統作為預備軍。如果張天錫拒絕來長安，便立刻發兵。
張天錫是個很梗氣的人，他問前秦的這兩個使者：“你們是想站著回去呢？還是想躺著回去？”
閻負和梁殊一聽張天錫語氣不善，遂反問道：“您是想奉詔去長安呢？還是不去長安？”
張天錫道：“我本是晉朝之臣，世代忠義，豈肯奉秦賊的詔？”
閻負和梁殊二人一聽，估摸著張天錫是已經下定決心讓他們躺著回去了，都很驚訝。閻負說：“你們涼國曾經向劉漢和石趙稱臣，後來又向我大秦稱臣，憑什麽自稱世代忠義？”
梁殊也嘆道：“可惜涼州自先祖武公蒞涼以來，歷經八世七十多年，如今卻要亡在你的手裏。”
無論二人如何勸說，張天錫已經是下定決心和前秦翻臉了。他讓士兵把兩個人綁在軍門，然後招來士兵，一齊向二人射箭。張天錫說：“凡是不能射中二人的，一定是有異心。”士兵們一齊去射二使，竟然沒有一支箭射偏。射完之後，兩個人就像全身長滿了刺一樣。
前秦得到二使被射殺的消息，便開始進攻。苟萇先派揚武將軍馬暉、建武將軍杜周，西出恩宿（今甘肅永昌南），截斷張天錫逃走的路，然後派姚萇、梁熙、王統及李辯四路兵馬從清石津渡黃河，進攻河會城（黃河與湟水會合處）。前涼驍烈將軍梁濟戰敗投降。
苟萇也帶一支軍隊由石城津（今蘭州西北）渡黃河，與梁熙等四部會合後，猛攻纏縮城（今甘肅永登南），很快攻下城。前涼的主將馬建雖帶兵五萬，卻不敢出戰，而是退守清塞（今甘肅石浪境）。同時張天錫又派征東將軍常據率軍三萬進駐洪池嶺（今甘肅武威南），自率軍五萬屯金昌（今甘肅永昌北）。三軍形成三足之勢。
不久，姚萇與馬建決戰。馬建失敗後雖然仍有一定的實力，但他無心再戰，率一萬餘人投降，剩下的涼兵不願投降，全部潰逃。苟萇攻入洪池，常據兵敗後不願投降而自殺。
張天錫再派司兵趙充哲率最後的一支軍事力量與前秦軍戰於赤岸（今甘肅武威東南），整整打了兩天。涼軍再敗，四萬人隻剩下一千多人，趙充哲戰死沙場。此時張天錫隻有一萬多人了，他仍然堅持，準備堅守金昌城。這時金昌城內發生叛亂，張天錫隻好帶三千騎兵逃回姑臧（今甘肅武威）。很快前秦軍又追到姑臧，張天錫知道自己無力再戰，隻好出降，前涼滅亡。時晉太元元年（376）八月。苻堅以梁熙為涼州刺史，留守姑臧。把涼州有勢力的豪族七千餘戶遷到關中，封張天錫為歸義侯，拜北部尚書。
前秦滅涼的時候，東晉桓沖派兵攻秦以分散秦軍的兵力。兗州刺史朱序、江州刺史桓石秀與荊州督護桓羆進攻漢水流域，豫州刺史桓伊從壽陽向北進兵，淮南太守劉波以水軍從淮河向山東進攻，但各路軍隊都沒取得實質性的進展。前涼被滅後，東晉所有軍隊又撤回防地。
到這個時候，北方諸國隻剩下代國沒有被前秦兼併了。
代王猗盧死後，代國內亂不斷，代王王位在很短時間內幾經易手後，最後落到拓跋賀傉頭上。賀傉的母親是拓跋猗盧的弟媳婦惟氏。惟氏一直執掌代國朝權到324年病亡後，賀傉才有機會親政。賀傉僅親政一年便病逝，其弟拓跋紇那繼王位。
拓跋紇那與哥哥文弱懦弱的性格大不相同，他性格剛猛又好用兵，很快統一了各部。但327年，紇那與石虎打了一仗，紇那大敗，隻得遷都大寧（今河北張家口）。329年，賀蘭部及其他各部酋長擁立紇那的堂侄，也就是拓跋鬱律的兒子拓跋翳槐為代王。紇那帶兵鎮壓，兵敗後逃往遼東的宇文部。拓跋翳槐成為代王。
公元335年，翳槐和當年擁立他的舅父賀蘭部酋長賀蘭藹頭發生矛盾，並引發戰爭。紇那趁機從宇文部返回，再次被擁立為代王，翳槐則逃到後趙。公元337年，翳槐在後趙將領李穆保護下來到大寧，奪回代王位。紇那逃到前燕，後不知所終。
晉鹹康四年十月，翳槐死，遺命其異母弟拓跋什翼犍為代王。拓跋什翼犍繼位時十九歲，在位時進行了大規模有利於國家的改革，並且不參與中原的戰爭，國力得到發展，在位三十餘年，其疆域發展到東起穢貊（今黑龍江嫩江流域），西到破落那（今中亞的亞費爾幹納盆地），南達陰山（內蒙古自治區中部到河北省西北部），北至沙漠，人口近百萬。
苻堅滅涼之後，便以幽州刺史、行唐公苻洛為北討大都督，率十萬軍隊進攻代國；又命後將軍俱難、鎮軍大將軍鄧羌、尚書趙遷、李柔、前將軍朱肜、前禁將軍張蠔、右禁將軍郭慶等分領共二十萬大軍，與苻洛聯攻代國。
代國雖然中興，但力量仍然不能與前秦相提並論，代王什翼犍又在重病之中，病得連路都走不了，根本沒辦法指揮戰鬥。代軍屢戰屢敗，代王什翼犍隻好向秦國稱藩。苻堅於是撤兵。此時為太元元年（376）十二月。