爾朱榮，字天寶，北秀容人氏。他的祖先居住在爾朱川，便以州名為姓氏。經常統領部落百姓，世世代代為酋長。高祖父羽健，登國初年任領民酋長，率領契胡武士一千七百人跟隨聖駕平定晉陽，他率部平定中山。論其功勞朝廷拜授他為散騎常侍。家定居在秀容川，皇帝下詔劃出一塊方圓三百裏的地盤分封給他，讓他長為世業。太祖一開始想南秀容川原野肥沃，打算讓他在那安居樂業，羽健說：“臣家世世代代奉隨國命，侍從聖駕左右。北秀容既然也在分封之內，又靠近京師，臣哪能因封地貧脊與否遷居遠地而與我皇分開。”太祖答應了他的請求。羽健居住的地方，曾經有狗舔地，於是人們沿順著狗舔的地方往下挖，得到一眼甘泉，至今仍叫狗舔泉。爾朱羽健，世祖時謝世。曾祖鬱德，祖代勤，相繼任領民酋長。代勤，是世祖敬哀皇後的舅舅。代勤以皇帝外親加上屢次征戰有功，皇帝又加他百年之蔭，升任立義將軍。他曾經率民圍山打獵，百姓射虎，誤傷他的大腿，代勤讓人拔去箭頭，也不查究是誰幹的，說：“這既然是過失，我哪裏還能興師問罪呢？”治下百姓聽說這事，都被他的慈愛之心打動。高宗末年，朝廷讓他假寧南將軍，任肆州刺史。高祖賜給他梁郡公爵位。爾朱代勤因年老退休，每年都受朝廷布帛百匹的賞賜。活到九十一歲，逝世。朝廷賜給他帛五百匹、布二百匹，贈予鎮南將軍、並州刺史，諡號莊。孝莊初年，爾朱榮因有輔佐擁戴皇帝的功績，代勤又被朝廷追贈為太師、司徒公、錄尚書事。
爾朱榮父親新興，太和年間，繼任為酋長。家中豪富，財貨充足。新興曾經行於馬群之間，看見一條白蛇，頭上長了兩隻角，遊動在馬群前麵。新興覺得十分奇怪，對它說：“你如有神靈，就讓我的牲畜興旺發達。”從此以後，新興治下牛羊之類，日見滋盛，牛羊駝馬，色各為群，不計其數，粟穀麥黍，收成極好。朝廷每次有征戰行動，新興就奉獻他養的私人馬匹，還備好軍糧，以補軍需。高祖嘉賞他的行為，命他為右將軍、光祿大夫。等到都城遷到洛陽之後，皇帝特許他冬天在京朝上，夏天便返回部落。新興每次入時，眾多王公顯貴競相以珍寶玩好送給他，新興則以名馬作為回報。後轉任散騎常侍、平北將軍、秀容地區第一領民酋長。新興每年春秋二季，總是與妻子孩子們一起在川澤之間巡閱畜群，並圍山打獵借以自娛。肅宗朝，新興因年歲已高，請求朝廷傳爵位給兒子爾朱榮，朝廷同意了。新興正光年間去世，享年七十四歲。朝廷贈給他散騎常侍、平北將軍、恒州刺史，諡號簡。孝莊初年，朝廷又贈他假黃鉞、侍中、太師、相國、西河郡王各種稱號。
爾朱榮皮膚潔白，容貌姣美，幼年時代便神機妙算，斷決明達。等到長大之後，喜愛打獵，每次設圍誓眾，就按軍陣的做法，號令嚴肅，無人敢稍有犯越。秀容地界內有三口池塘，都處於高山之上，水清亮，深度不測，相傳叫做祁連池，魏朝稱它們為天池，他的父親爾朱新興，曾經與榮一起在池邊遊玩，突然間，就聽到簫管鼓竹的聲音。新興對爾朱榮說：“古來相傳，凡是聽到這種聲音的人都可官至公輔。我今年歲已高，這征兆當在你身上應驗。你要發憤。”
爾朱榮繼承爵位之後，任直寢、遊擊將軍。正光年間，天下兵起，於是，爾朱榮不再從事牧業，分散牲畜，招集兵士，發給他們衣服馬匹。蠕蠕主阿那環侵犯搶掠皇魏北方，朝廷下詔讓榮代節，任冠軍將軍、別將，隸屬都督李崇北征。爾朱榮率領部下四千人追擊阿那環，越過戈壁地帶，沒有追上，撤兵而還。秀容地區歸附的胡民乞扶莫於攻破郡城，殺了太守；南秀容牧子萬子乞真反叛魏朝，殺死了太仆卿陸延；並州牧子素和婆山侖山僉也起兵叛逆。爾朱榮前後都帶兵一並把他們平定了。又遷任直爾將軍、冠軍將軍，仍為別將。內附魏朝的胡乞、步落堅胡、劉阿如等又在瓜州、肆州等地叛亂，敕勒的北勒步若在沃陽謀反，爾朱榮一並撲滅了叛亂。因為軍功，朝廷封他為安平縣開國侯，食邑一千戶。不久又加授他為通直散騎常侍。敕勒的斛律洛陽在桑乾西叛亂，與費也頭牧子互為犄角，交相呼應，爾朱榮率領騎兵在深井打敗斛律洛陽，把牧子費也頭流放到黃河以西。朝廷給他加號為平北將軍、光祿大夫，假安北將軍，任北道都督。不久又升武衛將軍，很快又加使持節，安北將軍，都督恒、朔州討虜的各路大軍，假撫軍將軍，晉封博陵郡公，又增食邑五百戶。他前麵被授的梁州爵位，聽其轉賜第二個兒子。當時爾朱榮率領軍隊到肆州，肆州刺史尉慶賓畏懼討厭他，緊閉城門，不歡迎他。爾朱榮大怒，攻下城池，便讓他的堂叔爾朱羽生任肆州刺史，在秀容把慶賓抓了起來。這個時候爾朱榮兵威漸漸旺盛，朝廷對他此次舉動也不能怎麽樣。不久，朝廷又命他為鎮北將軍。
鮮於修禮反叛朝廷，爾朱榮上表請求向東討伐，又進號為征東將軍、右衛將軍，都督並、肆、汾、廣、恒、雲六州諸軍事，進官為大都督，加授金紫光祿大夫。當時杜洛周陷於中山，這個時候，皇帝聲稱將親征北方，以爾朱榮為左軍，未成行。等到葛榮吞並洛周，氣勢洶洶，日見逼人。爾朱榮擔心葛榮會南逼鄴城，上表請求派給他騎兵三千東援相州，肅宗沒有答應。又遷升他為車騎將軍、右光祿大夫，不久又進位儀同三司。
爾朱榮想太行山以東賊勢越來越盛，為防止他們向西發展，便派軍隊固守滏口以防敵人侵入。又上書說：“臣以前因為二州頻頻反叛，大軍喪敗，黃河以北沒有援軍，實在是擔心敵人南侵，所以命令精銳騎兵三千人出援相州，京城響應，斷他南望之心，敵人聽說這種聲勢，就會放棄南侵打算。使者還朝，奉敕說：‘念生被殺，寶夤受擒，醜奴、明達都向朝廷傳遞誠意，三輔平安，關、隴寧靜。費穆勇猛軍隊，大殺妖孳蠻人；兩絳狂妄的蜀人，都已低頭認罪。’又承蒙北海王顥率領人馬兩萬鎮守相州。北海王乃是皇孫，名位崇高尊貴，鎮守撫慰鄴城，確實擔得起人們的厚望。臣希望增加他們的配給，盡早派遣。今天關西雖然平定，然士兵未可役使，太行山南麵鄰近的敵人，理無發召，王師雖然眾多，頻頻被其打敗，人們擔驚受怕，形勢實在難以應付。朝廷若不改弦更張，重思方略，那就無法以保萬全。按微臣愚陋的想法，蠕蠕主阿那環荷戴國家厚恩，未必就忘報答，臣請求派一名使者慰問那環。隨即朝廷發兵向東，直趨下口，揚威振武，以搗其背；北海的軍隊，鎮撫相部，加強警備，以擋那環前路；微臣統領的兵士雖少，也盡最大努力，自井陘以北，隘口以西，分別防守險要之地，攻擊其肘腋部位。葛榮雖然吞並洛周，皇上威力未加於他，且他部下人心不齊，完全可以分而化之。”於是，爾朱榮便嚴令約整部下，廣招義勇之士，北方捍守馬邑，東邊塞填井陘。
不久碰上肅宗駕崩，皇帝死得十分突然，爾朱榮聽說，勃然大怒，聲稱肯定是鄭儼、徐紇做的手腳，他與元天穆秘密商議帶兵入京，拯救朝廷，討伐逆賊，安定局勢。於是上表直言說：“臣驚聞德高望重的我皇帝背棄萬民而去，痛苦萬分，號啕頓哭，五髒六腑為之摧裂。臣仰尋詔書旨意，實在震驚扼腕。如今，天下百姓，議論紛紛，異口同聲，都說德高我皇，猝然離世，是被毒害所致。臣等耳聽眾說，靜心細想。上個月二十五日聖體有病，到了二十六日便突然去世。思前想後，這確實讓人弄不明白。況且天子有病，侍奉大臣不離左右，親屬貴戚，皇室禦醫，瞻仰病情，麵奉陛下音旨，親身仰承聖上顧托。哪裏會有剛生病時不召醫生，逝世後沒有料理的事情，這要讓天下人不感到奇怪驚愕，四海百姓不為之垂頭喪氣，辦得到嗎？又皇後生女，稱為儲君，疑惑朝野，表麵悲哀，實則慶幸，宗廟之中，祖先被欺，天下百姓，離心離德，致使七百危如累卵，國家毀於一朝，正是選君於嬰孩之中，寄治乳抱之日，必然導致奸臣逆豎把持朝政，亂臣賊子破壞綱紀，他們便可隨心所欲地指影以行權力，借形而弄詔令，這就是蒙住眼睛捕捉麻雀，塞著耳朵盜取銅鍾。而今秦、隴塵土飛揚，趙、魏雲起霧合，醜奴攻勢逼近豳、雍，葛榮、就德侵犯黃河、海邊一帶，楚兵吳卒近如咫尺。古人說：國家不幸，是鄰國的福氣。他們一旦聽說皇帝逝世，哪個不想占些便宜？臣想德高望重的皇帝以德治天下，且以正君登極，猶且邊境烽火、狼煙不斷，妖寇不滅，何況現在聽從佞臣之計，按照親戚的意見，共推潘妃的女兒哄騙百姓，奉舉尚不會言語的小兒君臨四海，這想使天下安寧和平，愚臣聞所未聞。微臣誠摯希望朝廷留聰明賢良的愛慈之心，冷靜下來，稍作考慮，洞照微臣赤膽忠心，體察微臣誠懇的意圖，讓我趕赴朝廷，參與大議，詢問侍臣皇帝駕崩緣由，調查禁軍所不知道的情況，把徐紇、鄭儼之徒送諸刑律，以雪朝廷齊天大恥，謝答遠近怨怒。然後召集宗族親屬，推選其中年齡合適，聲望很高的人，改承寶運，那就會使四海氣象更新複蘇，實是百姓的幸運。”於是爾朱榮帶領將帥趕赴京師。靈太後十分害怕，下詔命李神軌為大都督，準備在大行設防阻擋。
爾朱榮上表直陳之始，派遣侄子爾朱天光、親信奚毅以及倉頭王相進入洛陽，讓他們與自己的堂弟一起秘密商議廢立之事。天光見到莊帝，陳述爾朱榮的心願，皇帝讚許爾朱榮的想法。爾朱天光等人回到北地，爾朱榮正從晉陽出發。聽說如此，猶自懷疑朝廷所立是否屬實，於是便以銅鑄造高祖以及鹹陽王禧等六王子孫像，造成的是誰誰便應當被奉為君主，隻有莊帝像成功了。爾朱榮軍隊駐紮河內，他又派王相秘密入京奉迎皇帝，皇帝與其兄彭城王劭、弟始平王子正從高渚偷偷渡過黃河來到爾朱榮駐軍處。爾朱榮的將士齊聲高喊皇帝萬歲。當時是武泰元年(528)四月九日。
十一日，爾朱榮擁戴莊帝為君主，莊帝下詔任命爾朱榮為持節使、侍中、都督中外諸軍事、大將軍、開府，兼任尚書令、領軍將軍、領左右、太原王，食邑二萬戶。十二日，文武百官全都在行宮朝拜皇帝。十三日，爾朱榮被武衛將軍費穆的說教所迷惑，便引導迎駕的文武百官到行宮西北，說打算祭祀蒼天。朝廷官僚集合到一起之後，爾朱榮的騎兵列隊環繞，把他們團團圍住，爾朱榮責問大臣們天下喪亂，明帝猝然駕崩的緣由，說這全都怪你們這幫貪婪酷虐的臣子，不相匡救輔佐所導致的結果。說完，便讓士兵亂殺亂砍，王公卿士全都斂手就戮，死者達一千三百餘人，皇弟、皇兄也一起被害，靈太後、年少的君主那天也一齊突然死亡。爾朱榮於是滋生大誌，命令禦史趙元則製造禪文，派數十人把莊帝遷到河橋安頓。到了夜裏四更時，又擁皇帝南還至行宮幕營。莊帝憂憤交加，無計可施，於是命人向爾朱榮宣明旨意說：“帝王更替頻繁，盛衰沒有常度，而今大魏既遭噩運，天下瓦解。將軍您仗義而起，所向披靡，這是天意，不是人力所能。我投奔這裏，本為保存性命，帝王這樣高位豈敢妄自希求。麵對將軍您的逼迫，我所能做的隻能權且順乎您所請而已。而今國運已經轉移，天命在您，將軍您應及時登位。將軍您假如一定推辭不就，打算保存大魏社稷，也任您重擇親賢，共同輔佐擁戴大魏江山。”爾朱榮本已有篡權企圖，於是用金鑄造自己的銅像，連鑄四次，都未成功。當時幽州人劉靈助擅長占卜，被爾朱榮所信任，他說天時人事不可勉強啊。爾朱榮也精神恍惚，難以自持，很久才醒悟過來，繼而便愧慚後悔起來。正在此時，獻武王、爾朱榮外兵參軍司馬子如等痛切直言，陳述不可取而代之的道理。爾朱榮說：“像我這樣罪大惡極的錯誤，我隻有一死以謝朝廷，今天朝廷處在如此危險的關頭，有什麽計策可救國家。”武王等人說：“不如歸還奉戴長樂，以安定天下。”這樣便還奉莊帝即帝位。十四日，皇帝車駕入洛陽帝宮。
這些時，民間有的說要遷都晉陽，有的說爾朱榮縱兵大肆掠奪，人們紛紛驚恐難當，人情洶洶，駭悸震忄栗，京城士子全都外逃，一個不剩，沒誰再敢出頭露麵，衙門空虛，官府廢曠。爾朱榮聽說這種情況，上書說：“臣我世世代代身受朝廷厚望，連年征討，忠於王室，誌在效死。隻因太後婬亂，孝明暴崩，臣便率領義兵，以圖扶立社稷。陛下剛剛登基，人情未安，大兵交雜，難以齊一，以致諸王朝貴橫遭死亡的人數眾多，而今微臣微軀難以堵塞以往的罪責，難以得到亡者的諒解。然而臣追思死難大臣們的聲望德行，真可謂是不朽之人，乞求上天降慈恩之心，微申私責。無上王大人請追贈他帝號，請贈諸王公、刺史們三司之號，死難臣僚中位置處三品之中的請求贈與令仆的稱號，五品之官請贈方伯，六品以下以及平民贈以鎮郡稱號。那些死後無後人能繼承這些稱號的，請求聖上授予他封號爵位。按他們品位高下、級別高低，授予他們相應的稱號，務使皇恩及存達亡，以慰生藉死。”莊帝下詔說：“朕覽表不勝梗塞。朕德行平庸，難感天地，導致如此殘酷濫殺的局麵出現，回首往事，真是痛入骨髓。可按表疏中所說的去做。”從此以後，贈蔭一事，漸漸變得濫而無味，平庸的人、品位微賤的官員，動不動就做上大官，這被有識之士所看不起。武定年間，齊文襄王開始糾正其過失，追贈褒揚漸有章法。爾朱榮啟奏皇帝派使者沿城安慰那些受驚嚇的人，從這以後人心漸漸安定下來，朝中逃亡的官員也漸漸歸到朝廷。爾朱榮又奏請輪番當值，每逢朔望那天，當值官員引見三公、令仆、尚書、九卿以及司州牧、河南尹、洛陽河陰執事等官，參與討論治國方略、王道經綸，作為慣例沿襲下去。
五月，爾朱榮返回晉陽。七月，皇帝下詔說：“天地統領萬物，星象增其光輝；皇帝統治天下，大臣助其大業。所以周道中缺，齊、晉立下濟世之忠；殷運虧損，彭、韋振起救時之節。自從大魏前朝統治顛撲，噩運到來，太原王爾朱榮於是擁戴朕躬，以君臨萬國。爾朱榮的功勳超過伊、霍，功勞齊天地，大魏王室重振皇風，全靠了爾朱榮。因此朕授他為柱國大將軍、兼錄尚書事，其他官職照舊。”
這時，葛榮擁軍號稱百萬，矛頭直指京師。相州刺史李神軌閉城自守。敵人前部已過汲郡，所經過的村莊都橫遭劫掠。爾朱榮啟奏皇帝，請求討伐。九月，爾朱榮率領精銳騎兵七千，戰馬都有備用的，日夜兼程，東出滏口。葛榮長期為賊，橫行黃河以北廣大地區，爾朱榮七千騎兵與他的軍隊比較起來，懸殊極大，人們議論紛紛：這哪能製服逆賊啊。葛榮聽說此事，也高興壞了，便吩咐部下說：“這太容易對付了。你們隻管都準備好長繩子，他們一到，綁起來就是。”葛榮自鄴以北擺下數十裏長陣，陣如箕形，張翼推進。爾朱榮偷偷在山穀伏軍作為奇兵，分督將以上的軍官三個人為一處，每處數百名騎兵，命令他們在埋伏的地方揚塵呐喊，以使敵人弄不清有多少人馬。又派遣人馬上前邀戰，爾朱榮以刀不如棒的威力大，秘密吩咐軍人各備神棒一根，放在馬的側麵。說等到戰鬥發生時，不計斬級，用棒擊死敵人就行了，以免耽誤追擊敵軍。於是分別命令壯士們在各處衝突敵陣，號令嚴明，將領士兵爭先殺敵。爾朱榮親自衝鋒陷陣，在敵陣後部出現，這樣前後夾擊，大破敵軍。在陣中活捉葛榮，敵人紛紛投降。爾朱榮考慮敵人人數眾多，假如立即把他們分開，恐怕他們心生疑懼，或許又結聚起來，成為後患，於是普告各人自便，親屬任其相隨，居住在他們想居住的地方。這樣，大家十分高興，隨即星分雲散，數十萬人馬全都散去。等到他們跑出百裏之外，爾朱榮才開始派兵分頭押領，把這些人安置在合適的地方，俘虜們都被安置得很好。然後篩選其主將，量力任用，新歸附的人都安定下來。當時人佩服他的辦事快捷。又用牢車把葛榮送往京城。皇帝下詔說：“榮卿功齊天地，爵服之類必須高貴；道救百姓，嘉賞之名必須偉大。正因為如此所以有莘讚輔亳州，於是朝廷賜給他最高貴的稱號；薑望翼蔽周朝，於是他在朝廷中處於特殊的位置。何況導源積石，襲構昆山，庭集群英，助成鴻業，扶頹柱於高天，振絕維於厚地，德行冠絕五侯，功勳高出九伯的人呢！太原王爾朱榮代代蒙承恩寵，世世都是忠烈，他入則拯頹敗國運，出則剿禍了元凶，使多年迷霧一朝散去，幾年塵埃迅速清除。燕、代既安，趙、魏還蘇，與前人比較他的成績功勳，古今無雙，假如不稽查比照舊典成式，增加禮遇之數，那將憑什麽來昭德報功，遠明國範？可授予他大丞相、都督河北畿外諸軍事，增加邑戶一萬戶，加上前麵之數總共三萬，其他官職照舊。”
當初，爾朱榮將要討伐葛榮時，軍駐襄垣，便命戰士列圍打獵。有兩隻兔子躍起於戰馬之前，爾朱榮於是躍馬彎弓對天立誓說：“射中就能擒獲葛榮，不中則不行。”不一會兒，兩隻兔子都應弦而倒，三軍將士都很高興。等到大破敵軍之後，爾朱榮就讓人在射倒兔子的地方立起一塊碑，稱“雙兔碑”。爾朱榮將與葛榮決戰的那天晚上，夢見一個人向葛榮索要千牛刀，而葛榮一開始不肯給他。這個人稱：“我是道武皇帝，你敢違抗！”葛榮於是獻上千牛刀，這人手執其刀交給爾朱榮。醒來之後，爾朱榮十分高興，自知此戰必勝無疑。
皇帝又下詔說：“我皇魏道合神元，德照靈範，源先二象，化和五才，皇運與日月同長久，金鼎共天地齊永遠。但正光末年，皇運時挫，四方皆亂，九宮失序，朝野長歎，士女嗟怨，遂使得四海土崩，九州瓦解。逆賊杜周，殺戮於燕州、代州；妖寇葛榮，橫行於魏州、趙州。常山、易水，戰鼓夜起；冰井、叢台，胡塵晝合。朔南久是荒蕪之地，黃河以北殆成灰燼。宗廟常有不安之慮，國家總懷不測之憂。大丞相、太原王爾朱榮道照域中，德光域外，神機昭明藏匿往古，思考現實預知未來，大義緊跟先勳，忠誠足資往烈。遂能大建義謀，收集忠勇，將士們如熊羆競逐，虎豹爭先，縱橫南北，披靡東西，滅此鯨鯢。殺死的敵賊多於長平坑數，積累的器物高於熊耳。秦晉聞聲而喪膽，齊莒側聽而恐懼。皇道中興大業於是再興，太平基業從此開始。即使伊尹、霍光宣明政教翼蔽朝綱之功，齊桓、晉文推重人才、讚輔周室的做法，也難以與爾朱榮並駕齊驅，比較功勳。爾朱榮道德齊天，仁潤萬民，自古以來，未有可比。假若朝廷不廣賜山河，大開宇土，何以彰表崇高的大義，標記廣遠的盛德？可以把冀州的長樂郡、相州的南趙郡、定州的博陵郡、滄州的浮陽郡、平州的遼西郡、燕州的上穀郡、幽州的漁陽郡等七郡，每郡各一萬戶，加上前麵所賜總計十萬戶賜給爾朱榮，稱太原國邑。”爾朱榮又進位太師，其他官職照舊。
建義初年，北海王元顥投奔南方的蕭衍，蕭衍於是立他為魏主，給他兵馬將帥。當時邢杲在三齊作亂，與元顥遙相呼應。朝廷認為元顥勢孤力弱，沒有把他放在心上。永安二年(529)春天，詔書令大將軍元穆先平齊地，然後回師征討元顥。而元顥乘元穆大軍征齊未還，乘虛而入，攻陷梁國之後，鼓噪西進，滎陽、虎牢關全都失守。這年五月份，皇帝出逃黃河以北。事出意料之外，天下為之變色。爾朱榮聽說，立即馳馬傳喚，把皇帝行宮安在上黨長子，行其部分。皇帝車馬於是向南進發，爾朱榮統軍在前麵開路，十天之內，兵馬雲集，糧草兵器緊隨而至。天穆既平邢杲，也率軍渡過黃河與皇帝會合。元顥都督宗正珍孫、河內太守元襲固守城池，不願投降，爾朱榮攻克城池，斬殺珍孫、元襲。皇帝到河內城。爾朱榮與元顥在黃河兩岸相持對峙，元顥命都督安豐王元延明據河固守。爾朱榮軍中沒有渡船，不能馬上渡過，便商議回軍北方，以等來日。黃門郎楊侃、高道穆等人說大軍假如回撤，就會大失天下期望，堅持認為不能這樣做。語在侃等傳中。恰在此時，馬渚眾楊姓說有幾隻小船，請求充當向導，前去征求，於是爾朱榮命令都督爾朱兆等人率領精銳騎兵夜渡黃河，上岸奮擊敵軍。元顥的兒子領軍將軍元冠受率領步、騎兵五千人迎戰，爾朱兆大破元冠受，戰鬥中抓獲冠受。延明聽說元冠受被捉拿，便自個兒逃奔而去，元顥也領部屬向南逃竄。事在其傳。
皇帝車駕渡過黃河，入居華林園。下詔說：“周武奉時，借十亂以更改皇曆；漢祖先天，憑三傑以除去暴逆。理民濟治，此道未失。使持節、柱國大將軍、大丞相、太原王爾朱榮，藏伏風煙，抱含日月，總含奇正謀術，兼包文武資才。昔處亂朝，藏光隱翼，秣馬冀北，厲兵晉陽，亻寧龍顏而振腕，想日角以歎息。忠勇奮發，虎士如林，所向披靡，始立義功。所以能鏟除群惡，重振頹倒朝綱，而朕寡德暗昧，得承爾朱榮鴻福。但雖然皇位已正，而眾盜賊並未正息。葛榮飛揚跋扈，還在中原作亂，爾朱榮率領義軍，討伐罪敵，盡滅賊黨。元顥凶險頑固，構成巨大毒瘤，阻亂吳楚，玷汙宗社。朕禦駕北往，馬甲辛勞。太原王聞難星奔，一舉平定亂賊，下應民心，上匡王室。鴻勳巨績，書冊查無記載；拯救君民，事跡無人比況。非常之功，必須以非常之賞才能相配，可命為天柱大將軍。這個官職雖然訪古無聞，今時也沒有，但太祖已經增設這個稱號，按照典章故例，朕用來作為嘉獎的特殊禮式。另還宜開辟土地疆域，可增加封戶十萬，加上前麵共二十萬戶，另外加前後部羽葆儀仗、音樂鼓吹等待遇。其餘照舊。”爾朱榮不久歸還晉陽。
在這以前，葛榮枝黨韓婁仍然據守幽州、平州兩州，爾朱榮派遣都督侯淵率部討伐，斬殺韓婁。當時敵帥萬俟醜奴、蕭寶夤擁兵幽、涇二州，氣勢洶洶，日甚一日。爾朱榮派遣他的侄子爾朱天光任雍州刺史，命令他率領都督賀拔嶽、侯莫陳悅等一齊率軍入關討伐。爾朱天光到了雍州，以人少不敵，徘徊未集。爾朱榮大怒，派他的騎兵參軍劉貴前去天光軍中，罰天光杖刑。爾朱天光等人大為恐懼，於是發兵討敵，連破敵軍，擒獲醜奴、寶夤，囚於檻車，一並送往朝廷。爾朱天光又擒獲王慶雲、萬俟道樂，關西之地全部平定。這時，天下大難，都已平盡了。
爾朱榮天性好獵，天氣寒暑，在所不辭，至於圈圍打獵，人馬必須號令整齊，即使遇到阻隔險要，人馬也不得回避，虎豹衝出重圍的，所狩的將士就得處死。部下很是以此為苦。太宰元天穆心平氣和地對爾朱榮說：“大王您勳濟天下，四方無事，眼下隻宜調理政教，賜養百姓，至於打獵，按時匯狩就行了，何必要盛夏之日，馳兵驅逐，這樣也傷害侵犯了天地和氣呀。”爾朱榮指手劃腳地對天穆說：“太後女主，不能自正，推崇奉舉天子的，這是人臣應當做的事。葛榮之徒，本是奴才，乘機作亂，哪分寒暑，對於朝廷來說，就像奴才出逃，擒拿住便完事了。最近以來蒙受朝廷大恩，卻沒能開拓疆土，統一海內，哪能現在就說功勳呢？假如朝士您也願放鬆一下，今年秋天我爾朱榮和您一起統率軍馬，在嵩原校獵，讓官員中貪贓枉法者進入圍場與虎搏鬥。然後出魯陽，曆三荊，把荊蠻之民驅填北方六鎮。回軍之際，順道平定汾州胡民。明年操練精銳騎兵，分路出擊江、淮，蕭衍若投降，請其為萬戶侯。如果他不投降，派數千騎兵徑渡長江，縛其歸闕。等到六合安寧，八表平靜，然後我與兄一起奉贍天子，巡察四方，觀察民情風俗，宣明政教，像這樣才能稱得上有功勳。今天如果停止狩獵，兵士懈怠，那麽國家有事，怎能赴敵呢？”
爾朱榮雖然身居朝外，經常遙控朝廷，廣泛布置親戚於朝中，列為左右近臣，伺察朝中動靜，風吹草動，大小必知。或有僥幸求得官職的，都到爾朱榮王府奉承侍候，得到爾朱榮的認可，沒有什麽事得不到滿足的。朝中曾經準備補任定州曲陽縣令，吏部尚書李神雋因此缺懸在那裏，打算另外任命別人。爾朱榮聽說，勃然大怒，立即派遣他自個兒補上的縣令前往曲陽取奪原縣令。爾朱榮的使者入京，雖然官輕職微，但朝中貴戚見到他無不逢迎拍馬；等到他來到朝廷，未被通報，他恃憑爾朱榮威寵，到了朝堂，怒氣衝衝。爾朱榮曾經啟奏皇上讓北人任黃河以南諸州職官，莊帝沒有應允。元天穆入見皇上，啟奏說：“天柱既有大功，他如真的要求全麵取代天下所有官職，恐怕陛下您也不得不照做，而今爾朱榮隻是推薦幾個人任州職，您卻停而不用！”皇帝正色說：“天柱若不是人臣，朕也隻有遂其心願；如果他仍存有些人臣之節，那就沒有代任天下百官的道理。這事還有什麽可討論的。”爾朱榮聽說所薦的官職沒被批準，大為惱火，說：“天子是因為誰才得以登基的？而今卻不聽我的話。”莊帝感到爾朱榮的壓力，常常怏怏不樂，加上苦於爾朱榮河陰的事情，擔心自己最終性命難保。又有城陽王元徽，侍中李爾等人想獨攬大權，擔心爾朱榮加害於己，經常在皇帝麵前說爾朱榮的壞話。流言填耳，日甚一日，於是莊帝心中暗起除掉爾朱榮的意圖。
三年(530)九月，爾朱榮啟奏準備入朝，朝中官宦擔心有變，莊帝也畏懼厭惡爾朱榮。爾朱榮堂弟爾朱世隆傍他寫信，勸他不要入朝，榮妻北鄉郡長公主也勸他不要成行。爾朱榮不聽。莊帝既想除掉爾朱榮，爾朱榮入朝拜見時，便想動手，隻因元天穆在並州，擔心他會成為後患，所以隱忍不發。這次爾朱榮來到洛陽，有人告訴他，皇帝想除掉他。爾朱榮把這一切都告訴了皇帝，皇帝說：“別人告訴我說您想害我，我相信他們嗎？”於是爾朱榮便打消了疑心，每回入朝見皇帝，所帶隨從不過數十人，又都赤手空拳不帶武器。這次，元天穆也來了。皇帝在明光殿東廊埋下伏兵，引導爾朱榮及其長子爾朱菩提、元天穆等來內廷。坐定，光祿少卿魯安、典禦李侃爾等人抽刀衝上前來，爾朱榮眼看形勢不對，起身投向皇帝。皇帝預先橫刀膝下，一刀砍了過去，殺了爾朱榮，魯安等人揮刀亂砍，爾朱榮與元天穆、爾朱菩提同時死去。爾朱榮當時三十八歲。他們死後，朝廷文武歡呼雀躍，整個京城人聲鼎沸。緊接著，皇帝大赦天下。
前廢帝初年，爾朱世隆等得誌，皇帝下詔說：“已故使持節、侍中、都督河北諸軍事、天柱大將軍、大丞相、太師、領左右、兼錄尚書、北道大行台、太原王爾朱榮，功濟華夏，誠貫幽明，天不忍棄，讓其早離人去。總其一生，思其功勳，是各代通例；紀其德操，銘其勳業，為前王令範。朕贈爾朱榮為假黃鉞、相國、錄尚書事、司州牧，使持節、侍中、將軍、王仍如從前。”又下詔說：“已故假黃鉞、持節、侍中、相國、錄尚書、都督中外諸軍事、天柱大將軍、司州牧、太原王爾朱榮，乃是五嶽顯靈，讓他應期輔佐朝廷。他功齊伊尹、霍光，德合齊桓、晉文。他乃是國家棟梁，可長保國命，然而道長命短，暴薨之後，朕震驚嗟悼，痛苦尤深。前已褒揚贈號，意在表彰其美。然而禮數未盡，文物有缺，遠近人心，恐怕意覺未備。朕覺得宜遵循舊典，更加特殊恩賜。可以追號為晉王，加九錫，賜給九旒鑾輅、虎賁、班劍三百人、臥車、按晉太宰、安平獻王舊例，諡稱武。”詔書說：“武泰末年，乾坤中頹，國命大業，有如綴珠。晉王爾朱榮乃天賜於魏，世懷忠誠，一拯國家，再造華夏，讓我將倒的朝綱，一朝複振。而現在雖然勳銘王府，德披管弦，但在從祀的禮節上尚有欠缺，不足以酬大賞於當時，彰殊績於不朽。應遵循舊典，讓他配享高祖廟庭。”
爾朱菩提，肅宗末年，拜授羽林監。不久轉任直爾將軍。莊帝初年，因爾朱榮擁戴之功，超階拜授散騎常侍、平北將軍、中書令。轉任太常卿，遷任驃騎大將軍、開府儀同三司，加侍中、特進。死時年僅十四。前廢帝初年，贈侍中、驃騎大將軍、司徒公、冀州刺史，諡稱惠。
爾朱菩提的弟弟叉羅，莊帝初年，授散騎常侍、武衛將軍。初襲任梁郡公，又晉爵為王。不久病逝，朝廷贈侍中、車騎將軍、司空公、雍州刺史。
叉羅的弟弟文殊，建義初年，封平昌郡開國公，晉爵為王。孝靜初年，轉襲榮爵位為太原王。死於晉陽，時年九歲。
文殊的弟弟文暢，開始封昌樂郡開國公，食邑二千戶。因爾朱榮破葛榮叛賊的功勳，晉爵為王，增加食邑一千戶。超階授散騎常侍、撫軍將軍，後來任肆州刺史，仍為撫軍將軍，加開府儀同三司。武定三年(545)春，因與前東郡太守任胄等人謀反，被殺。時年十八。
文暢弟文略，襲爵梁郡王。武定末年，為撫軍將軍、光祿大夫。
史臣有言：魏太祖乘時而起，開創大魏王業。魏世祖以武功統一海內，魏高祖以文德革新天下。魏世宗以後，政道日虧一日。到了魏明皇時代，明皇幼小，女主掌權。開始於忠專橫恣肆，接著元叉權重一時，手握賞罰大權，操縱生殺威勢，大臣們的榮耀憂傷視其與他們關係的親疏遠近，高貴貧賤看其與他們的遠離近合，以致出現附會他們的以子女姻親為籌碼，逢迎的以金銀絲帛為門票。而且奸佞諂諛者把持朝政，以致為官忠誠勤勉者與賞嘉無緣，為官的隻管大肆聚斂財物，得勢者任意胡作非為。此時，四海之內，群情激憤，已大有人心思變的危險了。等到靈後拂逆朝政，在朝中大泄婬威。鄭儼手運天機、口吐王製，李軌、徐紇忙迫以求先，元略、元徽鼓噪以爭入。私利盡出，公道全亡，遠近怨憤，天下鼎沸。國運傾覆的征兆，開始出現了。
爾朱榮處將帥之列，借手中兵力，恰遇肅宗猝死，民怨神怒，便產生匡頹拯弊的意圖，幫助君主驅逐邪惡的想法，這是老天的旨意呀。當時，上下離心，文武解體，大家都企求忠義的聲音，都聽從齊桓、晉文之舉措。勞不汗馬，朝野心服，扶戴皇室，宗社有主，祀魏配天，不壞舊製。等到擒獲葛榮，誅殺元顥，戮除邢杲，翦滅韓婁，醜奴、寶夤都在馬市斬首。這眾多賊魁，或據大魏一方，或僭立稱號旗幡，人們說他們手握大魏皇符，暗自各謀帝業，並不是那些鼠竊狗盜之徒，幹的是一城一聚的勾當。假如不是爾朱榮竭盡全力，撲殺大難，那就不知有幾人稱帝，幾人稱王了。這樣，爾朱榮功勳勇烈，也已盛極一時了。而開始爾朱榮則靜觀時局，斜眼帝位；終而靈後、少帝沉流不反。河陰之下，朝廷官員，盡數被誅。這就是他得罪神人，終於被殺的原因。如果爾朱榮無奸忍之心，殺戮之失，修好德操仁義的風儀，那麽彭、韋、伊、霍哪能與他的功勞相比。至於行跡被猜疑，終被殺戮，這就與蒯通獻說於韓王的結局相類同了。
爾朱榮父親新興，太和年間，繼任為酋長。家中豪富，財貨充足。新興曾經行於馬群之間，看見一條白蛇，頭上長了兩隻角，遊動在馬群前麵。新興覺得十分奇怪，對它說：“你如有神靈，就讓我的牲畜興旺發達。”從此以後，新興治下牛羊之類，日見滋盛，牛羊駝馬，色各為群，不計其數，粟穀麥黍，收成極好。朝廷每次有征戰行動，新興就奉獻他養的私人馬匹，還備好軍糧，以補軍需。高祖嘉賞他的行為，命他為右將軍、光祿大夫。等到都城遷到洛陽之後，皇帝特許他冬天在京朝上，夏天便返回部落。新興每次入時，眾多王公顯貴競相以珍寶玩好送給他，新興則以名馬作為回報。後轉任散騎常侍、平北將軍、秀容地區第一領民酋長。新興每年春秋二季，總是與妻子孩子們一起在川澤之間巡閱畜群，並圍山打獵借以自娛。肅宗朝，新興因年歲已高，請求朝廷傳爵位給兒子爾朱榮，朝廷同意了。新興正光年間去世，享年七十四歲。朝廷贈給他散騎常侍、平北將軍、恒州刺史，諡號簡。孝莊初年，朝廷又贈他假黃鉞、侍中、太師、相國、西河郡王各種稱號。
爾朱榮皮膚潔白，容貌姣美，幼年時代便神機妙算，斷決明達。等到長大之後，喜愛打獵，每次設圍誓眾，就按軍陣的做法，號令嚴肅，無人敢稍有犯越。秀容地界內有三口池塘，都處於高山之上，水清亮，深度不測，相傳叫做祁連池，魏朝稱它們為天池，他的父親爾朱新興，曾經與榮一起在池邊遊玩，突然間，就聽到簫管鼓竹的聲音。新興對爾朱榮說：“古來相傳，凡是聽到這種聲音的人都可官至公輔。我今年歲已高，這征兆當在你身上應驗。你要發憤。”
爾朱榮繼承爵位之後，任直寢、遊擊將軍。正光年間，天下兵起，於是，爾朱榮不再從事牧業，分散牲畜，招集兵士，發給他們衣服馬匹。蠕蠕主阿那環侵犯搶掠皇魏北方，朝廷下詔讓榮代節，任冠軍將軍、別將，隸屬都督李崇北征。爾朱榮率領部下四千人追擊阿那環，越過戈壁地帶，沒有追上，撤兵而還。秀容地區歸附的胡民乞扶莫於攻破郡城，殺了太守；南秀容牧子萬子乞真反叛魏朝，殺死了太仆卿陸延；並州牧子素和婆山侖山僉也起兵叛逆。爾朱榮前後都帶兵一並把他們平定了。又遷任直爾將軍、冠軍將軍，仍為別將。內附魏朝的胡乞、步落堅胡、劉阿如等又在瓜州、肆州等地叛亂，敕勒的北勒步若在沃陽謀反，爾朱榮一並撲滅了叛亂。因為軍功，朝廷封他為安平縣開國侯，食邑一千戶。不久又加授他為通直散騎常侍。敕勒的斛律洛陽在桑乾西叛亂，與費也頭牧子互為犄角，交相呼應，爾朱榮率領騎兵在深井打敗斛律洛陽，把牧子費也頭流放到黃河以西。朝廷給他加號為平北將軍、光祿大夫，假安北將軍，任北道都督。不久又升武衛將軍，很快又加使持節，安北將軍，都督恒、朔州討虜的各路大軍，假撫軍將軍，晉封博陵郡公，又增食邑五百戶。他前麵被授的梁州爵位，聽其轉賜第二個兒子。當時爾朱榮率領軍隊到肆州，肆州刺史尉慶賓畏懼討厭他，緊閉城門，不歡迎他。爾朱榮大怒，攻下城池，便讓他的堂叔爾朱羽生任肆州刺史，在秀容把慶賓抓了起來。這個時候爾朱榮兵威漸漸旺盛，朝廷對他此次舉動也不能怎麽樣。不久，朝廷又命他為鎮北將軍。
鮮於修禮反叛朝廷，爾朱榮上表請求向東討伐，又進號為征東將軍、右衛將軍，都督並、肆、汾、廣、恒、雲六州諸軍事，進官為大都督，加授金紫光祿大夫。當時杜洛周陷於中山，這個時候，皇帝聲稱將親征北方，以爾朱榮為左軍，未成行。等到葛榮吞並洛周，氣勢洶洶，日見逼人。爾朱榮擔心葛榮會南逼鄴城，上表請求派給他騎兵三千東援相州，肅宗沒有答應。又遷升他為車騎將軍、右光祿大夫，不久又進位儀同三司。
爾朱榮想太行山以東賊勢越來越盛，為防止他們向西發展，便派軍隊固守滏口以防敵人侵入。又上書說：“臣以前因為二州頻頻反叛，大軍喪敗，黃河以北沒有援軍，實在是擔心敵人南侵，所以命令精銳騎兵三千人出援相州，京城響應，斷他南望之心，敵人聽說這種聲勢，就會放棄南侵打算。使者還朝，奉敕說：‘念生被殺，寶夤受擒，醜奴、明達都向朝廷傳遞誠意，三輔平安，關、隴寧靜。費穆勇猛軍隊，大殺妖孳蠻人；兩絳狂妄的蜀人，都已低頭認罪。’又承蒙北海王顥率領人馬兩萬鎮守相州。北海王乃是皇孫，名位崇高尊貴，鎮守撫慰鄴城，確實擔得起人們的厚望。臣希望增加他們的配給，盡早派遣。今天關西雖然平定，然士兵未可役使，太行山南麵鄰近的敵人，理無發召，王師雖然眾多，頻頻被其打敗，人們擔驚受怕，形勢實在難以應付。朝廷若不改弦更張，重思方略，那就無法以保萬全。按微臣愚陋的想法，蠕蠕主阿那環荷戴國家厚恩，未必就忘報答，臣請求派一名使者慰問那環。隨即朝廷發兵向東，直趨下口，揚威振武，以搗其背；北海的軍隊，鎮撫相部，加強警備，以擋那環前路；微臣統領的兵士雖少，也盡最大努力，自井陘以北，隘口以西，分別防守險要之地，攻擊其肘腋部位。葛榮雖然吞並洛周，皇上威力未加於他，且他部下人心不齊，完全可以分而化之。”於是，爾朱榮便嚴令約整部下，廣招義勇之士，北方捍守馬邑，東邊塞填井陘。
不久碰上肅宗駕崩，皇帝死得十分突然，爾朱榮聽說，勃然大怒，聲稱肯定是鄭儼、徐紇做的手腳，他與元天穆秘密商議帶兵入京，拯救朝廷，討伐逆賊，安定局勢。於是上表直言說：“臣驚聞德高望重的我皇帝背棄萬民而去，痛苦萬分，號啕頓哭，五髒六腑為之摧裂。臣仰尋詔書旨意，實在震驚扼腕。如今，天下百姓，議論紛紛，異口同聲，都說德高我皇，猝然離世，是被毒害所致。臣等耳聽眾說，靜心細想。上個月二十五日聖體有病，到了二十六日便突然去世。思前想後，這確實讓人弄不明白。況且天子有病，侍奉大臣不離左右，親屬貴戚，皇室禦醫，瞻仰病情，麵奉陛下音旨，親身仰承聖上顧托。哪裏會有剛生病時不召醫生，逝世後沒有料理的事情，這要讓天下人不感到奇怪驚愕，四海百姓不為之垂頭喪氣，辦得到嗎？又皇後生女，稱為儲君，疑惑朝野，表麵悲哀，實則慶幸，宗廟之中，祖先被欺，天下百姓，離心離德，致使七百危如累卵，國家毀於一朝，正是選君於嬰孩之中，寄治乳抱之日，必然導致奸臣逆豎把持朝政，亂臣賊子破壞綱紀，他們便可隨心所欲地指影以行權力，借形而弄詔令，這就是蒙住眼睛捕捉麻雀，塞著耳朵盜取銅鍾。而今秦、隴塵土飛揚，趙、魏雲起霧合，醜奴攻勢逼近豳、雍，葛榮、就德侵犯黃河、海邊一帶，楚兵吳卒近如咫尺。古人說：國家不幸，是鄰國的福氣。他們一旦聽說皇帝逝世，哪個不想占些便宜？臣想德高望重的皇帝以德治天下，且以正君登極，猶且邊境烽火、狼煙不斷，妖寇不滅，何況現在聽從佞臣之計，按照親戚的意見，共推潘妃的女兒哄騙百姓，奉舉尚不會言語的小兒君臨四海，這想使天下安寧和平，愚臣聞所未聞。微臣誠摯希望朝廷留聰明賢良的愛慈之心，冷靜下來，稍作考慮，洞照微臣赤膽忠心，體察微臣誠懇的意圖，讓我趕赴朝廷，參與大議，詢問侍臣皇帝駕崩緣由，調查禁軍所不知道的情況，把徐紇、鄭儼之徒送諸刑律，以雪朝廷齊天大恥，謝答遠近怨怒。然後召集宗族親屬，推選其中年齡合適，聲望很高的人，改承寶運，那就會使四海氣象更新複蘇，實是百姓的幸運。”於是爾朱榮帶領將帥趕赴京師。靈太後十分害怕，下詔命李神軌為大都督，準備在大行設防阻擋。
爾朱榮上表直陳之始，派遣侄子爾朱天光、親信奚毅以及倉頭王相進入洛陽，讓他們與自己的堂弟一起秘密商議廢立之事。天光見到莊帝，陳述爾朱榮的心願，皇帝讚許爾朱榮的想法。爾朱天光等人回到北地，爾朱榮正從晉陽出發。聽說如此，猶自懷疑朝廷所立是否屬實，於是便以銅鑄造高祖以及鹹陽王禧等六王子孫像，造成的是誰誰便應當被奉為君主，隻有莊帝像成功了。爾朱榮軍隊駐紮河內，他又派王相秘密入京奉迎皇帝，皇帝與其兄彭城王劭、弟始平王子正從高渚偷偷渡過黃河來到爾朱榮駐軍處。爾朱榮的將士齊聲高喊皇帝萬歲。當時是武泰元年(528)四月九日。
十一日，爾朱榮擁戴莊帝為君主，莊帝下詔任命爾朱榮為持節使、侍中、都督中外諸軍事、大將軍、開府，兼任尚書令、領軍將軍、領左右、太原王，食邑二萬戶。十二日，文武百官全都在行宮朝拜皇帝。十三日，爾朱榮被武衛將軍費穆的說教所迷惑，便引導迎駕的文武百官到行宮西北，說打算祭祀蒼天。朝廷官僚集合到一起之後，爾朱榮的騎兵列隊環繞，把他們團團圍住，爾朱榮責問大臣們天下喪亂，明帝猝然駕崩的緣由，說這全都怪你們這幫貪婪酷虐的臣子，不相匡救輔佐所導致的結果。說完，便讓士兵亂殺亂砍，王公卿士全都斂手就戮，死者達一千三百餘人，皇弟、皇兄也一起被害，靈太後、年少的君主那天也一齊突然死亡。爾朱榮於是滋生大誌，命令禦史趙元則製造禪文，派數十人把莊帝遷到河橋安頓。到了夜裏四更時，又擁皇帝南還至行宮幕營。莊帝憂憤交加，無計可施，於是命人向爾朱榮宣明旨意說：“帝王更替頻繁，盛衰沒有常度，而今大魏既遭噩運，天下瓦解。將軍您仗義而起，所向披靡，這是天意，不是人力所能。我投奔這裏，本為保存性命，帝王這樣高位豈敢妄自希求。麵對將軍您的逼迫，我所能做的隻能權且順乎您所請而已。而今國運已經轉移，天命在您，將軍您應及時登位。將軍您假如一定推辭不就，打算保存大魏社稷，也任您重擇親賢，共同輔佐擁戴大魏江山。”爾朱榮本已有篡權企圖，於是用金鑄造自己的銅像，連鑄四次，都未成功。當時幽州人劉靈助擅長占卜，被爾朱榮所信任，他說天時人事不可勉強啊。爾朱榮也精神恍惚，難以自持，很久才醒悟過來，繼而便愧慚後悔起來。正在此時，獻武王、爾朱榮外兵參軍司馬子如等痛切直言，陳述不可取而代之的道理。爾朱榮說：“像我這樣罪大惡極的錯誤，我隻有一死以謝朝廷，今天朝廷處在如此危險的關頭，有什麽計策可救國家。”武王等人說：“不如歸還奉戴長樂，以安定天下。”這樣便還奉莊帝即帝位。十四日，皇帝車駕入洛陽帝宮。
這些時，民間有的說要遷都晉陽，有的說爾朱榮縱兵大肆掠奪，人們紛紛驚恐難當，人情洶洶，駭悸震忄栗，京城士子全都外逃，一個不剩，沒誰再敢出頭露麵，衙門空虛，官府廢曠。爾朱榮聽說這種情況，上書說：“臣我世世代代身受朝廷厚望，連年征討，忠於王室，誌在效死。隻因太後婬亂，孝明暴崩，臣便率領義兵，以圖扶立社稷。陛下剛剛登基，人情未安，大兵交雜，難以齊一，以致諸王朝貴橫遭死亡的人數眾多，而今微臣微軀難以堵塞以往的罪責，難以得到亡者的諒解。然而臣追思死難大臣們的聲望德行，真可謂是不朽之人，乞求上天降慈恩之心，微申私責。無上王大人請追贈他帝號，請贈諸王公、刺史們三司之號，死難臣僚中位置處三品之中的請求贈與令仆的稱號，五品之官請贈方伯，六品以下以及平民贈以鎮郡稱號。那些死後無後人能繼承這些稱號的，請求聖上授予他封號爵位。按他們品位高下、級別高低，授予他們相應的稱號，務使皇恩及存達亡，以慰生藉死。”莊帝下詔說：“朕覽表不勝梗塞。朕德行平庸，難感天地，導致如此殘酷濫殺的局麵出現，回首往事，真是痛入骨髓。可按表疏中所說的去做。”從此以後，贈蔭一事，漸漸變得濫而無味，平庸的人、品位微賤的官員，動不動就做上大官，這被有識之士所看不起。武定年間，齊文襄王開始糾正其過失，追贈褒揚漸有章法。爾朱榮啟奏皇帝派使者沿城安慰那些受驚嚇的人，從這以後人心漸漸安定下來，朝中逃亡的官員也漸漸歸到朝廷。爾朱榮又奏請輪番當值，每逢朔望那天，當值官員引見三公、令仆、尚書、九卿以及司州牧、河南尹、洛陽河陰執事等官，參與討論治國方略、王道經綸，作為慣例沿襲下去。
五月，爾朱榮返回晉陽。七月，皇帝下詔說：“天地統領萬物，星象增其光輝；皇帝統治天下，大臣助其大業。所以周道中缺，齊、晉立下濟世之忠；殷運虧損，彭、韋振起救時之節。自從大魏前朝統治顛撲，噩運到來，太原王爾朱榮於是擁戴朕躬，以君臨萬國。爾朱榮的功勳超過伊、霍，功勞齊天地，大魏王室重振皇風，全靠了爾朱榮。因此朕授他為柱國大將軍、兼錄尚書事，其他官職照舊。”
這時，葛榮擁軍號稱百萬，矛頭直指京師。相州刺史李神軌閉城自守。敵人前部已過汲郡，所經過的村莊都橫遭劫掠。爾朱榮啟奏皇帝，請求討伐。九月，爾朱榮率領精銳騎兵七千，戰馬都有備用的，日夜兼程，東出滏口。葛榮長期為賊，橫行黃河以北廣大地區，爾朱榮七千騎兵與他的軍隊比較起來，懸殊極大，人們議論紛紛：這哪能製服逆賊啊。葛榮聽說此事，也高興壞了，便吩咐部下說：“這太容易對付了。你們隻管都準備好長繩子，他們一到，綁起來就是。”葛榮自鄴以北擺下數十裏長陣，陣如箕形，張翼推進。爾朱榮偷偷在山穀伏軍作為奇兵，分督將以上的軍官三個人為一處，每處數百名騎兵，命令他們在埋伏的地方揚塵呐喊，以使敵人弄不清有多少人馬。又派遣人馬上前邀戰，爾朱榮以刀不如棒的威力大，秘密吩咐軍人各備神棒一根，放在馬的側麵。說等到戰鬥發生時，不計斬級，用棒擊死敵人就行了，以免耽誤追擊敵軍。於是分別命令壯士們在各處衝突敵陣，號令嚴明，將領士兵爭先殺敵。爾朱榮親自衝鋒陷陣，在敵陣後部出現，這樣前後夾擊，大破敵軍。在陣中活捉葛榮，敵人紛紛投降。爾朱榮考慮敵人人數眾多，假如立即把他們分開，恐怕他們心生疑懼，或許又結聚起來，成為後患，於是普告各人自便，親屬任其相隨，居住在他們想居住的地方。這樣，大家十分高興，隨即星分雲散，數十萬人馬全都散去。等到他們跑出百裏之外，爾朱榮才開始派兵分頭押領，把這些人安置在合適的地方，俘虜們都被安置得很好。然後篩選其主將，量力任用，新歸附的人都安定下來。當時人佩服他的辦事快捷。又用牢車把葛榮送往京城。皇帝下詔說：“榮卿功齊天地，爵服之類必須高貴；道救百姓，嘉賞之名必須偉大。正因為如此所以有莘讚輔亳州，於是朝廷賜給他最高貴的稱號；薑望翼蔽周朝，於是他在朝廷中處於特殊的位置。何況導源積石，襲構昆山，庭集群英，助成鴻業，扶頹柱於高天，振絕維於厚地，德行冠絕五侯，功勳高出九伯的人呢！太原王爾朱榮代代蒙承恩寵，世世都是忠烈，他入則拯頹敗國運，出則剿禍了元凶，使多年迷霧一朝散去，幾年塵埃迅速清除。燕、代既安，趙、魏還蘇，與前人比較他的成績功勳，古今無雙，假如不稽查比照舊典成式，增加禮遇之數，那將憑什麽來昭德報功，遠明國範？可授予他大丞相、都督河北畿外諸軍事，增加邑戶一萬戶，加上前麵之數總共三萬，其他官職照舊。”
當初，爾朱榮將要討伐葛榮時，軍駐襄垣，便命戰士列圍打獵。有兩隻兔子躍起於戰馬之前，爾朱榮於是躍馬彎弓對天立誓說：“射中就能擒獲葛榮，不中則不行。”不一會兒，兩隻兔子都應弦而倒，三軍將士都很高興。等到大破敵軍之後，爾朱榮就讓人在射倒兔子的地方立起一塊碑，稱“雙兔碑”。爾朱榮將與葛榮決戰的那天晚上，夢見一個人向葛榮索要千牛刀，而葛榮一開始不肯給他。這個人稱：“我是道武皇帝，你敢違抗！”葛榮於是獻上千牛刀，這人手執其刀交給爾朱榮。醒來之後，爾朱榮十分高興，自知此戰必勝無疑。
皇帝又下詔說：“我皇魏道合神元，德照靈範，源先二象，化和五才，皇運與日月同長久，金鼎共天地齊永遠。但正光末年，皇運時挫，四方皆亂，九宮失序，朝野長歎，士女嗟怨，遂使得四海土崩，九州瓦解。逆賊杜周，殺戮於燕州、代州；妖寇葛榮，橫行於魏州、趙州。常山、易水，戰鼓夜起；冰井、叢台，胡塵晝合。朔南久是荒蕪之地，黃河以北殆成灰燼。宗廟常有不安之慮，國家總懷不測之憂。大丞相、太原王爾朱榮道照域中，德光域外，神機昭明藏匿往古，思考現實預知未來，大義緊跟先勳，忠誠足資往烈。遂能大建義謀，收集忠勇，將士們如熊羆競逐，虎豹爭先，縱橫南北，披靡東西，滅此鯨鯢。殺死的敵賊多於長平坑數，積累的器物高於熊耳。秦晉聞聲而喪膽，齊莒側聽而恐懼。皇道中興大業於是再興，太平基業從此開始。即使伊尹、霍光宣明政教翼蔽朝綱之功，齊桓、晉文推重人才、讚輔周室的做法，也難以與爾朱榮並駕齊驅，比較功勳。爾朱榮道德齊天，仁潤萬民，自古以來，未有可比。假若朝廷不廣賜山河，大開宇土，何以彰表崇高的大義，標記廣遠的盛德？可以把冀州的長樂郡、相州的南趙郡、定州的博陵郡、滄州的浮陽郡、平州的遼西郡、燕州的上穀郡、幽州的漁陽郡等七郡，每郡各一萬戶，加上前麵所賜總計十萬戶賜給爾朱榮，稱太原國邑。”爾朱榮又進位太師，其他官職照舊。
建義初年，北海王元顥投奔南方的蕭衍，蕭衍於是立他為魏主，給他兵馬將帥。當時邢杲在三齊作亂，與元顥遙相呼應。朝廷認為元顥勢孤力弱，沒有把他放在心上。永安二年(529)春天，詔書令大將軍元穆先平齊地，然後回師征討元顥。而元顥乘元穆大軍征齊未還，乘虛而入，攻陷梁國之後，鼓噪西進，滎陽、虎牢關全都失守。這年五月份，皇帝出逃黃河以北。事出意料之外，天下為之變色。爾朱榮聽說，立即馳馬傳喚，把皇帝行宮安在上黨長子，行其部分。皇帝車馬於是向南進發，爾朱榮統軍在前麵開路，十天之內，兵馬雲集，糧草兵器緊隨而至。天穆既平邢杲，也率軍渡過黃河與皇帝會合。元顥都督宗正珍孫、河內太守元襲固守城池，不願投降，爾朱榮攻克城池，斬殺珍孫、元襲。皇帝到河內城。爾朱榮與元顥在黃河兩岸相持對峙，元顥命都督安豐王元延明據河固守。爾朱榮軍中沒有渡船，不能馬上渡過，便商議回軍北方，以等來日。黃門郎楊侃、高道穆等人說大軍假如回撤，就會大失天下期望，堅持認為不能這樣做。語在侃等傳中。恰在此時，馬渚眾楊姓說有幾隻小船，請求充當向導，前去征求，於是爾朱榮命令都督爾朱兆等人率領精銳騎兵夜渡黃河，上岸奮擊敵軍。元顥的兒子領軍將軍元冠受率領步、騎兵五千人迎戰，爾朱兆大破元冠受，戰鬥中抓獲冠受。延明聽說元冠受被捉拿，便自個兒逃奔而去，元顥也領部屬向南逃竄。事在其傳。
皇帝車駕渡過黃河，入居華林園。下詔說：“周武奉時，借十亂以更改皇曆；漢祖先天，憑三傑以除去暴逆。理民濟治，此道未失。使持節、柱國大將軍、大丞相、太原王爾朱榮，藏伏風煙，抱含日月，總含奇正謀術，兼包文武資才。昔處亂朝，藏光隱翼，秣馬冀北，厲兵晉陽，亻寧龍顏而振腕，想日角以歎息。忠勇奮發，虎士如林，所向披靡，始立義功。所以能鏟除群惡，重振頹倒朝綱，而朕寡德暗昧，得承爾朱榮鴻福。但雖然皇位已正，而眾盜賊並未正息。葛榮飛揚跋扈，還在中原作亂，爾朱榮率領義軍，討伐罪敵，盡滅賊黨。元顥凶險頑固，構成巨大毒瘤，阻亂吳楚，玷汙宗社。朕禦駕北往，馬甲辛勞。太原王聞難星奔，一舉平定亂賊，下應民心，上匡王室。鴻勳巨績，書冊查無記載；拯救君民，事跡無人比況。非常之功，必須以非常之賞才能相配，可命為天柱大將軍。這個官職雖然訪古無聞，今時也沒有，但太祖已經增設這個稱號，按照典章故例，朕用來作為嘉獎的特殊禮式。另還宜開辟土地疆域，可增加封戶十萬，加上前麵共二十萬戶，另外加前後部羽葆儀仗、音樂鼓吹等待遇。其餘照舊。”爾朱榮不久歸還晉陽。
在這以前，葛榮枝黨韓婁仍然據守幽州、平州兩州，爾朱榮派遣都督侯淵率部討伐，斬殺韓婁。當時敵帥萬俟醜奴、蕭寶夤擁兵幽、涇二州，氣勢洶洶，日甚一日。爾朱榮派遣他的侄子爾朱天光任雍州刺史，命令他率領都督賀拔嶽、侯莫陳悅等一齊率軍入關討伐。爾朱天光到了雍州，以人少不敵，徘徊未集。爾朱榮大怒，派他的騎兵參軍劉貴前去天光軍中，罰天光杖刑。爾朱天光等人大為恐懼，於是發兵討敵，連破敵軍，擒獲醜奴、寶夤，囚於檻車，一並送往朝廷。爾朱天光又擒獲王慶雲、萬俟道樂，關西之地全部平定。這時，天下大難，都已平盡了。
爾朱榮天性好獵，天氣寒暑，在所不辭，至於圈圍打獵，人馬必須號令整齊，即使遇到阻隔險要，人馬也不得回避，虎豹衝出重圍的，所狩的將士就得處死。部下很是以此為苦。太宰元天穆心平氣和地對爾朱榮說：“大王您勳濟天下，四方無事，眼下隻宜調理政教，賜養百姓，至於打獵，按時匯狩就行了，何必要盛夏之日，馳兵驅逐，這樣也傷害侵犯了天地和氣呀。”爾朱榮指手劃腳地對天穆說：“太後女主，不能自正，推崇奉舉天子的，這是人臣應當做的事。葛榮之徒，本是奴才，乘機作亂，哪分寒暑，對於朝廷來說，就像奴才出逃，擒拿住便完事了。最近以來蒙受朝廷大恩，卻沒能開拓疆土，統一海內，哪能現在就說功勳呢？假如朝士您也願放鬆一下，今年秋天我爾朱榮和您一起統率軍馬，在嵩原校獵，讓官員中貪贓枉法者進入圍場與虎搏鬥。然後出魯陽，曆三荊，把荊蠻之民驅填北方六鎮。回軍之際，順道平定汾州胡民。明年操練精銳騎兵，分路出擊江、淮，蕭衍若投降，請其為萬戶侯。如果他不投降，派數千騎兵徑渡長江，縛其歸闕。等到六合安寧，八表平靜，然後我與兄一起奉贍天子，巡察四方，觀察民情風俗，宣明政教，像這樣才能稱得上有功勳。今天如果停止狩獵，兵士懈怠，那麽國家有事，怎能赴敵呢？”
爾朱榮雖然身居朝外，經常遙控朝廷，廣泛布置親戚於朝中，列為左右近臣，伺察朝中動靜，風吹草動，大小必知。或有僥幸求得官職的，都到爾朱榮王府奉承侍候，得到爾朱榮的認可，沒有什麽事得不到滿足的。朝中曾經準備補任定州曲陽縣令，吏部尚書李神雋因此缺懸在那裏，打算另外任命別人。爾朱榮聽說，勃然大怒，立即派遣他自個兒補上的縣令前往曲陽取奪原縣令。爾朱榮的使者入京，雖然官輕職微，但朝中貴戚見到他無不逢迎拍馬；等到他來到朝廷，未被通報，他恃憑爾朱榮威寵，到了朝堂，怒氣衝衝。爾朱榮曾經啟奏皇上讓北人任黃河以南諸州職官，莊帝沒有應允。元天穆入見皇上，啟奏說：“天柱既有大功，他如真的要求全麵取代天下所有官職，恐怕陛下您也不得不照做，而今爾朱榮隻是推薦幾個人任州職，您卻停而不用！”皇帝正色說：“天柱若不是人臣，朕也隻有遂其心願；如果他仍存有些人臣之節，那就沒有代任天下百官的道理。這事還有什麽可討論的。”爾朱榮聽說所薦的官職沒被批準，大為惱火，說：“天子是因為誰才得以登基的？而今卻不聽我的話。”莊帝感到爾朱榮的壓力，常常怏怏不樂，加上苦於爾朱榮河陰的事情，擔心自己最終性命難保。又有城陽王元徽，侍中李爾等人想獨攬大權，擔心爾朱榮加害於己，經常在皇帝麵前說爾朱榮的壞話。流言填耳，日甚一日，於是莊帝心中暗起除掉爾朱榮的意圖。
三年(530)九月，爾朱榮啟奏準備入朝，朝中官宦擔心有變，莊帝也畏懼厭惡爾朱榮。爾朱榮堂弟爾朱世隆傍他寫信，勸他不要入朝，榮妻北鄉郡長公主也勸他不要成行。爾朱榮不聽。莊帝既想除掉爾朱榮，爾朱榮入朝拜見時，便想動手，隻因元天穆在並州，擔心他會成為後患，所以隱忍不發。這次爾朱榮來到洛陽，有人告訴他，皇帝想除掉他。爾朱榮把這一切都告訴了皇帝，皇帝說：“別人告訴我說您想害我，我相信他們嗎？”於是爾朱榮便打消了疑心，每回入朝見皇帝，所帶隨從不過數十人，又都赤手空拳不帶武器。這次，元天穆也來了。皇帝在明光殿東廊埋下伏兵，引導爾朱榮及其長子爾朱菩提、元天穆等來內廷。坐定，光祿少卿魯安、典禦李侃爾等人抽刀衝上前來，爾朱榮眼看形勢不對，起身投向皇帝。皇帝預先橫刀膝下，一刀砍了過去，殺了爾朱榮，魯安等人揮刀亂砍，爾朱榮與元天穆、爾朱菩提同時死去。爾朱榮當時三十八歲。他們死後，朝廷文武歡呼雀躍，整個京城人聲鼎沸。緊接著，皇帝大赦天下。
前廢帝初年，爾朱世隆等得誌，皇帝下詔說：“已故使持節、侍中、都督河北諸軍事、天柱大將軍、大丞相、太師、領左右、兼錄尚書、北道大行台、太原王爾朱榮，功濟華夏，誠貫幽明，天不忍棄，讓其早離人去。總其一生，思其功勳，是各代通例；紀其德操，銘其勳業，為前王令範。朕贈爾朱榮為假黃鉞、相國、錄尚書事、司州牧，使持節、侍中、將軍、王仍如從前。”又下詔說：“已故假黃鉞、持節、侍中、相國、錄尚書、都督中外諸軍事、天柱大將軍、司州牧、太原王爾朱榮，乃是五嶽顯靈，讓他應期輔佐朝廷。他功齊伊尹、霍光，德合齊桓、晉文。他乃是國家棟梁，可長保國命，然而道長命短，暴薨之後，朕震驚嗟悼，痛苦尤深。前已褒揚贈號，意在表彰其美。然而禮數未盡，文物有缺，遠近人心，恐怕意覺未備。朕覺得宜遵循舊典，更加特殊恩賜。可以追號為晉王，加九錫，賜給九旒鑾輅、虎賁、班劍三百人、臥車、按晉太宰、安平獻王舊例，諡稱武。”詔書說：“武泰末年，乾坤中頹，國命大業，有如綴珠。晉王爾朱榮乃天賜於魏，世懷忠誠，一拯國家，再造華夏，讓我將倒的朝綱，一朝複振。而現在雖然勳銘王府，德披管弦，但在從祀的禮節上尚有欠缺，不足以酬大賞於當時，彰殊績於不朽。應遵循舊典，讓他配享高祖廟庭。”
爾朱菩提，肅宗末年，拜授羽林監。不久轉任直爾將軍。莊帝初年，因爾朱榮擁戴之功，超階拜授散騎常侍、平北將軍、中書令。轉任太常卿，遷任驃騎大將軍、開府儀同三司，加侍中、特進。死時年僅十四。前廢帝初年，贈侍中、驃騎大將軍、司徒公、冀州刺史，諡稱惠。
爾朱菩提的弟弟叉羅，莊帝初年，授散騎常侍、武衛將軍。初襲任梁郡公，又晉爵為王。不久病逝，朝廷贈侍中、車騎將軍、司空公、雍州刺史。
叉羅的弟弟文殊，建義初年，封平昌郡開國公，晉爵為王。孝靜初年，轉襲榮爵位為太原王。死於晉陽，時年九歲。
文殊的弟弟文暢，開始封昌樂郡開國公，食邑二千戶。因爾朱榮破葛榮叛賊的功勳，晉爵為王，增加食邑一千戶。超階授散騎常侍、撫軍將軍，後來任肆州刺史，仍為撫軍將軍，加開府儀同三司。武定三年(545)春，因與前東郡太守任胄等人謀反，被殺。時年十八。
文暢弟文略，襲爵梁郡王。武定末年，為撫軍將軍、光祿大夫。
史臣有言：魏太祖乘時而起，開創大魏王業。魏世祖以武功統一海內，魏高祖以文德革新天下。魏世宗以後，政道日虧一日。到了魏明皇時代，明皇幼小，女主掌權。開始於忠專橫恣肆，接著元叉權重一時，手握賞罰大權，操縱生殺威勢，大臣們的榮耀憂傷視其與他們關係的親疏遠近，高貴貧賤看其與他們的遠離近合，以致出現附會他們的以子女姻親為籌碼，逢迎的以金銀絲帛為門票。而且奸佞諂諛者把持朝政，以致為官忠誠勤勉者與賞嘉無緣，為官的隻管大肆聚斂財物，得勢者任意胡作非為。此時，四海之內，群情激憤，已大有人心思變的危險了。等到靈後拂逆朝政，在朝中大泄婬威。鄭儼手運天機、口吐王製，李軌、徐紇忙迫以求先，元略、元徽鼓噪以爭入。私利盡出，公道全亡，遠近怨憤，天下鼎沸。國運傾覆的征兆，開始出現了。
爾朱榮處將帥之列，借手中兵力，恰遇肅宗猝死，民怨神怒，便產生匡頹拯弊的意圖，幫助君主驅逐邪惡的想法，這是老天的旨意呀。當時，上下離心，文武解體，大家都企求忠義的聲音，都聽從齊桓、晉文之舉措。勞不汗馬，朝野心服，扶戴皇室，宗社有主，祀魏配天，不壞舊製。等到擒獲葛榮，誅殺元顥，戮除邢杲，翦滅韓婁，醜奴、寶夤都在馬市斬首。這眾多賊魁，或據大魏一方，或僭立稱號旗幡，人們說他們手握大魏皇符，暗自各謀帝業，並不是那些鼠竊狗盜之徒，幹的是一城一聚的勾當。假如不是爾朱榮竭盡全力，撲殺大難，那就不知有幾人稱帝，幾人稱王了。這樣，爾朱榮功勳勇烈，也已盛極一時了。而開始爾朱榮則靜觀時局，斜眼帝位；終而靈後、少帝沉流不反。河陰之下，朝廷官員，盡數被誅。這就是他得罪神人，終於被殺的原因。如果爾朱榮無奸忍之心，殺戮之失，修好德操仁義的風儀，那麽彭、韋、伊、霍哪能與他的功勞相比。至於行跡被猜疑，終被殺戮，這就與蒯通獻說於韓王的結局相類同了。