爾朱榮回到晉陽，便開始張羅討伐葛榮起義軍的行動。葛榮這個時候幾乎控制了今天的河北全境，他攻下了冀州的信都（今河北冀縣），又對北面占領(lǐng)定州（今河北定縣）、瀛州（今河北河間）、幽州等地的杜洛周的軍隊(duì)發(fā)動突襲，擊殺了杜洛周，兼并了他的地盤和部眾。

河北最南端的州是相州，治所在鄴城（今河北臨漳附近），也是國都洛陽的最后門戶。若相州再失，葛榮大軍就可以順利渡過黃河，威脅洛陽。北魏的相州刺史李神誓死不降，葛榮惱火，率領(lǐng)主力軍隊(duì)，號稱百萬之眾（當(dāng)然能有十萬就相當(dāng)不錯了，而且葛榮的所謂大軍“虛胖”很嚴(yán)重，戰(zhàn)斗力也得打上大大的折扣），包圍了鄴城，一些游兵散勇已經(jīng)逛到了黃河邊上的汲郡。

爾朱榮鎮(zhèn)壓起義軍的經(jīng)驗(yàn)豐富，并不怕外強(qiáng)中干的葛榮。他讓侄子爾朱天光代他鎮(zhèn)守晉陽，然后從本部精選了七千騎兵，以侯景為前驅(qū)，倍道兼行，從滏口（今河北磁縣西北）東出太行山，抄到了鄴城北面，在葛榮大軍的身后擺開陣勢。

葛榮對爾朱榮的突然出現(xiàn)略感吃驚，但他打慣了勝仗，又見爾朱榮的人數(shù)不多，喜形于色地對手下說：“這些人容易對付，大家每人帶條長繩，準(zhǔn)備給我抓活的！”

他暫時停止了對鄴城的攻擊，列陣數(shù)十里，張開兩翼，向爾朱榮的騎兵隊(duì)伍包圍上來。

爾朱榮把軍隊(duì)引到附近的山谷，將手下督將按三人為單位分為多處，每處率領(lǐng)幾百名騎兵，來回奔躍，揚(yáng)塵鼓噪，讓葛榮的軍隊(duì)無法判斷究竟有多少人馬。然后給每人發(fā)一根袖棒，掛在戰(zhàn)馬側(cè)部，遇到敵人時，就用袖棒擊打，無須費(fèi)工夫斬首。

這招很高明，對付葛榮的準(zhǔn)民兵，將其擊倒在地，不管是死是活，都等同于消滅其戰(zhàn)斗力。據(jù)說，這種袖棒，就是唐初秦瓊的手中兵器雙锏的前身（爾朱榮的戰(zhàn)略頭腦近乎白癡，但戰(zhàn)術(shù)素養(yǎng)確實(shí)很有一套）。

兩軍交鋒，葛榮的軍隊(duì)人多勢不眾，完全吃不住爾朱榮裝備精良的騎兵猛沖。爾朱榮親自率領(lǐng)一支人馬繞到背后，把葛榮的陣勢殺得七零八落，就地生擒葛榮。底下的十幾萬士兵也被袖棒打得滿地亂滾，呼天喊地，乞求饒命。

基于六鎮(zhèn)起義的教訓(xùn)，爾朱榮沒有處置投降的士兵，而是讓他們親屬相隨，自尋出路，不再追究罪責(zé)?！笆讗骸备饦s押赴洛陽斬首，一些部將則被爾朱榮收編，跟著他遷往晉陽。河北起義至此基本煙消云散。

委身于葛榮手下多時的宇文洛生、宇文泰兄弟，也在爾朱榮的收編之列。爾朱榮對他倆又愛又憚，心理很矛盾，愛的是才華出眾，憚的是名高望重。沒過多久，爾朱榮還是找了個罪名，把宇文洛生抓起來殺了，正要再殺宇文泰，宇文泰以理訴冤，陳詞慷慨，爾朱榮聽了很受感動，不但改變了主意，還任命他為統(tǒng)軍。

（爾朱榮行事向來考慮不周，極具游牧民族的特色，憑此顯然難成大事；而宇文泰能屈能伸，年紀(jì)輕輕（當(dāng)時年僅二十二歲）已露出領(lǐng)袖氣質(zhì)。他在北方大亂中連失父親和三個哥哥，卻從中習(xí)得了旁人少有的隱忍，著實(shí)可怕。否極泰來的宇文泰終于從爾朱榮手中得到小股部眾，有了一展身手的機(jī)會）

爾朱榮功勛卓著，晉位大丞相，封柱國大將軍，兩個兒子爾朱文殊、爾朱文暢一并晉爵為王。

葛榮雖被消滅，北魏境內(nèi)尚有多處叛亂沒有平息，其中以青州的邢杲和關(guān)中的萬俟丑奴為最強(qiáng)。不過，爾朱榮最該頭疼的，應(yīng)該是南朝的正規(guī)軍。