又复传令，降者免死，于是贼众一齐投戈，匍匐乞降。

大将又宣谕道：“尔等都有父母妻孥，奈何从贼寻死！我但拿问首逆，不问胁从，愿留者听，愿归者亦听。”

这谕传出，大众多半愿归，泥首拜谢，欢跃而去。冀、定、沧、瀛、殷五州，自是肃清。看官欲问大将为谁？无非是个尔朱荣。

尔朱荣既而遣散贼众，尚有若干贼目，无家可归，亦量能录用，不使失所。

可巧贼目中有一少年，虎背猿躯，与众不同，问他姓名，叫做宇文泰。

宇文泰的先祖源出“炎帝神农氏，为黄帝所灭，子孙遁居朔野”。后融入鲜卑族中，号宇文部。后为鲜卑慕容皝所灭，其余部乃仕于慕容氏诸燕。及后燕为北魏击败，乃归北魏，不久被徙居武川（今内蒙古自治区武川县），遂世居守之。

在北魏正光末年的时候，爆发了六镇起义。起义军的卫可孤，徒党尤盛，攻陷了武川、怀朔。而武川军主贺拔度拔（贺拔岳之父）虽然被起义军抓获，但心中立场依然支持北魏政府，于是，便与其至交好友宇文肱（宇文泰之父）进行合谋，率州里豪杰舆珍、念贤、乙弗库根、尉迟真檀等，招集义勇，袭杀了卫可孤。

在战斗中，宇文泰的大哥宇文颢战死。

饱经战乱的武川镇，刚刚驱逐了卫可孤的起义军，就遭到了铁勒的入侵，武川军主贺拔度拔战死。

于是，宇文肱率领家人去中山避难。

孝昌二年（526年）正月，怀朔镇（今内蒙古固阳县）镇兵鲜于修礼率领北镇流民于定州左人城（今河北省唐县）起义，宇文泰一家也参加了起义队伍。但在前往左人城的途中，被北魏官军击败，宇文泰之父宇文肱以及宇文泰的二哥宇文连阵亡。

宇文泰与三哥宇文洛生幸免于难，逃入鲜于修礼军中。鲜于修礼死后，宇文泰又加入到了葛荣军中，被任为将帅。

宇文泰转而投靠葛荣，至此为尔朱荣所钟爱（看重的意思），擢为军将。宇文泰始此。

武泰元年（528年），葛荣大败起义军首领杜洛周，吞并其部众，攻克沧州，擒获沧州刺史薛庆之。同年九月，北魏柱国大将军尔朱荣率精骑平叛，葛荣恃众轻敌，终被尔朱荣部队抓住，随后将葛荣关进去囚槛车里，将其送入洛阳，朝廷下令把葛荣枭斩在都市。葛荣就这样噶了。

葛荣失败后，宇文泰与其三哥宇文洛生归降了尔朱荣。

北魏君主元子攸因为尔朱荣的军功，于是加封尔朱荣为