高欢率六镇之民到达河北后，占据信都，收罗四方英雄。河北豪杰高乾、高敖曹兄弟，封隆之、李元忠等纷纷款服。当年的故交，如太原庞苍鹰，尉长命都千里杖策来奔。三月，尔朱氏控制的朝廷以高欢为渤海王，征召入朝。高欢岂肯去洛阳束手就擒，于是谢诏不行。朝廷却也无可奈何，只得加以羁縻，接连为他加官进爵，先后授高欢东道大行台，冀州刺史，第一镇人酋长。到了六月，随着养甲缮士，兵马渐壮，高欢与亲信孙腾、尉景、窦泰等人密谋起兵，尉景说：“六镇人久受尔朱人欺凌，此刻起兵必然群起响应。”窦泰不以为然地说：“众人在河北就食，承平已久，尔朱又兵强马壮，众寡悬殊之下，恐怕人心未必愿反呢。”高欢抚须冷笑说：“若让大众愿反，却也不难。”
过了几天，他让孙腾伪造书信，称尔朱兆将以六镇人配契胡为部曲，去并州山中打步落稽。又伪造并州兵符，号令征兵，得到万余人，送他们上路。大众蜿蜒十余里，洒泪惜别，很多人都泪湿衣袖。有人说：“与契胡为兵，不如为奴。怎么才离虎穴，又入狼窝了！”到了分别的时候，许多人望着亲人，再也忍不住生离死别的痛苦了，滚鞍下马，有抱住兄弟痛哭的，有父子一起号恸，有夫妻子女抽泣落泪的，号啼之声，惊天动地。督将兵佐一起堵塞了道路，这个时候，有人望见高欢麾盖，就高喊：“高王来了，高王来了！”只见孙腾当先骑马过来，用袍袖抹着眼泪说：“行台大人体谅尔等父子兄弟离别之苦，想来他日相聚也无多了。特命快使驰往并州，恳请秀容大王再宽限一旬。尔等可以再聚几日。”有几个将佐听得这话，就说：“行台大人已经宽限数次了，如今即便再多十日，也终须一别。”众人听了，勾起仇怨，又抱头痛哭起来。
此时高欢终于策马而来，一时间就被六镇军民围住了。高欢立于马上，对众人说：“我等流离失所，辗转数千里，早已义同一家了。今日看到众兄弟去并州受罪，贺六浑于心何忍！”说到这里，他已经泣不成声了，他接着说：“可这是朝廷命令，无法违抗啊。如今去并州，九死一生；不去，违抗朝廷，更是死。横竖都死，如之奈何？”众人一阵沉默，突然有人在人群里喊：“反正是死，只有造反了！”听到这话，很多人都嘟噜说：“尔朱氏欺人太甚，为此等朝廷卖命早晚是死。”更多的人附和说：“反了，反了吧！”见此情形，高欢吃惊不小，慌忙摆手说：“反是灭族的大罪，诸君还是要好好考虑才是！”众人哪里肯听，越来越多的人都喊“都是死，反了吧！”高欢连忙挥手说：“造反是不得已的法子，容我三思，你等不见葛荣吗，拥百万之众，却形同乌合，此等造反岂不是自取死路。”他若有所思地想想说道：“要反，得推一人做首领，号令全军，以刑罚升赏约束大众，方可抗敌，可有谁能担当呢？”
话音刚落，人群中一阵高呼：“非高王不可！”众人一听，似如梦初醒，连忙高声附和，一时呼喊之声在山谷间回荡不止。
高欢也不推辞，只说：“既推我为主，自当生死同心，铁令如山，否则，只是取笑天下，虽百死而无一成哩。”随即拨马，令众人回营。第二天，大宴众军，椎牛飨士。众人歃血盟誓，誓词曰：
“不得欺汉儿，不得犯军令，富贵各自天命，生死交任高王。
我等恭行天道，中兴皇室，奋鞭跃武于天下，至死无悔！”
高欢起兵的消息传来，尔朱氏自持强大并不为虑。洛阳的尔朱世隆正忙着处理杨氏的事，在长安的尔朱天光派骑兵屠戮杨氏在华阴的宗族。而因杜陵韦氏与杨氏世代姻亲，关连颇深，尔朱氏又在筹谋借机对韦氏发难。而远在汾州的行汾州事刘贵听到信都起兵的消息后，对亲信说：“贺六浑已同尔朱决裂，我做他的说客五年，打点大小官吏钱财货物无数。两家开战，尔朱氏细究起来，我必然难脱干系。为今之计，只有去河北投故人了。”于是收拾细软，只带亲随妻子等十余人，轻骑东奔，经漳水出滏口投奔高欢而去。