慕容绍宗耐心劝说道：“亲兄弟尚且无法深信，更何况，高欢只不过是你的结拜兄弟而已！”

但是尔朱兆的随从们早已被高欢收买，他们在尔朱兆面前诋毁慕容绍宗，说慕容绍宗与高欢有过节，所以慕容绍宗才针对高欢。尔朱兆轻信了他们对慕容绍宗的诬陷，勃然大怒，竟然将对自己忠心耿耿的慕容绍宗关进了监狱。随后，尔朱兆催促高欢带着那些六镇流民赶紧离开。

高欢率军自晋阳出发，中途遇见尔朱荣的妻子北乡公主带着大车小车的财物从洛阳返山西，又有好马三百匹，就派兵把马匹全都换掉。

尔朱兆听婶母回来哭诉后大怒，忙把慕容绍宗放出来问计。尔朱兆自己亲率军队追赶至襄垣，正好赶上漳水暴涨，冲断桥梁，高欢隔水向尔朱兆解释借马是为了“备山东盗”，没有异志，尔朱兆投刀于地，与高欢杀白马而盟，誓为兄弟，留宿夜饮。夜间，高欢属下尉景埋伏壮士要杀掉尔朱兆，高欢认为自己的实力不足，马上阻止。转天早晨，尔朱兆归营，又下令让高欢渡水过到他的大营。高欢想过去，被部将孙滕劝止。尔朱兆隔水谩骂，返回晋阳。

不同于尔朱家族凶狠残暴的作风，高欢对手下的士兵严格约束，他不允许士兵拿走百姓的一丁点东西。高欢每次经过麦地的时候，他为了防止骏马失控踩坏百姓的麦子，他会牵着马步行。沿途百姓对高欢赞不绝口，纷纷称颂高欢军纪严明。因此，高欢深得百姓爱戴。

高欢的军队在胡关、大王山驻扎了六十天之后，继续向东前进。行军途中，高欢四处散播流言，说自己将会帮助尔朱家攻打信都（高乾此时身在信都）。

但是高乾却不认为高欢会攻打自己，他说：“我听说高欢雄才大略，他肯定不愿意屈居人下。尔朱兆暴虐无道，他不仅弑杀先帝，还残害百姓。此刻，天下各路英雄豪杰都在摩拳擦掌，誓要除掉尔朱兆这个祸害。高欢这个时候来信都，肯定没那么简单。你们就不用担心了，我这就去亲自会会高欢！”

随后，高乾与封子绘（封隆之的儿子）在滏口拜访了高欢，他们一起鼓动劝说高欢背叛尔朱氏：“逆贼尔朱兆残暴不仁，弑杀先帝。他早已惹得天怒人怨、人神共愤。您向来德高望重，威名远扬，若是您讨伐尔朱家族，他们一定不是您的对手。我们冀州虽然面积小，但人口众多，绝对不低于十万户百姓。冀州的赋税，足以支撑您的军队资金。”高欢听到高乾的话之后，非常高兴。

当初，尔朱兆弑杀元子攸之后，南赵郡太守李元忠立刻辞官回乡，计划起兵讨伐尔朱兆。这时，李元忠听说高欢的军队路过，李元忠便驾着一辆敞篷马车，前去会见高欢。李元忠对高欢说：“殷州，地小粮少，难成大事。但若是您进军冀州，高乾一定会奉您为主，到时候，您可以把殷州交给他管理。若您能够将冀州、殷州全部拿下，沧州、瀛州、幽州、定州也自然会归顺于您。”高欢听罢，激动地握住李元忠的手，向他连连道谢。

当初，魏主元子攸任命李元忠的亲戚李愍为平北将军、持节、当郡大都督、乐平太守。但李愍还未赶到乐平郡，尔朱兆便已攻入洛阳。李愍得知了尔朱兆弑君的消息后，立刻率领自己的部下据守石门山，并联络刘灵助、高乾高昂兄弟二人、安州刺史卢曹等各路势力一起联合讨伐尔朱兆。

刘灵助战败身亡之后，李愍留在石门山继续发展壮大自己的势力。后来，高欢给李愍写信招揽他，李愍便率领数千名士兵投靠了高欢。高欢任命李愍为使持节、征南将军、都督相州诸军事、相州刺史、尚书西南道行台、当州都督。随后，李愍留在马鞍山替高欢招兵买马，征集粮草。

高欢来到信都，与高乾、封隆之等一众盟友商议道：“逆贼尔朱兆穷凶极恶，此等乱臣贼子天地不容，神仙也厌弃于他。如今，正是上天