袁绍此时刚从冀州牧韩馥手里顺利夺权，正沿着光武的光辉道路，一面清剿河北各地农民军，一面与幽州军阀公孙瓒争夺青州，以称霸河北。吕布这一来，正给袁绍出了个大难题，收，还是不收？
收吧，吕布反复小人，名声太臭；而袁绍自负名士，岂能看得起他？何况东汉承训光武两百年，其士大夫尤重气节；就算到了三国乱世，你不想在原来主公麾下，离去就可以了，伏波马援所谓君择臣臣择君，这也很正常；但吕布不仅叛变，而且弑主，还是连环的，这就让袁绍难以忍受了。
不收吧，吕布在客观上对袁氏确实有恩，断然拒绝显得有点不近人情。而且吕布武勇无双，袁绍正在大展宏图用人之际，如此猛将，不用可惜。
权衡利弊，袁绍终于还是决定接受吕布，就给三个月试用期，好用就转正，不好用就开除，毕竟吕布只有数百骑，翻不了天去。
刚好，袁绍正为一个事儿大大头疼，吕布或许可以帮忙治好自己的头疼病。
原来，在冀州西部与并州接壤的太行山，活跃着一支强大的农民武装，叫做黑山军，黑山是个地名，也称墨山，位于茫茫太行山间，大概就是黑山军发迹的地方，黑山军的首领叫做张燕，这可是个大大的牛人，不仅武艺高强，而且剽捍捷速过人，军中号曰飞燕，故而威名远震，很快成为河北各大农民军的领袖，聚众达百万，朝廷对其无可奈何，只好招安他为平难中郎将，与其妥协。
后来，董卓迁都，天下大乱，身份已被洗白的张燕又四处与豪杰军阀们拉关系，想在乱世做一番大事业。他一面派部队去支援袁术攻打曹操，一面又派兵马助公孙瓒与袁绍争夺青州，袁绍吃不住两面作战，只好暂时与公孙瓒和好，回过头来全力对付张燕。
汉献帝初平四年（公元193年）六月，吕布逃离长安一周年之际，袁绍与吕布兵进常山郡，与张燕主力展开了大决战。
张燕虽已分出去兵马甚多，但手下仍有精兵数万，骑数千匹。不仅如此，他还找来了匈奴与乌桓的彪悍胡骑助战，真可谓实力雄厚，气势非凡。
可惜，他偏偏遇上了吕布这样一个可怕的对手，于是，他的噩梦降临了。
吕布对付张燕，也没有其他绝招，就一招，快！他亲自当突击队长，每天骑着赤兔马，率骁将成廉、魏越等数十骑驰突燕阵，飘忽纵横，骚扰游击，这不是来去如风，简直是来无影去无踪，每次都要斩首百十级回来，一天还要搞个三四次，这样张燕一天就得损失近千人，连战十余日，竟累计损失了近万人，再加上袁绍在旁掠阵，也干掉他几千人，这下张燕可撑不住了，他这只小家巧，再快也快不过吕布这道闪电，继续打下去，他的数万兵马迟早得玩完儿。
面对这个武装到牙齿的杀人机器，面对这个冷酷的杀手与嗜血的斗神，张燕有生以来第一次产生了强烈的自卑感，相比吕布超越时代的勇武，自己真是太渺小了。
在这种情况下，张燕只得与袁绍讲和，率军退入太行山深处，并宣布不再进犯冀州。而袁绍出征十余日，军队也有些疲惫了，又怕公孙瓒趁机出兵，所以答应了张燕的求和，双方各自退兵。
吕布以数百骑搞定张燕数万人，名将风姿，威震河北，又为袁绍新立大功，他觉得自己这下总可以站稳脚跟、提点要求了吧，于是挺直腰杆，向袁绍请兵借粮，说是要西征长安，把献帝迎回洛阳来。袁绍一直想自立朝廷，又岂肯听吕布的。这下吕布可不高兴了，从此看啥啥不顺眼，还老是哪壶不开提哪壶，说冀州诸将皆乃袁绍私自任命的“山寨版”，哪比得上自己根正苗红、是伟大皇帝亲自封的温侯，他们凭啥一个个趾高气昂！
俗话说上行下效，吕布表现轻慢，桀骜不驯，他手下将士当然有样学样，态度嚣张，甚至开始抄掠民众，到处使坏。袁绍发现吕布果然不好控制，留之尾大不掉，弃之后患无穷，心中便起了杀机。
吕布干惯了刺杀工作，对杀气这种东西是很敏感的，他一看事情不对劲，就主动找到袁绍，请求返回洛阳当司隶校尉，不给您袁大人添麻烦了。
自董卓强迫献帝迁都后，洛阳一带已残破不堪，百姓逃亡殆尽，谁会甘愿跑那儿混？现在吕布却主动提出要去洛阳，显然想表明自己并无大志，只求自保，以使袁绍安心放走自己。
吕布太天真了，值此群雄并起之际，谁又会放走一个日后大患？
所以，袁绍表面上大方答应了吕布的请求，暗地里却遴选心腹作为刺客，准备给吕布致命一击。
就这样，在吕布临行前的晚上，袁绍特意派来三十六名壮士，说是护送吕布去洛阳上任。吕布看着这三十六个如狼似虎的凶汉，笑道：“袁公美意，布岂敢推辞，诸君便在我帐外护卫，明日随我一同南下。”
吩咐完毕，吕布便走进大帐，开始弹起筝来，弹了一阵，便把筝交给一位亲信继续演奏。自己却在筝声之中，悄悄由帐后夜遁而去。夜色阑珊，秦筝悲怨，三十六护卫在帐外听得如痴如醉，直到夜半时分才回过神来，忙冲进吕布帐中，却只见那亲信面如土色蹲在角落，他们不甘心，又往吕布的床被一通乱砍，但见绸絮飞舞，床中空无一人，哪里还有音乐家吕布的影子。
袁绍得报大惊，忙问左右谁敢带兵去追杀吕布，话音落处，一片寂静，诸将竟无一人敢去捋虎须，包括颜良、文丑在内。这下袁绍慌了，生怕吕布回来报复，自己这边可没人是他的对手，赶紧下令日闭城门，严防死守，自己老命要紧。
吕布可没心思找袁绍算账，他又在为自己该去何方发愁了。