后,徙幽、冀二州乌桓于襄国(后世的河北省邢台市西南),4世纪中叶附前燕。前秦苻坚灭前燕后,处乌丸杂类于冯诩、北地。而后,慕容垂又利用乌桓之助建立后燕。垂曾引丁零、乌丸之众20余万为飞梯、凿地道以攻邺城,并以乌桓张骥为辅国将军,刘大为安远将军,鲁利为建威将军,随慕容氏南征北战。北魏初,拓跋珪攻信都(后世的河北省冀县),张骧举城降,后骧逃往中山(后世的河北省定州市),依附慕容详。珪拔中山,骧被擒。398年(东晋隆安二年),其子张超收集乌桓、汉民2000余家据渤海郡之南皮(后世的河北省南皮县),自称乌丸王,后南走平原(后世的山东省平原县)。次年,为魏征虏将军庾岳击杀。
建安五年(公元两百年),袁绍被曹操击败于官渡之战,旋即病死。十年,绍子尚等往奔辽西,投奔蹋顿。十二年,曹操远征乌桓,战于柳城,乌桓败绩,斩杀蹋顿及名王以下,柳城降者达二十余万口。曹操将幽州、并州各郡乌桓共万余落徙居中原,精壮随军作战,由是三郡乌桓号为天下名骑。建安二十三年(公元二百一十八年),乌桓联合鲜卑反叛,为曹彰、田豫所败,实力再次被严重削弱。残留故地的乌桓,因其地不久即为鲜卑所占,均与鲜卑融合;内徙者则渐为汉人所同化。
乌桓的社会组织形式,分部、邑(邑落)、落。邑落为部下面的基层组织。每部统辖着数百乃至数千个落。《后汉书乌桓传》载:“邑落各有小帅,数百干落自为一部。“落,通常为户之意,每帐户或帐落,少则七至八口多则十余口。若干落相聚则为邑落或简称为邑。“大约古代乌桓每邑落约有二、三十户“,“乌桓每一邑落当有人口一百几十人至二百几十人“。邑落由不同氏族的帐户相聚溶合而成,因为被掠的外民族人口要归入邑落中,而一些汉族逃亡人口也要入其部落,所以邑落已经不是纯粹的血缘群体,而是一种地域的人们共同体,地缘关系逐渐代替血缘关系。但由于氏族间互相通婚,血缘关系仍为邑落联系的纽带。在习俗上较多地保留了氏族制度的残余,调整人与人之间的关系和冲突,尚不是阶级法律占主导地位,仍是历史传统形成的,具有全民的习惯,道德规范起着重要作用。史称:“其相残杀,令部落自相、报,相报不止,诣大人平之,有罪者出其牛羊以赎死命,乃止。“血缘复仇的严重存在,往往容易引起氏族、部落间的械斗和互相残杀。邑落的头人称为小帅,多为豪人充任,初由推举产生,不世袭。各帐落各自单独经营畜牧业,夏冬两季转移牧地时,便在小帅率领下,以邑落为单位,顺着一定的路线,共同迁徙,每一邑落占有一定的游牧区。邑落小帅受制于部落大人。“大人有所召呼,刻木为信,邑落传行“。通过战争、朝贡、胡市,邑落小帅的权势有所增长,并受汉魏赐封。
汉魏利用乌桓武力的第二种方式是从乌桓兵中挑选精锐,组成突骑和入宿卫的乌桓骑,受汉魏政权直接统率,列入常兵制。乌桓突骑西汉时久已闻名。刘秀平河北时吴汉所率军队中就有乌桓突骑三千人。后被称为天下名骑的三郡精壮也编入军队之内,随往各处作战。初时他们都居无定所,只有在特殊的情况下。