武帝元狩四年），汉军大破匈奴，将匈奴逐出漠南，乌桓又臣属汉朝，南迁至上谷、渔阳、右北平、辽西、辽东五郡塞外驻牧，代汉北御匈奴。公元49年（东汉光武帝建武二十五年），乌桓又从五郡塞外南迁至塞内的辽东、渔阳及朔方边缘十郡，即今辽河下游、山西河北北部及内蒙古河套一带驻牧。乌桓在两汉时先后两次南迁，逐渐发展壮大，但受汉护乌桓校尉管辖，分成若干部落，各自为政，一直没形成统一的部落联盟。

乌桓，亦作“乌丸”、“古丸”、“乌延”等，为东胡系统的古代民族之一。语言与鲜卑同，属东胡语言的分支，无文字，刻木为信。东胡盛时，与鲜卑同为其重要成员。秦汉之际，活动于饶乐水（今西拉木伦河）一带。东邻挹娄、夫余、高句丽等，西连匈奴，南与幽州刺史所部相接，鲜卑居北，乌桓居南。西汉高祖元年（公元前206年），东胡被匈奴冒顿单于击破，部众离散，乌桓一支逃至乌桓山（今内蒙古自治区阿鲁科尔沁旗以北，即大兴安岭山脉南端），“因以为号”。但乌丸之名，战国时已出现，《史记?货殖列传》曾指出：“夫燕亦勃、碣之间二都会也……北邻乌桓、夫余，东缩秽貉、朝鲜、真番之利。”有的学者认为乌桓初为部落大人之名，后来引申为部落之名。另一种说法，认为乌桓、鲜卑不是因山得名，而是以族名转为山名，后又有乌丸川等。

乌桓的先世，据《后汉书?乌桓传》云：“乌桓者，本东胡也。”王沈《魏书》同，认为乌桓与鲜卑同出自东胡。至于乌桓在加入东胡前，《竹书纪年》提到：“后芬即位，三年，九夷来御。曰吠夷、于夷、方夷、黄夷、白夷、赤夷、玄夷、风夷、阳夷。”赤夷尚赤，居于东方，似与乌桓人有关。在乌桓习俗中，穹庐皆东向，并把天地、日月、山川。日色近赤，能给人以光明和温暖，对于生活在北方寒冷地带的乌桓来讲至关重要。丁谦指出：“乌桓者，乌兰之转音也，蒙古语红曰乌