在东汉初年，匈奴就大量进入塞内。46年前后，匈奴国内发生严重的自然灾害，人畜饥疫，死亡大半。而统治阶级因争权夺利，发生分裂。48年，匈奴八部族人共立呼韩邪单于之孙日逐王比为单于，与蒲奴单于分庭抗礼，匈奴分裂为两部。后日逐王比率4万多人南下附汉称臣称为南匈奴，被汉朝安置在河套地区。而留居漠北的称为北匈奴。

留居漠北的北匈奴，连年遭受严重天灾，又受到南匈奴、乌桓、鲜卑的攻击，退居漠北后社会经济极度萎缩，力量大大削弱，多次遣使向东汉请求和亲。其一怕东汉北伐，其二想挑拨破坏东汉与南匈奴的关系；其三想在西域抬高自己声望，其四想通过和亲与东汉互市交换所需物资。东汉政府没有答应和亲，仅同意双方人民互市。北匈奴从65年至72年不断入侵东汉渔阳至河西走廊北部边塞，随着东汉的政治稳定和经济得到恢复发展，国力增强，在南匈奴的支持下，开始了征伐北匈奴的战争

73年二月东汉派窦固等四路大军出击，占据伊吾卢城（今新疆哈密）。同年，派班超通西域南路鄯善国，75年至76年汉匈之间对西域展开了一场争夺战，窦固、耿恭击败呼衍王和左鹿蠡王，占车师、争夺金满城，因汉明帝死，中原大旱，人民负担太重，暂时罢兵。83年至85年北匈奴人先后有七十三批南下附汉，加上南匈奴攻击，北匈奴力量大大削弱。87年鲜卑从东部猛攻北匈奴，杀死优留单于。

优留单于死后，北匈奴大乱，漠北又发生蝗灾，人民饥馑，内部冲突不断，北匈奴内部危机连连。东汉乘此时机，于89年到91年与南匈奴联合夹击北匈奴。

89年（东汉永元元年）夏六月开始，窦宪、耿秉率军与南匈奴军队在涿邪山会合（今蒙古国满达勒戈壁附近），与北单于战于稽落山（今蒙古国额布根山），北单于大败逃走，汉军追击，俘杀一万三千余人，北匈奴先后有二十余万人归附。窦宪、耿秉登燕然山（今蒙古国杭爱山）刻石纪功而还。明年再出击北匈奴，北单于受伤逃走。91年东汉军又出击金微山（今阿尔泰山）大败北匈奴军，北单于迫使其西迁，率残部西逃乌孙与康居。

94年，南匈奴单于师子立。新降的北匈奴部众对单于师子不服，在同年，十五部二十几万人皆叛变，胁迫前单于屯屠何之子奥鞬日逐王逢侯为单于，匈奴再次分裂，东汉派遗大军以及乌桓、鲜卑兵共四万人大败逢侯，逢侯遂率众出塞，汉军追赶不及。107年，逢侯趁东汉放弃西域之际，控制西域，胁迫诸国共同搔扰东汉边疆十几年。118年，逢侯被鲜卑击败，率领百余人投靠东汉。