建武元年（25年）十月，刘秀定都洛阳。此时的长安，极度混乱，赤眉军拥立傀儡小皇帝刘盆子建立了建世政权，拥兵三十万众，进逼关中，更始遣诸将与赤眉大军交战，均大败而归，死伤甚重，三辅震动！不久，更始向赤眉请降，获封为长沙王，后为赤眉缢杀。刘秀闻绿林、赤眉两大起义军发生了火并，也派邓禹西入关中，以观时变。此间，三辅大饥，人相食，城郭皆空，白骨蔽野，赤眉数十万大军拥在长安，不日粮草即告匮乏，只得撤出长安西走陇右以补充粮草，结果为割据陇右的隗（ kuí）嚣（xiāo）所败，恰是严冬，“逢大雪，坑谷皆满，士多冻死”，赤眉数十万大军只得东归再次折回长安，并击败了进驻那里的邓禹军，迫使其退出长安，但此时的赤眉军也遭受了极大的消耗。见邓禹的西征军不利，刘秀遣冯异前往关中，代替邓禹指挥西征大军。冯异到后，邓禹联合冯异部与赤眉再战，结果再次大败，冯异只率少数人弃马步行才得脱身归营，而邓禹则败走宜阳。冯异收拢归散的部下，坚壁清野，待机再战。不久，冯异军与赤眉再次大战于崤底（今渑池西南），双方均倾众而出，一直大战到太阳偏西。在此之前，冯异提前选精壮之士换上与赤眉军一样的装束，伏于道路两侧，此时见双方皆已力衰，伏兵杀出，赤眉大军惊溃大败，被冯异迫降者八万余人。崤底之战，使得赤眉军再遭重创，加之粮草已尽，不得已再次转向东南方，力图补充粮草和人马，摆脱困境。

刘秀亲率六军，于宜阳前线将大军摆开阵势，大司马吴汉精兵于最前，中军在其后，骁骑兵和带甲武士分陈于左右两侧。赤眉大军兵士疲敝，粮草缺乏，士气低落到了极点，自崤底失败后一路从关中折向南，至宜阳，正迎面撞上刘秀布下的重兵，兵困粮乏的赤眉军根本无力再战，而后面又有冯异的大军，再回关中已无可能。在已陷入绝境的情况下，尚有十几万兵马的赤眉大军无奈在宜阳被迫请降，并向刘秀呈上了得自更始帝之处传国玉玺和更始的七尺宝剑。至此，起自新莽天凤五年，纵横山东十余年的赤眉军被刘秀扼杀在了血泊之中。

在与赤眉军在关中激战的同时，刘秀在关东（即函谷关以东）一线亦派遣以虎牙将军盖延为首的诸将对梁王刘永进行了东征。刘永，西汉梁孝王刘武的八世孙，其家世代为梁王，据梁地，故在梁地素有威名，声望极大。更始败亡之后，刘永自称天子，在睢阳登基。对于刘秀来说，近在东方睢阳的刘永是对其威胁最大的军事集团，刘永所在的睢阳距洛阳近在咫尺，时刻威胁着京师洛阳的安全。自建武二年（26年）始，刘秀先后派虎牙将军盖延和建威大将军耿弇分别平定了割据睢阳的刘永和青州的张歩，特别是耿弇与齐王张歩的战斗，极为惨烈，“城中沟堑皆满，八九十里僵尸相属。此间，刘秀还亲征海西王董宪，大获全胜。到建武六年（30年）初，关东基本上为刘秀所定。

自建武元年（25年）至建武六年（30年）初，经过近六年的东征西讨，刘秀已经基本上控制了除陇右和巴蜀之外的广大中原之地，基本上统一了中国的东方，与西北陇右的隗嚣、西南巴蜀的公孙述形成了鼎足之势。

建武六年（30年）四月，光武帝至长安，刘秀留耿弇守漆县（今陕西彬县），冯异守栒邑（今陕西旬邑东北），祭遵守沂县（今陕西陇县南），另调吴汉由洛阳西进，在长安集结兵力。时割据河西的窦融已归附刘秀，进攻金城（今甘肃兰州市西北），击破助隗嚣的羌族豪强何封等部，隗嚣腹背受敌。隗嚣大将马援也在隗嚣反汉时归附于汉。光武帝给其精骑五千，招降隗嚣部属和羌族豪长，从内部分化瓦解隗嚣。隗嚣上书刘秀表示亲善，企图以此作为缓兵之计，未遂。即派使向公孙述称臣。

建武七年（31年）春，公孙述立隗嚣为朔宁王，出兵援陇。闰四月，刘秀利用隗嚣顿兵坚城、士卒疲惫之机，进兵高平第一城，窦融也率河西步骑数万前来会师。汉军分路挺进陇山，招降瓦亭守将牛邯等隗嚣大将十三人。属县十六、军队十余万皆降，略阳围解。隗嚣率残部逃奔西城。九年正月，隗嚣死。部众拥立其少子隗纯为王。

建武十一年（35年）三月，大司马吴汉率荆州兵六万，马五千匹，于荆门与岑彭会合，沿长江西上入蜀；来歙、盖延率诸军自陇西南下攻河池入蜀。南线岑彭军溯江西上，攻克荆门，俘程讯，斩任满，田戎退守江州（今四川重庆市北嘉陵江北岸），彭遂由三峡，长驱直入江关。沿途郡县降附，大军直迫江州。

建武十二年（36年）一月，吴汉败蜀军于鱼腹津（今四川眉山之岷江渡口），进围武阳，歼灭蜀援军五千余人。西上再破广都，逼近成都。吴汉求胜心切，率二万步骑进攻成都，兵败。吴汉随即改变战术，乘夜秘撤到锦江南岸与副将刘尚合兵，并力对敌，转败为胜。此后，吴汉根据刘秀敌疲再攻的战术，与蜀军战于成都、广都之间，歼灭公孙述大量有生力量，兵临成都城下。十一月，臧宫攻克繁（今四川彭县西北）、郫（今四川郫县）与吴汉会师，合围成都。公孙述招募五千敢死士交延岑指挥，准备决战。延岑在市桥（今四川成都市南郊）大败吴汉。吴汉隐蔽精锐，示弱诱敌。公孙述贸然出击，蜀军大败，公孙述重伤死。延岑见大势已去，率成都守军降。

自建武元年至建武十二年（36年），刘秀登基后用了十二年的时间终于克定天下，使得自新莽末年以来四分五裂、战火连年的中国再次归于一统。