1853年9月25日，翼王石达开奉命挂帅出京前往安庆主持西征战事，准备攻打安徽省城——庐州（合肥）。10月25日，石达开指挥胡以晃、曾天养进攻安庆城北面要塞集贤关，击毙清军将领赓音太、伍登庸，顺利开启安庆北大门。打下集贤关之后，胡以晃、曾天养乘胜北上，攻打桐城和舒城。桐城的乡绅马三俊率乡勇与太平军对抗，很快便败退，桐城被太平军占领。驻守舒城的是工部侍郎兼安徽省民团总负责人吕贤基，太平军进攻舒城时，清军兵力不多，但吕贤基坚持抗争到底，最终城陷身亡，胡以晃、曾天养的兵锋直指庐州城！工部侍郎算是朝廷高官，吕贤基的阵亡使咸丰更担心庐州的安危。

石达开赶赴安庆

为解庐州之危，咸丰督促各路援军迅速赶往庐州增援，包括驻守武昌的江忠源、寿春镇总兵玉山、总兵音德布、陕甘总督舒兴阿等。其中行动最迅速的便是刚升任安徽巡抚、人尚在武昌的江忠源，他率领两千七百余人，从汉口出发，长途奔袭，经六安后于1853年12月10日第一个进入庐州城。同时，清廷又从河南陈州（淮阳）、江苏徐州、安徽定远等地调集万余兵力增援庐州战场，可见庐州的战略地位举足轻重。江忠源进入庐州城后发现了异常糟糕的局面——城中缺乏粮草和弹药，他十分埋怨守城的胡元炜之前没有告诉他实情。江忠源入城后，胡以晃、曾天养的大军很快抵达庐州，太平军不仅要面对老对手江忠源，还要抵挡清军各路援军，压力也非常大。

江忠源驰援庐州

12月12日，太平军开始攻城，遭到江忠源的顽强抵抗，连攻数日无果。12月18日，总兵玉山等率领两千多人马靠近庐州，次日，从六安增援的音德布部也逼进庐州。曾天养带领彪悍人马在庐州威武门外歼灭玉山援军大部，玉山战死，又在城东击溃音德布的四千多援军，清军城外的舒兴阿等各路援军见状不敢冒险靠近庐州，他们担心胡以晃、曾天养在实施“围城打援”之计，搞不好庐州城没被攻破自己首先被消灭了。积极救援的和春、刘长佑、江忠濬（江忠源之弟）等人则被太平军阻挡于外围，无法靠近。庐州城外的一万多清军援军没能打通进入庐州的生命通道，局面确实有些尴尬。

今合肥水西门

太平军抓住城外清军援军怠慢之机向庐州城发动猛烈攻击，由于城外的补给被切断且原本就物资缺乏，江忠源面临的守城压力越来越大。带病作战的江忠源对援军望眼欲穿，然而援军就在附近，他此时的心情一定很愤恨难平。与江忠源一起守城的胡元炜一看局势不妙，打算向太平军投降，他暗中通风报信，把庐州城内防守空虚、供给不足的军情出卖给太平军。太平军决定发动总攻，其土营开始对庐州发动爆破攻势，遭到江忠源的顽强反击。太平军土营决定改善爆破战术，巧妙设置了上下双层爆破工事，顶层炸药轰塌城墙后太平军没有立刻攻城，等敌军蜂拥堵住缺口时土营再引爆底层炸药，此时太平军将士再疯狂冲杀。江忠源是太平军的老对手，但对于这样的爆破攻城他也没有防备。1854年1月14日，太平军土营用双层爆破法轰塌庐州城水西门城墙，太平军将士从水西门攻入庐州城，守城清军被全歼，知府胡元炜投降，江忠源突围无望后投河自杀，庐州被太平军占领。