在1944年，美国在太平洋战场上逐渐占据优势，日本深感太平洋战场迟早是要被美军占领的，于是决定在中国战场上重新开辟一条路线，打通南北战线，摧毁中美联合空军基地，防止美国轰炸机对日本本土的空袭。在这样背景之下，日本发动了“一号作战”，自该计划开始以来他们攻破了长沙，接着就是要攻破衡阳，然而衡阳一旦失守，中美的空军基地就要受到严重威胁，所以中国军队为了组织日军的进攻，发动了衡阳保卫战。

在1944年6月，日军在衡阳城为集结了大约十万的兵力，而中国守军是号称“泰山军”的第十军，军长是方先觉，而此时的第十军也仅19000人左右，要面对数倍于己的敌人，压力可想而知。但是中国军民不畏牺牲，誓死保卫衡阳城。

日军计划在三日内将衡阳夷为平地，他们动用了飞机，大炮，坦克，甚至是毒气弹，但是在第一次总攻的时候，日军打了5天，日军占领了衡阳城外围防御阵地，但是损失惨重。

在7月11日的时候，日军发动了第二次总攻，这一次，日军付出了惨重的代价，但却未能攻破衡阳城，双方在反复争夺阵地，日军此次损失约8000人，几乎所有参战的中队长都阵亡了。而中国军队同样也是损失惨重，尤其是非战斗减员非常严重，因为缺乏药品，战士们只能用盐水清洗伤口，但这对于伤口却毫无作用，到后来痢疾流行，情况十分危急。

第三次作战的时候，日本天皇对于前两次的作战十分不满意，下令指挥官横山勇增派更多兵力，如不能攻破衡阳城就切腹谢罪。在8月3日，日军发动了第三次总攻，这一次他们的火力更加猛烈，在没有外援，伤亡惨重的情况之下，中国守军仍然坚决抵抗，城市的每一个角落都是他们的战场。

后来由于弹尽粮绝，方先觉此时深感无望，于是对自己的兄弟们说：“不是我们不努力，而是国家不要我们了。”之后他派人与日军谈判停战，8月8日衡阳陷落。

这一战，日军伤亡近8万人，中国伤亡一万多人。中国守军在无外援的情况下坚守了47天，极大阻滞了日军的计划，粉碎了3天日军占领衡阳的意图，打出中国军队的威风。