1946年12月30日，陈毅决定1月2日开始对敌26师发起攻击，尔后打冯治安部。山东、华中两野战军在鲁南战役中集中了 27 个团的兵力，其部署：以第 8 师、鲁中军区第 9 师、鲁南军区第 10 师、滨海警备旅及鲁中军区第 4 师 1 个团共 12 个团的兵力组成右纵队，以主力攻歼第 44 旅，并切断敌人向峄、枣的退路；以一部攻取石龙山、向城，割裂第44 旅与第 169 旅的联系。达成任务后，配合左纵队攻歼整编第 26 师师部及第一快速纵队。以第一纵队及第 1 师共 15 个团组成左纵队，第一纵队歼击第 169 旅，第 1 师首先楔入兰陵、小忠村之线，切断整编第 33 军与整编第 26 师的联系，尔后配合友邻攻歼整编第 26 师及第一快纵。从 12 月 23 日起，各参战部队即分路向作战地区隐蔽开进。至1947年1月1日，到达进攻出发位置。全役分两个阶段。

1947 年1月2日夜间，陈毅、粟裕集中了华中和山东野战军的 27 个主力团，正式发起鲁南战役。这是一次典型的突然袭击。由于解放区军民严密封锁消息，国民党方面，不论是徐州绥署，还是驻扎在鲁南的部队，事前对共军如此重大的作战行动竟毫无察觉。元旦这天，26 师师长马励武已离开指挥位置，在马家庄师指挥部与几个同僚饮酒作乐，酒过三巡，马励武舌头不听使唤，语无伦次，派人把副师长曹玉珩和参谋长郑辅增找来，醉醺醺地说：曹兄、郑兄，今晚我有要事，部队指挥权就交给你们二位了。说完就跌跌撞撞地爬上美国吉普车，连夜赶至峄县城内，与唱红当地的年轻美貌的京戏女旦鬼混去了。战斗一打响，全师人马成了无头之鸟，竟无人统一指挥。

战役第一阶段，是打位于峄县以东四马寨至卞庄一线的整26师及第一快速纵队。整编第 26 师是国民党军在鲁南的主力，战斗力甚强。第一快速纵队更号称“国军精华”，是国民党军中少有的机械化部队。1942 年抗战中期，蒋介石号召知识青年从军，在昆明组建国民党第一支坦克部队。一个营的官兵被送到印度的新德里，由美军顾问开办战车训练队进行正规化训练，然后配备美式坦克，成立坦克 1 营参加滇缅公路作战。三年间他们在与日本军队的作战中勇敢冲锋，从未打过败仗，受到美军顾问的称赞和尊重。抗战结束后，蒋介石用缴获的日军轻型坦克组建两个团，与坦克 1 营合并为第一快速纵队，任命蒋纬国指挥。

正在徐州随同 26 师行动的快速纵队由炮兵第 5 团、坦克第 1 团 1 营、搜索营、工兵营、汽车团等部队组成。坦克 1 营有美式中型、轻型坦克 36 辆，士兵的军装、皮靴、用具都完全是美式装备，论技术、战斗力、速度都是国民党军中第一流的。因而快速纵队的官兵们都带着一股傲气，根本不把土里土气的共军放在眼里。华中和山东野战军按原定部署发起突然进攻。当晚，左纵队各部就分别攻占该师驻地北侧的平山、石城固、青山、凤凰山、尚岩各警戒阵地，歼灭守军 4 个多营，直通该师的主阵地及指挥中枢。同时，占领了峄县、临沂公路上的傅山口、四马寨要点，切断了整编第 26 师西撤与峄、枣国民党军东援的道路。

左纵队的第一纵队主力在 1 月 2 日晚包围了卞庄，第 1 师由鲁坊向西穿插，至3日上午，占领洪山镇、横山、兰陵一线，构筑阻援阵地，切断了整编第26师与整编第33军的联系。至此，解放军已完成了对整编第 26 师的战役分割和部分战术包围。1月3日起，解放军全力压缩包围圈，逐点攻歼守军。马励武得知前方打起来后，马上用电话与马家庄师部联系。电话已被切断，于是他只好用报话机与曹副师长联络。3日早晨，马励武带领两个连乘上卡车，准备返回前线，路上遇见侦察部队说前方战事激烈，乘车极不安全。马励武只好返回峄县向薛岳报告，请求将26师、快速纵队撤回峄县。薛岳允许后，马励武命令26师残部在快速纵队掩护下向西撤退。

马励武原有撤退方案，万一战事不利，他让坦克在部队周围巡回作战，掩护部队乘卡车沿公路撤退。他把这种战术称为“肉泥战”，共军的血肉之躯总是抵挡不了钢铁的坦克，再加上天空中飞机掩护，撤退是能够成功的。谁知1月4日天阴云低，雨雪交加，国民党空军无法掩护，坦克在泥泞道路上行动也受到很大限制。第一快纵与整编第26师残部从早上就开始向峄县突围。我军从缴获的报话机中侦听到国民党军撤退的行动路线，粟裕命令各部队迅速出击，合围敌军。参谋人员看天气太坏，来问粟裕作战计划有无改变。粟裕说：不变！这是天老爷在帮我们的忙。雨雪交加，道路难行，会把重型装备陷在那里，敌人就更难逃脱了。此时，陶勇 1 师已与北面右纵队鲁南 10 师的部队会合，占领了四马寨，堵住了敌军逃向峄县的道路。

北面山野 8 师、9 师、滨海警备旅分别向马家庄、太子堂、陈家桥突击，南面华野 1 师主力向作字沟突击，东面一纵向马家鱼沟突击，将 26 师和快速纵队包围在作字沟到漏汁湖一块狭小的地域内。漏汁湖是南北四五公里宽的一片洼地，水沟交叉，干旱时是平原，雨雪一泡，土地就像海绵一样泥泞松软，成了一片沼泽地。国民党军慌乱地向西突围，坦克、卡车、重炮拥挤在一起，谁都想抢先跑掉。他们等不及排成队伍沿公路开进，而是将坦克、卡车开进道路两侧的田野，成三路、四路平行开进。前边的卡车和坦克很快陷入泥沼，后边的被堵住，不断鸣着喇叭。步兵穿行卡车、坦克之间，拥挤不堪，国民党军完全陷入混乱。

我军各部队如下山猛虎，呐喊着冲入敌阵。分割围歼 26 师和快速纵队。我军早在快速纵队的必经道路，炸桥、破路，挖掘深沟，改造地形，迟滞其行动；集中仅有的战防炮使用穿甲弹轰击坦克行军行列，首先击毁其先头数辆，堵塞通道；在阻击阵地前设置陷井，堆积柴草，待坦克接近时即纵火焚烧；同时，以汽油瓶、集束手榴弹等炸毁敌坦克之履带、油箱。第 1 师第 8 团的排长李教清连续攀登敌 2 辆坦克，从其顶盖塞进手榴弹，吓得另 1 辆坦克的驾驶员举白旗投降，创造了单身俘敌坦克 3 辆的范例。敌26师副师长曹玉珩和参谋长带领 7辆坦克冲在最前面，侥幸逃出重围。