1947年蒋介石用心腹爱将陈诚换下抗日名将薛岳，抽调整编第 19 军军长欧震指挥8个整编师 20个旅组成主要突击集团，黄百韬指挥的6个旅为右路军，李天霞指挥的7个旅为中路，左路为胡琏指挥的7个旅；以第 2 绥署区副司令李仙洲指挥第12、46、73军等3个军9个师为辅助突击集团，由胶济路南下，直捣山东解放区，还从豫北、冀南抽调王敬久集团4个整编师集结于鲁西南地区，在华东战场投入重兵豪赌，制定著名的“鲁南会战”。

大军浩浩荡荡杀向鲁南，李仙洲等人没有吃过共军的苦头，胆子比较大，故推进速度比较快。据侦察，截至2月4日，李仙洲所率北线 3 个军的先头部队已进至莱芜、新泰一线，对华野的后方构成了重大威胁，在这种情况下，陈毅、粟裕不得不重新考虑作战计划。陈毅深深感到毛泽东以空间换取时间、集中兵力歼灭敌人有生力量的战略思想的英明。因为敌人逼我在临沂地区决战，我有了必要时放弃临沂的准备，作战的回旋余地就大得多了。

陈毅很快提出了一个重要的设想：既然南线敌人重兵密集，战机难寻，而北线敌人孤军深入，威胁我后方，我们何不改变原定作战方针，置南线重兵集团于不顾，而以主力北上，以绝对优势兵力，歼灭北线之敌。他要求粟裕对此作深入周密的思考。粟裕觉得司令员这个设想十分高明。他又作了进一步的对比和分析，首先他对比了南、北两路敌人的不同情况，认为南线敌人有 60 多个团，我也仅有60多个团，在兵力上不能占有优势，不能对敌人实施分割包围；而北线敌军兵力小，战斗力相对弱些，内部派系矛盾多，如我将主力隐蔽北上，可以对其形成绝对优势，有把握予以歼灭。

敌人既认定我必固守临沂，我军突然北上，定可出其不意。这样，我就可置敌在南线强大兵团于无用武之地，既可避免不利决战，又可在北线歼敌一大群，粉碎敌之南北夹击意图，解除我后方威胁。北线的敌人如发现我主力北上，可能回缩使我扑空，但即便如此，我还可乘势进击胶济路，打通鲁中、胶东、渤海三区联系，然后休整部队，以逸待劳，从容迎击南线北进之敌。而且我军还可采取种种佯动措施，迷惑敌人，只要能争取到几天时间，北线之敌便难逃被歼的命运。

粟裕又考虑了多种不利情况及处置方法，其中包括来自敌方的和我方的，以及后勤支前方面的，都向陈毅一一陈述。陈毅他全部说完，更非常高兴地一连说了几个对头。然后又同谭震林及其他前委委员商量，都得到了完全的支持。2月5日午时，陈毅签发了报请中央军委审查的 3 个作战方案：第一，以第二纵队进击白塔埠、房山街之郝鹏举部，诱右路敌东援或待中、左路敌放胆北进，然后视机歼其一路；第二，如敌仍密集不分，则以一部监视敌人，主力集结临沂以北休整待机；第三，如敌仍不北进，即转兵北上，求歼李仙洲集团。

2月6日，讨郝战斗发起。二纵以迅速勇猛的动作，一夜奔袭数十里，干脆利落地消灭了郝鹏举叛军。但是与我方预料相反，国民党军并没有前来增援，而是采取更为谨慎的动作，加强了各部的防御和配合，还是步步为营地向前推进。毛泽东看到了这一点，2 月 9 日电告陈粟谭：解决郝鹏举部很好。但就全部战略方针来说，如你们方针是解决南面，则似乎打得早了一点，可能影响敌各部进得更谨慎。打了郝鹏举后你们似应按兵不动，让敌各部放手北进，然后各个歼灭之。如你们方针是先解决北面，则打郝鹏举并无妨碍。你们须在两个方针之间有所抉择。挥师北上。

陈毅、粟裕下定决心集中兵力先打北线之敌。他们于 2 月 11 日电告中央军委：我们决心集中叶飞、王必成、陶勇、成钧各纵队及王建安、许世友、宋时轮等部共53 个团，拟首先集中全力解决 73 军及南北师庄 12 军之一个师，而后再转移兵力解决进占新泰之 46 师，及向胶济线进攻，以彻底解决北线问题。对于南线敌军，拟稍为阻滞敌人进占临沂之行动，决由陈士榘率指挥所留临沂附近，指挥韦国清纵及三纵于临沂附近，必要时可再抽一部参加歼灭进占新泰之 46 师。总部一声令下，华东野战军主力 4 个纵队开始秘密向北运动，鲁中、渤海、胶东 3 个纵队也向莱芜方向集结，准备在北线打仗。第二、第三纵队在陈士榘参谋长指挥下，伪装华东野战军全军，在临沂以南实行宽正面防御。为了迷惑敌人，我军公开在沂河和临沂至卞庄的公路旁大挖工事，显出决战的样子。

鲁南地方武装伪装成主力部队，到处号房子，征粮草，在运河上架桥，并派一部攻打兖州。这些迹象使国民党情报部门误认为我军要死守临沂，守不住就向西转移，从而作出错误的判断。由于华野各部采取了严守秘密的措施夜行晓宿，国民党方面不论是南京的最高统帅部还是徐州的陈诚和薛岳，都被蒙在鼓里。华东野战军自临沂向北转移后，陈诚就捏造战绩，谎称已把华东野战军击败，以图借此振作士气。他还打电报给第 2 绥区司令官王耀武说： 我军在苏北和鲁南与敌作战，歼敌甚众。

敌军心涣散，粮弹缺乏，已无力与我主力部队作战，陈毅已串其主力放弃临沂，向北逃窜，有过黄河避战的企图；务须增强黄河防务，勿使其渡过黄河以北，以便在黄河以南的地区歼灭之。陈诚把这个捏造的战绩报告给蒋介石后，蒋介石以为华东野战军已无力量与国民党的主力部队作战，梦想乘机将华东野战军陈毅所指挥的部队吸引于新泰、莱芜地区而消灭之。他与陈诚拟定了新的作战部署，由陈诚电令王耀武执行。