1946年6月底，解放战争全面爆发。在华东，蒋介石调集45万大军，向我苏皖解放区大举进攻。在苏中方向上，我华中野战军在粟裕司令员、谭震林政委等指挥下，奋起迎击4倍于己之敌的进攻，连续作战，七战七捷，共歼敌五万余人。然而在其他几个方向上，我军却连遭挫折。7月底淮南解放区全部陷落，8月整个淮北区被敌人占领；9月又在极为被动的情况下，痛失苏皖解放区首府两淮(淮阴、准安)，国民党军兵临苏北涟水城，涟水战役正式打响。

第二次涟水之战，解放军共毙伤敌军8000余人，但自身也付出了重大代价，仅第六师就有5000多名指战员血洒疆场。在王必成的战史上，如此的伤亡是前所未有的。尤其令他痛心的是，有些部队被困在城里未能冲出，绝大部分壮烈牺牲。

此刻的张灵甫报了前仇，春风得意。他率领一群高级军官，来到涟水古塔下合影留念。实际上，二战涟水张灵甫虽然胜了，但第七十四师前后伤亡近万人，基层战斗骨干损失惨重。后来孟良崮战后，被俘的第七十四师旅团长们都认为，涟水之战重创了该部，是造成后来覆灭的重要原因：“涟水战后，本师元气亏损，一蹶不振”。

涟水失陷，陈毅盛怒之下要将王必成撤职查办，但粟裕了解王必成，认为他是一员不可多得的战将，主张改为留职检查，这也许是王必成一生中最难堪的时刻。他对陈毅、粟裕说：“日后打七十四师，绝对不要忘了我王必成的六师！”粟裕当即表态：以后，凡我华东部队组织歼灭七十四师的战役，一定让六师参加，一定让王必成参加。

1946年底，王必成奉命率部北撤，与在山东作战的兄弟部队会师。次年春，山东、华中我军进行统一整编，组成华东野战军，以陈毅为司令员兼政委，粟裕为副司令员，谭震林为副政委，陈士榘为参谋长，唐亮为政治部主任，下辖10个纵队，王必成任第六纵队司令员，江渭清任政委。

1947年2月，王必成率华野六纵参加莱芜战役，创造了一个纵队在一次战役中歼敌2.4万余名的辉煌战绩。5月，他又率部参加了著名的孟良崮战役。此役，华野六纵遇到了老冤家、死对头张灵甫的整编第七十四师。结果，他指挥所部勇登孟良崮峰顶，击毙国民党军第七十四师师长张灵甫。孟良崮战役基本上粉碎了敌人对山东解放区的重点进攻。以此战役为素材，当时六纵的宣传部部长吴强创作了著名小说《红日》。“在以后华东战场的多次重大战役中，如豫东战役、淮海战役、渡江战役，必成同志的华野六纵，都建树了赫赫战功”（陈丕显语）。

1949年2月，遵照中央军委的统一命令，华东野战军正式改编为中国人民解放军第三野战军，王必成部改编为第八兵团（陈士榘任司令员）二十四军，王必成任军长，后任第七兵团兼浙江军区副司令员、浙江军区司令员。

谈及王必成军旅生涯，与其共事多年的陈丕显直竖大拇指：“必成同志在长期革命战争中，转战南北，出生入死，勇猛顽强，大胆果敢，具有出色的军事指挥才能。他是很能打仗的，而且善于打大仗，打硬仗，从不打‘滑头仗’。他不愧为人民解放军的一员虎将。”