1937年8月13日，淞沪会战正式拉开了序幕。

随着战事的扩大，日军不断从国内增兵，兵力已达二十万人，炮三百余门，战车二百余辆，飞机二百余架，准备进行决战。蒋介石也从全国各地调集了70多个师的兵力，一师一师的部队投入战场，以确保这个远东最大都市。

然而，上海是个不设防城市，国军只能在临时性工事中以血肉之躯、忠勇之气抵抗装备精良和拥有优势火力的敌人进攻，牺牲十分巨大。

国军的许多精锐部队被打光、打残——例如桂系有名的钢七军。

这种情况下，张发奎与左翼军总司令张治中一起联名，向蒋介石提出应该改变战略，对上海会战可能运用的最多兵力进行有效而精密的计算，如果超过这个限度仍不能挽回战局，那就应该转为进行持久战、消耗战，为此，应该先以约10个师的兵力占领苏、嘉、吴、福的既设国防工事，作第二线抵抗。

两个人还保证，在接受敌人攻击时起，愿意在既设阵地上固守三个月。

张治中为左翼军总司令，张发奎为右翼军总司令。

他们的这个建议完全是可行的。

但是，蒋介石却拒绝了这一建议。他认为上海是军事必争之地，应不惜一切来确保这个地区，以争取所谓国际支持和影响。

结果，打到9月下旬，上海守军转入阵地防御战后，战况渐趋不利，阵地次第失陷。9月30日，日军在万桥、严宅、陆桥三处突破，左翼军被迫退却。右翼方面，张发奎指挥部队严密戒备，抗击了日军。

但是，战至10月30日，日军强渡苏州河。国军左翼军、中路军均败退；右翼军的处境极为不利，形势非常严峻。结果，几天后，日军在杭州湾、金山卫登陆，上海背腹受敌，全线崩溃，不得不撤兵。

日军乘胜追击，结果，由于第二线没有进行严密的防御准备，日军一路追击，很快就兵临南京城下。

南京城沦陷后，张治中、张发奎回过头再来总结战况，痛心疾首地说：“当初若是10个师占领苏、嘉、吴、福的既设国防工事，作第二线抵抗，再调集全国的兵力来援，南京或许能保住！”