1949年8月21日，彭德怀在兰州战役总攻发起之前，他口授了一份电报，给率领第一兵团从左翼迂回青海的爱将王震，指出：青马匪军决心固守兰州，我左兵团进占临夏后，可能动摇其固守决心，但也可能促其不顾一切决心死守，甚至放弃西宁，撤守大通河东岸及享堂、新城、湟水北岸，保障向河西的退路。在我军攻击兰州六七天不得手时，宁马主力就可能乘机增援兰州。青、宁二马有汽车2000辆以上，要充分估计到宁马主力车运兰州的可能性。如果出现这种情况，第一兵团即可迂回兰州北部，我军将集中3个兵团于兰州会战。王震兵团应有此种作战之充分准备。

同时，为防止胡宗南部增援兰州，彭德怀还决定让周士第兵团牵制胡宗南残部。同日，彭德怀以第一野战军司令部的名义，发出了进攻兰州的战术指示，指出：青马匪军为今日敌军中最有战斗力的部队，在全国也是有数的顽敌，我们对他须有足够的估计，并作充分的精神准备，力戒轻敌骄傲情绪。在这里，彭德怀又一次告诫部队，防止骄傲轻敌情绪。事实上，部队确实存在着盲目的骄傲自满情绪，甚至有的团长拍着胸脯说：没问题，把主攻的任务交给我，有两个钟头，保证拿下来！

想想也难怪干部战士有轻敌想法，这半年多来，形势发展得太快了，三大战役噼哩啪啦敲掉了国民党军150多万，紧接着渡江战役一举占领了国民党的首都南京，不久上海也宣告解放，太原城插上了红旗。长江以南，第二、第三、第四野战军200多万大军就像撵鸭子似地，把国民党的残兵败将追得气都喘不匀，投降的投降，起义的起义，一触即溃，实在不经打。大西北的这几个小军阀，在强大的第一野战军面前，能有什么作为？问题恰恰出在这里，马步芳和马继援统辖的马家军绝不是一块好啃的骨头。

兰州之战打响前的具体态势是：在兰州东、南、西三面被解放军团团包围，北面的黄河铁桥还掌握在马家军手里，也就是说，解放军无法将兰州全部包围，马家军的退路没被堵死。这便是和太原之战的最大不同之处。彭德怀决定，先以9个团的兵力，对兰州守军全线阵地进行一次攻击。攻击兰州的解放军共有5个军，即第四军、第六军、第六十三军、第六十五军；第三军为总预备队。率先进行攻击的9个团便从前4个军里抽出。

具体部署是：第六十三军和第六十五军共以5个团的兵力，攻击豆家山、古城岭和十里山一线阵地；第四军以2个团的兵力，攻击沈家岭阵地；第六军以2个团的兵力，攻击皋兰山主峰营盘岭阵地。攻击兰州的帷幕已经悄悄拉开。华北野战军第六十三军、六十五军作为先锋上阵了。马继援庄这些主要阵地上的部署是：第一00师固守马架山及豆家山、古城岭和十里山一线；第二四八师固守营盘岭，第一九0师固守沈家岭及狗娃山一线。这3个师是马继援手中的最有战斗力的部队。此外，在其他阵地上，还有第一二九军、保安部队等。城内守军约5万余人。从兵力对比上看，解放军占有绝对优势。

马继援兵虽不多，但其扼守的阵地坚固。他认为，有的阵地足可抵10万雄兵。在万事万物中，攻和守永远是一对矛盾。作为守方，由于有了良好的地形和坚固的工事，等于加重了己方的法码。8月20日深夜，参加首攻的9个团悄悄进入阵地，战士们蹲在潮湿的战壕里等待进攻的号令。8月21日拂晓，彭德怀站在他的指挥所里，右手用力地一挥：开始！随着彭德怀的命令，解放军外围阵地上的上千门各类火炮一起射击，霎时万炮齐鸣，爆炸声轰隆隆连成一片。

3发信号弹升上天空，担任攻击的9个团近万名士兵，从不同方向，不同地点，在各类轻重火器的掩护下，杀向守军阵地……一开始战斗就进入白热化状态。各部队纷纷报告，进攻受挫，伤亡太大，军、兵团，乃至野司指挥所里，电话铃不断，没一个是报告好消息的，全是坏消息。这仗怎么啦？到底怎么回事？各级指挥官一个劲地摇头，心里纳闷。攻了整整一天，全线受挫，投入主攻的9个团均伤亡严重，有的连队基层干部全拼光了。最让人丧气的是，居然在几十里长的战线上，连敌人一个口子都未撕开！在彭德怀几十年戎马生涯中，这种情况是前所未有的。理智告诉他：这样打下去不行。黄昏时，彭德怀下令：全线停止攻击。