1948年5月，中共中央任命聂荣臻为华北局第三书记兼华北军区司令员，任命徐向前、膝代远、萧克分别为华北军区第一、第二、第三副司令员。晋察冀和晋冀鲁豫的部队合并组成华北野战军第一、二、三兵团，加上地方武装，全区共有50万大军，兵强马壮，成了中央军委名副其实的战略机动部队。三个兵团中，徐向前兼任第一兵团司令员兼政委，主要任务是发起晋中战役，在晋中打击阎锡山。

阎锡山是山西五台县人。1913年曾投靠袁世凯，任山西督军兼省长。1927年5月归附国民政府，任陆海空军副司令兼山西省政府主席。几十年来，当各地军阀纷纷走马换将时，唯独阎锡山30多年大旗不倒，连蒋介石对此也表示惊异，因而阎素有山西的土皇帝之称。临汾被徐向前攻克以后，阎锡山手下在晋中尚有5个军、13个师以及民卫军约10万人。这些部队分布在榆次至灵石段铁路及太原至孝义公路沿线各城镇要点，阎锡山还以其中的13个步兵和炮兵团组成闪击兵团，机动应援，控制晋中。徐向前当时能指挥的部队包括八纵、十三纵、太岳部队及晋绥军区、北岳军区所属部队共46个团，6万多人，兵力对比上处于劣势。如果正面硬碰硬的打，谁胜谁负就难说了。

徐向前与阎锡山真可谓是老对手了。鄂豫皖苏区革命失败后，徐向前一度回山西赋闲。阎锡山的老家与徐向前家仅一河之隔。在鄂豫皖，徐向前指挥红军屡挫蒋介石中央军的锐气，阎锡山非但没有对徐向前产生敌手的感觉，反而深为五台出了徐向前这样的帅才而骄傲，逢人便夸徐向前。闻知徐向前回到山西，他亲自出马迎接。得知徐向前欲回故里，他派车送行，又差人给徐家送去厚礼。徐向前当然知道阎锡山的用心。当两人再次见面时，阎锡山开口就说：你过来，我马上委任你当团长。徐向前沉静地摇摇头。师长，你回来，我马上给你个师长干。阎锡山急切地许愿道。他知道，黄埔出身的徐向前的价值实在在这个师长之上。他也知道，当时徐向前的黄埔同学中还没有哪个人能超过师长这个高官的。

但徐向前还是摇了摇头，开口说：你就是给我个军长，我也不能跟你干。咱们毕竟志不同道不合。一次谈话，令阎锡山感慨万千，叹息不已。他知道他无法让徐向前投身到他的麾下。但他清楚一点：徐向前这样的将才是不可多得的。总有一天，他的军事才华将显露出来。也许出于敬意，也许是出于同乡之谊，阎锡山没有加害徐向前，反而礼让有加。也许他还寄希望于有一天徐向前能被他的诚意打动，回心转意，加入他的晋绥军。他曾不止一次对他的众多不服气的晋绥军将领说：徐向前是帅才，你们没一个能比得了他。可惜！可惜！但令阎锡山头疼的是，徐向前却成了他的对手，而且是一个令他屡吃败仗的强硬对手。