尽管如此，刘峙仍然牢骚满腹，暗地里逢人便讲：“孙总理是天下为公，委员长是天下为私。”
在上海的刘公馆里，刘峙度过了两年安逸的生活。1948年夏，蒋介石又一次想起刘峙。当时陇海线战事爆发在即，徐州“剿总”的战略地位凸显重要，蒋介石环顾各嫡系将领，一个个皆为解放军手下新败之将，何应钦推荐刘峙为徐州“剿总”司令，蒋介石也认为刘峙虽然打了一些败仗，但终究忠信可靠；虽然优柔寡断，但辅之以杜聿明等虎将，可收短长互补之效，因此决定起用刘峙。
刘峙久闲无事，忽然收到徐州“剿总”的任命，不禁受宠若惊，立刻向蒋表示“义不容辞”。6月14日，刘峙飞抵徐州就职。
是年9月，济南解放后，王耀武被活捉，刘峙、社聿明依仗“王牌军”，还想收复济南。当时制订了两个作战方案，一是以攻为守，向北阻止解放军南下，收复济南。二是南撤蚌埠，放弃徐州，抢淮河而守，加强南京外围防御。
两个方案，究竟哪个胜算更大，刘峙心里没底，前瞻后顾，疑惧重重。杜聿明自恃重兵在握，主张实施第一方案，刘峙自然同意。但北上收复济南的行动尚未开始，东北战事告急，蒋介石一个电报将杜聿明调往北平。杜聿明一走，刘峙急得大喊：