1948年11月6日，华东野战军和中原野战军及各地方武装从四面八方向淮海战场挺进，矛头直指徐州。驻守在徐州外围的国民党军各兵团和绥靖区部队正面都受到了解放军的攻击。他们向徐州“剿总”和南京国防部告急，都称自己正面受到了解放军主力部队的强力攻击，要求增援。徐州“剿总”司令刘峙立即判断解放军要攻打徐州。他命令外围的各兵团马上向徐州靠拢，并向南京国防部提出，火速派部队增援。南京的国民党国防部由于情况不明，立时陷入混乱，不知如何是好。

直到11月10日，他们得知黄百韬兵团被解放军强大兵力包围在了徐州以东60公里处的碾庄地区后，才如梦方醒，判断出“解放军对黄兵团志在必得”，可是，为时已晚。1948年11月6日到22日，整个黄百韬兵团被解放军全歼，黄百韬毙命。

其实，首歼黄百韬兵团的计划，早在1948年9月下旬就确定了。为了隐蔽这一作战意图，解放军华东野战军和中原野战军两大野战军战前作了一系列准备。华野司令部命令三纵和两广纵队及冀鲁豫军区部队挺进鲁西南地区伪装主力，用十几个纵队的番号拍发电报，并断绝行人交通。其他纵队电台一律关闭，用马匹和摩托进行联络。在村庄里张贴解放徐州的标语，造成解放军要在夺取济南后乘胜攻打徐州的声势。国民党军为了获取情报，曾派遣了很多特工人员企图打入解放区，但由于解放军和地方政府组织民兵盘查严格，很多特工人员被抓，其余的都被迫退了回来。所以国民党军在侦察无果的情况下，只有靠侦讯电台去截获解放军的电报。他们窃听到鲁西南一带电讯密集，有十几个纵队的番号，便认定解放军主力在鲁西南一带。所以，从徐州“剿总”司令部到南京国防部，都认为华野主力在徐州以西。而他们做梦都没有想到，解放军鲁西南只有两个纵队，主力部队远在几百里以外的鲁南一带。

战役开始后，解放军两大野战军从四面八方同时向当面之敌发起攻击。徐州外围的国民党军队同时受到攻击，互相不能照应，都认为自己的正面是解放军主力部队，各图自保，并都向上锋告急，请求增援，这就大大延缓了其机动时间。就在他们混乱之际，解放军各部都按原计划迅速进行大胆穿插，分割包围，把徐州国民党重兵分割成了互不联系的几块，而主力部队则在各路部队配合、协同下，完成了包围黄百韬兵团的任务，在战役一开始就掌握了主动权，为夺取整个战役胜利打下了良好的基础。