日军为夺回白彦镇，立即组织兵力疯狂反扑。3月7日，八路军115师击退滕县日军对白彦镇的第一次进攻。3月12日，日军由汉奸孙鹤龄残部引路，又从白彦镇北面的平邑、西北面的城后、东南面的梁丘集中700余人，兵分三路向白彦镇合围，企图一举歼灭八路军115师部队。驻守白彦镇的八路军第686团、师特务团及苏鲁支队等部队，在对敌人实施节节阻击后，根据第115师首长的命令主动撤离，隐蔽到白彦镇两侧的山地里，准备对敌人开展夜袭。

日军于下午进入白彦镇，但发现没有一点工事可以防守，要抓夫整修又找不到人，粮食更是搜寻不到，井也被封起来了，人、畜没有水喝。

当晚12点，686团一部又杀入白彦镇，与敌逐屋争夺。敌人苦于没有水喝，早已军心涣散，稍作抵抗后不久便向西北方向逃窜。八路军特务团和686团1个连跟踪追击，歼敌一部，残敌也被团团围住。敌援军200余人乘坐汽车多辆赶来增援，又被八路军击溃。战至黄昏，残敌在大平邑援军掩护下狼狈逃走，丢下了200多具尸体。

八路军获此大捷后，鲁南各处的日军、汉奸惶惶不安，纷纷求援于滕、峄、费等县之敌。日军妄图挽回败局，又调集2500多人，于3月19日向白彦镇发动了第三次进攻。

八路军686团在白彦镇西北的官庄，首先迎击了从大平邑来犯之敌，双方正在激战时，八路军苏鲁豫支队第1支队迂回到敌人背后，给敌以沉重打击，打乱了敌人的部署。八路军在白彦镇外围与敌激战两天后，再次主动撤出战斗。3月21日，日军占领白彦镇。