1946年12月，国军徐州指挥所指挥4个整编师和1个快速纵队，向鲁南解放区发起进攻，企图直取首府临沂。陈毅、粟裕指挥解放军山东野战军、华中野战军联合作战，集中兵力歼击进犯鲁南之敌，首先断敌一指，打乱敌军的进攻节奏。
陈毅、粟裕选中的这一路敌人，就是整编26师和快速纵队。整编26师由师长马励武指挥，配属快速纵队，担任此次进攻的主力部队。这个快速纵队由1个步兵旅、1个炮兵团、1个坦克营和搜索营、工兵营、汽车营等单位组成，是当时国内少有的机械化部队。该纵队拥有坦克36辆、重炮20余门、卡车百余辆，均为美式装备，其技术、训练、速度、战斗力都是国内一流的。徐州指挥所将快速纵队配属整编26师作战，可见对这次进攻的殷殷期望。
整编26师师长马励武出身于黄埔军校一期，投身军旅20余年，颇有战功，经验丰富。因鲁南地形平坦，适合发挥坦克和摩托化部队的威力，因此徐州指挥所才将快速纵队加强给整编26师，命令该部迅速前进，攻占临沂，并协同左右友邻寻找我主力决战。
然而当整编26师进至峄县以东时，左右两侧友邻部队却比较缓慢，致使整编26师位置突出。马励武察觉到危险后，即令部队停止前进，就地组织防御。徐州指挥所一再电令该师向东进攻，马励武采取阳奉阴违之策，派少量兵力前出侦察，主力则按住不动。左右友邻见整编26师不动，便也停兵不前，使该师的暴露态势未能改变。
陈毅、粟裕确定了先打整编26师的决心后，立即进行部署，命令两个野战军主力秘密向鲁南集中，分为左右两个纵队，分别由王建安和粟裕指挥，共计步兵27个团加炮兵团，兼程向敌整编26师展开包围。
马励武根据侦察获悉，解放军主力部队正向鲁南方向运动，感到是冲着自己来的，于是向上级电请后撤。然而徐州指挥所不信，不予批准。马励武无奈，只好命令部队收缩阵地，以马家庄为中心，构成一个东西长50里左右的防御阵地。同时派遣坦克前出来回巡逻，随时监视情况，并执行机动作战任务。尽管遭遇了解放军主力，但马励武认为有快速纵队在手，装备强大，总归是有惊无险。在这种轻敌心理支配下，马励武竟然扔下主力回峄县过年去了。
就在这一时段，解放军连续奔袭，猛打猛攻，从各个方向逼近整编26师和快速纵队。国军外围据点连连丢失，几万人被压缩在马家庄附近狭小地区。马励武急了，打电话向徐州恳求，终于得到允许，下令整编26师和快速纵队向西撤回峄县。
然而天不作美，突然雨雪交加，浓雾弥漫，致使国军空军也无法出动支援，整编26师和快速纵队成了盲人瞎马，根本搞不清楚战场情况。解放军趁机勇猛追杀，兜着屁股狠打。结果国军慌不择路，大队人马拥挤成一团，成多路平行队形沿着田野拼命逃跑。偏偏前方有一个水草洼地，干旱的时候没事，现在雨雪一泡，便成了沼泽泥塘。而上面覆盖着白雪，根本也看不出来。这下好，国军的坦克、卡车、重炮一开进去就被陷住，怎么挣扎也出不来，完全失去了往日威风。
这时解放军从后边追上来，呐喊着冲入敌阵，分割围歼敌人。国军心无斗志，迅速崩溃，兵败如山倒。战斗仅持续了4个多小时，我军就歼灭了整编26师主力2个旅加2个团和快速纵队共3万余人，缴获坦克24辆、美式重炮20余门、卡车200多辆。国军只有少量人员和坦克逃回了峄县。其后，陈毅、粟裕指挥解放军乘胜追击，又一举攻克峄县，歼灭守城之敌，生俘整编26师师长马励武。
就这样，解放军取得了鲁南大捷，消灭敌军1个师加快速纵队共4万余人，收复了峄县以东地区，粉碎了敌人企图会攻临沂的决战计划。
1947年1月的鲁南战役，是继宿北战役之后，山东野战军与华中野战军会合进行的第二个大歼灭战。这次战役，经过两个阶段连续作战，全歼国民党美械装备的整编第二十六师、整编第五十一师和第一快速纵队，共5.3万余人，俘虏敌整编第二十六师中将师长马励武、整编第五十一师中将师长周毓英。
缴获了一大批武器装备，其中有坦克24辆，榴弹炮、野炮、山炮及其他大炮217门，汽车474辆。
随后，以缴获的这批装备为主，华东野战军组建了自己的特种兵纵队。
