1947年3月，國民黨軍集中24個整編師60個旅約45萬人，向山東解放區進行重點進攻，企圖與人民解放軍華東野戰軍主力決戰。3月底，華東野戰軍主力結束休整從膠濟線南下，準備尋殲國民黨軍第1兵團於臨沂、郯城地區，但因其收縮靠近，不便割殲，遂改變計畫：以第1、第3、第10縱隊組成西線兵團，圍攻泰安，調動國民黨軍；以6個縱隊位於臨沂至蒙陰公路東側待機，殲滅可能自泗水、大平邑(今平邑)北援之敵。4月22日晚，第10縱隊攻克泰安週邊據點，包圍該城。接著，增調第3縱隊第第8師、第9師一部參加攻城。25日黃昏，攻城部隊發起總攻，突入城內，激戰至26日，殲滅國民黨軍整編第72師師部和2個旅，俘師長楊文泉以下1.5萬餘人。隨後，第1縱隊攻克寧陽，第3縱隊威逼兗州，第10縱隊向肥城地區擴張戰果。在攻占泰安期間，第2、第4、第6、第7、第8、第9縱隊分別向當面之國民黨軍攻擊，各殺傷其一部。戰役於5月1日結束，共殲國民黨軍2.4萬餘人。