解放戰爭時期，中國人民解放軍的主力部隊之一，是由抗日戰爭時期在晉冀魯豫邊區的八路軍及地方部隊逐步發展起來的。
為適應抗日戰爭轉入大反攻的需要，中共中央軍委於1945年8月20日決定組建晉冀魯豫軍區，由劉伯承任司令員，鄧小平任政治委員，滕代遠、王宏坤任副司令員，薄一波任副政治委員，張際春任副政治委員兼政治部主任，李達任參謀長。下轄冀魯豫、冀南、太行、太嶽等軍區。不久，將各軍區的基幹旅（團）分別編成4個縱隊。在此期間各部隊對對日偽軍開展瞭大反攻，並於9月10日至10月12日進行瞭上黨戰役（見彩圖），殲滅侵入晉東南解放區的國民黨軍第2戰區閻錫山部13個師3.5萬餘人，保衛瞭解放區，有力地配合瞭中國共產黨與國民黨進行的和平談判。
國共兩黨談判期間，國民黨挑動內戰，向解放區發動進攻，解放區軍民進行自衛反擊。圖為晉冀魯豫軍區部隊上黨戰役中攻克山西屯留城
上黨戰役後，晉冀魯豫軍區野戰軍組成，冀魯豫、冀南、太行、太嶽軍區各縱隊依次改為第1、第2、第3、第4縱隊。10月24日至11月2日，軍區部隊進行瞭邯鄲戰役，殲滅沿平漢鐵路北進的國民黨軍第11戰區孫連仲部2個軍3萬餘人，爭取瞭第11戰區副司令長官兼新編第8軍軍長高樹勛率近萬人起義（見彩圖），並將其改編為民主建國軍，列入晉冀魯豫軍區序列。11月10日，晉冀魯豫軍區根據中共第七次全國代表大會的精神和晉冀魯豫中央局的決定，首先在縱隊、旅兩級恢復黨委制。與此同時，第1縱隊奉命開赴東北，途中因形勢變化，留在晉察冀解放區歸晉察冀軍區建制。晉冀魯豫軍區另以太行、冀魯豫軍區基幹團組成第6、第7縱隊。1946年5月，國民黨軍第38軍副軍長孔從周率一個師在河南鞏縣起義，後與先前起義的另一個師會合，被命名為西北民主聯軍第38軍，列入晉冀魯豫軍區建制。1946年上半年，軍區部隊進行瞭形勢、任務教育和戰術、技術訓練，加強瞭迎擊蔣介石發動全面內戰的準備。
1945年10月，國民黨第十一戰區副司令長官兼新八軍軍長高樹勛，在邯鄲戰役中率部起義。圖為歡迎起義官兵大會
1946年6月下旬，國民黨軍對解放區發動全面進攻。晉冀魯豫軍區遵照中共中央軍委的指示，決定以一部兵力於晉南、豫北地區鉗制國民黨軍；以第3、第6、第7縱隊（後增加第2縱隊）和冀魯豫軍區主力一部，組成晉冀魯豫野戰軍，由劉伯承、鄧小平率領，南下豫東作戰。8月10～22日進行出擊隴海路戰役，殲滅國民黨軍1.6萬餘人，攻克杞縣、通許等10餘座城鎮。9月初至1947年1月上旬，又連續進行瞭定陶、巨野、鄄城、滑縣、巨金魚和出擊豫皖邊等戰役，共殲滅國民黨軍8.7萬餘人，粉碎瞭國民黨軍打通平漢鐵路的企圖。在此期間，留在解放區內的第4縱隊和太嶽軍區部隊，先後進行瞭聞（喜）夏（縣）、臨（汾）浮（山）等戰役，並在晉綏軍區部隊配合下，進行瞭呂梁、汾（陽）孝（義）戰役，共殲國民黨軍5.5萬餘人，遲滯瞭國民黨軍沿同蒲鐵路北進的行動。
劉伯承（右）、鄧小平（左）於南征前合影
1946年12月，第1縱隊歸回晉冀魯豫野戰軍建制。1947年3月，第7縱隊番號撤銷，所屬部隊並入第1縱隊。為支援陜北、山東解放區粉碎國民黨軍的重點進攻，晉冀魯豫野戰軍主力和第4縱隊、太嶽軍區部隊，分別在豫北和晉南地區轉入戰略性反攻，經兩個月作戰，殲滅國民黨軍6萬餘人，解放瞭豫北的封丘、濮陽等9座縣城和晉南的曲沃、禹門口等20餘座城鎮。
劉伯承（右三）、鄧小平（右二）等檢閱部隊
為執行中共中央關於以主力打到外線去，將戰爭引向國民黨區域去的戰略方針，晉冀魯豫野戰軍除以一部兵力堅持內線作戰外，劉伯承、鄧小平率第1、第2、第3、第6等4個縱隊12萬人，於1947年6月30日從山東省陽谷以東之張秋鎮至菏澤以北之臨濮集間強渡黃河(見彩圖)，在冀魯豫軍區部隊配合下發起魯西南戰役，殲國民黨軍9個半旅約6萬人，揭開瞭人民解放軍轉入戰略進攻的序幕。8月7～27日，晉冀魯豫野戰軍主力在華東野戰軍一部兵力掩護下，分路進軍大別山，並迅速實施戰略展開，到9月底，共殲滅國民黨保安團隊6000餘人，解放縣城23座，建立瞭17個縣級民主政權。9月27日，野戰軍在光山縣以南王大灣召開旅以上幹部會議，強調增強鬥志，反對右傾情緒，克服紀律松弛現象等，這次會議對在艱苦困難環境下堅持大別山的鬥爭，完滿貫徹中共中央的戰略部署起瞭重要作用。10月，野戰軍主力進行瞭張傢店和高山鋪戰役，共殲國民黨軍1.7萬餘人。11月，建立瞭鄂豫和皖西兩個軍區。同時，第10、第12縱隊也進至大別山區，12月初，分別向桐柏和江漢地區展開，依托桐柏山、大洪山建立瞭新的根據地。
1947年7月至9月，人民解放軍開始戰略反攻。圖為6月30日晚，劉鄧大軍南渡黃河，轉入外線作戰
野戰軍主力南征後，晉冀魯豫軍區又組建瞭第8、第9、第10、第11縱隊，以原中原軍區突圍到達晉冀魯豫解放區的部隊為基礎組建瞭第12縱隊。
8月23日，晉冀魯豫野戰軍第4、第9縱隊和第38軍共8萬餘人，在第4縱隊司令員陳賡、政治委員謝富治指揮下，由晉南強渡黃河，進軍豫西，策應主力躍進大別山和西北野戰軍的作戰行動，連續作戰3個月，殲國民黨軍5萬餘人，解放縣城36座，開辟瞭豫陜鄂解放區。
1947年底，晉冀魯豫野戰軍主力粉碎瞭國民黨軍對大別山區的全面圍攻，1948年3月由大別山轉進至沙河、淮河間休整。各部隊進行瞭以訴苦（訴舊社會和反動派所給予勞動人民之苦）和“三查”（查階級、查工作、查鬥志）為主要內容的新式整軍運動，廣大指戰員的政治覺悟有瞭很大提高。3～5月，陳（賡）謝（富治）集團協同華東野戰軍主力一部先後進行瞭洛陽戰役、宛西戰役。
5月9日，中共中央軍委決定重新成立中原軍區，並以晉冀魯豫野戰軍改稱中原野戰軍，劉伯承任司令員，鄧小平任政治委員，陳毅（仍兼華東野戰軍司令員和政治委員）、李先念任副司令員，鄧子恢、張際春任副政治委員。中原野戰軍下轄第1、第2、第3、第4、第6、第9、第11等7個縱隊。由原第10、第12縱隊分別組成桐柏、江漢軍區。同時組建瞭豫西、陜南軍區。從5月初開始，中原野戰軍在華東野戰軍一部配合下，先後進行瞭宛東、襄樊、鄭州等戰役，並配合華東野戰軍進行瞭豫東戰役，鞏固與擴大瞭中原解放區。1948年11月6日至1949年1月10日，中原野戰軍與華東野戰軍聯合舉行淮海戰役(見彩圖)，共殲滅國民黨軍55.5萬人。
1948年11月6日至1949年1月10日，人民解放軍進行淮海戰役。圖為人民解放軍某部向國民黨軍黃百韜兵團駐地碾莊圩突擊
1949年2月，遵照中共中央軍委1月15日的命令，中原野戰軍改稱第二野戰軍，劉伯承任司令員，鄧小平任政治委員，張際春任副政治委員兼政治部主任，李達任參謀長。部隊進行瞭整編，以所屬7個縱隊為基礎，編成3個兵團：第3兵團，司令員陳錫聯，政治委員謝富治，轄第10、第11、第12軍；第4兵團，司令員兼政治委員陳賡，轄第13、第14、第15軍；第5兵團，司令員楊勇，政治委員蘇振華，轄第16、第17、第18軍。同時成立瞭特種兵縱隊。總兵力28萬餘人。整編後，第二野戰軍脫離中原軍區，渡淮河南進，在皖中及皖西地區休整，並進行渡江作戰的準備工作。
第二野戰軍渡江前的步兵陣容
4月20日，國民黨政府拒絕在國內和平協定上簽字，第二野戰軍遵照中共中央軍委的命令，同第三野戰軍及第四野戰軍一部聯合發起渡江戰役。第二野戰軍在貴池、馬當間突破國民黨軍的長江防線，直出浙贛鐵路沿線，解放瞭皖南、浙西、閩北和贛東北廣大地區。5月22日解放南昌。隨後，第4兵團劃歸第四野戰軍指揮，向中南地區進軍。第二野戰軍主力集結於金華、上饒地區休整，準備協同第三野戰軍粉碎帝國主義可能的武裝幹涉。9月初，第二野戰軍開始向湘西集結，執行進軍西南的任務。11月初，部隊分兩路西進。右路第3兵團在第四野戰軍一部配合下，一舉突破國民黨軍的川鄂邊防線，殲川湘鄂邊“綏靖公署”宋希濂集團主力及第15兵團大部，30日解放重慶；左路第5兵團及第10軍，直出貴州，15日解放貴陽，在攻占遵義、敘永等地後，北渡長江，占領瀘州、宜賓。11月27日，中共中央軍委決定第18兵團歸第二野戰軍指揮，由秦嶺南下執行入川作戰任務。12月上旬，各路大軍向成都急進。20日，完成瞭對成都地區的合圍。國民黨軍5個兵團起義，1個兵團被殲，12月底解放成都。第4兵團在參加兩廣作戰後歸建入滇，與第四野戰軍一部進行滇南戰役，殲國民黨軍2.7萬餘人。1950年3月中旬至4月上旬，第4、第18兵團各一部解放西昌。第二野戰軍在進軍西南的作戰中，共殲國民黨軍90餘萬人，解放瞭除西藏以外的西南全境。
1950年2月22日，第二野戰軍領率機關按照中共中央軍委指示，同率領第18兵團入川的西北軍區機關一部合並，正式組成西南軍區，賀龍任司令員，鄧小平任政治委員，陳賡、周士第、李達任副司令員，宋任窮、張際春、李井泉任副政治委員。同年4月中共中央決定撤銷野戰軍和兵團番號。5月，第二野戰軍所屬部隊統歸西南軍區建制。1951年，西南軍區以一部兵力參加並完成瞭進軍西藏的任務。
賀龍（左）、周士第（中）、李井泉（右）率部隊進軍西南追殲殘敵
解放戰爭時期，第二野戰軍在人民群眾支援下，共殲滅國民黨軍200餘萬人。在戰爭中第二野戰軍犧牲瞭3.7萬餘人，其中團以上幹部163名，湧現出“鋼鐵營”等光榮集體和王克勤等一批英雄模范人物，為中國人民的解放事業作出瞭巨大貢獻。