建立在狀態空間法基礎上的關於自動控制系統的構成、分析和設計的理論。自動控制理論的一個分支。在現代控制理論中，對控制系統的分析和設計主要是通過系統的狀態空間描述來進行的，基本的方法是時間域方法。現代控制理論比經典控制理論所能處理的控制物件要廣泛得多，包括線性系統和非線性系統，定常系統和時變系統，單變數系統和多變數系統。採用的方法和演算法更適合於在數位電腦上進行，還為設計和構造具有指定性能指標的最優控制系統提供瞭可能性。現代控制理論已在航空航太技術、軍事技術、、通信系統、生產過程等方面得到廣泛的應用，某些概念和方法還被應用於人口控制、交通管理、生態系統、經濟系統等的研究中。
形成過程 現代控制理論是在20世紀50年代中期迅速興起的航天技術的推動下發展起來的。航天技術的發展迫切要求建立新的控制原理，以解決諸如把宇宙火箭和人造衛星用最少燃料或最短時間準確地發射到預定軌道一類的控制問題。這類控制問題用經典控制理論難以解決。1958年，蘇聯數學傢L.S.龐特裡亞金提出瞭名為極大值原理的綜合控制系統的新方法。此前，美國應用數學傢R.貝爾曼於1954年創立瞭動態規劃，並在1956年應用於研究控制過程。他們的研究成果解決瞭航天技術中所提出的復雜控制問題，並開拓瞭控制理論中最優控制理論這一新的領域。1960～1961年，美國科學傢R.E.卡爾曼和R.S.佈什建立瞭卡爾曼–佈什濾波理論，因而有可能有效地考慮航天控制問題中存在的隨機噪聲的影響，擴大瞭控制理論的研究范圍，包括更為復雜的控制問題。在同一時期內，貝爾曼、卡爾曼等把狀態空間法系統地引入到控制理論中。狀態空間法對揭示和認識控制系統的許多重要特性具有關鍵的作用。其中能控性和能觀測性尤為重要，成為控制理論中兩個最為基本的概念。到20世紀60年代初，一套以狀態空間法、極大值原理、動態規劃、卡爾曼–佈什濾波理論為基礎的分析和設計控制系統的新的原理和方法已經確立，標志著現代控制理論的形成。
學科內容 現代控制理論包含的學科內容十分廣泛，主要的分支包括線性系統理論、非線性系統理論、最優控制理論、魯棒控制理論、隨機控制理論和適應控制理論。
線性系統理論 現代控制理論中最為基本和比較成熟的一個分支，著重於研究線性系統中狀態的控制和觀測問題，其基本的分析和綜合方法是狀態空間法，主要的數學基礎是線性代數和矩陣理論。按所基於的數學工具的不同，線性系統理論還延伸出三個主要學派：基於幾何概念和方法的線性系統幾何理論，代表人物是W.M.旺納姆；基於抽象代數方法的線性系統代數理論，代表人物是卡爾曼；基於復變量方法和多項式矩陣理論的多變量頻率域理論，代表人物是H.H.羅森佈羅克和W.A.沃羅維奇。
非線性系統理論 以非線性系統為研究對象，相應的分析和綜合理論正在發展完善。研究領域主要限於系統的運動穩定性、反饋線性化、反饋鎮定等。從20世紀70年代以來，混沌和混沌控制、基於微分幾何的非線性系統控制、變結構控制等，相繼成為非線性系統理論研究中的熱點。
最優控制理論 主要研究受控系統在指定性能指標實現最優時的控制規律及其綜合方法。是設計最優控制系統的理論基礎。用於綜合最優控制系統的主要方法有極大值原理和動態規劃。最優控制理論的研究范圍不斷擴大，諸如大系統的最優控制、分佈參數系統的最優控制等。
魯棒控制理論 主要涉及魯棒控制系統的分析和綜合，形成於20世紀70年代末和80年代初。在受控系統包含的不確定性（參數攝動或建模誤差）滿足一定范圍時，魯棒控制仍能使控制系統保持穩定或具有設計性能。標志性結果包括區間系數攝動的系統胡爾維茨多項式四端點檢驗定理、H∞控制理論、結構奇異值分析等。
隨機控制理論 目標是解決隨機控制系統的分析和綜合問題。維納濾波理論和卡爾曼–佈什濾波理論是隨機控制理論的基礎之一。隨機控制理論的一個主要組成部分是隨機最優控制，其求解有賴於動態規劃的概念和方法。
適應控制理論 在模仿生物適應能力的思想基礎上建立的一類可自動調整本身特性的控制系統。適應控制系統的研究常可歸結為三個基本問題：①識別受控對象的動態特性；②在識別對象基礎上選擇決策；③在決策基礎上作出反應或動作。