在一定的制約條件下研究如何使系統的運行取得最優效果的一門學科，是系統工程的一個分支。制約條件稱為約束條件，判斷效果的指標稱為目標（指標）函數。系統優化分為動態和靜態的問題。帶有控制（決策）參量的微分方程描述的動態系統優化問題稱為最優控制問題，採用的基本方法是極大化原理和最優化原則，它們刻畫瞭最優解（最優控制）的特徵。靜態系統的優化問題稱為規劃問題，在經濟、金融、管理、決策、環保、、生態平衡系統中有廣泛應用。由於時間可以作為一維因素引入數學模型中，使動態問題可以轉化為靜態問題處理。目標函數是數值函數的稱為單目標規劃問題；目標函數是多個的稱為多目標規劃問題。這兩類規劃問題的區別在於前者追求最優解，後者追求的是均衡（有效）解。多目標規劃問題與博弈問題是等價的，並且與數理經濟問題緊密聯系。含有隨機參量的規劃問題稱為隨機規劃，可利用數學期望或方差將它轉化為一般的規劃問題。模糊系統的優化問題稱為模糊規劃，利用隸屬函數也可將它轉化為一般的規劃問題。