利用系統分析的方法對生態系統進行的分析。系統分析是近代數學發展起來的一種分析方法，可用以深入理解和預測一個複雜系統的行為。一般的作法是：將生態系統中的理化及生物學概念翻譯成一套數學關係，對這套關係進行數學運算，然後再把所得結果翻譯為實體概念。
系統是由若幹相互聯繫、相互作用的組成部分所構成的具有一定功能的綜合整體。一臺電視機、一個企業是系統，一個細胞、一個生物個體也是系統。而一個特定地區內由各種生物及其自然環境通過能流及及物質循環而相互聯系共同組成的整體，則為一個生態系統。
系統有不同的類別：物質與能量均與外界有交換的稱為開放系統；與外界有能量交換而無物質交換的稱為封閉系統；物質與能量均與外界無任何交換的稱為孤立系統。例如，一般生態系統都是開放系統，能量和物質可以自由出入。但一個封閉的養魚缸可看作封閉系統，太陽能輸進，熱量輸出，但沒有物質交換。
系統可由若幹個子系統組成，子系統又可由若幹個更小的系統組成。這樣，系統便構成瞭等級組織。每個等級常有各自獨特的行為模式，因此在研究某一等級的行為模式時，並不一定要完全清楚它是怎樣由下一級更簡單的亞成分構成的，而可以直接通過該等級的輸入和輸出關系來進行研究。例如，要描述細胞生理學，並不一定要完全知道細胞的化學組成。
系統的數學模型 數學模型是模擬真實現象的公式。當然，模型不一定是數學的，也可以是文字或圖表的。但若要對系統行為作出較好的定量預測，數學模型還是十分必要的。模型是真實世界的抽象，但它不等於真實世界。R.萊文斯(1966)曾指出衡量模型的3個標準：真實性、精確性和普遍性。所謂真實性，就是指模型的數學陳述是否符合生物學的實際；所謂精確性，就是模型預測的數值與建模所依據的實際數值的差異程度；所謂普遍性，就是模型適用范圍的廣度。一個模型很難同時做到符合這3個標準。不能把一個系統的數學模型與它所描述的復雜的生物系統完全等同起來。R.萊文斯（1966）指出：如果這樣，可能要同時建立上百個偏微分方程，而且某些方程具有時滯，並要測量上萬個參數。於是，在分析時至少會遇到下面3個困難：①要測量的參數太多；②方程不能分析求解，即便使用計算機，運算量也超過最大計算機的容量；③方程即使可解，但所得結果受到太多參數的影響，對洞察系統的行為也毫無意義。因而在實際工作中，要根據具體情況而有所側重，選擇最重要的參數和變量。
建立模型的過程一般包括下面一些步驟：①確定目標和對象。在開始組建系統模型之前，首先應明確要解決什麼問題，並據此劃定所研究的系統在時間、空間上的界限和范圍。當然這劃定工作不能一次完成，以後還可以有變動。②選擇行為特征和建立自由體模型，首先把每一個分量從系統中單獨拿出來研究，這樣建立的模型稱為自由體模型。例如，要研究農田害蟲管理系統，可能包括的分量有害蟲、其天敵及寄主植物。由於我們的目標是如何管理農田生態系統，對害蟲分量來說，害蟲種群數量是應選擇的行為特征，因而害蟲種群動態模型就是首先要建立的自由體模型。③連結自由體模型，將其組成系統模型。
從系統觀點看，各分量之間是相互作用、相互依賴的，因此必須把自由體模型按各分量間相互作用的約束條件連接起來，組成系統模型。例如在上例，必須搞清害蟲怎樣為害寄主植物，怎樣受其天敵捕殺，明確其定量關系，才能把三者連接起來構成系統模型。整個系統模型的組建過程可用圖1來表示。
系統模型的特征分析 無論由理論出發還是從實用目的出發，都需要分析一個系統的特征。例如在管理森林或農田生態系統時，時常需要考慮的一個問題就是系統的穩定性，因為隻有穩定的系統才能保證穩產。一個穩定的系統可能在面臨天氣劇變或害蟲侵襲時擾動極小，也可能在發生擾動後極易恢復。前一種稱為抗逆穩定性，後一種稱為易復穩定性。一般說，這兩種穩定性不並存；穩定的自然環境有利於前者存在，而在不穩定的自然環境中後者更為常見。
生態學傢早就註意到，一個生態系統的復雜性（常指物種多且分佈較均勻，見生物群落）越高，其穩定性也越高。但美國學者R.W.梅於1972年指出，對生態系統數學模型的研究表明，復雜性的增高反致系統走向不穩定。而K.E.F.瓦特研究瞭兩者之間關系後，卻認為其中沒有絕對的關系，有時復雜性導致穩定性，有時復雜性導致不穩定性，要視具體情況而定。
系統的最優化 現代生態學認為，自然選擇和適者生存都屬於最優化過程。自然選擇使物種適合度最大。研究生態系統有兩個本質上不同的目標：預測系統的行為和控制系統的行為。對後者還可以進一步細分。如果僅通過控制系統的輸入來控制系統的行為，這屬於最優控制或最優管理問題；如果通過改變系統的參數甚至改變整個系統的結構來控制系統的行為，則屬於系統結構的最優化，在生態學中即為生態系統的設計問題。這一問題比生態系統的最優控制更為復雜，也更為重要。
無論生態系統的設計或最優管理，都必須要有一個目標。在最優控制理論裡，最優控制問題可按目標的不同而分為最優目標控制、最短時間控制、最少燃料耗費以及最小經濟耗費等。這些問題都可以在生態學中找到相應的應用。20世紀60年代以來，由於環境污染越來越嚴重，人們在考慮管理生態系統時，不得不考慮生態效應。對農田生態系統來說，目標函數一般概括為下列形式：產量-管理耗費-外部損耗。其中關鍵因子是外部損耗，它包括環境損耗、病蟲害對農藥抗性的增加等等。由於問題的復雜性，往往不能一下子構造出一個滿意的目標函數，而需要各學科（如農業科學、生態學、經濟學、系統科學等）之間加強合作，以便在幾個因素中求得平衡，以建立一個理想的目標函數。
靈敏性分析 包括對模型行為的各種不同的研究。有的學者定義靈敏性為模型參數的擾動對系統狀態影響的大小，這些參數包括3個變量：①外部的輸入變量，如光、溫度、雨量、遷入的生物等；②系統內部的代謝變量，如生殖、死亡、呼吸、取食、排泄、遷出等；③物理或生物常數。
舉一個最簡單的例子，即對一個參數作靈敏性分析。假設r(t)即凈生殖率發生瞭擾動，那麼經過一系列的運算便可得出對系統狀態影響的分析結果，即：當種群數量n(t)很大時，改變凈生殖率r(t)對狀態變量n(t)的影響極為明顯，也即靈敏性很高；相反，當種群數量很小時，變動凈生殖率r(t)對種群數量本身的影響很不明顯，也即靈敏性很低。圖2
示一個魚池生態系統。要研究的是初級生產力的改變對肉食動物的潛在收獲量有何影響。假設增加若幹肥料可使初級生產力提高25％，那末要搞清這對經濟魚（鱸魚）的收獲量將產生什麼效果。如果模型的靈敏性分析表明額外的收獲量不足以補償消耗的費用，便應取消這項管理措施。
建立模型的常用數學方法 建立模型的常用數學方法可歸納成3類：第一類是集論和變換；第二類是差分和微分方程；第三類是矩陣代數。
用集來描述系統情況的變化是控制論的基礎。具有某種指定共性的事物的全體稱為某種集（或集合）。可以用一個集來表示一個生態系統，集的元素表示這個生態系統可能采取的若幹狀態。
根據不同的系統狀態和輸入，可以構造一個狀態轉移模型來預測系統狀態的變化。
在生態學中最常用的數學模型是微分方程。一般用來描述生態系統物質流或能量流的分室模型是常微分方程組。微分方程可用來描述生態系統的連續時間變化過程，其形式為：
和f(
V，
t)都可以是向量。如果f(
V，
t)隻含有
k
V項且
k為常數，這時微分方程就是線性的，它所代表的系統就是線性系統。
由於生物現象往往有自然的離散階段，如昆蟲有不同的世代與蟲齡階段，因此離散模型也常被使用。此外，對生態系統狀態的測量或觀察往往是有時間間歇的，所以即使是一個連續時間系統也不能不用離散時間系統的方法來處理。差分方程則是描述離散時間系統最有效的數學工具，它的一般形式可以寫成：
其中
V
t可以是單變量，也可以是向量。如果
V
t是向量，則上述方程就變成方程組。一般說初始值
V
0總是已知的，有瞭
V
0按照上述差分方程就可以算出
V
1，然後再把
V
1代入方程，即可算得
V
2，這樣反復迭代，就可以算出所有的
V
t。差分方程的優點是容易在計算機上實現，所以很多微分方程為在計算機上求數值解，也必須先化成差分方程。
矩陣代數是另一種生態學中常用的數學工具。由於生態系統的狀態變量大多是多維的，所以用矩陣來表示十分方便。最簡單的形式為：
由於現在計算機語言程序都有矩陣運算指令，所以通過矩陣求解，計算還可以簡化。