現實世界中存在的一種貌似無規律的複雜運動形態，亦稱渾沌。例如，在平穩的氣流中從一支點燃著的香煙升起的一縷輕煙,突然捲曲成一團劇烈攪動的煙霧（圖1）。控制心臟作有節奏的搏動以維持生命的電脈衝，突然一反常態變得混亂不堪而導致心室纖維顫振和心力衰竭（圖2）。這些現象都屬於混沌。它們的共同特徵是，原來遵循簡單物理規律的有序運動形態，在某種條件下突然偏離預期的規律性而變成瞭無序的形態。1975年，美國數學傢J.約克和李天印首先引入瞭“混沌”的名稱。科學傢的研究表明，，混沌來自非線性（見非線性系統），由非線性所引起的兩個變量間依從關系的多值性是導致分岔、跳躍、突變等非線現象的基本原因。混沌可在相當廣泛的一些確定性動力學系統中發生。當系統的參量取值於某個范圍內時，由某些初始值引起的運動不是趨向於由物理定律所預期的有序穩態運動形態（如平衡、周期運動和概周期運動），而是趨向於非周期的、看起來雜亂無章的混沌運動形態。混沌在統計特性上類似於隨機過程，被認為是確定性系統中的一種內稟隨機性。
圖1 一縷輕煙突然卷曲成一團劇烈攪動的煙霧
圖2 電脈沖收縮心室變成混沌狀態，導致纖維顫振
表征混沌中無序現象的兩個基本特點是：不可預言性和對於初始值的極端敏感依賴性。這是由美國氣象學傢E.N.洛倫茨在60年代初研究天氣預報中大氣流動問題時首先揭示的。他通過編制程序在計算機上求解模擬地球大氣的一個方程組，發現隻要作為實驗出發點的初始值有一個微不足道的差異，在混沌狀態下同一種過程將導致截然不同的圖像。而且由於不可能以無限的精度測量初始值，因此不可能預言任何混沌系統的最後結果。洛倫茨還發現，盡管混沌看起來是雜亂無章的，但仍然具有某種條理性，根據計算機輸出的幾千個可能的解打印的數字隻是在某種狀態的范圍內是隨機分佈的。正如每日的天氣可以有無窮多不可預測的組態，而逐年的氣候多少保持某種穩定性。這種內在有序性的源泉是一種被數學傢稱之為吸引子的東西，它因具有傾向於把一個系統或一個方程吸引到某個終態而得名。洛倫茨模型的吸引子是一類奇異吸引子，方程的解將無限趨近於此奇異吸引子，來回盤旋形成渾然一體的左右兩簇，宛如顫動中的一對蝴蝶翅膀（圖3）。
圖3 奇異吸引子
為瞭預言或避免混沌現象的產生，需要研究一個系統由有序過渡到混沌所采取的途徑。最早揭示的途徑之一是通過倍周期分岔達到混沌，它是70年代中期美國生物學傢R.梅在對季節性繁殖的昆蟲的年蟲口的模擬研究中首先發現的。梅用一個基本非線性方程來模擬年蟲口，使任何一年昆蟲的數目隻決定於可獲得的食物數量和上一年的蟲口。按照簡單的自然規律，當把食物供應量定到足夠的大小時，蟲口數便會逐年圍繞一個特定的數值振蕩；這相應於現實生活中,這一年因食物充足和繁殖增快使下一年有更多的昆蟲，而由此導致每個昆蟲的食物減少和部分昆蟲死於饑餓，結果第三年中隻留下來較少的昆蟲,如此構成循環重復出現。然而梅的實驗發現,當把方程中的食物量取為更高一級數值時，原來圍繞一個數值振蕩的蟲口突然開始繞著兩個數值振蕩；當把食物供應量再取為高一級數值時，這個循環再度分裂而成為圍繞四個數值振蕩，振蕩長達四倍時間才能回到出發點。此後,隨著提高食物量的取值，相繼分裂成圍繞8、16、32、64、…個數值振蕩的循環。最後，在可得到食物的臨界值,逐年的蟲口數變得完全混亂,既無法預言如何改變也無法解釋為何改變。通過倍周期分岔進入混沌的途徑有相當的普遍性，已在人類的心臟、某些半導體器件、一些非線性振蕩電路等許多現實系統中被觀測到。1976年，美國物理學傢M.J.費根鮑姆重新對梅的蟲口模型進行計算機數值實驗,發現當某個決定性參量(在蟲口模型中為可得到的食物量)的值升高時,一個系統最終變成混沌狀態的方式和速率與方程本身無關，隻依賴於現今稱為費根鮑姆數的兩個常數，δ＝4.6692016091029909…和α =2.5029078750958928485…。δ反映分岔序列的收斂速率。α 表示分岔譜和混沌帶滿足標度無關性，具有嵌套的幾何結構。從那時起，科學傢們還發現和確定瞭通向混沌的其他途徑，如準周期方式等。
對混沌的研究雖已有一些嚴格的數學方法，但大量的研究主要依靠計算機數值實驗。混沌的研究和許多學科有關。在分析力學中，運用卡姆定理可判斷一類近似可積的哈密頓系統（一種非線性動力學系統）中能否出現混沌運動。開放系統的混沌運動的研究與耗散結構理論有密切聯系。混沌的研究與協同學也緊密相關，兩者都研究系統由有序向無序和由無序向有序的轉化。在系統科學中，也日益重視對混沌的研究。對混沌研究的應用前景還有待進一步揭示，但科學傢們預言，通過對混沌根源和模式的深刻理解，可能會指出一種方法來尋找超聲速飛機的更好的形狀或核電站的更有效的冷卻設備，也可能會找到有助於防止心臟病發作的途徑。混沌現象的發現還使人們對於認識確定論與隨機論之間的關系得到新的啟示。