又稱抽象動力系統,是具有連續性質的動力系統。它是通過拓撲映射(不一定通過微分方程)來定義的。設常微分系統

(*)

的右側函數

< ,且滿足解的惟一性條件, n維歐幾裡得空間。由於 S( x)與 t無關,不失一般性,可設(*)的每個解 φ( xt)在整個實軸 I上有定義,於是它確定瞭 × I 的變換,滿足:

  ① 初值條件:φ(x,0)=x;

  ②φ(xt)對xt一並連續;

  ③ 群的條件:即對任意x

,任意 t 1t 2I

  ④φ(xt)對t可微。

  為瞭更一般地研究問題,可以拋開常微分系統,並假設空間是一般的度量空間R。設φ(xt)是R×IR且滿足性質①、②、③的單參數連續變換群,則所有這些變換的全體稱為拓撲動力系統或抽象動力系統,記作

,其中參數 t代表時間。點集{ φ( xt), tI}稱為過點 x的軌線或軌道,記作 φ( xI)。仿此,稱 為正半軌線, 為負半軌線。 φ( x 為弧段。當 tI +(半群), 稱為半動力系統或半流;當 tN(整數加群), 稱為離散動力系統或離散流。若 φ( xt)= x,對一切 tI,則稱點 x為休止點,若 φ( xt+ ω)= φ( xt),對一切 tI,其中 ω>0,則稱 φ( xt)為周期軌線,滿足上述等式的最小正數 ω,稱為周期軌線的周期。

  例如,下面是一個有趣的拓撲動力系統──別佈托夫系統。

  令勪

。對於 f( x), g( x)∈勪,定義距離

對距離ρ,勪 構成完備的可分的度量空間。定義映射φ:勪×II如下:

於是它構成一個拓撲動力系統,稱為別佈托夫系統,簡記為

  由n個符號所組成的一切可能的雙無窮序列,在上述類似的距離和軌線的定義下,組成動力系統,稱為符號動力系統,它可視為

的子系統。很多拓撲動力系統可嵌入 成為它的子系統。

  若f(x)≡с,則φ(f(x),t)是休止點;若f(x+ω)=f(x),對一切xI,其中ω>0,則φ(f(x),t)是周期軌線。周期軌線在

中處處稠密。另外 中含有在勪中處處稠密的軌線。

  極限點集及軌線分類 G.D.伯克霍夫認為,動力系統理論主要是研究各種軌線的類型及其間的關系。為瞭研究軌線的分類,必須瞭解軌線在無窮時(t→±∞)的狀態。

  極限點集 設:實數列

。如果有 ,則稱點 y是軌線 φ( xt)的 ω-極限點, Ω x表示 φ( xt)的一切 ω-極限點集。若 ,則稱 yφ( xt)的α-極限點, A x表示 φ( xt)的一切α-極限點集。

  不變集 設給定集合AR,若對一切tIφ(At)=A,則稱A是不變集。ΩxAx是閉的不變集。任何一條軌線是不變集,但不一定是閉集。

  極小集 集合R稱為極小集,若它是非空、閉的且不變;同時它沒有任何真子集也具有這三條性質。顯然,Σ中的每一條軌線在Σ上處處稠密。另外,在

上所定義的拓撲動力系統,若對軌線 φ( xt)而言, ,則 φ( xI)就是一個極小集,但它不是緊致的。而比較有趣的是緊致極小集,如休止點和周期軌線就是緊致極小集。在 R 2上定義的連續動力系統的緊致極小集隻能是休止點和周期軌線。但當 RR 2時,情形就不同瞭。

  例如,

式中 θφ的周期都為1。這樣就在二維環面 T 2上定義瞭動力系統。當у是有理數時, T 2上都是周期軌線;而у是無理數時, T 2上的每條軌線在其上處處稠密, T 2構成緊致極小集。

  又如,前例中,當у是無理數時,令

,式中 ( θφ)是對 θφ周期都為1的連續周期函數。對 ;當 。直觀地說,這就是將前例中的一條過點 p且在 T 2上處處稠密的軌線用奇點 p切斷。這時 T 2不再是極小集,而奇點 p是極小集。

  伯克霍夫證明,若R是緊致度量空間,則在其上定義的動力系統Rt至少包含一個緊致極小集。

  當R是緊致的二維定向流形,在其上定義瞭C2光滑動力系統。若ARt的極小集且在R上無處稠密,則A必是休止點或周期軌線。若Ωx中不包含休止點或周期軌線,則Ωx=T2=R。但當Rt隻是C1光滑時,A.當儒瓦在1931年舉出過反例(見常微分方程定性理論)。

  軌線分類 根據軌線的極限點的性質,可分為:

  ① 若Ωx=ø,則稱φ(xt)為正向遠離;

  ② 若Ωx≠ø,但φ(xI)∩Ωx=ø,則稱φ(xt)為正向漸近;

  ③ 若

,則稱 φ( xt)為正向泊松穩定,簡稱 p +穩定。

  仿此,有負向或雙側的遠離、漸近和泊松穩定軌線,後者分別簡稱為p-p穩定。休止點和周期軌線是p穩定的。R2上的連續動力系統的p穩定軌線隻能是休止點或周期軌線,且其上的p+p-穩定軌線必是p穩定軌線。而當RR2時,情形就完全不同瞭。如前述的T2上被奇點切成兩段的軌線,一條是p+穩定的,另一條是p-穩定的,而T2上其餘的都是p穩定的軌線。比起遠離和漸近軌線來,p穩定軌線是較復雜和較有興趣的。從天體力學觀點看,p穩定軌線在它的運行過程中,將不斷地在其軌線的任一點的任意小鄰域內再現。與此現象相反的是下面的情形。

  設點xR,若存在它的鄰域U(x)及時間T>0,使得當tT時,U(x)∩φ(xt)=ø,則稱x為遊蕩點。R上的所有遊蕩點集WR上的不變開集。V=R\W是相對於R的非遊的點集,它是不變閉集。所有p穩定軌線上的點都是非遊蕩點。反之,卻不然。如前述的被奇點切斷的那條軌線,若再用有限個奇點將它切斷,則每兩個奇點之間的那些軌線就既非p-穩定也非p+穩定,但其上都是非遊蕩點。

  對於p穩定軌線φ(xt),根據在其運行過程中,它在軌線上任一點的任意小鄰域中再現的時間序列的性質不同,可分成很多類型,除瞭周期軌線外,最重要的是以下兩類。

  若對任給ε>0,存在T(ε)>0及I上對T(ε)而言的相對稠密集{τn},使得對一切tI和一切τn,有ρ(φ(xt),φ(xtn))<ε,則稱軌線φ(xt)是幾乎周期軌線(或稱概周期軌線)。周期軌線便是幾乎周期的,若周期軌線的周期為ω>0,則可取T(ε)=ω,τn=nω

  若上述相對稠密集{τn}是依賴於軌線上的點y=φ(xt)或者說依賴於t的,即{τn(t)},則稱φ(xt)為回復軌線。回復軌線和幾乎周期軌線的閉包的性質是不同的。伯克霍夫證明,緊致極小集內的每條軌線都是回復的;反之,在完備空間內回復軌線的閉包是緊致極小集。而緊致極小集Σ成為幾乎周期軌線的閉包的充分必要條件是:Σ是緊致、交換、連通拓撲群。

  前例中未被奇點切斷的軌線都是p穩定的,但它們不是回復的。類似地,可構造雙周期函數

( θφ),使得整個環面 T 2是回復軌線的閉包而不是幾乎周期軌線的閉包。

  A.M.李亞普諾夫穩定性(見常微分方程運動穩定性理論)、吸引區等概念已經推廣到拓撲動力系統。對非自治微分方程的解來引進動力系統,即所謂“斜積流”,這是值得註意的動向。