隨時間推進的隨機現象的數學抽象。例如,某地第n年的年降水量xn由於受許多隨機因素的影響,它本身具有隨機性,因此{xnn=1,2,…}便是一個隨機過程。類似地,森林中某種動物的頭數,液體中受分子碰撞而作佈佈朗運動的粒子位置,百貨公司每天的顧客數,等等,都隨時間變化而形成隨機過程。嚴格說來,現實中大多數過程都具有程度不同的隨機性。

  氣體分子運動時,由於相互碰撞等原因而迅速改變自己的位置與速度,其運動的過程是隨機的。人們希望知道,運動的軌道有什麼性質(是否連續、可微等等)?分子從一點出發能達到某區域的概率有多大?如果有兩類分子同時運動,由於擴散而互相滲透,那麼擴散是如何進行的,要經過多久其混合才會變得均勻?又如,在一定時間內,放射性物質中有多少原子會分裂或轉化?電話交換臺將收到多少次呼喚?機器會出現多少次故障?物價如何波動?這些實際問題的數學抽象為隨機過程論提供瞭研究的課題。

  一些特殊的隨機過程早已引起註意,例如1907年前後,Α.Α.馬爾可夫研究過一列有特定相依性的隨機變量,後人稱之為馬爾可夫鏈(見馬爾可夫過程);又如1923年N.維納給出瞭佈朗運動的數學定義(後人也稱數學上的佈朗運動為維納過程),這種過程至今仍是重要的研究對象。雖然如此,隨機過程一般理論的研究通常認為開始於30年代。1931年,Α.Η.柯爾莫哥洛夫發表瞭《概率論的解析方法》;三年後,Α.Я.辛欽發表瞭《平穩過程的相關理論》。這兩篇重要論文為馬爾可夫過程與平穩過程奠定瞭理論基礎。稍後,P.萊維出版瞭關於佈朗運動與可加過程的兩本書,其中蘊含著豐富的概率思想。1953年,J.L.杜佈的名著《隨機過程論》問世,它系統且嚴格地敘述瞭隨機過程的基本理論。1951年伊藤清建立瞭關於佈朗運動的隨機微分方程的理論(見隨機積分),為研究馬爾可夫過程開辟瞭新的道路;近年來由於鞅論的進展,人們討論瞭關於半鞅的隨機微分方程;而流形上的隨機微分方程的理論,正方興未艾。60年代,法國學派基於馬爾可夫過程和位勢理論中的一些思想與結果,在相當大的程度上發展瞭隨機過程的一般理論,包括截口定理與過程的投影理論等,中國學者在平穩過程、馬爾可夫過程、鞅論、極限定理、隨機微分方程等方面也做出瞭較好的工作。

  研究隨機過程的方法是多樣的,主要可分為兩大類:一是概率方法,其中用到軌道性質、停時、隨機微分方程等;另一是分析方法,工具是測度論、微分方程、半群理論、函數論、希爾伯特空間等。但許多重要結果往往是由兩者並用而取得的。此外,組合方法、代數方法在某些特殊隨機過程的研究中也起一定的作用。研究的主要課題有:多指標隨機過程、流形上的隨機過程與隨機微分方程以及它們與微分幾何的關系、無窮質點馬爾可夫過程、概率與位勢、各種特殊過程的專題討論等。

  隨機過程論的強大生命力來源於理論本身的內部,來源於其他數學分支如位勢論、微分方程、力學、復變函數論等與隨機過程論的相互滲透和彼此促進,而更重要的是來源於生產活動、科學研究和工程技術中的大量實際問題所提出的要求。目前隨機過程論已得到廣泛的應用,特別是對統計物理、放射性問題、原子反應、天體物理、化學反應、生物中的群體生長、遺傳、傳染病問題、排隊論、信息論、可靠性、經濟數學以及自動控制、無線電技術等的作用更為顯著。

  隨機過程的定義 設(Ω,F,p)為概率空間(見概率),T為指標t的集合(通常視t為時間),如果對每個tT,有定義在Ω上的實隨機變量x(t)與之對應,就稱隨機變量族x={x(t),tT}為一隨機過程(簡稱過程)。研究得最多的是T為實數集R=(-∞,∞)的子集的情形;如果T為整數n的集,也稱{xn}為隨機序列。如果Td維歐幾裡得空間Rdd為大於1的正整數)的子集,則稱x為多指標隨機過程。

  過程x實際上是兩個變元(tω)(tTωΩ)的函數,當t固定時,它是一個隨機變量;當ω固定時,它是t的函數,稱此函數為隨機過程(對應於ω)的軌道或樣本函數。

  如不限於實值情況,可將隨機變量與隨機過程的概念作如下一般化:設(E,ε)為可測空間(即E為任意非空集,ε為E的某些子集組成的σ域),稱x=(x(ω),ωΩ)為取值於E的隨機元,如果對任一B∈ε,{ωx(ω)∈B}∈F。特別,如果

R d中全體波萊爾集所成的 σ域(稱波萊爾域),則取值於 R d中的隨機元即 d維隨機向量。如果 其中 R T為全體實值函數 f=( f( t), tT)的集,而 為包含一切 R T中有限維柱集 的最小 σ域,則取值於 E的隨機元 x即為上述的(實值)隨機過程。如對每個 tT,有取值於 E的隨機元 x( t)與之對應,則稱{ x( t), tT}為取值於 E的隨機過程。

  以下如無特別聲明,隻討論取值於(R1B1)的隨機過程。

  有窮維分佈族 一維分佈函數描述瞭隨機變量取值的概率規律(見概率分佈),對隨機過程x={x(t),tT}起類似作用的是它的全體有窮維分佈函數:對任意ntjTi=1,2,…,n,考慮

的聯合分佈函數

,全體聯合分佈 稱為 x的有窮維分佈族,它顯然滿足下列相容性條件:

  ① 對(1,2,…,n)的任一排列(λ1λ2,…,λn),

  ② 若mn,則

。反之,有著名的柯爾莫哥洛夫定理:設已給 T及一族分佈函數 如果它滿足①、②,則必存在概率空間( Ω,F, p)及定義於其上的隨機過程 x,而且 x的有窮維分佈族重合於 F

  從測度論的觀點看,每一隨機過程x={x(t),tT}在(RTBT)上產生一概率測度PX,稱為x的分佈,它在上述柱集上的值就是

  正態過程 有窮維分佈都是正態分佈的隨機過程,又稱高斯過程。就象一維正態分佈被它的均值(見數學期望)和方差所確定一樣,正態過程{x(t),tT}被它的均值函數m(t)=Ex(t)和協方差函數

λ(s,t)=Ex(s)x(t)-m(s)m(t)

所確定,其中 λ(s, t)是對稱非負定函數,即 λ(s, t)= λ( t,s),而且對任意的 t jT及實數 α j,1≤ in,有 反之,對任給的有限實值函數 m( t)和對稱非負定函數 λ(s, t),由柯爾莫哥洛夫定理可證,存在一個正態過程,以 m( t)為其均值函數,以 λ(s, t)為其協方差函數。

  根據中心極限定理,許多實際問題中出現的隨機過程可近似地視為正態過程。此外,正態過程有一系列的好性質,如它的最佳線性估計重合於條件期望,這一點在應用上是很方便的,既準確又便於計算。因此正態過程在實際中有廣泛的應用,在無線電通訊及自動控制中尤為重要。為方便計,設m(t)≡0。任取tjtT,用L(x(t1),x(t2),…,x(tn))表示由x(t1),x(t2),…,x(tn)的線性組合所構成的希爾伯特空間,x(t)在此空間上的投影記作

稱為 x( t)關於 x( t 1), x( t 2),…, x( t n)的最佳線性估計,即線性最小均方誤差估計;條件期望E( x( t)| x( t 1), x( t 2),…, x( t n))則是非線性的最小均方誤差估計。對正態過程來講,這兩種估計以概率1相等。

  可分性 設F是p-完備的,即F包含任何概率為零的集的一切子集。在隨機過程的研究中,Ω的某些重要的子集並不能由事件(即F中的元素)經可列次集運算而得到。例如

對一切 T不可列,則作為不可列多個事件的交, A未必是一個事件,也就談不上它的概率。為瞭解決這類問題,杜佈引進瞭隨機過程可分性的概念。稱過程 x關於 T的某一可列稠集 Q可分(或簡稱可分),是指除瞭一個概率為零的集 N外, x在每一 tT處的值,可以用限於 Qxt附近的值來任意逼近;即任給不屬於 Nω,存在{ r j}∈ Q,使得 r jt,且 x( r jω)→ x( tω)。所謂 QT的稠集,是指 T的每一點必是 Q中某個點列的極限。如果 x關於 Q可分,則可以證明上述的 A是一個事件,而且有 p( A)= p({ ω:| x( rω)|≤ α,對一切 rQ})。如果過程 x關於 T的任一可列稠集都可分,則稱 x完全可分。

  設x={x(t),tT}與Y={Y(t),tT}為定義在概率空間(Ω,F,p),上的兩個隨機過程,如果對任何tTp(x(t)=Y(t))=1,則稱xY等價(xY互為修正);這時,xY有相同的有窮維分佈族。雖然任給的過程x未必可分,但杜佈證明瞭下列重要結果:對任一過程x,必存在與它等價的可分過程Y。因此在討論僅與有窮維分佈有關的性質時,可取一可分過程Y來代替x

  過程x稱為隨機連續,如果對任一t0T,在依概率收斂的意義下(見概率論中的收斂)有

,對隨機連續的過程 x,必存在一個完全可分過程 Y與之等價。

  可測性 為瞭研究樣本函數對t的積分等問題,需要x(tω)關於兩個變量(tω)的可測性。設TR中某區間,B(T)是T中全體波萊爾集所成的σ域,B(T)×F表示乘積σ域,μ=L×P表示勒貝格測度L(見測度論)與p的乘積測度,

表示 B( T)×F關於 μ的完備化 σ域。

  稱隨機過程x為可測的,如果對任一實數α,有

稱隨機過程 x為波萊爾可測的,如果對任一實數 α,有 。如果過程 x隨機連續,則必存在與 x等價的、可測而且完全可分的過程 Y

  有時還需要更強的可測性。設給瞭F的一族子σ域{

tT},其中 T= R +=[0,∞),滿足:①單調性,對s≤ t ;②右連續性, ③完備性, F 0包含F 的一切概率為零的集。稱 x為{ }-適應的,如果對任一 tx t 可測;稱 x t為{ }-循序可測的,如果對任一 tT及實數 α,有{(s, ω): x(s, ω)≤ α,s≤ t} ([0, t])×

  循序可測過程一定是適應的而且是波萊爾可測的,但逆之不然,除非樣本函數性質較好。例如所有樣本函數都右連續的適應過程一定是循序可測。使一切樣本函數右連續的適應過程都可測的T×Ω上的最小σ域,稱為可選σ域,關於可選σ域可測的過程稱為可選過程。可見,可選可測性是比循序可測性更強的一種可測性。進一步,使一切樣本函數連續的適應過程都可測的T×Ω上的最小σ域,稱為可料σ域,關於可料σ域可測的過程稱為可料過程。這又是一種比可選可測性更強的可測性。可以證明,樣本函數左連續的適應過程都是可料過程。

  軌道性質 當人們觀察物體作隨機運動時,最感興趣的問題之一是它的軌道性狀,因此隨機過程論中一個重要問題是研究軌道性質,例如探討在什麼條件下,過程的軌道x(tω),αtb,以概率1有界,或無第二類斷點,或是階梯函數,或是連續函數,等等。函數f(t)在[αb]上無第二類斷點是指:對每一個t0∈(αb),存在左、右極限

而在 αb)處,則存在單側極限。

  設過程{x(t),t∈[αb]}可分,而且存在常數α>0,ε>0,с≥0,使得對任意的t∈[αb],tt∈[αb],有

,則過程的軌道以概率1在[ αb]上一致連續。設可分過程{ x( t), t∈[ αb]}隨機連續,而且存在常數 p>0, q>0, r>0,с≥0,使得對任意的 αt 1t 2t 3b,有

則過程的軌道以概率1無第二類斷點。正態過程的軌道性質有更好的結果:對均值函數 m( t)≡0的可分正態過程{ x( t), t∈[ αb]},隻要存在с≥0,α>0,使得

x的軌道就以概率1連續。

  停時 這一概念的引進是隨機過程論發展史中的一件大事,它帶來瞭許多新的研究課題,而且擴大瞭理論的應用范圍。早在1945年,J.L.杜佈關於馬爾可夫鏈的文章中已經有瞭停時的思想。60年代杜佈、Ε.Б.登金(又譯鄧肯)、R.M.佈盧門塔爾等應用停時於鞅及強馬爾可夫過程的研究;70年代,由於法國概率論學派的工作而使停時的理論更加完善。

  直觀上,停時是描述某種隨機現象發生的時刻,它是普通時間變量t的隨機化。例如,燈泡的壽命、一場球賽持續的時間都可看成是停時。又如,作隨機運動的粒子首次到達某集A的時刻ττ(ω)=inf{t>0,x(tω)∈A},且約定infø=∞,當x的軌道連續而且A是一個閉集時,τ就是一個停時,它是一個隨機變量,而且對任何t≥0,{τt}∈σ{x(u),ut}。

  一般地,設在可測空間(Ω,F)中已給F的一族單調、右連續、完備的子σ域族{

tR +},稱定義在 Ω上的非負可測函數 τ= τ( ω)(可取+∞為值)為 停時,如果對任意 t≥0,總有{ τt}∈ 。這一定義的直觀背景是:把 理解為到 t為止的全部信息,一個可觀測的隨機現象發生的時刻 τ是否不遲於 t這一信息應包含在 之中。

  類似於

,對停時 τ可以定義 σ

,其中 為包含一切 的最小 σ域。F τ可理解為過程到 τ為止的全部信息。

  停時有許多好的性質,例如,若τ1τ2是停時,則τ1τ2τ1τ2也是停時,其中

;還有

,這裡 表示包含 的最小 σ域;進一步,若{ τ n}是一列停時,則 也是停時。更細致地研究停時,需要對其進行分類,重要的類型有可料時、絕不可及時等。

  二階過程 均值和方差都有限的實值或復值隨機過程稱為二階過程。二階過程理論的重要結果之一是它的積分表示。設F是可測空間(Λ,A)上的有限測度,如果對每一A∈A,有一復值隨機變量Z(A)與它對應,且滿足:①E|Z(A)|2<∞;②

則稱Z={Z( A), A∈A}為( Λ,A)上的正交隨機測度。定義在 Λ上、關於A可測而且關於 F平方可積的函數全體記為 L 2Λ,A, F)。給瞭一個正交隨機測度Z,一族函數 ,就可以產生一個二階過程 ,滿足

(1)

它的二階矩為

。 (2)

反之,對給定的二階過程,隻要它的二階矩有積分表示(2),就一定存在一個正交隨機測度Z,使過程本身有積分表示(1)。(1)和(2)分別稱為過程 x和它的二階矩的譜表示。對均方連續的實二階過程{ x( t), t∈[ αb)]},則有級數展開式 其中{ η n}是標準正交實隨機變量序列,即 δ n m=0, n= m時, δ n m=1), λ n是積分方程 的本征值, ψ n是相應的本征函數

Γ(t,s)=Ex(t)x(s)。

  特殊隨機過程類 對過程的概率結構作各種假設,便得到各類特殊的隨機過程。除上述正態過程、二階過程外,重要的還有獨立增量過程、馬爾可夫過程、平穩過程、鞅點過程和分支過程等。貫穿這些過程類的有兩個最重要最基本的過程,佈朗運動和泊松過程,它們的結構比較簡單,便於研究而應用又很廣泛。從它們出發,可以構造出許多其他過程。這兩種過程的軌道性質不同,前者連續而後者則是上升的階梯函數。

  廣義過程 正如從普通函數發展到廣義函數一樣,隨機過程也可發展到廣義過程。設DR上全體無窮次可微且支集有界的實值函數φ的集,定義在D上的連續線性泛函稱為廣義函數、全體廣義函數的集記為Dx。考慮D×Ω上的二元函數x(φω),如果對固定的ωx(·,ω)∈Dx是廣義函數,而對固定的φx(φ,·)是隨機變量,則稱{x(φω):φD}為定義在(Ω,F,p)上的廣義過程。它在φ1φ2,…,φn上的聯合分佈為

全體這種聯合分佈構成瞭廣義過程 x的"有窮維分佈族"。前兩階矩分別稱為均值泛函

和相關泛函

  根據有窮維分佈族的性質,也可以定義特殊的廣義過程類,象廣義平穩過程、廣義正態過程等。例如,若對D中任意有限個線性獨立函數φ1φ2,…,φn,有限維分佈

都是正態分佈,則稱 x={ x( φω)}為廣義正態過程。

  

參考書目

 J.L.Doob,Stochastic Processes,John Wiley &Sons,New York,1953.

 M.Loève,Probability Theory,4th ed.,Springer-Verlag,New York,1978.

 王梓坤著:《隨機過程論》,科學出版社,北京,1965。

 嚴加安編著:《鞅與隨機積分引論》,上海科學技術出版社,上海,1981。