線性運算元理論中的一個著名問題。40多年來，人們一直在努力追求其答案，做瞭大量工作，取得不少成果，但離問題的解決，現在看來還相當遠。
設T是複巴拿赫空間X上有界線性運算元，M是X的閉線性子空間(見巴拿赫空間)，如果T
當X是有限維空間時，任何線性算子T都有一個若爾當標準型，它不僅表明T有非平凡的不變子空間，而且還完全刻畫瞭算子的內部結構。當X是不可分空間時，易知任何有界線性算子必有非平凡不變子空間。因此，不變子空間問題實質上隻限於可分的無限維空間上。
如果不變子空間問題的回答是肯定的，則由佐恩引理易知，對任意有界線性算子，存在一個極大的不變子空間鏈。這將把有限維空間上的線性算子的若爾當標準型推廣到巴拿赫空間上去的工作推進瞭一步。因此，不變子空間問題是在算子理論中占有重要地位的一個基本問題。下面是有關不變子空間問題的主要結果。
與緊性相聯系的算子 與有限維空間上算子相接近的一類算子是緊算子。J.馮·諾伊曼在1930年證明：對於希爾伯特空間上任意有界緊算子，存在非平凡不變子空間。這項工作當時沒有發表。1954年，N.阿龍紮揚和K.T.史密斯用有限秩算子逼近的方法證明瞭：對於巴拿赫空間上任何有界緊算子，存在非平凡不變子空間。1973年，Β.И.羅蒙諾索夫利用紹德爾不動點原理證明瞭，如果A是巴拿赫空間上與某非零緊算子可交換的算子，則存在A的非平凡的不變子空間。有趣的是，與緊性相聯系的這些結果，證明都不很難。1977年，有人不用紹德爾不動點原理，以很簡單的、初等的方法，再次證明瞭上述結論。後來，人們又進一步證明瞭，如果B是巴拿赫空間上的非零緊算子，則一切使AB-BA為一秩算子的算子A，有非平凡的不變子空間；從而推廣瞭羅蒙諾索夫的結果。
與正常算子相聯系的算子 基於對正常算子的瞭解，人們考察瞭與正常算子相近的算子的不變子空間問題。30多年來，這方面的研究取得瞭重大進展，其中的方法，對研究希爾伯特空間上有界線性算子有很重要的意義。1949年，A.博靈深入地研究瞭單位圓周上的哈代空間H2（見Hp空間）上的乘法算子U+：U+f(z)=zf(z)。關於U+的不變子空間問題，有稱為博靈定理的如下結果：算子U+沒有非平凡的約化子空間，M是U+的不變子空間的充要條件是M=φH2，這裡φ是H2中幾乎處處等於1的函數。
1978年W.S.佈朗借助於函數演算的方法證明：次正常算子(即正常算子在不變子空間上的限制)皆有非平凡的不變子空間。他的證明方法很快被人們用來證明各種類型的不變子空間存在定理。上面的結果可以推廣到希爾伯特空間上有界線性算子A。如果對一切極點在算子A的譜σ(A)外的有理函數f，成立‖f(A)‖≤max｛|f(z)|｜z∈σ(A)｝，那末A有非平凡的不變子空間。近年來有人較大地簡化瞭佈朗結果的證明。
參考書目
H.Radjavi and P.Rosenthal，Invariant Subspaces，Springer-Verlag，Berlin，1973.
夏道行等編著：《實變函數與泛函分析》，下冊，人民教育出版社，1979。
W.S.Brown，Integral Equtions ɑnd Operator Theory，Vol.1，1978.