熵

　　又稱為度量熵，以區別於概率熵，是刻畫巴拿赫空間的緊集的“粗細”程度的一個不變數。假定A是巴拿赫空間x內的緊集。任取ε>0，存在有限個數的子集U₁，U₂，…，U>_n，滿足條件 ①

②每一 U _j的直徑 ，則這一組子集稱為 A的ε覆蓋。ε覆蓋中含有子集的數目 n不是惟一確定的，但 n的最小值卻是惟一確定的，它與 A和ε有關。用 Nε( A)表示， Α.Η.柯爾莫哥洛夫稱量

為 A的熵（度量熵）。這裡之所以要取 Nε( A)的對數而避開直接考慮量 Nε( A)，一個原因是當ε→+0時， Nε( A)一般急劇地增大而趨於無限大，處理起來不大方便。

　　Α.Η.柯爾莫哥洛夫、Β.М.基哈米洛夫、Α.Γ.維圖什金、G.G.洛倫茨等人對熵做瞭很多研究。他們的工作成果包括：對很多重要的函數類算出瞭它們的熵的漸近階；把熵的概念用於逼近論、函數論、線性拓撲空間論、巴拿赫空間上線性算子論等方面。