由挪威數學傢M.S.李創立的一類群。李群理論在最初的相當長一個時期內僅與一些微分方程或偏微分方程的積分問題有聯繫，而與數學的其他分支關係不大，但是，自1920年以來有瞭迅速的發展，成為數學的一個重要分支。
定義 所謂抽象群G是一個李群，其意是指：①G是一個實（複）解析流形；② 對於G的元素
xy
-1所定義的
G×
G到
G的映射是一個解析映射。例如，①
Gl(
n，
R)（或
Gl(
n，
C)）全線性群，
n維實（復）向量空間的所有自同構組成的群，是一個李群。在向量空間
V內取一基底(
e
1，
e
2，…，
e
n)，任一
x∈
GL(
n，
R)可以表為
。矩陣(
x
ij(
x))是非奇異的，
x
(
x
ij(
x))(
i，
j=1，2，…，
n)，便使
Gl(
n，
R)成為一個解析流形。②
Sl(
n，
R)(
Sl(
n，
C))稱為么模線性群。它是
Gl(
n，
R)(
Gl(
n，
C))的矩陣行列式為1的集合構成的群。③令(
ξ，η)是向量空間上的一個非奇異雙線性型，於是，在
Gl(
n，
R)(
Gl(
n，
C))中使(
xξ，
xη)=(
ξ，η)的所有
x的集合構成群，當(
ξ，η)是正定對稱時，就稱為正交群
O(
n，
R)(
O(
n，
C))；當(
ξ，η)是反對稱時，就稱為辛群
S
P(
n，
R)(
S
P(
n，
C))。它們均為李群，稱為典型群。
長期以來，人們想瞭解上述定義中的解析流形能否代之以拓撲流形，而將解析映射代之以連續映射，這就是希爾伯特的猜想，即所謂希爾伯特第5問題。這個猜想的正確性，其後為A.M.格利森、D.蒙哥馬利和L.齊平所證實。
李群的李代數 李的重要貢獻，在於引進李代數的概念。令G是一個李群，考慮流形G上的左(右)平移：設g∈G，則G上的一個變換x
g·
x，
x∈
G，稱為由
g所定的左平移τ
g。所謂流形上的向量場，是指流形上的微分算子
X，τ
g定義
G的向量場間的“平移”，考慮左(右)平移下不變的向量場，這樣的向量場
X在
g點的向量
X
g，可以唯一的從單位元素
e處的向量
X
e用平移τ
g得到：
X
g=τ
g
X
e。因此，左不變向量場的集合g可以看作
G的單位元
e處的切向量空間，它是有限維的。在g內引進運算[
X，
Y]=
XY-
YX，
X、
Y∈g，這就賦予瞭g一個代數的結構，稱為對應於
G的李代數。李代數的運算顯然有[
X，
Y]=-[
Y，
X]以及微分算子應適合的雅可比恒等式[
X，[
Y，
Z]]+[
Y，[
Z，
X]]+[
Z，[
X，
Y]]=0。任何適合於以上兩式的代數，即稱為李代數。
兩個單連通李群同構的充分必要條件是它們有同構的李代數；任一抽象的李代數必為一單連通李群的李代數。這就是李的基本定理。由此可以看出，李代數的討論是李群論的重要組成部分。李群論最基本的內容就是從李群的某些概念和性質，找出對應李代數的性質。例如李群間的同態對應於李代數間的同態；子群（正規子群）對應於子代數（理想）等等。
單李群與單李代數 它們的分類是極為重要的工作。為瞭便於敘述，首先考慮李群的流形是緊的情形，這樣的李群稱為緊李群，它所對應的李代數稱為緊李代數。例如酉群即由酉矩陣構成的線性群，就是一個緊李群，記為U(n)，而它所對應的李代數即是所有反埃爾米特矩陣構成的李代數，記為u(n)。u(n)的復化u(n)c=gl(n，C)，所有復矩陣構成的李代數，就是Gl(n，C)對應的李代數。
W.K.J.基靈、É.(-J.)嘉當得出緊單李代數分類：么模酉群對應的李代數su(n);么模正交群SO(n)所對應的李代數sO(n);緊辛群SP(n)=U(n)∩SP(n，C)所對應的李代數u(n)∩sp(n，C);以及維數為14，52，78，248的五類特殊單李群所對應的單李代數，分別記為G2，F4，E6，E7，E8。
實數域非緊單李代數的分類，是根據嘉當分解定理：g是一個實半單李代數，則存在分解g=R+B，其中R是g的最大緊李代數，這時gu=R+iB是一個緊李代數。
應該指出，在g的復化gc內，對應σ：X+Y→X-Y，X∈R，Y∈B分別在g及gu上誘導一個對合自同構。由於gu的結構已經確定，所以g的結構就是由gu和它的一個對合自同構σ所確定。利用這個定理可得出非緊單李代數的分類。
半單李代數是單李代數（非交換）的直和。
線性表示 與分類理論相關的是表示論。李群G到GL(n，с)的一個同態連續對應，稱為G的一個表示。為簡單起見，這裡將表示理論限制在復向量空間上。所謂表示是完全可約的，意即表示向量空間X可以分解為一些子空間Xj的直和，而每一個Xj都是G的不變子空間，且是不可約的（即不存在真的不變子空間）。
É嘉當作出所有緊半單李群表示的分類。（C.H.）H.外爾得出一個重要定理：連通半單李群的表示是完全可約的。他還得出不可約表示的特征標公式。
權系和根系 令
是緊李代數g的最大可換子代數。一線性表示
ρ在
上的誘導表示的特征根
λ的集合，稱為
ρ的權系。g的伴隨表示（對g中任一
A，定義g上線性變換
ad
A，對g中所有
x，使ad
X=[
A，
X]）的權系，稱為g的根系。緊李代數的表示屬於
su(
n)，所以權是
的對偶空間
*上的純虛向量，即i
*上的實向量。對於半單李代數i
*還是一個歐氏空間（例如
g的基靈型在i
*誘導所定的度量），所以權可看作是歐氏空間的向量。
所謂g的根系中的子系是素根系(或單根系)，即指任意根可以表作它們的線性組合，而且系數全為正整數或全為負整數。E.B.鄧肯指出，素根系的合同是對應半單緊李代數同構的充分必要條件。利用嘉當分解定理，嚴志達得到非緊半單李代數g的最大緊代數R的素根系和表示adβR的最低權是g同構的充分必要條件。因此他們分別給出瞭緊單李代數和非緊單李代數分類的簡單方法。關於後者，村上信吾、V.卡茨等人也進行過類似的討論。
關於半單緊李群表示分類有定理：半單緊李群線性表示等價的充分必要條件是，它們有相同的首權。
對稱黎曼空間 從微分幾何學角度，一種特殊的黎曼流形為對稱黎曼空間或對稱黎曼流形，是用如下方式來定義的：以流形上任一點x為中心，把過x的測地線兩邊到x距離相等的點互相對應得到的所謂以x為中心的“對稱”是流形的等距對應。對稱黎曼流形的分類如下：①歐氏空間；②非緊型不可約對稱空間，即實單李群G和它的最大緊子群K所定義的商空間G/K；③緊型不可約對稱空間，即②中G的復化Gc中滿足Gu∩G=K的緊致群Gu所定義的緊空間Gu/K，以及上述三類空間的直和。
所述對稱黎曼空間包括瞭所有古典幾何學研究的對象，以常曲率的黎曼流形為其特例。半單緊群也是對稱黎曼流形。因此，（C.）F.克萊因關於“幾何學”是研究容許可遞變換群空間的思想，在這裡得到極大的豐富和發展。
古典分析學以空間Rn或Cn作為它的基礎，而黎曼空間理論使得分析學向更復雜的流形擴展，特別是容許復結構對稱黎曼流形上函數的研究，成為多元復變函數論中重要的內容。
分類中①的情況是明顯的，略而不論。不難看出，②和③是與半單李代數的嘉當分解相聯系的，實際上從G和K對應的李代數g和R 就可得到g的嘉當分解，
，而對合的同構
σ就是“對稱”在切空間的反映。就整體范圍而言，對非緊對稱黎曼流形，所有對應於同一單李代數g的流形都是等距同構的，而且同胚於
R
n。但是，對於③型的緊對稱流形則不然，它們隻是局部等距的，即隻能在對應的鄰域間建立等距關系。對同一李代數g
u所決定不同的緊黎曼流形，根據拓撲學覆蓋空間理論，即是要計算它們的基本群，它們通常是對應g
u的單連通緊李群
G
u的中心的某些子群，已為嘉當所詳細討論。
關於對稱的準黎曼流形的分類，局部問題由M.伯熱和嚴志達解決。整體問題在非緊群流形情況下同由後藤以紀、小林昭七和A.I.西羅塔、A.S.索羅多夫尼科夫等人解決。
列維分解與阿多定理 對於一般李群有下述兩個重要結果。
一個連通且單連通李群G含有一個最大正規連通可解閉子群稱為根基，記為R，商群G/R是半單的。列維分解定理表明G是R和G/R同構的半單子群的半直積。
在表示論方面有阿多定理 連通且單連通李群G恒有一個真實的線性表示。
近代發展 從外爾和嘉當奠基以來，對李群和它的齊性空間的拓撲結構的研究，十分活躍。緊半單李群及其齊性空間的一些拓撲不變量，決定於對應的李代數及與之有關的組合結構（如權、根、外爾房等）。為瞭具體解決李群拓撲問題，產生瞭各種不同的方法和理論，如同調代數（特別是J.勒雷的譜序列），微分幾何（韋伊代數）以及莫爾斯理論等。關於同調論的結果十分完備，而同倫論的結果則較少。
嘉當和外爾關於緊李群表示論的工作指出，古典傅裡葉分析和球調和函數應該與李群論的概念相聯系。這個思想從1950年以來有很大發展，形成瞭所謂非交換調和分析理論，這方面的工作主要有И.М.蓋爾范德、哈裡什-錢德拉等人。
代數群和謝瓦萊群理論也是從半單李群理論得到啟發而發展起來的新分支，雖然它們與流形、解析性等概念完全無關。
C.謝瓦萊從單李代數的結構出發，建立任意域上的謝瓦萊群。有限域上的謝瓦萊群都是有限單群。這對有限單群的研究起瞭重要的作用。A.博雷爾則用代數幾何學的工具將緊半單李群的許多性質推廣到更一般的情形即線性代數群上。
外爾在他的名著《群論和量子力學》一書中第一次將李群表示論應用於量子力學，主要是利用SO(3)的線性表示。近年來，物理學傢已將其他緊群的線性表示用於基本粒子的研究，特別是SU(n)，n≤12。
參考書目
C.Chevalley，Theory of Lie Groups，Princeton Univ.Press，Princeton，1946.
L.S.Pontrijagin，Topological Groups，2nd ed.，Gordon and Breach，London，1966.
S.Helgason，Differential Geometry，Lie Groups and Symmetric Spaces，Academic Press，New York，1978.
H.Weyl，The Structure and Representation of Continuous Groups，Lecture Notes，Institute for Advanced Study，Princeton，1935.
E.Cartan，Oeuvres Compètes，Partie I，Vol.7，Vol.3，Gauthier-Villars，Paris，1952.
J.Dieudonné，BII.Groupes de Lie，panoraMa des MathéMatiques Pures，Gauthier-Villers，Paris，1977.