用具體的線性群（矩陣群）來描述群的理論，是研究群的最有力的工具之一。在19世紀末和20世紀初它由F.G.弗羅貝尼烏斯和W.伯恩賽德獨立開創，而弗羅貝尼烏斯的工作則由I.舒爾所改善和簡化。下面隻論及有限群表示論。

　　設G是有限群，V是複數域C上的有限維向量空間，GL（V）是V上全體可逆線性變換所組成的群。從G映入GL(V)的一個同態

稱為 G的一個表示，而 V稱為ρ的表示空間。設 U是 V的一個子空間，若 ，則稱 U是 V（關於ρ）的一個不變子空間，這時ρ( g)在 U上的限制就給出 G的一個表示

如果沒有非零真不變子空間，就說 V是不可約表示空間，而ρ稱為 G的不可約表示；否則就說 V和ρ是可約的。如果 V有不可約不變子空間 V 1， V 2，…， V r使 V是它們的直和即 V= V 1⊕…⊕ V r，就說ρ 是完全可約的。這時，若

，則記 ，並說ρ分解成不可約表示ρ 1，ρ 2，…，ρ r的和。有限群表示論的一個重要結果即馬施克定理：有限群的任一表示都是完全可約的。因此，研究有限群的表示隻要研究它的不可約表示就夠瞭。

　　設ρ：G→GL(V)是有限群G的一個表示。如果選V的一個基υ1，υ2…，υn，並令

那麼映射 ， g∈ G，就是從 G映入 G L n( C)的同態，稱為與ρ相應的 G的矩陣表示。設相應於 V的兩個基，ρ分別相應矩陣表示 則有可逆矩陣 p使 。（ p實際上是 V的兩個基的轉換矩陣），這時就說這兩個矩陣表示是等價的。

　　設ρ1和ρ2是有限群G的兩個表示，表示空間分別是V1和V2，如果有可逆線性映射φ：V1→V2使

，∀υ 1∈ V 1， g∈ G，就說ρ 1和ρ 2是等價的。顯然，兩個表示等價，當且僅當它們相應的矩陣表示是等價的。等價的表示並不視為有什麼本質區別。

　　設H是有限群G的子群，x1，x2，…，xk是H在G中一左陪集代表系，ρ是H的一個表示。那麼，對每個g∈G規定ρG：

，式中

ρ G是 G的一個表示，即所謂ρ的誘導表示。設ρ和 ψ是 G的兩個表示，規定 ，其中ρ( g)圱 ψ( g)是矩陣ρ( g)和 ψ( g)的克羅內克乘積，ρ圱 ψ也是 G的一個表示，即表示 ρ 與 ψ的張量積。所謂 m× m矩陣 和 n× n矩陣 的克羅內克乘積(張量積)，是指 。它是一個 m n× m n矩陣。例如，當 m＝2， n＝3時，

　　設ρ：G→GL(V)是有限群G的一個表示。令

， ，則ⅹ ρ是定義在 G上的函數。顯然它在 G的共軛類上取相同的值，因此ⅹ ρ是 G的類函數，ⅹ ρ稱為表示 ρ的特征標。當 ρ不可約時，ⅹ ρ稱為不可約特征標。特征標實際上確定瞭表示，可以證明，兩個表示等價，當且僅當它們的特征標相等。利用特征標還可以證明， G隻有有限個不同的不可約特征標，其個數恰好等於 G的共軛類的個數。因此研究有限群的不可約特征標是有重要意義的。關於不可約特征標有所謂正交關系，即設ⅹ 1，ⅹ 2，…，ⅹ c是 G的不同的不可約特征標， g 1， g 2，…， g c是 G的所有的不同的共軛類中的代表元，而 h 1， h 2，…， h c是這些共軛類中元素個數，則有

，

，

式中 δ ij為克羅內克符號。

　　誘導表示的特征標稱為誘導特征標。表示的張量積的特征標是相應特征標的乘積。誘導特征標及與其有關的弗羅貝尼烏斯互反律和特征標乘積的分解，是表示論的主要工具。所謂弗羅貝尼烏斯互反律，即若ρ與ψ分別為G與H的不可約表示，則ψ在ρH(即ρ限制到H上)的完全分解中出現的重數等於ρ在誘導表示ψG的完全分解中出現的重數。

　　對任意域F亦可象對復數域C那樣定義表示空間、表示及特征標等。若F的特征不整除有限群G的階，則仍然有表示的完全可約性，如果F同時還是代數封閉的，那麼用F代替C，以上的討論成立。以n記有限群G的所有元素的階的最小公倍數。H.馬施克於1898年曾猜想G的所有不可約表示皆可在n次分圓域Q(ξn)(ξn為n次本原單位根)中實現，即如果ⅹ是G的一個(在復數域C上的)不可約特征標，那麼存在一個矩陣表示

，其特征標即ⅹ。 R.（D.）佈饒爾在1945年證明瞭這個猜想。

　　將群表示論應用於有限群的研究，最早的最著名的結果是伯恩賽德定理：階為pαqβ的群是可解群，這裡p、q是相異素數，α、β是非負整數。近年來這個定理雖已有瞭抽象群論的證明，但不如用表示論的原證簡捷。

　　20世紀20年代，E.諾特強調瞭“模”這一代數結構的重要性，她把有限群G的表示ρ：G→GL(V)的表示空間V看成一個雙模，即除瞭域F的元素作為算子（即V到V的自同態）外，還容許群環F[G]的元素

g 1， g 2，…， g n是 G的全部元素）作為算子：

，

並且適合條件

\ n

的模。反之，給定一個有限維 F[ G]的模 V，顯然每個 g∈ G在 V上引起一個可逆線性變換，由此得到 G的一個表示。對於 F[ G]的模，可以與上文完全平行地定義可約性、不可約性及完全可約性。一個 F[ G]的模是可約的或不可約的或完全可約的，當且僅當 G的相應的表示是可約的或不可約的或完全可約的。所謂一個代數 A是半單的，是指所有的 A模都是完全可約的。因此群代數 F[ G]是半單的。這樣，E.諾特就將代數結構論和群表示論融合為一，推進瞭這兩個分支的發展。

　　近50年來，佈饒爾將群表示論的研究大為深化，他引進瞭模表示論，研究瞭群階除盡域的特征的域上的表示，以及模表示與常表示（即C上的表示）的關系，而群表示論在有限群結構理論中起著日益重要的作用。在這方面的第一個重要結果是費特－湯姆森證明瞭有長期歷史的伯恩賽德猜想：奇數階群都是可解群。近年來則導致瞭有限單群分類問題的解決。（見有限單群）

　　有限群的表示論已推廣到無限群，特別是局部緊拓撲群，這成為近代分析的一個主要領域，推廣瞭經典的傅裡葉分析。群表示論在理論物理和量子力學中有重要的應用。

　　

參考書目

　C.W.Curtis and I.Reiner，Representation Theory of Finite Groups and Associative Algebras，John Wiley and Sons，New York，1962.

　I.M.Issacs，character Theory of Finite Groups，Academic Press，New York，1976.

　W.Feit，Representation of Finite Groups，North-Holland，Amsterdam，1982.