定義在單位圓(或上半平面)內部且以其周界為自然邊界的某種特殊解析函數。解析函數的許多經典理論如整函數理論中的皮卡定理、正規族理論中的一些判定定理,都可借助模函數的性質來證明。
如圖1
,在
zz平面中取單位圓│
z│<1,在其周界上按反時針向依次任取三點
A,
B,
C,並作一圓弧三角形
A
B
C,其每邊均與│
z│=1正交,構成一區域
D
0(圖中斜線區)。在
w平面中實軸上取定三點
α(=0),
β(=1),γ(=∞)。由共形映射的黎曼定理,存在一單葉解析函數
w=
f(
z),把
D
0映到
w的上半平面,並使
A,
B,
C分別映到
α,
β,у。根據對稱性原理,
w=
f(
z)可解析開拓到圓弧三角形
Dó中,這裡
Dó是
D
0關於
A
B弧的對稱反演區域(
C點反演成圓周│
z│=1上另一點
C′),而函數值則取在
w的下半平面,此下半平面與原上半平面沿線段
αβ相粘連。同理,
w=
f(
z)又可分別解析開拓到
D
0的關於
C
A弧和
B
C弧的對稱圓弧三角形中,其函數值也在
w的下半平面中,它們分別與上半平面沿半直線 γ
α和
βγ 相粘連。這樣,得到瞭│
z│<1中的一圓弧六邊形區域,
w=
f(
z)在其中解析,取值於整個
w平面中如上粘連的一個上半平面和三個下半平面。再以此六邊形的各邊進行反演,則
w=
f(
z) 又可再次解析開拓到|
z|<1中邊數更多的圓弧形區域中(仍在|
z|<1內),取值又回到
w的上半平面,並與上面已取得的下半平面分別沿
αβ,
βу,у
α之一相粘連。如此無限繼續下去,則
w=
f(
z)就開拓成為整個│
z│<1內的解析函數,其所取之值在
w平面上形成一無限層的黎曼曲面。
w=
f(
z)稱為模函數。其反函數
z=
φ(
w)是整個
w平面除0,1,∞外的多值解析函數,或者可說成是上述黎曼曲面上的單值解析函數。
模函數w=f(z)單值解析於|z|<1內,顯然不取值0,1,∞,且當z從單位圓內部以任意方式趨於其周界上一點時,不可能有確定的極限值,因此|z|=1是其自然邊界,即它不可能再向|z|=1之外進行解析開拓。
也可用一分式線性變換t=ω(z),|z|<1,把z變到t平面的上半平面,使A,B,C分別變成實軸的α,b以及с=∞,而D0變成區域Δ0(圖2
),當
D
0關於其一邊界圓弧作對稱反演時,相應地Δ
0也關於其相應邊作對稱反演。
設t=ω(z)的反函數為z=λ(t),則
w=f(z)=f(λ(t))=φ(t)
就把
t的上半平面映成
w平面的上述黎曼曲面。
φ(
t)也稱為模函數,其性質本質上與
f(
z)相類似。
如果把構成模函數w=f(z)過程中所作的種種關於圓弧的反演變換記為T1,T2,…,則對於任何Tj,f(z)與f(Tjz)互為共軛。因此,對任何兩個Tj,Tk,恒有f(z)=f(TjTkz),即當z經過兩次這類反演後,其函數值f(z)不變。如果把偶數個這種反演及其逆作為元素,它們生成一變換群G,則當z經G任一元變換後,函數值f(z)不變。稱G為模函數w=f(z)的不變群,也稱f(z)為關於群G的自守函數(見橢圓函數)。