定義在單位圓(或上半平面)內部且以其周界為自然邊界的某種特殊解析函數。解析函數的許多經典理論如整函數理論中的皮卡定理、正規族理論中的一些判定定理,都可借助模函數的性質來證明。

  如圖1

,在 zz平面中取單位圓│ z│<1,在其周界上按反時針向依次任取三點 ABC,並作一圓弧三角形 A B C,其每邊均與│ z│=1正交,構成一區域 D 0(圖中斜線區)。在 w平面中實軸上取定三點 α(=0), β(=1),γ(=∞)。由共形映射的黎曼定理,存在一單葉解析函數 w= f( z),把 D 0映到 w的上半平面,並使 ABC分別映到 αβ,у。根據對稱性原理, w= f( z)可解析開拓到圓弧三角形 Dó中,這裡 Dó是 D 0關於 A B弧的對稱反演區域( C點反演成圓周│ z│=1上另一點 C′),而函數值則取在 w的下半平面,此下半平面與原上半平面沿線段 αβ相粘連。同理, w= f( z)又可分別解析開拓到 D 0的關於 C A弧和 B C弧的對稱圓弧三角形中,其函數值也在 w的下半平面中,它們分別與上半平面沿半直線 γ αβγ 相粘連。這樣,得到瞭│ z│<1中的一圓弧六邊形區域, w= f( z)在其中解析,取值於整個 w平面中如上粘連的一個上半平面和三個下半平面。再以此六邊形的各邊進行反演,則 wf( z) 又可再次解析開拓到| z|<1中邊數更多的圓弧形區域中(仍在| z|<1內),取值又回到 w的上半平面,並與上面已取得的下半平面分別沿 αββу,у α之一相粘連。如此無限繼續下去,則 w= f( z)就開拓成為整個│ z│<1內的解析函數,其所取之值在 w平面上形成一無限層的黎曼曲面。 w= f( z)稱為模函數。其反函數 z= φ( w)是整個 w平面除0,1,∞外的多值解析函數,或者可說成是上述黎曼曲面上的單值解析函數。

  模函數w=f(z)單值解析於|z|<1內,顯然不取值0,1,∞,且當z從單位圓內部以任意方式趨於其周界上一點時,不可能有確定的極限值,因此|z|=1是其自然邊界,即它不可能再向|z|=1之外進行解析開拓。

  也可用一分式線性變換t=ω(z),|z|<1,把z變到t平面的上半平面,使ABC分別變成實軸的αb以及с=∞,而D0變成區域Δ0(圖2

),當 D 0關於其一邊界圓弧作對稱反演時,相應地Δ 0也關於其相應邊作對稱反演。

  設t=ω(z)的反函數為z=λ(t),則

w=f(z)=f(λ(t))=φ(t)

就把 t的上半平面映成 w平面的上述黎曼曲面。 φ( t)也稱為模函數,其性質本質上與 f( z)相類似。

  如果把構成模函數w=f(z)過程中所作的種種關於圓弧的反演變換記為T1T2,…,則對於任何Tjf(z)與f(Tjz)互為共軛。因此,對任何兩個TjTk,恒有f(z)=f(TjTkz),即當z經過兩次這類反演後,其函數值f(z)不變。如果把偶數個這種反演及其逆作為元素,它們生成一變換群G,則當zG任一元變換後,函數值f(z)不變。稱G為模函數w=f(z)的不變群,也稱f(z)為關於群G的自守函數(見橢圓函數)。