光學儀器形成分立圖像能力的定量度量，又稱解析度。它分為成像儀器的像分辨本領和分光儀器的色分辨本領等兩類。

　　成像儀器的像分辨本領　由於鏡頭（光瞳）對光束的限制而產生的衍射效應，使物點發射的光波在像面上不可能成為一個像點，而是以像點為中心擴展為一定的強度分佈，其中心斑就是夫瑯和費衍射的零級斑，也叫做愛裏斑。這就是說，即使不考慮所有幾何像差，成像光學儀器也無法實現點物成成點像的理想情況。因此，物面上相距很近的兩個分離的物點，在像面上就可能成為兩個互相重疊的衍射斑，這兩個衍射斑甚至可能過度重疊，變得模糊一團，以致觀察者無法辨認物方兩個物點的存在。總之，物方圖像是大量物點的集合，而變換到像面上的強度分佈卻是大量衍射斑的集合，它不可能準確地反映物面上的所有細節。為瞭給光學儀器規定一個分辨細節能力的統一標準，通常采用瑞利判據。瑞利判據規定，當一個像斑中心剛好落在另一個像斑邊緣（即一級暗環）時，確認兩個像斑剛剛可以分辨（見圖b）。計算表明，滿足瑞利判據時的兩個像斑強度的不相幹疊加的結果，其光強起伏量約為20％，正常人眼是能分辨這種光強差別的。當然對於客觀的光接收器如乳膠底片、光電管之類，或其他傳感器來說，也許並不苛求20％的起伏量作為它的可分辨的界限，但瑞利判據仍不失之作為一個相對標準，用以估算和比較光學儀器的分辨本領。

　　人眼　眼瞳的直徑De可在2～8mm范圍內調節。根據瑞利判據，並由愛裡斑的半角寬度公式，可以求得人眼的最小分辨角公式為

以 De＝2mm，光波長λ＝0.55μm估算，人眼的最小分辨角數值為

即正常人能分辨明視距離25cm處相隔 0.075mm的兩條刻線，或者說，能分辨10m遠處相隔3mm的兩條刻線。生理光學的這一數據對於助視光學儀器和電視機的設計，以及對於圖像識別這類問題，都是必須考慮的基本數據。

　　望遠鏡　它觀察的對象是遠物，其本身線度並不小，故通常以最小分辨角

直接標志它的分辨本領。望遠鏡的最小分辨角公式為

式中λ為媒質中的光波長，D為光瞳（物鏡）的直徑。以D=2000mm，λ=0.55μm估算，

≈0.06″。為減少 以提高分辨本領，必須加大物鏡口徑。由於光波在長程傳輸過程中受大氣擾動的影響，天文望遠鏡的實際分辨本領比上述理論分辨本領要低。因此，每個國傢都盡可能地將大型的天文望遠鏡設在高山頂上。中國雲南天文臺設在海拔 2300m的山頂上。美國於1981年在夏威夷建成的一臺紅外望遠鏡，直徑為3357mm，設在海拔4200m的山頂上，它可觀測幾十億光年遠的天體，用來研究一般光學望遠鏡不易觀測的天體的分子結構和正在形成過程中的星體外殼。

　　顯微鏡　它的觀察對象是細小的近物，故通常以最小分辨距離 δym直接標志它的分辨本領。根據瑞利判據以及愛裡斑的半角寬度公式，並考慮到顯微鏡工作在齊明點，可以導出顯微鏡的最小分辨距離公式為

式中 n為物方折射率，uo為物光束的孔徑角，λo為真空波長，乘積nsinuo稱為數值孔徑，用N.A.表示。作為一種數量級的估算，數值孔徑最大不超過N.A.≈n≈1.5（油浸鏡頭），故δym有個限度

δym≥0.4λo，

在可見光波段， δym≥0.2μm。為瞭充分發揮顯微鏡的分辨能力，應將δym放大到足以使眼睛可分辨的距離δye≈δθe×25cm≈0.075mm，由此估算光學顯微鏡的橫向線放大率v≈δye/δym≈400倍。當然過高的放大率也沒有必要，此時儀器仍然無法分辨δym以下的細節。這個與分辨本領相匹配的放大率稱為顯微鏡的正常放大率或有效放大率。設計時一般選用放大率稍大於正常放大率，光學顯微鏡的放大率不超過1000倍。進一步提高顯微鏡分辨本領的惟一途徑是縮短波長。近代電子顯微鏡利用電子束的波動性經“磁透鏡”成像，電子束的波長很短（取決於加速電壓），可達Å量級，不過電子束的孔徑角也小（不到10°），其結果可使電子顯微鏡的分辨本領比光學顯微鏡的高幾個數量級，相應的放大率可達數萬倍至百萬倍，能顯示蛋白質分子結構。

　　攝影系統　攝影系統(如照相機、電視攝像機一類)一般工作於遠物短焦距情形，它與助視光學儀器（望遠鏡、顯微鏡）不同之點在於，物經攝影鏡頭成為一個縮小的實像被感光介質直接記錄。因此，在分析整個系統的分辨本領問題時，既要考慮到鏡頭（光瞳）的衍射效應，又要考慮到記錄介質本身的空間分辨率N──感光乳劑單位長度內能分辨的線紋數目。鏡頭衍射效應限制的物方最小分辨角公式仍然是

在像面上的攝影系統的最小分辨線度相應地為 ，式中 f為鏡頭焦距，比值 D/ f稱為鏡頭的相對孔徑。相對孔徑越大，則鏡頭的分辨本領越高。以相對孔徑1∶3.5估算， ≈2.35 μm。為瞭充分利用鏡頭的分辨本領，記錄介質的分辨率應滿足 N≥1/ δy╭≈ 425mm -1，即要求選用每毫米能分開425條線紋以上的感光乳劑。

　　以上給出的光學成像儀器的分辨本領的公式是僅考慮衍射效應以後的理論公式，而實際上成像儀器還有各種各樣的幾何像差，對攝影系統尤其如此，所以儀器的實際分辨本領比理論值要低一些，有些甚至降低一個量級。將破壞點物成點像的各種因素綜合起來，統一地對成像質量作出評價的工作開始於50年代興起的光學傳遞函數的概念。

　　光譜儀的色分辨本領　棱鏡光譜儀、光柵光譜儀(見光譜儀器)、法佈裡-珀羅標準具（見法佈裡－珀羅幹涉儀）等三種屬於“色散型”分光儀器，它們分別利用不同波長的折射光束、衍射條紋、幹涉條紋出現於空間的不同方位這一性質，而測定光源發光的光譜線型或分辨譜線。但是，由於衍射效應或幹涉效應的存在，任何單色條紋都不能形成理想的一條譜線，它們總有一定的角寬度。因此，若光源發射兩種分離的波長λ、λ＋Δλ，而在色散型儀器的光譜圖上會出現兩條有一定粗細的譜線，兩條譜線可能發生重疊，甚至過度重疊而並合為一條，使人們無法分辨兩種波長的存在。人們仍然采用瑞利判據作為兩條譜線能否分辨的界限。分光儀器的色分辨本領R定義為：若在光波長λ附近，可分辨的最小波長間隔為δλm，則

　　棱鏡光譜儀　當棱鏡用於最小偏向角時，它的分辨本領

式中b為棱鏡底邊的有效長度，dn/dλ為棱鏡材料的色散率。例如，設b＝5 cm，dn/dλ≈10-5Å-1，則該棱鏡（工作在最小偏向角附近）的分辨本領數值為

R≈5×103。

進而可以算出該棱鏡在可見光波段內能分辨的最小波長間隔約為

　　光柵光譜儀　光柵的分辨本領

　式中k為譜線的級數，N為光柵刻線（或單元）總數，D為光柵有效尺寸，θ為譜線的衍射角。例如，設D＝5cm，刻線密度為600條/毫米的光柵，其一級譜的分辨本領數值為

R≈3×104。

進而可以算出該光柵在可見光波段內能分辨的最小波長間隔約為

。

　　法佈裡－珀羅標準具　它的分辨本領

式中 k為幹涉條紋的級別數，r為腔面光強反射率。法-珀腔是長程幹涉儀，k數極大。例如腔長h=5cm，則級數k值由下式估算

設r≈0.98，則該法-珀腔的分辨本領高達

R≈3×107。

進而可以算出它在可見光波段內能分辨的最小波長間隔約為

它足以分辨激光束的縱膜頻率間隔。法－珀腔是高分辨儀器，用以分辨譜線的精細結構和超精細結構。但是，它不可避免地也有一般高精度儀器的不足之處──量程小（即自由光譜范圍很窄），不宜於測定較寬的譜線輪廓。

　　上述給出的僅是光譜儀中的核心元件(棱鏡、光柵)的分辨本領，並不是整機的分辨本領。整機的分辨本領還與分光元件的角色散本領、線色散本領、儀器狹縫寬度（或傳感器探頭寬度），以及光源亮度、接收器靈敏度等諸因素有關。高亮度高單色性激光光源的出現，大大推動瞭高分辨本領的光譜儀的研制和高分辨光譜的研究工作。嚴格地說，最後測定的譜函數是入射的光譜線型函數與儀器擴展函數的卷積。從測定的譜函數中消除儀器函數的卷積，從而提取真實的光譜，這正是時興的消卷積光譜儀的功能。