廖文兵，趙 雷，劉曉云

（1.自然資源部大地測量數(shù)據(jù)處理中心，陜西 西安 710054）

大氣折射對測量值的影響包括光通過大氣層時，傳播速度的影響和對光線空間形狀的改變，即光徑曲率變化影響。高精度三角高程測量、電磁波測距、精密水準(zhǔn)測量和高精度GNSS觀測中大氣折光差是主要的誤差來源之一，國內(nèi)外的測量學(xué)者為克服大氣折射對觀測值的影響進(jìn)行了長期的研究[1-4]。精密水準(zhǔn)測量中的誤差來源主要包括標(biāo)尺溫度誤差，儀器、尺臺受熱誤差和大氣折光差等[5]。與大氣密度、分布、時間、地形及氣象條件均有關(guān)的大氣折光差，在顯著的溫差變化、漫長的上下坡、高差明顯的山區(qū)等客觀條件影響下，累計誤差特別明顯。

本文在充分研究目前國內(nèi)外精密水準(zhǔn)測量中大氣折光改正的3種經(jīng)典模型的基礎(chǔ)上，給出分群現(xiàn)象觀測數(shù)據(jù)中對應(yīng)模型的大氣折光差，探討其各自的改正量級及主要誤差影響因子，得出的相關(guān)結(jié)論將有助于精密水準(zhǔn)測量中減小或削弱大氣折光差影響，提高觀測數(shù)據(jù)質(zhì)量。

1 經(jīng)典改正模型

1.1 庫卡梅奇模型

芬蘭大地測量研究所的庫卡梅奇假定：大氣密度大致平行于地面，溫度是最主要的因素，且溫度高度函數(shù)是非線性的。由此，庫卡梅奇根據(jù)BEST溫度模型推導(dǎo)了大氣折光改正模型[4]。

式中，vh為一站水準(zhǔn)高差的折光改正值；d為折射率變化系數(shù)，其表達(dá)式d=9.9×10-10P0[0.933-0.006 4(t0-20)]；P0為儀器中心處的氣壓，以毫帕為單位；t0為儀器中心處的氣溫，以℃為單位；S為儀器至標(biāo)尺的平距；b、c為冪函數(shù)形式的“溫度-高度”函數(shù)中的系數(shù)，數(shù)學(xué)表達(dá)式t=t0+bHc，其中，t0、b、c可以根據(jù)同一溫度梯度方向上的實測數(shù)據(jù)解算獲取；H為地面以上鉛垂線高度，單位為m；Z0為儀器高；ZA、ZB分別為后視、前視標(biāo)尺讀數(shù)。

1.2 莫佐興模型

Mozzuchin給出了單站折光改正公式[6]:

式中，vh為測站水準(zhǔn)大氣折光改正數(shù)，單位為mm；P為大氣壓；S為視距，單位為m；T為觀測時的氣溫絕對溫度，單位為℃；i為儀器高，單位為m；r1為距地1 m處的溫度梯度，單位為℃/m；Δh為前、后尺h(yuǎn)f、hb之差，單位為m。

1.3 李延興模型

國家地震局第一地形變監(jiān)測中心李延興研究員采用積分法嚴(yán)密推導(dǎo)的大氣折射改正模型是目前國內(nèi)最為經(jīng)典的模型之一[4]，其嚴(yán)密公式[7]為:

式中，vh為測站水準(zhǔn)大氣折光改正數(shù)，單位為mm；H0、Ha、Hb分別為測站儀器高，前、后標(biāo)尺讀數(shù)，單位為m；S為測站長度，單位為m；f為大氣折光率變化系數(shù)，其大小與瞬時氣壓和溫度有關(guān)。大氣折光率變化系數(shù)給定模型公式為：

式中，P0為大氣壓，單位為毫帕；t0為瞬時溫度，單位為℃；b，c為近似大氣層“溫度-高度”冪函數(shù)模型系數(shù)。

2 分群現(xiàn)象觀測數(shù)據(jù)

為研究分3種改正模型對精密水準(zhǔn)觀測數(shù)據(jù)的大氣折光差影響程度及量級，筆者采用某大型煤礦新一代高程基準(zhǔn)建設(shè)過程中出現(xiàn)分群現(xiàn)象的2007線觀測數(shù)據(jù)。該路線數(shù)據(jù)按照現(xiàn)行規(guī)范要求，嚴(yán)格采用二等水準(zhǔn)觀測方法進(jìn)行測量，獲取了由10個測段，總計45.4 km組成的附合路線。除問題測段外，其余9個測段往、返測不符值均在對應(yīng)測段允許值1/3限差以內(nèi)。問題測段為08段，總計進(jìn)行5次往、返測，不符值限差為4L=±9.38 mm。表1給出了5次觀測對應(yīng)的測段信息，按照現(xiàn)行規(guī)范[8]對分群現(xiàn)象取舍之規(guī)定，首往測、重往測與重返測、重返測2構(gòu)成分群現(xiàn)象。采用首往、重往高差平均數(shù)與重返、重返2高差平均數(shù)分別作為該測段往、返測高差計算的路線閉合差不符值為+0.28 mm，每千米偶然中誤差為±0.60 mm。分群現(xiàn)象經(jīng)規(guī)范要求計算后，較好的完成了測線各項精度指標(biāo)計算，測段地形起伏如圖1a、b所示。

表1 分群現(xiàn)象測段高差及測段信息

圖1 測段地形起伏

3 3種模型對算比較

從圖1可以看出：首往、重往測前62站地形起伏滿足“W”形，重返、重返2后62站的地形對稱，當(dāng)前、后視距方向的地面坡度基本一致即對稱地形時，大氣折光對測站高差的影響可以消除，甚至為零[5]，因此只考慮分群現(xiàn)象中非對稱測站。由于3種模型大氣折光差均為單站大氣折光差累計和，并且數(shù)值與測站的瞬時氣壓、測站處瞬時溫度、測線高度、測線長度及溫度梯度有關(guān)。而獲取瞬時參量需要進(jìn)行實時觀測獲取，在實際生產(chǎn)中很難滿足這一點(diǎn)，故在本次計算分析中采用觀測過程中每5站記錄一次的溫度t及實測高差為依據(jù)，擬合計算瞬時氣壓、溫度、溫度梯度等參量[5]，經(jīng)編程計算后，3種模型對分群現(xiàn)象的改正量如表2所示。

由表2可以看出，庫卡梅奇模型與李延興模型在給定的經(jīng)典模型P0=1 000 hpa、t0=20℃、b=1.545 4、c=-1/3時，非對稱地形測站的大氣折光差改正量累計和大小基本一致，介于-7.76～+8.55 mm之間，而莫佐興模型改正量明顯小于此二者，該模型的往、返測改正量大小偏差較大，這主要是由于溫度是決定模型改正量的重要參數(shù)，且往、返測變化趨勢不同造成的。

表2 3種改正模型的大氣折光差/mm

庫卡梅奇模型和李延興模型主要的變量為瞬時氣壓、大氣折光率、視距及坡度；而莫佐興模型主要的變量為瞬時氣壓、溫度、視距及溫度梯度。溫度的變化對庫卡梅奇模型和李延興模型較為遲鈍，而莫佐興模型則較為靈敏。

觀測數(shù)據(jù)在改正前，因往、返測不符值超限，為問題測段。根據(jù)現(xiàn)行規(guī)范有關(guān)規(guī)定，強(qiáng)制對測段不符值進(jìn)行算術(shù)平均，不能直觀反映大氣折光差對水準(zhǔn)觀測的影響。本文研究計算的3種模型改正量，不僅能反映大氣折光差影響因子，而且經(jīng)改正計算的各項精度指標(biāo)均滿足限差要求。其中，庫卡梅奇模型改正量最接近規(guī)范要求，李延興模型次之，莫佐興模型最差。合適的模型改正能有效解釋分群現(xiàn)象，有助于粗差測段重測方向的選擇。

4 結(jié)論

光在空氣中傳播過程導(dǎo)致光速和曲率變化產(chǎn)生了大氣折光，大氣折光差是高精度水準(zhǔn)測量及精密工程測量的主要誤差來源之一。對水準(zhǔn)測量中分群現(xiàn)象觀測數(shù)據(jù)進(jìn)行模型改正研究計算，通過比較分析，得出以下結(jié)論：

1）大氣折光差對高精度水準(zhǔn)測量影響誤差較大，為獲取折光改正量，在野外作業(yè)時應(yīng)實測溫度和氣壓，從而對觀測高差施加折光改正。

2）不同模型的改正量不同，主要是模型考慮側(cè)重點(diǎn)不同導(dǎo)致的，但均與觀測時氣壓、溫度、坡度、視線長度、測站高差有關(guān)。折光影響與視線長度的平方成正比，故在觀測中，應(yīng)兼顧作業(yè)效率和視線長度二重因素。

3）折光影響與高差成正比，與視線高度成反比。上坡時折光影響為負(fù)，下坡時折光影響為正，在緩坡上，應(yīng)兼顧視線長度與讀數(shù)高度二者之間的矛盾關(guān)系。

4）對于有條件的區(qū)域、城市高精度控制網(wǎng)建設(shè)，在水準(zhǔn)網(wǎng)觀測及數(shù)據(jù)處理中應(yīng)選擇合適的大氣折光改正模型加以改正，將有利于提高控制網(wǎng)精度。

5）對存在粗差的經(jīng)多次重測后，仍不滿足規(guī)范要求的測段，采用模型改正計算，將有效解決重測方向選取的問題。