廖文兵，趙 雷，劉曉云

（1.自然資源部大地測量數據處理中心，陜西 西安 710054）

大氣折射對測量值的影響包括光通過大氣層時，傳播速度的影響和對光線空間形狀的改變，即光徑曲率變化影響。高精度三角高程測量、電磁波測距、精密水準測量和高精度GNSS觀測中大氣折光差是主要的誤差來源之一，國內外的測量學者為克服大氣折射對觀測值的影響進行了長期的研究[1-4]。精密水準測量中的誤差來源主要包括標尺溫度誤差，儀器、尺臺受熱誤差和大氣折光差等[5]。與大氣密度、分布、時間、地形及氣象條件均有關的大氣折光差，在顯著的溫差變化、漫長的上下坡、高差明顯的山區(qū)等客觀條件影響下，累計誤差特別明顯。

本文在充分研究目前國內外精密水準測量中大氣折光改正的3種經典模型的基礎上，給出分群現象觀測數據中對應模型的大氣折光差，探討其各自的改正量級及主要誤差影響因子，得出的相關結論將有助于精密水準測量中減小或削弱大氣折光差影響，提高觀測數據質量。

1 經典改正模型

1.1 庫卡梅奇模型

芬蘭大地測量研究所的庫卡梅奇假定：大氣密度大致平行于地面，溫度是最主要的因素，且溫度高度函數是非線性的。由此，庫卡梅奇根據BEST溫度模型推導了大氣折光改正模型[4]。

式中，vh為一站水準高差的折光改正值；d為折射率變化系數，其表達式d=9.9×10-10P0[0.933-0.006 4(t0-20)]；P0為儀器中心處的氣壓，以毫帕為單位；t0為儀器中心處的氣溫，以℃為單位；S為儀器至標尺的平距；b、c為冪函數形式的“溫度-高度”函數中的系數，數學表達式t=t0+bHc，其中，t0、b、c可以根據同一溫度梯度方向上的實測數據解算獲??；H為地面以上鉛垂線高度，單位為m；Z0為儀器高；ZA、ZB分別為后視、前視標尺讀數。

1.2 莫佐興模型

Mozzuchin給出了單站折光改正公式[6]:

式中，vh為測站水準大氣折光改正數，單位為mm；P為大氣壓；S為視距，單位為m；T為觀測時的氣溫絕對溫度，單位為℃；i為儀器高，單位為m；r1為距地1 m處的溫度梯度，單位為℃/m；Δh為前、后尺hf、hb之差，單位為m。

1.3 李延興模型

國家地震局第一地形變監(jiān)測中心李延興研究員采用積分法嚴密推導的大氣折射改正模型是目前國內最為經典的模型之一[4]，其嚴密公式[7]為:

式中，vh為測站水準大氣折光改正數，單位為mm；H0、Ha、Hb分別為測站儀器高，前、后標尺讀數，單位為m；S為測站長度，單位為m；f為大氣折光率變化系數，其大小與瞬時氣壓和溫度有關。大氣折光率變化系數給定模型公式為：

式中，P0為大氣壓，單位為毫帕；t0為瞬時溫度，單位為℃；b，c為近似大氣層“溫度-高度”冪函數模型系數。

2 分群現象觀測數據

為研究分3種改正模型對精密水準觀測數據的大氣折光差影響程度及量級，筆者采用某大型煤礦新一代高程基準建設過程中出現分群現象的2007線觀測數據。該路線數據按照現行規(guī)范要求，嚴格采用二等水準觀測方法進行測量，獲取了由10個測段，總計45.4 km組成的附合路線。除問題測段外，其余9個測段往、返測不符值均在對應測段允許值1/3限差以內。問題測段為08段，總計進行5次往、返測，不符值限差為4L=±9.38 mm。表1給出了5次觀測對應的測段信息，按照現行規(guī)范[8]對分群現象取舍之規(guī)定，首往測、重往測與重返測、重返測2構成分群現象。采用首往、重往高差平均數與重返、重返2高差平均數分別作為該測段往、返測高差計算的路線閉合差不符值為+0.28 mm，每千米偶然中誤差為±0.60 mm。分群現象經規(guī)范要求計算后，較好的完成了測線各項精度指標計算，測段地形起伏如圖1a、b所示。

表1 分群現象測段高差及測段信息

圖1 測段地形起伏

3 3種模型對算比較

從圖1可以看出：首往、重往測前62站地形起伏滿足“W”形，重返、重返2后62站的地形對稱，當前、后視距方向的地面坡度基本一致即對稱地形時，大氣折光對測站高差的影響可以消除，甚至為零[5]，因此只考慮分群現象中非對稱測站。由于3種模型大氣折光差均為單站大氣折光差累計和，并且數值與測站的瞬時氣壓、測站處瞬時溫度、測線高度、測線長度及溫度梯度有關。而獲取瞬時參量需要進行實時觀測獲取，在實際生產中很難滿足這一點，故在本次計算分析中采用觀測過程中每5站記錄一次的溫度t及實測高差為依據，擬合計算瞬時氣壓、溫度、溫度梯度等參量[5]，經編程計算后，3種模型對分群現象的改正量如表2所示。

由表2可以看出，庫卡梅奇模型與李延興模型在給定的經典模型P0=1 000 hpa、t0=20℃、b=1.545 4、c=-1/3時，非對稱地形測站的大氣折光差改正量累計和大小基本一致，介于-7.76～+8.55 mm之間，而莫佐興模型改正量明顯小于此二者，該模型的往、返測改正量大小偏差較大，這主要是由于溫度是決定模型改正量的重要參數，且往、返測變化趨勢不同造成的。

表2 3種改正模型的大氣折光差/mm

庫卡梅奇模型和李延興模型主要的變量為瞬時氣壓、大氣折光率、視距及坡度；而莫佐興模型主要的變量為瞬時氣壓、溫度、視距及溫度梯度。溫度的變化對庫卡梅奇模型和李延興模型較為遲鈍，而莫佐興模型則較為靈敏。

觀測數據在改正前，因往、返測不符值超限，為問題測段。根據現行規(guī)范有關規(guī)定，強制對測段不符值進行算術平均，不能直觀反映大氣折光差對水準觀測的影響。本文研究計算的3種模型改正量，不僅能反映大氣折光差影響因子，而且經改正計算的各項精度指標均滿足限差要求。其中，庫卡梅奇模型改正量最接近規(guī)范要求，李延興模型次之，莫佐興模型最差。合適的模型改正能有效解釋分群現象，有助于粗差測段重測方向的選擇。

4 結論

光在空氣中傳播過程導致光速和曲率變化產生了大氣折光，大氣折光差是高精度水準測量及精密工程測量的主要誤差來源之一。對水準測量中分群現象觀測數據進行模型改正研究計算，通過比較分析，得出以下結論：

1）大氣折光差對高精度水準測量影響誤差較大，為獲取折光改正量，在野外作業(yè)時應實測溫度和氣壓，從而對觀測高差施加折光改正。

2）不同模型的改正量不同，主要是模型考慮側重點不同導致的，但均與觀測時氣壓、溫度、坡度、視線長度、測站高差有關。折光影響與視線長度的平方成正比，故在觀測中，應兼顧作業(yè)效率和視線長度二重因素。

3）折光影響與高差成正比，與視線高度成反比。上坡時折光影響為負，下坡時折光影響為正，在緩坡上，應兼顧視線長度與讀數高度二者之間的矛盾關系。

4）對于有條件的區(qū)域、城市高精度控制網建設，在水準網觀測及數據處理中應選擇合適的大氣折光改正模型加以改正，將有利于提高控制網精度。

5）對存在粗差的經多次重測后，仍不滿足規(guī)范要求的測段，采用模型改正計算，將有效解決重測方向選取的問題。