方云波

摘 要：在支持向量機GNSS高程擬合應用中，通常采用交叉驗證法來尋找訓練模型的最優(yōu)參數(shù)，但該方法有可能會陷入局部最優(yōu)而難以提高模型精度。本研究采用具有全局尋優(yōu)能力的遺傳算法來優(yōu)化支持向量機的參數(shù)，并建立GA-SVM模型對GNSS高程數(shù)據(jù)進行擬合。通過對比交叉驗證表明，GA-SVM在GNSS高程擬合中具有更好的效果，內符合精度和外符合精度均達到毫米級。

關鍵詞：遺傳算法;支持向量機;高程擬合;交叉驗證

中圖分類號：P228 ? ? 文獻標志碼：A ? ? 文章編號：1003-5168（2022）12-0013-04

DOI：10.19968/j.cnki.hnkj.1003-5168.2022.12.002

Application Research of GNSS Height Fitting Based on GA-SVM

FANG Yunbo

（Shanghai Weichen Surveying and Mapping Technology Co.，Ltd.，Shanghai 200100，China）

Abstract：In the application of support vector machine GNSS height fitting，the cross-validation method is usually used to find the optimal parameters of the training model.This method may fall into local optimization and is difficult to improve the accuracy of the model.In this paper，a genetic algorithm with global optimization ability is used to optimize the parameters of the support vector machine.GA-SVM model is established to fit GNSS height data.Compared with the cross-validation method，GA-SVM has a better effect on GNSS height fitting.The internal coincidence accuracy and external coincidence accuracy reach the millimetre level.

Keywords：genetic algorithm;support vector machine;height fitting;cross-validation

0 引言

GNSS技術能夠獲取點位的三維坐標，從而廣泛應用于大地測量和工程測量領域。但由于GNSS所測的高程為大地高，幾何水準測量獲取的是正常高，大地高是空間點沿法線到參考橢球面的距離，正常高則是空間點沿鉛垂線到似大地水準面的距離，兩個高程之間存在高程異常，導致GNSS測得的高程不能被直接使用，從而浪費了大量的觀測數(shù)據(jù)。幾何水準測量是目前精度最高的方法，但施測效率卻很低，需要花費大量的人力和時間，測量成本較高[1]。因此，研究GNSS大地高與水準測量正常高之間的高程轉換方法對提高高程測量效率具有重要意義。對于局部工程區(qū)域，目前常用的測量方法有等值線圖法、多項式擬合法、多面函數(shù)法等，但這些方法都要采用事先假設的函數(shù)模型來進行高程異常擬合，而擬合效率的優(yōu)劣則取決于所選的函數(shù)模型。因此，不可避免地存在模型誤差。

支持向量機（Support Vector Machine，SVM）是在統(tǒng)計學理論基礎上建立起的一種機器學習算法[2]，由于其遵循結構風險最小化原則及善于處理小樣本問題的能力，逐漸被應用于GNSS高程擬合中[3-6]。SVM性能的好壞取決于其模型參數(shù)，一般是基于交叉驗證（Cross-Validation，CV）算法求得，但該算法有時會陷入局部最優(yōu)解，難以找到全局最優(yōu)參數(shù)。而遺傳算法（Genetic Algorithm，GA）是一種模仿自然界中生物遺傳機制和進化機制演變而來的尋優(yōu)算法，能夠得到全局最優(yōu)狀態(tài)[7]。因此，本研究建立基于遺傳算法的支持向量機（GA-SVM）模型，將該模型應用于GNSS高程擬合中，通過對比交叉驗證，來驗證該模型的擬合效果和模型精度。

1 SVM模型

SVM是基于統(tǒng)計學習理論的一種通用機器學習算法，由Vapnik等人于1995年提出，是機器學習領域的標準工具之一[8]。SVM模型以結構風險最小化原則來平衡模型的復雜性和學習能力，通過求解高維空間線性約束的二次規(guī)劃問題從而得到全局最優(yōu)解[9]。

SVM模型源于線性回歸問題，見式（1）。

[f（x）=ω·x+b]? ? ? （1）

根據(jù)向量[（xi， f（xi））]，[i=1，2，...，n]來構建擬合模型，其中[xi?Rn]作為輸入，[f（xi）?R]作為輸出，目標是求出[ω]和b。

對于非線性問題，最省力的方法是利用式（1）的線性方法來解決，采用非線性映射[?]，將輸入空間的向量x映射到高維的Hilbert空間，轉換為高維向量[?]（x），這樣輸入空間中的非線性問題就會轉換為高維特征空間中的廣義線性問題，從而可以在高維空間中進行線性回歸[10]。

值得注意的是，雖然非線性映射能夠在高維特征空間中解決非線性擬合問題，但這個非線性映射函數(shù)[?]卻不容易被找到，故針對不同的實際問題直接采用非線性映射是不易實現(xiàn)的。但是，非線性映射可通過內積運算來完成，因此，可通過核函數(shù)來代替非線性映射的內積運算，則高維特征空間中回歸問題可表達為式（2）和式（3）。

式中：[ε]為損失參數(shù)，影響支持向量的數(shù)量;C為懲罰參數(shù)，其是對錯分樣本進行控制，以實現(xiàn)在錯分樣本的比例和算法的復雜程度之間“折中”的目的;[K（xi，xj）]為核函數(shù)，可以看出核函數(shù)是計算的捷徑，避免了非線性函數(shù)[?]的尋找和復雜的內積運算[11]。

進而得到線性回歸函數(shù)，見式（4）。

由于高斯核函數(shù)具有普適性，適用于各分布類型的樣本[12]。因此，本研究采用的高斯核函數(shù)見式（5）。

式中：[σ]為高斯核參數(shù)，SVM的3個參數(shù)損失參數(shù)[ε]、懲罰參數(shù)C和核函數(shù)參數(shù)[σ]的合理選取是SVM建模的關鍵。

2 CV-SVM模型

CV-SVM模型采用交叉驗證法來優(yōu)化SVM的參數(shù)，其基本思想是設置參數(shù)遍歷區(qū)間，對原始數(shù)據(jù)進行分組，一部分作為訓練集，另一部分作為驗證集，先用SVM模型對訓練集進行訓練，再利用驗證集來測試模型的優(yōu)劣，不斷進行試算，以此作為SVM的性能指標，直至找到最優(yōu)的參數(shù)。常用的交叉驗證法有留出法、K-折交叉法和留一法。

留出法是將原始數(shù)據(jù)隨機分成兩組，一組作為訓練集，另一組作為驗證集。利用SVM模型進行訓練，利用驗證集對模型精度進行驗證，從而選擇模型參數(shù)。該方法分組簡單且運算效率高，但并沒有執(zhí)行嚴格意義上的交叉驗證，故難以提高精度。

K-折交叉驗證法是將原始數(shù)據(jù)均勻地分成K組，從而生成K個子集，將每個子集分別作為一次驗證集，其余子集則作為訓練集，逐組進行訓練和驗證。該方法可有效避免過學習和欠學習狀態(tài)，其驗證精度較高。

留一法是指每次只留一個樣本作為驗證集，其余樣本均為訓練集，直至遍歷組合全部樣本。該方法每次交叉驗證基本會將所有樣本用于訓練，更加接近原始樣本的分布狀態(tài)，使得驗證結果比較可靠，但運算量非常大，計算耗時且成本高，難以在實際問題中應用。綜合考慮，本研究采用K-折交叉驗證方法來進行SVM訓練建模。

3 GA-SVM模型

遺傳算法是借鑒自然界中生物遺傳和進化機制，通過選擇、交叉、變異等遺傳操作，產(chǎn)生新的種群，以此不斷迭代，最終得到最優(yōu)的后代，從而達到獲取全局最優(yōu)解的效果。GA-SVM模型是利用遺傳算法獲取全局最優(yōu)解來對支持向量機模型參數(shù)進行優(yōu)化，算法流程如下。

3.1 參數(shù)編碼

為了使計算的參數(shù)能夠盡可能接近最優(yōu)解，在設置SVM核參數(shù)時，盡量增大搜索空間。設置懲罰參數(shù)C的尋優(yōu)區(qū)間為（0，100]，損失參數(shù)ε的尋優(yōu)區(qū)間為[0，1]，核參數(shù)的倒數(shù)[1/σ]的尋優(yōu)區(qū)間為[0，1 000]。對上述3個SVM參數(shù)進行二進制編碼，生成一組代表這3個參數(shù)的染色體作為初始種群。如ε的編碼方式為A，C的編碼方式為B，[1/σ]的編碼方式為C，則個體的編碼形式為[A，B，C]。

3.2 適應度函數(shù)的選擇

適應度函數(shù)是遺傳算法和支持向量機算法之間的“紐帶”，種群個體對環(huán)境適應能力的數(shù)學表達與目標函數(shù)有關。本研究的目的是對GNSS高程異常進行擬合，因此，選用擬合結果的均方誤差作為目標函數(shù)，見式（6）。

式中：MSE為均方誤差;R0為實測值;Rm為擬合值;N為擬合樣本數(shù)。

3.3 遺傳操作

3.3.1 選擇。選取種群中生命力強（適應度大）的個體，使其交叉變異進化到下一代，同時淘汰適應度低的個體，以保證種群向著適應環(huán)境的方向進化。本研究根據(jù)適應度函數(shù)，選取輪盤賭法對種群個體進行選擇。

3.3.2 交叉。種群中會不斷產(chǎn)生新的個體，要對搜索空間中的新區(qū)域進行搜索，為了防止陷入局部最優(yōu)，本研究采用單點交叉的方式。

3.3.3 變異。對個體染色體編碼串中的某些基因座上的基因值取反（在二進制編碼中，“0”與“1”互為反值），從而形成新的個體，其決定了遺傳算法的局部搜索能力，維持群體的多樣性，防止出現(xiàn)“早熟”現(xiàn)象。

3.4 遺傳終止

采用預先設定的代數(shù)（終止迭代的次數(shù)）作為算法的終止條件，本研究設定的最大代數(shù)為200。當種群最優(yōu)個體適應度達到某一閾值或迭代達到最大代數(shù)后，算法終止，經(jīng)過解碼得到SVM模型的最優(yōu)參數(shù)。

4 基于GA-SVM的GNSS高程擬合案例分析

選取某地形平緩區(qū)域的B級GNSS控制網(wǎng)為研究對象，控制網(wǎng)中具有17個無粗差且精度相同的水準聯(lián)測控制點，點間平均邊長約為1 km，控制網(wǎng)區(qū)域面積約為10 km2，點位分布如圖1所示，橫軸和縱軸分別為高斯平面直角坐標系統(tǒng)的Y軸和X軸，三角形點為訓練集中的控制點，圓形點為檢核集中的控制點。

根據(jù)各控制點的正常高和大地高來計算高程的異常值，以控制網(wǎng)中12個控制點歸一化后的坐標和大地高作為訓練集的輸入集，高程異常值作為訓練集的輸出集，進行SVM參數(shù)訓練，其余5個點作為檢核集來檢驗SVM模型的精度。歸一化處理方法見式（7）。

式中：[x'i]為歸一化后的數(shù)據(jù);[xi]為歸一化前的原始數(shù)據(jù);[xmax]和[xmin]分別為歸一化之前數(shù)據(jù)的最大值和最小值。歸一化處理是一種無量綱處理算法，能夠避免因數(shù)據(jù)之間的量綱差異過大而淹沒了小量綱數(shù)據(jù)。

分別采用GA-SVM和CV-SVM方法對參數(shù)進行尋優(yōu)，得到最終優(yōu)化參數(shù)，結果如表1所示。

利用表1中的支持向量機參數(shù)進行GNSS高程擬合，GA-SVM和CV-SVM兩種方法擬合結果的殘差如圖2所示，橫坐標為控制點編號，縱坐標為擬合殘差，虛線為訓練集和檢核集的分界線，虛線左側為訓練集，共12個控制點，虛線右側為檢核集，共5個控制點。

采用公式（8）對訓練集和檢核集的擬合精度進行內符合精度和外符合精度評定，精度評定結果如表2所示。

式中：[σ內]為內符合精度;[σ外]為外符合精度;vi為擬合殘差值;n為訓練集中控制點的個數(shù);m為檢核集中控制點的個數(shù)。

從圖2可以看出，對于訓練集，GA-SVM模型中的1號點和11號點的擬合殘差明顯較CV-SVM模型的小，且GA-SVM模型12個點中有7個點的擬合殘差小于CV-SVM模型，其余5個點的差別不大，故GA-SVM訓練集的精度高于CV-SVM。對于檢核集，兩種模型的擬合殘差有大有小，整體精度在圖中不易比較，但由表2可以看出，無論是內符合精度還是外符合精度，GA-SVM模型均優(yōu)于CV-SVM模型，并且精度提高了一倍。整體試驗結果表明，CV-SVM模型和GA-SVM模型在GNSS高程擬合中都能夠達到毫米級的精度，GA-SVM模型能夠尋找到比CV-SVM模型更優(yōu)的參數(shù)，體現(xiàn)出遺傳算法的全局最優(yōu)解特性。因此，支持向量機是一種較為理想的GNSS高程擬合算法。

5 結論

支持向量機是一種能夠解決小樣本機器學習的有效算法，其以結構風險最小化的理念在模型的復雜性和學習能力之間尋求平衡，具有很好的訓練和泛化能力。遺傳算法是一種全局尋優(yōu)算法，可以得到全局最優(yōu)解。本研究將遺傳算法應用于支持向量機模型的懲罰參數(shù)、損失參數(shù)和核函數(shù)參數(shù)的尋優(yōu)中，建立了基于遺傳算法的支持向量機模型，應用于有限控制點數(shù)量的GNSS高程擬合中，并與常規(guī)的交叉驗證法進行比較，得到以下結論。

①交叉驗證法和遺傳算法支持向量機模型在GNSS高程擬合中都能夠達到毫米級精度，說明支持向量機具備很好的訓練和泛化能力，適用于GNSS高程擬合工作。

②支持向量機參數(shù)決定了模型的性能，遺傳算法支持向量機模型能夠解決交叉驗證算法可能陷入局部最優(yōu)的問題，能夠尋找到更優(yōu)的參數(shù)，擬合精度比交叉驗證法提高了一倍。

參考文獻：

[1] 朱春寧，王成，唐佑輝，等.GPS高程擬合模型選取及實驗分析[J].勘察科學技術，2014（6）：21-23，42.

[2] 叢康林，岳建平.基于SVR的GPS高程擬合模型研究[J].測繪通報，2011（2）：8-11.

[3] 黃磊，張書畢，王亮亮，等.粒子群最小二乘支持向量機在GPS高程擬合中的應用[J].測繪科學，2010（5）：190-192.

[4] 呂亞軍，王亞軍，鹿先鋒，等.GPS高程擬合支持向量機模型[J].全球定位系統(tǒng)，2009（3）：11-13.

[5] 任超，李和旺.最小二乘支持向量機在GPS高程擬合中的應用[J].工程勘察，2012（7）：55-57.

[6] 朱華，趙仲榮，黃張裕，等.最小二乘支持向量機在GPS高程擬合中的應用研究[J].勘察科學技術，2013（6）：47-49.

[7] 劉鈺.基于遺傳算法的支持向量機在空氣質量評價中的應用[D].大連：東北財經(jīng)大學，2013.

[8] 夏銘澤.基于改進支持向量機的產(chǎn)品質量預測系統(tǒng)的研究[D].北京：機械科學研究總院，2020.

[9] 鄧乃揚，田英杰.數(shù)據(jù)挖掘中的新方法：支持向量機[M].北京：科學出版社，2004

[10] CRISTIANINI N，SHAWE-TAYLO J.支持向量機導論[M].李國正，王猛，曾華軍，譯.北京：電子工業(yè)出版社，2004.

[11] 陸梓端，高茂庭.基于改進遺傳算法的支持向量機參數(shù)優(yōu)化[J].現(xiàn)代計算機（專業(yè)版），2014（9）：25-29，34.

[12] 劉育林.基于SSA-SVR的煤矸石路基沉降預測模型研究[J].河北地質大學學報，2021（6）：99-104.