沈　震，徐良驥，劉瀟鵬，秦長才，王振兵

(安徽理工大學(xué)測繪學(xué)院，安徽 淮南 232001)

?

機器學(xué)習(xí)輔助下的概率積分法參數(shù)預(yù)計模型尋優(yōu)

沈震，徐良驥，劉瀟鵬，秦長才，王振兵

(安徽理工大學(xué)測繪學(xué)院，安徽 淮南 232001)

收集整理了多組地表移動觀測站資料作為訓(xùn)練樣本和檢驗樣本，以工作面地質(zhì)采礦條件為輸入集，概率積分法預(yù)計參數(shù)為輸出集，利用機器學(xué)習(xí)方法對概率積分法預(yù)測參數(shù)進行了預(yù)測。選取支持向量機、BP神經(jīng)網(wǎng)絡(luò)和偏最小二乘法3種機器學(xué)習(xí)方法對訓(xùn)練樣本進行訓(xùn)練，利用訓(xùn)練所得模型預(yù)測檢驗樣本中的概率積分法預(yù)測參數(shù)，并將預(yù)測結(jié)果與觀測站實測值進行對比。結(jié)果表明，利用支持向量機預(yù)測下沉系數(shù)、主要影響角正切值及水平移動系數(shù)的精度最高，其平均相對誤差分別達到7.46%、4.00%、13.17%;拐點偏距及開采影響傳播角利用偏最小二乘法預(yù)計精度最高，平均相對誤差分別為10.83%、0.88%;總體而言支持向量機的預(yù)測精度最為穩(wěn)定。

概率積分法預(yù)計參數(shù)；支持向量機；BP神經(jīng)網(wǎng)絡(luò)；偏最小二乘法；模型尋優(yōu)

一、預(yù)測模型及其算法簡介

機器學(xué)習(xí)是指通過計算機編程實現(xiàn)從已知數(shù)據(jù)樣本中自動分析獲得規(guī)律，并利用分析結(jié)果對未知數(shù)據(jù)進行預(yù)測的方法。本文選取了機器學(xué)習(xí)中有代表性的3種方法：支持向量機、BP神經(jīng)網(wǎng)絡(luò)及偏最小二乘法對概率積分法參數(shù)進行預(yù)測。

1. 支持向量機

支持向量機，其主要思想是利用一個非線性映射K，將原本線性不可分的數(shù)據(jù)集合映射到高維空間，即

K(x,z)=φ(x)·φ(z)

(1)

式中，K為核函數(shù)；φ是從x到內(nèi)積特征空間F的映射。在高維空間中選擇一個超平面實現(xiàn)數(shù)據(jù)的最優(yōu)分類，式(2)、式(3)分別為決策函數(shù)和分類平面的數(shù)學(xué)模型，利用此最優(yōu)超平面對預(yù)測數(shù)據(jù)進行分類或預(yù)測[7-8]。

yi=sgn(wxi+b)

(2)

wxi+b=0

(3)

2. BP神經(jīng)網(wǎng)絡(luò)模型

BP神經(jīng)網(wǎng)絡(luò)屬于按誤差逆?zhèn)鞑ニ惴ㄓ?xùn)練的多層前饋網(wǎng)絡(luò)，是目前應(yīng)用最廣泛的神經(jīng)網(wǎng)絡(luò)模型之一。訓(xùn)練開始前計算機隨機生成一組向量作為權(quán)值分配給各輸入分量，隨后由事先定義的決策函數(shù)F根據(jù)輸入量計算得到輸出數(shù)據(jù)，并根據(jù)輸出結(jié)果與真實數(shù)據(jù)之間的誤差反復(fù)修正權(quán)向量，直至輸出結(jié)果與真實數(shù)據(jù)的中誤差達到限值，最后利用網(wǎng)絡(luò)學(xué)習(xí)所得到的模型對未知數(shù)據(jù)進行預(yù)測[8-9]。

3. 偏最小二乘法

偏最小二乘法，其通過對自變量及應(yīng)變量矩陣進行主成分分解以提取其中的隱藏因子，隨后通過迭代計算確定回歸系數(shù)，并利用一個線性模型來描述自變量與因變量之間的關(guān)系。其數(shù)學(xué)模型如下

Y=b0+b1X1+b2X2+…+bnXn

(4)

式中，Y為因變量向量；X1、X2、…、Xn為自變量元素；b0為截距；b1、b2、…、bn為自變量元素對應(yīng)的回歸系數(shù)[10]。

二、樣本數(shù)據(jù)訓(xùn)練

1. 樣本數(shù)據(jù)預(yù)處理

北京大學(xué)人民醫(yī)院魏來（摘要637）報告了中國3期臨床研究，sofosbuvir/velpatasvir（SOF/VEL）治療基因1～6型患者12周，耐受性好，12周總SVR為96%。不論是否有肝硬化基因1型、2型、6型均獲得100%的12周SVR?；?型12周SVR為83%（其中有16%患者為經(jīng)治）。基因3b型有肝硬化的患者SVR相對低。一項來自意大利的研究顯示SOF/VEL治療基因3型12周，在代償期肝硬化患者中的12周SVR為96.4%，在失代償期肝硬化患者療效欠佳。聯(lián)合使用利巴韋林（RBV）未增加療效優(yōu)勢。

本文以23個地表移動觀測站數(shù)據(jù)作為樣本，其中前19組為訓(xùn)練樣本，后4組為檢驗樣本。根據(jù)概率積分法預(yù)測參數(shù)、工作面地質(zhì)采礦條件及機器學(xué)習(xí)方法特點，選取7個地質(zhì)采礦條件參數(shù)作為樣本的輸入集，包括：平均開采深度H0、開采厚度m、覆巖平均堅固性系數(shù)f、松散層厚度w、采動程度n、煤層傾角α及重復(fù)采動影響。其中，采動程度n由工作面傾向長度L與平均開采深度H0的比值L/H0計算；重復(fù)采動項中0代表首采，1代表重復(fù)采動；覆巖平均堅固性系數(shù)f計算公式為

(5)

式中，mi為第i層煤層法向厚度；Ri為該層單向抗壓強度。樣本輸入集見表1。

表1　工作面基本參數(shù)

輸出集為概率積分法預(yù)測參數(shù)，分別為：下沉系數(shù)q、水平移動系數(shù)b、主要影響角正切值tanβ、開采影響傳播角θ、拐點偏距與采深的比值S/H0，樣本輸出集見表2[11-12]。

表2　概率積分法預(yù)測參數(shù)

由于樣本數(shù)據(jù)中包含多種參數(shù)，且參數(shù)取值范圍區(qū)別較大，若直接進行訓(xùn)練會導(dǎo)致部分參數(shù)占有更大的比重，影響訓(xùn)練結(jié)果，因此在確定樣本數(shù)據(jù)后對樣本數(shù)據(jù)進行歸一化處理以提高訓(xùn)練精度。

2. 模型訓(xùn)練

(1) 支持向量機訓(xùn)練結(jié)果

利用Matlab中的Libsvm工具箱對歸一化后的樣本數(shù)據(jù)進行訓(xùn)練，其中基礎(chǔ)模型使用epsilon-SVR模型，核函數(shù)采用RBF(徑向基)核函數(shù)，核函數(shù)gamma值設(shè)為2.8[13]。以下沉系數(shù)為例，訓(xùn)練結(jié)果均方誤差MSE=0.035 3，圖1為訓(xùn)練值與原始值對比圖。

(2) BP神經(jīng)網(wǎng)絡(luò)訓(xùn)練結(jié)果

BP神經(jīng)網(wǎng)絡(luò)模型由輸入層、輸出層及隱藏層組成，其中輸入層和輸出層分別對應(yīng)樣本數(shù)據(jù)中的輸入集和輸出集。隱藏層可為一層或多層，隱藏層的節(jié)點數(shù)過少將削弱模型精度，過多會降低運算速度，本文經(jīng)過試驗對比將隱藏層層數(shù)設(shè)為1，節(jié)點數(shù)設(shè)置為17，神經(jīng)網(wǎng)絡(luò)模型結(jié)構(gòu)如圖2所示[14]。

圖1　支持向量機訓(xùn)練結(jié)果

圖2　BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)

利用BP神經(jīng)網(wǎng)絡(luò)對訓(xùn)練樣本進行訓(xùn)練，在9998次訓(xùn)練后精度趨于穩(wěn)定，均方誤差MSE=0.016 7。

(3) 偏最小二乘法訓(xùn)練結(jié)果

利用偏最小二乘法對訓(xùn)練樣本進行訓(xùn)練，可得到每個因變量相對于自變量的線性模型，以下沉系數(shù)q為例，其關(guān)于工作面地質(zhì)采礦條件的線性模型如下

q=1.562 3-0.000 9H0+0.001 6w-0.282 7n-0.000 3α-0.045 1m-0.077 9f-0.015 0r

(6)

訓(xùn)練結(jié)果與原始數(shù)據(jù)均方誤差為0.011 3。

三、預(yù)測結(jié)果精度分析

利用訓(xùn)練所得模型對檢驗樣本中的概率積分法參數(shù)進行預(yù)測。支持向量機、BP神經(jīng)網(wǎng)絡(luò)及偏最小二乘法預(yù)測結(jié)果見表3—表5。

表3　支持向量機預(yù)測值

表4　神經(jīng)網(wǎng)絡(luò)預(yù)測值

表5　偏最小二乘法預(yù)測值

將3種方法預(yù)測值與地表移動觀測站解算結(jié)果進行對比，計算其平均相對誤差平均值及最大相對誤差，結(jié)果見表6。

表6　預(yù)測精度對比　(%)

由表6可知，下沉系數(shù)q、主要影響角正切值tanβ及水平移動系數(shù)b利用支持向量機進行預(yù)測時精度最高；拐點偏距與采深的比值S/H0及開采影響傳播角θ利用偏最小二乘法預(yù)測時精度最高；就總體預(yù)測結(jié)果而言，支持向量機的預(yù)測精度最高。

四、結(jié)　論

1) 以觀測站實測數(shù)據(jù)為樣本數(shù)據(jù)，采用支持向量機、BP神經(jīng)網(wǎng)絡(luò)及偏最小二乘法3種機器學(xué)習(xí)方法對概率積分法參數(shù)進行了預(yù)測，結(jié)果證明機器學(xué)習(xí)方法能夠較為準(zhǔn)確地預(yù)測概率積分法參數(shù)，為開采沉陷工作提供參考。

2) 不同的機器學(xué)習(xí)方法預(yù)測概率積分法參數(shù)時精度不盡相同，應(yīng)根據(jù)實際情況選擇精度最高的預(yù)測模型或多種模型結(jié)合，如利用支持向量機方法預(yù)測下沉系數(shù)q、主要影響角正切值tanβ及水平移動系數(shù)b，而拐點偏距及開采影響傳播角θ則可使用偏最小二乘法進行預(yù)測。

[1]何國清,楊倫,凌賡娣,等.礦山開采沉陷學(xué)[M].徐州:中國礦業(yè)大學(xué)出版社,1995.

[2]鄒友峰.開采沉陷預(yù)計參數(shù)的確定方法[J].焦作工學(xué)院學(xué)報(自然科學(xué)版),2001,20(4):253-257.

[3]麻鳳海,楊帆.采礦地表沉陷的神經(jīng)網(wǎng)絡(luò)預(yù)測[J].中國地質(zhì)災(zāi)害與防治學(xué)報,2001,12(3):87-90.

[4]郭文兵,鄧喀中,鄒友峰.概率積分法預(yù)計參數(shù)選取的神經(jīng)網(wǎng)絡(luò)模型[J].中國礦業(yè)大學(xué)學(xué)報,2004,33(3):88-92.

[5]楊帆，麻鳳海.地表移動預(yù)計參數(shù)選取的神經(jīng)網(wǎng)絡(luò)法[J].中國地質(zhì)災(zāi)害與防治學(xué)報,2004,15(1):102-106.

[6]YAN W Y, HE Q.Multi-class Fuzzy Support Vector Machine Based on Dismissing Margin[C]∥Proceedings of the Eighth International Conference on Machine Learning and Cybernetics. Baoding, China: [s.n.], 2009: 1139-1144.

[7]林卉,朱慶,胡召玲.模糊支持向量機和變化矢量分析相結(jié)合的礦區(qū)土地覆蓋變化檢測[J]. 測繪通報,2014(11):25-27.

[8]梁月吉,任超,楊秀發(fā),等.結(jié)合雙樹復(fù)小波和廣義回歸神經(jīng)網(wǎng)絡(luò)的鐘差預(yù)報方法研究[J].測繪通報,2016(1):6-10，18.

[9]Kerh T,Gunaratnam D,Chan Y.Neural Computing with Genetic Algorithm in Evaluating Potentially Hazardous Metropolitan Areas Result from Earthquake[J].Neural Computing & Application,2010,19(4):521-529.

[10]羅批,郭繼昌,李鏘,等.基于偏最小二乘回歸建模的探討[J].天津大學(xué)學(xué)報(自然科學(xué)與工程技術(shù)版),2002,35(6):783-786.

[11]徐良驥,王少華,馬榮振,等.厚松散層開采條件下覆巖運動與地表移動規(guī)律研究[J].測繪通報,2015(10):52-56.

[12]劉偉韜,劉歡,陳志興,等.地表沉陷預(yù)計參數(shù)精度分析[J].測繪科學(xué),2016(8):1-8.

[13]范昕煒.支持向量機算法的研究及其應(yīng)用[D].杭州：浙江大學(xué),2003.

[14]劉天舒.BP神經(jīng)網(wǎng)絡(luò)的改進研究及應(yīng)用[D].哈爾濱：東北農(nóng)業(yè)大學(xué),2011.

Probability Integral Method Parameters Prediction Model Optimization Based on Machine Learning Methods

SHEN Zhen，XU Liangji，LIU Xiaopeng，QIN Changcai，WANG Zhenbing

沈震，徐良驥，劉瀟鵬,等.機器學(xué)習(xí)輔助下的概率積分法參數(shù)預(yù)計模型尋優(yōu)[J].測繪通報，2016(10)：35-38.DOI:10.13474/j.cnki.11-2246.2016.0324.

2016-05-10

國家自然科學(xué)基金(41472323)；安徽省對外科技合作計劃(1503062020)

沈震(1990—)，男，碩士生，研究方向為礦山開采沉陷。E-mail：abczhenxx@qq.com

P258

B

0494-0911(2016)10-0035-04