商志根

摘要：應(yīng)用神經(jīng)網(wǎng)絡(luò)集成模型，以空氣濕度、溫度、太陽輻射以及風(fēng)速為輸入，利用交叉驗(yàn)證方法確定網(wǎng)絡(luò)隱層節(jié)點(diǎn)數(shù)，建立作物需水量的預(yù)測模型。實(shí)驗(yàn)結(jié)果表明，與單個(gè)神經(jīng)網(wǎng)絡(luò)與隨機(jī)森林模型相比，神經(jīng)網(wǎng)絡(luò)集成模型能獲得更好的預(yù)測精度，可用于節(jié)水灌溉。

關(guān)鍵詞：神經(jīng)網(wǎng)絡(luò)；集成模型；作物需水量；隨機(jī)森林

DOIDOI：10.11907/rjdk.172217

中圖分類號(hào)：TP306

文獻(xiàn)標(biāo)識(shí)碼：A文章編號(hào)文章編號(hào)：16727800（2018）001004603

Abstract：In order to predict crop water requirements， a method based on neural network ensemble is developed in this paper. Solar radiation， air temperature， relative humidity and wind speed are used as input variables. The number of hiddenlayer neurons is determined by crossvalidation method. Experimental results indicate that the method based on neural network ensemble outperforms those based on a single neural network and random forest， and can be used for watersaving irrigation.

Key Words：neural network； ensemble model； crop water requirements； random forest

0引言

我國是一個(gè)貧水大國，對(duì)作物需水量作出準(zhǔn)確預(yù)測并按需灌溉，對(duì)農(nóng)業(yè)工程中的節(jié)水灌溉具有重要意義[1]。在農(nóng)業(yè)工程中，通常采用兩種方法計(jì)算作物需水量：基于修正的PenmanFAO公式的估算方法與基于時(shí)間序列或回歸模型的預(yù)測方法。修正的PenmanFAO公式是一種計(jì)算作物騰發(fā)量的方法，僅需氣溫、日照時(shí)數(shù)、水氣壓和風(fēng)速等氣象資料，是目前普遍應(yīng)用的公式之一，然而該方法計(jì)算精度略低[2]。近年來，國內(nèi)外學(xué)者提出了基于時(shí)間序列、模糊理論、灰色理論與神經(jīng)網(wǎng)絡(luò)等模型的預(yù)測方法。張兵等[3]提出一種基于LM算法訓(xùn)練神經(jīng)網(wǎng)絡(luò)的作物需水量預(yù)測模型；夏澤豪等[4]將灰色理論與神經(jīng)網(wǎng)絡(luò)相結(jié)合，提出一種新的基于灰色神經(jīng)網(wǎng)絡(luò)的作物需水量預(yù)測模型；孟麗麗等[5]基于α加權(quán)模糊線性回歸模型預(yù)測作物需水量。由于神經(jīng)網(wǎng)絡(luò)可以逼近連續(xù)的非線性曲線，因而得到相關(guān)研究者的廣泛關(guān)注[6]。然而，神經(jīng)網(wǎng)絡(luò)具有對(duì)權(quán)重向量初值敏感、泛化能力不夠、易陷入局部極小等缺點(diǎn)。近年來，集成概念被引入到神經(jīng)網(wǎng)絡(luò)模型，從而促進(jìn)了模型的應(yīng)用與發(fā)展[78]。神經(jīng)網(wǎng)絡(luò)集成利用多個(gè)神經(jīng)網(wǎng)絡(luò)對(duì)同一問題進(jìn)行學(xué)習(xí)，訓(xùn)練多個(gè)神經(jīng)網(wǎng)絡(luò)，并利用某技術(shù)將其集成，以提高模型泛化性能。于合龍等[8]將神經(jīng)網(wǎng)絡(luò)集成模型用于精準(zhǔn)施肥，獲得了比單個(gè)神經(jīng)網(wǎng)絡(luò)模型更好的擬合精度，但未有研究涉及作物需水量預(yù)測問題。

構(gòu)建神經(jīng)網(wǎng)絡(luò)集成模型需經(jīng)過兩個(gè)步驟：產(chǎn)生一定數(shù)量的組合成員及整合組合成員。目前，主要有兩種算法產(chǎn)生組合成員：Bagging和Boosting[9]。Bagging算法是對(duì)原始訓(xùn)練數(shù)據(jù)進(jìn)行等概率放回抽樣，形成多個(gè)新的訓(xùn)練數(shù)據(jù)，對(duì)各訓(xùn)練數(shù)據(jù)利用某學(xué)習(xí)算法進(jìn)行獨(dú)立訓(xùn)練；Boosting在初始化時(shí)等概率抽樣形成訓(xùn)練集，然后用某學(xué)習(xí)算法對(duì)該訓(xùn)練集進(jìn)行學(xué)習(xí)，得到預(yù)測函數(shù)h1，對(duì)誤差較大的樣本賦予較大權(quán)重，再次進(jìn)行抽樣，繼續(xù)用學(xué)習(xí)算法對(duì)新訓(xùn)練集進(jìn)行學(xué)習(xí)，得到預(yù)測函數(shù)h2。如此反復(fù)，迭代t次后完成訓(xùn)練，對(duì)多個(gè)預(yù)測函數(shù)也賦予權(quán)重。與Boosting相比，Bagging可并行運(yùn)算，并且更為穩(wěn)定[10]，所以本文選擇了Bagging算法。此外，隨機(jī)森林也是運(yùn)用了Bagging算法[11]。最后，有多種方法整合組合成員，例如取平均值、嶺回歸[12]、貝葉斯加權(quán)平均[7]等。本文選用取平均值的方法整合各神經(jīng)網(wǎng)絡(luò)成員輸出。

本文利用Bagging算法，以神經(jīng)網(wǎng)絡(luò)為學(xué)習(xí)算法，利用交叉驗(yàn)證方法確定網(wǎng)絡(luò)隱層節(jié)點(diǎn)數(shù)。以美國田納西州大學(xué)高原實(shí)驗(yàn)室所測的數(shù)據(jù)為例，以空氣濕度、溫度、太陽輻射以及風(fēng)速為輸入，證明與單個(gè)神經(jīng)網(wǎng)絡(luò)與隨機(jī)森林方法相比，神經(jīng)網(wǎng)絡(luò)集成可獲得更好的預(yù)測性能。

1隨機(jī)森林與神經(jīng)網(wǎng)絡(luò)集成

1.2神經(jīng)網(wǎng)絡(luò)模型

基于神經(jīng)網(wǎng)絡(luò)的預(yù)測模型在很多領(lǐng)域得到了應(yīng)用。徑向基（Radial Basis Function，RBF）與多層感知器（Multilayer Perceptron，MLP）是兩種常見的神經(jīng)網(wǎng)絡(luò)模型。本文選擇MLP網(wǎng)絡(luò)作為基模型，以構(gòu)成集成模型。因?yàn)?層MLP網(wǎng)絡(luò)可以任意精度逼近任一定義在緊集上的連續(xù)函數(shù)，所以本文確定MLP的層數(shù)為3。

可選擇多種算法訓(xùn)練MLP網(wǎng)絡(luò)，例如一階算法（如誤差后向傳播算法）、二階算法（如共軛梯度算法、牛頓算法與LM算法）和進(jìn)化算法（如遺傳算法、粒子群算法）。與一階算法和進(jìn)化算法相比，二階算法具有相對(duì)較少的運(yùn)行時(shí)間。此外，對(duì)于較小或中等規(guī)模的問題，LM算法被認(rèn)為是最有效率的算法之一[13]。為減少運(yùn)行時(shí)間，選擇LM算法訓(xùn)練各MLP模型。

1.3神經(jīng)網(wǎng)絡(luò)集成模型

對(duì)于不穩(wěn)定的模型（如決策樹、神經(jīng)網(wǎng)絡(luò)），Bagging算法可提高預(yù)測效果。假定神經(jīng)網(wǎng)絡(luò)集成包含B個(gè)MLP基模型，神經(jīng)網(wǎng)絡(luò)集成算法步驟如圖1所示。

對(duì)于任意測試樣本x，神經(jīng)網(wǎng)絡(luò)集成模型的輸出為 神經(jīng)網(wǎng)絡(luò)集成模型的多樣性對(duì)模型性能具有重要影響[10]。本文集成模型的多樣性主要由Bagging技術(shù)和不同初始值產(chǎn)生。endprint

2應(yīng)用實(shí)例

本文所用數(shù)據(jù)來自美國田納西州大學(xué)高原實(shí)驗(yàn)室[14]，采用的試驗(yàn)田為肥沃的沙質(zhì)土壤，其長度為12.20m，寬度為4.05m。試驗(yàn)針對(duì)的作物為青椒，數(shù)據(jù)觀測時(shí)間為1994年56月。在試驗(yàn)中，測量了與青椒需水量密切相關(guān)的4個(gè)量：太陽凈輻射、相對(duì)濕度、天氣溫度和風(fēng)速，其中太陽凈輻射為一天累計(jì)值，其余為一天平均值。試驗(yàn)數(shù)據(jù)共有50個(gè)樣本，如表1所示。

首先將樣本1～5作為測試數(shù)據(jù)，樣本6～50作為訓(xùn)練數(shù)據(jù)，在訓(xùn)練集上利用9折交叉驗(yàn)證方法確定最小均方根誤差（Root Mean Square Error，RMSE）所對(duì)應(yīng)的隱層節(jié)點(diǎn)數(shù)，隱層節(jié)點(diǎn)數(shù)從{1，2，3，4}中選擇，獲得樣本1～5的測試結(jié)果；然后以樣本6～10為測試樣本，其余樣本為訓(xùn)練數(shù)據(jù)。以此類推，直至獲得樣本46～50的測試結(jié)果。RMSE的計(jì)算表達(dá)式為：

其中i為預(yù)測值。

為克服數(shù)值數(shù)據(jù)量綱的影響，在模型訓(xùn)練之前將數(shù)值數(shù)據(jù)進(jìn)行歸一化處理。神經(jīng)網(wǎng)絡(luò)集成模型包含30個(gè)MLP模型。圖2給出了單個(gè)神經(jīng)網(wǎng)絡(luò)、隨機(jī)森林和神經(jīng)

網(wǎng)絡(luò)集成的預(yù)測結(jié)果。隨機(jī)森林含有100棵分類回歸樹，葉節(jié)點(diǎn)的樣本數(shù)等于1。表2給出了3種模型的誤差統(tǒng)計(jì)，其中MAPE和MAE分別指平均絕對(duì)誤差率（Mean Absolute Percentage Error）、平均絕對(duì)誤差（Mean Absolute Error），計(jì)算表達(dá)式分別為：

由表2可知，與單個(gè)神經(jīng)網(wǎng)絡(luò)及隨機(jī)森林相比，神經(jīng)網(wǎng)絡(luò)集成誤差指標(biāo)更小，具有更好的預(yù)測性能。需指出的是，神經(jīng)網(wǎng)絡(luò)集成模型需要更多的運(yùn)行時(shí)間。

3結(jié)語

為預(yù)測作物需水量，以空氣濕度、溫度、太陽輻射以及風(fēng)速作為輸入，建立神經(jīng)網(wǎng)絡(luò)集成模型，利用交叉驗(yàn)證方法確定網(wǎng)絡(luò)隱層節(jié)點(diǎn)數(shù)。與單個(gè)神經(jīng)網(wǎng)絡(luò)及隨機(jī)森林模型相比，神經(jīng)網(wǎng)絡(luò)集成模型可獲得更好的預(yù)測精度，有助于實(shí)現(xiàn)精細(xì)灌溉。

參考文獻(xiàn)：

[1]孫景生，康紹忠.我國水資源利用現(xiàn)狀與節(jié)水灌溉發(fā)展對(duì)策[J].農(nóng)業(yè)工程學(xué)報(bào)，2000，16（2）：15.

[2]韓偉鋒，武繼承，何方.作物需水量研究綜述[J].華北水利水電學(xué)院學(xué)報(bào)，2008，29（5）：3033.

[3]張兵，袁壽其，成立，等.基于LM優(yōu)化算法的BP神經(jīng)網(wǎng)絡(luò)的作物需水量預(yù)測模型[J].農(nóng)業(yè)工程學(xué)報(bào)，2004，20（6）：7376.

[4]夏澤豪，翁紹捷，羅微，等.基于灰色神經(jīng)網(wǎng)絡(luò)的作物需水量預(yù)測模型研究[J].中國農(nóng)機(jī)化學(xué)報(bào)，2015，36（2）：219213.

[5]孟麗麗，遲道才，崔屾，等.α加權(quán)模糊線性回歸模型在參考作物需水量預(yù)測中的應(yīng)用[J].沈陽農(nóng)業(yè)大學(xué)學(xué)報(bào)，2008，39（5）：603606.

[6]劉婧然，馬英杰，王喆，等.基于RBF神經(jīng)網(wǎng)絡(luò)與BP神經(jīng)網(wǎng)絡(luò)的核桃作物需水量預(yù)測[J].節(jié)水灌溉，2013（3）：1619.

[7]江衍銘，張建全，明焱.集合神經(jīng)網(wǎng)絡(luò)的洪水預(yù)報(bào)[J].浙江大學(xué)學(xué)報(bào)：工學(xué)版，2016，50（8）：14711478.

[8]于合龍，劉杰，金弟，等.一種新的神經(jīng)網(wǎng)絡(luò)集成方法及其在精準(zhǔn)施肥中的應(yīng)用[J].計(jì)算機(jī)研究與發(fā)展，2010，47（9）：15301538.

[9]沈?qū)W華，周志華，吳建鑫，等.Boosting和Bagging綜述[J].計(jì)算機(jī)工程與應(yīng)用，2000（12）：3132.

[10]ZHOU ZHIHUA， WU JIANXIN， TANG WEI. Ensembling neural networks： many could be better than all[J]. Artificial. Intelligence，2002，137：239263.

[11]BREIMAN L. Random forests [J]. Machine Learning，2001，45（1）：532.

[12]夏陸岳，王海寧，朱鵬飛，等.KPCAbagging集成神經(jīng)網(wǎng)絡(luò)軟測量建模方法[J].信息與控制，2015，44（5）：519524.

[13]M T HAGAN， M B MENHAJ.Training feedforward networks with the marquardt algorithm[J].IEEE Transactions on Neural Network，1994，5（6）：989993.

[14]RENATO SILVIODA FROTA RIBEIRO. Fuzzy logic basedautomated irrigation control system optimized via neuralnetwork s[D]. America： The University of Tennessee，1998.

（責(zé)任編輯：黃?。〆ndprint