張 力，王福林，劉宇燕，孫 婷

(東北農(nóng)業(yè)大學 工程學院，哈爾濱 150030)

?

基于LM-BP神經(jīng)網(wǎng)絡的農(nóng)機總動力預測

張 力，王福林，劉宇燕，孫 婷

(東北農(nóng)業(yè)大學 工程學院，哈爾濱 150030)

利用黑龍江省1983-2013年農(nóng)機總動力數(shù)據(jù)，運用標準BP神經(jīng)網(wǎng)絡和LM-BP神經(jīng)網(wǎng)絡對黑龍江省未來5年的農(nóng)機總動力進行預測。預測結果表明：在達到相同的誤差目標值(即計算期望精度)，LM-BP神經(jīng)網(wǎng)絡與標準PB相比，具有更快的收斂速度。如果需進一步減小誤差目標值(即提高計算期望精度)時，標準BP神經(jīng)網(wǎng)絡在16h內都無法滿足給定的精度要求；而LM-BP神經(jīng)網(wǎng)絡在20s內即可滿足給定的精度要求。此時，LM-BP神經(jīng)網(wǎng)絡的收斂速度優(yōu)勢非常明顯，而擬合的精度也進一步提高，表明LM-BP神經(jīng)網(wǎng)絡具有較高的預測精度。準確的預測黑龍江省農(nóng)機總動力，可為黑龍江省農(nóng)業(yè)機械化發(fā)展規(guī)劃的制定和近階段農(nóng)業(yè)機械化的發(fā)展水平提供參考依據(jù)。

農(nóng)機總動力；預測；LM-BP神經(jīng)網(wǎng)絡

0 引言

人工神經(jīng)網(wǎng)絡是一門高度綜合的交叉學科，其研究和發(fā)展涉及到神經(jīng)生理科學、數(shù)理科學、信息科學和計算機科學等眾多學科領域。BP神經(jīng)網(wǎng)絡是人工神經(jīng)網(wǎng)絡的重要分支，其理論體系完善、算法流程清晰、數(shù)據(jù)識別功能強大，故得到了廣泛的應用，在解決非線性系統(tǒng)問題時，優(yōu)勢突出。

隨著對BP神經(jīng)網(wǎng)絡研究的逐步深入，也暴露出其誤差收斂速度過慢的問題，其原因有以下幾點：一是BP神經(jīng)網(wǎng)絡中存在固定的學習率，而訓練過程對學習率十分明顯，學習率過小，會導致性能指數(shù)收斂速度變小，訓練時間變長；當學習率過大時，性能指數(shù)可能會在某個誤差等級上波動。二是BP算法本質是基于梯度的最速下降，利用權值的一階導數(shù)信息來指導下一步的權值調整方向，以求達到最終誤差最小來保證算法的收斂性；但誤差減小的速度最快并不能保證收斂速度是最快。三是多層BP神經(jīng)網(wǎng)絡的傳輸函數(shù)一般是Sigmoid函數(shù)。該函數(shù)能把無窮大的輸入變量，壓縮到一個取值范圍有限的輸出變量當中。當給Sigmoid函數(shù)一個很大輸入時，會使其斜率趨近于零。這時，盡管性能指數(shù)還遠不能滿足預定的精度，但是此時的梯度幅度也會變得非常小，即權值和閾值的修正量也會變得非常小，這也會導致訓練的時間變得非常長。

農(nóng)業(yè)機械化的發(fā)展有利于減少農(nóng)村勞動力需求，提高農(nóng)業(yè)生產(chǎn)率，而農(nóng)機總動力是衡量農(nóng)業(yè)機械化水平的主要指標[1-4]，也是制定農(nóng)業(yè)發(fā)展規(guī)劃的有力依據(jù)。因此，能夠精確預測農(nóng)機總動力的發(fā)展趨勢，可以為區(qū)域農(nóng)機發(fā)展規(guī)劃和宏觀調控工作提供參考。農(nóng)業(yè)機械總動力是指用于農(nóng)、林、副、漁的機械總動力之和，具體包括拖拉機及配套農(nóng)具、農(nóng)業(yè)排灌動力機械、聯(lián)合收割機、機動脫粒機及漁用機動船等機械動力之和[5]。

理論上已經(jīng)證明，具有一個隱含層的三層神經(jīng)網(wǎng)絡(見圖1)可以逼近任意非線性函數(shù)。所以，本文利用黑龍江省1983-2013年農(nóng)機總動力數(shù)據(jù)，運用LM-BP神經(jīng)網(wǎng)絡對黑龍江省農(nóng)機總動力進行擬合和預測[6]。

1 LM-BP神經(jīng)網(wǎng)絡

1)構造性能指數(shù)為

(1)

其中，h=(q-1)s2+k這里構造向量v，vT=[e1,1e1,2...es2,1...ej,q...es2,1]使得F(x)=vTv。v的維數(shù)是。其中，N=s2×Q。

(2)

圖1 三層BP神經(jīng)網(wǎng)絡結構圖

(3)

由鏈式法則，結合矩陣乘法得

(4)

4)計算雅可比矩陣。雅可比矩陣的維數(shù)為。其中，N=s2×Q，n=s2(s1+1)+s1(s0+1)?？梢园蜒趴杀染仃噭澐譃?個部分：W1、b1、W2、b2，現(xiàn)在分別對每一個部分進行計算。

(1)W2區(qū)。Jw2的維數(shù)為。針對W2區(qū)有

(5)

(6)

(2)b2區(qū)。Jb2的維數(shù)為，針對b2區(qū)有

(7)

(8)

(3)W1區(qū)。Jw1的維數(shù)為，針對W1區(qū)有

(9)

(10)

(4)b1區(qū)。Jb1的維數(shù)為，針對b1區(qū)有

(11)

(12)

5)計算各權值、閾值的變化量為

xk+1=xk-[JT(xk)J(xk)+

μkI]-1JT(xk)v(xk)

(13)

6)重復上述過程。如果新計算的性能指數(shù)F(x)小于以前，那么

μk+1=μk/θ

(14)

轉到2)，即重新計算雅可比矩陣。

如果新計算的性能指數(shù)F(x)不小于以前，那么

μk+1=μk×θ

(15)

轉到5)，其中，μk的初始值設為一個較小的正數(shù)，θ為一個大于1的常數(shù)[7]。

2 計算實例

下面分別運用標準BP神經(jīng)網(wǎng)絡和LM-BP神經(jīng)網(wǎng)絡預測黑龍江省農(nóng)機總動力的發(fā)展變化，表1數(shù)據(jù)是1983-2013年黑龍江省農(nóng)機總動力，來自國家統(tǒng)計局官方網(wǎng)站。

表1 1983年-2013年黑龍江省農(nóng)機總動力

首先對表1中的數(shù)據(jù)進行歸一化處理[8]，其表達式為

(16)

式中 xi—輸入贗本數(shù)據(jù)；

xmin—輸入樣本中的最小值；

xmax—輸入樣本中的最大值；

對神經(jīng)網(wǎng)絡采用標準BP訓練算法訓練。BP神經(jīng)網(wǎng)絡的結構為標準的三層結構。網(wǎng)絡的輸入層節(jié)點個數(shù)為4，隱含層的神經(jīng)元個數(shù)為6，輸出層神經(jīng)元個數(shù)為1。當訓練次數(shù)為290 638次時，耗時9 351.6s，均方誤差(mse)為0.02%，其預測結果如表2和圖2所示。

最后，對神經(jīng)網(wǎng)絡采用LM_BP訓練算法訓練。同樣，BP神經(jīng)網(wǎng)絡的結構為標準的三層結構，網(wǎng)絡的輸入層節(jié)點個數(shù)為4，隱含層的神經(jīng)元個數(shù)為6，輸出層神經(jīng)元個數(shù)為1。當訓練次數(shù)為3次時，耗時1.168 8s,均方誤差(mse)為0.001 66%。

由此可以看出：LM_BP訓練算法相比于標準BP訓練算法在運算速度上存在巨大的優(yōu)勢，在相同的均方誤差等級下(0.02%)，標準BP訓練算法所用的時間是LM_BP訓練算法的8 000倍以上。并且，如果把均方誤差(mse)目標設置為0.001%，標準BP訓練算法在經(jīng)過771 978次訓練，耗時60 825s，均方誤差(mse)僅達到0.001 46%；而LM_BP訓練算法只用了219次訓練，耗時4.189 4s，均方誤差(mse)就已達到0.000 906%。即當均方誤差(mse)目標越小時，越能體現(xiàn)LM_BP訓練算法的優(yōu)勢。

表2 預測精度情況

續(xù)表2

圖2 兩種算法訓練的神經(jīng)網(wǎng)絡的預測情況

3 結論

利用黑龍江省1983-2013年農(nóng)機總動力數(shù)據(jù)，運用標準BP神經(jīng)網(wǎng)絡和LM-BP神經(jīng)網(wǎng)絡對黑龍江省未來5年的農(nóng)機總動力進行預測。預測結果表明：當均方誤差相同且均方誤差不是很小時，與標準PB相比，LM-BP神經(jīng)網(wǎng)絡具有更快的收斂速度。當均方誤差相同并進一步減小均方誤差值時，標準BP神經(jīng)網(wǎng)絡需要很長時間才能達到給定的精度要求，而LM-BP神經(jīng)網(wǎng)絡在短時間內即可滿足給定的精度要求。如果進一步減小均方誤差值，標準BP神經(jīng)網(wǎng)絡理論上雖然可達到給定的精度要求，但耗時較長；而LM-BP神經(jīng)網(wǎng)絡仍能夠快速收斂，此時LM-BP神經(jīng)網(wǎng)絡收斂的速度優(yōu)勢非常明顯，擬合的精度進也一步提高，表明LM-BP神經(jīng)網(wǎng)絡具有較高的預測精度。

[1] 宋琿，董欣，王兵.基于BP神經(jīng)網(wǎng)絡的農(nóng)機總動力預測模型研究[J].東北農(nóng)業(yè)大學學報，2009，40(4)：116-120.

[2] 劉玉靜，李成華，楊升明．遼寧省農(nóng)機總動力組合預測與分析[J]．農(nóng)機化研究，2007(5)：31-33．

[3] 鞠金艷，王金武，王金峰．基于BP神經(jīng)網(wǎng)絡的農(nóng)機總動力組合預測方法[J]．農(nóng)業(yè)機械學報，2010，41(6)：87-92．

[4] 張淑娟，趙飛．基于Shapley值的農(nóng)機總動力組合預測方法[J]．農(nóng)業(yè)機械學報，2008，39(5)：60-64．

[5] 劉天舒.網(wǎng)絡的改進研究及應用[D].哈爾濱：東北農(nóng)業(yè)大學，2011.

[6] 王吉權，王福林，邱立春.基于BP神經(jīng)網(wǎng)絡的農(nóng)機總動力預測[J].農(nóng)業(yè)機械學報，2011，42(12):121-126.

[7] Hagan T，Demuth H，Beale M. Neural Network Design. Boston[M].MA: Publishing，1996.

[8] 王吉權.BP神經(jīng)網(wǎng)絡的理論及其在農(nóng)業(yè)機械化中的應用研究[D].沈陽：沈陽農(nóng)業(yè)大學，2011.

Prediction of Total Power in Agriculture Machinery Based on LM-BP Neural Network

Zhang Li, Wang Fulin, Liu Yuyan, Sun Ting

(College of Engineering, Northeast Agricultural University, Harbin 150030, China)

Taking advantage of the total power of agriculture machinery data in Heilongjiang Province from 1983 to 2013, using BP neural network and LM-BP network to predict the total power of agriculture machinery in Heilongjiang Province over the next 5 years. The result of prediction show that in the same error target values (expected accuracy of compute), compared with BP neural network, LM-BP neural network has faster convergence speed. To reduce the error of target (improve the expected accuracy of compute), the BP neural network cannot satisfy the requirement of the given accuracy within 16 hours, while the LM-BP neural network can satisfy the requirement of accuracy in 20 seconds. At this point, the convergence speed of LM-BP neural network is obvious, and the fitting precision is also improved, which show that the LM-BP neural network has higher prediction accuracy. Accurate prediction of the total power of agriculture machinery in Heilongjiang Province, which can make the development plan for the agricultural mechanization in Heilongjiang Province and provide

for the level of agricultural mechanization development.

total power of agriculture machinery; prediction; LM-BP neural network

2015-11-23

國家自然科學基金項目(31071331);黑龍江省教育廳科學技術研究項目(12511049)

張 力(1992-),男，成都人，碩士研究生，(E-mail) 535320706@qq.com。

王福林(1960-)，男，黑龍江安達人，教授，博士生導師，(E-mail)fulinwang1462@126.com。

S23-01

A

1003-188X(2017)01-0010-05