羅嗣卿，李冰珂，王佳玉

(東北林業(yè)大學 信息與計算機工程學院，黑龍江 哈爾濱 150040)

0 引 言

尋找穩(wěn)定、精確的銷售量預測模型一直是國內(nèi)外研究者關注的焦點，并且具有重要的意義。BP神經(jīng)網(wǎng)絡是常用的預測算法，傳統(tǒng)的BP神經(jīng)網(wǎng)絡是通過梯度下降法[1]進行學習，隨機生成權值和閾值，如果這兩個初始參數(shù)選擇不當，網(wǎng)絡就會出現(xiàn)局部最優(yōu)或收斂速度慢等問題，對此很多學者提出利用智能算法來優(yōu)化網(wǎng)絡的權值和閾值[1]，比如布谷鳥搜索算法[2,3]、螢火蟲算法[4]、遺傳算法[5-7]等。為了更好地改善BP神經(jīng)網(wǎng)絡存在的問題，本文提出用改進的和聲算法來優(yōu)化BP神經(jīng)網(wǎng)絡。和聲算法是一種新的啟發(fā)式優(yōu)化算法[8]，為了有效提高和聲算法性能，許多研究人員通過自適應參數(shù)[9]、動態(tài)調(diào)整[10]、智能調(diào)整(ITHS)[11]、混沌和聲[12]、引入變鄰域搜索[13]、差分進化算法[14]等方法優(yōu)化HS算法[15]，在前人研究的基礎上，為了使和聲算法能夠更大程度上優(yōu)化BP神經(jīng)網(wǎng)絡，提出自適應和聲算法與遺傳算法的混合算法(GA_HS)來優(yōu)化BP神經(jīng)網(wǎng)絡的權值和閾值[16]，能夠很好地改善了BP神經(jīng)網(wǎng)絡的易陷入局部最優(yōu)、收斂速度慢等缺點。最后，將GA_HS算法應用到機票銷售量預測問題中，建立對比模型完成實驗，檢驗本文提出的算法模型預測效果。

1 傳統(tǒng)BP神經(jīng)網(wǎng)絡

BP神經(jīng)網(wǎng)絡是一種多層前饋網(wǎng)絡。網(wǎng)絡模型的拓撲結構包括輸入層、隱含層和輸出層。其中，三層網(wǎng)絡結構如圖1所示。

圖1 BP神經(jīng)網(wǎng)絡結構

傳統(tǒng)BP神經(jīng)網(wǎng)絡通過訓練誤差反向傳播算法進行訓練，包括正向傳播和反向傳播兩個過程。下面具體介紹這兩個過程：

步驟1 正向傳遞子過程。設節(jié)點i和節(jié)點j之間的權值為wij，節(jié)點j的閾值為bj,xj為節(jié)點的輸出值，將其代入激活函數(shù)得到每個節(jié)點的輸出值。具體計算方法如下

(1)

xj=f(sj)

(2)

其中，f為激活函數(shù)。

步驟2 反向傳遞子過程。沿正向傳播的反方向調(diào)節(jié)各個神經(jīng)元的權值和閾值，最終達到期望值和預測值誤差最小。假設輸出層的所有結果為dj，誤差函數(shù)如下

(3)

由梯度下降法可知，權值的修正值與E(w,b)的梯度成正比，那么對于第j個輸出節(jié)點有

(4)

若選擇激活函數(shù)為

(5)

那么隱含層與輸出層之間的權值和閾值需要做如下調(diào)整

(6)

(7)

同理按照上述方法調(diào)整輸入層和隱含層之間的權值和閾值。

以上是BP神經(jīng)網(wǎng)絡全過程。網(wǎng)絡對初始參數(shù)值有較高要求，所以容易形成局部最優(yōu)而得不到全局最優(yōu)值。

2 傳統(tǒng)的和聲算法

和聲算法是一種新穎的啟發(fā)式全局搜索算法。由N個人組成一個樂隊，每個人演奏一種樂器，他們演奏加起來對應一組和聲，樂隊通過不斷排練得到最好和聲效果的過程中使用一個f(x)函數(shù)來衡量和聲的效果好壞，沒有得到滿意的和聲之前一直演奏，直到達到要求，這就是和聲算法的最優(yōu)化過程。具體算法步驟如下：

步驟1 確定初始化和聲算法的基本參數(shù)、所需優(yōu)化問題的目標函數(shù)以及約束條件。其中參數(shù)包括和聲庫大小(HM)、記憶庫取值概率(HMCR)、微調(diào)概率(PAR)、音調(diào)微調(diào)帶寬(bw)、創(chuàng)作的次數(shù)(Tmax)。

步驟2 確定解空間。有N個樂器，每個樂器都有一個確定的音樂演奏范圍，通過該范圍確定一個解空間。

步驟3 初始化和聲記憶庫。和聲記憶庫是根據(jù)解空間和初始化的和聲庫大小隨機產(chǎn)生。

步驟4 產(chǎn)生一個新和聲。隨機產(chǎn)生一個變量rand1(rand1∈[0,1])。并將rand1與初始化的HMCR進行比較。若rand1>HMCR，從解空間中隨機選取一組和聲；rand1

步驟5 更新和聲庫。比較目標函數(shù)值f(x)，如果新和聲優(yōu)于初始化和聲庫HM中的最差解，那么和聲庫中最差的和聲將被新和聲替換掉。

步驟6 重復上面兩步過程，直到達到創(chuàng)作次數(shù)最大值。

3 改進的和聲算法優(yōu)化BP神經(jīng)網(wǎng)絡

遺傳算法是一種通過模擬自然進化過程來搜索最優(yōu)解的方法，該算法在產(chǎn)生初始種群之后，按照適者生存和優(yōu)勝略汰的原理，根據(jù)具體問題的適應度值大小選擇較優(yōu)個體，并仿照遺傳學方法設置遺傳算子，然后完成對個體交叉和變異操作，更新種群。

本文提出的自適應和聲算法與遺傳算法的混合算法(GA_HS)，具體思想是先對HS算法進行改進，使微調(diào)概率(PAR)和音調(diào)微調(diào)帶寬(bw)具有自適應性，并在更新和聲種群過程中引入交叉、變異操作。然后利用GA_HS算法優(yōu)化BP神經(jīng)網(wǎng)絡權值和閾值，這樣不僅減小了網(wǎng)絡的訓練誤差、也避免了網(wǎng)絡陷入局部最優(yōu)。具體優(yōu)化操作如下：

(1)對HS算法中的PAR、bw參數(shù)作自適應調(diào)整。HS算法的初始參數(shù)設置十分重要，如果選擇不當則嚴重影響著算法搜索性能。傳統(tǒng)的HS算法初始化參數(shù)過程是將PAR、bw等參數(shù)設置為固定值，而GA_HS算法解決了參數(shù)選擇不當給搜索過程帶來的誤差過大、收斂速度慢等問題。GA_HS算法首先給bw和PAR設置一個較小的初始值，然后每次迭代根據(jù)適應度值的大小(也就是BP神經(jīng)網(wǎng)絡的誤差值)反復調(diào)整這兩個參數(shù)，最終使適應度值達到最小，具體運算步驟如下

f是適應度值，bw0為bw的初始值，PAR0為PAR初始值。

(2)GA_HS算法在傳統(tǒng)的HS算法基礎上做出改進。傳統(tǒng)和聲算法每次迭代是一次產(chǎn)生新和聲更新和聲庫的過程，該過程只對原和聲庫進行了很小程度的更新，發(fā)現(xiàn)更優(yōu)種群的速度較慢并且容易陷入局部最優(yōu)，而遺傳算法中所使用的交叉和變異操作可以解決這一問題。本文提出的GA_HS算法，首先設置一定的交叉概率和變異概率，然后在每次更新種群的迭代過程中，增加遺傳算法的交叉、變異操作，使得算法更快找到更優(yōu)種群，不僅能夠保證了種群的多樣性，還可以防止算法陷入局部最優(yōu)和過早收斂。主要操作如下：

交叉操作：

其中，pc為交叉概率，pm為變異概率。

(3)傳統(tǒng)BP神經(jīng)網(wǎng)絡隨機生成權值和閾值，然后利用梯度下降法調(diào)整這兩個參數(shù)，因此它具有陷入局部最優(yōu)、收斂速度慢等缺點，本文首先采用GA_HS算法對網(wǎng)絡權值和閾值進行優(yōu)化，優(yōu)化BP神經(jīng)網(wǎng)絡的過程中適應度函數(shù)的選取十分重要，由于訓練網(wǎng)絡的每次迭代過程都是通過訓練樣本誤差值大小來反復修改網(wǎng)絡的權值和閾值，所以本文提出的GA_HS算法選取BP神經(jīng)網(wǎng)絡的誤差函數(shù)作為適應度函數(shù)，通過反復迭代使得適應度函數(shù)值達到最小，也就使得訓練樣本的誤差值最小，從而得到最優(yōu)的初始權值和閾值，達到優(yōu)化BP神經(jīng)網(wǎng)絡的目的。其次在建立模型時隱含層節(jié)點數(shù)設置和訓練函數(shù)的選取兩方面也做了一定的改進，解決了傳統(tǒng)BP神經(jīng)網(wǎng)絡所存在的問題，使其有更好的預測效果。

GA_HS算法優(yōu)化BP神經(jīng)網(wǎng)絡流程如圖2所示。

4 模型的建立以及預測結果分析

4.1 模型建立

BP神經(jīng)網(wǎng)絡是目前應用十分廣泛的一種網(wǎng)絡模型。為了驗證本文優(yōu)化方法的有效性，提取某城市的11個機票代售點的200天的銷售量為實驗數(shù)據(jù)，選取前185天的機票銷售量為訓練樣本，最后15天為測試樣本，利用測試樣本中的前14天數(shù)據(jù)來預測最后一天的機票銷售量，對GA_HS算法、GA算法、HS算法優(yōu)化BP神經(jīng)網(wǎng)絡以及傳統(tǒng)BP神經(jīng)網(wǎng)絡分別建立模型，然后得出4種模型的預測值與真實值最終對比結果。實驗模型采用單隱含層網(wǎng)絡結構，設置11個輸入層節(jié)點，11個輸出層節(jié)點。另外，隱含層節(jié)點個數(shù)對網(wǎng)絡的性能有很大影響，節(jié)點數(shù)太少，則在預測過程中難以保證效果的準確性，節(jié)點數(shù)太多，則在網(wǎng)絡訓練過程會導致訓練時間太長，預測效果不準確等問題。本文首先利用經(jīng)驗公式確定隱含層節(jié)點數(shù)范圍，再將該范圍內(nèi)所有整數(shù)值代入實驗模型進行適應度值對比，通過實驗對比可知當選取10個隱含層節(jié)點時，樣本均方誤差值最小。因此，模型設置10個隱含層節(jié)點數(shù)。經(jīng)驗公式為

(8)

其中，h、m、n分別為隱含層、輸入層、輸出層節(jié)點數(shù)，a為1～10之間的常數(shù)。

傳遞函數(shù)和訓練函數(shù)的選擇也關系著模型的性能，因此選擇logsig、tansig函數(shù)分別作為輸入層和隱含層之間、隱含層和輸出層之間的傳遞函數(shù)。選取trainlm函數(shù)為訓練函數(shù)，該函數(shù)采用的訓練方法是一種介于牛頓法和梯度下降法之間的非線性優(yōu)化方法，它對冗余參數(shù)問題也能很好的處理，減小了代價函數(shù)陷入局部極小值的機會。當λ很大時，它的步長接近牛頓法步長，當λ很大時，它的步長接近梯度下降法步長。因此，本文為了模型能夠達到更好的效果，選取trainlm函數(shù)作為訓練函數(shù)。

傳統(tǒng)和聲算法參數(shù)設置主要包括以下幾個，其中和聲庫大小為20，迭代次數(shù)為100，HMCR為0.75，PAR和bw設置為0.2。GA_HS算法設置PAR和bw初始值為0.02，交叉概率pc為0.75，變異概率pm為0.25。

模型的最終輸出結果為所有代售點最后一天的機票銷售量預測值，再與最后一天的真實值進行對比，得出實驗結果。分別建立傳統(tǒng)BP網(wǎng)絡(BP)、和聲算法優(yōu)化BP網(wǎng)絡(HS_BP)、遺傳算法優(yōu)化BP網(wǎng)絡(GA_BP)、遺傳算法和自適應和聲算法的混合算法優(yōu)化BP網(wǎng)絡(GA_HS_BP)4種模型，用matlab編程語言編碼完成對比實驗。

圖2 GA_HS_BP算法流程

4.2 實驗結果分析

在圖3中，通過3種GA、HS、GA_HS算法的適應度值對比可知，遺傳算法的誤差較大。對比HS算法和GA_HS算法，GA_HS算法先將PAR和bw設置為一個較小的初始值，隨著不斷迭代尋找更優(yōu)種群，初始參數(shù)也不斷進行自適應，得到更小適應度值，因此當?shù)螖?shù)較少時，GA_HS算法比HS算法適應度值大，但是隨著迭代次數(shù)增加，改進的和聲搜索算法逐漸找到接近最優(yōu)種群的較優(yōu)種群，使得適應度值突然減小，當?shù)螖?shù)超過90次后，適應度值達到很小，預測值更加逼近真實值。

圖3 GA、HS與GA_HS算法適應度值對比

由表1對比結果可以看出，BP、GA_HS、HS_BP、GA_HS_BP這4種模型的均方根誤差值依次減小。本文提出的GA_HS算法得到的均方根誤差最小，因此它對機票銷售量的預測具有更高的準確度。

表1 均方根誤差對比結果

在圖4中，可以看出GA_HS算法優(yōu)化BP神經(jīng)網(wǎng)絡實驗最終得到的預測值與期望值的折線圖幾乎完全重合，但是由于銷售代理點的銷售量達到了上萬級，預測值與真實值的差值遠遠小于銷售量數(shù)值，所以通過圖4不能很直觀的表現(xiàn)出BP、GA_HS、HS_BP、GA_HS_BP這4種模型預測值與真實值對比的好壞程度。因此，通過spss軟件對4個模型的預測值和真實值作相關性分析。如表2～表5所示，可以直觀的看出，BP、GA_HS、HS_BP、GA_HS_BP這4種模型與真實值的相關性依次增大，其中GA_HS_BP模型預測結果最接近真實值。由此可知，本文提出的GA_HS算法優(yōu)化的BP神經(jīng)網(wǎng)絡預測更為準確。

圖4 4種模型預測值與真實值對比

相關性真實值BP真實值Pearson相關性10.733??顯著性(雙側)0.000N1111BPPearson相關性0.733??1顯著性(雙側)0.000N1111

注：**.在.01水平(雙側)上顯著相關。

表3 GA_BP模型預測值與真實值相關性分析

注：**.在.01水平(雙側)上顯著相關。

表4 HS_BP模型預測值與真實值相關性分析

注：**.在.01水平(雙側)上顯著相關。

表5 GA_HS_BP模型預測值與真實值相關性分析

注：**.在.01水平(雙側)上顯著相關。

5 結束語

本文利用自適應和聲算法和遺傳算法的混合算法(GA_HS)改進的BP神經(jīng)網(wǎng)絡完成對機票銷售量的預測。由上面的仿真預測結果可知，GA_HS_BP模型明顯優(yōu)于GA_BP模型、HS_BP模型、BP模型的實驗結果。但本文只是對于BP神經(jīng)網(wǎng)絡的權值和閾值這一方面進行了優(yōu)化，其它方面也有很大的優(yōu)化空間，其它研究人員也可以提出更好的方法來優(yōu)化它的權值、閾值或者對其它角度優(yōu)化進一步提高預測準確率。