王亞琴， 王耀力，王力波，常青

(太原理工大學(xué) 信息與工程學(xué)院，山西 晉中 030600 )

0 引 言

提高短期負(fù)荷預(yù)測精度可以為電力系統(tǒng)的運行提供保障，也有助于高效的能源決策和能源管理，還可以減少系統(tǒng)的運行成本[1]。然而，由于氣象和溫度等多重因素的影響，準(zhǔn)確的預(yù)測負(fù)荷是一項具有挑戰(zhàn)性的任務(wù)。為了在負(fù)荷預(yù)測模型中能更好的結(jié)合各種影響因素，基于人工神經(jīng)網(wǎng)絡(luò)的預(yù)測模型得到了深入的研究。其中，BP神經(jīng)網(wǎng)絡(luò)由于不需要先驗知識、具有自學(xué)習(xí)的非線性擬合能力，成為了公認(rèn)的有效的短期負(fù)荷預(yù)測模型[2-5]。但是傳統(tǒng)的BP神經(jīng)網(wǎng)絡(luò)用于預(yù)測時存在很多不足，如收斂速度慢、初始參數(shù)的選取對網(wǎng)絡(luò)的訓(xùn)練速度影響較大、容易陷入局部最優(yōu)解和網(wǎng)絡(luò)泛化能力弱等。

為了提高負(fù)荷預(yù)測的精度，1991年T. M. PENG等學(xué)者從改進神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)方面入手提出了一種改進的BP神經(jīng)網(wǎng)絡(luò)算法[6]，該算法在網(wǎng)絡(luò)結(jié)構(gòu)上表現(xiàn)為在BP神經(jīng)網(wǎng)絡(luò)基礎(chǔ)上加入了從輸入層到輸出層的連接，形成了從輸入映射到輸出的線性和非線性的組合模型，該模型相比BP神經(jīng)網(wǎng)絡(luò)模型的性能有了很大的提高，但是該方法并沒有得到進一步的研究與發(fā)展。Ren和Suganthan在2016年采用隨機向量法實現(xiàn)函數(shù)連接的(Random Vector Functional-link, RVFL)網(wǎng)絡(luò)對短期負(fù)荷預(yù)測進行了研究，結(jié)果進一步表明從輸入到輸出的連接對網(wǎng)絡(luò)預(yù)測性能起著非常重要的作用[7]，不僅可以減少隱含層所需的神經(jīng)元個數(shù)，降低網(wǎng)絡(luò)在訓(xùn)練過程中調(diào)整的參數(shù)個數(shù)，還可以提高電力負(fù)荷的預(yù)測精度和網(wǎng)絡(luò)的泛化能力。此外，負(fù)荷預(yù)測模型的性能與網(wǎng)絡(luò)初始連接權(quán)值、閾值等參數(shù)密切相關(guān)，因此要建立精確的短期負(fù)荷預(yù)測模型，首先要選擇合理的初始化參數(shù)。目前，隨著仿生學(xué)的發(fā)展，優(yōu)化網(wǎng)絡(luò)初始參數(shù)的方法有粒子群算法[8]、蟻群算法[9]和蜂群優(yōu)化算法[10]等，但這些算法均存在參數(shù)多、難于理解和尋找全局最優(yōu)解的過程較緩慢等不足，難以找到全局最優(yōu)的網(wǎng)絡(luò)初始參數(shù)。

2011年臺灣某學(xué)者通過模擬果蠅的覓食行為提出了一種果蠅優(yōu)化算法(Fruit fly Optimization Algorithm，F(xiàn)OA)[11]，和上面幾種優(yōu)化算法相比，它具有參數(shù)少、程序簡單、易于理解和收斂速度快等優(yōu)點，在短短的幾年時間內(nèi)獲得了很高的關(guān)注，如今已廣泛的應(yīng)用在數(shù)學(xué)函數(shù)優(yōu)化[12]、多維背包問題[13]、無等待流量流程調(diào)度[14]、電力負(fù)荷預(yù)測[15]等方面。FOA的性能主要取決于果蠅種群大小、迭代次數(shù)、初始位置和搜索步長的值。其中，搜索步長對果蠅群體的尋優(yōu)能力有很大的影響[16]。針對基本FOA中搜索步長是個定值，存在后期局部尋優(yōu)能力弱、收斂速度慢的不足，本文提出了一種改進的果蠅優(yōu)化算法(Improved Fruit fly Optimization Algorithm，IFOA)用于優(yōu)化神經(jīng)網(wǎng)絡(luò)的初始連接權(quán)值和閾值，即通過引入動態(tài)衰減因子來動態(tài)調(diào)整搜索步長，以實現(xiàn)算法全局尋優(yōu)能力和局部尋優(yōu)能力之間的動態(tài)平衡。

因此，首先采用在BP神經(jīng)網(wǎng)絡(luò)中加入從輸入到輸出的連接的網(wǎng)絡(luò)(Back-Propagation Neural Network With Direct Input-to-Output Connections, BPNN-DIOC, 直連BP神經(jīng)網(wǎng)絡(luò))，減少隱含層所需的神經(jīng)元個數(shù)，加快網(wǎng)絡(luò)訓(xùn)練速度。然后利用IFOA優(yōu)化神經(jīng)網(wǎng)絡(luò)的初始連接權(quán)值和閾值，以改善算法的尋優(yōu)能力。最后，綜合IFOA和BPNN-DIOC構(gòu)建了基于IFOA優(yōu)化BPNN-DIOC的負(fù)荷預(yù)測模型。

1 直連BP神經(jīng)網(wǎng)絡(luò)描述

文獻[6-7]的結(jié)果表明在神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)中加入從輸入到輸出的連接對網(wǎng)絡(luò)的預(yù)測性能起著非常重要的作用。受上述工作的啟發(fā)，本文采用BPNN-DIOC，即直連BP神經(jīng)網(wǎng)絡(luò)用于電力負(fù)荷預(yù)測。直連BP神經(jīng)網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu)圖如圖1所示，紅色箭頭表示從輸入神經(jīng)元到輸出神經(jīng)元的直接連接?？梢钥闯觯摼W(wǎng)絡(luò)和BP神經(jīng)網(wǎng)絡(luò)的主要區(qū)別在于直連BP神經(jīng)網(wǎng)絡(luò)加入了從輸入到輸出的連接，形成了從輸入映射到輸出的線性和非線性的組合模型，從而使網(wǎng)絡(luò)具有了從輸入到輸出的線性映射能力。

圖1 直連BP網(wǎng)絡(luò)結(jié)構(gòu)拓?fù)鋱D

直連BP神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)過程為：

隱含層輸出：

(1)

相應(yīng)的輸出層輸出為：

O=∑W21X+∑W22b+β

(2)

(3)

式中X表示訓(xùn)練樣本的輸入數(shù)據(jù)；W1是輸入層到隱含層的連接權(quán)值；θ是隱含層閾值；f(·)是輸入層到隱含層的激勵函數(shù)，文中采用logsig函數(shù)，具體表達式為式(3)。W22是隱含層到輸出層的連接權(quán)值；β是輸出層閾值；b是隱含層輸出；W21是輸入層到輸出層的連接權(quán)值，和網(wǎng)絡(luò)其它連接權(quán)值一樣也是隨機生成的；O是輸出層輸出。

2 FOA及改進

2.1 基本FOA

FOA是臺灣某學(xué)者于2011年提出的一種群體智能算法[11]，是一種基于果蠅覓食行為的新的全局優(yōu)化方法。果蠅具有敏銳的嗅覺和視覺，剛開始，它通過嗅出漂浮在空氣中的各種氣味來檢測食物源，并飛向相應(yīng)的地方。然后，在接近食物源后，它可能會找到食物或者以其敏銳的視覺飛到其同伴的聚集地。

對于FOA，它主要包含兩個步驟。在利用嗅覺覓食階段，一群果蠅在群體位置周圍隨機搜尋食物。然后在視覺階段，利用敏銳的視覺飛向群體的最佳位置。重復(fù)這兩個步驟直到達到終止條件。該算法概述如下：

Step1: 初始化果蠅群體：種群大小sizepop，最大迭代次數(shù)maxgen，果蠅群體位置(X_axis,Y_axis);

Step2: 賦予果蠅個體利用嗅覺搜尋食物的隨機方向與距離的能力，L0為果蠅個體搜索步長。

Xi=X_axis+L0×(2×rand()-1)

(4)

Yi=Y_axis+L0×(2×rand()-1)

(5)

Step3: 由于最優(yōu)解的具體位置未知，因此先計算果蠅個體與原點間的距離Di，再計算味道濃度判定值Si，此值為距離的導(dǎo)數(shù)。

(6)

Si=1/Di

(7)

Step4: 把Si帶入設(shè)定的味道濃度判定函數(shù)，求出該果蠅個體的味道濃度Smelli=F(Si);

Step5: 找出果蠅群體中味道濃度最低(最高)的果蠅:

[bestSmellbestindex]=min/max(Smell)

(8)

Step6: 保留最佳濃度值與x，y坐標(biāo)，此時果蠅群體利用視覺飛往該位置。

(9)

Step7: 進入迭代尋優(yōu)，重復(fù)執(zhí)行步驟step2～step5。如果滿足條件，返回最優(yōu)果蠅個體。如果不滿足，則繼續(xù)迭代尋優(yōu)。

2.2 改進FOA

在FOA迭代尋優(yōu)的步驟2中，搜索步長L0為固定值，即每代果蠅群體的個體在利用嗅覺尋覓食物時都是以固定半徑L0向周圍隨機搜索的。顯然，在果蠅群體個數(shù)一定的情況下，步長越大，果蠅個體的搜索空間越大，全局搜索能力越強，但其局部尋優(yōu)能力會降低；反之，若步長過小，則果蠅個體的搜索空間較小，增強局部尋優(yōu)能力的同時會削弱全局尋優(yōu)能力，且易造成果蠅個體陷入局部最優(yōu)?？梢?，在FOA中，合適的步長直接影響算法的執(zhí)行效率。因此，在運用果蠅算法解決實際問題時，必須選擇合適的步長值，使之既有較強的全局搜索能力以免陷入局部最優(yōu)，又具有較好的局部尋優(yōu)能力以提高搜索的精度。

許多學(xué)者針對基本FOA步長固定的缺點提出了改進算法，某些學(xué)者提出了一種遞減步長果蠅優(yōu)化算法(Diminishing Step fruit Fly Optimization Algorithm, DS-FOA)[17]，該算法隨著迭代次數(shù)的增加逐步減小其搜索步長，即將固定步長變?yōu)檫f減步長，式(10)為DS-FOA算法中搜索步長L0滿足的函數(shù)關(guān)系式。

(10)

式中L0為初始步長值；maxgen為設(shè)定的最大迭代次數(shù)；gen為當(dāng)前迭代次數(shù)。

在DS-FOA中，搜索步長L對應(yīng)的衰減因子如圖2所示，可以看出，它并不能較好地保證算法的全局尋優(yōu)性能，在一定程度上降低了FOA算法的全局尋優(yōu)能力。因此，綜合考慮基本FOA算法、DS-FOA算法中存在的問題，通過動態(tài)改變衰減因子，從而動態(tài)改變果蠅群體搜索步長L，提出了采用動態(tài)搜索步長的改進果蠅優(yōu)化算法IFOA。IFOA中衰減因子及搜索步長的表達式如式(8)、式(9)所示，且隨著迭代次數(shù)的變化趨勢如圖1所示。

圖2 衰減因子和迭代次數(shù)之間的關(guān)系

可以看出，當(dāng)k1=20，k2=4時，本文提出的IFOA與DS-FOA、FOA相比，在迭代前期的全局搜索能力和后期的局部搜索能力可以達到較好的動態(tài)平衡，從而大大提高果蠅算法的尋優(yōu)能力。

(11)

L=L0×ω

(12)

3 IFOA優(yōu)化神經(jīng)網(wǎng)絡(luò)

由于神經(jīng)網(wǎng)絡(luò)隨機生成的初始連接權(quán)值和閾值對網(wǎng)絡(luò)性能有很大的影響，利用IFOA的尋優(yōu)能力用于優(yōu)化網(wǎng)絡(luò)的初始參數(shù)，然后在網(wǎng)絡(luò)訓(xùn)練過程中采用LM算法不斷調(diào)整網(wǎng)絡(luò)的連接權(quán)值和閾值，直至達到訓(xùn)練停止條件。IFOA優(yōu)化神經(jīng)網(wǎng)絡(luò)的流程圖如圖3所示。

圖3 IFOA優(yōu)化神經(jīng)網(wǎng)絡(luò)的流程圖

且詳細(xì)步驟如下：

Step1: 確定神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu);

Step2: 初始化種群大小、果蠅個體的位置以及最大迭代次數(shù)等參數(shù)。其中每個果蠅個體包含神經(jīng)網(wǎng)絡(luò)的初始連接權(quán)值和閾值;

Step3: 賦予果蠅個體利用嗅覺搜尋食物的隨機方向與距離的能力，L0為果蠅個體初始搜索步長。

(13)

Xi=X_axis+(2×rand()-1)×L0×w

(14)

Yi=Y_axis+(2×rand()-1)×L0×w

(15)

Step4: 先計算果蠅個體與原點間的距離Di，再計算味道濃度判定值Si。

(16)

Si=1/Di

(17)

Step5: 把Si帶入設(shè)定的適應(yīng)度函數(shù)，即味道濃度判定函數(shù)，求出果蠅個體的適應(yīng)度值。本文以預(yù)測結(jié)果的平均絕對誤差百分比(MAPE)作為果蠅個體的適應(yīng)度函數(shù)，它定義為：

(18)

式中Yi是網(wǎng)絡(luò)輸出反歸一化后的負(fù)荷；Ti是原始負(fù)荷；n表示數(shù)據(jù)的個數(shù);

Step6: 找出果蠅群體中味道濃度最低的果蠅，也就是MAPE的最小值。

[bestSmellbestindex]=min(Smell)

(19)

Step7: 保留最佳濃度值與x，y坐標(biāo)，此時果蠅群體利用視覺飛往該位置;

(20)

Step8: 進入迭代尋優(yōu)過程，重復(fù)執(zhí)行步驟2～步驟6。判斷適應(yīng)度函數(shù)值是否低于上一次迭代的值，如果是，則執(zhí)行步驟7更新群體的最優(yōu)適應(yīng)度值并保留最佳位置；如果不是，則返回步驟2～步驟6繼續(xù)迭代尋優(yōu)，直到達到結(jié)束條件為止;

Step9: 找到全局最優(yōu)個體后，將其解碼為神經(jīng)網(wǎng)絡(luò)的初始連接權(quán)值和閾值;

Step10: 采用LM算法對經(jīng)過IFOA優(yōu)化的神經(jīng)網(wǎng)絡(luò)進行訓(xùn)練及預(yù)測。

4 短期電力負(fù)荷預(yù)測模型

4.1 數(shù)據(jù)預(yù)處理

短期電力負(fù)荷受經(jīng)濟因素、時間因素、氣象因素和緊急事件等多種因素的影響，其中，氣象因素對電力負(fù)荷的影響尤為明顯。為了實現(xiàn)對不同類型的數(shù)據(jù)進行統(tǒng)一分析以提高預(yù)測準(zhǔn)確性，首先需要將原始數(shù)據(jù)進行歸一化處理。在文中，按式(21)將原始負(fù)荷數(shù)據(jù)歸一化到 [0,1]，之后將預(yù)測輸出值按式(22)反歸一化為實際負(fù)荷。其中，T代表原始負(fù)荷，Tmax和Tmin是原始負(fù)荷的最大、最小值，y表示歸一化后的負(fù)荷，Y是反歸一化后的負(fù)荷。另外，式(21)、式(22)所示的歸一化方法很難描述溫度和日期類型等因素與電力負(fù)荷之間的關(guān)系，因此，對溫度進行如表1所示的歸一化處理。

表1 溫度歸一化

對日期類型取工作日為0.1，休息日為0.9。

(21)

Yi=yi×(Tmax-Tmin)+Tmin

(22)

式中Ti代表原始負(fù)荷；Tmax和Tmin分別是原始負(fù)荷的最大、最小值；ti表示原始負(fù)荷歸一化后的負(fù)荷；yi為歸一化的網(wǎng)絡(luò)輸出負(fù)荷；Yi是網(wǎng)絡(luò)輸出反歸一化后的負(fù)荷。

4.2 確定神經(jīng)網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)

本文以澳大利亞能源市場運營商(Australian Energy Market Operator，AEMO)[18]新南威爾士州2015年9月份的數(shù)據(jù)為例構(gòu)建短期電力負(fù)荷預(yù)測模型。將預(yù)測日前兩天以及預(yù)測日前一周的電力負(fù)荷數(shù)據(jù)、溫度和日期類型作為構(gòu)建短期負(fù)荷預(yù)測模型的輸入因子，而將預(yù)測日某一時刻t的電力負(fù)荷作為網(wǎng)絡(luò)的輸出。選取的具體的輸入神經(jīng)元如表2所示。

表2 網(wǎng)絡(luò)的輸入變量(t表示預(yù)測時刻)

4.3 仿真結(jié)果及分析

選取2015年9月1日～27日的數(shù)據(jù)作為訓(xùn)練樣本，分別構(gòu)建了BP神經(jīng)網(wǎng)絡(luò)(BPNN)、直連BP神經(jīng)網(wǎng)絡(luò)(BPNN-DIOC)、FOA優(yōu)化的BP神經(jīng)網(wǎng)絡(luò)(FOA-BPNN)、DS-FOA優(yōu)化的BP神經(jīng)網(wǎng)絡(luò)(DS-FOA-BPNN)、IFOA優(yōu)化的BP神經(jīng)網(wǎng)絡(luò)(IFOA-BPNN)以及IFOA優(yōu)化的直連BP神經(jīng)網(wǎng)絡(luò)(IFOA-BPNN-DIOC)六個不同的網(wǎng)絡(luò)模型用于電力負(fù)荷預(yù)測。為了比較該六種模型在預(yù)測性能方面的好壞，采用預(yù)測輸出的平均絕對誤差百分比(Mean Absolute Percentage Error, MAPE)和均方根誤差(Root Mean Square Error, RMSE)作為模型的評價指標(biāo)。此外，將MAPE作為果蠅優(yōu)化算法的味道濃度判定函數(shù)(適應(yīng)度函數(shù))，找出果蠅群體中味道濃度最小的果蠅，即找出MAPE的最小值。MAPE和RMSE的定義如下：

(23)

(24)

式中Ti代表原始負(fù)荷；Yi是網(wǎng)絡(luò)輸出反歸一化后的負(fù)荷；n為數(shù)據(jù)的長度。

仿真平臺為MATLABR2012a，利用以上六種模型分別預(yù)測9月28日24小時內(nèi)的電力負(fù)荷需求。表3為在相同初始條件下六種模型的預(yù)測結(jié)果，從中可以得出以下結(jié)論：

(1)M3與M1相比、M6與M5相比，說明采用直連BP神經(jīng)網(wǎng)絡(luò)可以減少隱含層所需的神經(jīng)元個數(shù)，降低網(wǎng)絡(luò)在訓(xùn)練過程中調(diào)整的參數(shù)個數(shù)，加快網(wǎng)絡(luò)訓(xùn)練速度，從而提高電力負(fù)荷的預(yù)測精度及網(wǎng)絡(luò)的泛化能力；

(2)M2、M4、M5與M1相比，M6與M3相比，說明采用果蠅算法優(yōu)化神經(jīng)網(wǎng)絡(luò)的初始連接權(quán)值和閾值可以改善網(wǎng)絡(luò)的全局尋優(yōu)能力，從而提高網(wǎng)絡(luò)的預(yù)測性能；

(3)M5、M4和M2三個模型相比，本文提出的IFOA方法可以改善基本FOA方法中因搜索步長固定造成的后期局部尋優(yōu)能力弱的缺點，也可以改善DS-FOA方法中由于線性成比例遞減步長造成全局尋優(yōu)能力減弱的缺點，從而使得算法在迭代前期具有很好的全局尋優(yōu)能力的同時又在迭代后期具有較好的局部尋優(yōu)能力；

(4)M6、M5與M1相比，說明本文構(gòu)建的IFOA-BPNN-DIOC模型與文中其它模型相比可以大大減少網(wǎng)絡(luò)在訓(xùn)練過程中調(diào)整的參數(shù)個數(shù)，加快網(wǎng)絡(luò)的訓(xùn)練過程，提高網(wǎng)絡(luò)的預(yù)測能力和泛化能力，是一種高效的短期負(fù)荷預(yù)測模型。

表3 六種不同模型的預(yù)測結(jié)果

5 結(jié)束語

為了提高神經(jīng)網(wǎng)絡(luò)負(fù)荷預(yù)測模型的性能，提出了一種直連BP神經(jīng)網(wǎng)絡(luò)和改進果蠅優(yōu)化算法的組合模型用于短期負(fù)荷預(yù)測。首先采用直連BP神經(jīng)網(wǎng)絡(luò)構(gòu)建負(fù)荷預(yù)測模型，以減少網(wǎng)絡(luò)訓(xùn)練過程中調(diào)整的參數(shù)個數(shù)以及提高網(wǎng)絡(luò)泛化能力。然后利用IFOA優(yōu)化神經(jīng)網(wǎng)絡(luò)的初始連接權(quán)值和閾值，以改善算法的全局尋優(yōu)能力。最后，構(gòu)建了一種IFOA優(yōu)化BPNN-DIOC的短期負(fù)荷預(yù)測模型。為了探究所提模型的有效性，分別構(gòu)建了BPNN、BPNN-DIOC、FOA-BPNN、DS-FOA-BPNN、IFOA-BPNN以及IFOA-BPNN-DIOC六個不同的網(wǎng)絡(luò)模型用于負(fù)荷預(yù)測。結(jié)果表明，采用直連BP神經(jīng)網(wǎng)絡(luò)負(fù)荷預(yù)測模型可以大大簡化網(wǎng)絡(luò)結(jié)構(gòu)，提高網(wǎng)絡(luò)的預(yù)測精度。而所提出的改進果蠅優(yōu)化算法相比基本既有較強的全局搜索能力以免陷入局部最優(yōu)，又具有較好的局部尋優(yōu)能力以提高搜索的精度。因此，構(gòu)建的基于IFOA優(yōu)化BPNN-DIOC的負(fù)荷預(yù)測模型具有更高的預(yù)測精度和更好的泛化能力，能夠更加準(zhǔn)確地描述電力負(fù)荷的特性。

下一步可以擴大該網(wǎng)絡(luò)模型的應(yīng)用范圍，如用于路徑規(guī)劃等優(yōu)化問題。