梅玉航,賈海艷
(中國人民解放軍92941部隊(duì),遼寧 葫蘆島 125000)
遙測數(shù)據(jù)主要用于獲取飛行器上各子系統(tǒng)的運(yùn)行狀態(tài)監(jiān)測數(shù)據(jù),通過分析遙測數(shù)據(jù)以監(jiān)測各子系統(tǒng)功能正常與否并對其進(jìn)行安全控制[1]。遙測數(shù)據(jù)本質(zhì)是多維時(shí)間序列,同時(shí)遙測數(shù)據(jù)易受測量設(shè)備、空間環(huán)境和運(yùn)行狀態(tài)等影響產(chǎn)生不明顯的數(shù)據(jù)漂移變化,其表現(xiàn)可能是數(shù)據(jù)的突變形式,也有可能是緩慢的線性變化等,變化趨勢不易判斷,對其進(jìn)行數(shù)據(jù)分析的主要問題之一是能進(jìn)行高精度的預(yù)測,從而判定其監(jiān)測的子系統(tǒng)狀態(tài)是否正常。
目前用于時(shí)間序列預(yù)測的方法有兩類:一類為數(shù)學(xué)和統(tǒng)計(jì)方法,如線性回歸,ARIMA方法和指數(shù)平滑等[2-3];另一類基于機(jī)器學(xué)習(xí)方法,如支持向量機(jī)回歸[4],隨機(jī)森林和神經(jīng)網(wǎng)絡(luò)等[5-6]。對某種模式時(shí)間序列的預(yù)測都存在特定對應(yīng)的方法,但在時(shí)間序列存在數(shù)據(jù)漂移的情況下,隨著時(shí)間的推移,這些方法預(yù)測的精度會(huì)不斷降低。集成學(xué)習(xí)的優(yōu)勢在于即使一些基學(xué)習(xí)模型不能準(zhǔn)確預(yù)測時(shí)間序列模式的變化,但另一些基學(xué)習(xí)模型能實(shí)現(xiàn)精確預(yù)測,通過對各基學(xué)習(xí)模型預(yù)測輸出的加權(quán)求和從而實(shí)現(xiàn)預(yù)測誤差相互抵消,使總體的預(yù)測精度得到補(bǔ)償。因此通過集成多樣性的基學(xué)習(xí)器能解決傳統(tǒng)預(yù)測方法隨時(shí)間性能下降的問題[7]。
在遙測數(shù)據(jù)分析處理過程中不可避免伴隨著噪聲,而噪聲源通常不易確定,因此人工智能神經(jīng)網(wǎng)絡(luò)方法更適合對遙測數(shù)據(jù)的預(yù)測。神經(jīng)網(wǎng)絡(luò)借助有監(jiān)督學(xué)習(xí)方法能建立輸入變量與輸出變量間復(fù)雜的函數(shù)關(guān)系[8],目前廣泛用于解決預(yù)測問題,其預(yù)測精度和效率取決于神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)和訓(xùn)練方法[9]。另外,神經(jīng)網(wǎng)絡(luò)對于遙測數(shù)據(jù)預(yù)測還具有一些特殊的優(yōu)勢:神經(jīng)網(wǎng)絡(luò)具有自學(xué)習(xí)能力,有多個(gè)可供選擇的轉(zhuǎn)換函數(shù)和神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu);通過多層神經(jīng)網(wǎng)絡(luò)的隱層神經(jīng)元的非線性特性可實(shí)現(xiàn)非線性映射功能;高度的并行機(jī)制可提高預(yù)測的實(shí)時(shí)性。憑借以上優(yōu)點(diǎn),神經(jīng)網(wǎng)絡(luò)算法可實(shí)現(xiàn)具有復(fù)雜算法的數(shù)據(jù)預(yù)測。但是,傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)方法在確定復(fù)雜神經(jīng)網(wǎng)絡(luò)的參數(shù)時(shí)需要占用一定時(shí)間和資源,因此針對多變量時(shí)間序列預(yù)測問題需要開發(fā)能自動(dòng)確定網(wǎng)絡(luò)參數(shù)和結(jié)構(gòu)的工具,以找到參數(shù)最優(yōu)解。
考慮到如前述使用單一預(yù)測模型存在不穩(wěn)定性,而集成算法模型能有效解決模型的泛化性和可信度[10-11],因此提出一種基于動(dòng)態(tài)加權(quán)神經(jīng)網(wǎng)絡(luò)(NNRW)集成學(xué)習(xí)方法[12],通過集成多個(gè)較簡單神經(jīng)網(wǎng)絡(luò)來替換單一復(fù)雜的神經(jīng)網(wǎng)絡(luò),從而減少預(yù)測模型建立的時(shí)間和復(fù)雜性,保證遙測數(shù)據(jù)預(yù)測的實(shí)時(shí)性。選擇神經(jīng)網(wǎng)絡(luò)作為基學(xué)習(xí)器,根據(jù)各基學(xué)習(xí)器目前和過去的性能,動(dòng)態(tài)調(diào)整輸出權(quán)值,實(shí)現(xiàn)對遙測數(shù)據(jù)的預(yù)測,并提高預(yù)測的總體精度。
集成預(yù)測通過集成學(xué)習(xí)方法獲取數(shù)據(jù)預(yù)測模型,該方法的主要原則是利用基模型的多樣性,通過對不同基模型輸出的適當(dāng)聯(lián)合進(jìn)而獲取到相比于其中最優(yōu)的單個(gè)基模型更精確的結(jié)果。集成學(xué)習(xí)過程具體分為3個(gè)階段:集成產(chǎn)生,集成修剪和集成整合。在集成產(chǎn)生階段,訓(xùn)練完成一組具有多樣性的預(yù)測基模型。在集成修剪階段,實(shí)現(xiàn)消除基模型集合的冗余,剔除高誤差模型,從而提高最終預(yù)測的總體精度。最后在整合階段,利用各基模型計(jì)算結(jié)果的線性聯(lián)合實(shí)現(xiàn)對各基模型預(yù)測結(jié)果的整合,以獲取最優(yōu)的預(yù)測結(jié)果。
為解決飛行器上多個(gè)子系統(tǒng)遙測數(shù)據(jù)預(yù)測問題,針對各子系統(tǒng)配置相應(yīng)的神經(jīng)網(wǎng)絡(luò)集成學(xué)習(xí)器,遙測數(shù)據(jù)經(jīng)預(yù)處理后,各子系統(tǒng)相關(guān)的遙測數(shù)據(jù)集分別輸入對應(yīng)訓(xùn)練完成的集成學(xué)習(xí)器,并輸出下一時(shí)刻的狀態(tài)參數(shù)預(yù)測值。其工作原理如圖1所示。
圖1 神經(jīng)網(wǎng)絡(luò)集成預(yù)測工作原理圖
子系統(tǒng)識別ID通過通信模塊傳遞到控制器,控制器可控制不同子系統(tǒng)對應(yīng)的遙測數(shù)據(jù)預(yù)處理數(shù)據(jù)集依次輸入相應(yīng)的神經(jīng)網(wǎng)絡(luò)集成學(xué)習(xí)器,并將集成學(xué)習(xí)器預(yù)測結(jié)果傳回控制器進(jìn)行輸出,當(dāng)控制器發(fā)現(xiàn)某個(gè)集成學(xué)習(xí)器預(yù)測性能下降時(shí),向遞增學(xué)習(xí)模塊發(fā)出學(xué)習(xí)信號,該遞增學(xué)習(xí)模塊進(jìn)行訓(xùn)練初始化,完成訓(xùn)練數(shù)據(jù)集準(zhǔn)備和新的神經(jīng)網(wǎng)絡(luò)的訓(xùn)練,訓(xùn)練完成后對集成學(xué)習(xí)器中性能變差的神經(jīng)網(wǎng)絡(luò)基學(xué)習(xí)器進(jìn)行替換。
飛行器遙測數(shù)據(jù)本質(zhì)是一個(gè)多維時(shí)間序列,該時(shí)間序列為按照嚴(yán)格的采樣間隔獲取的數(shù)據(jù)集,而時(shí)間序列預(yù)測是利用已知數(shù)據(jù)Yt-n…Yt-3,Yt-2,Yt-1,Yt, 預(yù)測得到Y(jié)t+1[10]。其中:Yt+1為集成神經(jīng)網(wǎng)絡(luò)預(yù)測得到的目標(biāo)值;Yt為已知的觀測值;t為時(shí)間軸上的序列號。
基于神經(jīng)網(wǎng)絡(luò)的預(yù)測,要求具有較高的預(yù)測精度以及計(jì)算效率,可以滿足遙測數(shù)據(jù)處理的要求??紤]到單一神經(jīng)網(wǎng)絡(luò)存在不穩(wěn)定性,而集成學(xué)習(xí)方通過聯(lián)合多個(gè)同質(zhì)或異質(zhì)神經(jīng)網(wǎng)絡(luò)進(jìn)行預(yù)測,不僅可實(shí)現(xiàn)預(yù)測模型的泛化性能,而且預(yù)測精度可高于單一最優(yōu)神經(jīng)網(wǎng)絡(luò),神經(jīng)網(wǎng)絡(luò)集成學(xué)習(xí)器由多個(gè)同質(zhì)神經(jīng)網(wǎng)絡(luò)構(gòu)成,這樣可獲得穩(wěn)定的預(yù)測輸出,極大減少神經(jīng)網(wǎng)絡(luò)的設(shè)計(jì)參數(shù)數(shù)量,簡化了參數(shù)選擇和優(yōu)化過程,提高了集成學(xué)習(xí)器的效率。
集成學(xué)習(xí)器原理如圖2所示。
圖2 神經(jīng)網(wǎng)絡(luò)集成學(xué)習(xí)器
一個(gè)神經(jīng)網(wǎng)絡(luò)集成學(xué)習(xí)器包含一組神經(jīng)網(wǎng)絡(luò)基學(xué)習(xí)器,其中的每個(gè)神經(jīng)網(wǎng)絡(luò)基學(xué)習(xí)器都獨(dú)立對輸入的遙測數(shù)據(jù)進(jìn)行預(yù)測,神經(jīng)網(wǎng)絡(luò)基學(xué)習(xí)器的結(jié)構(gòu)為單隱藏層的前向反饋多層感知機(jī),為簡化集成學(xué)習(xí)器結(jié)構(gòu)和提高預(yù)測性能,將各神經(jīng)網(wǎng)絡(luò)基學(xué)習(xí)器輸出的加權(quán)和作為集成學(xué)習(xí)器的輸出預(yù)測值。該種方法可保證預(yù)測的精度優(yōu)于其中最優(yōu)神經(jīng)網(wǎng)絡(luò)的預(yù)測精度并能在數(shù)據(jù)存在漂移及擾動(dòng)時(shí)對預(yù)測結(jié)果進(jìn)行平滑處理。
神經(jīng)網(wǎng)絡(luò)基學(xué)習(xí)器為多層感知機(jī)神經(jīng)網(wǎng)絡(luò)(multilayer perceptron)結(jié)構(gòu),該結(jié)構(gòu)設(shè)計(jì)具有一個(gè)輸入層,一個(gè)隱藏層和一個(gè)輸出層結(jié)構(gòu)。
其功能函數(shù)如式(1)所示:
(1)
其中:I表示神經(jīng)網(wǎng)絡(luò)輸入pi的數(shù)量;H為神經(jīng)網(wǎng)絡(luò)隱藏層節(jié)點(diǎn)數(shù)量;g(·)為非線性激活函數(shù),這里為雙曲正切函數(shù)。
β=[β1,...βH]為輸出層權(quán)值;γ=[γ11,...γHI]為隱藏層權(quán)值;β0、γ0i為單個(gè)神經(jīng)元的偏置。
由于基學(xué)習(xí)器中隱層神經(jīng)元的數(shù)量對預(yù)測性能起關(guān)鍵作用,為獲得隱層節(jié)點(diǎn)數(shù)量的最優(yōu)值,以最小均方誤差(MSE)為判定標(biāo)準(zhǔn),采用搜索方法獲取。定義隱藏層神經(jīng)元數(shù)量的搜索間隔[3,31]。訓(xùn)練位于間隔內(nèi)的10個(gè)具有該隱藏層數(shù)量的神經(jīng)網(wǎng)絡(luò),評估集成神經(jīng)網(wǎng)絡(luò)的精度,之后轉(zhuǎn)換到該間隔內(nèi)其他值,直至數(shù)量間隔搜索完成。選擇具有最小MSE的集成神經(jīng)網(wǎng)絡(luò),其隱藏層數(shù)量為最優(yōu)。
由于反向傳播訓(xùn)練算法通常收斂速度較慢,選擇Levenberg-Marquard算法,該算法適合于性能指標(biāo)為均方誤差(MSE)的神經(jīng)網(wǎng)絡(luò)訓(xùn)練。由于該方法不需要計(jì)算正定矩陣,其正定矩陣可近似為:
H=JTJ
(2)
梯度為:
g=JTe
(3)
其中:J為Jacobian矩陣,包含網(wǎng)絡(luò)誤差對權(quán)值的一階導(dǎo),e為網(wǎng)絡(luò)誤差向量。Jacobian矩陣可通過標(biāo)準(zhǔn)化的反向傳播算法求取的,降低了計(jì)算正定矩陣的復(fù)雜性。
如果權(quán)值和偏差更新等于δ:
δ=ΔWm(k)+Δbm(k)
(4)
因此Levenberg-Marquard算法近似如下函數(shù):
(JTJ+μI)δ=Jte
(5)
其中:J為神經(jīng)網(wǎng)絡(luò)的Jacobian矩陣;μ為阻尼因子;δ為權(quán)值更新向量;e為誤差向量。
每次成功的迭代都會(huì)減小μ值,當(dāng)?shù)行阅芎瘮?shù)增大時(shí),μ值增加,這樣性能函數(shù)在每次迭代循環(huán)中總是遞減,當(dāng)性能指標(biāo)達(dá)到時(shí)算法收斂。
以往集成學(xué)習(xí)的加權(quán)算法是一種各基學(xué)習(xí)器輸出權(quán)值為靜態(tài)和固定值的方法,其權(quán)值確定方法如式(6)所示:
(6)
其中:msei為第i個(gè)神經(jīng)網(wǎng)絡(luò)在驗(yàn)證數(shù)據(jù)集上的測量均方差。
動(dòng)態(tài)加權(quán)方法中每個(gè)神經(jīng)網(wǎng)絡(luò)基模型的權(quán)值根據(jù)其過去和現(xiàn)在的預(yù)測性能改變,該方法具有優(yōu)于靜態(tài)加權(quán)集成方法的性能。神經(jīng)網(wǎng)絡(luò)集成學(xué)習(xí)器輸出為:
(7)
?k=1,2,…,N
wk,i為第i個(gè)模型的在數(shù)據(jù)k上的權(quán)值,取決于第i個(gè)模型和時(shí)間索引k。設(shè)權(quán)值為非負(fù)且無偏。
每個(gè)基模型的過去性能由樣本內(nèi)驗(yàn)證數(shù)據(jù)集評估,目前性能由樣本外預(yù)測評估,通過利用預(yù)測誤差作為評估標(biāo)準(zhǔn),對基模型輸出權(quán)值進(jìn)行增減。具體算法如下:
β:縮減因子,
θ:神經(jīng)網(wǎng)絡(luò)基學(xué)習(xí)器移除時(shí)權(quán)值對應(yīng)的門限值
p:神經(jīng)網(wǎng)絡(luò)基學(xué)習(xí)器替換周期
Λ,λ{(lán)1,..,c}:總體和局部預(yù)測;
m:集成學(xué)習(xí)器中神經(jīng)網(wǎng)絡(luò)基學(xué)習(xí)器數(shù)量
ε1,...m:預(yù)測誤差
步驟:
(1)訓(xùn)練獲得神經(jīng)網(wǎng)絡(luò)基學(xué)習(xí)器
(2)w1,...m←1/m
(3)fori=1,…,m do
(4)Λ=0
(5)for j←1,…,m do
(6)λ←predict(ej,xi)
(7)εj←MAPE(λ,yi)
(8)Λ←Λ+λ*wj
(9)w←lowerweights(w,ε)
(10) ifI mod p=0 then
(11) for j←1,..,m do
(12) ifwj<θ then
(13)e,w←replacewithnewNN()
(14)歸一化w
(15)輸出Λ
該算法初始訓(xùn)練并創(chuàng)建一組m個(gè)多層感知機(jī)神經(jīng)網(wǎng)絡(luò)作為基學(xué)習(xí)器,各基學(xué)習(xí)器具有相等的權(quán)值。迭代開始獲取訓(xùn)練樣本的預(yù)測值,這些局部預(yù)測值與權(quán)值之積與全局預(yù)測值Λ進(jìn)行累加,計(jì)算每個(gè)基學(xué)習(xí)器的預(yù)測誤差,如式(8)所示,以向量形式保存:
(8)
其中:n為樣本數(shù)量,At為實(shí)際值,F(xiàn)t為預(yù)測值。
算法中通過轉(zhuǎn)換函數(shù)實(shí)現(xiàn)權(quán)值動(dòng)態(tài)權(quán)值更新,如式(9)所示,對預(yù)測性能最差的基學(xué)習(xí)器權(quán)值分配縮減因子β,而對其它基學(xué)習(xí)器逐漸增加乘子,直到理論最大值1。
(9)
遙測數(shù)據(jù)集是由飛行器上各子系統(tǒng)功能傳感器產(chǎn)生輸出的一組連續(xù)監(jiān)測數(shù)據(jù),表征了各子系統(tǒng)的特定功能和狀態(tài)。各子系統(tǒng)的監(jiān)測參數(shù)依賴于飛行器的運(yùn)行狀態(tài),同時(shí)各監(jiān)測參數(shù)間具有一定的相關(guān)性。針對遙測數(shù)據(jù)預(yù)測問題,利用多層感知機(jī)神經(jīng)網(wǎng)絡(luò)具有的數(shù)據(jù)預(yù)測特性,采用動(dòng)態(tài)加權(quán)算法集成多個(gè)感知機(jī)神經(jīng)網(wǎng)絡(luò)做為基學(xué)習(xí)器,通過對各基學(xué)習(xí)器預(yù)測結(jié)果的加權(quán)計(jì)算,實(shí)現(xiàn)對各基學(xué)習(xí)器的預(yù)測結(jié)果進(jìn)行一種優(yōu)化平均運(yùn)算,以減小計(jì)算結(jié)果的分散性,滿足遙測數(shù)據(jù)預(yù)測精度要求。飛行器遙測數(shù)據(jù)有距離、速度、俯仰角以及內(nèi)部各傳感器采集的數(shù)據(jù),為驗(yàn)證集成學(xué)習(xí)預(yù)測的性能,選用飛行器某氣體單元子系統(tǒng)內(nèi)壓力參數(shù)的遙測數(shù)據(jù)作為實(shí)驗(yàn)樣本集進(jìn)行集成學(xué)習(xí)算法的驗(yàn)證,并對集成學(xué)習(xí)模型的性能進(jìn)行評估。
由于多層感知機(jī)神經(jīng)網(wǎng)絡(luò)為有監(jiān)督學(xué)習(xí),為了保證訓(xùn)練的神經(jīng)網(wǎng)路預(yù)測性能最優(yōu),需要保證一定規(guī)模的數(shù)據(jù)進(jìn)行訓(xùn)練,首先需要產(chǎn)生具有輸入向量,輸出向量的訓(xùn)練數(shù)據(jù)集。為此采用滑動(dòng)窗口技術(shù)獲取訓(xùn)練數(shù)據(jù)集,具體過程為從遙測數(shù)據(jù)的時(shí)間序列中抽取對應(yīng)窗口的片段作為輸入向量,輸出值的期望值為對應(yīng)該窗口的下一順序觀測值。通過在遙測數(shù)據(jù)上逐個(gè)數(shù)據(jù)滑動(dòng)窗口,隨著時(shí)間從一個(gè)位置變換到下一位置,串行連接每個(gè)片段構(gòu)成訓(xùn)練數(shù)據(jù)集。
將獲取的數(shù)據(jù)樣本集劃分70%為訓(xùn)練集,15%為驗(yàn)證集,15%為測試集三部分,訓(xùn)練集和驗(yàn)證集用于訓(xùn)練,估計(jì)和搜索最優(yōu)神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu),最后,使用測試集評估所獲得神經(jīng)網(wǎng)絡(luò)的預(yù)測性能。
多層感知機(jī)神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)為包含兩個(gè)輸入的一個(gè)輸入層,具有15個(gè)神經(jīng)元節(jié)點(diǎn)的隱藏層和一個(gè)輸出層。
遙測數(shù)據(jù)集首先需要進(jìn)行一定的預(yù)處理,包括去除噪聲,對數(shù)據(jù)進(jìn)行歸一化處理。在集成學(xué)習(xí)預(yù)測方法中,神經(jīng)網(wǎng)絡(luò)基學(xué)習(xí)器的性能對最終的預(yù)測性能起著決定性作用,因此要求對神經(jīng)網(wǎng)絡(luò)基學(xué)習(xí)器進(jìn)行最優(yōu)化,最優(yōu)化參數(shù)包括隱層節(jié)點(diǎn)數(shù)量、隱層輸出權(quán)值。動(dòng)態(tài)加權(quán)集成學(xué)習(xí)預(yù)測算法實(shí)際的預(yù)測效果如圖3所示。
圖3 實(shí)際數(shù)據(jù)和預(yù)測
為實(shí)現(xiàn)動(dòng)態(tài)加權(quán)集成算法的性能評估,將其與靜態(tài)加權(quán)算法進(jìn)行比較,兩種算法具有完全相同的網(wǎng)絡(luò)結(jié)構(gòu)參數(shù)和基學(xué)習(xí)器數(shù)量,靜態(tài)加權(quán)算法只對各基學(xué)習(xí)器預(yù)測結(jié)果進(jìn)行簡單的平均運(yùn)算,將兩種算法輸出結(jié)果的MAPE指標(biāo)作為算法性能的判斷標(biāo)準(zhǔn)。其性能比較結(jié)果如圖4所示。
圖4 動(dòng)態(tài)和靜態(tài)加權(quán)算法性能比較
結(jié)果表明集成學(xué)習(xí)器中合理的神經(jīng)網(wǎng)絡(luò)基學(xué)習(xí)器數(shù)量為5~9個(gè),包含更多數(shù)量的神經(jīng)網(wǎng)絡(luò)基學(xué)習(xí)器對集成學(xué)習(xí)器預(yù)測精度提升效果有限,而且增加了計(jì)算復(fù)雜性。同時(shí)MAPE指標(biāo)也表明推薦的動(dòng)態(tài)加權(quán)方法同靜態(tài)加權(quán)方法相比具有更小的預(yù)測誤差。
針對飛行器遙測數(shù)據(jù)預(yù)測中要求具有實(shí)時(shí)性和高精度的需求,提出基于多層感知機(jī)神經(jīng)網(wǎng)絡(luò)的動(dòng)態(tài)加權(quán)集成學(xué)習(xí)方法,該方法通過集成多個(gè)多層感知機(jī)神經(jīng)網(wǎng)絡(luò)作為預(yù)測基學(xué)習(xí)模型降低了預(yù)測模型的復(fù)雜度,提高了預(yù)測模型的實(shí)時(shí)性,實(shí)現(xiàn)了更加精確的預(yù)測,給出了多層感知機(jī)神經(jīng)網(wǎng)絡(luò)的設(shè)計(jì)、優(yōu)化方法和動(dòng)態(tài)加權(quán)算法的過程。對于遙測數(shù)據(jù)存在異常漂移情況,通過給出的動(dòng)態(tài)加權(quán)算法,能識別優(yōu)秀的神經(jīng)網(wǎng)絡(luò)基學(xué)習(xí)器,增加其輸出權(quán)值,對性能差的神經(jīng)網(wǎng)絡(luò)基學(xué)習(xí)器減弱其對預(yù)測輸出的影響,甚至對其進(jìn)行更換,從而提升預(yù)測結(jié)果的精度。
采用飛行器某子系統(tǒng)內(nèi)的遙測數(shù)據(jù)對集成學(xué)習(xí)方法性能進(jìn)行了驗(yàn)證,確定了感知機(jī)網(wǎng)絡(luò)隱藏層的最優(yōu)節(jié)點(diǎn)數(shù)和神經(jīng)網(wǎng)絡(luò)基學(xué)習(xí)器數(shù)量的最優(yōu)值,通過與靜態(tài)加權(quán)集成學(xué)習(xí)方法的比較,結(jié)果表明提出的動(dòng)態(tài)加權(quán)集成方法預(yù)測精度更高。該集成學(xué)習(xí)預(yù)測方法也取決于神經(jīng)網(wǎng)絡(luò)基學(xué)習(xí)器的參數(shù)選取,通過對隱藏層節(jié)點(diǎn)數(shù)量和學(xué)習(xí)速度進(jìn)行最優(yōu)化設(shè)計(jì),可以保證最終的集成結(jié)果也是預(yù)測最優(yōu)值。