王尚北,王建東,陳海燕
(南京航空航天大學(xué)計算機科學(xué)與技術(shù)學(xué)院,南京 210006)
隨著機場數(shù)量的增加和新型大型飛機的問世,機場噪聲對周邊環(huán)境的影響問題日益突出,越來越多因機場噪聲引起的環(huán)境糾紛己成為航空業(yè)不可回避的棘手問題。因此,有效地預(yù)測機場噪聲,是民航業(yè)可持續(xù)發(fā)展的重要課題。機場噪聲監(jiān)測系統(tǒng)在許多發(fā)達(dá)國家主要機場都已推廣應(yīng)用,北京首都國際機場、香港、臺灣地區(qū)主要機場也已安裝了類似系統(tǒng)。這些系統(tǒng)通過在機場周圍設(shè)置的20個~40個固定監(jiān)測點,24小時實時監(jiān)測航空器噪聲。在機場噪聲監(jiān)測系統(tǒng)中,不同監(jiān)測點的噪聲數(shù)據(jù)之間可能存在緊密的時空關(guān)聯(lián)關(guān)系,充分利用監(jiān)測點自身和近鄰監(jiān)測點的噪聲數(shù)據(jù)以及它們之間的時空關(guān)聯(lián)關(guān)系,從時空的角度研究機場噪聲預(yù)測方法成為機場噪聲預(yù)測的新方向。
現(xiàn)有的時空預(yù)測方法包括時空動力學(xué)方法[1]、狀態(tài)空間和隨機理論方法[2]、層次貝葉斯方法[3]和時空相關(guān)統(tǒng)計學(xué)方法[4]。其中,時空自相關(guān)移動平均模型[5](Space-time Autoregressive Moving Average,STARMA)充分考慮了時空自相關(guān)特征,更適用于時空數(shù)據(jù)建模。但是,STARMA模型在某些方面存在局限性,如STARMA模型在建模非平穩(wěn)和非線性時空序列方面的理論和應(yīng)用研究較少。人工智能等新的智能計算發(fā)展起來以后,人工神經(jīng)網(wǎng)絡(luò)等基于數(shù)據(jù)驅(qū)動的方法為時空序列建模提供了新的手段[6-7]。
本文在函數(shù)鏈接人工神經(jīng)網(wǎng)絡(luò)[8](Functional Link Arti-ficial Neural Network,FLANN)的基礎(chǔ)上,結(jié)合線性脈沖響應(yīng)濾波理論,提出一種新型時空神經(jīng)網(wǎng)絡(luò)。時空神經(jīng)網(wǎng)絡(luò)綜合函數(shù)鏈接網(wǎng)絡(luò)和線性脈沖響應(yīng)濾波的優(yōu)點,函數(shù)鏈接網(wǎng)絡(luò)能夠?qū)⑤斎肟臻g映射到高維空間,實現(xiàn)輸入空間的非線性模式到高維空間線性模式的轉(zhuǎn)換,但函數(shù)鏈接網(wǎng)絡(luò)只具有空間聚合能力,缺乏對時間延遲、積累效應(yīng)的時間聚合能力。線性脈沖響應(yīng)濾波原理恰恰彌補傳統(tǒng)神經(jīng)網(wǎng)絡(luò)缺乏時間延遲、積累效應(yīng)的時間聚合能力,因此,將線性脈沖響應(yīng)濾波原理應(yīng)用于函數(shù)鏈接網(wǎng)絡(luò),使其具有時、空二維聚合能力,并將其作為時空神經(jīng)網(wǎng)絡(luò)的函數(shù)擴展功能模塊。現(xiàn)有研究從理論和經(jīng)驗證明時空數(shù)據(jù)序列可以分為線性部分和非線性部分,時空數(shù)據(jù)序列中的非線性部分可以由時空神經(jīng)網(wǎng)絡(luò)中函數(shù)擴展模塊捕獲,對于時空數(shù)據(jù)序列中的線性部分,時空神經(jīng)網(wǎng)絡(luò)引入線性脈沖響應(yīng)濾波器,將其作為時空神經(jīng)網(wǎng)絡(luò)的線性脈沖延時模塊,負(fù)責(zé)捕獲時空數(shù)據(jù)序列中線性部分。
針對時空網(wǎng)絡(luò)的學(xué)習(xí)算法,本文根據(jù)Levenberg Marquardt最優(yōu)方法,設(shè)計時空神經(jīng)網(wǎng)絡(luò)的快速學(xué)習(xí)算法,以加快網(wǎng)絡(luò)的收斂速度,提高網(wǎng)絡(luò)的預(yù)測精度。最后針對機場噪聲預(yù)測問題,給出一種基于時空神經(jīng)網(wǎng)絡(luò)的機場噪聲預(yù)測方案。
函數(shù)鏈接人工神經(jīng)網(wǎng)絡(luò)(FLANN[8])的結(jié)構(gòu)如圖1所示,網(wǎng)絡(luò)輸入為X=[x1,x2,…,xp]Τ,X為向量,網(wǎng)絡(luò)輸出為y。網(wǎng)絡(luò)輸入通過函數(shù)擴展被映射成高維(維數(shù)>p)空間的一組基φ1(x1),φ2(x1),…,φk(x1),…,φpk(xp)。
圖1 函數(shù)鏈接人工神經(jīng)網(wǎng)絡(luò)模型
函數(shù)鏈接人工神經(jīng)網(wǎng)絡(luò)只有單層結(jié)構(gòu),相對于常規(guī)多層感知器神經(jīng)網(wǎng)絡(luò),具有低計算復(fù)雜性和快速收斂特性。從圖1中也可以看出,函數(shù)鏈接網(wǎng)絡(luò)只具有空間聚合能力,缺乏對時間延遲、積累效應(yīng)的時間聚合能力,這也是傳統(tǒng)神經(jīng)網(wǎng)絡(luò)具有的共同特點。
自從人類仿照生物神經(jīng)元的信息處理機制,抽象出第一個人工神經(jīng)元數(shù)學(xué)模型以來,經(jīng)過人類的不斷努力神經(jīng)網(wǎng)絡(luò)的研究取得豐碩成果,其應(yīng)用領(lǐng)域也滲透到各個學(xué)科。但現(xiàn)有的人工神經(jīng)網(wǎng)絡(luò)模型大多處于PDP理論框架下,即每次網(wǎng)絡(luò)的輸入只是瞬時值或瞬時向量。現(xiàn)代的神經(jīng)生理學(xué)實驗和生物學(xué)研究表明,神經(jīng)網(wǎng)絡(luò)的輸出不僅與輸入信號的空間聚合和激勵閾值有關(guān),同時也依賴于輸入過程中的時間累積效應(yīng)。傳統(tǒng)神經(jīng)網(wǎng)絡(luò)模擬了生物神經(jīng)元的空間加權(quán)聚合,但缺乏對時間延遲和累積效應(yīng)的描述。因此,本文在FLANN的基礎(chǔ)上,結(jié)合線性脈沖響應(yīng)濾波理論,提出一種新型時空神經(jīng)網(wǎng)絡(luò),使其既對空間多輸入的聚合,又有對時間積累效應(yīng)的聚合,具有時空二維信息處理的能力。
為克服處于PDP理論框架下的神經(jīng)網(wǎng)絡(luò)缺乏對時間的延遲和積累效應(yīng)的不足,本文引入線性脈沖響應(yīng)濾波來實現(xiàn)神經(jīng)網(wǎng)絡(luò)對時間的延遲和積累效應(yīng)。
線性脈沖響應(yīng)濾波原理見圖2,其通過延遲算子 Z-1實現(xiàn)了時間延遲,線性脈沖響應(yīng)濾波的輸出為:y(t)=,該輸出實現(xiàn)了時間積累效應(yīng)。
圖2 線性脈沖響應(yīng)濾波原理
時空神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)如圖3所示。其中,x1(t),x2(t),…,xp(t)為p個離散的網(wǎng)絡(luò)輸入值序列;Z-1為時間延遲算子,xi(t - 1)=Z-1xi(t)。
圖3 時空神經(jīng)網(wǎng)絡(luò)
時空神經(jīng)網(wǎng)絡(luò)本質(zhì)上是利用線性脈沖響應(yīng)濾波原理而具有時、空二維聚合能力的函數(shù)鏈接網(wǎng)絡(luò),通過延時算子 Z-1引入輸入值序列的歷史數(shù)據(jù) xi(t - 1),xi(t - 2),…,xi(t -N1),然后將歷史數(shù)據(jù)連同輸入值 xi(t)擴展為一系列線性獨立的函數(shù)(三角函數(shù)、切比雪夫多項式、拉格朗日多項式等),這些函數(shù)可以看做擴展后高維空間的一組基。函數(shù)擴展功能模塊將網(wǎng)絡(luò)輸入空間映射到一個高維空間,實現(xiàn)輸入空間的非線性模式到高維空間線性模式的轉(zhuǎn)換,然后使用高維空間上的一組基的線性組合擬合經(jīng)過轉(zhuǎn)換的時空序列非線性模式。
本文選用三角函數(shù)作為擴展函數(shù),網(wǎng)絡(luò)的輸入向量X(t)=[x1(t),x2(t),…,xp(t)]T,通過函數(shù)擴展功能模塊,輸入向量可以表示為:
時空神經(jīng)網(wǎng)絡(luò)的下半部分為線性脈沖延時模塊,線性脈沖延時模塊針對每個輸入 xi(t)構(gòu)造一個線性脈沖響應(yīng)濾波器,因此,可將線性脈沖延時模塊認(rèn)為是一個時空線性脈沖響應(yīng)濾波器。網(wǎng)絡(luò)輸入向量 X(t)=[x1(t),x2(t),…,xp(t) ]T經(jīng)過線性脈沖延時模塊的作用可以表示為:
時空神經(jīng)網(wǎng)絡(luò)函數(shù)擴展功能模塊的輸出為:
時空神經(jīng)網(wǎng)絡(luò)線性脈沖延時模塊的輸出為:
S(·)為非線性傳遞函數(shù),本文選取為tanh(x),則:
時空神經(jīng)網(wǎng)絡(luò)的輸出為:
其中,λ為組合系數(shù)?,F(xiàn)有文獻(xiàn)證明了時空數(shù)據(jù)序列可分為線性部分和非線性部分,由圖3可見,時空神經(jīng)網(wǎng)絡(luò)由函數(shù)擴展功能模塊和線性脈沖延時模塊組成。函數(shù)擴展功能模塊通過將網(wǎng)絡(luò)輸入空間映射到一個高維空間捕獲輸入時空數(shù)據(jù)序列的非線性模式,線性脈沖延時模塊則負(fù)責(zé)輸入時空數(shù)據(jù)序列線性模式的擬合。之后通過組合系數(shù)λ將兩部分有效整合。當(dāng)λ取1時,時空神經(jīng)網(wǎng)絡(luò)僅有函數(shù)擴展功能模塊;當(dāng)λ取0時,時空神經(jīng)網(wǎng)絡(luò)僅有線性脈沖延時模塊。當(dāng)λ取0~1之間的值時,時空神經(jīng)網(wǎng)絡(luò)既包含函數(shù)擴展功能模塊,又包含線性脈沖延時模塊,并將2個模塊捕獲的非線性和線性模式有效整合,獲得更好的預(yù)測效果。
定義網(wǎng)絡(luò)的誤差為:
其中,N為樣本數(shù)目;x=[w11,…,w1M,…,wpM,w1(M+1),…,為時空神經(jīng)網(wǎng)絡(luò)的參數(shù)向量;e(x)為第i個i樣本的誤差;為誤差向量。
根據(jù)Levenberg-Marquardt最優(yōu)方法得時空神經(jīng)網(wǎng)絡(luò)參數(shù)更新規(guī)則:
其中,J(xk)為雅可比矩陣。時空神經(jīng)網(wǎng)絡(luò)快速學(xué)習(xí)算法的關(guān)鍵是構(gòu)造雅可比矩陣。誤差向量和參數(shù)向量分別如式(12)和式(13)所示,則時空神經(jīng)網(wǎng)絡(luò)的雅可比矩陣可表示如式(14)所示。
對于函數(shù)擴展功能模塊中的wab,雅可比矩陣中的元素:
對于線性脈沖延時模塊中的wab,雅可比矩陣中的元素:
對于函數(shù)擴展功能模塊和線性脈沖延時模塊的組合系數(shù)λ,雅可比矩陣中的元素:
通過式(14)~式(17)可以求出時空神經(jīng)網(wǎng)絡(luò)的雅可比矩陣,然后通過式(11)不斷更新時空神經(jīng)網(wǎng)絡(luò)的權(quán)值直到網(wǎng)絡(luò)誤差達(dá)到預(yù)先設(shè)定標(biāo)準(zhǔn)。
基于時空神經(jīng)網(wǎng)絡(luò)的機場噪聲預(yù)測方案如圖4所示。
圖4 基于時空網(wǎng)絡(luò)的機場噪聲預(yù)測方案
(1)噪聲監(jiān)測系統(tǒng):通過機場周圍設(shè)置的若干個固定監(jiān)測點,24小時實時監(jiān)測飛機噪聲,為機場實施噪聲預(yù)測提供較為可靠的原始噪聲數(shù)據(jù)。圖5為某機場噪聲監(jiān)測系統(tǒng)中監(jiān)測點的分布。
圖5 某國際機場監(jiān)測點分布
(2)相關(guān)性分析:由圖5可見,有些噪聲監(jiān)測點間的距離很遠(yuǎn),噪聲序列之間近似于相互獨立不存在空間關(guān)聯(lián)關(guān)系。相關(guān)性分析利用文獻(xiàn)[9]中的空間鄰接K-means聚類算法選擇具有空間關(guān)聯(lián)關(guān)系的噪聲監(jiān)測點集合,集合中監(jiān)測點個數(shù)為p(p (3)數(shù)據(jù)預(yù)處理:將相關(guān)性分析選擇出的p個監(jiān)測點的噪聲序列進(jìn)行歸一化處理,假定Maxi為監(jiān)測點i的噪聲序列最大值;Mini為監(jiān)測點i的噪聲序列最小值;Zij為監(jiān)測點i的噪聲序列中第 j個元素值,數(shù)據(jù)預(yù)處理過程如下: 利用本文提出的時空神經(jīng)網(wǎng)絡(luò)進(jìn)行機場噪聲預(yù)測之前,需要確定時空神經(jīng)網(wǎng)絡(luò)的參數(shù)——時間延遲參數(shù)和函數(shù)擴展參數(shù)。 (4)時間延遲參數(shù):線性脈沖響應(yīng)濾波中時間延時算子的個數(shù),對應(yīng)于時空神經(jīng)網(wǎng)絡(luò)(圖3)中時間延遲算子的個數(shù),即式(1)和式(2)中N1和N2的大小,一般 N1=N2。文中采用GP算法[10]求時空網(wǎng)絡(luò)p個噪聲輸入值序列的關(guān)聯(lián)維數(shù),時間延遲參數(shù)取p個關(guān)系維數(shù)中的最大值(向上取整)。 (5)函數(shù)擴展參數(shù):函數(shù)擴展模塊將 xi(t)擴展為多少個sin(πxi(t)),cos(πxi(t)),sin(2πxi(t)),cos(2πxi(t)),…,sin(kπxi(t)),cos(kπxi(t))函數(shù),即式(1)中的k。 以某機場為例,機場布置了21個固定監(jiān)測點,實時監(jiān)測機場周圍敏感點的噪聲。歷史數(shù)據(jù)表明,在21個監(jiān)測點中有7個監(jiān)測點數(shù)據(jù)常常缺失,因此,在機場噪聲時空預(yù)測方案中,選擇了其余14個監(jiān)測點,分布如圖5所示。實驗的數(shù)據(jù)集為該機場2010年8月5日﹣2010年8月14日的8:00?18:00的噪聲實測數(shù)據(jù)。為了平滑突發(fā)情況對監(jiān)測點噪聲數(shù)據(jù)的影響,將監(jiān)測點時間間隔5 min的噪聲數(shù)據(jù)取平均,每個監(jiān)測點一天記錄120條噪聲數(shù)據(jù),這樣每個監(jiān)測點提供1200條噪聲實測數(shù)據(jù)。前960條噪聲數(shù)據(jù)作為訓(xùn)練集,后240條噪聲數(shù)據(jù)作為測試集。實驗選取監(jiān)測點5(西杜蘭)為目標(biāo)監(jiān)測點,通過相關(guān)性分析選取與目標(biāo)監(jiān)測點具有較強相關(guān)性的監(jiān)測點集合,即監(jiān)測點3(東馬各莊村)、監(jiān)測點6(北法信)、監(jiān)測點11(文化營)、監(jiān)測點14(南法信)和監(jiān)測點17(廟卷),然后進(jìn)行數(shù)據(jù)預(yù)處理。 時空神經(jīng)網(wǎng)絡(luò)有6個噪聲輸入序列,網(wǎng)絡(luò)中的函數(shù)擴展參數(shù)為2,時間延遲參數(shù)為3,學(xué)習(xí)算法采用文中的時空神經(jīng)網(wǎng)絡(luò)快速學(xué)習(xí)算法。采用相對平方誤差(RSE)、正態(tài)均方誤差(NMSE)、均方根誤差(RMSE)和平均絕對誤差(MAE)作為指標(biāo)。實驗首先檢驗時空神經(jīng)網(wǎng)絡(luò)通過組合系數(shù)λ將函數(shù)擴展功能模塊和線性脈沖延時模塊整合起來是否能夠提高預(yù)測精度。為此,在機場噪聲數(shù)據(jù)集上對比本文的時空神經(jīng)網(wǎng)絡(luò)(網(wǎng)絡(luò)1)、只含函數(shù)擴展功能模塊的時空神經(jīng)網(wǎng)絡(luò)(網(wǎng)絡(luò)2)和只含線性脈沖延時模塊的時空神經(jīng)網(wǎng)絡(luò)(網(wǎng)絡(luò)3)的預(yù)測誤差。3種時空神經(jīng)網(wǎng)絡(luò)的預(yù)測誤差比較如表1所示。 表1 3種時空神經(jīng)網(wǎng)絡(luò)預(yù)測誤差 實驗結(jié)果表明,時空神經(jīng)網(wǎng)絡(luò)通過組合系數(shù)λ將函數(shù)擴展功能模塊和線性脈沖延時模塊整合能夠提高預(yù)測精度。同時,也間接地表明機場噪聲時空數(shù)據(jù)序列包含時空線性模式和時空非線性模式。 為進(jìn)一步評估時空神經(jīng)網(wǎng)絡(luò)的性能,實驗采用時空序列預(yù)測模型STARMA和時間序列預(yù)測模型多層感知器神經(jīng)網(wǎng)絡(luò)作為對比模型。實驗中STARMA模型的形式為: 其中,空間權(quán)矩陣W0為單位矩陣,空間權(quán)矩陣W1為: STARMA模型的參數(shù)估計采用文獻(xiàn)[11]提出的遺傳算法。多層感知器神經(jīng)網(wǎng)絡(luò)模型為3層3-5-1網(wǎng)絡(luò)結(jié)構(gòu),輸入層有3個輸入,分別為目標(biāo)監(jiān)測點5(西杜蘭)的噪聲序列值x5(t-1),x5(t-2),x5(t-3),隱藏層有5個神經(jīng)元,輸出層為目標(biāo)監(jiān)測點5的噪聲序列值x5(t)。時空神經(jīng)網(wǎng)絡(luò)的預(yù)測結(jié)果如圖6所示,STARMA模型預(yù)測結(jié)果如圖7所示,STARMA模型參數(shù)為: 多層感知器神經(jīng)網(wǎng)絡(luò)預(yù)測結(jié)果見圖8。 圖6 時空神經(jīng)網(wǎng)絡(luò)預(yù)測結(jié)果 圖7 STARMA模型預(yù)測結(jié)果 圖8 多層感知器網(wǎng)絡(luò)預(yù)測結(jié)果 利用上述指標(biāo)評價3種預(yù)測模型的預(yù)測精度,結(jié)果見表2??梢?,時空神經(jīng)網(wǎng)絡(luò)的預(yù)測精度高于STARMA模型和多層感知器網(wǎng)絡(luò)。時空神經(jīng)網(wǎng)絡(luò)由函數(shù)擴展功能模塊和線性延時脈沖模塊組成,函數(shù)擴展功能模塊負(fù)責(zé)捕獲時空非線性模式,線性脈沖延時模塊負(fù)責(zé)擬合時空線性模式。而STARMA模型由于模型條件約束,只能擬合時空序列中線性模式,比較表2中STARMA模型和表1中線性脈沖延時模塊可發(fā)現(xiàn)兩者相差不大。表1中結(jié)果間接表明機場噪聲時空數(shù)據(jù)序列包含時空線性模式和時空非線性模式,因此,時空神經(jīng)網(wǎng)絡(luò)預(yù)測精度高于STARMA模型。同時,時空神經(jīng)網(wǎng)絡(luò)和STARMA模型的精度也高于多層感知器網(wǎng)絡(luò)。 表2 3種模型的預(yù)測誤差 實驗中的噪聲監(jiān)測點通過相關(guān)性分析得到,這些監(jiān)測點彼此之間存在顯著的關(guān)聯(lián)關(guān)系,時空神經(jīng)網(wǎng)絡(luò)和STARMA模型不僅利用目標(biāo)監(jiān)測點的歷史信息,而且充分挖掘噪聲監(jiān)測點間的關(guān)聯(lián)關(guān)系并將其應(yīng)用到目標(biāo)監(jiān)測點的噪聲預(yù)測中,因此,時空神經(jīng)網(wǎng)絡(luò)和STARMA模型的預(yù)測精度高于多層感知器神經(jīng)網(wǎng)絡(luò)。 針對時空序列預(yù)測問題,本文結(jié)合函數(shù)鏈接人工神經(jīng)網(wǎng)絡(luò)和線性脈沖響應(yīng)濾波原理,提出了一種新型的時空神經(jīng)網(wǎng)絡(luò),該時空神經(jīng)網(wǎng)絡(luò)能夠同時擬合時空序列中的時空線性模式和時空非線性模式。機場噪聲的仿真實驗結(jié)果表明,時空神經(jīng)網(wǎng)絡(luò)的精度明顯高于STARMA時空序列預(yù)測模型和多層感知器網(wǎng)絡(luò)時間序列預(yù)測模型。時空神經(jīng)網(wǎng)絡(luò)不僅適合于機場噪聲預(yù)測應(yīng)用,同樣也可以推廣到其他時空序列預(yù)測領(lǐng)域。 [1]Viglione A,Chirico G B,Komma J,et al.Quantifying Spacetime Dynamics of Flood Event Types[J].Journal of Hydrology,2010,394(1):213-229. [2]Mhanna M,Bauwens W.A Stochastic Space-time Model for the Generation of Daily Rainfall in the Gaza Strip[J].International Journal of Climatology,2012,32(7):1098-1112. [3]Lee S D,Kim D K.Bayesian Inferences and Forecasting in Spatial Time Series Models[C]//Proc.of ICMLA’10.[S.l.]:IEEE Press,2010:767-770. [4]Pfeifer P E,Deutrch S J.A Three-stage Iterative Procedure for Space-time Modeling Phillip[J].Technometrics,1980,22(1):35-47. [5]韓衛(wèi)國,王勁峰,高一鴿,等.區(qū)域交通流的時空預(yù)測與分析[J].公路交通科學(xué),2007,24(6):92-96. [6]梅志雄.應(yīng)用 DRNN和 ARIMA組合模型的時空集成預(yù)測方法[J].小型微型計算機系統(tǒng),2010,31(4):657-661. [7]常 剛,張 毅,姚丹亞.基于時空依賴性的區(qū)域路網(wǎng)短時交通流預(yù)測模型[J].清華大學(xué)學(xué)報:自然科學(xué)版,2013,53(2):215-221. [8]Zhao Haiquan,Zhang Jiashu.Adaptively Combined FIR and Functional Link Artificial Neural Network Equalizer for Nonlinear Communication Channel[J].IEEE Transactions on Neural Networks,2009,20(4):665-674. [9]王海起,王勁峰.一種基于空間鄰接關(guān)系K-means聚類算法改進(jìn)[J].計算機工程,2006,32(21):50-51. [10]Grassberger P,Procaccia I.Measuring the Strangeness of Strange Attractors[J].Physica D:Nonlinear Phenomena,1983,9(1):189-208. [11]Halim S,Bisono I N,Sunyoto D,et al.Parameter Estimation of Space-time Model Using Genetic Algorithm[C]//Proc.of IEEM’09.[S.l.]:IEEE Press,2009:1371-1375.5 實驗及結(jié)果分析
6 結(jié)束語