王躍文,常 琳,李 鳴,3
(1.中國(guó)礦業(yè)大學(xué)計(jì)算機(jī)科學(xué)與技術(shù)學(xué)院,江蘇徐州 221116;2.安標(biāo)國(guó)家礦用產(chǎn)品安全標(biāo)志中心有限公司,北京 100013;3.礦山數(shù)字化教育研究中心,江蘇徐州 221116)
我國(guó)是世界最大產(chǎn)煤國(guó),礦井安全始終被國(guó)家和煤礦企業(yè)高度重視。隨著煤礦安全監(jiān)測(cè)水平特別是通信技術(shù)的不斷提高,煤炭安全生產(chǎn)形勢(shì)已明顯好轉(zhuǎn)。尤其礦井無(wú)線通信網(wǎng)絡(luò)的廣泛應(yīng)用,極大的改善了煤礦安全檢測(cè)、快速救援、生產(chǎn)管理的效率[1]。
礦井無(wú)線通信系統(tǒng)發(fā)展經(jīng)歷了小靈通、WiFi、3G、4G 技術(shù)[2],隨著地面第五代移動(dòng)通信技術(shù)(5G)的逐步成熟,將5G 技術(shù)應(yīng)用在礦井的需求越來(lái)越強(qiáng)烈[3]。與此同時(shí),煤礦自動(dòng)化程度不斷提高,越來(lái)越多的礦井設(shè)備利用無(wú)線通信網(wǎng)絡(luò)傳輸數(shù)據(jù)。然而,礦井無(wú)線通信技術(shù)的應(yīng)用面臨著許多考驗(yàn)。首先,井下巷道環(huán)境復(fù)雜,存在大量可燃性氣體,這嚴(yán)格限制了通信設(shè)備的發(fā)射功率,但無(wú)線終端多需要電池供電,因此,為了保證無(wú)線終端較長(zhǎng)的巷道中長(zhǎng)時(shí)間工作,只有降低煤礦無(wú)線通信系統(tǒng)的能耗。其次,巷道中工作人員和機(jī)械設(shè)備具有一定流動(dòng)性,同時(shí)礦井中數(shù)據(jù)、視頻等數(shù)據(jù)業(yè)務(wù)大量涌現(xiàn),使得靜態(tài)的網(wǎng)絡(luò)覆蓋不能充分利用每個(gè)無(wú)線網(wǎng)絡(luò)中的頻譜和能量資源,故一個(gè)靈活的動(dòng)態(tài)覆蓋通信方法將更加適應(yīng)未來(lái)礦井高速率多媒體的無(wú)線通信需求。無(wú)線網(wǎng)絡(luò)流量的精確預(yù)測(cè)能夠提升無(wú)線網(wǎng)絡(luò)的智能化程度,實(shí)現(xiàn)網(wǎng)絡(luò)動(dòng)態(tài)的擁塞控制,輔助基站實(shí)現(xiàn)基于流量的動(dòng)態(tài)覆蓋,減少網(wǎng)絡(luò)資源的耗費(fèi),提高網(wǎng)絡(luò)能效,最終實(shí)現(xiàn)網(wǎng)絡(luò)的自組織管理、最優(yōu)化配置。
流量預(yù)測(cè)的目的是通過現(xiàn)有的流量歷史數(shù)據(jù)通過某些算法提取流量波動(dòng)的相關(guān)信息精確預(yù)測(cè)下一個(gè)時(shí)間段的流量。在幾十年的無(wú)線通信領(lǐng)域發(fā)展過程中,無(wú)線網(wǎng)絡(luò)流量的分析與預(yù)測(cè)也在穩(wěn)步發(fā)展[4]。已經(jīng)有很多學(xué)者提出許多不同的流量預(yù)測(cè)方法。這些方法主要有基于時(shí)間序列的流量預(yù)測(cè)方法、基于機(jī)器學(xué)習(xí)的流量預(yù)測(cè)方法和基于深度學(xué)習(xí)的流量預(yù)測(cè)方法。
文獻(xiàn)[5]提出一種基于差分整合移動(dòng)平均自回歸模型(ARIMA)的流量預(yù)測(cè)方法,該方法主要是利用了流量數(shù)據(jù)中規(guī)律的數(shù)據(jù)進(jìn)行流量預(yù)測(cè),但模型僅具有線性表達(dá)能力,而流量數(shù)據(jù)主要是由非線性數(shù)據(jù)組成,這導(dǎo)致了ARIMA 模型應(yīng)用能力較弱。目前,由于機(jī)器學(xué)習(xí)和深度學(xué)習(xí)具有強(qiáng)大的特征表達(dá)能力,已成為網(wǎng)絡(luò)流量建模的主要方式。無(wú)線網(wǎng)絡(luò)流量預(yù)測(cè)作為復(fù)雜時(shí)空預(yù)測(cè)問題,研究人員在該領(lǐng)域做了大量的研究工作。文獻(xiàn)[6]將循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)應(yīng)用于基站流量預(yù)測(cè),取得了不錯(cuò)的效果。為了同時(shí)捕獲流量中的時(shí)間和空間相關(guān)性,文獻(xiàn)[7]利用了卷積神經(jīng)網(wǎng)絡(luò),通過基于參數(shù)矩陣的融合策略,融合不同種類的時(shí)間依賴性(周期性),使用多層卷積來(lái)學(xué)習(xí)空間上的依賴性增強(qiáng)模型的特征表達(dá)能力。文獻(xiàn)[8]結(jié)合卷積神經(jīng)網(wǎng)絡(luò)和循環(huán)神經(jīng)網(wǎng)絡(luò)對(duì)互聯(lián)網(wǎng)流量進(jìn)行預(yù)測(cè)。在空間特征的提取方面,文獻(xiàn)[9]研究了特殊卷積神經(jīng)網(wǎng)絡(luò)對(duì)于空間特征提取的效果,認(rèn)為深層殘差網(wǎng)絡(luò)比一般卷積神經(jīng)網(wǎng)絡(luò)堆疊效果更好。而在時(shí)間特征提取方面,文獻(xiàn)[10]研究了不同人工神經(jīng)網(wǎng)絡(luò)的互聯(lián)網(wǎng)流量預(yù)測(cè)算法,實(shí)驗(yàn)認(rèn)為,循環(huán)神經(jīng)網(wǎng)絡(luò)能夠有效提取時(shí)間特征,比堆疊自動(dòng)編碼器表現(xiàn)更好。
以上流量預(yù)測(cè)研究一部分側(cè)重于利用流量數(shù)據(jù)的部分特征進(jìn)行預(yù)測(cè),另一部分研究在時(shí)空特征提取或融合方面有待進(jìn)一步加強(qiáng)。因此,為了充分利用流量數(shù)據(jù)中存在的時(shí)空特征進(jìn)行預(yù)測(cè),提出了一種有效的時(shí)空卷積全連接網(wǎng)絡(luò)(CL-FCCNet),該模型利用殘差網(wǎng)絡(luò)捕獲無(wú)線網(wǎng)絡(luò)流量的空間依賴,基于循環(huán)神經(jīng)網(wǎng)絡(luò)捕獲無(wú)線網(wǎng)路流量的時(shí)間依賴,將2 個(gè)模型提取出的時(shí)空相關(guān)性由全連接層融合輸出,實(shí)現(xiàn)無(wú)線網(wǎng)絡(luò)流量的精確預(yù)測(cè)。
流量預(yù)測(cè)的思想是通過數(shù)學(xué)表達(dá)式來(lái)表示未來(lái)一段時(shí)間內(nèi)的流量變化情況,在流量數(shù)據(jù)中呈現(xiàn)復(fù)雜的非線性。流量預(yù)測(cè)圖如圖1。
圖1 流量預(yù)測(cè)圖Fig.1 Traffic forecast
通過無(wú)線網(wǎng)絡(luò)流量的具體變化情況分析無(wú)線網(wǎng)路流量所具有的特征,2 個(gè)區(qū)域的流量變化情況如圖2。
圖2 2 個(gè)典型區(qū)域的流量變化情況Fig.2 Temporal distribution of the wireless traffic of two typical regions
圖2 中,橫坐標(biāo)表示時(shí)間,縱坐標(biāo)CDRs 表示隨時(shí)間變化的流量數(shù)值情況。精確的流量預(yù)測(cè)即如何有效利用流量數(shù)據(jù)中存在的流量變化特征,即在空間上各個(gè)區(qū)域間的流量呈現(xiàn)相關(guān)性,在時(shí)間上單個(gè)區(qū)域內(nèi)的流量變化也呈現(xiàn)周期性和突發(fā)性,來(lái)預(yù)測(cè)未來(lái)時(shí)間段內(nèi)流量的變化。流量數(shù)據(jù)中存在特征的簡(jiǎn)要描述如下:
1)區(qū)域內(nèi)復(fù)雜的周期性時(shí)間特征。如圖2,單個(gè)區(qū)域內(nèi)的流量變化呈周期性波動(dòng),但流量數(shù)據(jù)在周期性波動(dòng)的同時(shí)也并非與上一個(gè)時(shí)間段的波動(dòng)完全相同,具有一定的突發(fā)性。流量波動(dòng)的周期性與人們的日常行為有關(guān),無(wú)線網(wǎng)絡(luò)流量的需求隨時(shí)間變化,每天在固定的時(shí)間形成高峰與低谷。同時(shí)流量波動(dòng)具有突發(fā)性,流量預(yù)測(cè)模型需要準(zhǔn)確的表達(dá)流量數(shù)據(jù)中存在的周期性和突發(fā)性。
2)區(qū)域間復(fù)雜的關(guān)聯(lián)性。礦井內(nèi)不同區(qū)域的無(wú)線流量變化情況是與設(shè)備和人員的流動(dòng)相關(guān)的。隨著井下工作的進(jìn)行必定會(huì)造成無(wú)線網(wǎng)絡(luò)設(shè)備的移動(dòng),從而影響無(wú)線網(wǎng)絡(luò)流量的變化。
3)其他影響因素。礦井下工作環(huán)境復(fù)雜,任何突發(fā)情況均有可能影響流量的波動(dòng),如礦井事件、節(jié)假日等。
綜上,準(zhǔn)確的無(wú)線網(wǎng)絡(luò)預(yù)測(cè)模型不僅需要涉及區(qū)域內(nèi)流量波動(dòng)特征,也需要建模區(qū)域間網(wǎng)絡(luò)流量相關(guān)性,因此,綜合考慮以上多維度建模流量數(shù)據(jù)中所攜帶的相關(guān)信息。
時(shí)空殘差卷積網(wǎng)絡(luò)架構(gòu)圖如圖3。它由2 個(gè)部分組成:①殘差網(wǎng)絡(luò)模塊:用來(lái)生成數(shù)據(jù)流量序列的空間特征;②循環(huán)神經(jīng)網(wǎng)絡(luò)模塊:提取流量數(shù)據(jù)序列的時(shí)間特征。如圖3,經(jīng)過處理后的歷史數(shù)據(jù)輸入至由卷積神經(jīng)網(wǎng)絡(luò)和批規(guī)范化組成的殘差網(wǎng)絡(luò),從而提取流量數(shù)據(jù)的空間特征,隨后轉(zhuǎn)換數(shù)據(jù)維度,輸入到循環(huán)神經(jīng)網(wǎng)絡(luò)中,以提取流量數(shù)據(jù)的時(shí)間依賴,最后通過全連接層對(duì)包含時(shí)空特征的循環(huán)神經(jīng)網(wǎng)絡(luò)的所有輸出產(chǎn)生預(yù)測(cè)數(shù)據(jù)。
圖3 時(shí)空殘差卷積網(wǎng)絡(luò)架構(gòu)圖Fig.3 Main architecture of CL-FCCNet
2.1.1 輸入矩陣的維度擴(kuò)充
模型使用same 的padding 方法對(duì)輸入數(shù)據(jù)進(jìn)行處理,使得輸入數(shù)據(jù)在卷積時(shí)不會(huì)丟失邊緣數(shù)據(jù),以獲得更多的空間特征,same padding 示意圖如圖4。
圖4 same padding 示意圖Fig.4 Schematic diagram of same padding
輸入數(shù)據(jù)的尺寸為W1,步長(zhǎng)為S,則same padding 的輸出形狀計(jì)算公式如下:
式中:[]為向上取整符號(hào);new_h(yuǎn)eight、new_width為輸出數(shù)據(jù)的高度和寬度。
2.1.2 殘差網(wǎng)絡(luò)建??臻g相關(guān)性
殘差網(wǎng)絡(luò)通過卷積的方式建模信息,relu 作為激活函數(shù),加入批標(biāo)準(zhǔn)化處理加快空間依賴建模速度、打亂訓(xùn)練數(shù)據(jù)、約束訓(xùn)練參數(shù),從而優(yōu)化卷積神經(jīng)網(wǎng)絡(luò)中梯度消失梯度爆炸等問題。此外,傳統(tǒng)的卷積神經(jīng)網(wǎng)絡(luò)的子采樣操作會(huì)損失邊緣數(shù)據(jù),過多層子采樣的疊加可能會(huì)使模型進(jìn)入過擬合。因此,模型在使用殘差網(wǎng)絡(luò)時(shí)直接進(jìn)行卷積操作,卷積堆疊方式如圖5。殘差網(wǎng)絡(luò)單元如圖6。
圖5 卷積堆疊方式Fig.5 Convolution stack mode
圖6 殘差網(wǎng)絡(luò)單元Fig.6 Residual unit
殘差單元可以表示為:
式中:xl、xl+1為第l 個(gè)殘差單元的輸入和輸出;hr為恒等映射函數(shù);Fr為殘差函數(shù),表示學(xué)習(xí)到的殘差,在圖中為直線箭頭所經(jīng)過的部分;Wrl為第l 層殘差的權(quán)重;yl為第l 層恒等映射函數(shù)與殘差函數(shù)的累加和;f 為激活函數(shù)。
從淺層l 至深層L 的學(xué)習(xí)特征公式如下:
式中:xL為第L 層殘差網(wǎng)絡(luò)輸出;i 為從第l 層至第L 層殘差網(wǎng)絡(luò)的迭代。
殘差網(wǎng)絡(luò)實(shí)際輸出數(shù)據(jù)XC∈kn×H2×W2,kn為最后1 層卷積層卷積核個(gè)數(shù),H2、W2為輸入張量尺寸。
2.1.3 數(shù)據(jù)維度的轉(zhuǎn)化
殘差網(wǎng)絡(luò)為卷積神經(jīng)網(wǎng)絡(luò),單次輸出數(shù)據(jù)為三維數(shù)據(jù),而長(zhǎng)短期記憶網(wǎng)絡(luò)單次輸入數(shù)據(jù)為二維數(shù)據(jù),需要將數(shù)據(jù)維度轉(zhuǎn)換。轉(zhuǎn)換公式如下:
式中:Re shape 為維度變換函數(shù);Xc[i1,j1,k1,m1]為殘差網(wǎng)絡(luò)輸出張量,整體輸出數(shù)據(jù)為四維數(shù)據(jù),且各個(gè)維度上的數(shù)據(jù)量分別是i1、j1、k1、m1;Xr[i2,j2,k2]為長(zhǎng)短期記憶網(wǎng)絡(luò)輸入張量,整體輸入數(shù)據(jù)為三維數(shù)據(jù),且各個(gè)維度上的數(shù)據(jù)量分別是i2、j2、k2。
2.1.4 長(zhǎng)短期記憶網(wǎng)絡(luò)建模時(shí)間相關(guān)性
長(zhǎng)短期記憶網(wǎng)絡(luò)主要由輸入門、輸出門和遺忘門組成,輸入門負(fù)責(zé)數(shù)據(jù)的輸入,決定輸入的新信息。輸出門輸出計(jì)算后的數(shù)據(jù),如當(dāng)前單元的輸出值以及傳遞到下一個(gè)單元的隱藏狀態(tài)值。遺忘門則負(fù)責(zé)從當(dāng)前狀態(tài)中丟棄哪些信息。具體過程如下:
1)輸入數(shù)據(jù)會(huì)經(jīng)過遺忘門,遺忘門會(huì)根據(jù)前一時(shí)刻的隱藏狀態(tài)值ht-1和當(dāng)前輸入信息xt決定是否丟棄遺忘門輸出信息ft,遺忘門輸出結(jié)果ft會(huì)通過sigmoid 函數(shù)將數(shù)值映射到[0,1]區(qū)間,然后與上一個(gè)單元的狀態(tài)值進(jìn)行對(duì)應(yīng)元素乘法運(yùn)算。映射在0附近則對(duì)應(yīng)狀態(tài)信息被遺忘,映射為1 附近則狀態(tài)信息被保留。
式中:Wf為權(quán)重;bf為偏置;σ 為激活函數(shù)。
2)將輸入數(shù)據(jù)經(jīng)過更新門,確定更新信息it。更新門輸出結(jié)果同樣映射在[0,1]范圍內(nèi),為了計(jì)算狀態(tài)信息ct還需要讓更新門輸出數(shù)據(jù)與輸入數(shù)據(jù)xt經(jīng)過tanh 函數(shù)的輸出相乘,得出的結(jié)果與經(jīng)過遺忘門輸出的狀態(tài)信息逐點(diǎn)相加,成為當(dāng)前單元的狀態(tài)信息ct。更新門的操作可以表示為:
式中:Wi為更新門權(quán)重;bi更新門偏置。
3)將輸入數(shù)據(jù)輸入輸出門,得出輸出門輸出ot以及本單元的隱藏狀態(tài)值ht。其中ot的計(jì)算公式如下:
式中:Wo為輸出門權(quán)重;bo為輸出門偏置。
4)計(jì)算單元狀態(tài)信息ct和隱藏狀態(tài)ht。
式中:ct-1為上一單元的單元狀態(tài);°為哈達(dá)碼積(2 個(gè)矩陣對(duì)應(yīng)位置相乘結(jié)果為矩陣);σc為單元狀態(tài)信息激活函數(shù);σh為隱藏狀態(tài)激活函數(shù);Wc、Zc為可學(xué)習(xí)權(quán)重矩陣;bc為可學(xué)習(xí)偏置。
2.1.5 使用全連接神經(jīng)網(wǎng)絡(luò)融合時(shí)空特征
在殘差網(wǎng)絡(luò)提取空間特征,長(zhǎng)短期記憶網(wǎng)絡(luò)提取時(shí)間特征之后,輸入至全連接神經(jīng)網(wǎng)絡(luò)整合時(shí)空特征輸出預(yù)測(cè)結(jié)果:
受條件限制,無(wú)法取得井下的無(wú)線網(wǎng)絡(luò)流量數(shù)據(jù),但無(wú)線網(wǎng)絡(luò)流量數(shù)據(jù)存在共同的特征。因此試驗(yàn)采用的是日常條件下的無(wú)線網(wǎng)絡(luò)流量數(shù)據(jù)。
由于數(shù)據(jù)中包含流量的輸入輸出,存在不符合的數(shù)據(jù)。因此,需要在輸入模型前先對(duì)數(shù)據(jù)集進(jìn)行簡(jiǎn)單的預(yù)處理。預(yù)處理過程如下:首先將原始數(shù)據(jù)時(shí)間戳進(jìn)行轉(zhuǎn)換;累加區(qū)域內(nèi)同一時(shí)刻不同首發(fā)區(qū)域的數(shù)據(jù);將數(shù)據(jù)集轉(zhuǎn)換為時(shí)間、網(wǎng)格橫坐標(biāo)、網(wǎng)格縱坐標(biāo)、流量情況的符合模型輸入的矩陣形式;處理異常和缺失數(shù)據(jù),原始數(shù)據(jù)中存在明顯超出流量范圍的異常數(shù)據(jù)和缺失數(shù)據(jù),根據(jù)公式將異常數(shù)據(jù)和缺失數(shù)據(jù)替換為附近數(shù)據(jù)的平均值。
將歷史數(shù)據(jù)的90%用來(lái)進(jìn)行模型的訓(xùn)練,剩下的10%作為模型訓(xùn)練情況的驗(yàn)證。模型設(shè)置34 層殘差網(wǎng)絡(luò),其中卷積核的數(shù)目是64/128,卷積核的大小為3×3/5×5。模型采用的激活函數(shù)是Relu,其表達(dá)式為:f(a)=max(0,a)。相較于其它激活函數(shù)relu能夠克服在訓(xùn)練過程中梯度消失的問題,也能夠加快模型的訓(xùn)練速度。長(zhǎng)短期記憶網(wǎng)絡(luò)的層數(shù)選擇2/3 層,每層單元數(shù)目是64/128。在模型中增加信息丟失層,丟失概率是0.5。
本次試驗(yàn)使用深度學(xué)習(xí)框架TensorFlow 和Keras 在Linux 環(huán)境下的GPU 上運(yùn)行。
為了對(duì)比本模型的試驗(yàn)結(jié)果,在相同的數(shù)據(jù)集上試驗(yàn)了現(xiàn)有的多個(gè)模型,并對(duì)試驗(yàn)結(jié)果進(jìn)行對(duì)比。具體對(duì)比模型如下:ARIMA 為整合移動(dòng)平均自回歸方法,用來(lái)描述預(yù)測(cè)原始數(shù)據(jù)序列,識(shí)別后利用歷史數(shù)據(jù)和當(dāng)前數(shù)據(jù)預(yù)測(cè)未來(lái)的值,是經(jīng)典的時(shí)間序列預(yù)測(cè)方法;LSTM 為長(zhǎng)短期記憶網(wǎng)絡(luò),適合處理和預(yù)測(cè)長(zhǎng)期的時(shí)間序列數(shù)據(jù);GRU 為門控循環(huán)網(wǎng)絡(luò),長(zhǎng)短期記憶網(wǎng)絡(luò)的一種很好的變體,具有更簡(jiǎn)單的結(jié)構(gòu),提供較好的效果,能夠減少需要訓(xùn)練的參數(shù)數(shù)目;3DCNN 為一種將卷積維度從二維擴(kuò)展到三維的網(wǎng)絡(luò),處理時(shí)間序列數(shù)據(jù)能夠?qū)r(shí)間和空間進(jìn)行卷積;CNN+RNN 為卷積神經(jīng)網(wǎng)絡(luò)和循環(huán)神經(jīng)網(wǎng)絡(luò)的組合模型,能夠獨(dú)立提取時(shí)間信息和空間信息,在時(shí)間序列預(yù)測(cè)問題上具有良好的表現(xiàn)。
采用均方誤差RMSE 和平均準(zhǔn)確度MA 作為評(píng)價(jià)指標(biāo),用M 表示輸出序列數(shù)目,yi,y?i分別為預(yù)測(cè)值和真實(shí)值。利用RMSE 和MA 參數(shù),可以衡量預(yù)測(cè)值和實(shí)際流量數(shù)值的差異。
試驗(yàn)結(jié)果對(duì)比見表1。試驗(yàn)對(duì)流量數(shù)據(jù)進(jìn)行建模和預(yù)測(cè),然后用RMSE 和MA 進(jìn)行CL-FCCNet 與5 個(gè)基線模型之間的性能比較。
表1 試驗(yàn)結(jié)果對(duì)比Table 1 Test results
從表1 的試驗(yàn)結(jié)果中能夠明顯看出,提出的試驗(yàn)?zāi)P驮跓o(wú)線網(wǎng)絡(luò)流量預(yù)測(cè)中具有一定的優(yōu)勢(shì),在所有基礎(chǔ)模型中RMSE 最大的提升幅度為ARIMA,相比為39.85%,最低的RMSE 優(yōu)化幅度為3DCNN,相對(duì)提升4.38%。正如相關(guān)工作所分析的內(nèi)容,傳統(tǒng)的時(shí)間序列預(yù)測(cè)方法具有自身的局限性。ARIMA 模型無(wú)法綜合考慮流量變化的相關(guān)影響因素,雖具有一定的適用性但流量變化預(yù)測(cè)準(zhǔn)確性最低。在本次的試驗(yàn)條件下,ARIMA 模型的預(yù)測(cè)RMSE 為7.98,預(yù)測(cè)準(zhǔn)確度為80.21%。采用深度神經(jīng)網(wǎng)絡(luò)的預(yù)測(cè)模型在預(yù)測(cè)結(jié)果上均具有一定的優(yōu)勢(shì),其中循環(huán)神經(jīng)網(wǎng)絡(luò)模型能夠?qū)α髁孔兓瘮?shù)據(jù)進(jìn)行線性建模的同時(shí)綜合考慮流量變化的相關(guān)影響因素,在本次試驗(yàn)結(jié)果中,LSTM 模型和GRU 模型的RMSE 分別為6.12和6.48,MA 分別為86.65%和85.97%。LSTM 和GRU 均采用對(duì)輸入數(shù)據(jù)線性處理的方式進(jìn)行預(yù)測(cè)建模,LSTM 結(jié)構(gòu)相對(duì)復(fù)雜需要訓(xùn)練更多的參數(shù),GRU 簡(jiǎn)化了模型結(jié)構(gòu)在保留模型功能的基礎(chǔ)上減少訓(xùn)練參數(shù),進(jìn)一步了減少訓(xùn)練量。但二者作為循環(huán)神經(jīng)網(wǎng)絡(luò)的發(fā)展模型,還是存在循環(huán)神經(jīng)網(wǎng)絡(luò)存在的普遍問題,即在訓(xùn)練長(zhǎng)序列數(shù)據(jù)時(shí)由于數(shù)據(jù)量較大而記憶單元容量有限,模型不可避免的需要丟失一部分預(yù)測(cè)相關(guān)數(shù)據(jù)造成預(yù)測(cè)的精度下降。三維卷積神經(jīng)網(wǎng)絡(luò)(3DCNN)在本次試驗(yàn)中的預(yù)測(cè)結(jié)果為RMSE 的5.02 和MA 的89.64%。此次預(yù)測(cè)結(jié)果相對(duì)于僅考慮時(shí)間相關(guān)性進(jìn)行建模的循環(huán)神經(jīng)網(wǎng)絡(luò)(LSTM 和GRU)的預(yù)測(cè)結(jié)果有一定的提升,說(shuō)明在進(jìn)行無(wú)線網(wǎng)絡(luò)流量預(yù)測(cè)時(shí)將無(wú)線網(wǎng)絡(luò)流量變化點(diǎn)之間的相關(guān)性納入模型預(yù)測(cè)影響因素中有助于提高流量預(yù)測(cè)的準(zhǔn)確性。同時(shí),在本次試驗(yàn)中卷積神經(jīng)網(wǎng)絡(luò)和循環(huán)神經(jīng)網(wǎng)絡(luò)的組合模型所取得的預(yù)測(cè)結(jié)果為RMSE 的11.03 和MA 的74.87%。組合模型雖然考慮到了時(shí)間和空間上的因素對(duì)流量預(yù)測(cè)的影響,但可能是由于相關(guān)影響因素提取的不徹底或者是在相關(guān)性的傳遞過程中丟失部分?jǐn)?shù)據(jù)造成預(yù)測(cè)的準(zhǔn)確性下降。
提出的無(wú)線網(wǎng)絡(luò)流量數(shù)據(jù)預(yù)測(cè)模型對(duì)于一般的三維卷積神經(jīng)網(wǎng)絡(luò)超過4.38%,優(yōu)于其它對(duì)比模型。模型充分利用不同深度學(xué)習(xí)模型的優(yōu)勢(shì),采用分開建模的方式利用殘差網(wǎng)絡(luò)獲取數(shù)據(jù)中的空間相關(guān)性,利用循環(huán)神經(jīng)網(wǎng)絡(luò)建模數(shù)據(jù)中的時(shí)間依賴最終通過全連接網(wǎng)絡(luò)輸出預(yù)測(cè)數(shù)據(jù)。試驗(yàn)結(jié)果表明,模型具有一定優(yōu)勢(shì)。
網(wǎng)格數(shù)目增加預(yù)測(cè)性能變化情況如圖7,每次試驗(yàn)增加225 個(gè)預(yù)測(cè)區(qū)域。流量預(yù)測(cè)值與實(shí)際值對(duì)比如圖8。
圖7 網(wǎng)格數(shù)目增加預(yù)測(cè)性能變化情況Fig.7 Predicting performance changes as the number of grids increases
圖8 流量預(yù)測(cè)值與實(shí)際值對(duì)比Fig.8 Comparison of prediction and real on traffic prediction over a period of time on a grid
從圖7 可以看出,所有的模型隨著預(yù)測(cè)范圍的擴(kuò)大,預(yù)測(cè)精度呈現(xiàn)下降的趨勢(shì)。但所提出的CLFCCNet 模型相較于其它模型具有一定的優(yōu)勢(shì)。這說(shuō)明,利用流量數(shù)據(jù)中存在的時(shí)空特征能夠?qū)o(wú)線網(wǎng)絡(luò)流量進(jìn)行更加精確地預(yù)測(cè)。模型使用殘差網(wǎng)絡(luò)和長(zhǎng)短期記憶網(wǎng)絡(luò)能夠精確地建模無(wú)線網(wǎng)絡(luò)流量的時(shí)空特征,在輸出階段使用全連接神經(jīng)網(wǎng)絡(luò)能夠很好的融合2 個(gè)模型分別提取的特征。因而CL-FCCNet模型在預(yù)測(cè)范圍擴(kuò)大的情況下對(duì)預(yù)測(cè)精度的影響較小,從而在大范圍流量預(yù)測(cè)中也具有一定的優(yōu)勢(shì)。
從圖8 對(duì)比結(jié)果可以看出,模型能夠較為準(zhǔn)確地預(yù)測(cè)流量的變化趨勢(shì),但是預(yù)測(cè)的細(xì)節(jié)還有待加強(qiáng)。從圖中可以看出在流量劇烈波動(dòng)的細(xì)節(jié)部分預(yù)測(cè)準(zhǔn)確度較低,但能夠準(zhǔn)確的預(yù)測(cè)流量的變化趨勢(shì)。從結(jié)果來(lái)看,模型能夠較為準(zhǔn)確地預(yù)測(cè)流量的變化情況。
無(wú)線網(wǎng)絡(luò)流量的精確預(yù)測(cè)是構(gòu)建安全高效礦井無(wú)線網(wǎng)絡(luò)的基礎(chǔ),結(jié)合殘差網(wǎng)絡(luò)、循環(huán)神經(jīng)網(wǎng)絡(luò)模型,提出一種時(shí)空卷積(CL-FCCNet)模型。該模型利用殘差網(wǎng)絡(luò)獲取無(wú)線網(wǎng)絡(luò)流量的空間特征,基于循環(huán)神經(jīng)網(wǎng)絡(luò)獲取無(wú)線網(wǎng)絡(luò)流量時(shí)間特征,并最終利用全連接神經(jīng)網(wǎng)絡(luò)融合時(shí)空特征,增強(qiáng)模型預(yù)測(cè)的準(zhǔn)確性和穩(wěn)定性。通過在真實(shí)的無(wú)線網(wǎng)絡(luò)數(shù)據(jù)集上進(jìn)行測(cè)試,結(jié)果表明空間依賴和時(shí)間相關(guān)的相互作用在流量預(yù)測(cè)中起著重要的作用。提出的模型CL-FCCNet具有更簡(jiǎn)單的結(jié)構(gòu),在保證較高準(zhǔn)確率的前提下極大降低時(shí)間復(fù)雜度,使結(jié)果具有更高的時(shí)效性。未來(lái),將收集真實(shí)的井下無(wú)線網(wǎng)絡(luò)流量數(shù)據(jù),引入影響流量波動(dòng)的其他因素進(jìn)行試驗(yàn)優(yōu)化預(yù)測(cè)模型。