蘭婭勛,蔡 娟,李振坤
(1.廣州科技職業(yè)技術(shù)大學(xué) 信息工程學(xué)院,廣州 510550;2.廣東工業(yè)大學(xué) 計(jì)算機(jī)學(xué)院,廣州 510005)
WSNs(無(wú)線傳感器網(wǎng)絡(luò))由大量成本較為低廉的傳感器節(jié)點(diǎn)構(gòu)成[1],節(jié)點(diǎn)采用電池供電且具有一定的感知和信息處理能力,在監(jiān)測(cè)區(qū)域內(nèi)節(jié)點(diǎn)之間采用了無(wú)線收發(fā)信號(hào)和多跳自組織的模式,形成一個(gè)互通互聯(lián)的網(wǎng)絡(luò)結(jié)構(gòu)[2]。WSNs具有組網(wǎng)便捷、成本低、可隨機(jī)部署網(wǎng)絡(luò)、節(jié)點(diǎn)開發(fā)成本低等優(yōu)勢(shì),因此在環(huán)境監(jiān)測(cè)[3]、野外作業(yè)[4]、戶外勘測(cè)[5]、醫(yī)療護(hù)理及軍事偵查等領(lǐng)域都有十分廣泛的應(yīng)用。但受限于無(wú)線傳感器節(jié)點(diǎn)的制造成本、通信功能和電能供應(yīng)情況等,WSNs鏈路通信的穩(wěn)定性遠(yuǎn)低于有線網(wǎng)絡(luò)[6],而且節(jié)點(diǎn)通常暴露在戶外環(huán)境中更容易損壞或電能耗盡,進(jìn)而出現(xiàn)網(wǎng)絡(luò)通信故障,影響到區(qū)域內(nèi)的監(jiān)測(cè)結(jié)果。由此可見,實(shí)時(shí)監(jiān)控WSNs的通信情況和網(wǎng)絡(luò)故障狀態(tài)必不可少,能夠確保WSNs始終處于正常的工作狀態(tài)。隨著無(wú)線通信技術(shù)、故障在線檢測(cè)技術(shù)和計(jì)算機(jī)軟硬件技術(shù)的不斷進(jìn)步,各種智能化故障檢測(cè)算法被不斷地應(yīng)用到WSNs故障預(yù)警和檢測(cè)之中。
WSNs有大量節(jié)點(diǎn)構(gòu)成,網(wǎng)絡(luò)故障的原因源于節(jié)點(diǎn)本身出現(xiàn)故障或節(jié)點(diǎn)之間的通信鏈路或通信協(xié)議等出現(xiàn)故障?,F(xiàn)有的國(guó)外研究主要圍繞著網(wǎng)絡(luò)節(jié)點(diǎn)的故障檢測(cè)展開,具體的檢測(cè)方法以人工智能算法、仿生算法及專家系統(tǒng)診斷方法等為主。其中人工智能故障診斷算法包括了人工神經(jīng)網(wǎng)絡(luò)、智能SVM故障分類、遺傳算法等,或基于上述算法的融合算法,能夠規(guī)避單一算法存在的不足;仿生算法以PSO算法、魚群、蜂群等算法為主,借助粒子運(yùn)動(dòng)或動(dòng)物群體智能行為等,判斷WSNs網(wǎng)絡(luò)節(jié)點(diǎn)的分布狀態(tài)。而國(guó)內(nèi)相關(guān)的學(xué)者對(duì)于WSNs節(jié)點(diǎn)故障的研究起步較晚,研究的主要方向?yàn)榛谛畔⑷诤系慕嵌葘?duì)節(jié)點(diǎn)鏈路通信故障進(jìn)行研究,或通過網(wǎng)絡(luò)鏈路的負(fù)載情況、節(jié)點(diǎn)分簇情況等,來判斷節(jié)點(diǎn)之間的通信是否存在異常。文獻(xiàn)[7]設(shè)計(jì)了一種基于通信大數(shù)據(jù)驅(qū)動(dòng)的 WSN 節(jié)點(diǎn)故障定位于故障診斷算法模型,先通過采集傳感器節(jié)點(diǎn)之間的通信鏈路工作狀態(tài)與通信信息,并構(gòu)建空間范圍內(nèi)的多維向量,判斷通信數(shù)據(jù)流是否存在異常。但多維向量的獲取和狀態(tài)判定難度較大,而且該種算法監(jiān)控難度較大監(jiān)測(cè)成本也較高,故障定位、預(yù)警和分類檢測(cè)準(zhǔn)確率有待提升;文獻(xiàn)[8]提出了一種信息融合故障算法,通過融合多個(gè)傳感器之間的通信信息,在正常的網(wǎng)絡(luò)通信負(fù)載條件下,判斷通信鏈路或傳感器節(jié)點(diǎn)是否存在異常情況。該種無(wú)線通信監(jiān)測(cè)技術(shù)的應(yīng)用范圍較為廣泛,技術(shù)成本和相關(guān)的投入也較低。但基于多傳感器融合數(shù)據(jù)監(jiān)控算法工作效率較低,導(dǎo)致網(wǎng)絡(luò)穩(wěn)定性差,數(shù)據(jù)融合處理耗時(shí)也相對(duì)較長(zhǎng),導(dǎo)致節(jié)點(diǎn)的能耗消耗過快;文獻(xiàn)[9]提出一種基于節(jié)點(diǎn)分簇的故障預(yù)警與檢測(cè)算法,先根據(jù)節(jié)點(diǎn)分布情況和位置關(guān)系選取簇首節(jié)點(diǎn)和匯聚節(jié)點(diǎn),再通過對(duì)簇首節(jié)點(diǎn)、匯聚節(jié)點(diǎn)和普通節(jié)點(diǎn)之間有效區(qū)域的劃分形成最優(yōu)通信鏈路,進(jìn)而實(shí)現(xiàn)對(duì)節(jié)點(diǎn)故障和通信鏈路現(xiàn)存故障的判定和檢測(cè)。但基于節(jié)點(diǎn)分簇的故障檢測(cè)算法,更適用于規(guī)模較小的無(wú)線通信網(wǎng)絡(luò),如果WSNs的網(wǎng)絡(luò)規(guī)模較大,故障檢測(cè)的效率和檢測(cè)精度都會(huì)同步降低。
隨著人工智能和機(jī)器學(xué)習(xí)技術(shù)不斷頸部和算法功能的不斷增強(qiáng),神經(jīng)網(wǎng)絡(luò)算法特別是深度學(xué)習(xí)算法的應(yīng)用場(chǎng)景不斷增加[10-11]。為進(jìn)一步利用深度神經(jīng)網(wǎng)絡(luò)在故障定位和數(shù)據(jù)處理方面的優(yōu)勢(shì),本文設(shè)計(jì)了一種全神經(jīng)網(wǎng)絡(luò)增強(qiáng)算法,充分發(fā)揮出深度神經(jīng)網(wǎng)絡(luò)在處理海量通信鏈路數(shù)據(jù)和節(jié)點(diǎn)故障數(shù)據(jù)方面的數(shù)據(jù)訓(xùn)練優(yōu)勢(shì),準(zhǔn)確判斷出節(jié)點(diǎn)的故障現(xiàn)象和通信鏈路的故障類型;針對(duì)于全連接神經(jīng)網(wǎng)絡(luò)參數(shù)較多及對(duì)故障數(shù)據(jù)訓(xùn)練時(shí)間較長(zhǎng)的問題,本文對(duì)全神經(jīng)網(wǎng)絡(luò)模型進(jìn)行了優(yōu)化和改進(jìn),提升對(duì)WSNs故障預(yù)警與檢測(cè)的精度,并降低算法的復(fù)雜度。
構(gòu)成WSNs的節(jié)點(diǎn)包括普通節(jié)點(diǎn),匯聚節(jié)點(diǎn)(簇首節(jié)點(diǎn))[12]和任務(wù)管理節(jié)點(diǎn),在目標(biāo)區(qū)域內(nèi)隨機(jī)投放的節(jié)點(diǎn)是普通節(jié)點(diǎn),負(fù)責(zé)采集節(jié)點(diǎn)周圍的信息,并傳遞給匯聚節(jié)點(diǎn)。普通節(jié)點(diǎn)之間也能夠?qū)崿F(xiàn)通信和數(shù)據(jù)傳輸。匯聚節(jié)點(diǎn)通過互聯(lián)網(wǎng)與任務(wù)管理節(jié)點(diǎn)之間通信,負(fù)責(zé)將輻射范圍內(nèi)所有普通節(jié)點(diǎn)采集到的信息上傳到任務(wù)管理節(jié)點(diǎn),同時(shí)向下傳遞任務(wù)管理節(jié)點(diǎn)的指令。無(wú)線傳感網(wǎng)絡(luò)的基本結(jié)構(gòu)圖,如圖1所示(設(shè)定WSNs的覆蓋區(qū)域?yàn)檫呴L(zhǎng)為3 km正方形,包含了1個(gè)任務(wù)節(jié)點(diǎn),3個(gè)匯聚節(jié)點(diǎn)和10個(gè)普通節(jié)點(diǎn)):
圖1 WSNs 的網(wǎng)絡(luò)結(jié)構(gòu)
WSNs是一種無(wú)線自組織網(wǎng)絡(luò)模型,節(jié)點(diǎn)的部署具有隨機(jī)性,而且節(jié)點(diǎn)的位置并不是固定不變的,可以隨著環(huán)境的變化而發(fā)生移動(dòng)。節(jié)點(diǎn)的初始部署完成后,分屬與不同區(qū)域的節(jié)點(diǎn)之間實(shí)現(xiàn)通信,其中能量較多、位置最優(yōu),且與任務(wù)節(jié)點(diǎn)通信距離合適的節(jié)點(diǎn)將成為匯聚節(jié)點(diǎn),負(fù)責(zé)匯總各普通節(jié)點(diǎn)的信息并將信息通過互聯(lián)網(wǎng)上傳給任務(wù)管理節(jié)點(diǎn)。節(jié)點(diǎn)是構(gòu)成WSNs的基礎(chǔ),每個(gè)節(jié)點(diǎn)(包括普通節(jié)點(diǎn)和匯聚節(jié)點(diǎn))都是一個(gè)小型的嵌入式系統(tǒng)結(jié)構(gòu),包括以下4個(gè)基礎(chǔ)模塊。
研究結(jié)果表明,在恩施煙區(qū)海拔540~1 680 m范圍內(nèi),中部煙葉煙堿和總氮含量與海拔高度呈正相關(guān),還原糖和鉀含量以及主要化學(xué)成分指標(biāo)派生值與海拔高度呈負(fù)相關(guān),但均未達(dá)顯著水平,而化學(xué)成分協(xié)調(diào)性得分則與海拔高度呈顯著負(fù)相關(guān),說明中部煙葉各主要化學(xué)成分指標(biāo)及其派生值與海拔高度的相關(guān)性不甚密切,比較而言,化學(xué)成分協(xié)調(diào)性受海拔高度影響相對(duì)較大,隨著海拔升高,協(xié)調(diào)性逐漸降低。這一結(jié)果與朱興黨[10]、王彪等[11]、沈燕金等[12]的研究結(jié)果基本一致,而與高林等[8]、曹學(xué)鴻等[9]的研究結(jié)果相反,這可能是由于取樣海拔高度的差異造成的。
圖2 WSNs節(jié)點(diǎn)內(nèi)部結(jié)構(gòu)設(shè)計(jì)
處理器模塊是節(jié)點(diǎn)的核心部分,包括了CPU單元和內(nèi)存存儲(chǔ)器,在軟件方面還包括了嵌入式的操作系統(tǒng)。處理器能夠控制節(jié)點(diǎn)的運(yùn)行、能耗管理和信息的收發(fā)等。但受限于成本、體積等,WSNs節(jié)點(diǎn)的運(yùn)算能力和管理能力都十分有限;電源模塊負(fù)責(zé)為節(jié)點(diǎn)其他模塊提供能耗,通常情況下節(jié)點(diǎn)會(huì)采用電池供電,作為匯聚節(jié)點(diǎn)無(wú)論是在電能供應(yīng)和計(jì)算能力方面都要優(yōu)于普通節(jié)點(diǎn);傳感器模塊內(nèi)置不同類型的傳感器,能夠采集節(jié)點(diǎn)周圍的溫度、濕度、氣壓等信息,并實(shí)現(xiàn)數(shù)據(jù)信息的A/D轉(zhuǎn)換[13-14];無(wú)線通信模塊包含信息收發(fā)單元、MAC單元和網(wǎng)絡(luò)通信單元,主要負(fù)責(zé)與匯聚節(jié)點(diǎn)和其他普通節(jié)點(diǎn)之間的數(shù)據(jù)交互。WSNs節(jié)點(diǎn)的通信距離有限,節(jié)點(diǎn)會(huì)根據(jù)有效的通信半徑選擇合適的匯聚節(jié)點(diǎn),而且通信效果與節(jié)點(diǎn)電池能力密切相關(guān),隨著電池能耗的不斷降低通信能力和通信質(zhì)量會(huì)隨之下降。
全神經(jīng)網(wǎng)絡(luò)的主要結(jié)構(gòu)的是全連接層,根據(jù)輸入數(shù)據(jù)集的規(guī)模調(diào)整網(wǎng)絡(luò)層數(shù),并提取節(jié)點(diǎn)故障集和通信鏈路故障集的屬性特征。當(dāng)網(wǎng)絡(luò)結(jié)果確定以后,利用全神經(jīng)網(wǎng)絡(luò)訓(xùn)練故障集同時(shí)優(yōu)選參數(shù)集,但隨著訓(xùn)練數(shù)據(jù)集規(guī)模的增大,全神經(jīng)網(wǎng)絡(luò)結(jié)果也不是固定不變的,需要根據(jù)數(shù)據(jù)訓(xùn)練情況、參數(shù)集優(yōu)選情況、損失函數(shù)變化情況和激活函數(shù)取值情況等,適時(shí)調(diào)整全神經(jīng)網(wǎng)絡(luò)的層數(shù)和數(shù)據(jù)訓(xùn)練能力。如果經(jīng)過一段時(shí)間的訓(xùn)練以后,故障集特征提取準(zhǔn)確率低且損失函數(shù)值較大,證明模型在故障集訓(xùn)練效率較低或全神經(jīng)網(wǎng)絡(luò)模型存在不收斂的情況,導(dǎo)致這種情況發(fā)生的原因包括學(xué)習(xí)率的取值存在問題,Adam優(yōu)化算法與學(xué)習(xí)率匹配存在問題等,通過調(diào)整訓(xùn)練學(xué)習(xí)率或閾值邊界θ,降低數(shù)據(jù)集的冗余度并解決模型存在的過擬合等問題,改善全神經(jīng)網(wǎng)絡(luò)的故障集訓(xùn)練效率和故障分類檢測(cè)的精度。
傳感器模塊和通信模塊是故障率較高的模塊,首先可以通過判斷傳感器的數(shù)字轉(zhuǎn)換效率和質(zhì)量,判斷出傳感器是否處于故障狀態(tài)。在t時(shí)刻采集到的節(jié)點(diǎn)傳感器信號(hào)表示為f(t):
f(t)=ηf′(t)+κ+ε(t)
(1)
其中:f′(t)為傳遞信號(hào)的真實(shí)值,η為放大倍數(shù),κ偏置量,ε(t)為信號(hào)采集誤差。與傳感器信號(hào)相關(guān)的幾個(gè)變量,如放大倍數(shù)、偏置量等都可能會(huì)影響到信號(hào)的采集。通信模塊的故障大都集中于信號(hào)的收發(fā)單元,可以通過測(cè)量數(shù)據(jù)接收率和發(fā)送率的值,判斷節(jié)點(diǎn)通信模塊是否存在故障。節(jié)點(diǎn)數(shù)據(jù)接受率r的計(jì)算過程如下:
(2)
(3)
其中:γ為模型的待更新的平滑參數(shù),η為全神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)率,φt為第t期的偏一階矩估計(jì),xt和xt-1分別為第t期和第t-1期的輸入故障數(shù)據(jù)集。Adam優(yōu)化算法通過多次的迭代,對(duì)全神經(jīng)網(wǎng)絡(luò)的神經(jīng)元的權(quán)重集偏置梯度做指數(shù)級(jí)的加權(quán)移動(dòng)評(píng)價(jià)和平滑處理,Adam優(yōu)化算法將有助于控制故障集訓(xùn)練過程中出現(xiàn)的梯度波動(dòng)異常問題,避免了提出震蕩過大現(xiàn)象的發(fā)生。利用Adam優(yōu)化算法控制模型梯度優(yōu)化,首先要對(duì)模型和sigmoid函數(shù)進(jìn)行初始化設(shè)置,每次迭代尋優(yōu)都要更新函數(shù)的梯度值和模型的梯度值,然后根據(jù)模型梯度值的最新更新結(jié)果,調(diào)整偏一階矩估計(jì)值作為偏二階矩估計(jì)值的參考值,計(jì)算一階矩估計(jì)修正偏差值,及二階矩估計(jì)修正偏差值。最后通過以上兩種值的融合結(jié)果,對(duì)模型的參數(shù)集進(jìn)行持續(xù)更新,并篩選出最佳的模型參數(shù)組合用戶故障集的訓(xùn)練和測(cè)試。與傳統(tǒng)梯度優(yōu)化算法相比,Adam優(yōu)化算法能夠同時(shí)實(shí)現(xiàn)對(duì)一階矩估計(jì)和對(duì)二階矩估計(jì),從強(qiáng)化對(duì)模型梯度消失和梯度膨脹的抑制,模型的優(yōu)化控制效果更加明顯。Adam優(yōu)化算法能夠獨(dú)立地設(shè)置與隱含層神經(jīng)元相匹配的學(xué)習(xí)率,提升神經(jīng)網(wǎng)絡(luò)數(shù)據(jù)訓(xùn)練性能和模型的收斂速度。sigmoid函數(shù)的輸出值范圍在0~1之間,因此學(xué)習(xí)率的取值也存在上下限,從另一個(gè)層面限制的可用參數(shù)的范圍,避免參數(shù)集取值范圍過大。
實(shí)時(shí)匯總和分析節(jié)點(diǎn)通信過程中產(chǎn)生的數(shù)據(jù)流,并形成故障數(shù)據(jù)集,通過判斷數(shù)據(jù)集是否存在異常進(jìn)而實(shí)現(xiàn)對(duì)WSNs的故障預(yù)警和檢測(cè)。由于WSNs中節(jié)點(diǎn)通信實(shí)時(shí)存在,通信故障集的規(guī)模較大,因此實(shí)時(shí)處理故障數(shù)據(jù)集的難度較大。
在WSNs節(jié)點(diǎn)故障診斷和通信鏈路故障診斷方式上,主要采用周期性數(shù)據(jù)采集和儲(chǔ)存模式,形成具有一定規(guī)模的故障集,再集中對(duì)一段時(shí)間內(nèi)故障集進(jìn)行故障預(yù)警和檢測(cè)。首先,由匯聚節(jié)點(diǎn)采集其他節(jié)點(diǎn)的工作信息和通信鏈路信息,并將相關(guān)的信息存儲(chǔ)于節(jié)點(diǎn)內(nèi)存之中;其次,匯聚節(jié)點(diǎn)將各節(jié)點(diǎn)信息和通信鏈路信息進(jìn)行匯總和整理,并通過互聯(lián)網(wǎng)上傳到任務(wù)管理節(jié)點(diǎn);最后,由于任務(wù)節(jié)點(diǎn)的數(shù)據(jù)處理功能較為強(qiáng)大,可以利用全神經(jīng)網(wǎng)絡(luò)增強(qiáng)算法模型,判斷出一個(gè)周期的數(shù)據(jù)集的內(nèi)部是否存在確定的故障點(diǎn),并同步做出相應(yīng)的預(yù)警和檢測(cè),故障診斷流程如圖4所示。
圖3 全連接神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)簡(jiǎn)圖
在四層次的網(wǎng)絡(luò)結(jié)構(gòu)中上一層次為下一層次的輸入層,每個(gè)層次的神經(jīng)元節(jié)點(diǎn)都包含輸入、輸出、權(quán)值、偏置函數(shù)和激活函數(shù)[17],通過權(quán)值分配完成相應(yīng)的計(jì)算任務(wù),網(wǎng)絡(luò)結(jié)構(gòu)的復(fù)雜程度和訓(xùn)練計(jì)算能力成正比,但相應(yīng)計(jì)算代價(jià)和參數(shù)集復(fù)雜度也有所提升。
神經(jīng)元節(jié)點(diǎn)是全神經(jīng)網(wǎng)絡(luò)的基礎(chǔ)結(jié)構(gòu),神經(jīng)元之間的連接鍵決定了節(jié)點(diǎn)之間的關(guān)聯(lián)關(guān)系,設(shè)xi為第i個(gè)神經(jīng)元的輸入項(xiàng),yi為輸出項(xiàng),神經(jīng)元的WSNs通信數(shù)據(jù)訓(xùn)練過程描述如下:
(4)
通過對(duì)“金口”連頭處精確測(cè)量、計(jì)算、下料等方面考慮,降低連頭施工中各因素的不利影響,并由經(jīng)驗(yàn)豐富、技術(shù)水平高而且責(zé)任心強(qiáng)的焊工進(jìn)行施焊,通過制定科學(xué)的“金口”施工人員管理制度和激勵(lì)機(jī)制,并根焊熱焊后加密檢測(cè)等質(zhì)量控制措施,從而提升長(zhǎng)輸管道“金口”連頭的整體施工效率和質(zhì)量。
術(shù)后第6天,轉(zhuǎn)至我院治療,患者神志模糊,GCS評(píng)分 12分(E4V3M5),伴發(fā)熱(38.4℃),??撇轶w見右外耳道、乳突術(shù)腔干潔,留置紗條1條,無(wú)膿性分泌物,耳后傷口干潔。當(dāng)天腦部CT提示右乳突呈術(shù)后改變;當(dāng)天血常規(guī)示白細(xì)胞升高(10.9×109);腦脊液示白細(xì)胞記數(shù)(35×106/L),紅細(xì)胞數(shù)(-),總蛋白(1.07g/L),葡萄糖(7.14mmol/L)。
(5)
但sigmoid函數(shù)也有一定缺點(diǎn),即存在梯度過飽和問題會(huì)影響到全神經(jīng)網(wǎng)絡(luò)的訓(xùn)練效率。
包括匯聚節(jié)點(diǎn)在內(nèi)的9個(gè)傳感器節(jié)點(diǎn)的故障數(shù)據(jù)特征樣本定義為C1-C9(其中匯聚節(jié)點(diǎn)為C1,普通節(jié)點(diǎn)為C2-C9),節(jié)點(diǎn)故障特征包括4種,處理器故障H1、電源故障H2,傳感器故障H3,通信模塊故障H4,節(jié)點(diǎn)之間通信鏈路故障H5,如果WSNs網(wǎng)絡(luò)沒有出現(xiàn)故障表示為H0。從每個(gè)傳感器中分別隨機(jī)采集1 000組故障樣本,共9 000組樣本,每組樣本中都包含有少量的H1-H5故障樣本,隨機(jī)提取到的故障樣本狀態(tài)如表1所示。
(6)
(7)
其中:κ為全神經(jīng)網(wǎng)絡(luò)模型數(shù)據(jù)訓(xùn)練過程中的學(xué)習(xí)率,用于控制權(quán)重調(diào)整的幅頻。根據(jù)感知機(jī)規(guī)則和要求當(dāng)樣本輸入中間隱含層時(shí)神經(jīng)元權(quán)重比例隨之調(diào)整,便于及時(shí)觀測(cè)輸出值與期望值之間的偏差。WSNs節(jié)點(diǎn)故障和通信故障問題屬于典型的非線性問題,故障集無(wú)法被線性分割,感知機(jī)在處理該類問題時(shí)通常會(huì)在多次迭代后趨于收斂,此時(shí)根據(jù)收斂結(jié)果確定最合適的權(quán)值向量?;趯W(xué)習(xí)率κ和感知機(jī)評(píng)價(jià)工具能夠?qū)敵鲋岛推谕g的誤差進(jìn)行評(píng)估,為進(jìn)一步降低全神經(jīng)網(wǎng)絡(luò)的輸出誤差,本文選擇了平方誤差函數(shù)(MSE函數(shù))作為全神經(jīng)網(wǎng)絡(luò)模型的損失函數(shù)。MSE函數(shù)主要用于對(duì)神經(jīng)網(wǎng)絡(luò)模型的參數(shù)質(zhì)量進(jìn)行評(píng)估,由于全神經(jīng)網(wǎng)絡(luò)模型的規(guī)模較大,參數(shù)系統(tǒng)較為復(fù)雜,選擇最優(yōu)的模型參數(shù)能夠有效地提高數(shù)據(jù)集訓(xùn)練效率,并縮小真實(shí)輸出值與期望值之間的偏差,MSE函數(shù)的表達(dá)式如下:
(8)
以MSE函數(shù)作為全神經(jīng)網(wǎng)絡(luò)的損失函數(shù),能夠在感知機(jī)的基礎(chǔ)上對(duì)參數(shù)集的選擇誤差情況進(jìn)行有效地評(píng)估,進(jìn)一步完善全神經(jīng)網(wǎng)絡(luò)的功能。
忙出了長(zhǎng)壽,不能不令人吃驚而深思。其實(shí),因忙而長(zhǎng)壽,蘊(yùn)含哲理。忙是使命促使,不斷進(jìn)取,顧不得其它。對(duì)待身體,也像對(duì)待孩子,越是嬌慣,孩子越是脆弱,而放手或少管,孩子反而會(huì)潑辣健壯。尤其老年人,終日閑,會(huì)覺得百無(wú)聊賴,總想著這痛那癢,甚至為死亡而憂心忡忡,這對(duì)長(zhǎng)壽有害而無(wú)益。不如向方成看齊,來個(gè)終日忙,忙得忘記了一切才好。
全神經(jīng)網(wǎng)絡(luò)模型具有強(qiáng)大的數(shù)據(jù)訓(xùn)練能力,但其結(jié)構(gòu)和參數(shù)集都過于復(fù)雜,導(dǎo)致計(jì)算代價(jià)較高,而且選擇sigmoid函數(shù)作為模型的激活函數(shù)還容易造成模型的梯度波動(dòng)、過擬合[18]、梯度爆炸或梯度消失等問題。因此本文從優(yōu)化全神經(jīng)網(wǎng)絡(luò)的模型結(jié)構(gòu)和提升模型的梯度優(yōu)化能力等兩個(gè)視角對(duì)全連接神經(jīng)網(wǎng)絡(luò)模型進(jìn)行優(yōu)化和改進(jìn)。
對(duì)于普通的神經(jīng)網(wǎng)絡(luò)模型而言,隨著網(wǎng)絡(luò)結(jié)構(gòu)復(fù)雜度的提升和中間隱含層數(shù)量的增加,網(wǎng)絡(luò)會(huì)出現(xiàn)功能退化、計(jì)算代價(jià)提升、數(shù)據(jù)訓(xùn)練效率降低及精度下降等問題。為此本文先設(shè)計(jì)了一種跳躍結(jié)構(gòu),提升模型數(shù)據(jù)訓(xùn)練的準(zhǔn)確率。跳躍結(jié)構(gòu)就是在普通層和輸出層之間增加了一個(gè)跳躍式網(wǎng)絡(luò)結(jié)構(gòu),控制網(wǎng)絡(luò)殘差并解決多層網(wǎng)絡(luò)結(jié)構(gòu)的退化問題。如果在輸入層的映射函數(shù)表示為gi(x),輸出層為yi,則跳躍層結(jié)構(gòu)是位于兩者之間的一種映射函數(shù):
yi=gi(x)+h(gi(x))
(9)
其中:h(gi(x))即為全連接神經(jīng)網(wǎng)絡(luò)的跳躍結(jié)構(gòu),負(fù)責(zé)解決各層次之間的函數(shù)映射恒等問題,即使網(wǎng)絡(luò)結(jié)構(gòu)復(fù)雜度較高,各層次集各神經(jīng)元之間的映射關(guān)系也較為清晰,同時(shí)也有助于抑制模型梯度波動(dòng)過高的問題。優(yōu)化的全神經(jīng)網(wǎng)絡(luò)模型選擇了sigmoid函數(shù)作為激活函數(shù),主要是由于sigmoid函數(shù)的平滑屬性,但sigmoid函數(shù)會(huì)引起模型的梯度波動(dòng),本文基于Adam優(yōu)化算法對(duì)全神經(jīng)網(wǎng)絡(luò)的過擬合問題和梯度波動(dòng)問題進(jìn)行優(yōu)化處理。Adam優(yōu)化算法的思路是對(duì)梯度指數(shù)進(jìn)行加權(quán)處理,進(jìn)而平滑神經(jīng)網(wǎng)絡(luò)的參數(shù),并使故障數(shù)據(jù)集訓(xùn)練中的梯度波動(dòng)的情況得到有效抑制。令vt為第t期的梯度指數(shù),迭代過程如下:
vt←γvt-1+ηφt
(10)
xt←xt-1+vt
(11)
本文提出全神經(jīng)網(wǎng)絡(luò)增強(qiáng)算法中所構(gòu)建的全神經(jīng)網(wǎng)絡(luò)模型,不同于普通的深度神經(jīng)網(wǎng)絡(luò)模型,其包含多個(gè)隱含層而且可以根據(jù)數(shù)據(jù)集的規(guī)模與復(fù)雜程度,提高隱含層的數(shù)量。每個(gè)隱含層中又包含多個(gè)神經(jīng)元結(jié)構(gòu)。各隱含層之間神經(jīng)元采用全連接方式,而處于同一層的神經(jīng)元互不連接。當(dāng)全神經(jīng)網(wǎng)絡(luò)的隱含層數(shù)量較多時(shí),神經(jīng)元之間形成的網(wǎng)絡(luò)結(jié)構(gòu)復(fù)雜度就越高,網(wǎng)絡(luò)的數(shù)據(jù)訓(xùn)練和信息表達(dá)能力也就更強(qiáng),達(dá)到檢測(cè)算法增強(qiáng)的目的。但全神經(jīng)網(wǎng)絡(luò)由于結(jié)構(gòu)過于復(fù)雜,導(dǎo)致參數(shù)集的規(guī)模較大,會(huì)面臨參數(shù)調(diào)整和參數(shù)優(yōu)選等問題,因此本文在全連接神經(jīng)網(wǎng)絡(luò)的設(shè)計(jì)過程中通過優(yōu)化損失函數(shù)和激活函數(shù)等方式,控制模型的梯度變化并確保神經(jīng)網(wǎng)絡(luò)模型的數(shù)據(jù)訓(xùn)練和處理能力[15-16]。全神經(jīng)網(wǎng)絡(luò)的基礎(chǔ)結(jié)構(gòu)設(shè)計(jì),如圖3所示(為簡(jiǎn)化設(shè)計(jì),本文以一個(gè)四層次的全神經(jīng)網(wǎng)絡(luò)為例)。
圖4 全神經(jīng)網(wǎng)絡(luò)故障預(yù)警與檢測(cè)流程
如果WSNs節(jié)點(diǎn)之間的通信信號(hào)不穩(wěn)定,檢測(cè)系統(tǒng)會(huì)將這些瞬時(shí)的信號(hào)中斷誤認(rèn)為通信故障,進(jìn)而產(chǎn)生大量的偽通信信號(hào)冗余,在基于全神經(jīng)網(wǎng)絡(luò)增強(qiáng)算法的故障檢測(cè)過程中,還要消除這些冗余信息對(duì)故障診斷的影響。設(shè)節(jié)點(diǎn)i發(fā)生真實(shí)故障的概率為piA,對(duì)應(yīng)的故障集為A,節(jié)點(diǎn)i發(fā)生瞬時(shí)故障的概率為piB,對(duì)應(yīng)的故障集為B:
其中:f為激活函數(shù)(本文選用通用性和兼容性更好的sigmoid函數(shù)),ωi是節(jié)點(diǎn)對(duì)應(yīng)連接權(quán)重,ξ為神經(jīng)元之間的連接閾值。sigmoid函數(shù)的取值區(qū)間在0至1之間,在有效的輸出值區(qū)間范圍內(nèi)sigmoid函數(shù)的優(yōu)勢(shì)在于過度平滑容易求導(dǎo),sigmoid激活函數(shù)表示為:
參考消息網(wǎng)11月19日?qǐng)?bào)道,西媒稱,租用一部高端手機(jī)一年,或者每月支付一定費(fèi)用租用時(shí)裝成為中國(guó)年輕人的新時(shí)尚,這些流行趨勢(shì)正在改變中國(guó)的消費(fèi)習(xí)慣。
piA=p(A)
(12)
piB=p(B|A)
(13)
當(dāng)piA的取值范圍在0~1之間時(shí),表明WSNs的節(jié)點(diǎn)或節(jié)點(diǎn)之間的通信鏈路真實(shí)發(fā)生了故障,而當(dāng)piB的概率不為零時(shí),診斷結(jié)果可能為真實(shí)的結(jié)果或?yàn)樘擃A(yù)警,應(yīng)對(duì)預(yù)警結(jié)果做進(jìn)一步的判斷[19-20]。將節(jié)點(diǎn)的故障周期分割為N個(gè)離散的時(shí)間段,即t1-tN,給定一個(gè)具有參考意義的閾值邊界θ,通過概率判斷節(jié)點(diǎn)為正常狀態(tài)的次數(shù)優(yōu)先達(dá)到閾值后,可以證明該節(jié)點(diǎn)的狀態(tài)為正常狀態(tài)(節(jié)點(diǎn)存在虛預(yù)警情況);如果節(jié)點(diǎn)經(jīng)過多次迭代尋優(yōu)后,仍無(wú)法達(dá)到閾值邊界θ,表明該節(jié)點(diǎn)自身通信存在問題,或與該節(jié)點(diǎn)相關(guān)的通信鏈路也存在一定的問題:
(14)
在公式(14)的情況下,表明節(jié)點(diǎn)的故障診斷和通信鏈路的結(jié)果正常,不存在故障。
(15)
在公式(15)的情況下,表明節(jié)點(diǎn)的故障診斷和通信鏈路的結(jié)果不正常,可以視為已經(jīng)出現(xiàn)了WSNs節(jié)點(diǎn)故障預(yù)警。當(dāng)概率取值在0和θ之間時(shí),需要重復(fù)檢測(cè)和判斷并調(diào)整閾值范圍,并繼續(xù)利用全神經(jīng)網(wǎng)絡(luò)增強(qiáng)算法訓(xùn)練故障集,并消除冗余數(shù)據(jù)和虛預(yù)警現(xiàn)象。
WSNs出現(xiàn)度故障主要是節(jié)點(diǎn)故障,而且節(jié)點(diǎn)的幾個(gè)組成部分都有可能出現(xiàn)一個(gè)或多個(gè)故障。首先處理器模塊的故障有溫度過高出現(xiàn)預(yù)警和數(shù)據(jù)傳輸失效,處理器由于超頻工作、服役過久或嵌入式系統(tǒng)故障,而導(dǎo)致WSNs局部功能失效;最后由于節(jié)點(diǎn)內(nèi)存老化,讀寫錯(cuò)誤等導(dǎo)致數(shù)據(jù)存儲(chǔ)功能失效;其次,電源模塊的故障主要表現(xiàn)為電壓降低、電壓波動(dòng)或不穩(wěn)。通常情況下由于電能消耗節(jié)點(diǎn)供電電壓都會(huì)出現(xiàn)一定程度的降低,但如果服役時(shí)間較短的節(jié)點(diǎn)供電電壓低于2 V,節(jié)點(diǎn)正常的通信工作將無(wú)法完成,或傳遞的數(shù)據(jù)質(zhì)量呈現(xiàn)出顯著下降的趨勢(shì)。
為驗(yàn)證本文提出的全神經(jīng)網(wǎng)絡(luò)增強(qiáng)算法在WSNs故障預(yù)警與檢測(cè)中的表現(xiàn),基于MATLAB仿真軟件設(shè)計(jì)了一組仿真實(shí)驗(yàn)。實(shí)驗(yàn)中所用PC機(jī)的配置如下:CPU intel Core i9 13900ks,CPU最高主頻3.6 GHz,運(yùn)行內(nèi)存為16 GB,存儲(chǔ)規(guī)格為2 TB,操作系統(tǒng)為Windows2010專業(yè)版。為簡(jiǎn)化實(shí)驗(yàn)環(huán)境設(shè)置,在1 km*1 km的仿真區(qū)域內(nèi)隨機(jī)布置了1個(gè)匯聚節(jié)點(diǎn)和8個(gè)普通節(jié)點(diǎn),如圖5所示。
圖 5 WSNs仿真環(huán)境設(shè)置
無(wú)論是匯聚節(jié)點(diǎn)還是普通節(jié)點(diǎn)都被安裝了故障屬性特征檢測(cè)器,因此這些節(jié)點(diǎn)都具有有了故障特征提取功能,實(shí)驗(yàn)的步驟設(shè)置如下。
1.4.2 搭建成本分析。對(duì)2015年建造避雨棚時(shí)所用的搭建成本進(jìn)行統(tǒng)計(jì),包括用工、肥料、避雨棚膜、架材、苗木等。
1)設(shè)置仿真環(huán)境和仿真區(qū)域,同時(shí)在仿真環(huán)境下調(diào)試軟硬件的運(yùn)行情況。
傷口換藥是外科治療的重要組成部分,換藥質(zhì)量是傷口良好愈合的關(guān)鍵,在臨床工作中發(fā)現(xiàn),外傷患者其傷口愈合情況與清創(chuàng)縫合術(shù)后首次換藥時(shí)間有直接的關(guān)系。首次換藥時(shí)間不同,患者表現(xiàn)出的疼痛感、敷料與傷口粘連程度、換藥時(shí)所用的鹽水棉球量及時(shí)間、新生肉芽組織損傷滲血、傷口周圍紅腫、傷口愈合情況等均有不同。為保護(hù)新生肉芽組織,減少痂皮損傷,促進(jìn)傷口的愈合,我科于2009年10月—2011年10月對(duì)清創(chuàng)縫合術(shù)后需要換藥的患者給予不同時(shí)間換藥,觀察傷口的愈合情況,現(xiàn)報(bào)道如下。
2)基于節(jié)點(diǎn)特征檢測(cè)器,提取相關(guān)的故障特征數(shù)據(jù),構(gòu)建用于檢驗(yàn)的數(shù)據(jù)集。
3)選擇實(shí)驗(yàn)驗(yàn)證的數(shù)值指標(biāo)(故障檢測(cè)率、分類檢測(cè)、虛預(yù)警率等)。
4)提取數(shù)據(jù)并基于進(jìn)行MATLAB仿真軟件對(duì)數(shù)據(jù)的結(jié)果進(jìn)行分析。
1.中科院化學(xué)所研制的晶體材料——納米四氧化三鐵,在核磁共振造影及醫(yī)藥上有廣泛用途,其生產(chǎn)過程的部分流程如下所示。
電子商務(wù)平臺(tái)和交易的發(fā)展拉動(dòng)了消費(fèi)也為社會(huì)民眾提供了便利,但對(duì)于其中出現(xiàn)的問題要通過法律及時(shí)探查并解決,規(guī)則設(shè)置既要考慮到基本法理也要注重電子商務(wù)合同的特殊性。
表1 部分故障樣本狀態(tài)分布統(tǒng)計(jì)
表1中取值0表示節(jié)點(diǎn)或鏈路狀態(tài)正常,如果取值為1表明存在故障,全部的故障集設(shè)為X,包含了9 000組樣本作為模型的輸入項(xiàng),輸入數(shù)據(jù)的訓(xùn)練過程如公式(16)所示:
(16)
其中:X為采集樣本神經(jīng)元的輸入項(xiàng),Y為模型的輸出項(xiàng),ωi是節(jié)點(diǎn)對(duì)應(yīng)連接權(quán)重,ξ為神經(jīng)元之間的連接閾值,f為全神經(jīng)網(wǎng)絡(luò)模型的激活函數(shù),基于輸出樣本的結(jié)果,進(jìn)行后續(xù)的指標(biāo)對(duì)比分析,數(shù)據(jù)的訓(xùn)練過程在MATLAB仿真環(huán)境下進(jìn)行
直接數(shù)字化攝影檢查技術(shù)是依據(jù)非晶硒平板檢測(cè)器來轉(zhuǎn)換X線形成數(shù)字圖像,不發(fā)生光學(xué)成分失真以及衰減現(xiàn)象[2],有利于圖像信息真實(shí)性和圖像質(zhì)量的保證,直接數(shù)字化攝影技術(shù)的時(shí)間減影即為不同時(shí)間下兩次數(shù)字?jǐn)z影胸片相減的結(jié)果,可對(duì)病變動(dòng)態(tài)變化進(jìn)行充分顯示[3-4],且能量減影有利于對(duì)某些特定組織的顯示,可將肋骨遮擋祛除,進(jìn)而對(duì)肺組織病變以及淋巴結(jié)鈣化進(jìn)行更好地顯示。直接數(shù)字化攝影檢查具有曝光寬容度大、易于控制、不必洗片、不必重照等優(yōu)勢(shì),可減少輻射,提升工作效率。且存在更高的圖像清晰度以及密度分辨率,擁有豐富的圖像層次,提升圖像質(zhì)量[5-6]。
將實(shí)驗(yàn)中形成9 000組故障樣本混合并隨機(jī)分為10組,每組樣本中都包含有不同的故障類型,分別利用本文提出的全神經(jīng)網(wǎng)絡(luò)算法和3種傳統(tǒng)算進(jìn)行故障檢測(cè)和故障分類,判斷各算法對(duì)于故障異常預(yù)警準(zhǔn)確率(檢測(cè)出的故障樣本數(shù)與每組全體樣本數(shù)的比值)和分類準(zhǔn)確率(檢測(cè)出的每種樣本數(shù)與實(shí)際樣本數(shù)比值,再求5種故障樣本分類準(zhǔn)確率均值),統(tǒng)計(jì)結(jié)果如表2和表3所示。
仿真數(shù)據(jù)分析結(jié)果顯示:無(wú)論是故障預(yù)警與檢測(cè)率,還是多種不同故障的分類檢測(cè)率值,全神經(jīng)網(wǎng)絡(luò)增強(qiáng)算法都要優(yōu)于3種傳統(tǒng)算法。這表明全神經(jīng)網(wǎng)絡(luò)增強(qiáng)算法模型的數(shù)據(jù)訓(xùn)練能力和分類檢測(cè)能力均較強(qiáng)。全神經(jīng)網(wǎng)絡(luò)增強(qiáng)算法,還對(duì)WSNs中的偽故障特征和冗余特征進(jìn)行了處理,有效控制了虛預(yù)警率,檢測(cè)各算法的虛預(yù)警率變化情況,如圖6所示。
表2 故障預(yù)警與檢測(cè)準(zhǔn)確率
表3 不同類型故障分類檢測(cè)率
圖6 虛預(yù)警率變化曲線對(duì)比
當(dāng)故障樣本集規(guī)模超過6 000以后,3種傳統(tǒng)算法的虛預(yù)警率開始增加,當(dāng)樣本量超過8 000以后虛預(yù)警率快速增加,表明傳統(tǒng)故障檢測(cè)算法在應(yīng)對(duì)大規(guī)模數(shù)據(jù)集時(shí)的檢測(cè)率衰減過快;而全神經(jīng)網(wǎng)絡(luò)增強(qiáng)算法的虛預(yù)警率得到較好的控制,這與算法在數(shù)據(jù)訓(xùn)練中剔除了大量冗余故障數(shù)據(jù)密切相關(guān),降低了數(shù)據(jù)訓(xùn)練的難度和數(shù)據(jù)集的規(guī)模。
故障定位預(yù)警與故障檢測(cè)的效率對(duì)于WSNs網(wǎng)絡(luò)穩(wěn)定運(yùn)行至關(guān)重要,如果WSNs中包含了大量節(jié)點(diǎn),意味了獲取到的故障集規(guī)模更大,且節(jié)點(diǎn)發(fā)生故障的概率更高,無(wú)論是從成本視角考慮還是從實(shí)用性角度考慮,都有必要降低節(jié)點(diǎn)故障預(yù)警與檢測(cè)的耗時(shí),在4.1節(jié)設(shè)定的仿真環(huán)境下,分析不同算法對(duì)于每組故障數(shù)據(jù)集檢測(cè)耗時(shí)情況,統(tǒng)計(jì)分析結(jié)果如圖7所示。
圖7 各組數(shù)據(jù)的故障檢測(cè)耗時(shí)情況分析
全神經(jīng)網(wǎng)絡(luò)增強(qiáng)算法處理每組數(shù)據(jù)的耗時(shí)在10 s左右,而其他3種傳統(tǒng)算法的耗時(shí)都超過了20 s,當(dāng)節(jié)點(diǎn)眾多和故障集的規(guī)模較大時(shí),全神經(jīng)網(wǎng)絡(luò)增強(qiáng)算法的優(yōu)勢(shì)會(huì)更加明顯。最后,分析各算法模型處理完成故障集后,各節(jié)點(diǎn)剩余能耗情況,節(jié)點(diǎn)的能耗與WSNs網(wǎng)絡(luò)壽命密切相關(guān),節(jié)點(diǎn)能耗消耗過快與不合理的鏈路匹配及數(shù)據(jù)冗余有關(guān),節(jié)點(diǎn)剩余能耗的統(tǒng)計(jì)分析結(jié)果,如表4所示。
分析處理各組故障集完畢后,在全神經(jīng)網(wǎng)絡(luò)增強(qiáng)算法控制下WSNs未出現(xiàn)死亡節(jié)點(diǎn),每個(gè)節(jié)點(diǎn)剩余能量占比也要優(yōu)于3種傳統(tǒng)算法;而3種傳統(tǒng)算法控制下都出現(xiàn)了能量耗盡的死亡節(jié)點(diǎn),會(huì)WSNs的功能產(chǎn)生一定的不利影響,加速網(wǎng)絡(luò)通信功能的衰減。
綜上所述,在計(jì)算能機(jī)網(wǎng)絡(luò)中進(jìn)行安全管理,不僅需要管理者加強(qiáng)對(duì)網(wǎng)絡(luò)安全的重視,培養(yǎng)安全意識(shí),還需要積極進(jìn)行對(duì)網(wǎng)絡(luò)技術(shù)的發(fā)展,不斷的進(jìn)行對(duì)技術(shù)層次上的漏洞進(jìn)行防范,提高網(wǎng)絡(luò)安全的系數(shù),促進(jìn)計(jì)算機(jī)網(wǎng)絡(luò)的安全運(yùn)行。
實(shí)例 3:“I advised Mr.Darcy,and Lizzy,and Kitty,said Mrs.Bennet,to walk to Oakham Mount this morning.It is a nice long walk,and Mr.Darcy has never seen the view.”
隨著網(wǎng)絡(luò)通信技術(shù)的發(fā)展,WSNs的應(yīng)用場(chǎng)景越來越多,WSNs具有組網(wǎng)便捷和適應(yīng)性強(qiáng)等特點(diǎn),尤其在野外和相對(duì)惡劣的環(huán)境下優(yōu)勢(shì)更加明顯。但受限于節(jié)點(diǎn)的成本和功能,WSNs的網(wǎng)絡(luò)穩(wěn)定性有待強(qiáng)化,因此實(shí)時(shí)對(duì)網(wǎng)絡(luò)運(yùn)行狀態(tài)進(jìn)行監(jiān)控并及時(shí)排除故障,能夠確保WSNs的基礎(chǔ)功能正常發(fā)揮。為提升對(duì)通信故障集分類檢測(cè)的準(zhǔn)確率,本文設(shè)計(jì)了一種全神經(jīng)網(wǎng)絡(luò)增強(qiáng)算法模型,從網(wǎng)絡(luò)總體層次結(jié)構(gòu)設(shè)計(jì)、激活函數(shù)選擇、梯度異常波動(dòng)抑制和虛預(yù)警率控制等多個(gè)方面,全面優(yōu)化WSNs的性能。仿真結(jié)果顯示,全神經(jīng)網(wǎng)絡(luò)增強(qiáng)算法的故障分類檢測(cè)率更高,耗時(shí)較少,通信效率高且網(wǎng)絡(luò)的穩(wěn)定性較強(qiáng)。