劉琳嵐，肖庭忠，舒 堅，牛明曉

(1.南昌航空大學 信息工程學院，江西 南昌 330063；2.南昌航空大學 軟件學院，江西 南昌 330063)

無線傳感器網絡（wireless sensor network，WSN）是一種由大量具有感知能力和通信能力的微型節(jié)點部署在感知區(qū)域形成的網絡[1]，在環(huán)境監(jiān)測[2]、智能交通[3]、智能家具[4]等領域廣泛應用。通過預測鏈路質量，選擇高質量鏈路進行數(shù)據傳輸，可以減少數(shù)據丟失和數(shù)據重傳次數(shù)，提高網絡的吞吐量[5–6]，因此，鏈路質量預測具有重要意義。

鏈路質量預測的方法主要包括：基于鏈路特性的方法、基于概率估計的方法和基于機器學習的方法[7]?；阪溌诽匦缘姆椒ㄖ饕捎媒邮招盘枏姸戎笜耍╮eceived signal strength indication，RSSI）、鏈路質量指標（link quality indicator，LQI）或信噪比（signal noise ratio，SNR）等物理層參數(shù)預測鏈路質量，這些參數(shù)可以直接獲取，不需額外的計算，能耗低，但這些參數(shù)均依賴于節(jié)點，而硬件本身存在校準誤差，且忽略了分組丟失，易產生高估鏈路質量的問題?；诟怕使烙嫷姆椒ㄍㄟ^發(fā)送大量探測包，接收端計算包接收率（packet reception rate，PRR）等信息來預測鏈路質量[8]，但是該方法需要發(fā)送大量探測包，不僅增加了額外的通信開銷，且對鏈路狀況的反應不夠靈敏。

基于機器學習的鏈路質量預測方法主要通過將鏈路質量預測問題轉化為時序預測問題，利用機器學習或深度學習的方法挖掘訓練樣本的特征，深入學習模型輸入與輸出之間的潛在關系，利用得到的模型對下一時刻的鏈路質量進行預測。Liu等[9]提出4C （Foresee)，將LQI和PRR輸入邏輯回歸模型，預測下一時刻的PRR，然而該方法的預測準確率并不高；Liu等[10]提出一種預測大波動鏈路質量的方法，命名為WNN_LQP（wavelet neural network based link quality prediction），該方法利用過渡區(qū)鏈路質量指標的高分辨率以及小波神經網絡的學習能力預測下一時刻的鏈路質量，然而對于相對較小的波動，該模型無法進行準確預測；Xue等[11]提出一種基于隨機向量函數(shù)鏈的鏈路質量預測方法（link quality prediction based on random vector functional link，RVFL_LQP），選擇SNR為鏈路質量參數(shù)，利用隨機向量函數(shù)鏈建立時變序列和隨機序列方差，對SNR的概率保證區(qū)間邊界進行預測，但在真實應用中該結果無法快速反映鏈路是否可用；Xu等[12]提出一種基于循環(huán)神經網絡（recurrent neural network，RNN）的鏈路質量預測方法（recurrent neural network based link quality prediction，RNN_LQP），降低了預測誤差，但RNN內部結構復雜、訓練周期長，且易出現(xiàn)梯度消失、梯度爆炸等問題[13]，導致RNN_LQP模型復雜度高，模型效果不穩(wěn)定。采用機器學習的方法能夠有效地挖掘出訓練樣本的特征，相比基于鏈路特性的方法和基于概率估計的方法，具有更高的準確性和穩(wěn)定性，是目前WSN鏈路質量預測的主流方法，因此本文使用機器學習的方法進行鏈路質量預測研究。

GRU作為RNN的一種變體，在時序問題建模方面比其他機器學習方法更有優(yōu)勢[14]，且已被證明在時序預測問題上具有更好的預測效果[15]?，F(xiàn)有研究中，Abdel–Nasser等[16]將GRU應用于無線社交網絡中的鏈路質量預測中，并取得不錯的效果。

因此，本文提出一種基于門控循環(huán)單元（gate recurrent unit，GRU）的鏈路質量預測方法，具體可分為3個步驟：首先，采用Gap Statistic算法優(yōu)化的K-means++聚類算法，自適應地劃分鏈路質量等級，避免由于人為選定臨界點帶來的誤差干擾，獲得更加貼近真實的鏈路質量樣本標簽。其次，采用CatBoost構建鏈路質量評估模型，對當前時刻的鏈路質量進行評估。最后，采用GRU構建鏈路質量預測模型，將評估模型的結果作為輸入，借助GRU在時序問題上的優(yōu)勢提取鏈路質量等級的時序信息，采用支持向量回歸機（support vector regression，SVR）預測得到下一時刻鏈路質量等級，提高鏈路質量預測的準確率。

1 鏈路質量等級劃分

本文采用Gap Statistic算法[17]優(yōu)化的K-means++算法[18]對PRR進行聚類，劃分鏈路質量等級，獲得鏈路質量樣本標簽。

1.1 Gap Statistic算法

Gap Statistic算法以樣本集的統(tǒng)計規(guī)律為基礎，通過間隙統(tǒng)計量刻畫樣本觀察值和參考分布下期望值之間的差異，得到最佳聚類數(shù)。本文采用Gap Statistic算法確定聚類數(shù)目，具體過程描述如下：

1）對于任意兩個PRR樣本pm和pm′，計算它們之間的距離dmm′：

式中：m=1,2,···,N；m′=1,2,···,N；m≠m′；N為PRR樣本數(shù)。

2）假設將PRR樣本集分為K類{C1,C2,···,Ck,···,CK} ，計算第k類中樣本距離總和Dk：

式中， |Ck|為 第k類樣本數(shù)目。

計算所有類的樣本距離的平均和WK：

3）對WK取對數(shù)，并與使用蒙特卡洛模擬對數(shù)的期望進行比較，如式（4）所示：

式中，E?(lb(WK)) 為 使用蒙特卡洛模擬得到的lb(WK)的期望。

4）取使式（5）成立的最小值K為PRR樣本集的最佳聚類數(shù)目。

式中，sK+1為修正后的標準差，其表達式為：

1.2 改進的K-means++算法

K-means算法實現(xiàn)簡單，聚類效果好，非常容易部署實施，在機器視覺、地質統(tǒng)計學等領域得到成功的應用[19]。K-means算法需要提前給出聚類數(shù)目K，但在不同的數(shù)據集中K的取值很難確定[20]，由于隨機選擇K個樣本點作為聚類中心，不同的初始聚類中心可能導致不同的聚類結果[21]。與K-means算法不同，K-means++算法在選取聚類中心時，盡量使聚類中心互相離得遠，可減小聚類結果的波動。

本文采用Gap Statistic算法確定聚類數(shù)目K，再采用K-means++算法劃分鏈路質量等級，具體過程如下：

1） 采用Gap Statistic算法確定K。

2） 從PRR樣本集中隨機選擇一個樣本點作為第一個初始化聚類中心。

3） 計算PRR樣本與它最近聚類中心的歐式距離D(pm)：

式中，p為 距離pm最近的聚類中心。

4） 計算樣本被選為下一個聚類中心的概率Q(pm)，如式（8）所示，并使用輪盤法選出下一個聚類中心。

5） 重復步驟3）和4），直到選出K個聚類中心。

6） 將每個樣本點歸類到離它最近聚類中心所屬的類。

7） 重新計算每個聚類內PRR的均值，將其定為新的聚類中心。

8） 重復步驟6）和7），直至聚類中心不再變化。

9） 得到每個樣本xi的 鏈路質量等級yi。

2 鏈路質量評估

以鏈路質量參數(shù)作為輸入，第1節(jié)得到的鏈路質量等級作為輸出，采用CatBoost構建鏈路質量評估模型，主要包括評估樣本的構建、樣本預處理及評估模型的構建。

2.1 評估樣本的構建

本文選取RSSI均值、LQI均值和SNR均值為鏈路質量參數(shù)，采用鏈路質量等級評價鏈路質量。鏈路質量樣本集為：

式中：xi=()，其中，為樣本xi的RSSI均值，為樣本xi的LQI均值，為樣本xi的SNR均值；yi為樣本xi的鏈路質量等級；N為樣本數(shù)。

2.2 樣本的預處理

由于傳感器節(jié)點在收發(fā)信息時會受到多徑效應、信道、溫濕度或障礙物等的干擾，收集到的數(shù)據存在缺失值，本文計算缺失值樣本在一個發(fā)送周期內的均值，采用均值填充法對樣本進行預處理。

2.3 基于CatBoost的鏈路質量評估模型的構建

CatBoost 是由Yandex的研究人員和工程師開發(fā)的基于梯度提升決策樹（gradient boosting decision tree，GBDT）的機器學習模型[22]，采用排序提升算法替換GBDT中的梯度估計方法[23]，能夠減少GBDT算法中因梯度偏差和預測偏移而導致的過擬合問題，有著更好的泛化能力[24]。

本文提出基于CatBoost的鏈路質量評估模型（link quality estimation based on CatBoost，CatBoost_LQE），其中，排序提升算法描述如下：

1）對訓練集中 τ個樣本對進行隨機排列，將序列標記為 ψ。

2）對于每一個樣本對 (xi,yi)，初始化該樣本對的模型Mi。

3）對于每一輪迭代：

①計算樣本xi的無偏度梯度估計：

②對于每一個樣本對 (xi,yi)，使用該樣本對在序列 ψ之前的訓練集 (xj,gj):ψ(j)≤i訓練下一個分類回歸樹 ?M，將其更新到模型中，如式（11）所示：

4）迭代完成，輸出Mτ即為最終模型。

設第e?1 輪迭代得到的學習器為Fe?1(·)，計算Fe?1(·) 的梯度ge?1(xi,yi)：

式中，E(yi,Fe?1(xi))為Fe?1(·)的損失。

將第e?1輪的負梯度作為殘差，傳遞到第e輪，找到一個新的弱學習器he(·)， 使損失值最小，he(·)表達式如下：

得到最終的強學習器Fe(·)：

3 鏈路質量預測

根據鏈路質量在短期內表現(xiàn)出強時間相關性的特點，本文采用CatBoost_LQE得到的鏈路質量等級時間序列作為輸入，采用滑動窗口法確定輸入序列的長度，進而構建基于GRU的鏈路質量預測模型。

3.1 預測樣本的構建

采用CatBoost_LQE對歷史鏈路質量樣本進行評估，得到鏈路質量等級值序列 {l1,l2,···,li,···,ln}，其中，li為第i個時刻鏈路質量等級值，n為樣本數(shù)。使用大小為w的時間窗口構建時序樣本集：

式中：鏈路質量等級時間序列Ii={li,li+1,···,li+w?1}；?i=li+w，?i作為標簽值。

展會注重與行業(yè)協(xié)會緊密合作，浙江省環(huán)保機械行業(yè)協(xié)會、宜興市環(huán)保產業(yè)協(xié)會等多家與主辦方長期合作的行業(yè)協(xié)會將為展會帶來更多優(yōu)質的污水處理設備廠商新面孔。浙江省大型環(huán)境工程公司、浙江海拓環(huán)境技術有限公司、浙江四通環(huán)境工程有限公司、浙江弘潤機械制造有限公司、浙江愛迪曼水科技有限公司等早已確定集體出展，向專業(yè)觀眾展示最新處理技術和解決方案。

滑動時間窗口的大小影響模型的預測結果。如果時間序列過短，就會導致歷史信息學習的缺失；反之，如果時間序列太長，則會增加模型的復雜度，甚至使預測效果變差。本文通過實驗確定時間窗口大小。

3.2 基于GRU的鏈路質量預測

本文利用GRU能夠很好地處理和預測序列數(shù)據的優(yōu)點，構建鏈路質量預測模型GRU_LQP（link quality prediction based on gate recurrent unit），如圖1所示。

圖1 GRU_LQP的結構Fig.1 Structure of GRU_LQP

由圖1可知：GRU_LQP包括輸入層、GRU模塊層、全連接層和輸出層。輸入鏈路質量等級時間序列{li,li+1,···,li+w?1}，通過GRU模塊中的GRU單元學習輸入序列之間的時序關系，通過全連接層集成鏈路質量等級時序特征。為了增強鏈路質量預測模型的泛化性，在全連接層中加入Dropout操作，設置其縮放權重為0.5[25]。選用Softmax函數(shù)映射得到下一時刻各等級的概率，實現(xiàn)鏈路質量預測。

GRU模塊使用多個GRU單元的堆疊實現(xiàn)對輸入鏈路質量等級時間序列的學習，GRU單元的結構如圖2所示。圖2中，ht?1為 前個GRU的隱藏層輸出，lt為本輪GRU輸入的鏈路質量等級， σ為Sigmoid函數(shù)，zt和rt分別為GRU的更新門和重置門，為經過更新的中間狀態(tài)，ht為本輪GRU的隱藏層輸出。

圖2 GRU的結構Fig.2 Structure of GRU

GRU主要通過兩個門控對鏈路質量等級信息進行更新，更新門zt用于控制前一個狀態(tài)中鏈路質量等級信息被代入到當前狀態(tài)的程度，更新門的值越接近1，說明代入了更多前一個狀態(tài)的鏈路質量等級信息。重置門rt控制前一狀態(tài)有多少鏈路質量等級信息被寫入到當前的候選集上，重置門越小，前一狀態(tài)的鏈路質量等級信息被寫入得越少。通過Sigmoid 函數(shù)將數(shù)據變換到0～1之間，并結合乘法操作可以實現(xiàn)對輸入鏈路質量等級信息及歷史鏈路質量等級信息的選擇性重置。

GRU的計算過程如式（16）～（19）所示：

式（16）～（19）中，wr為重置門的權重，wz為更新門的權重，whˉ為中間狀態(tài)的權重。

本文使用隨機梯度下降法優(yōu)化權重參數(shù)wr、wz、whˉ，學習率取經驗值0.01。

3.3 預測模型的優(yōu)化

為了進一步提高鏈路質量預測的準確率，本文采用SVR作為鏈路質量等級預測器，優(yōu)化GRU_LQP，構建了GRU_SVR（link quality prediction based on gate recurrent unit and support vector regression）鏈路質量預測模型，如圖3所示。

圖3 GRU_SVR的結構Fig.3 Structure of GRU_SVR

GRU_SVR的參數(shù)設置如表1所示。

表1 GRU_SVR參數(shù)Tab.1 Parameters of GRU_SVR

3.4 模型評價

本文采用均方誤差（mean square error，MSE）評價預測結果，MSE的計算式為：

式中， ?i為樣本中輸入鏈路質量等級時間序列的標簽，為預測值。MSE值越小則表明預測模型預測誤差越小，性能越好。

4 實驗設計與結果分析

在3個真實場景中進行實驗，通過與同類模型對比驗證本文模型的有效性。

4.1 實驗設計

分別在實驗室、走廊及停車場布置傳感器節(jié)點，如圖4所示。實驗室場景中，無線設備及人員的走動等對鏈路質量造成影響；走廊場景中，節(jié)點產生的串擾及人員的走動等對鏈路質量造成影響；停車場場景中，車輛出入及車載設備等對鏈路質量造成影響。

圖4 實驗場景Fig.4 Experimental scenarios

實驗在南昌航空大學物聯(lián)網實驗室開發(fā)的WSN鏈路質量測試平臺（wireless sensor networks link quality testbed，WSN–LQT）[25]上進行，連續(xù)3天收集RSSI、LQI、SNR、PRR等鏈路質量數(shù)據，將預處理后的鏈路質量樣本集以7∶3的比例劃分為評估模型的訓練集和測試集，根據評估結果構建鏈路質量等級時序樣本集，并以7∶3的比例劃分為預測模型的訓練集和測試集。WSN–LQT中參數(shù)設置如表2所示。

表2 WSN–LQT參數(shù)Tab.2 Parameters of WSN–LQT

4.2 主要實驗參數(shù)確定

1）聚類數(shù)目

采用Gap Statistic算法確定聚類數(shù)目K，采用Kmeans++聚類算法對PRR聚類，得到鏈路質量等級。設Γ=Gap(K)?Gap(K+1)+sK+1，3個實驗場景中不同K值對應的Γ 值如圖5所示。

圖5 不同K值對應的 Γ值Fig.5 Values of Γ corresponding to different K values

由圖5可知，3個實驗場景中，使式（5）成立的K值均為3。因此，將實驗室、走廊及停車場3個實驗場景的PRR均劃分為3個鏈路質量等級，其中，第1等級的鏈路為鏈路質量差的鏈路，第2等級的鏈路為鏈路質量中等的鏈路，第3等級的鏈路為鏈路質量好的鏈路。

2）評估模型的參數(shù)

CatBoost_LQE評估模型的參數(shù)主要有：學習率lr、L2正則參數(shù)l2_leaf_reg、樹的深度depth、決策樹最大的數(shù)量iterations。為了提高CatBoost_LQE的評估準確率，本文采用網格搜索法對上述參數(shù)尋優(yōu)，結果如表3所示。

表3 CatBoost_LQE的參數(shù)值Tab.3 Parameter values of CatBoost_LQE

3）滑動時間窗口的大小

本文通過對比不同時間窗口下GRU_SVR的MSE，選擇合適的時間窗口大小。3個場景中，不同的時間窗口下GRU_SVR的MSE結果如圖6所示。

圖6 GRU_SVR的MSE Fig.6 MSE of GRU_SVR

由圖6可知，滑動時間窗口大小影響預測模型的準確率。在實驗室場景中，滑動時間窗口大小為10時，MSE值最小。在停車場和走廊場景中，滑動時間窗口大小為9時，MSE值最小。因此，實驗室、走廊及停車場場景中，滑動時間窗口的大小分別設置為10、9、9。

4.3 模型的驗證

為驗證GRU_SVR預測模型的有效性，與GRU_LQP、4C[9]、WNN_LQP[10]、RFVL_LQP[11]及RNN_LQP[12]預測模型進行對比，結果如圖7所示。

圖7 不同預測模型的MSE值Fig.7 MSE values of different prediction models

由圖7可知：實驗室場景中，干擾較多，鏈路質量整體較差，GRU_SVR的均方誤差最小。走廊實驗場景中，鏈路的干擾較少，鏈路質量整體較好，GRU_SVR的均方誤差也是最小的?？梢姡cGRU_LQP、4C、WNN_LQP、RFVL_LQP及RNN_LQP預測模型相比，本文提出的GRU_SVR預測模型無論是在鏈路質量較差還是較好的環(huán)境中，均有更好的預測準確率。

5 結 論

本文提出一種基于GRU的鏈路質量預測方法。首先，采用基于Gap Statistic算法優(yōu)化的K-means++算法劃分鏈路質量等級，獲得樣本標簽；然后，選擇RSSI、LQI、SNR作為輸入，基于CatBoost構建鏈路質量評估模型，評估當前時刻的鏈路質量，在不同場景中使用網格搜索法優(yōu)化評估模型的參數(shù)；最后，采用GRU學習鏈路質量等級序列的時序信息，采用SVR預測下一時刻的鏈路質量等級。在真實世界中，部署節(jié)點并收集數(shù)據進行實驗，結果表明相比于其他模型，本文所提模型具有更低的預測誤差。下一步將致力于解決鏈路質量數(shù)據不平衡給鏈路質量預測帶來的影響，進一步提高鏈路質量預測的準確率。