馬永連,張登銀

(南京郵電大學 物聯(lián)網(wǎng)學院,江蘇 南京 210023)

0 引 言

當下,國內社會老齡化問題嚴重,獨居的中老年人在缺少看護的情況下,在室內摔倒后果通常會很嚴重,甚至可能會導致死亡[1]。采用攝像頭監(jiān)控[2]的方式無法在無光環(huán)境中正常工作,并且會侵犯人們的隱私,而穿戴設備[3]在實際應用時因忘記佩戴設備以及有限的電池容量對使用者不太友好。無線信號不受光的限制[4],不侵犯人們的隱私,并且容易獲取。Seifeldin[5]在2013年首次提出了基于WiFi信號接收強度RSSI(Received Signal Strength Information)的室內人體行為識別系統(tǒng),但是研究者發(fā)現(xiàn)RSSI存在以下缺陷:(1)RSSI衡量的是多徑信號傳播的疊加效應,無法區(qū)分多條信號傳播路徑;(2)RSSI位于媒體訪問控制(Medium Access Control,MAC)層,不包含可學習的物理層信息[6]。因此,近些年來,RSSI在無線感知方面逐漸被信道狀態(tài)信息(Channel State Information,CSI)[7-10]所替代。C. Han等人提出的摔倒檢測系統(tǒng)Wi-Fall[7]是第一個使用CSI進行摔倒檢測的,作者利用CSI的歸一化標準差、信號強度偏移等七個特征作為聯(lián)合特征,利用局部異常分量檢測無線信號的異常變化,并通過SVM算法對動作進行分類。

然而不同室內布局帶來的多徑效應的差異,使得上述摔倒檢測系統(tǒng)無法實現(xiàn)跨場景使用,即在源域場景訓練得到的摔倒檢測模型應用到目標域時,檢測精度會急劇下降。針對于跨場景檢測的需求,諸如RT-Fall[9]等摔倒檢測方法,當環(huán)境改變后會出現(xiàn)明顯的性能下降。FallDeFi[10]使用STFT提取CSI中的時頻特征,使用SVM實現(xiàn)準確的摔倒檢測。為了確保摔倒檢測系統(tǒng)能夠適應環(huán)境變化,作者還設計了一種魯棒的順序前向選擇算法挑選能夠適應環(huán)境變換的特征,在環(huán)境發(fā)生變化時,取得了接近80%的平均精度,使得跨場景識別成為可能。域自適應的思想現(xiàn)已被證明在計算機視覺、語音增強等領域擁有巨大潛力,在摔倒檢測、行為識別等研究中并不常見。SignGAN[11]引入了一個基于標準的生成對抗網(wǎng)絡(GAN)的域自適應網(wǎng)絡,該網(wǎng)絡可以將源域的真實樣本轉換為具有目標域樣式的目標域,消除了特定環(huán)境和用戶的影響,最終達到了91.25%的平均檢測精度。

該文提出了一種新的摔倒檢測域自適應框架DA-Fall,該框架結合了兩種領域自適應策略。一是通過最小化域差異的距離度量將源域與目標域遷移到同一子空間,以彌合源域和目標域。另一種策略是使用域對抗訓練來提取域不變特征,即在特征提取器和域判別器之間采用極小極大博弈。DA-Fall關鍵思想是聯(lián)合訓練特征提取器和域判別器,域判別器嘗試區(qū)分源域和目標域的數(shù)據(jù),而特征提取器嘗試混淆判別器,在域對抗訓練過程中,該文使用最大均值差異(MK-MMD)作為域對抗損失的正則化項,進一步最小化域偏移。因此,針對高精度的跨場景摔倒檢測,該文的主要貢獻如下:

首先,在所提出的摔倒檢測系統(tǒng)中,引入了域鑒別器和域混淆自適應層進行對抗性訓練。該算法通過引入依賴于應用差異的相對值的相對鑒別器來優(yōu)化對抗訓練,從而更好地反映域間差異;

其次,將多核架構下改進的MMD作為域對抗損失的正則化項,在模型的梯度更新中添加約束,進一步減小域間的混合分布(邊緣分布和條件分布)距離,從而促進整體遷移學習的效果。

1 系統(tǒng)設計

該文旨在解決跨場景摔倒檢測問題。在源域中可以獲得大量有噪CSI信號及其標簽(即含有盡可能少的噪聲干擾的CSI信號),在目標域中只有有噪CSI信號。該文的目標是通過域自適應方法提高摔倒檢測模型對目標域的檢測性能?；鶞誓Ｐ蜑樘卣骶幋a器-解碼器結構,并將CSI特征作為模型的輸入和輸出來執(zhí)行回歸任務。最終將在實際環(huán)境中采集的有噪CSI信號通過適配的自適應模型以獲得估計的干凈CSI特征,并將其輸入CNN網(wǎng)絡中進行分類。摔倒檢測系統(tǒng)DA-Fall架構如圖1所示。

圖1 系統(tǒng)架構

1.1 信號預處理與特征提取

系統(tǒng)第一部分為信號預處理與特征提取,其中信號預處理主要分為去噪和降維兩個階段:該文使用Hampel濾波器去除遠離相鄰數(shù)據(jù)的異常值,具體來說,它使用移動平均窗口查找異常值并將其替換為數(shù)據(jù)的均值,從而消除無效數(shù)據(jù)的負面影響。異常值去除后,CSI數(shù)據(jù)中殘留大量噪聲,由于人體活動引起的Wi-Fi信號變化主要集中在低頻分量,而噪聲主要存在于高頻分量,巴特沃斯低通濾波器在通帶內具有最大的平坦特性,不會對運動造成的信號波動產(chǎn)生太大的扭曲,因此,該文使用巴特沃斯低通濾波器消除高頻分量并保留低頻分量。該文采用主成分分析(Principle Component Analysis,PCA)進行信號的降維,PCA是把給定的一組相關變量通過線性變換轉為另一組各維度線性無關的變量的技術,能在基本保留原始數(shù)據(jù)重要信息的基礎上降低數(shù)據(jù)維數(shù),進而提取數(shù)據(jù)的主特征分量。

特征提取方面,該文沿用了文獻[9]從實時捕獲的CSI流中提取的8個特征進行活動分類:(1)歸一化均方差(STD);(2)中值絕對偏差(MAD);(3)信號強度偏移;(4)四分位范圍(IR);(5)信號熵;(6)信號變化速度;(7)時間滯后;(8)功率下降比(PDR)。

1.2 域自適應網(wǎng)絡

1.3 CNN分類器

摔倒檢測系統(tǒng)的最后一個組件是基于CNN的分類器。該文有大量不同類別環(huán)境的標簽數(shù)據(jù),這些數(shù)據(jù)被輸送到CNN網(wǎng)絡進行分類。在實際檢測階段,從目標域的噪聲信號中提取CSI特征,并在通過自適應摔模型得到估計的干凈CSI特征,最終輸入到基于CNN的分類器。具體CNN網(wǎng)絡結構包含卷積層、批量正則化層、激活層、池化層、Dropout層等結構。

實際檢測階段,采集到目標域環(huán)境中帶有噪聲的信號,同樣通過預處理并進行特征提取,通過適配的域自適應模型以獲得估計的干凈的CSI特征,最終輸入到訓練好的CNN分類器得到最終的識別結果。

2 提出的跨場景摔倒檢測算法

2.1 相對生成對抗網(wǎng)絡(RGAN)

標準的生成式對抗網(wǎng)絡(Generative Adversarial Network,GAN)[12]由蒙特利爾大學的Ian J. Goodfellow等人提出,其核心思想為:生成器與判別器之間相互對抗競爭,二者通過極大極小博弈。一方面,生成器不斷生成假樣本,另一方面,鑒別器不斷提高區(qū)分真假樣本的判別能力。在此過程中,通過損失函數(shù)不斷更新生成器和鑒別器的參數(shù),直到兩者達到動態(tài)平衡,即判別器無法判斷輸入的樣本是真實的還是虛假生成的。GAN可被如下定義:

LD=-Exr～P[logσ(C(xr))]-

Exr～Q[log(1-σ(C(xr)))]

LG=-Exf～Q[log(1-σ(C(xf)))]

(1)

其中,P和Q分別是真實樣本和假樣本的分布,E(·)為期望運算,C(x)將非轉換層表示為D(x)=σ(C(x)),是一個sigmoid函數(shù)。

(2)

(3)

該文將相對鑒別器用于域對抗訓練。將原先鑒別器所依賴的真實、虛假數(shù)據(jù)對替換為來自源域和目標域的樣本。理論上,RGAN使鑒別器只依賴相對值進行差分,從而避免了鑒別器可能的偏差,并使梯度更加穩(wěn)定,這有利于域對抗訓練。此外,與標準GAN鑒別器相比,相對鑒別器可以更好地反映源域數(shù)據(jù)和目標域數(shù)據(jù)之間的距離,這有助于縮短域間距離。

該文引入了文獻[14]中提出的梯度懲罰正則化方法,來懲罰批評者相對其輸入的梯度范數(shù),以避免訓練過程中出現(xiàn)的梯度的極端情況(梯度消失和爆炸)。使用對隨機樣本的梯度范數(shù)具有懲罰約束的軟版本來實現(xiàn)梯度懲罰:

(4)

2.2 多核最大均值差異(MK-MMD)

最大均值差異MMD通過核雙樣本檢驗比較兩個數(shù)據(jù)集之間的分布,它是遷移學習中最常用的有效度量[15]。MMD使用核映射方法將兩個分布的關鍵統(tǒng)計特征嵌入到高維可再生核希爾伯特空間(RKHS)。然后計算核平均嵌入之間的距離。

令P(xS)和P(xT)分別為源域和目標域CSI特征的邊緣分布,其MMD可以表示為:

MMD2(X,Y)=D[P(xS),P(xT)]=

(5)

其中,EP(XS)(·)和EP(XT)(·)分別表示XS和XT的邊緣分布為P(xS)和P(xT)時的期望運算,由于無法計算源域和目標域所有CSI的總體均值(即期望運算),該文通過計算源域與目標域CSI的樣本均值將上式近似為:

D[P(xS),P(xT)]=

(6)

(7)

經(jīng)典的MMD基于單核變換,單個內核不夠靈活,無法充分描述不同的分布。其僅可以減小源域CSI特征與目標域CSI特征之間的整體差異性,但無法保證源域與目標域中同一類CSI特征的差異性最小化。

基于多核架構,該文將多個核函數(shù)組成的子空間映射來組合各個子空間不同的特征映射能力,從而更加準確地獲得高維組合空間的特征表達[16]。多個特征核k可以定義為G個核的凸組合:

(8)

2.3 提出的算法

在源域中,該文可以采集豐富的樣本并進行標記,但是由于不同室內環(huán)境下的多徑效應,它們與目標域樣本分布不一致。此外,目標域的樣本不包含標記。因此,僅僅通過微調[17]直接將源域中訓練出的原始模型應用在目標域是不可行的。假設存在一個高維特征空間,可以分別代表源域和目標域的關鍵特征。然后,這種域不變特征可以縮短源域和目標域之間的邊緣分布距離。針對以上目標,結合2.1與2.2中所提到的RGAN與MK-MMD,設計了基于摔倒檢測模型的域自適應框架,如圖2所示。

圖2 域自適應框架

框架主要由四部分組成:將CSI特征嵌入高維特征空間的特征編碼器(Enc(θEnc))、用于預測無噪情況下干凈的CSI特征的特征解碼器(Dec(θDec))、用于計算基于MK-MMD損失的自適應層和用于計算域對抗損失的域鑒別器(D(θD))。這里θEnc、θDec和θD是網(wǎng)絡中的參數(shù),自適應層僅用于計算MK-MMD度量,不會參與網(wǎng)絡的梯度更新。具體流程如下:

步驟1:對源域樣本(帶有干凈標簽)和目標域樣本(未標記)分別進行去噪、降維、特征提取以獲得CSI特征。然后,它們被發(fā)送到編碼器以獲得XS和XT:

XS=Encoder(θEnc,CSIS)

XT=Encoder(θEnc,CSIT)

(9)

XS和XT按以下三個方向進行處理,第一種方式將標記的XS發(fā)送到解碼器以重建估計的CSI特征,然后使用源域標簽計算平均絕對損失(MAE),最小化MAE可以使模型最適合源域數(shù)據(jù)集,以此來衡量源域回歸任務的表現(xiàn):

(10)

步驟2:計算XS和XT的多核最大均值差異損失(LMK-MMD)。通過最小化LMK-MMD,可以使XS和XT的分布盡可能接近,最終使編碼器產(chǎn)生針對不同域中噪聲的域不變特征。

LMK-MMD=MKMMD2(xS,xT)?

(11)

步驟3:XS和XT被發(fā)送到域鑒別器,它可以看作是源域和目標域之間的分類器,其最后一層是一個密集層,其中一個單元使用sigmoid函數(shù)作為激活值為0-1的鑒別器的輸出用于計算相對對抗損失LD:

(12)

最小化LD實際上意味著鑒別器可以更好地區(qū)分來自源域和目標域的樣本。該階段的目標是在編碼器和鑒別器之間進行極小極大博弈。如上所述,鑒別器通過訓練以獲得對樣本更精確的判斷,然而編碼器則用于提取源域和目標域之間的域不變特征來混淆鑒別器。如果鑒別器無法區(qū)分XS和XT,則說明從源域到目標域的遷移學習是成功的。為了實現(xiàn)極小極大博弈,該文在鑒別器和編碼器之間插入了一個梯度反轉層(GRL)。在前向傳播過程中,GRL充當恒等變換,以保持輸入不變。在反向傳播期間,GRL從后續(xù)級別獲取梯度并將其符號更改為-λ,以在編碼器和鑒別器之間形成對抗。

使用梯度下降法更新整個網(wǎng)絡的參數(shù),使用Adam算法[18]進行訓練,總體更新規(guī)則如下:

(13)

其中,α為學習率,權重參數(shù)λ和μ用于平衡判別器損耗和MK-MMD損耗對編碼器參數(shù)更新的影響。

在整個網(wǎng)絡的參數(shù)更新過程中,通過編碼器與判別器的對抗,期望編碼器產(chǎn)生域不變特征。引入的MK-MMD損失可以看作是域對抗性損失的整體正則化項,即在模型的梯度更新中添加約束,使其能夠向減小域間混合分布距離的方向更新,從而促進整體遷移學習的效果。

3 實驗結果與討論

3.1 實驗設置

該文在一個臥室布局的室內WiFi環(huán)境中進行實驗,分別在陽臺部署了AP-1、MP-1,臥室部署了AP-2、MP-2,洗手間部署了AP-3、MP-3。AP為商用路由器作為發(fā)射端,MP則為配備英特爾5300網(wǎng)卡的筆記本電腦作為接收端,發(fā)包率為100 pkts/s。它們通過一發(fā)三收提供3個無線鏈路,共90個子載波。筆記本電腦在Ubuntu環(huán)境下安裝了CSI-tool進行數(shù)據(jù)采集分析工作。在上述環(huán)境中,共安排了10位實驗人員(其中男生6位,女生4位),每位人員分別在陽臺、臥室、洗手間中做彎腰、蹲下、坐下、躺下、摔倒等動作各20次。

3.2 權重參數(shù)的分析與選取

在本次實驗當中,分析了兩個域自適應損失的權重參數(shù)λ和μ對系統(tǒng)性能的影響。首先,在不引入多核最大均值差異損失(MK-MMD Loss)的情況下,分析了相對鑒別器損失權重λ對訓練的影響。

3.2.1 權重參數(shù)λ對損失曲線的影響

分別對權重參數(shù)λ取值0.05、0.1、0.15、0.2進行實驗。圖3顯示了權重參數(shù)λ對三種損失曲線的影響,即來自源域和目標域的編碼特征之間的MK-MMD度量損失(暫時不參與訓練,僅用于顯示效果)曲線、重建的目標域樣本(測試集中不包含樣本)的鑒別器損失曲線和損失曲線。

圖3 權重參數(shù)λ相應的損失曲線

當權重參數(shù)λ較小時(λ=0.05),相對鑒別器的損失將持續(xù)減少,并在一定迭代次數(shù)后收斂到最小值。這將導致梯度消失,使相對鑒別器無法為特征編碼器提供合理的指導。在訓練的初始階段,特征編碼器的能力相對較弱,并且它在鑒別器也較弱的同時,仍然可以區(qū)分來自源域和目標域的樣本。但是,權重較小,因此對抗性訓練不足。這使得相對鑒別器的訓練快速飽和,后續(xù)網(wǎng)絡進一步重新調整難以進行。因此,λ=0.05的目標損失曲線收斂到較高的位置。

區(qū)間[0.05,0.2]內加權參數(shù)λ的增大對相對鑒別器損耗的影響更為明顯,隨著該區(qū)間內權重λ的增大,鑒別器損耗曲線上升并最終收斂在較高值,這表明通過權重參數(shù)λ加強相對鑒別器與特征編碼器之間的對抗在一定程度上有利于域不變特征的生成,但當參數(shù)λ繼續(xù)增大,盡管判別器損耗仍然上升,但目標域的損耗曲線并沒有進一步降低。這表明此時特征編碼器無法學習更多的目標域知識,域對抗訓練也無法通過增加權重參數(shù)達到更多可轉移的特征,因此將λ=0.15固定為相對鑒別器損失的權重,以獲得更好的自適應性能。

3.2.2 權重參數(shù)μ對損失曲線的影響

在接下來的階段中,將MK-MMD作為權重λ=0.15的域對抗損失的正則化項。圖4所示的三個損失曲線將用于分析權重參數(shù)μ對系統(tǒng)性能的影響。參數(shù)在{0,0.01,0.05,0.1,0.15}中取值。此外,μ=0表示沒有引入MK-MMD。

圖4 權重參數(shù)μ相應的損失曲線

從MK-MMD損失曲線的趨勢可以看出,引入MK-MMD作為正則化項可以有效地降低源域和目標域之間的MK-MMD度量,當權重參數(shù)較小時(μ=0.01),這并不可觀。然而,當權重增加時,影響會擴大,相對鑒別器的損失也增加,表明域間對抗加強,目標域損失的減少已經(jīng)證明,MK-MMD損失的引入使模型朝著產(chǎn)生域不變特征的方向優(yōu)化,與鑒別器權重λ相比,模型對MK-MMD權重μ更具魯棒性。當μ值高于0.05時,雖然MK-MMD損失仍有所降低,但相對鑒別器的損失沒有增加,目標域損失也沒有減少,表明此時增加MK-MMD的權重參數(shù)不能進一步加強域間對抗以達到更好的自適應效果。為了平衡MK-MMD和相對鑒別器的損失,最終分別選擇λ=0.15,μ=0.05作為權重。

3.3 評估指標

為了驗證提出的摔倒檢測系統(tǒng)DA-Fall的性能,將敏感性和特異性兩個標準用于性能評估。其中,敏感性定義為正確檢測出摔倒的概率:

(14)

而特異性定義為正確檢測到除摔倒以外的其他活動的概率:

(15)

其中,TP、TN、FP、FN分別代表真陽性、真陰性、假陽性、假陰性的數(shù)量。敏感性和特異性證明了DA-Fall系統(tǒng)檢測摔倒的能力。評估結果基于各系統(tǒng)分別在室內陽臺、臥室、洗手間三個場景的檢測平均值。具體結果展示在圖5中。

(a)敏感性

3.4 評估結果分析

從上節(jié)實驗結果可以看出,文中系統(tǒng)的檢測精度在不考慮環(huán)境遷移的情況下,與WiFall、RT-Fall和SignGAN等都能達到90%以上的檢測精確度,當檢測系統(tǒng)被移動到一個未經(jīng)訓練的場景時,從圖中很明顯能看出WiFall以及RT-Fall出現(xiàn)了檢測精度驟降的情況。由于WiFall使用局部異常因子來檢測人在環(huán)境中的摔倒活動,對環(huán)境的變化更加敏感,但無法細分具體動作,因此無論在哪個房間,識別度都不是很高。而檢測系統(tǒng)SignGAN仍然能達到平均83%以上的檢測精度,得益于其引入的與文中相似的基于GAN的域自適應網(wǎng)絡,該網(wǎng)絡可以將源域的真實樣本轉換為具有目標域樣式的目標域,消除了特定環(huán)境和用戶的影響。

提出的系統(tǒng)DA-Fall引入了域鑒別器和域混淆自適應層來進行對抗性訓練,其通過引入依賴于相對值的相對鑒別器來優(yōu)化對抗訓練更好地反映域間差異,并將多核MMD(MK-MMD)作為域對抗損失的正則化項,在模型的梯度更新中添加約束,進一步減小域間差異和域間的分布距離,促進了整體遷移學習的效果。最終DA-Fall在原場景(數(shù)據(jù)及訓練充分)中達到了96.83%的精度,在新場景中僅需要少量數(shù)據(jù)即可達到91.03%的精度。

4 結束語

在提出的摔倒檢測系統(tǒng)中,引入了域鑒別器和域混淆自適應層進行對抗性訓練。首先,該算法通過引入依賴于相對值的相對鑒別器來優(yōu)化對抗訓練,從而更好地反映域間差異。其次,將基于多核架構的最大均值差異作為域對抗損失的正則化項,進一步減小了域間的邊緣分布距離。通過實驗分析證明了該算法的優(yōu)越性。