馮智斌,徐煜華,杜智勇,劉鑫,李文,韓昊,張曉博
(1.陸軍工程大學(xué)通信與工程學(xué)院,江蘇 南京 210014;2.國防科技大學(xué)信息通信學(xué)院,湖北 武漢 430010;3.桂林理工大學(xué)信息科學(xué)與工程學(xué)院,廣西 桂林 541006)
無線通信的開放和共享在給通信用戶帶來易于訪問和接入等便利的同時,也使通信網(wǎng)絡(luò)暴露于無線環(huán)境中且相比于有線網(wǎng)絡(luò)更易受到干擾攻擊。干擾攻擊作為無線通信安全的重要威脅,主要通過輻射電磁信號影響和破壞用戶的信號接收過程[1],使通信性能嚴(yán)重下降。尤其在融入人工智能和通信對抗技術(shù)后,智能干擾設(shè)備具備感知、學(xué)習(xí)和決策能力,給無線通信抗干擾技術(shù)的發(fā)展帶來了前所未有的挑戰(zhàn)[2-4]。因此,為了保證無線通信的安全性、可靠性和穩(wěn)定性,本文對復(fù)雜電磁環(huán)境條件下的智能抗干擾技術(shù)展開研究。
近年來,眾多研究者開展了智能抗干擾方面的相關(guān)研究,主要針對地面[5-7]、無人機(jī)[8-9]、衛(wèi)星[10-11]、水下[12-13]等不同通信場景下的抗干擾問題,聚焦功率域[5-6]、頻率域[7]、空間域[14-15]、編碼域[16-17]、鏈路域[18-19]等維域,以能夠應(yīng)對干擾攻擊或降低干擾的影響為目的,在“抗避消隱”[20]理念的指導(dǎo)下,通過跳時跳頻、功率調(diào)整、波束成形、編碼設(shè)計、鏈路優(yōu)化等手段,利用機(jī)器學(xué)習(xí)、凸優(yōu)化、博弈論等理論方法[21],不斷調(diào)整優(yōu)化通信策略,在具體問題中取得了較好的抗干擾效果。
然而現(xiàn)有工作主要存在以下兩點不足:1) 現(xiàn)有抗干擾研究通常將干擾視為一種動態(tài)的環(huán)境或客觀存在且無法改變的對手,單方面地聚焦于如何對抗干擾攻擊而忽略了雙方之間的內(nèi)在聯(lián)系;2) 現(xiàn)有工作往往都是在干擾環(huán)境下被動調(diào)整工作模式或參數(shù),隨著干擾智能性的增強(qiáng)以及對抗雙方之間算法能力差距的減小,通信方將處于劣勢甚至被壓制。
為此,本文轉(zhuǎn)變傳統(tǒng)的被動抗干擾思路,針對動態(tài)干擾及智能干擾,提出了一種通用的干擾主動防御架構(gòu),如圖1 所示。智能干擾具有環(huán)境認(rèn)知、智能決策和干擾實施3 個步驟。傳統(tǒng)的抗干擾工作所采用的抗避消隱等手段都是針對已經(jīng)實際產(chǎn)生的干擾行為,通過己方的被動適應(yīng)來對抗干擾或降低干擾的影響。而主動防御的核心在于深入分析智能干擾的運(yùn)行機(jī)理,自主挖掘干擾智能算法的固有局限性和脆弱性,前移抗干擾陣地,在干擾生效之前實施對抗策略,主動調(diào)整己方的通信行為來擾亂干擾方的學(xué)習(xí)過程,令干擾方做出錯誤決策,以降低干擾效能甚至使其完全失效,最終實現(xiàn)主動抗干擾的目的。
圖1 干擾主動防御架構(gòu)
本節(jié)對現(xiàn)有關(guān)于智能抗干擾方面的研究進(jìn)行闡述和總結(jié),并就未來智能抗干擾技術(shù)的發(fā)展梳理了可能會面臨的挑戰(zhàn)。
傳統(tǒng)的無線抗干擾技術(shù)主要包含三類:一是干擾躲避的方法,即將待傳信號變換到與干擾信號不同維度的信號空間來躲避干擾,包括跳頻擴(kuò)頻、跳時擴(kuò)頻、直接序列擴(kuò)頻等[22-25];二是干擾消除的方法,即通過信號處理盡可能地消除接收信號中混雜的干擾信號,包括自適應(yīng)濾波、盲源分離等[26-27];三是干擾硬抗的方法,即通過調(diào)整傳輸功率來提高接收端的信號強(qiáng)度[28-29]。然而隨著干擾的硬件設(shè)備能力和智能決策能力的增強(qiáng),傳統(tǒng)的抗干擾技術(shù)愈發(fā)難以保證無線通信的可靠傳輸。在此背景下,認(rèn)知無線電和人工智能技術(shù)[30]在無線通信領(lǐng)域的應(yīng)用與發(fā)展,顯著提高了通信系統(tǒng)的抗干擾能力。此外,正如文獻(xiàn)[30]所指出,智能抗干擾技術(shù)是一個龐大的技術(shù)體系結(jié)構(gòu),包括干擾認(rèn)知、抗干擾波形重構(gòu)、可靠信令傳輸、抗干擾智能決策等多個方面。下面主要就頻譜域下的智能抗干擾方面的工作進(jìn)行總結(jié)。
隨著機(jī)器學(xué)習(xí)技術(shù)在無線通信領(lǐng)域的廣泛應(yīng)用,以強(qiáng)化學(xué)習(xí)為代表的方法被廣泛應(yīng)用于抗干擾工作中?,F(xiàn)有頻譜域下的抗干擾工作[31-33]以面向梳狀、掃頻、規(guī)律性阻塞、組合等常規(guī)干擾模式為主,采用Q 學(xué)習(xí)等強(qiáng)化學(xué)習(xí)方法學(xué)習(xí)干擾變化規(guī)律,優(yōu)化通信方的頻率、功率和波束等策略,達(dá)到抗干擾的效果。然而,傳統(tǒng)的強(qiáng)化學(xué)習(xí)方法主要應(yīng)用于狀態(tài)空間和策略空間較小的問題研究,狀態(tài)空間和策略空間的提升會導(dǎo)致決策收斂速度降低甚至無法收斂,難以滿足實時決策要求。為此,基于深度強(qiáng)化學(xué)習(xí)的抗干擾方法[34-36]成為了近年的研究熱點,它同時結(jié)合了深度學(xué)習(xí)的特征提取能力和強(qiáng)化學(xué)習(xí)的決策能力,能夠有效解決維數(shù)災(zāi)難這一難題,并廣泛應(yīng)用于通信對抗、無線資源分配等領(lǐng)域。然而,基于強(qiáng)化學(xué)習(xí)的抗干擾方法所面臨的最大局限是當(dāng)通信用戶的環(huán)境狀態(tài)不能滿足馬爾可夫特性時,相關(guān)方法不僅缺乏理論依據(jù),甚至可能無法收斂。
除了機(jī)器學(xué)習(xí)方法在智能抗干擾領(lǐng)域大放異彩外,考慮通信對抗雙方的非合作關(guān)系,博弈論[37]也可以很好地分析多個相互影響的個體間的行為決策及均衡問題。早期,零和博弈[38]和非零和博弈[39]被用來建模用戶和干擾之間的對抗關(guān)系,雙方各自以最大化自身效用為目標(biāo),找到均衡解下的對抗策略。進(jìn)一步,考慮通信方和干擾方之間的分層行為特性,Stackelberg博弈被大量工作用來建模兩者之間的主從關(guān)系,在Stackelberg 博弈框架下,利用凸優(yōu)化、強(qiáng)化學(xué)習(xí)等方法,在干擾環(huán)境下優(yōu)化功率或信道策略,最大化通信方傳輸效用[40-43]。雖然博弈論能夠從理論層面較好地刻畫通信對抗雙方的對抗決策關(guān)系,并指導(dǎo)設(shè)計相關(guān)均衡策略的求解算法,但往往假設(shè)用戶和干擾都知道對方的決策效用模型,過于依賴先驗信息或嚴(yán)苛的前提假設(shè),在實際應(yīng)用中仍然具有很大的局限性。
綜上所述,現(xiàn)有智能抗干擾工作在算法層面和理論層面均得到了良好的發(fā)展,相關(guān)工作在特定干擾環(huán)境下均實現(xiàn)了理想的抗干擾效果,但仍然存在很多可以改進(jìn)完善的地方。除了上述基于機(jī)器學(xué)習(xí)或博弈論的抗干擾方法的局限性之外,本文進(jìn)一步總結(jié)了現(xiàn)有智能抗干擾工作的2 個共性問題。
1) 現(xiàn)有的抗干擾理念通常都是被動反應(yīng)式的
目前比較常見的抗干擾思路是在時間、頻率、空間等維域躲避干擾,或者通過增加功率、降低解調(diào)門限等手段盡可能弱化干擾帶來的影響,本質(zhì)上都屬于被動反應(yīng)式抗干擾手段。這些手段雖然也能達(dá)到一定的效果,但忽略了通信方與干擾方之間的內(nèi)在聯(lián)系,即干擾本身也會受通信行為影響。對通信方而言,與其始終受制于干擾,不如化被動為主動,主動出擊才能始終在對抗過程中保持優(yōu)勢。
2) 現(xiàn)有工作考慮的干擾對手往往都是弱智能的
現(xiàn)有抗干擾研究中考慮的干擾模式往往不能算作真正意義上的智能干擾,可以涵蓋為以下兩類:①具備感知和自適應(yīng)決策能力(如以某種固定的模式或規(guī)律調(diào)整干擾功率、信道等參數(shù))的干擾;②雖然也有部分工作將基于強(qiáng)化學(xué)習(xí)的干擾作為對手,同時考慮通信方能夠使用深度強(qiáng)化學(xué)習(xí)方法,擁有更高的狀態(tài)和策略空間,以更強(qiáng)的算法取勝,該類工作沒有把對抗雙方放在一個對等的位置上考慮,本質(zhì)上仍假設(shè)通信方相較于干擾方是更加智能的。
基于上述對現(xiàn)有工作的總結(jié),針對未來的智能抗干擾技術(shù),本文從對抗背景、抗干擾需求和信息約束3 個方面,梳理出以下3 個核心挑戰(zhàn),并提出對應(yīng)的解決思路。
1) 智能化干擾提升了對抗強(qiáng)度和難度
近年來,有關(guān)干擾效能評估的研究在一定程度上突破了干擾效果反饋困難的限制,有力推動了智能干擾技術(shù)的發(fā)展?;跊Q策智能水平差異將干擾劃分為動態(tài)適變干擾和預(yù)測學(xué)習(xí)干擾,其中,前者智能性較弱,主要包括復(fù)合干擾、跟蹤干擾和欺騙干擾等;后者智能性較強(qiáng),能夠基于實時的頻譜態(tài)勢,采用深度學(xué)習(xí)、強(qiáng)化學(xué)習(xí)等人工智能算法,通過感知-學(xué)習(xí)-決策-評估等手段,預(yù)測通信行為并確定干擾策略??梢灶A(yù)見,干擾方的智能化發(fā)展將加劇通信方所面臨的對抗強(qiáng)度和難度。當(dāng)對抗雙方都具備認(rèn)知和智能決策能力時,對抗過程將呈現(xiàn)出動態(tài)多階段、復(fù)雜演變等特性。為梳理智能通信對抗的數(shù)學(xué)機(jī)理,需要在交錯爭奪條件下構(gòu)建對抗博弈模型,設(shè)計科學(xué)的對抗性效用函數(shù),指導(dǎo)對抗策略的求解。
2) 研究自主優(yōu)化的針對性抗干擾手段迫在眉睫
在復(fù)雜未知的通信對抗環(huán)境下,干擾模式或策略會隨著通信策略的變化而動態(tài)切換,且不同干擾模式的決策機(jī)理各不相同,導(dǎo)致現(xiàn)有很多特定場景、特定干擾條件下的抗干擾方法已無法滿足可靠通信需求,幾乎不存在一種通用性的抗干擾策略。因此,為保證通信方抗干擾策略的長期有效性,研究能夠自主優(yōu)化的針對性抗干擾手段迫在眉睫。首先,非合作對抗條件下的干擾實時認(rèn)知是實現(xiàn)智能抗干擾的前提;其次,針對不同干擾類型,需要分析其決策機(jī)理并挖掘固有局限性,通過“弱點剖析、對手模擬、虛擬訓(xùn)練”等方式,快速設(shè)計出高效的針對性對抗策略,并隨著干擾對手的變化進(jìn)行快速適配與自主優(yōu)化調(diào)整,保證通信方在長期對抗中的決策優(yōu)勢。
3) 非合作對抗場景下存在多元信息約束
由于通信對抗雙方之間天然的非合作關(guān)系,通信方將面臨來自環(huán)境、干擾對手甚至己方的諸多信息約束。一是對頻譜環(huán)境信息的稀缺,受限于設(shè)備感知能力不足等問題,通信方通常需要花費(fèi)大量的時間來獲得充足的頻譜態(tài)勢信息,在短時學(xué)習(xí)訓(xùn)練過程中將面臨數(shù)據(jù)小樣本的挑戰(zhàn);二是對干擾對手信息的未知,在缺乏關(guān)于干擾方先驗信息的條件下,難以準(zhǔn)確地識別出干擾模式甚至推理出其背后的智能學(xué)習(xí)算法類型;三是己方用戶間信息交互困難,隨著網(wǎng)絡(luò)規(guī)模的擴(kuò)大,如果缺乏有效的協(xié)調(diào)和交互機(jī)制,將導(dǎo)致系統(tǒng)多用戶之間決策沖突加劇、網(wǎng)絡(luò)內(nèi)部互擾嚴(yán)重。面對諸多信息約束,同樣需要設(shè)計針對性的方法來增強(qiáng)頻譜環(huán)境、干擾對手等數(shù)據(jù)信息或降低信息約束帶來的影響,保證抗干擾策略的有效性。
針對現(xiàn)有工作的不足和當(dāng)前面臨的主要挑戰(zhàn),受反智能化作戰(zhàn)研究[44]的啟發(fā),本節(jié)提出了一種面向智能干擾的干擾主動防御技術(shù)體系架構(gòu),如圖2 所示。針對具備感知-學(xué)習(xí)-決策-評估能力的智能干擾,深入分析其背后的運(yùn)行機(jī)理,綜合運(yùn)用博弈論[37]、機(jī)器學(xué)習(xí)[45]和對抗機(jī)器學(xué)習(xí)[46]等理論和技術(shù)方法,突破干擾反向推理、算法脆弱性分析和對抗策略設(shè)計、抗干擾策略的自主優(yōu)化與在線決策等關(guān)鍵技術(shù),通過挖掘干擾規(guī)律、偽造虛假目標(biāo)主動誘騙、打亂己方通信特征和自主生成對抗策略等方式,針對性設(shè)計能夠降低干擾認(rèn)知效率和決策準(zhǔn)確性的抗干擾策略,以影響干擾的學(xué)習(xí)過程并降低干擾效能,實現(xiàn)主動抗干擾。
圖2 干擾主動防御技術(shù)體系架構(gòu)
干擾主動防御的核心在于在博弈論和對抗機(jī)器學(xué)習(xí)的理論與技術(shù)框架指導(dǎo)下,化被動為主動,通信方主動出擊來達(dá)到擾亂智能干擾的目的。其中,博弈論用來建模雙方之間的博弈對抗機(jī)理,抗干擾本質(zhì)是為了同時減少內(nèi)部自擾和外部干擾的多主體自主決策,因此在進(jìn)行主動防御策略設(shè)計及決策過程中,博弈論可以提供全局視角的分析工具,通過對通信對抗過程和預(yù)期效果的建模分析,進(jìn)一步優(yōu)化抗干擾策略和行動。而對抗機(jī)器學(xué)習(xí)用來指導(dǎo)設(shè)計面向智能干擾的抗干擾技術(shù),它來源于機(jī)器學(xué)習(xí)與計算機(jī)安全的交叉領(lǐng)域,旨在攻擊機(jī)器學(xué)習(xí)的脆弱性,阻礙其正常運(yùn)行。
下面主要從干擾反向推理、脆弱性分析和對抗策略設(shè)計、抗干擾策略自主優(yōu)化和在線決策3 個方面,對所提干擾主動防御技術(shù)體系架構(gòu)進(jìn)行詳細(xì)的論述。
識別出干擾模式甚至智能算法類型是進(jìn)行主動防御的首要前提。由于無法直接獲得先驗信息,通信方需要從干擾與外部環(huán)境的相互作用過程進(jìn)行學(xué)習(xí)分析和反向推理。然而在實際通信對抗過程中,受限于設(shè)備感知能力和反應(yīng)時間,通信方面臨頻譜態(tài)勢感知不完全、樣本數(shù)量少等技術(shù)挑戰(zhàn),因此如何實現(xiàn)小樣本條件下的干擾模式識別和智能算法反向推理是這一環(huán)節(jié)的核心內(nèi)容。
2.1.1 頻譜態(tài)勢生成
針對可用頻譜態(tài)勢樣本信息較少的問題,可使用生成對抗網(wǎng)絡(luò)[47]或?qū)\生神經(jīng)網(wǎng)絡(luò)[48]實現(xiàn)頻譜態(tài)勢生成與獲取。以生成對抗網(wǎng)絡(luò)為例,利用對抗機(jī)制和神經(jīng)網(wǎng)絡(luò)快速擬合數(shù)據(jù)的優(yōu)勢,基于感知獲取得到的小樣本頻譜態(tài)勢數(shù)據(jù),經(jīng)過在線學(xué)習(xí)和訓(xùn)練,不斷調(diào)整網(wǎng)絡(luò)結(jié)構(gòu)和參數(shù),提高生成器的數(shù)據(jù)擬合能力,準(zhǔn)確地生成大量有效數(shù)據(jù),從而解決頻譜態(tài)勢數(shù)據(jù)小樣本的挑戰(zhàn)。
2.1.2 干擾模式識別
干擾模式識別一直都是信號識別領(lǐng)域的一個主要研究方向,這里給出了基于神經(jīng)網(wǎng)絡(luò)和基于相關(guān)性分析的2 種識別思路?,F(xiàn)有基于卷積神經(jīng)網(wǎng)絡(luò)的干擾信號識別方法[49-50]已經(jīng)取得了很好的效果,在神經(jīng)網(wǎng)絡(luò)的基礎(chǔ)上可以進(jìn)一步結(jié)合小波變換、支持向量機(jī)等方法,提高分類的準(zhǔn)確性。然而現(xiàn)有大部分工作假設(shè)待識別干擾模式集與訓(xùn)練階段的模式集完全相同。但實際對抗場景中干擾模式未知多樣,需要識別的模式往往超出了訓(xùn)練階段的模式范圍,導(dǎo)致現(xiàn)有的識別方法難以達(dá)到滿意的效果。在此背景下,基于零樣本學(xué)習(xí)[51-52]的干擾模式識別是一種可行的思路,針對開集識別的挑戰(zhàn),該方法基于有限類別的標(biāo)簽數(shù)據(jù),學(xué)習(xí)已知模式的潛在特征表示,保證最小化類內(nèi)距離的同時最大化類間距離;并設(shè)計基于特征距離的分類準(zhǔn)則,從而達(dá)到在特征空間內(nèi)同時識別已知和未知干擾模式的目的。
另一種思路是針對不同干擾模式在時域、頻域、編碼域等維域上的相關(guān)性[53]差異對干擾模式進(jìn)行識別。利用深度學(xué)習(xí)等方法提取一段時間內(nèi)干擾的頻率、信號等特征,通過對不同特征下通信與干擾行為之間的相關(guān)性進(jìn)行度量劃分,識別對應(yīng)的干擾模式。例如,弱相關(guān)狀態(tài)對應(yīng)復(fù)合干擾,由于復(fù)合干擾遵循固定的模式或規(guī)律,因此與通信策略無直接關(guān)系。強(qiáng)相關(guān)狀態(tài)可進(jìn)一步劃分為信號相關(guān)和時頻相關(guān),其中,信號相關(guān)對應(yīng)轉(zhuǎn)發(fā)干擾,因為干擾將收集到的通信信號進(jìn)行加工再轉(zhuǎn)發(fā)的方式使接收端重復(fù)接收信號。時頻相關(guān)狀態(tài)對應(yīng)跟蹤干擾和智能干擾,其中,跟蹤干擾的反應(yīng)通常具有一定的滯后性,而智能干擾能夠通過“預(yù)測+學(xué)習(xí)”主動實現(xiàn)與通信信號的同步跳變。
2.1.3 智能算法反向推理
針對智能干擾,通信方期望能夠基于真實的通信態(tài)勢和所做假設(shè)來解釋干擾隨通信行為變化的現(xiàn)象,并推理出其背后的決策算法,這是一個開放性且頗具難度的問題。一種比較直觀但存在局限的可能方法是針對幾種典型算法(如強(qiáng)化學(xué)習(xí)、深度學(xué)習(xí)等)的運(yùn)行原理,以特定的通信模式(如掃頻通信等)來試探干擾,通過故意添加擾動(如改變掃頻的序列、速率或帶寬),獲取干擾行為并分析其反應(yīng)變化快慢、干擾效果好壞等,以實現(xiàn)對干擾智能決策算法的有效推理。
從更高層面上對該問題進(jìn)行探討,可以借鑒由機(jī)器學(xué)習(xí)領(lǐng)域?qū)<抑苤救A教授[54]提出的反繹學(xué)習(xí)(也被稱為溯因?qū)W習(xí)),即在一個統(tǒng)一的框架下將機(jī)器學(xué)習(xí)和邏輯推理以“相對均衡”的方式結(jié)合起來,更充分地發(fā)揮各自的優(yōu)勢,也給智能算法反向推理提供了一個可行的思路。通信方基于其掌握的有限的關(guān)于智能干擾算法的知識,通過主動改變通信方的部分行為來觀察干擾行為的變化,然后從信息不完備的角度出發(fā),挖掘通信變化與干擾行為之間的潛在聯(lián)系,做出推理與假設(shè),并根據(jù)已有知識來尋找一個最可能的解釋,最終反向推理出智能算法類型。
脆弱性分析和對抗策略設(shè)計是干擾主動防御的關(guān)鍵環(huán)節(jié),其核心在于基于識別或推理得到的干擾類型及算法,深入分析不同干擾類型及其運(yùn)行規(guī)律中潛在的弱點,從頻率、功率、編碼等多個維度出發(fā),綜合運(yùn)用隱蔽、欺騙、對抗和利用等多種手段,設(shè)計針對性的能夠擾亂干擾算法執(zhí)行條件或顯著降低算法運(yùn)行效率的對抗策略,從而構(gòu)建能夠應(yīng)對不同干擾的抗干擾策略庫。
需要注意的是,根據(jù)1.2 節(jié)中對智能化干擾威脅的介紹,本文主要基于決策智能水平差異劃分并考慮了2 種干擾類型:動態(tài)適變干擾(復(fù)合、跟蹤和欺騙干擾,智能水平較弱)和預(yù)測學(xué)習(xí)干擾(基于深度學(xué)習(xí)、強(qiáng)化學(xué)習(xí)和遷移學(xué)習(xí)的干擾,智能水平較強(qiáng))。本節(jié)具體針對不同干擾類型,設(shè)計針對性對抗策略。
2.2.1 對抗動態(tài)適變干擾的主動防御技術(shù)
面向智能水平較弱的動態(tài)適變干擾,針對復(fù)合干擾決策規(guī)律相對固定、跟蹤干擾被動跟隨己方通信跳變、欺騙干擾硬件容差無法篡改的弱點,設(shè)計針對性抗干擾手段,實現(xiàn)對抗動態(tài)適變干擾的主動防御技術(shù),如圖3 所示。
圖3 對抗動態(tài)適變干擾的主動防御技術(shù)
1) 基于干擾規(guī)律挖掘的抗復(fù)合干擾
復(fù)合干擾由梳狀干擾、掃頻干擾、規(guī)律性阻塞干擾等動態(tài)組合而成[7],能夠動態(tài)自主地切換干擾模式,其脆弱性體現(xiàn)在干擾模式具有較強(qiáng)規(guī)律性,易被智能學(xué)習(xí)算法挖掘利用。針對復(fù)合干擾決策規(guī)律相對固定的弱點,本節(jié)提出基于干擾規(guī)律挖掘的抗復(fù)合干擾方法。利用深度強(qiáng)化學(xué)習(xí)算法,通過感知、生成、預(yù)測和動態(tài)頻譜接入決策一體化設(shè)計,挖掘干擾間隙進(jìn)行通信,實現(xiàn)主動避擾。該方法融合了復(fù)雜環(huán)境下深度學(xué)習(xí)特征提取能力強(qiáng)和動態(tài)環(huán)境中強(qiáng)化學(xué)習(xí)在線決策的優(yōu)點,可克服環(huán)境及動作狀態(tài)空間巨大的挑戰(zhàn),輸入當(dāng)前頻譜狀態(tài)信息,即可直接輸出下一時刻的最優(yōu)通信頻率,實現(xiàn)抗干擾可靠通信。
2) 基于主動吸引誘導(dǎo)的抗跟蹤干擾
跟蹤干擾通過偵察感知通信信號的改變而調(diào)整干擾頻率以實現(xiàn)對通信信號的實時跟蹤和攻擊[55]。面對跟蹤干擾,在通信設(shè)備硬件頻譜捷變能力無優(yōu)勢的情況下,通信效能將大幅降低甚至被壓制。然而,跟蹤干擾只能被動跟隨用戶進(jìn)行頻譜切換,且具有明顯的攻擊偏好(如偏向于攻擊高功率通信信道、控制信道或關(guān)鍵節(jié)點)。針對該弱點,本節(jié)提出基于主動吸引誘導(dǎo)的抗跟蹤干擾方法,部分用戶犧牲自身通信效能,通過發(fā)送高功率信號主動吸引干擾攻擊,為其余用戶留出空閑信道并伺機(jī)傳輸。此外,在該方法執(zhí)行過程中,選出哪些用戶吸引干擾攻擊、哪些用戶能夠通信,還需要相應(yīng)的公平性機(jī)制或補(bǔ)償機(jī)制設(shè)計,以保證系統(tǒng)的正常運(yùn)行。
3) 基于射頻指紋識別的抗欺騙干擾
轉(zhuǎn)發(fā)式欺騙干擾對感知接收到的通信信號進(jìn)行加工后轉(zhuǎn)發(fā),或者直接發(fā)射仿制合成的通信信號,以誘騙合法接收端持續(xù)接收非法信號,降低通信質(zhì)量[55]。然而轉(zhuǎn)發(fā)干擾發(fā)射機(jī)與用戶發(fā)射機(jī)硬件容差會引起調(diào)制誤差(如I/Q 偏移、頻偏、幅度誤差等),且這些誤差特征難以被篡改。針對該弱點,考慮將硬件容差引起的調(diào)制誤差作為射頻指紋,本節(jié)提出基于射頻指紋識別的抗轉(zhuǎn)發(fā)干擾方法??紤]發(fā)射機(jī)的硬件容差在I/Q 數(shù)據(jù)上表現(xiàn)為幅度和相位的偏移,利用發(fā)射機(jī)獨(dú)特的I/Q 數(shù)據(jù)分布建立發(fā)射機(jī)射頻指紋[56]。通過生成對抗網(wǎng)絡(luò)的對抗性學(xué)習(xí),判別器學(xué)習(xí)到可信發(fā)射機(jī)特有的I/Q 數(shù)據(jù)分布特性,掌握可信發(fā)射機(jī)的射頻指紋。當(dāng)接收到未知的I/Q 數(shù)據(jù)時,判別器判斷其是否來自合法發(fā)射機(jī),從而實現(xiàn)對無線發(fā)射機(jī)的身份識別和接入認(rèn)證,在接收端區(qū)分合法信號和惡意轉(zhuǎn)發(fā)信號。
2.2.2 對抗預(yù)測學(xué)習(xí)干擾的主動防御技術(shù)
面向智能水平較強(qiáng)的預(yù)測學(xué)習(xí)干擾,剖析不同學(xué)習(xí)算法決策機(jī)理的弱點,考慮深度學(xué)習(xí)干擾的神經(jīng)網(wǎng)絡(luò)具有高度非線性特征、強(qiáng)化學(xué)習(xí)干擾的狀態(tài)-動作-回報學(xué)習(xí)機(jī)理固定、遷移學(xué)習(xí)干擾對算法源域與目標(biāo)域的共性要求高等局限性,在對抗機(jī)器學(xué)習(xí)的理論與技術(shù)指導(dǎo)下,從不同算法的脆弱環(huán)節(jié)入手,設(shè)計針對性抗干擾手段,實現(xiàn)對抗預(yù)測學(xué)習(xí)干擾的主動防御技術(shù),如圖4 所示。
圖4 對抗預(yù)測學(xué)習(xí)干擾的主動防御技術(shù)
1) 基于對抗樣本構(gòu)造的抗深度學(xué)習(xí)干擾
面向基于深度學(xué)習(xí)的干擾[57],考慮深度神經(jīng)網(wǎng)絡(luò)的高度非線性特征和監(jiān)督學(xué)習(xí)模型中的不充分正則化特征容易導(dǎo)致學(xué)習(xí)過程出現(xiàn)過擬合的問題。針對深度學(xué)習(xí)識別算法易受微小擾動而失效的弱點,本節(jié)提出了基于對抗樣本構(gòu)造的抗深度學(xué)習(xí)干擾方法。通過在通信信號上添加微小擾動,使深度神經(jīng)網(wǎng)絡(luò)將對抗樣本判別為錯誤分類結(jié)果,在盡可能降低對己方通信性能影響的同時,降低智能干擾系統(tǒng)的感知和識別能力。具體而言,可以使用快速梯度法或梯度迭代法構(gòu)建通用對抗擾動樣本,在最小化對抗樣本與真實樣本之間范數(shù)距離的同時最大化神經(jīng)網(wǎng)絡(luò)針對對抗樣本的誤分辨率;最后基于己方構(gòu)建的干擾神經(jīng)網(wǎng)絡(luò)根據(jù)對抗樣本的判別結(jié)果和能夠使其產(chǎn)生誤判的反饋結(jié)果調(diào)整己方構(gòu)建干擾的網(wǎng)絡(luò)結(jié)構(gòu)和參數(shù),使其能夠以較大概率欺騙具有不同體系結(jié)構(gòu)的深度學(xué)習(xí)模型;最后生成混有擾動的通信對抗樣本信號,使智能干擾在識別通信方信號特征(頻點、調(diào)制方式、波形等)時產(chǎn)生誤識別,從而破壞干擾的認(rèn)知決策能力。
2) 基于學(xué)習(xí)環(huán)路破壞的抗強(qiáng)化學(xué)習(xí)干擾
采用強(qiáng)化學(xué)習(xí)的智能干擾[58]無須對通信模式進(jìn)行估計與預(yù)測,可實現(xiàn)對通信方感知、學(xué)習(xí)、干擾的一體化設(shè)計,常規(guī)通信抗干擾方法難以與其對抗。強(qiáng)化學(xué)習(xí)環(huán)包括狀態(tài)、動作和收益評估3 個環(huán)節(jié),任何一個環(huán)節(jié)出錯都將導(dǎo)致強(qiáng)化學(xué)習(xí)方法失效。因此,從干擾的狀態(tài)感知和回報獲取環(huán)節(jié)入手,本節(jié)提出了基于學(xué)習(xí)環(huán)路破壞的抗強(qiáng)化學(xué)習(xí)干擾方法。具體包括以下2 個方面。
①針對干擾方觀測的擾動,強(qiáng)化學(xué)習(xí)干擾為了獲得最優(yōu)干擾策略,需要通過試探的方式來積累經(jīng)驗、學(xué)習(xí)通信規(guī)律。為此,可設(shè)計無規(guī)律聯(lián)系的通信變化模式,其核心在于破壞通信行為之間的馬爾可夫特性,使干擾系統(tǒng)一直處于學(xué)習(xí)階段,降低其干擾效能。
② 針對干擾方收益的欺騙,智能干擾通過觀察實施干擾前后通信方的動作變化(如切換頻率、變化波形等)來評估干擾收益,即將干擾效能建模為通信行為觀察狀態(tài)的函數(shù)。針對這一特性,本節(jié)提出了攻擊干擾效能評估函數(shù)的方法,例如,通信方未被干擾時依概率切換通信模式、被干擾時依概率不切換通信模式,使干擾收益評估出錯,從而破壞強(qiáng)化學(xué)習(xí)的環(huán)路。
3) 基于共性特征擾亂的抗遷移學(xué)習(xí)干擾
遷移學(xué)習(xí)干擾能夠在通信環(huán)境動態(tài)變化、通信數(shù)據(jù)不足的情況下,通過模型、算法和樣本等信息遷移,實現(xiàn)新環(huán)境下的快速有效干擾,成為未來通信方的重要對手。然而,遷移學(xué)習(xí)的有效性主要取決于源域和目標(biāo)域之間存在共性特征這一必要條件。因此,針對模型遷移、特征遷移等常見的遷移學(xué)習(xí)方法,本節(jié)提出了基于共性特征擾亂的抗遷移學(xué)習(xí)干擾方法。通過添加欺騙信號或人工噪聲等方式擾亂目標(biāo)域的數(shù)據(jù)信息,主動破壞不同通信場景之間的共性特征,從而破壞干擾算法的可遷移性,使干擾機(jī)的遷移學(xué)習(xí)算法失效甚至產(chǎn)生負(fù)向遷移效果,令其無法適應(yīng)新的通信對抗環(huán)境。
在實際智能通信對抗過程中,雙方都不會固定地使用某種模式或策略,兩者理應(yīng)都具備動態(tài)調(diào)整能力,即能夠根據(jù)對方的行為以及環(huán)境和即時回報的變化調(diào)整策略(這里的調(diào)整策略指的是更加宏觀的調(diào)整,如干擾方切換干擾模式,或者通信方切換針對性抗干擾策略)。因此,即使某種抗干擾策略在短期內(nèi)有效對抗干擾,干擾可通過實時效果評估重新調(diào)整干擾類型或優(yōu)化干擾算法,如果己方通信系統(tǒng)缺乏自主在線學(xué)習(xí)能力,將難以獲得長期穩(wěn)定的抗干擾效果。
綜上,理想情況應(yīng)該是雙方始終處于博弈對抗的均衡狀態(tài)。根據(jù)不同的場景和階段,即使在面對具備感知、學(xué)習(xí)和智能決策能力的干擾系統(tǒng)時,通信方也能夠根據(jù)干擾算法類別和抗干擾通信效果反饋,自主在線進(jìn)行抗干擾策略的選擇和調(diào)整,在動態(tài)多階段的對抗過程中始終占據(jù)優(yōu)勢,實現(xiàn)可靠通信。
為了實現(xiàn)上述目的,考慮多階段抗干擾過程中對抗雙方的動態(tài)演化和復(fù)雜特性,本節(jié)提出抗干擾策略自主優(yōu)化和在線決策過程,如圖5 所示。首先,構(gòu)建干擾主動防御策略庫,主要包括干擾規(guī)律挖掘、主動吸引誘導(dǎo)、射頻指紋識別、對抗樣本構(gòu)造、學(xué)習(xí)環(huán)路破壞以及共性特征破壞等針對性策略,以此為基礎(chǔ)組成混合策略集。然后,根據(jù)當(dāng)前干擾推理結(jié)果和抗干擾效果,不斷優(yōu)化抗干擾策略決策,在智能通信對抗的過程中學(xué)習(xí)獲得與當(dāng)前的干擾模式最匹配的抗干擾策略(如干擾規(guī)律挖掘等)。進(jìn)一步,在當(dāng)前抗干擾策略指導(dǎo)下,動態(tài)調(diào)整抗干擾動作(如優(yōu)化通信頻率、功率等),最終達(dá)到最佳的抗干擾效果。
圖5 抗干擾策略自主優(yōu)化和在線決策過程
綜上,所提干擾主動防御架構(gòu)主要包括3 個部分,其中,干擾反向推理表示對干擾的認(rèn)知過程,是首要前提;脆弱性分析和對抗策略設(shè)計表示在面對不同干擾對手時形成不同的對抗策略,是核心要素;抗干擾策略的自主優(yōu)化和在線決策表示在整個對抗過程中的決策優(yōu)化過程,是關(guān)鍵環(huán)節(jié)。這3 個部分順序相接,形成閉環(huán)。相關(guān)技術(shù)如深度強(qiáng)化學(xué)習(xí)、對抗機(jī)器學(xué)習(xí)等都已經(jīng)具有比較完備的理論基礎(chǔ)。在體系架構(gòu)的硬件實現(xiàn)方面,一方面可以設(shè)計低復(fù)雜度的算法,盡量設(shè)置在常規(guī)多核CPU 運(yùn)算速度的1010量級或GPU 運(yùn)算速度的1012量級以下;另一方面,隨著近年來基于軟件無線電平臺的通信系統(tǒng)構(gòu)建技術(shù)日益成熟,其頻率、功率和調(diào)制編碼的動態(tài)可重構(gòu)能力在硬件實現(xiàn)上提供了很好的保障能力,其難點主要在于算法與平臺適配,即如何實現(xiàn)仿真算法到硬件平臺的適配與遷移,需要深入設(shè)計和研究。但整體而言,所提技術(shù)體系架構(gòu)在理論算法層面是可行且有效的,且具有良好的工程可實現(xiàn)性。
本節(jié)結(jié)合研究團(tuán)隊前期的工作,分別就干擾模式識別[52]和基于主動誘導(dǎo)機(jī)制的抗跟蹤干擾[59]2 個部分給出具體案例和分析。
現(xiàn)有干擾識別方面的研究大多基于閉集假設(shè),即識別階段的所有類別均在訓(xùn)練階段已知且有對應(yīng)的標(biāo)簽數(shù)據(jù)。然而在實際無線通信場景中,干擾識別問題更多的是開集問題,導(dǎo)致傳統(tǒng)基于閉集的識別方法[49-50]性能嚴(yán)重下降。為此,本節(jié)研究了同時針對已知和未知模式的干擾識別問題。考慮一個無線通信干擾場景,未知干擾模式識別系統(tǒng)模型如圖6 所示。該場景包括一個用戶、一個干擾機(jī)和一個感知設(shè)備,感知設(shè)備附帶一個智能體。干擾機(jī)通過釋放高功率的干擾信號破壞用戶的通信。感知設(shè)備持續(xù)地感知頻譜,并在智能體的輔助下基于感知結(jié)果識別干擾模式。
圖6 未知干擾模式識別系統(tǒng)模型
在t時刻,感知設(shè)備感知到的頻譜向量為,其中,為頻譜感知的采樣點數(shù),B為帶寬,Δf為頻譜感知的分辨率,pt,1,pt,2,…,pt,N分別表示t時刻不同頻率處的采樣值。受文獻(xiàn)[7]的啟發(fā),引入歷史時刻感知到的頻譜向量的序列即頻譜瀑布圖來刻畫不同的干擾模式的多域特征,其數(shù)學(xué)表達(dá)式為,其中L表示序列的長度。
針對未知干擾模式的零樣本識別問題,設(shè)計了一種包含監(jiān)督訓(xùn)練、無監(jiān)督分類的零樣本識別方法[52],總體框架如圖7 所示。在監(jiān)督訓(xùn)練階段,利用已知干擾模式的頻譜瀑布圖樣本訓(xùn)練編碼器,訓(xùn)練目標(biāo)是學(xué)習(xí)已知干擾模式數(shù)據(jù)在潛在特征空間內(nèi)的特征表示;在無監(jiān)督分類階段,設(shè)計了一種基于歐氏特征距離的無監(jiān)督分類準(zhǔn)則,在特征空間內(nèi)按照該準(zhǔn)則同時對已知和未知的干擾模式進(jìn)行分類,基于有限類別的標(biāo)簽數(shù)據(jù),學(xué)習(xí)已知模式的潛在特征表示,在保證最小化類內(nèi)距離的同時最大化類間距離,能夠有效應(yīng)對未知的干擾模式,獲得較高的識別準(zhǔn)確率。
圖7 未知干擾模式零樣本識別方法總體框架
在仿真過程中考慮5 個非重疊信道,每個信道的帶寬為4 MHz。用戶按照時隙基于感知結(jié)果選擇空閑信道進(jìn)行通信,感知和傳輸時隙的長度分別為1 ms和4 ms,發(fā)射功率為0 dBm。感知設(shè)備每1 ms 進(jìn)行一次全頻段感知,感知的頻率分辨率設(shè)置為100 kHz。智能體利用當(dāng)前和過去40 ms 的感知結(jié)果來識別不同的干擾模式??紤]3 種已知干擾模式(掃頻速率為1 GHz/s 的掃頻干擾K1和雙掃頻干擾K2,干擾信號帶寬為4 MHz 的梳狀干擾K3)和3 種未知干擾模式(干擾信號帶寬為2 MHz 的梳狀干擾U1,跟蹤干擾U2,掃頻速率為4 GHz/s 的掃頻干擾U3)。在監(jiān)督訓(xùn)練階段,訓(xùn)練數(shù)據(jù)集中僅包含3 種已知干擾模式的樣本;在測試階段,測試集同時包含3 種已知干擾模式和3 種未知干擾模式的樣本。編碼器、解碼器和監(jiān)督分類器的學(xué)習(xí)率的初始值分別設(shè)置為0.005、0.001 和0.001,干擾模式特征中心的更新率初始值設(shè)置為0.1。
首先,引入擾信比(JSR,jamming-to-signal ratio)來刻畫干擾功率和背景信號功率的相對關(guān)系,JSR 的定義為,pJ和pS分別代表干擾和背景信號的功率。其次,圖8 給出了擾信比為10 dB 時的混淆矩陣,用來判斷對于已知和未知干擾模式的識別精度。對于已知的干擾模式K1~K3,識別準(zhǔn)確率可以達(dá)到100%。對于未知的干擾模式U1~U3,識別準(zhǔn)確率略有下降,存在少量將U2識別為K1或?qū)3識別為K1的錯誤情況,但整體上仍然可以實現(xiàn)較好的識別效果。此外,識別準(zhǔn)確率還和擾信比有關(guān),當(dāng)擾信比在-10~30 dB 之間并以10 dB 的間隔變化時,隨著擾信比的降低,整體的分類性能略有下降,這是因為擾信比的降低會提高對模式特征區(qū)分的難度。
圖8 擾信比為10 dB 時的混淆矩陣
現(xiàn)有功率域或頻域方面的抗干擾工作往往通過功率調(diào)整硬抗[5-6]或跳頻躲避[31-33]的方式實現(xiàn)抗干擾通信,但在面臨具有高功率壓制能力的跟蹤干擾時,上述方法將不再適用。為此,針對強(qiáng)跟蹤干擾環(huán)境下的抗干擾通信問題,本節(jié)提出了一種基于主動誘導(dǎo)機(jī)制的智能抗跟蹤干擾方法[59]??紤]一個中繼通信抗干擾網(wǎng)絡(luò)中存在多個用戶收發(fā)對、多個中繼和一個移動的跟蹤干擾機(jī),如圖9 所示。每個用戶都有唯一對應(yīng)的目的接收端,其目的是在干擾環(huán)境中通過選擇合適的中繼將消息發(fā)送至合法接收端。干擾機(jī)具備信道感知能力和功率壓制能力,按照一定的路徑進(jìn)行移動,在移動過程中選擇其檢測到能量信號最大的信道,并在該信道上釋放噪聲干擾攻擊。
圖9 跟蹤干擾環(huán)境下的中繼通信抗干擾網(wǎng)絡(luò)
中繼采用放大轉(zhuǎn)發(fā)的工作模式,則用戶m的發(fā)射端與其接收端之間的傳輸速率為,其中,B表示信道帶寬,Lrm表示和用戶m選擇了相同中繼的用戶數(shù)量,表示中繼rm接收來自用戶m信號的信干噪比,表示用戶m接收端的信干噪比。根據(jù)文獻(xiàn)[60],考慮用戶m的傳輸速率需求為,則其傳輸滿意度指標(biāo)為,其中ν,λm都是常數(shù),用來表示系統(tǒng)對傳輸需求的要求程度。系統(tǒng)的優(yōu)化目標(biāo)為最大化所有用戶的傳輸滿意度
針對跟蹤干擾被動跟隨的特性,本節(jié)設(shè)計了一種基于雙階段中繼選擇的主動誘導(dǎo)機(jī)制。在沒有中心控制的情況下,所有分布式用戶在每個時隙共同選出一個中繼主動釋放偽通信信號來吸引干擾攻擊,從而使用戶能夠通過其他中繼與接收端進(jìn)行通信。每個中繼既可以轉(zhuǎn)發(fā)用戶通信信息,也可以主動發(fā)送偽通信信號吸引干擾機(jī)。
在雙階段中繼選擇過程中,首先,考慮干擾機(jī)始終處于周期性的移動狀態(tài),所以干擾機(jī)在移動過程中的干擾策略和用戶、中繼位置之間存在對應(yīng)關(guān)系,因此將用戶的誘導(dǎo)中繼選擇決策過程建模為馬爾可夫決策過程,用戶利用Q 學(xué)習(xí)方法來探索學(xué)習(xí)干擾機(jī)在不同位置上的干擾規(guī)律,從而優(yōu)化誘導(dǎo)中繼選擇策略。每個用戶將各自的誘導(dǎo)中繼選擇結(jié)果發(fā)送給相應(yīng)中繼。需要注意的是,中繼只有收到不少于一半用戶數(shù)量的請求時才會認(rèn)可該請求,并主動釋放偽通信信號吸引干擾攻擊,否則拒絕該請求。這樣設(shè)計的目的是在分布式條件下達(dá)成誘導(dǎo)中繼選擇共識,且避免了過多中繼都吸引干擾攻擊而造成通信資源浪費(fèi)。其次,所有用戶利用隨機(jī)自動學(xué)習(xí)機(jī)(SLA,stochastic learning automata)方法[61]進(jìn)行分布式?jīng)Q策,在除誘導(dǎo)中繼以外的集合中選擇通信中繼。
在仿真過程中,考慮設(shè)置用、中繼和信道的數(shù)量都為4,背景噪聲密度為-174 dBm/Hz。所有用戶的發(fā)射功率為23 dBm,所有中繼的發(fā)射功率為30 dBm。每個信道的帶寬為1 MHz,用戶的傳輸速率需求為1 Mbit/s,路徑衰落因子φ=2,學(xué)習(xí)速率α=0.8,迭代步長b=0.1。用戶1~用戶4 的發(fā)射端分別位于 (0.5 km,4.5 km)、(0.5 km,3.5 km)、(1 km,4 km)、(1.5 km,4 km),接收端分別位于(4 km,1.5 km)、(3.5 km,0.5 km)、(3.5 km,1 km)、(3.5 km,1.5 km);中繼1~中繼4 分別位于(1.5 km,2.5 km)、(2km,3km)、(2.5 km,3.5 km)、(2.5 km,3 km)。干擾機(jī)的起點和終點分別位于(3.5 km,4 km)和(4 km,3 km),并以10 m/s 的速度在兩點之間往返移動。
圖10 分別給出了有無誘導(dǎo)機(jī)制下的用戶傳輸滿意度,并分析了當(dāng)干擾機(jī)處于不同位置時的變化情況。從圖10(a)可以看出,在沒有誘導(dǎo)機(jī)制的條件下,每次至少存在一個中繼的轉(zhuǎn)發(fā)信息被干擾機(jī)干擾,所以圖10(a)中存在用戶1 和用戶4 滿意度為幾乎0 的情況。從圖10(b)中可以看出,誘導(dǎo)機(jī)制的存在能夠保證所有用戶的通信都不受干擾影響,顯著提高了用戶的平均滿意度,并避免某一用戶的滿意度過低的情況,在跟蹤干擾環(huán)境下實現(xiàn)了用戶的可靠通信。
圖10 有無誘導(dǎo)機(jī)制下的用戶傳輸滿意度
上述案例對2.1.2 節(jié)和2.2.1 節(jié)中的部分關(guān)鍵技術(shù)進(jìn)行了驗證,但仍存在需要改進(jìn)的地方。例如,3.1 節(jié)雖然研究了未知干擾模式識別問題,但假設(shè)的未知模式仍是和已知模式工作原理類似的常規(guī)干擾,可擴(kuò)展性不強(qiáng)??傊袁F(xiàn)有工作為基礎(chǔ),將智能干擾作為對手,首先研究干擾反向推理技術(shù)來理解對手,其次研究對抗策略設(shè)計來克制對手,最后研究抗干擾策略自主優(yōu)化和在線決策來戰(zhàn)勝對手,是未來智能通信對抗的重要研究方向。
干擾的智能化發(fā)展給無線通信安全帶來了巨大威脅,關(guān)于智能抗干擾技術(shù)的研究變得尤為重要。本文突破傳統(tǒng)被動抗干擾模式,提出對抗智能干擾的干擾主動防御技術(shù),并簡要說明了該技術(shù)的核心理念;其次,對現(xiàn)有智能抗干擾工作進(jìn)行總結(jié),并梳理出現(xiàn)有工作的共性問題及未來面臨的挑戰(zhàn);再次,應(yīng)對上述挑戰(zhàn),詳細(xì)介紹了干擾主動防御技術(shù)體系架構(gòu),并分別從干擾反向推理、脆弱性分析和對抗策略設(shè)計、抗干擾策略自主優(yōu)化和在線決策3 個層面對關(guān)鍵技術(shù)進(jìn)行詳細(xì)闡述;然后,基于前期工作的2 個具體案例,對部分關(guān)鍵技術(shù)進(jìn)行論證和說明,表明所提干擾主動防御技術(shù)的理論指導(dǎo)意義;最后,對全文工作進(jìn)行了總結(jié)。