亚洲免费av电影一区二区三区,日韩爱爱视频,51精品视频一区二区三区,91视频爱爱,日韩欧美在线播放视频,中文字幕少妇AV,亚洲电影中文字幕,久久久久亚洲av成人网址,久久综合视频网站,国产在线不卡免费播放

        ?

        6G網(wǎng)絡(luò)安全場(chǎng)景分析及安全模型研究

        2021-02-26 12:41:48張成磊付玉龍李暉曹進(jìn)
        關(guān)鍵詞:設(shè)備

        張成磊,付玉龍,李暉,曹進(jìn)

        6G網(wǎng)絡(luò)安全場(chǎng)景分析及安全模型研究

        張成磊,付玉龍,李暉,曹進(jìn)

        (西安電子科技大學(xué)網(wǎng)絡(luò)與信息安全學(xué)院,陜西 西安 710126)

        6G網(wǎng)絡(luò)的概念已經(jīng)被提出并引起了學(xué)術(shù)界的廣泛關(guān)注。整體而言,6G網(wǎng)絡(luò)將對(duì)5G網(wǎng)絡(luò)的性能進(jìn)行優(yōu)化,并拓展5G技術(shù)難以實(shí)現(xiàn)的業(yè)務(wù)場(chǎng)景。然而,這些新場(chǎng)景、新技術(shù)的引入勢(shì)必帶來(lái)新的安全隱患和威脅。首先,針對(duì)6G網(wǎng)絡(luò)的關(guān)鍵技術(shù)、實(shí)現(xiàn)手段等展開(kāi)研究,重點(diǎn)圍繞國(guó)際上5G/6G的主要研究機(jī)構(gòu)、公司和企業(yè)的研究進(jìn)展進(jìn)行詳細(xì)調(diào)研。然后,匯總6G網(wǎng)絡(luò)的愿景和核心技術(shù),并在此基礎(chǔ)上提出6G網(wǎng)絡(luò)可能存在的安全問(wèn)題和挑戰(zhàn)。最后,根據(jù)現(xiàn)有的技術(shù)情況,總結(jié)針對(duì)這些安全問(wèn)題的解決方案,并探討面向6G網(wǎng)絡(luò)的安全模型。

        6G;網(wǎng)絡(luò)安全;無(wú)線通信安全

        1 引言

        2020年7月3日,第三代合作伙伴計(jì)劃(3GPP,3rd Generation Partnership Project)宣布5G標(biāo)準(zhǔn)R16 (Release16)凍結(jié),至此,5G網(wǎng)絡(luò)的架構(gòu)、頻譜技術(shù)和商業(yè)模式基本確定,5G進(jìn)入全面部署的快車道。自移動(dòng)通信系統(tǒng)誕生以來(lái),移動(dòng)通信以及相關(guān)技術(shù)的發(fā)展日新月異,遵循“十年周期法則”,即基本上每十年會(huì)更新下一代的無(wú)線通信系統(tǒng),而且每一代通信系統(tǒng)從開(kāi)展研究到商業(yè)化部署需要5~10年,所以,當(dāng)上一代移動(dòng)通信系統(tǒng)步入商用化后,就應(yīng)該展開(kāi)針對(duì)下一代移動(dòng)通信的理論和技術(shù)的研究,面向6G網(wǎng)絡(luò)的研究呼之欲出。

        盡管5G的使用越來(lái)越普及,它的一些技術(shù)手段仍然不夠成熟,無(wú)法滿足人們最初對(duì)5G的要求和期望。例如,5G雖然提供了較4G優(yōu)勢(shì)明顯的大帶寬、低時(shí)延、廣連接等性能指標(biāo),但是依然無(wú)法滿足實(shí)際生活中對(duì)于虛擬現(xiàn)實(shí)、自動(dòng)駕駛、遠(yuǎn)程醫(yī)療,以及萬(wàn)物互聯(lián)等業(yè)務(wù)的智能化通信需求。這就激發(fā)了人們對(duì)通信系統(tǒng)的研究和探索,期望在6G網(wǎng)絡(luò)中達(dá)到虛擬現(xiàn)實(shí)和自動(dòng)駕駛等所需要的關(guān)鍵性能指標(biāo),也以此為出發(fā)點(diǎn)展開(kāi)了對(duì)6G愿景、使能以及一些潛在關(guān)鍵技術(shù)的研究。

        6G網(wǎng)絡(luò)與5G相比將會(huì)有巨大的革新,相比之下,6G不僅要求更高的帶寬、更低的時(shí)延和更高的可靠性,同時(shí)6G網(wǎng)絡(luò)會(huì)具備更多5G所沒(méi)有的數(shù)據(jù)形式,如未來(lái)6G所傳輸?shù)拇罅咳梭w數(shù)字信息(包含物聯(lián)網(wǎng)、工業(yè)物聯(lián)網(wǎng)、電子健康、人體局域網(wǎng)等)。此外,6G將會(huì)更廣泛地滲透到工業(yè)物聯(lián)網(wǎng)以及各種垂直行業(yè)中,網(wǎng)絡(luò)中的大量數(shù)據(jù)將包含極其敏感的個(gè)人隱私。

        首先,在6G時(shí)代,設(shè)備將與人們的感官無(wú)縫集成。虛擬現(xiàn)實(shí)(VR)、增強(qiáng)現(xiàn)實(shí)(AR)和混合現(xiàn)實(shí)(MR)技術(shù)正在合并到XR(XR=VR+ AR+MR)中。在通信網(wǎng)絡(luò)中所傳輸?shù)男畔⒊藱C(jī)密文件、隱私信息,還包含人的生物特征識(shí)別信息、家庭電器控制信息甚至是車輛的自動(dòng)駕駛控制信息等。人們將可以通過(guò)可穿戴移動(dòng)設(shè)備隨時(shí)隨地與互聯(lián)網(wǎng)相連。在這樣的情況下,惡意網(wǎng)絡(luò)活動(dòng)可能會(huì)導(dǎo)致人們的財(cái)產(chǎn)、精神甚至生命損失。因此,6G網(wǎng)絡(luò)的安全研究和完善的安全機(jī)制建立至關(guān)重要。沒(méi)有健全的安全機(jī)制,6G通信網(wǎng)絡(luò)就無(wú)法被廣泛應(yīng)用和接受,也無(wú)法發(fā)揮其全部的潛力。

        除此之外,未來(lái)6G網(wǎng)絡(luò)的設(shè)備形式和服務(wù)類型可能與現(xiàn)在有著翻天覆地的變化,相應(yīng)的網(wǎng)絡(luò)架構(gòu)趨向復(fù)雜化,應(yīng)用場(chǎng)景以及所包含的終端設(shè)備也會(huì)極大地增加,并且網(wǎng)絡(luò)有向邊緣化發(fā)展的趨勢(shì)。這就意味著很多傳統(tǒng)的安全方法難以在6G的新終端設(shè)備中實(shí)行,同時(shí)網(wǎng)絡(luò)會(huì)存在更多可能被攻擊的安全設(shè)備和安全漏洞。為了解決這些問(wèn)題,需要在6G網(wǎng)絡(luò)架構(gòu)設(shè)計(jì)的同時(shí)融入安全方案和相對(duì)完整的安全體系,以保證6G網(wǎng)絡(luò)具有更高的安全性和可信度。

        2 6G研究背景

        2.1 性能指標(biāo)與關(guān)鍵技術(shù)

        6G的關(guān)鍵性能指標(biāo)包括支持1 Gbit/s的用戶體驗(yàn)速率,1 Tbit/s的峰值速率,10~100 μs的時(shí)延,1 Gbit/(s·m2)的區(qū)域通信流量,107臺(tái)/千米2的連接密度以及至少1000 km/h的移動(dòng)性。圖1展示了6G與5G關(guān)鍵指標(biāo)的對(duì)比,可以看出,6G網(wǎng)絡(luò)的關(guān)鍵網(wǎng)絡(luò)性能指標(biāo)較5G具有顯著提升。

        圖1 5G和6G的關(guān)鍵指標(biāo)比較

        Figure 1 Comparison of 5G and 6G key indicators

        為了實(shí)現(xiàn)上述關(guān)鍵性能指標(biāo)要求,6G網(wǎng)絡(luò)在頻譜、編碼、天線等方面需要產(chǎn)生革命性的創(chuàng)新,而當(dāng)前6G網(wǎng)絡(luò)的最終技術(shù)實(shí)現(xiàn)方式還不明確,其潛在技術(shù)將包括太赫茲(THz)通信、可見(jiàn)光通信(VLC)、新一代信道編碼技術(shù)、超大規(guī)模天線技術(shù)、基于人工智能(AI)的無(wú)線通信技術(shù)、空天地海一體化通信等關(guān)鍵技術(shù)[1-10]。表1對(duì)介紹6G相關(guān)的文獻(xiàn)進(jìn)行了對(duì)比和總結(jié),其中,OAM為軌道角動(dòng)量;SM-MIMO為超大型天線陣列;B5G為后5G。

        2.2 應(yīng)用場(chǎng)景

        6G網(wǎng)絡(luò)性能的提升將帶來(lái)全新的網(wǎng)絡(luò)應(yīng)用場(chǎng)景的變化,進(jìn)而促進(jìn)新業(yè)務(wù)發(fā)展并出現(xiàn)相應(yīng)的網(wǎng)絡(luò)安全問(wèn)題。文獻(xiàn)[1]中提出了5種6G的新型應(yīng)用場(chǎng)景,包括進(jìn)一步增強(qiáng)的移動(dòng)寬帶(FeMBB,further enhanced mobile broadband)、超大規(guī)模機(jī)器類型通信(umMTC,ultra-massive machine-type communications)、增強(qiáng)型超可靠和低時(shí)延的通信(ERLLC,extremely reliable and low-latency communications)、長(zhǎng)距離和高移動(dòng)性通信(LDHMC,long-distance and high-mobility communications)以及超低功耗通信(ELPC,extremely low-power communications)。圖2給出了未來(lái)6G的潛在使用場(chǎng)景,表2總結(jié)了5G與6G在應(yīng)用場(chǎng)景、特性以及關(guān)鍵指標(biāo)這些方面的區(qū)別。

        2.3 網(wǎng)絡(luò)架構(gòu)

        經(jīng)過(guò)廣泛調(diào)研,本文發(fā)現(xiàn)現(xiàn)有的6G相關(guān)文獻(xiàn)主要是提出愿景和分析討論潛在技術(shù)。由于很多技術(shù)尚不成熟,很難確定一個(gè)具體的框架。這里采用文獻(xiàn)[1]中所提出的天地一體化自治網(wǎng)絡(luò)框架來(lái)進(jìn)行說(shuō)明,該模型主要是對(duì)5G網(wǎng)絡(luò)架構(gòu)進(jìn)行天地一體化的延伸,闡明了天地一體化自治系統(tǒng)的基本思路和框架。圖3給出了空天地海一體化4層網(wǎng)絡(luò)結(jié)構(gòu)。

        從結(jié)構(gòu)上講,6G將是一個(gè)4層大維網(wǎng)絡(luò),可分為太空、空中、地面和水下4個(gè)網(wǎng)絡(luò)層。

        1) 太空網(wǎng)絡(luò)層:支持空間旅行等應(yīng)用中的空間互聯(lián)網(wǎng)服務(wù),并通過(guò)密集部署近地軌道、中軌道地球和地球靜止軌道衛(wèi)星為地面網(wǎng)絡(luò)未覆蓋、未服務(wù)和服務(wù)不足地區(qū)提供無(wú)線覆蓋。對(duì)于大容量星地傳輸,將部署毫米波通信衛(wèi)星。同時(shí)激光通信可以在自由空間實(shí)現(xiàn)衛(wèi)星間的遠(yuǎn)距離傳輸。

        2) 空中網(wǎng)絡(luò)層:該系統(tǒng)在低頻、微波和毫米波段工作,通過(guò)密集使用飛行基站,如無(wú)人機(jī)和浮空基站,為緊急事件或偏遠(yuǎn)山區(qū)提供更靈活可靠的連接。浮空基站的定位特性有助于使6G定義的光接口連接太空網(wǎng)絡(luò)和可到達(dá)的無(wú)人機(jī)基站。

        表1 6G關(guān)鍵性能技術(shù)指標(biāo)研究進(jìn)展現(xiàn)狀

        圖2 6G典型應(yīng)用場(chǎng)景

        Figure 2 The typical scenarios of 6G networks

        表2 5G與6G應(yīng)用場(chǎng)景與關(guān)鍵指標(biāo)對(duì)比

        3) 地面網(wǎng)絡(luò)層:為大多數(shù)人類活動(dòng)提供無(wú)線覆蓋的主要解決方案。為了滿足數(shù)據(jù)速率高達(dá)1 Tbit/s的業(yè)務(wù)需求,則利用THz波段;地面網(wǎng)絡(luò)將支持低頻、微波、毫米波和THz波段(即全波段)。毫米波(mmWave)和THz通信的路徑損耗非常大,需要部署更多的小基站,因此,6G地面網(wǎng)絡(luò)將是一個(gè)超密集的異構(gòu)網(wǎng)絡(luò),需要部署超高容量的太赫茲傳輸通道。

        4) 水下網(wǎng)絡(luò)層:將為具有軍事或商業(yè)應(yīng)用的遠(yuǎn)海和深?;顒?dòng)提供互聯(lián)網(wǎng)覆蓋服務(wù)。由于水具有不同于陸地的傳播特性,因此可以利用水聲通信和激光通信來(lái)實(shí)現(xiàn)水下雙向通信的高速數(shù)據(jù)傳輸,并可以部署更多的水下集線器。

        圖3 6G網(wǎng)絡(luò)體系結(jié)構(gòu)

        Figure 3 The network architecture of 6G

        3 6G網(wǎng)絡(luò)安全挑戰(zhàn)和需求

        3.1 新技術(shù)和新特征

        為提高通信系統(tǒng)的效能、靈活性和自治能力,并降低成本,6G 網(wǎng)絡(luò)架構(gòu)將引入新的互聯(lián)網(wǎng)技術(shù),如人工智能和可見(jiàn)光通信。這些新技術(shù)的引入將為6G安全提供很好的賦能,同時(shí)也會(huì)存在新的安全挑戰(zhàn)。

        6G網(wǎng)絡(luò)與5G網(wǎng)絡(luò)相比最明顯的特征就是其對(duì)AI的支持,AI將在設(shè)計(jì)和優(yōu)化6G架構(gòu)、協(xié)議、操作以及安全性等方面扮演關(guān)鍵角色[5]。然而,人工智能所帶來(lái)的安全問(wèn)題也是不可避免的[11]。未來(lái)的6G通信系統(tǒng)將依靠人工智能實(shí)現(xiàn)高度自治化,系統(tǒng)中基于人工智能的安全防護(hù)也是這樣?;谧詣?dòng)化的人工智能安全手段,雖然大大降低了成本和人工開(kāi)銷,但是也存在被攻擊者找到漏洞的風(fēng)險(xiǎn)。由于整個(gè)系統(tǒng)高度基于AI的運(yùn)作模式,一旦攻擊者找到漏洞并植入惡意的腳本或者對(duì)系統(tǒng)功能進(jìn)行篡改,將會(huì)對(duì)整個(gè)系統(tǒng)造成大面積的危害。因此,如何將AI安全地融合進(jìn)通信系統(tǒng)是未來(lái)值得探討和研究的問(wèn)題。在文獻(xiàn)[12]中,研究者發(fā)現(xiàn)在B5G網(wǎng)絡(luò)和6G網(wǎng)絡(luò)中,AI和通信網(wǎng)絡(luò)的集成將會(huì)引入一些新的安全威脅:1) 機(jī)器學(xué)習(xí)(ML)與通信系統(tǒng)在結(jié)合時(shí)存在新的集成點(diǎn)和應(yīng)用程序,這為攻擊者開(kāi)放新的攻擊媒介;2) 區(qū)塊鏈技術(shù)會(huì)在運(yùn)營(yíng)商環(huán)境中引入微型運(yùn)營(yíng)商和微蜂窩,為惡意的實(shí)體創(chuàng)建了新的激勵(lì)結(jié)構(gòu)??梢园l(fā)現(xiàn),AI與通信系統(tǒng)的結(jié)合就像一把雙刃劍。在某種程度上,它可以限制攻擊對(duì)設(shè)備和系統(tǒng)環(huán)境的影響。但是,AI的學(xué)習(xí)機(jī)制需要龐大的數(shù)據(jù)量支持,如果對(duì)手攻擊一個(gè)數(shù)據(jù)中心,則可能損害或控制該地理位置提供的服務(wù)。為了應(yīng)對(duì)這種情況,需要采取相應(yīng)的安全措施。例如,將人工智能學(xué)習(xí)處理的數(shù)據(jù)盡可能分散到邊緣設(shè)備中,安全攻擊的最嚴(yán)重后果將僅影響該特定用戶,而不影響其他設(shè)備。不僅如此,在設(shè)計(jì)與AI融合的通信系統(tǒng)時(shí),還需要制定嚴(yán)格的安全模型,并基于該模型指定安全協(xié)議。

        VLC作為6G通信系統(tǒng)中光無(wú)線通信的主要部分,將會(huì)在未來(lái)有很大范圍的應(yīng)用。這種通信技術(shù)利用了照明時(shí)傳輸?shù)姆椒ǎ梢宰杂衫妙l譜資源,為低成本寬帶通信創(chuàng)造了機(jī)會(huì),同時(shí)可以很大限度上減輕頻譜擁塞。VLC可以作為現(xiàn)有射頻通信技術(shù)的有力補(bǔ)充,如無(wú)線體域網(wǎng)和個(gè)人區(qū)域網(wǎng)、無(wú)線局域網(wǎng)、車輛區(qū)域網(wǎng)絡(luò)和水下傳感器網(wǎng)絡(luò)。VLC在傳統(tǒng)射頻通信不太有效的情況下也很有用,如飛機(jī)機(jī)艙內(nèi)互聯(lián)網(wǎng)服務(wù)、水下通信、醫(yī)療區(qū)域等[13]。VLC本身具有一些固定的安全性能,如可見(jiàn)光的物理性質(zhì)決定了它的傳播范圍局限在一個(gè)沒(méi)有遮擋物的區(qū)域內(nèi),這樣在室內(nèi)通過(guò)可見(jiàn)光進(jìn)行的數(shù)據(jù)傳輸在理論上無(wú)法被室外或者遮擋物之后的人攔截和竊聽(tīng)。然而,與通信雙方在同一空間下的實(shí)體,就很容易發(fā)現(xiàn)并竊取到信息,因此,VLC技術(shù)需要足夠可靠的物理層安全技術(shù)來(lái)對(duì)其通信的機(jī)密性進(jìn)行保障?,F(xiàn)有物理層安全體系和機(jī)制主要針對(duì)射頻通信,相比之下可見(jiàn)光在物理層的安全機(jī)制比較薄弱,應(yīng)當(dāng)針對(duì)可見(jiàn)光設(shè)計(jì)更加全面和完善的物理層安全機(jī)制。

        除了以上的技術(shù)特征,少數(shù)技術(shù)將與6G同時(shí)成熟,因此有可能在6G標(biāo)準(zhǔn)化和研究過(guò)程結(jié)束時(shí)發(fā)揮作用。例如,量子計(jì)算和通信可以提供高安全性和長(zhǎng)距離的聯(lián)網(wǎng)。目前,世界上主要的研究工作集中在量子領(lǐng)域,量子計(jì)算的技術(shù)還有待突破,暫時(shí)沒(méi)有過(guò)多對(duì)其他領(lǐng)域(如通信領(lǐng)域)的滲透,在未來(lái)量子計(jì)算技術(shù)成熟時(shí),如何用量子通信提升通信的效能和安全性將會(huì)是一個(gè)值得探討和研究的問(wèn)題。與此同時(shí),如果量子計(jì)算機(jī)進(jìn)入商用階段,那么現(xiàn)代密碼算法中普遍使用的公鑰密碼算法將不再安全,很容易被量子計(jì)算機(jī)破解,需要后量子密碼算法來(lái)進(jìn)行代替。

        3.2 設(shè)備能源限制

        6G將能夠靈活有效地連接上萬(wàn)億個(gè)自治的低功耗移動(dòng)設(shè)備,并且在6G網(wǎng)絡(luò)的體系中,多數(shù)終端將趨向于微型化,如人體植入設(shè)備等,這些設(shè)備的能耗和安全性的權(quán)衡是個(gè)非常值得研究的問(wèn)題。在這種情況下,針對(duì)用戶體驗(yàn)而言,節(jié)能技術(shù)變得非常重要,需要更好的電池及能源技術(shù)以及輕型的信號(hào)處理架構(gòu),才能使在6G網(wǎng)絡(luò)下的移動(dòng)設(shè)備擁有更強(qiáng)大的續(xù)航能力。為了解決這個(gè)問(wèn)題,除了為通信設(shè)備設(shè)計(jì)良好的能源收集方案外,安全技術(shù)的能耗應(yīng)當(dāng)考慮在內(nèi)。

        目前,常用的物聯(lián)網(wǎng)芯片在鏈路層采用固定的認(rèn)證和加密方案。由于不同的認(rèn)證和加密操作意味著不同的保護(hù)等級(jí)和能量消耗,固定安全策略忽略了剩余能量、動(dòng)態(tài)威脅和不同的服務(wù)需求,容易導(dǎo)致能源效率低。此外,固定的高級(jí)安全保護(hù)雖然安全防護(hù)能力較強(qiáng),但能耗太大,會(huì)導(dǎo)致設(shè)備工作時(shí)間縮短。

        在6G物聯(lián)網(wǎng)中,能量收集和移動(dòng)邊緣計(jì)算(MEC)[14]技術(shù)將在一定限度上大大緩解電池和計(jì)算能力受限的限制。利用太陽(yáng)能、射頻等多種能源可以為物聯(lián)網(wǎng)設(shè)備持續(xù)提供能量。一些敏感的計(jì)算任務(wù)將被卸載到邊緣服務(wù)器進(jìn)行實(shí)時(shí)數(shù)據(jù)處理。目前的物聯(lián)網(wǎng)芯片通常支持多種安全規(guī)范,但是在芯片初始化過(guò)程中固定加密和認(rèn)證的方式,這樣做簡(jiǎn)化了網(wǎng)絡(luò)配置,適合資源受限的物聯(lián)網(wǎng)芯片。然而,這種固定的安全配置可能無(wú)法滿足6G網(wǎng)絡(luò)對(duì)網(wǎng)絡(luò)服務(wù)質(zhì)量、能量效率和消息安全的嚴(yán)格要求。因?yàn)榫W(wǎng)絡(luò)威脅通常是動(dòng)態(tài)的,這些威脅可能遠(yuǎn)遠(yuǎn)超出了所提供的固定低級(jí)保護(hù)。另外,安全保護(hù)意味著額外的能源消耗,固定的高級(jí)安全配置會(huì)很快耗盡電池,導(dǎo)致服務(wù)停止,這說(shuō)明現(xiàn)有的固定安全配置存在能效低的缺陷。考慮到未來(lái)6G網(wǎng)絡(luò)中廣泛采用的能量手機(jī)技術(shù)和業(yè)務(wù)需求[15],需要合理利用可用能量來(lái)應(yīng)對(duì)網(wǎng)絡(luò)威脅,從而同時(shí)提升安全保護(hù)能力和網(wǎng)絡(luò)性能。

        3.3 更高的隱私保護(hù)需求

        6G的愿景之一就是支持無(wú)所不在的互聯(lián)互通服務(wù),為無(wú)數(shù)的設(shè)備、傳感器和自主應(yīng)用提供可靠、安全的通信服務(wù)。這為家庭、工廠、城市和政府提供了未來(lái)智能服務(wù)的基本推動(dòng)力,而這些服務(wù)又依賴于個(gè)人和組織之間或個(gè)人與政府之間共享大量的個(gè)人數(shù)據(jù)。例如,未來(lái)會(huì)普遍融入人們生活的智能家居服務(wù),為了提供更好的服務(wù),智能家居相關(guān)的產(chǎn)品會(huì)盡可能地存儲(chǔ)有關(guān)人們生活習(xí)慣的數(shù)據(jù)信息,很多情況下還會(huì)將信息上傳至云服務(wù)器進(jìn)行模型的訓(xùn)練等。例如智能照明系統(tǒng),就需要知道用戶什么時(shí)候在家、會(huì)使用哪些房間、家里有多少人等。這些未經(jīng)使用者確認(rèn)的數(shù)據(jù)大量包含了有關(guān)于使用者的社會(huì)關(guān)系、習(xí)慣和偏好等隱私信息。使用這些用戶數(shù)據(jù)的優(yōu)勢(shì)是能夠根據(jù)用戶的個(gè)人喜好以及對(duì)更廣泛的用戶和提供商網(wǎng)絡(luò)的理解,創(chuàng)建本地優(yōu)化或個(gè)性化的服務(wù),提高服務(wù)質(zhì)量。但同時(shí)帶來(lái)了巨大的隱私泄露風(fēng)險(xiǎn),并且使服務(wù)提供雙方的信任問(wèn)題變得更加突出。

        隨著6G技術(shù)的到來(lái)以及生物科學(xué)、材料科學(xué)、生物電子醫(yī)學(xué)等交叉學(xué)科的進(jìn)一步成熟,其中無(wú)論是思維感知還是人體數(shù)字孿生,都包含著大量敏感的人體機(jī)能甚至人腦的數(shù)字信息。并且,由于6G業(yè)務(wù)場(chǎng)景的多樣性,以及網(wǎng)絡(luò)的開(kāi)放性,用戶隱私信息從封閉的平臺(tái)轉(zhuǎn)移到開(kāi)放的平臺(tái)上,接觸狀態(tài)從線下變成線上,泄露的風(fēng)險(xiǎn)也因此增加。例如,在智能醫(yī)療系統(tǒng)中,病人病歷、處方和治療方案等隱私性信息在采集、存儲(chǔ)和傳輸過(guò)程中存在被泄露、篡改的風(fēng)險(xiǎn),而在智能交通中,車輛的位置和行駛軌跡等隱私信息存在暴露和被非法跟蹤使用的風(fēng)險(xiǎn)。如果這些數(shù)據(jù)集被連接起來(lái),在連接的數(shù)據(jù)中就會(huì)包含大量全方位的個(gè)人信息,通過(guò)這些信息足以重新識(shí)別數(shù)據(jù)中所代表的個(gè)人。怎么對(duì)這些數(shù)據(jù)進(jìn)行周密的安全防護(hù)、如何使用這些數(shù)據(jù)以及風(fēng)險(xiǎn)應(yīng)該由誰(shuí)來(lái)承擔(dān),是比較值得討論和探索的問(wèn)題。

        B5G智能生態(tài)系統(tǒng)將是一個(gè)共享的網(wǎng)絡(luò)基礎(chǔ)設(shè)施,多個(gè)利益相關(guān)者協(xié)同為消費(fèi)者提供多種服務(wù)。因此,它也為管理隱私與建立所需信任之間的權(quán)衡展開(kāi)了討論。隨著人們給予利益相關(guān)者更多的信任,隱私泄露的風(fēng)險(xiǎn)增加。因此,6G需要新的信任模型以及更好的隱私保護(hù)方法,從而在維護(hù)消費(fèi)者隱私和信任之間提供平衡。

        3.4 需要支持廣連接、高覆蓋的設(shè)備接入

        6G網(wǎng)絡(luò)提出了一個(gè)新的網(wǎng)絡(luò)體系,即空天地海一體化網(wǎng)絡(luò),它相比5G具有更廣的覆蓋范圍和更遠(yuǎn)的覆蓋深度和高度。這樣的網(wǎng)絡(luò)體系不僅需要為物聯(lián)網(wǎng)提供可靠的網(wǎng)絡(luò)通信服務(wù),還需要支持不同環(huán)境和空間下的各種設(shè)備實(shí)時(shí)通信。海量的設(shè)備對(duì)連接管理提出了很高要求。例如,車聯(lián)網(wǎng)系統(tǒng)中的車車通信、車人通信、車路通信和車網(wǎng)通信涉及上億傳感設(shè)備的連接,對(duì)于保障交通安全、提高城市交通運(yùn)行效率、降低污染排放具有重要意義。大型城市的智能電表裝機(jī)量過(guò)千萬(wàn),每天需要從大量電表向電網(wǎng)數(shù)據(jù)中心上傳大量的計(jì)量數(shù)據(jù)。智能制造要求持續(xù)在線、廣覆蓋、大連接,為連續(xù)運(yùn)轉(zhuǎn)的機(jī)器、數(shù)量龐大的產(chǎn)品和工人提供隨時(shí)隨地、無(wú)處不在的連接,保證生產(chǎn)各個(gè)環(huán)節(jié)任何位置間物的連接。物聯(lián)網(wǎng)設(shè)備數(shù)量龐大,無(wú)人值守,對(duì)網(wǎng)絡(luò)安全管理和安全防御帶來(lái)新的挑戰(zhàn)。因此,6G 網(wǎng)絡(luò)需要擁有足夠自主化和智能化的安全防御體系,為將來(lái)6G時(shí)代中趨近于無(wú)限數(shù)量的移動(dòng)終端提供安全防護(hù)能力。

        4 6G網(wǎng)絡(luò)安全模型

        6G的安全模型和技術(shù)應(yīng)該為差異化的6G應(yīng)用場(chǎng)景與新的網(wǎng)絡(luò)架構(gòu)提供全面且可靠的安全防護(hù)。由于6G應(yīng)用場(chǎng)景下終端種類數(shù)目巨大、安全防護(hù)等級(jí)要求高、安全能耗效率要求高等特點(diǎn),6G的安全架構(gòu)應(yīng)該滿足以下需求。

        1) 分布式模型訓(xùn)練:6G網(wǎng)絡(luò)具有高度AI化的特點(diǎn),模型的集中訓(xùn)練將會(huì)存在很大的安全威脅,需要分布式的模型訓(xùn)練方案來(lái)改善。

        2) 可見(jiàn)光安全:可見(jiàn)光作為6G中一種新興的通信技術(shù),需要具有不同于射頻通信的物理層安全機(jī)制來(lái)支持。

        3) 量子密碼安全:預(yù)計(jì)6G時(shí)代大規(guī)模量子計(jì)算機(jī)將會(huì)得到商用,基于量子計(jì)算層面的密碼體系值得研究。

        4) 高能效安全:6G網(wǎng)絡(luò)中除了用戶的移動(dòng)設(shè)備具有移動(dòng)化和微型化的特性,很多小型的基站等通信基礎(chǔ)設(shè)備也會(huì)趨向移動(dòng)化,能源消耗是十分重要的問(wèn)題,需要設(shè)計(jì)具有良好能耗效率的安全算法來(lái)提供安全保護(hù)。

        5)隱私保護(hù):6G網(wǎng)絡(luò)中存在大量的敏感信息,需要增加新的隱私保護(hù)手段,并對(duì)現(xiàn)有的隱私保護(hù)技術(shù)進(jìn)行拓展和增強(qiáng)。

        6) 智能化安全:一方面,隨著6G網(wǎng)絡(luò)范圍的擴(kuò)大和設(shè)備的增多,網(wǎng)絡(luò)攻擊不僅越來(lái)越普遍,而且在攻擊方式上也越來(lái)越復(fù)雜,單靠人工力量以及固定的防御機(jī)制很難應(yīng)對(duì)數(shù)量巨大并且多變的攻擊,因此需要利用AI對(duì)網(wǎng)絡(luò)攻擊進(jìn)行預(yù)測(cè)并調(diào)整相適應(yīng)的安全能力,設(shè)計(jì)基于AI的安全方案。同時(shí),AI可以為日益復(fù)雜化的網(wǎng)絡(luò)安全配置帶來(lái)便利。另一方面,AI的融入為6G網(wǎng)絡(luò)安全帶來(lái)新的安全需求,需要針對(duì)智能化系統(tǒng)設(shè)計(jì)新的安全規(guī)范。

        6G 網(wǎng)絡(luò)安全架構(gòu)的設(shè)計(jì)需滿足上述新的安全需求和挑戰(zhàn),包括新業(yè)務(wù)、新技術(shù)、新特征以及新的設(shè)備形態(tài)等。6G 網(wǎng)絡(luò)安全架構(gòu)的設(shè)計(jì)原則包括:對(duì)集中的數(shù)據(jù)進(jìn)行分散化的處理,考慮新的通信技術(shù)和設(shè)備形式帶來(lái)的安全問(wèn)題,加強(qiáng)隱私保護(hù)能力以及安全手段需要向智能化發(fā)展。

        結(jié)合針對(duì)6G網(wǎng)絡(luò)安全場(chǎng)景的調(diào)研結(jié)果,通過(guò)擴(kuò)展3GPP 5G安全架構(gòu)模型,本文認(rèn)為未來(lái)6G網(wǎng)絡(luò)的安全架構(gòu)將具有類似圖4的架構(gòu)。

        根據(jù)6G網(wǎng)絡(luò)安全設(shè)計(jì)預(yù)測(cè),本文認(rèn)為未來(lái)6G網(wǎng)絡(luò)安全架構(gòu)將包含以下8個(gè)安全域。

        (1)終端設(shè)備安全:類似于5G網(wǎng)絡(luò),如何確保海量接入設(shè)備自身的安全,將成為保障未來(lái)6G安全的基礎(chǔ)。6G網(wǎng)絡(luò)中將會(huì)存在大量的微型/ 小型設(shè)備,它們形式多樣、包含功能廣泛,如可穿戴微型設(shè)備、電子紡織物、觸覺(jué)感知設(shè)備和人體植入物等,這些設(shè)備獲取并傳輸?shù)臄?shù)據(jù)普遍涉及重要的人體數(shù)字特征或人腦思維信息。首先,需要針對(duì)不同類型的設(shè)備制定差異化的安全策略,使每種設(shè)備根據(jù)安全需求具有自身的安全保護(hù)能力。微型小型設(shè)備往往具有比較嚴(yán)格的低功耗需求,因此安全策略制定的同時(shí)需要綜合考慮設(shè)備的能源收集能力以及安全算法和協(xié)議本身的能耗。

        (2)網(wǎng)絡(luò)接入安全:保障用戶接入網(wǎng)絡(luò)的數(shù)據(jù)安全,安全需求將包含用戶設(shè)備(UE)與網(wǎng)絡(luò)之間信令的機(jī)密性和完整性安全保護(hù),包括無(wú)線接入網(wǎng)和核心網(wǎng)信令保護(hù);UE 和網(wǎng)絡(luò)之間用戶數(shù)據(jù)的機(jī)密性和完整性安全保護(hù),包括UE 與無(wú)線接入網(wǎng)之間的空口數(shù)據(jù)保護(hù);以及UE 與核心網(wǎng)中用戶安全節(jié)點(diǎn)之間的數(shù)據(jù)保護(hù)。

        (3)網(wǎng)絡(luò)域安全:保障6G在網(wǎng)絡(luò)域上數(shù)據(jù)處理和傳輸?shù)陌踩?。網(wǎng)絡(luò)域安全涉及承載網(wǎng)絡(luò)、核心網(wǎng)絡(luò)上諸多安全要素的防護(hù)問(wèn)題,安全需求將包括安全域切換、移動(dòng)設(shè)備的無(wú)縫安全漫游,以及異構(gòu)網(wǎng)絡(luò)的安全統(tǒng)一認(rèn)證等。

        (4)應(yīng)用程序域安全:保證用戶和業(yè)務(wù)提供方之間的安全通信。應(yīng)用程序域安全面向用戶實(shí)際使用的應(yīng)用程序,涉及用戶的安全體驗(yàn)和利益,其安全性需求較多,如病毒木馬檢測(cè)、腳本注入、零日漏洞等,涉及的安全防護(hù)方法可能包括代碼審計(jì)、加密流量分析、模式識(shí)別等相關(guān)技術(shù)內(nèi)容。

        (5)物理層信道/天線安全防護(hù):6G網(wǎng)絡(luò)將會(huì)采用一些新的物理層技術(shù),如Cell-free大規(guī)模MIMO(多進(jìn)多出)、智能反射面(IRS)、可見(jiàn)光通信等。對(duì)于新的物理層通信技術(shù),以往的物理層安全方案已經(jīng)不再適用,需要針對(duì)新的物理層技術(shù)提出相應(yīng)的物理層安全方案,如VLC,與傳統(tǒng)的無(wú)線電通信在傳輸數(shù)據(jù)的媒介上有直接的區(qū)別,需要針對(duì)可見(jiàn)光獨(dú)特的物理性質(zhì)采取安全解決措施。此外,未來(lái)的6G將會(huì)是一個(gè)空天地海一體化的無(wú)線通信網(wǎng)絡(luò),除了地面的無(wú)線通信傳輸,還需要支持海洋、天空、太空中的實(shí)時(shí)通信,在這些空間區(qū)域的信息傳輸方式和傳輸媒介都與地面無(wú)線通信有明顯的不同,在不同的空間區(qū)域需要使用不同的安全策略來(lái)滿足通信的安全需求。

        圖4 6G網(wǎng)絡(luò)安全架構(gòu)

        Figure 4 The security architecture of 6G networks

        (6)數(shù)據(jù)安全/隱私保護(hù):6G網(wǎng)絡(luò)將會(huì)極大限度上地滿足人們對(duì)日常生活的智能化需求,如智能家居、智能汽車、虛擬智能助手等,這些智能化的服務(wù)需要基于對(duì)人們生活以及生理數(shù)據(jù)的大量收集;同時(shí),如人體植入物、人腦思維感知等應(yīng)用需要收集大量與人們體征有關(guān)的數(shù)據(jù),這些數(shù)據(jù)本身就是非常隱私并且敏感的。因此,未來(lái)6G的數(shù)據(jù)安全和隱私保護(hù)將會(huì)上升到新的高度。針對(duì)6G 的新特征和應(yīng)用場(chǎng)景,可以采取區(qū)塊鏈、差分隱私、聯(lián)邦學(xué)習(xí)、建立信任模型等方法進(jìn)一步提高對(duì)用戶隱私和數(shù)據(jù)的保護(hù)。

        (7)軟件定義網(wǎng)絡(luò)(SDN)及切片安全:5G網(wǎng)絡(luò)的一個(gè)典型特征就是通過(guò)對(duì)通信功能的軟件化實(shí)現(xiàn)網(wǎng)絡(luò)功能的前置化部署,從而減少業(yè)務(wù)通信的時(shí)延,提高網(wǎng)絡(luò)的反應(yīng)能力。在6G網(wǎng)絡(luò)中,軟件定義網(wǎng)絡(luò)和網(wǎng)絡(luò)切片的應(yīng)用將比5G網(wǎng)絡(luò)更加普遍??梢灶A(yù)見(jiàn),6G網(wǎng)絡(luò)中將會(huì)根據(jù)不同的業(yè)務(wù)場(chǎng)景,依據(jù)軟件功能虛擬化技術(shù)建立大量的網(wǎng)絡(luò)切片,以實(shí)現(xiàn)6G網(wǎng)絡(luò)中特殊的網(wǎng)絡(luò)性能需求。因此,如何保證網(wǎng)絡(luò)切片的建立、管理等過(guò)程的安全性,如UE 接入切片的授權(quán)安全、切片隔離安全將成為6G網(wǎng)絡(luò)安全需要解決的問(wèn)題。

        (8)密碼基礎(chǔ)安全:量子計(jì)算機(jī)預(yù)計(jì)會(huì)在未來(lái)幾年內(nèi)商業(yè)化,這意味著攻擊者也有使用量子計(jì)算機(jī)對(duì)現(xiàn)代密碼算法進(jìn)行破解的能力。6G網(wǎng)絡(luò)的密碼學(xué)體系需要將攻擊者具有大規(guī)模的量子計(jì)算能力列入考慮范圍,需要基于大規(guī)模量子計(jì)算機(jī)的計(jì)算能力,設(shè)計(jì)全新的公鑰密碼算法。

        5 6G安全解決方案

        上文從6G的背景出發(fā),探討了6G可能存在的安全問(wèn)題和挑戰(zhàn),并設(shè)計(jì)了6G安全模型。根據(jù)對(duì)5G和6G相關(guān)安全文獻(xiàn)的整理和總結(jié),本節(jié)將6G網(wǎng)絡(luò)中可行的安全解決方案分為以下6類進(jìn)行說(shuō)明。表3是對(duì)本節(jié)所用參考文獻(xiàn)中關(guān)于6G相關(guān)安全問(wèn)題情況的分類匯總。

        表3 6G相關(guān)安全問(wèn)題研究情況

        5.1 聯(lián)邦學(xué)習(xí)對(duì)數(shù)據(jù)集中化的改善

        在6G網(wǎng)絡(luò)中,各種類型的移動(dòng)設(shè)備和傳感器將會(huì)提供大量適合人工智能學(xué)習(xí)的數(shù)據(jù),而數(shù)據(jù)通過(guò)模型進(jìn)行學(xué)習(xí)和訓(xùn)練反過(guò)來(lái)可以大大改善設(shè)備上用戶的體驗(yàn)。例如,語(yǔ)言模型可以改進(jìn)語(yǔ)音識(shí)別和文本輸入,圖像模型可以基于個(gè)人偏好自動(dòng)對(duì)圖片進(jìn)行篩選。然而,AI任務(wù)是計(jì)算密集型的,并且大多數(shù)情況下是使用自定義設(shè)計(jì)的服務(wù)器在數(shù)據(jù)中心進(jìn)行培訓(xùn)、開(kāi)發(fā)和部署的。鑒于智能移動(dòng)設(shè)備的快速增長(zhǎng),預(yù)計(jì)將在無(wú)線網(wǎng)絡(luò)的邊緣部署大量智能應(yīng)用程序。未來(lái)的6G無(wú)線網(wǎng)絡(luò)將利用先進(jìn)的無(wú)線通信和移動(dòng)計(jì)算技術(shù)來(lái)支持各種邊緣移動(dòng)設(shè)備上的AI應(yīng)用程序。這些豐富的數(shù)據(jù)通常是對(duì)隱私敏感的,并且數(shù)據(jù)量巨大。如果將這些數(shù)據(jù)存儲(chǔ)在集中的位置將會(huì)存在很大的安全隱患。為了保護(hù)隱私,很多AI應(yīng)用程序的數(shù)據(jù)采取分散式的管理方法,這樣能有效避免數(shù)據(jù)集中,盡可能減少安全攻擊造成的損失。這時(shí)需要分布式的學(xué)習(xí)技術(shù),可以讓用戶從這些豐富的數(shù)據(jù)中獲得共享模型的好處,同時(shí)無(wú)須集中存儲(chǔ)這些數(shù)據(jù),這種方法叫作聯(lián)邦學(xué)習(xí)(FL,federated learning)。與數(shù)據(jù)中心對(duì)數(shù)據(jù)的長(zhǎng)時(shí)間訓(xùn)練相比,聯(lián)邦學(xué)習(xí)具有明顯的隱私優(yōu)勢(shì)。因?yàn)樽鳛槟P陀?xùn)練需要使用到的用戶數(shù)據(jù)都保存在本地,僅抽象模型會(huì)被共享在集中的數(shù)據(jù)中心。在聯(lián)邦學(xué)習(xí)中,進(jìn)行傳輸?shù)男畔⑹歉倪M(jìn)特定模型所需的最小更新,更新本身是短暫的。它們永遠(yuǎn)不會(huì)包含比原始訓(xùn)練數(shù)據(jù)更多的信息,并且通常包含的信息會(huì)少得多。這種方法可以很大限度上提升對(duì)用戶隱私數(shù)據(jù)的保護(hù)能力。

        文獻(xiàn)[28]論證了聯(lián)邦學(xué)習(xí)在未來(lái)通信網(wǎng)絡(luò)中對(duì)隱私保護(hù)的重要性,并且提出了一種基于迭代模型平均的深層網(wǎng)絡(luò)聯(lián)合學(xué)習(xí)方法,通過(guò)實(shí)驗(yàn)數(shù)據(jù)證明了聯(lián)邦學(xué)習(xí)及其優(yōu)化算法在未來(lái)移動(dòng)通信中是可行的,并且通過(guò)聯(lián)邦學(xué)習(xí)與差異隱私安全多方計(jì)算等內(nèi)容的結(jié)合,將會(huì)給未來(lái)的安全體系提供更加強(qiáng)大的安全保證。

        文獻(xiàn)[29]考慮到有限的通信帶寬是聚合本地計(jì)算更新的主要瓶頸,為此通過(guò)探索無(wú)線多路訪問(wèn)信道的疊加特性,提出了一種基于空中計(jì)算的新穎方法,用于快速全局模型聚合。文獻(xiàn)[31]提出了聯(lián)邦學(xué)習(xí)在未來(lái)通信車聯(lián)網(wǎng)中的應(yīng)用和優(yōu)化方案,研究了車輛網(wǎng)絡(luò)中超可靠低時(shí)延通信的聯(lián)合功率和資源分配問(wèn)題。

        文獻(xiàn)[30]主要綜合考慮了聯(lián)邦學(xué)習(xí)和無(wú)線通信中的度量因素,提出了一種新的框架,使聯(lián)邦學(xué)習(xí)算法能夠在無(wú)線網(wǎng)絡(luò)上實(shí)現(xiàn)。他們提出了一個(gè)綜合考慮用戶選擇和資源分配的優(yōu)化解決方案,能夠使FL損失函數(shù)的值最小化。仿真結(jié)果證明,與現(xiàn)有的FL算法相比,聯(lián)合聯(lián)邦學(xué)習(xí)與通信框架的性能有了顯著的提高。同時(shí),文獻(xiàn)中給出了在移動(dòng)通信場(chǎng)景下的聯(lián)邦學(xué)習(xí)算法的學(xué)習(xí)過(guò)程,如圖5所示。

        文獻(xiàn)[5]在介紹AI對(duì)6G的賦能之后,提到了未來(lái)可以利用聯(lián)邦學(xué)習(xí)等技術(shù)來(lái)保障隱私和數(shù)據(jù)的安全性,設(shè)備上分布式聯(lián)邦學(xué)習(xí)的無(wú)線計(jì)算結(jié)構(gòu),如圖6所示。對(duì)于深度神經(jīng)網(wǎng)絡(luò),可以在終端設(shè)備上提取初始特征,然后將其發(fā)送到邊緣和云計(jì)算設(shè)備以進(jìn)一步處理。

        圖5 聯(lián)邦學(xué)習(xí)算法的學(xué)習(xí)過(guò)程

        Figure 5 The learning process of FL algorithm

        圖6 設(shè)備上分布式聯(lián)邦學(xué)習(xí)的無(wú)線計(jì)算

        Figure 6 Over-the-air computation for on-device distributed FL

        通過(guò)對(duì)相關(guān)文獻(xiàn)的調(diào)研可以發(fā)現(xiàn),已經(jīng)有很多研究開(kāi)始對(duì)聯(lián)邦學(xué)習(xí)的算法和技術(shù)進(jìn)行優(yōu)化,并且存在將聯(lián)邦學(xué)習(xí)與移動(dòng)通信以及車聯(lián)網(wǎng)相結(jié)合的研究。說(shuō)明在未來(lái)的移動(dòng)通信中將具有很大的潛力,并且具備極大的泛用性,可以有效解決6G移動(dòng)通信系統(tǒng)引入AI而產(chǎn)生的數(shù)據(jù)安全性問(wèn)題,為過(guò)于集中化的計(jì)算提供解決思路。

        5.2 VLC的物理層安全技術(shù)

        過(guò)去幾年的研究表明,物理層安全(PLS)已經(jīng)成為解決VLC安全問(wèn)題的相當(dāng)重要的技術(shù)方法,它提供了抵御竊聽(tīng)攻擊的第一道防線。其核心思想是利用VLC信道的固有特性來(lái)實(shí)現(xiàn)增強(qiáng)的物理層安全性。6G無(wú)線通信的發(fā)展給VLC研究中的PLS帶來(lái)了新的技術(shù)挑戰(zhàn),包括物理層安全編碼、大規(guī)模多輸入多輸出、非正交多址接入、全雙工技術(shù)等。此外,傳統(tǒng)的PLS技術(shù)主要針對(duì)射頻通信,不能直接嫁接到VLC中,本節(jié)將綜合一些針對(duì)VLC的PLS增強(qiáng)方法給出安全防范措施。

        文獻(xiàn)[16]介紹了一種帶有水印的盲物理層安全性(WBPLSec)協(xié)議,來(lái)解決針對(duì)機(jī)密性攻擊的問(wèn)題。目前的VLC方案中,使用紅、綠、藍(lán)(RGB)發(fā)光二極管(LED)進(jìn)行傳輸更為優(yōu)選,因?yàn)槊總€(gè)顏色分量有著更高的帶寬,并且3個(gè)不同的獨(dú)立通道可以增加數(shù)據(jù)吞吐量。假定Alice使用RGB LED進(jìn)行傳輸,而B(niǎo)ob擁有一個(gè)RGB色彩調(diào)諧的光電二極管(PD)和一個(gè)RGB LED,對(duì)Alice發(fā)送的信號(hào)進(jìn)行干擾并接收和處理,方案如圖7所示。RGB LED使用3個(gè)獨(dú)立的通道來(lái)確保通信安全性。Alice首先使用擴(kuò)頻序列調(diào)制要發(fā)送的消息,然后僅使用紅光進(jìn)行發(fā)送;Bob的干擾接收器會(huì)干擾部分接收信號(hào),并且知道哪些部分被干擾,這種干擾叫作友好干擾,接收器在接收信號(hào)之后能夠?qū)⒏蓴_后的信號(hào)重建成原始信號(hào)。這種方法使用藍(lán)光和紅光通過(guò)兩條獨(dú)立的路徑傳輸信息,信息使用藍(lán)光通過(guò)窄帶幅移鍵控(ASK)信號(hào)發(fā)送。而擴(kuò)頻(SS)信號(hào)使用紅燈,因?yàn)樗膸挶人{(lán)燈寬,SS信號(hào)實(shí)現(xiàn)水印的功能。窄帶信號(hào)被Bob的藍(lán)光部分阻塞。最后,利用SS信號(hào)中的水印來(lái)重新組合整個(gè)符號(hào)。

        文獻(xiàn)[17]提出使用中繼輔助裝置來(lái)協(xié)助VLC通信的安全模型。模型假設(shè)一個(gè)考慮存在外部竊聽(tīng)者情況下的VLC廣播頻道,發(fā)送器與兩個(gè)合法接收器進(jìn)行通信。在振幅約束下,為了使LED在其動(dòng)態(tài)范圍內(nèi)工作,基于具有統(tǒng)一信號(hào)的疊加編碼,得出了可達(dá)到的保密區(qū)域。然后,引入了受信任的協(xié)作半雙工中繼節(jié)點(diǎn),以通過(guò)多種中繼方案來(lái)協(xié)助保護(hù)來(lái)自竊聽(tīng)者的數(shù)據(jù),即協(xié)作干擾、解碼轉(zhuǎn)發(fā)和放大轉(zhuǎn)發(fā)。在繼電器處設(shè)計(jì)了安全的波束成形信號(hào),以提高可達(dá)到的保密率。并且,最佳的中繼方案會(huì)根據(jù)發(fā)射機(jī)和中繼站到竊聽(tīng)者的距離而變化。

        文獻(xiàn)[18]針對(duì)室內(nèi)VLC系統(tǒng)提出了一種新穎的PLS技術(shù)。所提出的基于MIMO-GSSK的技術(shù)設(shè)計(jì)空間星座圖,可以借助合法用戶的發(fā)送器來(lái)最大化發(fā)送符號(hào)集的最小歐幾里得距離。PLS技術(shù)采用零強(qiáng)制預(yù)編碼來(lái)減輕信號(hào)間干擾,以使發(fā)送符號(hào)集成為合法用戶的已接收符號(hào)集,而對(duì)于竊聽(tīng)者,該技術(shù)引入了自然干擾信號(hào),有效地向合法用戶提供了安全的信息傳輸,并且禁止了竊聽(tīng)者以可靠的方式成功接收相同的信息。

        文獻(xiàn)[19]研究了三維多用戶VLC網(wǎng)絡(luò)中物理層保密的性能,發(fā)現(xiàn)接入點(diǎn)(AP)與相鄰AP的協(xié)作可以增強(qiáng)VLC網(wǎng)絡(luò)的保密性能,但只能在一定限度上增強(qiáng)。并且,在AP周圍建立一個(gè)保密區(qū)域可以顯著提高網(wǎng)絡(luò)的保密性能。

        文獻(xiàn)[18]匯總了具有代表性的面向VLC的PLS安全機(jī)制,根據(jù)其匯總的結(jié)果,做出如圖8所示的PLS安全分類。

        圖7 VLC網(wǎng)絡(luò)中的Wbplsec系統(tǒng)模型

        Figure 7 The model of Wbplsec in VLC networks

        圖8 VLC系統(tǒng)的PLS分類

        Figure 8 Taxonomy of the PLS for VLC systems

        其中,預(yù)編碼技術(shù)通過(guò)使用合法用戶的發(fā)送器(CSIT)和竊聽(tīng)者的信道狀態(tài)信息(CSI)來(lái)設(shè)計(jì)預(yù)編碼矩陣系數(shù)。因此,當(dāng)機(jī)密消息對(duì)竊聽(tīng)者隱藏時(shí),該機(jī)密消息被合法用戶清楚地感知。友好干擾技術(shù)的主要目的是在合法用戶的空間內(nèi)創(chuàng)建一種人為噪聲。在機(jī)密信息與發(fā)送方的干擾信號(hào)結(jié)合后,只有竊聽(tīng)者會(huì)受到干擾信號(hào)的破壞性影響,而接收者可以根據(jù)自己的噪聲信息進(jìn)行還原。傳輸符號(hào)映射技術(shù)時(shí)通過(guò)給定調(diào)制的加密密鑰來(lái)維護(hù)保密性,其中在合法用戶側(cè)使用相同的密鑰對(duì)機(jī)密消息進(jìn)行解碼。發(fā)射機(jī)子集技術(shù)是選擇發(fā)射實(shí)體的特定子集,以便調(diào)制發(fā)射單元的輻射圖,可以將機(jī)密信號(hào)集設(shè)計(jì)為最大化合法用戶處的最小歐幾里得距離或SNR。因此,竊聽(tīng)者可實(shí)現(xiàn)的性能將低于合法用戶。

        5.3 抗量子密碼安全

        量子計(jì)算與經(jīng)典計(jì)算有著根本的不同。很多在當(dāng)代計(jì)算機(jī)上難以解決的計(jì)算問(wèn)題,可以在量子計(jì)算機(jī)上得到有效的解決。比如,離散對(duì)數(shù)問(wèn)題是現(xiàn)代非對(duì)稱密碼學(xué)的基礎(chǔ)。如果大規(guī)模量子計(jì)算成為現(xiàn)實(shí),這些密碼原語(yǔ)需要被量子安全原語(yǔ)取代。根據(jù)最近的一項(xiàng)調(diào)查[20],量子計(jì)算可能會(huì)在幾年內(nèi)商業(yè)化。現(xiàn)有的絕大多數(shù)公鑰密碼算法(RSA、Diffie-Hellman、橢圓曲線等)能被足夠大和穩(wěn)定的量子計(jì)算機(jī)攻破,雖然大規(guī)模量子計(jì)算的實(shí)現(xiàn)可能需要更長(zhǎng)的時(shí)間,但是一些基本的思路已經(jīng)成型,因此研究量子計(jì)算中安全密碼體系的時(shí)機(jī)已經(jīng)成熟。根據(jù)目前對(duì)量子計(jì)算的了解,即使在量子計(jì)算出現(xiàn)之后,當(dāng)代對(duì)稱密碼在很大限度上仍然是安全的。

        目前的5G標(biāo)準(zhǔn)并沒(méi)有解決量子計(jì)算的問(wèn)題,而是依賴于橢圓曲線密碼(ECC)等傳統(tǒng)加密技術(shù)。然而,橢圓曲線離散對(duì)數(shù)問(wèn)題(ECDLP)在量子計(jì)算機(jī)上可以在多項(xiàng)式時(shí)間內(nèi)求解。預(yù)計(jì)6G網(wǎng)絡(luò)將會(huì)繼續(xù)向云化和邊緣本地化基礎(chǔ)結(jié)構(gòu)發(fā)展,與前幾代通信系統(tǒng)相比,6G的安全體系結(jié)構(gòu)將更加復(fù)雜,以當(dāng)前的傳輸層安全標(biāo)準(zhǔn)為主導(dǎo),對(duì)公鑰基礎(chǔ)設(shè)施(PKI)的依賴性越來(lái)越大。這一發(fā)展將使核心網(wǎng)絡(luò)完全依賴于底層PKI的功能和安全性。目前已經(jīng)有一些公鑰原語(yǔ)被認(rèn)為是量子安全的[21],但是與基于ECDLP的方案相比,它們的效率很低,密鑰也很大。為了滿足6G體系結(jié)構(gòu)的預(yù)期性能和功能,需要更多的研究來(lái)確定量子安全密碼的正確應(yīng)用。在相關(guān)文獻(xiàn)中,比較具有代表性的是文獻(xiàn)[22],該文詳細(xì)地介紹和總結(jié)了量子計(jì)算技術(shù)的發(fā)展以及目前最新的研究成果。文獻(xiàn)[21]提出了后量子密碼學(xué)的概念,并對(duì)其進(jìn)行了詳細(xì)的介紹和解析。

        量子密碼的標(biāo)準(zhǔn)化工作正在進(jìn)行中,美國(guó)國(guó)家標(biāo)準(zhǔn)與技術(shù)研究所(NIST)目前正在主持一個(gè)選擇進(jìn)程N(yùn)IST PQC,用于量子密碼標(biāo)準(zhǔn)化。這些新的原語(yǔ)有望提供量子安全密鑰交換,并增強(qiáng)數(shù)字簽名標(biāo)準(zhǔn)(DSS)FIPS 186-4。

        5.4 考慮能耗的安全

        未來(lái)6G網(wǎng)絡(luò)中的終端設(shè)備將更多地趨向于輕型化和微型化,并且這樣的設(shè)備會(huì)在總的通信節(jié)點(diǎn)中占絕大多數(shù)。設(shè)備的微型化會(huì)不可避免地給設(shè)備造成能源儲(chǔ)備的縮減,要想在6G網(wǎng)絡(luò)中維護(hù)用戶對(duì)于這樣的輕型及微型設(shè)備的體驗(yàn)感,增加其續(xù)航,需要從以下幾個(gè)方面入手:首先是對(duì)于未來(lái)先進(jìn)電池的研究,希望能在減小電池體積和重量的同時(shí)盡可能擴(kuò)大其能源量;然后是設(shè)備本身的能源收集技術(shù)需要進(jìn)一步的研究,以此來(lái)維持設(shè)備的持續(xù)運(yùn)行;同時(shí),如何最大限度地降低設(shè)備的運(yùn)行基本能耗是一個(gè)重要問(wèn)題,其中安全機(jī)制和算法不可避免地存在能耗需求,因此,需要設(shè)計(jì)適用于輕型及微型移動(dòng)設(shè)備有限能源的安全機(jī)制。

        考慮能源的安全機(jī)制設(shè)計(jì)有兩個(gè)思路方向:一是設(shè)計(jì)具有低能耗和高安全特性的安全協(xié)議,使設(shè)備具有的認(rèn)證加密等功能在消耗較低能源的同時(shí)具備相當(dāng)可觀的安全能力;二是設(shè)計(jì)一個(gè)安全方案靈活可調(diào)整的機(jī)制,設(shè)備可以基于自身實(shí)時(shí)的能源收集能力和安全威脅等級(jí),調(diào)整所用的安全能力,從而使在能源條件可接受的情況下最大化自身的安全性。

        文獻(xiàn)[23]介紹了一種基于令牌的安全協(xié)議,該協(xié)議考慮到物聯(lián)網(wǎng)(IoT)設(shè)備能量和網(wǎng)絡(luò)服務(wù)質(zhì)量的折中,用于物聯(lián)網(wǎng)系統(tǒng)中的身份驗(yàn)證和授權(quán)。提議的協(xié)議基于OAuth 2.0框架,使其適合物聯(lián)網(wǎng)要求的各種大型系統(tǒng)。所提出的協(xié)議是基于質(zhì)詢?響應(yīng)機(jī)制,結(jié)合使用物理不可復(fù)制功能(PUF)的橢圓曲線密碼學(xué)。從硬件子系統(tǒng)到協(xié)議,都可以實(shí)現(xiàn)動(dòng)態(tài)的能量質(zhì)量折中。該研究發(fā)現(xiàn),當(dāng)將密鑰大小動(dòng)態(tài)調(diào)整為實(shí)際所需的安全級(jí)別時(shí),每降低1位密鑰大小,將使能量消耗降低0.31%~0.4%。并且在用于物聯(lián)網(wǎng)設(shè)備的身份驗(yàn)證和授權(quán)時(shí),能源最多可減少69%,在數(shù)據(jù)傳輸期間,尤其是在傳輸短消息時(shí),最多可減少45%。其主要原理是由于OAuth框架啟用了令牌重用,避免了模塊化指數(shù)運(yùn)算以及能源質(zhì)量可伸縮性,因此,與最新的協(xié)議相比,這種協(xié)議所需的能源更少。

        在文獻(xiàn)[24]中,作者在兩種不同的IoT系統(tǒng)場(chǎng)景下引入了提供相互身份驗(yàn)證、隱私保護(hù)和數(shù)據(jù)源的安全協(xié)議:1) IoT設(shè)備直接連接到無(wú)線網(wǎng)關(guān)時(shí);2) IoT設(shè)備處于安全狀態(tài)時(shí),通過(guò)其他物聯(lián)網(wǎng)設(shè)備間接連接到網(wǎng)關(guān)。所提出的協(xié)議使用物理上不可復(fù)制的功能,以及從兩個(gè)通信實(shí)體之間的無(wú)線信道特征中得出的無(wú)線鏈路指紋。該研究發(fā)現(xiàn),所提出的協(xié)議在檢測(cè)數(shù)據(jù)來(lái)源攻擊方面的準(zhǔn)確性提高了100%,并且就CPU和無(wú)線電能量而言,可以為IoT設(shè)備分別節(jié)省多達(dá)83.8%和73.5%的能耗。這說(shuō)明協(xié)議不僅在計(jì)算復(fù)雜性和能量需求方面是有效的,而且對(duì)于各種類型的攻擊(包括物理和復(fù)制攻擊)也是安全的。

        這幾個(gè)文獻(xiàn)主要的研究方向是安全協(xié)議的設(shè)計(jì),從這幾個(gè)實(shí)驗(yàn)結(jié)果中可以發(fā)現(xiàn),如果以能源消耗為前提來(lái)設(shè)計(jì)安全協(xié)議,是可以通過(guò)相關(guān)技術(shù)在保證安全能力的同時(shí)大幅度地降低通信設(shè)備的能量消耗。因此,在6G時(shí)代的安全協(xié)議設(shè)計(jì)中,能源消耗是一個(gè)非常值得考慮的問(wèn)題。

        此外,在實(shí)際的通信安全場(chǎng)景中,網(wǎng)絡(luò)威脅通常是未知的,移動(dòng)設(shè)備應(yīng)該通過(guò)可用能量來(lái)調(diào)整安全防護(hù)策略。比如,當(dāng)設(shè)備的收獲能源不足或者具有很重的工作負(fù)載時(shí),可以考慮將設(shè)備的安全能力調(diào)整為所需的最低安全保護(hù)水平,以最大限度地延長(zhǎng)工作時(shí)間。反之,當(dāng)收獲功率較大時(shí),可以改進(jìn)所提供的安全保護(hù)以獲得更好的消息安全性。為了解決這個(gè)問(wèn)題,在文獻(xiàn)[25]中,作者提出了一種基于AI的6G能量收集物聯(lián)網(wǎng)服務(wù)質(zhì)量和安全性聯(lián)合優(yōu)化方案,此方案的假設(shè)應(yīng)用場(chǎng)景是基于6G網(wǎng)絡(luò)下設(shè)備通過(guò)太赫茲和毫米波的不同頻帶連接到蜂窩網(wǎng)絡(luò)的通信。在研究中,作者提出首先采用擴(kuò)展卡爾曼濾波(EKF)方法來(lái)預(yù)測(cè)未來(lái)移動(dòng)設(shè)備的能量捕獲功率;然后,在每一個(gè)能量感知周期內(nèi),設(shè)計(jì)一個(gè)數(shù)學(xué)模型,計(jì)算不同安全策略所需的能量,選擇當(dāng)前設(shè)備能量捕獲功率所能支持的最高級(jí)別保護(hù),以滿足服務(wù)需求,減少能量消耗。該方案不僅能為不同業(yè)務(wù)提供滿意的安全保護(hù),而且能調(diào)整安全保護(hù)以避免能量耗盡,從而顯著提高移動(dòng)設(shè)備的數(shù)據(jù)吞吐量和工作時(shí)間。這種方案引入了AI,通過(guò)預(yù)測(cè)設(shè)備實(shí)時(shí)的能源收集效率,動(dòng)態(tài)地對(duì)設(shè)備的安全防護(hù)等級(jí)進(jìn)行調(diào)整,以達(dá)到設(shè)備可支持的最強(qiáng)安全防護(hù)能力。

        以上介紹了在未來(lái)的6G移動(dòng)通信網(wǎng)絡(luò)中,在考慮能耗的基礎(chǔ)上設(shè)計(jì)移動(dòng)設(shè)備的安全性所用到的兩種思路。這兩種思路并不是互斥的,未來(lái)這兩種思路更加成熟時(shí),將兩者結(jié)合來(lái)設(shè)計(jì)安全方案也是一個(gè)值得思考和研究的問(wèn)題。

        5.5 隱私保護(hù)技術(shù)

        6G網(wǎng)絡(luò)將會(huì)涉及更多的網(wǎng)絡(luò)接入類型和垂直行業(yè)的應(yīng)用,并且6G網(wǎng)絡(luò)的特點(diǎn)將更加趨向于以人為中心進(jìn)行服務(wù),通過(guò)各個(gè)傳感設(shè)備會(huì)獲得大量的人體生理特征數(shù)據(jù),這些數(shù)據(jù)普遍是敏感的、不可泄露的。同時(shí),用戶隱私信息會(huì)在多種網(wǎng)絡(luò)、服務(wù)、應(yīng)用及設(shè)備中存儲(chǔ)使用。同時(shí),隨著5G網(wǎng)絡(luò)的發(fā)展,6G預(yù)計(jì)將越來(lái)越多地依賴于支持AI的智能應(yīng)用程序,這些應(yīng)用程序需要情景、上下文感知和定制的隱私解決方案。根據(jù)現(xiàn)有與隱私保護(hù)相關(guān)的研究,區(qū)塊鏈、差分隱私技術(shù)、聯(lián)邦學(xué)習(xí)以及信任模型可以用來(lái)作為隱私保護(hù)比較合適的潛在技術(shù)。

        區(qū)塊鏈等分布式賬本技術(shù)(DLT)可以作為促進(jìn)利益相關(guān)者之間使用無(wú)信任計(jì)算的一個(gè)技術(shù),同時(shí)可以提供網(wǎng)絡(luò)中的隱私保護(hù)機(jī)制。區(qū)塊鏈可以提供安全和隱私特性,如不變性、透明性、可驗(yàn)證性、匿名性和假名等。區(qū)塊鏈可以提供隱私保護(hù)的數(shù)據(jù)共享機(jī)制,優(yōu)化認(rèn)證和訪問(wèn)控制,提供數(shù)據(jù)完整性、可追溯性、監(jiān)控等關(guān)鍵特性,并確保高效的問(wèn)責(zé)機(jī)制等。

        在相關(guān)文獻(xiàn)中,文獻(xiàn)[26]是比較典型且具有代表性的。文中提出了一個(gè)基于區(qū)塊鏈的去中心化系統(tǒng),如圖9所示。該系統(tǒng)3個(gè)實(shí)體分別是移動(dòng)用戶、服務(wù)提供者、節(jié)點(diǎn)(受托維護(hù)區(qū)塊鏈的實(shí)體)。系統(tǒng)的設(shè)計(jì)如下:區(qū)塊鏈接受兩種新的交易類型:access(用于訪問(wèn)控制管理)和data(用于數(shù)據(jù)存儲(chǔ)和檢索)。用戶可以通過(guò)access改變服務(wù)提供者的權(quán)限,而服務(wù)提供者使用data向區(qū)塊鏈查詢需要的用戶數(shù)據(jù),區(qū)塊鏈可以辨別其權(quán)限并決定是否基于數(shù)據(jù)。這里的節(jié)點(diǎn)是維護(hù)區(qū)塊鏈的實(shí)體,就像是一個(gè)第三方數(shù)據(jù)中轉(zhuǎn)中心,基于其區(qū)塊鏈的透明性和可驗(yàn)證性,用戶和服務(wù)提供者都是對(duì)其可信任的。這樣就可以達(dá)到用戶與服務(wù)提供者雙方在可信的條件下進(jìn)行數(shù)據(jù)傳輸?shù)哪康摹?/p>

        圖9 去中心化系統(tǒng)概述

        Figure 9 Overview of the decentralized platform

        差分隱私技術(shù)對(duì)解決未來(lái)智能6G無(wú)線應(yīng)用中的隱私保護(hù)問(wèn)題十分重要。由于6G網(wǎng)絡(luò)中業(yè)務(wù)和應(yīng)用場(chǎng)景的多樣性和網(wǎng)絡(luò)的開(kāi)放性,用戶的隱私信息可能會(huì)從封閉安全的平臺(tái)轉(zhuǎn)移到開(kāi)放的平臺(tái),造成隱私的泄露,因此需要利用差分隱私技術(shù)對(duì)用戶行為相關(guān)的數(shù)據(jù)分析進(jìn)行保護(hù),防止攻擊者從公開(kāi)的信息中挖掘并獲取用戶隱私信息。

        文獻(xiàn)[27]提出了一種在霧計(jì)算上下文(PCP)中具有差分隱私的基于內(nèi)容的隱私保護(hù)方案。PCP可以確保用戶的隱私、隱私保護(hù)系統(tǒng)的功能,并抵御串通攻擊。所提出的方案可以在維持典型隱私保護(hù)系統(tǒng)功能的同時(shí),保護(hù)用戶的隱私和機(jī)密性。差分隱私在將最終輸出發(fā)送到指定的服務(wù)器之前,使用人工設(shè)計(jì)的隨機(jī)噪聲函數(shù)對(duì)實(shí)際數(shù)據(jù)進(jìn)行擾動(dòng)。這可以防止攻擊者對(duì)接收到的數(shù)據(jù)進(jìn)行統(tǒng)計(jì)分析,并防止從用戶數(shù)據(jù)推斷個(gè)人信息。

        與聯(lián)邦學(xué)習(xí)相關(guān)的概念也是研究界為確保隱私保護(hù)而積極討論的話題。FL是一種分布式機(jī)器學(xué)習(xí)技術(shù),允許在生成數(shù)據(jù)源的本地設(shè)備上對(duì)大量數(shù)據(jù)進(jìn)行模型訓(xùn)練,所需的建模在聯(lián)邦中的每個(gè)學(xué)習(xí)者處完成。每個(gè)學(xué)習(xí)者不發(fā)送原始訓(xùn)練數(shù)據(jù)集,而是將其本地模型傳輸?shù)健熬酆掀鳌币詷?gòu)建全局模型。FL可以為數(shù)據(jù)隱私、數(shù)據(jù)所有權(quán)和數(shù)據(jù)局部性等重大挑戰(zhàn)提供解決方案。FL基于其對(duì)數(shù)據(jù)進(jìn)行分布式存儲(chǔ)和訓(xùn)練的特點(diǎn),可以很大限度上減少隱私泄露的風(fēng)險(xiǎn),因?yàn)樗裱皩⒋a帶到數(shù)據(jù)中,而不是將數(shù)據(jù)放入代碼”的規(guī)則。

        嵌入式的信任模型是6G白皮書(shū)中提到的比較重要的一個(gè)概念[4]。與隱私的相關(guān)問(wèn)題很多涉及通信網(wǎng)絡(luò)中各個(gè)實(shí)體之間的信任問(wèn)題,在6G網(wǎng)絡(luò)框架中嵌入信任模型將會(huì)是解決這一問(wèn)題的主要方案。

        6G白皮書(shū)中提出了信任網(wǎng)絡(luò)的概念模型,如圖10所示。這個(gè)模型提出了IP/ID拆分器,使每個(gè)設(shè)備都擁有一個(gè)穩(wěn)定的ID,邊緣節(jié)點(diǎn)將根據(jù)設(shè)備的ID收集其所有與信任和聲譽(yù)相關(guān)的信息,可以對(duì)不良行為提出索賠。分配這些ID的邊緣節(jié)點(diǎn)還將根據(jù)請(qǐng)求將它們轉(zhuǎn)換為IP和其他地址。同時(shí),在信任網(wǎng)絡(luò)中應(yīng)使用策略管理,以根據(jù)用例或最終用戶和管理員的需要定制通用信任引擎。策略用于描述每個(gè)實(shí)體的期望以及節(jié)點(diǎn)行為的許多方面。每個(gè)實(shí)體(管理員、訂閱者、用戶)都有自己的策略。策略可以擴(kuò)展到單個(gè)應(yīng)用程序的級(jí)別。信任協(xié)商的各個(gè)方面都可能受到策略的控制。支持信任組網(wǎng)的節(jié)點(diǎn)應(yīng)普遍收集所有可見(jiàn)的遠(yuǎn)程網(wǎng)絡(luò)實(shí)體的行為證據(jù)。收集到的證據(jù)可以在域中的節(jié)點(diǎn)之間共享。這些證據(jù)用于為遠(yuǎn)程實(shí)體產(chǎn)生聲譽(yù)。信任網(wǎng)絡(luò)節(jié)點(diǎn)將具有嵌入式信譽(yù)系統(tǒng)。信譽(yù)用于做出信任決策,如請(qǐng)求更多信息、接受通信、拒絕通信、根據(jù)負(fù)載情況為傳入流分配資源等。此外,應(yīng)提供激勵(lì)措施,以鼓勵(lì)與信任相關(guān)的數(shù)據(jù)共享以產(chǎn)生聲譽(yù)[13]。通過(guò)這種為每個(gè)設(shè)備和用戶收集和計(jì)算信譽(yù)的方式,可以為網(wǎng)絡(luò)形成良好的信任鏈,解決很多因信任而導(dǎo)致的安全問(wèn)題。

        圖10 信任網(wǎng)絡(luò)概念模型

        Figure 10 Conceptual model for trust networking

        通過(guò)上面的綜述和分析,可以將6G中隱私保護(hù)會(huì)用到的技術(shù)分類如圖11所示。其中,分布式賬本技術(shù)主要通過(guò)如區(qū)塊鏈這種有效的技術(shù),來(lái)構(gòu)建通信中各個(gè)利益相關(guān)者的信任關(guān)系,使其之間的通信透明化且可驗(yàn)證可溯源;差分隱私技術(shù)通過(guò)對(duì)隱私數(shù)據(jù)的查詢中間值注入噪聲,防止攻擊者查詢真正的數(shù)據(jù),達(dá)到保護(hù)用戶隱私的目的;聯(lián)邦學(xué)習(xí)技術(shù)主要是讓隱私數(shù)據(jù)盡可能保存在本地進(jìn)行學(xué)習(xí)和訓(xùn)練,從而減小受到攻擊后用戶隱私被大范圍竊取和泄露的風(fēng)險(xiǎn);網(wǎng)絡(luò)信任模型旨在構(gòu)建一個(gè)健康的網(wǎng)絡(luò)用戶之間的信任鏈,增強(qiáng)各個(gè)實(shí)體之間的信任程度和信任關(guān)系來(lái)促進(jìn)隱私保護(hù)。

        圖11 隱私保護(hù)技術(shù)分類

        Figure 11 Taxonomy of the privacy protection

        5.6 智能化安全

        在6G 的諸多研究和愿景中,最引人注目的是6G的智能化。預(yù)計(jì)未來(lái)的6G網(wǎng)絡(luò)將超越傳統(tǒng)的移動(dòng)互聯(lián)網(wǎng),可以支持從核心網(wǎng)到邊緣網(wǎng)到終端設(shè)備的無(wú)處不在的人工智能服務(wù)。人工智能將在設(shè)計(jì)和優(yōu)化6G體系結(jié)構(gòu)、協(xié)議和操作控制方面發(fā)揮關(guān)鍵的作用。并且,未來(lái)的6G網(wǎng)絡(luò)將會(huì)有近乎無(wú)限數(shù)量的設(shè)備和節(jié)點(diǎn),在全球范圍內(nèi)覆蓋陸地、海洋和太空,向具有更高帶寬、更致密化和云化的太赫茲頻譜邁進(jìn)。人工智能技術(shù)可以利用安全功能軟件化和虛擬化的概念實(shí)現(xiàn)自動(dòng)化安全,將人工智能與6G的安全防護(hù)進(jìn)行融合是未來(lái)的大勢(shì)所趨。

        文獻(xiàn)[13]給出了一個(gè)基于AI的軟件定義安全平臺(tái),如圖12所示。為了消除現(xiàn)有和發(fā)展中的5G網(wǎng)絡(luò)安全限制,必須進(jìn)一步改進(jìn)使用SDN和NFV現(xiàn)有概念的安全系統(tǒng),并嵌入動(dòng)態(tài)智能,以滿足6G安全的需求。6G網(wǎng)絡(luò)將在一個(gè)集成環(huán)境中協(xié)調(diào)SDN、NFV和AI的概念,不僅提供必要的服務(wù),而且確保端到端網(wǎng)絡(luò)安全。在圖12中,可編程轉(zhuǎn)發(fā)平面上的可編程接口將允許在虛擬環(huán)境中的任何網(wǎng)絡(luò)周邊或?qū)嶓w中部署軟硬件化的安全功能,不僅可以主動(dòng)發(fā)現(xiàn)威脅,還可以在整個(gè)網(wǎng)絡(luò)中從點(diǎn)到點(diǎn)發(fā)起安全功能轉(zhuǎn)移。

        隨著6G網(wǎng)絡(luò)范圍的擴(kuò)大和設(shè)備的增多,網(wǎng)絡(luò)攻擊不僅越來(lái)越普遍,而且攻擊方式越來(lái)越復(fù)雜。AI所提供的機(jī)器學(xué)習(xí)、深度學(xué)習(xí)(DL)等技術(shù)可以為許多安全策略提供巨大的支持。AI可以幫助促進(jìn)網(wǎng)絡(luò)的自動(dòng)化和誤報(bào)檢測(cè)。各個(gè)服務(wù)器和終端節(jié)點(diǎn)可以通過(guò)人工智能自動(dòng)執(zhí)行日常任務(wù),包括分析網(wǎng)絡(luò)流量、根據(jù)規(guī)則標(biāo)準(zhǔn)授予訪問(wèn)權(quán)限,以及檢測(cè)系統(tǒng)中的異常情況。同時(shí)人工智能可以加強(qiáng)網(wǎng)絡(luò)中的預(yù)測(cè)分析。

        人工智能的第一個(gè)自然應(yīng)用是大數(shù)據(jù)分析??梢詰?yīng)用于6G的分析有4種類型:描述性分析、診斷分析、預(yù)測(cè)性分析和規(guī)范性分析。描述性分析可以挖掘歷史數(shù)據(jù),獲取有關(guān)網(wǎng)絡(luò)性能、流量配置文件、通道狀況和用戶觀點(diǎn)等信息。它極大地增強(qiáng)了網(wǎng)絡(luò)運(yùn)營(yíng)商和服務(wù)提供商的態(tài)勢(shì)感知能力。診斷分析可以自動(dòng)檢測(cè)網(wǎng)絡(luò)故障和服務(wù)缺陷,確定網(wǎng)絡(luò)異常的根本原因,并最終提高網(wǎng)絡(luò)的可靠性和安全性。預(yù)測(cè)性分析使用數(shù)據(jù)來(lái)預(yù)測(cè)未來(lái)事件,如流量模式、用戶位置、用戶行為和偏好以及資源可用性。規(guī)范性分析利用這些預(yù)測(cè)來(lái)對(duì)資源分配、網(wǎng)絡(luò)切片和虛擬化、緩存放置、邊緣計(jì)算等進(jìn)行建議和決策。

        圖12 利用AI的軟件定義安全平臺(tái)

        Figure 12 A holistic software defined security platform leveraging AI

        人工智能在網(wǎng)絡(luò)安全中的另一個(gè)應(yīng)用是入侵檢測(cè)和態(tài)勢(shì)感知。如何精確有效地進(jìn)行惡意行為的檢測(cè)是網(wǎng)絡(luò)安全中最普遍的問(wèn)題。由于6G智能化的特點(diǎn),可以利用ML來(lái)制定主動(dòng)的安全防御方案,這將有助于鑒別網(wǎng)絡(luò)流量中的惡意活動(dòng)。為了防御擁有合法網(wǎng)絡(luò)證書(shū)的威脅行為體,需要使用深度學(xué)習(xí)方法來(lái)分析特定用戶在一系列操作中的行為。除此之外,網(wǎng)絡(luò)防御方可以采用類似蜜罐的人工智能技術(shù),通過(guò)提供虛假信息或資源來(lái)欺騙攻擊者。

        相關(guān)研究方面,Husák等[32]2019年對(duì)網(wǎng)絡(luò)安全中的攻擊預(yù)測(cè)進(jìn)行了比較系統(tǒng)性的綜述,綜述中涵蓋了基于離散模型的方法、基于連續(xù)模型的方法和機(jī)器學(xué)習(xí)與數(shù)據(jù)挖掘方法,分析和總結(jié)了各種機(jī)器學(xué)習(xí)在攻擊預(yù)測(cè)和態(tài)勢(shì)感知中的應(yīng)用。文獻(xiàn)[33]發(fā)現(xiàn)認(rèn)知算法的最新發(fā)展可以促進(jìn)人工智能在6G網(wǎng)絡(luò)中應(yīng)用來(lái)滿足用戶的時(shí)延和極其敏感的安全要求。此外,人工智能算法和模型可用于發(fā)現(xiàn)配置錯(cuò)誤、安全漏洞和威脅。文獻(xiàn)[34]提出由新興網(wǎng)絡(luò)技術(shù)(如MEC和SDN)提供的計(jì)算功能可以在邊緣層提供強(qiáng)大的計(jì)算功能,可以與先進(jìn)的ML和數(shù)據(jù)挖掘策略一起幫助設(shè)計(jì)有效的策略來(lái)防止分布式拒絕服務(wù)(DDoS)攻擊。文獻(xiàn)[35]提出了一種基于協(xié)作智能代理的云監(jiān)控模型。位于云不同單元中的代理使用特定的監(jiān)視方法了解通信環(huán)境,彼此通信并基于AI做出決策,可以用于檢測(cè)系統(tǒng)內(nèi)的異常、故障和安全威脅。文獻(xiàn)[36]介紹了使用AI在車聯(lián)網(wǎng)通信中基于濫用的檢測(cè)、基于異常的檢測(cè)和混合檢測(cè)這幾個(gè)入侵檢測(cè)方面的應(yīng)用。

        上面這些文獻(xiàn)主要是AI在安全的主動(dòng)防御和檢測(cè)上相關(guān)的應(yīng)用。由于下一代網(wǎng)絡(luò)中服務(wù)和設(shè)備的多樣性,在安全策略驗(yàn)證、策略到配置的轉(zhuǎn)換以及隨后的部署方面的自主決策也可以利用AI來(lái)實(shí)現(xiàn)。文獻(xiàn)[37]提出6G網(wǎng)絡(luò)中數(shù)據(jù)流量將會(huì)前所未有地龐大,如果不使用AI,很難將安全攻擊與合法流量區(qū)分開(kāi);并且提出物聯(lián)網(wǎng)設(shè)備的主要要求之一就是時(shí)延,為了滿足主要服務(wù)要求,如從一個(gè)邊緣節(jié)點(diǎn)到另一個(gè)邊緣節(jié)點(diǎn)的服務(wù)遷移,需要在時(shí)間限制內(nèi)主動(dòng)執(zhí)行諸如身份驗(yàn)證和訪問(wèn)控制之類的安全服務(wù)。在這種情況下,人工智能將發(fā)揮關(guān)鍵作用,及時(shí)識(shí)別終端行為和要求,以避免服務(wù)中斷。

        通過(guò)對(duì)相關(guān)文獻(xiàn)的總結(jié)和綜述,可以發(fā)現(xiàn)AI對(duì)網(wǎng)絡(luò)安全的部署和自動(dòng)化都有很大的促進(jìn)作用。人工智能可以通過(guò)監(jiān)測(cè)更廣泛的數(shù)據(jù)以及識(shí)別正常和異常活動(dòng)的模式來(lái)幫助解決攻擊預(yù)測(cè)的問(wèn)題,而不必尋找明顯的惡意活動(dòng)。在攻擊的初始階段通過(guò)人工智能識(shí)別這種活動(dòng),將有助于減輕攻擊和定位攻擊者。在基于AI的各種安全技術(shù)的聚合下,可以塑造一個(gè)網(wǎng)絡(luò)安全的“免疫系統(tǒng)”。如果AI能像人體免疫系統(tǒng)一樣訓(xùn)練,那么它將能夠更快更有效地定位和消除威脅,就像白細(xì)胞和抗體一樣可以中和與已知模式不符的威脅,這個(gè)系統(tǒng)將會(huì)不斷地學(xué)習(xí)并變得更強(qiáng)。

        6 結(jié)束語(yǔ)

        本文首先介紹了6G的研究背景、愿景以及關(guān)鍵指標(biāo),通過(guò)將5G與6G關(guān)鍵指標(biāo)進(jìn)行對(duì)比,明確6G網(wǎng)絡(luò)在應(yīng)用場(chǎng)景和架構(gòu)上與5G的區(qū)別,從而為后面分析6G應(yīng)用場(chǎng)景和安全需求進(jìn)行鋪墊;同時(shí)分析了研究6G安全的意義。接下來(lái),本文對(duì)6G新型的應(yīng)用場(chǎng)景和安全需求進(jìn)行了探討,方便讀者能夠快速理解6G通信系統(tǒng)的新特征和新技術(shù),并了解針對(duì)6G的新體系結(jié)構(gòu)存在的安全問(wèn)題和挑戰(zhàn)。最后,本文對(duì)這些安全挑戰(zhàn)提出了相應(yīng)的應(yīng)對(duì)方法,設(shè)計(jì)出面向6G網(wǎng)絡(luò)安全的模型。

        本文針對(duì)現(xiàn)有研究中對(duì)于B5G和6G網(wǎng)絡(luò)安全模型的探討進(jìn)行總結(jié)和歸納。然而,現(xiàn)實(shí)中5G的體系以及5G安全方案還在不斷發(fā)展和變化,且一些有望在6G安全中應(yīng)用的技術(shù)有待深入研究。6G的安全體系和架構(gòu)將很大限度上取決于未來(lái)10年間5G網(wǎng)絡(luò)的變化以及相關(guān)新型技術(shù)的研究和發(fā)展。5G網(wǎng)絡(luò)在投入更加廣泛的應(yīng)用過(guò)程中,也會(huì)遭遇大量不同于傳統(tǒng)的攻擊方式,這將成為6G制定安全策略的重要參考標(biāo)準(zhǔn);并且許多諸如量子計(jì)算之類的技術(shù)正在萌芽,從技術(shù)特性上能極大地改善網(wǎng)絡(luò)的安全防護(hù)能力。這些目前來(lái)說(shuō)都是未知數(shù)。6G無(wú)線通信系統(tǒng)的安全理論框架不是一蹴而就的,它需要千千萬(wàn)萬(wàn)的學(xué)者通過(guò)無(wú)數(shù)個(gè)日夜的辛苦耕耘和默默努力,最后將每個(gè)人的成果如河流一般匯聚成大海,形成6G網(wǎng)絡(luò)堅(jiān)固的安全防御體系。

        [1] ZHANG Z, XIAO Y, MA Z, et al. 6G Wireless networks: vision, requirements, architecture, and key technologies[J]. IEEE Vehicular Technology Magazine, 2019, 14(3): 28-41.

        [2] GUI G, LIU M, TANG F, et al. 6G: opening new horizons for integration of comfort, security and intelligence[J]. IEEE Wireless Communications, 2020: 1-7.

        [3] HUANG T, YANG W, WU J, et al. A survey on green 6G network: architecture and technologies[J]. IEEE Access, 2019, 7: 175758-175768.

        [4] LATVA-AHO M, LEPP?NEN K. Key drivers and research challenges for 6G ubiquitous wireless intelligence [M]. White Paper. University of Oulu. 2019.

        [5] LETAIEF K B, CHEN W, SHI Y, et al. The roadmap to 6G: AI empowered wireless networks[J]. IEEE Communications Magazine, 2019, 57(8): 84-90.

        [6] SAAD W, BENNIS M, CHEN M. A vision of 6G wireless systems: applications, trends, technologies, and open research problems[J]. IEEE Network, 2020, 34(3): 134-142.

        [7] VISWANATHAN H, MOGENSEN P E J I A. Communications in the 6G era[J]. IEEE Access, 2020, 8: 57063-57074.

        [8] YANG P, XIAO Y, XIAO M, et al. 6G wireless communications: vision and potential techniques[J]. IEEE Network, 2019, 33(4): 70-75.

        [9] ZONG B, FAN C, WANG X, et al. 6G technologies: key drivers, core requirements, system architectures, and enabling technologies[J]. IEEE Vehicular Technology Magazine, 2019, 14(3): 18-27.

        [10] 趙亞軍, 郁光輝, 徐漢清. 6G移動(dòng)通信網(wǎng)絡(luò):愿景、挑戰(zhàn)與關(guān)鍵技術(shù)[J]. 中國(guó)科學(xué):信息科學(xué)2019, 49(8): 963-987.

        ZHAO Y J, YU G H, XU H Q. 6G mobile communication networks: vision, challenges, and key technologies[J]. Sci Sin Inform, 2019, 49(8): 963–987.

        [11] YAMPOLSKIY R V, SPELLCHECKER M J A P A. Artificial intelligence safety and cybersecurity: a timeline of AI failures[J]. arXiv Preprint arViv: 1610.07997, 2016.

        [12] PORAMBAGE P, KUMAR T, LIYANAGE M, et al. Sec-Edge AI: AI for edge security VS security for edge AI[C]//The 1st 6G wireless summit. 2019.

        [13] YLIANTTILA M, KANTOLA R, GURTOV A, et al. 6G white paper: research challenges for trust, security and privacy[J]. arXiv Preprint arXiv: 2004.11665, 2020.

        [14] CHEN M, CHALLITA U, SAAD W, et al. Artificial neural networks-based machine learning for wireless networks: a tutorial[J]. IEEE Communications Surveys & Tutorials, 2019, 21(4): 3039-3071.

        [15] NI J, LIN X, SHEN X S J I N. Toward edge-assisted Internet of things: from security and efficiency perspectives[J]. IEEE Network, 2019, 33(2): 50-57.

        [16] SODERI S. Enhancing Security in 6G visible light communications[C]//2020 2nd 6G Wireless Summit (6G SUMMIT), 2020:1-5.

        [17] ARAFA A, PANAYIRCI E, POOR H V J I T O C. Relay-aided secure broadcasting for visible light communications[J]. IEEE Transactions on Communications, 2019, 67(6): 4227-4239.

        [18] PANAYIRCI E, YESILKAYA A, COGALAN T, et al. Physical-layer security with optical generalized space shift keying[J]. IEEE Transactions on Communications, 2020, 68(5): 3042-3056.

        [19] YIN L, HAAS H J I J O S A I C. Physical-layer security in multiuser visible light communication networks[J]. IEEE Journal on Selected Areas in Communication, 2017, 36(1): 162-174.

        [20] AHMAD I, SHAHABUDDIN S, KUMAR T, et al. Security for 5G and beyond[J]. IEEE Communications Surveys & Tutorials, 2019, 21(4): 3682-3722.

        [21] BERNSTEIN D J, LANGE T J N. Post-quantum cryptography[J]. Nature, 2017, 549(7671):188-194.

        [22] GYONGYOSI L, IMRE S J C S R. A survey on quantum computing technology[J]. Computer Science Review, 2019, 31: 51-71.

        [23] AMAN M N, TANEJA S, SIKDAR B, et al. Token-based security for the Internet of things with dynamic energy-quality tradeoff[J]. IEEE Internet of Things Journal, 2018, 6(2):2843-2859.

        [24] AMAN M N, BASHEER M H, SIKDAR B J I I O T J. Data provenance for IoT with light weight authentication and privacy preservation[J]. IEEE Internet of Things Journal, 2019, 6(6): 10441-10457.

        [25] MAO B, KAWAMOTO Y, KATO N. AI-based joint optimization of QoS and security for 6G energy harvesting internet of things[J]. IEEE Internet of Things Journal, 2020, 7(8): 7032-7042.

        [26] ZYSKIND G, NATHAN O. Decentralizing privacy: using blockchain to protect personal data[C]//2015 IEEE Security and Privacy Workshops. 2015: 180-184.

        [27] WANG Q, CHEN D, ZHANG N, et al. PCP: a privacy-preserving content-based publish–subscribe scheme with differential privacy in fog computing[J]. IEEE Access, 2017, 5: 17962-17974.

        [28] MC-MAHAN B, MOORE E, RAMAGE D, et al. Communication-efficient learning of deep networks from decentralized data[C]//Artificial Intelligence and Statistics, 2017: 1273-1282.

        [29] YANG K, JIANG T, SHI Y, et al. Federated learning via over-the-air computation[J]. IEEE Transactions on Wireless Communications, 2020, 19(3): 2022-2035.

        [30] CHEN M, YANG Z, SAAD W, et al. A joint learning and communications framework for federated learning over wireless networks[J]. IEEE Transactions on Wireless Communications, 2019.

        [31] SAMARAKOON S, BENNIS M, SAAD W, et al. Distributed federated learning for ultra-reliable low-latency vehicular communications[J]. IEEE Transactions on Communications, 2019, 68(2): 1146-1159.

        [32] HUSáK M, KOMáRKOVá J, BOU-HARB E, et al. Survey of attack projection, prediction, and forecasting in cyber security[J]. IEEE Communications Surveys & Tutorials, 2018, 21(1): 640-660.

        [33] HENGSTLER M, ENKEL E, DUELLI S J T F, et al. Applied artificial intelligence and trust—the case of autonomous vehicles and medical assistance devices[J]. Technological Forecasting and Social Change, 2016, 105: 105-120.

        [34] PHAN T V, PARK M J I A. Efficient distributed denial-of-service attack defense in SDN-based cloud[J]. IEEE Access, 2019, 7: 18701-18714.

        [35] GRZONKA D, JAKOBIK A, KO?ODZIEJ J, et al. Using a multi-agent system and artificial intelligence for monitoring and improving the cloud performance and security[J]. Future Generation Computer Systems, 2018, 86: 1106-1117.

        [36] TANG F, KAWAMOTO Y, KATO N, et al. Future intelligent and secure vehicular network toward 6G: machine-learning approaches[J]. Proceedings of the IEEE, 2020, 108(2): 292-307.

        [37] SHARMA P, LIU H, WANG H, et al. Securing wireless communications of connected vehicles with artificial intelligence[C]//2017 IEEE International Symposium on Technologies for Homeland Security (HST), 2017: 1-7.

        Research on security scenarios and security models for 6G networking

        ZHANG Chenglei, FU Yulong, LI Hui, CAO Jin

        School of Cyber Engineering, Xidian University, Xi'an 710126, China

        The concept of 6G has been proposed and has attracted the wide attention of academe. Generally speaking, the 6G network will optimize the performance of 5G, and expand the network scenarios which are difficult to achieve within 5G. However, the introduction of new scenarios and technologies will also bring new security threats to cyber security. The research progress on the key technologies and implementation methods of the 6G were conducted. To summarize a vision of core technologies of 6G, the research work of major 5G/6G research institutions, companies and enterprises were focused on . On this basis, the possible security problems and security challenges in 6G network were put forward. Finally, according to the existing network techniques, the possible solutions and proposed a general security model for 6G networks were discussed.

        6G, network security, wireless communication security

        TN91

        A

        10.11959/j.issn.2096?109x.2021004

        2020?07?31;

        2020?12?12

        付玉龍, ylfu@xidian.edu.cn

        國(guó)家自然科學(xué)基金(61772404);陜西省重點(diǎn)產(chǎn)業(yè)創(chuàng)新鏈(群)?工業(yè)領(lǐng)域項(xiàng)目(2020ZDLGY08-08)

        The National Natural Science Foundation of China (61772404), Key Research and Development Program of Shaanxi (2020ZDLGY08-08)

        張成磊, 付玉龍, 李暉, 等. 6G網(wǎng)絡(luò)安全場(chǎng)景分析及安全模型研究[J]. 網(wǎng)絡(luò)與信息安全學(xué)報(bào), 2021, 7(1): 28-45.

        ZHANG C L, FU Y L, LI H, et al. Research on security scenarios and security models for 6G networking[J]. Chinese Journal of Network and Information Security, 2021, 7(1): 28-45.

        張成磊(1998? ),男,湖北武漢人,西安電子科技大學(xué)碩士生,主要研究方向?yàn)橐苿?dòng)通信安全、LTE攻防。

        付玉龍(1983? ),男,黑龍江齊齊哈爾人,西安電子科技大學(xué)副教授,主要研究方向?yàn)橐苿?dòng)網(wǎng)絡(luò)安全、大數(shù)據(jù)及人工智能安全、形式化安全。

        李暉(1968? ),男,河南靈寶人,博士,西安電子科技大學(xué)教授、博士生導(dǎo)師,主要研究方向?yàn)槊艽a學(xué)、無(wú)線網(wǎng)絡(luò)安全、云計(jì)算安全、信息論與編碼理論。

        曹進(jìn)(1985? ),男,陜西西安人,博士,西安電子科技大學(xué)教授、博士生導(dǎo)師,主要研究方向?yàn)?G/5G網(wǎng)絡(luò)、天地一體化網(wǎng)絡(luò)安全性及認(rèn)證協(xié)議設(shè)計(jì)與分析。

        猜你喜歡
        設(shè)備
        諧響應(yīng)分析在設(shè)備減振中的應(yīng)用
        調(diào)試新設(shè)備
        基于VB6.0+Access2010開(kāi)發(fā)的設(shè)備管理信息系統(tǒng)
        基于MPU6050簡(jiǎn)單控制設(shè)備
        電子制作(2018年11期)2018-08-04 03:26:08
        廣播發(fā)射設(shè)備中平衡輸入與不平衡輸入的轉(zhuǎn)換
        電子制作(2018年10期)2018-08-04 03:24:48
        食之無(wú)味,棄之可惜 那些槽點(diǎn)滿滿的可穿戴智能設(shè)備
        500kV輸變電設(shè)備運(yùn)行維護(hù)探討
        HTC斥資千萬(wàn)美元入股虛擬現(xiàn)實(shí)設(shè)備商WEVR
        Automechanika Shanghai 2014 之“看” 汽保設(shè)備篇
        如何在設(shè)備采購(gòu)中節(jié)省成本
        亚洲精品在线97中文字幕| 国产无线乱码一区二三区| 久久精品无码一区二区三区不卡| 在线视频精品免费| 国产亚洲无码1024| 可以直接在线看国产在线片网址| 日本久久精品视频免费| 久久婷婷五月综合色欧美| 黑人巨大白妞出浆| 亚洲Va中文字幕无码毛片下载| 美女福利一区二区三区在线观看| 久久精品久久精品中文字幕| 日本强伦姧人妻一区二区| 少妇无码av无码专区| 亚洲AV秘 无码二区在线| av在线男人的免费天堂| 日韩少妇人妻中文字幕| 精品亚洲一区二区三区在线观看 | 精品一区二区三区人妻久久福利| 国产在线观看自拍av| 区二区三区玖玖玖| 欧美深夜福利网站在线观看| 亚洲高清在线视频网站| 国产91精品高潮白浆喷水 | 亚洲人成精品久久久久| 国产女主播视频一区二区三区| 中文字幕文字幕一区二区| 久久影院午夜理论片无码| 亚洲精品中文字幕无码蜜桃 | 久久亚洲精品ab无码播放| 国产一区二区三区国产精品| 伊人五月亚洲综合在线| 中国免费看的片| 蜜桃视频一区二区三区在线观看| 久久国产精久久精产国| 乱色视频中文字幕在线看| 国产毛片精品av一区二区| 国产va免费精品观看精品| 久久无码人妻精品一区二区三区| 久久精品国产9久久综合| 亚洲无码美韩综合|