◆王劭方

淺析深度合成技術(shù)與電子信息數(shù)據(jù)安全

◆王劭方

（國家計算機網(wǎng)絡(luò)應(yīng)急技術(shù)處理協(xié)調(diào)中心 甘肅分中心 甘肅 730030）

隨著電子信息化科學(xué)技術(shù)的高速發(fā)展，電子信息數(shù)據(jù)也快速融進社會建設(shè)中的各行各業(yè)，帶動其他領(lǐng)域的高速發(fā)展，各領(lǐng)域在感受電子信息數(shù)據(jù)帶來的便利、效率的時候，同時也做好電子信息數(shù)據(jù)安全隱患帶來風(fēng)險防范措施。本文通過對電子信息數(shù)據(jù)中深度合成技術(shù)電子信息數(shù)據(jù)的相關(guān)特點與其安全風(fēng)險進行研究分析，然后針對安全風(fēng)險提出合理化的建議，提高安全防范性。

電子信息；數(shù)據(jù)；安全

1 前言

深度合成技術(shù)是指通過人工智能算法實現(xiàn)語音、圖像、音頻、視頻、人臉等內(nèi)容的合成與自動生成。如人臉合成技術(shù)，就是創(chuàng)造出一張并不存在的人臉；人臉再現(xiàn)技術(shù)可以操作目標(biāo)人員的臉部表情，并可以讓其說出他們從未說過的話。

現(xiàn)階段中深度合成技術(shù)主要集中在電影后期制作、合成人臉和合成虛擬形象用于在線營銷、社交產(chǎn)品中的人臉融合、AI虛擬主播、電商平臺上的“數(shù)字試穿”、合成聲音用于失聲患者發(fā)聲，以及數(shù)字虛擬人等。

深度合成技術(shù)特點是：

（1）在高端的高質(zhì)量高仿真階段需要大量的專業(yè)技術(shù)人員和專業(yè)工具參與；

（2）高度仿真能力的深度合成技術(shù)已經(jīng)廣泛應(yīng)用在影視、娛樂、教育、醫(yī)療、社交、電商、內(nèi)容營銷、藝術(shù)創(chuàng)作、科研等諸多領(lǐng)域中；

（3）隨著深度合成技術(shù)工具的不斷發(fā)展，深度合成內(nèi)容的應(yīng)用規(guī)模和使用范圍也變得更大，內(nèi)容的說服力也更強。

深度合成的文本、圖片、音頻、視頻的信息主要傳播渠道包括微博/微信/QQ/抖音/小紅書/新聞網(wǎng)站/論壇/社交網(wǎng)站/社交APP/網(wǎng)絡(luò)游戲等。

深度學(xué)習(xí)的人工智能技術(shù)已經(jīng)開始慢慢改變著這個世界，并融進了人們的日常生活中。通過深度合成技術(shù)中的AI技術(shù)，成功將老電影《上甘嶺》重新披上色彩，并達到了2K的清晰度。隨著深度合成技術(shù)的不斷發(fā)展，其應(yīng)用前景還會更加廣泛，通過相關(guān)技術(shù)的配合研究開發(fā)，讓AR/VR虛擬場景更加具有真實感。

2 電子信息數(shù)據(jù)風(fēng)險分析

2.1 深度合成技術(shù)信息數(shù)據(jù)安全性分析

深度合成技術(shù)所產(chǎn)生的電子信息數(shù)據(jù)也會存在著巨大的風(fēng)險，比如眼見不一定為實?，F(xiàn)在的電子通信技術(shù)越來越便利，移動支付、視頻通訊以及人臉識別已經(jīng)全面融進人們的生活中，而深度合成技術(shù)的出現(xiàn)，上述電子通信技術(shù)產(chǎn)生的信息數(shù)據(jù)就會受到巨大的影響和對其安全性產(chǎn)生嚴(yán)重的后果。例如通過利用機器學(xué)習(xí)算法與面部映射軟件相結(jié)合，就可以偽造出一個人的聲音、面孔以及身體等身份信息，就可以通過這些身份電子信息數(shù)據(jù)進行盜取他人的資料或財物等。

隨著技術(shù)的不斷發(fā)展，普通大眾都可以通過這些深度合成技術(shù)軟件進行一鍵制造出自己想要的人臉或者視頻。偽造人臉和視頻的泛濫，還會帶來一個更加嚴(yán)重的后果，那就是對信息的真實性形成了嚴(yán)峻的挑戰(zhàn)。在攝影技術(shù)、視頻技術(shù)以及射線掃描技術(shù)出現(xiàn)以后，視覺文本的客觀性就在法律、新聞以及其他社會領(lǐng)域中慢慢建立起來，成為真相的存在，或者是構(gòu)建真相的最有力的證據(jù)存在。在這個意義上，視覺客觀性產(chǎn)自一種特定的專業(yè)權(quán)威體制。然而，深度造假的技術(shù)優(yōu)勢和游獵特征，使得這一專業(yè)權(quán)威體制遭遇前所未有的挑戰(zhàn)。借助這一體制生產(chǎn)的視覺文本，深度造假者替換了不同乃至相反的文本內(nèi)容和意涵，造成了文本的自我顛覆，也就從根本上顛覆了這一客觀性或者真相的生產(chǎn)體制。

2.2 深度合成技術(shù)信息數(shù)據(jù)鑒別技術(shù)分析

現(xiàn)階段對深度合成內(nèi)容鑒別工作難度加大。由于對鑒別深度合成技術(shù)的屬于剛剛起步階段，針對特定的深度合成技術(shù)的方式方法還沒有通用的鑒別方案或方法。因深度合成技術(shù)不斷升級更新，所以在AI鑒定方式中，其監(jiān)測工具也需要隨時進行更新迭代，才能滿足要求。

2.3 深度合成技術(shù)對信息數(shù)據(jù)安全的真實性危害

由于深度合成技術(shù)大量濫用，并在社交媒體、新聞等平臺造成傳播虛假信息的現(xiàn)象。當(dāng)然現(xiàn)階段不管是國內(nèi)還是國外，社交媒體平臺上涉及政治和政治人物的深度合成視頻都是很少見的，所以暫時利用深度合成技術(shù)造成的虛假信息也很少。不過鑒于此前在國內(nèi)外出現(xiàn)的關(guān)于的美國前總統(tǒng)奧巴馬、俄羅斯總統(tǒng)普京等政治人物的深度合成視頻，就說明深度合成技術(shù)已經(jīng)需要相關(guān)部門嚴(yán)厲監(jiān)管的地步了。

本文通過對擁有深度合成技術(shù)，并將其運用在手機APP軟件或互聯(lián)網(wǎng)上37家企業(yè)進行調(diào)研發(fā)現(xiàn)，只有5家企業(yè)具有備案信息。其調(diào)研部分情況如表1所示。

表1 深度和成技術(shù)信息匯總部分表

表1所呈現(xiàn)的數(shù)據(jù)表明，國內(nèi)在對深度合成技術(shù)信息數(shù)據(jù)上的安全監(jiān)控力度還是欠缺，導(dǎo)致其民眾在對這些深度合成技術(shù)的使用方面是可以隨意合成，并上傳或者傳播，造成視頻信息真實性的挑戰(zhàn)。

3 電子信息數(shù)據(jù)安全防范措施

3.1 利用技術(shù)的安全防范措施

互聯(lián)網(wǎng)行業(yè)內(nèi)的主流網(wǎng)絡(luò)平臺已經(jīng)著手采取自律措施應(yīng)對深度合成技術(shù)的潛在濫用。在國外谷歌、Facebook等主流科技公司已經(jīng)采取相關(guān)的安全防范措施，積極開發(fā)甄別AI合成內(nèi)容、對抗深度合成技術(shù)濫用的方法和工具，如谷歌開發(fā)的“Reality Defender”工具，可掃描用戶瀏覽的圖像、視頻或其他數(shù)字媒介，標(biāo)記并報告可疑的偽造內(nèi)容，檢測經(jīng)竄改的人工合成內(nèi)容；在此基礎(chǔ)上降低合成內(nèi)容的權(quán)重，讓算法不再為用戶推薦被認(rèn)定為深度合成并可能造成負(fù)面影響的內(nèi)容。利用平臺優(yōu)勢，這些科技公司已經(jīng)在積極構(gòu)建深度合成數(shù)據(jù)集，并開放給研究人員免費使用，以此來促進檢測技術(shù)的研究與開發(fā)。同時，各平臺之間還攜手開展深度合成檢測挑戰(zhàn)賽，為檢測技術(shù)的開發(fā)提供資金和深度合成數(shù)據(jù)集，以促進更多檢測識別技術(shù)的開發(fā)。在技術(shù)賽道之外，平臺也在培訓(xùn)專門的合成內(nèi)容審查人員，主要目的是增加審核的準(zhǔn)確性，特別是在深度合成與戲仿諷刺的界限還難以把握的情況下，需要人工審核的參與，確保內(nèi)容符合平臺的政策要求。在國內(nèi)，騰訊信息安全團隊自主研發(fā)的GFN網(wǎng)絡(luò)算法鑒別AI換臉，及騰訊優(yōu)圖實驗室研發(fā)的人臉合成檢測技術(shù)，對相關(guān)深度合成內(nèi)容的檢測都達到了很高的準(zhǔn)確率。騰訊優(yōu)圖實驗室也在構(gòu)建人臉合成檢測平臺——“FaceIn人臉防偽”，并在騰訊云上發(fā)布“換臉甄別ATDF”產(chǎn)品，支持對多種換臉方法進行檢測，達到了很高的準(zhǔn)確率。

不斷對深度合成技術(shù)的鑒別技術(shù)的提升。隨著深度合成技術(shù)的進化，相應(yīng)的鑒別技術(shù)也要同步發(fā)展，并能夠迅速鑒別并進行可靠標(biāo)記AI合成內(nèi)容，從而在傳播媒介上阻斷負(fù)面的虛假內(nèi)容的擴散和蔓延。

溯源技術(shù)，深度合成技術(shù)的監(jiān)測與反監(jiān)測逐漸演變成一場貓捉老鼠的技術(shù)競賽，深度合成技術(shù)正在快速更新以逃避監(jiān)測工具的識別。因此，還需要從內(nèi)容源頭上區(qū)分真實內(nèi)容與合成內(nèi)容，確認(rèn)內(nèi)容的來源，包括制作者、制作地點、制作設(shè)備，傳播途徑等。當(dāng)然，可以利用最新的區(qū)塊鏈不可篡改性來確保數(shù)據(jù)的完整性。培訓(xùn)專門的內(nèi)容審查人員。加強對視屏、圖像、音頻內(nèi)容的真實性審核。建立審查隊伍，對合成內(nèi)容的審核。

3.2 利用法律法規(guī)對信息數(shù)據(jù)進行監(jiān)管

針對利用網(wǎng)絡(luò)技術(shù)進行的犯罪事件頻頻發(fā)生，我國利用立法手段進行對其有效的監(jiān)控和管理，在2020年1月1日起施行的《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》要求對非真實的音視頻信息進行標(biāo)識，表明需要結(jié)合技術(shù)進行一定的治理，充分發(fā)揮掌握技術(shù)的平臺企業(yè)的主觀能動性，實現(xiàn)共建、共治、共享的治理理念。

在2021年1月1日施行的《民法典》中，就明確規(guī)定了禁止任何組織或個人利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán)，回應(yīng)了技術(shù)發(fā)展背景下應(yīng)對肖像權(quán)進行更為嚴(yán)密保護的需求。

通過法律的手段促使深度合成技術(shù)所產(chǎn)生的電子信息數(shù)據(jù)朝著安全、健康、有序的方向發(fā)展，真正做到服務(wù)于人民，推動社會的和諧健康發(fā)展。

4 結(jié)束語

綜合上面的安全防范措施所述，電子信息數(shù)據(jù)在給社會高速發(fā)展的同時，也暴露出其有形或者無形的安全隱患問題，若這些安全漏洞被不法分子發(fā)現(xiàn)，就會造成巨大的影響和經(jīng)濟損失。所以需要通過國家立法嚴(yán)厲打擊電子信息數(shù)據(jù)犯罪問題，同時做好安全防范措施工作，促使電子信息數(shù)據(jù)的健康有序發(fā)展，才能有利于社會文明的高速發(fā)展。

[1]陳靜.計算機網(wǎng)絡(luò)數(shù)據(jù)安全策略探討[J].電腦知識與技術(shù)，2010，（34）：17-18.

[2]王曉蕾.網(wǎng)絡(luò)環(huán)境下計算機信息安全防護措施[J].計算機光盤軟件與應(yīng)用，2012，（9）：6-7.

[3]張濱.運營商大數(shù)據(jù)安全保障體系研究[J].電信工程技術(shù)與標(biāo)準(zhǔn)化，2016，29（12）：1-7.

[4]安建偉.保護大數(shù)據(jù)時代的個人隱私[J].互聯(lián)網(wǎng)周刊，2014（Z1）.

[5]黃建文，田宏強，裴健. 運營商用戶數(shù)據(jù)安全防護體系的探索與實踐[J].信息網(wǎng)絡(luò)安全，2012，（12）：80～82.

[6]曲大林，等.電信運營商數(shù)據(jù)防泄密體系研究[J].信息通信技術(shù)，2015（1）.