宋揚 王曉峰 祁欣

人工智能（Artificial Intelligence，簡稱“AI”）是一門前沿交叉學(xué)科，它誕生于20世紀(jì)50年代初，經(jīng)過60多年的技術(shù)演進和持續(xù)積累，其理論知識技術(shù)日益成熟，應(yīng)用范圍領(lǐng)域也在不斷擴大。從2014年開始我國在人工智能領(lǐng)域取得重要進展，漢字識別、語音合成、語義理解、生物特征識別、機器翻譯等部分領(lǐng)域核心關(guān)鍵技術(shù)實現(xiàn)重要突破。國家先后發(fā)布了《中國制造2025》《國民經(jīng)濟和社會發(fā)展第十三個五年規(guī)劃綱要（草案）》《新一代人工智能發(fā)展規(guī)劃》等規(guī)劃和文件，從科技研發(fā)、應(yīng)用推廣和產(chǎn)業(yè)發(fā)展等方面提出了一系列措施，我國的人工智能技術(shù)已經(jīng)成為經(jīng)濟發(fā)展的新引擎之一，并為社會建設(shè)提供了新的機遇，進入了一個全新的快速發(fā)展階段。

人工智能將成為未來發(fā)展的重要科技技術(shù)之一，但是人工智能技術(shù)會對信息安全、個人隱私、社會倫理帶來較大的影響和沖擊，使網(wǎng)絡(luò)與信息安全面臨新的問題、新的挑戰(zhàn)，必須緊盯科技發(fā)展大勢，高度重視人工智能技術(shù)可能帶來的安全風(fēng)險挑戰(zhàn)，進行安全風(fēng)險及應(yīng)對措施分析，從而推動和保障相關(guān)技術(shù)安全保密應(yīng)用，最大限度降低風(fēng)險，確保人工智能技術(shù)對保密管理和保密技術(shù)體系的影響可控。

人工智能信息安全威脅分析

人工智能技術(shù)的特點，導(dǎo)致人工智能信息安全威脅隨之有以下新的特點。

第一，倫理安全威脅。

大數(shù)據(jù)驅(qū)動知識學(xué)習(xí)、跨媒體協(xié)同處理、人機協(xié)同增強智能、群體集成智能、自主智能系統(tǒng)成為人工智能的發(fā)展重點，受腦科學(xué)研究成果啟發(fā)的類腦智能蓄勢待發(fā)。隨著人工智能技術(shù)的發(fā)展，人們在日常生活中會接觸越來越多具有“自主操控”特征的設(shè)備和機器，面臨現(xiàn)有法律、社會規(guī)范和道德倫理的挑戰(zhàn)。此外，人工智能技術(shù)的進步，可能會導(dǎo)致某些簡單、重復(fù)工作類職業(yè)的消失，導(dǎo)致相關(guān)從業(yè)人員的心理恐慌。

第二，社會秩序破壞安全威脅。

和傳統(tǒng)的信息系統(tǒng)不同，通過人工智能技術(shù)可實現(xiàn)對設(shè)備或者機器一定程度的自主智能操控。一方面，人工智能系統(tǒng)控制的機器人、無人駕駛汽車、無人駕駛飛機等設(shè)備或機器具備一定的自主行為，在受到安全威脅時對社會秩序有較大的破壞性，典型的就是無人駕駛汽車失控對交通系統(tǒng)的破壞；另一方面，人工智能系統(tǒng)機器行為給同一系統(tǒng)中的人帶來不可預(yù)見的干擾和影響，可能會導(dǎo)致破壞現(xiàn)有的秩序。

第三，隱私安全威脅。

由于大數(shù)據(jù)、傳感器等技術(shù)的廣泛應(yīng)用，對于人、事、地、物、組織等社會管理和經(jīng)濟運行實體的綜合、立體全方位刻畫成為可能。以人員為例，從孤立的、局部的個人情況、家庭信息、聯(lián)系方式、賬號密碼等信息，延伸到出行軌跡、社會交往、消費情況、健康狀況等，并且通過智能手機、互聯(lián)網(wǎng)、傳感設(shè)備的實時數(shù)據(jù)獲取、匯聚使得上述全方位刻畫數(shù)據(jù)從靜態(tài)發(fā)展為動態(tài)。如果上述被刻畫人員的數(shù)據(jù)曝光，將毫無個人隱私可言。

第四，系統(tǒng)整體性安全威脅。

在人工智能系統(tǒng)中，大量數(shù)據(jù)存儲于云端，經(jīng)過大數(shù)據(jù)分析后向控制端發(fā)送指令，是一個形成“感、傳、智、用”閉環(huán)的統(tǒng)一系統(tǒng)。一旦受到攻擊和發(fā)生故障，造成的安全影響往往是整體性的、全局性的。即使局部的安全風(fēng)險，也會被迅速擴散和放大，造成更為嚴(yán)重的安全威脅。

人工智能信息安全威脅的特點

一是影響面大。

人工智能作為一門交叉學(xué)科，涉及芯片、網(wǎng)絡(luò)、軟件、信息資源處理、傳感網(wǎng)、圖像處理、計算機視覺、語言識別、語義處理、機器學(xué)習(xí)等多種學(xué)科及技術(shù)領(lǐng)域，具有“跨界融合”的新特征。因此，人工智能帶來的信息安全威脅相比傳統(tǒng)的信息安全威脅影響面大，更難定位和分析。

二是危害性大。

傳統(tǒng)的信息安全攻擊和漏洞帶來的損失本質(zhì)上是信息泄漏，信息的泄漏往往是靜態(tài)的、損失是可衡量的。而人工智能具有“自主操控”的新特征，與其控制的設(shè)備或機器（如機器人、無人駕駛汽車、無人駕駛飛機等）相結(jié)合，針對人工智能的攻擊具有強烈的動態(tài)性，甚至?xí){生命、影響人和社會的倫理，這給傳統(tǒng)的“保密就是保信息”的觀念帶來了極大的挑戰(zhàn)。

三是傳導(dǎo)性強。

隨著技術(shù)的迅速發(fā)揮和完善，人工智能已越來越多地進入到制造、金融、安防、醫(yī)療、教育、零售等社會各領(lǐng)域以及人們的家居、駕駛等諸多領(lǐng)域，攝像頭、拾音器、定位設(shè)備、感溫器、人體體征檢測設(shè)備、感光器等大量多種傳感器遍布于人們的工作和生活的各個角落，連接密集、節(jié)點增多、數(shù)據(jù)密集，導(dǎo)致非法入侵的觸點也大大增加，人工智能的信息安全漏洞可快速蔓延，迅速從設(shè)備傳導(dǎo)到使用的人員。

四是不可預(yù)見性強。

人工智能的“深度學(xué)習(xí)”特征以及其發(fā)展的相對不成熟，會導(dǎo)致較強的不可預(yù)見性，給信息安全和保密管理帶來更大的困難。相比人類而言，人工智能需要從學(xué)習(xí)樣本或者數(shù)據(jù)中學(xué)習(xí)有價值的信息，并針對某個情境獨立建造一個抽象模型進行具有一定高度的歸納總結(jié)。學(xué)習(xí)樣本或者數(shù)據(jù)并不是全樣本的實際數(shù)據(jù)，加之這些數(shù)據(jù)的不穩(wěn)定性或潛在缺陷會給人工智能帶來不可靠、不準(zhǔn)確和不公平，存在較大的安全風(fēng)險。同時，由于數(shù)據(jù)在云端匯集、存儲，各數(shù)據(jù)要素的產(chǎn)生者、數(shù)據(jù)全集的所有者對信息的不可控性也大大增加。

人工智能信息安全威脅的應(yīng)對措施

人工智能技術(shù)在帶來機遇的同時，也帶來了安全挑戰(zhàn)，需要提前在立法、機制、技術(shù)和管理方面做好信息安全應(yīng)對。

首先，立法應(yīng)對措施。

2016年10月，美國發(fā)布的《美國國家人工智能研究和發(fā)展戰(zhàn)略計劃》（The National Artificial Intelligence Research and Development Strategic Plan）中的7項重大計劃之一就是“了解并解決人工智能的倫理、法律和社會影響”，要解決人工智能技術(shù)帶來的安全影響，必須從立法角度進行應(yīng)對。

歐盟、日本等人工智能技術(shù)起步較早的地區(qū)和國家，已經(jīng)意識到人工智能進入生活將給人類社會帶來的安全與倫理問題，并已著手開展立法探索。2016年5月，歐盟法律事務(wù)委員會發(fā)布《就機器人民事法律規(guī)則向歐盟委員會提出立法建議》的報告草案，探討如何從立法角度避免機器人對人類的傷害。有效應(yīng)對未來風(fēng)險挑戰(zhàn)需強化立法研究，明確重點領(lǐng)域人工智能應(yīng)用中的法律主體以及相關(guān)權(quán)利、義務(wù)和責(zé)任，建立和完善適應(yīng)智能時代的法律法規(guī)體系。2016年11月，我國出臺了《網(wǎng)絡(luò)安全法》，全面規(guī)范了網(wǎng)絡(luò)空間安全管理方面的問題。我國應(yīng)在人工智能相關(guān)法律法規(guī)制定上體現(xiàn)后發(fā)優(yōu)勢，緊密關(guān)注國內(nèi)外已經(jīng)出現(xiàn)的人工智能技術(shù)倫理問題，做好相關(guān)防范工作。

其次，機制應(yīng)對措施。

由于人工智能技術(shù)信息安全的復(fù)雜性，需要從機制上控制其帶來的信息安全風(fēng)險和威脅，包括數(shù)據(jù)云存儲、大數(shù)據(jù)分析利用、智能終端設(shè)備管理、人工智能信息安全測評方法等。國家2017年7月發(fā)布的《新一代人工智能發(fā)展規(guī)劃》強調(diào)，要建立健全公開透明的人工智能監(jiān)管體系，實行設(shè)計問責(zé)和應(yīng)用監(jiān)督并重的雙層監(jiān)管結(jié)構(gòu)，實現(xiàn)對人工智能算法設(shè)計、產(chǎn)品開發(fā)和成果應(yīng)用等的全流程監(jiān)管，促進人工智能行業(yè)和企業(yè)自律，切實加強管理等。

再次，技術(shù)應(yīng)對措施。

加強人工智能的技術(shù)研究，對人工智能安全提出監(jiān)測預(yù)警、風(fēng)險評估、安全問責(zé)、研發(fā)設(shè)計人員安全準(zhǔn)則等要求，強化人工智能技術(shù)的安全和可控?！睹绹鴩胰斯ぶ悄苎芯亢桶l(fā)展戰(zhàn)略計劃》認(rèn)為主要應(yīng)當(dāng)具體體現(xiàn)在以下幾個方面：（1）透明，即以用戶可見的方式進行操作；（2）可信，即用戶可接受的系統(tǒng)輸出；（3）可審計，系統(tǒng)可評估；（4）可靠，系統(tǒng)按照用戶期望行動；（5）可恢復(fù)，用戶可在需要時恢復(fù)控制。

同時，需要在保密技術(shù)方面加強研究及開發(fā)，推動和保障人工智能技術(shù)安全保密應(yīng)用，推出有針對性的安全保密管理軟件。同時，應(yīng)在人工智能安全風(fēng)險的技術(shù)應(yīng)對中，采用大數(shù)據(jù)智能分析技術(shù)，輔助有效檢測識別各類網(wǎng)絡(luò)安全威脅，綜合分析網(wǎng)絡(luò)安全要素，評估網(wǎng)絡(luò)安全狀況，預(yù)測其發(fā)展趨勢，甚至結(jié)合當(dāng)前安全策略和威脅情報形成安全智慧，主動調(diào)整已有安全防護策略，“人工智能+網(wǎng)絡(luò)安全”成為當(dāng)前重要熱點技術(shù)之一。

國家《新一代人工智能發(fā)展規(guī)劃》指出“加強人工智能標(biāo)準(zhǔn)框架體系研究，逐步建立并完善人工智能基礎(chǔ)共性、互聯(lián)互通、行業(yè)應(yīng)用、網(wǎng)絡(luò)安全、隱私保護等技術(shù)標(biāo)準(zhǔn)”。

結(jié)語

人工智能技術(shù)由人發(fā)展，最終服務(wù)于人，因此人工智能信息安全問題的最終產(chǎn)生者也是人，而人也是信息安全的關(guān)鍵要素，所以務(wù)必緊盯科技發(fā)展大勢，做好嚴(yán)密應(yīng)對，以保障人工智能技術(shù)和產(chǎn)業(yè)的健康發(fā)展。