張燕平 李中文 張華龍

摘要：近年來．人工智能又一次迎來發(fā)展的熱潮，在自然語言處理以及數(shù)字圖像處理等多個(gè)領(lǐng)域中的表現(xiàn)都超過人類。它已經(jīng)被應(yīng)用于教育、醫(yī)療、金融、軍事等領(lǐng)域，與此同時(shí)，人工智能引發(fā)的一系列安全問題逐漸顯現(xiàn)出來。人工智能系統(tǒng)的安全問題主要分類2類．即模型與數(shù)據(jù)隱私以及模型安全。對(duì)于不同的人工智能系統(tǒng)，它們處理的問題以及實(shí)現(xiàn)的原理都不同，因此，一個(gè)棘手的問題就是如何讓防御措施更具有普適性，以處理各種對(duì)人工智能系統(tǒng)的安全威脅。

關(guān)鍵詞：人工智能；安全問題；防御措施

中圖法分類號(hào)：TP18 文獻(xiàn)標(biāo)識(shí)碼：A

人工智能技術(shù)已經(jīng)廣泛應(yīng)用于人類生活的各個(gè)領(lǐng)域，為人們提供了便捷、高效、智能的服務(wù)和體驗(yàn)，極大地提高了生活品質(zhì)，也促進(jìn)了社會(huì)的創(chuàng)新和變革。然而，人工智能也不是完美無缺的，它可能帶來一些潛在的風(fēng)險(xiǎn)和挑戰(zhàn)，如算法歧視、隱私泄露、判斷失誤等，這些問題可能導(dǎo)致個(gè)人和社會(huì)遭受經(jīng)濟(jì)損失、心理創(chuàng)傷，甚至危害社會(huì)道德、法治秩序。因此，保障人工智能技術(shù)的安全性、可靠性和可控性是實(shí)現(xiàn)其最大價(jià)值和最佳效果的重要前提。

１ 人工智能發(fā)展歷史

在歷經(jīng)了１９５６ 年來的２ 次起伏之后，人工智能技術(shù)的第３ 次發(fā)展熱潮到來了，被視為第４ 次工業(yè)革命的標(biāo)志性技術(shù)，并在各個(gè)領(lǐng)域廣泛應(yīng)用。人工智能不僅是硅谷包裝的“答案主義”意識(shí)形態(tài)，更是一種通用技術(shù)，它能夠通過機(jī)械化腦力勞動(dòng)，讓人類從煩瑣的任務(wù)中解放出來，從而進(jìn)行更有意義和創(chuàng)造性的活動(dòng)。然而，在享受人工智能帶來的便利和效率的同時(shí)，我們也必須警惕其相關(guān)的治理風(fēng)險(xiǎn)。例如，智能推送算法可能加劇社會(huì)分化和信息孤島，人臉識(shí)別系統(tǒng)可能構(gòu)建出無處不在的監(jiān)控網(wǎng)絡(luò)，以及對(duì)個(gè)人隱私、輿論引導(dǎo)、就業(yè)影響等方面的潛在威脅。這些典型案例已經(jīng)引起了公眾的廣泛關(guān)注，并促使各方推動(dòng)人工智能與安全風(fēng)險(xiǎn)管理倫理問題的研究和探討。

雖然目前為止，很少有國家制定了專門針對(duì)人工智能風(fēng)險(xiǎn)治理的法律法規(guī)， 但根據(jù)德國非營利組織Ａｌｇｏｒｉｔｈｍ Ｗａｔｃｈ 的統(tǒng)計(jì)，世界各地已經(jīng)有１６０ 多項(xiàng)關(guān)于人工智能倫理規(guī)范和治理原則的倡議和文件出臺(tái)。

人工智能與網(wǎng)絡(luò)安全的融合，對(duì)于相關(guān)企業(yè)的業(yè)務(wù)發(fā)展具有重要意義。在這個(gè)過程中人工智能算法的研發(fā)模式是一個(gè)關(guān)鍵因素，它將影響企業(yè)的技術(shù)創(chuàng)新能力和市場(chǎng)競(jìng)爭(zhēng)力。

目前，國內(nèi)網(wǎng)絡(luò)安全企業(yè)主要采用了２ 種人工智能算法的研發(fā)模式：一是基于開源框架進(jìn)行二次開發(fā)和優(yōu)化；二是完全自主研發(fā)人工智能網(wǎng)絡(luò)安全算法。

這２ 種模式各有優(yōu)劣，需要根據(jù)企業(yè)的實(shí)際需求和目標(biāo)進(jìn)行選擇。開源的優(yōu)勢(shì)在于節(jié)省了研發(fā)費(fèi)用、人力資源和時(shí)間成本，而自研的優(yōu)勢(shì)在于擁有更大的創(chuàng)新空間和拓展領(lǐng)域。從性價(jià)比角度來看，開源相對(duì)于自研更具有成本效益，基于開源框架可以快速定制出符合自身需求的人工智能算法。從可持續(xù)發(fā)展角度來看，自研相對(duì)于開源更具有競(jìng)爭(zhēng)力和前景，可以根據(jù)市場(chǎng)變化和技術(shù)進(jìn)步不斷優(yōu)化和創(chuàng)新。因此，網(wǎng)絡(luò)安全企業(yè)應(yīng)該根據(jù)自身的目標(biāo)、資源和能力，權(quán)衡利弊，做出合理的決策。自研人工智能算法意味著能夠?qū)λ惴ǖ脑砗蛯?shí)現(xiàn)有深入的掌握，從而更好地滿足自身業(yè)務(wù)需求。因此，除了在網(wǎng)絡(luò)安全領(lǐng)域具有優(yōu)勢(shì)，擁有自研人工智能算法的企業(yè)還可以更靈活地將其應(yīng)用于智能交通、智慧醫(yī)療等其他產(chǎn)業(yè)領(lǐng)域，實(shí)現(xiàn)跨界創(chuàng)新和價(jià)值增長。相比之下，基于開源的人工智能算法存在安全可控性方面的風(fēng)險(xiǎn)，因?yàn)槠浒踩院艽蟪潭壬先Q于開源框架的安全性，而這可能難以保證。

２ 人工智能安全風(fēng)險(xiǎn)

任何事情都有兩面性，信息技術(shù)的發(fā)展也不例外，在人工智能可以為相關(guān)部門制定網(wǎng)絡(luò)安全治理的有效保護(hù)措施提供幫助，防御各種網(wǎng)絡(luò)攻擊，提升國家治理能力［１］ 的同時(shí)，人工智能的發(fā)展也帶來了有關(guān)安全方面的挑戰(zhàn)［２］ 。目前在各個(gè)領(lǐng)域，甚至在一些安全相關(guān)的領(lǐng)域，都可以看到人工智能的影子，但是對(duì)于人工智能本身的安全性的研究才剛剛起步［３］ 。

以機(jī)器學(xué)習(xí)和深度學(xué)習(xí)為核心的新一代人工智能由于其潛在的缺陷和廣泛的應(yīng)用而不可避免地帶來了許多日益增長的安全風(fēng)險(xiǎn)和社會(huì)倫理問題，主要有人工智能算法的目標(biāo)失范、不透明性、難解釋性等導(dǎo)致的技術(shù)風(fēng)險(xiǎn)；人工智能可能對(duì)基本人權(quán)、社會(huì)秩序、國家安全等造成負(fù)面影響或被濫用而產(chǎn)生的社會(huì)風(fēng)險(xiǎn)；人工智能與人類價(jià)值觀、道德準(zhǔn)則、責(zé)任機(jī)制等存在沖突或不協(xié)調(diào)而引起的道德困境。

２．１ 人工智能的潛在技術(shù)風(fēng)險(xiǎn)

首先是在技術(shù)層面上，人工智能系統(tǒng)的安全的問題主要被分類２ 類：數(shù)據(jù)與模型隱私以及模型自身安全［４］ 。

模型與數(shù)據(jù)隱私是指保護(hù)訓(xùn)練數(shù)據(jù)和人工智能模型本身的參數(shù)不被泄露或竊取的問題。在人工智能模型的使用過程中，可能會(huì)產(chǎn)生一些包含敏感信息的中間數(shù)據(jù)，如輸出張量、模型參數(shù)以及模型梯度等。

這些中間數(shù)據(jù)也屬于模型與數(shù)據(jù)隱私的范疇。

與模型與數(shù)據(jù)隱私不同，模型安全存在于人工智能模型的整個(gè)生命周期。例如，模型本身由于健壯性不良導(dǎo)致的安全危險(xiǎn)，或者在訓(xùn)練模型的時(shí)候可能遭受攻擊從而導(dǎo)致一些功能無法正常使用。

２．２ 人工智能遭受濫用的社會(huì)風(fēng)險(xiǎn)

在人工智能算法造福我們的同時(shí)，也被應(yīng)用于消極的方面，如虛假新聞和虛假廣告的生成、推薦算法不當(dāng)應(yīng)用、人臉識(shí)別被濫用、個(gè)人隱私挖掘、消費(fèi)行為誘導(dǎo)以及不良信息傳播等。除此之外，人工智能算法本身的一些漏洞也會(huì)被不法分子利用從而進(jìn)行不公平競(jìng)爭(zhēng)，如數(shù)據(jù)投毒導(dǎo)致的決策偏離等。市場(chǎng)和社會(huì)秩序被上述的現(xiàn)象嚴(yán)重?cái)_亂。

在這種情況下，我們的隱私受到極大的威脅，本來在海量的數(shù)據(jù)中，對(duì)數(shù)據(jù)的分析無法對(duì)應(yīng)某個(gè)個(gè)體，但是有了人工智能，我們可以輕易地對(duì)某個(gè)個(gè)體的數(shù)據(jù)進(jìn)行復(fù)雜的邏輯推理分析，個(gè)人隱私將在人工智能下一覽無余。比如，城市中的監(jiān)控系統(tǒng)本來是無法對(duì)應(yīng)到個(gè)體，但是有了人臉識(shí)別、步態(tài)識(shí)別等技術(shù)，就可以輕易地得到每個(gè)人的信息。

２．３ 人工智能衍生的道德倫理困境

首先，人工智能算法的設(shè)計(jì)者由于本身的一些偏見或者負(fù)面情緒以及訓(xùn)練數(shù)據(jù)的片面性，會(huì)導(dǎo)致人工智能算法模型表現(xiàn)出種族歧視或者其他的偏見。其次，人工智能算法的不當(dāng)使用也會(huì)導(dǎo)致一些問題，如成癮性算法會(huì)誘導(dǎo)人們沉迷于游戲或者短視頻。最后，即使人工智能算法的設(shè)計(jì)和使用目的都沒有出現(xiàn)問題，但人工智能算法在實(shí)際使用的過程中做出的一些決策或者預(yù)測(cè)從而導(dǎo)致了問題的發(fā)生，也會(huì)帶來道德倫理的問題，如自動(dòng)駕駛汽車在發(fā)生事故后，如何判斷責(zé)任歸屬和道德選擇。

３ 如何應(yīng)對(duì)人工智能安全隱患

我國應(yīng)積極占據(jù)人工智能安全治理及監(jiān)管這一制高點(diǎn)，積極推動(dòng)我國人工智能應(yīng)用可信可靠發(fā)展。

對(duì)于技術(shù)層面的安全隱患，應(yīng)該大力發(fā)展防御性的算法，攻擊和防御之間的關(guān)系就好比矛和盾，它們相互博弈，共同進(jìn)化。目前已經(jīng)有相關(guān)研究人員提出了具有針對(duì)性的防御算法，但是由于不同的人工智能的原理差異性太大，這些防御算法的普適性不是很好。另外，一些人工智能算法自身的可解釋性比較低，所以這些攻防研究還處于實(shí)驗(yàn)階段。

目前來看，這些防御性算法還處于試驗(yàn)階段，無法完全解決人工智能帶來的所有安全問題，那么一系列切實(shí)可行的技術(shù)標(biāo)準(zhǔn)以及應(yīng)用規(guī)范就顯得尤為重要。在這方面，建議系統(tǒng)有條理地制定與人工智能有關(guān)的技術(shù)和工業(yè)標(biāo)準(zhǔn)，包括人工智能模型、算法、數(shù)據(jù)和應(yīng)用，特別側(cè)重于算法的公平性要求、算法驗(yàn)證、算法誘導(dǎo)、智能推薦、決策評(píng)估、結(jié)果評(píng)估和樣本檢查，以促進(jìn)人工智能的健康發(fā)展和系統(tǒng)應(yīng)用。

鑒于目前人工智能的技術(shù)缺陷，導(dǎo)致其在價(jià)值判斷上受到限制，這使其在機(jī)器人、自動(dòng)駕駛儀、智慧解決方案、智能醫(yī)學(xué)等諸多應(yīng)用中面臨倫理問題。為了應(yīng)對(duì)這些倫理問題，國際社會(huì)已經(jīng)展開了廣泛的研究和探討，提出了一些人工智能倫理原則和規(guī)范，如自由、隱私、尊嚴(yán)、自主權(quán)、透明性、責(zé)任等，旨在保障人工智能技術(shù)的合理開發(fā)和使用。我國也應(yīng)該積極參與這一進(jìn)程，組織相關(guān)部門和行業(yè)制定符合我國國情的人工智能倫理原則和規(guī)范，并加強(qiáng)科學(xué)化管理，建立成果共享機(jī)制，并嚴(yán)格遵守倫理準(zhǔn)則，促進(jìn)科技的健康發(fā)展。在人工智能的研發(fā)過程中，強(qiáng)化了科研人員的倫理觀念、倫理約束和法律意識(shí)，確保人工智能朝著造福人類的積極健康方向發(fā)展。另外，在解決某些具體的倫理問題時(shí)，也可以利用科技自身來尋找解決方案。例如，在面對(duì)惡意收集信息的情況時(shí)，可以利用保護(hù)隱私數(shù)據(jù)的智能程序來對(duì)抗非法獲取信息的智能程序。

４ 人工智能在安全態(tài)勢(shì)感知中的應(yīng)用

４．１ 建立防御策略

在本研究中，我們首先建立了一個(gè)三維模型，作為應(yīng)用戰(zhàn)略細(xì)化關(guān)鍵技術(shù)的基礎(chǔ)。在模型構(gòu)建過程中，我們采用了系統(tǒng)思維、模式技術(shù)和網(wǎng)絡(luò)知識(shí)相結(jié)合的方法，以確保系統(tǒng)工程的安全性。同時(shí)，我們利用聯(lián)合安全機(jī)制來提升數(shù)據(jù)庫性能、信息完整性和計(jì)算機(jī)設(shè)備性能。在實(shí)施戰(zhàn)略細(xì)化技術(shù)時(shí)，我們還注意使網(wǎng)絡(luò)信息與弱發(fā)展相適應(yīng)，并增強(qiáng)高級(jí)別防御戰(zhàn)略的有效性。因此，在應(yīng)用過程中，我們根據(jù)服務(wù)資源需求，在節(jié)點(diǎn)端口處獲取系統(tǒng)安全參數(shù)，并根據(jù)參數(shù)變化進(jìn)行實(shí)時(shí)優(yōu)化配置，無需額外處理。值得一提的是，在參數(shù)配置中，不僅涉及大量數(shù)據(jù)包和接口數(shù)據(jù)的處理，還涉及語法轉(zhuǎn)換的問題。因此，在模型構(gòu)建時(shí)，我們對(duì)這些內(nèi)容進(jìn)行了充分考慮。本研究基于ＣＮＤＰＲ 模型，并將戰(zhàn)略細(xì)化概念應(yīng)用到具體加工中。

生成防御策略后，在設(shè)備節(jié)點(diǎn)上以可執(zhí)行策略規(guī)則形式實(shí)施，并通過該模型展示系統(tǒng)狀態(tài)變化和活動(dòng)特征。從形式上看，模型主體分為主體和節(jié)點(diǎn)２ 類。節(jié)點(diǎn)通過節(jié)點(diǎn)名、ＩＰ 和掩碼生成用戶名和密碼，并改變計(jì)算機(jī)信息流向。主體則是具有相同特征的主體集合。通過分析系統(tǒng)實(shí)際應(yīng)用情況，我們發(fā)現(xiàn)具有相同特征的主題集可以反映出論文特征的綜合，并且不同論文權(quán)限之間存在強(qiáng)相關(guān)性。因此，我們需要使用不同表達(dá)式來描述它們。

４．２ 建設(shè)模型安全體系

在本研究中，我們對(duì)計(jì)算機(jī)特性和網(wǎng)絡(luò)運(yùn)行狀況進(jìn)行了全面的分析和掌握，以提高技術(shù)應(yīng)用的合理性，并增強(qiáng)人工智能技術(shù)和大數(shù)據(jù)技術(shù)的安全性能。

在構(gòu)建模型安全體系的過程中，我們重點(diǎn)關(guān)注了防御策略模型。該模型采用了三維概念，包括ｘ 軸、ｙ 軸和ｚ 軸。其中，ｘ 軸表示系統(tǒng)的安全性水平；ｙ 軸表示不同的網(wǎng)絡(luò)層次，如網(wǎng)絡(luò)層、應(yīng)用層、物理層、傳輸層、數(shù)據(jù)鏈路層等；ｚ 軸表示物理環(huán)境因素，包括信息網(wǎng)絡(luò)、信息處理和安全管理等。確保模型合理，安全防護(hù)效果全面提高。在建立模型時(shí)，網(wǎng)絡(luò)安全問題是技術(shù)人員必須考慮的，進(jìn)而提高模型與用戶需求的一致性。

５ 結(jié)束語

人工智能作為全世界競(jìng)爭(zhēng)的焦點(diǎn)，正在引領(lǐng)著第４ 次工業(yè)革命。為了掌握人工智能的發(fā)展方向，各國和組織都在積極研究人工智能攻防技術(shù)和安全監(jiān)管治理。我國在人工智能產(chǎn)業(yè)規(guī)模和核心企業(yè)數(shù)量方面僅次于美國，位居世界第二。我國的人工智能企業(yè)涵蓋各個(gè)領(lǐng)域，有望成為全球最大的人工智能市場(chǎng)。

我國應(yīng)積極占據(jù)人工智能安全治理及監(jiān)管這一制高點(diǎn)，積極推動(dòng)我國人工智能應(yīng)用可信可靠的發(fā)展。首先對(duì)于技術(shù)層面的危險(xiǎn)，我們要積極發(fā)展防御性的算法來抵御各種攻擊，并發(fā)展出一套框架來適應(yīng)各種不同的人工智能算法。但是由于目前的技術(shù)限制，單純靠防御性的算法還不足以對(duì)抗各種攻擊，這就需要一套規(guī)范的技術(shù)標(biāo)準(zhǔn)以及應(yīng)用規(guī)范來使我們的人工智能算法更加規(guī)范，從而避免一些人工智能算法攻擊。

其次，對(duì)于人工智能衍生出來的道德倫理問題，我國也應(yīng)該與時(shí)俱進(jìn)，組織相關(guān)部門和行業(yè)制定人工智能的倫理原則和規(guī)范。

參考文獻(xiàn)：

［１］ 張濤．人工智能時(shí)代的網(wǎng)絡(luò)安全治理機(jī)制變革［Ｊ］．河南工業(yè)大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版），２０２２，３８（２）：７６?８２．

［２］ 彭長根．人工智能安全治理挑戰(zhàn)與對(duì)策［Ｊ］．信息安全研究，２０２２，８（４）：３１８?３２５．

［３］ 譚毓安．高度重視人工智能安全問題［Ｊ］．信息安全研究，２０２２，８（３）：３１１?３１３．

［４］ 葉曉亮，陳羽凡．人工智能安全風(fēng)險(xiǎn)及治理研究［Ｊ］．工業(yè)信息安全，２０２２（２）：８３?８９．

作者簡(jiǎn)介：張燕平（１９８７—），本科，中級(jí)測(cè)評(píng)師，研究方向：網(wǎng)絡(luò)安全。