閆 翔

（西北大學(xué)信息科學(xué)與技術(shù)學(xué)院，陜西 西安 710000）

在二十世紀(jì)，人工智能技術(shù)有著質(zhì)的飛越，取得了突破性的進(jìn)展。而近年來(lái)人工智能技術(shù)在仍舊在不斷的前進(jìn)著，而應(yīng)用人工智能應(yīng)用的行業(yè)也隨著人工智能的問(wèn)世以及發(fā)展在不斷的增多，比如軍事行業(yè)、服務(wù)行業(yè)、駕駛行業(yè)等，而隨著人工智能在這些行業(yè)的應(yīng)用，各種各樣的安全問(wèn)題也不斷的出現(xiàn)并增加，這對(duì)人工智能的發(fā)展有著重要的阻礙作用，甚至影響了人工智能前進(jìn)的步伐。同樣隨著人工智能算法和應(yīng)用場(chǎng)景的不斷完善，加之人工智能訓(xùn)練水平的提升，人們已經(jīng)享受到人工智能帶來(lái)的種種便利，減輕了人類(lèi)重復(fù)性的工作，人工智能已有大規(guī)模替代人類(lèi)勞動(dòng)的趨勢(shì)。若對(duì)人工智能的發(fā)展不加以控制，勢(shì)必會(huì)帶來(lái)無(wú)法想象的安全問(wèn)題。

1 人工智能安全問(wèn)題的重要意義

人工智能，不難理解，其含義就是人工與智能的結(jié)合體，人工就是人力所制造、所創(chuàng)造的。而智能就是靠先進(jìn)的技術(shù)比如計(jì)算機(jī)等這些技術(shù)來(lái)與人工相結(jié)合。人工智能一定意義上講它是計(jì)算機(jī)的一個(gè)分支，而人工智能所應(yīng)用的領(lǐng)域也特別的廣泛，比如機(jī)器人的研究、圖像和人物的識(shí)別、語(yǔ)言的識(shí)別等。人工智能從問(wèn)世走到現(xiàn)在，所面臨的問(wèn)題也是很多的，其中人工智能的安全問(wèn)題就是很重要的問(wèn)題之一[1]。首先，人類(lèi)應(yīng)用人工智能是否是一直的，也就是人們平時(shí)所擔(dān)心的人工智能是否會(huì)超過(guò)人類(lèi)在這個(gè)社會(huì)上的主體地位這個(gè)問(wèn)題。人工智能應(yīng)用的出發(fā)點(diǎn)是為人類(lèi)所應(yīng)用，使用的過(guò)程必須受到人類(lèi)的控制，必須防止其野蠻發(fā)展，更不能被別有用心的人利用。這是保障人工智能安全問(wèn)題很重要的一個(gè)方面。其次，如果不處理好人工智能的安全問(wèn)題，人工智能有可能會(huì)對(duì)人類(lèi)或者領(lǐng)域產(chǎn)生危害，影響人類(lèi)以及相關(guān)領(lǐng)域的發(fā)展。最后，人工智能的安全問(wèn)題也影響著人工智能本身的發(fā)展，安全問(wèn)題，從始至終都是各行各業(yè)必須重視的問(wèn)題之一，而人工智能行業(yè)的發(fā)展也離不開(kāi)人工智能安全問(wèn)題的妥善處理。

2 人工智能安全問(wèn)題的現(xiàn)狀

2.1 人工智能網(wǎng)絡(luò)安全問(wèn)題

眾所周知，很多行業(yè)在應(yīng)用人工智能這項(xiàng)技術(shù)以及相關(guān)的知識(shí)的時(shí)候都是依附于計(jì)算機(jī)網(wǎng)絡(luò)來(lái)進(jìn)行的，而計(jì)算機(jī)網(wǎng)絡(luò)這個(gè)行業(yè)是錯(cuò)綜復(fù)雜的，很多計(jì)算機(jī)網(wǎng)絡(luò)的安全問(wèn)題也是目前我國(guó)面臨的很?chē)?yán)重的問(wèn)題之一，相應(yīng)的人工智能的網(wǎng)絡(luò)安全問(wèn)題也是還存在問(wèn)題的，比如機(jī)器人在為人類(lèi)服務(wù)的過(guò)程中，操作系統(tǒng)可能遭到黑客的控制，機(jī)器人的管理權(quán)限被黑客拿到，使機(jī)器人任由黑客擺布；亦或突然源代碼遭受到攻擊，人工智能的信息基本通過(guò)網(wǎng)絡(luò)進(jìn)行傳輸，在此過(guò)程中，信息有可能遇到黑客的篡改和控制，這就會(huì)導(dǎo)致機(jī)器人產(chǎn)生違背主人命令的行為，會(huì)有給主人造成安全問(wèn)題的可能性[2]。不僅如此，在人工智能的發(fā)展過(guò)程中，大量的人工智能訓(xùn)練師需要對(duì)現(xiàn)有的人類(lèi)大數(shù)據(jù)進(jìn)行分析和統(tǒng)計(jì)，如何防止信息的泄漏和保護(hù)個(gè)人信息的隱私也是人工智能領(lǐng)域需要關(guān)注的問(wèn)題。

2.2 人工智能應(yīng)用范圍限定的問(wèn)題

對(duì)一些發(fā)展不成熟、會(huì)有引起安全問(wèn)題的可能性的領(lǐng)域以及技術(shù)的應(yīng)用范圍給出一定的限定，這是保障人類(lèi)與社會(huì)和諧發(fā)展的一種手段，也是不能或缺的一個(gè)步驟。目前，人工智能的發(fā)展也是如此的，這也是人工智能目前安全問(wèn)題所面臨的問(wèn)題之一[3]。目前各行各業(yè)都有人工智能的應(yīng)用，比如無(wú)人駕駛、各類(lèi)機(jī)器人等，很多行業(yè)都會(huì)看到人工智能的存在，小到購(gòu)物APP中的客服機(jī)器人，大到國(guó)際比賽中機(jī)器人的應(yīng)用，在許多危險(xiǎn)的領(lǐng)域，如核電、爆破等危及人類(lèi)生命安全的場(chǎng)景，發(fā)揮了至關(guān)重要的作用。這些領(lǐng)域的應(yīng)用如果應(yīng)用的成功那沒(méi)什么問(wèn)題，一旦出現(xiàn)問(wèn)題就會(huì)產(chǎn)生很?chē)?yán)重的安全性問(wèn)題。對(duì)于人工智能應(yīng)用的范圍，目前并沒(méi)有給出明確的界定，也沒(méi)有明確的法律依據(jù)，這就需要相關(guān)組織和機(jī)構(gòu)，盡快對(duì)人工智能的適用場(chǎng)景進(jìn)行梳理，加快人工智能標(biāo)準(zhǔn)和法律的建設(shè)步伐，防止一些不法分子，利用法律漏洞將人工智能運(yùn)用到非法的范圍中，造成全人類(lèi)不可估量的損失。

2.3 人工智能本身的安全標(biāo)準(zhǔn)

人工智能的產(chǎn)生以及應(yīng)用的本身目的并不是為了趕超人類(lèi)或者達(dá)到人類(lèi)的智力水平，它本身存在的價(jià)值是服務(wù)于人類(lèi)，可以成為人類(lèi)生活的更好的一種工具，人類(lèi)需要對(duì)其有著一定的控制的能力。但是近幾年來(lái)，很多人工智能的存在是為了與人類(lèi)的智力水平以及人類(lèi)為標(biāo)準(zhǔn)，忽略了部分人類(lèi)倫理的問(wèn)題，甚至涉及到部分人權(quán)問(wèn)題，這就偏離了人工智能本身存在的目的，而這種的偏離會(huì)產(chǎn)生一定的安全問(wèn)題，從而影響人工智能的發(fā)展。所以人們應(yīng)對(duì)機(jī)器人的道德和行為判斷力進(jìn)行判定，確保其在人類(lèi)的道德倫理范圍中，避免人工智能產(chǎn)物做出危害人類(lèi)安全的行為。人類(lèi)必須對(duì)人工智能的行為進(jìn)行嚴(yán)格的監(jiān)管，也要大力發(fā)展人工智能自身的倫理監(jiān)督機(jī)制，使其為人類(lèi)所用。

3 解決人工智能安全問(wèn)題的措施

人工智能還處在高速發(fā)展期，各方面還未完全成熟，人工智能的安全性問(wèn)題成為了其發(fā)展道路上的絆腳石。解決人工智能安全問(wèn)題對(duì)人工智能的發(fā)展有著很重要的作用，我們可以采取一定的措施來(lái)防止人工智能安全問(wèn)題的產(chǎn)生。既對(duì)人工智能的安全隱患進(jìn)行排除，又對(duì)人工智能的運(yùn)行進(jìn)行管理和監(jiān)督。

首先，網(wǎng)絡(luò)安全已成為人工智能安全的首要攔路虎，解決好網(wǎng)絡(luò)安全的問(wèn)題，讓人工智能的研發(fā)工作、實(shí)驗(yàn)工作已經(jīng)實(shí)施的工作可以在一個(gè)安全、穩(wěn)定的網(wǎng)絡(luò)環(huán)境中來(lái)進(jìn)行。網(wǎng)絡(luò)安全講求人、物、策略的三合一，不僅要做好物理層面網(wǎng)絡(luò)安全的防護(hù)，還需要加強(qiáng)對(duì)網(wǎng)絡(luò)管理、維護(hù)人員隊(duì)伍的管理，還要對(duì)網(wǎng)絡(luò)的管理策略進(jìn)行可持續(xù)的優(yōu)化。定期對(duì)網(wǎng)絡(luò)安全進(jìn)行隱患排查和漏洞修補(bǔ)，加強(qiáng)網(wǎng)絡(luò)安全常規(guī)化的管理，通過(guò)建立完整的網(wǎng)絡(luò)安全制度，并建立人工智能網(wǎng)絡(luò)安全體系等這些措施來(lái)完成。善于運(yùn)用各類(lèi)的技術(shù)手段，從硬件防火墻、IPS、IDS等進(jìn)行網(wǎng)絡(luò)安全的加固，通過(guò)各類(lèi)網(wǎng)管和EDR等軟件加強(qiáng)系統(tǒng)補(bǔ)丁、漏洞的管理，定期對(duì)端口策略、底層防御策略進(jìn)行調(diào)整，對(duì)網(wǎng)絡(luò)安全進(jìn)行閉環(huán)式的持續(xù)性?xún)?yōu)化。

其次，人工智能是很專(zhuān)門(mén)的一個(gè)問(wèn)題，各個(gè)領(lǐng)域都有研究人工智能的權(quán)利也有應(yīng)用人工智能的權(quán)利。但相關(guān)人員要研究人工智能的時(shí)候一定要向相關(guān)部門(mén)進(jìn)行報(bào)告，取得必要的證明以及許可，確保這項(xiàng)工作的安全性，然后在進(jìn)行相應(yīng)的工作。人工智能的應(yīng)用和發(fā)展必須遵循社會(huì)發(fā)展的規(guī)律，以維護(hù)社會(huì)公共安全和穩(wěn)定為先決條件，避免因此而產(chǎn)生不良影響。人工智能因?yàn)檫\(yùn)算速度、運(yùn)算能力和標(biāo)準(zhǔn)化程度優(yōu)于人類(lèi)，在圍棋、象棋等體育競(jìng)技類(lèi)項(xiàng)目中能力能超出人類(lèi)，可以幫助人類(lèi)運(yùn)動(dòng)成績(jī)的提升，但同時(shí)也要防止其運(yùn)用到競(jìng)技類(lèi)的作弊過(guò)程中，有礙比賽的公平和公正。

最后，人工智能安全評(píng)估與管理工作，這也是保障人工智能安全問(wèn)題很重要的工作之一。近幾年來(lái)，人工智能的發(fā)展在不斷的進(jìn)步，因此，評(píng)估人工智能安全也是對(duì)將來(lái)可能產(chǎn)生危害及這種危害的程度的一種預(yù)測(cè)，相關(guān)的研究要不斷的加強(qiáng)這種評(píng)估的技術(shù)，并嚴(yán)謹(jǐn)?shù)耐瓿稍u(píng)估的工作[4]。尤其要加強(qiáng)人工智能算法和程序的測(cè)試，確保其在應(yīng)用過(guò)程中不會(huì)對(duì)人類(lèi)的人身安全產(chǎn)生影響。根據(jù)安全的測(cè)試數(shù)據(jù)，構(gòu)建人工智能產(chǎn)品的評(píng)估模型和模擬機(jī)制，通過(guò)概率統(tǒng)計(jì)學(xué)對(duì)可能發(fā)生的危險(xiǎn)行為進(jìn)行預(yù)測(cè)并做好相關(guān)危害發(fā)生時(shí)的應(yīng)急預(yù)案。加快人工智能訓(xùn)練師和維護(hù)人員的隊(duì)伍建設(shè)，從源頭和使用過(guò)程中對(duì)人工智能的安全進(jìn)行管理和監(jiān)督，最大程度的降低危害事故的發(fā)生。針對(duì)人工智能公共安全領(lǐng)域的事故要做到零容忍，做到對(duì)信息處理和智能化全過(guò)程的安全督察。人工智能行業(yè)協(xié)會(huì)需統(tǒng)籌各地和各企業(yè)之間行業(yè)標(biāo)準(zhǔn)的建立，真正做到人工智能安全標(biāo)準(zhǔn)的統(tǒng)一，讓整個(gè)行業(yè)有據(jù)可依、依標(biāo)辦事。

4 結(jié)束語(yǔ)

人工智能的應(yīng)用是目前我國(guó)各行業(yè)各發(fā)展的一個(gè)大形勢(shì)，而同樣的，人工智能的發(fā)展也是目前我國(guó)智能化發(fā)展的一個(gè)前提，因此人工智能的發(fā)展對(duì)我國(guó)有著很重要的作用。而人工智能安全問(wèn)題作為人工智能發(fā)展重要的問(wèn)題之一是不能忽略的一個(gè)問(wèn)題，因此認(rèn)識(shí)到人工智能所面臨的安全問(wèn)題并將這些問(wèn)題研究出良好的對(duì)策可以對(duì)我國(guó)人工智能的發(fā)展有著很重要的作用。