◆但少華

人工智能安全問題及其解決方向

◆但少華

（湖北省赤壁市人民檢察院 湖北 437300）

人工智能的出現(xiàn)無疑開啟了人類歷史的新時代，它在給國家和社會帶來進(jìn)步和發(fā)展的同時，也帶來了巨大的安全威脅。如何解決新時代下人工智能的安全問題成為網(wǎng)絡(luò)信息領(lǐng)域的當(dāng)務(wù)之急。本文筆者首先對人工智能及其發(fā)展進(jìn)行介紹，然后從倫理、社會秩序、隱私以及系統(tǒng)整體性四個層面分析人工智能的信息安全威脅，最后提出人工智能安全問題的規(guī)避策略。

人工智能；安全問題；解決策略

0 引言

近年來，人工智能已經(jīng)成為了一個炙手可熱的名詞，圍棋天才柯潔大戰(zhàn)阿爾法狗和第一個擁有人類身份證的機(jī)器人索菲亞等這一系列現(xiàn)象的出現(xiàn)讓人們在感嘆人工智能給世界帶來巨大變化的同時也引起了人們對于信息安全的擔(dān)憂。一項(xiàng)新技術(shù)的出現(xiàn)，如果能夠有效利用，將會引領(lǐng)時代的進(jìn)步和發(fā)展，但是忽略了其潛在威脅，就會適得其反。人工智能技術(shù)的出現(xiàn)，也意味著一場革命，在市場競爭如此激烈的時代浪潮裹挾下，我國的人工智能是否能夠引領(lǐng)時代發(fā)展，關(guān)鍵在于如何解決人工智能的信息安全問題。

1 人工智能及其發(fā)展

從根本上說，人工智能就是一項(xiàng)信息處理系統(tǒng)，它主要通過輸入圖像或者文字信息，進(jìn)行感知、分析和學(xué)習(xí)，進(jìn)而采取恰當(dāng)?shù)男袆咏鉀Q問題。由于人工智能天生具備的信息屬性決定了其信息安全問題會全程貫穿在其應(yīng)用中。世界范圍內(nèi)的各領(lǐng)域各行業(yè)都感受到了人工智能帶來的巨大變化，政府部門在制度設(shè)計上出臺了各種政策促進(jìn)人工智能的發(fā)展，技術(shù)人員也試圖搶占技術(shù)的高點(diǎn)。我國的《新一代人工智能發(fā)展規(guī)劃》和十三五規(guī)劃都對人工智能的發(fā)展進(jìn)行了詳細(xì)的戰(zhàn)略部署。中國具有天然的市場優(yōu)勢，目前人工智能的發(fā)展態(tài)勢十分樂觀，人們?nèi)粘＋@取信息、網(wǎng)購和出行等都離不開人工智能技術(shù)的支持。2017年，麻省理工科技評論公布的全球十大突破技術(shù)之中，深度學(xué)習(xí)、刷臉支付以及自動駕駛位列其中，而這些技術(shù)的研究者中科大訊飛、阿里巴巴、百度等都是中國企業(yè)。除此之外，我國的人工智能還被引入了政務(wù)領(lǐng)域，有效地提升了工作效率，促進(jìn)了政府服務(wù)的創(chuàng)新。

2. 人工智能信息安全威脅分析

2.1 倫理安全

隨著人工智能的發(fā)展，越來越多智能化、自動化的設(shè)備進(jìn)入了我們的日常生活，同時它們也面臨著現(xiàn)有法律、社會規(guī)范以及倫理道德的挑戰(zhàn)。比如世界圍棋大師李世石與人工智能機(jī)器人阿爾法狗的對決，人們會擔(dān)心未來人工智能會取代人類，索菲亞成為第一個擁有人類身份的機(jī)器人，人們會擔(dān)心如果她對人造成傷害怎么辦，這些現(xiàn)象都不符合我們的傳統(tǒng)認(rèn)知。除此之外，人工智能技術(shù)的進(jìn)步，逐漸取代了那些重復(fù)性的工作，導(dǎo)致相關(guān)從業(yè)人員出現(xiàn)極大的心理恐慌。

2.2 影響社會秩序

傳統(tǒng)的信息系統(tǒng)依賴于人的操作和控制，但是人工智能技術(shù)有一個自己的“大腦”，在一定程度上可以自我控制。人工智能控制的機(jī)器人、無人駕駛汽車、無人機(jī)等設(shè)備都具備一些自主行為，一旦受到安全威脅，就會帶來極大的破壞，例如無人駕駛汽車失控后對交通系統(tǒng)造成的影響，而且人工智能系統(tǒng)設(shè)備的行為還會給同一系統(tǒng)的人員帶來諸多的干擾和麻煩，導(dǎo)致現(xiàn)有秩序的混亂。

2.3 隱私安全

人工智能催生了大數(shù)據(jù)時代，人、事、物可以實(shí)現(xiàn)綜合的管理，沒有人是一座孤島，不可避免地會與周圍的人事物產(chǎn)生聯(lián)系，在大數(shù)據(jù)的作用下，個人的家庭信息、聯(lián)系方式、賬號密碼，甚至是出行軌跡、消費(fèi)情況和健康狀況等，都可以通過智能設(shè)備、互聯(lián)網(wǎng)或者傳感設(shè)備實(shí)現(xiàn)數(shù)據(jù)的獲取，如果這些信息都被曝光，那么個人隱私安全就會受到極大的威脅。

2.4 系統(tǒng)整體性安全

人工智能系統(tǒng)中的大部分?jǐn)?shù)據(jù)都被保存在云端，通過大數(shù)據(jù)分析向控制端發(fā)出指令，進(jìn)而形成傳輸、智能處理。在此過程中，如果該人工智能系統(tǒng)受到攻擊或者設(shè)備故障，將會引發(fā)整個系統(tǒng)的危機(jī)，就算是局部的安全風(fēng)險，也會在短時間內(nèi)迅速擴(kuò)散，形成更大的安全威脅。

3 人工智能安全問題的規(guī)避策略

3.1 樹立科學(xué)的安全觀念

建立起對人工智能安全問題的科學(xué)意識，消除恐慌和擔(dān)憂的情緒，更好地利用技術(shù)促進(jìn)社會的進(jìn)步和發(fā)展，是規(guī)避人工智能安全問題的重點(diǎn)。將人工智能安全問題絕對化一定程度上是在將安全風(fēng)險擴(kuò)大化，相關(guān)行業(yè)人員應(yīng)該樹立起科學(xué)的觀念，辯證看待人工智能的安全問題，立足發(fā)展，認(rèn)真權(quán)衡利弊，別讓安全問題阻斷了發(fā)展的道路，應(yīng)該運(yùn)用規(guī)則的作用，以更先進(jìn)的管理手段和技術(shù)措施應(yīng)對人工智能所帶來的負(fù)面影響。

3.2 完善法律法規(guī)，制定道德準(zhǔn)則

政府應(yīng)充分發(fā)揮主導(dǎo)作用，專家作為技術(shù)宣傳的主體應(yīng)該肩負(fù)起普及人工智能信息安全相關(guān)知識的責(zé)任，公眾要積極參與其中，發(fā)揮整個社會的協(xié)同作用，針對人工智能的不同環(huán)節(jié)和應(yīng)用場景，研究人工智能安全發(fā)展方略，明確各主體的權(quán)利和義務(wù)。同時，有關(guān)部門制定相關(guān)的法律法規(guī)，劃定人工智能安全發(fā)展的邊界，并鼓勵公眾參與到倫理道德準(zhǔn)則的制定過程之中，在人工智能的科研團(tuán)隊(duì)中開展相關(guān)倫理道德的知識宣傳工作，發(fā)揮倫理道德的柔性約束作用。

3.3 確立有效的發(fā)展策略

任何一項(xiàng)技術(shù)的出現(xiàn)都會經(jīng)歷一個相對漫長的發(fā)展過程，過去很多技術(shù)都是遵循先發(fā)展后治理的原則，但是當(dāng)技術(shù)發(fā)展速度越快，產(chǎn)生的影響就會越大，滯留的問題就會越多。人工智能具備自主、智能和自適應(yīng)的特征，因此要改變發(fā)展策略，將發(fā)展和治理放在同一高度來看待，歐美各國在人工智能的發(fā)展戰(zhàn)略中將安全管控和風(fēng)險治理都納入了其中，防微杜漸，這是我們需要學(xué)習(xí)和借鑒的。在新一代人工智能的發(fā)展過程中，應(yīng)該以科學(xué)的態(tài)度迎接安全挑戰(zhàn)，做好相關(guān)的安全保障措施，才能更好地促進(jìn)人工智能的發(fā)展。

3.4 創(chuàng)新加快科學(xué)普及，強(qiáng)化輿論引導(dǎo)

要構(gòu)建一個健康的人工智能發(fā)展環(huán)境，就要加大科普宣傳力度，發(fā)揮輿論的引導(dǎo)作用，傳遞正能量，讓人們認(rèn)識和了解人工智能的發(fā)展現(xiàn)狀以及取得的成果。針對人工智能是否會取代人類等一系列疑問，相關(guān)專業(yè)人士應(yīng)該進(jìn)行科學(xué)宣傳和引導(dǎo)，消除人們對人工智能的誤解，幫助他們打消疑慮，營造和諧穩(wěn)定的社會氛圍，提升全社會的科技認(rèn)知水平，讓人工智能更好地為人類服務(wù)。

3.5 人工智能的安全評估與管理

當(dāng)前人工智能正以飛快的速度向前發(fā)展，相關(guān)人士應(yīng)對其可能產(chǎn)生的危害以及危害的程度進(jìn)行科學(xué)的評估，人工智能產(chǎn)生的安全性已不容忽視。由于人工智能產(chǎn)生在出現(xiàn)問題之前沒有任何預(yù)兆，因此人們會認(rèn)為高科技所造成的后果是十分嚴(yán)重的，進(jìn)而導(dǎo)致對相應(yīng)安全問題嚴(yán)重性做出偏高的主觀評價，這也體現(xiàn)了人工智能安全評估和管理的重要性。安全評估主要著眼于那些未發(fā)生但存在發(fā)生可能性的事件，并將其數(shù)據(jù)化，計算事故發(fā)生的概率、劃分危險等級，并制定相應(yīng)的安全標(biāo)準(zhǔn)和對策措施，從中選擇最佳方案，以預(yù)防事故的發(fā)生。對人工智能進(jìn)行安全評估，不僅能夠讓技術(shù)人員更加全面地認(rèn)識到研發(fā)對象的特性，設(shè)計出更加全面且安全的系統(tǒng)，同時在工程技術(shù)當(dāng)中，安全評估是安全管理的重要內(nèi)容。

4 結(jié)語

綜上所述，人工智能給人類社會帶來的深刻變革是有目共睹的，縱觀歷史，每一個經(jīng)濟(jì)繁榮時代的到來都是由新技術(shù)引領(lǐng)的。隨著人工智能技術(shù)的不斷進(jìn)步，人工智能在給人類帶來更多技術(shù)上的變革和生活上的便捷的同時，也存在著一些安全隱患。在這個智能時代背景下，我們應(yīng)該理性看待人工智能的影響，同時還要用發(fā)展的眼光看待人工智能的發(fā)展，因?yàn)樗秃帽仁且话选半p刃劍”。當(dāng)然，更重要的是，我們不應(yīng)將人工智能的安全問題丟給未來，人工智能安全問題不僅是網(wǎng)絡(luò)安全領(lǐng)域面臨的問題，更是全世界都需要解決的問題，只有真正解決了人工智能的安全問題，才能將人類引入更加光明和幸福的未來。

[1]杜嚴(yán)勇.人工智能安全問題及其解決進(jìn)路[J].哲學(xué)動態(tài),2016.

[2]史博偉,傅曉微. 美國的國家網(wǎng)絡(luò)安全戰(zhàn)略及其借鑒意義[J].南京郵電大學(xué)學(xué)報(社會科學(xué)版),2016.

[3]何哲.人工智能時代的政府適應(yīng)與轉(zhuǎn)型[J].行政管理改革,2016.

[4]郭華. 基于人工智能的網(wǎng)絡(luò)安全技術(shù)[J].電子技術(shù)與軟件工程,2017.

[5]邵江寧.基于人工智能后發(fā)制人的網(wǎng)絡(luò)安全新對策[J]. 信息安全研究,2017.