人工智能領(lǐng)域涉及的安全問題較多，如國家安全、社會安全、人的安全，還包括一些倫理問題和隱私問題。人工智能主要是基于信息基礎(chǔ)構(gòu)建的一些應(yīng)用，離不開信息的采集、存儲、分析、傳播。同時(shí)，人工智能領(lǐng)域的思想、方法、理論對信息安全也有很多的應(yīng)用。

信息安全的基本要求

沒有網(wǎng)絡(luò)安全就沒有國家安全，沒有信息化就沒有現(xiàn)代化，這充分表達(dá)出了信息化與現(xiàn)代化、信息安全與國家安全的關(guān)系。同時(shí)，從新技術(shù)，比如“互聯(lián)網(wǎng)+”、物聯(lián)網(wǎng)、云計(jì)算、大數(shù)據(jù)到區(qū)塊鏈等新技術(shù)的進(jìn)一步發(fā)展，都要以信息技術(shù)為引導(dǎo)，人工智能也是如此，通過一系列技術(shù)的創(chuàng)新，最終才能真正發(fā)展國家經(jīng)濟(jì)，提升國家綜合實(shí)力。

從這個(gè)意義上說，沒有信息化就沒有現(xiàn)代化，所以包括人工智能在內(nèi)的新技術(shù)的發(fā)展，都需要以信息技術(shù)為主導(dǎo)。

信息化是一把雙刃劍，在帶來很多便利的同時(shí)，也出現(xiàn)了很多安全問題，因此應(yīng)當(dāng)把信息安全提高到國家安全重要組成部分的高度。保密性、完整性、可用、可控和不可抵賴性是信息安全的五個(gè)基本屬性。信息安全要實(shí)現(xiàn)的目標(biāo)是，對信息的使用和處理均經(jīng)過所有權(quán)人的授權(quán)、嚴(yán)格按所有權(quán)人要求、真實(shí)地順暢地合理地進(jìn)行。要經(jīng)過所有權(quán)人授權(quán)，主要是指身份識別問題，身份是有所有權(quán)的，要經(jīng)過授權(quán)對信息進(jìn)行使用；在使用中是可讀、可寫還是可改，就需要按照授權(quán)人的授權(quán)要求進(jìn)行；真實(shí)指信息的使用要真實(shí)，不是經(jīng)過篡改或者偽造的，要保證其真實(shí)性；順暢是指在信息使用過程中，能夠保證信息系統(tǒng)正常使用；合理性就是要理性使用，主要是對信息的管控，如要對有害信息進(jìn)行有效治理。

信息的采集、傳輸、存儲、管理以及信息的處理和使用等環(huán)節(jié)中，都會涉及到安全問題。

信息采集主要是指控制問題，如是不是按照真實(shí)情況進(jìn)行采集？采集數(shù)據(jù)過程中是不是嚴(yán)格遵守規(guī)定？

信息傳輸中要有效地進(jìn)行保護(hù)，做好保密工作，要保證它的真實(shí)性不被篡改，保證傳輸過程的可靠性，能夠抗干擾。

信息存儲和管理，強(qiáng)調(diào)的是真實(shí)性和保密性，不會被篡改，不會被濫用。以后，很多的信息都會放在云上面，那么要如何保證個(gè)人信息的安全呢？要知道云的管理者是不可信的，每個(gè)用戶的信息對他也要進(jìn)行保密，因此說云的安全或大數(shù)據(jù)的安全，只是指存儲和管理方面的安全。

那么在信息處理和使用中，就會存在另外一個(gè)問題，就是怎樣進(jìn)行身份識別和權(quán)限的有效管理？最后，處理的結(jié)果要進(jìn)行簽名，保證它的真實(shí)性，同時(shí)可以對信息使用的整個(gè)生命周期進(jìn)行追溯。

總之，信息安全不僅僅是在于信息本身的安全，信息的作用也不僅僅只是針對設(shè)備而言，它甚至延展到了人的身上，因此提高信息的安全性顯得尤為重要。

人工智能應(yīng)用的信息技術(shù)體系

當(dāng)前社會引發(fā)了一輪又一輪的人工智能熱潮，很多都是由于數(shù)據(jù)驅(qū)動，正是在云計(jì)算、大數(shù)據(jù)等技術(shù)的發(fā)展下，人工智才有了一次又一次的飛躍。所以數(shù)據(jù)的安全、信息的安全貫穿著人工智能應(yīng)用的過程中。

人工智能大體分為幾個(gè)層面：

1.感知層，各類傳感器采集各類信息，也就是信息的采集，這涉及到很多安全問題。

2.傳輸層，采集過程要進(jìn)行處理，進(jìn)行反作用，靠的是基礎(chǔ)網(wǎng)絡(luò)，涉及到傳輸過程的安全。

3.數(shù)據(jù)層，可能進(jìn)行數(shù)據(jù)匯聚，通過大量數(shù)據(jù)的分析和協(xié)同，來產(chǎn)生新的知識和價(jià)值。

4.應(yīng)用層，也就是服務(wù)與控制，提供服務(wù)，對終端進(jìn)行反控制，類似一個(gè)循環(huán)，一個(gè)有機(jī)的循環(huán)回路。人工智能應(yīng)用的安全需求

人工智能的每一層都涉及到安全問題和數(shù)據(jù)安全問題。在身份識別認(rèn)證中，人和設(shè)備是不是可信的，是不是有正當(dāng)權(quán)限的人和設(shè)備。數(shù)據(jù)保護(hù)中，不管是傳輸還是存儲過程，都要保證數(shù)據(jù)的可控性、真實(shí)性和可追溯。如果數(shù)據(jù)在傳輸或存儲過程中被篡改了，到最后通過算法推導(dǎo)出的結(jié)果，也必然是不真實(shí)和不可信的。

但在這個(gè)過程中也存在一個(gè)問題，保證數(shù)據(jù)能夠進(jìn)行有效的匯聚，既要保證數(shù)據(jù)所有者的權(quán)益，同時(shí)又能夠通過這種大數(shù)據(jù)的匯聚產(chǎn)生價(jià)值，在可控的范圍之內(nèi)，這里的安全問題也是現(xiàn)在研究的重點(diǎn)和難點(diǎn)。

人工智能應(yīng)用的安全建設(shè)

安全問題在重視應(yīng)用的同時(shí)也要考慮到安全和應(yīng)用建設(shè)的同步發(fā)展。

政府要主導(dǎo)，在人工智能應(yīng)用中深入分析安全需求，進(jìn)行頂層的設(shè)計(jì)，提出安全要求；加強(qiáng)安全制度建設(shè)，建立安全準(zhǔn)入制度和檢測評估方法、機(jī)制。

企業(yè)應(yīng)該從感知、傳輸、分析協(xié)同、服務(wù)控制等方面建立一些安全標(biāo)準(zhǔn)。同時(shí)既要重視機(jī)制的保障還要重視技術(shù)的保障，使人工智能的應(yīng)用和網(wǎng)絡(luò)安全建設(shè)同步發(fā)展。

需要關(guān)注的網(wǎng)絡(luò)安全技術(shù)

1.身份識別和生物特征識別。身份識別的核心是密碼技術(shù)，但對于輕量級設(shè)備、便攜的智能設(shè)備而言，它們的計(jì)算能力還較弱，使用成熟的密碼技術(shù)會存在一些問題，這需要對原來的身份識別進(jìn)行改造。生物特征識別也是如此，目前的生物識別技術(shù)還沒有建立一個(gè)安全的邏輯鏈條。

2.移動安全?，F(xiàn)在各種智能應(yīng)用的終端主要以手機(jī)為主，手機(jī)與PC機(jī)相比更不安全，因?yàn)槭謾C(jī)更便捷、成本低、更新快，所以安全隱患更多，更難解決，建立體系建立難度更大。

3.大數(shù)據(jù)安全。大數(shù)據(jù)安全比一般意義上的云安全難度更大，云安全主要是用戶信息是放在云上，僅供用戶使用，同時(shí)云的管理者是不能看到用戶的信息。而大數(shù)據(jù)安全相對來說更加復(fù)雜，它是將很多用戶的數(shù)據(jù)都放在云上，將不同用戶的信息進(jìn)行融合處理，每個(gè)用戶需要自己進(jìn)行加密，否則無法保證數(shù)據(jù)的安全。但是加密之后如何讓其他人使用，或在一定限度內(nèi)實(shí)現(xiàn)共享，既要加密保護(hù)，又要能夠有效地進(jìn)行數(shù)據(jù)的融合和利用，這是很難解決的問題，同時(shí)也涉及到加密檢索，保證數(shù)據(jù)的完整性，安全的計(jì)算外包。

4.系統(tǒng)脆弱性。目前網(wǎng)絡(luò)攻防態(tài)勢非常嚴(yán)峻，主要就是是利用信息系統(tǒng)，要知道現(xiàn)在的信息系統(tǒng)還不完善，具有脆弱性，將來人工智能應(yīng)用也是一個(gè)程序、一段代碼，如果出現(xiàn)嚴(yán)重漏洞，就會被惡意代碼取得它的控制權(quán)，帶來極大的危害，所以系統(tǒng)的脆弱性也是網(wǎng)絡(luò)安全非常重要的問題之一。

網(wǎng)絡(luò)安全中的人工智能

人工智能在網(wǎng)絡(luò)安全領(lǐng)域也得到越來越多的應(yīng)用，它在主動安全防護(hù)、主動防御、策略配置方面發(fā)揮的作用越來越大，但是當(dāng)前仍舊處于探索階段。比如基于神經(jīng)網(wǎng)絡(luò)，在入侵檢測、識別垃圾郵件、發(fā)現(xiàn)蠕蟲病毒、偵測和清除僵尸網(wǎng)絡(luò)設(shè)備、發(fā)現(xiàn)和阻斷未知類型惡意軟件執(zhí)行等方面進(jìn)行了大量的探索；基于專家系統(tǒng)，在安全規(guī)劃、提高安全運(yùn)行中心效率、量化風(fēng)險(xiǎn)評估、威脅情報(bào)等方面也做了很多探索，收到了良好的效果。

（本文根據(jù)鄭建華院士在 2018國家智能產(chǎn)業(yè)峰會的演講整理而成，未經(jīng)本人確認(rèn)。）