信集

倪光南、鄔江興、方濱興、楊小牛等四位中國工程院院士分別就網(wǎng)絡(luò)安全技術(shù)、世界觀與人工智能等主題進(jìn)行系統(tǒng)闡述

作為2019“西湖論劍”大會(huì)的一大亮點(diǎn)，“院士圓桌”環(huán)節(jié)將論壇推向了高潮。倪光南、鄔江興、方濱興、楊小牛四位中國工程院院士分別就網(wǎng)絡(luò)安全技術(shù)的可控性安全性、針對(duì)網(wǎng)絡(luò)攻擊不確定性進(jìn)行擬態(tài)技術(shù)防御、網(wǎng)絡(luò)安全領(lǐng)域三維九空間和內(nèi)生安全、網(wǎng)絡(luò)安全世界觀與人工智能等主題進(jìn)行系統(tǒng)闡述，并進(jìn)行高端對(duì)話。

倪光南：貫徹落實(shí)“4·19講話”精神，為建設(shè)網(wǎng)絡(luò)強(qiáng)國努力奮斗

三年前，習(xí)近平總書記在關(guān)于網(wǎng)信工作的“4·19”講話中指出：“互聯(lián)網(wǎng)核心技術(shù)是我們最大的‘命門，核心技術(shù)受制于人是我們最大的隱患?！?/p>

最近，通過美國制裁中興等事件，人們大大加深了對(duì)總書記這一重要指示的認(rèn)識(shí)，各行各業(yè)紛紛結(jié)合實(shí)際情況，積極部署安全可靠應(yīng)用推進(jìn)工作，旨在用自主可控的網(wǎng)信產(chǎn)品和服務(wù)替代原先壟斷市場(chǎng)的非自主可控的產(chǎn)品和服務(wù)?？梢灶A(yù)計(jì)在一個(gè)時(shí)期里，我國網(wǎng)信領(lǐng)域出現(xiàn)這類替代將是一種新常態(tài)，這是因?yàn)?，網(wǎng)信領(lǐng)域到市場(chǎng)是高度壟斷的，這使新產(chǎn)品和服務(wù)必須具備打破壟斷的能力，否則就無法進(jìn)入市場(chǎng)。

當(dāng)然，對(duì)于以人工智能為代表的新一代信息技術(shù)而言，由于尚處在起始階段，壟斷往往來不及形成或不大明顯，這有利于我國相應(yīng)的企業(yè)進(jìn)入市場(chǎng)與世界同行進(jìn)行競(jìng)爭(zhēng)，不過如某些方面我們的發(fā)展不夠快，落在別人的后面，被別人壟斷了市場(chǎng)，那么今后也有可能會(huì)面對(duì)新的壟斷、需要實(shí)行新的替代。

中國網(wǎng)信領(lǐng)域的企業(yè)和廣大科技人員應(yīng)當(dāng)有決心、有信心，以百折不撓的勇氣，通過自主創(chuàng)新，徹底解決網(wǎng)信核心技術(shù)受制于人的問題，這樣才能使中國從網(wǎng)絡(luò)大國發(fā)展成為網(wǎng)絡(luò)強(qiáng)國。

鄔江興：要解決網(wǎng)絡(luò)空間最大的不確定安全威脅問題，必須從未知后門漏洞防御做起。

網(wǎng)絡(luò)空間安全的本源問題主要來自四個(gè)方面：一是軟硬件設(shè)計(jì)缺陷導(dǎo)致的安全漏洞不可避免。據(jù)統(tǒng)計(jì)，安全漏洞產(chǎn)生數(shù)量正比于軟硬件產(chǎn)品的數(shù)量和規(guī)模，呈彌漫態(tài)勢(shì)擴(kuò)散到整個(gè)網(wǎng)絡(luò)空間。二是產(chǎn)品提供者蓄意設(shè)計(jì)或生產(chǎn)過程帶入的“暗功能”。經(jīng)濟(jì)技術(shù)全球化時(shí)代，開放式產(chǎn)業(yè)生態(tài)環(huán)境，不可能徹底管控或消除后門、病毒木馬等問題。三是窮盡或徹查目標(biāo)系統(tǒng)軟硬件代碼問題，在可以預(yù)見的將來，仍然是難以克服的技術(shù)挑戰(zhàn)。四是現(xiàn)有互聯(lián)網(wǎng)體系都是由美國人創(chuàng)造的，對(duì)逐步推動(dòng)美國人開放互聯(lián)網(wǎng)治理體系，不能抱有太大期望。根本出路是在全球治理前提下打造新一代的、各國自主可控的、安全可信的網(wǎng)絡(luò)技術(shù)和服務(wù)體系。

同時(shí)，信息系統(tǒng)安全困局的核心問題在于無論是防護(hù)對(duì)象還是附加型防護(hù)設(shè)施本身就沒有感知未知威脅的感知功能。防御手段的有效性嚴(yán)重依賴威脅感知和特征提取準(zhǔn)確性及實(shí)時(shí)性，沒有先驗(yàn)知識(shí)支持，防御系統(tǒng)根本不知道。因此我們提出擬態(tài)構(gòu)造內(nèi)生安全機(jī)制，希望通過“構(gòu)造決定安全”的內(nèi)生防御效應(yīng)，顛覆基于目標(biāo)系統(tǒng)軟硬件漏洞后門等“暗功能”的攻擊理論和方法，從而改變網(wǎng)絡(luò)空間的游戲規(guī)則。

當(dāng)然，面對(duì)正面的網(wǎng)絡(luò)攻擊，我們還是認(rèn)為應(yīng)該采用正面防御，該用密碼或量子密碼的還是要使用。因?yàn)橹灰强梢杂?jì)算的，總是可以破解的，只是時(shí)間問題。但面對(duì)“歪門邪道”的攻擊，我們可以采用擬態(tài)構(gòu)造來防范。因?yàn)閿M態(tài)構(gòu)造內(nèi)生安全機(jī)制是一項(xiàng)賦能技術(shù)，在我們技術(shù)水平和認(rèn)知水平有限的情況下，可以減弱對(duì)設(shè)計(jì)人員的苛刻要求。擬態(tài)的核心是構(gòu)造技術(shù)，利用三角形“內(nèi)生性安全功能”，構(gòu)造具有穩(wěn)定性的網(wǎng)絡(luò)空間，用構(gòu)造技術(shù)解決構(gòu)建技術(shù)不能解決的問題。

此外，我們還發(fā)現(xiàn)，近幾年人工智能、大數(shù)據(jù)等新概念不斷涌現(xiàn)。當(dāng)年我們隆重推出互聯(lián)網(wǎng)的時(shí)候，大家歡欣鼓舞。但“互聯(lián)網(wǎng)+”發(fā)展到現(xiàn)在，我們發(fā)現(xiàn)“+”出了許多問題。所以，現(xiàn)在人工智能的發(fā)展，我們應(yīng)該考慮是否存在一些潛在的危害。比如，目前人工智能進(jìn)展最快的事是深度學(xué)習(xí)DPR，這方面跟訓(xùn)練模型強(qiáng)相關(guān)，一旦訓(xùn)練模型有稍許變化，識(shí)別就會(huì)大相徑庭。此外，把科學(xué)方式推斷到了四范式的大數(shù)據(jù)也有類似的問題。科學(xué)第一范式是科學(xué)觀察，第二范式是實(shí)驗(yàn)，第三范式是模擬仿真，第四范式則是大數(shù)據(jù)。過去，我們認(rèn)為應(yīng)該知其然必知其所以然。但大數(shù)據(jù)卻讓我們只要“知其所以然”就可以，用不著“知其然”。那么就會(huì)出現(xiàn)這個(gè)數(shù)據(jù)到底是真理還是謬誤的問題，大數(shù)據(jù)的決策將無法幫助我們，反而帶來困惑。

所以無論是人工智能還是大數(shù)據(jù)，新的技術(shù)出現(xiàn)之后，都有內(nèi)生問題，都有副作用，這些應(yīng)該在發(fā)展的同期一起解決。正如習(xí)近平總書記講過的“網(wǎng)絡(luò)安全和信息化是一體之兩翼，驅(qū)動(dòng)之雙輪，必須統(tǒng)一謀劃、統(tǒng)一部署、統(tǒng)一推進(jìn)、統(tǒng)一實(shí)施”。

方濱興：安全既是賦能，也是伴生。要用好它的賦能向正向發(fā)展，還要抓住它的伴生性，要及時(shí)發(fā)現(xiàn)它的內(nèi)生安全問題。

我覺得現(xiàn)在大家需要注意人工智能的內(nèi)生安全問題。我們知道，人工智能大量的機(jī)器學(xué)習(xí)，依靠的是神經(jīng)元網(wǎng)絡(luò)。但是這種開放式訓(xùn)練，往往會(huì)導(dǎo)致一些奇怪的結(jié)果。因?yàn)槿斯ぶ悄茉诜诸愂?，往往由于一些?xì)微的，人根本看不出的改動(dòng)，就分到別的類別。比如有個(gè)典型案例，一個(gè)寫著STOP的標(biāo)簽，上面貼了兩個(gè)小廣告，人看到的還是STOP，自動(dòng)駕駛在遠(yuǎn)處看到就是限速45公里，只有在最近一米的時(shí)候，才看到是STOP。所以，當(dāng)神經(jīng)元網(wǎng)絡(luò)乘數(shù)越高，放大乘數(shù)越強(qiáng)，在開放訓(xùn)練時(shí)就越容易數(shù)據(jù)污染。這是目前人工智能內(nèi)生安全需要集中解決的。

楊小牛：網(wǎng)絡(luò)安全問題是長期的事情，所以需要大家不斷地努力，共建晴朗的網(wǎng)絡(luò)空間。

人工智能等新技術(shù)帶來了新的安全問題。美國國防部于2017年4月26日，專門成立了跨部門的特別小組，來研究算法戰(zhàn)，因?yàn)槿斯ぶ悄茏钪匾木褪撬惴?，比如無人作戰(zhàn)平臺(tái)、目標(biāo)識(shí)別、威脅情報(bào)分析等。從公開資料看，算法戰(zhàn)并沒有說要研究算法博弈問題，但既然將之稱為算法戰(zhàn)，也就是說這是一種作戰(zhàn)形態(tài)，肯定都存在攻防雙方的博弈。以后，我們無論是研制出來的機(jī)器人還是各種目標(biāo)的識(shí)別算法，都可能面臨對(duì)抗博弈的環(huán)境，由此帶來的安全問題可想而知。特別是生成式對(duì)抗網(wǎng)絡(luò)的出現(xiàn)及其廣泛應(yīng)用，使得人工智能領(lǐng)域的對(duì)抗博弈會(huì)更加白熱化，需要引起大家的足夠重視。