時間：2018年7月10日下午

地點：國家會議中心

主題：AI時代智能終端的攻與防

論壇概況：

中國信息通信研究院、電信終端產(chǎn)業(yè)協(xié)會、移動安全聯(lián)盟聚焦于AI技術(shù)與安全問題，于7月10日下午成功舉辦主題為“AI時代智能終端的攻與防”的2018中國人工智能移動安全高峰論壇。工業(yè)和信息化部網(wǎng)絡(luò)安全管理局副局長楊宇燕，電信終端產(chǎn)業(yè)協(xié)會理事長、移動安全聯(lián)盟理事長謝毅，以及來自終端廠商、互聯(lián)網(wǎng)企業(yè)、安全廠商、科研院所的代表共兩百余人參加了本次論壇。論壇由中國信息通信研究院泰爾終端實驗室副主任馬鑫主持。論壇邀請到多位業(yè)界大咖分別就AI技術(shù)的安全與應(yīng)用進行深入廣泛的交流，發(fā)表各自觀點，分享成果與經(jīng)驗，共同探討人工智能領(lǐng)域所面臨的安全問題與應(yīng)對方案。

楊宇燕 工業(yè)和信息化部網(wǎng)絡(luò)安全管理局副局長

本次“人工智能移動安全高峰論壇”聚焦人工智能與移動安全，共同分享和探討成果與經(jīng)驗，對做好人工智能安全工作具有重要的意義。在推動人工智能與移動互聯(lián)網(wǎng)發(fā)展的同時，必須高度重視安全的問題。2017年底，工業(yè)和信息化部在國家新一代人工智能發(fā)展規(guī)劃基礎(chǔ)上，出臺了《促進新一代人工智能產(chǎn)業(yè)發(fā)展三年行動計劃》，提出構(gòu)建人工智能網(wǎng)絡(luò)安全保障體系的目標。保障人工智能的安全是一項復(fù)雜的系統(tǒng)工程，目前還存在安全意識不足、制度落實不到位等問題，提出四點建議：第一要突破核心技術(shù)，提高人工智能產(chǎn)業(yè)自主可控水平；第二要加強標準制定，建立并完善技術(shù)標準體系，積極探索基于標準開展安全認證；第三要建立網(wǎng)絡(luò)威脅信息共享機制，依照《公共互聯(lián)網(wǎng)網(wǎng)絡(luò)安全威脅監(jiān)測與處置辦法》、即將出臺的《網(wǎng)絡(luò)安全漏洞管理規(guī)定》等規(guī)定，加強安全漏洞的管理；第四要加強應(yīng)急處置和評測體系的建設(shè)，落實工業(yè)和信息化部公共互聯(lián)網(wǎng)網(wǎng)絡(luò)應(yīng)急預(yù)案，健全人工智能移動安全應(yīng)急機制，并接入工業(yè)和信息化部年底即將建成的網(wǎng)絡(luò)安全應(yīng)急指揮平臺。

謝毅 電信終端產(chǎn)業(yè)協(xié)會理事長、移動安全聯(lián)盟理事長

電信終端產(chǎn)業(yè)協(xié)會一直秉持中國信息通信研究院“國家高端專業(yè)智庫，產(chǎn)業(yè)創(chuàng)新發(fā)展平臺，信息社會創(chuàng)新發(fā)展的思想庫和使能者”的定位，移動安全聯(lián)盟立足于搭建移動互聯(lián)網(wǎng)安全合作的交流平臺、服務(wù)企業(yè)、支撐政府，主要在政策支撐、技術(shù)標準和產(chǎn)業(yè)技術(shù)研究、測試與評估和應(yīng)急響應(yīng)機制四個方面開展工作。

李康 360智能安全研究院院長

目前安全人員已經(jīng)意識到AI有很多安全問題，過去學術(shù)研究更多的關(guān)注逃逸攻擊，是欺騙人工智能，叫騙人攻擊。但對于模型和數(shù)據(jù)的安全保護關(guān)注不夠，模型推測攻擊，攻擊者的目的是偷取人工智能里面的模型或者參數(shù)，是偷人攻擊。在關(guān)注騙人攻擊的同時也應(yīng)該關(guān)注軟件和模型本身的安全性。智能和安全其實已經(jīng)在安全領(lǐng)域?qū)沽撕芏嗄?，現(xiàn)在確實有很多新的人工智能應(yīng)用，安全只要有新的領(lǐng)域、新的應(yīng)用，就會有新的安全關(guān)注。安全是一個持久的問題，會逐漸體現(xiàn)在不同新的領(lǐng)域，安全對抗應(yīng)該是安全領(lǐng)域的永恒主題。

劉焱 百度AI安全負責人

深度學習模型廣泛應(yīng)用于生活的各個領(lǐng)域，從100元左右即可入手的智能音箱，啤酒節(jié)里抓捕逃犯的智能安防，快速便捷的人臉閘機和人臉支付到越來越成熟的無人駕駛車輛，深度學習技術(shù)逐漸改變著人們的生活。但是深度學習模型自身安全方面的研究和防御技術(shù)卻相對滯后。結(jié)合目前工業(yè)界和學術(shù)界的最新前沿進展，透析深度學習模型的脆弱性以及常見的攻擊方法，并提供一個開源的平臺，便于工業(yè)界和學術(shù)界更加便捷的研究深度學習模型的脆弱性和防御方法。

王琦 KEEN CEO

安全漏洞從來不是因為黑客而存在的，恰恰是因為黑客發(fā)現(xiàn)而被消滅。無論機器學習、深度學習是否是人工智能的未來，如果我們現(xiàn)在共同關(guān)心對抗攻擊，一定會對人工智能未來的發(fā)展有所幫助。很多人可能認為對抗攻擊會是深度學習的問題，但其實不是，深度學習可能反而恰恰是對抗攻擊處理的最好的一個領(lǐng)域。

郭耀 北京大學高可信軟件技術(shù)教育部重點實驗室教授

AI有很多問題，但換個角度來看，AI也能夠為我們解決很多安全問題，可以利用AI技術(shù)提高移動應(yīng)用的安全和對隱私保護安全進行分析，比如廣告欺詐檢測，隱私分析，還有一些其他的隱私保護控制方面的工作等等。

王佳斌 騰訊公司移動安全防病毒負責人

AI現(xiàn)在已經(jīng)在移動反病毒領(lǐng)域有了非常廣泛的應(yīng)用，站在防御者的角度，一是要系統(tǒng)化的構(gòu)建一個學習的數(shù)據(jù)，優(yōu)化我們檢測的效果，這是一個相對系統(tǒng)一點的工程；二是要提高AI模型或AI在反病毒領(lǐng)域應(yīng)用過程中的魯棒性。

楊正軍 移動安全聯(lián)盟秘書長

AI+IoT也就是AIoT時代已經(jīng)到來，主要有三個方向的安全問題，一是AI會放大IoT終端面臨的傳統(tǒng)安全風險；二是AI在IoT終端上的應(yīng)用存在安全盲點；三是隱私與數(shù)據(jù)安全問題在AIoT設(shè)備中會凸顯。提出了AIoT信息安全發(fā)展的幾點建議，一是制定政策與標準，加強行業(yè)監(jiān)管；二是建立物聯(lián)網(wǎng)的安全檢測體系，促進法律法規(guī)的落實；三是加強安全宣傳，提高企業(yè)和用戶安全防范意識。

陸全 阿里巴巴安全部資深總監(jiān)

目前人工智能還是像孩子一樣需要我們?nèi)ズ亲o，不能因為人工智能有各種問題就不去做研究，現(xiàn)在可能非常易于被攻擊，但隨著智能的發(fā)展就不會再像現(xiàn)在這樣易于被人攻擊。

韋韜 百度首席安全科學家

目前在大部分產(chǎn)業(yè)里都是這種情況，技術(shù)推進的時候，很少有人考慮安全問題?，F(xiàn)在AI在各個領(lǐng)域推進的速度超乎大家想象，在這種情況下，這些典型應(yīng)用場景有極其嚴峻的安全和隱私的威脅。目前還需要做很多工作，要在安全上有新的突破，把地基重新夯實。

陳洋 小米科技首席安全官

AI給我們開展了一個新的應(yīng)用技術(shù)，現(xiàn)在有了各種各樣的應(yīng)用場景，但我們完全沒有必要去恐懼它帶來的安全問題，因為安全永遠是一個不斷攻防的過程，問題暴露了，我們解決問題，它就安全了。

唐博 長虹信息安全燈塔實驗室首席科學家

從設(shè)備廠商或者物聯(lián)網(wǎng)智能設(shè)備廠商來說，AI是對產(chǎn)品效率的一個提高，對用戶使用體驗的一個提高。同時會帶來一些安全問題，這也是正常的。AI可以把它看作三個發(fā)展階段；一是用AI的方法可以解決一些安全的問題；二是用安全來保護人工智能；三是當人工智能的安全達到一定程度的時候，AI會有更大的發(fā)展。

馬鑫 中國信息通信研究院泰爾終端實驗室副主任

AI應(yīng)用與安全是一個雙刃劍的問題，任何技術(shù)本身沒有對錯之分，只有先進落后之分。AI是一個大系統(tǒng)，軟件越復(fù)雜，它的安全點越需要關(guān)注。在整個技術(shù)研究過程中，是一個平衡的問題。要考慮AI應(yīng)用的場景，有些東西應(yīng)用場景比較簡單的情況下，它的安全性比較容易能夠滿足或者保障。在AI應(yīng)用比較復(fù)雜的情況下，更需要安全性的保障和研究。 ■