當前，基于人工智能技術的網(wǎng)絡攻擊日益多樣化，應該如何防范人工智能技術濫用帶來的安全風險？這其中需要從各方面入手更加全面的認識這一問題。

從產(chǎn)業(yè)角度來看，近年來人工智能帶來五個方面的安全新挑戰(zhàn)：

人工智能基礎技術帶來的安全風險。機器學習復雜程度愈發(fā)超出人類理解和控制，帶來不可控性；底層開源框架往往存在安全漏洞；并且人工智能的理論基礎也存在不確定性。

人工智能應用技術帶來的安全風險。這包括應用技術本身存在的缺陷；訓練數(shù)據(jù)可導致人工智能生成偏差；如果攻擊者使用惡意的對抗樣本進行“投毒攻擊”，將導致人工智能的根本性錯誤。

人工智能技術濫用帶來的安全風險。近年來基于人工智能技術的網(wǎng)絡攻擊日益多樣化，特別是利用人工智能開展的攻擊和隱蔽研究漸成體系尤其值得警惕。

中國電子信息產(chǎn)業(yè)發(fā)展研究院副總工程師 安暉

人工智能軍備競賽帶來的安全風險。目前各國紛紛加強安全領域的人工智能戰(zhàn)略布局，甚至逐步向軍事領域擴散。

數(shù)據(jù)和隱私泄露增大擴大安全風險。人工智能發(fā)展將使得敏感數(shù)據(jù)泄露風險增加，例如在人臉檢測和智能醫(yī)療領域表現(xiàn)尤為突出。

為應對人工智能技術帶來的安全新問題，除了傳統(tǒng)方案外，現(xiàn)在也出現(xiàn)了一些新做法：

以人工智能防范人工智能安全。目前人工智能逐步成為應對安全挑戰(zhàn)的新方案，特別在提高分析效率和提升威脅檢測效果方面成果顯著。

應用反人工智能防范安全風險。近年來出現(xiàn)的諸如生成對抗網(wǎng)絡（GANs）等反人工智能技術給網(wǎng)絡安全帶來新的方向。

加強人工智能領域的法律治理。如今世界各國也正在加強人工智能領域的法律法規(guī)研究與發(fā)布，提高智能算法透明化和可責性，用法律法規(guī)保障人工智能技術的合理利用。

人工智能導致安全問題的根源是什么？值得人們思考。人工智能技術本身具有雙面性，技術濫用與技術競爭導致了這一問題的不斷惡化。

安暉表示，今后應對人工智能安全要從五個方面做出研究，一是加強人工智能技術安全研究；二是制定人工智能的安全標準；三是完善人工智能的法律治理；四是加強研究系統(tǒng)性的反人工智能的發(fā)展的應用；五是要秉持開放的狀態(tài)加強合作，不要搞人工智能軍備競賽。