■ 賽迪智庫 張博卿

比如，無人駕駛車要通過識別交通信號標(biāo)志來決定是通行還是停止，而攻擊者可以生成一個(gè)欺騙通行標(biāo)志的對抗樣本，在行人眼里是禁止通行，但AI系統(tǒng)會識別成允許通行，這足以造成災(zāi)難性的后果，其原理就是通過打造精確的攻擊樣本欺騙分類器。

事實(shí)上，現(xiàn)在已經(jīng)出現(xiàn)了數(shù)據(jù)投毒、對抗式生成網(wǎng)絡(luò)偽造人臉識別等攻擊手段，在大量的AI技術(shù)落地之前，安全AI需要引起足夠的重視才能從源頭上防范更多的風(fēng)險(xiǎn)，在這個(gè)背景下，阿里安全提出“安全AI”的理念。所謂安全AI，是指安全場景中進(jìn)化出的AI，擁有更強(qiáng)、更多元化的能力；與當(dāng)前通用AI的理念不同，阿里安全更注重在業(yè)務(wù)安全領(lǐng)域垂直縱深的技術(shù)積淀，開發(fā)出適應(yīng)更多安全場景的新一代AI，讓傳統(tǒng)的安全問題找到新的AI解法。

未來趨勢之下，AI仍將迅猛發(fā)展，在更多商業(yè)、工業(yè)和生活場景中落地。安全AI的核心理念就是讓不可能變?yōu)榭赡埽軜O大解放人力，也將成為未來網(wǎng)絡(luò)安全問題的新解法。