姜海

加強(qiáng)人工智能安全防御需要從防止人工智能失控（AI Safety）、保證人工智能自身安全（AI Security）和將人工智能用于安全（AI for Security）推進(jìn)。

創(chuàng)立丁牛科技的初心——俠客夢(mèng)

每位網(wǎng)絡(luò)安全人心中都有一個(gè)俠客夢(mèng)，希望執(zhí)劍闖江湖、行俠仗義。創(chuàng)業(yè)之初，我毅然選擇了安全行業(yè)。因?yàn)槲蚁嘈牛ヂ?lián)網(wǎng)安全必將成為重中之重。我希望在浩瀚虛擬的世界中，手執(zhí)正義之劍，應(yīng)對(duì)惡意攻擊，為維護(hù)網(wǎng)絡(luò)空間清朗而戰(zhàn)。

起初，網(wǎng)絡(luò)攻擊只針對(duì)重點(diǎn)目標(biāo)的核心資產(chǎn)。但是，隨著IT技術(shù)和互聯(lián)網(wǎng)的發(fā)展，之前不受重視的用戶信息、消費(fèi)行為等信息成為核心數(shù)據(jù)。而隱私數(shù)據(jù)的泄露不僅會(huì)打擾個(gè)人的日常生活，甚至?xí)斐删薮蟮慕?jīng)濟(jì)損失。在某酒店行業(yè)的用戶信息泄露事件中，犯罪分子利用泄露信息辦理了25張信用卡，對(duì)信息被泄露用戶的經(jīng)濟(jì)與名譽(yù)造成了極大損害。

我在網(wǎng)絡(luò)安全行業(yè)深耕二十年后決定創(chuàng)業(yè)，希望創(chuàng)立一家將人工智能技術(shù)應(yīng)用于安全領(lǐng)域的公司——丁?？萍肌Ｇ》甏藭r(shí)，AI技術(shù)已日漸成熟。將AI技術(shù)應(yīng)用于網(wǎng)絡(luò)安全，一方面，用機(jī)器取代人工節(jié)省人力;另一方面，利用人工智能不斷自我學(xué)習(xí)、迭代演進(jìn)、識(shí)別網(wǎng)絡(luò)攻擊、達(dá)成有效防御，為客戶提供更高效、更經(jīng)濟(jì)、更穩(wěn)定的安全防護(hù)。丁?？萍家浴癆I賦能安全”為使命，致力于幫助企業(yè)降本增效，提供持續(xù)高效、省心可靠的安全防御。但是，人工智能安全產(chǎn)品的研發(fā)，并非一蹴而就。人工智能安全產(chǎn)品的研發(fā)之路，充滿了艱辛。但無(wú)論經(jīng)歷什么，丁?？萍既硕疾煌跣?、砥礪前行。目前，已承接多個(gè)國(guó)家級(jí)科技創(chuàng)新網(wǎng)絡(luò)安全專項(xiàng)并為來(lái)自政府、公安、通信、交通及互聯(lián)網(wǎng)等行業(yè)客戶提供安全保障，獲得客戶的高度肯定。

隨著人工智能技術(shù)的廣泛應(yīng)用，其成果滲透到方方面面：智能手機(jī)、智能音箱、智能機(jī)器人……與此同時(shí)，這些人工智能行為體（以下簡(jiǎn)稱“智能體”）的安全問(wèn)題雖然受到重視，但安全事件仍頻發(fā)?？梢?jiàn)，在人工智能迅猛發(fā)展的同時(shí)，安全隱患同樣不可忽視，必需加強(qiáng)人工智能自身的安全防御。

推進(jìn)人工智能健康發(fā)展，需要三步安全加固方案

加強(qiáng)人工智能自身的安全防御，需要從防止人工智能失控、保證人工智能自身安全和將人工智能用于安全防御三個(gè)方面推進(jìn)。丁?？萍颊谘邪l(fā)的智馭系列安全產(chǎn)品就是將人工智能用于安全防御。

AI Safety——給人工智能帶上“保險(xiǎn)箍”

人工智能需要載體，而載體可以在無(wú)人類干預(yù)時(shí)按照硬編碼方式自主產(chǎn)生動(dòng)作。

AI Security——“安全投入+算法+樣本”都要重視

隨著物聯(lián)網(wǎng)技術(shù)的蓬勃發(fā)展，“智能家居”日漸普及應(yīng)用。但家用WIFI、路由器、機(jī)頂盒等IoT設(shè)備卻并不安全。因?yàn)镮oT設(shè)備生產(chǎn)商為了方便部署和調(diào)試、降低成本，對(duì)這些設(shè)備設(shè)置了雷同的弱口令，為黑客的遠(yuǎn)程攻擊和控制提供了便利。AI技術(shù)在算法方面無(wú)論如何嚴(yán)密，都可能存在錯(cuò)誤。另外，人工智能主要依靠機(jī)器學(xué)習(xí)，需要大量的樣本。一旦樣本被污染，訓(xùn)練出來(lái)的模型將會(huì)產(chǎn)生偏差。因此，建議AI廠商首先要提高安全防范意識(shí)，加大安全投入。從產(chǎn)品設(shè)計(jì)開(kāi)始就要進(jìn)行安全投入，在頂層設(shè)計(jì)和成本投入方面均做好安全考慮。其次，在算法方面不僅要考慮安全問(wèn)題，還要考慮在極端情況下容錯(cuò)問(wèn)題。最后，需要高度重視樣本的純凈性和準(zhǔn)確性，避免使用污染樣本?！?/p>

AI for security——丁?？萍季鸵獙⑷斯ぶ悄苡糜诎踩烙?/p>

目前，越來(lái)越多的安全廠商開(kāi)始關(guān)注如何將人工智能用于安全防御。傳統(tǒng)的漏洞挖掘與利用，主要基于安全專家的人工分析。受限于安全人員的專業(yè)水平及經(jīng)驗(yàn)，漏洞挖掘與利用方面尚存在耗時(shí)長(zhǎng)、效率低、成本高等問(wèn)題。

丁?？萍甲灾餮邪l(fā)的人工智能自動(dòng)化機(jī)器人，在去年舉辦的BCTF、“黃鶴杯”機(jī)器人網(wǎng)絡(luò)安全大賽等活動(dòng)中嶄露頭角，都取得了不錯(cuò)的成績(jī)。

同時(shí)，丁?？萍甲鳛榫珳?zhǔn)智馭安全提供商，正在研制一款針對(duì)Web應(yīng)用攻擊的威脅檢測(cè)工具，希望監(jiān)測(cè)來(lái)自網(wǎng)絡(luò)內(nèi)外部的各類攻擊威脅，減少企業(yè)安全風(fēng)險(xiǎn)。

人工智能是天使，也是魔鬼。因此，我們?cè)诔聊缬谒鼛?lái)的便利的同時(shí)，安全防御不容忽視。