Tamlin+Magee+Charles

人工智能威脅防御公司Darktrace的網(wǎng)絡(luò)分析總監(jiān)Andrew Tsonchev說(shuō)，這使黑客能發(fā)動(dòng)以前只有民族國(guó)家才知道的攻擊。

過(guò)去幾年中，機(jī)器學(xué)習(xí)威脅檢測(cè)和防御公司Darktrace已經(jīng)成為網(wǎng)絡(luò)安全行業(yè)的后起之秀。其核心無(wú)監(jiān)督機(jī)器學(xué)習(xí)技術(shù)使其被譽(yù)為人工智能安全領(lǐng)域最優(yōu)秀的公司。但是，站在網(wǎng)絡(luò)安全研究最前沿的那些人們究竟擔(dān)心什么呢？

上個(gè)月底，在倫敦Docklands的IP博覽會(huì)上，英國(guó)《計(jì)算機(jī)世界》雜志采訪(fǎng)了Darktrace的網(wǎng)絡(luò)分析總監(jiān)Andrew Tsonchev。

他說(shuō)：“很多解決方案都著眼于以前的攻擊，并試圖從中吸取教訓(xùn)，因此人工智能和機(jī)器學(xué)習(xí)是圍繞著以前所看到的東西來(lái)學(xué)習(xí)的。這是非常有效的，比如說(shuō)，一種機(jī)器學(xué)習(xí)分類(lèi)器可以檢測(cè)到銀行木馬程序。”

但它的另一面是什么呢？如果供應(yīng)商在威脅探測(cè)中認(rèn)真地對(duì)待人工智能，那么犯罪領(lǐng)域的同行們何嘗不會(huì)這樣呢？這些黑客現(xiàn)在是不是也像我們所相信的一些供應(yīng)商那么老練呢？

要了解機(jī)器學(xué)習(xí)在哪些方面對(duì)攻擊者而言有用武之地，可以先參考一些在防御方面有很強(qiáng)優(yōu)勢(shì)的例子。

Tsonchev說(shuō)：“技術(shù)上簡(jiǎn)單的攻擊是非常有效的。我們確實(shí)看到網(wǎng)絡(luò)上很多成功的攻擊并非華而不實(shí)的定制開(kāi)發(fā)，定制惡意軟件是為了躲避檢測(cè)而設(shè)計(jì)的。很多時(shí)候還是老一套：偷密碼、網(wǎng)絡(luò)釣魚(yú)，各種各樣這類(lèi)的東西。

問(wèn)題是這些攻擊仍然非常有效，但卻很難被發(fā)現(xiàn)。很多時(shí)候，例如，有一種情況，攻擊者使用現(xiàn)有員工的憑證，一臺(tái)外部服務(wù)器被攻破了；還有一種情況，員工在個(gè)人環(huán)境和工作環(huán)境中不慎使用了相同的密碼，而這是不應(yīng)該的。如果數(shù)據(jù)和密碼被泄露，犯罪分子就會(huì)進(jìn)入這些交易和共享數(shù)據(jù)庫(kù)。這些密碼極有可能適用于公司系統(tǒng)。

這些攻擊并沒(méi)有什么聰明之處，如果您仔細(xì)查看，其惡意并不是與生俱來(lái)的。如果您以違反政策為由來(lái)尋找威脅，那它們不算違反政策。這是一種身份認(rèn)證攻擊，某些人使用了可以訪(fǎng)問(wèn)系統(tǒng)的密碼，訪(fǎng)問(wèn)了早應(yīng)被刪除的文件。

“這是不受歡迎的，是欺詐，但在技術(shù)上，它在違反訪(fǎng)問(wèn)控制方面并不是惡意的，這使得它很難被檢測(cè)到。”

在這些情況下，人們根本不相信技術(shù)指標(biāo)，很難定義一種技術(shù)指標(biāo)，這是比通過(guò)后門(mén)訪(fǎng)問(wèn)網(wǎng)絡(luò)更難定義的指標(biāo)。而這正是行為理解和人工智能發(fā)揮長(zhǎng)處的地方，像人類(lèi)一樣，更好地發(fā)現(xiàn)往往不可預(yù)測(cè)而且棘手的復(fù)雜問(wèn)題。

Tsonchev說(shuō)，目前為止，Darktrace還沒(méi)有發(fā)現(xiàn)自然產(chǎn)生的真正的機(jī)器學(xué)習(xí)攻擊。

Tsonchev解釋說(shuō)：“這是我們非常關(guān)注的，也是我們正在做的，我們都非常清楚這樣做的好處，所以我們很擔(dān)心會(huì)出現(xiàn)大量可供攻擊者使用的人工智能惡意軟件和工具包?！?/p>

Tsonchev說(shuō)：“人工智能的危險(xiǎn)之處在于它是雙刃劍。在那一瞬間，您可以使用支持人工智能的工具來(lái)進(jìn)行大規(guī)模的復(fù)制，而之前只能逐個(gè)地去發(fā)現(xiàn)目標(biāo)，進(jìn)行定制攻擊。

“總的來(lái)說(shuō)，這是因?yàn)槿斯ぶ悄艿膽?yīng)用有利于決策，而以前這是人類(lèi)發(fā)起攻擊的所作所為。有網(wǎng)絡(luò)攻擊者，也有本機(jī)攻擊者，它們?cè)诠羟皶?huì)去探路。它們能看出缺點(diǎn)是什么。它們可以根據(jù)自己發(fā)現(xiàn)的特定環(huán)境來(lái)調(diào)整攻擊路徑，這就是它們很難被發(fā)現(xiàn)的原因。

“我們非常擔(dān)心能這樣做的惡意軟件：使用機(jī)器學(xué)習(xí)分類(lèi)器的惡意軟件上網(wǎng)并觀察網(wǎng)絡(luò)，看看自己能干些什么?！?/p>

這種想法可以應(yīng)用于我們熟悉的所有攻擊。以大部分網(wǎng)絡(luò)釣魚(yú)攻擊為例：在大多數(shù)情況下，這和實(shí)際的“撒餌，然后祈禱”的釣魚(yú)方式一樣，如果有人上鉤，那就太好了。

魚(yú)叉式網(wǎng)絡(luò)釣魚(yú)是目標(biāo)性很強(qiáng)的同類(lèi)惡意攻擊方法，這要求攻擊者密切關(guān)注目標(biāo)，跟蹤目標(biāo)的社會(huì)媒體帳戶(hù)，建立他們的個(gè)人資料，他們采用電子郵件進(jìn)行操控，而這些電子郵件足以通過(guò)Tsonchev所謂的“人類(lèi)健全人格檢查”。

令人擔(dān)心的是，人工智能被用于自動(dòng)完成這一過(guò)程。在定制開(kāi)發(fā)中，訓(xùn)練人工智能系統(tǒng)來(lái)產(chǎn)生能通過(guò)可疑性測(cè)試的網(wǎng)絡(luò)釣魚(yú)電子郵件。您可以利用大量的真正的電子郵件來(lái)訓(xùn)練人工智能分類(lèi)器，讓它學(xué)會(huì)什么東西能讓人信服。

一旦成功了，能起作用了，它能自生自滅了，那么任何人任何企業(yè)都沒(méi)辦法阻止它。

因此，它有可能對(duì)中小企業(yè)發(fā)起高水平而且非常老練的攻擊，這類(lèi)攻擊目前只有民族國(guó)家針對(duì)高價(jià)值目標(biāo)時(shí)才去實(shí)施。

“這真的讓人擔(dān)心?！眅ndprint