Maria+Korolov

2016年夏天，在全球領(lǐng)先的信息安全系列活動Black Hat（黑帽大會）上，美國國防高級研究計劃局讓自動化系統(tǒng)相互對抗，找到對手代碼中的漏洞并利用它們。 “妖怪已經(jīng)從魔瓶中放出來了” “這是一個很好的例子——展示了機器怎樣輕松找到并利用新的漏洞。這方面會不斷發(fā)展，并隨著時間的推移變得越來越復(fù)雜。” Varonis Systems公司戰(zhàn)略和市場開發(fā)副總裁David Gibson對此說：“我們的公司還沒有了解到任何黑客利用人工智能技術(shù)或者機器的例子，但犯罪和黑客行業(yè)采用新技術(shù)比其他行業(yè)快得多?？梢钥隙ǖ厥?，已有黑客利用人工智能來達(dá)到他們邪惡的目的?！?DLT Solutions首席網(wǎng)絡(luò)安全技術(shù)專家Don Maclean說：“白帽和黑帽的黑客們從未如此輕松地得到并掌握機器學(xué)習(xí)交易的工具。很容易獲得軟件，成本很低甚至沒有，也很容易得到機器學(xué)習(xí)教程?！?例如，圖像識別，曾經(jīng)被認(rèn)為是人工智能研究的關(guān)鍵重點。Shape Security公司首席技術(shù)官Shuman Ghosemajumder說，今天，光學(xué)字符識別等工具已經(jīng)非常普及，甚至不再被視為人工智能。“人們不再認(rèn)為它還像以前那樣吸引人。人工智能總是未來即將發(fā)生的事情，而不是我們現(xiàn)在所擁有的?！?通過人工智能完善網(wǎng)絡(luò)安全策略 今天，計算機視覺技術(shù)足以支持自動駕駛汽車穿行在繁忙的街道上。 Ghosemajumder補充說，而且圖像識別也足以解決網(wǎng)站用戶常見的難題，以證明他們更像是人類。例如，谷歌I/O大會，他們有一個變形的文本驗證碼，只有33%的與會者能夠識別，相比之下，當(dāng)時的最先進(jìn)的OCR系統(tǒng)能夠以99.8%正確率來解決這一問題。 Ghosemajumder說，犯罪分子已經(jīng)使用圖像識別技術(shù)并結(jié)合“Captcha群”來繞過安全措施。 他補充說，已有間接的證據(jù)表明，罪犯已經(jīng)開始使用這項技術(shù)。但是，到目前為止，他沒有看到任何基于機器學(xué)習(xí)的公開可用的工具包——旨在繞過其他安全機制。例如，他們公司已經(jīng)知道，如果來自一個IP地址的流量非常大，不正常，那么它很可能是惡意的，所以罪犯分子使用僵尸網(wǎng)絡(luò)繞過這些過濾器，而防御者尋找更細(xì)微的跡象以查明流量是自動的而不是人為的。 更聰明的電子郵件詐騙 近日，邁克菲實驗室2017年威脅預(yù)測報告中稱，網(wǎng)絡(luò)犯罪分子已經(jīng)在使用智能機器來找到企業(yè)電子郵件的受害者，這些攻擊自2015年初以來連續(xù)不斷。 英特爾的英特爾安全CTO Steve Grobman說：“人工智能能夠讓他們針對受害者自動完成定制內(nèi)容的工作。人工智能非常善于將事物分類?！崩?，黑客可以自動完成找到最有可能受害者的過程。 該技術(shù)還可以用于幫助攻擊者一直隱藏在企業(yè)網(wǎng)絡(luò)內(nèi)部，并找到漏洞。 然而，使用人工智能或者機器學(xué)習(xí)來識別某些特定情形也是比較棘手的。 他說：“犯罪分子不太愿意詳細(xì)解釋他們的方法。，但我們知道已經(jīng)有跡象表明出現(xiàn)了這類工作。有明顯的跡象表明，犯罪分子開始朝這個方向努力?！?惡意軟件和假冒域 安全服務(wù)提供商越來越多地使用智能機器學(xué)習(xí)來區(qū)分好軟件和壞軟件，好的域和不好的域。 Anomali的首席數(shù)據(jù)科學(xué)家Evan Wright說，現(xiàn)在，有跡象表明，犯罪分子們在使用機器學(xué)習(xí)來確定防御系統(tǒng)正在尋找什么樣的模式。 他說：“犯罪分子通過防病毒軟件來測試好軟件和壞軟件，發(fā)現(xiàn)了‘防病毒引擎所找到的模式。他們正嘗試模擬人們正在做什么，并讓他們的機器學(xué)習(xí)模型生成這些規(guī)則的例外。我們已經(jīng)發(fā)現(xiàn)在域生成算法中出現(xiàn)了類似的設(shè)計，使其更難以檢測到。但犯罪分子可以采用幾種不同的方式完成這些工作。這起作用了?！?犯罪分子聰明之處不是機器與受害者的自動對話，而是一開始創(chuàng)建人物形象的方式。 PerimeterX的首席執(zhí)行官兼聯(lián)合創(chuàng)始人Omri Iluz說：“智能機器可以從Facebook上得到一張非常有吸引力的圖片，建立一個動態(tài)人物形象，添上引人注意的職業(yè)，例如，空姐或?qū)W校老師。每個人物都是獨一無二的，而且很吸引人。” 他說：“我們知道這真的很難，因此，不只是自動化的問題。我們之所以排除手動過程是因為數(shù)量太多了。我們也不認(rèn)為犯罪分子能夠建立數(shù)以百萬計的人物形象，并進(jìn)行自然選擇，因為這會被約會平臺識別出來。這些都是智能機器的聰明之處。” 當(dāng)他們自動購買門票以轉(zhuǎn)售獲取利潤時，其行為與黃牛類似。 他說：“犯罪分子要找出那些能夠在二級市場上獲得高額利潤的項目。他們不能手動進(jìn)行，因為沒有時間。這不能是數(shù)字游戲，因為他們不能簡單地購買所有庫存，這樣做掙不到錢。其背后有智慧?！?他說，這些活動的利潤超過了研發(fā)支出?！爱?dāng)我們看到這些欺詐者獲取的收入時，比許多大公司員工都多很多。他們不需要殺任何人，也不用進(jìn)行販毒那樣的高風(fēng)險工作?！?準(zhǔn)備好圖靈測試 在有限的智能機器應(yīng)用中，計算機已經(jīng)通過了圖靈測試（經(jīng)典的思想實驗，人類試圖確定是和人交談還是和機器交談）。 英特爾的Grobman說，針對這類攻擊的最佳防御是關(guān)注基本原理。他說：“現(xiàn)在，大多數(shù)公司即使在受到一定攻擊的情況下還能繼續(xù)工作。我們可以做的最重要的事情是確保公司擁有強大的技術(shù)基礎(chǔ)設(shè)施，不斷實踐模擬和紅隊攻擊。” （作者M(jìn)aria Korolov過去20年一直涉足新興技術(shù)和新興市場。） 原文網(wǎng)址： http：//www.csoonline.com/article/3163022/advanced-persistent-threats/ai-isnt-just-for-the-good-guys-anymore.htmlendprint