編譯 陳軼翔

盡管2017年人工智能取得顯著進步，但人工智能仍然無法做到或無法理解的事情還有很多，本文列舉了2018年亟待解決的5個問題。

2017年的人工智能領(lǐng)域取得了顯著進步。例如，一款名為“冷撲大師”的人工智能機器人，完勝人類頂級撲克選手。在現(xiàn)實世界中，機器學(xué)習(xí)正被應(yīng)用于擴大農(nóng)業(yè)和改善醫(yī)療保健等方面。

但最近你使用過Siri（iPhone上的語音控制功能）或Alexa（當(dāng)前擁有URL數(shù)量最龐大，排名信息發(fā)布最詳盡的網(wǎng)站）嗎？如果你用過，那么你就會知道，盡管有各種炒作，但人工智能仍然無法做到或無法理解的事情還有很多。專家們將在2018年重點研究以下5個棘手的問題：

使人工智能理解語言

在處理文本和語言方面，機器比以往任何時候的表現(xiàn)都要好。Facebook可以為視力受損的人朗讀圖像的描述；谷歌則在對電子郵件進行簡短回復(fù)方面表現(xiàn)出色。然而，軟件仍然無法真正理解我們話語的含義以及我們的想法。波特蘭州立大學(xué)教授梅蘭妮·米切爾（Melanie Mitchell）說：“我們?nèi)祟惪梢詫⑺鶎W(xué)的概念以不同的方法組合起來，并將它們應(yīng)用到新的情況中。而這是人工智能和機器學(xué)習(xí)系統(tǒng)無法做到的?！?/p>

米切爾認(rèn)為如今的軟件發(fā)展受到了數(shù)學(xué)家吉安·卡羅-羅塔（Gian Carlo-Rota）所說的“意義障礙”的限制。一些領(lǐng)先的人工智能研究團隊正試圖弄清楚應(yīng)如何克服這一障礙。

研究工作的目的之一是使機器擁有常識，并熟悉支撐人類思維的物質(zhì)世界。例如，F(xiàn)acebook的研究人員正試圖通過讓機器觀看視頻的方式來教機器學(xué)習(xí)理解現(xiàn)實世界。另一些研究者則致力于使機器模仿人類對世界的理解。谷歌一直在試圖讓機器人學(xué)習(xí)理解世界的軟件。米切爾已經(jīng)嘗試用現(xiàn)有經(jīng)驗和大量概念來訓(xùn)練系統(tǒng)以解釋照片中所發(fā)生的事情。

縮小阻礙機器人革命的現(xiàn)實差距

機器人硬件已經(jīng)發(fā)展得相當(dāng)不錯了。你能夠以500美元的價格買到一臺帶有高清攝像頭只有手掌大小的無人機。那些運送貨箱，用兩條腿走路的機器也有了改進。那么為什么人類的生活還沒有全面運用機器助手呢？——目前的機器人缺少“思維大腦”來指揮它們復(fù)雜的組織結(jié)構(gòu)。

讓機器人做任何事情都需要特定的編程來完成特定的任務(wù)。它們可以從重復(fù)的試驗（和錯誤）中學(xué)習(xí)類似操作任務(wù)，但這一過程相對緩慢。一個很有潛力的辦法是讓機器人在虛擬的仿真世界中訓(xùn)練，然后把獲得的信息下載到物理機器人的機身里。然而，這種方法卻存在難題——“現(xiàn)實差距”，這個詞語描述了機器人在仿真世界中學(xué)習(xí)的技能被轉(zhuǎn)化到現(xiàn)實世界中的機器上時并非總是可用的。

然而，“現(xiàn)實差距”正在縮小。2017年10月，谷歌報告的實驗結(jié)果讓人們看到了希望——機械手臂學(xué)會了撿起各種各樣的物體，包括膠帶座、玩具和梳子。

對于致力于研究自動駕駛汽車的人們來說，“現(xiàn)實差距”也進一步縮小。競相研究機器人駕駛的公司模擬在街道上部署虛擬汽車，以減少在真實交通和道路條件下進行測試所需的時間和開支。自動駕駛創(chuàng)業(yè)公司Aurora的首席執(zhí)行官——之前曾是谷歌之母——Alphabet公司的自動駕駛汽車項目的負(fù)責(zé)人——克里斯·厄姆森（Chris Urmson）透露，讓虛擬測試更適用于真實的交通是他團隊的首要任務(wù)之一。他說：“在接下來一年左右的時間里，我們將會看到如何利用這一點來加速機器學(xué)習(xí)?！?/p>

防范人工智能黑客

運行電網(wǎng)、安全攝像頭和手機的軟件一直受到安全漏洞的困擾。自動駕駛汽車軟件和家用智能軟件也會存在相同的問題，甚至可能更糟——有證據(jù)表明，機器學(xué)習(xí)軟件的復(fù)雜性會導(dǎo)致發(fā)展新的黑客攻擊途徑。

2017年的研究表明，你可以在一個機器學(xué)習(xí)系統(tǒng)中隱藏一個秘密的觸發(fā)機制，在一個特定的信號發(fā)出時，該機制會使系統(tǒng)進入“搗蛋”模式。紐約大學(xué)的一個研究團隊設(shè)計了一個路標(biāo)識別系統(tǒng)——除非看到黃色的便利貼，否則都能夠正常運作。在布魯克林的一個停車標(biāo)志上貼上一張黃色便利貼，自動識別系統(tǒng)就會發(fā)出限速要求。而類似小把戲就能造成大麻煩。

這個威脅被認(rèn)為是很嚴(yán)重的。2017年12月上旬在世界最著名的機器學(xué)習(xí)會議上，研究人員召開了為期一天的研討會以探討欺騙機器帶來的威脅。研究人員討論了一些會引發(fā)混亂的問題，比如在人類看來很正常的手寫數(shù)字，但在軟件看來卻有所不同。例如，你所看到的2，會被一個機器視覺系統(tǒng)看作是3。研究人員還討論了利用此類問題對人類進行攻擊的可能，并對未來人工智能或許被用來愚弄人類表示擔(dān)憂。

組織該研討會的蒂姆·黃（Tim Hwang）預(yù)計，隨著機器學(xué)習(xí)變得更強大、更容易部署，使用這種技術(shù)來操縱人類是不可避免的。他說：“你不再需要很多博士來進行機器學(xué)習(xí)?！钡倌贰S指出，在2016年總統(tǒng)大選期間，俄羅斯的“假訊息活動”就是人工智能強化的信息戰(zhàn)的一個預(yù)演。

超越棋盤游戲

Alphabet的“冠軍圍棋”軟件在2017年得到了快速發(fā)展。2017年5月，該軟件一個更強大的版本擊敗了中國的圍棋世界冠軍。該軟件的設(shè)計者——DeepMind公司，隨后創(chuàng)建了一個版本——AlphaGoZero，可以在不學(xué)習(xí)任何人類圍棋案例的情況下學(xué)習(xí)圍棋。12月，另一個升級版本誕生了——AlphaZero，可以學(xué)習(xí)國際象棋和日本棋盤游戲——將棋。

大量引人注目的進展令人印象深刻，但也暗示了人工智能軟件的局限性。國際象棋、將棋和圍棋都很復(fù)雜，但都有相對簡單的游戲規(guī)則，游戲設(shè)置對雙方都是可見的。它們很好地匹配了計算機可以快速計算很多未來可能布局的能力，但生活中的大多數(shù)情況及問題并非都是那么整齊有序。

這就是為什么DeepMind和Facebook都于2017年開始研發(fā)多人視頻游戲“星際爭霸”的原因。兩者都尚未取得較大進展。目前，由業(yè)余愛好者打造的最好機器人，甚至都比不上那些中等技術(shù)的游戲玩家。DeepMind的研究人員奧里奧爾·溫亞爾斯（Oriol Vinyals）在2017年早些時候向《連線》雜志透露，他的軟件現(xiàn)在缺乏必要的規(guī)劃和記憶能力，而這些能力可以在組建和指揮軍隊的同時，對于對手的行動進行預(yù)測和反應(yīng)。另外，這些技能也會使軟件在幫助現(xiàn)實世界更好地完成任務(wù)，比如辦公室工作或真正的軍事行動。2018年“星際爭霸”或類似游戲若取得重大進展，可能預(yù)示著人工智能將出現(xiàn)一些強大的新應(yīng)用程序。

教人工智能辨別是非

即使在上述領(lǐng)域并未取得新進展，如果現(xiàn)有的人工智能技術(shù)能得到廣泛應(yīng)用，經(jīng)濟和社會的很多方面也將發(fā)生巨大變化。由于政府和很多公司都急于做到這一點，一些人對于人工智能和機器學(xué)習(xí)可能帶來的意外和故意傷害深感擔(dān)憂。

在2017年12月召開的網(wǎng)絡(luò)入侵防護系統(tǒng)（NIPS）機器學(xué)習(xí)會議上，一個重要的議題就是如何將技術(shù)控制在安全和倫理道德的范圍內(nèi)。研究人員發(fā)現(xiàn)，機器學(xué)習(xí)系統(tǒng)在接受數(shù)據(jù)訓(xùn)練時，可以挑選出令人討厭的或不必要的行為，比如性別歧視。目前，一些人正在研究可以用于審核人工智能系統(tǒng)內(nèi)部運作的技術(shù)，并確保它們在金融或醫(yī)療等行業(yè)工作時能做出公正決策。

2018年，科技公司將會提出一些想法——關(guān)于如何使人工智能保持在人性美好的一面。谷歌、Facebook、微軟和其他一些公司已經(jīng)開始討論這個問題，這些公司都是一家名為“人工智能合作”的新型非營利組織的成員，該組織將研究并試圖改變?nèi)斯ぶ悄艿纳鐣绊憽Ｒ粋€名為“人工智能道德與行業(yè)管理基金”的慈善項目用來資助麻省理工學(xué)院、哈佛大學(xué)和其他研究人工智能的機構(gòu)，以維護公眾利益。紐約大學(xué)一個新的研究機構(gòu)——AI Now也有類似的使命。在該機構(gòu)最近發(fā)布的一份報告中，呼吁各國政府在刑事司法或福利等領(lǐng)域應(yīng)堅決放棄使用不接受公眾審查的“黑箱”算法。