沙恩?萊格

科幻小說中最永恒的威脅之一就是人工智能所帶來的恐懼：人們設想計算機總有一天會變得非常聰明，實際上會有自我意識……接著就試圖接管世界。

從HAL9000到天網，再到《機械姬》里的Ava，你看過這些以后若是對人類在宇宙中長久以來的地位感到隱隱不安，那也情有可原。但是，我們真的需要擔心什么嗎？還是那些只是駭人聽聞的傳聞？

從根本上說，人們擔憂的一大問題是，隨著人工智能不斷提升，我們終將迎來所謂的“奇點”——屆時人工智能將變得非常聰明，足以進行自我改進。

如果一臺機器能夠不斷創(chuàng)造出更完善的自己，那就仿佛在技術上脫韁失控：計算機很快會變得非常聰明，以至于我們不僅無法控制它們，我們弱小的生物大腦甚至也完全無法理解它們在做什么或者它們是如何做的。有點嚇人，不是嗎？

我們是否應該擔心人工智能失控呢？科技界的許多大佬就此發(fā)表了看法。

“我們可以想象，這種技術會擊敗金融市場，在發(fā)明創(chuàng)造上蓋過人類研究人員，在玩弄權術上勝過人類領導者，制造出我們甚至無法理解的武器，”物理學家斯蒂芬·霍金及其同事在英國《獨立報》上撰文稱，并進一步說道，“雖然人工智能帶來的短期影響取決于誰來控制它，但長期影響則取決于其是否可控?！?/p>

美國特斯拉公司首席執(zhí)行官、億萬富翁埃隆·馬斯克對人工智能失控可能引發(fā)的后果十分擔憂，于是付諸實際行動，向研究如何使人工智能安全的生命未來研究所捐資1000萬美元。

比爾·蓋茨也發(fā)表意見說：“我屬于對超級智能感到擔憂的那一派。一開始，機器能給我們干好多活兒，又不是太聰明。管理得當的話，這是件好事?？蓭资旰?，這種智能就會強大到令人擔憂。”

目前計算機到底有多聰明呢？

實際上，全球大多數最大的科技公司現(xiàn)在都在努力設計越來越聰明的機器。Google Now和Siri就已經融合了多種復雜技術，比如自然語言處理（聽懂我們在說什么）和語義文本識別（知道我們的文字到底是什么意思）。

最近有很多這樣的智能技術出現(xiàn)，其原因在于計算能力、云計算和存儲技術在持續(xù)快速提高，促進了模仿人腦內同一類連接的先進的“神經網絡”的發(fā)展?！吧窠浘W絡”將在任何“奇點”中發(fā)揮重要作用，因為教電腦學習就是在教它們進化。

人工智能最近的重大新聞是谷歌取得了又一個劃時代的成就：在復雜程度超過國際象棋很多倍的圍棋對弈中，AlphaGo擊敗了人類最優(yōu)秀的棋手。

那么我們該擔心嗎？或許沒必要。所有上面提到的著名人物有一個共同點：他們都不是人工智能領域真正的專家。如果你向專家發(fā)問，他們給出的意見會略有不同。

金史密斯學院從事認知計算研究的馬克·畢曉普教授并不認為在不遠的將來會出現(xiàn)人工智能“失控”的情況，并對此做出了解釋。

畢曉普教授深知人工智能的潛在危害，特別是“自主戰(zhàn)爭機器”的發(fā)明，比如會根據算法而非人類決定進行射擊的無人機。他擔心我們可能即將開始一場軍事機器人軍備競賽。去年，他聯(lián)名簽署了一封由生命未來研究所發(fā)布的警告這一危險的公開信。

但至于人工智能會不會完全統(tǒng)治地球，畢曉普教授倒是不那么擔心。他向techradar網站表示：“該公開信的一些支持者的說法有些脫離實際，比如斯蒂芬·霍金對‘奇點的擔憂，或是埃隆·馬斯克所設想的不到十年人類就會創(chuàng)造出一個人工智能惡魔。對于這些觀點，我保持懷疑?！?/p>

但這并不是說沒有潛在的問題?！拔耶斎徽J為武裝和部署致命性自主武器系統(tǒng)存在極為嚴峻的危險，或許關乎人類存亡?！碑厱云战淌谘a充道。

人工智能教授克斯騰·多騰哈恩也不相信我們正在走向人工智能主宰一切的世界末日?！拔也粨娜斯ぶ悄軙{到人類，或是統(tǒng)治世界，”她告訴我們，“人工智能20世紀50年代就出現(xiàn)了，而直到最近才有了重大的發(fā)展，出現(xiàn)了更好、更快的計算機和計算設備?！?/p>

多騰哈恩教授指出，這些進步目前局限于“特定領域”。換句話說，盡管過去70多年來計算機技術取得了巨大進步，但驅動Siri的人工智能還是不能驅動武器系統(tǒng)，而這兩項工作人類大腦都能勝任。這表明計算機代碼的智能程度受限——如果計算機的學習受限，“奇點”就不會出現(xiàn)。

“即便有一套具備學習和適應能力的系統(tǒng)，其能力范圍也是由編寫代碼和構建系統(tǒng)的程序員或研究人員劃定的，”多騰哈恩教授解釋說，“沒有任何科學證據表明人工智能遲早會威脅到人類?！?/p>

多騰哈恩教授說，更大的威脅來自我們這些討厭的人類。“人類不負責任地使用人工智能——這才是真正的威脅。使用新技術的方式總是有好有壞，如何使用人工智能，其決定權在人類手中。”

因此，“奇點”可能不會徹底毀滅人類，但人工智能的發(fā)展仍然可能非常危險。

不可能完成的挑戰(zhàn)

多騰哈恩教授還認為，人工智能要在生活的方方面面取代人類并最終掌管一切，還面臨另一重限制因素：互動。人類顯然是極好的交流者，而讓機器完全理解人類互動的確是異常困難。

“我們同計算機和機器人進行的互動往往是受人與人之間互動的啟發(fā)，”她解釋道，“這么說理由很充分：美國和其他國家的研究清楚顯示，人類傾向于采取像對待人一樣的社交方式來對待包括機器人和計算機在內的交互式系統(tǒng)?！?/p>

換言之，我們希望機器人更像我們自己。多騰哈恩教授說，這就是為什么語音和手勢識別成為那么多研究的焦點，但是這種技術的發(fā)展仍然嚴重不足。她指出：“我們還沒有一套系統(tǒng)可以就我們選擇的任一話題在噪音環(huán)境下，像人一樣自然流暢地進行語音交流?！?p>

智能計算機WAtson（中）在參加問答比賽

與此同時，畢曉普教授似乎指出了一個更為根本的問題：支撐我們理解人工智能的復雜的哲學論點。他認為這終將歸結為計算機無法完成的三項主要任務：模仿人的意識，真正像我們一樣去“理解”，表現(xiàn)出“真正的數學洞察力或創(chuàng)造性”。所以，雖然機器人有可能在電視問答競賽中獲勝，就像2011年IBM公司的智能計算機Watson那樣，但如果畢曉普教授說的沒錯，我們就不能指望機器人開始創(chuàng)作交響曲或執(zhí)導戲劇。

簡而言之，人類總會在某個方面勝過計算機，或者就像畢曉普教授用更具哲學性的語言所說的那樣：“在我看來，正是由于這些缺陷，機器人這樣的計算系統(tǒng)永遠無法自主實施有目的性的操作，而只能作為一種工具按照主人或設計者的命令行動。這樣的系統(tǒng)不能故意違抗命令，就像牛頓的蘋果不能故意抗拒地心引力而不落到地面一樣?！?/p>

我們應該擔心嗎？

那么機器人或人工智能會取代我們嗎？看看眼下計算機已經承擔的工作，某種程度上這種取代已經發(fā)生了。計算機正開著我們的車，挑選我們要讀的新聞，回答我們提出的問題。

但是我們大家擔心的并不是這樣的人工智能。按照業(yè)內專家的說法，我們不必擔心機器人會統(tǒng)治世界。盡管神經網絡已變得日益智能，但似乎仍有根本性的障礙阻止“奇點”的出現(xiàn)。

這對我們來說是個好消息。

這并不意味著我們不必承擔責任，但至少對于人工智能會不會造成危害，這或許取決于人類，而非某個算法。