專家說(shuō)，即使友善機(jī)器人也會(huì)倒戈

從英國(guó)著名理論物理學(xué)家史蒂芬·霍金到特斯拉創(chuàng)始人伊隆·馬斯克等世界頂尖人工智能（AI）專家，都曾表示過(guò)AI對(duì)人類生存的威脅。

真有一天，人類會(huì)成為自己發(fā)明的機(jī)器人的受害者嗎？

加州大學(xué)伯克利分校的斯圖爾特·羅素教授是該領(lǐng)域的專家。

他在剛出版的《人類相容：人工智能與控制問(wèn)題》一書中指出，這種威脅并非來(lái)自機(jī)器人開(kāi)始有了自我意識(shí)，并起來(lái)反抗人類主人。

而是因?yàn)檫@些機(jī)器人能力變得超強(qiáng)，最后有可能是因?yàn)槿祟惖氖韬?，為機(jī)器人設(shè)置了錯(cuò)誤的目標(biāo)，讓他們無(wú)意中把我們都消滅了。

羅素教授表示，這才是我們應(yīng)該擔(dān)心的，而不是像好萊塢大片中所描繪的那樣，人工智能開(kāi)始有自主意識(shí)，并向人類倒戈，最后把我們都?xì)⒐狻?/p>

羅素教授強(qiáng)調(diào)：我們應(yīng)該擔(dān)憂的不是意識(shí)，而是它們的能力。

“超強(qiáng)能力”

羅素教授在接受采訪時(shí)表示，假設(shè)我們發(fā)明了一個(gè)可以用于控制氣候變化的強(qiáng)大人工智能系統(tǒng)，并且能將大氣中的二氧化碳水平恢復(fù)到工業(yè)革命前的水平。

該人工智能系統(tǒng)經(jīng)過(guò)分析后認(rèn)為，最容易的方式就是消滅人類，因?yàn)槿祟惢顒?dòng)是產(chǎn)生二氧化碳的最主要來(lái)源。

當(dāng)然人類可能會(huì)對(duì)機(jī)器人說(shuō)，你做什么都可以但就是不能把人類全滅絕。人工智能系統(tǒng)然后可能會(huì)說(shuō)服人類少生孩子，直到最后沒(méi)有人生孩子，人類慢慢滅絕為止。

這個(gè)例子是想強(qiáng)調(diào)與人工智能有關(guān)的風(fēng)險(xiǎn)，這些風(fēng)險(xiǎn)都是人類在創(chuàng)造人工智能前并沒(méi)有想明白的。

機(jī)器人對(duì)人類交給他們的任務(wù)越來(lái)越勝任

深藍(lán)的勝利是人工智能發(fā)展史上的一個(gè)重要時(shí)刻

羅素教授說(shuō)，人類需要收回控制權(quán)，否則就晚了

科幻片《2001：太空漫游》中，機(jī)器人電腦拒絕被關(guān)閉

超級(jí)智能

英國(guó)劍橋大學(xué)存在風(fēng)險(xiǎn)研究中心表示，當(dāng)前大多數(shù)AI系統(tǒng)都是相對(duì)“狹窄”的應(yīng)用程序，專門用于解決某一領(lǐng)域中的特定問(wèn)題。

但1997年，超級(jí)電腦深藍(lán)打敗了國(guó)際象棋世界衛(wèi)冕冠軍加里·卡斯帕羅夫，成為人工智能史上里程碑。

然而，雖然深藍(lán)擊敗了世界象棋衛(wèi)冕冠軍，但深藍(lán)卻可能連一場(chǎng)簡(jiǎn)單的跳棋游戲都贏不了。因?yàn)樯钏{(lán)的設(shè)計(jì)者是專門讓它下象棋的。

但這才僅僅是開(kāi)始，隨著人工智能的發(fā)展和進(jìn)步，阿爾法圍棋的最新版AlphaGo Zero在經(jīng)過(guò)短短3天跟自己練習(xí)之后，已經(jīng)達(dá)到了超人水平。

AlphaGo Zero通過(guò)深度學(xué)習(xí)，已經(jīng)不太需要太多的人工程序。它成為圍棋、國(guó)際象棋以及將棋（又稱日本將棋）的高手。

這里，最讓人感到震驚的是，AlphaGo Zero完全是自學(xué)成才。

劍橋大學(xué)存在風(fēng)險(xiǎn)研究中心表示，隨著人工智能逐漸強(qiáng)大，它可能會(huì)成為超級(jí)智能。它會(huì)在許多，或是幾乎所有領(lǐng)域都超越人類。

羅素教授說(shuō)，這就是為什么人類需要收回控制權(quán)。

如何收回控制權(quán)

羅素說(shuō)，賦予人工智能更明確的目標(biāo)并不是解決這一難題的方法，因?yàn)槿祟愖约憾紵o(wú)法確定這些目標(biāo)是什么。

羅素表示，人們應(yīng)該徹底改變建立人工智能系統(tǒng)的整體基礎(chǔ)，例如，不再給機(jī)器人一個(gè)固定目標(biāo)，而是讓人工智能系統(tǒng)必須明白，它不知道目標(biāo)是什么。

一旦人工智能系統(tǒng)以這種方式運(yùn)作的話，它就會(huì)聽(tīng)從于人類的指揮。在執(zhí)行任務(wù)之前，它會(huì)尋求人類的許可，因?yàn)樗淮_定這是不是你想要的。

羅素教授表示，最至關(guān)重要的是，它們（AI）會(huì)樂(lè)意接受被隨時(shí)關(guān)閉的選擇，因?yàn)樗鼈円蚕Ｍ苊庾瞿切┠悴幌矚g的事情。

神燈中的精靈

羅素說(shuō)，我們現(xiàn)在發(fā)明的AT系統(tǒng)有點(diǎn)像傳說(shuō)中的神燈中的精靈一樣，你輕拍神燈，燈里的精靈出來(lái)了。你對(duì)精靈說(shuō)：“你給我做這件事吧。”

“如果AI系統(tǒng)足夠強(qiáng)大，它就會(huì)完全按照你的要求去做，你也會(huì)得到你所要求的一模一樣的結(jié)果?！?/p>

但羅素表示，問(wèn)題是跟神燈中的精靈故事那樣，第三個(gè)愿望總是要求精靈“取消前面的那兩個(gè)愿望”，因?yàn)槲覀儫o(wú)法確定自己到底想要什么。

其結(jié)果就可能造成，那個(gè)試圖完成錯(cuò)誤指令的機(jī)器人實(shí)際上變成了人類的敵人，一個(gè)比我們強(qiáng)大得多的敵人。到那時(shí)，一切就太晚了。（摘自英國(guó)廣播公司新聞網(wǎng)）（編輯/華生）