邁克斯·泰格馬克（Max Tegmark）

在世界的某個角落，歐米茄小組研制出了人工智能“普羅米修斯”。它一開始通過租用亞馬遜云計算，在亞馬遜Mechanical Turk（MTurk）上提供智能服務，賺取了第一桶金。MTurk是亞馬遜提供的一個互聯(lián)網(wǎng)眾包服務市場，是亞馬遜網(wǎng)絡服務的一個組成部分。普羅米修斯的智能水平按小時計，遞歸增長，最終它創(chuàng)建了商業(yè)、媒體帝國?？膳碌氖牵霸姜z”了，最終控制了一切。

這個故事的敘述真假交織，情節(jié)生動，讀來不由暗自心驚。故事背后，是作者對人工智能深度的思考和人類命運的憂思。這本書的作者就是麻省理工學院的天體物理學教授邁克斯·泰格馬克。今年8月底他的中文版新書《生命3.0：人工智能時代，人類的進化與重生》面市。適逢世界人工智能大會在滬召開，借此契機《中歐商業(yè)評論》專訪了泰格馬克教授，請他談談對人工智能的思考。

先讓“風險”成為主流話題

《中歐商業(yè)評論》（以下簡稱CBR）：你是如何定義智能的？能否談一談關(guān)于生命 3.0的提法，是什么啟發(fā)了你？

泰格馬克：很簡單，智能就是完成任務的能力。能完成越復雜的任務，就越智能。從這個意義上說，即使是便攜式計算器也有一點點智能，它可以完成的任務就是不斷做加減乘除等運算。

今天我們所說的人工智能指的是非生物的智能。現(xiàn)在人工智能在某些狹義領(lǐng)域超越了人類，但只能完成某些局限性任務，比如乘法運算更快，下圍棋能贏過人類棋手等。而目前廣義人工智能甚至抵不上兒童。一個小孩只要勤于訓練，可以擅長做幾乎任何事情，這才是我們真正想要的智能。讓智能不像今天這樣狹義，達到更通用的程度，是激發(fā)我寫這本書的靈感來源。

長期以來人類在智能方面取得的成就甚微，所以并不擔心人工智能研制成功之后帶來的一系列后果。但如果有朝一日我們真正制造出一種做任何事都比人類更勝任的機器，就要自問：人類該扮演什么角色？這個思考啟發(fā)了我寫這本書。

縱觀生命和智能之間的關(guān)系，經(jīng)歷了幾個階段。早期的生命，比如說細菌，我稱之為生命1.0。這些生命終其一生不能學習任何新知。以大腸桿菌為例，把它放進水里，它有一個傳感器可以感應水里的糖分，會朝糖分更多的地方游去，它僅有的一點點智能都編碼在基因當中了。大腸桿菌學習新知的唯一方式就是通過一代又一代不斷的物種進化。相比之下，我將人類稱為生命2.0。因為我們確實有學習的能力，因此成了主導地球的生物。生命3.0則不僅能替換人類的軟件，還可以替換硬件。當然，生命3.0現(xiàn)在還不存在，但人類已經(jīng)可以制造出人造膝蓋、人造心臟起搏器、人造植入耳蝸，現(xiàn)在還有很多人把自己和智能手機連接起來，讓智能手機成為自己的一部分。

CBR：你的書里杜撰了逃出來的普羅米修斯。希臘神話里的普羅米修斯我們都知道，你給超級人工智能起這個名字，是有什么考量嗎？

泰格馬克：從書上普羅米修斯的故事中，我們知道，如果科技的力量比我們掌握技術(shù)的智慧更快，結(jié)果會非常糟糕。我們必須確保我們掌控科技的智慧至少要和人工智能的能力相當。過去我們總是吃一塹才長一智，失敗了很多次才會取火，出了很多事故才發(fā)明安全帶和交通信號燈。事實上，事后學習是一種非常糟糕的策略，我們可不想從核武器的失敗中學習經(jīng)驗教訓。同樣的道理，如果我們研發(fā)非常強大的人工智能，就應該更加主動，提前計劃安排，在第一次就要成功。

這也是我認為中國可以為世界作出獨特貢獻的一方面。這有兩個原因，一個是中國在技術(shù)方面的優(yōu)勢結(jié)合長遠規(guī)劃方面的獨特智慧，很有價值。中國有一個優(yōu)良傳統(tǒng)，那就是長期思考、長遠規(guī)劃，這一點比很多西方國家更強。另一個則是求同存異的雙贏智慧。

CBR：你們基于什么考量創(chuàng)建了未來生命研究所？

泰格馬克：我們大多數(shù)都是科學家、技術(shù)專家。我們決定共同協(xié)作，正是為了去發(fā)揚雙贏的智慧，確保技術(shù)是在幫助而不是傷害人類。在埃隆·馬斯克的幫助下，我們捐獻了大約900萬美元研究基金給全世界的科研人員，致力于讓人工智能更加安全，處理好人工智能和人類工作的關(guān)系，讓所有人生活更美好。

對我而言，這是一個非常有益的經(jīng)驗，我們已經(jīng)取得了一些成效。剛開始，每當有人說到人工智能有風險，所有人都會批判他，因為這么說聽起來很傻，就像好萊塢電影里的終結(jié)者，大家會覺得很荒謬。而現(xiàn)在人工智能風險的話題已成了主流，我們的第一個目標，就是讓這個話題變成主流話題。

如果你細想的話，這也是自然而然的事情。其他領(lǐng)域，比如工程學領(lǐng)域，沒有任何一個國家的政府會在無法保證核反應堆安全性的情況下資助一個核反應堆。土木工程領(lǐng)域，你要建造橋梁，橋梁的安全性也是你必須要考量的。我們現(xiàn)在就要思考所有失敗和失誤的可能性，確保人工智能朝好的方向發(fā)展。如果你折一個紙飛機，失敗了還可以彌補，但一些大的工程可是失敗不起的。

CBR：這本書里還提到2017年未來生命研究所的一個調(diào)查，絕大部分科學家相信，超級人工智能將會在2047年之前出現(xiàn)。你覺得呢？

泰格馬克：嚴格地說，并不是絕大多數(shù)科學家。關(guān)于這個問題有很多不同觀點。有一些科學家說絕不可能，幾百年之間都不會出現(xiàn)。但也有一些科學家認為在那個時間段會出現(xiàn)。要我說，結(jié)論就是：我們無法肯定，但必須現(xiàn)在就開始謀劃，臨時抱佛腳是不行的。就以網(wǎng)絡安全為例，網(wǎng)絡攻擊屢屢發(fā)生，因為我們創(chuàng)造發(fā)明互聯(lián)網(wǎng)的時候，那只是一個游戲，就像玩具一樣，對人類的生活沒什么大的影響。但現(xiàn)在互聯(lián)網(wǎng)技術(shù)開始控制電網(wǎng)、控制我們的資金交易，還控制我們的醫(yī)療記錄等，我們才發(fā)現(xiàn)，糟糕，本應該周全考慮，最開始就應該植入一些網(wǎng)絡安全的東西?，F(xiàn)在我們將人工智能用于更多基礎(chǔ)設施，讓人工智能幫助我們決策。這些都需要做好防范，提前預謀，將今天的那些漏洞軟件轉(zhuǎn)化升級成安全穩(wěn)固、值得信賴的系統(tǒng)。

不僅要創(chuàng)造生命3.0，還要創(chuàng)造財富3.0

CBR：如何看待人工智能在取代人類工作方面的問題？

泰格馬克：建議孩子們進入那些計算機還不太擅長的行業(yè)，而且要將來一段時間計算機都不太擅長的才行。應該避免進入那些重復性、結(jié)構(gòu)性的工作，那些需要創(chuàng)造性或者必須要即時反應的工作則是比較好的。還有一類工作，即便有了人工智能代替，人們?nèi)詴Ｍo人工更高的價格。比如心理學家、按摩師等。但不管你選擇了什么工作，都應該利用技術(shù)去完成這份工作，而不是抗拒技術(shù)。舉個例子，你想當一名醫(yī)生，但不建議成為放射科醫(yī)生，因為看磁共振圖像然后出診斷結(jié)果這種工作很快就會被人工智能所代替。相反，你要成為拿著人工智能檢測報告和患者討論治療計劃的那種醫(yī)生。如果你對法律感興趣，不要成為低級的律師助理，閱讀卷宗的工作會被人工智能代替，你要努力成為那個拿到最終分析結(jié)果并出庭辯論的律師。不管入哪一行，必須要知道人工智能如何影響這一行業(yè)，要讓自己比同事更會利用人工智能。

CBR：取代人類工作的人工智能有可能引發(fā)風險，比如自動駕駛技術(shù)。我們的社會是否已經(jīng)為此做好了準備？

泰格馬克：這是一個非常棘手的問題，我覺得當今時代的司法系統(tǒng)已經(jīng)非常陳舊過時，需要更新。如你所問，萬一事故發(fā)生了之后由誰來負責？這個問題的最佳答案不是來自人工智能工程師，而是來自法律學者。有一個很有趣的觀點：自動駕駛汽車本身就可以有汽車保險，因為那些自動駕駛技術(shù)很差的汽車，保險公司就會要求它支付巨額保費，然后人們就不會買那種車。這方面的立法非常重要，要讓警方更好地判別誰來負責。比如有個人他有一輛自動駕駛汽車，如果程序自動設計它駛?cè)肴诵胁降?，里面放一個炸彈進行恐怖襲擊的話，必須要能夠確認誰來對此負責，而現(xiàn)行法律還不夠完善。再比如人們會接到一些電話，聽起來很像認識的人在推銷東西，但其實聲音來自機器，那么是不是應該有相關(guān)法律禁止機器在沒有任何警告的情況下模仿人的聲音，否則別人可以錄制一段視頻，播放的是你從未真正說過的話。

CBR：這本書的副標題是“人工智能時代，人類的進化與重生”，這里的“人類”應該怎么理解？而未來人工智能是否也可以視為某種“生命”？

泰格馬克：我并不想去定義生命應該如何，我只是提出一個問題，讓讀者問問自己，作為人類意味著什么，或者如何做人，因為人工智能將對我們的生活產(chǎn)生巨大影響。

當初工業(yè)革命極大地改變了我們的生活。每當我們弄清人體某些運動原理，就會創(chuàng)造出一種機器更好地完成這項工作。比如當我們更加了解肌肉的工作原理時，就能創(chuàng)造出更加強大、更加快速的機器。假如將來我們創(chuàng)造出的機器比人類大腦更管用，還剩下什么工作可以給人類做呢？這是一個非常重要的問題，我希望引起讀者思考。

人工智能的發(fā)展不會停止，原因有二：第一，科學家們都有好奇心，總是希望弄清楚一個事物的工作原理；第二，經(jīng)濟學上，如果我們能夠提高機器的工作效率，會讓公司獲得更多利潤，公司自然會做。另外，人工智能發(fā)展也不見得是一件壞事，因為理論上機器可以創(chuàng)造出我們?nèi)祟愃璧乃猩唐泛头?，我們就可以一直度假玩樂，這樣也很不錯，對吧？

但問題在于，這不會自動發(fā)生。如果政府無所作為，那些擁有機器的人就會享盡財富，其他人一無所有，這樣一來，社會就將變得很不平等。目前西方社會大多數(shù)人都變得越來越窮，窮人變得非常憤怒，哪個政客承諾要改變現(xiàn)狀，他們就投票給哪個政客，因為他們絕望透頂，別無選擇，即便是這些政客的許諾根本無濟于事。因此我們現(xiàn)在看到西方社會越來越極端、越來越分裂。我非常希望中國在這方面做得更好，因為中國的建國根基就在于幫助所有的人。問題的關(guān)鍵在于，不僅僅要創(chuàng)造生命3.0，還要創(chuàng)造財富3.0。政府征收了足夠的稅收，就可以讓老百姓共享繁榮。

如果人工智能成功創(chuàng)造出巨大財富，那么我希望政府能真正用好財政稅收，設置一些有意義的崗位，因為工作真正的意義不僅僅是賺錢，還要有意義和目標。中國在這方面可以樹立榜樣，確?？萍歼M步帶來的財富增長讓大家共同富裕。

我們還有巨大的潛能

CBR：你覺得人類有一些人工智能無法實現(xiàn)的能力嗎？比如說創(chuàng)造力，比如同情心？

泰格馬克：很多人認為，智慧是一種很神秘的東西，只能存在于像人類這樣生理性的大腦當中。但我個人認為，智慧其實就是信息處理。沒有任何物理學定律規(guī)定，那種超高級的信息處理能力，比如可以產(chǎn)生創(chuàng)造力和同情心的能力，只能出現(xiàn)在生理學器官當中，換言之，只有碳原子才能實現(xiàn)。硅元素是否也可能實現(xiàn)呢？這是有可能的。

當人類創(chuàng)造出和人類同級別的智慧，那就像生了一個孩子。我們有巨大責任，不僅要讓它們功能強大，還要讓它們有道德。這涉及價值觀的一致性。家長教育孩子是一件挺難的事情，要教育機器懂倫理道德、明辨是非就更難了。

我們目前在價值觀一致方面做得很糟糕。有一個德國飛行員患了抑郁癥，他讓一架客機撞上了阿爾卑斯山，導致機上一百多人死亡。飛機的電腦上有阿爾卑斯山脈的地圖和衛(wèi)星定位系統(tǒng)等，飛行員讓電腦將飛行高度降低到一百米，電腦說，沒問題，因為電腦對人類價值觀沒有任何概念。事實上要避免撞擊原本很簡單，如果電腦發(fā)現(xiàn)飛行員的指令違背道德，可以從人工控制切換到自動駕駛模式，最后再安全著陸。最近還有很多駕車自殺式恐怖襲擊，應該把防止撞人的功能編到軟件程序中，這是很容易做到的技術(shù)解決方案。

因此，我們應該關(guān)心的不是人工智能會不會有同情心，而是我們?nèi)绾螢槿斯ぶ悄芗尤脒m當?shù)耐樾?。隨著人工智能變得更加高級，我們再加入更高級的同情心。我們不能讓追求完美成為進步的絆腳石，可以從簡單開始，但現(xiàn)在連最起碼的都沒有做。

CBR：你是怎么看待人類意識的？

泰格馬克：我覺得人類意識可能是最美妙的事情之一。如果沒有意識，那世界便沒有美好可言、沒有道德可言、沒有目的和意義可言。我的專業(yè)背景是物理學，沒有任何一條物理學定律是關(guān)于美好、目的或意義的。然而當我用天文望遠鏡觀察銀河系的時候，卻發(fā)現(xiàn)銀河是如此美麗，因為我們?nèi)祟惔竽X會有意識地去感受這種美麗。

有一些哲學家說，意識其實都是扯淡。我就會問他們，那么你說酷刑有什么好怕？酷刑之所以不好，是因為創(chuàng)造了一種消極的主觀體驗。那些說意識是扯淡的人，我會邀請他在不麻醉的情況下接受手術(shù)。他們接受手術(shù)之后還是會生存下來，沒有問題，但是沒有人希望有這種負面的主觀感受。

智慧和意識就是某種信息的處理過程。只是目前科學家還未研究出來到底是什么樣的信息處理過程導致了意識產(chǎn)生，而我們就應該對此展開研究。首先這對醫(yī)療就很有幫助，這樣可以確切知道患者到底是昏迷還是閉鎖綜合征。其次，或許我們可以創(chuàng)造出不同種類的機器人，一部分有意識，一部分無意識。無意識的機器人去做無聊的工作，這樣我們就沒有負罪感；有意識的機器人可以做人類的伙伴。這是一個非常有趣的科學問題，而人工智能領(lǐng)域的進步又讓這一問題亟待研究。因為意識和智慧不可混為一談，你可以智力很高卻沒有意識。

CBR：《星際穿越》里布倫特博士說的那句詩“不要溫和地走入那個良夜”令人印象深刻，面對死亡的態(tài)度最能體現(xiàn)出一個人的智慧高低。人類對待自己的終極命運應該持一個什么樣的態(tài)度？

泰格馬克：那其實是英國詩人狄蘭·托馬斯的詩句。對待人類的終極命運，我覺得應該志存高遠。

很多人說放棄吧，人肯定比不過機器的。人類被新事物所取代，但并不意味著新事物就一定更好。我們創(chuàng)造人工智能的時候，其實有很大的自由度。但如何才能創(chuàng)造一種可被賦予價值取向的人工智能？我們應該好好利用這份自由度去塑造一個真正美好、激動人心的未來。如果我們這一點做得好，未來會非常美好，令人向往。

目前我們注意力都局限在地球上，志向不夠高遠，只看到了短暫的幾年。我在這本書里談到了接下來的幾百萬年，如果利用好了人工智能技術(shù)，生命可能不僅會繁榮幾百年，而是幾百萬年；不僅地球更加繁榮，甚至整個宇宙都更加繁榮。因此我對這個問題的回答是，我們不要去限制自己，也不一定要待在地球上，這只是宇宙生命的一個開端，我們還有巨大潛能，讓我們創(chuàng)造一個無限美麗、激動人心的未來。

如果我們能正確對待人工智能技術(shù)，人工智能就可以賦予我們力量做好這一切。智慧不邪惡，智慧也不善良，它只是工具，因此我們要將智慧這一工具用來做好事。我之所以這么熱愛文明，那是因為文明是智慧的結(jié)晶。我們現(xiàn)在還不能說晚安，因為現(xiàn)在不是夜晚，現(xiàn)在還是宇宙生命的早晨。感恩我們即將迎來美好的一天。