賀欣曄

（遼寧大學 文學院，遼寧 沈陽 110036）

科幻文學中人工智能與人類智能的關系

賀欣曄

（遼寧大學 文學院，遼寧 沈陽 110036）

隨著現(xiàn)代社會中人工智能科技的飛速發(fā)展，人們對人工智能與人類智能之間的關系產生了諸多新的思考。面對這樣一個問題重重的新興科學需要及時進行跨學科研究反思，以從不同視域范圍更加全面地掌握對于人工智能理解的廣度和深度。從科幻文學角度分析人工智能與人類智能并對兩者關系進行歸類，通過智能層面的對比發(fā)展前景、倫理道德層面的立場較量以及追求自由發(fā)展方面的綜合思考推論?？苹梦膶W中有關人工智能與人類智能的描述大致可分三種關系類型，即人工智能無法達到、基本接近以及大幅超越人類智能的基本認知。兩者不斷變換的關系發(fā)展中蘊含科幻文學對于人工智能描寫的發(fā)展方向。

人工智能；人類智能；倫理道德；人類自由

人工智能通常是指人類通過計算機研究、開發(fā)用于模擬、延伸和擴展人的智能的理論和應用等，在科幻文學中一般指具有擬人性質的智能機器人。按照戴維·多伊奇的觀點，人工智能是具有人類心智屬性的計算機程序，它具有智能、意識、自由意志、情感等，但它是運行在硬件上，而不是運行在人腦中的［1］。在馬克思主義哲學看來，人工智能就是人類智能在實踐中分化的產物，幫助、代替人類執(zhí)行、完成智力或體力的勞動工作。

隨著現(xiàn)代社會的科技發(fā)展，人工智能前進的腳步也是日新月異。在科幻文學中，人工智能已經大大超越現(xiàn)階段科技可實現(xiàn)的能力，批量匹配人工智能的機器人逐漸成為一種與人類或和平共處、或反目為敵的“異質力量”。在此發(fā)展前提下，科幻文學作為包含“尚未意識”的文學，預先估計尚未發(fā)生的事情恰是其具有獨特前瞻性意識的表現(xiàn)，因此，科幻文學對于人工智能的態(tài)度和選擇也可看作是具有極大可能性的未來社會發(fā)展方向。被譽為“20世紀世界三大科幻作家”的阿西莫夫曾經發(fā)問：未來的科技社會是否為唯智主義的冷漠世界？那么未來的世界是人工智能的世界嗎？對此，我們應考慮人類智能在未來世界中將起到什么作用，人工智能與人類智能關系將會發(fā)生怎么的變化。本文從智能發(fā)展、倫理道德和生命自由三方面對科幻作品中人工智能與人類智能的關系進行分析。

一、人工智能與人類智能

人工智能（Artificial Intelligence）簡稱AI，其興起的標志通常認為是阿蘭·圖靈（Alan Turing）1950年發(fā)表的《計算機器與智能》（Computing Machinery and Intelligence）。這位計算機學家首創(chuàng)了“圖靈測試”以區(qū)分人與智能機器的思維［2］。從馬克思主義實踐論的觀點來看，這是人類自身科學技術實踐發(fā)展到一定程度的分化產物。弗里曼·戴森在《科學的進化》中說過，宇宙的進化和科學的進化，都可以用生命進化的語言加以描述。在現(xiàn)代科技飛速發(fā)展的進程中，人類智能創(chuàng)造性地將自身的一部分智能編制程序輸入到人工智能中，從而實現(xiàn)了人類智能的部分外化?？苹梦膶W中對于人工智能的態(tài)度大致延續(xù)哲學上對于人工智能的態(tài)度分成三類。

（一）人工智能工具論：人工智能只是人類智能延伸的工具，并無自主意識

工具論觀點認為，人類智能屬于實踐主體范疇，具有創(chuàng)造性、獨立思考和分析能力，能夠不斷創(chuàng)新、突破、否定自我、再超越自我，在這個自我完善和進步的過程中，完全取決于人類智能這一自主性的存在［3］。而人工智能僅僅是人類智能身為一種主體形式在客體上的客體化實踐，即使人類在編程中給予了它一定范圍內的創(chuàng)新能力和自我調整限度。它依舊是在模仿人類主體的創(chuàng)新，而非創(chuàng)造性地模仿，更無法進行創(chuàng)造性地創(chuàng)新。因此，人工智能永遠要低于人類智能的創(chuàng)造程度，并時刻受到人類智能制約。在科幻作品中持工具論觀點的作家大多把自己作品中的宇宙世界架構成絕對以人類為主、人工智能為輔的后現(xiàn)代主義工業(yè)社會模式，即對于現(xiàn)代工業(yè)及科技社會的近未來仿造。如好萊塢科幻電影《第五元素》中的未來城市，是在模仿現(xiàn)代紐約城市經典建筑的基礎上，加入了嚴格受到人類智能控制的人工智能產品以服務于社會。在這種宇宙景觀和社會發(fā)展架構中，談論的主題永遠是人類，關注的重點通常也是人類在未來環(huán)境中的獨特生存體驗、情感體驗和審美體驗，并不涉及人工智能對于人類社會的影響之類，因此，人工智能被視為發(fā)展到一定科技水平即會暫時停止前進的工具，有待人類進一步研究自身心智后再行開發(fā)。在這種觀點下，人工智能與人類智能的關系處于穩(wěn)定且共同向前發(fā)展的階段，人工智能既是人類智能的輔助工具，也是朋友式的協(xié)助者。

（二）人工智能進化論：人工智能加速發(fā)展，終將戰(zhàn)勝人類智能，具有自主思維和判斷

此類觀點與上述工具論觀點恰持相反意見，堅定認為人工智能會超越人類智能，在未來的日子，人工智能不光具有獨立思考、創(chuàng)新的能力，還能終有一天發(fā)展出類似人類心智情感的機器心智，并占領地球以及大部分已開發(fā)的宇宙空間。因為有科學家提出假設，我們可以設想大腦是由許多不同的“資源”所組成的，我們每一個主要的“情感狀態(tài)”都是打開了一些特定的資源，同時關閉其他一些資源，以此改變大腦運轉方式的結果［4］。為人工智能進行編程時，可以通過具體的資源控制實現(xiàn)模擬式的大腦情感反應效果，這樣機器會產生類似的心智。同時，因人類按照宇宙的物理和數學規(guī)律對人工智能進行程序運算，在這種規(guī)律中機器會在自身被設定范圍內無限次試驗、調整、完善自身，并終將通過更改相符條件和限制，發(fā)展出一套并非人類智能限定的機器規(guī)則并迅速實施。在此過程中，機器也可能會產生有別于人類智能所體現(xiàn)出的獨特情感反應等，創(chuàng)造出獨立于人類控制的機器“類情感”反應機制，并因其執(zhí)行的規(guī)律性和程序性迅速取代人類，成為世界的主宰。以這類超級人工智能為設定背景的科幻作品較多，如電影《黑客帝國》，這類作品沒有詳細解釋為什么人工智能可以擁有人類智能的一切優(yōu)點，甚至遠超人類智能，而僅僅是在設定的框架下探討人工智能與人類智能的矛盾和沖突、人工智能掌控的社會人與機器的倫理道德觀念等問題。此觀點與達爾文的進化論觀點相似，同樣支持機器在編程的規(guī)定下能夠進化出不依賴人類的全新主體。

（三）人工智能接近論：人工智能會無限接近人類智能，但是永遠無法達到人類的程度

接近論是一種比較新穎的理論，同時是持上述兩方的中間態(tài)度的理論。其主要觀點將上述兩類觀點概括起來進行中和，即人工智能在創(chuàng)造之初當然是人類主體的一種工具化外延。但是隨著科學技術的快速發(fā)展，尤其是人類對于主體自身大腦和反應機制的研究加深，會同樣賦予人工智能更多的思考和實踐能力，同時也可能將人類情感反應數據化，安置于人工智能之中。這時的人工智能已不單是幫助人類進行勞動的客體，它會部分具備人類智能的心智特點和獨立思考判斷能力。然后，人工智能會在程序范圍內進行迅速的升級、調整，從而具有更多獨立自主能力，也許在其他人類不了解的領域超越人類智能主體。這種設想下的人工智能無限接近當時的人類已開發(fā)的自身智能，但是由于畢竟受到人類智能的部分控制，還是無法達到人類的程度，但是在其他方面會具有獨特能力超越人類或將人類遠遠甩在身后。

在當代的科幻作品中，接近論變成了一種更加時髦的背景框架理論，因為其提供了更加復雜的人機關系以及各種社會道德的沖突等。人類本身具有主體意向性和選擇不確定性，由于情感、邏輯等原因導致選擇非最佳項。例如，賭氣、判斷不明、對某一選擇有情感傾向。這是人類本質的特性。“……心智的關鍵在于語義而非句法。其次，任何其他事物，倘若要獲得心智，就必須具備與人腦相同的因果力?！保?］根據塞爾的邏輯理論，人腦產生心靈的思索和感情，而人對于人類智能的了解和開發(fā)僅僅處于初級的認知階段，尚未涉及到心智以及感情，對于每一部分大腦的作用和功能還沒有完全認識明白。人類開發(fā)出的人工智能必然是以人腦為基礎，人腦尚未了解，施加于人工智能上必然受到智能限制，因而此時的人工智能絕對無法超越人類智能所了解的部分。隨著科技的進一步發(fā)展，人類對大腦的邏輯機制和感情機制研究出更多成果時，其相應的人工智能也會隨之提高，盡管在模仿人腦上總是無限接近但是永遠不可能達到其水準（因為人類無法創(chuàng)造出高于人腦本身智能的產物），但是人工智能中的程序也許會在規(guī)則范圍允許下衍生出自我獨立于人腦的思維程序模式，并通過大規(guī)模計算和演變后形成與人腦迥然不同的規(guī)則和智能，也許在遙遠未來的某一天，人工智能會從數字信息程序角度超過發(fā)明了它們的人類，實行新的社會規(guī)則和運算制度，在一定程度上實現(xiàn)人工智能自身的自由甚至控制發(fā)明了它們的人類。

二、人工智能與人類倫理道德

人類獨有的文化產生了倫理道德觀，雖然在不同歷史和國家社會中有背景上和發(fā)展方面的差異，但是身為人類，其倫理觀念有共性，例如以血緣關系或養(yǎng)育關系為基礎的家庭倫理、以社會交往關系構成的公共道德倫理等。在科幻文學作品中討論的人類倫理大致分三類：環(huán)境倫理、生命倫理和人工智能倫理。對于人工智能的倫理道德研究，其焦點聚集在一定情境中人工智能是否應該具有類似人的倫理道德以及在科技幫助下能否發(fā)展出這種自主道德決策能力、是否可以獨立或在人工智能群體內進行自我思考以及是否可以作為道德主體參與人類生產生活等［6］。科幻文學中持有的觀點有兩大類。

（一）人工智能無倫理道德論

此觀點堅持認為，在人工智能永遠無法達到人類智能的前提下，前者無論如何都不可能擁有倫理道德觀念，后者的倫理道德觀僅為人類社會所獨有。因為倫理道德是人類在長久的社會發(fā)展中形成的從道德、倫理、情感等精神方面的自律與他律，是人類在自身進化過程中專門用于處理與他人之間的關系以及在自己與他人組成的社會結構中關系的反應體系，這種體系復雜而繁瑣，包含人類智能和情感的所有方面，不是光擁有了智能就能做出相應的分析和判斷。例如，在科幻文學中，即使出現(xiàn)了一頭成噸重的大象坐在蹺蹺板上的事情，人類智能也首先會從現(xiàn)實認知角度否定出現(xiàn)這類場景的可能性，然后再考慮科學角度論證這個事實，最后還會思考這是否是他人故意為之，是否有著某種倫理道德情感上暗示（諷刺、隱喻等）的可能性；而人工智能卻僅從科學計算的層面進行分析，一旦符合，即認定大象坐在蹺蹺板上符合認知結論，卻從不會考慮其在現(xiàn)實中根本不可能出現(xiàn)的事實。這是因為人類智能尚未了解自身的大腦做出這種理性判斷的過程和依據，更不用說將這個判斷性反應通過數學邏輯的程序設定安排給人工智能了。若真有某位研究者打算將這世界上全部的倫理道德認知輸入進人工智能的數據庫中，那可是一項天文數字般龐大的工程，各種各樣的道德判斷依據數不勝數，更遑論在這過程中產生的新的倫理認知以及不同國家和地區(qū)的人類對于同一事物的不同倫理道德標準可能會造成人工智能無法做出選擇判斷而因此短路，所以這辦法并不可行。

科幻文學中著名的阿西莫夫機器人三大定律就是此類觀點的典型例證，它其實是預先從倫理道德的角度限制人工智能的程序邏輯發(fā)展，即在人工智能完全依靠人類智能發(fā)展并永遠無法達到人類智能的前提下，通過程序規(guī)定人工智能從屬于人類智能的倫理規(guī)范①機器人的三大法則，第一法則：機器人不得傷害人類，或坐視人類受到傷害；第二法則：除非違背第一法則，機器人必須服從人類的命令；第三法則：在不違背第一及第二法則下，機器人必須保護自己。。在僅有的三條規(guī)則下，機器人自身沒有推斷倫理道德的能力，僅能從這三條簡單的條款中搜索邏輯依據，得出簡單的結論，并無自我的倫理道德分析。

在機器人倫理研究進路上，人們通常有兩種路線，其一是自上而下的研究進路，這種人工智能無倫理論從人類自身出發(fā)延展至人工智能的進路，而從人工智能的角度出發(fā)，充分考慮到人工智能本身所呈現(xiàn)出的特點以及科技發(fā)展的界限后認為人工智能終將擁有人類倫理，則是自下而上［6］。從人工智能逆推回人類智能，即是下面的第二種觀點。

（二）人工智能終能擁有人類倫理道德

越來越多的科幻文學作家持有此類觀點，認為終有一天，人工智能將完整擁有人類倫理道德或者與人類倫理道德類似的人工智能倫理道德，它們具有人類倫理道德的特點，但卻與人類并不一致，由人工智能依據自身擁有的邏輯思維計算推導而出，具有機器自身群體特點，是人工智能自己的倫理道德標準。這種倫理道德需要依靠科技發(fā)展下的人工智能進化論，使人工智能具有足夠的智能計算數據，然后純粹由具有足夠智能的人工機器自我推演而產生，不受人類智能倫理的束縛，具有獨立性和自我發(fā)展。著名倫理學家辛格（Peter Singer）的“動物解放”（Animal Liberation）即認為“智能與精神要素不必囿于人類和其他自然物種”［7］。只要某一（自然或人工）物種達到了足夠進行倫理實踐的發(fā)展程度，人類即應當承認這種挑戰(zhàn)人類自有倫理道德形式的嶄新標準，并且需要站在超越人類自身狹隘的立場上面對這一全新挑戰(zhàn)。這樣具有獨特倫理道德的人工智能稱為人工技術道德行為體（AMAs）［8］。在科幻文學中發(fā)展越來越完善的AMAs日益呈現(xiàn)出高度的“自主權”和“感知性”［8］。例如，劉慈欣的著作《三體》中AMA“智子”擁有與創(chuàng)造她的三體星人相似的倫理思維，同時卻又學習了人類倫理的表現(xiàn)形式，但是因為三體星人的思想是互通的，毫無秘密可言，對于人類的大腦無法直接進行溝通這個事實，“智子”與人類就相差甚遠了。正因為人類的大腦思維不能直接表現(xiàn)出來，人類真正的想法和欺騙性語言表達不一致即是人類特有的一種倫理道德表現(xiàn)形式，智子雖然知曉這個問題，卻并無根本的解決辦法，她僅能在自己的倫理道德標準下進行推理，從而做出判斷和決定。因此，“智子”這類人工智能發(fā)展出的倫理道德，并不是真正的人類倫理道德觀，而是從人工智能逆向推導出的機器倫理道德觀。人工智能是否終能像人類一模一樣，擁有人類的觀念，還要看我們未來的科技發(fā)展是否能夠達到人類智能的極限了。

三、人工智能與人類自由

很多科幻作品將感情因素加入了人工智能的程序中，假設它們會如同人類一般有喜怒哀樂，會擔心與它們一同工作的人類同事，或者因受到壓迫而不滿繼而奮起反抗，或者因保守秘密受到內心的痛苦煎熬于是試圖謀殺人類等，即是把人工智能放置在與人類相差無幾的同等地位上。當人工智能具有了類人思維、判斷力和道德情感等時，就涉及到了它們是否擁有自由以及它們是否會危及到人類自由的問題。自由不應單指人類擁有自由，而需指人類整體和個體或人工智能整體和個體作為主體時所擁有或希望獲得的自由，但是我們在此著重探討的是以人類為主體的人類自由。在默認人工智能的發(fā)展終將達到或超越人類智能的條件下，人工智能與人類自由以及其本身的自由需求間的關系，也可大致劃分為幾類不同觀點。

（一）人工智能限制人類自由

人工智能雖然是人類智能的外延產物，但是當人工智能具有自我意識后，是否會意識到人類作為它們的統(tǒng)治者存在諸多問題，如壽命短暫、感情用事、無法快速進行復雜計算和編程、無法從事極限工作？在人工智能意識到這些后，是否會全面進行反抗并控制其曾經的主人？很多科幻作家都在作品中表達了這種擔憂。例如，在阿瑟·克拉克的《2001太空漫游》中，服務于航天員的飛船智能電腦哈爾因自我頭腦混亂而殺害了航天員，試圖控制整艘飛船。盡管這臺智能電腦依舊是為了完成編程賦予它的原始任務而殺人，但是它已經開始進行自我判斷是否需要以除掉航天員為代價。

當人工智能作為人類的工具時，其本質是代替人類從事大量復雜計算和以人類生理性質無法進行長時間重體力或惡劣環(huán)境下的勞動力。但是人工智能雖為人類所造，是人類主體的客體實踐，卻逐漸獨立于人類主體自身，成為具有一部分人類智能的主體化客體，即人類自己創(chuàng)造了自己的異己力量。隨著科技發(fā)展，異己力量崛起，而這些具有與人類智能不相上下，甚至遠超人類智能，并具有自我意識、情感和判斷能力。此外，這些力量還控制著宇宙社會中全部的科技部門和機構時，顯然科幻作家們相信這種情況下，人工智能會完全掌控人類自由，對其進行壓制和束縛，因為根據進化理論，當人類制造出了超越自身能力的人工智能時，為了追求更高級的進化和發(fā)展，人類也會以依靠人工智能來發(fā)展自己的社會，從而主動受到人工智能的程序化限制；人工智能則根據進化對不如自己的人類進行全面控制。

（二）人工智能的發(fā)展是為爭奪人類自由的權利

在現(xiàn)代社會，從個體或區(qū)域角度來看，各國都在努力加快科技發(fā)展的腳步，以免在未來可能發(fā)生的宇宙戰(zhàn)爭中處于下風。計算機科學家A·韋斯納-格羅斯認為：不是因為有了智能才有野心，而是因為智能很可能就是爭奪自由的產物。此觀點默認人工智能是依附于人類智能并不會獨立背叛的群體。當一個主體為了確保未來的行動自由而不斷嘗試，智能行為通常便會在這個過程中自發(fā)出現(xiàn)。從馬克思主義實踐論看，人類最初研發(fā)科技，就是為了節(jié)省勞動力、提高勞動效率，人在從重復性地勞動中解放后獲得了自由。而隨著科技進步，野心本身并沒有改變，只是其爭奪自由權利的方式發(fā)生了改變，從簡單地從機械勞動中解脫，發(fā)展成為利用人工智能先行爭奪更多地主動權，從而爭奪自由的權利。在科幻作品中，通常這類觀點都是以國家為單位，某一個或幾個國家通過對科技的壟斷和實施，占有更多生存資源，進而獲得話語權，為本國和國民的自由爭取最大的保障。這是因為通常這種作品中的宇宙社會架構仍舊是基于現(xiàn)行世界各國復雜關系的平衡體系而設計的，沒有擺脫自私的“局部人類中心主義”即自己國家利益的自由為標準的觀點。

（三）人工智能釋放自由的一切可能性

此種觀點逐漸占據了流行科幻作品的視界，因為這是完全樂觀對待現(xiàn)代社會科技發(fā)展結果和人類智能與人工智能關系的全新態(tài)度。這種觀點認為，也許在一段時期內，人工智能與人類智能會發(fā)生沖突、矛盾甚至戰(zhàn)爭，但是由于人工智能來自于人類的本質屬性，兩者之間終會和平。也許連戰(zhàn)爭都不會發(fā)生，僅因為人類在科學研究的過程中可以合理解決對人工智能的絕對控制，不使其獨立于人類而存在。這兩種情況的結果，都是人類既能利用人工智能獲得自身的完全自由，并在人類的許可下給予人工智能一定程度的自由，如允許機器在設定范圍內進行自我修復、升級、編程、決定某些簡單的行為和判斷等。如此，科幻作家們相信社會在整體上可達到最大程度的發(fā)展，作為主體的人類個體可獲得最大自由，也給予了其他智能體人類可允許的自由，如科幻小說《沙丘》系列的主題就是人類通過保障自身未來的盡可能暢通無阻，學習到避免受制于單個控制因素的重要性。因此，人類通過學習和實踐創(chuàng)造會避免將人類的未來單一地依靠于自己創(chuàng)造的人工智能上，以便創(chuàng)造更多利于人類的因素進行整合式的平衡來發(fā)展多樣性的未來，獲得真正的自由。

綜上所述，人工智能在科幻文學這種總是超越現(xiàn)實時間的“尚未”文學類型中獲得了遠超過現(xiàn)實世界的發(fā)展空間，在有關人類智能與人工智能的智慧較量中產生了不同的比較方式和敘述角度，而對于人工智能究竟能否超越人類智能，依舊無法下定論。所以，如果現(xiàn)在就推論未來的社會是唯智主義的世界還為時尚早；人工智能在未來也許會擁有初級的倫理道德觀，但是不至于發(fā)展出與人類類似的倫理道德觀念，可是，這依舊給現(xiàn)今人類提出了一個重要課題，即人工智能發(fā)展的未來方向是在朝著學習人類倫理判斷的道路上前行；至于人工智能對于人類自由的影響則要比之前明顯的多，人類社會的發(fā)展尤其是工業(yè)和科技行業(yè)倚靠人工智能的程度逐漸加大，敏銳又先進的科幻文學更是及時發(fā)現(xiàn)這一苗頭并無限夸大了這種倚靠的趨勢，造成了一種非常明顯的悲觀傾向性：越來越多的作者趨于相信在未來世界中人工智能會超越人類的體力極限，并且在最大程度上發(fā)揮人類智能的上限，以此走向限制人類自由的道路，在高度科技化、工業(yè)化的機械景觀社會中“幫助”人類加快速度走向自我毀滅的終極結果。

［1］戴維.多伊奇.真實世界的脈絡［M］.粱焰，黃雄，譯.桂林：廣西師范大學出版社，2002：84-104.

［2］宋勇剛.圖靈測試：哲學爭論及歷史地位［J］.科學文化評論，2011（6）：42-57.

［3］康蘭波.論人工智能的哲學意蘊［J］.重慶大學學報，2002（2）：81-83.

［4］路尋.卓越的人工智能科學家——馬文·明斯基［J］.自然辯證法通訊，2010（2）：104-111.

［5］李珍.從哲學視角看人工智能的發(fā)展——對“中文屋論證”的批判考察［J］.河南師范大學學報：哲學社會科學版，2011（11）：14-18.

［6］王東浩.機器人倫理問題研究［D］.天津：南開大學，2014.

［7］Peter Singer.Animal Liberation［M］.NewYork：Harper Collins，2009：1.

［8］王紹源.機器（人）倫理學的勃興及其倫理地位的探討［J］.科學技術哲學研究，2015（3）：103-104.

On the Relationship between Artificial Intelligence and Human Intelligence in Science Fictions

He Xinye
（College ofLiberal Arts，LiaoningUniversity，ShenyangLiaoning110036）

With the rapid development of artificial intelligence in modern society，there are more and more new ideas in the relationship between artificial intelligence and human intelligence.As a newscience，it attracts researchers to start interdisciplinary studies to probe into the width and depth of artificial intelligence from different perspectives. This studyfocuses on the relationship between artificial intelligence and human intelligence in the perspective ofscience fictions by comparing the development and morality of it as well as comprehensive inference based on its free development.There are three types of artificial intelligence and human intelligence in science fictions-the basic cognition which cannot be reached，almost reached and exceeded.The changeable relationship implies the development ofartificial intelligence description in science fictions.

artificialintelligence；humanintelligence；ethicsandmorals；humanfreedom

I207.42

A

1674-5450（2016）02-0111-05

2015－11－05

賀欣曄，女，遼寧沈陽人，遼寧大學文藝學博士研究生，主要從事西方文論研究。

【責任編輯：趙踐責任校對：詹麗】