甘紹平

機器人怎么可能擁有權利

甘紹平

本文從機器人擁有權利的技術障礙和道德難關兩個層面，批駁了那些聲稱機器人擁有道德權利的所有理據，論證了機器人不是人，人對機器人不存在道德問題，機器人自己也不會制造道德問題，機器人也無法做出道德判斷。本文旨在于借助機器人有無道德權利問題，為闡述道德的功能、權利的享有所需具備的前提條件，道德權利的契約論基礎、人同機器人關系中所體現出的主人與工具之固有地位的不可錯位、人的私密的心靈花園的不可觸碰等倫理學里的一些重要話題，提供一個新的機會與樣本。

機器人；道德權利；道德判斷；契約論；心靈花園

人工智能的飛速發(fā)展，不僅極大地改善了人類的生產與生活方式，增強了人類的智慧與感知世界的能力，而且也激發(fā)并推出了機器人的道德地位這樣一個倫理學的新課題。不少自然科學家及社會科學家均聲稱，機器人雖是機器，不是人，但鑒于機器人所擁有的超強的智能以及一定的情感水平，人類應賦予它以某種道德權利，將機器人當作人來看待；反之，如果濫用和虐待它，則呈現出人類的殘忍與非人道。有關論者甚至借用甘地的名言——從一個國家對待動物的態(tài)度可以判斷這個國家及其道德是否偉大與崇高，推出所謂從一個國家與個人對待機器人的態(tài)度，可以判斷這個國家與個人及其道德是否偉大與崇高，并且聲言所謂尊重機器人，就是尊重人類自己。把機器與道德關聯(lián)在一起，把機器推置到一種令人生畏的道德高度，展現出當代倫理學界的一道從未有過的奇觀。本文直截質疑這場機器人權利運動，主要目的還并不是批駁那些論證機器人擁有道德權利的所有理據，而是在于借助機器人有無道德權利問題，為闡述道德的功能、道德權利的契約論基礎、人同機器人關系中所體現出的主人與工具之固有地位的不可錯位、人的私密的心靈花園的不可觸碰等倫理學里的一些重要話題，為之提供一個新的機會與樣本。

一、機器人擁有權利的技術障礙

機器人雖然擁有智能，但這種人工智能與人類智能相差極大。人的大腦分左腦與右腦，左腦負責記憶、運算、簡單的推理；右腦則承擔發(fā)散性思維、超強的想像力與藝術審美。而人工智能只是在模仿人的左腦功能，機器人裝備著由人類為它編制好的程序，以概率論為形式化的運算框架，搜集海量數據并在記憶中加以儲存，然后對新的信息識別辨認，將之與儲存庫的數據進行匹配對比，最后得出結論或做出相應的決斷。因而機器人可以算術、記憶、弈棋、診療、翻譯和判案；在某些能力方面（如計算、記憶）完全可以超越人類的極限，成為我們良好的輔助工具。但是，機器人的智能所體現的僅僅是一種演繹智慧，它只能夠對符號進行一種形式化的加工，只能夠對數據進行無理性、無情感的枯燥處理，不論它有多強的感知能力、深度學習能力以及一定的自主生成行為的能力，它也不過是對人類的某些認知行為的模擬并以軟件方式使之得以實現。能夠對符號進行加工的機器人并不能理解符號的語義本身，無法領悟自己動作的意義與后果，不可能對環(huán)境進行識別并與外在世界產生互動。作為人類智能的物化，機器人的智能與人類的智能之間存在著一道無可逾越的鴻溝。

人類既擁有左腦也擁有右腦，正是憑借一些特殊的認知模塊使得我們能夠進行復雜的語言呈現、長遠地規(guī)劃、抽象地思考，從而具備高水平的創(chuàng)新思維、高度的情感介入和敏銳的解決問題的能力。具體而言，首先，人類具有將聲、像、味等信號上升為認知，將共性的現象提煉為規(guī)律的抽象概括能力、想像力。智能的本質并不在于知識，而是在于想像。知識總是有限的，情形無法排除例外的產生，機器人只能應對類似的情形而無法處理例外帶來的沖擊，而人類則有能力從相對少量的數據中獲取更具深度的抽象，從少數經驗里贏得有用的結論。依憑想像力人們就可以概括世界一切事物。幾歲的兒童，大人給他指一指什么是貓，下次他就能夠識別。其次，人類擁有將豐富的閱歷凝練成常識的能力，這種常識使得我們不會認為存在著駱駝可以從針眼里穿過的可能性。但機器人并沒有這種常識。同時，經過長期深邃的思考，人們還有可能產生頓悟發(fā)現，這種復雜的神經活動積累而成的體驗，對于機器人是不可想象的。再次，在人的抽象能力、常識能力的共同作用下，人類還形成了極高的信息整合能力。憑借大腦中各種功能模塊的緊密聯(lián)系與交互作用，人類擁有將世界各種事物間無數錯綜復雜的關系納入到高度整合的單一系統(tǒng)中的能力。對于同一個犯罪嫌疑人的圖像，機器人可以清晰把握其顏色、邊緣、紋理以及面部特征的細節(jié)，而人除此之外還可以抓住圖像中各個因素之間的復雜聯(lián)系，其相互之間是否協(xié)調與合乎情理，并通過對面部特征的觀察瞬間推斷或識別出其年齡、性別、種族、表情及心理狀態(tài)。人類的觀察與機器人的觀察不同，后者的信息結構化、單一化，并且封閉和有限，而前者則有能力在復雜的信號環(huán)境中分辨出有用的信息，運用各種感官捕捉感覺信號，調動大腦中以往積累的知識和記憶的經驗，整合成一幅緊湊連貫的外界圖景。這一圖景不僅是對外界客觀對象的一種直接反映，而且還滲透著觀察主體的主觀意欲、情感直覺及至理性思維等因素的復雜交織。人類的思考與機器人的思考不同，后者僅僅體現為一種簡單的邏輯運算，而前者則得到人的內在因果性機制與意向性因素的驅動。當問道蜂蜜水與白開水哪個好喝的問題，我們會立即綜合運用嗅、視、味、觸覺能力，對兩者在香氣、色彩、味道、質感等方面進行虛擬比較，依據我們自己的主觀好惡來作答。

由此可見，在機器人智能與人類智慧之間，橫亙著一道無可逾越的鴻溝。機器人只能處理記憶和復制人腦中可以客觀化的信息，而人類意識、內心活動、愛恨情仇、是非觀念、審美體驗、宗教信仰等靈性活動，不僅形式上似是而非、極不穩(wěn)定，且內容上只可意會無可言傳，是不能通過文字、符號得以表達的。正可謂我們所知道的（所指）要比能夠說出來的（能指）豐富萬倍。這就導致了機器人的智能永遠也無法超越和取代人類的智慧。機器人無法識別雙關語，無法理解人的語言及動作的暗示效應，不具備復雜環(huán)境下隨機應變的能力，對彼此矛盾或含混不清的信息束手無策，在視覺、動態(tài)和直覺等方面難以實現突破，完全缺乏常識、創(chuàng)造力、想像力、預測力以及抽象概念與知識的提取能力，因而不可能應對復雜變量和動態(tài)條件下在無窮選項中做出選擇的課題，更談不上運用自由意志以及裝備的道德知識在道德兩難中做出正確的抉擇。于是，從技術的可能性角度來看，機器人的智能與人類的智慧完全不可同日而語，就此而言奢談機器人的權利完全是無謂之舉。

二、機器人擁有權利的道德難關

以上我們從技術條件的限制上論證了機器人的智能與人類智慧完全不可等量齊觀，機器人永遠無法獲得人類所擁有的地位，因而議論所謂機器人的權利純屬無稽之談。下面我們再從倫理學的角度探討一下機器人不能得到權利的道德理據，我們會發(fā)現，機器人要想獲得權利，面臨著三道無可逾越的倫理難關。

第一，機器人不可能與人類簽訂契約從而相互賦予權利。我們知道，道德是人際交往的行為規(guī)范，盡管這些規(guī)范有時也涉及到人類之外的生存物，但道德的適用范圍從根本上講被鎖定在人與人之間，因為道德規(guī)范只有在人類大家庭內部才能得到發(fā)現、建構、理解、交流和遵守。而人之所以需要有道德，則完全是出于對人類福祉本身的維持與呵護。與道德的這種對人類利益的保護之功能相類似，權利也是人際之間建構而成并相互賦予的，人們建構權利的目的在于使自己基本的利益得以切實的保障。所謂權利，是行為主體針對某項利益的一種有效性的要求。這一定義包含著兩個要素：首先，行為主體不僅對這相關利益擁有要求，而且還必須能夠提出該項要求。假如該行為主體尚未成熟，那他（她）長大之后也必定能夠提出。如果某個行為主體因疾病之故永遠失去了心智成熟的機會，則由于當事者屬于人類大家庭中的一員，故其他人仍然可以作為監(jiān)護者和委托人，替其提出此項要求。其次，這項針對某種利益的要求是有效的，這種有效性意味著他人或者相關主管承擔著對此要求必須認可、不得拒絕并且使之獲得滿足的義務。權利把權利載體置于一種與權利應答者的應當行為的關聯(lián)之中，權利應答者有義務使權利載體的要求得以實現。一旦權利要求得不到滿足，則當事人就可以提出控告，從而使權利的實現獲得保證。由此，從權利本身的本質界定來看，權利的建構與相互賦予，只有可能發(fā)生在人與人之間。因為只有人才擁有感受性和自我意識的能力——人能夠自我辨識，將自我從世界以及其他個體區(qū)分開來，洞悉自身的行為與思想，通過自傳體記憶而把自身理解為是隨著時間推移的不間斷的存在，是一種歷史延續(xù)的單獨個體；只有人才具備自主性，即他可以自主地自我維持、擁有自己獨特的目標，不受他者的外在設定、確定與支配；只有人才擁有意向性，他可以在行善與作惡之間做出自主的選擇，并為此而承擔應有的責任。這些能力造就了權利對于人類的專屬性，即只有人才可能運用這些能力簽訂有關權利的契約并且相互賦予權利，最后采取措施使權利要求得以保障。如果說連某些具有高度意識能力的動物都無法享受權利，那么只能進行邏輯推演、沒有最簡單的欲望和情感反應能力的機器人的所謂權利，就更是無從談起了。

第二，機器人作為人類工具這一原初地位無法改變。有人會講，目前機器人的確不具備人類這樣的智慧，因而無法與人類簽訂有關權利的契約，但科技的發(fā)展或許并不排除有朝一日機器人獲得與人類締約的能力，如果機器人哪一天真的可以走進與人類的契約，并且認同人類的權利同時承擔滿足對人類需求的相應義務，那么我們人類是否應當賦予其某種權利呢？我們的回答明確而又堅定：不能。所謂賦予某一對象以權利，就意味著必須滿足其要求。這一要求是一種自在目的，獨立于它之外的其他行為主體。換言之，認可機器人有權利，就等同于承認機器人是自在目的，而這就觸動了人與物之間的根本區(qū)別。人與物之間的根本區(qū)別在于人是自在目的，而物則是人實現其目的的手段與工具。人作為自在目的，同時也就意味著人可以將人之外的其他存在物，包括動物、植物、無機物作為實現自身目的的工具與手段。對于一些高級動物，出于同情與不忍我們可以體會其生存的需要而避免其遭受殘忍的對待和無謂的痛苦，但是動物無論有多高級也無法逾越人與動物的界線而獲得與人類同等的自在目的之地位。這就解釋了我們可以盡力減少高級動物的醫(yī)學試驗，但很難做到絕對的禁止。我們認可動物的感受性、動物的福利以及某種意義的自我目的性，但這種認可不是絕對意義上的，從絕對意義上講，動物處于人類的工具的地位，在遇到極端兩難之時，犧牲動物保護人類體現了一種重要的道德要求?？傊挥腥伺c人之間方可建構共同的游戲規(guī)則，這也表明人類智慧與權利具有唯一性和排他性。自啟蒙運動以來，人們樹立起了大寫的人的獨特地位，確定了人是唯一的主體，也是唯一的目的。這樣也就從一定意義上標示了現代與中世紀之間的本質界線。依此，人類之外者，本質上皆屬于人類的工具。這一劃界難以撼動、不可逾越。在作為人的工具的地位這一問題上，具有一定自我意識的動物姑且如此，更不用說人類自己制造生產出的機器人了。機器人是人類創(chuàng)生的無機體，與有機體維持生存、繁殖后代的本能與目的性不同，機器人沒有自身的目的。因為機器人的被設計是依照“如果—那么”單一邏輯，而不是“如果—也許”多值模式。它的所有行為均源于其背后人類編寫的程序和發(fā)布的指令，它的能力取決于人類事先設置的邏輯理路。這樣，無論機器人的智能如何追趕人類的智慧，它的某些運算能力如何遠超人類的心算，也改變不了它是我們人類設計制造出來、為我們所用、是我們的工具這一原初的地位。如果有人硬是主張賦予機器人以權利，從而使之因具有自身需求而成為自在目的，進而改變作為人的仆從的地位，甚至達到與人類處于平等的關系，這種將工具作為自在目的來保護甚至有可能導致人是機器人的手段的本末倒置的做法，無疑是極其非理性和荒謬的。這導致了最為嚴重的異化現象而與人類的根本利益背道而馳，也違背了道德的功能在于保護人類的利益這一基本宗旨，因而是反道德的、反人類的。有人在論證機器人應當擁有權利時，聲稱目前大部分拒絕賦予機器人權利的做法，會隨著時代的發(fā)展而出現變化。理由是人類歷史上經常有某個種族或某些人群被排除在權利保護之外，而經過努力這些人群最終還是爭取到了他們的權利。這種論證完全抹煞了人與物之間的本質區(qū)別，其結果并不能提高物的價值，而是實實在在降低了人的地位，損害了人的尊嚴。即便是有朝一日機器人有可能具備與人類簽訂契約的能力，我們也要阻止這種事態(tài)的發(fā)生，讓機器人永遠成為人的手段與工具，從而維護人類的根本利益。

第三，機器人并不擁有不容破解的內心秘密。如前所述，機器人想要獲得人類那樣的權利，就必須具備人所擁有的全部智能作為資格。這不僅包括邏輯演算，而且也涵蓋情感情緒、頓悟冥想、靈感涌動、道德判斷、思維的跳躍、心靈的自發(fā)自主等這些與機械思維相異質的精神功能。對于機器人而言，要做到這一點不僅幾乎沒有可能性，而且還會遭遇到如下兩種邏輯困境。首先，如果機器人可以具備道德意識，則我們不可能設置它可以擇惡，因為讓它可以傷害我們人類，這當然是荒唐的。但如果我們設置它只能擇善，那么它就是一種被決定、被操控的東西，沒有自身的自由意志，從而淪落為人的工具的地位，這樣它也就沒有資格要求獲得權利。其次，更為重要的是，如果機器人要獲得人那樣的權利，就必須具備人類所有的精神特質，包括像人那樣擁有內心中不容觸撞的精神秘密。隨著神經生物學以及微觀探測技術的發(fā)展，人們在研究腦區(qū)與人的行為關聯(lián)、大腦中精神活動的物質表達方式方面，在探討精神在大腦中的相關神經學特征方面，取得了長足的進步。如人們發(fā)現大腦中的前額葉與高級智力活動相關，前額葉發(fā)達者擁有較高的智商和較強的自制力，而損傷者則會喪失道德感甚至發(fā)展成癡呆患者。前扣帶回在處理認知沖突時發(fā)揮重要作用，若活躍度低，則易酗酒和犯罪。利用磁振造影（MRZ）來判斷一個人的真實感受，在科學上也不是不可能。然而，人類最核心也是最崇高的區(qū)域是其心智。即便是人類的意識、情感活動可以轉換成物理的、神經的、粒子的等可探測的物質表達，但人的心靈中最隱秘的部分仍然是難以破解。不僅是難以破解，而且更是不允許破解。因為通過解析和操縱神經元來閱讀人的心理活動，是對人的隱私與尊嚴的挑戰(zhàn)。與機器人的邏輯運算不同，人的算計與思考是客觀邏輯加上主觀直覺融合而成的結果，充滿著理性與情感的復雜交織。這取決于人的精神與意志的自發(fā)性，這種自發(fā)性是每一個人區(qū)別于其他人的基底，與每一個人獨特的歷史經歷、成長記憶、價值觀念、興趣偏好密切相關，從而造就了此人的特異性、唯一性、不可復制性、不可替代性、獨一無二性。正是基于這種自發(fā)性，人們對同樣一個事物就會有完全各異的觀察結果。這種自發(fā)性是私密性的，許多內容都具有無法言傳、難以意會的特征，因而無法共享與交流。建立在人的自發(fā)性基礎上的人的最內在的心靈活動，包括本源性的初始沖動、無拘無束的內心體驗、最深沉的審美感悟、至高無上的精神境界等等，構成了每一個人自己的內心小花園，這一私密的心靈花園任由自己單獨看護和管理，不向任何人敞開，不容任何人觸摸。從外在看，它呈示了此人不同于他人的特殊標識。從內在看，它構成了當事人獲得幸福的重要源泉，正可謂幸福的秘密就是這種自由。我們以前經常說，人的尊嚴在于精神的不可侮辱性，在這里，我們還可以說，人的尊嚴恰在于心靈活動的隱私性與不可觸摸和不可操控性。這樣就很好理解，任何形式的讀心術，只要其旨在透視人的內心秘密、揭開心靈花園的所有隱私，都是絕對需要被禁止的。原因就在于一切能夠洞悉人的內心隱秘的技術應用，都意味著對人的尊嚴的貶損。因而我們可以通過立法來防止人類受到這種探測技術的侵擾。

然而對于機器人，我們則會遇到一種兩難困境。如果機器人要獲得人類那樣的權利，那就要求我們將機器人當成人來看待。如果說人擁有秘密的心靈花園，所以才能具備自由意志施展的空間，從而才能做出道德抉擇，那么機器人也得保有和維護其自身秘密的心靈花園，才能獲得與人同等的道德地位，這就意味著我們人類作為機器人的制造者，不得發(fā)展讀心術破解機器人的內心，不得透視其心靈內在的秘密，從而保護其自在的尊嚴。但是如果我們真的這樣來對待我們自己制造的產品，對我們的造物不允許解析，不可以透視，禁止探究其內在“秘密”，那就是極其荒謬和不可理喻的了。從技術上這也無疑是一種天方夜譚式的幻想。因為機器人是被人所造的，其儲存計算是形式化實現的，信息與指令的獲取是外在性的，信息的處理過程是被設計的、可復制的，任何內容邏輯上都是開放性的、可共享的。同所有人造產品一樣，機器人本身的一切都是可理解、可揭示、可透視的，沒有任何秘密可言，更不存在什么不可觸摸的神圣領域。從機器人不可能擁有隱秘的心靈花園、一切都被人類所洞悉和把握這一點來看，機器人就無法配享根植于人的心靈活動的自發(fā)性、隱私性和不可掌控性之基礎上的人類尊嚴，因而也就不可能享有只有人類才能擁有的權利。

三、結束語

機器人是機器，不是人，因而無法享有人所擁有的權利。人與機器也無法形成道德關系。故人如何對待機器人，嚴格說來都不存在任何倫理問題。機器人是機器，不是人，沒有自由意志，不可能做出自主的道德抉擇，它可以形式地執(zhí)行人的蘊含道德要求的指令，但它自己并不懂得任何道德意義。由于機器人不是道德行為主體，故機器人本身也不會生成任何道德問題。所謂讓機器人道德化，不過是人的道德意志與要求借助于物而得到實現而已，作為物的機器人并不明白什么是倫理問題。有人說飛機上用于確保安全或安保的自動警報裝置，便是一種暗含倫理考量的機器，這不過是一種擬人化的形容性說法，該裝置只是機械地完成設計者的設置指令，它自己根本不懂得保護人命的道德原理。同樣道理也適用于機器人，許多人熱衷于讓機器人識別倫理，將道德規(guī)范轉換成邏輯演算，依照倫理規(guī)則系統(tǒng)對不同利益進行計算權衡，從而提供每一種選擇不同結果的概率。即便是技術上的障礙能夠全部克服，這也并不意味著機器人可以“懂得”倫理，它不過是機械地執(zhí)行人的預制性的指令，如只殲滅戰(zhàn)斗人員和摧毀軍事設施，避開平民百姓等，這里根本就談不上所謂機器人本身的倫理敏感性。而讓機器人“自主地”運用道德規(guī)則來對應復雜的應用情境，即將倫理系統(tǒng)嵌套進機器人的大腦中，使之可以依據倫理原則在具體場域中進行抉擇，更是一種天真的幻想。道德判斷是一種極為復雜的心智活動，其驅動力不僅在于理性的反思權衡，而且也在于直覺的情感體驗，因而道德判斷深受個體化的人格特質與精神狀態(tài)的影響。特別是遇到道德兩難、倫理沖突的情形，即便是在人與人之間也是判斷不同、答案各異，很難形成共識性的結論。假如人都無法做出清晰的正確抉擇，怎么能夠苛求機器人通過我們編寫的道德程序，自行給出一個正確的答案呢？當人遇到極為復雜的兩難困境時，究竟應當遵循此種道德立場，還是應當聽從彼種倫理規(guī)范，究竟是應當恪守法律規(guī)定，還是應當絕對保障人命的安全，這些都有待于當事人通過對具體環(huán)境、利益輕重、行為可能、選擇后果等各種各類因素的精細評估和整體考量，做出一種合宜的決斷。而這種復雜的道德權衡與倫理抉擇，是機器人所根本無法承擔的。總之，機器人不是人，人對機器人不存在道德問題。機器人不是人，它自己也不會制造道德問題。機器人不是行為主體，它也無法做出道德判斷。

我們越是研究機器人，便越能感受到人類智慧的珍貴、神妙和值得敬畏，而不是通過對機器人賦予權利來貶損人的地位。權利的享有需要具備前提條件，在不擁有相應能力的情況下賦予動物、機器人以權利，便是權利的泛化與對權利的濫用，這種做法只能給人類利益造成無法承受的損害。同理，機器人的智能只是借助于人類智慧得到開發(fā)并獲得裝備的，即便是機器人可以進行一定程度的自我進化，這也并不意味著人對這種進化的方向與速度失去可控性。假如機器人可以進化到成為擁有生命意識、自我生存欲求和發(fā)展目標能力的新型物種，我們就必須及時阻絕這種事態(tài)，絕對禁止這種可能提出權利要求的失控物對人類利益造成威脅與損害，這是我們觸及與機器人相關的倫理道德問題時的核心關切之所在。

甘紹平，中國社會科學院哲學所研究員，中國特色社會主義道德文化協(xié)同創(chuàng)新中心首席專家。