[摘 要] 人工智能哲學(xué)的核心論爭(zhēng)是考察人工智能與人類(lèi)智能的緊張關(guān)系與有機(jī)張力。人工智能是一個(gè)比照與關(guān)聯(lián)了合成智能、計(jì)算智能與增強(qiáng)智能的概念，其建構(gòu)目標(biāo)是智能主體，底層邏輯是大數(shù)據(jù)，運(yùn)行關(guān)鍵是算法。人工智能的發(fā)展形態(tài)蘊(yùn)含著從弱人工智能到強(qiáng)人工智能或通用人工智能的可能路向，甚至不排除在未來(lái)演化出超級(jí)智能的形態(tài)。人工智能與人類(lèi)智能之間存在著內(nèi)在的緊張關(guān)系：人工智能或以溫和的方式實(shí)現(xiàn)對(duì)人類(lèi)智能的模擬與增強(qiáng)，或以激進(jìn)的方式去超越與替代人類(lèi)智能。人類(lèi)未來(lái)既需要認(rèn)真對(duì)待與重視人工智能，也需要為其構(gòu)建平等合理的倫理原則。

[關(guān)鍵詞] 意識(shí)；人工智能；人機(jī)關(guān)系;大數(shù)據(jù)；算法

[DOI編號(hào)] 10.14180/j.cnki.1004-0544.2024.07.001

[中圖分類(lèi)號(hào)] B152" " " " " " " " " "[文獻(xiàn)標(biāo)識(shí)碼] A" " " " " [文章編號(hào)] 1004-0544（2024）07-0005-10

基金項(xiàng)目：國(guó)家社科基金重點(diǎn)項(xiàng)目“社會(huì)風(fēng)險(xiǎn)及其治理的哲學(xué)研究”（20AZX003）。

作者簡(jiǎn)介：潘斌（1978—），男，哲學(xué)博士，華東師范大學(xué)哲學(xué)系教授、華東師范大學(xué)社會(huì)認(rèn)識(shí)論研究中心主任、教育部人文社科重點(diǎn)研究基地中國(guó)現(xiàn)代思想文化研究所研究員、教育部人文社科重點(diǎn)研究基地中山大學(xué)馬克思主義與中國(guó)現(xiàn)代化研究所兼職研究員。

生活在現(xiàn)時(shí)代就意味著身處不斷被智能化的社會(huì)之中：從宏觀的全球境域到微觀的日常世界，甚至內(nèi)在的人類(lèi)意識(shí)與自我心靈，無(wú)不被人工智能所塑造與刻畫(huà)，智能化已然成為現(xiàn)時(shí)代的主題話語(yǔ)與時(shí)代特征。與此同時(shí)，人工智能并非解決現(xiàn)代性危機(jī)的靈丹妙藥，對(duì)人工智能的過(guò)度詮釋與深度迷戀有陷入話語(yǔ)崇拜與路徑依賴的風(fēng)險(xiǎn)。人類(lèi)始終面臨且必須回應(yīng)人工智能與人類(lèi)智能內(nèi)在的緊張關(guān)系：人工智能在未來(lái)能否超越或替代人類(lèi)文明？智能機(jī)器是否會(huì)有與人類(lèi)道德相容的道德準(zhǔn)則？碳基文明是否會(huì)被硅基文明所消滅？這亟待我們合理勘定人工智能的內(nèi)涵與邊界，重新理解人工智能的本質(zhì)與功能，并對(duì)其發(fā)展路徑重新定向。

一、義理與源流：人工智能的概念譜系

重新檢視人工智能與人類(lèi)智能的緊張關(guān)系，須追溯“智能”的概念譜系與義理內(nèi)涵，進(jìn)而分析其功能屬性與社會(huì)效應(yīng)，最終為其訂立道德規(guī)范與倫理法則?！爸悄苷軐W(xué)”（the philosophy of intelligence）是以哲學(xué)反思的立場(chǎng)、哲學(xué)批判的精神、哲學(xué)分析的方法和倫理關(guān)懷的旨趣對(duì)以智能為中心的問(wèn)題展開(kāi)的形而上學(xué)考察。它致力于探究物質(zhì)與意識(shí)、身體與心靈、機(jī)器與人類(lèi)、人工智能與人類(lèi)智能等重要范疇之間的內(nèi)在關(guān)聯(lián)，研究如何實(shí)現(xiàn)二者的有機(jī)互動(dòng)與彼此共存。人工智能哲學(xué)是智能問(wèn)題的當(dāng)代形態(tài)與具體表達(dá)，根源是人類(lèi)自我認(rèn)識(shí)之謎與社會(huì)進(jìn)化之路的曲折展開(kāi)，故從思想源流上追溯和梳理人工智能的概念譜系顯得尤為必要。

中國(guó)古代典籍中有悠久而深刻的關(guān)于自動(dòng)裝置、智能技術(shù)的思想，最具代表性的是《列子·湯問(wèn)》所記的“偃師獻(xiàn)伎”。雖然這一關(guān)于人類(lèi)自動(dòng)化思想的早期文獻(xiàn)只是神話寓言、經(jīng)驗(yàn)理性與科學(xué)幻想的混合產(chǎn)物，卻蘊(yùn)含著古代社會(huì)對(duì)智能化機(jī)器的積極想象與經(jīng)驗(yàn)探索。中文里的“智能”一詞是由“智”與“能”兩個(gè)概念組合而成的聯(lián)合詞組，“智”的詞義豐富，大致蘊(yùn)含三個(gè)層面的語(yǔ)義內(nèi)涵：一是與“知”相似，指我們就客觀世界所形成的具象化體證與經(jīng)驗(yàn)性確知；二是與“理”相近，指我們就對(duì)象世界的本質(zhì)屬性與基本規(guī)律所形成的客觀性理解與科學(xué)性認(rèn)知；三是與“道”相通，指我們所積淀內(nèi)化而成的默會(huì)知識(shí)與實(shí)踐智慧。就此而言，“智”是人類(lèi)所獨(dú)有的認(rèn)知、理解與詮釋能力，它依主體認(rèn)知的差異而被區(qū)分為不同層次與類(lèi)型，知覺(jué)、知性、理性、智性、智慧等都是分屬于“智”這一總體性范疇之下的不同形態(tài)。如果說(shuō)“智”偏重對(duì)主體的認(rèn)知程度、理解水平與思維方式的指涉，那么“能”更強(qiáng)調(diào)對(duì)技藝才華、行動(dòng)能力與實(shí)踐效果的關(guān)注?！墩f(shuō)文解字》注“能”為：“能，熊屬。足似鹿。從肉呂聲，能獸堅(jiān)中，故稱賢能；而強(qiáng)壯，稱能杰也。凡能之屬皆從能。”也就是說(shuō)，“能”字早期寫(xiě)作“熊”字，而熊是百獸之中堅(jiān)，因此賢者被稱為“能”，強(qiáng)壯者被稱為“能杰”?！冻鰩煴怼分兄T葛亮盛贊向?qū)櫈橘t能之杰：“將軍向?qū)?，性行淑均，曉暢軍事，試用于昔日，先帝稱之曰能……悉以咨之，必能使行陣和睦，優(yōu)劣得所。”早在《荀子·正名篇》中，“智”與“能”就同時(shí)出現(xiàn)：“所以知之在人者謂之知，知有所合謂之智。所以能之在人者謂之能，能有所合謂之能。”戰(zhàn)國(guó)末年《呂氏春秋·審分》中已經(jīng)將“智能”作為一個(gè)詞組來(lái)使用：“不知乘物而自怙恃，奪其智能，多其教詔，而好自以?！睎|漢時(shí)期的王充則在《論衡·實(shí)知篇》中從認(rèn)知主體的角度提出了“智能之士”的概念：“故智能之士，不學(xué)不成，不問(wèn)不知”，“人才有高下，知物由學(xué)，學(xué)之乃知，不問(wèn)不識(shí)”。就認(rèn)知方式差異而言，從感覺(jué)、表象、記憶到知覺(jué)、知性、理性這一過(guò)程體現(xiàn)出智力的不同形態(tài)與發(fā)展嬗變，從技藝、才華到行動(dòng)的過(guò)程是能力的不斷演進(jìn)與具體實(shí)現(xiàn)，兩者結(jié)合而成“智能”。

在西方，“智能”概念也有著悠久的思想源流。柏拉圖雖沒(méi)有直接使用“智能”概念，但他所提出的人類(lèi)所應(yīng)具有的認(rèn)知與理解觀念世界的理性能力大體對(duì)應(yīng)于我們今天所討論的“智能”概念。這種能力被柏拉圖視為靈魂的根本屬性，并具體顯現(xiàn)為人所應(yīng)具備的三種不同的能力：一是通過(guò)知識(shí)把握理念世界的能力；二是通過(guò)內(nèi)省與思考而超越意志與欲望，進(jìn)而使靈魂達(dá)到和諧與平衡的能力；三是高尚的道德能力。亞里士多德在繼承柏拉圖思想的基礎(chǔ)上，從理論智慧與實(shí)踐智慧的意義上來(lái)把握“理性能力”這一概念。他對(duì)人工智能的最大貢獻(xiàn)是創(chuàng)制了形式邏輯的推理系統(tǒng)，為日后人工智能領(lǐng)域中重要的符號(hào)主義運(yùn)動(dòng)奠定了思想基礎(chǔ)。作為近代哲學(xué)的偉大先驅(qū)，笛卡爾持身心二元論的觀點(diǎn)，認(rèn)為身體與心靈是兩個(gè)不同實(shí)體——身體按照物理世界的機(jī)械原理工作，而心靈具有感知、想象、反思、情感與意愿等特性。這促使人們思考是否可以在機(jī)器上復(fù)制、模擬與移植具有類(lèi)似人類(lèi)心靈功能的大腦，為人工智能敞開(kāi)了巨大的可能性空間，20世紀(jì)著名的“圖靈測(cè)試”與“中文屋實(shí)驗(yàn)”在一定意義上都是對(duì)笛卡爾身心二元論的不同回應(yīng)。從康德到黑格爾的德國(guó)古典哲學(xué)傳統(tǒng)分別從主體性、自我意識(shí)等視角來(lái)討論人的理性能力及其邊界問(wèn)題，而真正將其帶入哲學(xué)研究中心地帶的則是心智哲學(xué)。20世紀(jì)下半葉誕生的心智哲學(xué)幾乎與當(dāng)代人類(lèi)智能科學(xué)同步，它不僅延續(xù)了身心二元論的討論，而且進(jìn)入具身智能、人工增強(qiáng)、計(jì)算哲學(xué)等領(lǐng)域。換言之，“智能”不再是專(zhuān)屬于人類(lèi)的理性能力，包括機(jī)器人在內(nèi)的非人類(lèi)主體是否可能、如何可能具備類(lèi)似人類(lèi)的思維與心靈成為亟待研究的重大問(wèn)題。

時(shí)至今日，學(xué)界對(duì)于“什么是智能”并沒(méi)有達(dá)成一致，僅僅形成一個(gè)最廣泛最兼容的定義，即智能是完成復(fù)雜計(jì)劃的能力。而由“智能”這一概念派生出的“人工智能”概念的定義則更為紛繁復(fù)雜，其中具有代表性的定義如下：（1）在人工智能元年1956年的達(dá)特茅斯會(huì)議上，約翰·麥卡錫（John McCarthy）等會(huì)議發(fā)起者將人工智能定義為“學(xué)習(xí)或者智能的任何其他特性的每一個(gè)方面都應(yīng)能被精確地加以描述，使得機(jī)器可以對(duì)其進(jìn)行模擬”1。這種觀點(diǎn)從工具論視角將人工智能定義為解決人類(lèi)任務(wù)的輔助手段，反映了早期研究的工程學(xué)思維特征。（2）安德里亞斯·卡普蘭（Andreas Kaplan）和邁克爾·海恩萊因（Michael Haenlein）將人工智能定義為“系統(tǒng)正確解釋外部數(shù)據(jù)，從這些數(shù)據(jù)中學(xué)習(xí)，并利用這些知識(shí)通過(guò)靈活適應(yīng)實(shí)現(xiàn)特定目標(biāo)和任務(wù)的能力”2，這是從大數(shù)據(jù)的奠基性作用來(lái)定義人工智能。（3）維基百科（Wikipedia）形成了一個(gè)相較而言被普遍認(rèn)可的定義：人工智能指由人制造出來(lái)的機(jī)器所表現(xiàn)出來(lái)的智能，通常是指通過(guò)普通計(jì)算機(jī)程序來(lái)呈現(xiàn)人類(lèi)智能的技術(shù)。這一定義已經(jīng)具有典型的行為主義特征，即人工智能是以機(jī)器為載體的高階智能，是能隨機(jī)應(yīng)變并最大程度地實(shí)現(xiàn)主體目標(biāo)的理性中介。發(fā)展人工智能的關(guān)鍵是建構(gòu)智能主體，智能主體具有與人類(lèi)智能類(lèi)似甚至超越人的推理、判斷、規(guī)劃、學(xué)習(xí)、交流以及使用工具、操控機(jī)械的能力等。

雖然當(dāng)前流行的“人工智能”概念被不斷接受與認(rèn)可，但也面臨著挑戰(zhàn)，質(zhì)疑基本都圍繞著機(jī)器能否如同人腦一樣思維、機(jī)器是否有自我意識(shí)等問(wèn)題而展開(kāi)。以戴維·普爾（David Poole）等為代表的計(jì)算機(jī)專(zhuān)家提出用“計(jì)算智能”（computational intelligence）替代“人工智能”的主張。在他們看來(lái)，人工智能是一個(gè)模糊不清的混合性概念，這與人工智能的先驅(qū)們將目的與方法等同有關(guān)，并會(huì)導(dǎo)致人們將“人工的”這一限定詞等同于“模擬的、仿造的”。由此，人們必然會(huì)質(zhì)疑，人工智能是“真正的”的智能嗎？例如，人們會(huì)認(rèn)為，人造珍珠不是天然珍珠，而是贗品，因此也就不是真正的珍珠。而倘若我們把它理解成“合成的珍珠”，我們雖不能稱之為天然的珍珠，但它就是一個(gè)真正的珍珠3。如此一來(lái)，“合成智能”（synthetic intelligence）便是優(yōu)于“人工智能”的概念。但智能研究的目的是既要理解自然本性，也要理解人工（或合成）的本質(zhì)，因此用“計(jì)算智能”這一概念更為合理——推理即是計(jì)算，目的是尋找特定的方法（算法）來(lái)完成任務(wù)4。計(jì)算智能的核心在于智能主體，盡管人類(lèi)被認(rèn)為是已知的最智能化的主體，但比人類(lèi)更加智能的主體的生成依然是可能的。因此，近年來(lái)計(jì)算社會(huì)的興起也是對(duì)人工智能研究的回應(yīng)與延展。

二、內(nèi)涵與邊界：人工智能的理論共識(shí)

為了更準(zhǔn)確地回答“人工智能是什么”并清晰地呈現(xiàn)這一問(wèn)題圖景，兩位當(dāng)代著名的人工智能研究專(zhuān)家羅素（Russell）與諾維格（Norvig）在其里程碑式著作《人工智能：現(xiàn)代方法》（Artificial Intelligence： A Modern Approach）中運(yùn)用結(jié)構(gòu)主義方法重新梳理了人工智能的問(wèn)題層次。人工智能問(wèn)題的實(shí)質(zhì)是我們所要致力于達(dá)到什么樣的目標(biāo)。對(duì)于這一目標(biāo)，可以按照兩個(gè)不同的維度進(jìn)行劃界：一個(gè)維度以人的行為為中心，這依賴于常識(shí)與經(jīng)驗(yàn)而且具有不可靠性；另一個(gè)維度以嚴(yán)謹(jǐn)?shù)睦硇杂?jì)算為中心，從而使精確性大為提升。在這兩個(gè)維度的基礎(chǔ)上按照思考與行動(dòng)進(jìn)行區(qū)分，則可以細(xì)分出四個(gè)不同的領(lǐng)域——像人一樣理性地去思考、像人一樣理性地去行動(dòng)、和人一樣理性地去思考、和人一樣理性地去行動(dòng)，這四個(gè)領(lǐng)域分別代表了人工智能所具備的不同能力5。羅素與諾維格的這一區(qū)分直接推動(dòng)了對(duì)人工智能的新理解，雖然關(guān)于人工智能依然紛爭(zhēng)未定，但至少形成了如下共識(shí)。

第一，人工智能的建構(gòu)目標(biāo)是“智能體”（intelligent agent）。著名人工智能專(zhuān)家馬文·明斯基（Marvin Minsky）首次提出“智能體”這一概念，他認(rèn)為：傳統(tǒng)的計(jì)算系統(tǒng)具有封閉性的缺陷，無(wú)法應(yīng)對(duì)社會(huì)機(jī)制的開(kāi)放性與復(fù)雜性；如果將社會(huì)行為等概念引入計(jì)算系統(tǒng)中，就可以構(gòu)建一個(gè)計(jì)算社會(huì)，這個(gè)計(jì)算社會(huì)需要的是具有自治性、反應(yīng)性、主動(dòng)性、社會(huì)性與進(jìn)化性的智能體。邁克爾·伍爾德里奇（Michael Wooldridge）強(qiáng)調(diào)，社會(huì)性是智能體最重要的特征。就弱定義層面而言，智能體是具有自主性、社會(huì)性、反應(yīng)性和能動(dòng)性等特征的社會(huì)機(jī)體；就強(qiáng)定義層面而言，智能體不僅兼具弱定義特性，而且有靈活的移動(dòng)性、高效的溝通力與成熟的理性化等特征。智能體既是包括機(jī)器人在內(nèi)的硬件，也是包括系統(tǒng)在內(nèi)的軟件。它不僅能精確運(yùn)算與處理任務(wù)，還能積極調(diào)適與應(yīng)對(duì)突發(fā)情形，并能自我學(xué)習(xí)與不斷進(jìn)化。未來(lái)的人工智能不僅具有機(jī)器計(jì)算的長(zhǎng)處，也將模仿與追趕人類(lèi)智能的優(yōu)點(diǎn)，因此將變得非常強(qiáng)大，這一典型的主體增強(qiáng)思路契合了人類(lèi)智能發(fā)展的內(nèi)在需求與目標(biāo)旨趣。

第二，人工智能的底層邏輯是大數(shù)據(jù)（big data）。人工智能在其數(shù)十年的發(fā)展歷程中先后遭遇過(guò)二次低谷，其在21世紀(jì)以來(lái)的崛起離不開(kāi)大數(shù)據(jù)的驅(qū)動(dòng)。那么，如何理解大數(shù)據(jù)？“大數(shù)據(jù)是指無(wú)法在一定時(shí)間范圍內(nèi)用常規(guī)軟件工具進(jìn)行捕捉、管理和處理的數(shù)據(jù)集合，是需要新處理模式才能具有更強(qiáng)的決策力、洞察發(fā)現(xiàn)力和流程優(yōu)化能力的海量、高增長(zhǎng)率和多樣化的信息資產(chǎn)?！?大數(shù)據(jù)的出現(xiàn)與計(jì)算機(jī)技術(shù)革命密切相關(guān)，并進(jìn)一步推動(dòng)了數(shù)據(jù)采集、存儲(chǔ)、分析與處理方面的變革?！洞髷?shù)據(jù)時(shí)代：生活、工作與思維的大變革》的作者舍恩伯格認(rèn)為大數(shù)據(jù)有五個(gè)典型特征——Volume（大量）、Velocity（高速）、Variety（多樣）、Value（低價(jià)值密度）、Veracity（真實(shí)性）。數(shù)據(jù)量的指數(shù)級(jí)增長(zhǎng)為人工智能提供了基礎(chǔ)支撐。傳統(tǒng)人工智能受數(shù)據(jù)與算法制約，只能從事單一領(lǐng)域中簡(jiǎn)單化的對(duì)象任務(wù)，大數(shù)據(jù)則驅(qū)動(dòng)人工智能進(jìn)入機(jī)器學(xué)習(xí)與深度理解的階段，這可能是從弱人工智能走向強(qiáng)人工智能的突破口。大數(shù)據(jù)發(fā)展的極致是數(shù)據(jù)主義：一切都可歸結(jié)為數(shù)據(jù)收集與處理，全人類(lèi)可被看作單一的數(shù)據(jù)處理系統(tǒng)，而每一個(gè)人都只是其中一個(gè)處理小數(shù)據(jù)的芯片而已；所有的生物都是算法，生命的運(yùn)轉(zhuǎn)意味著進(jìn)行數(shù)據(jù)處理。由此，數(shù)據(jù)主義發(fā)出一個(gè)極具震撼性與啟發(fā)性的預(yù)言：智能將與意識(shí)脫鉤，無(wú)意識(shí)的算法將完全勝過(guò)有意識(shí)的人類(lèi)智能。

第三，人工智能的運(yùn)行關(guān)鍵是算法。僅有大數(shù)據(jù)與高性能計(jì)算機(jī)還不足以支撐起人工智能革命，“算法”（algorithm）是整個(gè)計(jì)算系統(tǒng)有序運(yùn)行的組織者與指揮官。一流的算法能將海量的大數(shù)據(jù)資源與可用的算力資源整合起來(lái)，從而實(shí)現(xiàn)價(jià)值最大化。關(guān)于算法的定義較多，比如“算法是在有限的時(shí)間內(nèi)一步步完成某個(gè)任務(wù)的過(guò)程”2，“算法是一種有限、確定、有效的并適合用計(jì)算機(jī)程序來(lái)實(shí)現(xiàn)的解決問(wèn)題的方法”3。英國(guó)人工智能委員會(huì)將算法定義為：“用計(jì)算機(jī)時(shí)執(zhí)行計(jì)算或解決問(wèn)題的一系列指令，它們構(gòu)成了計(jì)算機(jī)可以執(zhí)行的所有事情的基礎(chǔ)，因此是所有人工智能系統(tǒng)的基本方面?！?諸種定義的共同特征在于，算法是實(shí)現(xiàn)任務(wù)的程序、步驟、指令與方法的集合。一流的算法應(yīng)該具備三個(gè)基本特征：其一，能在有限的時(shí)間內(nèi)完成亟待解決的任務(wù)；其二，具有相對(duì)的透明性與公開(kāi)性，以此保證算法公平；其三，具有高度集成性，綜合運(yùn)用多種程序、技術(shù)與方法來(lái)有效實(shí)現(xiàn)任務(wù)。人類(lèi)雖然為了優(yōu)化算法、提升算力而積極發(fā)明與不斷創(chuàng)新，卻并不能平等地占有、公平地使用算法資源。當(dāng)擁有算法資源意味著掌握數(shù)字壟斷的特權(quán)時(shí)，以算法為核心的各種資源便成了“智能財(cái)產(chǎn)”，它將是未來(lái)世界財(cái)富的新形式。算法資源所有權(quán)的差異會(huì)導(dǎo)致不同主體在認(rèn)識(shí)、占有與分享人工智能紅利方面的不平等，引發(fā)算法歧視、算法黑箱、算法壟斷和算法鴻溝等風(fēng)險(xiǎn)，由此制造出一個(gè)新的貧困現(xiàn)象即“數(shù)字貧困”，并在此基礎(chǔ)上產(chǎn)生一個(gè)新的貧困階層即“數(shù)字窮人”。

除此之外，在人工智能的立法建設(shè)、倫理審查以及社會(huì)協(xié)同方面亟待新的理解與詮釋?，F(xiàn)階段全球人工智能發(fā)展面臨著二元悖論：一方面，我們必須認(rèn)可與理解人工智能所取得的成就與未來(lái)發(fā)展的趨勢(shì)，并積極參與和推進(jìn)人工智能的拓展與深化；另一方面，我們對(duì)人工智能的風(fēng)險(xiǎn)后果深感憂慮或恐懼，最具沖擊性的言論是在未來(lái)“硅基生命”將取代“碳基生命”、人類(lèi)未來(lái)將可能成為機(jī)器人的寵物、未來(lái)世界將步入后人類(lèi)時(shí)代……諸種對(duì)人工智能的過(guò)度詮釋與無(wú)邊想象都源于我們對(duì)人工智能與人類(lèi)智能之間的關(guān)系認(rèn)識(shí)不清，因此有必要重新理解二者之間的內(nèi)在緊張關(guān)系。

三、模擬與增強(qiáng)：溫和的超越路徑

“溫和的超越論”認(rèn)為：人工智能本質(zhì)上是對(duì)人類(lèi)智能的模擬，在一定領(lǐng)域中機(jī)器能像人類(lèi)一樣去思考和行動(dòng)，還能比人類(lèi)做得更好；但人工智能僅僅是對(duì)人類(lèi)智能的部分增強(qiáng)與有限延展，其造就的“人工增強(qiáng)”“延展心靈”等在總體上無(wú)法超越人類(lèi)智能，更不可能替代人類(lèi)智能；即使未來(lái)人工智能的發(fā)展加速迭代，人工智能還是人類(lèi)智能的產(chǎn)物與工具。這是當(dāng)前的主流立場(chǎng)與論調(diào)，亦是多數(shù)人所樂(lè)見(jiàn)的理想結(jié)果，體現(xiàn)出了人類(lèi)理智對(duì)技術(shù)文明的控制欲望與規(guī)訓(xùn)邏輯。

智能機(jī)器能否具有類(lèi)似人類(lèi)的自我意識(shí)與思維形式，這是人工智能能否超越人類(lèi)智能的關(guān)鍵。如果說(shuō)人工智能是一個(gè)由人所建構(gòu)與制造的智能化機(jī)器系統(tǒng)，那么機(jī)器有意識(shí)嗎？這一問(wèn)題實(shí)際上分為三個(gè)層次：什么是意識(shí)？能否將意識(shí)裝入機(jī)器之中？如能裝入，又該如何證實(shí)呢？具體而言：（1）何謂意識(shí)？我們?cè)谥庇^、感覺(jué)、知覺(jué)等活動(dòng)中所把握到的意識(shí)經(jīng)驗(yàn)并不等于意識(shí)本身，但它是意識(shí)呈現(xiàn)的基礎(chǔ)，且我們無(wú)法用自己體驗(yàn)到的意識(shí)來(lái)類(lèi)推他人的意識(shí)。查爾莫斯（David J. Chalmers）指出：“意識(shí)經(jīng)驗(yàn)既是我們世界中的最熟稔之物，同時(shí)也是我們世界中的最神秘之事。沒(méi)有什么事物比起意識(shí)來(lái)我們知道得更為直接，但是，我們對(duì)于意識(shí)如何與我們所知道的各種事物相協(xié)調(diào)的了解還知之甚少。”1功能主義認(rèn)為，只要機(jī)器能完成類(lèi)似于人的行動(dòng)，就可以說(shuō)機(jī)器具備意識(shí)。（2）向機(jī)器裝載意識(shí)具有可行性。聯(lián)結(jié)主義認(rèn)為，隨著神經(jīng)網(wǎng)絡(luò)的發(fā)展與計(jì)算技術(shù)的突破，我們完全可以構(gòu)造出一個(gè)自我模擬、自主學(xué)習(xí)的機(jī)器，這種機(jī)器就像一個(gè)具有自我意識(shí)的系統(tǒng)，以至于我們可以用這樣的系統(tǒng)來(lái)定義所謂的“自我意識(shí)”。早在2003年，機(jī)器深度學(xué)習(xí)之父于爾根·施米德休（Jürgen Schmidhuber）就設(shè)計(jì)出了一種被稱為“哥德?tīng)枡C(jī)”（G?del machine）的裝置，它能獨(dú)立完成自我計(jì)算與思維學(xué)習(xí)任務(wù)。此后，具備人工智能的信息載體不斷涌現(xiàn)。（3）機(jī)器有意識(shí)具有可證實(shí)性。“行為主義”聲稱證明機(jī)器是否具有人類(lèi)意識(shí)并不需要具有人腦這樣的生物實(shí)體，只要機(jī)器能完成類(lèi)似“圖靈測(cè)試”的任務(wù)我們就可以說(shuō)機(jī)器具有意識(shí)，而隨著神經(jīng)科學(xué)等新興技術(shù)的發(fā)展，這一設(shè)想有可能得到實(shí)現(xiàn)。AlphaGo的優(yōu)異表現(xiàn)證明，機(jī)器不僅能像人類(lèi)一樣理性地思考和行動(dòng)，而且能在某些關(guān)鍵時(shí)刻表現(xiàn)出超越人類(lèi)理智的某個(gè)特性。

即便“圖靈測(cè)試”證明了機(jī)器具有類(lèi)似于人類(lèi)思維的可能性，但機(jī)器思維是否等同于人類(lèi)思維呢？“圖靈測(cè)試”之后，塞爾提出了著名的“中文屋實(shí)驗(yàn)”以批判強(qiáng)人工智能的觀點(diǎn)——只要程序設(shè)計(jì)足夠精巧，機(jī)器就具有人類(lèi)思維的能力。這個(gè)實(shí)驗(yàn)的基本構(gòu)想是：一個(gè)不懂中文的人被關(guān)在一個(gè)封閉起來(lái)只留有一個(gè)小窗口的屋子中，里面有很多中文符號(hào)和一個(gè)用來(lái)回答中文問(wèn)題的計(jì)算機(jī)程序，系統(tǒng)輸入的是問(wèn)題形式的中文符號(hào)，系統(tǒng)輸出的是回答這些問(wèn)題的中文符號(hào)；我們可以假定程序很完美，以至于所給出的答案與以中文為母語(yǔ)的人所給出的沒(méi)有什么區(qū)別，所以，盡管他不理解中文的字詞含義，但他借助于特定的程序卻能準(zhǔn)確地理解和表達(dá)出中文，甚至有人會(huì)誤以為中文就是他的母語(yǔ)1。包括電腦在內(nèi)的人工智能亦是如此，盡管它不能真正地理解所接收到的信息的含義，卻能準(zhǔn)確地識(shí)別并傳達(dá)出去。塞爾試圖通過(guò)這一實(shí)驗(yàn)證明，人類(lèi)心智的產(chǎn)生建立在以大腦為載體的心腦活動(dòng)之上，任何其他主體要想獲得類(lèi)似于人類(lèi)的心智，必須具備與人類(lèi)大腦相同的因果力，“程序本身不能夠構(gòu)成心靈，程序的形式句法本身不能確保心智內(nèi)容的出現(xiàn)”2。

“中文屋實(shí)驗(yàn)”及其哲學(xué)論爭(zhēng)給人工智能研究帶來(lái)的重要思考是，人工智能對(duì)人類(lèi)智能的追趕與模擬存在著內(nèi)在局限：（1）局部超越而總體不及。對(duì)象世界的復(fù)雜性遠(yuǎn)超過(guò)主體思維的多變性，主體認(rèn)知的有限性決定了我們不可能覆蓋認(rèn)識(shí)活動(dòng)的全部領(lǐng)域。人工智能不僅在人類(lèi)智能所停滯或缺席的領(lǐng)域大獲成功，亦能在人類(lèi)智能所熟悉的領(lǐng)域模仿甚至超過(guò)人類(lèi)，但這并不意味著它就實(shí)現(xiàn)了全面超越。相反，人工智能是一門(mén)拓展與延伸人類(lèi)智能的理論與技術(shù)，其目的是利用科學(xué)技術(shù)創(chuàng)造出“類(lèi)人腦”的智能系統(tǒng)，其成就只是人類(lèi)智能延展的結(jié)果。它是以人類(lèi)智能為標(biāo)準(zhǔn)，由人類(lèi)所構(gòu)造的機(jī)器系統(tǒng)。它被用來(lái)表征人類(lèi)智能的部分特質(zhì)或功能。沒(méi)有人類(lèi)智能就沒(méi)有人工智能，人工智能在一定程度上是人類(lèi)智能的物化與外顯。（2）外在超越而內(nèi)在不及。雖然在機(jī)器人能夠勝任的工作崗位上，人類(lèi)面臨被淘汰與替代的危機(jī)，但人工智能也新增了多種多樣的新工作與新崗位。迄今為止人工智能表現(xiàn)優(yōu)異的領(lǐng)域基本都是科技變革已經(jīng)取得突破進(jìn)展的領(lǐng)域，而科技變革的發(fā)生遵循著從外入內(nèi)、由表及里的漸進(jìn)過(guò)程，尚未發(fā)生技術(shù)裂變的領(lǐng)域恰恰證明變革的條件與時(shí)機(jī)尚未成熟，人工智能在這些領(lǐng)域的失語(yǔ)或缺席顯示了當(dāng)前人工智能研究的滯后與缺陷。（3）數(shù)量超越而質(zhì)量不足。與人腦相比，人工智能勝在大數(shù)據(jù)資源、算法創(chuàng)新與算力提升這三個(gè)核心要素的變革之上。它能在有限時(shí)間內(nèi)對(duì)所獲取的海量數(shù)據(jù)進(jìn)行快速計(jì)算與分析，從而得出最優(yōu)化結(jié)果。這一成就建立在海量資源、先進(jìn)算法與超級(jí)算力的前置條件之上，而對(duì)智能運(yùn)算的綜合成本、社會(huì)發(fā)展的總體效益與文化價(jià)值的養(yǎng)成觀照卻成效甚微。人工智能雖隨著自身調(diào)整、適應(yīng)與增強(qiáng)而不斷進(jìn)化，但又面臨數(shù)據(jù)資源稀缺、“算法黑箱”與社會(huì)環(huán)境不確定性的多重挑戰(zhàn)。

四、超越與替代：激進(jìn)的智能革命

1972年，美國(guó)數(shù)學(xué)家維克多·薩尼標(biāo)卡等在《哥德?tīng)栆詠?lái)數(shù)學(xué)中的結(jié)構(gòu)和進(jìn)化》一文中作出警示預(yù)言：“到1984年，世界也許整個(gè)銀河系都要被那些能自我繁殖、自我改造、根本毀壞不了的、無(wú)限進(jìn)化到更高智能形式的計(jì)算機(jī)所統(tǒng)治和控制。將來(lái)人也許要這樣被迫服從于超機(jī)器，或許人將成為計(jì)算機(jī)思想家的玩物或害蟲(chóng)……成為它們低級(jí)發(fā)展形式的回憶，保存在將來(lái)的動(dòng)物園里?！?令人驚喜的是，直到今天都還未出現(xiàn)機(jī)器替代人類(lèi)的局面，但這一境況并不意味著人類(lèi)就可以高枕無(wú)憂，或機(jī)器永遠(yuǎn)都處于人類(lèi)智能的規(guī)訓(xùn)之下。人工智能專(zhuān)家不斷進(jìn)行風(fēng)險(xiǎn)預(yù)警：“未來(lái)的世界，人類(lèi)和機(jī)器將難分彼此，人類(lèi)將不再是萬(wàn)物之靈。電腦將比人腦有高一萬(wàn)倍的智能。量子計(jì)算將引爆技術(shù)未來(lái)。機(jī)器不僅擁有智能，而且擁有心靈，將具有人類(lèi)的意識(shí)、情緒和欲望?！?甚至有人預(yù)言，人機(jī)結(jié)合將使得人類(lèi)壽命得到極大延長(zhǎng)，虛擬現(xiàn)實(shí)可能會(huì)使人與機(jī)器之間相互“戀愛(ài)”，人類(lèi)未來(lái)就是由人機(jī)結(jié)合而誕生的新人類(lèi)或者新物種。

機(jī)器能否超越甚至替代人類(lèi)，這一關(guān)乎人類(lèi)生死存亡的課題要求我們重新審視人工智能與人類(lèi)智能的緊張關(guān)系。圍繞人工智能所產(chǎn)生的分歧與爭(zhēng)議焦點(diǎn)在于：人工智能能否超越甚至替代人類(lèi)智能？從模擬到增強(qiáng)的溫和路線只是技術(shù)創(chuàng)新發(fā)展的可能路徑，難以激發(fā)人類(lèi)對(duì)機(jī)器的過(guò)度憂慮與末日警示。但人工智能之所以能成為理論熱點(diǎn)與社會(huì)焦點(diǎn)，就在于它已不再受限于簡(jiǎn)單的機(jī)器思維，其功能演進(jìn)不會(huì)僅僅停留于模擬與增強(qiáng)這一階段，未來(lái)人工智能的發(fā)展節(jié)奏將是從量變到質(zhì)變、從進(jìn)化到突變，可能帶來(lái)足以顛覆人類(lèi)文明的風(fēng)險(xiǎn)，用人工智能來(lái)重勘人類(lèi)文明與重構(gòu)世界歷史或許不再是神話。在此意義上我們需要追溯與勾畫(huà)人工智能的發(fā)展進(jìn)程，從其演進(jìn)歷程窺見(jiàn)人機(jī)關(guān)系的內(nèi)在緊張。人工智能的發(fā)展大體可被劃分為三個(gè)階段：第一階段是弱人工智能，即機(jī)器像人類(lèi)一樣去思考與行動(dòng)，這主要集中于肢體模仿、圖像識(shí)別、聲音處理、智能運(yùn)算等，其終端產(chǎn)品表現(xiàn)為工業(yè)機(jī)器人、智能手機(jī)、翻譯系統(tǒng)等。弱人工智能對(duì)人類(lèi)智能來(lái)說(shuō)處于局部模仿和有限增強(qiáng)的階段，雖然能彌補(bǔ)與延展諸多人類(lèi)智能所不及、所不能的領(lǐng)域，但終究還是在人類(lèi)可理解與控制的范圍內(nèi)通過(guò)模擬人類(lèi)智能來(lái)作出與人類(lèi)智能相似反應(yīng)的類(lèi)智能系統(tǒng)。第二階段是強(qiáng)人工智能，即機(jī)器和人類(lèi)一樣去思考與行動(dòng)，這主要集中于心理感受、思維活動(dòng)、決策判斷、行動(dòng)選擇等，其終端產(chǎn)品表現(xiàn)為高級(jí)機(jī)器人、無(wú)人駕駛、深度學(xué)習(xí)等智能化系統(tǒng)。

值得注意的是，在人類(lèi)對(duì)強(qiáng)人工智能表示警惕之際，通用人工智能（artificial general intelligence，AGI）被視為人類(lèi)研發(fā)智能技術(shù)的理想目標(biāo)與終極形態(tài)。AGI與強(qiáng)人工智能的本質(zhì)區(qū)別在于：AGI具有高效的學(xué)習(xí)和泛化能力，能夠自主地根據(jù)環(huán)境產(chǎn)生并完成任務(wù)，并具備與人類(lèi)相似的感知、認(rèn)知、決策等能力；強(qiáng)人工智能則專(zhuān)注于特定領(lǐng)域，在特定領(lǐng)域具有極高的自主性與超強(qiáng)的能力，能勝任人類(lèi)的工作甚至超越人類(lèi)，但缺乏跨領(lǐng)域的適應(yīng)性。AGI具有高度的靈活性與適應(yīng)性，具備自我學(xué)習(xí)、自我決策能力，能應(yīng)對(duì)多重場(chǎng)景與執(zhí)行多模態(tài)任務(wù)，是具有多維功能與屬性的綜合智能體。例如，多模態(tài)大模型就是面向AGI的有效嘗試，不排除未來(lái)可能出現(xiàn)在全時(shí)空、全模態(tài)運(yùn)行的綜合智能體，但是這與人類(lèi)所憂慮和警惕的超級(jí)智能就非常接近，難以分辨。強(qiáng)人工智能已走出對(duì)人類(lèi)智能的模擬、摹寫(xiě)與仿生的初級(jí)階段，進(jìn)化到具有和人類(lèi)智能同等功能的層次。換言之，人類(lèi)智能所能完成的任務(wù)，人工智能大體也能完成。與人類(lèi)智能相比，強(qiáng)人工智能雖然在本質(zhì)與結(jié)構(gòu)上存在差異，但在功能運(yùn)用與目的實(shí)現(xiàn)上卻毫不遜色與落后，甚至在某些方面因?yàn)樽龅帽热祟?lèi)智能更好而可以替代人類(lèi)智能，例如深海探測(cè)、危險(xiǎn)救援、無(wú)人駕駛、智能運(yùn)算等方面。

強(qiáng)人工智能是否會(huì)替代或取消人類(lèi)智能？有學(xué)者提出，強(qiáng)人工智能雖能和人類(lèi)一樣思考和行動(dòng)，但不過(guò)是與人類(lèi)智能各司其職、各負(fù)其責(zé)，強(qiáng)人工智能并沒(méi)有取代人類(lèi)智能甚至消滅人類(lèi)物種的企圖，兩者之間并行不悖而互競(jìng)共生。但這很可能只是人類(lèi)的一種樂(lè)觀主義的想象，人工智能技術(shù)的發(fā)展并非完全遵循這種理想主義路徑，強(qiáng)人工智能的技術(shù)迭代可能催生人工智能的第三階段，即“超人工智能”或者說(shuō)“超級(jí)智能”（super intelligence）。超級(jí)智能旨在突破傳統(tǒng)的弱人工智能與強(qiáng)人工智能二分范式，超越人類(lèi)自身的認(rèn)知模式、理解層次與發(fā)展限度。它不僅具有人類(lèi)思維的抽象性、復(fù)雜性與進(jìn)化性，而且具備人類(lèi)既匱乏又急需的超級(jí)思維。雖說(shuō)目前在一般智能方面機(jī)器尚不足以威脅人類(lèi)，但未來(lái)可能出現(xiàn)的超人工智能將在幾乎所有領(lǐng)域遠(yuǎn)遠(yuǎn)超過(guò)人類(lèi)的認(rèn)知能力。人類(lèi)雖然就如何認(rèn)識(shí)與定義超級(jí)智能尚無(wú)統(tǒng)一認(rèn)知，但至少達(dá)成了如下共識(shí)：超級(jí)智能是在幾乎所有的普遍認(rèn)知領(lǐng)域都遠(yuǎn)遠(yuǎn)超越目前人類(lèi)頭腦的智能；超級(jí)智能爆發(fā)的時(shí)間和速度相當(dāng)復(fù)雜，既可能是緩慢的、溫和的，也可能是激烈的1，奇點(diǎn)時(shí)刻不是人類(lèi)所能預(yù)測(cè)或控制的；超級(jí)智能對(duì)人類(lèi)未來(lái)構(gòu)成重大風(fēng)險(xiǎn)與威脅，人類(lèi)的優(yōu)勢(shì)在于現(xiàn)在就可以提前行動(dòng)與防范風(fēng)險(xiǎn)，但如何行動(dòng)以及這種行動(dòng)是否有效卻備受質(zhì)疑。

超級(jí)智能只是人類(lèi)對(duì)于人工智能未來(lái)風(fēng)險(xiǎn)的大膽想象與文明憂思，因此人們難以具體規(guī)定超級(jí)智能的形式與功能，這也正是其可怕與危險(xiǎn)之處。但波斯特洛姆還是為我們預(yù)測(cè)了超級(jí)智能的可能形態(tài)：從形式上而言，超級(jí)智能大體可分為三種類(lèi)型——高速超級(jí)智能、集體超級(jí)智能與素質(zhì)超級(jí)智能。簡(jiǎn)言之，“高速超級(jí)智能是指和人腦相似，但速度快于人腦的智能。該系統(tǒng)可以完成人類(lèi)智能可以完成的所有事，但是速度快很多。超級(jí)智能的另一種形式是：一種通過(guò)整合大量小型智能、實(shí)現(xiàn)卓越性能的系統(tǒng)。該系統(tǒng)由數(shù)目龐大的小型智能組成，在很多一般領(lǐng)域的整體性能都大大超過(guò)所有現(xiàn)有的認(rèn)知系統(tǒng)?！?jí)智能的第三種形式是素質(zhì)超級(jí)智能，這是一個(gè)至少和人類(lèi)大腦一樣快，并且聰明程度與人類(lèi)相比有巨大的質(zhì)的超越的系統(tǒng)”1。就起源與傳承而言，三種形式的超級(jí)智能都以人類(lèi)智能為知識(shí)基礎(chǔ)，歷經(jīng)模仿與增強(qiáng)、學(xué)習(xí)與改造、進(jìn)化與突變之后而生成。必須指出的是，超級(jí)智能不會(huì)提前來(lái)臨或無(wú)故突襲，因?yàn)樘热羧祟?lèi)智能尚未能發(fā)展到足夠的成熟程度與完備階段，真正意義上的超級(jí)智能是不可能出現(xiàn)的。

人類(lèi)對(duì)超級(jí)智能的時(shí)代憂思本質(zhì)上是對(duì)素樸的人類(lèi)中心主義直覺(jué)的捍衛(wèi)。作為人類(lèi)創(chuàng)造物的人工智能是否會(huì)危及、超越甚至替代人類(lèi)文明自身，超級(jí)智能是否會(huì)終結(jié)人類(lèi)智能，如何處理兩者之間的內(nèi)在緊張，這些問(wèn)題存在著三種可能路徑：（1）零和博弈的存亡之爭(zhēng)。地球資源的稀缺性、技術(shù)創(chuàng)新的加速度與未來(lái)世界的不確定性激化了超級(jí)智能與人類(lèi)智能的二元沖突，競(jìng)爭(zhēng)性博弈導(dǎo)致二者之間陷入零和游戲的存亡之爭(zhēng)。相較于具有快速進(jìn)化與深度學(xué)習(xí)能力的超級(jí)智能，人類(lèi)智能面臨著重大挑戰(zhàn)，而在智能競(jìng)賽中敗落可能使人類(lèi)文明消亡。通過(guò)深度學(xué)習(xí)而得到進(jìn)化演變的人工智能具有高度的靈活性與策略性， “當(dāng)人工智能較弱時(shí)，它會(huì)表現(xiàn)得非常合作（當(dāng)它變得更加聰明時(shí)，會(huì)更加合作）。當(dāng)人工智能變得足夠強(qiáng)大時(shí)，它會(huì)在不給出預(yù)警也不作出挑釁的情況下，進(jìn)行逆襲，建成單一體，并開(kāi)始按照其最終價(jià)值觀直接對(duì)世界進(jìn)行改造”2。如果超級(jí)智能超越并最終替代了人類(lèi)智能，那么人類(lèi)文明也將陷入至暗時(shí)刻。霍金在多個(gè)場(chǎng)合提出，人工智能要么是人類(lèi)歷史上最好的事物，要么就是最糟糕和毀滅性的，如果不停止對(duì)人工智能的研究與應(yīng)用，人類(lèi)最終會(huì)被人工智能所取代。（2）兩敗俱傷的生存困局。超級(jí)智能與人類(lèi)智能的地位之爭(zhēng)實(shí)質(zhì)是對(duì)人類(lèi)文明走向何處的終極思考，即人類(lèi)能否最終控制與規(guī)訓(xùn)這一人類(lèi)自己所發(fā)明與創(chuàng)造的產(chǎn)物。如果彼此無(wú)法克服與超越對(duì)方，但又無(wú)法和解共生，那么人類(lèi)智能與超級(jí)智能的持久斗爭(zhēng)終將導(dǎo)致兩敗俱傷的生存困局，而這既將從根本上妨害人類(lèi)對(duì)人工智能的認(rèn)知理解與實(shí)踐應(yīng)用，也無(wú)助于人類(lèi)文明的自我發(fā)展與進(jìn)步創(chuàng)新。（3）美美與共的和諧共生。人類(lèi)智能發(fā)明創(chuàng)造人工智能，發(fā)起弱人工智能、強(qiáng)人工智能甚或超級(jí)智能的智能革命，目的在于填補(bǔ)與克服人類(lèi)認(rèn)知的空白與缺陷，擴(kuò)展與深化人類(lèi)理性的領(lǐng)域與深度，最終使人類(lèi)過(guò)上美好生活。人工智能不應(yīng)否定、取消或替代人類(lèi)智能，而應(yīng)成為推進(jìn)人類(lèi)智能進(jìn)步的動(dòng)力來(lái)源與創(chuàng)新路徑。同樣，人類(lèi)智能也不能無(wú)視人工智能的迅猛發(fā)展與變革效應(yīng)，而應(yīng)承認(rèn)其應(yīng)有的主體性身份，尊重其合理的權(quán)利。平等互信的雙邊關(guān)系應(yīng)是：二者既各行其道又互競(jìng)共逐，既各司其職又雙贏共生。在2017年第四屆國(guó)際互聯(lián)網(wǎng)大會(huì)（烏鎮(zhèn)）上，馬云曾這樣定義人機(jī)關(guān)系：“過(guò)去30年，我們把人變成了機(jī)器，未來(lái)30年，我們將把機(jī)器變成人，但最終應(yīng)該讓機(jī)器更像機(jī)器，人更像人?！?

五、重思人機(jī)關(guān)系的倫理框架

人工智能所激發(fā)的技術(shù)恐懼、倫理反思與哲學(xué)批判，既揭示出人工智能是具有形而上學(xué)意義的“哲學(xué)事件”，也又一次宣告了“哲學(xué)危機(jī)”，即在強(qiáng)人工智能不斷逼近的時(shí)代，哲學(xué)如何進(jìn)行立場(chǎng)定位與價(jià)值審視。在技術(shù)化、加速化與智能化的時(shí)代浪潮中，哲學(xué)不能成為短視的缺席者或沉默的在場(chǎng)者，而是應(yīng)該勇敢直視并主動(dòng)參與，合理闡釋人工智能的功能與意義，深度反思人工智能所產(chǎn)生的技術(shù)風(fēng)險(xiǎn)與道德隱憂。對(duì)此，阿薩羅主張構(gòu)建負(fù)責(zé)任的機(jī)器人倫理學(xué)，確保人類(lèi)與機(jī)器之間不進(jìn)行相互排斥的生存之爭(zhēng)游戲，它至少包含三個(gè)方面內(nèi)容：“首先，機(jī)器人內(nèi)置的倫理系統(tǒng)……其次，設(shè)計(jì)與使用機(jī)器人的倫理……再次，人類(lèi)如何對(duì)待機(jī)器人的倫理?！?研發(fā)與運(yùn)用人工智能既是對(duì)信息技術(shù)的迭代升級(jí)，也涉及人類(lèi)思維的轉(zhuǎn)型突破與倫理規(guī)范的深刻審度。人類(lèi)文明的當(dāng)前要?jiǎng)?wù)是在人工智能誕生之始就為其設(shè)置合乎倫理的程序法則，把人類(lèi)道德與倫理規(guī)范嵌入智能機(jī)器的算法系統(tǒng)中，以使智能運(yùn)算恪守指定的道德律令，盡可能使智能機(jī)器向人類(lèi)價(jià)值看齊。若智能機(jī)器自行違規(guī)則啟動(dòng)停機(jī)模式，若其攻擊或傷害人類(lèi)則觸發(fā)預(yù)置的自毀程序，但這一倫理設(shè)計(jì)不僅異常復(fù)雜且面臨道德選擇的難題。

早期人機(jī)倫理最著名的闡釋是阿西莫夫在科幻小說(shuō)《我，機(jī)器人》中所提出的機(jī)器人三定律：“第一定律：機(jī)器人不得傷害人類(lèi)個(gè)體，或者目睹人類(lèi)個(gè)體遭受危險(xiǎn)而袖手不管；第二定律：機(jī)器人必須服從人給予它的命令，當(dāng)該命令與第一定律相沖突時(shí)除外；第三定律：機(jī)器人在不違反第一、二定律的情況下要盡可能保護(hù)自己的生存。”2此外，他又增加了作為三大定律之根的第零定律——機(jī)器人必須保護(hù)人類(lèi)整體利益不受傷害。第零定律的執(zhí)行順序排在三大定律之前，這四條定律整體呈現(xiàn)出一個(gè)詞典式的優(yōu)先順序。這些定律表面上看是為智能機(jī)器人制定的倫理規(guī)則，要求機(jī)器人首要地為人類(lèi)利益服務(wù)，同時(shí)賦予機(jī)器人以道德主體的資格與權(quán)利，但它面臨著重大的設(shè)計(jì)漏洞：一是內(nèi)容寬泛、語(yǔ)義抽象且邊界模糊，“整體利益”“傷害”“服從”等都是高度情境化的表達(dá)，人類(lèi)智能對(duì)此尚且無(wú)法形成普遍化的認(rèn)知模式，而機(jī)器編碼中如果沒(méi)有明確指令時(shí)，機(jī)器人就會(huì)按照自身意愿行事；二是該定律整體上要求智能機(jī)器為人類(lèi)利益服務(wù)甚至作出犧牲，但這是基于義務(wù)論立場(chǎng)而作出的軟性約束，機(jī)器可以不執(zhí)行甚至反過(guò)來(lái)犧牲人類(lèi)利益。

圍繞這一困境，諸多學(xué)者對(duì)這套定律進(jìn)行了矯正與補(bǔ)充，典型的是羅杰·克拉克提出的修正定律。他設(shè)置了優(yōu)先于其他一切定律的元定律，即機(jī)器人可以什么也不做，除非它的行動(dòng)符合機(jī)器人學(xué)定律。隨后是第四定律，即機(jī)器人必須履行內(nèi)置程序所賦予的責(zé)任，除非這與其他高階的定律沖突。為了避免機(jī)器人模仿人類(lèi)繁衍，他還特制定了繁殖定律，即機(jī)器人不得參與機(jī)器人的設(shè)計(jì)和制造，除非新的機(jī)器人的行動(dòng)服從機(jī)器人學(xué)定律。由七大定律構(gòu)筑的閉環(huán)系統(tǒng)看似嚴(yán)整無(wú)缺，但完美的理論構(gòu)想與復(fù)雜的現(xiàn)實(shí)情境之間存在嚴(yán)重?cái)嗔眩瑱C(jī)器人實(shí)際上會(huì)陷入選擇困境：如果它不能隨機(jī)應(yīng)變作出最優(yōu)選擇，便會(huì)始終停滯在模仿與增強(qiáng)階段，所謂的通用人工智能或超人工智能就是子虛烏有；如果它能替代人類(lèi)在復(fù)雜環(huán)境下作出最優(yōu)的應(yīng)急反應(yīng)，那人類(lèi)便會(huì)喜憂參半——喜的是機(jī)器可以在人類(lèi)認(rèn)知受限的情況下替代人類(lèi)作出最優(yōu)選擇，憂的是能否讓機(jī)器替代人類(lèi)而作出關(guān)乎人類(lèi)命運(yùn)的重大決策。如果智能機(jī)器強(qiáng)行為人類(lèi)當(dāng)家作主，那么素來(lái)為人類(lèi)所尊崇的自我意識(shí)、獨(dú)立人格與主體精神就會(huì)面臨瓦解與湮滅。

圍繞著人工智能與人類(lèi)智能孰高孰低、孰優(yōu)孰劣的論爭(zhēng)，既是對(duì)智能技術(shù)如何形塑與影響人類(lèi)未來(lái)的認(rèn)知探索，更是對(duì)“未來(lái)人類(lèi)”與“人類(lèi)未來(lái)”的概念重構(gòu)與內(nèi)涵擴(kuò)展。部分學(xué)者認(rèn)為，人工智能會(huì)重新定義人類(lèi)概念，電子人、生化人、數(shù)字人、合成人或超級(jí)智人將成為未來(lái)的新人類(lèi)，它使得人與機(jī)器的邊界日趨模糊并增強(qiáng)人類(lèi)的生存優(yōu)勢(shì)，是在人機(jī)交互的基礎(chǔ)上構(gòu)建的新生命形態(tài)。麥克斯·泰格馬克（Max Tegmark）提出了生命3.0構(gòu)想并得到了霍金、馬斯克、赫拉利等人的積極響應(yīng)。所謂的生命1.0指生命從硬件到軟件都由DNA所決定，自身幾乎無(wú)法改變，除非依靠極其緩慢的進(jìn)化，這是生物階段的生命。到了生命2.0階段，人類(lèi)可以學(xué)習(xí)復(fù)雜的新技能與掌握工具，對(duì)生產(chǎn)方式、社會(huì)交往與語(yǔ)言形態(tài)等進(jìn)行有限設(shè)計(jì)與相對(duì)改進(jìn)，進(jìn)而形成一定的世界觀與價(jià)值觀，這可被稱為文化階段的生命?！吧?.0現(xiàn)在地球上尚不存在，它不僅能最大限度地重新設(shè)計(jì)自己的軟件，還能重新設(shè)計(jì)自己的硬件，而不用等著許多世代的緩慢進(jìn)化?！雹倥c前兩階段不同，生命3.0是科技階段，這是人類(lèi)智能通過(guò)發(fā)展人工智能而對(duì)人類(lèi)自身所實(shí)現(xiàn)的“最大化進(jìn)化”。

本質(zhì)而言，人工智能是由人類(lèi)智能所孕育與創(chuàng)生而成，其出現(xiàn)不僅是激發(fā)人類(lèi)重新觀察與思考世界的認(rèn)識(shí)論革命，也是對(duì)包括人在內(nèi)的世界本身的變革。人工智能時(shí)代的來(lái)臨不是我們可以拒絕或挑選的選項(xiàng)，而是必然要投身其中的時(shí)代境遇。即使沒(méi)有人工智能，人類(lèi)智能依然會(huì)自我發(fā)展并生成其他形態(tài)的重大風(fēng)險(xiǎn)與挑戰(zhàn)。解決人機(jī)沖突的根本出路是要跳出二元對(duì)立、零和博弈的獨(dú)斷論，只有二者的有機(jī)共生與和諧共進(jìn)才是文明的發(fā)展之道。人類(lèi)文明的當(dāng)務(wù)之急是構(gòu)建以人為本的負(fù)責(zé)任的人工智能倫理框架，這是處理人工智能與人類(lèi)智能的基本原則，基于這一倫理原則所研發(fā)與應(yīng)用的智能機(jī)器不僅將極大地提升與完善人類(lèi)的生存能力與存在形態(tài)，而且將獲得被人類(lèi)承認(rèn)與尊重的資格與權(quán)利，成為人類(lèi)文明的新要素與新力量。

責(zé)任編輯" "羅雨澤