[摘要]傳統(tǒng)哲學(xué)理論認(rèn)為機(jī)器不存在意識和認(rèn)知能力。智能科技急速迭代進(jìn)化，對類腦科學(xué)研究需求迫切，兩者疊加影響使得機(jī)器意識研究成為當(dāng)今的理論前沿和學(xué)術(shù)熱點(diǎn)。機(jī)器意識研究可以深化物質(zhì)與意識的關(guān)系，借助科學(xué)佐證與技術(shù)細(xì)節(jié)，必將深化哲學(xué)的科學(xué)性與前沿性。作為一種技術(shù)構(gòu)想，機(jī)器意識是一種基于某種哲學(xué)思想來探討機(jī)器是否真正擁有意識與機(jī)器意識的本質(zhì)及建構(gòu)的理論和方法。以“生物算法”為基礎(chǔ)的人類意識，最終將會被以形式化算法為基礎(chǔ)的人工智能充分模擬?？梢灶A(yù)見，隨著人工智能矛盾運(yùn)動的慣性推力，人工智能意識在不久后將可能成為現(xiàn)實(shí)。然而，人工智能并非人類“終結(jié)者”。將倫理置為機(jī)器意識發(fā)展的前置條件，是應(yīng)對其風(fēng)險(xiǎn)的時(shí)代之需。

[關(guān)鍵詞]機(jī)器意識；可及性；腦智外現(xiàn)；覺知內(nèi)顯；倫理前置

[作者簡介]陳萬球，長沙理工大學(xué)科技哲學(xué)與科技倫理治理創(chuàng)新研究中心教授。

*本文系國家社會科學(xué)基金重點(diǎn)項(xiàng)目“人工智能自我意識的可能性及其倫理問題研究”（21AZX017）、國家社會科學(xué)基金重大項(xiàng)目“當(dāng)代科技領(lǐng)域道德問題研究”（22ZD044）的階段性成果。

意識是自古以來最熟稔、最神秘、最令人困擾的哲學(xué)概念之一。因而，對人工智能終極目的實(shí)現(xiàn)而言，機(jī)器意識的探討是繞不開的前沿性難題。智能機(jī)器人是否有意識？從非決定派到?jīng)Q定派激烈之爭彰顯了問題的重要性。

一、機(jī)器意識的有無之爭：從結(jié)構(gòu)說到功能說

人工智能是機(jī)器發(fā)展的最新形式，是20世紀(jì)人類最偉大的發(fā)明之一，它正在迅速而深刻地改變世界和人自身。人工智能系統(tǒng)（如情感機(jī)器人、無人機(jī)、人機(jī)混合增強(qiáng)智能、人臉識別系統(tǒng)、腦機(jī)融合技術(shù)、自主智能系統(tǒng)等）正在大量、快速地普及應(yīng)用，對人類社會產(chǎn)生了全方位、深層次的影響，成為學(xué)界持續(xù)關(guān)注和討論的熱點(diǎn)問題。其中最前沿也最引發(fā)爭議的乃是“人工智能意識”問題。具有自我意識的智能體可能引發(fā)顛覆性的社會倫理問題，對此不能無視，必須積極主動應(yīng)對。

關(guān)于智能機(jī)器是否具有意識問題的研究始于20世紀(jì)50年代。1950年，“人工智能之父”英國數(shù)學(xué)家阿蘭·麥席森·圖靈（Alan Mathison Turing）在《計(jì)算機(jī)器與智能》中首次提出了被后人稱為“圖靈測試”（Turning Test）的方法。1955年美國數(shù)學(xué)家約翰·馮·諾依曼（John von Neumann）在《計(jì)算機(jī)與人腦》中，革命性地詮釋了計(jì)算機(jī)數(shù)學(xué)運(yùn)算與人腦意識的關(guān)系。進(jìn)入21世紀(jì)，學(xué)界圍繞機(jī)器是否具有意識或認(rèn)知能力展開激烈討論，主要分為兩派，即非決定派和決定派。

非決定派基于“結(jié)構(gòu)說”，認(rèn)為意識是生命結(jié)構(gòu)的產(chǎn)物，人工智能不是生命體，強(qiáng)調(diào)意識與生命系統(tǒng)的不可分割性，所以人工智能永遠(yuǎn)不可能產(chǎn)生意識?；谏窠?jīng)科學(xué)的研究，他們認(rèn)為大腦的感知、決策和行為是通過最小化預(yù)測誤差來實(shí)現(xiàn)的，而這些預(yù)測最終是為了維持生物體的內(nèi)穩(wěn)態(tài)（homeo？stasis）。這意味著意識的產(chǎn)生與生物體維持自身生存的需求密切相關(guān)。甚至連最簡單的生命形式，比如單細(xì)胞生物，都需要與外界交換物質(zhì)來維持內(nèi)穩(wěn)態(tài)。從生物自然主義的視角來看，這種生物過程是意識形成的先決條件。意識不僅僅依賴于計(jì)算功能，更與生物過程中的代謝、物理限制和動態(tài)變化密切相關(guān)。非決定派反復(fù)論證，人工智能不可能發(fā)展出具有自主意識的機(jī)器人，意識是人類的獨(dú)有特征，人之外的事物永遠(yuǎn)不可能擁有意識。代表人物國外有約翰·塞爾（John Searle）、羅杰·彭羅斯（Roger Penrose）、蘇珊·布萊克摩爾（Susan Blackmore），國內(nèi)有陳凡、王煥超、韓東屏等。1980年，約翰·塞爾在《心智、大腦和程序》一文中提出著名的“中文房間”思想實(shí)驗(yàn)用以駁斥“圖靈測試”的合理性，認(rèn)為機(jī)器是物質(zhì)，永遠(yuǎn)不可能具備獨(dú)立反思能力。塞爾從研究中得出結(jié)論：意識是一種生物現(xiàn)象，在某種程度上與膽汁分泌可以相提并論[1]（111）。所以，在生物體之外是不可能產(chǎn)生意識的。數(shù)學(xué)家羅杰·彭羅斯篤信，AI與自我意識之間有著不可逾越的鴻溝。布萊克摩爾則認(rèn)為，尋求機(jī)器意識是對機(jī)器人研究的誤導(dǎo)，創(chuàng)造一個意識的機(jī)器主體是不可能的[2]（183）。在國內(nèi)，陳凡認(rèn)為，自我意識是以人的主體性為基礎(chǔ)對自我與對象之間關(guān)系的確認(rèn)和反思，目前來看，AI并不具有自我意識[3]（19）。AI的關(guān)鍵不在于“智能”，而在于是否具備“意識”，從目的論的角度來說，AI永遠(yuǎn)都不會擁有意識，因?yàn)橹悄軝C(jī)器人存在四條無法跨越的鴻溝，即不能知道不在場的人、不能知道昨天和明天、不能自創(chuàng)新編碼、不能用軟件重建硬件[4]（256-257）。在陳俊秀等看來，機(jī)器意識在理論上的可能性和技術(shù)上的可行性均存有疑問[5]（110）。如果把情感、表達(dá)力、意志力、想象力和注意力等五大特征作為判斷機(jī)器是否具有意識的依據(jù)，則機(jī)器人很難具有像人一樣的意識[6]（4-5）。韓東屏認(rèn)為，強(qiáng)人工智能即使具有意識，在功能方面，它也永遠(yuǎn)不可能完全達(dá)到人的意識水平[7]（1）。

決定派基于“功能說”，認(rèn)為意識不通過生命體結(jié)構(gòu)產(chǎn)生，只要通過模擬、深度學(xué)習(xí)等就可以獲得認(rèn)知和意識。只要系統(tǒng)具備了與人類大腦相似的功能，無論物質(zhì)基礎(chǔ)是什么，意識便有可能產(chǎn)生?？梢耘e忒休斯悖論加以說明。假設(shè)我們逐漸更換一艘木船上的每一塊木板，直到最終所有木板都被替換，那么這艘船還是原來的那艘船嗎？計(jì)算功能主義者會進(jìn)一步推導(dǎo)，如果我們將人類大腦中的每一個神經(jīng)元替換為功能等價(jià)的硅基算法，或通過仿真完全復(fù)制大腦的神經(jīng)網(wǎng)絡(luò)，那么這種“硅基大腦”是否可以被認(rèn)為具有意識？計(jì)算功能主義的支持者相信，只要系統(tǒng)的計(jì)算功能等同于人類大腦，無論其物質(zhì)基礎(chǔ)是碳基的還是硅基的，都有可能產(chǎn)生意識。他們甚至認(rèn)為，隨著人工智能的發(fā)展必然會出現(xiàn)擁有自主意識和自由意志的智能機(jī)器，只是時(shí)間尚不確定，代表人物有雷·庫茲韋爾（Ray Kurzweil）、斯蒂芬·威廉·霍金（Stephen William Hawking）、趙汀陽、孫偉平等。庫茲韋爾認(rèn)為，隨著技術(shù)“奇點(diǎn)”的到來，會出現(xiàn)擁有自我意識的“超人工智能”?；艚鹫J(rèn)為，人工智能的發(fā)展是20世紀(jì)最偉大的事件，自主機(jī)器人也必然會出現(xiàn)。強(qiáng)人工智能（Strong AI）會真正擁有人類最寶貴的東西——“自我意識”。趙汀陽認(rèn)為，就技術(shù)趨勢而言，人工智能發(fā)展出自我意識具備極高的可能性[8]（2）。實(shí)際上，自我意識是目前人工智能發(fā)展的瓶頸所在，但不少人相信它一定會取得突破。當(dāng)機(jī)器人可以理解并能夠回答“我是誰”“我從哪里來”這些問題，就意味著機(jī)器人具有了人類同樣的自我意識。傳統(tǒng)哲學(xué)認(rèn)為，“會思維”是人的本質(zhì)，隨著智能機(jī)器人的進(jìn)步，“機(jī)器會思維”將成為不爭的事實(shí)[9]（122）。目前已有科學(xué)家證明人工智能可以形成自我意識。在強(qiáng)人工智能時(shí)代，機(jī)器自我意識可能會產(chǎn)生，智能機(jī)器人可以在算法外獨(dú)立實(shí)施行為[10]（167）。

上述非決定派與決定派的論證，為機(jī)器意識的實(shí)現(xiàn)提供了重要的理論前提和思考元素。我們認(rèn)為：機(jī)器意識的實(shí)現(xiàn)并非一種理論假設(shè)和空中樓閣，而是一種基于科學(xué)技術(shù)發(fā)展的合乎規(guī)律的預(yù)期。

二、機(jī)器意識的可及性：從直覺到內(nèi)隱

機(jī)器意識并不是一個異想天開、庸人自擾的問題。人工智能意識離我們有多遠(yuǎn)呢？機(jī)器意識是指機(jī)器具有算法之外的獨(dú)立的思考和認(rèn)知能力。如果機(jī)器實(shí)施的行為以自我意志為轉(zhuǎn)移，具有相對獨(dú)立性，機(jī)器就具有意識。從人與技術(shù)的關(guān)系看，機(jī)器意識是人的本質(zhì)的投射，從直覺到內(nèi)隱，反映出機(jī)器意識的發(fā)展規(guī)律性特征。

1.新興技術(shù)的涌現(xiàn)不斷增強(qiáng)智能機(jī)器的“感性”

一些與人工智能自我意識產(chǎn)生強(qiáng)相關(guān)的新興技術(shù)將格外引人關(guān)注。神經(jīng)認(rèn)知科學(xué)技術(shù)、深度學(xué)習(xí)技術(shù)、腦機(jī)融合技術(shù)、人工生物合成智能機(jī)器人、量子技術(shù)等技術(shù)變革的現(xiàn)實(shí)涌現(xiàn)，將不斷增強(qiáng)智能機(jī)器的“感性”。作為“心智的生物基礎(chǔ)”的神經(jīng)認(rèn)知科學(xué)是解決意識難問題的新范式，腦和認(rèn)知科學(xué)前沿技術(shù)的突破，使人工智能意識的誕生成為可能。更重要的是，不僅腦智是模塊化的，意識覺知也是如此。在理解覺知機(jī)制后研發(fā)意識覺知模塊，從而在真正意義上實(shí)現(xiàn)和人類感同“心”受的機(jī)器意識。深度學(xué)習(xí)技術(shù)利用海量數(shù)據(jù)訓(xùn)練多層神經(jīng)網(wǎng)絡(luò)，模擬人的意識和行為，從而可能產(chǎn)生意識。在未來幾年，機(jī)器將變得更加智能，并利用無人監(jiān)督的深度學(xué)習(xí)作出更復(fù)雜的決策。腦機(jī)融合技術(shù)正在成為人工智能意識產(chǎn)生的新動力。腦機(jī)融合的方向?yàn)椋阂皇菑臋C(jī)到腦，通過電子信號刺激人腦，再傳輸感覺信息或模擬神經(jīng)功能；二是從腦到機(jī)，即通過大腦操控設(shè)備，通過腦信號進(jìn)行虛擬現(xiàn)實(shí)的交互，腦電操控機(jī)器軀體等。腦機(jī)接口技術(shù)是新一代人機(jī)交互和人機(jī)混合智能的核心技術(shù)，能使機(jī)器借用人類意識進(jìn)行“意識”，提高“自我感性”。

相比之下，更有希望的發(fā)展方向則是量子技術(shù)。意識與量子系統(tǒng)有著天然的聯(lián)系。量子計(jì)算具有比經(jīng)典計(jì)算更強(qiáng)的計(jì)算能力與描述能力，能實(shí)現(xiàn)巨量計(jì)算和解決極其復(fù)雜的計(jì)算困難，且具有真正的不確定性，能突破預(yù)先編程的限制，因而更適合描述復(fù)雜的意識現(xiàn)象?？梢?，量子技術(shù)是最有希望實(shí)現(xiàn)人工智能意識發(fā)展突破的新方向。

2.類腦智能技術(shù)與生物技術(shù)的矛盾運(yùn)動使智能意識成為可能

類腦智能技術(shù)使人類意識在可解析道路上邁出了一大步，人類腦神經(jīng)網(wǎng)絡(luò)的新發(fā)現(xiàn)又推動機(jī)器算法與機(jī)器網(wǎng)絡(luò)的革命。人工智能的進(jìn)化主要在于算法，腦機(jī)融合技術(shù)、生物智能與機(jī)器智能的充分結(jié)合，通過構(gòu)建腦機(jī)混合機(jī)器實(shí)現(xiàn)大腦與機(jī)器的協(xié)同，在算法革命的推動下，最終實(shí)現(xiàn)機(jī)器意識。未來人工智能的類人與非類人發(fā)展路徑之爭不僅帶來智能發(fā)展的更多選擇，也表明類腦智能技術(shù)與生物技術(shù)的矛盾運(yùn)動驅(qū)動著智能體自我意識的可能性發(fā)展。事實(shí)上，腦科學(xué)大量已有進(jìn)展尚未在人工智能領(lǐng)域得到有效利用。例如，目前人工神經(jīng)網(wǎng)絡(luò)所用的神經(jīng)元模型，還是1943年的麥卡洛克-皮茨（M-P）模型，訓(xùn)練的理論依據(jù)，還是1949年提出的赫布學(xué)習(xí)規(guī)則（Hebb Learning Rule）。在腦科學(xué)領(lǐng)域，有許多與智能行為密切相關(guān)的認(rèn)知范式、神經(jīng)活動機(jī)理等“寶藏”等待人工智能領(lǐng)域研究者開發(fā)和利用。大腦的結(jié)構(gòu)和功能極為復(fù)雜，關(guān)于腦科學(xué)的重大突破一旦出現(xiàn)，將極力改變現(xiàn)狀。腦科學(xué)的三大發(fā)展方向，一是理解大腦；二是防止大腦的衰退以及腦疾病的產(chǎn)生；三是模擬人腦，創(chuàng)造具有人一樣的意志、人一樣的認(rèn)知和人一樣的意識的機(jī)器?；谀X科學(xué)與認(rèn)知科學(xué)的人工智能，正是要借助腦科學(xué)與認(rèn)知科學(xué)來逆向工程生物智能以洞悉自然演化的機(jī)制，從而指明機(jī)器智能的進(jìn)化道路，最終以觸達(dá)智能的未來時(shí)。

3.技術(shù)史的演進(jìn)邏輯隱含智能機(jī)器產(chǎn)生自我意識的可能

智能機(jī)器意識的產(chǎn)生是人的進(jìn)化過程：智能機(jī)器是人進(jìn)化的一部分，是人克服自身器官局限的結(jié)果。在馬克思所處的時(shí)代，雖然智能機(jī)器尚未出現(xiàn)，但智能機(jī)器、智能器官等問題已經(jīng)進(jìn)入馬克思的論域。這可以從馬克思“機(jī)器體系和科學(xué)發(fā)展以及資本主義勞動過程的變化”的闡述中看出。馬克思指出，自動的機(jī)器體系“是由自動機(jī)，由一種自行運(yùn)轉(zhuǎn)的動力推動的。這種自動機(jī)是由許多機(jī)械器官和智能器官組成的，因此，工人自己只是被當(dāng)作自動的機(jī)器體系的有意識的肢體”[11]（773）。在這里，自動的機(jī)器體系作為最完善、最適當(dāng)?shù)臋C(jī)器體系形式，是由“機(jī)械器官”和“智能器官”組成的。在馬克思看來，機(jī)器本身是一個不斷發(fā)展的辯證否定過程，當(dāng)機(jī)器發(fā)展到最完備和最適當(dāng)?shù)男问綍r(shí)，必然會出現(xiàn)有“智能器官”的智能機(jī)器。那么，馬克思講的機(jī)器的組成部分“智能器官”是被合理地理解為“工人”，還是被理解為工人之外的“人工智能”的萌芽呢？筆者認(rèn)為，馬克思的本意是指“人”成為機(jī)器的智能器官，作為機(jī)器有意識的智能器官。換言之，在馬克思看來，人是機(jī)器的大腦。

從技術(shù)演進(jìn)的邏輯看，技術(shù)進(jìn)步時(shí)而平穩(wěn)，時(shí)而加速，奇點(diǎn)史揭示了技術(shù)發(fā)展的突變性及其邏輯。研究表明，技術(shù)奇點(diǎn)的到來在邏輯上是完全可能的[12]（94）。人工智能的發(fā)展史既有量變特點(diǎn)，也有奇點(diǎn)特點(diǎn)。人工智能的進(jìn)化邏輯是從弱人工智能到強(qiáng)人工智能和超人工智能，相應(yīng)地，機(jī)器意識的發(fā)展過程也可能是從弱人工智能意識即體現(xiàn)在機(jī)器外部行為的交互性（腦智外現(xiàn)），到強(qiáng)人工智能意識或者超人工智能意識接近于人類的意識，即具有主體知覺意義上的意識能力（覺知內(nèi)顯）。這樣，隨著人工智能范式轉(zhuǎn)移，更多、更優(yōu)的方法將不斷地助力解決以往技術(shù)無法跨越意識革命的門檻的問題。從自我意識發(fā)展角度分析人工智能演進(jìn)軌跡，人工智能意識產(chǎn)生發(fā)展的圖景，可以表現(xiàn)為無意識—低級類腦意識—類腦意識—超類腦意識的階段演進(jìn)邏輯。超類腦意識是人工智能自我意識發(fā)展的高階階段，人工智能在此階段可能突破人類工具理性的設(shè)置。這種邏輯預(yù)示著人工智能意識發(fā)展到高階階段自我意識的可能。

4.智能發(fā)展矛盾運(yùn)動推動智能機(jī)器意識走向可能

事物的內(nèi)在矛盾運(yùn)動推動事物的發(fā)展。智能機(jī)器是否出現(xiàn)自我意識也要從智能發(fā)展的矛盾運(yùn)動中去考察。多重矛盾運(yùn)動推動智能技術(shù)的發(fā)展，推動智能體自我意識呈現(xiàn)螺旋式進(jìn)升，推動人工智能擁有自我意識走向可能。

數(shù)字技術(shù)的有限性與無限性的矛盾運(yùn)動，推動數(shù)字技術(shù)不斷跨越，為智能體的自我意識產(chǎn)生奠定可能性基礎(chǔ)。數(shù)字技術(shù)是當(dāng)代信息技術(shù)的階進(jìn)迭代，是人工智能發(fā)展依賴的最主要技術(shù)。根據(jù)波普爾的表述，世界上存在三種“無限”：（1）物質(zhì)世界的無限；（2）精神世界的無限；（3）物化的精神產(chǎn)品的無限。人類技術(shù)的發(fā)展是從機(jī)械化到電氣化，從信息化到數(shù)字化。如今數(shù)字技術(shù)的發(fā)展，數(shù)字內(nèi)容與數(shù)字產(chǎn)品的無限，新技術(shù)的不斷涌現(xiàn)，成就了技術(shù)發(fā)展的無限性。從發(fā)展歷程和技術(shù)構(gòu)成來看，數(shù)字技術(shù)存在技術(shù)突破的無限性，如數(shù)字技術(shù)的三次飛躍，數(shù)字技術(shù)方興未艾，人的一切皆可數(shù)字化、智能化，從這個意義上講，數(shù)字技術(shù)的發(fā)展是無限的、沒有終止的、無止境的。數(shù)字技術(shù)的有限性是指數(shù)字技術(shù)在一定的歷史條件下，受到當(dāng)下技術(shù)發(fā)展物質(zhì)條件的制約，它既在當(dāng)下又超越當(dāng)下，它既處于“此時(shí)”的技術(shù)中，也處于“未來”的技術(shù)發(fā)展圖景中，從這個意義上說，數(shù)字技術(shù)又是有限的，存在技術(shù)瓶頸的階段性。因此，有限超越無限形成不斷的發(fā)展最終推動數(shù)字技術(shù)的發(fā)展，彼此矛盾推動數(shù)字技術(shù)的不斷跨越，為智能體的自我意識產(chǎn)生奠定可能性基礎(chǔ)。從這個意義上說，智能機(jī)器出現(xiàn)意識就不可避免。

人腦的生物進(jìn)化與人的活動進(jìn)化的矛盾運(yùn)動。人類歷史是“社會人的生產(chǎn)器官的形成史”。人工智能是大工業(yè)的結(jié)果，也是人腦及身體的產(chǎn)物。智能環(huán)境下的海量信息已經(jīng)遠(yuǎn)超人腦的承受度。為適應(yīng)人腦及其延伸（機(jī)器腦）對海量信息處理的需要，“新腦”或人腦的延伸器官必然產(chǎn)生，也會沿著自我意識方向發(fā)展，逐步進(jìn)化出一種超適應(yīng)性。人機(jī)融合可以達(dá)到1+1>2的效果，人類的智慧將被人工智能放大，就像哈勃望遠(yuǎn)鏡一樣，可以推進(jìn)人類文明的進(jìn)步。蔡恒進(jìn)指出：“我們已然賦予機(jī)器某種偏狹的意識，假以時(shí)日，通過混合、迭代等方式，機(jī)器總有一天會進(jìn)化出同人類一樣的、甚至更為復(fù)雜的意識?！盵13]（24）

此外，人的自由本質(zhì)與資本的矛盾運(yùn)動，推動智能機(jī)器產(chǎn)生意識成為可能。智能機(jī)器發(fā)展過程也是人的自由本質(zhì)的實(shí)現(xiàn)過程，智能機(jī)器對人類勞動具有解放性的一面。同時(shí)，人工智能也是資本的“吞噬點(diǎn)”，資本積聚推動了智能機(jī)器的發(fā)展，也植入了資本的偏見。而兩者的對抗與反噬推動了智能機(jī)器向更高階運(yùn)動，智能體自我意識的兩面性契合了這種需求。

三、機(jī)器意識的倫理前置：從一次元到高次元

機(jī)器人的出現(xiàn)帶來機(jī)器的意識問題。馬克思曾指出：“意識在任何時(shí)候都只能是被意識到了的存在?！盵14]（152）如前所述，技術(shù)迭代進(jìn)步，使機(jī)器意識從直覺到內(nèi)隱，從可能走向現(xiàn)實(shí)。人類總是在不停嘗試，尋求其他可能性。然而問題在于，可能性本身包含了眾多不確定的因子，一旦開啟即相當(dāng)于打開了潘多拉魔盒。為此，人類需要對其可能性保持一種高度的倫理覺醒和倫理前置。可喜的是，近年來這種覺醒聲音在哲學(xué)倫理學(xué)界一直不絕于耳。這里存在兩個極為重要的問題：為何倫理應(yīng)作為機(jī)器意識發(fā)展的前置條件？如何實(shí)現(xiàn)機(jī)器意識的倫理前置？從前者看，是因?yàn)闄C(jī)器意識帶來的系列高風(fēng)險(xiǎn)：安全風(fēng)險(xiǎn)、主體性風(fēng)險(xiǎn)、人機(jī)關(guān)系風(fēng)險(xiǎn)等。

人類安全始終是人們擔(dān)心的首要問題。人工智能奇點(diǎn)論預(yù)言：人工智能將會全面超越人類，繼而威脅、奴役甚至毀滅人類?；艚?、馬斯克、比爾·蓋茨等都對AI的未來發(fā)展憂心忡忡。霍金直言不諱：人工智能和基因編輯，已經(jīng)預(yù)示了新技術(shù)的危險(xiǎn)正在逼近臨界點(diǎn)，即正在逼近否定文明的意義甚至是自取滅亡的極限。他贊揚(yáng)AI的發(fā)展是20世紀(jì)最偉大的事件，同時(shí)指出自主AI的出現(xiàn)也是人類的最大危險(xiǎn)。馬斯克認(rèn)為，具有自我意識的AI對人的存在具有顛覆性毀滅風(fēng)險(xiǎn)。在國內(nèi)，2016年趙汀陽撰文《終極問題：智能的分叉》引發(fā)了學(xué)界關(guān)注。他指出，目前的人工智能尚屬于圖靈機(jī)概念，尚未具有主體性。如果試圖開發(fā)一種高于人的存在，這種努力直接就把人類的命運(yùn)置于“存在還是毀滅”（to be or not to be）的抉擇境地。AI危險(xiǎn)之處不是能力，而是自我意識[15]（65）。AI獲得自我意識，反過來取代、控制或統(tǒng)治人類，智能機(jī)器將成為人類的掘墓人。我們生活的時(shí)代正處于機(jī)器崛起的前夜，作為人類智慧延長的AI，在快速進(jìn)化之后會導(dǎo)致能力與責(zé)任的極度不匹配，可能會將世界帶入深壑。

主體性問題亦同樣令人憂慮。一旦AI發(fā)展出自我意識，人-機(jī)界限將會消失，AI將會和人一樣具有主體性。智能機(jī)器在滿足自主性、意向性和責(zé)任的情況下可以視為道德主體。人工智能發(fā)展成為具有主體性和自由意志的超圖靈機(jī)，這樣超級智能是一個有著反思能力和自主性的主體，這是人類的“遠(yuǎn)憂”[16]（8）。人工智能的主體性與人類主體性存在巨大差異。技術(shù)的迭代進(jìn)步加速人-機(jī)界限模糊，沖擊著人的主體地位，使主體性問題凸顯為時(shí)代難題。AI的演進(jìn)方向是逐漸消除與人類的邊界，成為與人類一樣的主體。如果思維還原為機(jī)器運(yùn)算能夠成功實(shí)施，主體的內(nèi)在意向就投射為外部意志，機(jī)器就成了另一種主體性[15]（65）。

具有自我意識的AI的器性與人性有什么區(qū)別？是向善還是向惡？隨著AI和機(jī)器學(xué)習(xí)技術(shù)的發(fā)展，智能機(jī)器必將擁有自我思維，那么智能機(jī)器的本性將挑戰(zhàn)人性[17]（14）。隨著具有自我意識的智能系統(tǒng)面世，人與強(qiáng)人工智能，誰優(yōu)誰劣？余乃忠認(rèn)為，AI具備自我意識、了解行為意義，那么人類與智能機(jī)器的關(guān)系將發(fā)生變化，誰主沉浮，難以估量[18]（100）。

智能時(shí)代的人機(jī)關(guān)系問題引發(fā)深層憂慮。如果自主機(jī)器人出現(xiàn)，必須重新定義人-機(jī)倫理關(guān)系問題。AI的高效率會加劇人對資源掌握的分化，進(jìn)而導(dǎo)致人類社會更大的階級差異。AI的應(yīng)用范圍極其廣闊，AI正在解構(gòu)傳統(tǒng)的人倫關(guān)系。具有自主意識的AI大規(guī)模進(jìn)入日常生活領(lǐng)域，自然人與智能AI的沖突不可避免。人機(jī)融合一旦成為現(xiàn)實(shí)，擁有自我意識的新人工智能體就會產(chǎn)生“我是誰”“我思故我在”等身份認(rèn)同上的困擾與沖突。

智能機(jī)器的道德責(zé)任問題。愛因斯坦曾經(jīng)說過：在我們這個時(shí)代，科學(xué)家具有無比沉重的道義責(zé)任。如果人工智能產(chǎn)生了像人一樣的自主性，那么必然要承擔(dān)相關(guān)道義責(zé)任。人類作為技術(shù)主體，當(dāng)然應(yīng)當(dāng)承擔(dān)人工智能技術(shù)后果的“第一責(zé)任”。“未來怎么樣”決定于我們“現(xiàn)在怎么做”。人類應(yīng)該對人工智能的研究、應(yīng)用和管理真正地負(fù)起責(zé)任來。值得慶幸的是，“負(fù)責(zé)任的人工智能”業(yè)已成為社會的共識。人之外的“第二主體”——人工智能，能否承擔(dān)人之外的道德責(zé)任呢？擁有自主意識的智能體承擔(dān)“準(zhǔn)道德責(zé)任”或“第二責(zé)任”（the second responsibility），這是必然的。

機(jī)器意識的風(fēng)險(xiǎn)絕不僅僅局限于上述分析。機(jī)器意識的風(fēng)險(xiǎn)是復(fù)雜多元的，包括但不限于人工智能倫理沖突、對人類智能的影響、社會實(shí)驗(yàn)的倫理關(guān)切、機(jī)器意識的道德問題以及對倫理道德的影響等。它是隨著“弱人工智能—強(qiáng)人工智能—超人工智能”的技術(shù)發(fā)展軌跡逐步產(chǎn)生和不斷累積的。人工智能所蘊(yùn)含的技術(shù)風(fēng)險(xiǎn)存在一個逐步顯現(xiàn)并演化的過程。隨著機(jī)器人在各個領(lǐng)域的決策越來越多，從被動工具變成人類的代理者，需要建立新的倫理范式，將人類社會的倫理規(guī)范延伸到智能機(jī)器，傳統(tǒng)的倫理框架可能不再適用，需要重新考慮人與機(jī)器的關(guān)系，以及如何在新的技術(shù)環(huán)境中維護(hù)倫理原則。機(jī)器意識帶來的顛覆性變革不再局限于某一領(lǐng)域，而是實(shí)現(xiàn)全領(lǐng)域、全技術(shù)要素的突破與跨越，讓單一系統(tǒng)的“安全邊界”消失，因而蘊(yùn)含著極大的錯誤疊加與連鎖反應(yīng)的風(fēng)險(xiǎn)，一旦這些系統(tǒng)性錯誤降臨，就會被傳導(dǎo)和放大，產(chǎn)生非線性疊加錯誤，給整個人類社會帶來巨大的威脅和沖擊，各種技術(shù)風(fēng)險(xiǎn)從一元到高元疊加升級，推動了機(jī)器意識“倫理大變局”。

那么，如何實(shí)現(xiàn)機(jī)器意識的倫理前置呢？可以從技術(shù)的倫理前置和社會的倫理前置兩個角度進(jìn)行分析。

技術(shù)的倫理前置：責(zé)任內(nèi)嵌。鑒于技術(shù)與人類行為之間的深刻聯(lián)系，人類應(yīng)當(dāng)擔(dān)負(fù)起對應(yīng)的責(zé)任和義務(wù)，也就是進(jìn)行面向未來的技術(shù)評估。在開放發(fā)展的價(jià)值導(dǎo)向下，我們迫切地需要將道德責(zé)任的模式從因果關(guān)系轉(zhuǎn)變?yōu)闃?biāo)準(zhǔn)責(zé)任。不管是從倫理的角度還是從道德的角度來看，它首先表現(xiàn)為一種“實(shí)踐性”的存在，是一個用于規(guī)范行為的規(guī)則體系。換句話說，倫理和道德的核心價(jià)值在于為實(shí)踐提供指導(dǎo)并規(guī)范道德主體的行為和言論?？萍紕?chuàng)新和倫理體系的共同目標(biāo)是增進(jìn)人類福祉。近年來，國內(nèi)外都在探索的“負(fù)責(zé)任創(chuàng)新”（responsible research and innovation）技術(shù)發(fā)展模式，通過合理安排參與主體、調(diào)整特定的溝通流程、促使治理參與者改變或提高對新興技術(shù)風(fēng)險(xiǎn)的認(rèn)知，并在預(yù)測、反思、協(xié)商和反饋等多個框架內(nèi)，致力將道德、法律和社會因素整合到創(chuàng)新的全過程。這一明確并加強(qiáng)了技術(shù)研發(fā)主體在社會責(zé)任和道德規(guī)范方面的“倫理前置”機(jī)制，在規(guī)范技術(shù)創(chuàng)新應(yīng)用方面的效果明顯優(yōu)于“事后補(bǔ)救”的現(xiàn)有倫理審查方式。實(shí)現(xiàn)科技創(chuàng)新中的“倫理內(nèi)嵌”是倫理前置的核心要素。在一個以價(jià)值為核心的世界中，人的生命被視為最高的價(jià)值，它只應(yīng)被視為其他價(jià)值的追求，而不應(yīng)被用作實(shí)現(xiàn)其他目的的手段。人的生命不應(yīng)被視為可交換的等價(jià)物，我們必須維護(hù)人的尊嚴(yán)，并始終將人的價(jià)值作為基本目標(biāo)和前置條件。

社會的倫理前置：綜合施策。針對智能機(jī)器倫理風(fēng)險(xiǎn)，國內(nèi)外目前已形成的應(yīng)對的社會倫理前置策略有：一是政府加強(qiáng)應(yīng)對，將人工智能發(fā)展放在國家層面進(jìn)行規(guī)劃，如美國啟動“國家機(jī)器人計(jì)劃”，我國啟動“中國腦計(jì)劃”。二是學(xué)界加強(qiáng)機(jī)器意識倫理風(fēng)險(xiǎn)研討。很多學(xué)者認(rèn)為，人工智能自我意識及其實(shí)踐將會引起許多重要而有趣的問題。解決機(jī)器倫理風(fēng)險(xiǎn)，在國際學(xué)術(shù)界有較大影響力的是自上而下的道德編碼和自下而上的道德學(xué)習(xí)的機(jī)器設(shè)計(jì)思路。這兩種設(shè)計(jì)各有局限，前者存在選擇何種倫理價(jià)值嵌入以及如何應(yīng)對復(fù)雜道德場景的問題，后者存在沒有倫理指導(dǎo)系統(tǒng)，僅憑機(jī)器學(xué)習(xí)，輸入機(jī)器的道德敏感數(shù)據(jù)會得出何種結(jié)果的問題，值得學(xué)界密切關(guān)注。三是爭取民眾廣泛支持，吸引公眾參與，積極穩(wěn)妥地引導(dǎo)人工智能技術(shù)始終在符合人類利益的軌道上發(fā)展。面對新技術(shù)發(fā)展的不確定性，需要超越狹隘利益局限，引導(dǎo)社會廣泛參與，以更好地應(yīng)對危機(jī)。四是健全技術(shù)治理機(jī)制。應(yīng)當(dāng)謹(jǐn)慎研發(fā)人工智能技術(shù)，對機(jī)器能力進(jìn)行治理限制，尤其是限制它們的自主意識和綜合能力，在法律、政策和倫理框架下運(yùn)用該技術(shù)。在全球范圍內(nèi)，多個國家和地區(qū)已經(jīng)建立了自己的人工智能倫理治理框架，如我國的《人工智能倫理治理標(biāo)準(zhǔn)化指南》、歐盟的《人工智能法案》、美國的《人工智能風(fēng)險(xiǎn)管理框架》等。

機(jī)器意識雖然在目前顯現(xiàn)度還不夠，短時(shí)間難以實(shí)現(xiàn)，但是人類應(yīng)未雨綢繆，實(shí)時(shí)跟進(jìn)，保持對人工智能發(fā)展過程中所蘊(yùn)含的技術(shù)風(fēng)險(xiǎn)的警惕。

結(jié)語

庫茲韋爾在《靈魂機(jī)器的時(shí)代》中預(yù)言：“21世紀(jì)結(jié)束之前，人類將不再擁有地球上’萬物之靈’的頭銜，不再能主宰地球?！盵19]（1）當(dāng)前的人工智能處在尚不具備意識的弱人工智能階段。誠然，即使強(qiáng)人工智能和超人工智能出現(xiàn)自我意識和認(rèn)知，我們也堅(jiān)信：人始終是智能行為的總開關(guān)，機(jī)器背后的真正主人始終是人類。因此，在人類紀(jì)，急切呼喚對技術(shù)的研發(fā)和應(yīng)用進(jìn)行全方位有效的公共性制衡的原則，為實(shí)現(xiàn)“倫理邏輯”與“技術(shù)邏輯”的協(xié)同耦合提供紓解之道[20]（45-52）。

[參考文獻(xiàn)]

[1]約翰·塞爾.意識的奧秘[M].劉葉濤，譯.南京：南京大學(xué)出版社，2009.

[2]布萊克摩爾.人的意識[M].耿海燕，李奇，等校譯.北京：中國輕工業(yè)出版社，2008.

[3]陳凡，程海東.人工智能的馬克思主義審視[J].思想理論教育，2017（11）.

[4]楊偉國，吳俊豪，岑寶蘭.從信息視野初探人工智能與意識的鴻溝[C]//中國科學(xué)技術(shù)協(xié)會.提高全民科學(xué)素質(zhì)、建設(shè)創(chuàng)新型國家：2006中國科協(xié)年會論文集.香港京港學(xué)術(shù)交流中心，香港浸會大學(xué)，北京師范大學(xué)珠海分校，2006.

[5]陳俊秀，李立豐.“機(jī)器意識”何以可能：人工智能時(shí)代“機(jī)器不能被騙”立場之堅(jiān)守[J].大連理工大學(xué)學(xué)報(bào)（社會科學(xué)版），2020，41（6）.

[6]ALEKSANDER I，DUNMALL B. Axioms and Tests for the Presence of Minimal Consciousness in Agents I：Preamble[J].Journal of Consciousness Studies，2003，10（4/5）.

[7]韓東屏.智能機(jī)器人意識問題的各種解答與我見[J].自然辯證法通訊，2021，43（4）.

[8]趙汀陽.人工智能的自我意識何以可能？[J].自然辯證法通訊，2019，41（1）.

[9]孫偉平.關(guān)于人工智能的價(jià)值反思[J].哲學(xué)研究，2017（10）.

[10]吳允鋒.人工智能時(shí)代侵財(cái)犯罪刑法適用的困境與出路[J].法學(xué)，2018（5）.

[11]馬克思，恩格斯.馬克思恩格斯選集：第2卷[M].北京：人民出版社，2012.

[12]梅劍華.人工智能與因果推斷：兼論奇點(diǎn)問題[J].哲學(xué)研究，2019（6）.

[13]蔡恒進(jìn).論智能的起源、進(jìn)化與未來[J].人民論壇·學(xué)術(shù)前沿，2017（20）.

[14]馬克思，恩格斯.馬克思恩格斯選集：第1卷[M].北京：人民出版社，2012.

[15]趙汀陽.終極問題：智能的分叉[J].世界哲學(xué)，2016（5）.

[16]趙汀陽.人工智能“革命”的“近憂”和“遠(yuǎn)慮”：一種倫理學(xué)和存在論的分析[J].哲學(xué)動態(tài)，2018（4）.

[17]林命彬.哲學(xué)視角下智能機(jī)器在自我意識和行為意義上的突破[J].黑龍江社會科學(xué)，2016（6）.

[18]余乃忠.自我意識與對象意識：人工智能的類本質(zhì)[J].學(xué)術(shù)界，2017（9）.

[19]雷·庫茲韋爾.靈魂機(jī)器的時(shí)代：當(dāng)計(jì)算機(jī)超過人類智能時(shí)[M].沈志彥，祁阿紅，王曉冬，譯.上海：上海譯文出版社，2002.

[20]陳萬球，付圣瑩.人工智能教育的倫理風(fēng)險(xiǎn)探賾[J].長沙理工大學(xué)學(xué)報(bào)（社會科學(xué)版），2024，39（3）.

（責(zé)任編輯：孫保學(xué)）