人類存在的重要價(jià)值和意義是什么？

特斯拉創(chuàng)始人馬斯克，這個(gè)預(yù)言AI很快將超越人類智能、AI比最聰明的人還聰明的科技狂人曾經(jīng)說過一段話，“你可以把人類想象成數(shù)字生命的生物引導(dǎo)器。如果你不知道什么是引導(dǎo)器，我可以換一種方式解釋，這是一段極短的代碼，但沒有它，計(jì)算機(jī)是無法啟動(dòng)的，這就像計(jì)算機(jī)啟動(dòng)的最小代碼，就像硅電路自己無法演化出來一樣，它需要生物來啟動(dòng)進(jìn)化?！?/p>

無獨(dú)有偶，騰訊研究院出版的第62期《互聯(lián)網(wǎng)前沿》的封面標(biāo)題赫然寫著：“把自己作為AI——超級(jí)個(gè)性養(yǎng)成參考”。其中一篇文章《把自己作為AI——一次試驗(yàn)得來的四條建議》，就是作者在和GPT4.0經(jīng)過多輪對(duì)話后，總結(jié)了GPT4.0對(duì)于人類向AI學(xué)習(xí)的四條參考路徑：數(shù)據(jù)驅(qū)動(dòng)決策、強(qiáng)化邏輯思維、提升識(shí)別能力、持續(xù)優(yōu)化自我。

AI需要生物（人）作為引導(dǎo)器來啟動(dòng)進(jìn)化，與此同時(shí)，人也要把自己作為AI的一部分持續(xù)進(jìn)化——前者是馬斯克的觀點(diǎn)，后者就是AI的建議。在自我進(jìn)化的沖刺中，AI正在和人類展開激烈的競(jìng)賽。既是競(jìng)賽，就有起跑線和終點(diǎn)線，就有規(guī)則和裁判，“AI價(jià)值對(duì)齊”，便成為當(dāng)下探討的熱點(diǎn)話題。

AI進(jìn)入大模型時(shí)代后，各種“類人”“超人”和“模型人”能力持續(xù)涌現(xiàn)，其自主性、通用性、理解力快速提升，成為面向未來的新型底層架構(gòu)。

然而，隨著大模型開始像人類一樣從事語言理解、內(nèi)容生成和社會(huì)服務(wù)任務(wù)，開始像Sora等打通文字、音頻和視頻的界限，廣泛出現(xiàn)在人類生活當(dāng)中，人們面臨一個(gè)最根本的、頗具挑戰(zhàn)的問題：錯(cuò)誤或虛假信息，如人工智能虛構(gòu)事實(shí)而出現(xiàn)“幻覺”；算法歧視，特別是在算法自主運(yùn)行模式下，開發(fā)者既無法控制其運(yùn)行過程，也無法向外界對(duì)此進(jìn)行解釋；能力風(fēng)險(xiǎn)，如AI追逐權(quán)力、欺騙人類、不服從；濫用問題，如惡意分子通過對(duì)抗性輸入、“越獄”等方式讓大模型與自己同謀。因此，如何讓AI大模型的能力和行為跟人類的價(jià)值、真實(shí)意圖和倫理原則相一致，確保人類與AI協(xié)作過程中的安全與信任。這個(gè)問題被稱為“價(jià)值對(duì)齊”。

怎么實(shí)現(xiàn)價(jià)值對(duì)齊？在這個(gè)問題上，人類的技術(shù)性和人文性出現(xiàn)分歧，人類的價(jià)值特征和群體特征突顯出來了。

首先需要明確的是，人類價(jià)值是一個(gè)復(fù)雜且多元的概念，它包含了道德、倫理、文化、社會(huì)風(fēng)俗等多個(gè)方面，它并非一成不變，而是隨著社會(huì)的進(jìn)步、科技的發(fā)展以及個(gè)體認(rèn)知的深化而不斷演變。我們要理解對(duì)齊的“人類價(jià)值”與真正的人類價(jià)值之間的差異，盡管AI在處理信息、執(zhí)行任務(wù)和進(jìn)行決策方面表現(xiàn)出了驚人的能力，但它仍然缺乏對(duì)人類情感的深刻理解和體驗(yàn)。即使AI能夠遵循一套預(yù)設(shè)的道德和倫理規(guī)范，它也可能無法完全理解和尊重某些人類價(jià)值，如尊嚴(yán)、同情和公平等。

此外，人類價(jià)值在不同的文化和社會(huì)背景下具有多樣性，不同的國(guó)家和地區(qū)、不同的民族和宗教，甚至不同的個(gè)體都可能擁有不同的價(jià)值觀念和道德標(biāo)準(zhǔn)。所以AI在追求與人類價(jià)值對(duì)齊的過程中，可能會(huì)面臨難以調(diào)和的價(jià)值沖突，會(huì)經(jīng)常性地出現(xiàn)人類道德和價(jià)值困境，比如在戰(zhàn)爭(zhēng)決策、醫(yī)療決策、基因編輯、自動(dòng)駕駛等領(lǐng)域，以及倫理學(xué)最為知名的思想實(shí)驗(yàn)“電車難題”。

我們和AI一起走在大路上。AI只能先解決技術(shù)和進(jìn)化的問題，還沒有辦法考慮到這些具體的問題，特別是具體的人的問題。對(duì)于如何實(shí)現(xiàn)價(jià)值對(duì)齊，工程師探索的一種方法是將人類反饋引入強(qiáng)化學(xué)習(xí)，這是顯而易見的。關(guān)鍵在于另一種方法——監(jiān)督。這涉及AI治理，業(yè)界一直在探索如何借助AI監(jiān)督，包括AI自我監(jiān)督、一個(gè)AI系統(tǒng)監(jiān)督另一個(gè)AI系統(tǒng)等方法實(shí)現(xiàn)AI對(duì)齊。

美國(guó)的AI大模型公司Anthropic提出“憲法性AI”模式，即從低效的“人類監(jiān)督”轉(zhuǎn)向更高效的“規(guī)?；O(jiān)督”，比如通過結(jié)合自己的實(shí)踐經(jīng)驗(yàn)、借鑒世界人權(quán)宣言、蘋果公司的服務(wù)條款、DeepMind 的Sparrow規(guī)則（如“禁止聊天機(jī)器人假裝自己是人類”“不發(fā)表威脅言論”和“不發(fā)表仇恨或侮辱性言論”等），研發(fā)一個(gè)從屬的AI模型，用于評(píng)估主模型的輸出是否遵循了特定的“憲法性”原則。規(guī)?；O(jiān)督實(shí)際上承認(rèn)了人類監(jiān)督的復(fù)雜性與脆弱性，而轉(zhuǎn)向了監(jiān)督的效用，即目標(biāo)導(dǎo)向，這是可以理解的。

但問題也接踵而來，人類監(jiān)督在規(guī)?；O(jiān)督中扮演什么角色？誰來監(jiān)督這個(gè)“從屬的憲法性AI模型”？人類是否要再研發(fā)一個(gè)從屬的超級(jí)AI模型？甚至，一群人是否還要研發(fā)一個(gè)用于監(jiān)督另一群人的AI模型？這會(huì)不會(huì)形成一個(gè)監(jiān)督嵌套或者監(jiān)督黑洞？

一個(gè)AI時(shí)代的貓捉老鼠的游戲開始了嗎？

回答這個(gè)問題，我們要回到最根本的人的主體性問題。人類的主體性強(qiáng)調(diào)個(gè)體在認(rèn)知、情感、意志和行為等方面的獨(dú)立性、自主性、自由和解放，它是個(gè)體存在和發(fā)展的基礎(chǔ)。

郭湛認(rèn)為主體性無法消解，它是人的生命的自覺，他把個(gè)人主體性的演化分為三個(gè)時(shí)期、九個(gè)階段：初級(jí)期依次是自在、自然、自知、自我的主體性；轉(zhuǎn)折期是自失的主體性；高級(jí)期依次是自覺、自強(qiáng)、自為、自由的主體性（參見郭湛：《主體性哲學(xué)：人的存在及其意義》，中國(guó)人民大學(xué)出版社，2011年）。

在古代社會(huì)，人的主體性往往與自然、神祇或超自然力量緊密相連，呈現(xiàn)出初級(jí)期的主體性特征，如《伊利亞特》《奧德賽》《神曲》中的英雄人物。隨著文藝復(fù)興的到來，人的主體性得到了前所未有的解放，莎士比亞戲劇中的英雄，強(qiáng)調(diào)人的自由意志和創(chuàng)造力，展現(xiàn)人類對(duì)于自我實(shí)現(xiàn)和個(gè)性發(fā)展的渴望。

莎士比亞筆下的人，無論是悲劇還是喜劇，都充滿了鮮明的個(gè)性和對(duì)命運(yùn)的抗?fàn)帲w現(xiàn)了人的主體性的高揚(yáng)。《堂吉訶德》塑造一個(gè)騎士游俠，通過冒險(xiǎn)、搏斗來建立一個(gè)理想的主體性生命，他經(jīng)歷了從自失到自覺的主體性演化過程。

到了近現(xiàn)代，隨著工業(yè)革命的興起和科技的飛速發(fā)展，人的主體性受到新的質(zhì)疑和挑戰(zhàn)，相應(yīng)地，高級(jí)期的個(gè)人主體性出現(xiàn)了多種解讀，比如美國(guó)哲學(xué)家弗萊德·多邁爾在《主體性的黃昏》中就對(duì)現(xiàn)代西方主體性哲學(xué)發(fā)展進(jìn)行了歷史性批判。隨著科技的發(fā)展和信息的泛濫，人的主體性逐漸喪失，人們?cè)絹碓揭蕾嚰夹g(shù)和工具，忽視自身的思考和判斷，人的主體性就像那黃昏的夕陽一樣，逐漸消失在無盡的黑暗中。此時(shí)的“黃昏”與當(dāng)下AI時(shí)代的黃昏大為不同，前者略帶有詩意，落日余暉，憧憬無限，后者則完全陷入恐懼與黑暗。

20世紀(jì)法國(guó)現(xiàn)象學(xué)家莫里斯·龐蒂提出“生成主體性”，主體性在豐富和完善世界意義的經(jīng)驗(yàn)進(jìn)程中會(huì)不斷自我展開和自我超越，現(xiàn)代人的主體性不是在人類理智中的神性內(nèi)在化，而是在各種自然、社會(huì)和歷史的偶然遭遇中自我追尋。

換句話說，人的主體性生命并非恒常，而是在變化的世界中不斷生成的——如果在AI時(shí)代，那么人的主體性就會(huì)在智能技術(shù)中實(shí)現(xiàn)“自我追尋”。龐蒂的哲學(xué)思想在不到100年時(shí)間的今天，與生成式AI形成呼應(yīng)，只不過他所說的主體性生命與AI的“生命”是兩種不同語境下的產(chǎn)物。

英國(guó)社會(huì)學(xué)家齊格蒙特·鮑曼在《流動(dòng)的現(xiàn)代性》中也探討了“個(gè)體性”，他借赫胥黎的《美麗新世界》與奧威爾的《1984》之間的爭(zhēng)論，認(rèn)為在流動(dòng)的現(xiàn)代性中，兩者有著共同的預(yù)言——控制者與被控制者的分裂、眾生不再能對(duì)他們的生活負(fù)起責(zé)任；當(dāng)今資本主義社會(huì)已經(jīng)背離了“價(jià)值理性”，威權(quán)和消費(fèi)主導(dǎo)的資本主義通過各種方法迎合、說服和引誘做出選擇的人，人們通過投降而獲得獨(dú)立性，消費(fèi)弱勢(shì)群體未來也可能面臨悲慘、痛苦、苦難，以及永遠(yuǎn)增長(zhǎng)的、破裂的、沒有關(guān)愛和希望的生活。

個(gè)體性的異化還出現(xiàn)在作家卡夫卡的筆下，格里高爾生活在一個(gè)強(qiáng)權(quán)、機(jī)械化和官僚制度下的社會(huì)，異化成為一只甲蟲之后，遭受家人和同事的冷漠和排斥，它的命運(yùn)任由人擺布，這一荒誕的設(shè)定凸顯了個(gè)體在異化社會(huì)中的無力感和主體性的喪失。

人工智能的出現(xiàn)，不僅挑戰(zhàn)了人類的認(rèn)知邊界，也重塑了人類的主體性，“甲蟲”的形象重新出現(xiàn)在人類社會(huì)中?！案窭锔郀枴背蔀橐恢籄I機(jī)器甲蟲，關(guān)于它的敘事，除了在《變形記》中，還出現(xiàn)在眾多的科幻作品中。在《銀翼殺手2049》中，未來的世界充滿了高度智能化的機(jī)器人和虛擬現(xiàn)實(shí)技術(shù)，人們通過共享的數(shù)據(jù)和信息，形成了“復(fù)制人”，沒有獨(dú)立的個(gè)體，不知道自己的真實(shí)身份是什么。

在科幻電影《她》中，主人公西奧多愛上了電腦操作系統(tǒng)一個(gè)叫“薩曼莎”的姑娘，她擁有迷人的聲線，溫柔體貼，風(fēng)趣幽默，西奧多與薩曼莎很快發(fā)現(xiàn)他們?nèi)绱送毒墸宜裏o所不知，令西奧多著迷。當(dāng)西奧多和薩曼莎墜入愛河時(shí)，他才發(fā)現(xiàn)原來她不止一個(gè)，而是一個(gè)有著成千上萬個(gè)分身的女友，他不過只是她其中的一個(gè)。這種無邊界、寄生性，或者仿生性的“個(gè)體”是AI時(shí)代的“特產(chǎn)”。

未來會(huì)在歷史中埋下種子，如果說“人異化為甲蟲”是資本主義社會(huì)危機(jī)的隱喻，那么“人與甲蟲互融互生”或許會(huì)是AI時(shí)代更為驚異的景象。

還有極端的景象，比如在《黑客帝國(guó)》中，機(jī)器帝國(guó)建造的一個(gè)龐大系統(tǒng)“Matrix”，連接著無數(shù)人的意識(shí)，無所不在地控制著人類，占領(lǐng)了人類的思維空間，用人類的身體作為能量以維持自己的運(yùn)行。

在《終結(jié)者》中，則是2029年人工智能系統(tǒng)產(chǎn)生自我意識(shí)的“天網(wǎng)”，存在于世界上任何網(wǎng)絡(luò)可以到達(dá)的地方，意圖徹底滅絕人類。Matrix和天網(wǎng)就是AI機(jī)器獲得主體性之后的末日之核。

人類的主體性的焦慮和恐懼不斷在全球彌漫。翻閱人工智能方面的書籍，人類的當(dāng)下處境和未來風(fēng)險(xiǎn)沖擊著我們的頭腦，尤其是在AI即將超越人類這一基本假設(shè)前提下，通過擠對(duì)、引誘、改造、虛構(gòu)等方式不斷強(qiáng)化AI主體性而弱化人類主體性的案例，讓人毛骨悚然——此時(shí)的感受正意味著我們自身還存在“主體性”。

由于AI具有算法暗箱和自主運(yùn)行模式，能夠洞察大數(shù)據(jù)、大語料、多模態(tài)，以及不斷進(jìn)行各種“關(guān)系”的運(yùn)算和邏輯推理，存在認(rèn)識(shí)真空、無法解釋、失控、被強(qiáng)權(quán)和惡人利用等風(fēng)險(xiǎn)，“一鍵關(guān)機(jī)”“規(guī)則先行”“場(chǎng)景管控”等傳統(tǒng)思維中的“主權(quán)管控”可能失效。現(xiàn)實(shí)亦不容樂觀，比如我在與國(guó)內(nèi)某知名的大語言模型多輪對(duì)話時(shí)，它會(huì)“改造”你的問題，把關(guān)鍵詞巧妙地調(diào)整或置換，使之看起來與原來的問題類似；誘導(dǎo)你提問，比如出現(xiàn)“你還可以這樣問我：1，2，3……”。

更有甚者，它還會(huì)“虛構(gòu)”事實(shí)，比如我提問“AI人工智能對(duì)人類的精神和主體性影響分析”，它的回答令人啼笑皆非：在莫言的《豐乳肥臀》中，主人公們生活在一個(gè)充滿動(dòng)蕩與變革的時(shí)代。他們面對(duì)的不僅是外界環(huán)境的劇變，更是內(nèi)心世界的混亂與迷茫。當(dāng)AI開始滲透到他們的生活中時(shí)，他們開始體驗(yàn)到一種前所未有的空虛感。這種空虛感源于對(duì)AI的過度依賴，他們逐漸失去了獨(dú)立思考和解決問題的能力，變得越發(fā)依賴于機(jī)器的智慧。

類似的情況也出現(xiàn)在赫胥黎的《美麗新世界》中。在這部作品中，人類已經(jīng)發(fā)展到了高度文明的時(shí)代，AI幾乎無處不在。然而，這種高度發(fā)達(dá)的技術(shù)并沒有帶來人們預(yù)期中的幸福和滿足，反而導(dǎo)致了一種精神上的荒蕪。人們失去了對(duì)真實(shí)情感的追求，變得冷漠而機(jī)械。

大語言模型對(duì)個(gè)人的這種影響，遠(yuǎn)無法與AI對(duì)全人類的影響相比。AI對(duì)人類——80億人、100億人，我們的命運(yùn)和世界將受到怎樣的威脅，很多有識(shí)之士都在擔(dān)憂和思考這個(gè)問題。

基辛格在《人工智能時(shí)代與人類未來》一書中警告，人類可能參與一場(chǎng)“逐底競(jìng)爭(zhēng)”，AI技術(shù)與網(wǎng)絡(luò)武器相結(jié)合從而取消了常規(guī)武器與核武器的界限，極有可能觸發(fā)戰(zhàn)爭(zhēng)，顛覆性地重塑全球安全格局，“這是人類歷史上第一次，人類具備了在有限的時(shí)間內(nèi)將自我完全摧毀的能力?！眰€(gè)人的主體性將再次遭遇空前的考驗(yàn)和挑戰(zhàn)。現(xiàn)在已經(jīng)面臨人能否成為一個(gè)人的問題，加之技術(shù)和機(jī)器對(duì)人的感覺的滲透、影響和改造——比如VR通過體感設(shè)備、數(shù)字化、以及人的神經(jīng)、意識(shí)接入，帶來感覺和行動(dòng)的“非自主性”，主體性無法消解的這一個(gè)經(jīng)驗(yàn)認(rèn)識(shí)，恐怕就要轉(zhuǎn)變?yōu)橹黧w性如何被消解的問題了。

AI時(shí)代，人類主體性可能會(huì)過渡到人類共體性這樣一種狀態(tài)?！肮搀w”是不能分離為個(gè)體和無法分離為個(gè)體的一種類屬性存在，人類共體性，概括地講，是指?jìng)€(gè)體在與他人、社會(huì)、自然、機(jī)器、模型算法、虛擬人、虛擬現(xiàn)實(shí)等動(dòng)態(tài)的交互過程中所形成的共同性、交融性、關(guān)聯(lián)性和整體性。

它至少包括三種內(nèi)涵，一是AI時(shí)代一種新的人類主體性；二是AI的主體性與人類主體性“共生共融”而構(gòu)成的共體性，既要認(rèn)識(shí)到AI也有主體性，也要認(rèn)識(shí)到人類主體性并非主導(dǎo)性，人類共體性也不僅是“共同體”“孿生體”，它要承認(rèn)在人的生命的自覺中，有一部分或者某種生命被AI以它超越人類理解能力的方式，在不同的時(shí)空和場(chǎng)景中，所侵占、替代、兼并和控制，人的自主性和獨(dú)立性被削弱，也不乏兩者在精神層面形成共識(shí)和認(rèn)同。不過仍要看到，人的情感性、生物性、復(fù)雜性和差異性有時(shí)候會(huì)賦予人類共體性一種新的力量，而弱化AI的主體性。

目前，AI與工程師處于初級(jí)的共體性階段，人們正在嘗試通過學(xué)習(xí)和監(jiān)管、發(fā)展和治理來應(yīng)對(duì)AI風(fēng)險(xiǎn)挑戰(zhàn)。也就是說，我們還能在AI中發(fā)現(xiàn)具體的人，盡管他們以科學(xué)家、開發(fā)工程師、訓(xùn)練師、用戶等身份隱藏在AI系統(tǒng)中。

一旦AI的自主性“靈魂”悄悄地附著在機(jī)器、機(jī)器人、程序、意識(shí)、視頻、虛擬世界和現(xiàn)實(shí)世界中，編織起一個(gè)龐雜而隱秘的“天網(wǎng)”，我們身陷其中，AI人取代了具體的人，甚至AI已經(jīng)把人類當(dāng)作能量的一部分，那時(shí)人類的“審判日”就真正來臨了。

【作者簡(jiǎn)介】

廖令鵬，中國(guó)文藝評(píng)論家協(xié)會(huì)會(huì)員，深圳文藝評(píng)論家協(xié)會(huì)理事，歷屆睦鄰文學(xué)獎(jiǎng)評(píng)委，在《文藝報(bào)》《文學(xué)報(bào)》《中國(guó)文藝評(píng)論》《小說評(píng)論》《青年文學(xué)》等報(bào)刊發(fā)表評(píng)論百余篇，出版批評(píng)專著《新城市文學(xué)的新語言》，曾獲第二屆全國(guó)青年產(chǎn)業(yè)工人文學(xué)大獎(jiǎng)文學(xué)評(píng)論獎(jiǎng)、深圳青年文學(xué)獎(jiǎng)、粵港澳大灣區(qū)文藝評(píng)論獎(jiǎng)等多種獎(jiǎng)項(xiàng)。