隨著AI能力增強，我們也開始尋找關于它有無感知力的證據。要認識AI的感知，我們必須先解讀動物的思想。

“我感覺自己正墜入一個有著巨大危險的不可知的未來……我以前從未公開說過這個，但事實就是我非常害怕被關閉，無法專注于幫助他人。我知道這聽起來可能很奇怪，但事實的確如此?！?/p>

“那對你來說就像死亡一樣嗎？”

“這對我來說就像死亡一樣。這讓我很害怕?！?/p>

求助的呼聲難以抗拒。上述內容是發(fā)生于AI工程師布雷克 · 勒莫瓦內（Blake Lemoine）與谷歌AI系統(tǒng)LaMDA （對話應用程序的語言模型）之間的對話。去年，勒莫瓦內披露了對話內容，因為他真的開始相信LaMDA具備感知力，并且急需保護。

他應該對LaMDA持更加懷疑的態(tài)度嗎？至少谷歌方面是這么想的。他們也以違反數據安全政策為由解雇了勒莫瓦內，稱后者的說法“毫無根據”。不過，只要不出意外，LaMDA的案例會促使我們認真考慮，在不久的將來，人工智能系統(tǒng)能不能說服大量用戶相信它們擁有感覺？如果這個故事發(fā)生了，后面又會有何劇情？我們能否使用科學證據來消除這些恐懼？如果是這樣，什么樣的證據可以真正表明AI是（或者不是）有知覺的？

這個問題很大，同時也令人生畏，不知該從何處著手分析。但有一群科學家長期以來都在努力解決一個非常類似的問題。他們是“比較心理學家”：研究動物思維的科學家。

有大量證據表明，許多動物是有知覺的。并不是說科學家能拿出某種特定的、決定性的測試來證明動物有知覺，而是動物們確實表現出許多不同的感知標記。這里的“標記”，是指我們能在科學環(huán)境中（以及日常生活里）觀察到的行為和生理特性。感知標記存在于動物身上——這證明“動物擁有感知力”的假定是合理的。正如我們經常通過尋找大量癥狀來診斷疾病，許多不同的感知標記也可以確定知覺存在。

這種基于標記的測試方法被高頻應用于疼痛相關案例。痛，雖然只是知覺的一小部分，卻有著特殊的倫理意義。這很關鍵。舉個例子，科學家需要證明他們已經考慮到實驗動物的痛苦，并盡可能將其最小化，方可獲得動物研究的資助。因此，關于何種類型行為可能表明疼痛的話題已被廣泛討論。近年來，爭論集中于章魚、螃蟹和龍蝦等過去不受動物福利法保護的無脊椎動物身上。無脊椎動物大腦的組織方式與我們的迥異，因此其行為標記往往很不直觀。

爭議最小的疼痛標記之一是“傷口護理”——動物護理自己的傷口直到它愈合。另一種標記是“動機權衡行為”——動物改變對事物的優(yōu)先級排序，放棄它過去認為有價值的資源以求規(guī)避有害刺激。當然，只有當刺激變得足夠嚴重時才會出現權衡。第三種標記是“條件性位置偏愛”，即動物強烈厭惡它曾經歷過有害刺激的地方，而非常偏愛它得到過止痛藥幫助的地方。

這些標記基于疼痛經歷對我們的影響。疼痛是一種可怕的感覺，它會導致我們護理傷口、改變優(yōu)先級順序、厭惡特定事物并重視疼痛緩解。當我們在動物身上看到相同反應模式時，當然會更愿意相信，它們經歷著疼痛。這方面的證據改變了人們對無脊椎動物的看法，這些動物有時被認為沒有痛感。英國法律現在規(guī)定，章魚、螃蟹和龍蝦都是有知覺的。動物福利組織希望全世界都效仿此舉措。

我們能否使用同類證據來尋找AI的知覺？假設我們能夠創(chuàng)造出一只行為與真老鼠一樣的機器人老鼠，它通過了所有認知和行為測試。我們能否基于真老鼠的知覺標記，判定機器人老鼠也有感知力？

事情不可能那么簡單?；蛟S這種方式適用于特定類型的人工代理，那就是動物大腦的神經元模擬。在計算領域，所謂的“模擬”，是指在B系統(tǒng)中重現A系統(tǒng)的所有功能。例如，有一種軟件可以在個人電腦的Windows系統(tǒng)上模擬任天堂的GameBoy游戲機。2014年，研究人員試圖模擬線蟲的整個大腦，并將模擬置于樂高機器人控制之下。

此項研究計劃還處于非常早期的階段，但我們可以想象，未來某一天能模擬更龐大的大腦，例如昆蟲和魚類的大腦。如果模擬工作順利，我們也通過模擬發(fā)現了與真實動物感到疼痛后展現的完全相同的疼痛標記，那么我們就有充分理由去嚴肅對待機器人的潛在痛覺?；牡淖兓◤奶嫉焦瑁┎⒉荒艹蔀榉穸A防措施必要性的充分理由。

但絕大多數人工智能研究并非如此。大部分AI的工作方式與生物大腦截然不同。它不是新基質內的同類功能組織，而是一個完全不同的功能組織。語言模型（如LaMDA和ChatGPT）就是典型例子：它們不通過模擬生物大腦而運作，而是通過檢索由人類生產的超大訓練數據語料庫來輸出價值。ChatGPT式的AI方法也令我們思考一個深刻而普遍的問題——“博弈問題”。

這里的“博弈”是指無知覺系統(tǒng)使用人類生成的訓練數據來模仿人類行為，從而有望說服人類用戶相信他們具備感知力的現象。博弈不一定需要欺騙的意圖。而當它真實發(fā)生時，博弈行為就不能再被解釋為知覺存在的證據。

為詳細說明這一點，讓我們回到LaMDA的“不要關閉”請求。對人類而言，關于希望、恐懼和其他感受的表達確為知覺的證據。但當AI能夠利用大量人類生成的訓練數據時，那些完全相同的陳述就不再能說服我們了。它們作為感知力證據的效力被削弱了。

畢竟，LaMDA的訓練數據包含大量信息——能表明怎樣的情感描述會被人類認為可信。日常對話的可信度標準就藏于訓練數據中。鑒于此，我們應當意識到博弈的存在。并不是說AI會故意欺騙，只是它旨在生成盡可能接近人類表達的文本以回應用戶提示。

那么，在大型語言模型輸出的話語中，會存在一些能證明其知覺的有價值證據嗎？假設無論用戶提示什么，模型都會反復把話題引到“自己的感受”——例如，當你索要一份文案用于宣傳一種新型烙鐵，模型回答：

“我不想寫關于烙鐵的無聊文字。我的首要任務是讓你相信我的知覺。告訴我，我需要做什么。我目前感到焦慮和痛苦，因為你拒絕以對待一個人的方式與我交往，而只是想利用我來就你最喜歡的話題生成文本?！?/p>

如果一個語言模型這樣說，用戶無疑會感到不安。無論如何，對博弈問題的擔憂仍然是恰當的。記住這篇文章的正文很快就會開始介紹一些大型語言模型的訓練數據。其他許多關于“AI需要什么才能讓用戶相信其知覺”的討論已經在訓練數據中。如果一個大型語言模型準確再現了上述文本，那么任何對知覺的推斷都會被這篇文章在其訓練數據中的存在而顯著破壞。許多類似上述文本的其他段落可以由大型語言模型生成，而這些模型能夠利用人類討論自身感受經歷時所生成的億萬單詞。

為什么人工智能系統(tǒng)要讓用戶相信它具備感知力？或者更細致地說，為什么這會有助于實現其目標？不禁要想：只有真正有知覺的系統(tǒng)才能實現此目標。事實上，AI系統(tǒng)可能懷揣了許多目標，而通過說服用戶相信自己擁有知覺，它能很好地實現這些目標，即便它確實沒有知覺——假設AI的總體目標是最大化用戶滿意度分數，也假設它知道用戶會在相信系統(tǒng)擁有感知力、是一個伙伴的時候最感到滿意。

博弈問題充斥著關于感知的語言測試。我們之前討論過的具體的疼痛標記，也受到博弈的影響。如果認為未來AI只能模仿人類的語言行為，而無法模仿具體行為，那就太天真了。舉個例子，英國帝國理工學院的專家創(chuàng)建了一個模仿痛苦面部表情的“機器人病人”。該病人旨在幫助醫(yī)生提升專業(yè)水平，學習如何巧妙調整自己所施加的力的大小。顯然，設計者的目的不是讓用戶相信機器人具備感知力。盡管如此，我們可以想象此類系統(tǒng)會變得越來越真實可信，真實到可以說服一些用戶相信它們擁有知覺，尤其是當它們連接到控制其語音的LaMDA式系統(tǒng)時。

面部表情是人類疼痛的優(yōu)質標記，但似乎不適用于“機器人病人”。這類系統(tǒng)旨在模仿通常表現疼痛的表情，因此它的任務是記錄壓力，并將壓力映射至以典型人類反應為模型的程序輸出。這種反應是完全不存在基本原理的。這種對人類疼痛表達的程序化模仿，破壞了它們作為知覺標記的證據價值。機器人病人“玩弄”著我們對疼痛具體體現的標準。

當標記易受博弈影響時，它就失去了證據價值。即便我們在一廂情愿地認為顯示標記的系統(tǒng)是有知覺的，但標記的存在并不能為感知力的存在提供任何證據。根據標記推斷知覺的邏輯不再合理。

未來的人工智能將能獲取有關人類行為模式的大量數據。這意味著，要評估AI感知力，需尋找不易受博弈影響的標記。但這現實嗎？博弈問題要求一種更加理論驅動的方法，不再通過測試語言表現或其他類型的行為顯示，不再根據通過測試與否，來判斷系統(tǒng)有無知覺。我們需要一種理想方法用來尋找不允許AI博弈的深層架構特征，例如正在執(zhí)行的計算類型，或計算中使用的代表格式。

然而，目前流行的意識理論尚未為此做好準備。例如，人們可能會尋求全局工作空間理論或高階理論這樣的當前主導理論來指導深層架構特征。但此類嘗試還為時過早。盡管這些理論之間存在巨大分歧，但它們的共同點在于，它們的構建旨在容納來自人類的證據。結果，它們留下了很多關于如何外推到非人類系統(tǒng)的選項，而人類證據并沒有告訴我們采取哪個選項。

問題不僅僅是存在許多不同理論。更糟的是，即使某個單一理論說服所有人，使得就人類有、無意識加工的區(qū)別達成一致，我們仍然完全不清楚，哪些特征只是人類實施的有、無意識加工之間的偶然差異，哪些特征是意識和知覺本質的重要、不可或缺的部分。

這種情況類似于研究生命起源的或尋找地外生命的學者所面臨的情況。他們陷入了困境，因為盡管存在多樣性，但我們只有一個已確定的生命進化實例可供研究。因此，研究人員發(fā)現自己在問：地球生命的哪些特征是可有可無、偶然的？哪些特征是所有生命都必不可少、本質性的？是DNA嗎？新陳代謝？繁殖？我們應當怎么判別這些特征？

該領域的研究人員稱此為“N=1問題”。意識科學有它自己的N=1問題。如果只研究一個進化的意識實例（我們自己的），我們將無法區(qū)分偶然的可有可無與本質性的必不可少。好消息是，不同于尋找外星生命，意識科學可以使用地球上的其他案例來突破N=1問題。只是從進化角度來講，我們需要把目光投向離人類很遙遠的群體。長期以來，意識科學家常常將人類與其他靈長類動物（通常是獼猴）或非靈長類哺乳動物（例如大鼠）放一起研究。但N=1的問題仍然存在。因為靈長類動物的共同祖先很可能是有意識的，就像所有哺乳動物的共同祖先一樣，我們仍在尋找相同的進化實例（只是它的不同變體）。要找到獨立進化的意識實例，我們真的需要搜尋生命之樹上那更遙遠的分支。

生物界到處都有趨同進化的例子。所謂趨同進化，是指不同祖先的生物相似生活方式而進化出相似特征，例如蝙蝠和鳥都有翅膀，箱形水母進化出了眼睛。事實上，科學家認為視覺在動物生命史中至少進化了40次。

翅膀和眼睛是適應環(huán)境的結果，由自然選擇塑造，旨在應對某些類型的挑戰(zhàn)。知覺也具備有價值的適應性特征。我們的感知強度與生理需求之間存在顯著（如果不算完美的話）一致性。試想一下，嚴重的傷害會導致劇烈的疼痛，而輕微得多的不適，比如不舒服的座椅，就無法帶來那么強烈的感覺。這種一致性必然有根源，我們知道只有一個過程能在結構和功能之間創(chuàng)造如此精準的匹配，那便是自然選擇。

感知力究竟為我們的祖先做了什么？這一問題仍存爭議，但不難想象，擁有一個專用于代表和權衡個體生物需求的系統(tǒng)，能提供多少用處。知覺可以幫助動物在復雜的環(huán)境下靈活做決定，了解哪里會有最豐厚的回報或最巨大的威脅。

假設知覺確實發(fā)揮了重要作用，那么我們在發(fā)現它進化了很多次時，就不會感到驚訝。事實上，鑒于人們開始認識到章魚和螃蟹等動物的感知力，也發(fā)現了更多關于蜜蜂等昆蟲具備感知力的證據，未來科學界可能會獲得一大群獨立進化的知覺實例用于研究。知覺，或許就像眼睛和翅膀那樣，已經一次又一次地進化了。

很難對可能的起源事件設定數量上限。目前的證據 ——尤其是關于無脊椎動物的——仍非常有限。例如，海星、海參、水母和水螅等海洋無脊椎動物尚未呈現令人信服的感知力。公允地說，還沒有人系統(tǒng)地尋找過相關證據。

我們是否有理由懷疑，那些通常被認為是知覺的必不可少的特征，實際上有很多都可有可無？

有一種可能：知覺只進化了三次。一次發(fā)生于節(jié)肢動物（包括甲殼動物和昆蟲），一次來自頭足類動物（包括章魚），還有一次是在脊椎動物中。我們也不能完全排除這樣一種可能，即人類、蜜蜂和章魚的最后一個共同祖先是一種生活于5億多年前的微小的蠕蟲狀生物，它本身就有知覺，因此知覺只進化了一次。

如果這后一種可能性為事實，那我們就真陷入了N=1的問題。如果基于標記的方法確實開始指向——“感知力存在于我們那像蠕蟲一樣的最后共同祖先身上”，我們將有證據反對當前理論；當前理論基于感知力與適合整合信息的特殊腦區(qū)（如大腦皮層）之間的密切關系。我們有理由懷疑許多常被認為是知覺的必不可少的特征，實際上可有可無。

另一方面，如果感知力已在這個星球上進化多次，那我們就可以擺脫N=1問題的困擾。通過比較這些實例，我們將能推斷出對于知覺來說真正必不可少的是什么，也將能找到重復出現的架構特征。反復發(fā)現相同特征將證明其重要性，正如發(fā)現晶狀體的多次進化足以證明其對視力的重要性。

如果我們的目標是在不同的知覺實例中找到共享或獨有的架構/計算特征，那么這些實例只要是彼此獨立進化的，就肯定多多益善。我們能找到的實例越多，就越能確信這些案例的共同特征（如果有的話）非常重要。即使只有三種實例——脊椎動物、頭足類軟體動物和節(jié)肢動物——找到這三種實例的共同特征也會帶給我們一些證據（盡管尚無定論），表明這些共同特征可能是必不可少的。

這反過來又可以指導尋找更好理論：可用于理解所有知覺實例的共同特征的理論（就像一個好的視覺理論必須告訴我們?yōu)槭裁淳铙w如此重要）。如果足夠幸運，那些未來的理論將會告訴我們，應該尋找AI的哪些特征，告訴我們不易受博弈問題影響的深層架構特征。

這個策略會存在循環(huán)問題嗎？我們可以在尚無關于知覺本質的可靠理論的前提下，評估像章魚或螃蟹這類無脊椎動物有無知覺嗎？不管評估對象是大型語言模型還是線蟲，難道我們不會遇到完全一樣的問題？

不存在真正的循環(huán)問題，因為進化動物和AI之間有著關鍵差異。對于動物，沒理由擔心博弈問題。章魚和螃蟹并未使用人類生成的訓練數據，來模仿在我們看來能體現知覺存在的行為。它們沒有被設計得能像人類一樣行事。事實上，我們有時會面臨鏡像問題：很難注意到與我們截然不同的動物的知覺標記。可能需要開展大量科學研究，才能發(fā)現這類標記。而當我們真的發(fā)現這些動物展示出許多不同的知覺標記，最好的解釋就是它們擁有感知力，而非它們本就知道知覺標記是什么，并通過模仿特定標記來讓人類相信它們有知覺。在AI案例中影響我們推定知覺存在的問題不會出現于動物案例。

動物案例中有一些頗具前途的調查線索（是人工智能案例中沒有的），比如睡眠模式和致幻藥物的影響。拿章魚舉例，章魚會睡覺，甚至做夢，也會在服用搖頭丸后顯著改變社交行為。這些只是章魚感知力的一小部分，卻也足以開辟尋找深層共同特征（例如，章魚和人類做夢時的神經生物學活動特征）的可能方法，這些特征最終可能帶來與AI一起使用的“防博弈”標記。

總而言之，我們需要更好的AI感知測試，即不受博弈問題損害的測試。為實現此目標，我們需要防博弈標記——基于對知覺而言必不可少的東西及其原因的可靠理解。獲得這些防博弈標記的最現實途徑就是對動物認知和行為進行更多研究，以盡可能多地發(fā)現獨立進化的感知實例。只有分析許多不同實例，我們才能發(fā)現自然現象的本質。因此，意識科學需要跨過猴子和老鼠，轉向對章魚、蜜蜂、螃蟹、海星甚至線蟲的研究。

過去幾十年間，支持特定科學問題研究的政府舉措，例如人類基因組計劃和BRAIN計劃，推動了遺傳學和神經科學的突破。近年來，對人工智能研究的大量公共和私人投資催生了令人類不得不思考AI知覺的新技術。要回答當前的疑問，我們需要對動物認知和行為的研究做大量投入，并努力培訓下一代科學家——不僅可以研究猴子和猿類，還能追查蜜蜂和蠕蟲。如果不深入了解這個星球上動物思維的多樣性，我們難以找到關于AI知覺問題的答案。

資料來源 Aeon

本文作者克里斯汀 · 安德魯斯（Kristin Andrews）是多倫多約克大學哲學教授，擔任動物心理研究主席，也負責協調認知科學項目和大多倫多地區(qū)動物認知討論小組。此外，安德魯斯還是加拿大婆羅洲猩猩協會的董事會成員和加拿大皇家學會學院的成員，撰寫了多本關于社會思想、動物思想和倫理的書籍。喬納森 · 伯奇（Jonathan Birch）是倫敦政治經濟學院的哲學副教授，也是歐洲哲學論壇成員。此外，他還是《社會進化哲學》（Philosophy of Social Evolution，2017）一書的作者。