摘" "要： 圖靈測(cè)試中一個(gè)長(zhǎng)期被忽視的問(wèn)題是，測(cè)試者對(duì)機(jī)器與人的“不可區(qū)分”性判定需要訴諸直覺(jué)，這將不能避免任意性。分析圖靈后來(lái)改進(jìn)的經(jīng)驗(yàn)判據(jù)，測(cè)試者的直覺(jué)應(yīng)當(dāng)包含了“人具有人格實(shí)誠(chéng)性”的預(yù)設(shè)。有趣的是，這一預(yù)設(shè)的基礎(chǔ)也包含在塞爾漢字屋論證的深度改進(jìn)版本中。同時(shí)，人格實(shí)誠(chéng)性預(yù)設(shè)同德雷弗斯的論證也是一致的，都要求人應(yīng)當(dāng)具有深度的語(yǔ)形理解能力。因此，即使像ChatGPT這樣基于深度學(xué)習(xí)的人工智能能夠模擬人格實(shí)誠(chéng)性，也不具有人的智能，從而并不代表人工智能的新階段。

關(guān)鍵詞： ChatGPT；圖靈測(cè)試；實(shí)誠(chéng)性難題；深度漢字屋；語(yǔ)形理解

中圖分類(lèi)號(hào)：TP18" "文獻(xiàn)標(biāo)識(shí)碼：A 文章編號(hào)：1004-8634（2025）01-0115-（09）

DOI：10.13852/J.CNKI.JSHNU.2025.01.011

目前正處于熱點(diǎn)之中的ChatGPT，是近幾年來(lái)關(guān)于人工智能持續(xù)熱度的第二波高峰，上一波的起始點(diǎn)是2017年AlphGo戰(zhàn)勝圍棋冠軍；它們代表聯(lián)接主義路線的全面成功。根據(jù)人工智能所取得的成果，我們可以將其技術(shù)發(fā)展劃分為如下幾個(gè)階段：第一階段是思想探索階段，大致從20世紀(jì)30年代到50年代，其代表性成果是圖靈設(shè)想的計(jì)算機(jī)器（圖靈機(jī)），以及他所提出的與之相關(guān)的哲學(xué)性原則即圖靈測(cè)試；同時(shí)，馮·諾伊曼在計(jì)算機(jī)科學(xué)方面的基礎(chǔ)性貢獻(xiàn)也可以看作人工智能的一個(gè)基礎(chǔ)。第二階段是浪漫主義的階段，其起點(diǎn)應(yīng)是人工智能1956年的達(dá)特茅斯峰會(huì)。這一時(shí)期，研究者們興奮地預(yù)想，人工智能能夠很快地實(shí)現(xiàn)并超過(guò)人的智能。在這一階段，關(guān)于人工智能的各種理論都涌現(xiàn)出來(lái)并基本成型，而主要技術(shù)路線也被確立。第三個(gè)階段是冷靜階段。由浪漫主義階段發(fā)展到20世紀(jì)80年代初期，卻沒(méi)有什么值得稱道的技術(shù)成就，而持久的哲學(xué)攻擊也讓人沮喪。伴隨這種沮喪，更致命的是政府支持力度的明顯減弱。從今天的角度回過(guò)頭去看，其特點(diǎn)是各發(fā)展路線在技術(shù)方面的漸進(jìn)性積累。而它的限制方面則表現(xiàn)在應(yīng)用場(chǎng)景的缺乏，由于這種缺乏，其主要發(fā)展集中于符號(hào)主義路線，而代表其頂峰的成就則是1997年深藍(lán)戰(zhàn)勝國(guó)際象棋冠軍。第四個(gè)階段是基于互聯(lián)網(wǎng)發(fā)展而到來(lái)的、蓬勃的應(yīng)用階段。這個(gè)階段的突出特點(diǎn)是執(zhí)行聯(lián)接主義路線，基礎(chǔ)是基于互聯(lián)網(wǎng)的大數(shù)據(jù)應(yīng)用場(chǎng)景及其所催生的技術(shù)進(jìn)步，其中，卷積神經(jīng)元技術(shù)在基礎(chǔ)上的突破使得預(yù)先訓(xùn)練或深度學(xué)習(xí)成為可能。AlphaGo是這個(gè)階段第一個(gè)引起廣泛的社會(huì)性矚目的成就。ChatGPT的出現(xiàn)向我們提出了一個(gè)階段劃界問(wèn)題：目前的ChatGPT是第四階段的另一個(gè)高峰，還是開(kāi)創(chuàng)了一個(gè)全新階段？或許，我們可以把這個(gè)問(wèn)題消極地推給一個(gè)搪塞性口號(hào)：“讓時(shí)間去檢驗(yàn)！”但即便如此，當(dāng)時(shí)間給出答案之后，其中必然存在一個(gè)劃界性的判據(jù)。到那時(shí)，這個(gè)判據(jù)將以命題的方式呈現(xiàn)出來(lái)。既然如此，為什么我們不可以依據(jù)背景所提供的證據(jù)事先對(duì)這個(gè)判據(jù)作出預(yù)測(cè)性的分析呢？

不過(guò)，必須指出的是，本文的主要目的并不是直接回答這個(gè)問(wèn)題，這個(gè)問(wèn)題的提出只是一個(gè)導(dǎo)引，而對(duì)這個(gè)問(wèn)題的回答也僅僅是本文主要論證的一個(gè)自然而然的副產(chǎn)品。本文的主要目的是重新考察圖靈測(cè)試的困境。這種考察不是像塞爾漢字屋論證所反駁的那樣：即使人工智能通過(guò)圖靈測(cè)試，也可能不具備人的智能——塞爾的反駁是讓步性的或后果性歸謬：從結(jié)果的不可接受性反推前提的困境。筆者的方案是首先指出圖靈測(cè)試本身存在問(wèn)題，即“測(cè)試者直覺(jué)的任意性”的問(wèn)題，然后論證這個(gè)問(wèn)題同塞爾漢字屋反駁的深度版本具有一致性。為了讓讀者事先有一個(gè)明晰的線索，筆者把本文的思路預(yù)先展示如下：首先，圖靈測(cè)試初始意圖是讓判定對(duì)象（人工智能）的行為處于明晰狀態(tài)以便科學(xué)地考察思想或智能——但這個(gè)原則需要訴諸測(cè)試者的直覺(jué)，難以避免其中的任意性。于是，圖靈本人推出了一個(gè)經(jīng)驗(yàn)性判據(jù)，雖然這個(gè)經(jīng)驗(yàn)判據(jù)有確定的測(cè)試時(shí)間標(biāo)準(zhǔn)和比率標(biāo)準(zhǔn)，但其“不可區(qū)分”的判別依然依賴于測(cè)試者的直覺(jué)——這種直覺(jué)是含混性，并不能克服其任意性。然后，如果將測(cè)試者的直覺(jué)更明晰一些，那么，其中應(yīng)當(dāng)包含了“人具有人格實(shí)誠(chéng)性”的要求，而這個(gè)要求的基礎(chǔ)蘊(yùn)含在塞爾漢字屋反駁的深度預(yù)設(shè)中，即漢字屋中的塞爾具有語(yǔ)形理解能力，而這種能力是人格實(shí)誠(chéng)性的基礎(chǔ)。最后，我們將論證人格實(shí)誠(chéng)性要求同德雷弗斯的反駁也是一致的。因此，即使目前基于深度學(xué)習(xí)的人工智能能夠模擬人格實(shí)誠(chéng)性，它也不是人的智能，ChatGPT并不代表人工智能的新階段。

一、圖靈測(cè)試的實(shí)誠(chéng)性難題

判斷ChatGPT是否開(kāi)創(chuàng)了一個(gè)新時(shí)期，有兩個(gè)方面的回應(yīng)：技術(shù)的和哲學(xué)的。

與人工智能技術(shù)應(yīng)用在社會(huì)層面的熱鬧場(chǎng)面相比，真正從事人工智能基礎(chǔ)研究的科學(xué)家似乎并沒(méi)有那么興奮，雖然其進(jìn)展所表現(xiàn)出來(lái)的能力令人驚艷，但距離人工智能的初心似乎依然遙不可及。就技術(shù)而言，同AlphaGo相比，似乎沒(méi)有本質(zhì)性突破，其中最重要的是大語(yǔ)言模型（LLM）的使用——讓人工智能能夠同普通用戶進(jìn)行日常交流，而不再像以前只服務(wù)于專業(yè)需求。因此，在淺層次的直觀上，這樣的人工智能看上去更像普通人類(lèi)的活動(dòng)，而不再那么像專業(yè)性的工具——專家也開(kāi)始思考，它是否可以算作一類(lèi)通用人工智能（AGI）。

如上一波熱鬧一樣，有深度的哲學(xué)思考依然是邊緣性的——事實(shí)上，由于哲學(xué)問(wèn)題的普遍性、恒久性或超前性，目前似乎也難以提出新的哲學(xué)問(wèn)題。即使相關(guān)的思考在哲學(xué)上有所推進(jìn)，它與人工智能的相關(guān)性反倒不再那么緊密，而更多屬于一個(gè)獨(dú)立的哲學(xué)領(lǐng)域，如心靈哲學(xué)（或者是更有新意的智能哲學(xué)）。但是，如果人工智能在技術(shù)上并沒(méi)有本質(zhì)的突破，那么，其在哲學(xué)方面的回應(yīng)就會(huì)顯得重要起來(lái)。例如，ChatGPT是否能夠通過(guò)圖靈測(cè)試？是否可以克服漢字屋困境？

一般性的圖靈測(cè)試基于1950年圖靈原初設(shè)計(jì)的機(jī)器對(duì)人的模仿游戲：在測(cè)試者不知道受試者是機(jī)器還是人的情況下，機(jī)器通過(guò)模仿人的反應(yīng)，試圖誘導(dǎo)測(cè)試者相信自己是一個(gè)人。1 圖靈設(shè)計(jì)這個(gè)測(cè)試的目標(biāo)是哲學(xué)的，他相信，如果機(jī)器能夠通過(guò)這樣的測(cè)試，那么機(jī)器就具有思考能力。這樣的答案比哲學(xué)家的思辨顯然要簡(jiǎn)明得多。圖靈測(cè)試可以更為簡(jiǎn)單地表述為：如果測(cè)試者無(wú)法區(qū)分同自己互動(dòng)的對(duì)象是人還是人工智能，那么，人工智能就通過(guò)了圖靈測(cè)試。

圖靈模仿游戲的原初設(shè)計(jì)是語(yǔ)言的問(wèn)答互動(dòng)，這一點(diǎn)特別適用于現(xiàn)在ChatGPT的測(cè)試。不過(guò)，圖靈本人也不拒絕人工智能可以像人那樣活動(dòng)，從而更真實(shí)地同人互動(dòng)。例如，它可以擁有人的身體、皮膚、語(yǔ)音等外部特征，它也可以有知覺(jué)和基于知覺(jué)的“內(nèi)部”反應(yīng)，并能夠模仿人表達(dá)出內(nèi)在的“感受”。我們假定不久的將來(lái)，ChatGPT可以擁有這樣的特征，至少，她可以在虛擬世界中擁有自己的替身（avatar），并同我們的替身互動(dòng)。

那么，我們真的能夠?qū)⑴c你互動(dòng)并通過(guò)一般性圖靈測(cè)試的人工智能認(rèn)定為人嗎？對(duì)這個(gè)問(wèn)題的回答涉及圖靈測(cè)試的內(nèi)部結(jié)構(gòu)。

一般性圖靈測(cè)試的問(wèn)題是不要求問(wèn)題之間有內(nèi)部結(jié)構(gòu)的，因?yàn)樗⒉灰髮?duì)問(wèn)題的回答同人類(lèi)受試者一模一樣（事實(shí)上也不可能做到這樣），而只是要求無(wú)法區(qū)分——從語(yǔ)言的角度看，只要答是所問(wèn)即可。例如，你可以問(wèn)它更喜歡生活在北京還是上海，它的答案可以是“北京”也可以是“上?！保€可以是“同等喜歡”或“同等不喜歡”。這樣，只要它回答的每一個(gè)問(wèn)題沒(méi)有語(yǔ)法錯(cuò)誤，就可以視為通過(guò)測(cè)試。因此，目前關(guān)于ChatGPT那些稀奇古怪的回答，僅從語(yǔ)法上看，都可以看作通過(guò)了測(cè)試，即使其在內(nèi)容上是錯(cuò)誤的或莫名其妙的——盡管概率很低，真正的人類(lèi)也可能會(huì)有類(lèi)似的回答。

正因?yàn)閳D靈測(cè)試無(wú)法要求一模一樣的反應(yīng)，實(shí)際的圖靈測(cè)試就會(huì)有主觀的經(jīng)驗(yàn)因素，即訴諸測(cè)試者的個(gè)人直覺(jué)，而不同測(cè)試者對(duì)同樣的回答可能會(huì)有不同的認(rèn)定。這意味著圖靈測(cè)試本身包含了一個(gè)問(wèn)題，即究竟什么是不可區(qū)分性？或者說(shuō)，測(cè)試者對(duì)機(jī)器同人“不可區(qū)分”的標(biāo)準(zhǔn)是什么？

圖靈于1952年在一次BBC的廣播中提出一個(gè)經(jīng)驗(yàn)性標(biāo)準(zhǔn)：在5分鐘對(duì)話中，如果超過(guò)30%的測(cè)試者無(wú)法判定測(cè)試對(duì)象是機(jī)器，就可以認(rèn)定該機(jī)器已經(jīng)通過(guò)測(cè)試，擁有人類(lèi)智能。1 按照這個(gè)標(biāo)準(zhǔn)，基于深度學(xué)習(xí)技術(shù)的人工智能在2015年就已經(jīng)被認(rèn)為通過(guò)了測(cè)試。2 因此，功能更加強(qiáng)大的ChatGPT能夠依據(jù)經(jīng)驗(yàn)標(biāo)準(zhǔn)通過(guò)圖靈測(cè)試幾乎是肯定的。

我們要追問(wèn)的是，這樣的經(jīng)驗(yàn)標(biāo)準(zhǔn)蘊(yùn)含什么樣的哲學(xué)問(wèn)題？這個(gè)標(biāo)準(zhǔn)依然不關(guān)注人工智能的內(nèi)部結(jié)構(gòu)，這一點(diǎn)同圖靈的方法論經(jīng)驗(yàn)主義或外在主義是一致的——這種外在主義也是圖靈測(cè)試被歸屬于功能主義的主要依據(jù)。圖靈方法論的高妙之處在于，盡最大可能確保作為研究對(duì)象（的人工智能）的明晰性和確定性，而將不明晰推卸給測(cè)試者方面。

不過(guò)，這個(gè)經(jīng)驗(yàn)性標(biāo)準(zhǔn)同圖靈提出圖靈測(cè)試概念時(shí)的最初想法并不一致。圖靈在作出模仿游戲描述之前的開(kāi)篇，就已經(jīng)拒絕了通過(guò)對(duì)“思維”和“機(jī)器”這樣的語(yǔ)詞含義進(jìn)行定義的方式，來(lái)回答“機(jī)器能夠思維嗎”的問(wèn)題。他認(rèn)為“這種態(tài)度是危險(xiǎn)的”，最終會(huì)導(dǎo)致以蓋洛普統(tǒng)計(jì)調(diào)查的方式來(lái)決定這個(gè)問(wèn)題的答案，“但這是荒唐的”。3這表明，圖靈最初是拒絕他后來(lái)提供的經(jīng)驗(yàn)性判據(jù)的——事實(shí)上，也有人認(rèn)為，這些被看作圖靈測(cè)試之經(jīng)驗(yàn)性判據(jù)的東西根本就不是一個(gè)判據(jù)，而只是圖靈對(duì)人工智能發(fā)展之預(yù)測(cè)的一部分4 ——圖靈在原始論文中確實(shí)給出過(guò)這樣的預(yù)測(cè)：“我認(rèn)為，在大約50年的時(shí)間內(nèi)……使得它們?cè)谘菔灸７掠螒驎r(shí)達(dá)到這樣出色的程度：經(jīng)過(guò)5分鐘的提問(wèn)，一般提問(wèn)者作出正確判斷的機(jī)會(huì)不會(huì)超過(guò)70%?！?

圖靈沒(méi)有給出關(guān)于經(jīng)驗(yàn)標(biāo)準(zhǔn)之“危險(xiǎn)”和“荒唐”的理由。筆者推測(cè)，這些經(jīng)驗(yàn)標(biāo)準(zhǔn)是高度情景依賴的，在不同人群中選取的測(cè)試者（如兒童、普通成年人和心理學(xué)家），其統(tǒng)計(jì)結(jié)果可能是不同的，從而答案也不相同，尤其是在如此短的時(shí)間（5分鐘）內(nèi)作出的判斷。這種易變性顯然會(huì)無(wú)情地挫敗圖靈希望確保明晰性和確定性的方法論企圖。

這個(gè)我們可以稱為“測(cè)試者困境”（Problem of Tester）的難題還可以用人工智能本身作為測(cè)試者的方式更明晰地展示出來(lái)。假設(shè)我們用GPT4作為測(cè)試者去判斷GPT3的對(duì)話，那么，其判斷準(zhǔn)確率將會(huì)相當(dāng)高（如高于90%）。也就是說(shuō)，在這樣的測(cè)試者那里，GPT3依然不能通過(guò)圖靈測(cè)試。而如果我們反過(guò)來(lái)用GPT2去測(cè)試GPT3，那么準(zhǔn)確率可能會(huì)非常低（如低于20%），這樣一來(lái)，GPT3就會(huì)被認(rèn)定為已經(jīng)通過(guò)圖靈測(cè)試了。

在我們看來(lái)，經(jīng)驗(yàn)標(biāo)準(zhǔn)雖然看上去更“科學(xué)”，卻掩蓋了其中的哲學(xué)問(wèn)題。讓我們從想象的但更符合常識(shí)的交往活動(dòng)出發(fā)，來(lái)看看我們會(huì)如何判別一個(gè)人。誠(chéng)然，我們最初是從生物學(xué)外形上來(lái)判別一個(gè)對(duì)象是否是一個(gè)人的，但這種判斷顯然是粗糙的；如果你接觸的對(duì)象有不同群組，每一群組在外形上幾乎無(wú)法區(qū)分，更像批量生產(chǎn)的產(chǎn)品，你肯定會(huì)毫不猶豫放棄這一標(biāo)準(zhǔn)。這時(shí)，你會(huì)轉(zhuǎn)向智力方面的判別，如對(duì)象處理事務(wù)的能力。但如果你發(fā)現(xiàn)所接觸的大多數(shù)對(duì)象智力方面非?？煽浚瑢?duì)相同事情幾乎能夠作出相似的反應(yīng)，你可能會(huì)放棄當(dāng)下作出判別的嘗試而傾向于在長(zhǎng)期交往之后再做判斷。最后，除非接觸的對(duì)象具有特定（或穩(wěn)定）的和可預(yù)測(cè)的行為特征，否則你不會(huì)將它當(dāng)作人來(lái)看待。當(dāng)我們以這種方式來(lái)判別一個(gè)人的時(shí)候，我們的判別方式將十分接近正常交往中對(duì)特定人的判別，如判別張三是張三。這就是說(shuō)，只有當(dāng)我們能夠判別一個(gè)人是某個(gè)特定個(gè)體的時(shí)候，我們才能夠判別他是人。

我們之所以構(gòu)造上述過(guò)程來(lái)判別人工智能是否是人，是希望能夠排除單純以辨別物的方式來(lái)辨別人。我們辨別物的方式通常是通過(guò)單純的和機(jī)械的物理特征或標(biāo)記來(lái)加以辨認(rèn)的，但這種方式顯然不能滿足圖靈測(cè)試的最初設(shè)想。例如，人工智能完全可以模仿和篡改那些物理特征和物理標(biāo)記。因此，要判別一個(gè)對(duì)象是否是人，最本質(zhì)的方式只能依賴人的特征，即品質(zhì)的穩(wěn)定性。

在日常交往中，我們所接觸的人都是具有特定人格或品質(zhì)的人，他們的行為具有相當(dāng)程度的可預(yù)測(cè)性，也就是說(shuō)，每個(gè)人都具有他的身份或同一性。因此，人們可能要說(shuō)，品質(zhì)或人格穩(wěn)定性的哲學(xué)基礎(chǔ)是人格同一性。如果我們接受這個(gè)觀點(diǎn)，那么問(wèn)題立即出現(xiàn)：哲學(xué)上很難辯護(hù)人格同一性的概念，1因此，這個(gè)品質(zhì)穩(wěn)定性標(biāo)準(zhǔn)是成問(wèn)題的。

不過(guò)，品質(zhì)的穩(wěn)定性與人格同一性并不完全相同，人格同一性作為形而上學(xué)概念，其必要條件是計(jì)數(shù)的同一性（Numerical Identity），這是一種形式的同一性（如邏輯同一性）。但我們?cè)谌粘Ｉ钪幸罁?jù)品質(zhì)穩(wěn)定性判定一個(gè)人時(shí)，更關(guān)注屬性的同一性（Properties Identity），并不會(huì)面對(duì)那些極端的例外。另外，品質(zhì)穩(wěn)定性的一個(gè)重要特征是行為的可預(yù)測(cè)性，而人格同一性概念似乎并不必然要求這一點(diǎn)。

筆者建議將這種基于品質(zhì)穩(wěn)定性和行為可預(yù)測(cè)性的人格特征判別標(biāo)準(zhǔn)稱為“實(shí)誠(chéng)性”（Integrity）。

應(yīng)當(dāng)指出的是，即使在圖靈測(cè)試的經(jīng)驗(yàn)標(biāo)準(zhǔn)中，實(shí)誠(chéng)性要求也在我們的判斷中起了作用。那些被我們憑直覺(jué)判定為無(wú)法通過(guò)圖靈測(cè)試的人工智能固然存在答非所問(wèn)的語(yǔ)法問(wèn)題，但這僅僅是非常初步的測(cè)試，而影響我們直覺(jué)判斷的更復(fù)雜的東西是基于人工智能缺乏實(shí)誠(chéng)性，即那些人工智能看上去不像一個(gè)人：雖然一個(gè)人工智能的每個(gè)回答可能沒(méi)有邏輯問(wèn)題，但從相關(guān)問(wèn)題的整體上看，其回答不太可能同時(shí)出現(xiàn)于日常生活中的人類(lèi)身上。例如，一些答案可能表明它具有熱情外向的性格，而另一些回答則表明它是一個(gè)沉郁壓抑的性格——但由于這些答案之間并不存在直接的邏輯沖突，一般性圖靈測(cè)試不可能排除之。至于測(cè)試的經(jīng)驗(yàn)標(biāo)準(zhǔn)，也只能排除明晰的分型混亂，畢竟5分鐘時(shí)間的問(wèn)答具有太大的偶然性。

筆者將圖靈測(cè)試及其經(jīng)驗(yàn)標(biāo)準(zhǔn)所面臨的判定難題稱為“實(shí)誠(chéng)性難題”。

二、實(shí)誠(chéng)性與深度漢字屋

圖靈試圖維護(hù)機(jī)器是否能夠思考問(wèn)題的明晰性和確定性，將含混性和不確定性歸置到測(cè)試者的判定直覺(jué)中。但是，我們的論證已經(jīng)表明，圖靈測(cè)試的實(shí)誠(chéng)性難題實(shí)際上又逆轉(zhuǎn)了圖靈將內(nèi)容問(wèn)題推卸為形式問(wèn)題的嘗試，重新把難題還原到人工智能本身的內(nèi)容性上。

人工智能如何維持其人格的實(shí)誠(chéng)性，涉及人格的經(jīng)驗(yàn)性類(lèi)型，如心理學(xué)分型，因此，人工智能要具備特定心理分型，就需要基于經(jīng)驗(yàn)的訓(xùn)練，而達(dá)到這個(gè)要求需要語(yǔ)義的介入。包含語(yǔ)義能力的人工智能已經(jīng)屬于人的智能，按照塞爾的漢字屋論證，僅僅通過(guò)一般性圖靈測(cè)試的人工智能不具備語(yǔ)義能力，從而不具備人的智能。這就是說(shuō)，我們從圖靈測(cè)試及其經(jīng)驗(yàn)標(biāo)準(zhǔn)所面臨的困難間接地達(dá)到了塞爾的漢字屋論證結(jié)論。1

不過(guò)，正如筆者曾經(jīng)論證過(guò)的，塞爾的漢字屋論證雖然結(jié)論上是成立的，但其論證過(guò)程卻存在瑕疵。2

塞爾漢字屋論證的基本過(guò)程是：設(shè)想不懂漢語(yǔ)的塞爾被關(guān)在一個(gè)小屋子里，屋子同外界有一個(gè)可以遞進(jìn)遞出字條的窗口；又假設(shè)，屋子的抽屜或墻壁上布滿了漢字，塞爾借助一本英文說(shuō)明書(shū)可以將漢字組織為句子，然后根據(jù)遞進(jìn)來(lái)的字條上的問(wèn)題給出答是所問(wèn)的漢語(yǔ)回答并遞出去。整個(gè)過(guò)程塞爾本人并不需要懂漢語(yǔ)，而外面的測(cè)試者則會(huì)認(rèn)為塞爾是懂漢語(yǔ)的——這也是圖靈測(cè)試基本原理所認(rèn)可的。

漢字屋論證最大的問(wèn)題是英文說(shuō)明書(shū)是否可以編寫(xiě)出來(lái)。按照塞爾的論證，人工智能基于程序語(yǔ)言，僅僅是語(yǔ)法結(jié)構(gòu)，沒(méi)有語(yǔ)義學(xué)，因此，為了確保這本說(shuō)明書(shū)編寫(xiě)出來(lái)，就不能是漢英字典或英漢字典，因?yàn)樽值涫怯姓Z(yǔ)義的。除字典方式外，另一種極端方式是用記號(hào)標(biāo)記所有問(wèn)題語(yǔ)句和答案語(yǔ)句并使得它們對(duì)應(yīng)起來(lái)，然后依據(jù)這個(gè)對(duì)應(yīng)關(guān)系找到漢字組成答案語(yǔ)句并遞出。但這種方式的困難是，漢語(yǔ)語(yǔ)句具有無(wú)限性，這就意味著說(shuō)明書(shū)無(wú)法完整編寫(xiě)出來(lái)。

合適的方式必須能夠?qū)⒂邢薜臐h字組合為無(wú)限的語(yǔ)句，語(yǔ)法是達(dá)成這一目標(biāo)的最恰當(dāng)?shù)姆绞?。這就需要塞爾通過(guò)英語(yǔ)說(shuō)明書(shū)理解漢語(yǔ)語(yǔ)法的基本詞匯，如邏輯常項(xiàng)“不”“和”“或”“是”（“屬于”）；同時(shí)，為了避免答非所問(wèn)，進(jìn)一步地則包括語(yǔ)詞的詞性，疑問(wèn)詞類(lèi)型差異（如“何地”“何時(shí)”“什么”“誰(shuí)”）、漢語(yǔ)語(yǔ)句一般性組織方式等。由于作為變?cè)恼Z(yǔ)詞可以替換而不影響答案的合理性，塞爾幾乎不能由此確定變?cè)Z(yǔ)詞的含義；同時(shí)，雖然塞爾可以識(shí)別與此關(guān)聯(lián)的疑問(wèn)句類(lèi)型，但無(wú)法知道其具體類(lèi)型（如“何時(shí)”與“何地”存在差異，但不知道它們的具體含義，因?yàn)闊o(wú)法識(shí)別答案中的地點(diǎn)名詞和時(shí)間名詞）。

塞爾將他對(duì)漢語(yǔ)的理解類(lèi)比人工智能對(duì)語(yǔ)言的理解，因此，他得出結(jié)論，由于他不能理解漢語(yǔ)，所以人工智能就不能理解語(yǔ)言。但是，“塞爾不能理解漢語(yǔ)”的結(jié)論是含混的，他確實(shí)不能完全理解漢語(yǔ)語(yǔ)義，但是他可以通過(guò)說(shuō)明書(shū)理解漢語(yǔ)語(yǔ)法詞匯的語(yǔ)義，他至少以不同于中國(guó)人的方式理解漢語(yǔ)語(yǔ)法。我們可以說(shuō)，塞爾部分地理解了漢語(yǔ)或以最小的方式理解了漢語(yǔ)。

從這個(gè)類(lèi)比出發(fā)，貌似可以得到另一個(gè)類(lèi)比：由于塞爾可以通過(guò)英語(yǔ)說(shuō)明書(shū)理解漢語(yǔ)語(yǔ)法，人工智能就能夠通過(guò)程序理解其語(yǔ)言的語(yǔ)法。因此，如果塞爾部分理解了漢語(yǔ)，那么，人工智能也就能夠部分理解語(yǔ)言。

然而，這個(gè)類(lèi)比是成問(wèn)題的，人工智能不可能部分理解語(yǔ)言。塞爾能夠通過(guò)說(shuō)明書(shū)部分理解漢語(yǔ)（語(yǔ)法），有一個(gè)因果條件，即塞爾本人具備理解能力，能夠理解英語(yǔ)說(shuō)明書(shū)。塞爾對(duì)英語(yǔ)的理解能力是其理解漢語(yǔ)語(yǔ)法的初始因果力，沒(méi)有這個(gè)初始因果力，塞爾不可能理解漢語(yǔ)語(yǔ)法。但是，人工智能完全不具備這個(gè)初始因果力，因此這個(gè)延伸的類(lèi)比不可能成立。

誠(chéng)然，為了徹底避免塞爾理解語(yǔ)法詞匯（如邏輯常項(xiàng)），可以設(shè)計(jì)更復(fù)雜的指令。例如，將這些語(yǔ)法詞匯置于墻上特定位置并被遮住，塞爾必須通過(guò)特定的舞蹈去取下這些文字并置于句子中，當(dāng)句子送出屋子之后才自動(dòng)打開(kāi)。很顯然，不同的語(yǔ)法詞匯，其所獲取的舞蹈動(dòng)作必須是不同的（否則無(wú)法區(qū)分它們）。

我把添加了這個(gè)設(shè)計(jì)的“漢字屋”思想實(shí)驗(yàn)稱為“深度漢字屋”。那么，在深度漢字屋里，塞爾是否理解了漢語(yǔ)語(yǔ)法呢？答案是肯定的，如果塞爾愿意，他完全能夠通過(guò)不同的回答理解不同舞蹈的含義。因此，采取深度漢字屋徹底避免塞爾理解漢語(yǔ)語(yǔ)義的方式不可能成功。

事實(shí)上，塞爾以舞蹈形式理解漢語(yǔ)語(yǔ)法的方式更接近人類(lèi)母語(yǔ)學(xué)習(xí)中的語(yǔ)法理解行為。人類(lèi)在語(yǔ)言學(xué)習(xí)中的語(yǔ)法理解并不是首先制定規(guī)則或進(jìn)行規(guī)則學(xué)習(xí)，恰恰是通過(guò)語(yǔ)義學(xué)習(xí)而默會(huì)的。自然語(yǔ)言學(xué)習(xí)最典型的情況是母語(yǔ)學(xué)習(xí)。當(dāng)我們學(xué)習(xí)母語(yǔ)的時(shí)候，我們可以從不學(xué)習(xí)語(yǔ)法，直接學(xué)習(xí)語(yǔ)義，在學(xué)習(xí)過(guò)程中通過(guò)模仿和教學(xué)者的語(yǔ)義糾正來(lái)習(xí)得語(yǔ)法。習(xí)得母語(yǔ)的人，即使是一個(gè)文盲，也能夠以非常流暢的方式進(jìn)行會(huì)話交流。自然語(yǔ)法完全不同于語(yǔ)言學(xué)家的語(yǔ)法，它不是寫(xiě)下來(lái)的規(guī)則，而是對(duì)語(yǔ)詞及其意義的身體性操作或運(yùn)算。一個(gè)人理解了自然語(yǔ)法，意味著他在語(yǔ)言交流中獲得了一種熟練的傾向和模式。在這個(gè)意義上，我們無(wú)須懷疑一個(gè)人對(duì)語(yǔ)法的理解能力。

那么，同語(yǔ)義理解相比，語(yǔ)法理解在經(jīng)驗(yàn)形式上具有什么樣的特征呢？

根據(jù)弗雷格的語(yǔ)義學(xué)三角，符號(hào)、意義和指稱構(gòu)成了基本框架。在這個(gè)模型中，語(yǔ)法屬于符號(hào)關(guān)系，也稱為語(yǔ)形關(guān)系或語(yǔ)形學(xué)（Syntax）。與弗雷格旨趣不同的是，自然語(yǔ)言的語(yǔ)形并非普遍的，而是具有廣泛的多樣性，不同的自然語(yǔ)言有不同的語(yǔ)法形式，盡管它們有共同的基礎(chǔ)形式（即弗雷格所追求的普遍語(yǔ)法）。

在一個(gè)熟練的語(yǔ)言交流氛圍中，當(dāng)一個(gè)人說(shuō)“那個(gè)房子后面有一株重瓣櫻”時(shí)，我們的關(guān)注點(diǎn)必定不是語(yǔ)形，不是這句話如何說(shuō)，是英語(yǔ)還是漢語(yǔ)，組成它的文字如何寫(xiě)，是否主謂結(jié)構(gòu)，等等。我們關(guān)注的是，這句話是什么意思？這棵樹(shù)在房子后面什么位置？重瓣櫻是什么樣子？等等。也就是說(shuō)，我們關(guān)注的是表達(dá)式的意義和指稱——只有當(dāng)我們沒(méi)有聽(tīng)清楚或不明白它的意思時(shí)，才會(huì)去關(guān)注句子的語(yǔ)形。從心靈哲學(xué)的角度看，在語(yǔ)言交流中，我們明晰意識(shí)到的是語(yǔ)言的意義和指稱，而語(yǔ)形結(jié)構(gòu)及其語(yǔ)法本身則不需要被明晰地意識(shí)到。

因此，從心靈哲學(xué)的角度看，自然的語(yǔ)法理解并不需要對(duì)語(yǔ)形及其語(yǔ)法規(guī)則的明晰覺(jué)知，它是一種模糊的經(jīng)歷（Experencing）——明晰的語(yǔ)法規(guī)則不過(guò)是語(yǔ)言學(xué)家通過(guò)反思總結(jié)出來(lái)的，是語(yǔ)義化了的形式。在自然語(yǔ)言理解中，語(yǔ)義才是明晰的經(jīng)驗(yàn)（Experiences）。

語(yǔ)言理解中的語(yǔ)形和語(yǔ)法結(jié)構(gòu)的模糊化經(jīng)歷基于長(zhǎng)期的訓(xùn)練，是一種習(xí)性的（Habit）結(jié)果。事實(shí)上，任何一種習(xí)性在它操作和運(yùn)行時(shí)都是模糊的，是熟練的身體動(dòng)作，如熟練的舞蹈、流暢的工具使用，等等。

語(yǔ)法理解的不明晰性和習(xí)得性可以同人格的實(shí)誠(chéng)性聯(lián)系起來(lái)。通常，一個(gè)正常的成年人不但具備理智能力，也會(huì)具備可識(shí)別的習(xí)性品質(zhì)。即使一個(gè)人在整個(gè)生活中從不反思自己的行為，只是模仿周?chē)嘶蜃裱鐣?huì)規(guī)范行動(dòng)，他的理智能力也會(huì)在他成年時(shí)將自己塑造成特定的人，這是一個(gè)人成熟的標(biāo)志。在整個(gè)成長(zhǎng)過(guò)程中，這個(gè)人可能從不需要明晰地意識(shí)到他是一個(gè)什么樣的人，這就構(gòu)成了亞里士多德意義上的第二天性（或自然）。這種不自覺(jué)的習(xí)得品質(zhì)就構(gòu)成了他的實(shí)誠(chéng)性。從語(yǔ)言學(xué)的角度看，實(shí)誠(chéng)性是一種廣義上的自然語(yǔ)法現(xiàn)象，一個(gè)人的實(shí)誠(chéng)性就是他自己的語(yǔ)形結(jié)構(gòu)——筆者在其他地方論證了言語(yǔ)德性也是這樣一種實(shí)誠(chéng)性的語(yǔ)言表現(xiàn)。1

三、實(shí)誠(chéng)性模擬的理解性困境

到目前為止，我們已經(jīng)發(fā)現(xiàn)，本文所提出的關(guān)于人工智能的實(shí)誠(chéng)性難題將圖靈測(cè)試同其反對(duì)意見(jiàn)（“漢字屋”思想實(shí)驗(yàn)）關(guān)聯(lián)起來(lái)了。本文這一部分將論證，人格實(shí)誠(chéng)性要求同德雷福斯的反駁具有一致性。

在論述這個(gè)結(jié)論之前，我們先回答本文的導(dǎo)入性問(wèn)題：目前基于神經(jīng)網(wǎng)絡(luò)或深度學(xué)習(xí)技術(shù)的聯(lián)接主義路線是否已經(jīng)回應(yīng)了漢字屋反駁？

塞爾本人對(duì)聯(lián)接主義有一個(gè)簡(jiǎn)單的回應(yīng)——事實(shí)上，塞爾漢字屋論證中對(duì)符號(hào)主義（圖靈機(jī)）、聯(lián)接主義（神經(jīng)網(wǎng)絡(luò)的模擬大腦）和行動(dòng)主義（機(jī)器人）都有明確的回應(yīng)。聯(lián)接主義強(qiáng)調(diào)，如果計(jì)算機(jī)不是以程序的方式輸入輸出漢語(yǔ)，而是模擬中國(guó)人回答問(wèn)題時(shí)大腦的狀態(tài)，那么，這樣的機(jī)器就可以懂漢語(yǔ)。塞爾以水管的連接來(lái)替代神經(jīng)元的連接，每一段水流的連接都對(duì)應(yīng)于大腦中的一個(gè)突觸，在整個(gè)系統(tǒng)裝配起來(lái)之后，使得在全部應(yīng)有的激發(fā)產(chǎn)生（即所有水管閥門(mén)都正確打開(kāi)）之后，漢語(yǔ)答案就會(huì)在系統(tǒng)末端輸出。但這里并沒(méi)有漢語(yǔ)理解。

塞爾的這個(gè)回應(yīng)過(guò)于簡(jiǎn)單，甚至是武斷的：即使塞爾反復(fù)強(qiáng)調(diào)模擬大腦沒(méi)有復(fù)制大腦的因果力，且大腦因果力必須經(jīng)過(guò)進(jìn)化并通過(guò)細(xì)胞形態(tài)獲得，但這種因果力如何作用于人的智能卻是含混不清的。一個(gè)有效的反駁必須建立在深入了解正方論點(diǎn)的基礎(chǔ)上。然而，在塞爾提出漢字屋反駁的那個(gè)時(shí)代，聯(lián)接主義尚未成為主流學(xué)說(shuō)，且該領(lǐng)域幾乎沒(méi)有取得值得一提的重要成果。

現(xiàn)在的人工智能專家似乎傾向于認(rèn)為，基于深度學(xué)習(xí)的人工智能已經(jīng)具備了語(yǔ)義信息，因?yàn)樗軌螂S時(shí)得到外界的信息、將外界對(duì)象確認(rèn)為指稱——這符合塞爾所要求的外部語(yǔ)義學(xué)。誠(chéng)然，ChatGPT完成的工作遠(yuǎn)不像圖靈測(cè)試那樣僅僅滿足答是所問(wèn)，而是對(duì)外部對(duì)象具有精確的判定能力。那么，這是否就是一種真正的語(yǔ)義理解能力呢？

先讓我們以一個(gè)簡(jiǎn)單的例子來(lái)展示一下深度學(xué)習(xí)是如何工作的。假設(shè)有一張白紙，上面分布著n個(gè)黑點(diǎn)。操作者將這張紙掃描進(jìn)計(jì)算機(jī)，并對(duì)其進(jìn)行初始判定，即確認(rèn)這是一張具有如此這般特征（或描述）的紙；如果再次掃描這張紙，機(jī)器會(huì)將它判定為之前的那張紙?，F(xiàn)在，我們對(duì)該紙張作出足夠多的處理（這些處理也可以通過(guò)算法讓計(jì)算機(jī)在內(nèi)部自行處理），如撕去一個(gè)角、挖掉一個(gè)位置、弄皺、更換不同的角度，等等。計(jì)算機(jī)算法會(huì)根據(jù)點(diǎn)的分布規(guī)律計(jì)算它們之間的相似程度（基于條件概率或貝葉斯概率），并判定為同一張紙。也就是說(shuō)，計(jì)算機(jī)通過(guò)算法自動(dòng)生成了這些相似關(guān)系數(shù)據(jù)?，F(xiàn)在，外部操作人員將同一張紙作出不同于之前任何處理的新處理，計(jì)算機(jī)將以精確的方式判定它們是同一張紙——當(dāng)然，如果處理過(guò)于極端（如撕成的每個(gè)碎片只包含不超過(guò)一個(gè)黑點(diǎn)）以致無(wú)法判定，它可能將其判定為不同的紙張。這些新的判定將作為學(xué)習(xí)內(nèi)容“記錄”在內(nèi)部。這樣的處理方式越多，計(jì)算機(jī)進(jìn)行正確判定的能力就越強(qiáng)。

在計(jì)算機(jī)內(nèi)部，輸入數(shù)據(jù)是分層次的。紙張外部處理所獲得的直接數(shù)據(jù)處于第一層次，以特定標(biāo)準(zhǔn)處理第一層次數(shù)據(jù)之間的關(guān)系數(shù)據(jù)將處于第二層次，依次升級(jí)層次。由于低層次數(shù)據(jù)會(huì)被多次使用（根據(jù)不同算法標(biāo)準(zhǔn)）生成高層次數(shù)據(jù)，因此，這些數(shù)據(jù)結(jié)點(diǎn)之間會(huì)形成交叉的網(wǎng)絡(luò)。究竟構(gòu)成多少層次，有多少網(wǎng)絡(luò)結(jié)點(diǎn)，取決于算法要求和輸入，其過(guò)于復(fù)雜的生成性使得操作者無(wú)法清楚計(jì)算機(jī)內(nèi)部網(wǎng)絡(luò)的具體結(jié)構(gòu)。

這種數(shù)據(jù)方式類(lèi)似神經(jīng)元的活動(dòng)。以觸覺(jué)為例，當(dāng)我們皮膚的一個(gè)感受器接受外界刺激后，這些信息會(huì)被分解并通過(guò)輸入神經(jīng)纖維輸送到不同的低級(jí)中樞神經(jīng)元細(xì)胞體中進(jìn)行處理，而每個(gè)低級(jí)中樞產(chǎn)生的信息流又會(huì)被再次分解輸送到高級(jí)中樞，高級(jí)中樞則將各低級(jí)中樞的信息進(jìn)行新的組合。這樣就形成了神經(jīng)網(wǎng)絡(luò)。

那么，這種聯(lián)接主義網(wǎng)絡(luò)結(jié)構(gòu)的運(yùn)行是否可以還原為漢字屋呢？將上述例子中的圖像數(shù)據(jù)替換為漢語(yǔ)文字?jǐn)?shù)據(jù)，情況會(huì)復(fù)雜一些，畢竟文字之間的相似性比圖像復(fù)雜。文字尤其是語(yǔ)句之間的關(guān)系需要基于符號(hào)主義的邏輯操作來(lái)處理。讓我們?cè)O(shè)想塞爾所在的漢字屋有一面類(lèi)似中醫(yī)藥店的屜子墻，底層的每個(gè)屜子塞滿了來(lái)自外界的各種文本。塞爾并不知道這些文本的含義，也不理解漢字語(yǔ)詞和語(yǔ)句的意義。但塞爾有著驚人的計(jì)算能力和記憶力，可以快速識(shí)別漢字之間的語(yǔ)形異同。他依然擁有一本英文說(shuō)明書(shū)，憑借這本說(shuō)明書(shū)的指令，他可以處理不同漢語(yǔ)語(yǔ)詞和語(yǔ)句之間的邏輯關(guān)系。這樣，如果底層屜子的文本足夠多，他就可以根據(jù)說(shuō)明書(shū)和不同算法構(gòu)造新的文本或產(chǎn)生新的數(shù)據(jù)，并將其放置在高一層次的抽屜中。根據(jù)這種處理，他可以寫(xiě)出新的漢語(yǔ)文章來(lái)。這些新的文章又可以作為輸入文本，放置于底層空置的屜子。像塞爾的漢字屋構(gòu)想一樣，這里還有許多細(xì)節(jié)需要補(bǔ)充。但如果經(jīng)典漢字屋里的塞爾能夠給出對(duì)外界問(wèn)題的回答，那么，這種改進(jìn)的漢字屋也同樣可以滿足外界提出的要求——如果他暫時(shí)滿足不了外界要求，他可以給出一個(gè)搪塞性的理由，就像目前許多聊天人工智能所做的那樣?？傊?，他可以做得像一個(gè)懂漢語(yǔ)的人那樣好，甚至更好。在上述整個(gè)過(guò)程中，塞爾依然是不理解漢語(yǔ)的。也就是說(shuō)，漢字屋對(duì)強(qiáng)人工智能的反駁在原則上依然成立，ChatGPT的智能即使具有通用性，也不是真正的人的智能。

由于ChatGPT的深度學(xué)習(xí)功能，看上去能夠精確地實(shí)現(xiàn)“語(yǔ)義功能”，那么，它是否可以滿足我們提出的實(shí)誠(chéng)性要求呢？讓我們?cè)O(shè)想一個(gè)陪伴式的人工智能。這個(gè)人工智能一開(kāi)始同用戶相處的時(shí)候，只是完成用戶指令的任務(wù)，這些任務(wù)可能并不預(yù)測(cè)用戶基于個(gè)人風(fēng)格的需求，甚至有時(shí)候還會(huì)做出一些讓用戶感到陌生的“行為”，即使這些行為從人類(lèi)行為來(lái)看并不那么出格。當(dāng)它同用戶相處一段時(shí)間之后，它可以根據(jù)自己的算法調(diào)整、選擇和強(qiáng)化自己的行為傾向以適應(yīng)用戶的需求?？梢栽O(shè)想，它的調(diào)適能力甚至可以比人類(lèi)更快更有效。此時(shí)，該人工智能將顯著地形成自己的行動(dòng)風(fēng)格和穩(wěn)定的“品質(zhì)”。很顯然，這樣的人工智能已經(jīng)滿足實(shí)誠(chéng)性的外在要求。

然而，滿足實(shí)誠(chéng)性外在要求的人工智能并不具備第一人稱意義上的實(shí)誠(chéng)性，其穩(wěn)定“品質(zhì)”的形成并不是基于實(shí)踐的理解。人類(lèi)形成穩(wěn)定品質(zhì)和人格實(shí)誠(chéng)性的過(guò)程是一個(gè)基于深度漢字屋的過(guò)程。

在塞爾以簡(jiǎn)潔明快的方式反對(duì)強(qiáng)人工智能之前，哲學(xué)家德雷弗斯已經(jīng)喋喋不休了許多年并形成了系統(tǒng)的反對(duì)意見(jiàn)。1 總體上來(lái)說(shuō)，德雷弗斯的意見(jiàn)來(lái)自現(xiàn)象學(xué)和存在主義。核心觀點(diǎn)是：人作為“在世存在”（Being-in-the-world），其意識(shí)的產(chǎn)生是高度語(yǔ)境性的，不可能以科學(xué)研究的方式去客觀理解。2 這種哲學(xué)的表述即使包含某些深刻的洞見(jiàn)，也顯得含混模糊，這大概是其論述多年仍然不被看好的原因。

深度漢字屋機(jī)制可以將語(yǔ)境性理解更清楚地表達(dá)出來(lái)。

在前述弗雷格語(yǔ)義三角中，意義和指稱的關(guān)系構(gòu)成塞爾所強(qiáng)調(diào)的語(yǔ)義，具有心靈哲學(xué)的明晰性——誠(chéng)然，塞爾更強(qiáng)調(diào)指稱的外部性，它基于一種語(yǔ)義外在論的觀點(diǎn)。語(yǔ)形通常指語(yǔ)詞符號(hào)，但包括更多的東西，如語(yǔ)言交流時(shí)的手勢(shì)（Gesture）——由此，我們可以將語(yǔ)形延伸到表情、語(yǔ)氣等更廣泛的東西。

這里要提出的問(wèn)題是，德雷弗斯所強(qiáng)調(diào)的語(yǔ)境處于語(yǔ)義學(xué)三角的哪個(gè)部分呢？

讓我們考察這樣一個(gè)語(yǔ)句表達(dá)式：“我相信玫瑰花是紅色的。”在這個(gè)帶有命題態(tài)度的語(yǔ)句中，其中的命題內(nèi)容是“玫瑰花是紅色的”，按照弗雷格的意思，它是語(yǔ)句的意義，而該語(yǔ)句的指稱是該命題對(duì)應(yīng)的事態(tài)（或者就是命題本身構(gòu)成的思想）。在這個(gè)句子里，“我相信”作為命題態(tài)度，通常構(gòu)造了一種（相信）語(yǔ)境。這個(gè)語(yǔ)境顯然不是句子的意義（即命題內(nèi)容），也不是句子的指稱，那么，在語(yǔ)義三角中，它就只能是句子語(yǔ)形成分了。事實(shí)上，當(dāng)我們?cè)谌粘＝涣髦?，通常不必說(shuō)出“我相信”這幾個(gè)語(yǔ)詞，僅僅通過(guò)我們說(shuō)出“玫瑰花是紅色的”的語(yǔ)氣和表情（屬于更廣泛的語(yǔ)形因素），會(huì)話者就能夠理解說(shuō)話者對(duì)命題處于相信狀態(tài)。因此，語(yǔ)境屬于語(yǔ)形成分是符合語(yǔ)義三角的結(jié)構(gòu)的。

要深刻而清晰地表述德雷弗斯的立場(chǎng)，還必須涉及意義與語(yǔ)形之間的關(guān)系。

塞爾反駁強(qiáng)人工智能的基本觀點(diǎn)是，人工智能只有語(yǔ)形而沒(méi)有語(yǔ)義，單純的語(yǔ)形不足以產(chǎn)生語(yǔ)義，因此，人工智能沒(méi)有理解能力。3 聯(lián)接主義者丘奇蘭德夫婦在回應(yīng)塞爾反駁時(shí)指出，語(yǔ)形和語(yǔ)義的區(qū)分并不是絕對(duì)的，僅僅是一個(gè)經(jīng)驗(yàn)問(wèn)題。4 雖然我也反對(duì)強(qiáng)人工智能，但我贊同丘奇蘭德關(guān)于語(yǔ)義和語(yǔ)形的相對(duì)性觀點(diǎn)。

那么，語(yǔ)形（包括語(yǔ)境因素）和語(yǔ)義是如何相互作用的呢？當(dāng)我們初學(xué)語(yǔ)言時(shí)，我們將語(yǔ)形當(dāng)作內(nèi)容來(lái)學(xué)習(xí)，如發(fā)音的準(zhǔn)確性和書(shū)寫(xiě)的正確性，遣詞的合適性（語(yǔ)法例示），等等。但是，也如前述，當(dāng)我們熟練之后，我們無(wú)須特別意識(shí)到或覺(jué)知到這些語(yǔ)形因素，它們像上手的工具一樣，處于不被明晰意識(shí)到的狀態(tài)；我們最初進(jìn)行語(yǔ)言表達(dá)時(shí)的語(yǔ)氣、表情、手勢(shì)，莫不如此。按照存在主義的觀點(diǎn)，這些狀態(tài)在我們意識(shí)產(chǎn)生之前就已經(jīng)作為世界的組成部分作用于我們的生存狀況。在日常交流中，大部分語(yǔ)言成分在我們明晰地意識(shí)到它的時(shí)候，它是語(yǔ)言的語(yǔ)義性成分，而在我們沒(méi)有明晰意識(shí)到其內(nèi)容時(shí)，它們是作為語(yǔ)境因素存在的（所謂字里行間或話外之意）。這就是語(yǔ)形和語(yǔ)義的相對(duì)性。

這里描述的語(yǔ)境理解過(guò)程，像我們的語(yǔ)形理解一樣，是一種深度理解活動(dòng)。更為重要的是，這種理解活動(dòng)的形成，即語(yǔ)言的熟練化，始終伴隨著身體的因果力作用。語(yǔ)言學(xué)習(xí)塑造了我們大腦的神經(jīng)系統(tǒng)，甚至是我們身體的肌肉系統(tǒng)；反過(guò)來(lái)，身體因果力也在塑造我們的語(yǔ)言學(xué)習(xí)活動(dòng)。語(yǔ)形同語(yǔ)義之相對(duì)化的本質(zhì)就是心靈同身體的相互作用。這個(gè)論證和結(jié)論將塞爾關(guān)于大腦因果力的觀點(diǎn)清晰化了：大腦的因果力塑造的是廣義的（或深厚的）語(yǔ)形能力——這是一種深厚語(yǔ)形（Deep-thick syntax）的觀點(diǎn)。關(guān)于人類(lèi)智能中的語(yǔ)形習(xí)得能力，筆者還將在其他地方更詳細(xì)地作出探討。

回到人工智能，當(dāng)前人工智能基于四個(gè)假設(shè)，其中的生物學(xué)假定和心理學(xué)假定主張：在生物學(xué)上，大腦和心靈分別類(lèi)比計(jì)算機(jī)硬件和軟件；在心理學(xué)上的心靈活動(dòng)基于離散符號(hào)或表征，是以算法規(guī)則運(yùn)行的離散計(jì)算。1 如果將生物學(xué)類(lèi)比運(yùn)用到人類(lèi)智能的形成過(guò)程中，那么，前面描述的心靈和身體的相互作用在人工智能中應(yīng)該體現(xiàn)為軟件和硬件的相互作用，即軟件可以而且應(yīng)當(dāng)參與硬件的塑造，反之亦然。然而，即使是在基于深度學(xué)習(xí)的人工智能中，也存在著神經(jīng)網(wǎng)絡(luò)的生成過(guò)程，這種生成只是在軟件內(nèi)部完成的過(guò)程。在任何意義上，計(jì)算機(jī)的硬件并不參與軟件的塑造，更為重要的是，計(jì)算機(jī)的軟件也不參與硬件的重塑。

人類(lèi)人格實(shí)誠(chéng)性的形成是一種廣義的語(yǔ)形理解能力獲得過(guò)程，如果現(xiàn)存人工智能并不具備任何語(yǔ)形理解能力，那么，它們所模擬的實(shí)誠(chéng)性也不會(huì)是真正的人格實(shí)誠(chéng)性。由此，我們的終極結(jié)論是，即使是像ChatGPT這樣令人驚艷的人工智能，它也不是真正的人的智能，它僅僅代表的是弱人工智能的又一個(gè)高峰。

The Problem of Personality Integrity of Artificial Intelligence

YAN Qingshan

Abstract： The Turing Test has long overlooked the issue that the tester’s judgment of “indistinguishability” between machines and humans relies on intuition， which inevitably introduces subjectivity. Analysis of Turing’s later empirical criteria suggests that the tester’s intuitions should incorporate the presupposition that “humans possess genuine personality integrity”. It is interesting to note that the basis of this presupposition is also reflected in a more refined version of Searle’s Chinese Room Argument. Meanwhile， the presupposition of personality integrity aligns with Dreyfus’ argument， which emphasizes that a person should have deep morphological comprehension. Thus， even if AI like ChatGPT， which is based on deep learning， can simulate genuine personality integrity， it does not possess true human intelligence and therefore does not signify a new stage in AI development

Key words： ChatGPT; the Turing Test; the problem of personality integrity; Chinese Room Argument; morphological comprehension

（責(zé)任編輯：蘇建軍）

基金項(xiàng)目：國(guó)家社科基金一般項(xiàng)目“哲學(xué)人類(lèi)學(xué)核心主題的分析性論證”（23BZX119）

作者簡(jiǎn)介：顏青山，華東師范大學(xué)哲學(xué)系教授，博士生導(dǎo)師（上海 200241）。

1 A. Turing， “Computing Machine and Intelligence”， Mind， 1950， 59（236） ： 433-460.

1 R. M. French， “The Turing Test： The First Fifty Years”， Trends in Cognitive Science， 2000， 4（3）： 115-121.

2 B. M. Lake， R. Salakhutdinov， J. B. Tenenbaum， “Human-level Concept Learning through Probabilistic Program Induction”， Science， 2015， 350（6266）： 1332-1338.

3 圖靈：《計(jì)算機(jī)器與思維》，載博登編：《人工智能哲學(xué)》，劉西瑞、王漢琦譯，上海譯文出版社2001年版，第56頁(yè)。

4 O. Graham， D. Dowe， “The Turing Test”， Stanford Encyclopedia of Philosophy， 2003（Apr 9）/2021（Oct 4）， Sec. 4.3-4.4.

5 圖靈：《計(jì)算機(jī)器與思維》，載博登編：《人工智能哲學(xué)》，第68頁(yè)。

1 德里克·帕菲特：《理與人》，王新生譯，上海譯文出版社2005年版。

1 J. R. Searle， “Minds， Brain and Programs”， Behavioral and Brain Science， 1986， 3（3）：417-457.

2 顏青山：《深度漢字屋與通用人工智能的兩難》，《上海師范大學(xué)學(xué)報(bào)（哲學(xué)社會(huì)科學(xué)版）》2018年5期。

1 顏青山：《論言語(yǔ)德性》，《社會(huì)科學(xué)》2015年10期。

1 H. Dreyfus， What Computer Can’t Do： a critique to artificial reason. New York： Haper amp; Row Publisher， 1972.

2 顏青山：《分析哲學(xué)與現(xiàn)象學(xué)融合的三條路徑》，《云夢(mèng)學(xué)刊》2018年5期。

3 王佳：《對(duì)塞爾“中文屋”兩種論證形式的考察》，《科學(xué)技術(shù)哲學(xué)研究》2010年5期。

4 P. M. Churchland， P. S. Churchland， “Could A Machine Think？”， Scientific American， 1990， 262（4）：34.

1 顏青山：《對(duì)待人工智能的選言命令式：“機(jī)心難題”及其規(guī)范性解決》，《社會(huì)科學(xué)》2018年12期。