薛巍

人機(jī)大戰(zhàn)，哲學(xué)家另有思考方式。

“阿爾法圍棋”（AlphaGo）贏了李世石兩局之后，阿爾法圍棋團(tuán)隊的工作人員非常喜悅，李世石心情沉重，但我寫郵件詢問兩位專家的看法，發(fā)現(xiàn)他們的反應(yīng)都很平靜。一直認(rèn)為人工智能研究一開始就注定會失敗的美國哲學(xué)家約翰·塞爾說：“沒有意識，機(jī)器人就無法真正地下棋。所以（機(jī)器人下棋）只是一個比喻。比喻是無害的，除非你把它當(dāng)真。”美國量子物理學(xué)家戴維·多伊奇說：“我認(rèn)為這是一個令人印象極其深刻的成就，但這幾乎跟人類意義上的通用智能無關(guān)。”他們都建議我去讀他們以前的文章，說明阿爾法狗的勝利并沒有改變他們之前的觀點。

英國《衛(wèi)報》的報道說：“比賽開始時，李世石按照韓國人的傳統(tǒng)向?qū)κ志瞎硎咀鹁?，而這次他的對手既看不見他，也感知不到他的存在。”還不僅如此。2014年約翰·塞爾在《你的電腦不知道什么》一文中說：“我們經(jīng)常會看到有人說，‘深藍(lán)下棋贏了卡斯帕羅夫。這種說法很可疑?？ㄋ古亮_夫要下棋并獲勝，他必須得意識到他是在下棋，并意識到無數(shù)其他東西，如他的王后受到了威脅?！钏{(lán)對這些都沒有意識，因為它對什么都沒有意識。為什么意識如此重要？如果你沒有意識，你就不能真正地下棋或者做任何認(rèn)知行為?！?/p>

1984年，塞爾在BBC瑞思講座第二講的標(biāo)題是：電腦能不能思考？他的回答是否定的。他說，按照電腦的定義，無論它們多么先進(jìn)，它們都不會思考，但這不等于說電腦不強(qiáng)大。而人工智能研究者的樂觀和自信也是非常驚人。比如日本人工智能專家松偉豐就說：“如果人類的思維也是某種計算的話，那么它就完全有理由通過計算機(jī)來模擬和實現(xiàn)。人類所有的大腦活動，包括思考、識別、記憶、感情，全部都可以通過計算機(jī)得到實現(xiàn)。只要我們通過計算機(jī)來實現(xiàn)人工智能，我們就可以為它配備一個類似于人身體的東西，可以將它設(shè)置成偶爾也會犯些錯誤?！比麪柊堰@種樂觀的看法稱作“強(qiáng)人工智能”派。在他們看來，人腦的運行跟電腦的運行是類似的，人腦就是一個計算機(jī)，心靈相當(dāng)于電腦的程序。

根據(jù)這種觀點，人類的心靈沒有什么本質(zhì)性的生物學(xué)特點。所以任何有著恰當(dāng)?shù)某绦?、恰?dāng)?shù)妮斎牒洼敵龅奈锢硐到y(tǒng)都跟人一樣，有其心靈。例如，如果你用舊啤酒罐做了一個風(fēng)力驅(qū)動的電腦，如果有著合適的程序，它就會有心靈?？▋?nèi)基梅隆大學(xué)的休伯特·西蒙說，我們已經(jīng)有了能夠思考的機(jī)器，現(xiàn)在的電腦已經(jīng)跟人一樣有思想。西蒙的同事阿蘭·紐厄爾聲稱，我們已經(jīng)發(fā)現(xiàn)，智能只是一個物理信號操作的問題;它跟生理或身體硬件沒有本質(zhì)關(guān)聯(lián)。麻省理工學(xué)院的馬文·明斯基說，下一代電腦會非常智能，以致如果它們愿意讓我們留在家中當(dāng)寵物，我們就很幸運了。最夸張的是人工智能一詞發(fā)明人約翰·麥卡錫的說法：甚至連溫度計那樣簡單的機(jī)器都有信念。溫度計有什么信念呢？他說：“我的溫度計有三個信念：這里太熱，這里太冷，以及這里不冷不熱?！?/p>

塞爾說，電腦的運行是純粹形式化的，我們用抽象的符號來確定電腦運行的步驟，比如印在紙帶上的0和1的序列。電腦的規(guī)則將確定，當(dāng)電腦處于某個狀態(tài)、紙帶上有某些符號時，它就會運行某種運算。但這些符號是沒有意義的，它們沒有任何語義內(nèi)容。比如0和1，它們甚至不代表數(shù)字。正是電腦的這種特征使得它們?nèi)绱藦?qiáng)大。同一種硬件可以運行各種程序。同一種程序可以在各種硬件上運行。

但程序的這種純粹形式化或句法化的特征決定了，程序的運行過程和人的精神過程是不一樣的。擁有一個心靈不只是有一個形式化、句法過程。我們內(nèi)在的精神狀態(tài)是有內(nèi)容的。“如果我想到某個城市或者想喝點冰啤酒，在其形式化特征之外，我的精神狀態(tài)是有一定的內(nèi)容的。即使我的思想是一系列符號，但思想不只是抽象的序列，因為這些序列本身沒有任何意義。如果我的思想是關(guān)于某種東西的思想，那么這一序列必須要有意義。換言之，心靈不只是句法的，還有語義學(xué)內(nèi)容。電腦程序永遠(yuǎn)都成不了心靈，因為電腦程序只是句法的，而心靈不只是句法的。心靈是語義學(xué)的，它們不只有形式化結(jié)構(gòu)，還有內(nèi)容。人的思考不只是操作無意義的符號的問題，還包括有意義的句法內(nèi)容。這些句法內(nèi)容就是我們所說的意義。”所以，“不管電腦技術(shù)發(fā)展到什么階段，不管計算機(jī)科學(xué)有多么驚人的進(jìn)步，不管計算機(jī)運行得有多快，如果它是一個電腦，它的運行就是句法的，而意識、思想、感覺、情緒等都不只涉及句法。電腦的模仿能力不管有多強(qiáng)大，都無法復(fù)制這些特征”。

塞爾在2014年的文章中以另一種方式說明了電腦和人腦的差異：商用電腦是完全沒有意識的?！氨热缥壹m正自己的拼寫和電腦的拼寫檢查。我希望正確地拼寫，我也相信我能在詞典里查到一個詞正確的拼法，所以我就去查。我的行為有三個層次：神經(jīng)生理學(xué)層次、在神經(jīng)生物學(xué)層面引發(fā)和實現(xiàn)的精神或意識層次，以及心理學(xué)層面引發(fā)的意向性行為層次。如果我拼錯了一個詞，電腦把它顯示為紅色，并提示正確的拼寫。電腦希望得出正確的拼法嗎？它相信我拼錯了嗎？電腦有一個單詞的清單，如果我打出的詞不在這個清單上，它就把它標(biāo)成紅色。電腦只有兩個層次：硬件層次和行為層次，沒有中間的真實心理層次?！?/p>

我們會不會被比自己更聰明的電腦消滅？塞爾認(rèn)為這是無稽之談?！半娔X有真正的智能嗎？一點都沒有。它們也沒有思考、記憶、決定、欲求、動機(jī)、學(xué)習(xí)和信息處理能力，更不用說下棋和回答問題的能力了。一些商用計算機(jī)能夠卓越地完成它們的任務(wù)，但永遠(yuǎn)都不要以為它們有任何心理現(xiàn)實。為什么這種系統(tǒng)要有產(chǎn)生意識的能力？恰當(dāng)?shù)男袨闉槭裁催€不夠？對許多目的來說，這確實足夠了。如果電腦能夠開飛機(jī)、駕駛汽車、贏棋，誰管它有沒有意識??？但是如果我們擔(dān)心一個有著邪惡動機(jī)的超智能會消滅我們，那這種邪惡動機(jī)應(yīng)該是真實的。沒有意識的話，這種可能性就不是現(xiàn)實的。電腦沒有任何智能、動機(jī)和自主性。我們很容易就能想象一個有意識的心靈給機(jī)器人裝上程序，讓它們?nèi)⑷?，但超級智能電腦有意識地去殺人是不切實際的?！?/p>

英國前皇家學(xué)會副主席阿里斯泰爾認(rèn)為：“再過幾十甚至幾百年，人類大腦進(jìn)化出的許多復(fù)雜的信息處理系統(tǒng)也不能在任何機(jī)器上復(fù)制出來。大腦極其復(fù)雜。人類和機(jī)器之間將依然存在人格鴻溝，人類的智能、情緒方面的洞察力和處理不確定性的能力是機(jī)器得不到的。在目前可以想象的將來，人類和機(jī)器將保持互補(bǔ)。我們要學(xué)習(xí)如何跟它們共處，但它們無法取代我們。”