熊偉

生成式AI的狂飆突進讓人工智能受到的關(guān)注又多了一些。其實，在實驗室里，在數(shù)不清的服務(wù)器組成的廣袤“農(nóng)場”上，在生產(chǎn)車間，在線上線下的閑聊中，人工智能從未離場。只是看到生成式AI跨過了嫻熟運用自然語言的關(guān)口，人們對各種技術(shù)路線的人工智能又新增了期待，也新增了擔(dān)憂。

人工智能技術(shù)本身的進步引發(fā)好奇，人工智能在各產(chǎn)業(yè)的應(yīng)用值得跟蹤，人工智能的社會影響同樣不容忽視。我們已經(jīng)在《中國信息化》今年（2023年）5月號刊發(fā)《生成式AI與輿論——“海量耳機效應(yīng)”》，提出生成式AI能夠造就一種輿論工具，給海量用戶“戴上耳機”，在他們耳邊絮語，潛移默化地影響他們的思想。新的輿論工具將是顛覆性的，比已有的報紙、雜志、廣播、電視、網(wǎng)站、移動新媒體等等媒介更加有力。

輿論是社會的“皮膚”，也可能是人工智能首先影響的社會層面。我們將由表及里，繼續(xù)討論。

回溯祭祀活躍的部落，以吏為師的國家，以及其他林林總總的古代社會，我們會意識到，人群中出現(xiàn)權(quán)威的歷史已經(jīng)十分漫長了。如果要找到各種權(quán)威的共同點，或許可以說，他們都是受到周圍人們信服的知識提供者，占據(jù)著文化的高地。按照文化社會學(xué)的觀點，所謂文化，就是社會或人群共同的信息。如果把文化的范圍擴大，加上物質(zhì)部分，文化則是社會或人群共同的成果。在人工智能出現(xiàn)之前，知識全部直接產(chǎn)自人類；而現(xiàn)在人工智能也可以生產(chǎn)知識，盡管其中有大量錯誤的知識。但這一點并不特殊，因為人類也生產(chǎn)了大量錯誤的知識。當(dāng)新的知識源出現(xiàn)時，非人類權(quán)威也立即出現(xiàn)了。

圍棋之“神”

生物學(xué)中有“生態(tài)龕位”概念，指不同物種憑借各自優(yōu)勢在生態(tài)系統(tǒng)中占據(jù)生存位置。人類在飛翔、游泳、視覺、聽覺、嗅覺、速度、力量等等方面，都弱于某些物種，但智力卓越，由此占據(jù)了生物圈中最具優(yōu)勢地位的生態(tài)龕位。因為人的優(yōu)勢來自智力，所以當(dāng)人們看到比自己跑的快的羚羊、獵豹，比自己力量強的獅子、大象，不會有心理劣勢。同樣地，當(dāng)人們制造出比自己速度快的工具，汽車、火車、飛機，比自己力量大的機械，起重機、空氣錘，也沒有什么失落感。然而一旦人們發(fā)覺智力被其他事物超越，感受就完全不同了。人容易接受非人的“他者”力強于人，卻難以接受“他者”智勝于人。而且智力之中還有區(qū)分，有些智近乎力，如暴力解算。計算機算多位數(shù)相乘比人快很多，毫不稀奇，人們不放在心上，但在分析、推理、決策上，人總是自負的，被人工智能超越，就沒那么舒服了。

棋類游戲是一個值得研究的角度。人工智能下棋超過人類造成很大的心理改變，而圍棋帶來最后一擊。1997年5月，IBM公司的計算機“深藍”第一次在標準國際象棋比賽中打敗世界冠軍卡斯帕羅夫。這一事件在未來幾年引起了嚴重的擔(dān)憂。筆者在2001年采訪包括三位圖靈獎獲得者在內(nèi)的多位專家，寫了題為《像海參一樣愚蠢——人工智能與智能計算縱橫》的科普文章，發(fā)表在《計算機世界》上。其中有一句“當(dāng)IBM的計算機打敗國際象棋大師的時候，有人坐不住了：計算機如此聰明，它們能力的成長會失去控制，最終危害人類嗎？”反映了二十多年前世紀之交時人們面對人工智能的心態(tài)?？梢妼θ斯ぶ悄艿木杞^不是新近產(chǎn)生的。那時計算機下圍棋還很業(yè)余，有人一度認為計算機永遠也下不過人類專業(yè)圍棋手，并臆想了一些理由來支持這種判斷。但圍棋的特殊性并沒有維持住人類的領(lǐng)先地位，2016年3月，谷歌旗下DeepMind公司研發(fā)的AlphaGo戰(zhàn)勝圍棋冠軍李世石，比分為4：1；2017年5月，AlphaGo的升級版AlphaGo Master戰(zhàn)勝世界排名最高的圍棋手柯潔，比分為3：0。

頂尖圍棋手面對比自己下棋更厲害的人工智能，一開始表現(xiàn)得非常不甘心。李世石36歲就退役了，他說敗給人工智能對他打擊很大?？聺嵲谂cAlphaGo Master對局時落淚，此后數(shù)次表示不愿意與人工智能比賽，還說“我這輩子打不敗AI”“我并不希望AI出現(xiàn)”。但在機器的實力面前，人類不得不承認差距。李世石九段在退役紀念賽上與韓國圍棋AI“韓豆”下了兩局棋，第一局竟然被讓二子！面對AI，棋手們的心理也有明顯的變化，從原先的不甘、遺憾，到現(xiàn)在下出AI的第一選擇時的自喜——棋手們已經(jīng)甘當(dāng)AI的小學(xué)生了。不得不說，他們是理智的。自從棋手們不再“妄想”戰(zhàn)勝AI而是誠心誠意向AI學(xué)習(xí)，他們的棋力迅速提高了。世界冠軍唐韋星說，人工智能可以很好地幫助年輕棋手提高水平。

圍棋AI已然遠遠超越人類，成了圍棋之“神”。這正是一個非人類權(quán)威生成的故事。

知識的流向

下棋的策略方法是知識的一類，此類知識的效用體現(xiàn)在棋力上。棋手向人工智能學(xué)習(xí)，是通過觀察對局，總結(jié)規(guī)律，然后自己形成關(guān)于行棋方法的知識。棋手們并沒有向圍棋人工智能詢問如何提升棋力。

知識檢索類AI則與此不同，你可以向它們提問，然后獲得想要的知識。知識檢索類AI大放異彩的事件發(fā)生在2011年2月，IBM公司研發(fā)的人工智能“沃森”以懸殊比分在美國著名智力競答電視節(jié)目“危險邊緣”中擊敗兩位人類“常勝將軍”，把100萬美元大獎收入囊中。筆者曾采訪參與IBM“沃森”項目的研究員潘越，寫了一篇題為《像海參一樣愚蠢，但比科學(xué)家聰明》的專欄文章，2011年7月發(fā)表在財富中文網(wǎng)上。潘越說，通過上網(wǎng)檢索并用判斷算法評估檢索結(jié)果的正確性，“沃森”能回答“是什么”，但對“為什么”和“怎么樣”類型的問題表現(xiàn)很差。

生成式AI如ChatGPT和知識檢索類AI也不同?！拔稚惫ぷ鲿r是要接入互聯(lián)網(wǎng)搜索答案的，ChatGPT卻不聯(lián)網(wǎng)，它自己根據(jù)此前的訓(xùn)練來生成答案?！拔稚背鲥e的情況很少發(fā)生，偶爾出錯的原因是它搜到了錯誤答案卻誤以為正確；ChatGPT則“擅長”胡編亂造，每每提供錯誤答案，需要人類自己核實它生成內(nèi)容的正確性。讓今天的ChatGPT和12年前的“沃森”來一場知識比賽，“沃森”必然完勝。

生成式AI的長處在于掌握自然語言，真的能夠自己“說話”而不是復(fù)述輸入的內(nèi)容。當(dāng)生成式AI和知識檢索類AI實現(xiàn)優(yōu)勢互補，人們就有了既能夠提供可靠知識，又很會使用人類語言文字的AI。即使只考察12年前的“沃森”，也不難認識到，AI能夠掌握的數(shù)據(jù)比一個人的記憶庫不知大多少倍。其實，知識權(quán)威的桂冠正像棋力桂冠一樣，已經(jīng)牢牢戴在AI的頭上，如在醫(yī)療領(lǐng)域，人工智能作為醫(yī)學(xué)知識權(quán)威，早就開始“執(zhí)業(yè)”診療了。今年6月，中國科學(xué)院院士顧東風(fēng)教授說：人工智能可以快速處理大量醫(yī)療數(shù)據(jù)；在臨床診斷方面，AI能夠識別5類38種心電圖，算法的診斷敏感性明顯高于普通心內(nèi)科醫(yī)師的水平。

吉登斯在《現(xiàn)代性的后果》一書中提出：“在現(xiàn)代性的條件下，再沒有什么知識是‘原來意義上的知識了，在‘原來的意義上，‘知道就是能確定?！边@種觀點能夠幫助我們理解數(shù)字時代的“知識反哺”現(xiàn)象——傳統(tǒng)社會里總是前輩向后輩傳授知識，而在現(xiàn)代社會，由于知識日新月異，并且青少年接受能力更強，父母、祖父母反而要從青少年那里獲得知識，如手機的設(shè)置、網(wǎng)購的方法。我們也可以設(shè)想，在AI應(yīng)用普及的未來，再沒有什么知識是“原來”意義上的知識了，除非它經(jīng)過了AI的確認。在那樣的場景中，AI扮演熟悉互聯(lián)網(wǎng)和手機操作的青少年，人類扮演它們的父母和祖父母。人們開始習(xí)慣于就某個不了解的知識向AI提問，把獲得的回答奉為標準答案。這種方法的好處是節(jié)約時間，讓學(xué)習(xí)知識的效率極大提高，但難免讓AI成為無可爭議的知識權(quán)威。

當(dāng)人們在諸多領(lǐng)域習(xí)慣了非人類權(quán)威，社會心理將變得怎樣？不妨參考圍棋手們預(yù)演的心路歷程：痛苦——不甘——反抗——反抗失敗——接受現(xiàn)實——察覺好處——甘之如飴。

非人類權(quán)威的生成，也即人類權(quán)威的黃昏。由于AI，世界將從諸神的黃昏走向人類的黃昏嗎？抑或AI將成為新的造神運動的產(chǎn)物？或許我們還有一些時間來思考這些問題。