智能革命與第四次科技革命

劉大椿

(中國人民大學哲學院教授， 北京 100872)

近年來，人們越來越意識到智能革命將成為人類未來的大趨勢，并稱之為第四次科技革命。對此，應該進一步廓清智能革命與第四次科技革命等概念，方能準確把握它們所描述的人類未來前景的深刻意涵。要理解智能革命，就要站在歷史的高度把握第四次科技革命和產業(yè)革命的特征，進而透過整體生成和系統(tǒng)演化的視角洞察其實現(xiàn)機制和深遠影響。

什么是智能革命？從人類現(xiàn)代化進程來看，智能革命是自17、18世紀第一次科技革命以來的第四次科技革命以及與之相對應的產業(yè)革命。此前還有三次與其同樣重要的革命：蒸汽革命、電力革命、信息革命。什么是科技革命和產業(yè)革命？簡單地講，科技革命就是科技進步系統(tǒng)演化和綜合發(fā)展過程中出現(xiàn)的歷史性的重大突破；產業(yè)革命則指突破性的、關鍵的且起引領作用的系統(tǒng)性與全局性的產業(yè)創(chuàng)新和綜合，往往會對人類社會生產和生活方式產生巨大影響。

第一次科技革命就是17、18世紀的科學技術革命，主要是物理學，特別是力學有了突破，也就有了現(xiàn)在所謂的科學。到18世紀以后數(shù)、理、化、天、地、生這些學科都基本成形了，科學大廈由此得以支撐。和17、18世紀的科技革命相對應的產業(yè)革命就是蒸汽革命，英國因此崛起為現(xiàn)代化的先驅，機器自此逐漸成為人類生產和社會生活的主導性角色。在19世紀到20世紀初的第二次科技革命中，熱力學、統(tǒng)計物理、電磁學及相對論和量子力學等的發(fā)展使現(xiàn)代物理學的理論架構基本確立，電能的使用和生產設備的電氣化令重化工業(yè)得到空前發(fā)展，與之相對應的產業(yè)革命就是電力革命。其領先者英、法、德、美等成為現(xiàn)代化的典范，自此人類找到了運用自然力的普遍能源形式和普遍的控制手段。第三次科技革命即20世紀80年代所說的第三次浪潮，是當時在信息、微電子、生命、新材料、新能源、航空航天等領域發(fā)生的高新科技革命，與之相對應的產業(yè)革命是信息革命。信息革命使美國在計算機、網絡等產業(yè)的創(chuàng)新和商業(yè)化方面領先世界，世界各國的實力在信息革命中此消彼長，而中國近四十年快速發(fā)展的重要原因之一就是抓住了信息革命的機遇趁勢而上。至此，科學和技術就不再僅僅局限于原先的數(shù)理化天地生的學科劃分，而轉向更宏觀的領域拓展，在過去重視物質科技和能源科技的基礎上，開始聚焦于信息科技和生命科技，繼而出現(xiàn)了信息、納米、生命、認知等融合科技；同時，在產業(yè)分布上也出現(xiàn)了相應的變化，信息科技領域的創(chuàng)新不僅在技術上使得各種機器、產品和包括社會交往在內的所有人類活動都可以通過信息得以控制和聯(lián)通，而且還觸發(fā)了以信息革命為特征的產業(yè)革命，以信息為基礎的知識產業(yè)和服務業(yè)等第三產業(yè)上升為最重要的產業(yè)部門，加之第一產業(yè)與第二產業(yè)的信息化改造，信息化成為工業(yè)化第二階段的主導方向。第四次科技革命是本世紀以來由移動互聯(lián)網、大數(shù)據(jù)、機器人、計算機視覺、深度學習等智能化科技促成的以人工智能為核心的新一輪科技革命。隨著智能化科技的發(fā)展，包括人在內的萬事萬物都會通過數(shù)據(jù)流聯(lián)結為可以感知和回應環(huán)境變化的泛智能體，整個世界將有可能演變?yōu)閺碗s、泛在的智能化虛擬機器。同時，以人工智能為核心的產業(yè)群初見端倪，信息革命躍遷到其第二階段，即智能革命的新階段，而工業(yè)化也正在走向其第三階段，即從信息化邁向智能化。面對智能革命的挑戰(zhàn)，美、中、歐、英摩拳擦掌，世界各主要國家和地區(qū)的競爭與協(xié)作態(tài)勢也必將面臨一系列前所未有大變局。

這四次科技革命之所以至關重要，之所以對人類文明具有根本性的變革功能，乃在于它們每每能促成新一輪的產業(yè)革命，并與之相互激蕩。而科技革命與產業(yè)革命實現(xiàn)協(xié)同激勵的關鍵在于，以科技創(chuàng)新打通科學發(fā)現(xiàn)與產業(yè)需求的通道，從而透過產業(yè)化這一集約的全要素和系統(tǒng)性的資源組織形式推動了社會變革乃至文明轉型。這反過來又促使全社會和民族國家紛紛將知識發(fā)現(xiàn)和科技創(chuàng)新視為發(fā)展的關鍵和國力的基石。如果說，科學革命源自人類對自然奧秘永恒的好奇心與求知欲，科技革命勢不可擋的革命性乃在于科技創(chuàng)新一旦站上產業(yè)革命的舞臺，就急劇放大上升為撬動社會變遷和文明轉型的力量。今天，我們談論智能革命，就應該從科技革命與產業(yè)革命互為條件、相互激蕩和交錯躍升出發(fā)，探究其本質、前瞻其態(tài)勢。

我們今天探討智能革命的前景和人類未來，應該進一步關注和主題相關聯(lián)四個層面的問題。

第一，技術層面。隨著智能革命的推進，技術上會出現(xiàn)哪些新東西？國內有一個偏向，技術界和產業(yè)界比較關注技術層面的問題，不太關注社會影響等其他方面的問題；而哲學和人文界則對技術層面的關注不是太夠。根據(jù)筆者對硅谷地區(qū)的實地觀察，美國非常關注技術，在技術上面花的工夫是我們難以想象的。同時，其體制也提供了很好的條件，在技術上有想法的人總有辦法去弄到資金來進行開發(fā)，也許這就是他們能在智能革命方面走得比較前面的原因。此外，他們高度重視技術預見。例如，有一項研究詳細探討了可能在最近三五年引起重大改變的23個技術，包括現(xiàn)在流行的智能駕駛。其中，對于這些技術若干年之后會進入什么樣的狀態(tài)，會實現(xiàn)百分之多少，或者有可能實現(xiàn)的概率是多少，80%還是90%，還是50%？諸如此類，都有非常有根據(jù)的介紹和預測。

第二，產業(yè)層面。伴隨著第四次科技革命，會有哪些產業(yè)呈突破之勢或可能脫穎而出？技術層面和產業(yè)層面雖然聯(lián)系緊密，實踐上卻是兩回事。以智能駕駛為例，目前在智能駕駛的技術層面投入很大，花很大功夫才能取得一點進展，很多研發(fā)企業(yè)都在組織開發(fā)、努力跟進。但同時，那些以產業(yè)實現(xiàn)為目標的企業(yè)和機構，從一開始就關注在產業(yè)層面怎么去實現(xiàn)技術的應用。以一家研發(fā)智能駕駛的企業(yè)為例，在智能技術層面，他們的賓利車組裝起來，可以從硅谷一直開到拉斯維加斯，在非常復雜的氣象條件下展開測試；他們還在智能貨卡上安裝了各種各樣的探頭、傳感器，在各種環(huán)境下進行測試，并且取得了相當?shù)倪M展。但他們認識到，比此更重要的是，技術層面的發(fā)明怎么在產業(yè)方面實現(xiàn)？這就必須考慮技術應用的可能性有多大，而且產業(yè)的實現(xiàn)必定關系到社會，就不僅僅是技術問題。目前比較看好的一條路，就是尋求智能貨卡的商業(yè)化路徑。貨卡實現(xiàn)智能控制的可能性比較大，一旦實現(xiàn)，必定產生非常大的效益。據(jù)統(tǒng)計，美國貨運的年產值是四萬億，如果有1%愿意采用他們的方案，涉及的產值就是400億。如何將智能革命落實到新的產業(yè)應用和原有產業(yè)的升級改造，在產業(yè)層面應該深入考量。

第三，社會層面。智能革命會帶來哪些社會問題？例如，如果不要那么多駕駛員了，那這些人去干什么？幾十萬駕駛員失業(yè)了怎么辦？就智能醫(yī)生而言，如果都可以用人工智能來看病診斷了，那還要醫(yī)生干什么？這些都是我們現(xiàn)在就可以想到的社會層面的問題。

第四，精神層面。精神層面最大的問題，是多數(shù)人今后還有什么用？活著還有什么意義？以后的社會是不是5%的人去把人工智能開發(fā)出來，剩下的事就交由機器人操作，其他95%的人，說的好就是享受，說的不好聽就成了廢人。大多數(shù)人不需要有效工作，這種社會行不行呢？肯定是不行的。馬克思曾經批判資本綁架科技，就會造成人的異化。原先的手工藝工人是有技術的，到機器大生產時代工人卻被機器代替了。這些問題，不管是搞技術的也好，搞社會學的也好，還是搞哲學的也好，是不能不關心的。其實，智能革命給所有人提出了人性本質問題：無論智能革命如何推進，人類生命和社會文明如何演化發(fā)展，怎樣使每個人在由人類所開創(chuàng)的深度智能化的未來都有事情可做？如何讓一切人群都在心理和精神上呈現(xiàn)出朝氣蓬勃和幸?？鞓返臓顟B(tài)，而不是自慚形穢、百無聊賴的失敗者？

智能革命與人類的前景

成素梅

(上海社會科學院哲學研究所研究員，上海 200235)

我們探討“智能革命與人類的前景”這個主題的一個前提假設是，設想一下，如果智能化社會能夠到來的話，我們現(xiàn)在應該如何做好怎樣的迎接準備。我將從三個方面來闡述這個話題。第一，人工智能威脅論的誤區(qū)；第二，智能革命是文明的選擇；第三，為休閑社會的到來作準備。

首先，關于人工智能的威脅論的誤區(qū)。

大家對人工智能威脅論應該都不陌生，而且有很多相關的論點與報道。在這些威脅論中，有兩種突出的擔憂，其一是擔憂機器人有朝一日會全面替代人類所做的一切工作，從而使人變得無所事事，最終成為“無用”之人；其二是像諸多科幻影片中所設想的那樣，人工智能的發(fā)展必然會在未來制造出全面控制人類的具有強大能力的智能體，從而導致人類文明的終結。擔任多家科技公司CEO的埃隆·馬斯克預言，人工智能是人類文明最大的威脅；宇宙物理學家史蒂芬·霍金警告說，人工智能可能致使人類文明走向終結；《未來簡史》的作者尤瓦爾·赫拉利則認為，智能機器的普及必然會導致產生一個“無用”階級，如此等等。這兩類觀念有很多想象的成份。《失控》的作者凱文·凱利認為，人工智能威脅論蘊含的五個假設無異于宗教信仰，沒有證據(jù)支持。我個人也認為，人工智能的發(fā)展對我們人類帶來的最大威脅，既不是失業(yè)問題，也不是它能強大到足以消滅人類的問題，而是對人類在工業(yè)文明基礎上形成的發(fā)展觀、就業(yè)觀、財富觀、分配制度等治理體系與傳統(tǒng)的概念框架的挑戰(zhàn)。如果我們從人類文明的視域來分析，威脅論似乎返回到了人類文明的初期。在人類文明初期，之所以誕生了許多神話、圖騰崇拜、祈禱儀式、形成宗教信仰等，在很大程度上體現(xiàn)了人類對當時無法解釋和無法控制的自然現(xiàn)象的懼怕，后來，隨著科學技術的發(fā)展，人類最終借助于強大的科學技術力量戰(zhàn)勝了有神論的推測與信仰，從而把檢驗真理的標準轉向了觀察和實驗。

同樣，我們今天正在向著人工智能時代飛躍，而這種飛躍是跨躍式的。我們一方面還在面臨著需要解決從工業(yè)文明向信息文明轉型過程中出現(xiàn)的問題，比如，當我們從過去信息匱乏時代轉向信息過剩時代時，就個人而言，面臨著信息超載、信息碎片化、注意力分散等問題；就社會而言，面臨著社會安全、社會治理等新問題；當人類社會從依賴于信息技術發(fā)展的工業(yè)社會，轉向了受信息技術驅動發(fā)展的信息社會時，面臨著與社會轉型相配套的一系列制度變革等問題。另一方面，自2010年以來，隨著智能化技術向著各行各業(yè)的滲透，智能化不僅深化了信息化的進程，推動了信息文明的縱深發(fā)展，而且預言著一個新的智能化時代即將到來。我們面臨著舊問題還沒有解決，而新問題又不斷產生的困難局面。特別是，因為我們想象不出未來的智能體是什么樣的，如果真的像科幻小說、電影中所描繪的那么強大無比，那么，人類文明似乎就面臨著滅亡的危險。事實上，這同樣是對人類失去控制力的恐懼。人的安全感來自對控制力的把握，對能夠把控的事情就不會感覺到恐懼，反之則不然。

不僅如此，我們還會面臨選擇悖論，即，科學技術越發(fā)達，人們的選擇越多樣，但反而越感到有危機。這是對不確定性的一種恐懼。同樣，這種恐懼也是對掌握控制權的向往。這點實際上和我們長期以來形成的控制論的思維方式有關。我們現(xiàn)有的概念工具箱和概念框架以及包括制度設計在內的思想體系，不足以理解和應對人工智能的發(fā)展所帶來的改變，我認為這是威脅論出現(xiàn)的主要原因。具有來說，是把人工智能帶來的挑戰(zhàn)看成是無法避免的災難，而不是看成由于概念工具箱匱乏、思維方式固化和制度安排落后的產物，因而拒斥在運用舊范疇體系時無法理解和賦予意義的新生事物，并對不確定的未來充滿恐懼，做出消極評估。所以，當環(huán)境變化太快，原有的概念框架跟不上變化的步伐時，概念框架的缺失不只是一個問題，更是一種風險。

關于“無用”論的擔憂同樣如此。從農業(yè)文明到工業(yè)文明的轉型，誕生了農業(yè)文明中不曾有過的許多新行業(yè)，比如機械制造業(yè)、航海業(yè)、鐵路運輸業(yè)等。工業(yè)文明拋棄的不是土地生產，而是以機械化與自動化的形式改變了土地耕耘方式，并以新的聯(lián)合方式變革了農業(yè)文明時代的制度安排，形成了新的概念框架和新的經濟、文化、法律等制度體系。同樣，從工業(yè)文明再到信息文明的轉型，也誕生了工業(yè)文明時代所沒有的一系列新行業(yè)，比如網絡通信、電子商務、人工智能等。信息文明也沒有摒棄土地和工廠，而是以網絡化、數(shù)字化和智能化的方式變革工業(yè)生產方式，并再次變革農業(yè)生產方式。但是社會變革至今依然處于進行之中，遠沒有完成。[注]參見成素梅：《信息文明的內涵及其本質》，《學術月刊》2018年第5期。

其次，智能化的革命是一種文明的選擇。

從人與自然的關系來看，人工智能的發(fā)展迎來了“人成之為人”的第二次過程?！叭顺芍疄槿恕钡牡谝淮芜^程是人與自然界的分離，從此人與自然界的關系由整體性關系變成了對象性關系。與此相對應，地球的進化經歷了從無機物到有機物再到進化出人類，而人類一旦出現(xiàn)，就相異于其他動物。我們知道，動物的生存是自然選擇的結果，強者生、弱者亡，遵守叢林法則。但人類則不同，從原始人開始就知道利用聯(lián)合的力量來生存。聯(lián)合的力量形成之時就是人類文明開始之時，然后逐漸地形成了社會制度等自治體系。因此，利用科學技術推動人類文明進程的發(fā)展，是人類文明的必然選擇。從這個意義上來看，智能革命和以前的技術革命一樣，也是文明選擇的方向，不管人們對發(fā)展人工智能有多么的恐懼，人工智能肯定是要繼續(xù)發(fā)展下去的。當前，各國政府的重視，社會資本的涌入，都在助推人工智能的大力發(fā)展。[注]參見成素梅：《信息文明時代的到來與挑戰(zhàn)》，《中國社會科學報》2018年1月3日。

人類文明的演化方向有四個特征。第一就是越來越向著違反自然選擇的方向發(fā)展，即人類聯(lián)合起來抗擊各種自然災害；第二是聯(lián)合的力量越來越強大，聯(lián)合起來保護其成員不受外來侵害也是人類文明發(fā)展的方向，因此，從這個意義上來說，戰(zhàn)爭也是文明的產物；第三是關愛弱者，這是人類與動物的最大區(qū)別，是社會進步的標志之一；第四是社會化程度不斷提高，也體現(xiàn)出人與人之間的相互依賴性不斷加強。智能革命顯然滿足了這四個特征，或者說，智能革命是人類文明發(fā)展的選擇。

第三，為休閑社會的到來作準備。

工業(yè)社會主要是建立在物質生產基礎上，大家把勞動看作是正事，把休閑看作是無所事事、不務正業(yè)，強調應該是以勞動為主，休閑不過是對勞動的獎賞。但是隨著智能革命的興起，當全社會的各種工作逐漸地由機器人替代時，當人類將會有很多時間進行自由支配時，休閑社會就會到來。智能文明是信息文明的高級階段，就像信息文明的初級階段是工業(yè)文明的高級階段一樣，信息文明的高級階段是智能文明的初級階段。在這個階段，人類的身心解放不是使人成為無用之人，而是需要尋找新的聯(lián)合方式。而這種新的聯(lián)合方式，在很大程度上就是讓人們越來越從勞動中解放出來時，人類的追求將會逐漸地從物質追求轉向精神追求，從而迎接休閑社會的到來。

我們應該為休閑社會的到來作什么樣的思想準備？這是值得研究和探討的關鍵問題。我們注意到，智能革命有可能為“人成之為人”提供第二次機會，如果說第一次是人與自然的分離，那么這一次將會是人重新回歸自然、重新尊重自然，改變工業(yè)文明時代形成的索取和掠奪自然的生產與消費方式。我們現(xiàn)有的聯(lián)合方式是圍繞解決經濟問題而形成的，現(xiàn)有的社會制度、教育體制、政府管理部門等，都是圍繞勞動經濟為核心來展開的。但是，智能化社會的到來必然會增加人的休閑時間，這時如果我們的勞動觀和發(fā)展觀不改變，我們就會變得無所適從，甚至變成自己的敵人，從馬克思批判的勞動的異化走向休閑的異化。

如果說，解決經濟的壓力是人類長期以來面對的最大挑戰(zhàn)，那么，塑造以休閑為核心的社會并具備休閑的能力，則是人類進入智能文明時代所面臨的更大挑戰(zhàn)。人類自古以來是以解決經濟問題為目標的，在智能化社會這個目標有可能不再是人類追求的唯一重要的目標，人類長期以來形成的一切習慣就必須改變。但問題是當我們解除了經濟壓力并面對休閑時，應該在各方面提前做好怎樣的準備，如何改變現(xiàn)有的制度架構、思維方式、概念范疇，如何使人能夠成為提升自我修養(yǎng)、開發(fā)個人興趣、懂得在活動中享受快樂、塑造幸福感的人，這也是使人成為“有用”之人的一種方式。因此，當我們把追求生命意義和社會價值放在首位時，我們的評價標準就會發(fā)生改變。

從歷史上看，勞動和休閑的關系有四個層次。一是純勞動型，對所從事的勞動沒有任何興趣，只是為了糊口賺錢；二是勞動-休閑型，以勞動為主、休閑為輔，休閑是勞動的獎勵；第三是休閑-勞動型，以休閑為主、勞動為輔，把勞動變成一種休閑方式，以休閑的心態(tài)對待勞動，即休閑式勞動，是把勞動當作自己興趣的一種方式；第四是純休閑型，這是人類生活最理想的狀態(tài)。但是，這個理想的純休閑型狀態(tài)，并不是吃喝玩樂的意義上休閑，而是指亞里士多德意義上的對生命意義的追求過程，使人的一生成為生命意義的展現(xiàn)過程，這是理想的精神狀態(tài)。

智能化數(shù)據(jù)解析社會的政治倫理考量

段偉文

(中國社會科學院哲學研究所研究員，北京 100732)

近年來，人工智能應用的熱點是數(shù)據(jù)智能，其主要背景是世界的數(shù)據(jù)化。所謂世界的數(shù)據(jù)化，簡單地講就是：世界就是數(shù)據(jù)，數(shù)據(jù)就是世界。什么是數(shù)據(jù)？英文中的數(shù)據(jù)一詞是data，但其內涵不僅與數(shù)字或科學觀測有關，更是對世界的記錄。當初傅統(tǒng)先在譯杜威的《確定性的尋求》時，將data翻譯為素材。當前，我們所說的大數(shù)據(jù)和數(shù)據(jù)智能中的數(shù)據(jù)的含義就是素材，更確切地講是電子化的素材，比方說報告的錄音、錄像等。有些素材的元數(shù)據(jù)是可以量化和結構化的，這些數(shù)據(jù)起到了測量世界和人的行為過程的作用。近年來，由于素材或數(shù)據(jù)存儲與處理的成本不斷降低，我們能夠把很多東西記錄下來，雖然記錄的時候有各種各樣的目的，一旦記錄下來以后就可以變成素材而用于別的用途，如可作為其他主題的數(shù)據(jù)挖掘之用。值得指出的是，當我們講“世界就是數(shù)據(jù)”和“數(shù)據(jù)就是世界”時，應該看到所謂的世界的數(shù)據(jù)化并不是抽象的，用數(shù)據(jù)呈現(xiàn)世界和人的行為的方式取決于具體的記錄、傳感、測量和分析技術，而任何方式都會突出與強化世界與人的行為的某些方面而忽視與弱化另一些方面。

數(shù)據(jù)智能和智能算法的應用是現(xiàn)代社會治理與個人治理日益量化的最新表現(xiàn)，這一趨勢與發(fā)端于17世紀的“政治算術”、始于19世紀的“控制革命”密切相關，其新近的發(fā)展正在導致“解析社會”的來臨。首先，所謂政治算術可以追溯至17世紀剛興起的統(tǒng)計學的社會應用。當時，統(tǒng)計學的社會應用的倡導者將統(tǒng)計學稱為“政治算術”，當時的哲學家和古典經濟學家威廉·配第還專門寫了本題為《政治算術》的小冊子，以強調統(tǒng)計數(shù)字對于政治具有至關重要的作用。其次，使政治算術的理念得以普遍推行的則是被稱為“控制革命”的信息技術的發(fā)展。20世紀80年代，信息技術史家貝尼格(James R.Beniger)在《控制革命》一書中指出，19世紀以來，信息技術的發(fā)展實質上是為了克服由城市化和大工業(yè)生產所帶來的控制的危機而形成的一系列控制革命。

20世紀的最后30年間，伴隨著對以工業(yè)化為特征的現(xiàn)代化的弊端的反思，微電子、個人計算機、網絡和移動通信等信息通信技術的發(fā)展為信息化開辟了道路，其間不僅涌現(xiàn)出后工業(yè)社會和第三次浪潮等社會理論與未來學思潮，而且還由反主流文化孕育出為虛擬空間奠基的賽博文化，其結果導致了20世紀末具有虛擬性、匿名性和多主體交互性的網絡空間的崛起。但這種貌似個體可以通過虛擬的網絡空間擺脫現(xiàn)實社會制約的幻象很快就破滅了。隨著谷歌搜索對百科全書檢索式的雅虎等早期門戶網站的超越以及Web2.0和網絡社交新媒體的發(fā)展，用戶網絡活動所生成的內容即UGC(User-generated content)不僅使網絡為用戶數(shù)據(jù)所驅動，而且這些數(shù)據(jù)反過來成為人們的數(shù)據(jù)足跡。隨著移動互聯(lián)網、網絡社交媒體、智能手機、可穿戴設備等信息技術的發(fā)展和各種數(shù)據(jù)的指數(shù)化增長，對人的線上和線下行為數(shù)據(jù)的搜集和分析則可能使每個人成為被追蹤、觀測、分析的對象，數(shù)據(jù)的掌握者由此可對數(shù)據(jù)進行認知計算，借助一定的算法對數(shù)據(jù)主體展開行為評分和內容推薦，從而對人的行為進行評判、引導和干預。

不論是運用數(shù)據(jù)表征或干預世界和人的行為，還是運用各種可穿戴設備對數(shù)據(jù)采集與分析對他人或自己的生活進行量化自我等管理與治理，都預示著一個全新的社會——解析社會或數(shù)據(jù)解析社會的來臨。數(shù)據(jù)解析社會這種新的社會形態(tài)是革命性的。一方面，數(shù)據(jù)所扮演的角色如同13世紀時出現(xiàn)的透鏡，如果說透鏡所制造的望遠鏡和顯微鏡讓宇宙和微觀世界得以清晰地觀測與呈現(xiàn)，如今“數(shù)據(jù)透鏡”則使人的行為得到量化的記錄與透視；另一方面，就像17世紀笛卡爾發(fā)明解析幾何使得自然界的結構與規(guī)律得以探究一樣，數(shù)據(jù)分析與智能算法的應用正在使人的行為規(guī)律得到洞察和解析。

不論數(shù)據(jù)解析社會的構建如何展開，智能算法對人們生活的影響已無處不在。從企業(yè)對員工的評價、人事簡歷自動篩選、商業(yè)信用評分到區(qū)域犯罪預測、城市警力分布、自我健康管理，數(shù)據(jù)分析與智能算法在人們生活中涉及的各種評價、篩選和決策中日漸扮演著舉足輕重的角色，我們業(yè)已步入由算法規(guī)制生活和引導人的行為的算法生活時代。政府和企業(yè)為了各種目的在其管理和運營中引入了很多智能算法，這些算法在執(zhí)行中會形成各種影響人的生活的算法權力。這種算法權力很容易遭到濫用，甚至會發(fā)展為所謂的算法霸權。首先，姑且不提算法可能存在的黑箱問題(不透明、不易解釋等)，供機器學習的數(shù)據(jù)，如大量罪犯行為數(shù)據(jù)本身是由人記錄和處理的，本身就帶有人的各種偏見(如種族偏見、社區(qū)偏見等)，在此基礎上所進行的算法決策很容易使這些偏見放大。其次，智能算法往往只考慮到某些特定的視角而缺乏整體性的思考。其三，智能算法中存在的不合理之處往往缺乏反饋與糾正的渠道，如果不能引入受到算法權力傷害或不公正對待的人能夠及時參與的反饋糾錯機制，算法的主導者很難主動發(fā)現(xiàn)問題并加以反思和修正。

進一步而言，智能算法的應用建立在一種基于預見的可能性而采取控制行動的政治邏輯之上，我們可以稱之為可能性的政治。在斯皮爾格導演的電影《少數(shù)派報告》中對未實施的犯罪的阻止甚至懲罰雖然不一定發(fā)生，但數(shù)據(jù)分析和智能算法的控制者顯然會用它們來預測、引導或阻止人的行為，不論其方式是柔性的計算機說服技術或智能化助推，還是剛性的簡歷篩選和對行動自由的限制，都體現(xiàn)了某種宰制性的權力或霸權。以所謂人的數(shù)據(jù)畫像為例，雖然人的數(shù)據(jù)畫像如同人的“數(shù)據(jù)孿生兄弟”，但其本身是沒有主體性和能動性的，而只是體現(xiàn)了數(shù)據(jù)分析與智能算法的掌控者對數(shù)據(jù)畫像的對象的主體性或能動性的猜測，其中所折射的是他人的主體性、能動性或意向性。因此，數(shù)據(jù)孿生兄弟實際上是缺失心靈的數(shù)據(jù)僵尸。

由此，要克服數(shù)據(jù)分析與智能算法的數(shù)據(jù)霸權與算法權力，應該從主體的能動性構建出發(fā)，使人的主體性、能動性或意向性免于被數(shù)據(jù)僵尸所取代的命運。這就要求我們通過與數(shù)據(jù)霸權與算法權力的纏斗尋求人的能動性與算法權力關系的再平衡：始終從使用者或人的角度去評判智能算法的合理性；智能算法應發(fā)揮普遍性賦能作用，使每個人的能力增強，權利也得到相應擴充；人與算法要建立起一種伙伴關系，即，使智能算法成為陪伴人、幫助人的伴侶技術。

最后，值得指出的是，智能原本源自生命與社會，生命、智能與社會共同構成了日益復雜的生命-智能-社會復合體。從“生命-智能-社會復合體”這一分析框架出發(fā)，有助于總體把握智能革命以及人類社會深度智能化的前景：人工智能體將以擬主體的形式整合到生命-智能-社會復合體之中，泛主體社會或泛智能體社會即將來臨。當我們面對陪伴機器人、智能音箱以及層出不窮的智能體或泛主體時，將會越來越多地思考它們是什么樣的擬主體，又具有什么意義上的能動性。

智能革命與機器烏托邦

劉永謀

(中國人民大學哲學院教授，北京 100872)

智能革命與技術治理的關系是一個大題目。智能革命已經到來，這個提法是站得住腳的。學界提出的各種“革命”太多，就工業(yè)革命而言，有人都提到第六次工業(yè)革命了。實際上，“革命”不過是一個隱喻，能不能成立并不重要，重要的是提出這個“革命”要表達什么，是否有價值。顯然，智能革命會大力推動整個社會技術治理的程度和水平，同時會導致社會風險。智能革命社會風險包括運用智能技術的智能治理風險，不是科學技術本身的問題，根本上是政治、制度和實踐問題。關于這個問題，技術哲學荷蘭學派如佛貝克等人力推的道德物化的角度很有啟發(fā)性，但道德物化處理的問題過于細節(jié)，大的問題還是要借助制度安排來應對。

智能革命和AI技術對社會公共治理會有什么樣的影響？對此問題，大家都是基于智能革命和AI技術充分發(fā)展的遠景來回答的。答案存在兩種相反的極端態(tài)度：一種是樂觀主義的，像成素梅教授那樣，認為以后可能出現(xiàn)一個“AI理想國”；還有一種是悲觀主義的，可以稱之為“AI機器烏托邦”。這里先討論一下悲觀的想法，過后再講樂觀的想法。

很多人都討論過物聯(lián)網和大數(shù)據(jù)對于技術治理的推動作用。家用的小米機器人，它要在家掃地，當然要搜集和分析房間的信息，也就是說，AI應用離不開物聯(lián)網和大數(shù)據(jù)，如果后兩者對技術治理有推動，那么AI對技術治理的推動就不言而喻了。

悲觀主義者總是擔憂智能治理和AI治理：智能革命時代，電子圓形監(jiān)獄(electronic panopticon)會不會到來？大家研究信息哲學，都知道邊沁和?？绿岢龅膱A形監(jiān)獄理論，以及后來流行的電子圓形監(jiān)獄概念。用圓形監(jiān)獄理論分析物聯(lián)網的結構與功能，會發(fā)現(xiàn)物聯(lián)網會偏好極權控制，因而本底上是會侵犯人的隱私的。在具體意象上講，就是小說《1984》中無處不在的電幕，對所有人進行監(jiān)視。這主要考慮的是物聯(lián)網隱私問題，到了AI技術和智能革命的時代，這就不光是一個隱私問題，除了監(jiān)視，機器人當然是可以訴諸實際行動的，比如對人進行拘押。機器人收集和行動的能力如果擴展到社會公共事物和政治領域的時候，會產生比電子圓形監(jiān)獄更強的負面效應。換句話說，到了智能革命時代，電子圓形監(jiān)獄才可能成為真正的監(jiān)獄：從監(jiān)視、審判到改造可以一體化完成。也就是說，電子圓形監(jiān)獄會不會成為機器烏托邦？這就是當今敵托邦科幻文藝的一個大類，即“AI恐怖文藝”所要抨擊的景象，在好萊塢電影《終結者》系列中得到最著名的呈現(xiàn)：機器人對所有人的牢獄統(tǒng)治。

當然，所謂隱私是社會建構的，是歷史變化的，是有地方性的。為什么當代中國人越來越講隱私，但同時很多人在朋友圈曬自己的私密生活？這說明沒有普遍的一致的隱私，隱私觀是很不同的。在中國古代，人們是缺少隱私觀念的，或者說隱私觀念是很不同的。古人講，不發(fā)人陰私，這不是說尊重人權，而是說要做君子。中國古代最高權力者皇帝是沒有隱私的，他的一舉一動都在《起居注》中記載得清清楚楚。舊式大家族中人們同樣沒有隱私，年輕人要早晚向父母請安，什么事情宗族都會知道、要干預。隱私與人權有關，中國傳統(tǒng)是沒有這個概念的。奇怪的是，沒有隱私，數(shù)千年來中國社會治理和社會生活大體運行得也很平穩(wěn)。實際上隱私觀在中國就是隨著ICT技術和網絡興起傳到中國來的，在80年代都很少有中國人講究隱私。隨著物聯(lián)網和大數(shù)據(jù)技術的推進，中國人還在形成中的隱私觀很快會發(fā)生改變，比如很多人現(xiàn)在出門在“去哪兒”APP上定房間、安排行程，把個人信息讓商家知道，覺得很方便。

隱私社會建構論實際上并沒有否定物聯(lián)網偏好極權的觀點。隱私觀的改變，從某種意義上說是對技術發(fā)展的屈服。然而到了智能革命時代，極權的觸角可能伸到的地方不再僅僅是看，而是會有具體的行動、對肉體和思想的嚴格控制。如果電子圓形監(jiān)獄在社會上廣泛建成的時候，這就是所謂的最壞的智能治理社會，即“機器烏托邦”就會到來。也就是說，AI技術是有可能催生機器烏托邦的。

機器烏托邦會是什么樣的？通過對批評既有的技術治理、智能治理以及AI在社會公共領域應用的各種思想文獻來進行分析，可以得出它的基本意象。當代西方的科幻小說有個很重要的特點，即樂觀主義情緒很少，并且基本上都與對智能革命的想象有關系。這樣一種想象在西方是很流行的，它所勾勒出來的未來社會是一架完整、嚴密和智能的大機器：由于AI技術的廣泛應用，每個社會成員都是這個智能機器上的一個小智能零件，而且是可以隨時更換的零件，和鋼鐵制造的零件沒有差別，這就是“AI機器烏托邦”。以好萊塢為代表的科幻影視，對此有各種各樣的刻畫。

從批評的文獻、文藝和影視作品中，可以歸納出AI機器烏托邦的四個主要特點。第一個是AI機械化，即把人、物、社會所有都看成純粹機械或智能機器，對所有的一切要事無巨細地進行智能測量，包括人的思想情感，可以還原成心理學和物理學的事實以此來進行測量。第二個是AI效率化，也就是說，AI機器烏托邦它核心的價值主張是效率，智能要講求效率，科學技術是最有效率的，沒有效率的東西比如文化、文學和藝術都是可以取消。AI機器烏托邦社會運行的目標就是科學技術越來越發(fā)達，物質越來越豐富，人類文明不斷地擴展，要擴展到整個地球，擴展到月球，擴展到火星。第三是AI總體化，也就是說整個社會是一個智能總體，按照建基于物聯(lián)網、大數(shù)據(jù)、云計算和AI等智能技術之上的社會規(guī)劃藍圖來運轉。所有國家政黨、社會制度、風俗習慣以及個人生活全面被改造，沒有人能夠逃脫總體化的智能控制。第四是AI極權化，AI機器烏托邦是反對民主和自由的，認為民主和自由沒有效率，支持的是由智能專家、控制論專家掌握國家大權，公開實現(xiàn)等級制度，然后以數(shù)字、智能和控制論的方式殘酷地統(tǒng)治社會。

用AI技術對社會進行公共治理是不是就必然會導致機器烏托邦呢？不一定，因為所有的技術治理包括智能治理可以有很多不同的模式。一種是激進的，整個社會要打亂重新按照智能藍圖來建構；另一種是溫和的，在現(xiàn)有的基礎上進行改良，而溫和派之間也有很大差別，所以歷史上是有很多不同的技術治理模式。

對AI機器烏托邦意象的總結有何教益？西方對智能治理、AI治理的批評，我們并不完全贊同，但是從理論上考慮AI機器烏托邦的危險或風險是很有必要的。在歷史上并沒有真正出現(xiàn)過AI機器烏托邦，它還只是在人們恐懼的想象中，但是從理論上說它還是可能出現(xiàn)的，因此要避免極端的AI機器烏托邦的出現(xiàn)。上述AI機器烏托邦意象的四種特征，是要在AI技術、智能技術應用于社會公共治理的過程中極力避免的，當然這是非常復雜的問題。這里有一些初步的思考，比如要避免AI總體化，必須要避免封閉性智能社會，實際上封閉性在網絡社會是很難完全做到的；比如避免AI機械化，涉及社會主流觀念尤其是科學觀的改變，一百年前主流的科學觀是機械主義的，現(xiàn)在并不如此；比如避免AI極權化，關鍵是選擇適當?shù)闹悄苤卫砟Ｊ剑灰欢ê妥杂擅裰飨鄾_突。奧爾森指出，技術治理在21世紀有“軟”化的趨勢，不像以前那么“硬”了。比如，要避免AI經濟至上的觀點，社會局部的規(guī)劃要服從更高制度的安排，智能治理不能成為惟一或最高的治理安排，而應該是作為一種局部的工具。總之，智能革命的到來加大了AI機器烏托邦的風險，因此必須考慮制度設計與應對，這個問題從根本上說不是技術問題，而是政治問題。

智能革命與人類記憶

楊慶峰

(上海大學哲學系教授，上海 200244)

對人工智能的討論需要放置到人與技術的關系框架中進行。首先要做的是對人與技術的關系框架加以反思。傳統(tǒng)的觀點是“工具論”，即把包括人工智能在內的技術當做一種工具或者對象，用來解決問題或者處理一些其他的事情，這種人與工具形成非常固定的模式，成為我們分析人與技術關系的主導模式?！肮ぞ哒摗蹦Ｊ奖澈笫且粋€主體、客體分離的理論基礎。這種傳統(tǒng)模式后來受到了很多哲學家的嚴厲批判，如海德格爾、芬伯格他們對這一觀點進行了很深入的批判，尤其是海德格爾在批判的基礎上提出了現(xiàn)象學的模式，而芬伯格把政治維度和社會因素加進去了。他們的批判導致了另外一種關系模式“居中說”(人在世界之中、人在技術之中)，這為本文“旋渦論”的提出奠定了理論前提。旋渦論，即人在技術的漩渦之中。

從詞源學角度看，旋渦的英文是volution，依次詞根會出現(xiàn)三個變形詞：convolution、evolution和revolution。這三個詞恰好可以用來描述與人工智能有關的過程或狀態(tài)。Convolution是卷積或卷繞，可以用來描述人工智能內部的算法機制，比如卷積神經網絡算法(CNN)用來圖像識別。Evolution是進化，可以用來描述智能本身是進化的過程。Revolution則是革命或旋轉，可以用來描述智能本身是革命的過程，如技術奇點。所以“旋渦論”能夠很好地描述人與智能機器的關系，又能夠描述智能的內在機制，更重要的是有助于我們在人與智能技術的漩渦當中反思如何在進化與革命之間保持自身并構建其自由關系。

從記憶哲學入手看待人工智能是一個新的角度。人類記憶不是宏大的生存層面的東西，而是人類學里非常重要的一個規(guī)定性。在哲學人類學當中，康德提出了五感實際上就隱含著一種記憶的概念，只不過在他的哲學人類學當中多談到的是五感知覺[注]康德哲學人類學著作中提到第一類感覺包括觸覺 (touch,tactus)、視覺 (sight,visus)、聽覺(hearing,auditus)；第二類感覺包括味覺 (taste,gustus)、嗅覺 (smell,olfactus)，統(tǒng)稱為五感。Immanuel Kant,Anthropology from a Pragmatic Point of View,Translated by Victor Lyle Dowdell,Revised and Edited by Hans H. Rudnick,Southern Illinois University Press,1996：41.，對記憶也談到了，“將過去有意地視覺化的能力是記憶能力，把某物作為將來視覺化的能力是預見能力。”[注]Ibid,73.但只是蜻蜓點水，一筆帶過。

那么何為記憶？從傳統(tǒng)哲學角度看，存在著四種理解路徑。第一種構成路徑，即把記憶當做靈魂實體的構成部分，討論記憶是在人理性的層面當中還是感性層面當中。第二種是能力路徑，即把人類記憶的解釋當做一種精神性的或者靈魂性的能力，比如說人類具有一種回想能力。第三種是狀態(tài)路徑，即把記憶看做是意識或者心理狀態(tài)之一。這種觀點持續(xù)的時間非常長，一直持續(xù)到20世紀。心理學家普遍認為記憶是心理狀態(tài)，和感知、情緒是相并列的狀態(tài)。對這種心理學的理解后來胡塞爾、伽達默爾都提出批判。第四種是行為路徑，即把記憶看做是意識行為。比如說構造過去對象的一種行為，或者說使得過去當下化的這樣一種行為。

但是隨著神經科學、心理學的發(fā)展，哲學觀點受到了自然科學觀點的反駁。有一些心理學家提出一種新的理解叫“精神性的旅行”，用這種方式來解釋人類的記憶。整個心理學的理解可以納入到哲學的第二層理解當中，它屬于精神的一種能力。神經科學則提出了記憶作為信息過程(編碼、存儲和提取)的三階段理論。與記憶的維度相對的是“遺忘”，它實際上被看作是記憶的對立面，這是個通常的觀點。比如說靈魂構成的喪失或者記憶能力的喪失、狀態(tài)的失控，這時候就把遺忘看作是自然能力的喪失。

要審視人工智能與人的關系，僅僅是傳統(tǒng)哲學和神經科學中的記憶理論是不夠的，需要新的理解。本文提出記憶作為條件的理論。這一理論源頭在于布倫塔諾和胡塞爾等人。在筆者看來，記憶作為三種條件形式存在：認知與情感的基礎條件、理解人類自身的歷史條件和實現(xiàn)自我和他者認同的條件。第一，記憶是認知和情感產生的基礎條件。如果沒有了記憶這樣的基礎維度，實際上情感和認知是不可能的。第二，記憶是理解人類自身的歷史條件。這是關于一種人類歷史的構建，比如說怎么去面對歷史，這時候就需要回憶把它構建出來。第三，記憶是實現(xiàn)自我及其他人認同的必要條件。這具體到個體來說實際上是對自我的認同。我們能夠知道我是誰，又通過怎么樣的方式去知道我是誰。在這個過程當中，傳統(tǒng)認識論和知識論的學者認為認知起了非常重要的作用，但是記憶與回憶的作用不容忽視，回憶包括記憶實際上是另外一個不可忽視的條件，但在通常的哲學史當中把記憶放在了認知底下其作用完全被忽略掉。

當采取記憶哲學維度去看，人工智能是進化的過程還是革命的過程的問題就可以獲得解答的可能性。從前面所提到的三個條件來看對這問題就可以做一個有效回答。如果把記憶理解成信息的編碼、存儲、提取這樣一個過程，那么人工智能是無法從進化突變到革命的，就沒有革命，只有一種進化。但如果進一步把記憶理解為認知和情感產生的前提條件的話，實際上就具備了一種可能性，就說它能夠突破技術奇點。

更重要的是，記憶和回憶的關系問題沒有受到重視，因為太多的理解強調記憶作為信息的編碼、存儲和提取過程了，以至于把回憶的維度給忽略掉?；貞浭侨祟愄赜械囊环N現(xiàn)象。亞里士多德就指出來說動物和人可以擁有記憶，但是唯獨人才能擁有回憶。從他的觀點看，人工智能是不可能擁有回憶的，因為它與動物一樣，缺乏足夠強大的意向性。所以人們這時候就不用擔心它有一天會超越人。但是在筆者看來，如果把回憶維度考慮進去，這個問題就有無限的可能性了。具有回憶能力意味著機器具有了重構過去經歷的能力，具有了重構過去經歷的可能性。換句話說，對人工智能機器而言，它具有經歷，意味著它具有了過去的時間概念。這遠遠不同于只是信息保存和提取的記憶過程，而是能夠將過去當下化的過程。最近人工智能學者阿爾伯特·艾如斯勒姆(Albert Ierusalem)也指出了人工智能可能會具有自身的經歷?！盎诮洑v(experience)，如果系統(tǒng)能夠在每一個環(huán)境中選擇正確的行動，這使得計劃變得不必要?！盵注]Albert Ierusalem,Catastrophic Important of Catastrophic Forgetting, https://arxiv.org/pdf/1808.07049.pdf ,11[2018-10-9]人工智能能夠感知世界這已經成為常態(tài)，只是人工智能回憶自身的經歷卻是一個具有挑戰(zhàn)的事情，不僅僅是關系到技術怎么去實現(xiàn)，比如說讓機器去回憶世界，更重要的是會涉及到人工智能的革命性突破。如果能夠實現(xiàn)這點的話那么人工智能走向強人工智能會成為一個必然。