閆坤如

摘 要： 馬克思從人的異化和物的異化來闡釋勞動異化，人工智能技術(shù)異化是馬克思主義異化的當(dāng)代表現(xiàn)形式，隨著人工智能技術(shù)的發(fā)展，加深了人的自我異化危機，導(dǎo)致人類的主體性危機以及人類交往的異化形態(tài)。文章嘗試從人工智能技術(shù)本身的原因以及人對技術(shù)的應(yīng)用來追溯人工智能技術(shù)異化的思想源泉，從人工智能社會的數(shù)據(jù)主義盛行、客體主體化、算法權(quán)力化等方面深入分析導(dǎo)致人工智能異化的技術(shù)根源，從工具理性的泛濫與價值理性的缺失的主體性原因分析其思想基礎(chǔ)。

關(guān)鍵詞： 異化;勞動異化;人工智能;工具理性;價值理性

中圖分類號：TP18

文獻標(biāo)識碼：A

文章編號：1004-8634（2020）03-0100-（08）

DOI：10.13852/J.CNKI.JSHNU.2020.03.009

人工智能（以下簡稱“AI”）技術(shù)的廣泛應(yīng)用在促進社會進步的同時，負面效應(yīng)凸顯。例如，機器人應(yīng)用導(dǎo)致失業(yè)現(xiàn)象，AI應(yīng)用導(dǎo)致貧富差距現(xiàn)象，AI算法導(dǎo)致歧視現(xiàn)象，大數(shù)據(jù)的應(yīng)用導(dǎo)致隱私泄露、人類精神生活退化現(xiàn)象，等等，這些都是隨著AI技術(shù)的應(yīng)用帶來的社會問題。AI應(yīng)用本來是為了造福人類、解放人類，幫助人類獲得自由的，卻導(dǎo)致人類依賴機器，受機器控制，產(chǎn)生異化現(xiàn)象。通過對異化理論的追溯，并結(jié)合馬克思主義勞動異化的表現(xiàn)，本文旨在分析AI技術(shù)異化的本質(zhì)問題。

一、異化理論的研究嬗變及表現(xiàn)形態(tài)

1.異化理論的追溯

“異化”一詞來源于拉丁語alienatio，原意是讓渡、疏遠、脫離等。最早在神學(xué)中使用，用來表示信徒疏遠上帝。后來逐漸應(yīng)用到政治學(xué)領(lǐng)域和社會學(xué)領(lǐng)域。在政治學(xué)領(lǐng)域，“異化”表示權(quán)利的讓渡。例如，霍布斯（Thomas Hobbes）在《利維坦》中討論人類把自己的權(quán)利讓渡給他人;盧梭（Jean-Jacques Rousseau）認為，如果人類要從自然狀態(tài)過渡到政治狀態(tài)，必須讓渡自己的一部分個人權(quán)利，形成公共意志（general will）。盧梭在《論人類不平等的起源和基礎(chǔ)》中論述了人如何由“自然狀態(tài)”下的自由、平等，異化為“文明狀態(tài)”下的被奴役、不平等。他指出：“由于私有制和法律的建立，不平等終于變得根深蒂固而成為合法的了?！?/p>

盧梭：《論人類不平等的起源和基礎(chǔ)》，李常山譯，商務(wù)印書館1997年版，第149頁。在社會學(xué)領(lǐng)域，異化表現(xiàn)出與他人、與社會等分離、疏遠的意思。異化概念在法學(xué)、醫(yī)學(xué)、心理學(xué)領(lǐng)域也有應(yīng)用。異化在法學(xué)上的含義為轉(zhuǎn)讓、讓與，有表示權(quán)利和財產(chǎn)的讓渡的含義。在醫(yī)學(xué)、心理學(xué)領(lǐng)域，異化則表現(xiàn)出精神錯亂、精神病等含義。

“異化”作為哲學(xué)術(shù)語出現(xiàn)在17、18世紀(jì)的唯物主義啟蒙思想家的著作中。費希特（Johann Gottlieb Fichte）用“fremd（異己的）”一詞表述“自我”與“非我”。黑格爾（G. W. F. Hegel）也在哲學(xué)含義上使用“異化”，他區(qū)分異化（Engfremdung）和外化（EntauBerung），外化包含了勞動與各種社會活動相結(jié)合的復(fù)雜的主客關(guān)系，表征主客體的對立關(guān)系以及辯證運動。黑格爾在《精神現(xiàn)象學(xué)》中將“異化”作為“絕對精神”運動的內(nèi)在機制，認為“絕對精神”發(fā)展到一定階段就會轉(zhuǎn)向自己的對立面，外化出異己的并制約自身發(fā)展的力量。費爾巴哈（Ludwig Andreas Feuerbach）將異化與人結(jié)合在一起，他在《基督教的本質(zhì)》中指出，宗教的本質(zhì)是人類“異化了的自我”。

2.馬克思的勞動異化理論

馬克思在批判和吸收黑格爾的異化思想、費爾巴哈的人本主義異化理論的基礎(chǔ)上建立起勞動異化理論。他吸收和超越了黑格爾的“異化”與勞動之間的辯證關(guān)系，結(jié)合資本主義大生產(chǎn)，揭示出異化的本質(zhì)是勞動異化，從而形成了勞動異化思想。

馬克思的勞動異化理論主要體現(xiàn)在其著作《1844年經(jīng)濟學(xué)—哲學(xué)手稿》《神圣家族》《德意志意識形態(tài)》以及《資本論》等著作中。馬克思認為，異化是人類在發(fā)展過程中創(chuàng)造的物質(zhì)的或精神的東西，它成為異己的存在力量，并反過來控制、奴役人類自身。在馬克思看來，異化包含兩層含義：一是勞動異化必須從主體出發(fā)產(chǎn)生客體，二是客體與主體相對立并成為異己的統(tǒng)治主體的力量。馬克思主要從勞動產(chǎn)品（勞動結(jié)果）與勞動者相異化、生產(chǎn)活動（勞動過程）與勞動者相異化、勞動者與他的類本質(zhì)相異化以及人與人相異化四個方面闡釋了他的勞動異化理論。下面我們就從這四個方面來分析馬克思勞動異化理論的具體表現(xiàn)。

第一，勞動產(chǎn)品（勞動結(jié)果）與勞動者相異化。在馬克思看來，勞動產(chǎn)品本來應(yīng)該屬于工人，但是因為私有制的緣故，勞動產(chǎn)品被資本家占有，資本家通過支付勞動者工資的形式掩蓋了占有勞動者的勞動的事實。勞動者生產(chǎn)的產(chǎn)品“作為一種異己的存在物，作為不依賴于生產(chǎn)者的力量，同勞動相對立”。

馬克思：《1844年經(jīng)濟學(xué)哲學(xué)手稿》，人民出版社1985年版，第48頁。勞動產(chǎn)品同勞動者相異化，這是從勞動結(jié)果的視角對勞動異化表現(xiàn)的陳述。

第二，勞動過程同勞動者相異化。勞動者具有勞動能力，勞動過程是勞動者自愿付出、自我滿足的過程，勞動過程應(yīng)該沒有外在壓迫，是自由的，但是在資本主義生產(chǎn)關(guān)系中，勞動者的生產(chǎn)行為發(fā)生了變化。由于資本主義采取機器化大生產(chǎn)，機器開始支配人，人成為機器的一部分，甚至淪為機器的附屬品，勞動不再是勞動者自我滿足的過程，反而成為勞動者的負擔(dān)。首先，勞動者的勞動是非本質(zhì)的勞動。勞動者在勞動中不承認自己，覺得不幸福、不自由，“肉體受折磨，精神遭摧殘”;

馬克思：《1844年經(jīng)濟學(xué)哲學(xué)手稿》，第50頁。其次，勞動者的勞動是被強制的勞動。勞動成為勞動者為了滿足生存需要的一種手段，勞動者不勞動將無法生存;再次，勞動者的勞動是受他人支配的勞動。在資本主義生產(chǎn)過程中，勞動者在勞動中喪失了自身，失去了自由，產(chǎn)生了自我異化。勞動過程同勞動者的分離主要是從過程視角來考察勞動異化的。

第三，勞動者與人的類本質(zhì)相異化。馬克思認為人與動物的區(qū)別在于人有意識，人的類生活是有意識的自由活動，在勞動者的勞動結(jié)果和勞動過程異化之后，人就被降低為一種動物性的存在。首先，勞動成為人類維持肉體生存的手段。人的勞動不是有意識的勞動，“異化勞動把自主活動、自由活動貶低為手段，也就是把人的類生活變成維持人的肉體生存的手段”;

馬克思、恩格斯：《馬克思恩格斯文集》（第1卷），人民出版社2009年版，第163頁。其次，人的精神類本質(zhì)的異化。馬克思認為勞動是勞動者自由、精神愉悅的活動，但在異化勞動中，勞動者不再具有勞動的主動性和愉悅性，勞動成為精神折磨;再次，人的創(chuàng)造性類本質(zhì)的喪失?！皠趧佑脵C器代替了手工勞動，但是使一部分工人回到野蠻的勞動，并使另一部分工人變成機器?！?/p>

馬克思：《1844年經(jīng)濟學(xué)哲學(xué)手稿》，第50頁。人成為非人，并把非人的本質(zhì)看成了人的本質(zhì)，人喪失了自我實現(xiàn)的能力維度，人不再具有勞動的主動性、創(chuàng)造性。異化勞動讓人的類本質(zhì)異化了。

第四，人與人相異化。馬克思認為在異化勞動的環(huán)境中，勞動產(chǎn)品不屬于勞動者，卻被異己力量資本家所占有，勞動使勞動者痛苦，資本家卻通過攫取剩余價值享有無上的權(quán)力和快樂。勞動者生產(chǎn)出異己的人——資本家，這就是馬克思勞動異化中人與人的異化。

通過前述分析我們可以看出，馬克思勞動異化理論的第一個部分——勞動結(jié)果同勞動者相異化指的是物的異化，馬克思異化理論的后三個部分指的是人的異化。在馬克思勞動異化理論中，不管是勞動結(jié)果、勞動過程還是人的類本質(zhì)異化，都是人的“自我異化”。馬克思勞動異化理論由人的自我異化和人與人的異化兩個層面構(gòu)成。馬克思把勞動異化的根源歸為私有制和機器化大生產(chǎn)：生產(chǎn)資料資本家私人占有，勞動者失去了生產(chǎn)資料，機器化大生產(chǎn)的生產(chǎn)方式最終導(dǎo)致了勞動異化的出現(xiàn)。人類創(chuàng)造出機器本來是為了使人的生產(chǎn)和生活變得更美好，但機器卻成為“它者”，成為異己的力量，人類被機器控制，受機器約束。在步入AI時代的今天，AI技術(shù)讓機器取代人的勞動成為可能，如果模擬出人類智能，機器甚至將取代人的主體性地位。如果這些可能變?yōu)楝F(xiàn)實，那么人類將失去自由意志，失去幸福，AI的“利維坦”將使人類生活變成“敵托邦”。

二、AI技術(shù)異化——馬克思異化理論的新呈現(xiàn)方式

AI是繼蒸汽機發(fā)明、電氣技術(shù)、網(wǎng)絡(luò)技術(shù)應(yīng)用之后的第四次工業(yè)革命。蒸汽機技術(shù)的應(yīng)用實現(xiàn)了物質(zhì)的自由移動，電氣技術(shù)的應(yīng)用實現(xiàn)了能量的自由轉(zhuǎn)換，網(wǎng)絡(luò)技術(shù)的應(yīng)用實現(xiàn)了信息的自由傳遞，AI技術(shù)的發(fā)展與前三次工業(yè)革命具有同樣的顛覆性作用，它的應(yīng)用促進了社會進步和人類發(fā)展，但也帶來一些意想不到的后果：越來越遠離人類的控制，也就是AI技術(shù)的異化。

1.AI算法與算法設(shè)計者的分離

AI算法是AI算法設(shè)計者的勞動產(chǎn)品，然而在現(xiàn)實中，由于研發(fā)設(shè)計AI算法的生產(chǎn)資料即資本并不掌握在算法設(shè)計者的手中，AI算法設(shè)計者不占有AI算法，算法設(shè)計者也沒有隨意修改或支配算法的權(quán)利，算法設(shè)計者能夠擁有的只有算法的部分使用權(quán)。算法設(shè)計者創(chuàng)造了AI算法，但是算法的所有權(quán)、支配權(quán)、使用權(quán)都不屬于算法設(shè)計者。AI算法與算法設(shè)計者相疏離，這就是馬克思所說的勞動產(chǎn)品和勞動者的異化。算法設(shè)計者設(shè)計的算法越完美，AI產(chǎn)品就越智能，在生活中的應(yīng)用就越廣泛，就越背離它的創(chuàng)造者，并極可能成為設(shè)計者的敵對力量。

2.AI機器加深了人的自我異化危機

隨著AI機器被廣泛地應(yīng)用到人類生活的各種場景中，人的技能對生產(chǎn)的影響越來越小，相較于傳統(tǒng)的機器生產(chǎn)，AI機器加深了勞動異化的廣度和深度。

首先是機器取代人的危機。AI機器因其技術(shù)優(yōu)勢（決策速度快、準(zhǔn)確率高、不受環(huán)境影響等），正在人類的生產(chǎn)和生活中被日益廣泛地應(yīng)用。比如，合成智能機器通過算法進行自主學(xué)習(xí)，能夠自動分析和處理各種復(fù)雜數(shù)據(jù)，形成認知和決策，AI算法正在逐漸取代各種復(fù)雜技能的工作。工業(yè)機器人因其高效、自動化、智能化的特點，正在取代生產(chǎn)線上從事簡單重復(fù)性勞動的工人;便捷、快速的移動支付正在取代銀行雇員;醫(yī)療機器人正在取代部分醫(yī)生;家政機器人已經(jīng)登堂入室取代家政人員;無人機正在取代從事危險、繁重以及瑣碎的低智能工作的“蜘蛛人”、分揀工，等等。勞動作為人的最基本的能力和權(quán)利，卻面臨著被機器剝奪的危險。人類正在逐步喪失部分勞動能力和勞動機會。

其次是機器控制人的危機。AI技術(shù)控制人的現(xiàn)象已悄然出現(xiàn)。據(jù)調(diào)查，半數(shù)網(wǎng)民對AI技術(shù)產(chǎn)生依賴。各種智能手機和智能App猶如“技術(shù)多巴胺”控制了部分網(wǎng)民的生活，讓他們對技術(shù)產(chǎn)生強烈的精神依賴。AI技術(shù)像鴉片一樣讓人類癡迷，深陷其中不能自拔，“技術(shù)成癮”正在控制部分人的行為、情緒、心理、社交等。AI還通過智能互動、智能推送等方式滿足不同個體的個性化需要，從而控制人的精神世界，讓人沉溺、上癮，大量侵占人的休閑時間，使人的精神在泛娛樂化、泛消費主義的大眾文化中日益被物化和匱乏化，人類的精神自由的豐富性被消解。正如弗洛姆（Erich Fromm）所言，“過去的危險是人成為奴隸，將來的危險是人可能成為機器人”。

弗洛姆：《健全的社會》，歐陽謙譯，中國文聯(lián)出版社1988年版，第370頁。弗洛姆的這一預(yù)言正在成為現(xiàn)實。

AI技術(shù)不但控制了人類生活，還控制了人類工作，AI技術(shù)提供了新工作機會和新崗位，但是這些工作大多需要人來配合機器完成。比如，高鐵在自動行駛中，為了安全需要，高鐵司機必須每30秒踏一次踏板，否則高鐵的自動駕駛系統(tǒng)就會減速停車，人類行為必須調(diào)整到配合高鐵的自動駕駛，人類被機器控制。馬克思說：“人只有在運用自身的動物機能——吃、喝、性行為等等的時候，才覺得自己是自由活動，而在運用人的機能時，卻覺得自己不過是動物。”

馬克思：《1844年經(jīng)濟學(xué)哲學(xué)手稿》，第51頁。在AI機器控制的情況下，人被迫成為維持機器運轉(zhuǎn)的齒輪，喪失了勞動的能動性和創(chuàng)造性?！霸跈C器跟前的工人只專注于直接的目標(biāo)，無暇也無興趣去整個兒地思索生活。”

卡爾·雅斯貝爾斯：《時代的精神狀況》，王德峰譯，上海譯文出版社1997年版，第42—43頁。

AI機器加深了人的自我異化危機，無論是AI取代人的部分勞動還是部分控制人的心理和行為，都使人處在一種受支配的和不自由的生產(chǎn)關(guān)系中，在這種生產(chǎn)關(guān)系中，勞動是被動的、外在的，不屬于勞動者自己，并反過來成為控制人類自身的力量。

3.AI機器加深了人的類本質(zhì)異化

AI技術(shù)發(fā)展正在潛移默化地改變著人的認知方式、思維方式和生活方式，以及人類的自由勞動，人類對自然界的改造、對人類精神世界的拓展以及對人類能力提升的無限可能性正在被AI技術(shù)消解和取代，面臨著主體被異化的危機。智能時代人的類本質(zhì)同人的異化主要表現(xiàn)在以下三個方面：

首先，AI技術(shù)導(dǎo)致人的精神危機。隨著AI技術(shù)對人類生活和生產(chǎn)的全面介入，導(dǎo)致人的精神異化。人們獲取信息咨詢的主要渠道是通過AI算法，而基于大數(shù)據(jù)的AI算法則可以提供個性化服務(wù)：一方面能夠高效便捷地幫助人篩選出最優(yōu)信息，滿足其個性化需要的偏好。另一方面?zhèn)€性化算法也容易使“信息繭房（Information Cocoons）”效應(yīng)擴大。“信息繭房”是由哈佛大學(xué)法學(xué)院凱斯·桑斯坦（Cass R. Sunstein）教授在《信息烏托邦——眾人如何生產(chǎn)知識（infotopia-how many minds produce knowledge）》中提出來的，它指的是人們的信息領(lǐng)域會習(xí)慣性地被自己的興趣所引導(dǎo)，從而將自己的生活桎梏于像蠶繭一般的“繭房”中的現(xiàn)象?！靶畔⒗O房”使人囿于封閉窄化的信息環(huán)境中，加深人思想認知的片面性和單一性，使人的主體性喪失，人的自由意志被物化，人成為單向度的人。

其次，AI機器導(dǎo)致人的能力危機。AI的發(fā)展，人類生產(chǎn)和生活中廣泛應(yīng)用各類機器人，人類放棄原有的技能配合機器勞動，服從機器的安排，人類的多種能力被機器的機械化、程式化取代，人和機器的主客體地位發(fā)生顛倒，這些現(xiàn)象均會導(dǎo)致人的主體地位喪失。AI機器的超強計算能力、數(shù)據(jù)處理能力、邏輯分析能力和完美的記憶能力等，在節(jié)省了使用者的時間、提升勞動者效率的同時，又極大地助長了勞動者的惰性，將本來屬于人的能力轉(zhuǎn)移給了機器：人只需簡單的操作就能獲取想要的結(jié)果，機器代替人做判斷、分析和決策，機器取代人類成為理性判斷和分析決策的主體，人類的學(xué)習(xí)、記憶、分析、歸納、思辨等能力逐漸被機器所取代。不管是AI技術(shù)導(dǎo)致人的精神危機還是AI機器導(dǎo)致人的能力危機都是AI時代人的主體性危機。

再次，AI算法剝奪了人類尊嚴(yán)。人臉識別、步態(tài)識別技術(shù)能夠快速地捕捉、識別人的位置和信息，使人無處藏身;醫(yī)療數(shù)據(jù)、人類基因編碼讓人的身體信息赤裸裸地被展示，人類正穿著“皇帝的新裝”集體裸奔;AI可以根據(jù)人的大腦波動圖來分析和解讀人的想法和行為。也許有一天，人最引以為傲的理性思維能力在機器面前將一覽無遺，人的尊嚴(yán)在智能機器面前喪失殆盡。

4.AI機器加深人的交往危機

馬克思認為，人同人自身的各種關(guān)系，都是通過人與人的關(guān)系來體現(xiàn)的，而與他人關(guān)系的實現(xiàn)又是通過交往關(guān)系來確證的。在AI環(huán)境下，人與人的關(guān)系也發(fā)生了異化，人的交往逐漸被置于智能機器的控制下，人成為透明人。

首先，交往危機表現(xiàn)在交往的透明性。AI算法使得每個個體成為透明人，人類交往也變得透明，無隱私可言。AI時代，個體熱衷于曬家庭住址、旅游地點、收入以及其他個人隱私，人類交往基于網(wǎng)絡(luò)痕跡和行為模式來準(zhǔn)確推算和預(yù)測人的性格偏好和行為;不同個體具有不同的表達習(xí)慣和興趣愛好，評論、轉(zhuǎn)發(fā)、分享不同的言論，AI時代的交往根據(jù)不同的利益關(guān)系形成不同的小團體，形成“網(wǎng)絡(luò)巴爾干（Cyber-balkanization）”，

M. V. Alstyne， E. Brynjolfsson， “Electronic communities： Global village or cyberbalkans？”， in Economic Theory， 1997.維護本群體利益，過濾和抵制非本群體利益，有可能導(dǎo)致AI時代的群體極化行為。

其次，交往危機表現(xiàn)在交往的虛擬性。AI機器還正在使人喪失“現(xiàn)實性”。傳統(tǒng)意義上集中在一起的、有機的、統(tǒng)一性的勞動模式被消解，離群索居的“宅”生活及工作模式的可能性得以彰顯?！皺C械化也把他們分裂成孤立的、抽象的原子，他們的工作不再把他們直接地有機地結(jié)合在一起”，

盧卡奇：《歷史與階級意識》，張西平譯，重慶出版社1989年版，第100頁。勞動者成為機器控制下的孤立個體。AI機器“傻瓜”型的使用方法，導(dǎo)致很多心智不成熟的人，特別是青少年，沉溺于網(wǎng)絡(luò)的虛擬世界，疏離現(xiàn)實世界，加深了人的原子化危機。

再次，交往危機表現(xiàn)在交往的疏離性。AI時代加深了人與人的疏離，對于數(shù)據(jù)和AI算法的擁有程度、掌握程度、運用程度的不同，導(dǎo)致國際、區(qū)域間、人際間的數(shù)據(jù)鴻溝和算法鴻溝，造成信息落差和算法落差，造成國家間、地區(qū)間、人際間的關(guān)系疏離。網(wǎng)絡(luò)空間交往“天涯若比鄰”，智能App讓人類上癮、沉迷其中，但卻缺少了父母兒女間的舐犢情深與承歡膝下，缺少了親朋好友間的促膝長談與推心置腹。網(wǎng)絡(luò)的便捷性使人的工作時間無限地擠壓人的自由支配時間，網(wǎng)絡(luò)幾乎全面地支配和控制了人的自由時間，使人陷入社交恐懼之中，加深了人與人的疏離。

三、AI技術(shù)異化的本質(zhì)分析

AI技術(shù)的異化可以從技術(shù)本身的原因以及人類對技術(shù)的應(yīng)用追溯其本質(zhì)。AI技術(shù)異化源于數(shù)據(jù)主義盛行、AI技術(shù)導(dǎo)致主體客體化、算法權(quán)力和算法霸權(quán)、人對于AI技術(shù)應(yīng)用中的工具理性泛濫，以及價值理性的缺失。

1.數(shù)據(jù)主義盛行

AI的基礎(chǔ)是數(shù)據(jù)、算法和算力。數(shù)據(jù)主義者認為全人類是單一的數(shù)據(jù)處理系統(tǒng)，一切皆數(shù)據(jù)，《未來簡史》的作者尤瓦爾·赫拉利（Y. N. Harari）認為，“數(shù)據(jù)主義”盛行導(dǎo)致“人本主義”的崩塌，“數(shù)據(jù)主義者認為，宇宙由數(shù)據(jù)流組成，任何現(xiàn)象或者實體的價值在于對數(shù)據(jù)處理的貢獻”。

尤瓦爾·赫拉利：《未來簡史——從智人到智神》，林俊宏譯，中信出版集團2017年版，第333頁。“大數(shù)據(jù)已經(jīng)撼動了世界的方方面面，從商業(yè)科技到醫(yī)療、政府、教育、經(jīng)濟、人文以及社會的其他各個領(lǐng)域?！?/p>

維克托·邁爾-舍恩伯格，肯尼思·庫克耶：《大數(shù)據(jù)時代》，盛楊燕、周濤譯，浙江人民出版社2013年版，第15頁。萬物皆數(shù)據(jù)，數(shù)據(jù)經(jīng)過分析和挖掘成為推動社會發(fā)展，特別是經(jīng)濟發(fā)展的新動力，整個社會的生產(chǎn)方式、經(jīng)營方式、治理方式、思維方式等發(fā)生根本改變。首先，生產(chǎn)數(shù)據(jù)化?；诖髷?shù)據(jù)驅(qū)動的個性化算法系統(tǒng)被廣泛地應(yīng)用到經(jīng)濟生活的各個領(lǐng)域，改變了企業(yè)傳統(tǒng)的生產(chǎn)、銷售模式。數(shù)據(jù)分析挖掘系統(tǒng)能使企業(yè)從繁雜的數(shù)據(jù)資源中洞察到消費者的真實需求，幫助企業(yè)進行有效的質(zhì)量管理提升、服務(wù)改進和精準(zhǔn)化營銷，以促進消費，提升盈利空間。大數(shù)據(jù)已經(jīng)成為企業(yè)提升自身競爭力的核心要素，“數(shù)字化經(jīng)濟”正在對經(jīng)濟進行模式轉(zhuǎn)型。大數(shù)據(jù)在提升政府政策決策的科學(xué)性、執(zhí)行的透明性、實施的有效性方面發(fā)揮了優(yōu)勢作用，對完善政府權(quán)力監(jiān)督，實現(xiàn)政府信息共享和透明提供了極大助力。“數(shù)字化治理”正在成為政府和社會的共識。其次，社會數(shù)據(jù)化。數(shù)字化技術(shù)的發(fā)展，整個社會正在成為以數(shù)據(jù)為支撐和鏈接的共同體。數(shù)據(jù)化社會使智能算法系統(tǒng)在更廣泛的領(lǐng)域發(fā)揮重要作用，數(shù)據(jù)挖掘、數(shù)據(jù)洞察經(jīng)由智能算法滲入到社會生活的各個場景中。數(shù)據(jù)成為可以不斷創(chuàng)造財富的資源，甚至成為控制社會的權(quán)力。數(shù)據(jù)搜集者通過互聯(lián)網(wǎng)技術(shù)等收集、積累并占有大量的數(shù)據(jù)，形成數(shù)據(jù)壟斷，用數(shù)據(jù)來獲取最大化的商業(yè)價值和利潤。大數(shù)據(jù)不但創(chuàng)造了經(jīng)濟財富，還可以通過個性化推送干擾到國家選舉，“大數(shù)據(jù)是人們獲得新的認知、創(chuàng)造新的價值的源泉;大數(shù)據(jù)還是改變市場、組織機構(gòu)，以及政府與公民關(guān)系的方法”。

維克托·邁爾-舍恩伯格，肯尼思·庫克耶：《大數(shù)據(jù)時代》，第9頁。不但如此，大數(shù)據(jù)的發(fā)展改變了人類的認知，之前人類通過揭示自然界的因果關(guān)系來尋找宇宙奧秘，現(xiàn)在人類通過大數(shù)據(jù)來找到事物間的關(guān)聯(lián)。數(shù)據(jù)主義以其前所未有的優(yōu)勢在改變著人類關(guān)系、人與自然的關(guān)系，剝奪了人類的生存空間和自由交流，限制了人類精神的解放，導(dǎo)致了“技術(shù)霸權(quán)”和數(shù)據(jù)異化現(xiàn)象。數(shù)據(jù)異化必然會導(dǎo)致以數(shù)據(jù)為驅(qū)動的AI的異化。

2.客體主體化

1950年AI先驅(qū)圖靈（Alan Turing）在《計算機器與智能》一文中設(shè)想制造出能夠思維的機器，這個機器可以具有人類意識，能夠表現(xiàn)出人類的知覺行為，約翰·麥卡錫（John McCarthy）、西蒙（H.Simon）等AI的先驅(qū)致力于讓機器“像人一樣思考”“像人一樣行動”“理性地思考”“理性地行動”等目標(biāo)。瑪格麗特·博登（Margaret Boden）在其著作《AI：人工智能的本質(zhì)與未來》中將AI定義為“讓計算機完成人類心智（mind）能做的各種事情”。

瑪格麗特·博登：《AI：人工智能的本質(zhì)與未來》，孫詩惠譯，人民大學(xué)出版社2017年版，第1頁。AI從不同進路出發(fā)致力于研究出具有人類智能的機器。AI的符號主義進路通過物理符號系統(tǒng)讓機器像人類一樣推理從而模擬人類智能;AI的聯(lián)結(jié)主義進路致力于通過模擬神經(jīng)網(wǎng)絡(luò)以及神經(jīng)網(wǎng)絡(luò)之間的鏈接機制讓機器像人類一樣思考;AI的行為主義進路致力于通過控制論模擬人控制中的智能行為來模擬人類智能。AI的主要思路是模仿人的智能和模仿人的智能控制下的行為。因此，AI機器可以看成是在模仿人類的智能活動基礎(chǔ)上制造出來的具有一定智能行為的人工系統(tǒng)。AI機器相比一般的機器，表現(xiàn)出某種類人的行為或活動的能動性，也就是某種“主體性”。簡單機器是人能動地改造世界的工具，是人體功能的延伸，而AI機器不同于普通機器，無論是自動完成簡單、重復(fù)勞動的人造機器，還是自動分析和處理各種復(fù)雜數(shù)據(jù)，形成認知和決策的合成智能機器，抑或是具有社交能力的陪伴型機器人、智能客服系統(tǒng)等，在行為、認知、交互等方面都表現(xiàn)出明顯的類人的判斷力和創(chuàng)造性，而能動地認識和改造世界正是人的主體性之所在。因此，相較一般機器，AI機器作為人所創(chuàng)造的客觀對象，通過數(shù)據(jù)驅(qū)動的算法程序具有了類人的智能和行為能力，這使得智能機器的存在形式逐漸轉(zhuǎn)化成具有主體生命結(jié)構(gòu)和本質(zhì)力量的某些因素，而擁有了主體的功能和屬性，表現(xiàn)出明顯的主體化趨勢。目前AI技術(shù)處于弱人工智能（artificial narrow intelligence）階段，智能機器在功能上能夠模仿人的思維和行為，已經(jīng)具備了人的某些方面的特征，如圍棋機器強大的邏輯推演學(xué)習(xí)能力;智能專家系統(tǒng)分析挖掘數(shù)據(jù)的精準(zhǔn)預(yù)測和決策能力;圖像和語音的智能識別能力;陪伴機器人的情感感知和互動能力;等等，這些智能體都表現(xiàn)出了類人能力或者超人的能力，在日常的人機交互中人格化或?qū)偃嘶奶匦悦黠@。今天的AI僅限于完成具體任務(wù)，還沒有表現(xiàn)出一般性的普適性智慧。AI技術(shù)的未來發(fā)展階段為強人工智能階段，屆時人類將制造出真正的有知覺、有自我意識、能夠自主推理、具有人類情感的機器，這種機器能產(chǎn)生如同人類一樣的思維。機器一旦產(chǎn)生出和人類一樣甚至超出人類的自主意識的思維，那么人作為主體的地位將受到嚴(yán)峻的挑戰(zhàn)。

3.算法權(quán)力化

算法是AI的核心。AI算法專家科爾曼（Thomas H. Cormen）認為，“算法以某個值或一組值作為輸入，并生成某個值或一組值作為輸出。因此，算法是將輸入轉(zhuǎn)換為輸出的一系列計算步驟”。

Thomas H. Cormen，Charles E. Leiserson， Ronald L. Rivest， CliffordStein， Introductionto Algorithms （3rd Edition）， Cambridge， Massachusetts London， England： The MIT Press，2009，p.5.算法就是基于計算機應(yīng)用的程序模型，決定如何更高效、快捷地挖掘數(shù)據(jù)，并將洞察的結(jié)果以特定的方式呈現(xiàn)出來。因此，有人稱算法為AI的“靈魂”，它決定了機器的性質(zhì)和功能。當(dāng)前，整個自然和人類社會的很多方面都被納入基于大數(shù)據(jù)的智能算法的控制之下，算法正在逐漸成為人類社會生活的主導(dǎo)性力量，“一切皆算法”、“算法崇拜”等正在成為主流的認知。用英國社會學(xué)家斯科特·拉什（Scott Lash）的話來說：“在一個媒體和代碼無處不在的社會，權(quán)力越來越存在于算法之中。”

Lash Scott， “Power after hegemony： cultural studies in mutation？”， in Theory， Culture & Society，2007，24（3）： 55-78.從微觀層面的個人生活到中觀層面的社會經(jīng)濟運行再到宏觀層面的國家發(fā)展，無不滲透著基于大數(shù)據(jù)的智能算法的痕跡，整個社會和自然界被置于智能算法的框架之下，算法高效、精準(zhǔn)的分析挖掘數(shù)據(jù)的預(yù)測、判斷和決策能力正在重塑人們的思維方式、行為方式和生存方式，也在重塑整個社會的運行模式和治理模式，算法權(quán)力化成為必然。

開發(fā)AI機器的資本和技術(shù)掌握在少數(shù)人手中，資本家雇傭具有算法設(shè)計能力的人為其工作。算法設(shè)計能力可以通過學(xué)習(xí)獲得，但必須要有非常扎實的數(shù)學(xué)和計算機知識，這使一些優(yōu)秀的算法設(shè)計者可以優(yōu)先占有更多的社會資源，將自己的智能轉(zhuǎn)化為資本，成為人工智能行業(yè)社會分工的上層。然而，因為算法設(shè)計的門框非常高，大部分普通人可能終身都難以了解其運行原理，處于被算法控制、操縱的社會生產(chǎn)生活中，“算法鴻溝”不斷加深。

算法的權(quán)利實際掌握在數(shù)據(jù)或者科技寡頭手中，并形成行業(yè)壟斷，割裂了其他企業(yè)或者資本進入該行業(yè)的途徑和機會。算法設(shè)計者可以通過對算法設(shè)計模型的選擇，引導(dǎo)和控制個人和群體的行為，甚至重塑他們對世界的認知，以達到最有利于自身利益的目的。算法權(quán)利因其霸權(quán)地位影響范圍日益廣泛，因算法設(shè)計者或主導(dǎo)者的偏好、利益訴求及“算法黑箱”而導(dǎo)致的算法歧視、算法不公平和算法濫用必將導(dǎo)致AI異化。

4.工具理性的泛濫與價值理性的缺失

導(dǎo)致AI異化的原因是復(fù)雜的和多方面的，但其源頭在于技術(shù)理性和價值理性的背離。工具理性（Instrumental rationality）也稱為工具合理性，由馬克斯·韋伯（Max Weber）把其運用于社會學(xué)領(lǐng)域。工具理性強調(diào)的是人類通過理性的計算，自由選擇手段的合理性和有效性，而不管目的是否恰當(dāng)。工具理性只關(guān)注效率、功用、計算和手段，霍克海默（Max Horkheimer）、阿多諾（T.W.Adorno）、弗洛姆、馬爾庫塞（Herbert Marcuse）、哈貝馬斯（Jürgen Habermas）等法蘭克福學(xué)派的學(xué)者批評了馬克斯·韋伯的工具理性，認為工具理性導(dǎo)致技術(shù)理性霸權(quán)，消解了人生存的價值基礎(chǔ)。工具理性和技術(shù)理性成為理性的化身，知識即技術(shù)，技術(shù)的本質(zhì)是工具，人類可以憑借技術(shù)依靠理性來征服和控制自然，并最終達成人類的自由和完善。馬爾庫塞指出：“技術(shù)理性這個概念本身可能就是意識形態(tài)的。不僅技術(shù)的應(yīng)用，而且技術(shù)本身，就是（對自然和人）統(tǒng)治——有計劃的、科學(xué)的、可靠的、慎重的控制。統(tǒng)治的特殊目的和利益并不是‘隨后或者外在地強加于技術(shù)的;他們進入了技術(shù)機構(gòu)的建構(gòu)本身。技術(shù)總是一種社會—歷史的工程;一個社會和它的統(tǒng)治利益打算對人和物所做的事情都在它里面設(shè)計著?！?/p>

馬爾庫塞：《單向度的人》，張峰、呂世平譯，重慶出版社1988年版，第116頁。馬爾庫塞認為技術(shù)理性正在轉(zhuǎn)化為技術(shù)拜物教，把科學(xué)技術(shù)作為意識形態(tài)控制人類，必須用批判理性代替技術(shù)理性。

價值理性（Value Rational）注重行為本身的價值，而非注重行為手段和結(jié)果。在價值理性中，人是終極目的，價值理性凸顯人存在的意義。隨著AI的發(fā)展，價值理性日趨缺失。技術(shù)在創(chuàng)造巨大的物質(zhì)財富的同時，并沒有如人們所期待的那樣帶來人類的全面解放，反而使人類陷入了深刻的異化危機之中。AI機器，作為人所創(chuàng)造的技術(shù)人造物，智能化程度越高、功用越強大，在失控的情況下對人類造成的破壞可能就越大，這種破壞反映在人身上就是使人自身異化為非人。

技術(shù)因其內(nèi)在規(guī)律的不可知性，人類理性認識的有限性以及技術(shù)風(fēng)險的不可預(yù)測性導(dǎo)致技術(shù)后果的不確定性，技術(shù)理性難以把握。1980年，科林格里奇（David Collingridge）在《技術(shù)的社會控制》中提出科林格里奇困境（Collingridge dilemma），用以表明技術(shù)對人類的控制：“一項技術(shù)的社會后果不能在技術(shù)生命的早期被預(yù)料到。然而，當(dāng)不希望的后果被發(fā)現(xiàn)時，技術(shù)卻往往已經(jīng)成為整個經(jīng)濟和社會結(jié)構(gòu)的一部分，以至于對它的控制十分困難。”

D. Collingridge， The Social Control of Technology，New York： St. Martins Press，1981，p.11.由于技術(shù)發(fā)展不可知性導(dǎo)致技術(shù)失去控制，致使AI異化的本質(zhì)呈現(xiàn)出自身的復(fù)雜性和獨特性。

綜上所述，通過對異化研究的嬗變的追溯以及其表現(xiàn)形態(tài)的揭示，我們分析了AI技術(shù)的異化現(xiàn)象，AI技術(shù)的發(fā)展加深了人的自我異化危機、加深了人的主體性異化危機，AI技術(shù)加深了人的交往危機。在此基礎(chǔ)上，我們對于AI技術(shù)異化的本質(zhì)進行追溯，認為數(shù)據(jù)主義盛行、客體主體化、算法權(quán)利化、工具理性的泛濫與價值理性的缺失導(dǎo)致了AI技術(shù)的異化。只有厘清AI技術(shù)異化的根源，才能夠找到AI技術(shù)異化的消解路徑。

（責(zé)任編輯：蘇建軍）