程慧中

伴隨人工智能時(shí)代的到來(lái),現(xiàn)實(shí)個(gè)體逐漸被置于一個(gè)量化數(shù)據(jù)體系中,數(shù)據(jù)化生存日漸成為個(gè)體生存的基本形式。人的生活處于智能社會(huì)的管控中,數(shù)據(jù)形塑著人的生活,導(dǎo)致生活平滑化,沒(méi)有了深度,也沒(méi)有驚異感和好奇心。人們面臨現(xiàn)實(shí)感弱化、自由喪失、身份危機(jī)以及技術(shù)性失業(yè)等生存風(fēng)險(xiǎn)。那么,是否真如福柯在《詞與物:人文學(xué)科考古學(xué)》中所說(shuō)的“人將被抹去,如同大海邊沙地上的一張臉”那樣呢?(1)[法]?？?《詞與物:人文科學(xué)考古學(xué)》,莫偉民譯,上海三聯(lián)書店2001年版,第506頁(yè)。為了實(shí)現(xiàn)人工智能時(shí)代個(gè)體的自由發(fā)展和創(chuàng)造美好生活,我們有必要從現(xiàn)實(shí)表征、內(nèi)在根源與可能出路三方面對(duì)人工智能時(shí)代的個(gè)體數(shù)據(jù)化生存風(fēng)險(xiǎn)進(jìn)行倫理審思。

一、人工智能時(shí)代個(gè)體數(shù)據(jù)化生存風(fēng)險(xiǎn)的現(xiàn)實(shí)表征

在人工智能時(shí)代,智能技術(shù)的迅猛發(fā)展伴隨著個(gè)體生命新異化的產(chǎn)生,在帶給人更多便利的同時(shí)也讓個(gè)體面臨一種前所未有的焦慮,個(gè)體生命面臨新的生存風(fēng)險(xiǎn)。

(一)個(gè)體數(shù)據(jù)化生存的現(xiàn)實(shí)感弱化

交往是人類生存和發(fā)展的前提。馬克思指出:“人對(duì)自身的關(guān)系只有通過(guò)他對(duì)他人的關(guān)系,才成為對(duì)他來(lái)說(shuō)是對(duì)象性的、現(xiàn)實(shí)的關(guān)系?！?2)《馬克思恩格斯文集》第1卷,人民出版社2009年版,第165頁(yè)。在人工智能時(shí)代,人的交往實(shí)踐被置于全新的智能技術(shù)系統(tǒng)中,數(shù)字空間的虛擬交往部分地取代了過(guò)去的物理實(shí)體空間交往,成為當(dāng)代社會(huì)新型的交往形式。相比前人工智能時(shí)代的現(xiàn)實(shí)交往,如今的交往實(shí)現(xiàn)了時(shí)空壓縮,突破了傳統(tǒng)交往的時(shí)空界限。這種虛擬空間的交往形式雖然提高了交往的效率與靈活性,但也不可避免地帶來(lái)了個(gè)體社會(huì)關(guān)系的疏離。如在智能社交平臺(tái)上分享與展示運(yùn)動(dòng)強(qiáng)度、運(yùn)動(dòng)場(chǎng)所等身體數(shù)據(jù),已成為一種新的交往方式。人們通過(guò)在社交平臺(tái)上獲得社會(huì)的關(guān)注與點(diǎn)贊,贏得“粉絲”,結(jié)交“朋友”,收獲社會(huì)認(rèn)可。原來(lái)的具身交流一定程度上轉(zhuǎn)變?yōu)槿藱C(jī)互動(dòng),曾經(jīng)的真實(shí)世界的身體功能在數(shù)字環(huán)境中只需動(dòng)動(dòng)手指就能完成。這種虛擬交往形式讓人們“隱藏”了自己的真實(shí)身份,無(wú)法觸碰到活生生的他者的真實(shí)存在,也不能進(jìn)行現(xiàn)實(shí)有效的情感連接。也就是說(shuō),人與世界的現(xiàn)實(shí)關(guān)聯(lián)部分地“退場(chǎng)”了。

不僅如此,這種虛擬交往形式還帶來(lái)了數(shù)字“余數(shù)生命”,那些被智能技術(shù)排除在外的群體逐漸成為人工智能時(shí)代的“余數(shù)生命”。如在面部識(shí)別、指紋解鎖與數(shù)據(jù)掃碼的時(shí)代,老年群體除非學(xué)會(huì)操作智能設(shè)備,否則將難以融入人工智能時(shí)代的現(xiàn)實(shí)生活。也就是說(shuō),那些缺乏智能設(shè)備或者不會(huì)操作智能設(shè)備的人會(huì)逐漸失去與世界溝通交往的手段,他們將被無(wú)情地阻隔在數(shù)字世界之外而成為“赤裸”存在。另外,在人工智能時(shí)代,盡管人們獲取信息比過(guò)去任何時(shí)候都更加自由與便捷,但信息內(nèi)容的龐雜和無(wú)選擇性也導(dǎo)致人們很容易陷入“信息繭房”,這不僅導(dǎo)致人們無(wú)法獲取有效信息,而且進(jìn)一步加劇了社會(huì)交往的異化。在技術(shù)、媒介與消費(fèi)一體化的人工智能時(shí)代,人們進(jìn)入了一種“超現(xiàn)實(shí)”狀態(tài)。換句話說(shuō),人們進(jìn)入了一個(gè)沒(méi)有“真本” 與“摹本”之別,或者根本上就是“真本”缺失而只剩下自行繁衍著的“摹本”的“超真實(shí)”狀態(tài)。(3)參見[法]讓·波德里亞:《象征交換與死亡》,車槿山譯,譯林出版社2006年版,第105頁(yè)。在這里,人們不自覺(jué)地陷入了“數(shù)字景觀”的享受中,心甘情愿地服從數(shù)字的操控。

(二)個(gè)體數(shù)據(jù)化生存的深層自由危機(jī)

在前人工智能時(shí)代,人們的生活還保留著部分屬于私人的領(lǐng)域。但在智能技術(shù)、數(shù)據(jù)與算法的裹挾下,個(gè)體的生活已經(jīng)被智能空間全方位滲透,個(gè)體的生活逐漸從“隱私”走向了“赤裸”。具體來(lái)說(shuō),當(dāng)人們掃碼乘車、上班打卡、網(wǎng)絡(luò)購(gòu)物或者從事任何與智能設(shè)備有關(guān)的活動(dòng)時(shí),其生命“軌跡”就會(huì)一覽無(wú)余地呈現(xiàn)在智能平臺(tái)上。當(dāng)數(shù)字終端逐步實(shí)現(xiàn)了對(duì)個(gè)體生命的多維架構(gòu),個(gè)體無(wú)疑就成了被智能設(shè)備深度支配的對(duì)象。具體來(lái)說(shuō),人工智能時(shí)代的個(gè)體不自覺(jué)地陷入智能技術(shù)構(gòu)建的全景式監(jiān)控中。對(duì)那些使用智能設(shè)備的個(gè)體來(lái)說(shuō),他們的現(xiàn)實(shí)境遇其實(shí)與邊沁的“全景式監(jiān)獄”環(huán)境極為類似。各大智能平臺(tái)就像一座座看不見的“監(jiān)獄”,將個(gè)體牢牢地“控制”在平臺(tái)的監(jiān)視范圍內(nèi)。所不同的是:一方面,人工智能時(shí)代的全景式監(jiān)控不僅能夠“透視”個(gè)體外在的行為習(xí)慣,而且能夠窺視個(gè)體的精神世界,其中的原因在于“數(shù)據(jù)是透明的媒介”(4)[德]韓炳哲:《精神政治學(xué)》,關(guān)玉紅譯,中信出版社2019年版,第78頁(yè)。,人們每天都在自覺(jué)不自覺(jué)地上傳各種數(shù)據(jù),不斷在“圖繪”那個(gè)“云端”的自己?！皵?shù)據(jù)挖掘作為數(shù)字化透鏡會(huì)放大人的行為,并且在由意識(shí)編織的行為空間背后開辟一個(gè)潛意識(shí)編織的行為空間?！?5)[德]韓炳哲:《精神政治學(xué)》,關(guān)玉紅譯,中信出版社2019年版,第88頁(yè)。在大數(shù)據(jù)與網(wǎng)絡(luò)媒介的共謀下,個(gè)體的“數(shù)字潛意識(shí)(das Digital-Unbewusste)”(6)[德]韓炳哲:《在群中:數(shù)字媒體時(shí)代的大眾心理學(xué)》,程巍譯,中信出版社2019年版,第111頁(yè)?？梢暂p易被介入,數(shù)據(jù)能夠挖掘“作為個(gè)體不曾意識(shí)到的集體行為模式”(7)[德]韓炳哲:《在群中:數(shù)字媒體時(shí)代的大眾心理學(xué)》,程巍譯,中信出版社2019年版,第110—111頁(yè)。。它通過(guò)侵入個(gè)體的潛意識(shí)介入個(gè)體的思想認(rèn)知,對(duì)其未來(lái)的行為舉止進(jìn)行干預(yù)。因而,在人工智能時(shí)代,“數(shù)據(jù)”被用于“描繪”每個(gè)個(gè)體,人的一切行為都是可計(jì)算、可調(diào)節(jié)、可控制的,大數(shù)據(jù)在人們還未經(jīng)歷的時(shí)候就“知道了一切”。正是在這個(gè)層面上,“透明化”存在成為人工智能時(shí)代個(gè)體生存的一個(gè)鮮明特征。 另一方面,人工智能時(shí)代的勞動(dòng)者所受的“監(jiān)控”并非一種懲戒式的規(guī)訓(xùn),而是一種“自愿”的、主動(dòng)的選擇。他們自愿接受“規(guī)訓(xùn)”,主動(dòng)為實(shí)現(xiàn)“全景式監(jiān)控”添磚加瓦,并將其視為“自由”。對(duì)此韓炳哲說(shuō):“數(shù)據(jù)主義則清除了倫理與真相的自我定位(Self-Tracking)功能,并且讓這種自我定位淪為自我控制的技術(shù)。”(8)[德]韓炳哲:《精神政治學(xué)》,關(guān)玉紅譯,中信出版社2019年版,第83頁(yè)。人工智能時(shí)代的數(shù)據(jù)化生存?zhèn)€體其實(shí)好似剝削自己的企業(yè)主,也是自己監(jiān)控自己的監(jiān)視器。個(gè)體隨時(shí)隨地主動(dòng)在社交網(wǎng)絡(luò)上展示自身的身體數(shù)據(jù),在朋友圈積極“分享”自我時(shí),其“分享”得越仔細(xì),其被“監(jiān)視”得越全面,其被自我規(guī)訓(xùn)的程度就越深。在某種意義上,每一次“點(diǎn)贊”都是個(gè)體在主動(dòng)完成“監(jiān)視”任務(wù)。

此外,在智能技術(shù)與信息媒介的加持下,消費(fèi)主義思潮泛濫,各類商家搭乘智能技術(shù)的“便車”,不僅在各大智能APP上廣泛宣傳,而且通過(guò)個(gè)體產(chǎn)生的數(shù)據(jù)流進(jìn)行算法統(tǒng)計(jì),從而實(shí)現(xiàn)對(duì)用戶的精準(zhǔn)推送。在數(shù)字平臺(tái)、智能算法的加持下,商家以個(gè)性化的誘惑形式將感官刺激、視覺(jué)享受與消費(fèi)狂歡融為一體,營(yíng)造出一個(gè)個(gè)可見的、心儀的烏托邦空間。“無(wú)處不在的消費(fèi)主義本身已經(jīng)變成了一種目的,它正在改變發(fā)達(dá)國(guó)家的日常生活,而它的方式表明,由多種欲望和消費(fèi)構(gòu)成的烏托邦主義在這里已經(jīng)存在,無(wú)須再增加什么。”(9)[美]詹姆遜:《烏托邦作為方法或未來(lái)的用途》,王逢振譯,《馬克思主義與現(xiàn)實(shí)》2007年第5期。于是,在一個(gè)沒(méi)有烏托邦的年代里,營(yíng)造出處處都是烏托邦的假象,人們對(duì)于形上精神的追求逐漸消失,實(shí)用主義、功利主義成為主流思想意識(shí),數(shù)據(jù)化的生存?zhèn)€體逐漸喪失自身的本真,淪為“透明人”和“數(shù)字勞工”,深陷數(shù)字宰制還以為自己獲得了更多的“自由”。

(三)個(gè)體數(shù)據(jù)化生存的身份危機(jī)

在人工智能時(shí)代,人的數(shù)字身份逐漸成為連接現(xiàn)實(shí)空間與虛擬空間的紐帶。當(dāng)數(shù)字身份逐漸成為個(gè)體進(jìn)行自我認(rèn)同與識(shí)別他者的工具時(shí),活生生的生命實(shí)體也就存在著被數(shù)字虛體取代的風(fēng)險(xiǎn),人成為被數(shù)字串聯(lián)在一起的肉體碎片,成為只會(huì)接收數(shù)據(jù)、只能接收數(shù)據(jù)的數(shù)字機(jī)器。數(shù)字身份的“盜用”、個(gè)體身份認(rèn)同的斷裂等一系列倫理問(wèn)題也隨之而來(lái)。

在人工智能時(shí)代,人們通過(guò)由數(shù)字編碼構(gòu)建起來(lái)的數(shù)字身份存在于各大網(wǎng)絡(luò)平臺(tái)。在這種情況下,個(gè)體生命的身份識(shí)別就成為對(duì)不同的數(shù)字符號(hào)編碼的識(shí)別。隨著頻次的增加,個(gè)體的數(shù)字身份日益凸顯,而真實(shí)身份卻被遮蔽甚至隱退,即主體的現(xiàn)實(shí)身份被遺忘與消解。人工智能時(shí)代的數(shù)字詐騙、數(shù)字陷阱、網(wǎng)絡(luò)詐騙等問(wèn)題皆與數(shù)字身份的凸顯、真實(shí)身份的隱退有著密切關(guān)系?！吧矸菘梢员焕斫鉃樽晕以庥鏊?并與他者共在所必有的經(jīng)驗(yàn)性‘面具’?！?10)文一茗:《身份:自我的符號(hào)化》,《山東社會(huì)科學(xué)》2017年第8期。身份認(rèn)同指向的其實(shí)是對(duì)自我與他者差異的識(shí)別與確證,這不僅包括個(gè)體對(duì)自身身份的認(rèn)知,而且包括他者對(duì)其所屬群體身份的認(rèn)知。在現(xiàn)實(shí)社會(huì)生活中,人們的身份確證可以依托物理空間上人們的社會(huì)關(guān)系來(lái)實(shí)現(xiàn),具體社會(huì)關(guān)系通過(guò)具身的交往實(shí)踐表現(xiàn)出來(lái),這種身份確證具有很強(qiáng)的現(xiàn)實(shí)性與確定性。但對(duì)人工智能時(shí)代的數(shù)字身份來(lái)說(shuō),人們根本無(wú)法具身感知他者的存在,本來(lái)千差萬(wàn)別的有血有肉的真實(shí)身體被置換成同質(zhì)化的數(shù)字虛體,并且數(shù)字身份的自我與他者都具有一種隱匿性與非唯一性,人們甚至可以同時(shí)擁有多個(gè)數(shù)字身份,這更增加了身份確證的困難。

個(gè)體對(duì)自身的認(rèn)同離不開記憶,但在人工智能時(shí)代,記憶帶來(lái)的持續(xù)性生命體驗(yàn)中斷了。數(shù)字媒介對(duì)當(dāng)下人們的記憶進(jìn)行了過(guò)濾與填充,使人的具身體驗(yàn)過(guò)程被在先編程的仿真閉環(huán)取代,曾經(jīng)在過(guò)去、現(xiàn)在和未來(lái)回環(huán)中的生命體驗(yàn),如今被抽象為感官接受的瞬時(shí)片段。人自身的經(jīng)驗(yàn)閱歷無(wú)法形成體系而走向碎片化,與歷史的關(guān)聯(lián)也中斷了,人們失去了歷史感和未來(lái)意識(shí),只剩下了純粹的、孤立的、永久的現(xiàn)在和能指的連續(xù),關(guān)于過(guò)去和未來(lái)的時(shí)間觀念、句法和時(shí)間性的組織完全消失了。(11)參見[美]詹姆遜:《晚期資本主義的文化邏輯》,陳清僑譯,生活·讀書·新知三聯(lián)書店1997年版,第291頁(yè)。當(dāng)個(gè)體無(wú)法感知持續(xù)性生命體驗(yàn),失去了生存意義的載體時(shí),也就無(wú)法進(jìn)行有效的自我確證。因而,在人工智能時(shí)代的數(shù)據(jù)化生存中,活生生的個(gè)體淪為數(shù)字媒介下“被凝視”的“景觀”,完美的“數(shù)字鏡像”成為個(gè)體進(jìn)行自我參照與改變的“藍(lán)本”。人工智能時(shí)代的大數(shù)據(jù)借助人們對(duì)“理性數(shù)值”的癡迷追尋,“引誘”其持續(xù)更新數(shù)據(jù)以確立“身份認(rèn)同”,“刷新”自身的存在感,即鮑曼說(shuō)的塑造那件被稱作“身份”(identity)的藝術(shù)品。隨著真實(shí)身份日漸被數(shù)字身份取代,人深深陷入認(rèn)同危機(jī)之中。

(四)個(gè)體數(shù)據(jù)化生存的技術(shù)性失業(yè)風(fēng)險(xiǎn)

人工智能的飛速發(fā)展極大地解放了人類勞動(dòng),它代替人完成了大量重復(fù)、繁重與危險(xiǎn)的工作,然而,這也在另一個(gè)層面上帶來(lái)新的隱憂,即人工智能取代人類勞動(dòng)帶來(lái)了社會(huì)失業(yè)問(wèn)題,會(huì)有更多的勞動(dòng)者成為“剩余的人”甚至“多余的人”。

日本軟銀集團(tuán)創(chuàng)始人孫正義曾預(yù)測(cè),到2030年,通用人工智能將會(huì)比全人類智能的總和還要強(qiáng)大十倍。未來(lái)30年內(nèi),人工智能的智商將達(dá)到10000,而人類的平均智商只有100,天才也只有200。高盛集團(tuán)也在題為《人工智能對(duì)經(jīng)濟(jì)增長(zhǎng)的潛在巨大影響》的報(bào)告中指出,在美國(guó)與歐洲,三分之二的工作崗位可以實(shí)現(xiàn)自動(dòng)化。其中,辦公室與行政工作自動(dòng)化程度可達(dá)46%,法律相關(guān)工作達(dá)44%,建筑與工程相關(guān)領(lǐng)域的工作達(dá)37%。這表明,那些重復(fù)性、數(shù)據(jù)性較強(qiáng)的工作,那些不太需要情感參與的工作崗位,將更多地被人工智能取代。也就是說(shuō),隨著人工智能逐漸介入人的經(jīng)濟(jì)生活,它將逐漸影響與改變市場(chǎng)運(yùn)行規(guī)則與競(jìng)爭(zhēng)方式。伴隨著人工智能逐步在文字處理、圖片生成、人工智能客服等方面發(fā)揮重要作用,很多行業(yè)與領(lǐng)域的從業(yè)者將面臨低收入甚至失業(yè)的風(fēng)險(xiǎn),例如傳統(tǒng)制造業(yè)、客服、電話銷售、傳統(tǒng)翻譯等崗位將被大量取代。在資本、智能技術(shù)與數(shù)字平臺(tái)的合謀下,會(huì)有越來(lái)越多的人面臨失業(yè)。這正是馬丁·福特在《機(jī)器人時(shí)代》一書中表達(dá)的一個(gè)重要觀點(diǎn),即人們必須承認(rèn)這樣一個(gè)嚴(yán)峻的現(xiàn)實(shí):大部分工作崗位被機(jī)器人取代只是一個(gè)時(shí)間問(wèn)題。失業(yè)問(wèn)題的加劇一方面會(huì)帶來(lái)過(guò)度甚至是惡性競(jìng)爭(zhēng),并產(chǎn)生大量的剩余勞動(dòng)力;另一方面人工智能對(duì)于從業(yè)人員的偏向性也加大了收入“鴻溝”,人工智能行業(yè)從業(yè)者的收入與其他行業(yè)勞動(dòng)者的收入的差距將會(huì)繼續(xù)擴(kuò)大,這無(wú)疑會(huì)加劇民眾的職業(yè)焦慮與恐慌。勞動(dòng)者面臨著極大的工作壓力和績(jī)效考核壓力,從而造成他們精神倦怠,無(wú)意義感滋生。此外,人工智能的快速發(fā)展對(duì)于個(gè)體勞動(dòng)權(quán)無(wú)疑是一個(gè)巨大的挑戰(zhàn)。人通過(guò)勞動(dòng)區(qū)別于其他動(dòng)物并確證自身作為人的本質(zhì)。人工智能基于程序、數(shù)據(jù)模仿人類意識(shí)和思維,一定程度上實(shí)現(xiàn)了對(duì)人腦思維的投影、放大與延伸。隨著人工智能的快速發(fā)展和在各個(gè)具體領(lǐng)域的運(yùn)用,部分人類勞動(dòng)逐步被智能機(jī)器取代,甚至人類的智力也逐漸受到人工智能的挑戰(zhàn)。如果勞動(dòng)作為人的基本權(quán)利被剝奪,那么不僅會(huì)帶來(lái)失業(yè)等社會(huì)問(wèn)題,而且對(duì)人類的基本存在方式也會(huì)構(gòu)成挑戰(zhàn)。

二、人工智能時(shí)代個(gè)體數(shù)據(jù)化生存風(fēng)險(xiǎn)的根源分析

在人工智能時(shí)代人類的數(shù)據(jù)化生存中,個(gè)體的感知模式、身體狀態(tài)乃至精神世界都處于智能技術(shù)的管控之下。人工智能時(shí)代個(gè)體數(shù)據(jù)化生存風(fēng)險(xiǎn)源于智能技術(shù)異化為操控生命的技術(shù),其實(shí)質(zhì)是數(shù)字資本宰制,同時(shí)也源于人機(jī)邊界的模糊。

(一)智能技術(shù)異化為操控生命的技術(shù)

面對(duì)人工智能時(shí)代個(gè)體數(shù)據(jù)化生存面臨的問(wèn)題,人們往往將智能技術(shù)本身作為導(dǎo)致這些問(wèn)題的罪魁禍?zhǔn)?。事?shí)上,問(wèn)題并不在于智能技術(shù),而在于智能技術(shù)異化為一種操控人類生命的技術(shù)。

技術(shù)本質(zhì)上是為人的。海德格爾說(shuō):“技術(shù)不僅是手段。技術(shù)乃是一種解蔽方式?！?12)[德]海德格爾:《海德格爾選集》(下),孫周興譯,上海三聯(lián)書店1996年版,第931頁(yè)。在古希臘,技術(shù)和藝術(shù)是同一個(gè)詞τεχνη(技藝)。技術(shù)與藝術(shù)之間有著古老的親緣關(guān)系。古希臘技藝(techne) 一詞代表著“與某種制作(poiesis)形式相關(guān)的知識(shí)或方法”(13)[加拿大]芬博格:《海德格爾和馬爾庫(kù)塞:歷史的災(zāi)難與救贖》,文成偉譯,上海社會(huì)科學(xué)院出版社2010 年版,第7頁(yè)。。在“制作”行為發(fā)生之前,技藝就已經(jīng)包含了該制作行為的本質(zhì)了,技藝包含目的和意義。古希臘的技藝所呈現(xiàn)的是“所有前現(xiàn)代社會(huì)里傳統(tǒng)的、充滿著價(jià)值情節(jié)的手工藝活動(dòng)”(14)[加拿大]芬博格:《海德格爾和馬爾庫(kù)塞:歷史的災(zāi)難與救贖》,文成偉譯,上海社會(huì)科學(xué)院出版社2010 年版,第14頁(yè)。。技藝不僅滿足功能性的需要,還符合社會(huì)的道德與美學(xué)價(jià)值。(15)參見[加拿大]芬博格:《海德格爾和馬爾庫(kù)塞:歷史的災(zāi)難與救贖》,文成偉譯,上海社會(huì)科學(xué)院出版社2010 年版,第14頁(yè)?？梢哉f(shuō),技藝包含“善”、符合“美”,因而技藝同時(shí)蘊(yùn)含著技術(shù)與藝術(shù)兩方面的內(nèi)涵,表征著事實(shí)與價(jià)值、手段與目的的統(tǒng)一。然而,隨著傳統(tǒng)的技藝逐漸演化為現(xiàn)代技術(shù),技術(shù)的邏各斯碾壓了藝術(shù),技術(shù)與藝術(shù)之間的親緣關(guān)系由此斷裂了。在人工智能時(shí)代,技術(shù)不但喪失了“善”,而且不再符合“美”,事實(shí)與價(jià)值斷裂,技術(shù)成為純粹的工具?？朔悄芗夹g(shù)給人的生存和發(fā)展帶來(lái)危機(jī)的關(guān)鍵不在于否定智能技術(shù),而在于回歸技術(shù)的本質(zhì),在于在技術(shù)中重新發(fā)現(xiàn)失落的藝術(shù)和人性。技術(shù)本質(zhì)上是“為人”的,但在人工智能時(shí)代,技術(shù)智能化并逐漸成為一種單純的工具,在這個(gè)意義上,它其實(shí)意味著對(duì)人本質(zhì)的遺忘。資本主義社會(huì)常以“價(jià)值中立”標(biāo)榜技術(shù)的本質(zhì),事實(shí)上,“技術(shù)中立是一個(gè)政治概念”(16)[美]馬爾庫(kù)塞:《哲學(xué)、精神分析與解放》,黃曉偉、高海清譯,人民出版社2019年版,第191頁(yè)。?！凹夹g(shù)超越了善惡,并且成了客觀現(xiàn)實(shí)本身,很容易以各種方式應(yīng)用于社會(huì)?！?17)[美]馬爾庫(kù)塞:《哲學(xué)、精神分析與解放》,黃曉偉、高海清譯,人民出版社2019年版,第190頁(yè)。盡管技術(shù)作為工具似乎是與價(jià)值無(wú)涉的,但并不存在外在于技術(shù)總體的技術(shù)工具。一般來(lái)說(shuō),人們強(qiáng)調(diào)的是技術(shù)總體和作為技術(shù)體系的存在,“這種形式的技術(shù)體系本身就是一種‘世界的狀態(tài)’,一種人類與自然之間的存在方式”(18)[美]馬爾庫(kù)塞:《哲學(xué)、精神分析與解放》,黃曉偉、高海清譯,人民出版社2019年版,第190頁(yè)。。馬爾庫(kù)塞指出,這正是技術(shù)發(fā)展的內(nèi)在目的與終極原因。因此,如果技術(shù)喪失了終極目的而成為純粹工具性的存在,那么必然會(huì)給人類帶來(lái)深重的災(zāi)難。當(dāng)智能技術(shù)成為既得利益集團(tuán)獲取利益和控制社會(huì)的工具時(shí),就不能簡(jiǎn)單地將它帶來(lái)的風(fēng)險(xiǎn)歸咎于智能技術(shù)本身,而應(yīng)歸咎于智能技術(shù)對(duì)生命的操控,特別是在背后操縱智能技術(shù)的既得利益集團(tuán)。

在人工智能時(shí)代,數(shù)據(jù)被納入資本范疇,實(shí)現(xiàn)了從數(shù)據(jù)資源向數(shù)據(jù)資本的轉(zhuǎn)化。在某種意義上,誰(shuí)掌控了大數(shù)據(jù),誰(shuí)就掌控了獲取利益的主導(dǎo)權(quán)。在這個(gè)過(guò)程中,但凡進(jìn)行過(guò)數(shù)據(jù)操作的人均被卷入數(shù)字資本的操控體系之中,因此,人工智能時(shí)代的人們無(wú)形中都在遭受資本的宰制。以智能社會(huì)帶來(lái)的失業(yè)問(wèn)題為例,人工智能帶來(lái)的失業(yè)本身是一種技術(shù)性失業(yè),但背后卻是資本邏輯對(duì)技術(shù)的操控。馬克思指出:“機(jī)器本身對(duì)于把工人從生活資料中‘游離出來(lái)’是沒(méi)有責(zé)任的?！芎蛯?duì)抗不是從機(jī)器本身產(chǎn)生的,而是從機(jī)器的資本主義應(yīng)用產(chǎn)生的!”(19)《馬克思恩格斯文集》第5卷,人民出版社2009年版,第508頁(yè)。也就是說(shuō),人的生存危機(jī)出現(xiàn)的根本原因并不在于技術(shù)本身,而在于技術(shù)的資本主義應(yīng)用。從剝削的范圍來(lái)看,人工智能時(shí)代被剝削的對(duì)象已經(jīng)從單純的雇傭工人擴(kuò)展到了所有數(shù)字平臺(tái)用戶,用戶只要使用平臺(tái),它就開始為平臺(tái)貢獻(xiàn)自己的信息“數(shù)據(jù)”;就剝削的場(chǎng)域看,人工智能時(shí)代的剝削已然跨越了時(shí)空界限,實(shí)現(xiàn)了對(duì)人的整個(gè)生命周期和全部生活空間的剝削?？傊?人類個(gè)體遭受智能技術(shù)資本宰制的程度空前地提高了。

(二)人機(jī)邊界模糊

人工智能時(shí)代個(gè)體數(shù)據(jù)化生存風(fēng)險(xiǎn)某種意義上也源于人機(jī)邊界模糊。技術(shù)作為“克服人的不完滿最直接、最實(shí)用的合目的性的工具”(20)戴茂堂、趙紅梅:《關(guān)于人工智能技術(shù)的另一種哲學(xué)解讀》,《華東師范大學(xué)學(xué)報(bào)(哲學(xué)社會(huì)科學(xué)版)》2023年第5期。,在人工智能時(shí)代卻日益成為人的“主宰”。那么,我們應(yīng)該如何理解和把握智能機(jī)器與人的關(guān)系呢?目前,人工智能在思考與行動(dòng)層面正逐漸趨近于人本身,這是人工智能時(shí)代人機(jī)邊界日益模糊的一個(gè)核心表征。當(dāng)大量的勞動(dòng)特別是智力工作交給人工智能時(shí),人就被剝奪了進(jìn)行思維能力訓(xùn)練的機(jī)會(huì),也就是說(shuō),人工智能正在日漸削弱人的思維和解決問(wèn)題的能力,人工智能越“聰慧”,人就越愚鈍。人工智能日漸“偷走”人的腦子,人工智能時(shí)代的人們也逐漸被養(yǎng)“懶”寵“笨”了。這種挑戰(zhàn)早在《流浪地球》《2001太空漫游》等科幻作品中就有所表現(xiàn),而有意識(shí)、有智慧的人工智能一定會(huì)帶來(lái)一系列倫理問(wèn)題。

人工智能在思考與行動(dòng)層面越來(lái)越趨近于人,這無(wú)疑是其“自主性”的增強(qiáng),也是對(duì)人的主體性的嚴(yán)重沖擊?！白層?jì)算機(jī)完成人類心智(mind) 能做的各種事情”(21)[英]瑪格麗特·博登:《AI: 人工智能的本質(zhì)與未來(lái)》,孫詩(shī)惠譯,中國(guó)人民大學(xué)出版社2017年版,第3頁(yè)。,人工智能逐漸實(shí)現(xiàn)對(duì)人的知識(shí)、情感、意志的模仿與拓展,這實(shí)質(zhì)上就是人的主體性的倒退和對(duì)人的主體性的威脅。人工智能技術(shù)廣泛應(yīng)用的一個(gè)直接后果就是個(gè)體對(duì)其過(guò)度依賴,甚至造成人工智能的反向操控。目前,智能終端已經(jīng)成為人們工作、娛樂(lè)、休閑、購(gòu)物的必備品,人們只需操作這些人工智能就能夠滿足生活的大部分需要。由此,人們?cè)谥悄芩惴ǖ碾[性控制下逐漸喪失自我意識(shí)并不斷消解著自身的創(chuàng)造力。

人工智能時(shí)代的人們?nèi)找娉蔀閳?zhí)行人工智能命令的“機(jī)器”,成為被人工智能“投喂”的對(duì)象,而人工智能反而成了“主人”,這顯然是一種主客關(guān)系的顛倒。面對(duì)人機(jī)邊界的日漸模糊,人工智能日漸成為一種人類難以駕馭的力量。赫伯特·馬歇爾·麥克盧恩認(rèn)為:“人類制造的工具正在開始改造人類,甚至創(chuàng)造人類?！?22)轉(zhuǎn)引自[瑞士]戈?duì)柕隆とR昂哈德:《人機(jī)沖突:人類與智能世界如何共處》,張堯然、高艷梅譯,機(jī)械工業(yè)出版社2019年版,第29頁(yè)。這無(wú)疑將給人類造成重大威脅。

三、人工智能時(shí)代應(yīng)對(duì)個(gè)體數(shù)據(jù)化生存風(fēng)險(xiǎn)的路徑

在人工智能時(shí)代,數(shù)據(jù)化生存使個(gè)體生命失去了本真狀態(tài)。操縱生命的智能技術(shù)為人戴上了鐐銬,導(dǎo)致個(gè)體的主體性日益異化。技術(shù)是人類的創(chuàng)造物,未來(lái)技術(shù)特別是人工智能技術(shù)也應(yīng)有利于人類的自由與全面發(fā)展。因此,面對(duì)人工智能技術(shù)的快速發(fā)展,我們需要厘清人機(jī)邊界,引領(lǐng)技術(shù)發(fā)展方向,建構(gòu)新型人機(jī)關(guān)系,推進(jìn)人與技術(shù)和諧發(fā)展。

(一)厘清人機(jī)邊界

人機(jī)矛盾的本質(zhì)是人類智能與人工智能的關(guān)系問(wèn)題。人類智能表征的是人的能力,彰顯的是人的本質(zhì)與價(jià)值;人工智能則是一種數(shù)據(jù)程序的呈現(xiàn),它指向一種純客觀的存在。面對(duì)人工智能機(jī)器愈發(fā)精密與高效的現(xiàn)實(shí),人是否要放棄自身的主體性?人工智能時(shí)代,人又該如何面對(duì)自身的本質(zhì),或者說(shuō)人又何以為人?這無(wú)疑是人機(jī)博弈背后的最為核心的倫理關(guān)切。人工智能不等同于人,更不會(huì)超越人。究其實(shí)質(zhì),人工智能是人類智能的“物化”形態(tài),它是人自然肌體的延伸,是人類創(chuàng)造的工具。即使人工智能達(dá)到類人的智能水平,它也永遠(yuǎn)無(wú)法取代人類智能。從認(rèn)知層面來(lái)說(shuō),人具有多層級(jí)的認(rèn)知能力,而人工智能卻無(wú)法認(rèn)知,它只能依據(jù)人類賦予的算法程序運(yùn)行。就情感層面來(lái)說(shuō),人是擁有情感的生物,人工智能所遵循的只是程序代碼,它沒(méi)有情感,只有冷冰冰的數(shù)字。就意志層面來(lái)說(shuō),人具有自由意志,人是一種有意識(shí)的感性的能動(dòng)的存在物,能夠“按照美的規(guī)律來(lái)構(gòu)造”,而人工智能只是一種人工制品,只能是一種“為人”的工具?？傊?人始終是人工智能存在與運(yùn)轉(zhuǎn)的前提。盡管未來(lái)人工智能發(fā)展的空間極為廣闊,但是人始終是技術(shù)的發(fā)明者和使用者,人工智能技術(shù)的提升與發(fā)展的依據(jù)只能是人及其需要,人工智能技術(shù)的發(fā)展離不開人,智能算法本身的設(shè)置與把控也離不開人。即使出現(xiàn)人工智能奇點(diǎn),人工智能也永遠(yuǎn)無(wú)法超越人類智能,二者之間始終存在著一條不可逾越的界限。

(二)引領(lǐng)技術(shù)發(fā)展方向

人工智能在某些領(lǐng)域產(chǎn)生的效益的確遠(yuǎn)超人類肌體的功能,但人工智能只有效率,而人懂得“意義”。人使用人工智能服務(wù)當(dāng)下生產(chǎn)生活并推動(dòng)人類的自由和全面發(fā)展,即人追求的不僅是效率,更是一種超越當(dāng)下、實(shí)現(xiàn)自身發(fā)展與完滿的價(jià)值與意義。換句話說(shuō),當(dāng)人們?cè)谙硎苋斯ぶ悄軒?lái)的方便與快捷時(shí),不能遺忘技術(shù)本身指向的“人的目的”,這是最基本的倫理原則。畢竟“技術(shù)在一開始是廣泛地以生活為中心的,而不是以工作為中心或以權(quán)力為中心的”(23)Lewis Mumford,The Myth of the Machine: Technics and Human Development,New York:Harcourt Brace Jovanovich Inc.,1967,p.9.。馬克斯·韋伯指出:“現(xiàn)代社會(huì)能依靠的根本,既不是滿足大眾的物質(zhì)欲望,也不是運(yùn)用國(guó)家機(jī)器,將人當(dāng)成抽象的數(shù)字來(lái)治理。真正的關(guān)鍵在于,民眾能不能提升到具備普遍倫理品質(zhì)的層次,擁有現(xiàn)代人正當(dāng)?shù)纳钪馈！?24)[德]馬克斯·韋伯:《新教倫理與資本主義精神》,康樂(lè)、簡(jiǎn)惠美譯,上海三聯(lián)書店2019年版,第xi頁(yè)。因此,如何把控人工智能的應(yīng)用與發(fā)展的方向極為重要?！凹妓嚤旧砑饶軌蛑L(zhǎng)專制主義,也可以促進(jìn)自由;既能夠招致匱乏,也可以帶來(lái)富足;既能夠延長(zhǎng)勞作時(shí)間,也可以廢除勞作。”(25)[美]馬爾庫(kù)塞:《技術(shù)、戰(zhàn)爭(zhēng)與法西斯主義》,高海青、馮波譯,人民出版社2019年版,第51頁(yè)。所以,人們需要把人工智能的發(fā)展放到人文精神視域中來(lái)審視,以確保人工智能始終堅(jiān)守人類整體生存價(jià)值和命運(yùn)關(guān)懷的發(fā)展維度,讓技術(shù)真正成為服務(wù)人類成長(zhǎng)發(fā)展的工具,而不是壓迫與禁錮人的手段。

(三)構(gòu)建新型人機(jī)關(guān)系

面對(duì)人工智能時(shí)代個(gè)體的數(shù)據(jù)化生存危機(jī),急需推進(jìn)新型人機(jī)關(guān)系建構(gòu)。關(guān)于未來(lái)人機(jī)關(guān)系的設(shè)想,人們往往陷入人工智能“烏托邦”抑或“敵托邦”的二元對(duì)立中。事實(shí)上,新型人機(jī)關(guān)系指向的是這二者之間的一條中間道路。在未來(lái)人機(jī)關(guān)系構(gòu)建中,核心的倫理關(guān)切是人的福祉。

聚焦人機(jī)關(guān)系的核心倫理關(guān)切,推進(jìn)人機(jī)關(guān)系和諧發(fā)展應(yīng)從技術(shù)與人兩方面努力。在技術(shù)層面上,需要對(duì)人工智能技術(shù)進(jìn)行必要規(guī)制。技術(shù)的本質(zhì)歸根結(jié)底彰顯的是人的本質(zhì),技術(shù)的本質(zhì)是“為人”的,因而作為人工智能的發(fā)明者的人不能放棄對(duì)技術(shù)的規(guī)制,而是要將人的價(jià)值原則、倫理規(guī)范作為人工智能技術(shù)運(yùn)行的基石,推進(jìn)人工智能技術(shù)發(fā)展以“人的價(jià)值為中心”,保證人工智能向善而行。中共中央辦公廳、國(guó)務(wù)院辦公廳發(fā)布的《關(guān)于加強(qiáng)科技倫理治理的意見》明確了科技倫理的五個(gè)原則:增進(jìn)人類福祉、尊重生命權(quán)利、堅(jiān)持公平公正、合理控制風(fēng)險(xiǎn)、保持公開透明。增進(jìn)人類福祉被擺在首位,這其實(shí)就是對(duì)技術(shù)“為人”本質(zhì)的強(qiáng)調(diào)。因此,應(yīng)推進(jìn)技術(shù)“向善”,讓人工智能更好地為增進(jìn)人類福祉服務(wù)。在人的層面上,需要人反省與提升自身。技術(shù)“向善”的關(guān)鍵在于人“向善”,規(guī)制技術(shù)的關(guān)鍵在于規(guī)制人的價(jià)值與行為。在某種意義上,人們不應(yīng)該問(wèn)這樣的技術(shù)會(huì)成為“什么”,而更應(yīng)追問(wèn)人想要技術(shù)成為“什么”。應(yīng)加強(qiáng)技術(shù)倫理規(guī)范與標(biāo)準(zhǔn)的制定、完善與審查,并在研發(fā)、制造與使用人工智能的過(guò)程中預(yù)測(cè)其可能存在的風(fēng)險(xiǎn)并制定相應(yīng)的應(yīng)對(duì)措施?！缎乱淮斯ぶ悄軅惱硪?guī)范》(2021)和《科技倫理審查辦法(試行)》(2023)都充分體現(xiàn)了這一原則要求。

隨著人工智能技術(shù)日益融入人們的日常生活,人機(jī)協(xié)作將在提升效率、便利生活等多方面發(fā)揮重要作用。面對(duì)人工智能時(shí)代的倫理風(fēng)險(xiǎn),問(wèn)題的關(guān)鍵在于明晰人機(jī)協(xié)作的倫理規(guī)范,從而確保人機(jī)協(xié)作的道德性,這需要從技術(shù)操作與個(gè)體使用兩個(gè)方面考量。以用戶的隱私安全為例,在人機(jī)協(xié)作的過(guò)程中應(yīng)確保用戶數(shù)據(jù)的安全與保密,這就要求在技術(shù)操作層面設(shè)置多層次隱私安全系統(tǒng),有效降低隱私風(fēng)險(xiǎn)。為防止數(shù)據(jù)丟失與篡改,應(yīng)定期對(duì)數(shù)字平臺(tái)的數(shù)據(jù)進(jìn)行更新與備份,以確保數(shù)據(jù)的完整性與可恢復(fù)性。在使用層面,個(gè)體需要明晰保護(hù)隱私與數(shù)據(jù)安全的重要性,提高識(shí)別惡意網(wǎng)站、信息、郵件的能力,并能夠在數(shù)據(jù)安全受到威脅時(shí)作出正確及時(shí)的反應(yīng)。

事實(shí)上,與其說(shuō)人工智能時(shí)代人的數(shù)據(jù)化生存風(fēng)險(xiǎn)是一種危機(jī),不如說(shuō)是一場(chǎng)挑戰(zhàn),它呼喚著人對(duì)自身的深刻反省和快速提升。面對(duì)人工智能技術(shù)的指數(shù)式發(fā)展態(tài)勢(shì),人本身的發(fā)展似乎太慢了!在某種意義上,人工智能時(shí)代人的數(shù)據(jù)化生存風(fēng)險(xiǎn)正是人成長(zhǎng)的契機(jī)。面對(duì)日益強(qiáng)大的人工智能,人不會(huì)束手就擒,因?yàn)樽苑穸ㄕ侨税l(fā)展的動(dòng)力。人應(yīng)在人工智能時(shí)代不斷探索處理人機(jī)關(guān)系的新模式,并在此過(guò)程中不斷塑造適應(yīng)時(shí)代要求的新的自己。發(fā)展人工智能技術(shù)的目的是不斷實(shí)現(xiàn)人的自由與全面發(fā)展,而非奴役人。目前,人類正處在人工智能技術(shù)發(fā)展的關(guān)鍵時(shí)期,如何確保人工智能技術(shù)遵循倫理底線,堅(jiān)守人的價(jià)值,是我們的核心倫理關(guān)切,而關(guān)注人的生存與發(fā)展,既是人工智能技術(shù)發(fā)展的起點(diǎn),也是最終的目的。