王治東

人工智能風(fēng)險(xiǎn)性芻議

王治東

當(dāng)前，人工智能技術(shù)的發(fā)展一路高歌猛進(jìn)，尤其是阿爾法狗圍棋（AlphaGo） 以4：1的比分擊敗前世界圍棋第一人李世石之后，人們對(duì)人工智能的發(fā)展比較樂(lè)觀，當(dāng)然對(duì)人工智能的風(fēng)險(xiǎn)性也產(chǎn)生巨大的擔(dān)憂。那么，人工智能將帶給我們一個(gè)什么樣的未來(lái)？人工智能的風(fēng)險(xiǎn)性是否存在？風(fēng)險(xiǎn)性生成的機(jī)制是什么？相互之間的關(guān)聯(lián)度如何？人工智能風(fēng)險(xiǎn)防范的邊界在哪里？這些問(wèn)題亟待不同視角的探討，哲學(xué)在其中有其特有使命。

人工智能；技術(shù)風(fēng)險(xiǎn)；人機(jī)邊界

1956年人工智能（artificial intelligence） 概念在美國(guó)達(dá)特茅斯大學(xué)的研討會(huì)上被正式提出，標(biāo)志著人工智能學(xué)科的誕生?！邦櫭剂x，人工智能就是人造智能，目前的人工智能是指用電子計(jì)算機(jī)模擬或?qū)崿F(xiàn)的智能。同時(shí)作為學(xué)科，人工智能研究的是如何使機(jī)器（計(jì)算機(jī)） 具有智能的科學(xué)和技術(shù)，特別是人類智能如何在計(jì)算機(jī)上實(shí)現(xiàn)或再現(xiàn)的科學(xué)或技術(shù)。”a渥維克：《機(jī)器的征途》，李碧等譯，呼和浩特：內(nèi)蒙古人民出版社1998年版，第1—2頁(yè)。隨著人工智能技術(shù)的發(fā)展，人工智能被進(jìn)一步劃分為“弱人工智能”和“強(qiáng)人工智能”?！熬腿跞斯ぶ悄芏裕?jì)算機(jī)在心靈研究中的主要價(jià)值是為我們提供一個(gè)強(qiáng)有力的工具；就強(qiáng)人工智能而言，計(jì)算機(jī)不只是研究心靈的工具，更確切地說(shuō)，帶有正確程序的計(jì)算機(jī)其實(shí)就是一個(gè)心靈?！眀廉師友：《人工智能技術(shù)導(dǎo)論》，西安：西安電子科技大學(xué)出版社2000年版，第1頁(yè)。就目前而言，弱人工智能技術(shù)已經(jīng)基本實(shí)現(xiàn)，以計(jì)算機(jī)為載體的人工智能技術(shù)在自動(dòng)化工業(yè)中發(fā)揮了巨大作用，“我們可以通過(guò)各種自動(dòng)化裝置取代人的軀體活動(dòng)”a杜文靜：《人工智能的發(fā)展及其極限》，載《重慶工學(xué)院學(xué)報(bào)（社會(huì)科學(xué)版）》2007年第1期。，人類的生產(chǎn)效率因此得到極大的提升。人類一直朝強(qiáng)人工智能的道路上強(qiáng)勁邁進(jìn)，如果人工智能廣泛應(yīng)用，未來(lái)社會(huì)是否有更多的風(fēng)險(xiǎn)？風(fēng)險(xiǎn)何在？如果有風(fēng)險(xiǎn)，產(chǎn)生風(fēng)險(xiǎn)的機(jī)制是什么？人工智能與人之間的邊界或者禁區(qū)在哪里？本文嘗試從哲學(xué)的角度進(jìn)行初步的探討。

一、風(fēng)險(xiǎn)因子分析：人工智能風(fēng)險(xiǎn)何在？

烏爾里希·貝克與安東尼·吉登斯的風(fēng)險(xiǎn)理論開(kāi)啟了對(duì)技術(shù)風(fēng)險(xiǎn)問(wèn)題的關(guān)注。烏爾里希·貝克在20世紀(jì)90年代提出“風(fēng)險(xiǎn)社會(huì)”概念，認(rèn)為科技發(fā)展在促進(jìn)社會(huì)進(jìn)步的同時(shí)，也對(duì)生態(tài)環(huán)境甚至人自身造成威脅?！霸陲L(fēng)險(xiǎn)社會(huì)中，風(fēng)險(xiǎn)已經(jīng)代替物質(zhì)匱乏，成為社會(huì)和政治議題關(guān)注的中心?！眀烏爾里希·貝克：《風(fēng)險(xiǎn)社會(huì)》，何博聞譯，南京：譯林出版社2004年版，第15—19頁(yè)。貝克認(rèn)為，當(dāng)前社會(huì)是一個(gè)充滿各種風(fēng)險(xiǎn)的社會(huì)，政治、經(jīng)濟(jì)、文化、科技、生產(chǎn)、貿(mào)易等各個(gè)領(lǐng)域都存在諸多風(fēng)險(xiǎn)，而技術(shù)風(fēng)險(xiǎn)無(wú)疑是其中影響最為深遠(yuǎn)的風(fēng)險(xiǎn)類型。吉登斯從現(xiàn)代性的視角出發(fā)，提出現(xiàn)代社會(huì)的風(fēng)險(xiǎn)形式是一種人類制造出來(lái)的風(fēng)險(xiǎn)，“‘人造風(fēng)險(xiǎn)’于人類而言是最大的威脅，它起因于人類對(duì)科學(xué)、技術(shù)不加限制地推進(jìn)”c安東尼·吉登斯：《現(xiàn)代性的后果》，田禾譯，南京：譯林出版社2000年版，第115頁(yè)。。

（一） 人工智能與一般技術(shù)風(fēng)險(xiǎn)的區(qū)別

風(fēng)險(xiǎn)意味著危險(xiǎn)的可能性，也是目的與結(jié)果之間的不確定性，是危險(xiǎn)的概率指標(biāo)。技術(shù)的風(fēng)險(xiǎn)性首先表現(xiàn)為技術(shù)的不確定性。技術(shù)的不確定性有多種表現(xiàn)形式，技術(shù)使用后果的不確定性是技術(shù)不確定性的主要方面。技術(shù)風(fēng)險(xiǎn)也主要來(lái)源于此。國(guó)內(nèi)學(xué)者對(duì)技術(shù)風(fēng)險(xiǎn)問(wèn)題的認(rèn)識(shí)已經(jīng)比較成體系，代表性的觀點(diǎn)如下：從技術(shù)風(fēng)險(xiǎn)的屬性來(lái)看，技術(shù)風(fēng)險(xiǎn)既具有客觀實(shí)在性，也具有主觀建構(gòu)性；從技術(shù)風(fēng)險(xiǎn)的生成來(lái)源來(lái)看，技術(shù)風(fēng)險(xiǎn)既是技術(shù)自身的內(nèi)在屬性，亦是人的行為結(jié)果；從風(fēng)險(xiǎn)性后果來(lái)看，風(fēng)險(xiǎn)事件逐年增多、破壞性不斷增強(qiáng)、不可預(yù)測(cè)性日趨復(fù)雜、風(fēng)險(xiǎn)控制愈加困難等。

技術(shù)風(fēng)險(xiǎn)的另一個(gè)說(shuō)法是墨菲法則，那就是，如果事情有變壞的可能性，不管這種可能性有多小，它遲早都會(huì)發(fā)生。人工智能技術(shù)也是如此，如果人們擔(dān)心某種情況發(fā)生，那么它就有發(fā)生的可能性，因?yàn)轱L(fēng)險(xiǎn)是一種可能性的存在。人工智能技術(shù)風(fēng)險(xiǎn)問(wèn)題既與一般技術(shù)風(fēng)險(xiǎn)具有同源性和同構(gòu)性，但也有很大的區(qū)別性。

技術(shù)在很大程度上都是作為它者的存在，一般性技術(shù)在很大程度上都是外在化的風(fēng)險(xiǎn)，如環(huán)境風(fēng)險(xiǎn)、生態(tài)風(fēng)險(xiǎn)、經(jīng)濟(jì)風(fēng)險(xiǎn)等?！坝捎诩夹g(shù)與社會(huì)因素的相互作用，因此，在風(fēng)險(xiǎn)社會(huì)中，風(fēng)險(xiǎn)都會(huì)從技術(shù)風(fēng)險(xiǎn)自我轉(zhuǎn)換為經(jīng)濟(jì)風(fēng)險(xiǎn)、市場(chǎng)風(fēng)險(xiǎn)、健康風(fēng)險(xiǎn)、政治風(fēng)險(xiǎn)等。”a芭芭拉·亞當(dāng)?shù)龋骸讹L(fēng)險(xiǎn)社會(huì)及其超越》，趙彥東等譯，北京：北京出版社2005年版，第334頁(yè)。

但人工智能技術(shù)卻不能簡(jiǎn)單地作為它者存在，除了外在的風(fēng)險(xiǎn)之外，人工智能技術(shù)很大程度上是內(nèi)在化的風(fēng)險(xiǎn)，那就是人的存在性地位的挑戰(zhàn)風(fēng)險(xiǎn)以及人與物邊界復(fù)雜性的風(fēng)險(xiǎn)。內(nèi)在化風(fēng)險(xiǎn)不是物質(zhì)層面的風(fēng)險(xiǎn)，而是一種精神上的沖擊風(fēng)險(xiǎn)，是基于人的自我認(rèn)識(shí)和認(rèn)同的風(fēng)險(xiǎn)。因此人工智能技術(shù)的風(fēng)險(xiǎn)因子不僅僅在經(jīng)濟(jì)維度、環(huán)境維度，而且在于人機(jī)邊界的厘定，以及人機(jī)之間競(jìng)爭(zhēng)關(guān)系的形成方面。

在此方面，很多人工智能事件都引起人工智能取代人的擔(dān)憂。自1997年電腦“深藍(lán)”戰(zhàn)勝國(guó)際象棋冠軍加里·凱斯帕羅夫19年之后，在2016年3月9日—15日，由谷歌DeepMind研發(fā)的神經(jīng)網(wǎng)絡(luò)圍棋智能程序AlphaGo以4：1的比分擊敗前世界圍棋第一人李世石。2017年1月6日江蘇衛(wèi)視《最強(qiáng)大腦》上演了一場(chǎng)精彩的人機(jī)對(duì)決，這次的戰(zhàn)場(chǎng)不再是圍棋，而是人臉識(shí)別。據(jù)悉，“‘百度大腦’已建成超大規(guī)模的神經(jīng)網(wǎng)絡(luò)，擁有萬(wàn)億級(jí)的參數(shù)、千億樣本、千億特征訓(xùn)練，能模擬人腦的工作機(jī)制。百度大腦智商如今已經(jīng)有了超前的發(fā)展，在一些能力上甚至超越了人類”bhttp：//tech.qq.com/a/20170107/001226.htm.?！靶《取睂?duì)戰(zhàn)人類大腦名人堂選手，上演人機(jī)大戰(zhàn)，在圖像和語(yǔ)音識(shí)別三場(chǎng)比賽中，以2勝1平的戰(zhàn)績(jī)勝出。2016年11月百度無(wú)人車已經(jīng)能夠在全開(kāi)放的道路上實(shí)現(xiàn)無(wú)人駕駛。當(dāng)前快遞撿貨機(jī)器人已經(jīng)大規(guī)模投入快遞行業(yè)。2016年富士康公司在昆山基地裁員6萬(wàn)人，用4萬(wàn)臺(tái)機(jī)器人取代人力?；谝陨鲜聦?shí)，很多人認(rèn)為：人工智能取代人類的時(shí)代已經(jīng)到來(lái)，敵托邦式構(gòu)想即將成為現(xiàn)實(shí)。并且通過(guò)幾場(chǎng)“人機(jī)大戰(zhàn)”，普通大眾開(kāi)始表現(xiàn)出對(duì)人工智能風(fēng)險(xiǎn)性問(wèn)題的強(qiáng)烈關(guān)注。強(qiáng)人工智能技術(shù)盡管還沒(méi)能實(shí)現(xiàn)，但從這場(chǎng)AlphaGo圍棋大戰(zhàn)中，讓人似乎看到未來(lái)人工智能超越人類的可能，因?yàn)槿斯ぶ悄艿娜蠡A(chǔ)——算法、計(jì)算平臺(tái)、大數(shù)據(jù)——已經(jīng)日漸成熟。南京大學(xué)林德宏教授曾指出：“電腦不僅能模擬人的邏輯思維，還可以模擬形象思維、模糊思維、辯證思維，人工智能將來(lái)可能全面超過(guò)人腦智能?！眂林德宏：《“技術(shù)化生存”與人的“非人化”》，載《江蘇社會(huì)科學(xué)》2000年第4期。人工智能風(fēng)險(xiǎn)性考慮，主要是基于人工智能對(duì)人類的可能性超越。這是一種內(nèi)在性的風(fēng)險(xiǎn)，是人工智能之于人的關(guān)系性的風(fēng)險(xiǎn)。

（二） 人工智能風(fēng)險(xiǎn)的表現(xiàn)形式

“工程師和技術(shù)專家傾向于把技術(shù)風(fēng)險(xiǎn)界定為可能的物理傷害或者厄運(yùn)的年平均律，哲學(xué)家和其他人文主義者認(rèn)為技術(shù)風(fēng)險(xiǎn)無(wú)法定量，它包含了較之物理傷害更為廣泛的道德內(nèi)容。”d李三虎：《職業(yè)責(zé)任還是共同價(jià)值——工程倫理問(wèn)題的整體辨釋》，載《工程研究》2004年第1期。有學(xué)者直接認(rèn)為：“‘風(fēng)險(xiǎn)’包括兩部分，一部分是物理性的，更為實(shí)際有形的、可被量化的危險(xiǎn)，即技術(shù)性的風(fēng)險(xiǎn)；而另一部分是由心理認(rèn)知建構(gòu)的危險(xiǎn)，即感知的風(fēng)險(xiǎn)（perception of risk）?！盿轉(zhuǎn)引自曾繁旭、戴佳、王宇琦：《技術(shù)風(fēng)險(xiǎn)VS感知風(fēng)險(xiǎn)：傳播過(guò)程與風(fēng)險(xiǎn)社會(huì)放大》，載《現(xiàn)代傳播》2015年第3期。人工智能風(fēng)險(xiǎn)同樣包含這兩個(gè)層面：一個(gè)是客觀現(xiàn)實(shí)性的物理層面，一個(gè)是主觀認(rèn)知性的心理層面。在人工智能技術(shù)大規(guī)模運(yùn)用之前，很大程度上風(fēng)險(xiǎn)的認(rèn)識(shí)來(lái)自主觀認(rèn)知的心理層面。在人工智能發(fā)展過(guò)程中，人工智能（類人） 與人（人類） 之間的關(guān)系一般經(jīng)歷三個(gè)階段：首先是模仿關(guān)系階段，人工智能首先基于對(duì)人的模仿，使機(jī)器初步具有人的智能；二是合作關(guān)系階段，人工智能協(xié)助人類完成大量的工作，體現(xiàn)出人工智能強(qiáng)大的利人性；三是競(jìng)爭(zhēng)關(guān)系（取代關(guān)系） 甚至是僭越關(guān)系階段，是人工智能大規(guī)模廣泛應(yīng)用情況下出現(xiàn)人工智能與人之間的依賴、競(jìng)爭(zhēng)、控制等復(fù)雜的關(guān)系情況。

人工智能在大規(guī)模應(yīng)用后，潛在的風(fēng)險(xiǎn)性主要有以下幾種表現(xiàn)形式：一是人工智能技術(shù)的發(fā)展將（至少暫時(shí)性地） 導(dǎo)致未來(lái)失業(yè)率的大幅度提升。現(xiàn)代工業(yè)中，弱人工智能技術(shù)已經(jīng)能夠替代人類，從事一般性的體力勞動(dòng)生產(chǎn)，未來(lái)人類的部分腦力勞動(dòng)也必將被人工智能技術(shù)所取代。因此，對(duì)未來(lái)人類可能面臨巨大失業(yè)風(fēng)險(xiǎn)的擔(dān)憂不無(wú)道理。二是人工智能的發(fā)展使人類遺忘人工智能技術(shù)。也就是說(shuō)，人類將越來(lái)越依賴機(jī)器的“智能性”，而忽視其“人工性”，這將導(dǎo)致人類與機(jī)器的關(guān)系轉(zhuǎn)換成人類與“類人”的關(guān)系，人類很可能對(duì)機(jī)器產(chǎn)生類人情感，甚至產(chǎn)生類人的依賴感。一旦人類將機(jī)器視為同類，必然帶來(lái)相應(yīng)的倫理問(wèn)題。如性愛(ài)機(jī)器人如果大規(guī)模應(yīng)用，將使婚姻生育等問(wèn)題變得復(fù)雜，人的兩性關(guān)系以及很多倫理問(wèn)題都會(huì)相應(yīng)而來(lái)。三是未來(lái)機(jī)器人不僅具備類人思想，還可能具備類人的形態(tài)，人類在與機(jī)器人的日常交互中，如果將機(jī)器人視作同類，機(jī)器人能否獲得與人類等同的合法地位，人與機(jī)器人之間的關(guān)系如何界定，這也是復(fù)雜的問(wèn)題。以人工智能技術(shù)為核心的機(jī)器（至少部分性地） 超越人腦，存在威脅人類主體性地位的可能。依托強(qiáng)人工智能技術(shù)的機(jī)器一旦具備甚至超越人類智慧，機(jī)器很可能反過(guò)來(lái)支配人類，這將對(duì)人類存在性（主體性） 造成巨大的威脅。

當(dāng)然，上面都是人工智能作為它者的存在與人之間的關(guān)系的風(fēng)險(xiǎn)。但還有更復(fù)雜的情況，2017年3月28日，特斯拉創(chuàng)始人馬斯克成立公司致力于研究 “神經(jīng)織網(wǎng)”技術(shù)，將微小腦電極植入人腦，直接上傳和下載想法。在此之前，后現(xiàn)代哲學(xué)家哈拉維提出賽博格的概念，是人與機(jī)器的雜合。這種以智能植入方式，將人與機(jī)器聯(lián)機(jī)，人與機(jī)器的邊界何在？對(duì)人類未來(lái)的影響是積極的還是消極的？人對(duì)未來(lái)終極問(wèn)題的思考對(duì)人類的心靈造成巨大的困擾，這種主觀認(rèn)知性的心理層面的風(fēng)險(xiǎn)并不弱于客觀現(xiàn)實(shí)性的物理層面。

二、人工智能風(fēng)險(xiǎn)形成機(jī)制分析：一種現(xiàn)象學(xué)的視角

人工智能風(fēng)險(xiǎn)目前更多地體現(xiàn)在主觀認(rèn)知性的心理層面，是人們對(duì)人工智能發(fā)展的一種擔(dān)憂，哲學(xué)的思考大有用武之地，其中現(xiàn)象學(xué)更具解釋力。

（一） 從外在模仿到內(nèi)在超越：人工智能技術(shù)的放大效應(yīng)

人工智能多是以獨(dú)立的形式對(duì)人的模仿甚至超越?！靶袨榈淖詣?dòng)化（自主化），是人工智能與人類其他早期科技最大的不同。人工智能系統(tǒng)已經(jīng)可以在不需要人類控制或者監(jiān)督的情況下，自動(dòng)駕駛汽車或者起草一份投資組合協(xié)議?！盿馬修·U.謝勒：《監(jiān)管人工智能系統(tǒng)：風(fēng)險(xiǎn)、挑戰(zhàn)、能力和策略》，曹建峰、李金磊譯，載《信息安全與信息保密》2017年第3期。與一般技術(shù)一樣，人工智能技術(shù)之于人有兩個(gè)層面：一是機(jī)器操作代替人的勞動(dòng)，使人從繁重而復(fù)雜的勞動(dòng)生產(chǎn)中解放出來(lái)，讓人獲得更多的自由空間。二是人工智能取代人類智能，人類受控于機(jī)器，人類主體的存在性地位喪失。技術(shù)發(fā)展呈現(xiàn)完全相反的兩種進(jìn)路，這是由技術(shù)二律背反的特性決定的，技術(shù)具有“物質(zhì)性與非物質(zhì)性、自然性與反自然性、目的性與反目的性、確定性與非確定性、連續(xù)性與非連續(xù)性、自組織與他組織”b王治東：《相反與相成：從二律背反看技術(shù)特性》，載《科學(xué)技術(shù)與辯證法》2007年第 5期。等特性。

技術(shù)還有一個(gè)內(nèi)在屬性就是具有放大性功能。技術(shù)放大功能是技術(shù)內(nèi)在結(jié)構(gòu)的屬性，是技術(shù)模仿人類功能并對(duì)人類能力的放大，它完全內(nèi)置于技術(shù)結(jié)構(gòu)中?！叭恕夹g(shù)—世界”的結(jié)構(gòu)模型是現(xiàn)象學(xué)的基本模型，表達(dá)了人是通過(guò)技術(shù)來(lái)感知世界的，人與世界的關(guān)系具有了技術(shù)的中介性。例如，在梅洛—龐蒂所舉的盲人與手杖的例子中，盲人對(duì)方位的感知是通過(guò)手杖獲得的，手杖成為連接盲人與空間方位的轉(zhuǎn)換中介，擴(kuò)展了盲人的空間感。在這里，技術(shù)通過(guò)轉(zhuǎn)化人類的知覺(jué)，擴(kuò)展了人類的身體能力。“只有通過(guò)使用技術(shù)，我的身體能力才能得到提升和放大。這種提升和放大是通過(guò)距離、速度，或者其他任何借助技術(shù)改變我的能力的方式實(shí)現(xiàn)的?！眂唐·伊德：《技術(shù)與生活世界——從伊甸園到塵世》，韓連慶譯，北京：北京大學(xué)出版社2012年版，第75頁(yè)。人類對(duì)技術(shù)無(wú)限放大性的追求也是現(xiàn)代技術(shù)發(fā)展?jié)撛诘膭?dòng)力，也是技術(shù)風(fēng)險(xiǎn)生成的根源。而技術(shù)的放大效應(yīng)既是內(nèi)置于技術(shù)內(nèi)核的結(jié)構(gòu)性特征，也是人類目的性的現(xiàn)實(shí)要求。在目的性結(jié)構(gòu)中，技術(shù)是表達(dá)人的意愿的載體，人工智能技術(shù)就是放大人類的意愿，在某種程度上可以代替人的意愿。當(dāng)一個(gè)中介完全把人的意愿變成中介的意愿時(shí)，人工智能的本質(zhì)得以實(shí)現(xiàn)，技術(shù)的放大效應(yīng)達(dá)到最大化。但人的意愿可以被機(jī)器表達(dá)時(shí)，人的可替代性也逐步完成，人也失去了自我。技術(shù)便有可能朝向背離人類預(yù)期的方向發(fā)展，技術(shù)風(fēng)險(xiǎn)由此生成。

在前人工智能技術(shù)時(shí)代，技術(shù)只是對(duì)人類“外在能力”的模仿與擴(kuò)展，即使像計(jì)算機(jī)、通信網(wǎng)絡(luò)等復(fù)雜技術(shù)也是以一種復(fù)合的方式擴(kuò)展人類的各項(xiàng)技能。但人工智能技術(shù)卻內(nèi)嵌了對(duì)人類“內(nèi)在能力”的模仿，對(duì)人腦智慧的模擬。這一技術(shù)特性使人工智能技術(shù)具備了挑戰(zhàn)人類智慧的能力。千百年來(lái)，人類自詡因具備“非凡的”智慧而凌駕于世間萬(wàn)物，人的存在地位被認(rèn)為具有優(yōu)先性?？档隆叭藶樽匀唤缌⒎ā钡恼摂?，更是把人的主體性地位推到了極致。一旦人工智能技術(shù)被無(wú)限發(fā)展、放大，具備甚至超越人腦機(jī)能，人類對(duì)技術(shù)的“統(tǒng)治權(quán)”將喪失，人類的存在性地位也將被推翻。盡管就目前而言，人類對(duì)人工智能技術(shù)的研發(fā)仍處于較低水平，但人工智能表現(xiàn)出的“類人性”特征，已經(jīng)不似過(guò)去技術(shù)對(duì)人腦機(jī)制的單向度模擬。特別地，AlphaGo在面對(duì)突發(fā)狀況時(shí)表現(xiàn)出的“隨機(jī)應(yīng)對(duì)”能力，遠(yuǎn)遠(yuǎn)超出開(kāi)賽前人類的預(yù)估。我們似乎看到人工智能正在從對(duì)人類“智”的超越，轉(zhuǎn)向?qū)Α盎邸钡哪M，這種風(fēng)險(xiǎn)越來(lái)越大。

（二） 從它者性到自主性的循環(huán)：人工智能技術(shù)矛盾性的存在

早期技術(shù)就是作為一種工具性的存在，也是一種它者的存在。但發(fā)展技術(shù)的潛在動(dòng)力就是不斷讓技術(shù)自動(dòng)化程度越來(lái)越高，越來(lái)越自主。技術(shù)的自主性發(fā)展表現(xiàn)為，“技術(shù)追求自身的軌道，越來(lái)越獨(dú)立于人類，這意味著人類參與技術(shù)性生產(chǎn)活動(dòng)越來(lái)越少?！盿Jacques Ellul， The Technological Society，New York：Alfred A. Knopf，1964，p.134.人工智能技術(shù)的自主化程度取決于人工智能的“類人性”。也就是說(shuō)，人工智能越趨近于人類智能，技術(shù)的自主性也就越可能實(shí)現(xiàn)。就人類預(yù)期而言，人工智能技術(shù)的發(fā)展是自主性不斷提升的過(guò)程，也是使更多的人從日常勞作中解脫出來(lái)，獲得更多自由的過(guò)程。但當(dāng)技術(shù)發(fā)展到具有人一樣的智能時(shí)，技術(shù)在新的起點(diǎn)上成為一個(gè)它者。因?yàn)榧夹g(shù)發(fā)展的不確定性使技術(shù)既有“利人性”也有“反人性”。這兩種看似相反的特性是一個(gè)問(wèn)題的兩個(gè)方面，智能技術(shù)將這兩種特性又進(jìn)一步放大。人工智能技術(shù)的“利人性”是技術(shù)自主性的彰顯。但也正是基于人工智能的“類人性”特點(diǎn)，使達(dá)到自主化奇點(diǎn)的技術(shù)可能出現(xiàn)“反人性”傾向。

技術(shù)的“反人性”表現(xiàn)為它者性的生成，技術(shù)它者性是技術(shù)發(fā)展違背人類預(yù)期的結(jié)果。理論上，當(dāng)技術(shù)成為一個(gè)完全自主、獨(dú)立的個(gè)體時(shí)，它將不依附于人且存在于人類世界之外，技術(shù)相對(duì)地成為它者。在伊德看來(lái)，“我們與技術(shù)的關(guān)系并不都是指示性的；我們也可以（同樣是主動(dòng)的） 將技術(shù)作為準(zhǔn)對(duì)象，甚至是準(zhǔn)它者”b唐·伊德：《讓事物“說(shuō)話”：后現(xiàn)象學(xué)與技術(shù)科學(xué)》，韓連慶譯，北京：北京大學(xué)出版社2008年版，第57頁(yè)。。技術(shù)的（準(zhǔn)） 它者性可以表示為：人類→ 技術(shù)（世界）?！八摺币辉~本身暗含著人類對(duì)技術(shù)完全對(duì)象化的擔(dān)憂，這種擔(dān)憂在海德格爾看來(lái)由技術(shù)的“集置”特性決定，“集置（Ge-stell） 意味著那種擺置（Stellen） 的聚集者，這種擺置擺置著人，也即促逼著人，使人以訂造方式把現(xiàn)實(shí)當(dāng)作持存物來(lái)解蔽”a李霞玲：《海德格爾存在論科學(xué)技術(shù)思想研究》，武漢：武漢大學(xué)出版社2012年版，第82頁(yè)。。事實(shí)上，人工智能技術(shù)的發(fā)展趨勢(shì)，就是在不斷提高技術(shù)較之于人的它者地位。

在實(shí)際應(yīng)用中，人工智能技術(shù)的“反人性”傾向會(huì)以它者的形式呈現(xiàn)?！凹夹g(shù)還是使事物呈現(xiàn)的手段。在故障情形中發(fā)生的負(fù)面特性又恢復(fù)了。當(dāng)具身處境中的技術(shù)出現(xiàn)故障了，或者當(dāng)詮釋學(xué)處境中的儀器失效了，留下來(lái)的就是一個(gè)強(qiáng)迫接受的、并因此是負(fù)面派生的對(duì)象?！眀唐·伊德：《技術(shù)與生活世界——從伊甸園到塵世》，第99頁(yè)。在伊德的技術(shù)體系中，尤其在具身關(guān)系和詮釋學(xué)關(guān)系中，技術(shù)（科學(xué)儀器） 通過(guò)故障或失效導(dǎo)致技術(shù)它者的呈現(xiàn)。技術(shù)在承載人與世界的關(guān)聯(lián)中，本應(yīng)該抽身隱去，但卻以故障或失效的方式顯現(xiàn)自身，重新回到人類知覺(jué)當(dāng)中，必然阻斷人與世界的順暢聯(lián)系。本來(lái)通過(guò)技術(shù)實(shí)現(xiàn)的人對(duì)世界切近的感知，轉(zhuǎn)換成人對(duì)（失效了的） 技術(shù)的感知。這時(shí)，（失效了的） 技術(shù)的它者性僅僅表現(xiàn)為感知的對(duì)象性。同樣，人工智能技術(shù)同樣也存在技術(shù)失效的可能，但這種失效不是以故障而是以一種脫離人類掌控的方式成為它者。人工智能技術(shù)的失效不僅會(huì)轉(zhuǎn)換人類知覺(jué)，更為嚴(yán)重的是，一旦技術(shù)在現(xiàn)實(shí)中擺脫人類控制，自主化進(jìn)程將以故障的方式偏離預(yù)定軌道繼續(xù)運(yùn)行，技術(shù)的“反人性”開(kāi)始顯現(xiàn)，技術(shù)它者由此形成，技術(shù)的自主性成為它者的“幫兇”。人工智能技術(shù)的風(fēng)險(xiǎn)在于經(jīng)歷了“它者性—自主性—它者性”過(guò)程之后，這種風(fēng)險(xiǎn)結(jié)構(gòu)被進(jìn)一步放大。

現(xiàn)實(shí)中需要不斷通過(guò)技術(shù)發(fā)明和技術(shù)改造提高人工智能技術(shù)的自主性，但又不得不防范人工智能技術(shù)的它者性。由此，人工智能技術(shù)自主性和它者性便成為技術(shù)發(fā)展過(guò)程中的一種沖突。

三、“人類”與“類人”界限：人工智能技術(shù)的禁區(qū)何在？

從概念可以看出“人工智能”由兩部分組成：一是人工，二是智能。相對(duì)于人工智能，人在某種程度上就是一種天然智能?！皽?zhǔn)確定義人工智能，困難不在于定義‘人工’（artifiality），而在于‘智能’（intelligence） 一詞在概念上的模糊性。因?yàn)槿祟愂堑玫綇V泛承認(rèn)的擁有智能的唯一實(shí)體，所以任何關(guān)于智能的定義都毫無(wú)疑問(wèn)要跟人類的特征相關(guān)。”c馬修·U.謝勒：《監(jiān)管人工智能系統(tǒng)：風(fēng)險(xiǎn)、挑戰(zhàn)、能力和策略》。人與人工智能之間的界限有兩個(gè)維度的比較很重要：第一個(gè)維度是知、情、意、行四個(gè)基本特征；第二個(gè)維度是人的自然屬性和社會(huì)屬性兩個(gè)方 面。

（一） 關(guān)于知、情、意、行的邊界問(wèn)題

人是知、情、意、行的統(tǒng)一。隨著人工智能技術(shù)的不斷發(fā)展，人工智能將趨近于人類智能，承載人工智能技術(shù)的機(jī)器也將具有更多“類人性”。這種“類人性”不僅表現(xiàn)為機(jī)器對(duì)人類外在形態(tài)的模仿，更表現(xiàn)在機(jī)器對(duì)人類“知、情、意、行”的內(nèi)在模擬。智能首先要學(xué)會(huì)語(yǔ)義分析，能夠讀懂指令，如2016年4月刷屏爆紅的“賢二機(jī)器僧”由北京龍泉寺會(huì)同人工智能專家共同打造，在最初階段有效回答問(wèn)題率20%—30%，但人工智能強(qiáng)大的學(xué)習(xí)能力是一般計(jì)算機(jī)系統(tǒng)無(wú)法相比的，人工智能具有學(xué)習(xí)能力，逐漸增加的信息變成知識(shí)，繼而形成知識(shí)庫(kù)，通過(guò)知識(shí)庫(kù)形成機(jī)器人大腦，進(jìn)而形成能夠與人進(jìn)行有效交流的智能系統(tǒng)，隨著訪問(wèn)量的增加，賢二機(jī)器僧的數(shù)據(jù)庫(kù)相應(yīng)增加，有效回答率達(dá)到80%左右。這樣與人交流的人工智能，讓人感覺(jué)不到是與一臺(tái)機(jī)器在交流。

當(dāng)然，人工智能也是有禁區(qū)的，這種禁區(qū)，首先來(lái)自技術(shù)不能逾越的禁區(qū)。當(dāng)前，可計(jì)算性是人的邏輯判斷部分，而情感支配的思維是無(wú)法被計(jì)算的，因此人工智能對(duì)個(gè)體人的超越還是存在困難的。但如果像馬斯克公司一樣，通過(guò)人工智能去解讀人腦的思維，上傳和下載功能能夠?qū)崿F(xiàn)，人工智能能夠讀懂人，這樣的沖擊風(fēng)險(xiǎn)對(duì)人而言，其風(fēng)險(xiǎn)具有更大的加強(qiáng)性。當(dāng)然能夠解讀人類思維也僅僅是一種識(shí)別和解讀，人與人工智能之間還有一道重要的區(qū)別，就是自我意識(shí)的區(qū)別?！耙粋€(gè)種的全部特征，種的類特征就在于生命活動(dòng)的性質(zhì)，而人的類特征就是自由有意識(shí)的活動(dòng)。”a《馬克思恩格斯選集》 （第1卷），北京：人民出版社1995年版，第46頁(yè)。人是有意識(shí)的存在，意識(shí)總是關(guān)于某物的意識(shí)，同時(shí)也是作為承載者關(guān)于“我”的意識(shí)，意向性不僅指向作為對(duì)象的某物，同時(shí)也自反式地指向自身。只有在行動(dòng)之前首先意識(shí)到處境中的對(duì)象與“我”不同，人類活動(dòng)才具有目的性，人類才能“有目的”地進(jìn)行物質(zhì)創(chuàng)造和生產(chǎn)勞動(dòng)。而人的目的性或者說(shuō)人類需求是社會(huì)進(jìn)步發(fā)展的最大動(dòng)力。人工智能如果有了“我”的概念和意識(shí)，不僅是對(duì)人的模擬，而且具有了人的核心內(nèi)核。在這個(gè)層面而言，人工智能就在個(gè)體上可以成為另一個(gè)物種的“人”。

當(dāng)然，如果人工智能技術(shù)一旦具備類人意識(shí)，它將首先關(guān)注到自身的價(jià)值意義，即存在的合法性。而作為對(duì)象的人類，將淪落為技術(shù)“眼中”的它者。具備類人意識(shí)的人工智能對(duì)人類智能的超越，將對(duì)人類生存構(gòu)成實(shí)質(zhì)性威脅，到那時(shí)，人類生存與技術(shù)生存真的會(huì)互相威脅，彼此競(jìng)爭(zhēng)。

（二） 關(guān)于自然屬性和社會(huì)屬性問(wèn)題

任何技術(shù)都是“自然性和反自然性”的統(tǒng)一?！凹夹g(shù)作為人本質(zhì)力量的對(duì)象化有兩重屬性：一是技術(shù)的自然屬性，二是技術(shù)的社會(huì)屬性。自然屬性是技術(shù)能夠產(chǎn)生和存在的內(nèi)在基礎(chǔ)，即技術(shù)要符合自然規(guī)律；技術(shù)的社會(huì)屬性是指技術(shù)的人性方面，即技術(shù)要符合社會(huì)規(guī)律?！盿王治東：《相反與相成：從二律背反看技術(shù)的特性》。人工智能技術(shù)也是如此，“人工”是一個(gè)前置性概念?！爸悄堋笔菍?duì)人的模仿，在人工智能設(shè)定的模仿程序中很大程度上也有社會(huì)屬性，如軍用機(jī)器人的戰(zhàn)爭(zhēng)屬性，性愛(ài)機(jī)器人的性別屬性，但這種社會(huì)性是單一的屬性。恰恰社會(huì)屬性是人區(qū)別于人工智能的核心所在。按照馬克思對(duì)人本質(zhì)是類本質(zhì)和社會(huì)本質(zhì)的論述，起碼目前人工智能還不能叫板人本身。“人的本質(zhì)并不是單個(gè)個(gè)人所固有的抽象物，在其現(xiàn)實(shí)性上，他是一切社會(huì)關(guān)系的總和?！眀《馬克思恩格斯選集》 （第1卷），第56頁(yè)。人工智能目前是以個(gè)體性或者是整體功能性而存在的，不可能具有社會(huì)性存在，也就意味著人工智能不能作為一個(gè)物種整體具有社會(huì)性，而人恰恰具有社會(huì)關(guān)系性，而這種社會(huì)關(guān)系是人之為人的根本性存在?！叭说谋举|(zhì)是人的真正社會(huì)關(guān)系，人在積極實(shí)現(xiàn)自己的本質(zhì)的過(guò)程中創(chuàng)造、生產(chǎn)人的社會(huì)關(guān)系、社會(huì)本質(zhì)?！眂《馬克思恩格斯全集》 （第42卷），北京：人民出版社1979年版，第24頁(yè)。無(wú)論人工智能怎么在智能上超越人類，但根植于物種的社會(huì)性不是通過(guò)可計(jì)算獲得的。因此這也是人工智能的禁區(qū)。如果人類賦予人工智能以社會(huì)關(guān)系構(gòu)架，人工智能之間能夠做聯(lián)合，能夠選擇意識(shí)形態(tài)，那人類危機(jī)也真的不遠(yuǎn)了。但個(gè)人認(rèn)為，作為人的整體社會(huì)建構(gòu)的文化以及關(guān)系，任何人工智能都是無(wú)法取代的。

四、結(jié)語(yǔ)

科學(xué)技術(shù)的進(jìn)步與發(fā)展是歷史必然，我們終究無(wú)法預(yù)測(cè)人工智能技術(shù)究竟能夠取得多大的突破，但只要人工智能無(wú)法意識(shí)到“自我”的存在，它就只能作為工具為人所用，被人所控。關(guān)乎人類問(wèn)題的關(guān)鍵從來(lái)也必須從人類自身出發(fā)才可能找到解答，無(wú)論人工智能技術(shù)如何發(fā)展，只要人類保持足夠的理性，為人工智能技術(shù)劃定禁區(qū)，人類的存在性地位就不可能被超越。盡管人工智能大規(guī)模發(fā)展會(huì)在某種程度上代替人類，讓某些人失業(yè)，讓社會(huì)結(jié)構(gòu)發(fā)生改變，但人工智能也能創(chuàng)造出新的工作平臺(tái)和領(lǐng)域，讓人在更高的平臺(tái)上實(shí)現(xiàn)人的創(chuàng)造性本質(zhì)。

當(dāng)然，有一點(diǎn)需要特別引起注意，對(duì)人工智能的應(yīng)用的限制和立法要提前進(jìn)入考量范疇，否則如同其他技術(shù)一樣，如果人工智能技術(shù)被別有用心的人濫用，產(chǎn)生的社會(huì)問(wèn)題肯定會(huì)超過(guò)一般技術(shù)的濫用，這一點(diǎn)法學(xué)和社會(huì)學(xué)會(huì)大有用武之地。

B80

A

2095-0047（2017）05-0031-11

王治東，東華大學(xué)馬克思主義學(xué)院教 授。

本文為國(guó)家社科基金項(xiàng)目“資本邏輯視域下的技術(shù)正義”（課題編號(hào)：15BZX034）、東華大學(xué)預(yù)研究重點(diǎn)課題“元哲學(xué)視角下人工自然哲學(xué)研究”的階段性成果。

（責(zé)任編輯：肖志珂）