王湘蓉 鄧曉婷

熟悉的微信鈴聲響起，當(dāng)手機(jī)另一端的“親友”，一臉焦急地向我們提出金錢(qián)需求時(shí)，你會(huì)選擇相信還是質(zhì)疑？近日，全國(guó)多起AI詐騙利用相關(guān)人工智能技術(shù)進(jìn)行換聲、換臉，引起社會(huì)高度關(guān)注。再試想，若某一天我們逝去的親人通過(guò)AI“復(fù)活”，人類(lèi)社會(huì)所建構(gòu)的倫理次序?qū)⑷绾螒?yīng)對(duì)？當(dāng)“AI奶奶”和父母意見(jiàn)相左，幼小的孩童又該如何選擇，我們對(duì)生命、對(duì)死亡的認(rèn)知是否行將顛覆……

在與中國(guó)科學(xué)院自動(dòng)化研究所類(lèi)腦智能實(shí)驗(yàn)室副主任、人工智能倫理與治理研究中心主任曾毅研究員的交談中，他對(duì)當(dāng)下的科技倫理問(wèn)題深表?yè)?dān)憂：“人工智能的發(fā)展不能沒(méi)有韁繩?？茖W(xué)不能被資本牽著鼻子走?！边|遠(yuǎn)的宇宙間，我們始終要珍視人類(lèi)文明曾生發(fā)、建構(gòu)的理智與情感，也要時(shí)時(shí)刻刻警惕，別讓科技放大我們的傲慢與偏見(jiàn)。

人工智能從來(lái)不是中立的

《教育家》：在人工智能不斷發(fā)展的當(dāng)下，也暴露出很多科技倫理問(wèn)題。科技求真與人文求善之間是否存在某種沖突？有人認(rèn)為人工智能技術(shù)是中立的，取決于使用者怎么用它，您如何看待這種觀點(diǎn)？

曾毅：2018年起，中國(guó)科學(xué)院大學(xué)開(kāi)設(shè)了《人工智能哲學(xué)與倫理》課程，這門(mén)課程有80%的學(xué)生來(lái)自信息科學(xué)、計(jì)算機(jī)人工智能、電子信息、集成電路等工科專(zhuān)業(yè)，20%的學(xué)生來(lái)自人文社科專(zhuān)業(yè)。

在授課過(guò)程中我們發(fā)現(xiàn)，具有人文學(xué)科背景和理工科背景的學(xué)生，在面對(duì)相關(guān)問(wèn)題時(shí)，沖突是明顯的。前者把人工智能作為一種推進(jìn)社會(huì)發(fā)展、輔助社會(huì)治理的工具，通常會(huì)將其和人生的切要問(wèn)題結(jié)合起來(lái)思考；后者則普遍認(rèn)為，科學(xué)技術(shù)要發(fā)展，就應(yīng)該在可能性的邊緣無(wú)限試探，他們常常有一個(gè)疑問(wèn)：技術(shù)能做到的事情為什么不去做？

但我們必須清楚，人工智能從來(lái)不是中立的，它發(fā)展的基礎(chǔ)是數(shù)據(jù)、算法，人類(lèi)社會(huì)產(chǎn)生的數(shù)據(jù)隱含了社會(huì)的偏見(jiàn)，人工智能會(huì)將這種偏見(jiàn)放大，甚至使用這種偏見(jiàn)去輸出價(jià)值觀念，以此分析、解決問(wèn)題。我們無(wú)法確定，人工智能將從社會(huì)中收集什么樣的數(shù)據(jù)。我們從小就被教育應(yīng)該有道德，應(yīng)該樹(shù)立公平意識(shí)，全社會(huì)都知道這些規(guī)則，但實(shí)際上我們做出的很多選擇、決定都帶有偏見(jiàn)和歧視。

比如現(xiàn)在大熱的ChatGPT，它是一個(gè)生成式的人工智能模型，假如你問(wèn)它中國(guó)最好的10所大學(xué)是哪10所？ChatGPT會(huì)給出一個(gè)絕大多數(shù)人認(rèn)為好的答案，這個(gè)回答比較絕對(duì)，具有統(tǒng)計(jì)顯著性，顯著性背后所隱含的就是偏見(jiàn)。人工智能是一個(gè)看似智能的信息處理工具，它不是一個(gè)真正能理解世界的責(zé)任道德主體。我們不能只是讓科研工作者和工程師去左右人工智能的發(fā)展，這非常危險(xiǎn)。

我認(rèn)為人類(lèi)和人工智能應(yīng)該和諧共生，并通過(guò)技術(shù)彌合鴻溝、消除誤解、擴(kuò)大共識(shí)。因此，2021年，我參與起草和修訂聯(lián)合國(guó)教科文組織的《人工智能倫理問(wèn)題建議書(shū)》時(shí)，寫(xiě)下了一個(gè)概念“l(fā)ive in harmony”和諧共生，后來(lái)，經(jīng)過(guò)193名成員國(guó)代表磋商，達(dá)成了“l(fā)ive in peacefully”和平共生的共識(shí)。和平就是不要掐架，是一種底線，遠(yuǎn)不及“和諧共生”當(dāng)中含有的和而不同、優(yōu)化發(fā)展的意義。

科學(xué)不能被資本俘獲

《教育家》：一旦有新的人工智能概念或產(chǎn)品問(wèn)世，就會(huì)火速成為社會(huì)熱點(diǎn)。對(duì)于人工智能，我們發(fā)現(xiàn)當(dāng)下大家的認(rèn)知多來(lái)源于碎片化閱讀，您認(rèn)為我們應(yīng)該如何正確理解人工智能？

曾毅：我覺(jué)得現(xiàn)在社會(huì)有一種很可怕的現(xiàn)象，就是科學(xué)被資本牽著鼻子走，若是科研工作者不以科學(xué)的態(tài)度講話，各種概念的定義會(huì)變得極其混亂。從科學(xué)的角度來(lái)看，近年來(lái)“數(shù)字孿生”“元宇宙”等概念，非常不嚴(yán)謹(jǐn)。我們很難從一篇微信文章中獲得真正的科學(xué)知識(shí)，我經(jīng)常在一天之內(nèi)看到諸如：《人工智能又有重大突破》《人工智能又有革命性顛覆》等吸引眼球的標(biāo)題，科學(xué)研究怎么可能一天突破好幾次？

我們不能讓科學(xué)甚或教育被資本俘獲?，F(xiàn)在的家長(zhǎng)特別焦慮，總是在想人工智能時(shí)代，孩子應(yīng)該學(xué)點(diǎn)什么，以后要做什么？我非常反對(duì)一個(gè)觀點(diǎn)叫作“讓人工智能無(wú)處不在”，我很贊同《城里——關(guān)于城市夢(mèng)想的敘述》一書(shū)中談到的內(nèi)容，作者舒可文老師說(shuō)城市一半是野生，一半是規(guī)劃。在社會(huì)還沒(méi)有城市的時(shí)候，人與人的交流和協(xié)作都是衍生出來(lái)的。如果人工智能什么都能代替，我們的社會(huì)將變得機(jī)械化。那樣的社會(huì)是我們想要的嗎？所以我們一定要留著野生的部分，給人類(lèi)更多自主的發(fā)展空間。

現(xiàn)在很多人不管有無(wú)必要，都認(rèn)為要用人工智能去替代人類(lèi)。前段時(shí)間有人找到我，希望能夠通過(guò)人工智能技術(shù)，為逝世的人打造虛擬形象，做電子家族。這個(gè)項(xiàng)目從技術(shù)上來(lái)講完全可以實(shí)現(xiàn)，但我絕不能做。試想：如果有一天家長(zhǎng)帶著孩子來(lái)看他的“AI奶奶”，孩子來(lái)了和奶奶說(shuō)，您跟我爸說(shuō)多給我點(diǎn)零花錢(qián)，平時(shí)少罵我行不行？奶奶把他爸爸叫來(lái)了，告訴他孩子的想法，爸爸是聽(tīng)還是不聽(tīng)？到時(shí)候家長(zhǎng)會(huì)和孩子說(shuō)，這不是真的奶奶，她說(shuō)話不算數(shù)……這之中就會(huì)產(chǎn)生特別多的倫理問(wèn)題。我們甚至?xí)?duì)虛擬人產(chǎn)生依賴(lài)，很容易將這種相處模式發(fā)展成戒不掉的癮。所以要適度使用人工智能，要確保人類(lèi)的正常發(fā)展。

《教育家》：有些觀點(diǎn)認(rèn)為要給人工智能留有一定的發(fā)展空間，您如何看待？我們應(yīng)該如何應(yīng)對(duì)人工智能帶來(lái)的潛在風(fēng)險(xiǎn)？

曾毅：我覺(jué)得人工智能對(duì)于下一代，包括這一代的家長(zhǎng)，都產(chǎn)生了一定的負(fù)面影響，很大一個(gè)原因是人工智能的發(fā)展沒(méi)有韁繩。《人類(lèi)簡(jiǎn)史》作者尤瓦爾·赫拉利曾說(shuō)，人工智能根本不需要意識(shí)，不需要真正理解人類(lèi)社會(huì)，只要發(fā)現(xiàn)人類(lèi)社會(huì)的漏洞、弱點(diǎn)并加以利用，就可以摧毀人類(lèi)社會(huì)，而人類(lèi)可能還不自知。

潛在風(fēng)險(xiǎn)變成實(shí)存風(fēng)險(xiǎn)也許只需要一兩個(gè)月的時(shí)間，但我們制定相關(guān)的倫理規(guī)范、規(guī)章制度，從征求意見(jiàn)到正式施行再到生效，則需要更長(zhǎng)的時(shí)間。所以為何要提前籌劃，是為了能夠在實(shí)存風(fēng)險(xiǎn)來(lái)臨時(shí)有效應(yīng)對(duì)。所謂留有發(fā)展空間，是給紅線留還是給灰線留？給灰線留可以，灰線指可以有討論余地，目前還沒(méi)有給人類(lèi)帶來(lái)威脅的部分；但紅線堅(jiān)決不能踏，比如生物特征、人臉信息等一旦丟失，終身都有風(fēng)險(xiǎn)。

人工智能的發(fā)展給人類(lèi)帶來(lái)的生存風(fēng)險(xiǎn)目前是無(wú)解的。2018年，馬斯克聯(lián)合劍橋大學(xué)對(duì)通用人工智能進(jìn)行了立項(xiàng)研究，從不同途徑預(yù)測(cè)了人工智能的潛在風(fēng)險(xiǎn)，證明了在現(xiàn)有的馮·諾依曼體系結(jié)構(gòu)下，人工智能的發(fā)展是不可控的，除非顛覆該體系結(jié)構(gòu)，沿著新的計(jì)算體系結(jié)構(gòu)發(fā)展人工智能。但風(fēng)險(xiǎn)什么時(shí)候到來(lái)？有可能是5—10年以后，也有可能是100年以后，還有可能是明天、現(xiàn)在。就算我們從現(xiàn)在開(kāi)始準(zhǔn)備應(yīng)對(duì)方案，待風(fēng)險(xiǎn)真正來(lái)臨時(shí)不見(jiàn)得能準(zhǔn)備好。

人工智能不是為了代替人，“成為”人

《教育家》：基于目前人工智能的發(fā)展，以及社會(huì)對(duì)人工智能的整體認(rèn)知，您認(rèn)為我們要如何更好地開(kāi)展科技倫理教育，在教育各個(gè)階段，孩子們應(yīng)該學(xué)什么？

曾毅：國(guó)內(nèi)外都有專(zhuān)門(mén)寫(xiě)給幼兒園小朋友的人工智能教材，我覺(jué)得這種超前教育沒(méi)有必要。幼兒園的孩子還處在接受知識(shí)的階段，他們辯證思考的能力相對(duì)較弱。而目前人工智能正處于發(fā)展階段，還未形成成熟的知識(shí)體系?，F(xiàn)在只有一些相對(duì)模糊的定義，但定義不是知識(shí)，原來(lái)言之鑿鑿的東西，10年以后可能無(wú)人問(wèn)津。

因此，我非常反對(duì)人工智能相關(guān)課程直接進(jìn)入中小學(xué)。因?yàn)槟壳霸谌斯ぶ悄艿闹R(shí)傳遞中，人們常常不加以區(qū)分科學(xué)和技術(shù)，只是籠統(tǒng)地灌輸給學(xué)生。但技術(shù)層面的變化更新是非?？斓?，恰恰是最容易被代替的部分。在教育過(guò)程中，我們要把科學(xué)和技術(shù)分開(kāi)來(lái)看，屬于科學(xué)的部分要前置到基礎(chǔ)教育，屬于技術(shù)的部分放到大學(xué)去加強(qiáng)。

所以，我認(rèn)為在基礎(chǔ)教育階段，可以讓學(xué)生學(xué)習(xí)心理學(xué)、哲學(xué)、認(rèn)知科學(xué)等方面的知識(shí)，首先讓他們了解人如何為人，提高他們對(duì)事物的辨別能力。到大學(xué)階段除了繼續(xù)加深自己的人文素養(yǎng)外，要去理解技術(shù)和人的融合發(fā)展，了解技術(shù)如何賦能社會(huì)的進(jìn)步，學(xué)習(xí)工程倫理、科技倫理等倫理學(xué)課程。如果未來(lái)打算從事人工智能相關(guān)職業(yè)，還要有跨學(xué)科的背景和大局觀，學(xué)習(xí)人工智能哲學(xué)與倫理相關(guān)的課程，在更高的視野上審視人與人工智能的關(guān)系。

無(wú)論如何，科技的發(fā)展還是要站在人的角度，回到人類(lèi)本身，讓人歸位，去做人應(yīng)該做的事情。人工智能的意義既不是讓人焦慮，也不是為了最終代替人。