劉永謀

AI要向善，從根本上說(shuō)，是使用AI的人類的選擇問題，是人類能不能向善的問題，是能不能為了向善而努力、而付出、而犧牲的問題。

“AI向善”是一個(gè)非常有趣的說(shuō)法，值得認(rèn)真咀嚼。為什么不說(shuō)“讓AI善良”？當(dāng)我們說(shuō)“AI向善”的時(shí)候，意思是AI是個(gè)活物，它有向善的意欲，即“意向性”。當(dāng)然，你可以說(shuō)，我們是在隱喻的意義上來(lái)說(shuō)“AI向善”，并非在絕對(duì)意義上斷定AI是個(gè)活物，更沒有斷定AI是人類意識(shí)層面上的活物。但是，無(wú)論如何，“AI向善”的說(shuō)法暗示AI具有很強(qiáng)的自主性，以至于我們可以說(shuō)“AI想要向善”或者“人類可以引導(dǎo)、規(guī)范或逼迫AI向善”。

AI究竟有沒有自主性？在當(dāng)代技術(shù)哲學(xué)中，技術(shù)自主性是一個(gè)基礎(chǔ)的、爭(zhēng)議性非常大的問題。一般說(shuō)來(lái)，我們可以將各種觀點(diǎn)劃分為兩種，即技術(shù)的工具論和技術(shù)的實(shí)體論。技術(shù)的工具論認(rèn)為，技術(shù)僅僅是一種工具，是實(shí)現(xiàn)目標(biāo)的手段，本身并沒有善惡，所謂技術(shù)的善惡實(shí)際是使用它的人的善惡。比如說(shuō)，一把菜刀，你可以用來(lái)切菜，也可以用來(lái)殺人。菜刀殺人了，你不能怪菜刀。技術(shù)的實(shí)體論認(rèn)為，技術(shù)可不是簡(jiǎn)單的工具，而是負(fù)載著價(jià)值的，也就是說(shuō)它有自主發(fā)展的方向，有自身發(fā)展的方向，最終會(huì)實(shí)現(xiàn)它的目標(biāo)，這是不以人的意志為轉(zhuǎn)移的。比如說(shuō)，很多人認(rèn)為互聯(lián)網(wǎng)天然就是反權(quán)威、去中心的，還有一些人認(rèn)為區(qū)塊鏈必然會(huì)推動(dòng)公開和誠(chéng)信。顯然，“AI向善”的基本立場(chǎng)是技術(shù)的實(shí)體論的。按照這種觀點(diǎn)，AI具有自主性，而既然如此，AI要向善或者向惡，我們?nèi)绾慰赡茏笥宜?、控制它呢?/p>

當(dāng)然，除了這兩種二元對(duì)立的觀點(diǎn)外，有些哲學(xué)家嘗試提出調(diào)和的觀點(diǎn)，比如大技術(shù)哲學(xué)家Andrew Feenberg提出了“技術(shù)設(shè)計(jì)”的觀點(diǎn)，意思是技術(shù)發(fā)展是同時(shí)協(xié)調(diào)技術(shù)要素和社會(huì)要素的結(jié)果。例如，以前的自行車主要是載物載人，要有車筐、有后座，男人都騎著二八自行車，非常結(jié)實(shí);現(xiàn)在的自行車，很多人是用來(lái)鍛煉身體或者遠(yuǎn)足騎行的，所以要很漂亮;還有現(xiàn)在的共享單車，主要是解決從家到地鐵站所謂“最后一公里交通”的問題的，就非常簡(jiǎn)單。這些自行車的技術(shù)要素大同小異，區(qū)別就在于融合的社會(huì)要素不一樣。

我怎么看技術(shù)的自主性的爭(zhēng)論呢？

第一，工具論向?qū)嶓w論的變遷，也就是說(shuō)越來(lái)越多的人從工具論轉(zhuǎn)向?qū)嶓w論，是技術(shù)發(fā)展得越來(lái)越復(fù)雜的結(jié)果。當(dāng)技術(shù)相對(duì)比較簡(jiǎn)單的時(shí)候，人們比較容易相信工具論;而當(dāng)技術(shù)變得越來(lái)越復(fù)雜，一般人難以或者完全理解不了，單個(gè)的人無(wú)法駕馭或操縱復(fù)雜技術(shù)系統(tǒng)的時(shí)候，人們就比較容易相信實(shí)體論。這一點(diǎn)從前面的例子就可見一斑，工具論我們舉菜刀為例，而實(shí)體論我們舉互聯(lián)網(wǎng)、區(qū)塊鏈為例。

第二，技術(shù)的自主性爭(zhēng)論根源于如何理解人與技術(shù)、人與機(jī)器關(guān)系的問題。有人認(rèn)為機(jī)器幫助人類，也有人說(shuō)人機(jī)是對(duì)抗關(guān)系，而現(xiàn)在越來(lái)越多的講人與機(jī)器是協(xié)同進(jìn)化的。人機(jī)協(xié)同進(jìn)化論很有道理，但這是一種“上帝視角”或“宇宙視角”，站在非常超脫的位置看人機(jī)關(guān)系。的確，人與機(jī)器必然是協(xié)同進(jìn)化的，但是協(xié)同進(jìn)化的最終結(jié)果也可能是人類滅絕。有意義、有價(jià)值的是人類視角，也就是說(shuō)在人機(jī)協(xié)同進(jìn)化中人類應(yīng)該如何選擇應(yīng)對(duì)方案，以確保人族福祉。從某種意義上說(shuō)，AI出現(xiàn)讓人類面對(duì)“新無(wú)知之幕”，即不知道人機(jī)協(xié)同進(jìn)化的最終結(jié)果卻要做出選擇。政治哲學(xué)中講的“無(wú)知之幕”，粗略地說(shuō)是有關(guān)國(guó)家如何建構(gòu)的：大家聚在一起商量建成一個(gè)國(guó)家，結(jié)束人與人之間野蠻暴力狀態(tài)，但是每個(gè)人都不知道在建成后的國(guó)家中自己將處于哪一個(gè)階層、哪一種角色，在這種對(duì)未來(lái)無(wú)知的狀態(tài)中討論應(yīng)該如何安排新國(guó)家的社會(huì)制度。你想，若你可能是社會(huì)中最弱勢(shì)群體，你會(huì)不會(huì)給窮人提供必要的制度保障和救濟(jì)措施呢？“新無(wú)知之幕”是一個(gè)隱喻，喻指在盲人摸象中應(yīng)對(duì)未來(lái)與擬主體、能力超強(qiáng)的AI共同的生活。

第三，無(wú)論是工具論、實(shí)體論，還是技術(shù)設(shè)計(jì)論，它們都是哲學(xué)觀念，而并非自然科學(xué)意義上的客觀理論，也就是說(shuō)，你不能說(shuō)在科學(xué)意義上哪一個(gè)對(duì)或哪一個(gè)就錯(cuò)了。哲學(xué)觀念是不能用實(shí)驗(yàn)或觀察來(lái)檢驗(yàn)、證實(shí)或證偽的。因此，我以為，工具論與實(shí)體論的爭(zhēng)論，在實(shí)踐中直接指向的是技術(shù)能不能控制的問題，這個(gè)問題的答案不應(yīng)該從技術(shù)中尋找，它不在于技術(shù)，而在于人類，在于人類的選擇：第一，我們有沒有決心和勇氣控制技術(shù)的發(fā)展;第二，更重要的是，為達(dá)成對(duì)技術(shù)的控制，我們?cè)敢庾龀龊畏N付出甚至犧牲。比如，手機(jī)很好玩，讓人上癮，以至于有人說(shuō)：為什么要找女友找男友呢，難道是手機(jī)不好玩了嗎？你想控制手機(jī)上癮，本質(zhì)上是控制你放縱從手機(jī)上獲得的感官刺激。我的觀點(diǎn)可以稱之為“技術(shù)控制的選擇論”。

因此，AI要向善，從根本上說(shuō)，是使用AI的人類的選擇問題，是人類能不能向善的問題，準(zhǔn)確地說(shuō)，是人類能不能為了向善而努力、而付出、而犧牲的問題。善良從來(lái)都不是一件容易的、好玩的、賞心悅目的事情，所以老話說(shuō)：人善被人欺，馬善被人騎。相反，沉淪卻是一件非常隨性、舒適甚至感覺到“躺贏”的舒服事。想一想開掛打游戲的時(shí)候，你是不是有一種極度舒適的感覺？那時(shí)你想過(guò)沒有，你在做著一件錯(cuò)誤的事情？

現(xiàn)在的問題變成了：人類可不可能向善？如果你相信人性的觀念，即所有的人從根本上都有著同樣的本質(zhì)即人性的話，這個(gè)問題就會(huì)變成“人性可不可能向善”。思想史上，人性善惡的問題，哲學(xué)家們也是爭(zhēng)論不休，莫衷一是。有人說(shuō)人性本善，有人說(shuō)人性本惡，有人說(shuō)人性一半善一半惡。到了后現(xiàn)代主義興起，一些人認(rèn)為根本沒有什么大家都一樣的所謂人性，不管它是善是惡。言下之意，有的人善，有的人惡，有的善多一點(diǎn)，有的惡多一點(diǎn)，有的壞人變好人，有的好人變壞人，不一而足，因此，并沒有人人都適用的辦法來(lái)治理人。

仔細(xì)考察，就會(huì)發(fā)現(xiàn)人性善惡?jiǎn)栴}與人類向善問題是有差別的。你可能是惡的，也可能是善的，但是現(xiàn)在的問題是：你可不可能向善，變得更善良呢？顯然，如果你堅(jiān)持人性不變，這個(gè)問題你就會(huì)給出否定的回答。因此，你想要人性向善，首要的是要相信人性是可以改變的、可以被改造的，顯然某種意義上，就是要相信沒有什么萬(wàn)世不易的人性、人性是歷史變化的。我個(gè)人恰恰相信：第一，人性是不定性的，是不斷在發(fā)生變化的;第二，人性是可以被改造的，但是這極其困難。因此，我認(rèn)為，“AI向善”是可能的，其實(shí)現(xiàn)的終極方法只能是“人類向善”。當(dāng)然在操作層面，“人類向善”可以是逐步的、一點(diǎn)一滴前進(jìn)的。我并不相信某種一蹴而就的人性提升方案。

先說(shuō)第一個(gè)問題：沒有什么不變的人性。我用一個(gè)我命名的“Lucy隱喻”來(lái)說(shuō)明這個(gè)觀點(diǎn)?，F(xiàn)在主流古人類學(xué)研究認(rèn)為，人類起源于同一個(gè)非洲的古猿，還給她取了一個(gè)名字“Lucy”。我的故事是：Lucy從樹上下來(lái)，知道什么是人，或者她要走向何方嗎？當(dāng)然她不知道。也許，她只是掃視了一下身邊的其他古猿，心里說(shuō)了一句：我不做猿猴了！也許，她心里還說(shuō)了：我要做人！可是，她并不知道什么是人。她所決定的不過(guò)是：我不要做猴子了！我講這個(gè)隱喻，是要說(shuō)明人類真實(shí)狀況是既不知所來(lái)、亦不知所往的。今天，我們離開猿猴已經(jīng)很遠(yuǎn)很遠(yuǎn)了，但仍然不知道自己將去向何方。實(shí)際上，我們是從猿猴進(jìn)化而來(lái)的，只是諸多人類誕生理論中的一種，不過(guò)是今天的主流觀念而已。生物學(xué)研究有一種說(shuō)法，隔絕狀態(tài)下只需要四五百年就會(huì)演化出新物種。而根據(jù)當(dāng)代科學(xué)觀念，人類已經(jīng)有百萬(wàn)年的歷史，智人也有數(shù)萬(wàn)年的歷史，顯然人類在不斷進(jìn)化，如果有一個(gè)什么人性，也應(yīng)該是不斷變化的。

再說(shuō)第二個(gè)問題：人性可以被改造，但是很困難。人性如果在變化，這種變化只能是自然選擇的嗎？如果是這樣的話，所有有目的的人性提升都是徒勞的，我們只能聽天由命、靠天吃飯。然而，自然選擇是沒有善惡指向的，沒有證據(jù)表明最善者最適應(yīng)環(huán)境，也沒有證據(jù)表明最善良的人群在遺傳上最有競(jìng)爭(zhēng)力。于是，要想相信人類會(huì)向善，就必須相信人性是可以通過(guò)有目的的改造而提升的，我稱之為“人性改造論”。在我看來(lái)，人性改造在過(guò)去人類歷史上并不成功。大家知道，人性提升工程過(guò)去主要靠文化改造，尤其是宗教活動(dòng)和教育活動(dòng)。有文字記載的五六千年文明史，我不否認(rèn)人性有了一些變化，我們與山洞里砸碎其他人的頭蓋骨吸食腦髓的山頂洞人，與五胡亂華時(shí)以“兩腳羊”為軍糧的人有了一些區(qū)別，但是，每當(dāng)看到、聽到各種當(dāng)代發(fā)生的駭人罪行的時(shí)候，比如暗網(wǎng)上的人口販賣、器官販賣的故事，我對(duì)文化提升人性的功效感到沮喪。

過(guò)去一百年中，隨著現(xiàn)代科學(xué)技術(shù)的發(fā)展，一些人想，可不可以用科技方法對(duì)人性加以向善改造？比如，大科幻小說(shuō)家H.G.威爾斯對(duì)使用生物學(xué)和心理學(xué)的方法來(lái)提升人性就非常贊同。大家知道，基因編輯技術(shù)的新發(fā)展，催生了用它塑造完美人類的念頭。對(duì)屢教不改的強(qiáng)奸犯可以進(jìn)行化學(xué)閹割，對(duì)那些不誠(chéng)信的家伙，是不是也有類似的科學(xué)方法從身體層面完成徹底的一勞永逸的改造呢？對(duì)此，我認(rèn)為不能過(guò)于自信。首先科技方法有無(wú)改造人性的效力，并無(wú)一致的結(jié)論。其次就算此種效力成立，國(guó)家或社會(huì)的制度性人性改造，結(jié)果是人人向善，還是一批人被改造為奴隸、另一批人成為生物學(xué)意義上的主人，而最終落入《時(shí)間機(jī)器》所預(yù)言的人族最終分化為兩個(gè)對(duì)立物種的恐怖結(jié)局呢？我認(rèn)為后一種可能性更大，因?yàn)橐阅壳暗娜诵誀顟B(tài)，人類掌握改造人性科技而使之向善發(fā)展，就相當(dāng)于抓住自己的頭發(fā)離開地面。但是，happy ending不是沒有可能，但想不付出努力和犧牲就得到happy ending，是不可能的。

當(dāng)然，我并不否認(rèn)人性可能進(jìn)化，只是已知數(shù)千年的人類文明史并沒有人類大幅度高尚化的明顯跡象或證據(jù)，因此，對(duì)人性改造論的烏托邦必須予以足夠的警惕。從既有人類史看，人性進(jìn)化可能會(huì)耗費(fèi)數(shù)十萬(wàn)甚至百萬(wàn)數(shù)量級(jí)的時(shí)間，而在這之前，人類很可能已經(jīng)自我毀滅。但是，即便如此，人類是應(yīng)該勇敢地選擇嘗試著改善人性，還是選擇坐等悲劇發(fā)生呢？

這正是面對(duì)AI突飛猛進(jìn)，人類必須要作出的選擇。

（作者為中國(guó)人民大學(xué)哲學(xué)院教授）

責(zé)任編輯：尚國(guó)敏