《AI聯(lián)結(jié)的社會(huì)：人工智能網(wǎng)絡(luò)化時(shí)代的倫理與法律》

（日）福田雅樹等著 宋愛譯

社會(huì)科學(xué)文獻(xiàn)出版社即出

圍繞人工智能主題，我讀過很多作品。一些書名看起來很學(xué)術(shù)的，讀起來卻非常科普。也許是人工智能話題炙熱的緣故，除了科普作家，某些學(xué)有專長的著名專家也加入其中，但對人工智能卻是一知半解，有關(guān)人工智能的研究成果也是魚龍混雜。我手里的這本書是否也是其中之一呢？

我抱著嘗試的心態(tài)讀下去。這一讀，便沒有放手，直至卷終。《AI聯(lián)結(jié)的社會(huì)：人工智能網(wǎng)絡(luò)化時(shí)代的倫理與法律》（以下簡稱《AI聯(lián)結(jié)的社會(huì)》）是一本論文集。通常，論文集會(huì)依照論文的主題匯集，難以讓討論具有內(nèi)在邏輯一致性。這本論文集不同的是，它的主題內(nèi)在邏輯一致性很強(qiáng)，從這個(gè)角度來說，它更像一本合著成果。在假定人工智能自身形成網(wǎng)絡(luò)的場景下，會(huì)給人類帶來哪些挑戰(zhàn)。圍繞這一主題，全書劃分為六個(gè)部分，總論部分交代了問題和方法，第二部分探討人工智能的研發(fā)原則，第三部分討論人工智能數(shù)據(jù)、信息、知識的流通和使用，第四部分分析在人工智能網(wǎng)絡(luò)化的場景里人類的隱私與安全，第五部分探索人類社會(huì)基本準(zhǔn)則面對的挑戰(zhàn)和應(yīng)對之策，第六部分再回到人類自身，討論保障人類珍視的尊嚴(yán)、人格與責(zé)任。

務(wù)實(shí)的智慧

簡要的內(nèi)容構(gòu)成介紹應(yīng)該能讓讀者了解，這是一部接地氣的著作。與天馬行空地探討智能時(shí)代、機(jī)器崛起、人工智能時(shí)代的作品不同，與聳人聽聞地?cái)嘌灾悄芨锩C(jī)器取代人類、奇點(diǎn)臨近的作品也不同，《AI聯(lián)結(jié)的社會(huì)》的出發(fā)點(diǎn)是，我們知道人工智能的發(fā)展是一股歷史潮流，勢不可當(dāng);我們不用像算命先生那樣去預(yù)測什么時(shí)候人工智能時(shí)代會(huì)到來;我們也不用像森林里的小女孩那樣不斷呼喊“狼來了”，人工智能要奪走我們的工作;我們嘗試著回答，人工智能會(huì)以什么樣的形態(tài)到來，在這個(gè)進(jìn)程中，人類可以做什么來保證人類的基本利益，即人還是人！說得更加簡潔一些，在人類面對網(wǎng)絡(luò)化的智能機(jī)器時(shí)，如何保障人類的基本利益：身體、人格、責(zé)任、尊嚴(yán)？

以我對人工智能有限的認(rèn)知，我以為，這樣的提問非常日本！工業(yè)化的歷史表明，同在儒家文化圈，日本卻是一個(gè)非常務(wù)實(shí)的國家。明治維新以后，我們不知道日本人提出了什么驚世駭俗的理論，卻知道日本的產(chǎn)品行銷世界，對日本產(chǎn)品的質(zhì)量，鮮有人懷疑。這源于日本人的務(wù)實(shí)。人工智能的發(fā)展顯然還沒有走到真正威脅人類的時(shí)刻，探討人工智能場景下的人類利益，顯然是一個(gè)虛擬問題。務(wù)實(shí)的日本人在遭遇一個(gè)虛擬問題時(shí)，又如何處理呢？《AI聯(lián)結(jié)的社會(huì)》同樣展現(xiàn)了務(wù)實(shí)的智慧：日本專家們采用了情境錨定法（Anchoring Vignettes）。情境錨定法是社會(huì)調(diào)查中面對未來時(shí)常用且有效的測量方法。它假設(shè)一個(gè)情境，實(shí)在的、可以在頭腦中呈現(xiàn)的情境，然后，詢問人們面對情境的決策和行為取向。在理論研究中，這樣的方法也被稱為思想實(shí)驗(yàn)（Thought Experiment），是理論邏輯演繹的常用且有效的方法。

當(dāng)今科技發(fā)展的現(xiàn)實(shí)充分證明，人類與人工智能共生的時(shí)代已經(jīng)開始，未來全球聯(lián)機(jī)協(xié)作的人工智能，將構(gòu)筑起深度改變?nèi)祟惿畹摹叭斯ぶ悄芫W(wǎng)絡(luò)”。圍繞這些問題，日本信息學(xué)界、法學(xué)界、社會(huì)學(xué)界、人工智能技術(shù)領(lǐng)域的多位前沿學(xué)者從國際化、專業(yè)化的視角出發(fā)，進(jìn)行了深入探討，在社會(huì)政策和法律應(yīng)對層面，提出了建議。

本文為著名學(xué)者邱澤奇教授為《AI聯(lián)結(jié)的社會(huì)》中文版所作序言。本書簡體中文版將于8月上市。

運(yùn)用情境錨定法，《AI聯(lián)結(jié)的社會(huì)》給定了一個(gè)討論的初始：在未來，無論是專用人工智能還是通用人工智能，人工智能自身形成了一個(gè)網(wǎng)絡(luò)，“使用者不僅可以自己設(shè)置，也可以接受他人設(shè)置”（第10頁），就像是《黑客帝國》里的機(jī)器帝國，人工智能甚至具有了擬人的“意志”，“擁有與人類智能相關(guān)的功能;能夠通過對信息、知識進(jìn)行系統(tǒng)化處理，得到數(shù)據(jù)、信息和知識”（第6頁），“滲透到社會(huì)整體之中，進(jìn)而使人類和人工智能網(wǎng)絡(luò)共存，在各種社會(huì)場景中，都將可能實(shí)現(xiàn)人工智能、物和人的相互聯(lián)結(jié)”（第11頁），人類如何做才能既利用人工智能為人類服務(wù)，又保護(hù)人類的基本利益？

在汗牛充棟的人工智能研究中，人工智能網(wǎng)絡(luò)化是一個(gè)被忽略或被默認(rèn)的議題。說是被忽略，至少在我讀到的文獻(xiàn)中這是第一本將其特別強(qiáng)調(diào)的作品。說是被默認(rèn)，在眾多討論人工智能的研究中，作者們往往忽略了人們生活在一個(gè)政治和社會(huì)制度有差異的世界，國家技術(shù)能力的強(qiáng)弱和國家之間關(guān)系的好壞并非與人工智能創(chuàng)新和應(yīng)用沒有關(guān)系。忽視既存的制度約束和假設(shè)人類的一般存在看起來有利于討論，實(shí)則是學(xué)術(shù)的不負(fù)責(zé)任?！禔I聯(lián)結(jié)的社會(huì)》突出強(qiáng)調(diào)人工智能網(wǎng)絡(luò)化的現(xiàn)實(shí)社會(huì)情境，也是學(xué)術(shù)務(wù)實(shí)的另一個(gè)證明。

面向超級智慧

《AI聯(lián)結(jié)的社會(huì)》首先呈現(xiàn)的不是人工智能帶給人類的便利，而是風(fēng)險(xiǎn)?！斑@些風(fēng)險(xiǎn)與人工智能網(wǎng)絡(luò)化為社會(huì)帶來的便利同在，有時(shí)可能超越國境，超越現(xiàn)實(shí)與虛擬的界限，瞬時(shí)擴(kuò)散出去”（第13頁）。借用既有的研究成果，《AI聯(lián)結(jié)的社會(huì)》將風(fēng)險(xiǎn)區(qū)分為功能風(fēng)險(xiǎn)和制度風(fēng)險(xiǎn)，認(rèn)為其中重要的不是功能風(fēng)險(xiǎn)，而是制度風(fēng)險(xiǎn)。因此，風(fēng)險(xiǎn)分析是人類面對人工智能挑戰(zhàn)的出發(fā)點(diǎn)，包括風(fēng)險(xiǎn)評估、風(fēng)險(xiǎn)管理和風(fēng)險(xiǎn)傳播（第14頁）。風(fēng)險(xiǎn)分析的目的，不是為了甩鍋，而是讓風(fēng)險(xiǎn)明確化，進(jìn)而確保公平競爭，讓風(fēng)險(xiǎn)與收益達(dá)成平衡。在這里，我們既看到了日本人務(wù)實(shí)的一面，又看到儒家文化的深層存在。

設(shè)定人工智能網(wǎng)絡(luò)化的前提，自然地提出了人工智能治理的人類化議題。《AI聯(lián)結(jié)的社會(huì)》的主張是，人工智能的治理，一定是國際的，而不是一國的。為促進(jìn)技術(shù)創(chuàng)新和應(yīng)用，初始期宜采用軟性治理，治理內(nèi)容除了確保各種價(jià)值觀，還應(yīng)確保廉潔、透明性、可控性、安全性、隱私性、安保體系、公正性等（第18頁）。為了既促進(jìn)人工智能的發(fā)展，給人類帶來更多便利，又保障治理的有效性，約束人工智能可能帶來的風(fēng)險(xiǎn)，《AI聯(lián)結(jié)的社會(huì)》認(rèn)為，一個(gè)由人工智能高度互聯(lián)建構(gòu)的智聯(lián)社會(huì)（第20頁），應(yīng)該遵從八項(xiàng)基本原則：“第一，所有人都可以受惠;第二，保障個(gè)人的自主性及人的尊嚴(yán);第三，保證革新性研究開發(fā)的持續(xù)與公平競爭;第四，堅(jiān)持可控性和透明性;第五，利益相關(guān)方的參與;第六，兼顧虛擬世界與現(xiàn)實(shí)社會(huì);第七，通過超越空間的協(xié)調(diào)合作實(shí)現(xiàn)有活力的區(qū)域社會(huì);第八，通過分散合作解決全球性問題?！保ǖ?1頁）

與上述原則關(guān)聯(lián)密切的被分解為了人工智能研發(fā)中的人類倫理與秩序的貫徹，人工智能使用中的數(shù)據(jù)、信息、知識等價(jià)值觀，人工智能與人類的關(guān)系，包括如何保障人的尊嚴(yán)、人格與責(zé)任以及支撐因素如隱私、安全、既存的社會(huì)準(zhǔn)則等。貫穿《AI聯(lián)結(jié)的社會(huì)》始終的是，保障人類基本利益的原則被置于最優(yōu)先的位置，基于此，《AI聯(lián)結(jié)的社會(huì)》里出現(xiàn)了一些日文風(fēng)格突出的概念。它意味著《AI聯(lián)結(jié)的社會(huì)》的討論既不是日本人自己圈子內(nèi)的討論，也不是脫離了日本的話術(shù)販賣，而是從日本的關(guān)切出發(fā)，面向整個(gè)世界的分析和探討。

參與討論的近20位作者，既有業(yè)界人士，也有學(xué)界新秀。從《AI聯(lián)結(jié)的社會(huì)》文本可以看出，他們的一個(gè)共同特點(diǎn)是，都非常熟悉國際上人工智能探討的熱點(diǎn)和難點(diǎn)問題，表達(dá)的也是他們對這些熱點(diǎn)和難點(diǎn)的觀點(diǎn)。人工智能數(shù)據(jù)是大數(shù)據(jù)問題的一個(gè)子集，歐盟有GDPR，美國有關(guān)聯(lián)的法律卻沒有一般的法律，中國在《民法典》中有涉及，日本的《個(gè)人信息保護(hù)法》也只是關(guān)聯(lián)的法律。到目前為止，數(shù)字化前沿國家對此還沒有達(dá)成一致。

我以為，根本不可能達(dá)成一致，盡管其基本出發(fā)點(diǎn)是保護(hù)人類利益。但我們知道，機(jī)器并沒有利益，機(jī)器的利益實(shí)際上是掌握機(jī)器的人的利益，電車難題（見第五部分的討論）便是典型的例子。當(dāng)我們在人工智能里設(shè)定人類生命優(yōu)先時(shí)，不是犧牲機(jī)器的問題，而是優(yōu)先保護(hù)誰的生命的問題。如此，問題又回到了人類，而不是人與機(jī)器的關(guān)系。為此，我更愿意把問題修訂為，當(dāng)人工智能網(wǎng)絡(luò)化將帶給人類更大利益同時(shí)也帶來更大風(fēng)險(xiǎn)時(shí)，如何分配這些利益才是對大多數(shù)人更加有利的，也是對大多數(shù)人而言更加有利于控制風(fēng)險(xiǎn)的？

在這個(gè)問題面前，人類自身的歧視、分化、極化、壟斷等將會(huì)是長久且難以達(dá)成平衡的議題。我們期待一個(gè)可以促進(jìn)技術(shù)發(fā)展的競爭性研發(fā)生態(tài)，卻又希望避免一個(gè)由發(fā)展帶來的壟斷性市場，回避一個(gè)由利益分配嚴(yán)重不均所產(chǎn)生的極化社會(huì)，還希望避免一個(gè)因倫理失衡而可能帶來的毀滅性后果，最終希望做到人類自洽（第307頁），這的確需要超級智慧?！禔I聯(lián)結(jié)的社會(huì)》至少是面向超級智慧的有益嘗試。