周 慎,朱旭峰，梁 正

(1.中國科學技術大學人文與社會科學學院，安徽 合肥 230026；2.沉浸式媒體技術文化和旅游部重點實驗室，安徽 合肥 230022；3.清華大學公共管理學院，北京 100084；4.清華大學全球可持續(xù)發(fā)展研究院，北京 100084；5.清華大學人工智能國際治理研究院，北京 100084)

0 引言

當前，以人工智能為代表的新一代信息技術正在成為未來世界的技術支撐與發(fā)展動能。人工智能以其獨特的技術能力助力落實 《2030議程》及實現(xiàn)可持續(xù)發(fā)展目標，同時其自身的不可持續(xù)性發(fā)展問題日益凸顯。世界主要國家、國際組織、高校、企業(yè)、社會組織和技術社群都在密切關注人工智能治理問題，在不同程度上提出各自的人工智能治理建議、原則和框架。這些內容為人工智能國際治理提供基礎認識的同時，也存在包容性與全球代表性不足、利益群體碎片化構建與解讀、技術邏輯與權力目標相沖突、籠統(tǒng)而不具指導性、普遍而不考慮特殊性、與具體實踐相矛盾等局限[1]，進而不符合充分治理的標準、不具備全球治理的屬性。本文以可持續(xù)發(fā)展的理念，在全球可持續(xù)發(fā)展視域下看待人工智能發(fā)展及國際合作與治理問題，提出需要實現(xiàn) “可持續(xù)的人工智能發(fā)展” (Sustainable Artificial Intelligence Development，SAID)，嘗試在 《2030議程》及SDGs體系中梳理人工智能面臨的不可持續(xù)性發(fā)展挑戰(zhàn)，建構全球溝通基礎更好的人工智能SAID治理范式，為實現(xiàn)廣泛的人工智能國際合作奠定理論基礎，為人工智能國際治理規(guī)則制定提供整合方案選擇。

1 文獻綜述

國內外在人工智能國際治理、人工智能與聯(lián)合國可持續(xù)發(fā)展目標的結合研究上開展了一定程度的探索。

1.1 人工智能國際治理

迄今為止，人工智能治理研究主要集中在國家和次國家層面，對人工智能國際治理的研究仍處于初始階段。國際學術界普遍認為人工智能的治理難度很大，有觀點[2]認為由于技術領域對人工智能尚且沒有明確定義，因而很難限定人工智能治理的可管理范圍；還有觀點[3]認為人工智能是不同技術的集合，在不同應用程序和行業(yè)中具有不同的風險特征，因而不能被統(tǒng)一監(jiān)管。Gasser[4]認為人工智能治理至少面臨三大挑戰(zhàn)：技術人員與政策制定者之間存在的信息不對稱；在不同利益相關者之間尋求規(guī)范共識的難度大；傳統(tǒng)治理經(jīng)驗及政策工具與數(shù)字時代不匹配。人工智能系統(tǒng)的異質性、復雜性和技術自治程度都要求對現(xiàn)有政策、法律和法規(guī)進行新的思考。

在人工智能國際治理的機制、模型和框架研究與設計方面，研究者主要從主動矩陣、多中心治理、機制復合體、混合監(jiān)管和網(wǎng)格監(jiān)管理論中汲取經(jīng)驗[5]。麻省理工媒體實驗室的學者們認為治理的基礎是首先要理解技術邏輯下的 “機器行為”[6]，并在動態(tài)靜態(tài)、近觀遠觀下構建了四個維度的機器行為，進而又開展了 “道德機器”[7]實驗，發(fā)現(xiàn)了跨文化背景下的全球倫理偏好，揭示了三種不同價值偏好的集群國家。

人工智能國際治理中存在一種突出的 “人權范式”[8]，即明確引用主要的歐洲和國際人權文書作為人工智能技術的規(guī)范標準，在 《世界人權宣言》 《公民權利和政治權利國際公約》 《經(jīng)濟、社會、文化權利國際盟約》、聯(lián)合國 《企業(yè)與人權指導原則》和 《歐洲人權公約》等人權法框架下開展人工智能國際治理。對人工智能國際治理 “人權范式”的批評也普遍存在，認為其過于西方化、過于個人主義，范圍過于狹窄、過于抽象[9]，沒有考慮文化差異[10]，無法構成健全的人工智能國際治理基礎。

中國學者積極參與并深入研究人工智能國際治理，傅瑩[11]認為各國應從構建人類命運共同體的視角，從共同安全的理念出發(fā)討論人工智能的國際規(guī)范；賈開等[12]提出人工智能治理的技術邏輯問題、傳統(tǒng)治理適配性問題以及公共政策選擇問題；陳偉光等[13]、俞晗之等[14]從治理主體、結構和機制、實踐進展等方面對人工智能全球治理情況做了梳理；魯傳穎等[15]探討了多方治理模式與多邊治理模式在不同人工智能治理對象中的適用；高奇琦[16]從霸權邏輯與沖突邏輯出發(fā)，提出人工智能全球治理應在人機、多國和多行為體合智等方面形成全球善智和全球合智；盧迪等[17]關注人工智能教育的全球治理問題。在國內該領域的研究中，期待未來更多融合中國傳統(tǒng)文化優(yōu)勢，為人工智能國際合作與治理提供中國智慧與中國方案。

1.2 人工智能與可持續(xù)發(fā)展

在 《2030議程》與SDGs語境下，諸多研究關注人工智能作為促進實現(xiàn)SDGs的關鍵推動因素，且在SDG1到SDG17中均有涉及[18]；也有不少研究關注人工智能對可持續(xù)發(fā)展的反作用,如有觀點[19]認為人工智能利用率的提高將加劇全球經(jīng)濟不平等并帶來人類生存危機，從而阻礙可持續(xù)發(fā)展進程。Ricardo等[20]分析了人工智能對可持續(xù)發(fā)展目標或積極或消極的影響，從而發(fā)現(xiàn)人工智能可以支持所有可持續(xù)發(fā)展目標的134個子目標的實現(xiàn)，但也可能抑制59個子目標；Goralski等[21]通過三個人工智能項目的案例研究，從商業(yè)戰(zhàn)略和公共政策角度分析人工智能對可持續(xù)發(fā)展的影響，并認為在人工智能時代，推動全球可持續(xù)發(fā)展需要與時俱進地更新管理能力和提升領導力水平。

Truby[22]認為，人工智能治理框架必須有利于全球可持續(xù)發(fā)展目標。Djeffal[23]認為，人工智能不僅在應用端要用于實現(xiàn)可持續(xù)發(fā)展目標，還應在前端對其進行可持續(xù)發(fā)展研發(fā)，即便當前人工智能面臨諸多不可持續(xù)性發(fā)展的問題，但令人驚訝的是，迄今為止還沒有從可持續(xù)發(fā)展的角度全面考察人工智能發(fā)展問題的研究，因此他提出應當以 “可持續(xù)發(fā)展”作為治理理念與目標來建構人工智能治理框架，并提出 “可持續(xù)的人工智能發(fā)展”的技術層、社會層和治理層。技術層的核心理念是Mulder等[24]提出的 “可持續(xù)的技術”，社會層關注人工智能應用帶來的社會影響，治理層則以實現(xiàn)SDGs為目的。

人工智能國際治理的當前研究、人工智能與可持續(xù)發(fā)展的結合研究、可持續(xù)的技術概念以及已有的可持續(xù)發(fā)展理念下的人工智能治理探索，都為本研究提供了豐富的養(yǎng)分，奠定了扎實的理論文獻基礎。

2 SAID框架

在前人研究的基礎上，本文探索性地在 《2030議程》下建構可持續(xù)的人工智能發(fā)展模型，搭建人工智能可持續(xù)發(fā)展全球治理框架 (SAID框架)。

2.1 人工智能系統(tǒng)層

中國信息通信研究院將人工智能產(chǎn)業(yè)鏈分為基礎支撐層、軟件算法層與行業(yè)應用層；前瞻產(chǎn)業(yè)研究院也將人工智能產(chǎn)業(yè)鏈分成基礎層、技術層與應用層。德勤 (Deloitte)將人工智能系統(tǒng)分為五個層次：技術支持層、算法層、研究方法流派層、技術領域層及應用領域層。國際標準化組織 《人工智能系統(tǒng)生命周期過程》工作草案 (ISO/IEC WD 5338)將人工智能系統(tǒng)全生命周期概括為初始、設計研發(fā)、檢驗驗證、部署、運行監(jiān)控、持續(xù)驗證、重新評估、廢棄八個階段。

2.2 可持續(xù)發(fā)展維度

在過去的20年中，有關可持續(xù)發(fā)展的研究文獻激增，以至于人們經(jīng)常將可持續(xù)發(fā)展科學視為一個獨立領域[25]。關于可持續(xù)發(fā)展的認識也演化出可持續(xù)發(fā)展是關于經(jīng)濟增長、社會包容及環(huán)境保護的三個相互關聯(lián)的支柱等。 《2030議程》認為可持續(xù)發(fā)展有五個關鍵維度，即人類 (People)、地球 (Planet)、繁榮 (Prosperity)、和平 (Peace)和伙伴關系 (Partnership)，合稱為5P維度。

2.3 SAID框架搭建

在人工智能三層架構和可持續(xù)發(fā)展5P維度上，本文建構了可持續(xù)的人工智能發(fā)展矩陣模型 (見表1)。 在可持續(xù)的人工智能發(fā)展模型基礎上，結合治理目標、治理主體、治理客體、治理手段等，本文建構了人工智能可持續(xù)發(fā)展的國際治理范式 (見表2)，并重點梳理了不同維度上的治理客體 (見表3)。

表1 可持續(xù)的人工智能發(fā)展矩陣

表2 人工智能可持續(xù)發(fā)展的國際治理范式

表3 人工智能可持續(xù)發(fā)展治理客體舉例

3 SAID范式的比較優(yōu)勢

SAID人工智能國際治理范式建立在可持續(xù)發(fā)展理念、 《2030議程》與SDGs的體制機制等的基礎之上，與上文提到的幾個人工智能國際治理范式相比，具有一些更能構成有效的全球治理優(yōu)勢。

3.1 人工智能倫理與治理問題的全面系統(tǒng)性梳理

可持續(xù)發(fā)展理念的包容性，使得運用SAID框架來系統(tǒng)梳理人工智能發(fā)展進程中的倫理與治理問題成為可能。與大多數(shù)研究只關注人工智能系統(tǒng)本身的安全問題或只看到人工智能技術應用帶來的社會問題不同，SAID框架分類法的相對互斥性和窮盡性，系統(tǒng)整合了人工智能技術在各層各類中的本身問題及衍生問題。特別是在人工智能基礎層可持續(xù)發(fā)展和人工智能生態(tài)可持續(xù)發(fā)展問題上，以往研究鮮有提及，但在實踐中卻是非常顯性的問題?？沙掷m(xù)發(fā)展的目標-結果導向決定其所考量的需求不限于地域或利益群體，這使得可持續(xù)發(fā)展范式能夠提供比人權范式等更為完整的全球畫面。

3.2 人工智能研發(fā)、評估與治理的指導性框架工具

SAID矩陣框架可用于梳理不斷出現(xiàn)的新的人工智能治理客體，還可對人工智能系統(tǒng)各層面的研發(fā)、評估與治理進行規(guī)范和指導。在研發(fā)全流程中，可使產(chǎn)品經(jīng)理、算法工程師等重視技術可持續(xù)性及預想產(chǎn)品可能造成的可持續(xù)發(fā)展問題；在自我評估或第三方評估中，框架可用來考察各階段是否符合整體可持續(xù)及具體環(huán)節(jié)可持續(xù)的標準。本文還設想了一種 “項目立項勾選機制”，在人工智能項目申請立項時就需要申請人回答并勾選該項目符合或促進SDG1-SDG17中哪個或哪些SDGs的實現(xiàn)。

3.3 人工智能治理原則、目標與實踐案例的耦合

對諸多人工智能倫理和治理原則的普遍評論之一是籠統(tǒng)而不具指導性，治理目標不清且沒有用于詮釋原則的具體案例。將人工智能國際治理與 《2030議程》相結合，則能夠實現(xiàn)治理原則、治理目標與現(xiàn)實案例的結合。一方面，聯(lián)合國可持續(xù)發(fā)展目標范圍廣泛，幾乎涵蓋所有人工智能涉及的產(chǎn)業(yè)及應用場景，治理目標明晰；另一方面，多個國際組織和智庫機構收集全球人工智能應用案例，建立 “人工智能技術助力實現(xiàn)SDG”數(shù)據(jù)庫，如國際電信聯(lián)盟的人工智能案例庫、牛津大學人工智能項目平臺、北京智源人工智能研究院面向可持續(xù)發(fā)展的人工智能智庫平臺等，這些案例闡釋了在現(xiàn)實世界中如何貫徹倫理原則，聚集可持續(xù)的應用，因此使抽象的價值更加具象化，也更具指導性。

3.4 人工智能國際治理的全球代表性與嵌入式優(yōu)勢

人工智能國際合作與治理必須解決如何使治理話語權更具包容性和多邊性的問題?，F(xiàn)有的人工智能倡議許多都缺乏來自發(fā)展中國家的代表和參與，特別是當考慮到人工智能有潛力對發(fā)展中國家產(chǎn)生重大影響并使其受益，或有關他們的數(shù)據(jù)的缺失或濫用。 《2030議程》是經(jīng)過權力博弈和艱苦談判達成的全球共識，獲得了聯(lián)合國會員國的一致認可。因此，人工智能國際治理與 《2030議程》的融合，將至少獲得兩點嵌入性優(yōu)勢：一方面，將擴大治理的全球代表性，為最廣泛的國際合作奠定基礎，確保人工智能決策為全球造福；另一方面，使聯(lián)合國能夠發(fā)揮重要作用,使有關的政府部門、私營部門、民間組織、學術界和科技界共同協(xié)作。現(xiàn)有聯(lián)合國系統(tǒng)、各國的落實可持續(xù)發(fā)展的國別方案、全球可持續(xù)發(fā)展的體制機制與現(xiàn)有努力等都能夠為人工智能國際治理所用，避免了動員成本高、機構冗余等平地起高樓帶來的問題。

3.5 各級各類組織人工智能轉型與治理的普遍適配

人工智能作為使能技術正在賦能和推動各級各類組織的轉型升級，也隨之帶來內外部的治理問題，無論這一組織是否在人工智能產(chǎn)業(yè)鏈上。可持續(xù)發(fā)展范式能夠普遍適用在國際組織、國家、高校、企業(yè)、社會組織和技術社群的人工智能治理活動中。如聯(lián)合國系統(tǒng)的各個組織和專門機構，都能夠找到其對應的人工智能治理維度，并努力引導和運用人工智能技術來實現(xiàn)其主攻的可持續(xù)發(fā)展目標，如高校的人工智能轉型、人工智能治理研究中的可持續(xù)發(fā)展側重，以及加速高校實施 “以可持續(xù)發(fā)展目標為導向的教育”等；人工智能基礎層、技術層、應用層的產(chǎn)業(yè)鏈上都涉及諸多主體，僅就技術層上的企業(yè)實踐而言，我們已經(jīng)看到曠視的人工智能可持續(xù)發(fā)展治理，商湯的人工智能可持續(xù)發(fā)展觀等。

3.6 人工智能治理的全球話語體系及積極敘事方式

人工智能涉及的領域與學科眾多，人們在討論人工智能治理問題時往往缺乏溝通基礎，在全球范圍內更是如此。企業(yè)界及學術界等提出了多種人工智能概念，如負責任的人工智能 (Responsible AI)、有益的人工智能 (Beneficial AI)、以人為本的人工智能 (Human-centered AI)等，多種概念在完善人工智能治理不同維度的同時也造成了概念碎片化的問題，亟待具有全球對話基礎的及更具包容性的人工智能概念?？沙掷m(xù)發(fā)展的人工智能是一個好的選擇，不僅在于它降低了全球溝通成本，還在于它提供了一種新的積極敘事方式。它不是以歧視、侵犯、不公平、濫用等負面眼光來提出問題，而是正面的積極構想。因此，作為全球話語體系及積極敘事方式的可持續(xù)的人工智能發(fā)展，更有利于全球溝通對話，鼓舞和凝聚人心，實現(xiàn)治理目標。

3.7 人工智能治理與世界整體發(fā)展狀況動態(tài)同行。

全球發(fā)展目標是在充分考量世界整體發(fā)展狀態(tài)的基礎上制定的，并且隨著人們對發(fā)展的認知深化而逐步更新。例如，2000年9月通過的 《聯(lián)合國千年宣言》，其核心是8項千年發(fā)展目標，其中的重點是使極端貧窮人口比例減半，從遏止艾滋病的蔓延到普及小學教育，這是對當時世界情況的反映以及以15年為年限的愿景目標；2015年17項可持續(xù)發(fā)展目標的制定是基于新的世界普遍狀態(tài)，也反映出人們對發(fā)展理念和發(fā)展模式的改變。世界處在動態(tài)發(fā)展的過程當中，全球規(guī)劃與技術發(fā)展同樣如此。人工智能技術在不斷發(fā)展，將會帶來更多不確定性的風險，將其與 《2030議程》及可能的2045年之后的全球議程相結合，可以使人工智能治理與世界整體發(fā)展狀況動態(tài)同行。

4 結語與討論

技術革命往往伴隨著不可預知的挑戰(zhàn)，人類曾經(jīng)因為對顛覆性技術的全球治理認知不夠深入而面臨巨大的文明威脅。前事不忘，后事之師。人工智能國際治理已成為各國的共同關注，人們希望在以人工智能為代表技術所驅動的第四次工業(yè)革命初期能走在技術變革的前面，充分認識其風險，將危機關口前移，在全球范圍內達成治理共識?？沙掷m(xù)發(fā)展理念的包容性、 《2030議程》的全球代表性以及對標SDGs的執(zhí)行明確性，在一定程度上彌合了既有的一些框架設想的局限，但不可否認，也需要用發(fā)展的眼光來看待SAID范式。以下是本文展望的未來人工智能國際治理工作的可能方向。

4.1 在技術邏輯下實現(xiàn)治理目標

人工智能技術本身就是人工智能治理的重要參數(shù)和主要手段，關于人工智能的技術問題可以通過其自身的技術來解決。人工智能倫理與治理原則可以用算法來保障，如Stuart[26]探索了人工智能倫理的技術實現(xiàn)路徑，提出指引人工智能演化的利他 (人的利益凌駕機器利益)、謙卑 (機器不能自以為是)、助人 (機器能學懂人的偏好)三原則，并用嚴格的數(shù)學方法來實現(xiàn)這些原則。

4.2 借鑒以往新疆域全球治理經(jīng)驗

新疆域是一個相對的概念，曾經(jīng)的核技術、外層空間、生物化學等都是以往的新疆域。對于它們的國際治理，人們曾走過很多彎路，也獲得了許多寶貴的經(jīng)驗教訓。例如，在核治理中，帕格沃什科學和世界事務會議 (Pugwash Conferences on Science and World Affairs)在核裁軍中發(fā)揮了重要作用；聯(lián)合國外層空間事務廳 (UNOOSA)協(xié)助發(fā)展中國家將空間技術應用于發(fā)展； “希波克拉底誓言” (Hippocratic Oath)奠定了醫(yī)學的精神底色。人工智能國際治理應當揚長避短，借鑒過往經(jīng)驗。

4.3 加強全球共同價值的提取與確認

哈佛大學伯克曼互聯(lián)網(wǎng)與社會中心收集了來自拉丁美洲、東亞和南亞、中東、北美和歐洲的政府、企業(yè)、高?；騈GO公開發(fā)行的36份人工智能倫理原則文檔，通過文本研究后發(fā)現(xiàn)，全球大致有八項倫理共識。其中，所有文本提及 “公平公正”，97%提及 “隱私保護”及 “可追責”，94%提及 “透明與可解釋性”，81%提及 “安全”，78%提及 “專業(yè)研發(fā)責任”，69%提及 “人類價值”與 “在人的控制之下”，64%提及 “人權”[27]。治理原則深受文化、語言、地緣和組織背景的影響，全球治理應在充分尊重差異的基礎上形成共識。

4.4 培植科技向善的企業(yè)與社會文化

人工智能科技類企業(yè)在人工智能產(chǎn)、學、研、用中扮演著關鍵節(jié)點的角色，科技向善的企業(yè)文化將有助于人員自覺自發(fā)地把倫理原則融入產(chǎn)品研發(fā)與應用當中，實現(xiàn)可持續(xù)發(fā)展。同時也應培植相應的社會文化，將人工智能治理原則融入科學傳播與科學教育中，推進人工智能傳播、教育與治理的協(xié)同演進，實現(xiàn)標本兼治的根本治理。國際上越來越重視人工智能倫理教育[28]及以人類可持續(xù)發(fā)展為指向的科學教育[29]，以期培養(yǎng)技術能力與倫理素養(yǎng)兼?zhèn)涞南乱淮蚩萍碱I導力。還可面向農民開展人工智能技術賦能農業(yè)農村發(fā)展的相關活動、面向老年人的數(shù)字銀齡行動、面向產(chǎn)業(yè)工人的就業(yè)引導與綠色技能培訓、面向公務員的科技治理培訓等。

4.5 以人工智能治理促進全球治理變革

隨著人工智能技術的發(fā)展及衍生出更多的治理問題，將會使固有的全球治理體系缺陷變得更加明晰。人工智能治理下的全球治理變革表明：首先，相關的國際準則可能需要改變，以此來適應和引導人工智能技術的發(fā)展；其次，透過人工智能治理的視角觀察全球治理體系，可以顯明全球治理的痼疾，開啟治理新思路；最后，人工智能國際治理為促進全球治理變革提供新的機遇，可能使未來全球治理和國際秩序向著更加公平公正、有序有效的方向發(fā)展。