李 輝，謝旻希，王迎春

（上海市科學學研究所，上海 200235）

人工智能的快速發(fā)展，正在對政治、經濟、社會以及國際關系產生重大影響，既有正面的促進作用，也有負面的潛在風險。因此，人工智能治理已成為當前全球政治、產業(yè)和學術等領域的焦點議題。隨著越來越多利益相關方的參與以及政策文本和研究成果的發(fā)布，人們迫切需要從越來越繁雜的文獻中，準確把握全球人工智能治理的發(fā)展態(tài)勢和主要特點，從而為相應的政策制定和學術研究提供基礎。

上海市科學學研究所于2020年4月發(fā)布的《2019全球人工智能治理年度觀察》[1]（下文簡稱《2019觀察》）是在此方面的一次嘗試。該報告以“2019年度全球人工智能治理進展”為主題，邀請全球政產學研界具有重要話語權的代表人士對2019年全球人工智能治理的重要進展進行回顧，圖靈獎獲得者、美國人工智能年會（AAAI）主席、歐洲議會議員以及聯合國相關組織代表等44組專家（50位）提供了評論文章[2]。

由于人工智能治理問題的復雜性，實際上全球同行也都迫切需要獲取其他背景（專業(yè)、行業(yè)、領域、國家等）的專家對這一問題的看法[3]。該報告呼應了這一需求，發(fā)布之后在國際人工智能治理領域產生了廣泛影響。業(yè)內較為知名的蒙特利爾人工智能治理研究所評論認為：《2019觀察》所包含的44篇文章，每一篇都評價了2019年人工智能治理領域的重大事件。除了包含發(fā)人深省的見解外，該報告還提供了一個供全球人工智能治理專家、眾多研究中心、智庫和相關組織交流的優(yōu)質平臺[4]。從某種程度來看，這份報告為全球人工智能治理現狀提供了一種“思想眾籌”，既為參與的作者提供了表達“我們在做什么”的機會，也為全球同行提供了看見“別人在做什么”的平臺。這些專家評論了這一領域的趨勢和特點，而從這些代表性的觀點中，又可以總結出更具統(tǒng)領性的趨勢和特點。

以報告英文標題搜索國際知名的人工智能社區(qū)以及領英、推特、臉書等媒體，可以看到大量國際人工智能治理機構都對這一報告進行了推介和評論。其中具有代表性的一種評論是，這份報告是新冠肺炎全球流行之前，國際同行對人工智能治理的一次總結和展望。當然，即將發(fā)布的《2020全球人工智能治理年度觀察》，將提供疫情暴發(fā)狀態(tài)下的全球人工智能治理進展。本文主要針對《2019觀察》中44組專家的觀點進行了凝練總結，力圖總結出疫情暴發(fā)前的全球人工智能治理態(tài)勢和特點，并最終為中國下一步的人工智能治理工作提供相關建議?！?020全球人工智能治理年度觀察》體現了全球在疫情沖擊下的人工智能治理進展，我們將另文專論①本文第一第二作者為《全球人工智能治理年度觀察》系列報告執(zhí)行編輯。。

1 關于全球人工智能治理現狀的44…種評論

每一位專家都基于自己的專業(yè)、行業(yè)、領域背景，對全球人工智能治理重要進展做出判斷。該報告分為六部分：人工智能科學家的思考與倡議、人文社會科學專家的關注與進展、產業(yè)界的實踐和探索、國際組織相關政策進展、國家和地區(qū)相關政策進展以及來自中國的聲音。以下對這6種背景的專家觀點逐一進行提煉說明。

1.1 人工智能科學家的思考與倡議

人工智能有可能造成諸多負面影響，因此開發(fā)人工智能系統(tǒng)的技術專家，是當然的被治理對象?？茖W家群體自身也提供治理方案。該部分報告有5家單位的科學家參與，主要提供了兩種解決方案。一種是用新技術解決原有技術帶來的問題。其中Stuart Russell教授多年來一直努力推動“開發(fā)有益的人工智能（AI）系統(tǒng)”，在國際人工智能界有廣泛影響。香港科技大學的楊強教授呼吁的“聯邦學習”，就是希望用新的技術來解決人工智能帶來的負面影響。另一種方案，就是用制度對科學家的研究進行規(guī)范，如香港科技大學的馮雁教授提出了人工智能算法發(fā)表的規(guī)范性問題。5組技術專家的核心觀點如表1所示②每組專家可能不止一人，表格中僅列出第一作者，下同。。

表1 人工智能科學家的思考和倡議

1.2 人文社會科學專家的關注與進展

人文社會科學是提供治理規(guī)則的思想源。法學、管理學、國際關系、哲學等人文社科領域專家紛紛涉足人工智能治理領域。參與報告的12家單位的人文社科專家，專業(yè)背景較為多元。他們討論了在規(guī)制人工智能方面的進展，比如，牛津大學未來人類研究所人工智能治理中心主任Allan Dafoe羅列了2019年新成立的多家人工智能治理研究機構，以此表明人工智能治理已經成為一門顯學。在研究內容方面，德國美因茨約翰內斯古騰堡大學的Petra Ahrweiler教授和清華大學的蘇竣教授都談到了如何評估人工智能帶來的社會影響。越來越多研究機構的成立，越來越多治理方案的推出，意味著人工智能治理的思想源越來越豐富，這些治理方案都會成為未來全球人工智能治理的基礎性思想資源。12組人文社科專家的核心觀點如表2所示。

表2 人文社會科學專家的關注與進展

1.3 產業(yè)界的實踐和探索

企業(yè)是技術的應用主體，因此從某種程度來說，是被治理的對象。但是對于負責任的企業(yè)來說，這也是引領人工智能發(fā)展的好機會。中國的人工智能獨角獸企業(yè)曠視科技以及公益性的社會組織OPAI參與了本次報告。略有遺憾的是，臉書、谷歌、特斯拉等全球人工智能巨頭企業(yè)沒有參與。在法律倫理規(guī)則沒有完全成型的背景下，企業(yè)通過市場行為，正在探索具備可操作性的治理措施[5]。2019年尤其值得關注的是，一些企業(yè)開始發(fā)展針對假新聞、假視頻的檢測技術。產業(yè)界的投入讓人工智能治理的可操作性變強。另外，2019年討論最為激烈的一個話題是OpenAI當年在發(fā)表GPT-2的過程中引發(fā)的爭論，在《2019觀察》中有兩位專家給予了評論。7組產業(yè)界專家的核心觀點如表3所示。

表3 產業(yè)界的實踐和探索

1.4 國際組織相關政策進展

人工智能治理是事關全人類與人工智能技術關系的問題，具有天然的全球性，也因此成為國際關系的重要議題。聯合國相關機構、經濟合作與發(fā)展組織（OECD）、世界經濟論壇、世界銀行等政府間組織都在大力推進人工智能全球治理體系。本部分主要有5位專家參與，如表4所示。其中值得關注的是，有3位專家重點談及了經濟合作與發(fā)展組織在2019年發(fā)布的人工智能治理原則。

續(xù)表

1.5 重要國家和地區(qū)相關政策進展

和所有新興技術的治理一樣，國家是人工智能治理的當然主體。歐盟、英國、日本、新加坡等地區(qū)和國家，是當前制定人工智能治理規(guī)則的引領者。尤其是歐盟，在人工智能治理的規(guī)則制定中投入了大量的政策資源。2019年歐盟發(fā)布了《可信賴人工智能倫理準則》，在全球有極大影響[6]。當然，國情不同，規(guī)則制定的方向也有所不同。新加坡發(fā)布的人工智能規(guī)則雖然影響不及歐盟，但可操作性卻更強，對于小國有極大的參考價值。這一領域的8組觀點如表5所示。

1.6 中國舉措和聲音

中國在人工智能技術開發(fā)和產業(yè)應用方面位于世界前列，但是治理方面的聲音鮮少為全球同行所聽到。7位中國專家，包括前外交部副部長傅瑩，科技部新一代人工智能發(fā)展研究中心主任趙志耘等，如表6所示，分別從國家關系、科技發(fā)展、工信發(fā)展、國家標準、地方探索以及學術研究等方面，多角度反映了中國在人工智能治理領域的積極進展。

表6 來自中國的聲音

2 結論：全球人工智能治理體系處在形成關鍵期

人工智能技術是全球通用技術，必然需要全球治理體系。全球人工智能治理仍處于探索階段[7]?；趯θ?4家機構對2019年全球人工智能治理進展評論的分析，本文得出，全球人工智能治理體系正在孕育形成，呈現出治理主體多元性、治理措施多樣化等特點。具體而言，國際上各類治理主體，包括國際組織、各國政府、行業(yè)組織、企業(yè)、技術社群、社會組織等，都積極推進相關研究，并爭相提出治理主張。而治理規(guī)則呈現多樣性特點，各類治理主體基于自身能力發(fā)布的人工智能治理方案包括：規(guī)范、規(guī)則、法律、標準、原則、倡議、宣言等。孕育期更重要的特點是，雖然不同治理方案之間存在博弈融合，但是各利益相關方對達成全球共識普遍抱有極大期待?？梢灶A見，基于多方的期待以及各種治理手段的嘗試，全球人工智能治理體系的孕育形成具備了良好的國際環(huán)境?；凇?019觀察》來看，現階段全球人工智能治理有一些值得關注的發(fā)展趨勢和特點。

2.1 人工智能治理的國家共同體正在形成

從全球來看，人工智能由“誰來治理”，首先的主體是國家以及國家之間的合作組織。不同國家在發(fā)布自己的治理規(guī)則的同時，也必須尋求與其他國家之間在規(guī)則上的通約。從全世界范圍來看，作為政府間組織，經濟合作與發(fā)展組織發(fā)布的原則獲得了廣泛的支持?！?019觀察》中三位參與者Cyrus Hodes、Nicolas Miailhe和Jessica Cussins Newman都 提到了經濟合作與發(fā)展組織，他們介紹了該組織通過一系列的組合拳，全力推動其規(guī)則的全球化。經濟合作與發(fā)展組織的規(guī)則推廣，很有可能成為未來人工智能治理推廣的一個范本。其具體推廣模式如下：

（1）發(fā)布原則并爭取越來越多的國家支持。經濟合作與發(fā)展組織于2019年5月22日公布了其《OECD人工智能原則》，所有36個經濟合作與發(fā)展組織成員國以及多個非成員國都簽署了該原則。此外，歐盟委員會也表示支持，該原則還獲得了中國、俄羅斯等國的認可，是目前受到支持最多的人工智能原則。

通過對互聯網資料、研究報告和相關案例的整理和分析，可以將現有政府引導基金扶持新興產業(yè)發(fā)展的主要模式總結如下：

（2）建立“人工智能政策觀察站”。為了實施其人工智能原則，經濟合作與發(fā)展組織還宣布建立一個“人工智能政策觀察站”，該觀察站將提供人工智能指標、政策和實踐方面的證據和指導，并作為一個促進人工智能政策對話和分享最佳實踐的中心。

（3）啟動“人工智能全球伙伴關系”。法國和加拿大在2019年8月的七國集團會議上宣布啟動由經濟合作與發(fā)展組織主辦的“人工智能全球伙伴關系”（GPAI）?！叭斯ぶ悄苋蚧锇殛P系”的目標是將全球高水平的人工智能科學家和專家聚集在一起，促進合作伙伴在人工智能政策制定方面的國際合作與協(xié)調。

（4）打造“全球人工智能人類論壇”。作為“人工智能全球伙伴關系”的配套活動，法國于2019年10月底在巴黎主辦了第一屆“全球人工智能人類論壇”。

不過，經濟合作與發(fā)展組織是西方國家為主的國際組織，因此具有先天的局限性。實際上聯合國相關機構也正在推動相關規(guī)則的全球化。可以確定的是，尋求全球協(xié)議，將是全球人工智能治理體系建立的關鍵。

2.2 治理規(guī)則正在從“軟法”向“硬法”轉換

各種治理主體基于自身能力發(fā)布的人工智能治理方案包括規(guī)范、規(guī)則、法律、標準、原則、倡議、宣言等，目前以不具法律效力但是有方向指導意義的倡議、宣言、原則等居多。隨著近幾年各種組織機構不斷發(fā)布人工智能準則，越來越多的研究者對純粹宣言性質的準則提出了批評。一方面，宣言性質的準則對人工智能的健康發(fā)展沒有實質性的約束，另一方面，一些企業(yè)或者組織以發(fā)布倫理準則作為宣傳甚至“道德清洗”的策略。《2019觀察》中，德國圖賓根大學科學與人文倫理國際中心副教授Thilo Hagendorff強調了這一呼聲，即人工智能治理應該從“軟法”向“硬法”過渡。歐盟人工智能倫理準則頒布后，有評論者認為，它可以增強消費者對歐洲發(fā)展人工智能的信心，從而為企業(yè)提供對抗硅谷和深圳競爭對手的解決方案[8]。

《2019觀察》中一些專家的文章，已經展現出這樣過渡的跡象。其中代表性的有，美國加利福尼亞州要求把所有試圖影響加州居民投票或購買行為的自動在線賬戶公開標識為機器人；舊金山等地也出臺法律禁止人臉識別應用[9]。

當然，最根本性的硬法是技術本身的革新，這就需要技術專家開發(fā)出與人和諧的人工智能系統(tǒng)。蒙特利爾人工智能治理研究所也注意到了《2019觀察》中一些專家的提法，其發(fā)布的報告特別提及，“專家楊強教授還提到了聯合學習、差分隱私和同態(tài)加密等新技術的重要性，以及它們在確保人工智能被用于造福人類方面的重要性。”[4]。

《2019觀察》中反映的從“軟法”到“硬法”轉化的態(tài)勢，實際上在2020年得到了驗證，比較重要的一個例證是，歐盟在2019年發(fā)布《可信賴人工智能治理規(guī)則》的基礎上，于2020年進一步發(fā)布了《人工智能白皮書——通往卓越和信任的歐洲路徑》。該白皮書綜合提出了有關倫理的注意事項、法律義務和技術基礎設施等，目的是把人工智能治理置于可操作的層面。

2.3 企業(yè)成為微觀治理的主導力量

另外，單純依靠政府能力難以實現海量的微觀層面的治理，企業(yè)開始發(fā)展具體的規(guī)范操作。來自硅谷的知名投資人Steven Hoffman在《2019觀察》中介紹了這方面的情況，如谷歌發(fā)布了一個數據集來幫助檢測合成聲音，臉書、Partnership AI和其他組織發(fā)起了“深度造假”視頻檢測比賽。市場力量讓人工智能治理更具可操作性和可實現性。

3 中國進一步推動人工智能治理工作的若干啟示

我國的人工智能治理體系正在孕育形成。參與《2019觀察》的中國專家，對中國2019年的人工智能治理工作有比較全面的介紹。結合最新的進展，我國已經有初具體系化的人工智能治理體系，如國家層面的科技倫理委員會、國家新一代人工智能治理專業(yè)委員會、國家新一代人工智能戰(zhàn)略咨詢委員會等機構，地方層面有科技部批準的北京、上海等15個人工智能創(chuàng)新發(fā)展試驗區(qū)，有很多地區(qū)建立了自己專門的研究或咨詢機構，智庫高?？蒲性核步⒘吮姸嗳斯ぶ悄苤卫硌芯繖C構。2019年7月，科技部新一代人工智能治理專業(yè)委員會發(fā)布了八條治理準則。國家安全標準委員會、國家人工智能標準化總體組等也都發(fā)布了相關治理文件。還有個人信息保護法、人臉識別等方面的立法也已經在征求意見。

但是基于《2019觀察》，并結合我國也正在建立中國的人工智能治理體系，以及當前全球人工智能治理體系“孕育期”的發(fā)展趨勢和特點，對于我國進一步推進人工智能治理體系建設以及參與全球人工智能治理體系建設，我們認為還可以有以下幾點啟示。

3.1 進一步推動人工智能風險評估

近些年，諸多組織發(fā)布了人工智能治理原則。但是由于原則沒有約束力，因此對人工智能的負面影響沒有實質上的規(guī)范，而推動實質規(guī)范的前提是需要對人工智能的負面影響進行評估。經濟合作與發(fā)展組織的人工智能規(guī)則中，也強調“應該不斷進行評估和管理”。

但是人工智能的風險評估不僅是制度問題，同時也是科學問題。隨著技術發(fā)展的復雜性以及與社會交互的不確定性，新的技術評估需要能夠精準、實時地判斷和預測技術的社會綜合影響和社會變革，因此需要相應方法支撐其更好地發(fā)揮作用。清華大學蘇竣教授在《2019觀察》中提到了“社會實驗”的方法，證明中國的人工智能風險評估已經邁出了可喜的一步。

當然，人工智能評估工作在國際上仍然屬于探索性的前沿課題。我國由于疫情控制得當，人工智能產業(yè)繼續(xù)穩(wěn)步發(fā)展，因此有必要通過一定方式進一步推動人工智能風險評估工作。

3.2 打造對接渠道，推動中國專家參與外交討論

由于人工智能治理是新興國際議題，還缺乏有效的國際交流平臺。《2019觀察》由中國智庫發(fā)起，得到全球眾多人工智能治理機構和知名專家的響應，本身說明國際上普遍希望與中國各層級對話交流。此外國際規(guī)則也迫切需要中國參與和認可。由于中國不是經濟合作與發(fā)展組織成員國，經合組織的人工智能原則只能通過 G20 平臺得到中國的認可。因此在當前形勢下，需要積極建立國際對接渠道，有序推動如中國-經濟合作與發(fā)展組織、中國-歐盟、中國-東盟乃至中美談判。建議在外交場合推薦更多中國科學家和企業(yè)家參與相關專家委員會，確保規(guī)則制定的科學性。多頭并舉履行大國擔當，確保我國在國際合約制定的前期討論中不缺席。

除了參與交流，中國也需要更積極地引領國際對話。引領國際人工智能對話的基礎是研究能力。2019年有許多人工智能治理研究機構成立，如多倫多大學的施瓦茨·賴斯曼技術與社會研究所、華盛頓特區(qū)的安全與新興技術中心，與早前成立的牛津大學人工智能倫理研究所和牛津大學互聯網學院發(fā)布的新興技術治理項目、人類未來研究所、未來生命研究所等，組成了全球最為重要的人工智能治理專業(yè)研究機構。我國近些年也有不少人工智能治理的研究機構成立，為對話交流奠定了基礎。未來中國需要基于人工智能的研發(fā)和產業(yè)實踐以及人工智能治理的研究基礎，更加積極主動設置國際議題，引領國際對話。

3.3 創(chuàng)新治理路線，鼓勵企業(yè)進行微觀治理

從《2019觀察》來看，企業(yè)既是人工智能治理的受體，也可以是主體。企業(yè)可以率先開發(fā)相關的技術，來預防或者檢驗人工智能的惡意應用。以歐洲為主的人工智能倫理治理路線，采用自上而下的模式，先制定人工智能倫理“憲章”，再制定具體規(guī)則。但是從中國的技術產業(yè)發(fā)展現狀和技術治理歷史背景來看，我們或許可以采用其他路線。中國的企業(yè)不僅是被治理的對象，同時也是把握用戶需求的前哨。目前騰訊、曠視等中國公司雖然也提出了自己的人工智能倫理原則，但是從公開的信息源來看并沒有具體的技術和制度方案，如果僅僅有原則而無可執(zhí)行的方案，則會有“道德清洗”的嫌疑。如果企業(yè)能夠開發(fā)出新的技術屏蔽人工智能假新聞、假視頻，確保人工智能負責任發(fā)展，那將不僅僅是引領人工智能治理的走向，同時也有可能引領人工智能的產業(yè)方向。鑒于中國人工智能企業(yè)的快速發(fā)展，如果從市場中及時發(fā)現治理問題，然后積極探索技術和制度上的解決方案，有可能為人工智能產業(yè)的健康發(fā)展探索出合適的路線?！?/p>