文/王曉菲（中國科學技術信息研究所）

2020 年2 月，歐盟委員會發(fā)布《人工智能白皮書：通往卓越與信任的歐洲之路》（以下簡稱《白皮書》），認為面對人工智能帶來的機遇和挑戰(zhàn)，歐洲需要建立卓越且可信任的人工智能生態(tài)系統(tǒng)。為實現(xiàn)“卓越”目標，應向世界輸出歐洲人工智能價值觀與規(guī)則，推動公共部門應用人工智能。為實現(xiàn)“可信賴”目標，應構(gòu)建歐洲共同人工智能監(jiān)管框架，按照風險分級監(jiān)管。

《白皮書》指出，人工智能同時帶來機遇和挑戰(zhàn)，因此歐洲需要構(gòu)建卓越和可信任的人工智能生態(tài)系統(tǒng)。其中“卓越”是指能夠充分吸收和發(fā)展相關技術，抓住稍縱即逝的機會；“可信任”是指能夠充分應對人工智能的潛在風險。

一、歐洲人工智能發(fā)展前景分析

（一）優(yōu)勢：多方面能力和下一次數(shù)據(jù)浪潮

歐洲在開發(fā)人工智能潛力方面具備優(yōu)勢，因為它不僅是人工智能的使用者，還具備設計創(chuàng)新與生產(chǎn)制造能力。在設計創(chuàng)新方面，歐洲擁有卓越的研究中心和創(chuàng)新型企業(yè)、強大的計算設施和大量未充分利用的公共數(shù)據(jù)。在生產(chǎn)制造方面，歐洲在制造業(yè)人工智能應用上處于世界領先地位，在低能耗數(shù)字安全系統(tǒng)上具有公認的產(chǎn)業(yè)優(yōu)勢，而這兩個方面對人工智能未來發(fā)展至關重要。

下一波數(shù)據(jù)浪潮將給歐洲帶來新的機會。全球數(shù)據(jù)量迅猛增長，智能互聯(lián)物品和邊緣計算的數(shù)據(jù)存儲處理量不斷提高。利用該契機，歐洲可以扭轉(zhuǎn)數(shù)據(jù)應用劣勢，結(jié)合低耗能電子產(chǎn)品優(yōu)勢發(fā)展下一代人工智能處理器，結(jié)合神經(jīng)網(wǎng)絡優(yōu)勢發(fā)展工業(yè)4.0 時代的自動化工業(yè)流程和自動駕駛，結(jié)合科研優(yōu)勢維持人工智能算法領先地位。

（二）不足：投資與數(shù)據(jù)

歐洲需要大幅提高人工智能研究創(chuàng)新的公共與私人投資，彌合與北美、亞洲等主要競爭地區(qū)的投資差距。

歐洲數(shù)據(jù)基礎設施建設應滿足可信任人工智能需求。換言之，這些數(shù)據(jù)基礎設施生成的數(shù)據(jù)可用于訓練人工智能，其生成的人工智能應該符合歐洲的人工智能價值觀與規(guī)則。

二、構(gòu)建卓越生態(tài)系統(tǒng)

歐盟應構(gòu)建卓越生態(tài)系統(tǒng)，推動公共和私人部門對人工智能的開發(fā)利用，并在以下方面加快行動：

（一）向世界推廣歐洲人工智能價值觀與規(guī)則

向世界推廣歐盟的人工智能價值觀有利于歐洲實現(xiàn)全球人工智能領導地位，因此歐盟的國際合作必須建立在自身價值觀和人工智能規(guī)則的基礎上。歐洲人工智能價值觀的核心是尊重人權(quán)，包括人性尊嚴、多樣性、非歧視、隱私、個人數(shù)據(jù)保護等方面。歐洲人工智能主要規(guī)則包括支持向上規(guī)制趨同（upward regulatory convergence）、共享包括數(shù)據(jù)在內(nèi)的關鍵資源、建立公平的競爭環(huán)境等。其中，歐盟委員會將重點監(jiān)控第三國政策是否會對數(shù)據(jù)流通形成不當限制，并通過雙邊貿(mào)易談判和世貿(mào)組織解決這一問題。

（二）推動公共部門應用人工智能

人工智能應盡快融入公共領域（如政府部門、醫(yī)療、公用事業(yè)、交通服務、金融監(jiān)管機構(gòu)），特別是在大規(guī)模應用條件成熟的醫(yī)療和交通領域。歐盟將制定這些領域的人工智能開發(fā)、試驗和應用計劃，優(yōu)先關注醫(yī)療、農(nóng)村地區(qū)的政府和公共機構(gòu)。歐盟還將制定《人工智能應用計劃》，旨在將人工智能納入公共采購范圍，并利用人工智能優(yōu)化公共采購流程。

（三）以人工智能推進環(huán)保

環(huán)保應成為人工智能發(fā)展重要原則。歐盟委員會應與成員國共同利用人工智能系統(tǒng)提高資源和能源使用效率，應對氣候變化和環(huán)境惡化。

（四）加強計算能力建設

計算基礎設施是人工智能發(fā)展的重要基礎。歐盟委員會將通過《數(shù)字歐洲計劃》投入超過40億歐元，用以發(fā)展高性能計算、量子計算、邊緣計算、云計算等基礎設施。

（五）在研究、創(chuàng)新與投資方面形成合力

歐洲擁有眾多人工智能研究與創(chuàng)新機構(gòu)，但這些機構(gòu)各自展開工作，未能形成規(guī)模效應，難以與全球領先者競爭。《白皮書》建議，研究與創(chuàng)新機構(gòu)之間應加強合作與網(wǎng)絡構(gòu)建，以吸引人才和投資并提高水平。歐洲在某些領域具備成為全球領導者的潛力，應該成為歐洲人工智能研究創(chuàng)新機構(gòu)共同努力的方向，如工業(yè)、健康、交通、金融、農(nóng)產(chǎn)食品價值鏈、能源/環(huán)境、林業(yè)、地球觀測與空間領域。此外，建設試驗與測試中心同樣重要，因為它們能夠推動研究創(chuàng)新的后續(xù)開發(fā)利用。

為優(yōu)化投資效果，歐盟應修訂《人工智能協(xié)調(diào)計劃》，將歐盟層面投資集中于單個成員國不能完成的行動領域，著重滿足欠發(fā)達與農(nóng)村地區(qū)的需求，并吸引其它主體的共同投資，實現(xiàn)未來10 年內(nèi)投入超過200 億歐元的投資目標。

（六）加強技能培訓

歐洲公民的人工智能技能水平有待提高，應從監(jiān)管人員、教育培訓體系、倫理教育以及碩士課程幾個方面著重入手。歐盟將：加強對官員的人工智能培訓，基于人工智能提升管理水平；修訂《數(shù)字教育行動計劃》以改革教育與培訓體系，通過學習和預測性分析等人工智能技術提高教學質(zhì)量，并在各階段教育中增加人工智能科普課程；建立由世界一流水平的歐洲大學與高等教育機構(gòu)組成的網(wǎng)絡，吸引全世界最優(yōu)秀的科學家與教授，開展世界一流的人工智能碩士教育。

（七）推進中小企業(yè)人工智能應用

歐盟將從技術供給和融資兩方面進行支持。在技術供給方面，數(shù)字創(chuàng)新樞紐將加強對中小企業(yè)技術支持，每個成員國應確保擁有至少一個人工智能專業(yè)水平較高的數(shù)字創(chuàng)新樞紐。在融資方面，歐盟將于2020 年發(fā)起總額為1 億歐元的資助計劃，通過股權(quán)融資為中小企業(yè)和初創(chuàng)企業(yè)提供開發(fā)創(chuàng)新性人工智能應用的資金。

（八）促進公私合作

歐盟委員會將在人工智能、數(shù)據(jù)和機器人領域建立新的公私合作伙伴關系，進行研究創(chuàng)新、投資以及與其他歐盟伙伴開展合作。

三、構(gòu)建可信任生態(tài)系統(tǒng)

構(gòu)建可信任生態(tài)系統(tǒng)要求建立歐洲共同人工智能監(jiān)管框架，否則對潛在風險的恐懼將阻礙人工智能的發(fā)展，各成員國建立不同的監(jiān)管框架將會割裂單一市場，難以形成規(guī)模效應。

（一）主要目標

監(jiān)管框架以減少人工智能對社會的潛在風險為目標，特別是那些危害最大的風險：一是對個人數(shù)據(jù)、隱私保護和非歧視等基本權(quán)利的威脅，如人工智能可用于解密匿名數(shù)據(jù)，或從數(shù)據(jù)中“學會”歧視。二是對安全和法律責任制度的挑戰(zhàn)，如自動駕駛可能造成車禍，而車禍原因可能很復雜，既有可能是算法問題，也有可能是數(shù)據(jù)或設備問題。而現(xiàn)有法律制度難以公平合理地追責。

（二）適用范圍

監(jiān)管框架應適用于一切使用人工智能技術的產(chǎn)品與服務，其中關于“人工智能”的定義包含“數(shù)據(jù)和算法”兩大元素。該定義留出了修改空間，以適應未來人工智能技術的發(fā)展，又不至過分模糊而引起執(zhí)法糾紛。為減輕監(jiān)管負擔，監(jiān)管框架與其它歐盟法之間是“特殊法與一般法”的關系，即監(jiān)管框架只規(guī)定確需專門立法的人工智能法律問題，沒有涉及的部分仍由其它歐盟法規(guī)定，如消費者保護法、競爭法等，以最大程度地避免重復立法。

（三）基本原則

監(jiān)管框架建立在七大基本原則上，即：由人類授權(quán)并監(jiān)控，技術魯棒性（robustness，本義指“可靠、健壯”，特指在異常和危險情況下系統(tǒng)生存的能力）與安全性，隱私與數(shù)據(jù)治理，透明度，多樣性、非歧視與公平性，社會與環(huán)境福祉，可追責性。

（四）分級風險監(jiān)管

為避免過重監(jiān)管阻礙創(chuàng)新，監(jiān)管框架將按照風險分級，對“高風險”人工智能進行更為嚴格的監(jiān)管。風險分級標準如下：首先，以“領域”和“用途”為主要標準劃分風險高低，只有都符合標準才屬于高風險人工智能。例如，從領域上來看，醫(yī)療、交通、能源和許多公共領域的人工智能都屬高風險。但從用途上來看，醫(yī)療預約系統(tǒng)錯誤影響較小。因此，涉及生命健康的醫(yī)用人工智能屬于高風險人工智能，但醫(yī)療預約系統(tǒng)不屬于。其次，以上規(guī)定屬于一般規(guī)則，但影響重大的人工智能技術除外，如用于招聘的人工智能、遠程生物特征識別等侵擾式監(jiān)控技術，無論何種領域和用途都為高風險。

（五）高風險人工智能監(jiān)管

首先，應從如下方面對高風險人工智能進行監(jiān)管，包括：

訓練人工智能的數(shù)據(jù)應符合要求。人工智能的運行方式和決策很大程度上取決于訓練數(shù)據(jù)，應采取必要措施確保該過程符合歐盟規(guī)則與價值觀，特別是安全、非歧視、個人與隱私數(shù)據(jù)保護原則。安全和非歧視原則通常要求提高數(shù)據(jù)的代表性，如覆蓋所有危險情況或少數(shù)群體。個人隱私和數(shù)據(jù)保護主要由《通用數(shù)據(jù)保護條例》和《執(zhí)法指令》規(guī)定。

為追溯隱患原因并明確責任，應在合理期限內(nèi)保留部分記錄和數(shù)據(jù)，供監(jiān)管部門在必要時查詢。這些記錄和數(shù)據(jù)主要包括：有關算法設計與運行的記錄，特別是如何確保安全和非歧視；有關如何選取訓練數(shù)據(jù)與驗證數(shù)據(jù)的記錄，包括數(shù)據(jù)的主要特征和選取方法；在必要時還應保留數(shù)據(jù)本身。

為負責任地使用高風險人工智能，使用者應被告知如下信息：自己正在和人工智能交互，而不是與人類互動；正在使用的人工智能系統(tǒng)的用途和局限。

為確保技術魯棒性，人工智能系統(tǒng)（特別是其中的高風險類別）應確保：在整個生命期間內(nèi)可靠且精確，或者至少能夠正確反映出精確程度；結(jié)果是可復制的；能夠在整個生命周期內(nèi)有效應對錯誤或不兼容問題；不僅能夠抵御公開襲擊，而且能夠應對更為隱蔽的操縱數(shù)據(jù)或算法的企圖，并采取補救措施。

所有高風險人工智能都應接受人工監(jiān)控，但監(jiān)控嚴格程度應由用途和影響決定，包括但不限于：輸出結(jié)果經(jīng)人工審查確認后方可生效（如批準社保）；輸出結(jié)果立即生效，但之后將接受人工審查（如授予信用卡）；對運行中的人工智能系統(tǒng)進行監(jiān)控，必要時立即由人工接管（如由駕駛員決定何時由人工駕駛代替自動駕駛）；在設計階段加入對人工智能系統(tǒng)的限制（如在傳感器信號較低時使自動駕駛汽車停車）。

遠程生物特征識別應遵守特別規(guī)定。遠程生物特征識別包括在公共場所進行人臉識別等技術，只能在公眾利益確有需要時方可使用，且應接受嚴格審批。

其次，由最應解決問題的主體承擔上述責任。常見的責任主體包括人工智能開發(fā)者、制造者、銷售者、使用者或服務提供者，各應解決不同的問題。例如，開發(fā)者應對開發(fā)階段的隱患負責，使用者應對使用階段的隱患負責。

第三，高風險人工智能投入使用前應接受事前合規(guī)審查，審查內(nèi)容為是否履行了上述規(guī)定。

（六）普通人工智能監(jiān)管

為鼓勵相關主體自覺提高人工智能安全水平，普通人工智能應用也可自愿申請“升級”監(jiān)管——即達到高風險人工智能標準。作為激勵，確實達到高風險標準的人工智能應用可獲得監(jiān)管部門標簽認證，提高其在消費者心中的信譽。