魯傳穎
2024年1月16日,世界經(jīng)濟論壇2024年年會在瑞士達沃斯舉行,“人工智能推動經(jīng)濟社會發(fā)展”為關(guān)鍵議題,以“善治”促“善智”成為各方共同呼聲。
2月2日,歐盟27國代表投票一致支持《人工智能法案》(以下簡稱“法案”)文本。法案仍需提交歐洲議會批準(zhǔn),如果成功獲批,相關(guān)規(guī)則將分階段實施。該法案是全球首個全面監(jiān)管人工智能(AI)的綜合性法規(guī),旨在為人工智能的開發(fā)、使用和推廣提供一個基于風(fēng)險識別分析的法律框架,以保護信息安全、公民基本權(quán)利和公共利益。在加強監(jiān)管的同時,也尋求在促進人工智能的創(chuàng)新和競爭力方面做出平衡。
眾所周知,歐盟在新興技術(shù)領(lǐng)域的監(jiān)管一直處于全球領(lǐng)先地位。2001年制定的《布達佩斯網(wǎng)絡(luò)犯罪公約》和2016年制定的《通用數(shù)據(jù)保護條例》對全球網(wǎng)絡(luò)安全和數(shù)據(jù)安全治理產(chǎn)生了重要影響,也是各國學(xué)習(xí)和參考的主要對象。因此,這種由歐盟單方面制定的規(guī)則對國際規(guī)則和各國國內(nèi)政策產(chǎn)生重要影響的現(xiàn)象被稱為“布魯塞爾效應(yīng)”。法案是人工智能治理領(lǐng)域的一個里程碑事件,受到了國際社會的廣泛關(guān)注。一方面,法案的監(jiān)管思路和創(chuàng)新舉措對各國都具有一定的參考價值;另一方面,法案因可能對技術(shù)進步和產(chǎn)業(yè)發(fā)展產(chǎn)生制約,也受到了廣泛質(zhì)疑。因此,法案最終是“布魯塞爾效應(yīng)”還是“布魯塞爾陷阱”,還有待時間檢驗。
法案延續(xù)了歐盟一貫的監(jiān)管思路,以保護人權(quán)和價值觀為基本原則,旨在尋求人工智能的安全與發(fā)展。歐盟一直堅持公民在物理世界中所擁有的權(quán)力,在數(shù)字空間中必須得到同樣的保障。人工智能系統(tǒng)如果存在嚴(yán)重違反《歐盟基本權(quán)利憲章》中基本人權(quán)的風(fēng)險,就應(yīng)該完全被禁止。對于其他涉及可能會對人權(quán)和社會帶來風(fēng)險的重要領(lǐng)域,應(yīng)當(dāng)施加重點監(jiān)管,并且對所開發(fā)的人工智能系統(tǒng)先行開展評估,通過后才能上市。
法案有三個較為重要的創(chuàng)新之處。第一是開啟了人工智能橫向監(jiān)管進程。在這之前,人工智能的監(jiān)管一般都是縱向監(jiān)管。例如,美國在金融和無人駕駛領(lǐng)域已經(jīng)出臺了相關(guān)監(jiān)管措施??v向監(jiān)管涉及的領(lǐng)域相對專業(yè),群體較小,比較容易開展監(jiān)管。橫向監(jiān)管是適用于所有部門和應(yīng)用的法律規(guī)則,覆蓋所有領(lǐng)域和人群,因此對法律的要求也更高,更難以達成共識。這也是法案在強調(diào)嚴(yán)格監(jiān)管的同時也注重監(jiān)管創(chuàng)新的原因,例如鼓勵各國開展“沙盒測試”,給中小企業(yè)提供更多的便利和支持等。
第二是建立了基于風(fēng)險等級的監(jiān)管體系。歐盟以人權(quán)和安全為基準(zhǔn),將人工智能風(fēng)險分為四個等級:禁止的行為、高風(fēng)險系統(tǒng)、有限風(fēng)險系統(tǒng)和最低風(fēng)險系統(tǒng)。不同類別的人工智能系統(tǒng)需要遵守不同的監(jiān)管要求。禁止的行為是指利用人工智能進行操縱、社會評分或濫用生物特征識別等可能嚴(yán)重侵犯人的尊嚴(yán)、自由或民主的行為。高風(fēng)險系統(tǒng)是指那些涉及重要的社會或經(jīng)濟領(lǐng)域,如醫(yī)療、教育、交通、就業(yè)和司法等,可能對人的生命、健康、安全或基本權(quán)利造成重大影響的系統(tǒng),法案要求這類系統(tǒng)在上市前進行強制性的合格評估,并遵守一系列的質(zhì)量、透明度、人工干預(yù)、監(jiān)督和糾正等原則和義務(wù)。有限風(fēng)險系統(tǒng)是指那些可能對人的行為或選擇產(chǎn)生影響,或?qū)θ说碾[私或其他權(quán)利造成影響的系統(tǒng),如深度偽造、情感識別等,法案要求這類系統(tǒng)提供充分的信息披露和透明度,以便用戶能夠理解和控制這類系統(tǒng)。最低風(fēng)險系統(tǒng)是指對人的權(quán)利和利益沒有或只有極小影響的系統(tǒng),如娛樂、游戲等,法案對這類系統(tǒng)沒有特別的監(jiān)管要求,但鼓勵遵守一些自愿的行業(yè)標(biāo)準(zhǔn)和最佳實踐。
第三是為配合法案落地,建立了一整套的執(zhí)法體系和多層次的監(jiān)督和執(zhí)行機制,包括歐盟人工智能委員會、歐盟成員國的國家監(jiān)管機構(gòu)、歐盟委員會和歐洲數(shù)據(jù)保護委員會等。歐盟人工智能委員會是一個由歐盟成員國代表組成的專家委員會,負(fù)責(zé)協(xié)調(diào)和促進歐盟成員國之間的合作,以及就人工智能的風(fēng)險分類、合格評估和標(biāo)準(zhǔn)制定等提供建議和指導(dǎo)。歐盟成員國的國家監(jiān)管機構(gòu)是負(fù)責(zé)監(jiān)督和執(zhí)行法案的主要機構(gòu),要求每個成員國至少需要設(shè)立一個國家監(jiān)管機構(gòu),負(fù)責(zé)檢查和審核人工智能系統(tǒng)的合規(guī)性,以及對違反法案的行為進行調(diào)查和處罰。歐盟委員會和歐洲數(shù)據(jù)保護委員會則負(fù)責(zé)在歐盟層面進行監(jiān)督和協(xié)調(diào),以及處理跨境或跨部門的人工智能相關(guān)問題和爭議。
法案的推出只是歐盟開展人工智能監(jiān)管的第一步,后續(xù)的配套技術(shù)標(biāo)準(zhǔn)和成員國如何落實監(jiān)管要求尚未啟動。因此,法案的最終效力如何還有待生效后才能更好地進行評估。僅從文本角度來看,各方對法案的質(zhì)疑主要包括以下三個方面。
首先,法案沒能完全反映人工智能技術(shù)的復(fù)雜性。法案所追求的確定性與人工智能技術(shù)存在的不確定性之間存在一定的矛盾。對于一個快速發(fā)展的戰(zhàn)略性技術(shù),盡管安全至關(guān)重要,但將過多的資源投入到安全中會影響技術(shù)的進步。法案提出了一系列的技術(shù)性安全要求,包括風(fēng)險管理體系、技術(shù)文檔、數(shù)據(jù)質(zhì)量、人工干預(yù)、透明度、準(zhǔn)確性、魯棒性和安全性等,試圖通過這些舉措來確保人工智能系統(tǒng)的可信賴性和安全性,保護人類的基本權(quán)利和價值。事實上,在現(xiàn)有的技術(shù)條件下,即使都滿足上述要求的人工智能系統(tǒng),也無法完全杜絕風(fēng)險的出現(xiàn)。從本質(zhì)上而言,人工智能的風(fēng)險具有量子思維中的不可預(yù)測、難以測量等特質(zhì)。
其次,法案的監(jiān)管思路和范疇跟不上快速迭代的人工智能技術(shù)。盡管法案是以風(fēng)險等級劃分來實施監(jiān)管,但技術(shù)的進步會不斷打破不同風(fēng)險等級之間的界限。人工智能技術(shù)的快速進步可能導(dǎo)致投入大量人力、物力的法案尚未生效就已經(jīng)落后。法案曾因ChatGPT3.0的誕生而延遲發(fā)布,并且增加了關(guān)于生成式人工智能的監(jiān)管內(nèi)容。但是,生成式人工智能僅是人工智能眾多發(fā)展路線中的一條而已。未來,在模型、算力和算法不斷取得突破的驅(qū)動下,各類人工智能技術(shù)將會齊頭并進,法案可能處于落后于技術(shù)發(fā)展的尷尬境地。
2024年2月14日,第一屆人工智能節(jié)在意大利米蘭舉辦,這一國際節(jié)日積極致力于開發(fā)人工智能世界。圖為當(dāng)日展出的機器狗。
最后,監(jiān)管和創(chuàng)新之間的平衡問題。法案主要針對高風(fēng)險的人工智能系統(tǒng),這些要求給人工智能的開發(fā)和創(chuàng)新帶來一定的負(fù)擔(dān)和障礙。對于大企業(yè)而言,面臨著消極和積極兩個方面的影響。消極面是大量合規(guī)要求會阻礙技術(shù)的進一步發(fā)展和市場拓展,積極面則是合規(guī)門檻高企會阻止更多企業(yè)進入人工智能領(lǐng)域,有助于形成壟斷,但這可能會對一些中小型人工智能企業(yè)或研究機構(gòu)造成不公,它們難以承擔(dān)相應(yīng)的合規(guī)成本和風(fēng)險。強監(jiān)管一直被認(rèn)為是歐盟數(shù)字技術(shù)發(fā)展受限的主要原因之一。因此,法案的出臺將可能導(dǎo)致歐盟人工智能技術(shù)和產(chǎn)業(yè)發(fā)展的進一步滯后。法國、德國和意大利等國一直對法案可能限制未來人工智能產(chǎn)業(yè)發(fā)展高度警惕。
法案的出臺是“布魯塞爾模式”的又一重要實踐。作為全球規(guī)范性力量的代表,歐盟正試圖通過其在監(jiān)管政策和標(biāo)準(zhǔn)規(guī)則方面的努力,來打造自身在數(shù)字時代和智能時代的國際競爭力與話語權(quán)。然而,由于法案存在的不足和挑戰(zhàn),其是否能夠引領(lǐng)全球人工智能治理尚存疑問。
歐盟率先推出橫向監(jiān)管,對全球人工智能安全治理具有重要的探索和實踐意義。無論是從國際機制還是從國內(nèi)監(jiān)管的角度,各國都會高度關(guān)注法案以及后續(xù)配套設(shè)施建設(shè)情況。但是,由于法案本身的原創(chuàng)性內(nèi)容并不如《布達佩斯網(wǎng)絡(luò)犯罪公約》和《通用數(shù)據(jù)保護條例》那么多,很多內(nèi)容更多地是借鑒其他領(lǐng)域的成功實踐或已有的共識。因此,歐盟要想在全球人工智能治理領(lǐng)域取得更大的影響力,就需要在后續(xù)執(zhí)法過程中檢驗法案的有效性和可操作性。由于歐盟具備全球領(lǐng)先的立法和執(zhí)法能力,在這一點上仍值得期待。
然而,從監(jiān)管對象看,法案主要針對人工智能系統(tǒng)的開發(fā)者,這與《通用數(shù)據(jù)保護條例》涉及的廣泛數(shù)據(jù)收集者、存儲者和處理者相比,門檻要高得多。因此,法案的監(jiān)管對象更像是歐盟《數(shù)字服務(wù)法》中所指出的“守門人”。按此推理,需要接受監(jiān)管的企業(yè)主要是Open AI、Anthropic、微軟、Meta和谷歌等少數(shù)歐盟和中國的大型語言模型開發(fā)者和提供者。美國和中國都有發(fā)展技術(shù)和產(chǎn)業(yè)的需求,不會跟風(fēng)對人工智能實施強監(jiān)管。因此,人工智能技術(shù)會在歐盟之外以更快的速度發(fā)展。
此外,在監(jiān)管效果角度上,法案僅僅是一個開始,其落地舉措還需要大量技術(shù)標(biāo)準(zhǔn)和最佳實踐的支持。目前,人工智能領(lǐng)域的技術(shù)標(biāo)準(zhǔn)仍在快速制定中,國際標(biāo)準(zhǔn)化組織(ISO)、國際電信聯(lián)盟(ITU)和電氣與電子工程師協(xié)會標(biāo)準(zhǔn)協(xié)會(IEEE SA)等國際標(biāo)準(zhǔn)組織都在加快人工智能安全標(biāo)準(zhǔn)制定。也就是說,法案最終落地還要依靠國際標(biāo)準(zhǔn)組織的成果,這也影響了“布魯塞爾效應(yīng)”的發(fā)揮。
(作者為上海國際問題研究院公共政策與創(chuàng)新研究所副所長、研究員)