張苑??陳秋萍

習(xí)近平總書記指出，“加快發(fā)展新一代人工智能是我們贏得全球科技競爭主動權(quán)的重要戰(zhàn)略抓手，是推動我國科技跨越發(fā)展、產(chǎn)業(yè)優(yōu)化升級、生產(chǎn)力整體躍升的重要戰(zhàn)略資源”。在共同促進全球人工智能健康、有序、安全發(fā)展的過程中，學(xué)習(xí)全球主要經(jīng)濟體發(fā)展和監(jiān)管人工智能產(chǎn)業(yè)的有益經(jīng)驗，有助于我國更好把握產(chǎn)業(yè)發(fā)展大勢，提升治理水平。歐洲議會、歐盟委員會和27個成員國代表在36個小時艱難談判之后，就歐盟《人工智能法案》（以下簡稱《法案》）達成里程碑式協(xié)議。其中，平衡發(fā)展與監(jiān)管是談判的焦點，形成的部分成果值得參考借鑒。

歐盟《人工智能法案》的歷史性進展

自2016年起，歐盟不斷探索推進對人工智能技術(shù)應(yīng)用的監(jiān)管體系建構(gòu)（表1），并于2021年開始逐步設(shè)計和推進《法案》的總體框架和具體細節(jié)。在2022年11月ChatGPT問世后，這一進程明顯提速：2023年6月通過了《法案》談判授權(quán)草案；12月9日，在經(jīng)歷了36個小時“馬拉松式”談判后，歐洲議會、歐盟委員會和27個成員國的談判代表就歐盟《人工智能法案》達成歷史性政治協(xié)議。本次協(xié)議的細節(jié)內(nèi)容尚未公布，從歐洲議會和歐盟委員會發(fā)布的新聞稿內(nèi)容看，重大進展主要包括四個方面。

第一，鞏固了基于風(fēng)險分類的人工智能監(jiān)管方法。此次協(xié)議首先明確了以經(jīng)濟合作與發(fā)展組織（OECD）制定的全球公認標準來界定“人工智能系統(tǒng)”，即“基于機器的系統(tǒng)，為了或明確或隱含的目標，通過其接收到的輸入信息來生成諸如預(yù)測、內(nèi)容、建議和決策等輸出內(nèi)容”，定義較2021年版本有所收窄?！斗ò浮吩谘赜蔑L(fēng)險分類思路的基礎(chǔ)上，將人工智能系統(tǒng)四個風(fēng)險類別（不可接受風(fēng)險、高風(fēng)險、有限風(fēng)險以及最小/無風(fēng)險）中的不可接受風(fēng)險和高風(fēng)險兩個類別進行了更為詳盡的規(guī)定（表2）。在不可接受風(fēng)險中，僅有一類應(yīng)用可獲得豁免，即執(zhí)法機關(guān)利用相關(guān)技術(shù)打擊犯罪，比如通過生物信息識別技術(shù)尋找被拐賣的兒童、捉拿重罪犯人等，這一情況在法院授權(quán)的情況下可被允許。

第二，取得了生物識別技術(shù)和通用人工智能模型（GPAI）監(jiān)管的暫時性共識。對生物識別技術(shù)和通用人工智能模型（包括基礎(chǔ)模型）監(jiān)管的爭論是本次談判的焦點，歐盟試圖將新的人工智能技術(shù)以及尚未開發(fā)的未來技術(shù)納入立法范圍。在生物識別技術(shù)方面，本次協(xié)議并未全面禁止，而是提出除非事先獲得司法授權(quán)且針對特定犯罪，否則將禁止在公共場所使用遠程生物識別（RBI）系統(tǒng)，即自動面部識別（AFR）系統(tǒng)；出于特定的執(zhí)法目的，例如防止迫在眉睫的恐怖威脅或調(diào)查嚴重犯罪，該類技術(shù)的某些應(yīng)用可能是允許的，但每種應(yīng)用都受到嚴格的條件限制。在ChatGPT等通用人工智能模型方面，本次協(xié)議比起最初的提案新增了透明度要求和防護措施等內(nèi)容。三方談判的核心分歧是基礎(chǔ)模型的監(jiān)管方式，德、法、意在內(nèi)的至少5個成員國認為，不應(yīng)對基礎(chǔ)模型施加任何監(jiān)管，但最終為了達成本次協(xié)議而妥協(xié)。雖然大語言模型等基礎(chǔ)模型本身并未被納入“高風(fēng)險”之中，但法案要求開發(fā)者對其透明度義務(wù)負責(zé)，這意味著開發(fā)者必須公布他們訓(xùn)練模型時使用的內(nèi)容細節(jié)，確保遵守了歐盟的知識版權(quán)法律。此外，還引入了通用人工智能的防護措施，要求可能造成“系統(tǒng)性風(fēng)險”的AI模型承擔(dān)與管理風(fēng)險和監(jiān)控嚴重事件以及執(zhí)行模型評估和對抗性測試相關(guān)的額外約束性義務(wù)。

第三，推出了人工智能監(jiān)管沙盒等支持創(chuàng)新和中小企業(yè)的措施。由于2018年開始生效的歐盟《通用數(shù)據(jù)保護條例》對個人數(shù)據(jù)保護過于嚴苛，不利于創(chuàng)新發(fā)展。本次協(xié)議吸取經(jīng)驗，突破性提出采取沙盒措施，在人工智能系統(tǒng)開發(fā)和上市前階段建立受控的實驗和測試環(huán)境以促進創(chuàng)新，并進一步規(guī)范沙盒準入標準、申請程序、選擇與退出沙盒以及參與沙盒各方的權(quán)利與義務(wù)等事宜，體現(xiàn)了技術(shù)監(jiān)管的同時兼顧人工智能技術(shù)的發(fā)展和對個人基本權(quán)利的保障，一定程度上將降低初創(chuàng)企業(yè)和中小企業(yè)的進入門檻。

第四，明確了執(zhí)法框架和部分處罰細節(jié)。本次協(xié)議提出：將在歐盟委員會內(nèi)設(shè)置歐洲人工智能辦公室這一新機構(gòu)，承擔(dān)各種行政、標準制定和執(zhí)行任務(wù)，包括通用AI模型的新規(guī)則等；由歐盟成員國代表組成的歐洲人工智能委員會將繼續(xù)作為協(xié)調(diào)平臺和咨詢機構(gòu)服務(wù)于《法案》的實施；利益相關(guān)者咨詢論壇將成立，為人工智能委員會提供技術(shù)專業(yè)知識。預(yù)計《法案》將主要通過各成員國的國家主管市場監(jiān)督機構(gòu)執(zhí)行，違反《法案》可能會導(dǎo)致750萬歐元到3500萬歐元不等的罰款，具體金額取決于違規(guī)行為，但對中小企業(yè)和初創(chuàng)企業(yè)的行政罰款放寬了比例上限。

歷史性協(xié)議達成的標桿意義

本次歐盟急于達成《人工智能法案》政治臨時協(xié)議的主要原因有兩方面：一方面，由于歐盟內(nèi)部希望在2024年6月歐盟選舉前完成相關(guān)立法的重要程序，以防止立法完全失效或推遲到2025年；另一方面，法國作為2024年奧運會的主辦國，正在大力推動合法利用人工智能打擊犯罪和恐怖主義。本次協(xié)議允許在《法案》通過后分階段生效，包括禁止使用規(guī)則允許6個月，透明度和治理要求12個月，所有其他要求24個月。《法案》由歐盟官方發(fā)布后成為法律，所有條款將在未來兩年內(nèi)逐步生效，即全部法律效力可能要到2026年才能完全實現(xiàn)。本次協(xié)議的達成，更多意味著歐盟對人工智能監(jiān)管和治理框架輪廓的逐步清晰。歐盟率先推出橫向綜合性人工智能監(jiān)管和治理規(guī)則體系，體現(xiàn)了其試圖引領(lǐng)塑造全球范圍內(nèi)的人工智能監(jiān)管和治理共識、規(guī)則和標準的雄心，必將引發(fā)全球主要經(jīng)濟體在人工智能監(jiān)管話語權(quán)和影響力的新一輪競爭。其標桿意義主要有三個方面。

第一，樹立全球人工智能的橫向立法標桿。近年來，歐盟放大數(shù)字經(jīng)濟立法領(lǐng)域“布魯塞爾效應(yīng)”（指歐盟通過其單方面的市場規(guī)制能力，在無需其他國家、協(xié)作的情況下，制定出全球市場遵循的規(guī)章制度。這種規(guī)則制定能力引領(lǐng)了全球商業(yè)環(huán)境的形成，導(dǎo)致全球商業(yè)許多重要方面的“歐洲化”）的趨勢進一步增強。《法案》歷史性協(xié)議達成，有助于歐盟進一步利用“布魯塞爾效應(yīng)”，對全球人工智能技術(shù)和產(chǎn)業(yè)發(fā)展產(chǎn)生直接影響。此外，歐盟《法案》的立法推進速度已明顯早于美國國會，有助于歐盟通過聯(lián)合國、G20和G7等多邊合作平臺，積極推廣自身理念規(guī)則，增強該法案的國際影響力?！斗ò浮凡扇×藱M向立法模式，即適用于所有投放于歐盟市場或者在歐盟可使用的人工智能系統(tǒng)，可以覆蓋金融、醫(yī)療、教育、能源、運輸、司法等各個行業(yè)領(lǐng)域，這與美國更加偏好的區(qū)分行業(yè)領(lǐng)域的垂直立法模式有著顯著區(qū)別。作為全球第一個全面、橫向且具有約束力的人工智能法規(guī)，不僅會改變歐洲人工智能行業(yè)的“游戲規(guī)則”，而且可能會大大增強全球跨司法管轄區(qū)域監(jiān)管人工智能的勢頭。

第二，樹立分類監(jiān)管和保持彈性的監(jiān)管標桿?！斗ò浮凡捎蔑L(fēng)險分類分級的監(jiān)管方法，在規(guī)定統(tǒng)一監(jiān)管框架的基礎(chǔ)上，識別和評估人工智能系統(tǒng)可能引發(fā)的風(fēng)險，各類風(fēng)險對應(yīng)不同的應(yīng)用場景和監(jiān)管措施，基本涵蓋了目前所有涉及的人工智能系統(tǒng)，有效避免了籠統(tǒng)規(guī)范化的合規(guī)義務(wù)帶來的治理失焦問題，并為多種風(fēng)險的復(fù)雜場景提供了較為清晰的解決思路。同時，采取動態(tài)調(diào)整的監(jiān)管方式，允許監(jiān)管機構(gòu)將新的應(yīng)用領(lǐng)域不斷納入現(xiàn)有的風(fēng)險類別，既能夠保持橫向統(tǒng)一性和協(xié)調(diào)性，又能加快監(jiān)管創(chuàng)新措施的落地實效。

第三，樹立平衡創(chuàng)新與監(jiān)管的路徑標桿。本次協(xié)議試圖同時達到將更廣泛的人工智能技術(shù)納入監(jiān)管，以及促進產(chǎn)業(yè)和技術(shù)創(chuàng)新兩方面目標。為了平衡監(jiān)管與創(chuàng)新，本次協(xié)議提出鼓勵中小企業(yè)技術(shù)創(chuàng)新的舉措、設(shè)置新的監(jiān)管機構(gòu)，重視監(jiān)管沙盒的規(guī)劃和建設(shè)，并對部分情況進行豁免。比如，歐盟立法機構(gòu)明確對人工智能的研發(fā)、對處理敏感特殊數(shù)據(jù)予以豁免等，體現(xiàn)立法過程中試圖給技術(shù)創(chuàng)新更多的開放空間，盡可能減少規(guī)制的負面效應(yīng)。

對我國平衡人工智能發(fā)展與監(jiān)管的啟示

本次達成的《法案》政治協(xié)議繼承了歐盟利用規(guī)則兼顧人工智能可信可控和創(chuàng)新發(fā)展、著力維護歐盟技術(shù)主權(quán)的思路，相關(guān)規(guī)則與舉措值得借鑒與參考。

第一，把握我國人工智能發(fā)展與監(jiān)管的“平衡術(shù)”。建議找準我國人工智能科技創(chuàng)新與政策監(jiān)管的平衡點，促進相關(guān)產(chǎn)業(yè)的合規(guī)健康發(fā)展。一方面，持續(xù)壯大國家戰(zhàn)略科技力量，促進智能芯片、通用人工智能模型等關(guān)鍵核心技術(shù)攻關(guān)，積極推進大模型自主創(chuàng)新技術(shù)的成果轉(zhuǎn)化和產(chǎn)業(yè)化應(yīng)用，加快打造人工智能原創(chuàng)理論和技術(shù)的重要策源地。另一方面，可參考《法案》中算法透明度、通用人工智能護欄、禁止使用的場景劃分等內(nèi)容，根據(jù)我國人工智能產(chǎn)業(yè)發(fā)展特點，動態(tài)優(yōu)化監(jiān)管重點、豁免邊界以及監(jiān)管方式等。

第二，探索監(jiān)管沙盒等“創(chuàng)新招”。西班牙、法國等歐盟國家已經(jīng)開始人工智能技術(shù)監(jiān)管沙盒試點，并與挪威、瑞士試點國家互通有無；新加坡推出人工智能驗證（AI verify）工具包；IBM則開發(fā)使用人工智能情況說明（AI Factsheets）查看模型和部署詳細信息，并實現(xiàn)商業(yè)化。這些均為國際前沿創(chuàng)新治理舉措，已產(chǎn)生一定國際影響力。建議重視人工智能技術(shù)監(jiān)管沙盒的整體謀劃，在參考借鑒國際前沿實踐的基礎(chǔ)上，加強監(jiān)管沙盒治理和治理措施的創(chuàng)新布局，妥善推動安全與創(chuàng)新發(fā)展。

第三，幫助企業(yè)筑起國際競爭的“護城河”。本次協(xié)議明確了域外適用原則，對非歐盟組織在歐盟市場上使用的人工智能產(chǎn)品或服務(wù)具有域外適用性，這不僅對歐盟成員國國內(nèi)的產(chǎn)品應(yīng)用和發(fā)展提出了明確的法律要求，也對非歐盟國家的企業(yè)在歐盟市場上的人工智能產(chǎn)品和服務(wù)產(chǎn)生影響。如《法案》生效通過，“長臂管轄”條款會促使其在全球?qū)用嫔嫌绊懭斯ぶ悄芤?guī)則的制定。我國人工智能企業(yè)若要進入或維持在歐盟市場的業(yè)務(wù)，將面臨該法案的合規(guī)挑戰(zhàn)。特別是對于高風(fēng)險AI系統(tǒng)，可能需要重大的技術(shù)和運營調(diào)整。建議主管部門及早梳理涉歐業(yè)務(wù)的人工智能企業(yè)清單，幫助企業(yè)及早應(yīng)對。

本文作者張苑為上海市科學(xué)學(xué)研究所高級經(jīng)濟師；陳秋萍為上海市科學(xué)學(xué)研究所助理研究員

《法案》

采取了橫向立法模式，即適用于所有投放于歐盟市場或者在歐盟可使用的人工智能系統(tǒng)，可以覆蓋金融、醫(yī)療、教育、能源、運輸、司法等各個行業(yè)領(lǐng)域，這與美國更加偏好的區(qū)分行業(yè)領(lǐng)域的垂直立法模式有著顯著區(qū)別。