2024年3月13日，歐洲議會以壓倒性票數(shù)通過《歐盟人工智能法案》（以下簡稱“《法案》”），旨在提升歐盟人工智能產(chǎn)業(yè)的規(guī)范性和透明度，加強(qiáng)技術(shù)治理與監(jiān)管，以人為本推動人工智能有序發(fā)展。《法案》作為全球首部綜合性人工智能監(jiān)管法案，將使歐盟在人工智能治理方面走在世界前列，并為西方國家主導(dǎo)人工智能規(guī)則走向和監(jiān)管話語權(quán)奠定錨點(diǎn)。

歐盟人工智能發(fā)展現(xiàn)狀

全球市場份額占比大，生成式人工智能發(fā)展迅速。據(jù)國際數(shù)據(jù)公司22日發(fā)布的《全球人工智能和生成式人工智能支出指南》估計，2024年歐洲人工智能市場規(guī)模將達(dá)476億美元，約占全球人工智能市場總額的1/5，且仍在以33.7%的年復(fù)合增長率持續(xù)擴(kuò)增。2023年歐洲生成式人工智能市場份額僅占?xì)W洲人工智能市場總額的9.6%，但鑒于生成式人工智能支出的增長速度是其他人工智能支出增速的3倍以上，預(yù)測該份額2027年將增長至整個歐洲人工智能市場總額的1/4以上。

成員國間技術(shù)投資差異較大，人才儲備總量不足。2022年，全球人工智能技術(shù)投資份額中，歐盟整體位列第三，但成員國之間投資水平差異較大。其中，法國在人工智能技術(shù)投資方面表現(xiàn)強(qiáng)勁，包括承諾在2022年前向人工智能領(lǐng)域投資15億歐元，并于2022年宣布追加5億歐元投資，以打造人工智能強(qiáng)國。相比之下，歐盟其他成員國技術(shù)投資較弱。此外，歐盟人工智能領(lǐng)域人才競爭力不足。據(jù)《中國人工智能發(fā)展報告》統(tǒng)計，德國、法國、西班牙、意大利等歐盟成員國的人工智能人才數(shù)量均位居全球前十位，分列第四、第六、第九和第十，四國人工智能人才總數(shù)僅占全球總量的12.4%，與排名前三的美國、中國和印度相比差距較大。

重視人工智能治理與監(jiān)管，先行優(yōu)勢明顯。歐盟致力于構(gòu)建人工智能技術(shù)應(yīng)用監(jiān)管體系，以打造可信和以人為本的人工智能生態(tài)環(huán)境。一方面，歐盟委員會2020年發(fā)布《人工智能白皮書》，率先提出構(gòu)建人工智能監(jiān)管框架，以確保人工智能安全、可信，引領(lǐng)全球人工智能監(jiān)管體系構(gòu)建；另一方面，歐盟基于人工智能法治愿景，探索人工智能治理的法律支持，謀求立法先行優(yōu)勢。歐盟委員會自2021年4月21日首次提出《人工智能法案》以來，便積極推動該法案落地，以填補(bǔ)全球人工智能監(jiān)管的立法空白。

歐盟人工智能風(fēng)險分析

人工智能技術(shù)快速發(fā)展，成為推動科技和產(chǎn)業(yè)加速發(fā)展的重要力量，但其固有的不透明性、不確定性、難管控性，將對經(jīng)濟(jì)發(fā)展、國際政治和全球治理等帶來深遠(yuǎn)影響，引發(fā)全球廣泛關(guān)注。

基礎(chǔ)數(shù)據(jù)不透明風(fēng)險。人工智能模型的優(yōu)劣很大程度上取決于訓(xùn)練模型所使用的基礎(chǔ)數(shù)據(jù)，但因基礎(chǔ)數(shù)據(jù)篩選機(jī)制缺乏透明度和可視性，采集、清洗和標(biāo)記過程中存在黑箱問題，數(shù)據(jù)質(zhì)量的真實(shí)性和準(zhǔn)確性難以監(jiān)管，導(dǎo)致模型透明度無法保障。

人工智能軍事化風(fēng)險。人工智能作為新技術(shù)，具有顯著的顛覆性特征，通過智能化的態(tài)勢感知、戰(zhàn)場情報分析、輔助決策和自主武器系統(tǒng)的使用，能夠?qū)?zhàn)爭造成非對稱影響。美國等軍事強(qiáng)國持續(xù)探索人工智能的軍事化應(yīng)用，可能帶來人道主義風(fēng)險、人工智能系統(tǒng)穩(wěn)定性風(fēng)險及加劇沖突的風(fēng)險。在全球地緣政治摩擦不斷加深的背景下，歐盟無論是選邊站隊(duì)，還是保持中立，都可能受到人工智能軍事化應(yīng)用帶來的潛在風(fēng)險。

人工智能濫用風(fēng)險。隨著生成式人工智能系統(tǒng)的不斷擴(kuò)展應(yīng)用，也催生了非國家行為體的濫用和非法使用問題，增加了極端主義、恐怖主義風(fēng)險。歐盟始終堅(jiān)持發(fā)展以人為本的人工智能，強(qiáng)調(diào)避免濫用，防止人工智能對個人基礎(chǔ)權(quán)利和社會民主法治的侵犯。

《法案》全面規(guī)范人工智能發(fā)展，提出相應(yīng)治理舉措

《法案》旨在保護(hù)個人基本權(quán)利、民主、法治免受高風(fēng)險人工智能系統(tǒng)影響，同時促進(jìn)技術(shù)創(chuàng)新，推動歐盟成為人工智能領(lǐng)域的領(lǐng)導(dǎo)者。

適用主體廣泛，具有一定的域外效力?！斗ò浮反_立了廣泛的適用范圍和域外效力：一方面，所有在歐盟境內(nèi)投入市場或投入使用的人工智能系統(tǒng)均適用該法案，即使系統(tǒng)供應(yīng)商并未在歐盟設(shè)址；另一方面，人工智能系統(tǒng)價值責(zé)任鏈的供應(yīng)商、分銷商、運(yùn)營商等相關(guān)主體，均為本法案的規(guī)制對象，全面管控人工智能風(fēng)險。

制定一般原則，促進(jìn)以人為本和可信人工智能發(fā)展。歐盟人工智能系統(tǒng)或基礎(chǔ)模型應(yīng)遵循以下6項(xiàng)原則：一是人工智能系統(tǒng)在設(shè)計、開發(fā)、部署和使用過程中，必須以人為本、尊重人權(quán)，并由人類適當(dāng)監(jiān)控其運(yùn)行；二是人工智能系統(tǒng)應(yīng)具備技術(shù)安全性和韌性，盡量避免意外傷害，并提升恢復(fù)能力；三是應(yīng)符合現(xiàn)有的隱私和數(shù)據(jù)保護(hù)規(guī)則；四是系統(tǒng)的開發(fā)和使用應(yīng)允許適當(dāng)?shù)目勺匪菪院涂山忉屝?；五是尊重人工智能系統(tǒng)的開發(fā)和使用方式的不同，并促進(jìn)公平性和文化多樣性，避免歧視和偏見；六是以可持續(xù)和環(huán)境友好的方式開發(fā)和使用人工智能系統(tǒng)，并使所有人類受益，監(jiān)測和評估對個人、社會和民主的長期影響。

明令禁止開發(fā)和使用4類系統(tǒng)，避免出現(xiàn)不良影響?！斗ò浮访鞔_禁止將4類人工智能系統(tǒng)投放市場或投入使用。一是使用超越人類意識或誘騙、操控技術(shù)的系統(tǒng)。二是利用個人或特定群體弱點(diǎn)，扭曲其行為的系統(tǒng)。三是根據(jù)自然人或特定群體的社會行為或人格特征，進(jìn)行社會評價、分類的系統(tǒng)。四是在公共場所使用的“實(shí)時”遠(yuǎn)程生物識別系統(tǒng)，包括評估自然人或群體的犯罪風(fēng)險；從互聯(lián)網(wǎng)或閉路電視視頻中抓取面部圖像，新建或擴(kuò)大人臉識別數(shù)據(jù)庫；除特殊情況外，在執(zhí)法、邊境管理和教育機(jī)構(gòu)中推斷自然人情緒的人工智能系統(tǒng)。這4類禁止情形體現(xiàn)了《法案》的人權(quán)考量，避免對自然人或特定群體造成不利影響。

劃分人工智能系統(tǒng)風(fēng)險等級，分類施策，強(qiáng)化管理成效?！斗ò浮坊谌斯ぶ悄艿牟煌该餍?、復(fù)雜性、對數(shù)據(jù)的依賴性等特點(diǎn)，將人工智能系統(tǒng)的風(fēng)險等級劃分為不可接受風(fēng)險、高風(fēng)險、有限風(fēng)險和極低風(fēng)險4類。其中，不可接受風(fēng)險人工智能系統(tǒng)不得在歐盟境內(nèi)投入使用。高風(fēng)險人工智能系統(tǒng)需在滿足一定條件的情況下使用。有限風(fēng)險人工智能系統(tǒng)可規(guī)范、合理使用，其中人機(jī)交互系統(tǒng)、情感識別系統(tǒng)、生物特征分類系統(tǒng)及生成式人工智能系統(tǒng)，需要履行透明度義務(wù)。極低風(fēng)險人工智能系統(tǒng)可自由使用。

制定處罰標(biāo)準(zhǔn)，以此體現(xiàn)“硬法”約束。2024年2月，歐盟在《法案》正式通過前夕成立人工智能辦公室，負(fù)責(zé)監(jiān)督各成員國的《法案》執(zhí)行情況，對違反該法案的相關(guān)實(shí)體進(jìn)行處罰，處罰結(jié)果取決于人工智能系統(tǒng)的類型、公司規(guī)模和違法行為的嚴(yán)重程度，根據(jù)是否違反法案禁止的人工智能系統(tǒng)條款、是否違反法案合規(guī)性要求、是否向監(jiān)管機(jī)構(gòu)提供錯誤、不完整或誤導(dǎo)信息，制定了三檔處罰標(biāo)準(zhǔn)，分別予以對應(yīng)的處罰。

思考與啟示

打造“立法先行”優(yōu)勢，為人工智能發(fā)展設(shè)置護(hù)欄。作為全球首部人工智能立法，《法案》將使歐盟在人工智能法治方面占據(jù)先行優(yōu)勢，并為其他國家和地區(qū)的人工智能監(jiān)管設(shè)定了基準(zhǔn)。從行業(yè)角度來看，《法案》有助于提升人工智能行業(yè)的規(guī)范性和透明度，通過明確監(jiān)管標(biāo)準(zhǔn)和要求，將有助于減少行業(yè)亂象和不合規(guī)行為，吸引更多的投資和人才進(jìn)入人工智能領(lǐng)域，推動行業(yè)健康可持續(xù)發(fā)展。歐盟將以《法案》為監(jiān)管抓手，希望通過率先制定基本規(guī)則，為域內(nèi)人工智能發(fā)展提供基本護(hù)欄。

重視高風(fēng)險人工智能系統(tǒng)管理，強(qiáng)調(diào)基本治理原則?！斗ò浮丰槍Ω唢L(fēng)險人工智能系統(tǒng)構(gòu)建了涵蓋事前、事中和事后的全生命周期監(jiān)管體系。歐盟對于高風(fēng)險人工智能系統(tǒng)的劃分原則遵循《法案》中所提到的人工智能治理的基本原則，即“促進(jìn)以人為本和可信任的人工智能應(yīng)用，并保證對于人民健康、安全、基本權(quán)利、民主以及法治的高度保護(hù)”。高風(fēng)險人工智能系統(tǒng)管理是《法案》治理的重中之重，因此歐盟突出強(qiáng)調(diào)該類系統(tǒng)在風(fēng)險和符合人工智能治理原則之間的平衡，以防范其快速發(fā)展帶來的算法歧視、算法黑箱等問題。

開啟全球人工智能分級監(jiān)管法治進(jìn)程，迎接人工智能治理時代?！斗ò浮返某雠_不是終點(diǎn)，而是圍繞人工智能技術(shù)建立新治理模式的起點(diǎn)。在人工智能技術(shù)迅速發(fā)展的時代浪潮下，《法案》開啟了全球人工智能治理的法制化進(jìn)程，世界各國將迎來人工智能立法熱潮，各相關(guān)方應(yīng)努力把握全球人工智能監(jiān)管的脈搏，迎接人工智能法治時代。一方面，加強(qiáng)國際合作，探索雙邊或多邊合作治理機(jī)制，加深企業(yè)在人工智能領(lǐng)域的技術(shù)交流和人才互動；另一方面，積極參與國際標(biāo)準(zhǔn)制定，推動國際人工智能治理規(guī)則的形成。

責(zé)任編輯：陳曉芳