于品顯 劉倩

摘? ?要：隨著人工智能技術(shù)的應(yīng)用和發(fā)展，人們對它可能帶來收益和風(fēng)險(xiǎn)的認(rèn)識日益加深。人工智能的發(fā)展在給人類社會(huì)帶來便利的同時(shí)，也帶來了個(gè)人安全和保障風(fēng)險(xiǎn)，增加了侵犯人類基本權(quán)利的可能性。如何從立法著手促進(jìn)人工智能產(chǎn)業(yè)的健康發(fā)展，成為迫在眉睫的課題。2021年歐盟發(fā)布的《人工智能法案》是人工智能監(jiān)管領(lǐng)域的標(biāo)志性事件。該法案在保持法的統(tǒng)一性原則的基礎(chǔ)上，采取風(fēng)險(xiǎn)分級監(jiān)管、市場準(zhǔn)入制度、鼓勵(lì)研究與創(chuàng)新的規(guī)制方法，其目的在于應(yīng)對突出的算法黑箱問題，確保投放到歐盟市場的人工智能系統(tǒng)及其使用的安全性。目前，我國人工智能立法存在法律體系不夠完善、人工智能監(jiān)管力度不足、相關(guān)制度過于原則等問題。歐盟《人工智能法案》所體現(xiàn)的理念和制度對我國具有一定的啟示作用。

關(guān)鍵詞：人工智能；監(jiān)管路徑；風(fēng)險(xiǎn)分級；監(jiān)管沙盒

DOI：10.3969/j.issn.1003-9031.2023.06.005

中圖分類號：D996.1? ? ? ?文獻(xiàn)標(biāo)識碼：A? ? ?文章編號：1003－9031（2023）06－0045－09

一、歐盟《人工智能法案》的制定背景

隨著人工智能技術(shù)的不斷發(fā)展，風(fēng)險(xiǎn)問題日漸突出，人工智能監(jiān)管成為各國人工智能立法的重點(diǎn)。歐盟在人工智能監(jiān)管方面走在世界的前列，在人工智能領(lǐng)域開展了大量立法工作。

早在2018年3月，歐洲政治戰(zhàn)略中心就發(fā)布了《人工智能戰(zhàn)略》，主要從三個(gè)方面介紹了歐洲人工智能技術(shù)的現(xiàn)狀與未來：全球范圍內(nèi)人工智能技術(shù)的研發(fā)投入情況、歐洲范圍內(nèi)人工智能技術(shù)的發(fā)展情況、人工智能技術(shù)發(fā)展過程中存在的問題與挑戰(zhàn)。同年歐盟委員會(huì)成立了人工智能高水平專家小組，并提出符合歐盟價(jià)值觀和利益的“可信任的人工智能”理念，以支撐歐洲人工智能戰(zhàn)略的執(zhí)行。2019年4月，歐盟先后發(fā)布《可信AI倫理指南》和《算法責(zé)任與透明治理框架》，系歐盟人工智能戰(zhàn)略提出的建立適當(dāng)?shù)膫惱砗头煽蚣芤蟮木唧w落實(shí)，為后續(xù)相關(guān)規(guī)則的制定提供參考，這是歐盟不斷推動(dòng)AI治理的重要成果。2020年2月19日，歐洲委員會(huì)發(fā)布了兩份有關(guān)“塑造歐洲數(shù)字未來戰(zhàn)略”的政策文件。一是AI白皮書《面向卓越和信任的歐洲人工智能發(fā)展之道》，確定了兩個(gè)重要目標(biāo)，即通過加強(qiáng)投資和監(jiān)管，促進(jìn)人工智能發(fā)展和處理相關(guān)技術(shù)應(yīng)用帶來的風(fēng)險(xiǎn)；二是《歐洲數(shù)據(jù)戰(zhàn)略》，旨在增強(qiáng)歐盟數(shù)字經(jīng)濟(jì)國際競爭力，建立歐盟數(shù)字市場的統(tǒng)一規(guī)則。2020年10月，歐盟發(fā)布系列報(bào)告呼吁解決人工智能系統(tǒng)存在的模糊性、復(fù)雜性、偏見、不可預(yù)測性、自主性等問題，確保人工智能不侵犯人的基本權(quán)利，并積極推動(dòng)法律法規(guī)的修訂。

歐盟委員會(huì)主席烏爾蘇拉·馮·德·萊恩曾宣布，歐盟委員會(huì)將就AI對人類和倫理的影響進(jìn)行立法，以期在歐洲采取統(tǒng)一協(xié)調(diào)的人工智能規(guī)制方法。2021年4月21日發(fā)布的《人工智能法案》旨在歐洲層面建立關(guān)于人工智能技術(shù)監(jiān)管的統(tǒng)一規(guī)則，對人工智能的概念和分類，高風(fēng)險(xiǎn)人工智能系統(tǒng)的提供者、使用者及其他人的義務(wù)、法律后果等作了詳細(xì)的規(guī)定。2023年3月底，《關(guān)于制定確立人工智能統(tǒng)一規(guī)則（人工智能法）以及修改部分聯(lián)盟法律的歐盟議會(huì)和歐盟理事會(huì)的條例的提案》已提交歐盟議會(huì)表決。2023年4月27日，歐盟議會(huì)成員就該法案達(dá)成臨時(shí)政治協(xié)議。法案預(yù)計(jì)將在6月中旬提交全體會(huì)議表決，如獲通過，意味著該法案將成為具有拘束力，可在歐盟成員國內(nèi)直接適用的法律。該法案是世界上第一個(gè)專門提出 AI 風(fēng)險(xiǎn)分級監(jiān)管的綜合性人工智能法案，為歐盟范圍內(nèi)人工智能驅(qū)動(dòng)的產(chǎn)品、服務(wù)和系統(tǒng)的開發(fā)、貿(mào)易和使用制定了核心規(guī)則，將成為未來人工智能治理水平進(jìn)一步提升的重要參考依據(jù)。

鑒于當(dāng)下人工智能技術(shù)的發(fā)展、利用以及流轉(zhuǎn)程度的加深，特別是在日益復(fù)雜的全球科技格局和國際關(guān)系背景下，有必要對相關(guān)動(dòng)態(tài)予以進(jìn)一步關(guān)注。本文將對法案進(jìn)行全面分析，并在梳理我國人工智能立法現(xiàn)狀的基礎(chǔ)之上，提出我國人工智能立法的可行路徑。

二、歐盟《人工智能法案》的監(jiān)管路徑及評析

對風(fēng)險(xiǎn)社會(huì)問題的法學(xué)研究，其重點(diǎn)是法律制度與法律秩序。歐盟人工智能法案在保持法的統(tǒng)一性原則的基礎(chǔ)上，核心圍繞四個(gè)風(fēng)險(xiǎn)類別，構(gòu)建了一套基于風(fēng)險(xiǎn)分級的“產(chǎn)品、服務(wù)安全體系”。它通過強(qiáng)制性的CE（Conformity With European）標(biāo)記程序，要求高風(fēng)險(xiǎn)人工智能系統(tǒng)須完成市場準(zhǔn)入和認(rèn)證。為促進(jìn)人工智能創(chuàng)新發(fā)展，歐盟引入人工智能監(jiān)管沙盒，給予人工智能技術(shù)進(jìn)行創(chuàng)新開發(fā)、試驗(yàn)的土壤。法案致力于打造可信任的人工智能產(chǎn)品、服務(wù)，用戶最終可以相信人工智能技術(shù)將以一種安全和符合法律的方式被使用。在機(jī)構(gòu)設(shè)置層面，除設(shè)立歐洲人工智能委員會(huì)外，該法案要求設(shè)立實(shí)體機(jī)構(gòu)來監(jiān)督法案具體內(nèi)容的實(shí)施。

（一）法案的核心內(nèi)容

1.貫徹法秩序統(tǒng)一性原理

在未來，人工智能技術(shù)的發(fā)展和應(yīng)用是面向全世界的，人工智能市場需要一套統(tǒng)一的法律規(guī)范體系，以確保法律的一致性、確定性和穩(wěn)定性。法案要求其與適用于高風(fēng)險(xiǎn)AI系統(tǒng)的行業(yè)的現(xiàn)行歐盟立法完全保持一致。同時(shí)，要求確保法案與《歐盟基本權(quán)利憲章》以及歐盟關(guān)于數(shù)據(jù)保護(hù)、消費(fèi)者保護(hù)、不受歧視和兩性平等的現(xiàn)有立法保持一致，法案不影響《一般數(shù)據(jù)保護(hù)條例》和執(zhí)法指令的適用。

在法案的新增內(nèi)容中，亮點(diǎn)是一系列適用于設(shè)計(jì)、開發(fā)和使用某些高風(fēng)險(xiǎn)AI系統(tǒng)的統(tǒng)一規(guī)則，以及針對遠(yuǎn)程生物識別系統(tǒng)某些使用方面的限制規(guī)定。針對作為產(chǎn)品安全組件的高風(fēng)險(xiǎn)AI系統(tǒng)，本法案將被納入現(xiàn)行的行業(yè)安全立法，以確保一致性，避免重復(fù)，并將額外負(fù)擔(dān)降至最低。此外，對于歐盟新立法框架（New Legislative Framework，NLF）所涵蓋的與產(chǎn)品相關(guān)的高風(fēng)險(xiǎn)AI系統(tǒng)，法案中有關(guān)AI系統(tǒng)的規(guī)定，將被納入相關(guān)新立法框架下的現(xiàn)行符合性評估程序，作為審查AI系統(tǒng)的標(biāo)準(zhǔn)之一?？傊ò笇⒋_立歐盟范圍內(nèi)統(tǒng)一的法律框架，而非具體的法律規(guī)定，這為歐盟各成員國采取何種監(jiān)管措施提供了方向指引和預(yù)留空間，兼具法律的確定性與靈活性。此外，法案將加強(qiáng)歐盟在幫助制定全球規(guī)范和標(biāo)準(zhǔn)方面的作用，這為世界各國在國際論壇上就AI相關(guān)問題進(jìn)行進(jìn)一步探討提供了強(qiáng)有力的基石。

2.基于風(fēng)險(xiǎn)分級的規(guī)制

《人工智能法案》將人工智能系統(tǒng)分為四個(gè)風(fēng)險(xiǎn)級別，分別是不可接受的風(fēng)險(xiǎn)、高風(fēng)險(xiǎn)、有限風(fēng)險(xiǎn)和最低風(fēng)險(xiǎn)。每個(gè)風(fēng)險(xiǎn)類別都設(shè)有特定的法律框架，規(guī)定了相應(yīng)的限制情形與義務(wù)。風(fēng)險(xiǎn)分級規(guī)制對風(fēng)險(xiǎn)的監(jiān)管不限于一個(gè)特定階段，而是覆蓋規(guī)制的全過程。這意味著，除特殊情形外，風(fēng)險(xiǎn)較低以及風(fēng)險(xiǎn)可忽略不計(jì)的人工智能應(yīng)用程序?qū)⒂梢环N較輕的法律制度規(guī)制，而具有不可接受風(fēng)險(xiǎn)的應(yīng)用程序?qū)⒈唤埂Ｔ谀承╋L(fēng)險(xiǎn)不斷增加的情況下，將隨之實(shí)施更為嚴(yán)格的規(guī)定。

（1）風(fēng)險(xiǎn)分級監(jiān)管

歐盟對不同人工智能的風(fēng)險(xiǎn)進(jìn)行劃分，并對不同風(fēng)險(xiǎn)采取不同的監(jiān)管措施。人工智能技術(shù)正處于快速發(fā)展階段，其風(fēng)險(xiǎn)狀態(tài)會(huì)隨著技術(shù)發(fā)展而產(chǎn)生變化，預(yù)防和監(jiān)管措施需要隨之調(diào)整?！度斯ぶ悄芊ò浮分挟a(chǎn)品所屬的四個(gè)風(fēng)險(xiǎn)類別是靈活可變的，如法案要求對高風(fēng)險(xiǎn)清單每年進(jìn)行評估并修改。

不可接受的風(fēng)險(xiǎn)是指威脅人的安全、社會(huì)生活和權(quán)利的人工智能系統(tǒng)，法案明確了不可接受的風(fēng)險(xiǎn)的具體類型，并明令予以禁止。該類別的風(fēng)險(xiǎn)包括利用人的潛意識扭曲個(gè)人行為給他人帶來身體和心理傷害；利用特定群體的脆弱性影響個(gè)人行為給他人帶來身體和心理傷害；任何形式的社會(huì)信用分級以及實(shí)時(shí)的遠(yuǎn)程生物識別技術(shù)。

高風(fēng)險(xiǎn)人工智能系統(tǒng)的具體應(yīng)用規(guī)定于法案的附錄二和附錄三，涉及教育、醫(yī)療、就業(yè)、司法等領(lǐng)域。法案對其采取多項(xiàng)監(jiān)管措施，包括上市前的嚴(yán)格管控、進(jìn)行風(fēng)險(xiǎn)評估、確保活動(dòng)可追溯、獲得CE標(biāo)記、監(jiān)管機(jī)構(gòu)評估、市場監(jiān)督、建立數(shù)據(jù)庫、故障信息共享、嚴(yán)格執(zhí)法和處罰等措施。

法案未規(guī)定關(guān)于有限風(fēng)險(xiǎn)和最低風(fēng)險(xiǎn)的人工智能系統(tǒng)上市前的事前審查制度。有限的風(fēng)險(xiǎn)是指使用人工智能時(shí)，該類別的產(chǎn)品和服務(wù)的使用會(huì)引發(fā)透明度問題。針對有限風(fēng)險(xiǎn)，法案要求該類型的人工智能產(chǎn)品實(shí)現(xiàn)透明公開，人工智能提供者負(fù)有披露義務(wù)，如在設(shè)計(jì)和開發(fā)與自然人交互的AI系統(tǒng)時(shí)，提供方需確保自然人知曉他們正在進(jìn)行與人工智能系統(tǒng)互動(dòng)，除非從使用情況和場景能明顯感知這種情況。法案規(guī)定以下三種類型的人工智能技術(shù)需要符合特殊的透明度要求，分別是與自然人交互的人工智能系統(tǒng)；情緒識別系統(tǒng)或生物識別分類系統(tǒng)；AI系統(tǒng)的使用者生成或操縱圖像、音頻或視頻內(nèi)容足以讓人混淆。其中，在使用人工智能技術(shù)生成或操縱圖像、視頻等內(nèi)容時(shí)，AI系統(tǒng)的使用者須披露內(nèi)容是人為的或生成的。

最低風(fēng)險(xiǎn)的人工智能系統(tǒng)在法案草案中很少提及，除前述三類風(fēng)險(xiǎn)外的人工智能系統(tǒng)都屬于最低風(fēng)險(xiǎn)。該風(fēng)險(xiǎn)類別的AI系統(tǒng)沒有特殊的干預(yù)和審查制度，然而，服務(wù)提供者在不違反草案規(guī)定的情況下，可以自愿建立各行業(yè)的行為準(zhǔn)則。由于沒有采取相應(yīng)的措施來監(jiān)測這些準(zhǔn)則的遵守情況，因此它們在市場中發(fā)揮實(shí)際效用的可能性較小。

（2）風(fēng)險(xiǎn)全程監(jiān)管

歐盟對人工智能產(chǎn)品的風(fēng)險(xiǎn)規(guī)制存在于開發(fā)前到使用后的整個(gè)階段，覆蓋了人工智能產(chǎn)品入市前到入市后整個(gè)階段，是一套全過程的規(guī)制體系?！度斯ぶ悄芊ò浮穼⑷斯ぶ悄芨麟A段的風(fēng)險(xiǎn)監(jiān)管制度進(jìn)行細(xì)化，提出具體的要求。

在設(shè)計(jì)開發(fā)階段，該法案要求人工智能系統(tǒng)可以識別和分析已知的和可預(yù)見的風(fēng)險(xiǎn)、評估使用后可能產(chǎn)生的風(fēng)險(xiǎn)、根據(jù)上市后的數(shù)據(jù)預(yù)估風(fēng)險(xiǎn)，并采取風(fēng)險(xiǎn)管理措施。以高風(fēng)險(xiǎn)AI系統(tǒng)為例，在數(shù)據(jù)和數(shù)據(jù)治理、記錄和保存記錄、透明性、準(zhǔn)確性和安全性方面，法案允許AI系統(tǒng)提供方在確保符合相關(guān)標(biāo)準(zhǔn)或行業(yè)規(guī)范時(shí)，或根據(jù)一般工程或科學(xué)知識開發(fā)，選擇滿足其要求的方式自行決定。

在上市前，人工智能系統(tǒng)的提供者須進(jìn)行合格評估，評定機(jī)構(gòu)將驗(yàn)證人工智能系統(tǒng)是否屬于該法案第二章規(guī)定的各項(xiàng)禁止的 AI做法。對于高風(fēng)險(xiǎn)人工智能系統(tǒng)，若上市后發(fā)生了實(shí)質(zhì)修改，將會(huì)重啟新的評估程序。在上市時(shí)，根據(jù)法案第48條的規(guī)定，AI系統(tǒng)的提供方應(yīng)為每個(gè)AI系統(tǒng)制定書面的歐盟合規(guī)聲明，并且在人工智能系統(tǒng)上市或投入使用后，由主管機(jī)構(gòu)保存10年。根據(jù)法案第49條的規(guī)定，高風(fēng)險(xiǎn)的人工智能和數(shù)據(jù)驅(qū)動(dòng)的系統(tǒng)、產(chǎn)品和服務(wù)必須符合歐盟的基準(zhǔn)，包括安全和合規(guī)評估。這一點(diǎn)至關(guān)重要，因?yàn)樗螽a(chǎn)品和服務(wù)能夠滿足值得信賴的人工智能的核心價(jià)值。只有符合安全、合規(guī)的標(biāo)準(zhǔn)，提供者才會(huì)收到一個(gè)CE標(biāo)志，允許他們進(jìn)入歐洲市場。這種上市前的整體評估機(jī)制與現(xiàn)有的作為歐洲市場產(chǎn)品安全認(rèn)證的工作方式相同。此外，該獨(dú)立的高風(fēng)險(xiǎn)人工智能系統(tǒng)將在一個(gè)專門的歐盟數(shù)據(jù)庫中進(jìn)行注冊。在上市后，AI系統(tǒng)的提供方應(yīng)制定監(jiān)測計(jì)劃，并依據(jù)計(jì)劃開發(fā)高風(fēng)險(xiǎn)系統(tǒng)的監(jiān)測系統(tǒng)進(jìn)行檢測。人工智能產(chǎn)品的監(jiān)測系統(tǒng)將主動(dòng)且系統(tǒng)地收集并分析AI系統(tǒng)體驗(yàn)、使用而開展的所有活動(dòng)的數(shù)據(jù)。該系統(tǒng)應(yīng)具有日志記錄功能，以確保AI系統(tǒng)的數(shù)據(jù)變化具有可追溯性。如果主管機(jī)構(gòu)發(fā)現(xiàn)高風(fēng)險(xiǎn)人工智能系統(tǒng)違反法案第二編的規(guī)定，將會(huì)中止或撤回簽發(fā)的各種證明。

3.以實(shí)驗(yàn)性規(guī)制鼓勵(lì)創(chuàng)新

法案制定的相關(guān)規(guī)則并不是為了限制人工智能技術(shù)的發(fā)展，而是為了使人工智能技術(shù)在市場上能夠有序地發(fā)展，給予其安全的市場環(huán)境，以助力人工智能生態(tài)系統(tǒng)的創(chuàng)建。

歐盟計(jì)劃通過引入各種靈活性措施和例外情形來促進(jìn)人工智能技術(shù)的開發(fā)創(chuàng)新，如AI監(jiān)管沙盒。AI監(jiān)管沙盒是由一個(gè)或多個(gè)成員國主管機(jī)構(gòu)或歐洲數(shù)據(jù)保護(hù)監(jiān)管機(jī)構(gòu)建立的，保證創(chuàng)新的空間，為研究機(jī)構(gòu)和中小企業(yè)提供試驗(yàn)空間。在遵守法案有關(guān)規(guī)定的情況下，AI監(jiān)管沙盒所提供的市場環(huán)境可在有限的時(shí)間內(nèi)促進(jìn)AI系統(tǒng)的開發(fā)、測試和驗(yàn)證。此外，法案涉及了一項(xiàng)知識產(chǎn)權(quán)行動(dòng)計(jì)劃，以使與人工智能技術(shù)相關(guān)的知識產(chǎn)權(quán)得到法律的保護(hù)。法案第70條規(guī)定，對自然人或法人的知識產(chǎn)權(quán)、機(jī)密商業(yè)信息或商業(yè)秘密，包括源代碼，進(jìn)行機(jī)密性保護(hù)。

法案關(guān)于促進(jìn)人工智能發(fā)展的有關(guān)規(guī)定，體現(xiàn)了歐盟尋求不同利益之間的平衡，具體包括民主、經(jīng)濟(jì)和社會(huì)價(jià)值。利益是法律形成與發(fā)展的內(nèi)在驅(qū)動(dòng)力，法律則是對利益的確認(rèn)、界定及分配。人工智能產(chǎn)品、服務(wù)在多個(gè)領(lǐng)域的應(yīng)用帶來了社會(huì)、經(jīng)濟(jì)價(jià)值，同時(shí)對個(gè)人基本權(quán)利造成了潛在威脅。歐盟正是基于對個(gè)人基本權(quán)利的保障，提出了打造“可信任的人工智能”的目標(biāo)?？梢姡谌斯ぶ悄芗夹g(shù)可信賴和人工智能技術(shù)發(fā)展創(chuàng)新之間尋求一個(gè)平衡點(diǎn)至關(guān)重要。

4.設(shè)立專門機(jī)構(gòu)加強(qiáng)監(jiān)管

在AI治理過程中，監(jiān)管主體尤為重要。法案第56條規(guī)定，將設(shè)立人工智能委員會(huì)向歐盟委員會(huì)提供建議和協(xié)助。人工智能委員會(huì)將基于議事規(guī)則的規(guī)定，完成法案第58條規(guī)定的工作任務(wù)，將促進(jìn)歐盟的實(shí)踐發(fā)展、協(xié)調(diào)AI監(jiān)管政策，起到統(tǒng)一人工智能標(biāo)準(zhǔn)或通用規(guī)范的作用。根據(jù)法案第59條的規(guī)定，將在國家一級設(shè)立專門的主管機(jī)構(gòu)，作為歐盟各國進(jìn)行市場監(jiān)管的聯(lián)絡(luò)主體，在歐盟范圍內(nèi)構(gòu)建人工智能市場監(jiān)管網(wǎng)絡(luò)。法案要求該主管機(jī)構(gòu)的成員具備人工智能相關(guān)的專業(yè)知識和能力，以在市場實(shí)踐中與企業(yè)進(jìn)行對接并及時(shí)向歐盟委員會(huì)反饋相關(guān)信息。

各成員國專門的主管機(jī)構(gòu)作為監(jiān)管歐盟人工智能市場的主要力量，其監(jiān)管權(quán)是一種直接限制市場主體的權(quán)利或增加其義務(wù)的公權(quán)力。值得注意的是，該權(quán)力的存在是以人工智能市場機(jī)制及存在的風(fēng)險(xiǎn)、隱私等問題為前提的。同時(shí)，該權(quán)力的產(chǎn)生是以歐盟《人工智能法案》為法律基礎(chǔ)的，體現(xiàn)“一事一議”的原則，即某一監(jiān)督權(quán)的產(chǎn)生是以特定的立法為前提的。此外，該監(jiān)管機(jī)構(gòu)應(yīng)具備中立性和獨(dú)立性，以發(fā)揮其監(jiān)管作用，在歐盟后續(xù)的監(jiān)管實(shí)踐中，我們將進(jìn)一步觀察到監(jiān)管機(jī)構(gòu)是如何在歐盟體系內(nèi)運(yùn)作的。

（二）法案監(jiān)管路徑評析

法案有許多優(yōu)點(diǎn)，包括更精細(xì)的人工智能系統(tǒng)風(fēng)險(xiǎn)類別的劃分；明確被禁止的人工智能系統(tǒng)的做法；增設(shè)歐洲數(shù)據(jù)庫和高風(fēng)險(xiǎn)人工智能系統(tǒng)的日志要求等。法案為人工智能技術(shù)的進(jìn)一步發(fā)展提供了基本規(guī)則。然而，該法案仍在基本權(quán)利的保護(hù)、責(zé)任機(jī)制、透明度義務(wù)、人工智能界定和分類合理性等方面存在不足。

1.基本權(quán)利的保護(hù)力度不足

法案第二編禁止的AI做法清單是不完整的，且未涉及相關(guān)的審查和修訂機(jī)制，這使得該法案無法對人工智能技術(shù)侵害基本權(quán)利的情形進(jìn)行有效規(guī)制。從歐盟委員會(huì)高級專家小組所提出的可信人工智能的道德準(zhǔn)則與可信人工智能的政策和投資建議中可知，合法且值得信賴的人工智能是法案的終極目標(biāo)。因此，人工智能系統(tǒng)在法律上值得信賴的條件為：一是遵循促進(jìn)基本權(quán)利、民主和法治的治理框架，二是其本身并不損害基本權(quán)利、民主和法治。

2.責(zé)任機(jī)制不完善

該法案對責(zé)任承擔(dān)有關(guān)的兩個(gè)關(guān)鍵問題未作出回應(yīng)。一是它沒有規(guī)定對不遵守其規(guī)則的人工智能系統(tǒng)的提供者或用戶采取法律行動(dòng)的權(quán)利。即使法案中規(guī)定了罰款形式的處罰方式，但并未授予某一機(jī)構(gòu)具體權(quán)利。同時(shí)，法案在懲罰對象和懲罰方式上較為單一，主要是對人工智能提供者進(jìn)行金錢懲罰，責(zé)任體系仍需進(jìn)一步完善。二是涉及人工智能系統(tǒng)本身的責(zé)任承擔(dān)問題。人工智能人格問題本身是一個(gè)非常復(fù)雜的問題，關(guān)于人工智能系統(tǒng)是不是法人的問題，法案應(yīng)作出回應(yīng)。

3.透明度要求難以實(shí)現(xiàn)

“透明度”是法案的一個(gè)重要內(nèi)容。人工智能領(lǐng)域的利益相關(guān)者有以下關(guān)于透明度的義務(wù)：保存技術(shù)文檔（第11條）、保持記錄以確保操作的可追溯性（第12條）以及向用戶提供適當(dāng)?shù)男畔ⅲǖ?3條）的義務(wù)。然而普通用戶因人工智能技術(shù)的復(fù)雜性等特點(diǎn)無法得知人工智能提供者是否履行了披露義務(wù)。以生物識別系統(tǒng)為例，大部分用戶可能知曉生物識別系統(tǒng)會(huì)對其個(gè)人隱私和個(gè)人信息造成威脅，然而實(shí)際上生物識別系統(tǒng)可能還會(huì)導(dǎo)致歧視和偏見，根據(jù)年齡、性別、種族等身體特征對個(gè)人用戶進(jìn)行分類。此外，生物識別系統(tǒng)在社會(huì)中的運(yùn)用可能會(huì)導(dǎo)致公眾對發(fā)表個(gè)人言論產(chǎn)生懷疑，對民主制度產(chǎn)生不利的影響。顯然，與生物識別系統(tǒng)類似的人工智能系統(tǒng)都應(yīng)提高對其產(chǎn)品、服務(wù)的透明度的要求，采取嚴(yán)格的披露義務(wù)。然而，這些人工智能系統(tǒng)本身的技術(shù)問題難以被人察覺，難以確認(rèn)人工智能提供者是否履行了法律要求的完整的披露義務(wù)，使其難以實(shí)現(xiàn)真正的透明度。

4.對人工智能定義和分類存在爭議

從定義的角度而言，法案最初對人工智能的定義是不清晰、不明確的，而且定義的范圍過廣。按照法案第三條以及附錄一的內(nèi)容，目前常見的互聯(lián)網(wǎng)服務(wù)，如地圖導(dǎo)航、手機(jī)軟件智能推送、輸入法的聯(lián)想功能都屬于法案的監(jiān)管范圍?；诖?，歐洲議會(huì)引入了一個(gè)新的標(biāo)準(zhǔn)，即人工智能模型只有在對健康、安全和基本權(quán)利構(gòu)成重大風(fēng)險(xiǎn)的情況下才會(huì)被視為高風(fēng)險(xiǎn)。但人工智能的定義如何適應(yīng)人工智能技術(shù)的快速演進(jìn)的問題尚未解決。

風(fēng)險(xiǎn)類別的分類亦引起廣泛討論。法案將人工智能進(jìn)行分級規(guī)制，有利于對人工智能的精確管理。然而，某一項(xiàng)人工智能技術(shù)應(yīng)屬于哪一類別，實(shí)際上存在著不同觀點(diǎn)。法案第52條規(guī)定了生成或操縱圖像、音頻或視頻的內(nèi)容是明顯類似于現(xiàn)實(shí)，讓人誤以為是真實(shí)可信的，使用者必須披露內(nèi)容是人為生成或操縱的。這表明法案未將深度偽造技術(shù)納入高風(fēng)險(xiǎn)人工智能系統(tǒng)，只是在透明度方面，要求使用者進(jìn)行內(nèi)容披露。本文認(rèn)為這樣劃分是不合理的，并且不合理的劃分將使法律制度的實(shí)際效用大打折扣。

三、歐盟《人工智能法案》對中國的啟示

新一代人工智能正在全球范圍內(nèi)蓬勃興起，為經(jīng)濟(jì)社會(huì)發(fā)展注入了新動(dòng)能，正在深刻改變?nèi)藗兊纳a(chǎn)生活方式。同時(shí)，人工智能產(chǎn)品、服務(wù)對倫理道德、隱私權(quán)、系統(tǒng)安全等方面帶來了巨大的威脅。中國向來高度重視人工智能引發(fā)的各種問題，歐盟《人工智能法案》為我國人工智能法律監(jiān)管提供了參考。

21世紀(jì)以來，人類社會(huì)發(fā)展的信息化程度加深，大數(shù)據(jù)、互聯(lián)網(wǎng)、人工智能的快速發(fā)展與應(yīng)用，創(chuàng)造了不可估量的價(jià)值。針對方興未艾的人工智能領(lǐng)域，我國出臺了一系列法律規(guī)范和政策文件。國務(wù)院頒布了《新一代人工智能發(fā)展規(guī)劃》，這是我國第一個(gè)系統(tǒng)規(guī)定人工智能發(fā)展的總體思路、戰(zhàn)略目標(biāo)、主要任務(wù)和保障措施的指導(dǎo)性文件?？萍疾俊⒕W(wǎng)信辦等部門頒布了多個(gè)促進(jìn)人工智能發(fā)展的部門規(guī)章，地方性法規(guī)也相繼出臺（見表1）。然而，現(xiàn)有的法律規(guī)范存在諸多問題，如缺乏體系性，更多依靠法律原則、國家標(biāo)準(zhǔn)、行業(yè)條例進(jìn)行規(guī)制，缺乏細(xì)化的監(jiān)管措施和鼓勵(lì)創(chuàng)新的制度設(shè)計(jì)。人工智能領(lǐng)域的法律規(guī)制仍待進(jìn)一步完善。

（一）明確人工智能的法律地位

人工智能目前面臨如此多新挑戰(zhàn)和問題的原因之一，與承認(rèn)或不承認(rèn)其可能的法律人格有關(guān)。人工智能的法律地位問題挑戰(zhàn)了公眾對法律人格的傳統(tǒng)概念的理解。緊隨人格問題之后的法律問題是關(guān)于法律責(zé)任的，即人工智能活動(dòng)所造成的后果如何歸屬和分配責(zé)任。目前管理部門和社會(huì)熱切關(guān)注人工智能領(lǐng)域可能出現(xiàn)的哲學(xué)和道德問題，但這些問題不能替代在人工智能領(lǐng)域中所有重要決策對應(yīng)的責(zé)任承擔(dān)問題。因此，人工智能是否具有法律人格是必須要回應(yīng)的一個(gè)關(guān)鍵問題。賦予人工智能法律人格，有可能導(dǎo)致潛在的責(zé)任主體濫用人工智能的法律地位。公眾或企業(yè)可能會(huì)試圖使用人工智能機(jī)器人作為“法律責(zé)任的擋箭牌”，或者以人工智能作為一個(gè)減輕其責(zé)任的因素。

法律主體應(yīng)具有民事行為能力，這意味著民事主體具有必要的意思能力，并可以獨(dú)立地作出意思表示。而人工智能無法做出獨(dú)立的意思表示，其提供數(shù)據(jù)處理等服務(wù)實(shí)際上是人工智能開發(fā)者的設(shè)計(jì)成果。因此，人工智能不應(yīng)被視為法律主體之一。本文認(rèn)為，人類是社會(huì)生活的主體，人工智能是提供便利的工具。鑒于人工智能的智能性和自主性，可以將高度智能化的人工智能作為客體中的特殊物，予以特殊的法律規(guī)制。

（二）加強(qiáng)人工智能立法的體系化和系統(tǒng)性

比較中國與歐盟人工智能制度規(guī)制進(jìn)展，中國多為產(chǎn)業(yè)促進(jìn)類文件，鼓勵(lì)企業(yè)發(fā)展，近期出臺較多治理類文件，我國有關(guān)人工智能的立法正在逐步增多，并向更加精細(xì)的方向發(fā)展，但沒有統(tǒng)一立法的跡象。歐盟的人工智能立法速度較快，且傾向于復(fù)制GDPR經(jīng)驗(yàn)，以引領(lǐng)全球人工智能立法。具體而言，我國人工智能立法存在著軟法與硬法交織的情況，法律法規(guī)較少且規(guī)定較為原則和籠統(tǒng)，國家標(biāo)準(zhǔn)和行業(yè)標(biāo)準(zhǔn)以及相關(guān)政策性文件較多。目前，市場上部分人工智能產(chǎn)品、服務(wù)已投入生產(chǎn)使用，但并未出臺相關(guān)立法，這些人工智能技術(shù)的應(yīng)用缺乏相應(yīng)的制度規(guī)制。因此，需要加快人工智能的立法研究，對人工智能的產(chǎn)品和流通進(jìn)行立法規(guī)范，充分保障社會(huì)和個(gè)人的安全。

（三）細(xì)化風(fēng)險(xiǎn)分級制度

我國在人工智能的監(jiān)管方面仍處于起步階段，以風(fēng)險(xiǎn)分級制度為例，《深圳經(jīng)濟(jì)特區(qū)人工智能產(chǎn)業(yè)促進(jìn)條例》提到了“風(fēng)險(xiǎn)等級”，《上海市促進(jìn)人工智能產(chǎn)業(yè)發(fā)展條例》第五章規(guī)定了高風(fēng)險(xiǎn)、中低風(fēng)險(xiǎn)不同的治理模式。但前述條例的相關(guān)內(nèi)容均是方向性、原則性的規(guī)定，具體的細(xì)則內(nèi)容仍未出臺。政府監(jiān)督人工智能法律的實(shí)施，必須解決監(jiān)督的有效性問題。我國進(jìn)行人工智能法律監(jiān)管的方式，可以參照歐盟風(fēng)險(xiǎn)分級的方式，但應(yīng)根據(jù)我國實(shí)際情況，盡快出臺配套的具體細(xì)節(jié)規(guī)定。對各風(fēng)險(xiǎn)類別進(jìn)行合理定義和劃分，可以通過公眾參與、專家論證等方式進(jìn)行，以增加制度的科學(xué)性和民主性，促進(jìn)制度的最終落實(shí)。

（四）以制度設(shè)計(jì)鼓勵(lì)創(chuàng)新

我國各部委相繼出臺的多個(gè)部門規(guī)章中涉及鼓勵(lì)創(chuàng)新的理念和制度。如科技部等六部門發(fā)布的《關(guān)于加快場景創(chuàng)新以人工智能高水平應(yīng)用促進(jìn)經(jīng)濟(jì)高質(zhì)量發(fā)展的指導(dǎo)意見》、全國信息安全標(biāo)準(zhǔn)化技術(shù)委員會(huì)秘書處發(fā)布的《網(wǎng)絡(luò)安全標(biāo)準(zhǔn)實(shí)踐指南—人工智能倫理安全風(fēng)險(xiǎn)防范指引》均規(guī)定了有關(guān)創(chuàng)新的內(nèi)容。但現(xiàn)有的部門規(guī)章以“指導(dǎo)意見”為主，內(nèi)容為方向性、原則性的規(guī)定。即使是專門為促進(jìn)創(chuàng)新而制定的部門規(guī)章，如《國家新一代人工智能創(chuàng)新發(fā)展試驗(yàn)區(qū)建設(shè)工作指引》，其有關(guān)支持創(chuàng)新的內(nèi)容仍是從宏觀角度出發(fā)的?？梢?，有關(guān)創(chuàng)新的制度設(shè)計(jì)仍待優(yōu)化，后續(xù)各項(xiàng)管理細(xì)則仍待出臺。通過制度鼓勵(lì)創(chuàng)新是促進(jìn)人工智能發(fā)展的重要方式，可以監(jiān)管沙盒制度為參考，通過彈性的制度設(shè)計(jì)，為企業(yè)進(jìn)行人工智能開發(fā)提供良好的環(huán)境。

（責(zé)任編輯：孟潔）

參考文獻(xiàn)：

[1]程瑩，崔赫.歐盟高風(fēng)險(xiǎn)人工智能監(jiān)管的五個(gè)特點(diǎn)——?dú)W盟人工智能法案（草案）初步解讀[J].互聯(lián)網(wǎng)天地，2021（6）：38-41.

[2]曹建峰，方齡曼.歐盟人工智能倫理與治理的路徑及啟示[J].人工智能，2019（4）：39-47.

[3]曾雄，梁正，張輝.歐盟人工智能的規(guī)制路徑及其對我國的啟示——以《人工智能法案》為分析對象[J].電子政務(wù)，2022（9）：63-72.

[4]European Commission.proposal for a regulation of the European Parliament and the council laying down harmonised rules on artificial intelligence（Artificial Intrelligence Act）and amending certain union legisilative acts，COM（2021）206 final，2021[EB/OL].[2021-04-21].https：//eur-lex.europa.eu/resource.html？uri=cellar：e0649735-a372-11eb-9585-01aa75ed71a1.0001.02/DOC_1&format=PDF.

[5]安永康.基于風(fēng)險(xiǎn)而規(guī)制：我國食品安全政府規(guī)制的校準(zhǔn)[J].行政法學(xué)研究，2020（4）：133-144.

[6]金玲.全球首部人工智能立法：創(chuàng)新和規(guī)范之間的艱難平衡[J].人民論壇，2022（4）：44-47.

[7]Mauritz Kop.EU Artificial Intelligence Act：The European Approach to AI[EB/OL].[2021-10-01].https：//law.stanford.edu/publications/eu-artificial-intelligence-act-the-european-approach-to-ai/.

[8]胡玉鴻.關(guān)于“利益衡量”的幾個(gè)法理問題[J].現(xiàn)代法學(xué)，2001（4）：32-38.

[9]盛學(xué)軍.政府監(jiān)管權(quán)的法律定位[J].社會(huì)科學(xué)研究，2006（1）：100-107.

[10]Mark Findlay，Jolyon Ford，Josephine Seah，Dilan Thampapillai.Regulatory insights on artificial intelligence[M].Cheltenham：Edward Elgar Publishing Limited，2022.

[11]劉洪華.論人工智能的法律地位[J].政治與法律，2019（1）：11-21.

[12]楊福忠，姚鳳梅.人工智能賦能社會(huì)治理之維度及風(fēng)險(xiǎn)法律防治[J].河北法學(xué)，2022，40（11）：89-102.