方旭　衛(wèi)燕　張穎　王瀟灑　孫琳瀟　許磊

摘? 要： 目前人工智能在各行各業(yè)中的應(yīng)用不斷深入，同時(shí)也面臨著諸多風(fēng)險(xiǎn)。各國(guó)紛紛制定了人工智能發(fā)展規(guī)劃，人工智能安全建設(shè)是各國(guó)人工智能智能規(guī)劃的重要組成部分。2021年4月，歐盟出臺(tái)了《人工智能法案》。通過(guò)與美國(guó)國(guó)家人工智能安全委員會(huì)出臺(tái)的相關(guān)報(bào)告進(jìn)行對(duì)比分析，可以看出歐盟人工智能法案與美國(guó)國(guó)家人工智能安全報(bào)告有諸多共同點(diǎn)，同時(shí)歐盟人工智能法案具有鮮明特色。在上述研究的基礎(chǔ)上，結(jié)合我國(guó)的實(shí)際，提出了相關(guān)建議對(duì)策。

關(guān)鍵詞： 人工智能; 法案; 特色; 對(duì)策

中圖分類(lèi)號(hào)：G40? ? ? ? ? 文獻(xiàn)標(biāo)識(shí)碼：A? ? ?文章編號(hào)：1006-8228（2022）05-92-04

Overview of European Union Artificial Intelligence Act

Fang Xu Wei Yan ?Zhang Ying Wang Xiaosa Sun Linxiao Xu Lei

Abstract： At present， the application of artificial intelligence in all walks of life is deepening， but also faces many risks. AI development plans have been formulated in many countries， and the construction of AI security is an important part of the AI planning of each country. In April 2021， European Union pushed forward with 'Artificial Intelligence Act'. Through comparative analysis with the relevant reports issued by the National Artificial Intelligence Safety Commission of the United States， it can be found that the European Union Artificial Intelligence Act has many common points with the United States National Artificial Intelligence Safety Report， while the European Union Artificial Intelligence Act has the distinctive features. On the basis of the above research， combined with the reality of our country， the suggestions and countermeasures are put forward.

Key words： artificial intelligence; act; feature; countermeasure

引言

隨著智能化社會(huì)的到來(lái)，世界各國(guó)紛紛進(jìn)行人工智能布局[1]。人工智能已經(jīng)在各行各業(yè)包括交通、教育、服務(wù)等領(lǐng)域有了越來(lái)越多的應(yīng)用。與此同時(shí)，其安全問(wèn)題也逐漸凸顯出來(lái)。有關(guān)研究顯示，人工智能面臨著諸多風(fēng)險(xiǎn)，如數(shù)據(jù)風(fēng)險(xiǎn)（例如數(shù)據(jù)投毒、數(shù)據(jù)泄露、數(shù)據(jù)異常）、算法風(fēng)險(xiǎn)、網(wǎng)絡(luò)風(fēng)險(xiǎn)以及其他風(fēng)險(xiǎn)。人工智能已經(jīng)造成難以應(yīng)對(duì)的各種風(fēng)險(xiǎn)，以及對(duì)復(fù)雜問(wèn)題的分析帶有種族主義和性別歧視（鄧文錢(qián)，2020）[2]。黃崑等（2021）對(duì)近五年圖情SSCI期刊人工智能倫理研究文獻(xiàn)分析得出：人工智能在數(shù)據(jù)、算法和人工智能系統(tǒng)不同層次，以及醫(yī)藥衛(wèi)生、文化教育、軍事、政治等多個(gè)領(lǐng)域都面臨著諸多風(fēng)險(xiǎn)，例如在金融信貸中，運(yùn)用人工智能技術(shù)幫助金融機(jī)構(gòu)決定提供貸款的對(duì)象，算法運(yùn)行結(jié)果可能產(chǎn)生地域、種族和性別上的偏見(jiàn)[3]，而人工智能安全問(wèn)題是各國(guó)人工智能發(fā)展規(guī)劃必不可少的一部分。2017年1月國(guó)務(wù)院引發(fā)《新一代人工智能發(fā)展規(guī)劃》指出：“加強(qiáng)人工智能相關(guān)法律、倫理和社會(huì)問(wèn)題研究，建立保障人工智能健康發(fā)展的法律法規(guī)和倫理道德框架與建立人工智能安全監(jiān)管和評(píng)估體系[4]?！?/p>

美國(guó)國(guó)家人工智能規(guī)劃《國(guó)家人工智能研發(fā)戰(zhàn)略規(guī)劃2016》、《國(guó)家人工智能研發(fā)戰(zhàn)略規(guī)劃2019更新版》將人工智能安全建設(shè)列為重大戰(zhàn)略方向之一[5]。2021年歐盟委員會(huì)發(fā)布了《人工智能法案》（Artificial Intelligence Act）（以下簡(jiǎn)稱(chēng)《法案》）[6]。該法案系統(tǒng)全面的提出了人工智能風(fēng)險(xiǎn)預(yù)防的保障機(jī)制和實(shí)施路徑，該《法案》具有的諸多特色，可為我國(guó)人工智能的發(fā)展帶來(lái)諸多啟示。

1 《法案》出臺(tái)的背景與目標(biāo)

人工智能（AI）是一個(gè)快速發(fā)展的技術(shù)家族，可以為整個(gè)行業(yè)和社會(huì)活動(dòng)的各個(gè)領(lǐng)域帶來(lái)廣泛的經(jīng)濟(jì)和社會(huì)利益。通過(guò)改善預(yù)測(cè)、優(yōu)化運(yùn)營(yíng)和資源分配以及個(gè)性化服務(wù)交付等，AI的使用對(duì)社會(huì)和環(huán)境均有益。在歐洲，其影響重大的部門(mén)有氣候變化、環(huán)境與衛(wèi)生、公共部門(mén)、金融、內(nèi)政和農(nóng)業(yè)。

AI技術(shù)在給人類(lèi)帶來(lái)利益的同時(shí)，也可能給個(gè)人或社會(huì)帶來(lái)新的風(fēng)險(xiǎn)或負(fù)面影響。歐盟一些會(huì)員國(guó)已經(jīng)在考慮制定國(guó)家法規(guī)，以確保AI發(fā)展的安全性，并在遵守基本權(quán)利義務(wù)的情況下進(jìn)行開(kāi)發(fā)和使用。這可能會(huì)導(dǎo)致兩個(gè)主要問(wèn)題：①內(nèi)部市場(chǎng)在基本要素上的分散化，尤其是在AI產(chǎn)品及其服務(wù)的需求、營(yíng)銷(xiāo)、使用、責(zé)任以及公共機(jī)構(gòu)的監(jiān)督等方面;②AI系統(tǒng)的提供者和用戶(hù)在現(xiàn)有和新規(guī)則將如何適用于聯(lián)盟中的那些系統(tǒng)方面的法律確定性將大大降低。鑒于跨境產(chǎn)品和服務(wù)的流通，可以通過(guò)歐盟統(tǒng)一立法來(lái)更好地解決以上兩個(gè)問(wèn)題。

AI通常依賴(lài)于龐大而動(dòng)態(tài)的數(shù)據(jù)集，并且可以嵌入內(nèi)部市場(chǎng)自由流通的任何產(chǎn)品或服務(wù)中。因此，單憑會(huì)員國(guó)的努力無(wú)法有效實(shí)現(xiàn)該提案的目標(biāo)。此外，出現(xiàn)分歧的國(guó)家法規(guī)的拼湊將阻礙與AI系統(tǒng)相關(guān)的產(chǎn)品和服務(wù)在整個(gè)歐盟的無(wú)縫流通，并且無(wú)法確保不同成員國(guó)之間的基本權(quán)利和聯(lián)盟價(jià)值的安全和保護(hù)。一些解決問(wèn)題的方法只會(huì)增加法律上的不確定性和障礙，并會(huì)減慢AI的市場(chǎng)采用率。

《法案》的主要目標(biāo)是通過(guò)制定統(tǒng)一的規(guī)則來(lái)確保內(nèi)部市場(chǎng)的正常運(yùn)作，特別是在開(kāi)發(fā)與投放聯(lián)盟市場(chǎng)，以及使用AI技術(shù)或作為獨(dú)立AI提供的產(chǎn)品和服務(wù)的使用方面，要制定統(tǒng)一的規(guī)則系統(tǒng)。《法案》基于歐盟的價(jià)值觀和基本權(quán)利，旨在使人們和其他用戶(hù)有信心接受基于AI的解決方案，同時(shí)鼓勵(lì)企業(yè)進(jìn)行開(kāi)發(fā)。委員會(huì)提出了擬議的AI監(jiān)管框架，具體如下：①確保投放到聯(lián)盟市場(chǎng)上并使用的AI系統(tǒng)是安全的，并尊重有關(guān)基本權(quán)利和聯(lián)盟價(jià)值的現(xiàn)行法律;②確保法律上的確定性，以促進(jìn)對(duì)AI的投資和創(chuàng)新;③加強(qiáng)對(duì)適用于AI系統(tǒng)的基本權(quán)利和安全要求的現(xiàn)有法律的治理和有效執(zhí)行;④促進(jìn)針對(duì)合法，安全和可信賴(lài)的AI應(yīng)用程序的單一市場(chǎng)的開(kāi)發(fā)，并防止市場(chǎng)分散?！斗ò浮返闹贫ㄅc實(shí)施，對(duì)于保障AI的可持續(xù)發(fā)展具有重要的意義，對(duì)于保證AI系統(tǒng)在歐盟內(nèi)更順暢的流通、促進(jìn)AI的創(chuàng)新發(fā)展等也具有重要的意義。

2 《法案》的特色

2.1 《法案》是全球范圍內(nèi)首份專(zhuān)門(mén)針對(duì)AI風(fēng)險(xiǎn)管理的法案

目前的規(guī)劃和法案更多的集中在AI的建設(shè)和應(yīng)用方面，而對(duì)風(fēng)險(xiǎn)的預(yù)防及解決策略關(guān)注不夠?！斗ò浮房梢哉f(shuō)是全球首份專(zhuān)門(mén)針對(duì)AI風(fēng)險(xiǎn)制定的相關(guān)法律?！斗ò浮诽岢鯝I的發(fā)展應(yīng)遵循明確定義的基于風(fēng)險(xiǎn)的方法，該方法應(yīng)根據(jù)AI系統(tǒng)可能產(chǎn)生的風(fēng)險(xiǎn)的強(qiáng)度和范圍來(lái)調(diào)整此類(lèi)規(guī)則的類(lèi)型和內(nèi)容。因此，有必要禁止某些AI實(shí)踐，為高風(fēng)險(xiǎn)的AI系統(tǒng)制定要求和相關(guān)操作員的義務(wù)，并為某些AI系統(tǒng)制定透明度義務(wù)。“嚴(yán)重事件”是指直接或間接導(dǎo)致，可能導(dǎo)致以下事件：一個(gè)人的死亡;對(duì)人的健康、財(cái)產(chǎn)或環(huán)境的嚴(yán)重?fù)p害;對(duì)關(guān)鍵基礎(chǔ)設(shè)施的管理和運(yùn)營(yíng)造成了嚴(yán)重且不可逆轉(zhuǎn)的破壞。

2.2 《法案》內(nèi)容具體明確，具有很強(qiáng)的實(shí)際可執(zhí)行性

《法案》在各個(gè)方面的規(guī)定都非常具體細(xì)致，具有較強(qiáng)的實(shí)際可操作性。在高風(fēng)險(xiǎn)AI系統(tǒng)方面，《法案》從高風(fēng)險(xiǎn)AI的角度，支持創(chuàng)新的措施。從AI監(jiān)管沙箱、面向小規(guī)模提供商和用戶(hù)的措施等方面，它系統(tǒng)全面的論述了高風(fēng)險(xiǎn)AI系統(tǒng)的風(fēng)險(xiǎn)防范措施，具有較強(qiáng)的可執(zhí)行性。《法案》對(duì)各種高風(fēng)險(xiǎn)情形列出了常見(jiàn)的案例或表現(xiàn)。以“實(shí)時(shí)”遠(yuǎn)程生物特征識(shí)別系統(tǒng)為例，《法案》規(guī)定，在公共場(chǎng)所使用“實(shí)時(shí)”遠(yuǎn)程生物特征識(shí)別系統(tǒng)，出于以下目的，必須嚴(yán)格使用：有針對(duì)性地尋找特定的潛在受害者，包括失蹤兒童;防止對(duì)自然人的生命或人身安全以及恐怖襲擊的具體、實(shí)質(zhì)性和迫在眉睫的威脅;偵測(cè)、定位、識(shí)別或起訴理事會(huì)所指的犯罪行為的犯罪嫌疑人，并在有關(guān)會(huì)員國(guó)處以監(jiān)禁方式對(duì)其進(jìn)行懲處。

在公共場(chǎng)所使用“實(shí)時(shí)”遠(yuǎn)程生物特征識(shí)別系統(tǒng)時(shí)，應(yīng)考慮以下因素：當(dāng)使用情況可能帶來(lái)某些負(fù)面影響，特別是在不使用該系統(tǒng)的情況下會(huì)造成嚴(yán)重?fù)p害，或?qū)τ嘘P(guān)人員的權(quán)利和自由產(chǎn)生嚴(yán)重后果。另出于執(zhí)法目的，在公共場(chǎng)所使用“實(shí)時(shí)”遠(yuǎn)程生物特征識(shí)別系統(tǒng)，應(yīng)符合與之相關(guān)的必要且相稱(chēng)的保障措施和條件，尤其是在時(shí)間、地理和個(gè)人限制方面。在公共場(chǎng)所使用“實(shí)時(shí)”遠(yuǎn)程生物特征識(shí)別系統(tǒng)的執(zhí)法目的而進(jìn)行的個(gè)人使用，均應(yīng)首先獲得司法當(dāng)局的事先授權(quán)，或由使用的成員國(guó)的獨(dú)立行政當(dāng)局根據(jù)合理的要求發(fā)布的。但是，在有正當(dāng)理由的緊急情況下，未經(jīng)授權(quán)就可以開(kāi)始使用系統(tǒng)，但是在使用過(guò)程中或使用之后，必須請(qǐng)求授權(quán)。司法或行政主管部門(mén)應(yīng)僅在基于其客觀證據(jù)或明確指示而感到滿意的情況下，授予使用有爭(zhēng)議的“實(shí)時(shí)”遠(yuǎn)程生物特征識(shí)別系統(tǒng)。而在違反《法案》的罰則方面，《法案》詳細(xì)列出了處罰規(guī)定。具體包括：不遵守AI系統(tǒng)的任何要求，應(yīng)處以最高20000000歐元的行政罰款，如果犯罪者是公司，行政罰款要占上一財(cái)政年度全球年度總營(yíng)業(yè)額的4%（以較高者為準(zhǔn)）;向指定機(jī)構(gòu)和國(guó)家主管部門(mén)提供不正確、不完整或具誤導(dǎo)性的信息以響應(yīng)請(qǐng)求，應(yīng)處以最高一千萬(wàn)歐元的行政罰款，如果犯罪者是公司，行政罰款要處以上一個(gè)會(huì)計(jì)年度的全球年度總營(yíng)業(yè)額最高2%的罰款，以較高者為準(zhǔn)等。

2.3 《法案》鼓勵(lì)A(yù)I的發(fā)展，而不是限制

該提案建立在現(xiàn)有法律框架的基礎(chǔ)上，對(duì)于目標(biāo)實(shí)現(xiàn)是適當(dāng)且必要的，因?yàn)樵撎岚缸裱陲L(fēng)險(xiǎn)的方法，并且僅在AI系統(tǒng)可能對(duì)基本權(quán)利和安全構(gòu)成高風(fēng)險(xiǎn)時(shí)才施加監(jiān)管。對(duì)于其他非高風(fēng)險(xiǎn)的AI系統(tǒng)，實(shí)施有限的透明性義務(wù)。例如在提供信息以標(biāo)記與人類(lèi)交互時(shí)使用AI系統(tǒng)等方面。對(duì)于高風(fēng)險(xiǎn)的AI系統(tǒng)，用于降低AI可能帶來(lái)的基本權(quán)利和安全的風(fēng)險(xiǎn)，而其他現(xiàn)有的監(jiān)控并不能滿足這些要求，所以對(duì)于高質(zhì)量數(shù)據(jù)，文檔和可追溯性、透明度、人工監(jiān)督、準(zhǔn)確性和監(jiān)督性的要求是絕對(duì)必要的。法律框架、統(tǒng)一的標(biāo)準(zhǔn)以及支持性的指導(dǎo)和合規(guī)工具將幫助提供商和用戶(hù)遵守提案中規(guī)定的要求，并最大程度地降低其成本。運(yùn)營(yíng)商產(chǎn)生的成本與實(shí)現(xiàn)的目標(biāo)以及運(yùn)營(yíng)商可從此提案中預(yù)期的經(jīng)濟(jì)和聲譽(yù)收益成正比。

《法案》專(zhuān)門(mén)制定了鼓勵(lì)A(yù)I創(chuàng)新的措施，包括建立AI監(jiān)管沙箱、在AI監(jiān)管沙箱中出于公共利益的目的進(jìn)一步處理個(gè)人數(shù)據(jù)以開(kāi)發(fā)某些AI系統(tǒng)等。《法案》有助于實(shí)現(xiàn)創(chuàng)建法律基礎(chǔ)上的創(chuàng)新，永不過(guò)時(shí)且具有抗破壞能力的法律框架的目標(biāo)。為此，它鼓勵(lì)國(guó)家主管部門(mén)設(shè)立監(jiān)管沙箱，并在治理、監(jiān)督和責(zé)任方面設(shè)定基本框架。AI監(jiān)管沙箱建立了一個(gè)可控環(huán)境，可以根據(jù)與主管部門(mén)達(dá)成的測(cè)試計(jì)劃在有限的時(shí)間內(nèi)測(cè)試創(chuàng)新技術(shù)。

2.4 具有很強(qiáng)的可信度

《法案》的出臺(tái)經(jīng)過(guò)了廣泛的意見(jiàn)征詢(xún)以及專(zhuān)家論證階段，歷時(shí)兩年后出臺(tái)，具有較強(qiáng)的可信度。歐盟于2020年2月19日至6月14日期間就《法案》進(jìn)行了廣泛的意見(jiàn)征詢(xún)。法案的出臺(tái)是與所有主要利益攸關(guān)方進(jìn)行廣泛協(xié)商的結(jié)果。它針對(duì)所有來(lái)自公共和私營(yíng)部門(mén)的利益相關(guān)者，包括政府、地方當(dāng)局、商業(yè)和非商業(yè)組織、社會(huì)伙伴、專(zhuān)家、學(xué)者和公民。在分析了收到的所有答復(fù)之后，委員會(huì)在其網(wǎng)站上發(fā)布了摘要結(jié)果和個(gè)人答復(fù)。 總共收到1215各回復(fù)，其中352個(gè)來(lái)自公司或商業(yè)組織或協(xié)會(huì)，406個(gè)來(lái)自個(gè)人（來(lái)自歐盟的92%），152個(gè)來(lái)自學(xué)術(shù)研究機(jī)構(gòu)，以及73個(gè)來(lái)自公共機(jī)構(gòu)。民間社會(huì)的聲音來(lái)自160位受訪者（其中9個(gè)消費(fèi)者組織，129個(gè)非政府組織和22個(gè)工會(huì)），72位受訪者為“其他”類(lèi)。在352家工商代表中，有222家是公司和商業(yè)代表，其中41.5%是微型、中小型企業(yè)。其余的是商業(yè)協(xié)會(huì)?？傮w而言，企業(yè)和行業(yè)的答復(fù)中有84%來(lái)自歐盟27個(gè)國(guó)家。利益相關(guān)者之間就采取行動(dòng)的需要達(dá)成了普遍協(xié)議，絕大多數(shù)利益相關(guān)者同意存在立法空白或需要新的立法。但是，一些利益相關(guān)者警告委員會(huì)避免重復(fù)、義務(wù)沖突和監(jiān)管過(guò)度，并且有許多評(píng)論強(qiáng)調(diào)了技術(shù)中立和相稱(chēng)的監(jiān)管框架的重要性。第二個(gè)階段是收集和使用專(zhuān)業(yè)知識(shí)。

《法案》的籌備工作于2018年開(kāi)始，建立了AI高級(jí)別專(zhuān)家組，該專(zhuān)家組由52名知名專(zhuān)家組成，成員廣泛，除了為該委員會(huì)的AI戰(zhàn)略的實(shí)施提供建議此外，AI聯(lián)盟形成了一個(gè)平臺(tái)，約有4000名利益相關(guān)者就AI的技術(shù)和社會(huì)影響進(jìn)行辯論，最終決議每年召開(kāi)一次AI大會(huì)。《法案》最終以?xún)赡甑姆治鰹榛A(chǔ)，在廣大利益相關(guān)者積極參與下，委員會(huì)根據(jù)“更好的法規(guī)”宗旨，對(duì)該建議進(jìn)行了影響評(píng)估，并由委員會(huì)的監(jiān)管委員會(huì)進(jìn)行了審查。根據(jù)委員會(huì)的既定方法，對(duì)每種政策選擇都針對(duì)經(jīng)濟(jì)和社會(huì)影響進(jìn)行了評(píng)估，尤其側(cè)重于對(duì)基本權(quán)利的影響：經(jīng)濟(jì)運(yùn)營(yíng)商/企業(yè)、合格評(píng)定機(jī)構(gòu)、標(biāo)準(zhǔn)化機(jī)構(gòu)和其他公共機(jī)構(gòu)、個(gè)人/公民、研究人員等。

3 對(duì)我國(guó)AI風(fēng)險(xiǎn)管理的啟示

3.1 增加對(duì)AI系統(tǒng)風(fēng)險(xiǎn)的關(guān)注

歐盟委員會(huì)提出的基于風(fēng)險(xiǎn)的監(jiān)管政策是很有必要的，監(jiān)管只有在問(wèn)題發(fā)生之前才有意義，因此必須超前，對(duì)于AI技術(shù)我們有太多的未知，其未被發(fā)現(xiàn)的潛能、危害以及社會(huì)影響都是不可預(yù)估的，我們只能依賴(lài)于制定法律提供足夠的時(shí)間與空間來(lái)進(jìn)行評(píng)估、測(cè)試、學(xué)習(xí)以及應(yīng)對(duì)。但無(wú)論如何，歐盟在在AI技術(shù)與產(chǎn)業(yè)方面的發(fā)展不占優(yōu)勢(shì)的情況下，仍把眼光放在了對(duì)技術(shù)的監(jiān)管上面，不得不承認(rèn)這是一種進(jìn)步。當(dāng)前我國(guó)AI的研究與應(yīng)用正如火如荼，在特殊的時(shí)期，更應(yīng)該把注意力更多的放在對(duì)系統(tǒng)的監(jiān)控與管理上。防患于未然，增強(qiáng)企業(yè)、政府、個(gè)人、基礎(chǔ)建設(shè)等領(lǐng)域的AI系統(tǒng)的危險(xiǎn)防范意識(shí)，不把單純的發(fā)展AI當(dāng)作最終目標(biāo)，力求在發(fā)展中更好治理，最大程度發(fā)揮AI系統(tǒng)的優(yōu)勢(shì)。

3.2 積極研究中國(guó)版AI法案的制定

目前中國(guó)也出臺(tái)了相關(guān)AI發(fā)展規(guī)劃，從總體上提出了相關(guān)AI發(fā)展規(guī)劃，但還缺乏具體的基于風(fēng)險(xiǎn)管理的AI發(fā)展規(guī)劃。中國(guó)還沒(méi)有專(zhuān)門(mén)針對(duì)AI的相關(guān)法案。目前，AI時(shí)代已然到來(lái)，很多高校也開(kāi)設(shè)了AI專(zhuān)業(yè)和AI學(xué)院，加強(qiáng)了AI碩士與博士的培養(yǎng)，AI正在越來(lái)越多的被應(yīng)用各行各業(yè)[9]，因此制定專(zhuān)門(mén)的AI法案，對(duì)AI的深入發(fā)展有重要意義。隨著AI技術(shù)在中國(guó)的發(fā)展，中國(guó)也難免遇到與歐盟或歐美國(guó)家類(lèi)似的問(wèn)題，中國(guó)可借鑒《法案》框架以及實(shí)施經(jīng)驗(yàn)，制定適用中國(guó)的AI法案。在法案內(nèi)容方面，應(yīng)適度，既不能約束AI的發(fā)展，也要規(guī)避風(fēng)險(xiǎn)。在政策制定方法方面，應(yīng)廣泛征詢(xún)相關(guān)人員的意見(jiàn)，并注重專(zhuān)家的參與，要注重法案的可執(zhí)行性。歐盟法案對(duì)實(shí)施路徑進(jìn)行了明確，讓《法案》易于實(shí)際的實(shí)施與執(zhí)行。因此，我國(guó)建立AI法案不僅要明確目標(biāo)、各利益相關(guān)者的責(zé)任、實(shí)施機(jī)制，更要明確具體實(shí)施路徑，這樣有利于法案的實(shí)際執(zhí)行，這包括具體的實(shí)施者、實(shí)施步驟、實(shí)施要求以及實(shí)施結(jié)果等。應(yīng)具體列出各類(lèi)情形的常見(jiàn)案例或表現(xiàn)，方便執(zhí)法人員執(zhí)行法案。

3.3 明確各利益相關(guān)者的職責(zé)

AI的開(kāi)發(fā)與使用涉及到諸多利益相關(guān)者，如企業(yè)、研發(fā)人員、開(kāi)發(fā)商、分銷(xiāo)商、使用者，管理機(jī)構(gòu)等。AI系統(tǒng)在投放到市場(chǎng)之前，其提供者應(yīng)當(dāng)已經(jīng)執(zhí)行了適當(dāng)?shù)暮细裨u(píng)定程序，同時(shí)系統(tǒng)帶有要求的合格標(biāo)記，并附有要求的文件和使用說(shuō)明。如果是進(jìn)口商認(rèn)為或有理由認(rèn)為高風(fēng)險(xiǎn)的AI系統(tǒng)不符合相關(guān)法規(guī)，則在該AI系統(tǒng)符合之前，不得將其投放市場(chǎng)。進(jìn)口商應(yīng)在高風(fēng)險(xiǎn)的AI系統(tǒng)上，或在其包裝或隨附的文件中（如果適用）指出其名稱(chēng)、注冊(cè)商標(biāo)名稱(chēng)或注冊(cè)商標(biāo)，以及可以與他們聯(lián)系的地址。分銷(xiāo)商方面，在市場(chǎng)上出售高風(fēng)險(xiǎn)的AI系統(tǒng)之前，分銷(xiāo)商應(yīng)核實(shí)高風(fēng)險(xiǎn)的AI系統(tǒng)是否具有要求的合格標(biāo)記，并附有所需的文件和使用說(shuō)明如果分銷(xiāo)商認(rèn)為或有理由認(rèn)為高風(fēng)險(xiǎn)AI系統(tǒng)不符合本標(biāo)題相關(guān)規(guī)定的要求，則高風(fēng)險(xiǎn)AI系統(tǒng)在該市場(chǎng)上不得進(jìn)行銷(xiāo)售。如果分銷(xiāo)商認(rèn)為其在市場(chǎng)上提供的高風(fēng)險(xiǎn)AI系統(tǒng)不符合相關(guān)規(guī)定的要求，則應(yīng)采取必要的糾正措施以使系統(tǒng)是否符合那些要求，或者直接撤回。如果高風(fēng)險(xiǎn)AI系統(tǒng)存在相關(guān)風(fēng)險(xiǎn)，分銷(xiāo)商則應(yīng)立即通知提供該產(chǎn)品的成員國(guó)的國(guó)家主管當(dāng)局，并提供詳細(xì)信息，尤其是不遵守規(guī)定以及采取的任何糾正措施。根據(jù)國(guó)家主管部門(mén)的合理要求，高風(fēng)險(xiǎn)AI系統(tǒng)的發(fā)行商應(yīng)向該機(jī)構(gòu)提供證明高風(fēng)險(xiǎn)系統(tǒng)符合要求的所有必要信息和文件。發(fā)行人還應(yīng)與該國(guó)家主管當(dāng)局合作采取行動(dòng)。對(duì)于用戶(hù)來(lái)說(shuō)，在使用過(guò)程中應(yīng)在法律許可的范圍內(nèi)按AI的說(shuō)明進(jìn)行使用，如果在AI使用過(guò)程中遇到任何問(wèn)題要及時(shí)反饋給相關(guān)部門(mén)，做好記錄與數(shù)據(jù)保存工作。在多方共同配合下，相信AI會(huì)更好的發(fā)揮其應(yīng)有的作用。

參考文獻(xiàn)（References）：

[1] 方旭.智能化時(shí)代國(guó)外人工智能教育戰(zhàn)略和啟示[J].教育

信息技術(shù)，2021（Z1）：37-41

[2] 鄧文錢(qián).人工智能時(shí)代的風(fēng)險(xiǎn)隱憂和制度防范[EB/OL].

[2021-06-10].http：//www.elecfans.com/rengongzhineng/1274751.html

[3] 黃崑，徐曉婷，黎安潤(rùn)澤，等.近5年圖情SSCI期刊人工智能

倫理研究文獻(xiàn)分析與啟示[J].現(xiàn)代情報(bào)，2021，41（6）：161-171

[4] 國(guó)務(wù)院.國(guó)務(wù)院關(guān)于印發(fā)新一代人工智能發(fā)展規(guī)劃的通知

[EB/OL].[2017-7-8]http：//www.gov.cn/zhengce/content/2017-07/20/content_5211996.htm.

[5] 賀斌，李紅美，王周秀，等.美國(guó)人工智能?chē)?guó)家戰(zhàn)略行動(dòng)最新

動(dòng)向：洞察與借鑒[J].情報(bào)雜志，2021，40（1）：25-32

[6] Europe Commission Proposal for a Regulation laying down

harmonised rules on artificial intelligence[EB/OL].[2021-4-21].https：//digital-strategy.ec.europa.eu/en/library/proposal-regulation-laying-down-harmonised-rules-artificial-intelligence

收稿日期：2021-11-03

*基金項(xiàng)目：2021年江蘇省社科應(yīng)用精品工程課題“多元共治視域下校外培訓(xùn)機(jī)構(gòu)在線教育的治理策略研究”（21SY-024）; 2021年南通市社科基金項(xiàng)目“規(guī)制經(jīng)濟(jì)學(xué)視角下的南通校外培訓(xùn)機(jī)構(gòu)治理路徑優(yōu)化研究”（2021BNT012）

作者簡(jiǎn)介：方旭（1981-），男，江蘇宿遷人，博士，副教授，碩士生導(dǎo)師，主要研究方向：人工智能教育、在線教育、教育信息化。