李舒沁

摘? 要：本屆歐盟委員會(huì)重視人工智能產(chǎn)業(yè)發(fā)展及其經(jīng)濟(jì)、社會(huì)影響，近期發(fā)布了《人工智能戰(zhàn)略》，重點(diǎn)關(guān)注解決風(fēng)險(xiǎn)問(wèn)題以形成基于信任的生態(tài)系統(tǒng)，促進(jìn)產(chǎn)業(yè)發(fā)展以構(gòu)建基于創(chuàng)新的生態(tài)系統(tǒng)，以及調(diào)整治理架構(gòu)形成適于AI發(fā)展的監(jiān)管機(jī)制等幾方面議題。這一戰(zhàn)略如果得到有效實(shí)施，將對(duì)法律建設(shè)、行業(yè)投資和集中科研力量等宏觀因素，以及產(chǎn)業(yè)發(fā)展方向、產(chǎn)學(xué)研合作及行業(yè)人才技能培養(yǎng)等微觀因素產(chǎn)生影響。在目前的《戰(zhàn)略》中，也存在監(jiān)管范圍不夠及知識(shí)產(chǎn)權(quán)與安全性矛盾待破解的不足之處。對(duì)我國(guó)來(lái)說(shuō)，可以參考借鑒《戰(zhàn)略》，加強(qiáng)頂層設(shè)計(jì)，加快相關(guān)法律法規(guī)制定，同時(shí)以“新基建”鼓勵(lì)A(yù)I領(lǐng)域的創(chuàng)新及產(chǎn)業(yè)化，最終推動(dòng)以人為本的AI建設(shè)。

關(guān)鍵詞：人工智能? 歐盟? 信任? 技能? 安全? 知識(shí)產(chǎn)權(quán)

中圖分類號(hào)：D95? ? ? ? ? ? ? ? ? ? ? ? ? ? ? 文獻(xiàn)標(biāo)識(shí)碼：A? ? ? ? ? ? ? ? ? 文章編號(hào)：1674-098X（2020）09（a）-0240-04

Abstract：This European commission attaches great importance to the development of artificial intelligence and its economic and social impact. Recently， it released the Strategy of Artificial Intelligence， focusing on solving the problem of risk to form the ecological system based on trust， promoting industrial development to build ecological system based on innovation， and adjusting management architecture to form a suitable supervision mechanism of the development of AI. If this strategy is effectively implemented， it will have impacts on macro factors such as legal construction， industrial investment and concentrated research strength， as well as micro factors such as industrial development direction， industry-university-research cooperation and industrial talent skills training. In the current strategy， there are also deficiencies in the scope of supervision and the contradiction between intellectual property and security.For China， the strategy can be used for reference to strengthen top-level design， to accelerate the formulation of relevant laws and regulations， and to encourage the innovation and industrialization of AI field with "new infrastructure"， so as to finally promote human-oriented AI construction.

Key Words：Artificial Intelligence; The European Union; Trusts;Skills;Security;Intellectual property

本屆歐盟委員會(huì)對(duì)數(shù)字技術(shù)及其經(jīng)濟(jì)社會(huì)影響高度重視。迄今為止，委員會(huì)已經(jīng)發(fā)布了四份數(shù)字技術(shù)相關(guān)戰(zhàn)略的文件，其中兩份涉及人工智能（AI），一份關(guān)于歐洲的數(shù)字未來(lái)建設(shè)，另一份關(guān)于歐洲的數(shù)據(jù)經(jīng)濟(jì)。與其他戰(zhàn)略類似，歐盟在AI相關(guān)戰(zhàn)略中，強(qiáng)調(diào)規(guī)則的建立，形成發(fā)展的總體框架，目的是推動(dòng)歐盟人工智能產(chǎn)業(yè)發(fā)展，掌握國(guó)際話語(yǔ)權(quán)，成為數(shù)字經(jīng)濟(jì)和應(yīng)用的全球規(guī)則領(lǐng)導(dǎo)者，與其他科技大國(guó)相抗衡。

1? 歐盟人工智能戰(zhàn)略重點(diǎn)關(guān)注方面

1.1 解決風(fēng)險(xiǎn)問(wèn)題，形成基于信任的生態(tài)系統(tǒng)

歐盟委員會(huì)在看到人工智能變革的同時(shí)，也認(rèn)識(shí)到由于AI的使用會(huì)帶來(lái)挑戰(zhàn)和風(fēng)險(xiǎn)，其推廣和使用仍然受到民眾的質(zhì)疑，也因此阻礙了產(chǎn)業(yè)發(fā)展?，F(xiàn)有的歐盟立法框架已不足以應(yīng)對(duì)這些挑戰(zhàn)和風(fēng)險(xiǎn)，因此需要提出新的監(jiān)管方案，有效應(yīng)對(duì)這些挑戰(zhàn)。歐盟AI戰(zhàn)略中監(jiān)管框架的核心內(nèi)容之一是AI技術(shù)投入市場(chǎng)之前需進(jìn)行強(qiáng)制性的合格檢驗(yàn)。這一規(guī)定主要針對(duì)于高風(fēng)險(xiǎn)AI，即應(yīng)用于高風(fēng)險(xiǎn)行業(yè)或高風(fēng)險(xiǎn)用途，前者如交通等，而后者如消費(fèi)者權(quán)利與隱私等。某些特定類型AI及應(yīng)用也可被視為高風(fēng)險(xiǎn)，如遠(yuǎn)程生物識(shí)別（監(jiān)視器的面部識(shí)別）即為其一[1]。對(duì)于這些應(yīng)用，監(jiān)管框架將主要從數(shù)據(jù)隱私保護(hù)和安全方面進(jìn)行評(píng)估，如訓(xùn)練集數(shù)據(jù)避免歧視，記錄存儲(chǔ)準(zhǔn)確，信息用途、限制等規(guī)定清晰，并可以由人工監(jiān)督和審查。對(duì)于非高風(fēng)險(xiǎn)AI產(chǎn)品，歐盟委員會(huì)建議實(shí)施自愿標(biāo)簽計(jì)劃。該計(jì)劃將允許非高風(fēng)險(xiǎn)AI產(chǎn)品供應(yīng)商可以為其程序貼上“質(zhì)量認(rèn)證”，使用戶容易識(shí)別其程序以便擴(kuò)大應(yīng)用范圍。在使用這一標(biāo)簽時(shí)也需要受到相應(yīng)的監(jiān)管。

1.2 促進(jìn)產(chǎn)業(yè)發(fā)展，構(gòu)建基于創(chuàng)新的生態(tài)系統(tǒng)

歐盟一直在推動(dòng)“單一數(shù)字市場(chǎng)”的建立，而AI是其中重要的方向。在AI產(chǎn)業(yè)發(fā)展方面，歐盟試圖建立一個(gè)不同層次的合作生態(tài)系統(tǒng)。宏觀層是成員國(guó)之間的合作。為追趕北美、亞洲在AI研究、產(chǎn)業(yè)化方面的投資額及技術(shù)領(lǐng)先水平，歐盟計(jì)劃于2020年底前通過(guò)一項(xiàng)成員國(guó)AI協(xié)調(diào)計(jì)劃，以促進(jìn)各成員國(guó)在研發(fā)、創(chuàng)新和部署方面的投資。次一層是產(chǎn)業(yè)層級(jí)。歐盟希望促進(jìn)產(chǎn)業(yè)協(xié)同。計(jì)劃中的一個(gè)重要舉措是建立跨成員國(guó)的AI研究中心，吸引投資和人才。這個(gè)中心的研究重點(diǎn)是歐盟在未來(lái)有可能取得世界領(lǐng)先地位的領(lǐng)域，主要包括工業(yè)、衛(wèi)生健康、交通、農(nóng)業(yè)產(chǎn)業(yè)鏈、能源/環(huán)境，以及對(duì)地/對(duì)太空探索等。第三層是中小企業(yè)。歐盟擬出臺(tái)的“投資興業(yè)”計(jì)劃將進(jìn)一步擴(kuò)大對(duì)中小企業(yè)和初創(chuàng)企業(yè)的投資。計(jì)劃原定于2020年一季度投入9億歐元，為每個(gè)成員國(guó)建立至少一個(gè)數(shù)字創(chuàng)新中心提供支持。

1.3 調(diào)整治理架構(gòu)，形成適于AI發(fā)展的監(jiān)管機(jī)制

在治理監(jiān)管結(jié)構(gòu)方面，歐盟試圖建立一個(gè)跨成員國(guó)的AI治理主管部門。這一機(jī)構(gòu)有三個(gè)目的。一是提高歐盟總體監(jiān)管能力。以跨部門機(jī)構(gòu)管理的方式，避免各成員國(guó)監(jiān)管設(shè)備及投入的碎片化，以及對(duì)規(guī)定的理解有偏差，，從而提高各國(guó)的總體監(jiān)管能力，確保歐盟逐漸具備適于AI能力測(cè)試和認(rèn)證的技術(shù)和產(chǎn)品。二是提供產(chǎn)業(yè)發(fā)展、標(biāo)準(zhǔn)制定的前瞻性信息或報(bào)告。除了監(jiān)管職能外，該機(jī)構(gòu)還可以成為各國(guó)定期交換信息并介紹實(shí)踐經(jīng)驗(yàn)的論壇。一方面可以集中各國(guó)AI企業(yè)及監(jiān)管機(jī)構(gòu)的經(jīng)驗(yàn)，在交流中為產(chǎn)業(yè)界指出新的發(fā)展趨勢(shì)和方向;另一方面也可以針對(duì)新算法、新工具，提出新的標(biāo)準(zhǔn)認(rèn)證流程或方式，在法律層面有所創(chuàng)新[2]。三是利用測(cè)試中心評(píng)估AI系統(tǒng)。在這個(gè)機(jī)構(gòu)中的測(cè)試中心評(píng)估AI系統(tǒng)的安全性、魯棒性等標(biāo)準(zhǔn)，為高風(fēng)險(xiǎn)AI系統(tǒng)進(jìn)行認(rèn)證。支持歐盟對(duì)AI安全性的標(biāo)準(zhǔn)制定，并對(duì)歐盟之外的AI系統(tǒng)進(jìn)入歐盟設(shè)置標(biāo)準(zhǔn)。

2? 產(chǎn)生的影響及仍需完善的部分

2.1 對(duì)歐盟AI產(chǎn)業(yè)發(fā)展的宏觀影響

歐洲對(duì)AI的發(fā)展戰(zhàn)略，對(duì)于產(chǎn)業(yè)發(fā)展的宏觀影響主要有三方面。一是對(duì)法律體系產(chǎn)生影響。目前歐盟尚無(wú)一部法律闡釋AI發(fā)展過(guò)程中基本權(quán)利、消費(fèi)者保護(hù)、產(chǎn)品安全和責(zé)任規(guī)則等情況。而且由于AI的不透明（“黑箱”效應(yīng)）、復(fù)雜性和部分自主行為，現(xiàn)行法律體系又無(wú)法應(yīng)對(duì)出現(xiàn)的問(wèn)題。因此，建立適用于AI的法律規(guī)定，將是未來(lái)一段時(shí)期內(nèi)，歐盟將加快推進(jìn)的工作。二是投資將大幅增加。歐盟AI相關(guān)的創(chuàng)新投資在一定時(shí)期內(nèi)持續(xù)弱于北美和亞洲。討論并計(jì)劃實(shí)施的戰(zhàn)略旨在幫助對(duì)AI項(xiàng)目增加更多投資，目標(biāo)是在未來(lái)10年實(shí)現(xiàn)每年200億歐元的投資額，達(dá)到以往投資額的5～6倍。三是集中技術(shù)和人才優(yōu)勢(shì)，提高總體競(jìng)爭(zhēng)力。通過(guò)在各國(guó)研究中心間建立合作、協(xié)同網(wǎng)絡(luò)，并以聯(lián)合研究中心的形式將各國(guó)優(yōu)秀人才和相關(guān)優(yōu)勢(shì)技術(shù)做好集成整合，形成合力優(yōu)勢(shì)，與其他國(guó)家開(kāi)展AI領(lǐng)域的競(jìng)爭(zhēng)。

2.2 對(duì)產(chǎn)業(yè)發(fā)展的微觀影響

微觀影響主要體現(xiàn)在三方面。一是對(duì)未來(lái)AI發(fā)展趨勢(shì)的展望更具系統(tǒng)性。在一個(gè)協(xié)同研究體系下，AI發(fā)展思路更加多元和開(kāi)放，溝通也更加便捷，對(duì)未來(lái)趨勢(shì)的設(shè)想和把握也可以更加有系統(tǒng)性?？梢詮臅r(shí)間維度、技術(shù)實(shí)現(xiàn)難易程度等方面構(gòu)成未來(lái)發(fā)展的網(wǎng)絡(luò)，涵蓋更多的技術(shù)和領(lǐng)域，在競(jìng)爭(zhēng)中占領(lǐng)先機(jī)。二是與業(yè)界溝通更加緊密。由于AI發(fā)展戰(zhàn)略強(qiáng)調(diào)合作，因此屬于私營(yíng)部門的中小企業(yè)、創(chuàng)業(yè)企業(yè)等在使用AI的過(guò)程中，也可以及時(shí)將自身訴求、現(xiàn)有AI系統(tǒng)的問(wèn)題更快地反饋給戰(zhàn)略體系內(nèi)的研發(fā)機(jī)構(gòu)。這些企業(yè)一方面可以獲得AI戰(zhàn)略提供的資助，另一方面也可以享受AI系統(tǒng)帶來(lái)的便利。他們的及時(shí)反饋，也可以為歐盟的AI研發(fā)提供業(yè)界拉動(dòng)力。三是對(duì)提升AI相關(guān)技能起指導(dǎo)作用。一方面是對(duì)現(xiàn)有工作群體的培訓(xùn)。這類培訓(xùn)更關(guān)注于未來(lái)可能需要用到的技能，以及自我學(xué)習(xí)提升的能力。另一方面則是提升全民對(duì)AI的認(rèn)識(shí)，包括對(duì)AI的了解、熟悉和信任，并對(duì)大學(xué)生等未來(lái)可能的從業(yè)人員進(jìn)行AI理念及倫理教育。

2.3 監(jiān)管薄弱環(huán)節(jié)有待完善

在歐盟的AI戰(zhàn)略中，也仍然有一些薄弱環(huán)節(jié)，有待于未來(lái)進(jìn)行完善。一是監(jiān)管對(duì)象覆蓋程度不夠高。在AI戰(zhàn)略中，監(jiān)管的重點(diǎn)是AI相關(guān)的產(chǎn)品，可以套用歐盟已有的產(chǎn)品安全法規(guī)，但對(duì)服務(wù)、代碼等則缺乏相關(guān)規(guī)定，可能會(huì)產(chǎn)生有企業(yè)宣稱“人工智能是一種服務(wù)”而規(guī)避監(jiān)管的問(wèn)題。同時(shí)對(duì)于具有產(chǎn)品和代碼雙重屬性的AI產(chǎn)品，如新型智能汽車的基于AI的自動(dòng)駕駛模塊，如果因其故障引起車輛行駛事故，則被追責(zé)的將是汽車廠家，而非AI的算法開(kāi)發(fā)人員[3]。二是對(duì)AI算法的知識(shí)產(chǎn)權(quán)與安全性之間的平衡。在監(jiān)管中，對(duì)AI算法和公司的安全性透明度的檢查，要求“披露人工智能系統(tǒng)的設(shè)計(jì)參數(shù)、用于訓(xùn)練的數(shù)據(jù)集并接受審計(jì)”等。在實(shí)際操作中，需要考慮如何保護(hù)知識(shí)產(chǎn)權(quán)。很多公司的業(yè)務(wù)是基于其AI算法而設(shè)立。AI算法對(duì)于這些公司相當(dāng)于藥物配方對(duì)于制藥公司。因此有必要盡快出臺(tái)適合AI產(chǎn)業(yè)的知識(shí)產(chǎn)權(quán)保護(hù)原則。

3? 對(duì)我國(guó)的啟示及應(yīng)對(duì)

3.1 加強(qiáng)頂層設(shè)計(jì)，加快相關(guān)法律法規(guī)制定

歐盟近幾年出臺(tái)一系列與數(shù)字經(jīng)濟(jì)、AI有關(guān)的法律法規(guī)，并在當(dāng)前的AI戰(zhàn)略中再次突出了法規(guī)、監(jiān)管的地位，表明其仍希望在這一領(lǐng)域占據(jù)規(guī)則制定者的位置。我國(guó)AI產(chǎn)業(yè)發(fā)展迅速，已經(jīng)開(kāi)展了諸多實(shí)踐，有必要加強(qiáng)頂層設(shè)計(jì)，打造適合我國(guó)國(guó)情的監(jiān)管法規(guī)體系[4]。一是擴(kuò)大監(jiān)管覆蓋面。借鑒歐盟的經(jīng)驗(yàn)及不足，對(duì)AI產(chǎn)品和服務(wù)、數(shù)字經(jīng)濟(jì)相關(guān)技術(shù)等可能帶來(lái)的經(jīng)濟(jì)影響和社會(huì)影響開(kāi)展研究，從企業(yè)、開(kāi)發(fā)者和用戶等不同角度進(jìn)行分析，盡可能多地覆蓋AI領(lǐng)域涉及的因素。即便暫時(shí)不便立法，也可以通過(guò)規(guī)定等形式，預(yù)防可能發(fā)生的風(fēng)險(xiǎn)。二是制定自己的AI產(chǎn)業(yè)發(fā)展標(biāo)準(zhǔn)并開(kāi)展認(rèn)證工作。行業(yè)標(biāo)準(zhǔn)的博弈通常決定了行業(yè)中各方所獲得的利益規(guī)模。我國(guó)的AI產(chǎn)業(yè)已初具規(guī)模。2018年我國(guó)AI市場(chǎng)規(guī)模為83.1億美元，同比增長(zhǎng)48.4%，占同年全球核心市場(chǎng)規(guī)模的1/7。很多應(yīng)用領(lǐng)域已形成較為成熟的經(jīng)驗(yàn)。結(jié)合業(yè)界實(shí)踐制定行業(yè)標(biāo)準(zhǔn)，對(duì)其他國(guó)家來(lái)說(shuō)有較大說(shuō)服力。而這也可為國(guó)內(nèi)AI產(chǎn)業(yè)的發(fā)展提供更大的動(dòng)力。

3.2 以“新基建”鼓勵(lì)A(yù)I領(lǐng)域的創(chuàng)新及產(chǎn)業(yè)化

今年，“新基礎(chǔ)設(shè)施”建設(shè)正在成為新的風(fēng)口，大量資本、技術(shù)、人才正在涌入“新基建”涉及的各個(gè)領(lǐng)域。AI也是其中之一。與特高壓、5G基建、大數(shù)據(jù)中心等服務(wù)于數(shù)字經(jīng)濟(jì)的有形基建不同，AI自身既有形又無(wú)形。AI可以與其他“新基建”緊密結(jié)合，其他“新基建”也服務(wù)于AI的發(fā)展[5]。而且“新基建”涉及領(lǐng)域中有不少是建立新的實(shí)體，而AI則可以與傳統(tǒng)產(chǎn)業(yè)、行業(yè)、產(chǎn)品相融合，為它們的轉(zhuǎn)型升級(jí)提供新動(dòng)力。我國(guó)很多企業(yè)在AI商業(yè)模式方面已有很多嘗試，下一步有必要加強(qiáng)AI相關(guān)的硬件建設(shè)，例如人工智能需要大量并行計(jì)算，而GPU具有相似的計(jì)算特征，那么GPU就是適合AI時(shí)代的核心處理模塊。同時(shí)，鼓勵(lì)企業(yè)進(jìn)一步利用AI升級(jí)改造傳統(tǒng)制造業(yè)，提高制造業(yè)競(jìng)爭(zhēng)力。而基于AI的智能家居、機(jī)器人等硬件設(shè)備，以及在不同行業(yè)發(fā)揮升級(jí)賦能作用，也是下一步發(fā)展的重點(diǎn)。

3.3 推動(dòng)以人為本的AI建設(shè)

發(fā)展AI的根本目的是服務(wù)于人，為使用帶來(lái)便利，因此，以人為本發(fā)展AI是需要遵循的原則。歐盟相關(guān)做法有可供借鑒的方面。一是平衡好技術(shù)發(fā)展與隱私保護(hù)之間的關(guān)系。歐盟推出GDPR后，很多AI公司認(rèn)為該條例限制了數(shù)據(jù)的流動(dòng)和使用，會(huì)影響AI算法的改進(jìn)。從實(shí)施一周年的情況看，很多AI公司完善了數(shù)據(jù)用途的告知方式，并注意提高用戶數(shù)據(jù)保護(hù)的安全性[6]。因此，在我國(guó)AI發(fā)展過(guò)程中，也需要以更為細(xì)致的立法規(guī)范企業(yè)對(duì)用戶數(shù)據(jù)的使用。二是做好大眾對(duì)AI技術(shù)的心理建設(shè)。AI給大眾的印象，通常較為神秘，益處與風(fēng)險(xiǎn)共存。有必要向公眾加強(qiáng)AI相關(guān)知識(shí)的宣傳，一方面說(shuō)明這一技術(shù)的利弊，讓大家了解其與現(xiàn)有技術(shù)的異同;另一方面也要加強(qiáng)對(duì)企業(yè)宣傳的管理，減少對(duì)AI進(jìn)行名不符實(shí)的宣傳，避免造成對(duì)AI的盲目崇拜或恐慌。三是加強(qiáng)AI相關(guān)的培訓(xùn)。AI對(duì)于傳統(tǒng)產(chǎn)業(yè)的改造，可能帶來(lái)從業(yè)人員工作崗位的變動(dòng)。為此需要增加從業(yè)人員的通用AI技能培訓(xùn)，提高他們對(duì)本行業(yè)或其他行業(yè)的適應(yīng)能力，降低離職風(fēng)險(xiǎn)。同時(shí)，推動(dòng)對(duì)AI開(kāi)發(fā)人員、大學(xué)生等高技能、高知人才的AI相關(guān)的倫理、道德教育，認(rèn)識(shí)到自己所掌握技術(shù)的巨大影響力，從而主動(dòng)提高自身的職業(yè)道德和操守，將所掌握技術(shù)用于造福社會(huì)。

4? 結(jié)語(yǔ)

總體來(lái)看，雖然經(jīng)歷了疫情，但歐盟在經(jīng)濟(jì)復(fù)蘇后仍將加快AI的發(fā)展。其試圖以新的《人工智能戰(zhàn)略》為引領(lǐng)，一方面建立規(guī)則，成為AI時(shí)代的規(guī)則建立者以獲得更多話語(yǔ)權(quán);另一方面以增加投入、強(qiáng)化監(jiān)管、培養(yǎng)公眾信心等多種措施促進(jìn)產(chǎn)業(yè)發(fā)展，以期與美國(guó)等其他AI發(fā)展強(qiáng)國(guó)在新時(shí)期開(kāi)展競(jìng)爭(zhēng)。對(duì)我國(guó)來(lái)說(shuō)，把握好“新基建”的契機(jī)，做好頂層設(shè)計(jì)，加快標(biāo)準(zhǔn)、法規(guī)的制定，在保持技術(shù)與應(yīng)用優(yōu)勢(shì)的同時(shí)，掌握更多的國(guó)際話語(yǔ)權(quán)，同時(shí)做好與人相關(guān)的工作，從而用好AI帶來(lái)的益處，降低對(duì)就業(yè)、生活的沖擊，不斷推進(jìn)我國(guó)AI產(chǎn)業(yè)的發(fā)展。

參考文獻(xiàn)

[1] 殷佳章，房樂(lè)憲.歐盟人工智能戰(zhàn)略框架下的倫理準(zhǔn)則及其國(guó)際含義[J].國(guó)際論壇，2020，22（2）：18-30，155-156.

[2] 顧非易.人工智能與數(shù)據(jù)保護(hù)法律問(wèn)題[J].人民法治，2019（12）：80-81.

[3] 李超，黃銀蓉.大數(shù)據(jù)時(shí)代人工智能的創(chuàng)新與發(fā)展研究[J].科技資訊，2019，17（30）：9-10.

[4] 李海英，徐小露.人工智能時(shí)代中國(guó)個(gè)人信息保護(hù)法的選擇[J].北京航空航天大學(xué)學(xué)報(bào)：社會(huì)科學(xué)版，2020，33（3）：17-24.

[5] 王灝晨，溫珂.新冠肺炎疫情的危中之機(jī)——加速我國(guó)數(shù)字化轉(zhuǎn)型[J].科學(xué)學(xué)研究，2020，38（3）：393-395.

[6] 王灝晨.《通用數(shù)據(jù)保護(hù)條例（GDPR）》的實(shí)踐評(píng)價(jià)及啟示[J].中國(guó)物價(jià)，2019（12）：79-81.