武雪健

迅猛發(fā)展的人工智能技術(shù)亟待相關(guān)法律的設(shè)立，以對(duì)其進(jìn)行規(guī)制和引導(dǎo)，相關(guān)技術(shù)領(lǐng)先國(guó)家也在近些年進(jìn)行了有益的探索與實(shí)踐，但人工智能技術(shù)的特殊性也為法律的細(xì)化和落地帶來諸多挑戰(zhàn)。

人工智能立法的國(guó)外狀況

近年來，人工智能技術(shù)發(fā)展迅猛并日益滲透到人類生活的多個(gè)方面，也正因此，人工智能愈發(fā)引起全世界的廣泛關(guān)注。人工智能是一種正在給人類社會(huì)帶來全方位深刻變革的技術(shù)，與以往技術(shù)進(jìn)步相同的是，人工智能同樣由人類開發(fā)并以服務(wù)人類為目的，但其特殊性在于人工智能的技術(shù)核心依賴于機(jī)器學(xué)習(xí)（尤其是無監(jiān)督學(xué)習(xí)），這當(dāng)中就存在著很大的風(fēng)險(xiǎn)和不確定性，還很有可能引發(fā)諸多法律監(jiān)管和倫理道德問題。因而，如何在確保人工智能技術(shù)不至于觸及法律底線和引發(fā)倫理道德問題的前提下，最大程度地發(fā)揮其促進(jìn)生產(chǎn)力發(fā)展、促進(jìn)社會(huì)進(jìn)步的功能，就必然成為亟待解答的時(shí)代課題。例如，聯(lián)合國(guó)下屬的科學(xué)知識(shí)和科技倫理世界委員會(huì)就在2016年8月發(fā)布了《機(jī)器人倫理初步報(bào)告草案》，認(rèn)為機(jī)器人不僅需要尊重人類社會(huì)的倫理規(guī)范，還需要將特定倫理準(zhǔn)則編寫進(jìn)機(jī)器人程序中。電氣和電子工程師協(xié)會(huì)則在2016年12月發(fā)布《合倫理設(shè)計(jì)：利用人工智能和自主系統(tǒng)最大化人類福祉的愿景》，就一般原則、倫理、方法論、通用人工智能和超級(jí)人工智能的安全與福祉、個(gè)人數(shù)據(jù)、自主武器系統(tǒng)、經(jīng)濟(jì)/人道主義問題、法律等八大主題給出具體建議。與國(guó)際組織和社會(huì)機(jī)構(gòu)不同的是，超國(guó)家組織與各國(guó)政府對(duì)于人工智能的發(fā)展事項(xiàng)具有一定實(shí)操性的權(quán)能，進(jìn)行立法引導(dǎo)和規(guī)制也就成為人工智能技術(shù)領(lǐng)先國(guó)家的普遍做法，下文分別就歐盟和美國(guó)的立法進(jìn)行介紹。

1.歐盟：率先提出人工智能立法動(dòng)議

歐盟是最早進(jìn)行人工智能立法探討的超國(guó)家組織。最早在2015年1月，歐盟議會(huì)的法律事務(wù)委員會(huì)（下稱“委員會(huì)”）決定成立一個(gè)工作小組來負(fù)責(zé)研究機(jī)器人、人工智能發(fā)展等相關(guān)法律問題。2016年5月，委員會(huì)發(fā)布了《就機(jī)器人民事法律規(guī)則向歐盟委員會(huì)提出立法建議的報(bào)告草案》；同年10月，又發(fā)布研究成果《歐盟機(jī)器人民事法律規(guī)則》。在這些報(bào)告和研究的基礎(chǔ)上，2017年1月12日，委員會(huì)以12票贊成、2票反對(duì)、2票棄權(quán)的結(jié)果通過一份決議，在其中提出了一些具體的立法建議，要求歐盟委員會(huì)就機(jī)器人和人工智能提出立法提案。2017年2月16日，歐盟議會(huì)以396票贊成、123票反對(duì)、85票棄權(quán)的結(jié)果通過這份決議。委員會(huì)的主要考慮是針對(duì)機(jī)器人和人工智能出臺(tái)民事法律規(guī)則，為人工智能研發(fā)和審查人員制定倫理守則，從而保證在整個(gè)研發(fā)和審查環(huán)節(jié)中都充分考慮到人類價(jià)值，最終確保面向消費(fèi)者和社會(huì)的機(jī)器人能夠符合人類利益。其中具體的立法建議主要包括以下四個(gè)方面。

確定人工智能的倫理準(zhǔn)則。在機(jī)器人和人工智能的設(shè)計(jì)、研發(fā)、生產(chǎn)和利用過程中，需要一個(gè)指導(dǎo)性的倫理框架，確保以符合法律、倫理等標(biāo)準(zhǔn)的方式運(yùn)作。比如，設(shè)計(jì)者應(yīng)當(dāng)設(shè)置一個(gè)“一鍵關(guān)閉”的功能，從而能夠在緊急情況下將機(jī)器人關(guān)閉。委員會(huì)還提出了“機(jī)器人憲章”，這一憲章針對(duì)人工智能科研人員和研究倫理委員會(huì)，構(gòu)想了在機(jī)器人設(shè)計(jì)和研發(fā)階段需要遵守的基本倫理原則。對(duì)于機(jī)器人科研人員而言，諸如不作惡、正義、基本權(quán)利、可責(zé)性、安全性、隱私等都是需要認(rèn)真對(duì)待的事項(xiàng)。此外，還需要倫理審查委員會(huì)對(duì)人工智能設(shè)計(jì)和研發(fā)進(jìn)行把關(guān)，確保機(jī)器人符合人類社會(huì)的倫理、法律等規(guī)范。

考慮賦予復(fù)雜的自主機(jī)器人以法律地位的可能性。將人工智能寫入法律，至少要回答關(guān)于法律主體地位的兩個(gè)問題：其一，機(jī)器人應(yīng)當(dāng)被界定為自然人、法人、動(dòng)物還是物體；其二，是否需要?jiǎng)?chuàng)造新的法律主體類型，以便復(fù)雜的高級(jí)機(jī)器人可以享有權(quán)利和承擔(dān)義務(wù)，并對(duì)其造成的損害承擔(dān)責(zé)任。因?yàn)榻缍ūO(jiān)管對(duì)象是人工智能立法的起點(diǎn)，委員會(huì)的觀點(diǎn)是智能自主機(jī)器人應(yīng)屬監(jiān)管對(duì)象，并提出了四大特征加以辨析：（1）通過傳感器和/或借助與其環(huán)境交換數(shù)據(jù)（互聯(lián)性）獲得自主性的能力，并能夠分析相應(yīng)數(shù)據(jù)；（2）從交互中學(xué)習(xí)的能力；（3）機(jī)器人的物質(zhì)支撐形式；（4）因環(huán)境而調(diào)整行為和行動(dòng)的能力。此外，委員會(huì)認(rèn)為還應(yīng)當(dāng)提出機(jī)器人的分類標(biāo)準(zhǔn)，建立高級(jí)機(jī)器人登記制度，從而實(shí)現(xiàn)可追溯性，并促進(jìn)推薦性規(guī)范的落實(shí)。

實(shí)施強(qiáng)制保險(xiǎn)機(jī)制和賠償基金。自動(dòng)駕駛汽車、工業(yè)機(jī)器人、護(hù)理機(jī)器人等類型的人工智能產(chǎn)品可能完全或者部分脫離人類的控制，一旦對(duì)人類和財(cái)產(chǎn)造成損害，其設(shè)計(jì)者和開發(fā)者是否應(yīng)當(dāng)承擔(dān)嚴(yán)格責(zé)任，抑或承擔(dān)有限責(zé)任。對(duì)此，委員會(huì)提出兩個(gè)建議：一是對(duì)機(jī)器人適用強(qiáng)制保險(xiǎn)機(jī)制，由機(jī)器人的生產(chǎn)者或者所有者負(fù)責(zé)購(gòu)買，以便對(duì)機(jī)器人造成的損害進(jìn)行責(zé)任分配；二是設(shè)立賠償基金，對(duì)強(qiáng)制險(xiǎn)未予覆蓋的損害進(jìn)行賠償，并讓投資人、生產(chǎn)者、消費(fèi)者等多方主體參與這一機(jī)制，從而形成賠償基金。

明確人工智能的“獨(dú)立智力創(chuàng)造”。第一，委員會(huì)建議歐盟委員會(huì)就與軟硬件標(biāo)準(zhǔn)、代碼有關(guān)的知識(shí)產(chǎn)權(quán)提出一個(gè)更平衡的路徑，以便在保護(hù)創(chuàng)新的同時(shí)也促進(jìn)創(chuàng)新；第二，對(duì)于計(jì)算機(jī)或者機(jī)器人創(chuàng)作的可確認(rèn)版權(quán)的作品，需要提出界定人工智能的“獨(dú)立智力創(chuàng)造”的標(biāo)準(zhǔn)，以便明確版權(quán)歸屬。

2.美國(guó)：提出“人工智能未來法案”搶抓發(fā)展機(jī)遇

雖然特朗普政府對(duì)人工智能的反應(yīng)相對(duì)消極，但美國(guó)國(guó)會(huì)認(rèn)為人工智能可以極大地促進(jìn)經(jīng)濟(jì)增長(zhǎng)，理解人工智能并為其發(fā)展和應(yīng)用做好準(zhǔn)備對(duì)美國(guó)的經(jīng)濟(jì)繁榮與社會(huì)穩(wěn)定至關(guān)重要，所以在2017年12月12日提出了“人工智能未來法案”。這一法案的目的在于大力發(fā)展人工智能，主要內(nèi)容是要求商務(wù)部設(shè)立聯(lián)邦人工智能發(fā)展與應(yīng)用咨詢委員會(huì)（下稱“人工智能委員會(huì)”），并明確了人工智能咨詢委員會(huì)的職責(zé)、權(quán)力、人員構(gòu)成等內(nèi)容。

明確發(fā)展人工智能的必要性。法案認(rèn)為，理解人工智能并為其發(fā)展做好準(zhǔn)備，對(duì)美國(guó)經(jīng)濟(jì)發(fā)展和社會(huì)穩(wěn)定至關(guān)重要。因而根據(jù)此法案成立的人工智能咨詢委員會(huì)有必要就以下議題優(yōu)先出具指南或建議：其一，建立一個(gè)有利的投資和創(chuàng)新環(huán)境，以保持美國(guó)在人工智能領(lǐng)域的全球競(jìng)爭(zhēng)力；其二，優(yōu)化人工智能發(fā)展，以處理人工智能發(fā)展給勞動(dòng)力帶來的潛在增長(zhǎng)、重塑或改變；其三，推動(dòng)和支持人工智能的發(fā)展和應(yīng)用；其四，保護(hù)個(gè)人隱私。

厘清人工智能相關(guān)概念。法案對(duì)人工智能相關(guān)概念作出了一般性解釋，并要求人工智能咨詢委員會(huì)根據(jù)其解釋修訂并明確人工智能相關(guān)概念。法案指出，圍繞人工智能存在不同的定義，總體來看，通用人工智能是未來人工智能概念，即在眾多認(rèn)知領(lǐng)域上像人類智能那樣靈活和全面的系統(tǒng)，能夠做出智能行為，包括認(rèn)知、學(xué)習(xí)、語言、感知、推理和社會(huì)化行為等。狹義的人工智能則強(qiáng)調(diào)特定應(yīng)用領(lǐng)域，能夠執(zhí)行專門的、定義明確的任務(wù)，如玩策略游戲、智能翻譯、自動(dòng)駕駛汽車和圖像識(shí)別等。

成立聯(lián)邦人工智能發(fā)展與應(yīng)用咨詢委員會(huì)，并明確其職責(zé)、組成與權(quán)力。人工智能咨詢委員會(huì)的職責(zé)有三點(diǎn)：提建議、從事研究、出具報(bào)告和建議。具體而言，提建議的事項(xiàng)包括促進(jìn)投資和創(chuàng)新、勞動(dòng)力、教育、倫理研究和培訓(xùn)、數(shù)據(jù)開放、國(guó)際合作和競(jìng)爭(zhēng)、法律責(zé)任和權(quán)利、算法歧視、人工智能與鄉(xiāng)村社區(qū)、行政效率十個(gè)方面。從事研究的事項(xiàng)包括：（1）創(chuàng)造有利于公共和個(gè)人投資的環(huán)境；（2）發(fā)展人工智能可能對(duì)經(jīng)濟(jì)、勞動(dòng)力市場(chǎng)和美國(guó)競(jìng)爭(zhēng)力的正負(fù)面影響；（3）人工智能的應(yīng)用將如何取代就業(yè)機(jī)會(huì)或者創(chuàng)造新的就業(yè)崗位；（4）如何在人工智能開發(fā)和相關(guān)聯(lián)的算法中識(shí)別并消除歧視；（5）是否需要以及如何在人工智能開發(fā)和應(yīng)用中融入倫理標(biāo)準(zhǔn)，（6）如何激勵(lì)開發(fā)可以惠及各社會(huì)階層和經(jīng)濟(jì)團(tuán)體的人工智能技術(shù)；（7）人工智能如何影響個(gè)人隱私權(quán)；（8）人工智能的發(fā)展是否會(huì)影響消費(fèi)者保護(hù)相關(guān)的法律和管理體制；（9）是否需要更新現(xiàn)有的關(guān)于數(shù)據(jù)獲取和隱私保護(hù)的法律；（10）聯(lián)邦政府如何利用人工智能處理重大且復(fù)雜的數(shù)據(jù)集；（11）多方利益相關(guān)者之間的持續(xù)對(duì)話和談判如何實(shí)現(xiàn)將人工智能的潛力最大化；（12）人工智能如何促進(jìn)政府各個(gè)職能領(lǐng)域節(jié)約成本和簡(jiǎn)化運(yùn)營(yíng)。出具報(bào)告和建議為人工智能咨詢委員會(huì)應(yīng)于該法案頒布后540天內(nèi)向商務(wù)部長(zhǎng)和國(guó)會(huì)提交人工智能相關(guān)事項(xiàng)的研究報(bào)告，并對(duì)出臺(tái)相關(guān)立法或行政措施提出建議。人工智能咨詢委員會(huì)由19名經(jīng)商務(wù)部任命的投票委員（含1名主席）和眾多非投票委員組成，每年至少召開兩次全體會(huì)議，每?jī)蓚€(gè)月召開一次電話會(huì)議。其權(quán)力包括為行使該法案規(guī)定的職責(zé)而舉行聽證會(huì)、采取行動(dòng)，收集證據(jù)等；必要時(shí)向國(guó)會(huì)、聯(lián)邦政府機(jī)構(gòu)提交建議；出具報(bào)告、指南和備忘錄；舉行會(huì)議和研討；與第三方專家合作并監(jiān)督員工；建立分會(huì)和議會(huì)規(guī)則等。

人工智能立法的難點(diǎn)分析

從前述梳理可知，雖然人工智能的立法在近幾年得到了相關(guān)國(guó)家的關(guān)注和發(fā)展，但相關(guān)立法的規(guī)定內(nèi)容實(shí)際上多數(shù)仍停留在初步構(gòu)想階段，將人工智能賦予法律主體地位，從而進(jìn)行立法，這一本應(yīng)是核心的內(nèi)容卻少有涉及。究其原因，除卻人工智能技術(shù)的發(fā)展時(shí)間較短，因而相關(guān)法律并未及時(shí)跟進(jìn)制定外，人工智能技術(shù)本身的特殊性也為立法帶來一些難題。參照刑法學(xué)者王素之對(duì)于人工智能犯罪的三方面刑法難題的分析——人工智能的刑法地位、人工智能犯罪的主觀方面、人工智能犯罪的客觀方面，下文對(duì)其進(jìn)行法律難點(diǎn)的擴(kuò)展。

主體難題：人工智能的法律地位。隨著人工智能的發(fā)展，其智能化的發(fā)展程度和獨(dú)立性也愈發(fā)突顯。雖然人工智能主要受預(yù)設(shè)程序的控制，但這并不意味著人工智能不具有獨(dú)立性。例如發(fā)表特定言論可以構(gòu)成犯罪，如果他人誘導(dǎo)人工智能散布相關(guān)言論該如何認(rèn)定，特別是該人工智能是基于自身的“學(xué)習(xí)”并“發(fā)表”以上言論時(shí)又該如何認(rèn)定和處理。在傳統(tǒng)的法律認(rèn)知中，人（法人也是法律主體的人格化）才是法律規(guī)制的主要主體。當(dāng)法律的規(guī)制主體變?yōu)闄C(jī)器人，就將面臨至少兩個(gè)問題：其一，法律需要保證道德主體的權(quán)利；其二，機(jī)器人也需要遵守法律上的義務(wù)。但是現(xiàn)階段人工智能顯然不具備自然人的特征，這會(huì)導(dǎo)致在認(rèn)定其法律行為的認(rèn)定上存在障礙，在處罰層面也容易存在難以起到有效地震懾犯罪的問題。就此而言，人工智能作為傳統(tǒng)體系的適格主體進(jìn)入法律范疇存在問題。

罪過難題：人工智能的主觀“認(rèn)識(shí)”方面。隨著人工智能的發(fā)展，機(jī)器人逐漸能夠從周圍環(huán)境的刺激中學(xué)習(xí)，并從自己的行為中獲得知識(shí)和技能，進(jìn)而可能越來越難以被它們的用戶和設(shè)計(jì)師預(yù)測(cè)。一直以來，人的主觀罪過是法律考量的重要元素，獨(dú)立意志成為權(quán)利、義務(wù)、責(zé)任包括處罰的前提基礎(chǔ)，構(gòu)成這一思想的核心是主張尊重理性的觀點(diǎn)。然而我們也了解到，BBC地平線系列紀(jì)錄片《尋找人工智能》曾經(jīng)報(bào)道過針刺機(jī)器人會(huì)根據(jù)自己的判斷是否會(huì)刺傷人的手指，那么對(duì)于其行為的主觀方面該如何認(rèn)定呢？更何況人工智能領(lǐng)域本就存在強(qiáng)人工智能和弱人工智能的爭(zhēng)論，其中強(qiáng)人工智能的觀點(diǎn)認(rèn)為未來能夠真正制造出能進(jìn)行推理和解決問題的智能機(jī)器，這種智能機(jī)器像人一樣有知覺和意識(shí)；弱人工智能的觀點(diǎn)認(rèn)為，智能機(jī)器只是看起來像是智能的，它的智能只是表面的、非實(shí)質(zhì)性的，不會(huì)像人類一樣真正擁有智能和意識(shí)。這更加使得對(duì)人工智能主觀“認(rèn)識(shí)”的判斷成為難題。

行為難題：人工智能的客觀方面。從行為層面，人工智能可能涉及以下兩種類型：第一種類型是本就應(yīng)用于社會(huì)之中，由于人工智能出現(xiàn)問題或其他原因?qū)е虏涣己蠊?，如特斯拉自?dòng)駕駛導(dǎo)致交通事故等嚴(yán)重后果的情形。在這種情形中，人工智能本身用途無害，但是客觀上造成了侵害。第二種類型是人工智能被直接用于犯罪。如“全國(guó)首例利用人工智能犯罪案”中，人工智能將文本識(shí)別技術(shù)用于非法獲取個(gè)人信息，人工智能被直接用于犯罪目的。在傳統(tǒng)意義上，法律中的行為主要是人的行為。即行為是人的身體活動(dòng)，犯罪行為必須是在客觀上侵犯了法益，這是行為的實(shí)質(zhì)要素。然而人工智能犯罪中的行為卻處在兩者之間：第一，人工智能的“行為”并非人們所直接發(fā)出的，有些甚至并非人們所直接指令其發(fā)出的，人工智能的“行為”在歸因于人的過程中存在一定障礙。第二，人工智能的“行為”又與人的行為有一定的關(guān)聯(lián)，即使未曾直接指令人工智能實(shí)施一定的“行為”，但是至少會(huì)對(duì)人工智能的模式和范式做出設(shè)定。由此，如何認(rèn)定人的行為與人工智能“行為”的性質(zhì)與界限也是一個(gè)需解答的難題。

從海外人工智能立法情況和出現(xiàn)的難點(diǎn)來看，人工智能立法問題必須要加強(qiáng)研究，積極學(xué)習(xí)海外的經(jīng)驗(yàn)。我國(guó)對(duì)于人工智能產(chǎn)業(yè)發(fā)展當(dāng)中出現(xiàn)的社會(huì)影響，需要提前加強(qiáng)社會(huì)研究，尋找社會(huì)共識(shí)。在立法上也需要結(jié)合經(jīng)濟(jì)學(xué)等學(xué)科的研究成果，使人工智能的發(fā)展能促進(jìn)社會(huì)更美好