段星伊 劉子珩

摘要：隨著2020年5月28日《中華人民共和國(guó)民法典》的頒布，過(guò)往《民法通則》和《民法總則》在實(shí)踐中所面對(duì)的一系列復(fù)雜問(wèn)題有望得到改善和解決?！睹穹ǖ洹分芯蛡€(gè)人數(shù)據(jù)、個(gè)人隱私的保護(hù)以及數(shù)字財(cái)產(chǎn)、網(wǎng)絡(luò)侵權(quán)等各方面突破性的規(guī)定，深刻反映了過(guò)往30余年中國(guó)民法理論和實(shí)踐的發(fā)展，為我國(guó)迎接新時(shí)代技術(shù)挑戰(zhàn)提供了重要的法律支撐和依據(jù)，是新時(shí)代法律工作者必須學(xué)習(xí)、理解和貫徹的方向。本文將以人工智能相關(guān)的法律問(wèn)題在我國(guó)民法領(lǐng)域所涉及的學(xué)說(shuō)和實(shí)踐入手展開(kāi)分析，探討當(dāng)下《民法典》中相關(guān)法條的內(nèi)涵和意義，進(jìn)而對(duì)未來(lái)人工智能領(lǐng)域的立法和司法實(shí)務(wù)領(lǐng)域進(jìn)行展望分析。

關(guān)鍵詞：民法典;人工智能;信息安全;法律責(zé)任;隱私

一、人工智能侵權(quán)的法律分析

信息技術(shù)在21世紀(jì)得到了全面而廣泛的發(fā)展，其產(chǎn)生的結(jié)果不僅是數(shù)據(jù)海量的增長(zhǎng)和收集，還衍生出了眾多衍生的復(fù)雜技術(shù)，其中最重要的是人工智能。人工智能（artificial intelligence）是學(xué)界一個(gè)廣義的概念，不同的學(xué)科對(duì)此有不同的解釋。計(jì)算機(jī)學(xué)界一般認(rèn)為：人工智能技術(shù)是高新信息技術(shù)的一個(gè)分支，是一個(gè)用于研究、開(kāi)發(fā)、模擬、擴(kuò)展和分析智能系統(tǒng)的理論，是一套方法、技術(shù)和應(yīng)用的科學(xué)新技術(shù)，它試圖產(chǎn)生類似人類智能的思考方式且對(duì)智能機(jī)器做出反應(yīng)，讓機(jī)器完成一次只有人類才能思考工作的機(jī)器。人工智能的特點(diǎn)，一些學(xué)者分為以下幾個(gè)方面：人工智能的特點(diǎn)創(chuàng)意，相對(duì)獨(dú)立的自主權(quán)，創(chuàng)新的演變和高效準(zhǔn)確。

中國(guó)在人工智能領(lǐng)域是深耕較早且取得成果較為豐厚的國(guó)家。早在2018年政府工作建議中就提到“發(fā)展新的增長(zhǎng)動(dòng)力”，做大做強(qiáng)新興產(chǎn)業(yè)集群，開(kāi)展大數(shù)據(jù)開(kāi)發(fā)活動(dòng)，加強(qiáng)在各領(lǐng)域的醫(yī)療，養(yǎng)老，教育，文化，體育等領(lǐng)域的人工智能的新一代，開(kāi)發(fā)和應(yīng)用，推廣“互聯(lián)網(wǎng)+”。智慧生活，以新技術(shù)，新格局，新模式大力轉(zhuǎn)型升級(jí)傳統(tǒng)產(chǎn)業(yè)。

盡管人工智能在我國(guó)未來(lái)數(shù)十年的科學(xué)、經(jīng)濟(jì)、文化發(fā)展中扮演了重要的地位，但是在《中華人民共和國(guó)民法典》出臺(tái)之前，法律對(duì)于人工智能的規(guī)定一直處于半灰色地帶。例如人工智能引起的侵權(quán)責(zé)任、人工智能所產(chǎn)生的著作權(quán)、人工智能所利用的客戶的數(shù)據(jù)權(quán)利歸屬等。此前對(duì)于人工智能的侵權(quán)責(zé)任，往往只能援引諸如《中華人民共和國(guó)侵權(quán)責(zé)任法》第四十三條，由生產(chǎn)者承擔(dān)產(chǎn)品責(zé)任，銷售者承擔(dān)不真正連帶責(zé)任;甚至有的學(xué)者主張將人工智能比肩動(dòng)物，參考《中華人民共和國(guó)侵權(quán)責(zé)任法》第七十八條相關(guān)規(guī)定，由對(duì)人工智能負(fù)有管理義務(wù)的人承擔(dān)責(zé)任①。大量人工智能所涉及的產(chǎn)權(quán)糾紛、侵權(quán)責(zé)任都讓人工智能會(huì)對(duì)社會(huì)治理，法律制度，政府監(jiān)管甚至社會(huì)道德造成負(fù)面影響，也會(huì)引起社會(huì)關(guān)注。隨著人工智能的高度智能化，機(jī)器的人物屬性將越來(lái)越多，這對(duì)此前的民事法律制度產(chǎn)生重大影響。

歸結(jié)起來(lái)，人工智能在當(dāng)下面對(duì)以下三個(gè)主要方面的風(fēng)險(xiǎn)：人類對(duì)人工智能技術(shù)的發(fā)展管控不足;人類將無(wú)法管控人工智能技術(shù)發(fā)展;人工智能技術(shù)發(fā)展中面對(duì)廣泛的社會(huì)風(fēng)險(xiǎn)②。

對(duì)此，由于民法體系所獨(dú)有的事前預(yù)防措施和事后救濟(jì)措施的存在，其在面對(duì)人工智能所產(chǎn)生的風(fēng)險(xiǎn)具有無(wú)可替代的調(diào)整作用。中國(guó)到目前為止尚未出臺(tái)有關(guān)人工智能的法律法規(guī)，隨著人工智能上升到國(guó)家戰(zhàn)略層面，立法將助力戰(zhàn)略實(shí)施邁出重要的一步。當(dāng)下《中華人民共和國(guó)民法典》的出臺(tái)，以上問(wèn)題有望在立法和實(shí)踐層面得到進(jìn)一步的發(fā)展。

二、民法典中有關(guān)人工智能的法律規(guī)定

人工智能的發(fā)展離不開(kāi)數(shù)據(jù)的支撐，因此人工智能所涉及的核心法律問(wèn)題無(wú)外乎數(shù)據(jù)權(quán)屬、隱私保護(hù)以及侵權(quán)責(zé)任的劃分。這幾點(diǎn)在過(guò)往主要是通過(guò)侵權(quán)責(zé)任法、網(wǎng)絡(luò)安全法和相關(guān)法規(guī)加以調(diào)整。此次民法典中對(duì)數(shù)據(jù)的規(guī)定起到了原則性和指導(dǎo)性的作用，反映了過(guò)去十幾年間中國(guó)民法學(xué)界對(duì)個(gè)人隱私、數(shù)據(jù)保護(hù)等方面的各類學(xué)術(shù)成果和實(shí)踐成果，不僅為當(dāng)下實(shí)踐提供了有力的支撐，也為此后民法體系立法完善和發(fā)展提供了堅(jiān)實(shí)的基礎(chǔ)。

信息數(shù)據(jù)是人工智能發(fā)揮作用的根基，對(duì)信息技術(shù)的保護(hù)程度體現(xiàn)了民法典對(duì)人工智能這一新興技術(shù)的態(tài)度。我國(guó)民法典保留了民法總則第一百一十一條對(duì)個(gè)人信息保護(hù)的規(guī)定，同時(shí)在第一千零三十四條到第一千零三十九條又對(duì)個(gè)人信息保護(hù)進(jìn)行了較為詳細(xì)的規(guī)定。這些規(guī)定涵蓋了個(gè)人信息保護(hù)的主要內(nèi)容，為其他部門(mén)法（比如行政法和刑法）的有關(guān)規(guī)定提供了理論，也為進(jìn)一步制定個(gè)人信息保護(hù)的專門(mén)法律提供了基本法基礎(chǔ)。

首先，民法典第一百二十七條為數(shù)據(jù)保護(hù)提供原則性的法律依據(jù)。該條規(guī)定，“法律對(duì)數(shù)據(jù)、網(wǎng)絡(luò)虛擬財(cái)產(chǎn)的保護(hù)有規(guī)定的，依照其規(guī)定”。根據(jù)我國(guó)現(xiàn)行法律，如果對(duì)數(shù)據(jù)的選擇或編排具有獨(dú)創(chuàng)性，那么該數(shù)據(jù)的集合可以作為匯編作品受到著作權(quán)法保護(hù)。如果數(shù)據(jù)是不為公眾所知悉、能為權(quán)利人帶來(lái)經(jīng)濟(jì)利益、具有實(shí)用性并經(jīng)權(quán)利人采取保密措施的技術(shù)信息或經(jīng)營(yíng)信息，則可適用反不正當(dāng)競(jìng)爭(zhēng)法中的商業(yè)秘密保護(hù)條款進(jìn)行保護(hù)。

其次，針對(duì)爭(zhēng)議較大的個(gè)人信息保護(hù)和處理范圍，在民法典的規(guī)定中對(duì)實(shí)踐中經(jīng)常遇到的問(wèn)題進(jìn)行了詳細(xì)的闡釋，彌補(bǔ)了過(guò)往民法通則和民法總則中信息保護(hù)規(guī)定的不足，為人工智能所依托的大數(shù)據(jù)的產(chǎn)權(quán)歸屬和保護(hù)、使用范圍提供了依據(jù)。與此同時(shí)，為了應(yīng)對(duì)越來(lái)越突出的個(gè)人信息安全問(wèn)題，國(guó)家市場(chǎng)監(jiān)督管理總局和國(guó)家標(biāo)準(zhǔn)化管理委員會(huì)對(duì)現(xiàn)行的《信息安全技術(shù)個(gè)人信息安全規(guī)范》（GB/T35273-2017）進(jìn)行修訂，并于2020年3月公布了新標(biāo)準(zhǔn)。民法典吸收了新標(biāo)準(zhǔn)的相關(guān)內(nèi)容，確立了個(gè)人信息安全保護(hù)的民事法律規(guī)范：信息處理應(yīng)當(dāng)遵循合法、正當(dāng)、必要原則，不得過(guò)度處理，同時(shí)要取得信息主體或其監(jiān)護(hù)人同意，公開(kāi)信息處理，明示處理的目的、方式和范圍;規(guī)定了個(gè)人信息處理的免責(zé)事由，即在信息主體同意范圍內(nèi)實(shí)施的行為，或者處理的信息已經(jīng)合法公開(kāi)，以及為了維護(hù)公共利益或者該自然人合法權(quán)益的情形下，不需承擔(dān)責(zé)任;規(guī)定個(gè)人信息主體查閱、復(fù)制、更正個(gè)人信息及刪除違法獲取的個(gè)人信息的權(quán)利;規(guī)定信息處理者的安全保障義務(wù)，要求信息處理者不得泄露、篡改、向他人非法提供信息，同時(shí)必須保障技術(shù)措施和其他必要措施信息的安全。

個(gè)人信息的保護(hù)和數(shù)據(jù)的利用體現(xiàn)了民法層面權(quán)利的博弈關(guān)系，民法典體現(xiàn)出注重平衡個(gè)人信息保護(hù)與信息利用之間的特點(diǎn)。一方面，要求處理個(gè)人信息必須遵循合法、正當(dāng)、必要、安全以及信息主體同意的原則;另一方面，規(guī)定了可以在信息主體同意范圍內(nèi)合理實(shí)施的行為、可以合理處理該自然人自行公開(kāi)的或者其他已經(jīng)合法公開(kāi)的信息（但是該自然人明確拒絕或者處理該信息侵害其重大利益的除外），以及可以為維護(hù)公共利益或者該自然人合法權(quán)益，合理實(shí)施的其他行為。

民法典對(duì)數(shù)據(jù)保護(hù)作出的規(guī)定，不僅給具體的相關(guān)法案確立了基本方向，還能夠給個(gè)人和企業(yè)提供良好的數(shù)據(jù)生活環(huán)境，通過(guò)凈化網(wǎng)絡(luò)數(shù)據(jù)空間、遏制和打擊數(shù)據(jù)販賣以及數(shù)據(jù)犯罪等違法行為，保護(hù)個(gè)人隱私和信息，進(jìn)而營(yíng)造良好的社會(huì)發(fā)展環(huán)境。當(dāng)下民法典反映出互聯(lián)網(wǎng)時(shí)代信息傳播快速性、廣泛性的特征，也反映出知識(shí)經(jīng)濟(jì)時(shí)代民事主體權(quán)利受侵害風(fēng)險(xiǎn)增加的特點(diǎn)。值得期待的是，在現(xiàn)行法律規(guī)定基礎(chǔ)上，民法典將進(jìn)一步強(qiáng)化對(duì)隱私權(quán)和個(gè)人信息的保護(hù)。全國(guó)人大常委會(huì)工作報(bào)告在下一步主要工作安排中指出，將圍繞國(guó)家安全和社會(huì)治理，制定生物安全法、個(gè)人信息保護(hù)法、數(shù)據(jù)安全法等法律，完善整個(gè)民法體系，適應(yīng)現(xiàn)代社會(huì)的演變。

（一）民法典中對(duì)涉及人工智能侵權(quán)方面的規(guī)定

人工智能作為一項(xiàng)高精尖技術(shù)，往往被少數(shù)高科技公司所掌握，他們通過(guò)收集社會(huì)中不同用戶的數(shù)據(jù)，通過(guò)一系列算法進(jìn)行分析，從而推斷、預(yù)測(cè)不同個(gè)人乃至集體的行為結(jié)果，從而做出相應(yīng)的行為或者反映用以替代或者補(bǔ)充個(gè)體或者集體的行為。在這一系列人工智能運(yùn)作的過(guò)程中，至少涉及兩個(gè)方面的侵權(quán)：

1.人工智能背后的操縱主體對(duì)用戶個(gè)人信息的侵權(quán)，包括主動(dòng)利用和間接故意形式兩種。

2.人工智能系統(tǒng)自身直接對(duì)用戶的人身或者財(cái)產(chǎn)造成的侵權(quán)，主要是系統(tǒng)或者算法自身的瑕疵所致。

以上的侵權(quán)行為需要通過(guò)不同層面的民法規(guī)定加以調(diào)整，但是在過(guò)往中國(guó)的民法體系中并沒(méi)有直接的規(guī)定，往往是適用類比原則進(jìn)行調(diào)整。如今在民法典中，針對(duì)人工智能背后的操縱主體的責(zé)任，在上一篇章作了較為具體的闡述;但是針對(duì)人工智能系統(tǒng)自身造成的侵權(quán)行為，當(dāng)下學(xué)界的爭(zhēng)議依然較為激烈。

關(guān)于智能系統(tǒng)致人損害責(zé)任的認(rèn)定，有兩種責(zé)任方式可供選擇：一是基于行為人過(guò)失所產(chǎn)生的產(chǎn)品責(zé)任。在侵權(quán)責(zé)任法中，產(chǎn)品責(zé)任是指產(chǎn)品生產(chǎn)者、銷售者因生產(chǎn)、銷售缺陷產(chǎn)品致使他人遭受人身?yè)p害財(cái)產(chǎn)損失或有致使他人遭受人身、財(cái)產(chǎn)損害之虞而應(yīng)承擔(dān)的特殊侵權(quán)責(zé)任。致人損害的產(chǎn)品，必須存在缺陷，它包括制造缺陷、設(shè)計(jì)缺陷、警示缺陷、跟蹤觀察缺陷。上述情形符合智能系統(tǒng)致人損害責(zé)任的一般特征③。2016年，聯(lián)合國(guó)教科文組織會(huì)同世界科學(xué)知識(shí)與技術(shù)倫理委員會(huì)發(fā)布報(bào)告指出，由于機(jī)器人一般被視為通常意義上的科技產(chǎn)品，機(jī)器人以及機(jī)器人技術(shù)造成的損害，可由民法中產(chǎn)品責(zé)任的相關(guān)規(guī)定進(jìn)行調(diào)整④。從產(chǎn)品責(zé)任的認(rèn)定條件來(lái)看，機(jī)器人造成的損害可歸類于機(jī)器人制造者和銷售者的過(guò)失，包括產(chǎn)品制造的過(guò)失、產(chǎn)品設(shè)計(jì)的過(guò)失、產(chǎn)品警告的過(guò)失以及沒(méi)有盡到合理的注意義務(wù)⑤。二是基于技術(shù)中立原則所產(chǎn)生的替代責(zé)任。關(guān)于技術(shù)產(chǎn)品致人損害，技術(shù)中立原則可提供責(zé)任規(guī)避。所謂技術(shù)中立原則，是指任何技術(shù)本身原則上都不產(chǎn)生責(zé)任承擔(dān)，但是一項(xiàng)特定技術(shù)的主要商業(yè)用途是用來(lái)從事侵權(quán)或其他違法行為的，那么該項(xiàng)技術(shù)即不適用“技術(shù)中立”原則。在這種情況下，適用替代責(zé)任較為適宜⑥。替代責(zé)任又稱為轉(zhuǎn)承責(zé)任，最初出現(xiàn)在代理關(guān)系與雇傭關(guān)系中，即被代理人對(duì)代理人實(shí)施的，得到被代理人“授權(quán)”或“批準(zhǔn)”的侵權(quán)行為承擔(dān)責(zé)任;雇主對(duì)其雇員在“雇傭期間”實(shí)施的侵權(quán)行為承擔(dān)責(zé)任，概稱為“為他人侵權(quán)行為承擔(dān)責(zé)任”。此處所導(dǎo)致的侵權(quán)過(guò)往往往適用替代原則，即替代責(zé)任。這種侵權(quán)法律關(guān)系往往出現(xiàn)在代理關(guān)系和雇傭關(guān)系中，即代理人本人，以獲得委托人“授權(quán)”或“批準(zhǔn)”的侵權(quán)責(zé)任;雇主在“就業(yè)”期間對(duì)其雇員實(shí)施侵權(quán)責(zé)任應(yīng)說(shuō)“替代責(zé)任”，機(jī)器人沒(méi)有任何缺陷，符合技術(shù)中立原則的要求，但所有者或用戶的機(jī)器人，或者不是善意的管理員的義務(wù)，或者讓機(jī)器人侵權(quán)行為，不是以中立豁免責(zé)任的技術(shù)原則。

正是由于類比原則和技術(shù)中立原則兩種主張的存在，故在實(shí)踐中對(duì)涉及人工智能侵權(quán)的案件需要根據(jù)具體的案情進(jìn)行判斷。盡管民法典尚未對(duì)人工智能侵權(quán)作出明確的條文規(guī)定，但是作為基本法的民法典，首先并沒(méi)有對(duì)新興技術(shù)進(jìn)行過(guò)多限制，這與我國(guó)當(dāng)前將人工智能發(fā)展上升到“國(guó)策”層面的戰(zhàn)略不謀而合;再者民法典給后續(xù)相關(guān)部門(mén)法的制定提供了足夠的空間，以應(yīng)對(duì)未來(lái)可能發(fā)生的形勢(shì)變化。

三、民法典對(duì)人工智能技術(shù)的影響和啟示

在2018年5月19日“人工智能與未來(lái)法治論壇”中，中國(guó)人民大學(xué)法學(xué)院教授王利明就提出，人工智能涉及的問(wèn)題、帶來(lái)的影響都是極其深刻，都需要我們?cè)诜缮献鞒鰬?yīng)對(duì)，特別是民法典應(yīng)該對(duì)已經(jīng)提出或者將要提出的問(wèn)題有所應(yīng)對(duì)。

筆者認(rèn)為，雖然人工智能不涉及基本人權(quán)立法層面的一些問(wèn)題，但是其迅速發(fā)展還是給我國(guó)現(xiàn)階段的民法帶來(lái)巨大的沖擊，例如上文提到的人工智能生成作品如何界定著作權(quán)？目前我國(guó)互聯(lián)網(wǎng)公司百度公司正在試驗(yàn)的無(wú)人駕駛汽車，其發(fā)生交通事故的責(zé)任怎么界定？這些都將是我們民事法律方向立法與司法將要面對(duì)的問(wèn)題與挑戰(zhàn)。在法學(xué)理論界應(yīng)當(dāng)未雨綢繆，與時(shí)俱進(jìn)的探究其理論研究。在實(shí)踐尚未發(fā)展到投入實(shí)際生產(chǎn)生活中時(shí)，預(yù)先要進(jìn)行制度架構(gòu)上的研究與討論是非常有必要的。也是非常之有意義的。民法典可謂開(kāi)了一個(gè)好頭，但絕對(duì)不能因此故步自封，需要理論和實(shí)踐相配合繼續(xù)就相關(guān)問(wèn)題進(jìn)行深入研究。

同時(shí)一步步抽絲剝繭后，盡管人工智能所涉及的法律關(guān)系相對(duì)復(fù)雜，但是真正導(dǎo)致人工智能法律問(wèn)題在立法層面和實(shí)踐層面始終難以實(shí)現(xiàn)有效突破的根源在于幾個(gè)基本法律問(wèn)題解釋不清。對(duì)此，楊立新教授總結(jié)為三點(diǎn)：1.人工智能法律關(guān)系中人的責(zé)任和物的責(zé)任劃分不清。2.確定民事法律關(guān)系中真正的民事主體究竟是人還是物。3.確定相關(guān)法律關(guān)系中的法律責(zé)任的基本準(zhǔn)則⑦。

華裔著名經(jīng)濟(jì)學(xué)家楊小凱曾經(jīng)提出：我們現(xiàn)在往往注重技術(shù)的模仿，對(duì)技術(shù)的制度建設(shè)重視不夠，這可能是我國(guó)技術(shù)發(fā)展的一個(gè)重大缺陷。如果將來(lái)只是重視技術(shù)模仿，不注重技術(shù)的制度建設(shè)，我們的后發(fā)優(yōu)勢(shì)很可能轉(zhuǎn)化為后發(fā)弱勢(shì)，不可能使技術(shù)真正得到制度的有力保障，反而會(huì)使其處于無(wú)序發(fā)展的狀態(tài)。人工智能機(jī)器是不同于生活中出現(xiàn)的一般意義上的工具，因?yàn)槠溆幸惶讕缀蹑敲廊祟惖男畔⑻幚砟芰?，所以其在工作中可能?huì)自主產(chǎn)生問(wèn)題處理方案，來(lái)解決問(wèn)題。其方案的選擇是否恰當(dāng)?shù)葐?wèn)題。所以，在立法上應(yīng)當(dāng)注意緊貼時(shí)代的腳步，在人工智能發(fā)展的同時(shí)進(jìn)行上層制度的設(shè)計(jì)，以解決人工智能在實(shí)際應(yīng)用中的包括諸如主體定性、侵權(quán)問(wèn)題等實(shí)踐問(wèn)題，是未來(lái)技術(shù)發(fā)展的必備條件。

人工智能所提出的問(wèn)題都是中國(guó)民法典應(yīng)當(dāng)回應(yīng)的重大問(wèn)題。這就要求民法典的制定、實(shí)踐和發(fā)展不能僅僅考慮到當(dāng)下，也要考慮到未來(lái)，惟其如此，中國(guó)的民法典才能被稱之為科學(xué)的、立足于中國(guó)國(guó)情的、面向未來(lái)的、能夠屹立于世界民法典之林的民法典。人工智能作為時(shí)代技術(shù)的縮影，正是對(duì)中國(guó)民法體系的理論、制度建設(shè)和實(shí)踐的一次有力考驗(yàn)，隨著民法典的出臺(tái)，未來(lái)部門(mén)法需要進(jìn)一步跟上腳步，讓法律真正為技術(shù)發(fā)展、為人類社會(huì)的進(jìn)步保駕護(hù)航。

注釋：

①人工智能對(duì)民法制度的影響研究，申思，《企業(yè)科技與發(fā)展》2019年07期，P85

②民事責(zé)任在人工智能發(fā)展風(fēng)險(xiǎn)管控中的作用，楊立新，《法學(xué)雜志》2019年02期，P26-27

③人工智能時(shí)代的制度安排和法律規(guī)制，吳漢東，《西北政法大學(xué)學(xué)報(bào)》2017年05期，P128.

④https：//en.unesco.org/themes/ethics-science-and-technology/comest

⑤人工智能武器的全球發(fā)展、治理風(fēng)險(xiǎn)及對(duì)中國(guó)的啟示，雷鴻竹，曾志敏，熊帥，《電子政務(wù)》2019年11期，P113

⑥人工智能時(shí)代的制度安排和法律規(guī)制，吳漢東，西北政法大學(xué)學(xué)報(bào)2017年05期，P130.

⑦民事責(zé)任在人工智能發(fā)展風(fēng)險(xiǎn)管控中的作用，楊立新，《法學(xué)雜志》2019年02期，P30-32

參考文獻(xiàn)：

[1] 申思.人工智能對(duì)民法制度的影響研究[J].企業(yè)科技與發(fā)展.2019（07），85.

[2] 楊立新.民事責(zé)任在人工智能發(fā)展風(fēng)險(xiǎn)管控中的作用[J].法學(xué)雜志.2019（02），26-30.

[3] 吳漢東.人工智能時(shí)代的制度安排和法律規(guī)制[J].西北政法大學(xué)學(xué)報(bào)，2017（05），128.

[4] 雷鴻竹，曾志敏，熊帥，人工智能武器的全球發(fā)展、治理風(fēng)險(xiǎn)及對(duì)中國(guó)的啟示[J].電子政務(wù)2019（11），113.

作者簡(jiǎn)介：

段星伊，遼寧大學(xué)法學(xué)院國(guó)際法學(xué)碩士研究生，研究方向：國(guó)際經(jīng)濟(jì)法，

劉子珩，遼寧大學(xué)法學(xué)院國(guó)際法學(xué)碩士研究生，研究方向：國(guó)際經(jīng)濟(jì)法，