肖薇（騰訊網(wǎng)絡安全與犯罪研究基地高級研究員）

2018年3月18日晚10點左右，美國亞利桑那州一名女子被Uber自動駕駛汽車撞傷后不幸身亡。事發(fā)時，盡管有一名司機坐在方向盤后面，但是這輛車當時正處于自動控制模式。當時警方聲明稱，該車當時正朝北行駛，而該女子正在人行橫道外從西往東走。警方初步調(diào)查顯示Uber的無人駕駛汽車并無過錯。

這是全球首例自動駕駛車輛致行人死亡的事故。案件調(diào)查結果表明，車輛的自動駕駛模式設計無明顯缺陷，行人系突然之間推車經(jīng)過，但具體事故責任難以界定。但事故畢竟發(fā)生了，需要有人來承擔責任。傳統(tǒng)責任理論中，法律責任分為“過錯責任”和“無過錯責任”，其中“過錯責任”是最為普遍也是占主導地位的法律責任形式。但進入人工智能（Artificial Intelligence，AI）時代后，AI系統(tǒng)已經(jīng)可以在人類的操作和監(jiān)督之外獨立完成部分工作，而機器自主性操作造成的損害該如何來判斷并劃分責任呢？是程序設計者、制造商、權利人、使用者，還是機器本身？這種情況下，傳統(tǒng)的責任界定理論似乎陷入了困境。

當我們還在為“是應該鼓勵還是扼制數(shù)字智能的發(fā)展”爭論不止的時候，數(shù)字時代所產(chǎn)生的更高階、更深層的種種問題已猝不及防地撲面而來。

我們該如何面對？

經(jīng)濟基礎決定上層建筑。新型經(jīng)濟關系和社會關系給傳統(tǒng)法學理論、法律制度和司法體系帶來極大沖擊和挑戰(zhàn)。

既有法律規(guī)則難以有效涵蓋和調(diào)整新的法益

以數(shù)字經(jīng)濟為基礎的人工智能時代，從生產(chǎn)生活方式到商業(yè)運營模式，經(jīng)濟發(fā)展業(yè)態(tài)開始全面邁向去中心化的分布式升級，從自動駕駛到股權分配，再到人力資源配置等一系列重大決策權，正從人手中轉移到算法手中。同時出現(xiàn)的還有虛擬財產(chǎn)、智能合約（區(qū)塊鏈底層）、數(shù)據(jù)權利、網(wǎng)絡生態(tài)安全、智能機器人行為等新的法律關系和法益，再通過現(xiàn)有法律概念和規(guī)則來調(diào)整，難免出現(xiàn)捉襟見肘的尷尬。

比如，法律主體作為法學上的一個重要范疇，不僅指現(xiàn)實的人，更是對人的本質(zhì)的一種法律抽象，目前主要包括自然人、法人和其他組織三類。然而在人工智能的擬人化或者說智能化程度不斷提高的同時，新的問題出現(xiàn)了：其一是人工智能實體的法律主體資格問題，它究竟是法律關系中的主體還是客體？二是主體類型化問題。若是將人工智能納入法律主體的范疇，應如何歸類？行為能力、責任能力又如何分級？從世界范圍來看，未來賦予強智能機器人一定的主體地位是大勢所趨，目前各國都在機器人立法方面進行積極嘗試。例如，2017年10月25日，沙特阿拉伯正式授予機器人Sophia以公民資格。

既有法律邏輯難以順利適用

當今主流法律體系來源于工商業(yè)革命進程，在新場景下必然會出現(xiàn)難以適應的困境。

民商法領域

首先是數(shù)據(jù)權的屬性問題。數(shù)據(jù)資源日益成為重要生產(chǎn)要素和社會財富，各大互聯(lián)網(wǎng)公司之間的數(shù)據(jù)之戰(zhàn)從未停止過。但數(shù)據(jù)和信息的性質(zhì)、分類、權屬、使用規(guī)則和法律責任等，在現(xiàn)有的民商法規(guī)則中難以獲得有效說明，司法實務中更多采取行為保護（不正當競爭）或法益保護（商業(yè)秘密），而非直接的數(shù)據(jù)財產(chǎn)（權利）保護。

其次是隱私保護問題。此時，個人隱私數(shù)據(jù)保護將面臨互聯(lián)網(wǎng)、大數(shù)據(jù)與人工智能三者疊加的風險，未來也許不再會有絕對意義上的隱私存在。用戶在使用人工智能產(chǎn)品的同時極可能成為個人信息及隱私的直接“泄密者”，而對數(shù)據(jù)處理者和使用者又缺乏制約與監(jiān)管，導致大量的隱私數(shù)據(jù)處于無法律保護的“裸奔”地帶。因此，人工智能產(chǎn)品使用過程中產(chǎn)生數(shù)據(jù)的性質(zhì)和權利歸屬，人工智能產(chǎn)品數(shù)據(jù)收集和使用行為，智能產(chǎn)品生產(chǎn)商、網(wǎng)絡運營商的權利義務等，都亟需立法來予以明確。

再就是人工智能作品的權屬問題。美聯(lián)社與AI公司合作研發(fā)的人工智能新聞寫作平臺Wordsmith，如今已可以達到每季度幾千篇新聞稿件的產(chǎn)量；騰訊公司開發(fā)的新聞寫作機器人不僅能批量撰寫財經(jīng)類新聞報道，還能根據(jù)不同受眾群體生成差異化的風格和版本。微軟小冰也推出了詩集《陽光失了玻璃窗》。隨著人工智能在新聞、音樂、美術等領域的應用日漸廣泛，其創(chuàng)作作品的知識產(chǎn)權歸屬問題也逐漸進入公眾視野。傳統(tǒng)著作權法理論認為，作品是作者人格的體現(xiàn)，只有自然人才能創(chuàng)作作品。而現(xiàn)在，人工智能創(chuàng)作作品向這一理論發(fā)起了挑戰(zhàn)。

此外，歐盟在2018年出臺的《通用數(shù)據(jù)保護條例》（GDPR）中設置了刪除權（被遺忘權）、可攜帶權、免受自動化決策權（數(shù)據(jù)畫像）、訪問權等新型權利?？梢灶A見，未來很可能會有包括但不限于上述的種種新型權利，將被更多的法律體系所明確。

刑法領域

一是虛擬財產(chǎn)的認定問題。虛擬財產(chǎn)長期以來處于物權、債權還是知識產(chǎn)權的屬性之爭，針對虛擬財產(chǎn)（如稀缺賬號、電子貨幣）的侵財行為多被認定為計算機領域的犯罪，并且處罰相對較輕，這就難以對竊取數(shù)據(jù)信息、侵犯虛擬財產(chǎn)、刷單炒信等行為實施有效規(guī)制。2017年民法總則將計算機數(shù)據(jù)、網(wǎng)絡虛擬財產(chǎn)納入保護范圍，網(wǎng)絡虛擬財產(chǎn)終于有了認定依據(jù)。但虛擬財產(chǎn)的“數(shù)額”“情節(jié)嚴重”又當如何認定，至今仍沒有明文規(guī)范。在人工智能時代，數(shù)據(jù)信息成為社會生活基本要素，數(shù)字貨幣的流通使用只是時間問題。對虛擬財產(chǎn)的全面法律認定問題，迫切需要得以解決。

二是傳統(tǒng)法律邏輯理論的障礙問題。最典型的是“人工智能是否存在過失犯罪”，過失犯罪的理論在人工智能主體身上還能否適用？比如，本文一開始描述的自動駕駛場景還能否適用交通肇事罪？如果不適用，那可能會出現(xiàn)在相同傷害結果前提下，“人駕駛車有過失就是交通肇事罪，機器駕駛有過失反而無罪”的邏輯悖論。同樣的問題還有可能發(fā)生在智能醫(yī)療背景下的醫(yī)療事故責任認定上。

三是涉互聯(lián)網(wǎng)和新技術犯罪的刑事規(guī)制滯后。我國現(xiàn)行刑法是1997年修訂的，到2015年共有過九次修正，但總體框架變化不大。在全部的451條罪名中，除去借助網(wǎng)絡施行的傳統(tǒng)犯罪，專門針對計算機犯罪的僅有第285條、第286條，并且還是按照物理空間思維來“外在化”地設定犯罪構成，未能客觀反映數(shù)據(jù)信息屬性和智能互聯(lián)的運行邏輯。還有，隨著高度自主性人工智能產(chǎn)品的日益普及，給國家安全、公共安全和個人安全都可能帶來嚴重威脅，也需要相關的法律規(guī)制。

在人工智能時代，借助新技術的網(wǎng)絡犯罪會加速發(fā)展，造成的損害和影響也會越來越大。但現(xiàn)有刑法框架下，連一些較為常見的網(wǎng)絡犯罪都普遍存在法律適用難的問題，遑論更新型、更隱蔽、更智能化的犯罪。例如，破壞計算機信息系統(tǒng)的入罪還停留在“造成十臺以上系統(tǒng)主要軟硬件不能正常運行”此類的認定標準上，而實踐中，對于目前全球最為普遍的DDoS網(wǎng)絡攻擊，卻由于損害結果難以認定等原因，打擊起來困難重重。隨著AI設備與物聯(lián)網(wǎng)的高速發(fā)展，DDoS的新宿主平臺不斷出現(xiàn)，自動化程度也越來越高，在巨大利益的誘惑下，來自網(wǎng)絡安全的威脅也將與日俱增。

行政法領域

在人工智能發(fā)展前期，對于人工智能的基礎開發(fā)利用，基本是由各互聯(lián)網(wǎng)企業(yè)、研究機構進行自行探索研究和開發(fā)，相關的行政管理介入較少。隨著產(chǎn)業(yè)的逐步深入發(fā)展，對行政管理的需求也日益增加，需要通過行政許可、行政監(jiān)督和行政處罰等手段來規(guī)范人工智能領域的無序發(fā)展和競爭。

同時，數(shù)字信息經(jīng)濟的發(fā)展也給傳統(tǒng)行政法理念、規(guī)則帶來沖擊。新經(jīng)濟社會結構中處處滲透著參與性、分享性和普惠性，它既有扁平化和去中心化的需求，反過來又造就了以各大平臺生態(tài)圈的“再中心化”。它們基于自身運營發(fā)展需要會進行自主管理和秩序維護，反而國家由于無暇也無力監(jiān)管，將部分規(guī)則制定權、審查管理權讓渡給了各個網(wǎng)絡平臺。比如網(wǎng)絡安全法、反恐法、《電信和互聯(lián)網(wǎng)用戶個人信息保護規(guī)定》等法律規(guī)章所要求的“實名認證”“信息審查”等監(jiān)管權，就包括制定平臺規(guī)則、處罰違規(guī)行為、解決平臺糾紛等“準立法”“準執(zhí)法”權力，這些行政管理職能的實際行使，多半得依賴于平臺本身。

此外，“淘寶小二叫板工商總局”等事件中暴露出的，關于售假是線上問題還是線下問題，是政府監(jiān)管責任還是電商平臺責任的爭論，也凸顯出行政法理論與規(guī)制邏輯遇到的全新難題。

司法實務面臨的困擾

一是傳統(tǒng)管轄原則的失靈。由于互聯(lián)網(wǎng)技術所筑起的網(wǎng)絡空間具有超越現(xiàn)實領土與自然國界的虛擬性，使得傳統(tǒng)的級別管轄和地域管轄出現(xiàn)盲區(qū)，迫使我們不得不重新思考網(wǎng)絡空間的法律效力。

二是新型犯罪的隱蔽化、智能化和跨境化，使得建立在地域和級別管轄基礎上的司法體系難以應對，打擊成本高，效率低。實踐中，GDPR通過其屬人化的數(shù)據(jù)保護設定，突破了以往的主權管轄范圍，有一定可取之處，但同時也無法避免與現(xiàn)有國際司法制度間的沖突。

三是日益復雜的法律關系以及社會進步的需要，給司法水平和司法效能帶來全新的挑戰(zhàn)。法官往往會因為專業(yè)知識的欠缺，難以就復雜的事實問題進行認定，只能在審判過程中依賴專家證人或擁有專業(yè)知識的一方當事人，這無形中可能會導致法官偏離了傳統(tǒng)的法律問題，陷入陌生的領域，難以作出準確裁判。