◎ 文 《法人》全媒體記者 伍洲奇

2020年1月3日凌晨，一位身份極其特殊的人物——伊朗“圣城旅”指揮官蘇萊曼尼，喋血伊拉克首都機場，同時喪命的還有數(shù)名隨行和接機人員，攻擊他們的是來自美國的無人機。

如果說遙控?zé)o人機還算不上完全的人工智能，那么在聯(lián)合國日內(nèi)瓦總部舉辦的特定常規(guī)武器公約大會上演示的“Slaughterbots 殺戮無人機”，早已完全具備技術(shù)生產(chǎn)條件，其無需遙控且殺人能力令人驚悚。

好在，著名科幻小說家艾薩克·阿西莫夫早在1942年就提出“不得傷害人類”的原則。不過，技術(shù)始終是一把雙刃劍，在給人類帶來便利和好處的同時，也不可避免地給人類帶來創(chuàng)傷的可能。

那么，技術(shù)領(lǐng)先的人工智能又如何面對滯后的法律規(guī)范？

誰是“小智”

有趣的是，正當(dāng)人們在討論如何制定法律限制人工智能以保護人類時，人工智能正在代替法律工作人員在從事輔助性法律工作。

2019年12月24日，在浙江杭州下城區(qū)人民法院進行了這樣一場庭審：原、被告雙方出現(xiàn)在法庭內(nèi)的屏幕中隔空“較量”，智能機器做著證據(jù)分析，還向原、被告自動提問，庭審?fù)戤吅?，立即生成了一份判決書，主持庭審的法官當(dāng)庭宣判。

這場非同尋常的民間借貸糾紛案庭審，從開庭到結(jié)案僅用了28分鐘。這是浙江省高級人民法院聯(lián)合浙江大學(xué)、阿里巴巴等研發(fā)的人工智能審判系統(tǒng)，它的名字叫“小智”。

阿里達摩院算法專家張雅婷介紹說，“小智”背后的整個智能審判系統(tǒng)，運用到文本生成技術(shù) + TTS（文本轉(zhuǎn)化為語音技術(shù)）、ASR技術(shù)（語音轉(zhuǎn)化為文字）、OCR + NLP分類技術(shù)、NLP抽取技術(shù) + 邏輯推理等等，不同的技術(shù)最終又要通過技術(shù)融合組成一個可以模擬法官審判邏輯的系統(tǒng)。

2015年到2018年，人工智能產(chǎn)業(yè)平均復(fù)合增長率達到54.6%，2018年，中國人工智能產(chǎn)業(yè)市場規(guī)模達到415.5億元。隨著產(chǎn)業(yè)規(guī)模的擴大，人工智能領(lǐng)域融資進度也在不斷加快。

根據(jù)投中研究院與崇期資本聯(lián)合發(fā)布的《2019中國人工智能產(chǎn)業(yè)投融資白皮書》顯示，中國人工智能領(lǐng)域的總體融資規(guī)模從2015年的458億人民幣增長至2018年的1189億人民幣，增長超過兩倍。

產(chǎn)業(yè)迅速發(fā)展的同時，人工智能機器人已經(jīng)逐步具有一定程度的自我意識和自我表達能力，甚至可以與人類進行一定的情感交流。機器人本身還能夠形成自學(xué)能力，對既有的信息進行分析和研究，從而提供司法警示和建議。甚至有人認為，機器人未來可以直接當(dāng)法官。

此刻，人們需要思考的法律問題是：“小智”們是誰？帶來巨大財富的人工智能，又是否具備法律上的主體資格？現(xiàn)有的權(quán)利主體、程序法治、用工制度、保險制度、績效考核等一系列法律制度，該如何應(yīng)對人工智能的挑戰(zhàn)。

誰的產(chǎn)權(quán)

“樹影壓在秋天的報紙上，中間隔著一片夢幻的海洋，我凝視著一池湖水的天空……”這首唯美的現(xiàn)代詩，被收錄進原創(chuàng)詩集《陽光失了玻璃窗》，該詩集由微軟全球執(zhí)行副總裁、美國國家工程院外籍院士沈向洋博士作序推薦。

人們難以想象，《陽光失了玻璃窗》竟然是人類歷史上第一部完全由人工智能創(chuàng)作的詩集，詩集的作者是人工智能的代表性“人物”——微軟小冰。

鮮為人知的是，微軟還讓小冰在天涯、豆瓣、簡書等平臺，用27個筆名發(fā)表自己的詩歌，不過并沒有被人“識破”，讀者們還不知道“駱夢”“風(fēng)的指尖”“一荷”“微笑的白”這些筆名背后的詩人，其實并非人類。

與微軟形影相隨的是，百度也已經(jīng)研發(fā)出可以創(chuàng)作詩歌的機器人，那么問題來了，這些人工智能創(chuàng)作作品的著作權(quán)，究竟歸屬于誰？是歸屬于機器人軟件的發(fā)明者？還是機器人的所有權(quán)人？還是賦予機器人一定程度的法律主體地位從而由其自身享有相關(guān)權(quán)利？人工智能的發(fā)展將引發(fā)知識產(chǎn)權(quán)和更多產(chǎn)權(quán)背后的爭議。

人工智能機器人要通過一定的程序進行“深度學(xué)習(xí)”“深度思維”，在這個過程中有可能收集、儲存大量的他人已享有著作權(quán)的信息，這就有可能構(gòu)成非法復(fù)制他人的作品，從而構(gòu)成對他人著作權(quán)的侵害。但構(gòu)成侵害知識產(chǎn)權(quán)的情形下，究竟應(yīng)當(dāng)由誰承擔(dān)責(zé)任，這又是另一個問題。

至此，人工智能的發(fā)展對數(shù)據(jù)的法律保護提出了新的挑戰(zhàn)：一方面，人工智能及其系統(tǒng)能夠正常運作，在很大程度上是以海量的數(shù)據(jù)為支撐的，在利用人工智能時如何規(guī)范數(shù)據(jù)的收集、儲存、利用行為，避免數(shù)據(jù)的泄露和濫用，并確保國家數(shù)據(jù)的安全，是亟須解決的重大現(xiàn)實問題；另一方面，人工智能的應(yīng)用在很大程度上取決于其背后的一套算法，如何有效規(guī)范這一算法及其結(jié)果的運用，避免侵害他人權(quán)利，也需要法律制度予以應(yīng)對。

誰來擔(dān)責(zé)

用法律制度來應(yīng)對人工智能，還是應(yīng)對人工智能的設(shè)計者？這首先就是一個問題。

2016年11月16日至21日，第十八屆中國國際高新技術(shù)成果交易會在深圳舉辦，該交易會主要展示行業(yè)領(lǐng)域內(nèi)的先進技術(shù)和產(chǎn)品，凸顯前沿領(lǐng)域的重大突破和創(chuàng)新創(chuàng)業(yè)的成就成果，不過本次高交會上出現(xiàn)了一個小插曲。

在會上，一個名叫“小胖”的人工智能機器人突然發(fā)生故障，在沒有指令的前提下自行打砸展臺玻璃，最終導(dǎo)致部分展臺破壞，更為嚴重的是，該機器人還砸傷了路人。

毫無疑問，人工智能機器人是人制造的，其程序也是制造者控制的，所以，在造成損害后，誰研制的機器人，就應(yīng)當(dāng)由誰負責(zé)，似乎在法律上沒有爭議。

其實不然，人工智能機器人與人類一樣，是用“腦子”來思考的，機器人的腦子就是程序。產(chǎn)品可以追蹤屬于哪個廠家，但程序卻不一定能夠追蹤，甚至有可能是由眾多的人共同開發(fā)的，程序的產(chǎn)生可能無法追蹤到某個具體的個人或組織。

民事責(zé)任還相對容易追究，如果程序設(shè)計者故意設(shè)計程序漏洞，致人死傷，追究刑事責(zé)任的難度似乎更有爭議。

2018年3月28日，美國亞利桑那州一輛Uber自動駕駛SUV撞倒一名女性行人，導(dǎo)致其死亡。Uber的車輛當(dāng)時處于自動駕駛模式，Uber后來發(fā)現(xiàn)，自動駕駛軟件在汽車傳感器檢測到行人后決定不采取任何制動。

美國國家運輸安全委員會對這起事故的初步調(diào)查報告顯示，Uber的自動駕駛模式使Volvo工廠安裝的自動緊急制動系統(tǒng)失效。

一年后，就在大眾輿論快要忘卻這樁悲劇的時候，它有了最新判決結(jié)果，當(dāng)?shù)貦z察官在一封信中稱，Uber在事故中負有刑事責(zé)任的指控“沒有依據(jù)”，事故視頻可能并未準(zhǔn)確地描述車禍過程，需進一步調(diào)查。

無論調(diào)查結(jié)果如何，人類的命運都在不斷往復(fù)：100多年前，人類發(fā)明了汽車，馬車所代表的田園牧歌，就只能成為一曲挽歌；100多年后也是如此，從人類生活與人工智能相遇的那一瞬間，一切悲喜就已不可避免。