榮智慧

2018年11月24日，全國人大常委會委員長會議組成人員進行專題學習，圍繞人大立法監(jiān)督工作保障和規(guī)范人工智能發(fā)展進行學習討論，認為全國人大相關(guān)專門委員會、工作機構(gòu)和有關(guān)方面要及早動手，盡快行動，對人工智能涉及的法律問題進行深入調(diào)查研究，為相關(guān)立法工作打好基礎、做好準備。

美國、歐盟、英國、德國自2016年開始就積極推動人工智能責任立法、人工智能倫理準則以及自動駕駛、醫(yī)療機器人等領(lǐng)域的細分立法。從《“互聯(lián)網(wǎng)+”人工智能三年行動實施方案》到人工智能被寫入2017年政府工作報告，從《新一代人工智能發(fā)展規(guī)劃》到十九大報告的“推動互聯(lián)網(wǎng)、大數(shù)據(jù)、人工智能和實體經(jīng)濟深度融合”，中國對人工智能的重視正在不斷提高。

當下，人工智能作為解決金融、交通、城市建設、醫(yī)療等一系列迫切的社會問題的手段，也對立法和公共政策的制定提出了更高的要求。在人工智能興起的背景下，中國的司法改革也正在面臨更嚴峻的知識挑戰(zhàn)，這種挑戰(zhàn)短期內(nèi)來自現(xiàn)代化治理的方法論，而長遠來看關(guān)系到的是人類對自身的“認識論”。

理財機器人出問題，損失算誰的？

吳穎打開手機，同時開啟了四五個銀行APP。她使用理財機器人才兩個月，很多概念并沒有搞清，但她唯一清楚的是，這些署名“AI”的人工智能投資顧問，會為她提供或穩(wěn)健、或均衡、或成長、或積極的投資組合。她將手機推到《南風窗》記者面前，“人工智能的好處我覺得就是直接，而且效率特別高?！彼傆X得理財顧問都是“忽悠”居多，對“高科技”有一種下意識的信任。

理財機器人并不是一個“實體”機器人，面對面幫助客戶理財，而是透過線上調(diào)查問卷，或者是APP上客戶的資產(chǎn)和消費數(shù)據(jù)，來了解投資者的背景資料、風險偏好和投資習慣，再經(jīng)由算法“量身打造”一套投資組合。

舉例來說，理財機器人在做完投資習慣和風險調(diào)查后，會為愿意承受高風險、進而享受高回報的投資者推薦全球股市比重占70%、美債比重占30%的投資組合；而為正在準備退休的保守型投資者，推薦股票型占40%、債券型占60%的投資組合。

理財?shù)恼嬲x，是資產(chǎn)配置。先決定好投資工具，比如股票、債券、現(xiàn)金等，再按照個人的風險和回報偏好來配置比例。不過，在市場波動下，持有的投資組合會因為價格漲跌，凈值比例偏離原來的設定比例。而理財機器人的重要特點，就是自動地進行資產(chǎn)配置再平衡。它以月度、季度、年度的方式檢視資產(chǎn)績效，定期調(diào)整。像吳穎這種常年“996”的忙碌職場人士，再也不用茶飯不思地“盯盤”。

理財機器人也叫智能投資顧問（Robo-Advisor），是近年風靡華爾街的創(chuàng)新性金融科技產(chǎn)品。美國金融數(shù)據(jù)分析服務提供商Kensho，它的軟件可以在2分鐘內(nèi)做出反應：當三級颶風襲擊佛羅里達時，哪只水泥股的漲幅最大？蘋果發(fā)布新款iPhone，哪家供應商股價上漲更快？

2016年，以招商銀行、廣發(fā)證券為代表的中國銀行和券商等金融機構(gòu)，也開始入局。2017年，中國各大銀行、證券公司和保險公司均推出了相關(guān)產(chǎn)品。吳穎去年就聽同事們談及，一貫“保守”的她今年也加入了進來。

中國的理財機器人和國外的最大區(qū)別是，前者不能進行“代客資金交易”，說白了，就是不能“自行付錢”。“我也挺猶豫的，”吳穎說，“雖然買不買單，決定權(quán)還是在我手上，但萬一這個機器人出問題了，或者被黑客攻擊了，我的損失算誰的責任？是那個寫代碼的，還是黑客，還是整個銀行？”

雖然人工智能遠遠達不到人類的認知水平，但是作為工具的使用，已經(jīng)出現(xiàn)了很多急需明確的權(quán)責問題。

同樣的問題也發(fā)生在醫(yī)療機器人領(lǐng)域。目前中國的醫(yī)療機器人應用尚未普及，但小范圍的應用也是事關(guān)“生死”。據(jù)了解，中國有三十幾家醫(yī)療機器人企業(yè)。北京積水潭醫(yī)院、301 醫(yī)院、河北醫(yī)科大學第三醫(yī)院等幾家醫(yī)療機構(gòu)，已經(jīng)開始臨床應用骨科機器人。深圳某企業(yè)的手術(shù)機器人，可以幫助醫(yī)生，通過使用電腦和軟件來控制和移動手術(shù)儀器，進入病人身體上的微小切口，來完成不同的手術(shù)步驟。

如果醫(yī)療機器人出現(xiàn)故障，發(fā)生醫(yī)療事故，權(quán)利和責任又該如何明確？會不會進一步激化中國業(yè)已嚴峻的醫(yī)患關(guān)系？

賦予人工智能虛擬人格？

人工智能是一種為社會帶來全方位變革的通用技術(shù)，可以應用到從農(nóng)業(yè)、制造業(yè)再到法律、醫(yī)療、金融服務業(yè)等各種各樣的生活場景之中。而且，機器學習（特別是無監(jiān)督學習）技術(shù)，會帶來結(jié)果的不可控性。就像微軟的聊天機器人，上線沒幾天，跟網(wǎng)友學會了不少粗話，甚至還學會了種族歧視。

因此，法律如何規(guī)制人工智能，在鼓勵創(chuàng)新的同時，保護人類社會的基本價值，將風險控制在可控范圍內(nèi)，是一個急需討論和立法回應的問題。

但中國社會科學院知識產(chǎn)權(quán)中心教授楊延超告訴《南風窗》記者，鑒于目前人工智能的發(fā)展水平，制定一部總括性的“人工智能法”，時機還不成熟。

最接近一般性人工智能法的立法嘗試，是2016年歐洲議會向歐盟委員會提出的“機器人法”立法建議報告。這份報告的立法，只針對有形的“智能機器”，包括機器人、智能家電和自動駕駛汽車等。但是，對于人工智能的核心—算法，并沒有相關(guān)的規(guī)制。也就是說，其思路和規(guī)制食品安全、產(chǎn)品責任的思路基本上一樣。

那么為什么還要緊鑼密鼓地討論人工智能的立法？楊延超認為，雖然人工智能遠遠達不到人類的認知水平，但是作為工具的使用，已經(jīng)出現(xiàn)了很多急需明確的權(quán)責問題?！斑@時候，我們就需要賦予人工智能一個虛擬人格，來解決利益的第一層分配問題?！?/p>

他舉了一個例子，“就像法人，法人也不是自然人，但是我們能夠賦予公司一個虛擬的人格來明確它的地位。”對于人工智能來說，“虛擬人格就是法律人格。從消極的方面說，就是判斷誰來承擔責任；從積極的方面說，就是行為的效力怎么認定?！?/p>

自動駕駛是理解人工智能立法難題的一個典型案例。目前，自動駕駛車輛是在一個“無法可依”的情況下“高調(diào)”上路的。2017年12月2日，四輛裝備著華為開發(fā)的“阿爾法巴-智能駕駛公交系統(tǒng)”的自動駕駛公交車在深圳福田保稅區(qū)上路，這是世界首例在開放道路上行駛的自動駕駛公交車。

自動駕駛首先面臨著“法律人格”地位下區(qū)分其民事行為能力和責任能力的問題?！斑^錯”是現(xiàn)代交通法構(gòu)建的基石，酒駕、疏忽大意、無證駕駛都是“過錯”。然而，在無人駕駛的時代，“過錯”就要進行重新劃分。根據(jù)2017年5月德國聯(lián)邦議會批準的《德國道路交通法》修正案，如果自動駕駛模式正在運行過程中發(fā)生了事故，責任在汽車制造商；如果自動駕駛系統(tǒng)發(fā)出了請求人工控制的信號，責任才會轉(zhuǎn)移到汽車的駕駛?cè)藛T身上。

楊延超說，這實際上是產(chǎn)品質(zhì)量責任，也就是嚴格責任，它不關(guān)心“過錯”，而是關(guān)心汽車是誰生產(chǎn)的。在無人駕駛時代，交通事故的責任主體將由個人轉(zhuǎn)為汽車的生產(chǎn)企業(yè)。這對原有的交通法律，是顛覆性的。而且，人工智能技術(shù)的應用可謂“牽一發(fā)而動全身”，交通事故責任分配中的保險制度，也將出現(xiàn)徹底的轉(zhuǎn)變。

一直以來，保險制度在交通事故責任有著兩方面的作用。一方面它讓受害者救濟變得更加及時—受害者可從保險費用中先行獲得救濟；另一方面，它也分散了責任承擔，將一人責任分解成社會分擔。然而，隨著無人駕駛時代的到來，保險費用的交納或許將由車輛購買者變?yōu)槠噺S商。

“霍布斯時刻”的到來？

中國的司法改革，很大程度上是一種知識的改革。這絕不是說，法律人只要死讀書本就能解決法律問題，而是說，從司法決策的角度去看，它首先就是知識運用的過程；從程序立法的方面去看，它同樣需要知識立場和知識內(nèi)涵。人工智能的出現(xiàn)，以及其可預期的發(fā)展前景，為司法改革提出了更新的情況、更新的知識，如果不能理解這種知識，司法改革也將更加難以推進。

在當下“弱人工智能”的狀態(tài)下，人們需要解決的往往是“知識產(chǎn)權(quán)”問題。這個問題的表層是，立法者需要給予人工智能更多的權(quán)利。像撰稿機器人、作曲機器人、法律咨詢機器人，應該享有相應的創(chuàng)作者權(quán)利。更深一步去看，這些機器人背后創(chuàng)造其算法的人，也相應享有創(chuàng)作者的權(quán)利，包括著作權(quán)、專利權(quán)等。

在中美貿(mào)易摩擦中，知識產(chǎn)權(quán)也成為爭端的關(guān)鍵。據(jù)悉，中國最高人民法院也將賦予知識產(chǎn)權(quán)庭更大的權(quán)力，來強化知識產(chǎn)權(quán)的重要性，統(tǒng)一知識產(chǎn)權(quán)案件的審判標準。

當人工智能遠遠超出人類的想象之后，法律又該如何規(guī)范兩個物種的生活？如何創(chuàng)造一個穩(wěn)定的預期？還是說，人類將再次面對那個“一切人對一切人”的“霍布斯時刻”？

知識產(chǎn)權(quán)的應用范圍，需要不斷地“擴大”。但是，諸如“密碼朋克”“自由軟件運動”等群體的崛起或運動的爆發(fā)，也提供了另外一種可能。越來越嚴格的知識產(chǎn)權(quán)保護，也許極大地阻礙了知識、技術(shù)、想法的快速高效流通，從而極大地阻礙了人類的創(chuàng)新活動和發(fā)明活動。

這就意味著，“弱人工智能”時代的立法或規(guī)制，特別需要注意自身的尺度和邊界。它既要給文化傳播、發(fā)明創(chuàng)造留下足夠的空間，也要保護創(chuàng)作者的“私人財產(chǎn)”—以利于長期的、持續(xù)的、有回報的知識生產(chǎn)。它不僅要鼓勵和保護人工智能的獨立“發(fā)揮”，也要前瞻性地避免人工智能帶來的破壞和損害。

然而，等人們跨越“奇點”，或者進入“強人工智能”時代，立法者面臨的就不僅僅是知識產(chǎn)權(quán)的問題，或者說羅馬法里的“繳出賠償”原則—機器人的“主人”最終承擔責任；而是電子人格是否與人類人格真正等同的問題，換句話說，就是強人工智能算不算一個“人”。

雖然沙特阿拉伯在2017年授予機器人索菲亞以公民身份，還向她發(fā)放了護照，但炒作的色彩大于實際意義，索菲亞遠沒有具備“思考”的能力。楊延超提到了科幻作家阿西莫夫的“機器人三定律”，他認為這一文學設定的意義是重大的，強人工智能具備人類的諸多能力之后，人類的安全問題應該被首先納入考量。

對于法律人而言，技術(shù)的更迭，時代的更替，都是一種大的背景，而司法改革并不以變化為目的，歸根結(jié)底，它以公平和正義為目的。

如今的人工智能在司法領(lǐng)域的應用，特別是在取證方面，極大地提高了效率。對人工智能知識的掌握和理解，也意味著對正義的理解的進一步加深。遲來的正義雖然好過沒有來的正義，但依然比不上“及時”的正義。

而面對未來將與人類平等的強人工智能，人們對“主奴關(guān)系”“公平”“正義”的看法，又將與今日截然不同。人類從來沒有賦予過任何一個物種與人類相等的權(quán)利，正是因為其他物種無法與人類抗衡。當人工智能遠遠超出人類的想象之后，法律又該如何規(guī)范兩個物種的生活？如何創(chuàng)造一個穩(wěn)定的預期？還是說，人類將再次面對那個“一切人對一切人”的“霍布斯時刻”？