文/徐青青/

孫佑海 天津大學法學院院長、教授、博士生導師，天津大學中國智慧法治研究院執(zhí)行院長；天津大學法學院互聯(lián)網(wǎng)政策法律研究中心主任；天津大學數(shù)據(jù)科學研究院學術委員會委員。兼任中國網(wǎng)絡空間安全協(xié)會網(wǎng)絡治理與國際合作工作委員會副主任委員；天津市法官檢察官遴選委員會主任委員等。曾任國務院法制局副司長，全國人大環(huán)境與資源保護委員會法案室主任，最高人民法院研究室第一副主任兼中國應用法學研究所所長，最高人民法院互聯(lián)網(wǎng)司法研究中心主任。人民法院報社黨委書記兼社長。

近年來，人工智能技術快速發(fā)展，“阿法狗”“無人機”“機器人公民”等相繼進入人們的視野，豐富了人們的生活，促進了經(jīng)濟社會發(fā)展，但同時也帶來諸多方面的風險。對此，如何在法治方面進行應對與防范是亟待研究和解決的問題。就人工智能技術帶來的若干法律風險以及如何防范等問題，本刊專訪了天津大學法學院院長、天津大學中國智慧法治研究院執(zhí)行院長孫佑海。

《人民法治》：人工智能技術引領世界科技新潮流，在極大促進經(jīng)濟社會發(fā)展的同時，據(jù)說也可能帶來若干風險，請您談一談對人工智能發(fā)展的認識？

孫佑海：人工智能是當今社會的熱點。從去年“阿法狗”橫掃世界頂級棋手，到后來“阿法元”100比0全勝“阿法狗”，再到前不久世界首位機器人公民的誕生，人工智能以迅猛的發(fā)展勢頭不斷沖擊著人們的日常生活。人工智能是現(xiàn)代工業(yè)文明發(fā)展的必然產(chǎn)物，其發(fā)展進程始終與工業(yè)文明的發(fā)展相伴而行。當人工智能極大地強化了人類能力時，現(xiàn)有的法律制度就會呈現(xiàn)出其局限性。在對待人工智能發(fā)展問題上，如何調(diào)整“促進”與“規(guī)制”人工智能發(fā)展的法律價值目標？如何應對人工智能技術帶來的各類風險？如何設計人工智能時代的調(diào)控規(guī)范體系？都是法學界面臨的緊迫而重大的課題。

《人民法治》：隨著人工智能技術日新月異并投入使用，其所引發(fā)的各種法律風險也接踵而至。您可以舉例說明嗎？

孫佑海：好的。以無人機的發(fā)展為例。一方面，民用無人機在創(chuàng)新驅(qū)動發(fā)展戰(zhàn)略和軍民融合戰(zhàn)略下具有重要意義，是一個發(fā)展?jié)摿薮蟮某柈a(chǎn)業(yè)，中國在無人機領域處于世界領先地位，因此應當予以扶持促進發(fā)展，使我國的這個產(chǎn)業(yè)在國際上繼續(xù)處于引領地位。另一方面，民用無人駕駛航空器產(chǎn)業(yè)的迅猛發(fā)展，給我國的國家安全、公共安全、飛行安全以及公民隱私保護和企業(yè)商業(yè)秘密保護帶來了極大的挑戰(zhàn)，我國現(xiàn)有的空域管理體制、法律規(guī)則已經(jīng)遠遠不能適應民用無人駕駛航空器發(fā)展。因此，法學研究要在規(guī)范無人駕駛航空器的生產(chǎn)、銷售、使用以保障國家安全、公共安全、飛行安全以及公民和企業(yè)的合法權益等方面作出自己的貢獻。再如無人駕駛。無人駕駛汽車非常方便，據(jù)說百度公司大力發(fā)展無人駕駛汽車，認為無人駕駛可以避免人工錯誤，減少事故發(fā)生。但是，無人駕駛也有很大的問題，前不久有無人駕駛汽車在美國公路上行駛，結果把人撞死了。各種人類不可預見的事情還有很多。撞死人怎么辦，責任由誰來承擔？這些都需要論證。再如機器人。大家用起機器人來十分方便，但也存在風險，如發(fā)生機器人傷人事故，責任由誰來承擔？這樣的問題今后會發(fā)生很多。其他與人工智能發(fā)展相關的問題還有很多，例如涉及到種族問題、民族問題、政治問題。由于機器人學習能力很強，通過深度學習可以訓練機器人，如果教它搞民族歧視，教它謾罵政府，就會引發(fā)政治問題。

以上種種實例也告訴我們，發(fā)展人工智能如果不注意防范，會給社會治理、安全保衛(wèi)等領域帶來很大風險。

《人民法治》：在人工智能大力發(fā)展的同時，可能有哪些重大風險需要我們密切關注？

孫佑海：我概括了一下，主要注意以下十大風險：

（一）意識形態(tài)和國家安全風險。通過人工智能深度學習的手段，灌輸并傳播錯誤的觀點，這對我們黨的宣傳工作是嚴峻的挑戰(zhàn)。相應地，給國家安全也帶來很大的風險。（二）軍事風險。機器人和無人機的強勢開發(fā)使用，將會大大提升有關方面的戰(zhàn)斗力，必將給我國的軍事管理和軍力對比，帶來很大的風險。（三）公共安全風險。機器人勒死人，無人駕駛汽車撞死人，無人機升空進行攻擊，會有很大的風險。（四）社會不穩(wěn)定風險?，F(xiàn)在人工智能大發(fā)展，許多就業(yè)崗位被機器人的各種新設備取代。很多會議，原來還要請打字員打字，現(xiàn)在不需要了，因為語音設備去了，打字員職業(yè)逐漸丟失了。人工智能大發(fā)展后，大量裁員的問題會很普遍，這會引發(fā)社會不穩(wěn)定風險。（五）倫理風險。用機器人搞色情服務，機器與人類結婚。去年沙特阿拉伯賦予機器人公民的資格。這些事都涉及到很復雜的倫理和法律制度問題，引發(fā)大量的倫理道德和法律等方面的風險。（六）個人隱私風險。無人機等不加限制地使用，泄露個人隱私的問題很嚴重。目前，很多問題都在暴露之中。（七）算法歧視和數(shù)據(jù)歧視。算法就是標準。有些標準，政治上不合格，引發(fā)民族不平等、種族歧視、年齡、性別等問題，帶來很大風險。（八）知識產(chǎn)權風險。人工智能時代，剽竊行為更加容易，知識產(chǎn)權風險大大增加。（九）信息安全風險。目前很多信息公司搜集大量信息，公民個人的一舉一動都在他們的數(shù)據(jù)庫里。有的家庭剛生了孩子，馬上就有人打來電話，問你要不要購買他們的“月子”產(chǎn)品；剛剛買了房子，馬上就有人打來電話問你要不要購買他們公司的裝修裝飾用品。這是為什么？因為數(shù)據(jù)被搜集之后，個人信息安全遇到巨大風險。（十）未成年人身心健康風險。未成年人，特別是少年兒童終日沉溺于網(wǎng)絡和人工智能機器，養(yǎng)成網(wǎng)癮和人工智能癮，不利于他們的成長進步。加之人工智能有深度學習功能，如果不抓緊預防，很容易讓少年兒童養(yǎng)成不良習慣。

以上，是當前已經(jīng)發(fā)現(xiàn)的風險。未來還有更多的風險，需要我們認真研究對策方案。

《人民法治》：面對人工智能發(fā)展的諸多風險，從法治的角度看，我們應當如何應對？

孫佑海：解決上述問題，首先要明確正確的指導思想。第一，指導思想就是“兩手抓”。一手抓人工智能的發(fā)展，這是不可阻擋的趨勢；另一手，我們要防范風險。防范風險是對發(fā)展最大的支持。第二，法學領域有兩個重要理論，一是損害者擔責，但在人工智能問題上“確責”比較難。二是預防為主。也就是說，不要等到問題出現(xiàn)之后，再去處理事故，而要盡量往前趕。第三，人工智能發(fā)展給大學法學教育提出更高、更新的要求，各地法學院要培養(yǎng)以人工智能為代表的高科技的法律人才，培養(yǎng)又懂法律又懂人工智能的高素質(zhì)人才。

《人民法治》：人工智能問題上的“確責”在實務方面需要如何去做，以及我們怎樣才做到預防為主？

孫佑海：在立法執(zhí)法司法領域。一是建議有關方面加緊研究制定“人工智能發(fā)展與風險防范法”。二是落實發(fā)展人工智能的執(zhí)法，主要是制定人工智能領域配套的各種技術規(guī)范、技術標準，為執(zhí)法部門開展工作提供依據(jù)。三是司法機關要及時依法“確責”和“問責”。在依法“確責”領域，首先是刑事、民事審判兩大“確責”領域，其次是行政審判領域。既要支持行政部門開展工作，又要支持老百姓依法告政府和有關部門，保障各級政府依法行政。

在守法領域，我主要想強調(diào)一下，作為人民的科學家，在設計人工智能產(chǎn)品的時候，應當對國家、社會、民族和人類的未來有強烈的責任感和強烈的使命感。企業(yè)家不能唯利是圖。不能市場需求什么就設計什么產(chǎn)品，應該有個道德的底線。