摘 要 人工智能本質(zhì)上是互聯(lián)網(wǎng)技術(shù)發(fā)展的結(jié)果，須自覺完成與《網(wǎng)絡(luò)安全法》的融合。人工智能應用首先必須遵守“機器人三定律”和倫德道德的約束，不得突破“保障人類安全、追求公共利益”、“故障透明且可追溯”和“尊重和保護個人隱私”等基本原則。人工智能犯罪是升級版的網(wǎng)絡(luò)犯罪，其犯罪類型、犯罪構(gòu)成及定罪量刑受現(xiàn)行刑法理論的調(diào)整，但對于惡意的、以犯罪為目的的濫用行為，建議在條件成熟時增設(shè)濫用人工智能罪，以期從源頭上防控刑事風險。

關(guān)鍵詞 人工智能 倫理原則 網(wǎng)絡(luò)安全 濫用人工智能罪

作者簡介：李曉瑜，中共鄭州市委黨校法學教研部講師，研究方向：憲政法學、刑事法學。

中圖分類號：D924 文獻標識碼：A DOI：10.19387/j.cnki.1009-0592.2019.01.097

一、人工智能發(fā)展現(xiàn)狀

（一）人工智能概述

人工智能（Artificial Intelligence），簡稱AI，該名詞于1956年首次被計算機學界提出，之后人工智能技術(shù)得以快速發(fā)展，并與基因工程、納米科學并稱為二十一世紀三大尖端技術(shù)。

通常認為人工智能是互聯(lián)網(wǎng)技術(shù)發(fā)展的一個表現(xiàn)。北京師范大學的喻國明教授認為，互聯(lián)網(wǎng)技術(shù)發(fā)展的上半場解決了網(wǎng)絡(luò)化問題，大數(shù)據(jù)技術(shù)得以快速發(fā)展，使得用戶的痕跡能夠依托網(wǎng)絡(luò)連接被精細化、動態(tài)化分類、描述，為互聯(lián)網(wǎng)的下半場奠定了數(shù)據(jù)基礎(chǔ)。面對個性化、分眾化的消費升級和人類智能探索的需求，互聯(lián)網(wǎng)的下半場突出體現(xiàn)為了大數(shù)據(jù)基礎(chǔ)上的人工智能應用。可以說，人工智能是一門集合了哲學、計算機學、倫理學、數(shù)學、語言學、神經(jīng)科學、法學等等多種學科特點的綜合性學科，覆蓋數(shù)據(jù)處理、機器學習、模式識別和智能算法等多重技術(shù)手段，主要應用在智能感知、智能推理與學習、智能行動等領(lǐng)域，具有強烈的創(chuàng)造性、精準性、自主性和交叉性。

隨著AI技術(shù)的快速發(fā)展和資本推動，人工智能應用已進入“全面爆發(fā)期”，根據(jù)麥肯錫統(tǒng)計，人工智能全球風投已從2012年的5.9億美元增至2016年50多億美元，全球從事人工智能應用相關(guān)的企業(yè)逾6000家，而國內(nèi)相關(guān)企業(yè)已達1000余所，數(shù)量上僅次于美國。預計到2025年，全球AI應用市場總值將達近1300億美元。據(jù)統(tǒng)計，2017年國內(nèi)AI市場產(chǎn)業(yè)規(guī)模已達300億，2018年有望突破380億，復合增長率近27%。截至2017年底，國內(nèi)AI專利申請累計逾16000項，位居全球第二。目前國內(nèi)AI產(chǎn)業(yè)主要集中于長三角、珠三角、京津冀地區(qū)，這三大集中區(qū)的企業(yè)數(shù)量約占全國總數(shù)的3/4強。

當下人工智能應用比較活躍的是AI芯片開發(fā)、無人汽車駕駛、智慧醫(yī)療、智能交通、智能投顧等領(lǐng)域。AI芯片開發(fā)目前仍由Intel、Google、IBM、高通等巨頭為主，我國當前的芯片設(shè)計研發(fā)能力仍處于初級的開發(fā)探索階段。美國無人駕駛的技術(shù)研發(fā)更加先端，但在行業(yè)應用中同樣面臨法律制度和交通基礎(chǔ)配套設(shè)施、標識等滯后的問題。依托共享數(shù)據(jù)的人工智能醫(yī)療影像診斷、機器問診、人工智能律師、AI金融客服、智能機器人陪護等應用，亦逐步深入市場。國內(nèi)外知名高?？蒲袡C構(gòu)如麻省理工、斯坦福、吉林大學等均建立不同類型、綜合不同交叉專業(yè)的實驗室、研究所，加快人工智能研發(fā)力度和人才培養(yǎng)。

（二）人工智能應用的倫理原則與法制探索

有學者曾將人工智能的發(fā)展形態(tài)分為弱人工智能、強人工智能和超強人工智能三種形態(tài)，并認為現(xiàn)階段我們?nèi)蕴幱谌跞斯ぶ悄茈A段，人工智能技術(shù)牢牢受到人類的操控和制約。著名的科幻作家阿西莫夫在《我，機器人》一書中曾提出“機器人三定律”，并得到全球公認：（1）機器人不得傷害人類，亦不得在人類受到傷害時置之不理。（2）機器人必須遵守人類指令，除非該指令可能違背第一條定律。（3）機器人得保護自己，前提是保護過程中不違背前兩項定律。作家阿西莫的“機器人三定律”僅僅是科幻愛好者的一家之言，雖得到廣泛認同，但畢竟不是經(jīng)過國家法律認可的制度性規(guī)范或法治原則，同時也未能覆蓋到當下人工智能技術(shù)開發(fā)中的“自主意識”、“自主能力”等新的倫理、法律問題。

2014年6月，歐盟啟動《歐盟機器人研發(fā)計劃》，2016年10月歐盟法律事務委員會發(fā)布《歐盟機器人民事法律規(guī)則》，初步指出人工智能民事法律問題框架。2016年9月英國下議院科技委員會發(fā)布《機器人學與人工智能報告》。2016年美國專門成立Nitrd人工智能專項小組，以政府名義要求大專院校將倫理學與人工智能、計算機科學和數(shù)據(jù)科學等作為整體課程，截至2017年底美國已有23個州制定40余部“自動駕駛汽車法案”。日本政府2015年發(fā)布《日本機器人戰(zhàn)略：愿景、戰(zhàn)略、行動計劃》，亦重點強調(diào)人工智能與倫理法律的結(jié)合。隨著2015年“中國制造2025”、2016年《機器人產(chǎn)業(yè)發(fā)展規(guī)劃（2016-2020年）》、2017年《機器人行業(yè)白皮書》、《新一代人工智能發(fā)展規(guī)劃》和《網(wǎng)絡(luò)安全法》等國家級規(guī)劃、法律的出臺，人工智能技術(shù)與網(wǎng)絡(luò)安全、倫理道德、法律監(jiān)管的構(gòu)建完善工作日益得到重視。

2016年，聯(lián)合國教科文組織與世界科學知識與技術(shù)倫理委員會曾聯(lián)合發(fā)布一份關(guān)于AI機器人發(fā)展與社會倫理道德的報告，分別從網(wǎng)絡(luò)安全、隱私保護、誠信公平等方面進行了研究論證。2017年美國加州阿西洛馬會議上多位AI領(lǐng)域?qū)＜衣?lián)合簽署了“阿西洛馬人工智能原則”，要求人工智能的研究目的必須緊緊圍繞“服務于人類并為人類所控制”，必須遵循“保障人類安全，追求公共利益”、“故障透明且可追溯”、“尊重和保護個人隱私”三項倫理原則。這三項原則成為目前人工智能發(fā)展與應用中被廣泛遵守的基本原則。

二、人工智能與網(wǎng)絡(luò)安全法的融合

誠如前文所述，人工智能是互聯(lián)網(wǎng)技術(shù)發(fā)展的“下半場”，其本質(zhì)是計算機技術(shù)之分支，人工智能應用也首先遭遇網(wǎng)絡(luò)系統(tǒng)的安全問題，其法律治理首當其沖。以最受AI愛好者關(guān)注的無人駕駛為例，汽車的駕駛系統(tǒng)有可能遭遇來自云平臺、移動端或者汽車端的網(wǎng)絡(luò)黑客攻擊，通過盜取賬戶密碼等方式控制操作或改變設(shè)置，從而帶來巨大安全隱患。2016年挪威某安全公司的工作人員就曾經(jīng)通過入侵用戶手機獲取特斯拉APP密碼，對用戶車輛實施定位、追蹤、解鎖、啟動等操作，導致車輛被盜。而在2016年美國總統(tǒng)精選中，巨量的政治機器人被用于精準信息推送和虛假新聞發(fā)送，直接影響選情。人工智能的應用越來越廣泛，其網(wǎng)絡(luò)安全規(guī)制迫在眉睫。

根據(jù)《網(wǎng)絡(luò)安全法》和人工智能的特點，傳統(tǒng)的人工智能網(wǎng)絡(luò)安全主要聚焦于網(wǎng)絡(luò)系統(tǒng)安全、計算機算法透明度與問責性以及網(wǎng)絡(luò)數(shù)據(jù)隱私的保護等方面，而以人工智能硬件的屬性、供應鏈責任承擔等為基礎(chǔ)的新生系統(tǒng)風險則直接面臨與《合同法》、《網(wǎng)絡(luò)安全法》等法律的融合問題。

（一）人工智能硬件應用生產(chǎn)者的主體資格

《網(wǎng)絡(luò)安全法》將網(wǎng)絡(luò)運營者納入到網(wǎng)絡(luò)安全法網(wǎng)當中，并分別規(guī)定了各自的權(quán)利義務。根據(jù)該法第76條的規(guī)定，網(wǎng)絡(luò)運營商包括網(wǎng)絡(luò)所有者、網(wǎng)絡(luò)管理者和網(wǎng)絡(luò)服務提供者三方，顯然人工智能硬件生產(chǎn)者完全可以被排除在網(wǎng)絡(luò)所有者和管理者之外，那它是否屬于服務提供者呢？縱覽《網(wǎng)絡(luò)安全法》相關(guān)配套法規(guī)不難發(fā)現(xiàn)，我國《信息安全技術(shù)網(wǎng)絡(luò)安全等級保護定級指南》將物聯(lián)網(wǎng)明確納入其中，認定物聯(lián)網(wǎng)屬于網(wǎng)絡(luò)運營者。但是依照《網(wǎng)絡(luò)安全法》對物聯(lián)網(wǎng)中網(wǎng)絡(luò)服務、產(chǎn)品的審核范圍，其審核的對象主要集中為“重要產(chǎn)品”而非全部產(chǎn)品，所涉種類甚少，人工智能硬件作為物聯(lián)網(wǎng)的組成部分之一，雖包含操作系統(tǒng)、內(nèi)置CPU、傳感器等技術(shù)，但并未有相關(guān)法律解釋或配套規(guī)范明確其是否為“重要產(chǎn)品”之一，對此法律適用過程中不可任意作擴大解釋，亟需相關(guān)部門從技術(shù)標準、評估認證、漏洞監(jiān)測與披露等多個層面明確之。

（二）人工智能硬件應用的供應鏈責任承擔

縱覽《網(wǎng)絡(luò)安全法》、《網(wǎng)絡(luò)產(chǎn)品和服務安全審查辦法》、《工業(yè)控制系統(tǒng)信息安全防護指南》等相關(guān)法規(guī)，關(guān)于供應鏈各方的責任承擔問題規(guī)定得并不甚明確。依據(jù)《網(wǎng)絡(luò)安全法》第76條第3款的規(guī)定，供應鏈中僅設(shè)計了網(wǎng)絡(luò)運營者、產(chǎn)品服務提供者，而不包括供應商，如果人工智能硬件的生產(chǎn)者不具備《網(wǎng)絡(luò)安全法》主體資格，則其當然也被排除在供應鏈之外。但從商品生產(chǎn)、流通的角度來看，生產(chǎn)者顯然是產(chǎn)品交易過程的首要環(huán)節(jié)。以智能網(wǎng)聯(lián)汽車為例，其供應環(huán)節(jié)中當然包括了車載操作系統(tǒng)、車載應用軟件等智能硬件應用，當這些硬件應用出現(xiàn)重大系統(tǒng)安全風險時，如果是硬件生產(chǎn)者的明顯過錯所致，而仍將其排除在責任承擔主體之列，顯然與法治精神不符。

三、人工智能與刑法的因應

（一）人工智能犯罪是升級版的網(wǎng)絡(luò)犯罪

2016年9月中國境內(nèi)發(fā)生首起特斯拉無人駕駛汽車肇事致人死亡案件，2017年9月紹興市破獲的特大侵犯公民信息案被稱為全國首例“利用人工智能犯罪”案件，刑法對人工智能的回應正式擺上了臺面。但縱觀人類犯罪史，犯罪的根源還是在于人自身，人工智能時代的犯罪歸根結(jié)底是人類利用互聯(lián)網(wǎng)科技的犯罪，是升級版的網(wǎng)絡(luò)犯罪。

人工智能犯罪涵蓋對人工智能犯罪和以人工智能為工具的犯罪兩大類，尤其后者，使得傳統(tǒng)的犯罪“插上了科技的翅膀”，通過對大數(shù)據(jù)的濫用或“欺騙”人工智能機器人，誘發(fā)犯罪后果的量變、增加預防難度。刑事法領(lǐng)域需要著力的一是對人工智能研發(fā)人員以犯罪為目的的或違背倫理道德的行為加以刑法規(guī)制，二是對人工智能應用過程中的配套的規(guī)則進行約束，如數(shù)據(jù)信息合法收集利用、道路交通規(guī)則嚴格遵守等方面的刑法規(guī)制。

眾所周知，刑事犯罪依據(jù)犯罪主觀方面劃分為故意犯罪和過失犯罪兩大類。以犯罪故意為主觀方面的人工智能犯罪，如以犯罪為目的的人工智能研發(fā)者，在進行設(shè)計、編程時即將自己的犯罪計劃植入計算機算法或程序中，依托機器人的程序化操作，一步步實現(xiàn)其詐騙、盜竊、殺人、間諜等犯罪目的。此時的人工智能就是典型的犯罪工具，其詐騙、盜竊、殺人、間諜等刑事責任自然應當由研發(fā)者承擔，應當將智能機器人看作行為人實施犯罪行為的“智能工具”，所有刑事責任應當由智能機器人的研發(fā)者或使用者承擔。以犯罪過失為主觀方面的人工智能犯罪，突出體現(xiàn)作為無人駕駛汽車交通肇事等犯罪形態(tài)，人工智能機器人的操作者、管理者基于疏忽大意或過于自信的過失，未能盡到預見義務或者已預見但輕信犯罪結(jié)果能夠避免，對此由人工智能的操作者在刑法明文規(guī)定的范圍內(nèi)承擔相應的刑事責任。

（二）必要時增設(shè)濫用人工智能罪

人工智能的應用往往是為了應因人類的需求，尤其是高端智能機器人如2010年研發(fā)的生活伴侶機器海豹“帕羅”、菲比小精靈、機器人配偶等，甚至“帕羅”還獲得了“戶籍”。但是人工智能的應用也不排除被認為濫用的危險。如果人工智能的研發(fā)者、管理者不能嚴格遵守“機器人三定律”和倫德道德，為一己私欲利用人工智能實施危害國家安全、危害人類安全等嚴重犯罪時，該人工智能的研發(fā)、應用就猶如隨時可能引爆之炸彈，后果不可估量。對此建議將其預備犯形態(tài)獨立化，增設(shè)“濫用人工智能罪”，從源頭上嚴控刑事風險。

參考文獻：

[1]黨家玉.人工智能的倫理與法律風險問題研究.信息安全研究.2017（12）.

[2]劉憲權(quán).人工智能時代的刑事風險與刑法應對.法商研究.2018（1）.

[3]黃云波.人工智能時代的刑法機能.人民法治.2018（6）.

[4]王肅之.人工智能犯罪的理論與立法問題初探.大連理工大學學報（社會科學版）.2018（5）.