王 玥 吳 妍

（南陽師范學院法學院，河南 南陽 473061）

隨著社會生活的不斷發(fā)展，人工智能被廣泛運用到我們的日常生活中。從加速物流產(chǎn)業(yè)到智能家居產(chǎn)業(yè)，從提供醫(yī)療到改善教育，人工智能讓我們的社會生活有了更深刻的變革?，F(xiàn)在的人工智能還處于弱人工智能階段，即利用統(tǒng)計學和擬合函數(shù)的知識解決簡單問題，代替重復勞動的人工智能階段。隨著科學技術(shù)的快速革新，人工智能的理論技術(shù)日益成熟，未來極有可能出現(xiàn)區(qū)別于弱人工智能的強人工智能，甚至是更為超人工智能。隨著人工智能的快速發(fā)展，它所產(chǎn)生的法律問題逐漸增多，人工智能的法律人格的確認和法律倫理困境、人工智能進一步發(fā)展而產(chǎn)生的侵權(quán)責任值得我們進一步深入探討和研究。

一、人工智能侵權(quán)責任

在人類歷史上每一次的科技進步發(fā)展都會對社會生活產(chǎn)生巨大影響，與此相對應的就是對人類法律領(lǐng)域提出了相對應的新要求和挑戰(zhàn)，人工智能在科技高速發(fā)展的當下，其所涉及的民事責任，通常都表現(xiàn)在無人駕駛汽車或人工智能機器人等對他人人身或財產(chǎn)造成侵害而引起的侵權(quán)責任。

在2016年舉辦的中國國際高新技術(shù)成果交易會上，在沒有指令和違規(guī)操作的情況下，一個名為“小胖”的機器人突然失去控制，內(nèi)部發(fā)生故障導致其砸壞部分展臺，且使一人受傷。

在這個案例中，我們很清楚地看到，人工智能是存在失控和算法出現(xiàn)錯誤的可能性的，在人工智能應用范圍逐漸普及的今天，這樣的人工智能失控事件只會越來越多，而由此引發(fā)的侵權(quán)責任認定和承擔的問題，則是我們討論的重中之重。

作為一個計算機學科的分支，人工智能的實質(zhì)是生產(chǎn)出一種新的，能以人類相似的方式作出相應反應的智能機器，人工智能本質(zhì)是使計算機對人的意識和思維的信息過程進行模擬，模仿人的思考方式，甚至超過人的智力。而在這種情況下，人工智能風險主要是來自人類對其缺乏控制或是無法控制。雖然人類是人工智能的發(fā)明者，但受到當前技術(shù)的制約，容易對人工智能缺乏完整的全面的控制。而隨著人工智能的進一步發(fā)展，發(fā)展到了新的階段，產(chǎn)生了自我意識，人工智能的風險就更加難以控制。現(xiàn)在的強人工智能發(fā)展面臨瓶頸，所以當前人工智能侵權(quán)行為主要是弱人工智能引發(fā)的侵權(quán)行為。其原因主要有兩個，一是人工智能在研發(fā)時期存在程序和編碼上存在缺陷，致使發(fā)明出來的人工智能在操作時行為紊亂，不受指令控制，從而產(chǎn)生侵權(quán)行為。二是后期使用者未按照正確的指令或者說明進行操作，導致人工智能行為不受控制，產(chǎn)生侵權(quán)行為。

由于侵權(quán)責任中的主體為民法上的“人”，侵權(quán)責任構(gòu)成要件中的“過錯”是指“行為人”應受責難的主觀狀態(tài)，“行為”也是指“行為人”侵害他人合法權(quán)益的行為，“因果關(guān)系”也是指“行為人”的行為與侵權(quán)后果的因果關(guān)系。而現(xiàn)階段的人工智能大多出于對編程指令的遵循階段，即使是能做出判斷和決定的人工智能，也只不過是在嵌入的數(shù)據(jù)庫內(nèi)依照篩選程序做出判斷和決策。由此可知，現(xiàn)階段的人工智能沒有自主意識，無法作出意思表示，屬于弱人工智能。因此，現(xiàn)階段的人工智能不具備民事主體資格，人工智能侵權(quán)責任主體的認定依舊是其相關(guān)人。

既然人工智能不具有法律上的主體資格，那么它在法律上的屬性就定義為“物”。人工智能的侵權(quán)責任也就可以歸為產(chǎn)品責任。人工智能因其高智力投入和復雜的研發(fā)過程區(qū)別于一般的產(chǎn)品，其侵權(quán)責任的歸屬可以根據(jù)侵權(quán)行為產(chǎn)生的不同情形合理劃分至研發(fā)設計人員、生產(chǎn)者、銷售者和使用者這些不同主體身上。

在人工智能的研發(fā)階段，研發(fā)階段的人工智能侵權(quán)責任歸屬有兩個主體，一個是設計者，一個是生產(chǎn)者。設計者對人工智能進行基礎性的設計工作，生產(chǎn)者按照設計者的方案投入生產(chǎn)。生產(chǎn)者和設計者均承擔無過錯責任。

在設計階段發(fā)生的侵權(quán)行為，無論設計者是否故意，都應當由設計者承擔侵權(quán)責任，賠償侵權(quán)損失。而在人工智能投入生產(chǎn)，進入流通領(lǐng)域后。設計者只有被證明是由于設計者的過失導致侵權(quán)行為的產(chǎn)生，才承擔侵權(quán)責任。同樣的，在生產(chǎn)階段，也無論生產(chǎn)者是否故意，有無過錯，均由生產(chǎn)者承擔侵權(quán)責任，賠償受害人的財產(chǎn)或人身傷害。

在銷售階段，人工智能進入商品流通領(lǐng)域。銷售者從生產(chǎn)者手中接過人工智能產(chǎn)品，介紹并銷售給使用者。根據(jù)《民法典》第一千二百零三條，因銷售者的過錯使產(chǎn)品存在缺陷，造成他人損害的，銷售者應當承擔侵權(quán)責任。銷售者不能指明缺陷產(chǎn)品的生產(chǎn)者也不能指明缺陷產(chǎn)品的供貨者的，銷售者應當承擔侵權(quán)責任。

二、人工智能的法律倫理困境

人工智能快速進入人的生活，給人類社會帶來深刻的變化。人工智能的出現(xiàn)和發(fā)展必定會帶來復雜的法律倫理問題。

（一）人工智能對法律理論的挑戰(zhàn)

人工智能在法律理論上的挑戰(zhàn)在其法律性質(zhì)上，最大的挑戰(zhàn)就是人工智能法律主體地位的確定。人工智能分為弱人工智能和強人工智能。由于弱人工智能暫且并不具備自我意識，其主體地位的確認更為明晰。弱人工智能不過是人類創(chuàng)造出來的，借鑒人類的智能行為，代替人類進行復雜瑣碎的勞動的機器。當前的弱人工智能與人類智能有本質(zhì)上的不同，它本質(zhì)上是一個工具，是人類為了方便勞動、減輕勞累而創(chuàng)造出來的無意識工具。弱人工智能最復雜的工作也只不過是依據(jù)輸入的編程代碼對復雜龐大的數(shù)據(jù)進行機械性的選擇、分析、計算和判斷。不同的人工智能，只要是在相同的數(shù)據(jù)庫下對同一個數(shù)據(jù)進行分析，其結(jié)果也是相同的。弱人工智能對法律的挑戰(zhàn)以其特征來看主要集中在著作權(quán)、人格權(quán)、濫用等方面。比如，最近很火的智能小說生成器，只要填入姓名并且選擇需要怎樣的故事便能從數(shù)據(jù)庫中生成一篇小說。其著作權(quán)的歸屬給《著作權(quán)法》帶來了挑戰(zhàn)。還有，大數(shù)據(jù)時代下，隱私的概念已經(jīng)由傳統(tǒng)法律中的權(quán)利，逐漸擴大到也可以成為一種商品，即為了得到一些服務和產(chǎn)品，我們會讓渡一些隱私和信息。［1］所以，弱人工智能對法律的挑戰(zhàn)主要就是其引發(fā)的法律問題無法在現(xiàn)行法律上直接找到答案，是對法律空白區(qū)的挑戰(zhàn)。因此，法律的滯后性要求我們不斷根據(jù)新情況，對人工智能可能出現(xiàn)的問題進行倫理評估，以保障相關(guān)法律的填補和相關(guān)政策的及時跟進。

而強人工智能區(qū)別于弱人工智能的工具屬性，它更具獨立性，核心芯片模仿人的大腦進行運轉(zhuǎn)，控制人工智能。這種情況下，人工智能極可能產(chǎn)生自我意識，擁有獨立的思維。因此，對強人工智能法律地位的承認就極為必要。但是由于現(xiàn)階段的人工智能發(fā)展尚未突破瓶頸，對強人工智能的探討受制于人工智能技術(shù)的限制，僅僅停留在暢想的現(xiàn)狀，缺乏研究的基礎。

（二）人工智能歧視問題

人工智能在使用的過程中很有可能形成無意識的歧視。人工智能在開發(fā)階段存在不透明性，盡管人工智能并不知道其歧視和偏見，由于研發(fā)人員帶著這種思想，在設計算法和訓練數(shù)據(jù)的過程中會帶有明顯的指向性偏見。帶有歧視觀念的設計者在輸入算法和設計編程的過程中，很有可能附帶上了設計者本人的歧視觀念?，F(xiàn)實世界中的種族歧視、性別歧視和偏見都有可能被嵌入到人工智能當中，通過帶有歧視性算法的訓練和學習，延續(xù)設計者的歧視和偏見。那么這些人工智能在其數(shù)據(jù)庫中執(zhí)行帶有偏見的算法指令對數(shù)據(jù)進行篩選、分析、計算，其作出的決策也是帶有歧視和偏見的，就會致使特定人群的正常權(quán)益受到損失，受到不公正待遇，造成社會倫理問題，影響社會的公平公正。比如，COMPAS是美國的一種常用的預測再次犯罪的可能性來指導判刑的算法，COMPAS算法存在明顯的偏見，其預測的黑人再次犯罪的可能性遠高于白人，甚至達到了白人的兩倍。［2］另外，有科學家研究，銀行利用人工智能算法來方便決策，幫助提供接受房貸的名單，在檢查審查神經(jīng)網(wǎng)絡決策制定流程的結(jié)果時發(fā)現(xiàn)，同意黑人房貸申請的人遠遠低于白人。［3］人工智能偏見，會隨著算法的不斷訓練，深入各個應用領(lǐng)域。

三、法律應對措施

在以上我們討論了由人工智能發(fā)展所帶來的各種新型法律問題，包括人工智能的侵權(quán)責任歸屬及其法律倫理困境的問題，而針對以上可能會出現(xiàn)的問題，法律的作用無疑是非常重要的。在社會不斷發(fā)展進步的同時，法律要繼續(xù)起到維系社會穩(wěn)定的作用，勢必需要對人工智能進行更加具有可操作性的規(guī)范。

（一）對人工智能進行歸類，建立人工智能倫理價值體系

對人工智能的歸類劃分，有助于對不同類型的人工智能產(chǎn)生的法律問題進行探討。從大體上來看，人工智能可以分為弱人工智能和強人工智能兩大類，而這兩大類之下又可以再細化分成各小類，如按人工智能的使用范圍，可分為生活類、商業(yè)類、輔助制造類等。關(guān)于人工智能主體問題的探討集中在更為遙遠的強人工智能身上，弱人工智能產(chǎn)生的法律風險則更具有現(xiàn)實意義，只要具體問題具體分析，善用各種法學解釋方法，即可在現(xiàn)行法律上找到依據(jù)。

在對人工智能細化歸類的基礎上，還有助于對不同類型的人工智能嵌入不同的倫理價值體系，讓不同智能程度的人工智能適用相應的人工智能倫理道德規(guī)范。人工智能必須與人類的價值觀和規(guī)范準則一致，在更多的時候，人工智能的存在是由人類編程和設計制造了對應的程序和規(guī)則而產(chǎn)生的，這仍然是相應的制造者的意識體現(xiàn)，是其制造者的意志寄托或是使用者的要求與意識表現(xiàn)，因此，要求建立更為科學合理有效的行業(yè)制度，建立完善的人工智能行業(yè)的規(guī)范，以保障人工智能和諧穩(wěn)定發(fā)展。

（二）建立健全人工智能生產(chǎn)發(fā)展制度，明確人工智能責任劃分

人工智能在生產(chǎn)之前要對其硬件和軟件進行合格性檢查和安全性檢查。由于人工智能的硬件和軟件是分開進行制造，有較強的技術(shù)壁壘且軟件制造趨于壟斷，這就需要政府對其分別加強管制，如需明令禁止生產(chǎn)反人類的人工智能、開發(fā)犯罪程序、生產(chǎn)容易傷人的硬件等。此外，還要重視立法。隨著人工智能進一步發(fā)展完善，相應的新型職業(yè)和行業(yè)產(chǎn)業(yè)無疑會應運而生，這是社會發(fā)展的必然結(jié)果，而法律需要對具體的人工智能違法犯罪行為進行規(guī)定，構(gòu)建人工智能刑法違法機制，進一步保障人工智能發(fā)展的穩(wěn)定，維護人民的人身權(quán)和財產(chǎn)權(quán)。

除此之外，需建立一套完善的人工智能責任制度體系，從而并明確AI設計者、生產(chǎn)者、使用者等相關(guān)法律主體的權(quán)責內(nèi)容。無論是生產(chǎn)者還是使用者，都要遵紀守法，嚴禁對人工智能進行違法性生產(chǎn)和利用人工智能進行違法犯罪活動。責任的歸屬需要明確責任主體，根據(jù)具體情況，誰的過錯由誰承擔，合理分配侵權(quán)責任。

隨著人工智能技術(shù)的高歌猛進，越來越多人工智能產(chǎn)品更加深入地融入我們的社會生活中。人工智能給我們帶來享受的同時，也產(chǎn)生了各種挑戰(zhàn)。人工智能發(fā)展迅速，產(chǎn)生的社會問題及法律問題正在不斷革新，這就要求我們在人工智能不斷發(fā)展的同時，對人工智能發(fā)展進行預測，對人工智能法律風險研究也應該同步進行，從實際出發(fā)，解決實際發(fā)展問題，尊重人工智能發(fā)展規(guī)律，逐步完善人工智能健康發(fā)展的政策法規(guī)，建立完善的行業(yè)機制，讓人工智能更好地服務人類社會，更好地推動社會變革和人類發(fā)展。