【摘 要】 致命性自主武器伴隨著人工智能的快速發(fā)展而成為科學(xué)家和法學(xué)家們討論的熱點(diǎn)。盡管尚未形成統(tǒng)一的定義，目前也沒(méi)有真正意義上的這種武器，但是絕大多數(shù)的學(xué)者們相信它的出現(xiàn)只是時(shí)間問(wèn)題。它可能沖擊現(xiàn)有的國(guó)際人道法的秩序，主要是區(qū)分原則、比例原則和預(yù)防原則，甚至給人類帶來(lái)人道災(zāi)難。國(guó)際社會(huì)既有支持其發(fā)展的聲音，也有反對(duì)的看法，甚至還有中間道路。中國(guó)應(yīng)當(dāng)積極應(yīng)對(duì)，捍衛(wèi)國(guó)家利益。

【關(guān)鍵詞】 致命性自主武器 人工智能 國(guó)際人道法 應(yīng)對(duì)態(tài)度

一、問(wèn)題的提出

前景無(wú)限的人工智能應(yīng)用到軍事領(lǐng)域就引發(fā)了專家們的擔(dān)憂：以霍金、馬斯克等人為代表的科學(xué)家們對(duì)具有AI智慧的自主武器持否定態(tài)度，聯(lián)合眾多專家警告并抵制自主武器的發(fā)展。除了科學(xué)家們擔(dān)心的“機(jī)器人可以殺人”的倫理危機(jī)外，國(guó)際法學(xué)界也對(duì)這個(gè)問(wèn)題有了激烈的討論?！短囟ǔＲ?guī)武器公約》締約國(guó)自2014年以來(lái)每年組織專家組會(huì)議討論致命性自主武器可能引發(fā)的國(guó)際法問(wèn)題，中英美俄德等大國(guó)積極參與，發(fā)表意見(jiàn)，闡述立場(chǎng)。雖然各國(guó)在眾多問(wèn)題上有分歧，但是最核心的疑問(wèn)就是：此種將來(lái)會(huì)出現(xiàn)的裝載人工智能的武器能否遵循現(xiàn)有的國(guó)際人道法規(guī)則呢？

二、有爭(zhēng)論的定義

由于科技發(fā)展的不確定性和致命性自主武器的概念性，相關(guān)國(guó)際組織和學(xué)者以及各國(guó)政府對(duì)于這種武器都有各自的理解和定義，有的甚至非常懸殊。比如中國(guó)和英國(guó)政府認(rèn)為，致命性自主武器是具有高度人工智能、在戰(zhàn)場(chǎng)上不受人類控制，甚至可以發(fā)展出自我意識(shí)的武器，因此需要被禁止。國(guó)際紅十字會(huì)認(rèn)為，武器的關(guān)鍵功用具有自主性，且在沒(méi)有人類的干預(yù)下能夠選擇并攻擊目標(biāo)的武器是自主武器。美國(guó)國(guó)防部給出的定義是：一旦啟動(dòng)，能夠選擇并攻擊目標(biāo)，不需要人類操作者的干預(yù)。

筆者認(rèn)為，從字面意義上解釋“致命性自主武器”，則需要采用拆解法，分別解釋每個(gè)獨(dú)立的概念。首先，“致命性”是形容該武器的特點(diǎn)，因此限定了這類武器的用途和范圍，排除了那些偵查型的武器。第二，也是最主要的特點(diǎn)，“自主”，這里的理解是不需要傳統(tǒng)意義上人類的操作，能夠獨(dú)立完成任務(wù)，否則像無(wú)人轟炸機(jī)那樣仍然需要人類扣下扳機(jī)的武器就不是自主武器，更不是概念上的武器。最后，它是武器，本質(zhì)屬性和傳統(tǒng)的槍、炮沒(méi)有區(qū)別，只不過(guò)是可以自動(dòng)找尋目標(biāo)。強(qiáng)調(diào)這一點(diǎn)是因?yàn)椴荒芤驗(yàn)樗哂幸徊糠謶?zhàn)斗員的戰(zhàn)斗智慧和特點(diǎn)就認(rèn)為它在國(guó)際法上屬于戰(zhàn)斗員。

從學(xué)界主流的觀點(diǎn)來(lái)看，將該武器定義為近似電影《終結(jié)者》中的機(jī)器人是過(guò)于夸張的，不被絕大多數(shù)學(xué)者接受。即使大家對(duì)于“自主性”的理解不同，在用語(yǔ)上有所差異，但是人們對(duì)致命性自主武器仍然有著共識(shí)：即該武器具有高度的人工智能，與傳統(tǒng)武器相比，人類干預(yù)大大減少甚至為零。

三、它符合國(guó)際人道法嗎？

反對(duì)發(fā)展這類武器的學(xué)者認(rèn)為，存在于國(guó)際人道法現(xiàn)行的存在于日內(nèi)瓦四公約中的區(qū)分原則、比例原則、預(yù)防原則，必然不能被致命性自主武器遵守。擁護(hù)致命性自主武器的學(xué)者則堅(jiān)持，現(xiàn)行的國(guó)際人道法規(guī)則不會(huì)受到威脅和破壞。走中間道路的學(xué)者則強(qiáng)調(diào)，是否能夠遵循戰(zhàn)爭(zhēng)法則需要個(gè)案分析，在有的情況下可以，在有的情況下未必。

區(qū)分原則要求戰(zhàn)斗員和平民，軍事物體和非軍事物體需要在戰(zhàn)場(chǎng)上被區(qū)分開(kāi)來(lái)，主要目的是為了保護(hù)無(wú)辜的民眾。比例原則強(qiáng)調(diào)戰(zhàn)斗員在行動(dòng)前應(yīng)當(dāng)對(duì)可獲得的軍事利益有所預(yù)判，所造成的損害或者平民傷亡不能超過(guò)可期待的軍事利益，旨在禁止為了戰(zhàn)爭(zhēng)而不擇手段，同樣意在保護(hù)平民。預(yù)防原則要求戰(zhàn)斗員時(shí)時(shí)刻刻在戰(zhàn)場(chǎng)上保持判斷能力，履行注意義務(wù)，避免傷害平民。反對(duì)派學(xué)者堅(jiān)信致命性自主武器無(wú)法區(qū)分平民與戰(zhàn)斗員，尤其是在復(fù)雜的戰(zhàn)場(chǎng)狀況下；同時(shí)，比例原則本身就是針對(duì)人設(shè)置的法律規(guī)則，人的主觀判斷在其中至關(guān)重要，因此脫離或幾乎脫離了人類控制的自主武器從本質(zhì)上不可能遵循比例原則；最后如何保證自主武器能時(shí)刻履行注意義務(wù)，避免誤傷平民，這在反對(duì)派看來(lái)是幾乎不可能的事情，因?yàn)橹旅宰灾魑淦鞯哪康木驮谟跉麛耻?。有意思的是，支持派的學(xué)者從相同的原則出發(fā)，分析出了相反的結(jié)論。他們認(rèn)為基于現(xiàn)有的技術(shù)發(fā)展和合理的推論，人工智能大數(shù)據(jù)深度學(xué)習(xí)的能力在未來(lái)是可以有效區(qū)分平民與戰(zhàn)斗員的，而比例原則也可以通過(guò)輸入?yún)?shù)計(jì)算，數(shù)據(jù)比較來(lái)實(shí)現(xiàn)，至于預(yù)防原則，人類可以在自主武器中設(shè)置自我毀滅程序或者保障人類能夠終止行動(dòng)的權(quán)限，這樣在緊急情況下就可以實(shí)現(xiàn)保護(hù)平民的目的。

四、應(yīng)對(duì)策略

合法性的爭(zhēng)論還在繼續(xù)，似乎不等到致命性自主武器問(wèn)世的那一天不會(huì)休止。但是一個(gè)不能等待的問(wèn)題是我們應(yīng)當(dāng)以何種態(tài)度面對(duì)自主武器。軍事強(qiáng)國(guó)如俄羅斯和美國(guó)積極支持它的發(fā)展，小國(guó)主要是發(fā)展中國(guó)家則表達(dá)了自己的憂慮，主張禁止其發(fā)展。然而現(xiàn)實(shí)問(wèn)題在于美俄等軍事強(qiáng)國(guó)要想積極探索人工智能在武器領(lǐng)域的發(fā)展，其他國(guó)家是阻止不了的。再加上以非法為理由完全禁止致命性自主武器難有技術(shù)支持，一部分學(xué)者于是采取折中辦法，建議限制該武器的研發(fā)和使用。至于采取何種形式達(dá)到禁止，限制或支持發(fā)展致命性自主武器，宏觀上來(lái)看目前有兩種形式：硬法和軟法。硬法即依托特定常規(guī)武器公約這個(gè)平臺(tái)，制定出具有拘束力的附加議定書；軟法即以“宣言”等文本出臺(tái)不具有約束力的，而是倡導(dǎo)性質(zhì)的文件。

不論目前的爭(zhēng)論如何，在迎接武器革命的浪潮中，中國(guó)應(yīng)當(dāng)以積極的姿態(tài)面對(duì)挑戰(zhàn)，主動(dòng)參與國(guó)際性會(huì)議，充分表達(dá)觀點(diǎn)，提升國(guó)際話語(yǔ)權(quán)，并堅(jiān)定捍衛(wèi)我國(guó)國(guó)家利益。

作者簡(jiǎn)介：胡天（1995.04-） 男 漢族 安徽六安 碩士研究生 武漢大學(xué)法學(xué)院 研究方向國(guó)際人道法