張燕

這類自主武器可以在人工智能的幫助下自行學(xué)習(xí)，并在沒(méi)有人為干預(yù)的情況下摧毀目標(biāo)

在科幻電影里，機(jī)器人殺手是個(gè)老掉牙的題材.人們已經(jīng)不再像幾十年前那樣，為這種冷酷的機(jī)器尖叫。在目睹了工業(yè)機(jī)器人、護(hù)理機(jī)器人等類似產(chǎn)品后，對(duì)機(jī)器人能做什么，人們已經(jīng)有了更全面的認(rèn)識(shí)。

但是，殺手機(jī)器人和那些提供便利服務(wù)的機(jī)器終究還是不同的，因?yàn)樗婕皞惱韱?wèn)題。60多年前，科幻小說(shuō)作家艾薩克·阿西莫夫（Isaac Asimov）就提出了著名的“機(jī)器人三定律”，首要一條就是“機(jī)器人不得傷害人類，或坐視人類受到傷害”。

隨著技術(shù)的進(jìn)步，倫理屏障似乎正在被打破，冷血的機(jī)器人殺手逐漸從熒屏中走出來(lái)。為了阻止這種情況的發(fā)生，一場(chǎng)人類自我保護(hù)運(yùn)動(dòng)逐漸興起。

迫在眉睫的問(wèn)題

科幻很遠(yuǎn)，現(xiàn)實(shí)很近。機(jī)器人殺手的出現(xiàn)已經(jīng)是一個(gè)迫在眉睫的問(wèn)題。

近期超過(guò)70個(gè)國(guó)家的軍事專家、科學(xué)家、非政府組織在日內(nèi)瓦參加了聯(lián)合國(guó)會(huì)議，就如何對(duì)待具有爭(zhēng)議的“殺手機(jī)器人”進(jìn)行討論。為期一周的會(huì)議并未得出實(shí)質(zhì)性的結(jié)論。雖然大多數(shù)與會(huì)者表示支持進(jìn)行立法管制，但是一小部分人表示反對(duì)。這種分歧助推了一種現(xiàn)實(shí)：殺手機(jī)器人正向我們走來(lái)。

殺手機(jī)器人走來(lái)的腳步聲會(huì)讓人感到不寒而栗。當(dāng)然，在聯(lián)合國(guó)《特定常規(guī)武器公約》框架下，這種殺手機(jī)器人有另外一個(gè)名字：自主武器。這類自主武器可以在人工智能的幫助下自行學(xué)習(xí)，并在沒(méi)有人為干預(yù)的情況下摧毀目標(biāo)。

隨著科技的發(fā)展，機(jī)器可以用人工神經(jīng)網(wǎng)絡(luò)處理所積攢的經(jīng)驗(yàn)，類似于人類大腦，不斷對(duì)情況進(jìn)行自主學(xué)習(xí)和判斷。而武器行業(yè)也積極利用最先進(jìn)的技術(shù)生產(chǎn)出更有效率、速度更快的武器。擁有這種能力的武器，很容易讓人想起電影《終極者》里的殺手機(jī)器人。

紅十字國(guó)際委員會(huì)將自主武器定義為：“可以根據(jù)自身所處的環(huán)境中不斷變化的情況，隨時(shí)學(xué)習(xí)或調(diào)整運(yùn)轉(zhuǎn)的武器。真正的自主武器能夠在無(wú)人干預(yù)或操控的情況下搜索、識(shí)別并使用致命武力攻擊目標(biāo)?！?/p>

雖然全自主武器和殺人機(jī)器人到目前為止還沒(méi)有被使用，但在這一領(lǐng)域存在國(guó)際公約的灰色區(qū)域。在各國(guó)討論關(guān)于自主武器的生產(chǎn)和使用是否必須受國(guó)際公約管制時(shí)，盡管各國(guó)代表原則上同意，自主武器也必須受人類控制，并符合國(guó)際法，但美國(guó)和一些擁有大型軍備的國(guó)家提出明確的反對(duì)意見(jiàn)，不希望禁止這類武器，這些國(guó)家希望借此保證其在軍事上的優(yōu)勢(shì)地位。

美國(guó)國(guó)防部是最支持機(jī)器人研究的機(jī)構(gòu)之一，2013年美國(guó)智庫(kù)海軍研究辦公室曾向塔夫斯大學(xué)、布朗大學(xué)、倫斯勒理工學(xué)院、喬治城大學(xué)以及耶魯大學(xué)的研究人員發(fā)放750萬(wàn)美元補(bǔ)助，以研究如何教授自動(dòng)機(jī)器人分辨對(duì)錯(cuò)。

目前美國(guó)已經(jīng)有不少具有部分自主功能的武器。軍用機(jī)器人要上戰(zhàn)場(chǎng)，需要適應(yīng)戰(zhàn)場(chǎng)上的現(xiàn)實(shí)，輔助戰(zhàn)士執(zhí)行任務(wù)。例如導(dǎo)彈已經(jīng)可以自行識(shí)別、選擇和攻擊目標(biāo)，無(wú)人機(jī)可以組成蜂群網(wǎng)絡(luò)并獨(dú)立執(zhí)行某些任務(wù)，阿富汗和敘利亞已成為美軍這些武器的試驗(yàn)場(chǎng)。

倫理的交鋒

在對(duì)殺手機(jī)器人限制和列裝的時(shí)間競(jìng)賽中，即使是樂(lè)觀者目前也認(rèn)為后者會(huì)是勝利的一方。畢竟在人們感受到切膚之痛前，很難對(duì)收割生命的武器產(chǎn)生感性認(rèn)識(shí)，一如歷史上先是出現(xiàn)了大規(guī)模殺傷性武器，并產(chǎn)生巨大的破壞后，人們才開(kāi)始痛定思痛制定限制大規(guī)模殺傷性武器的公約。

機(jī)器人看似有益無(wú)害，目前在工廠里已經(jīng)有機(jī)器人和人一起上班，無(wú)人駕駛汽車也已經(jīng)上路測(cè)試，無(wú)人機(jī)已開(kāi)始行進(jìn)送貨服務(wù)，但當(dāng)這些機(jī)器成為武器，踏上戰(zhàn)場(chǎng)的那一刻，不但所有的溫情脈脈都會(huì)被撕去，連戰(zhàn)爭(zhēng)的倫理都會(huì)被改寫(xiě)。盡管責(zé)任要由握刀的人來(lái)承擔(dān)，但和刀終究要靠人揮動(dòng)不同，自主武器可以自己選擇攻擊的時(shí)機(jī)，這無(wú)疑會(huì)極大削弱人的自我防護(hù)能力。

自主武器在接到攻擊指令后，不再需要人的開(kāi)火指揮，攻擊的時(shí)機(jī)也由算法作出最優(yōu)選擇。它們?cè)跀?shù)分鐘、數(shù)天乃至數(shù)周長(zhǎng)的時(shí)間里自行跟蹤目標(biāo)，然后選擇所謂的最佳時(shí)間將目標(biāo)消滅。如此一來(lái)，決定人生死瞬間的不再是作為對(duì)手的人，而是一臺(tái)冷冰冰的機(jī)器。

此外，自主武器更難區(qū)分攻擊目標(biāo)。目前國(guó)際人道法重要的一條是，在攻擊時(shí)要清楚區(qū)分作戰(zhàn)者和平民，盡量避免攻擊平民和民用設(shè)施。機(jī)器不懂國(guó)際法，也無(wú)法依據(jù)道德而行動(dòng)，難以區(qū)分攻擊目標(biāo)。因此國(guó)際法專家們要求，人類必須始終擁有對(duì)攻擊的最后控制權(quán)。

殺傷性地雷可以被看作是一種最初級(jí)的自動(dòng)運(yùn)行武器，因?yàn)楫?dāng)其埋下后，何時(shí)爆炸就不由埋雷者控制了，而取決于應(yīng)用的情景。然而就在地雷被口誅筆伐多年后，很多幾十年前布下的地雷。如今依然在作惡，每年造成1.5萬(wàn)到2萬(wàn)人喪生。

一旦殺手機(jī)器人成為現(xiàn)實(shí)，其危險(xiǎn)要比地雷大得多。因開(kāi)展反對(duì)地雷的運(yùn)動(dòng)而獲得諾貝爾和平獎(jiǎng)的喬迪·威廉姆斯（Jody Williams）是“阻止殺手機(jī)器人運(yùn)動(dòng)”的發(fā)言人，他表示自主武器比核武器更可怕，“如果一些人認(rèn)為把人類的生殺大權(quán)交給一臺(tái)機(jī)器是可以的，人性又何以處之？”

正是基于這種可怕的倫理沖突前景，在2013年，聯(lián)合國(guó)就開(kāi)始呼吁暫緩研發(fā)能自主運(yùn)作的戰(zhàn)爭(zhēng)機(jī)器人。遺憾的是，倫理的交鋒目前并未延遲研發(fā)的腳步，而阻止其到來(lái)的機(jī)會(huì)卻在指縫中溜走。

誰(shuí)來(lái)阻擊

人類被機(jī)器人大軍屠殺是電影中的舊梗，之所以仍會(huì)出現(xiàn)常拍常新的版本，是因?yàn)槿藗儚男牡子袚]之不去的恐懼和擔(dān)憂。

然而，軍火商沒(méi)有被這種擔(dān)憂所嚇阻，他們正貪婪地將手伸向數(shù)據(jù)和算法.直到殺手機(jī)器人破殼而出。他們對(duì)此振振有詞，認(rèn)為當(dāng)機(jī)器人取代人走上沙場(chǎng)，會(huì)減少人的犧牲。他們避而不談的是另一種邏輯，即研發(fā)這種機(jī)器人的一項(xiàng)重大危險(xiǎn)是一各國(guó)會(huì)更輕易發(fā)動(dòng)戰(zhàn)爭(zhēng)，因?yàn)槿伺c人越來(lái)越冷漠。也更容易下達(dá)殺人指令。

正是由于感受到殺手機(jī)器人成為現(xiàn)實(shí)的威脅，自2014年開(kāi)始各方在聯(lián)合國(guó)日內(nèi)瓦總部舉行對(duì)話，討論對(duì)殺手機(jī)器人進(jìn)行限制，整個(gè)對(duì)話在特定常規(guī)武器公約的框架下進(jìn)行。這個(gè)非正式對(duì)話在2017年演變?yōu)檎降恼勁?，超過(guò)70個(gè)國(guó)家以及更多的科學(xué)家、非政府組織參與。但各方立場(chǎng)相距甚遠(yuǎn)，整個(gè)談判進(jìn)展遲緩。

基礎(chǔ)研究領(lǐng)域一直沒(méi)有放棄抵制殺手機(jī)器人的出現(xiàn)。物理學(xué)家斯蒂芬·霍金在世時(shí)，就曾在2015年和上千名人工智能領(lǐng)域的專家一道，發(fā)表了一封呼吁在世界范圍內(nèi)禁止殺手機(jī)器人的公開(kāi)信。

科學(xué)家們警告，越過(guò)這一界限將啟動(dòng)一場(chǎng)新的全球軍備競(jìng)賽。信中稱，繼發(fā)明火藥和核武器之后。能夠在沒(méi)有人類干預(yù)下獨(dú)立識(shí)別并攻擊目標(biāo)的武器系統(tǒng)的發(fā)展，將帶來(lái)“第三次戰(zhàn)爭(zhēng)革命”。

兩年后，不少人工智能企業(yè)也加入了反對(duì)的行列。特斯拉創(chuàng)始人埃隆·馬斯克。以及谷歌應(yīng)用人工智能負(fù)責(zé)人穆斯塔法·蘇萊曼等116家機(jī)器人和人工智能企業(yè)的創(chuàng)始人簽署了一封公開(kāi)信。這封信說(shuō)，致命自主武器會(huì)讓“武裝沖突的規(guī)模超過(guò)以往任何時(shí)候，時(shí)間跨度快到人類無(wú)法理解”。