張 煌 杜雁蕓

伴隨著自主武器系統(tǒng)攻擊事件的頻發(fā)(1)2018年8月，委內(nèi)瑞拉總統(tǒng)馬杜羅遭遇無(wú)人機(jī)炸彈襲擊；2019年9月，沙特阿美公司油田遭遇胡賽武裝無(wú)人機(jī)群攻擊；2020年1月，伊朗“圣城旅”指揮官蘇萊曼尼少將被美國(guó)“收割者”無(wú)人機(jī)刺殺；2020年11月27日，伊朗頂級(jí)核物理學(xué)家穆赫辛·法赫里扎德被由人工智能技術(shù)遠(yuǎn)程控制的自主機(jī)槍擊斃。，全球范圍內(nèi)新一輪自主武器系統(tǒng)軍備競(jìng)賽也在如火如荼地展開(kāi)。研發(fā)、使用自主武器系統(tǒng)存在的問(wèn)題與潛在風(fēng)險(xiǎn)，日益成為國(guó)際社會(huì)關(guān)注的焦點(diǎn)。包括聯(lián)合國(guó)秘書(shū)長(zhǎng)、聯(lián)合國(guó)軍控委員會(huì)負(fù)責(zé)人、紅十字國(guó)際委員會(huì)負(fù)責(zé)人和歐洲議會(huì)議長(zhǎng)在內(nèi)的國(guó)際政要，堅(jiān)決反對(duì)致命性自主武器的研制和使用，對(duì)其可能引發(fā)的人道主義災(zāi)難表達(dá)深切的憂(yōu)慮(2)Stephen Goose，“The Case for Banning Killer Robots: Point”，Communications of the ACM，Vol.58，No.12，2015，pp.43-45.。2018年7月，超過(guò)2400名AI領(lǐng)域科學(xué)家發(fā)表《致命性自主武器系統(tǒng)宣言》，承諾“將不參與也不支持致命性自動(dòng)武器的開(kāi)發(fā)、制造、貿(mào)易或使用”，并呼吁各國(guó)政府和政府領(lǐng)導(dǎo)人“利用強(qiáng)大的國(guó)際規(guī)范、法規(guī)和法律打擊致命性自動(dòng)武器”(3)Future of Life Institute，“Lethal Autonomous Weapons Pledge”，https://futureoflife.org/lethal-autonomous-weapons-pledge/,2021-01-23.。這是自1955年《羅素-愛(ài)因斯坦宣言》發(fā)表以來(lái)，國(guó)際社會(huì)再次針對(duì)一項(xiàng)武器，出現(xiàn)如此聲勢(shì)浩大、旗幟鮮明的和平主義行動(dòng)，由此也引發(fā)學(xué)界圍繞自主武器系統(tǒng)攻擊的正義性展開(kāi)一系列戰(zhàn)爭(zhēng)倫理追問(wèn)。目前，國(guó)內(nèi)學(xué)界圍繞自主武器系統(tǒng)的戰(zhàn)爭(zhēng)倫理研究，主要聚焦于無(wú)人機(jī)等半自主武器系統(tǒng)作戰(zhàn)的正義性分析(4)參見(jiàn)錢(qián)鋮、石斌《“雄蜂”的陰影——美國(guó)無(wú)人機(jī)作戰(zhàn)對(duì)當(dāng)代戰(zhàn)爭(zhēng)倫理的挑戰(zhàn)》，《世界經(jīng)濟(jì)與政治》2013 年第8期；梁亞濱《武裝無(wú)人機(jī)的應(yīng)用：挑戰(zhàn)與影響》，《外交評(píng)論(外交學(xué)院學(xué)報(bào))》2014年第1期；張煌、劉軼丹、張鵬：《無(wú)人機(jī)作戰(zhàn)的倫理困境》，《倫理學(xué)研究》2015年第2期。，對(duì)于自主化程度更高的完全自主武器系統(tǒng)的戰(zhàn)爭(zhēng)倫理討論，除了董青嶺在《新戰(zhàn)爭(zhēng)倫理：規(guī)范和約束致命性自主武器系統(tǒng)》一文中做了具有開(kāi)拓性意義的研究之外(5)董青嶺：《新戰(zhàn)爭(zhēng)倫理：規(guī)范和約束致命性自主武器系統(tǒng)》，《國(guó)際觀察》2018年第4期。，更進(jìn)一步的專(zhuān)題研究仍然暫付闕如。國(guó)外學(xué)界特別是美國(guó)學(xué)者關(guān)于這一問(wèn)題的研究成果相對(duì)豐富一些，相關(guān)討論涉及倫理、法理以及技術(shù)規(guī)制等多個(gè)層面(6)Arkin Ronald ，“The Case for Ethical Autonomy in Unmanned Systems”，Journal of Military Ethics，Vol.9，No.4，2010; Michael C.Horowitz ，“The Ethics & Morality of Robotic Warfare: Assessing the Debate over Autonomous Weapons”，Daedalus，Vol.145，No.4，2016; Aaron M.Johnson and Sidney Axinn,“The Morality of Autonomous Robots”，Journal of Military Ethics,Vol.12，No.2，2013.，但由于國(guó)家立場(chǎng)、意識(shí)形態(tài)、價(jià)值觀念層面的差異，加之自主武器系統(tǒng)的不斷發(fā)展以及作戰(zhàn)方式的不斷創(chuàng)新，現(xiàn)有的研究遠(yuǎn)未達(dá)到完善的地步。本文在界定自主武器系統(tǒng)并梳理其作戰(zhàn)應(yīng)用歷程的基礎(chǔ)上，從經(jīng)典正義戰(zhàn)爭(zhēng)理論的分析框架出發(fā)，系統(tǒng)討論當(dāng)前各類(lèi)自主武器系統(tǒng)作戰(zhàn)應(yīng)用對(duì)于“開(kāi)戰(zhàn)正義”“交戰(zhàn)正義”和“戰(zhàn)后正義”相關(guān)倫理準(zhǔn)則所構(gòu)成的挑戰(zhàn)，同時(shí)，展望未來(lái)完全自主武器系統(tǒng)的軍事應(yīng)用前景，就其對(duì)戰(zhàn)爭(zhēng)倫理體系可能造成的進(jìn)一步?jīng)_擊，做出具有前瞻性的評(píng)估與探討。

一、自主武器系統(tǒng)的定義及其發(fā)展歷程

當(dāng)前，學(xué)界普遍認(rèn)為，自主性是自主武器系統(tǒng)的典型標(biāo)簽，因此主要圍繞武器的自主性對(duì)自主武器系統(tǒng)進(jìn)行定義。2012年11月，美國(guó)國(guó)防部出臺(tái)了發(fā)展自主武器的官方文件——《國(guó)防部指令3000.09》(武器系統(tǒng)中的自主性)，將自主武器系統(tǒng)定義為“在激活后無(wú)需進(jìn)一步人工輸入就可以自主選擇目標(biāo)和交戰(zhàn)的武器系統(tǒng)”(7)US Department of Defense，“Autonomy in Weapon Systems”,https://fas.org/irp/doddir/dod/d3000_09.pdf,2021-01-23.。雖然美國(guó)國(guó)防部對(duì)自主武器系統(tǒng)給出了官方定義，但是，當(dāng)前學(xué)界對(duì)于自主性在武器系統(tǒng)中的具體體現(xiàn)，仍然存在一定的分歧與爭(zhēng)議。特里克·德·格里夫(Tjerk de Greef)等人認(rèn)為，自主武器系統(tǒng)是一種“算法決定一切、自主行動(dòng)且以無(wú)需人類(lèi)干預(yù)方式運(yùn)行的武器系統(tǒng)”(8)Tjerk de Greef，Kees van Dongen，et al.，“Augmenting Cognition: Reviewing the Symbiotic Relation Between Man and Machine”，F(xiàn)oundations of Augmented Cognition ，Vol.4565 ，2007.。希瑟·羅夫(Heather Roff)提出，可以從三個(gè)方面來(lái)衡量武器系統(tǒng)的自主性程度：即自我機(jī)動(dòng)性、自我指導(dǎo)性和自我決定性(9)轉(zhuǎn)引自 Michael C.Horowitz,“When Speed kills: Lethal Autonomous Weapon Systems，Deterrence and Stability”，Journal of Strategic Studies，Vol.42，No.6，2019。。奧斯汀·懷亞特(Austin Wyatt)進(jìn)一步指出，自主武器系統(tǒng)的自主性，還體現(xiàn)為能夠“以超出人類(lèi)期望的方式學(xué)習(xí)并擴(kuò)展其殺戮功能和能力”(10)Austin Wyatt，“Charting Great Power Progress Toward a Lethal Autonomous Weapon System Demonstration Point”，Defence Studies,Vol.20，No.1，2020.。綜合以上定義，筆者認(rèn)為，真正意義上的自主武器系統(tǒng)是一種擁有完全自主權(quán)的殺人機(jī)器，在人工智能技術(shù)的驅(qū)動(dòng)下，它能夠自主完成整個(gè)攻擊流程，即自主運(yùn)用傳感器搜索潛在目標(biāo)的數(shù)據(jù)信息，通過(guò)數(shù)據(jù)分析自主識(shí)別、鎖定目標(biāo)，自主評(píng)估使用武力的后果并自主作出攻擊決策。

自主武器系統(tǒng)是人工智能技術(shù)推動(dòng)武器裝備創(chuàng)新發(fā)展最新和最典型的案例之一，它在軍事領(lǐng)域的橫空出世，引發(fā)了“人-武器”相互關(guān)系和戰(zhàn)斗力生成機(jī)理的顛覆性轉(zhuǎn)變，其發(fā)展歷程體現(xiàn)了武器系統(tǒng)由“非自主-半自主-完全自主”的演進(jìn)趨勢(shì)。

傳統(tǒng)戰(zhàn)爭(zhēng)是“人類(lèi)中心化”的戰(zhàn)爭(zhēng)。從冷兵器時(shí)代開(kāi)始，人類(lèi)操控武器作戰(zhàn)就是戰(zhàn)爭(zhēng)對(duì)抗模式的基本特征，武器必須要與人緊密結(jié)合才能夠形成戰(zhàn)斗力。 伴隨人類(lèi)戰(zhàn)爭(zhēng)由冷兵器戰(zhàn)爭(zhēng)向熱兵器戰(zhàn)爭(zhēng)再到信息化戰(zhàn)爭(zhēng)的演進(jìn)，武器裝備的作用半徑和毀傷能力不斷增長(zhǎng)，但人類(lèi)作為武器裝備操控者的角色和地位始終沒(méi)有發(fā)生改變。

人工智能技術(shù)的發(fā)展及其軍事應(yīng)用，使得人在作戰(zhàn)系統(tǒng)中的地位日益由“人在回路內(nèi)”向“人在回路上”轉(zhuǎn)變，人類(lèi)從居于系統(tǒng)之中的操控者轉(zhuǎn)變?yōu)榫佑谙到y(tǒng)之上的監(jiān)督者。阿富汗戰(zhàn)爭(zhēng)中，美國(guó)使用“捕食者”無(wú)人機(jī)對(duì)基地組織和塔利班頭目進(jìn)行“定點(diǎn)清除”式攻擊，揭開(kāi)了無(wú)人化反恐戰(zhàn)爭(zhēng)的序幕。在此后的十余年間，基地組織重要頭目阿爾哈特希、“自由者大會(huì)”頭目奧馬爾·霍拉薩尼、巴黎《查理周刊》恐怖襲擊事件策劃人納賽爾·安西、“伊斯蘭國(guó)”頭目阿布·巴克爾·巴格達(dá)迪、伊朗高級(jí)將領(lǐng)卡西姆·蘇萊曼尼等人盡皆命喪于無(wú)人機(jī)之手。作為美軍執(zhí)行定點(diǎn)清除行動(dòng)的利器，察打一體的“捕食者”“收割者”無(wú)人機(jī)，實(shí)質(zhì)上是一種有人監(jiān)督的半自主武器系統(tǒng)，已經(jīng)具有自主導(dǎo)航定位、自主識(shí)別目標(biāo)和半自主火力打擊的能力，人類(lèi)實(shí)時(shí)監(jiān)控?zé)o人作戰(zhàn)系統(tǒng)的運(yùn)行，可以在必要的時(shí)候?qū)ξ淦飨到y(tǒng)進(jìn)行干預(yù)和接管。

完全自主武器系統(tǒng)的出現(xiàn)，徹底顛覆了人類(lèi)作為武器操縱者和致命行為執(zhí)行者的歷史。2017年，國(guó)際非政府組織“自主武器系統(tǒng)禁令運(yùn)動(dòng)”對(duì)外公布了一段視頻。一群由人工智能技術(shù)驅(qū)動(dòng)的機(jī)器“殺人蜂”闖入教室，通過(guò)人臉識(shí)別方式，將十余名正在上課的學(xué)生瞬間擊殺，場(chǎng)面極度血腥。雖然視頻中的殺人場(chǎng)景是由計(jì)算機(jī)模擬而成，但在現(xiàn)實(shí)世界中，各軍事強(qiáng)國(guó)圍繞自主武器系統(tǒng)的軍備競(jìng)賽已在如火如荼地展開(kāi)。早在2012年11月，美國(guó)國(guó)防部就出臺(tái)了發(fā)展自主武器的官方文件——《國(guó)防部指令3000.09》，規(guī)定了研發(fā)半自主和自主武器的通用原則(11)US Department of Defense， “Autonomy in Weapon Systems”,https://fas.org/irp/doddir/dod/d3000_09.pdf,2021-01-23.，并實(shí)施了聯(lián)合無(wú)人空戰(zhàn)系統(tǒng)、高自主性遠(yuǎn)程反艦導(dǎo)彈、X-47B無(wú)人機(jī)、“快速輕量化自主”以及“拒止環(huán)境協(xié)同作戰(zhàn)”等一系列自主武器技術(shù)和裝備研發(fā)項(xiàng)目(12)[美]保羅·沙瑞爾：《無(wú)人軍隊(duì)：自主武器與未來(lái)戰(zhàn)爭(zhēng)》，朱啟超等譯，世界知識(shí)出版社2019年版，第111-130頁(yè)。。目前，美軍已裝備無(wú)人機(jī)7000多架，在伊拉克、阿富汗戰(zhàn)場(chǎng)上投入運(yùn)用的地面輪式機(jī)器人超過(guò)12000個(gè)(13)[美]保羅·沙瑞爾：《無(wú)人軍隊(duì)：自主武器與未來(lái)戰(zhàn)爭(zhēng)》，朱啟超等譯，世界知識(shí)出版社2019年版，第7頁(yè)。。與美國(guó)自主武器的發(fā)展相同步，在2015年的敘利亞戰(zhàn)爭(zhēng)中，俄羅斯軍方就開(kāi)始將整建制的半自主機(jī)器人投入戰(zhàn)場(chǎng)。2017年7月，俄羅斯軍工制造商卡拉什尼科夫聯(lián)合企業(yè)宣布，他們即將發(fā)布基于神經(jīng)網(wǎng)絡(luò)的全自主作戰(zhàn)模塊(14)Russian News Agency,“Kalashnikov Gunmaker Develops Combat Module Based on Artificial Intelligence”,https://tass.com/defense/954894,2021-01-23.。俄羅斯人工智能專(zhuān)家梅德韋杰夫·米哈伊爾預(yù)言，2030年俄羅斯軍隊(duì)將主要由自主機(jī)器人組成(15)Kelsey D.Atherton，“Russian Roboticist Sees All-But-Lethal Autonomous Weapon Systems by 2030”,https://www.c4isrnet.com/unmanned/2018/09/17/russian-roboticist-sees-all-but-lethal-autonomous-weapon-systems-by-2030/,2021-01-23.。除美、俄以外，諸如英國(guó)的“雷神”無(wú)人機(jī)和“硫磺石”反坦克導(dǎo)彈、印度的“奧拉”無(wú)人機(jī)以及韓國(guó)的SGR-A1機(jī)器人哨兵等，都是具有自主作戰(zhàn)能力的武器系統(tǒng)(見(jiàn)表1)。

表1當(dāng)前各國(guó)自主武器系統(tǒng)研發(fā)、應(yīng)用情況一覽表(16)參見(jiàn)[美]保羅·沙瑞爾《無(wú)人軍隊(duì)：自主武器與未來(lái)戰(zhàn)爭(zhēng)》，朱啟超等譯，世界知識(shí)出版社2019年版，第111-130頁(yè)。

隨著各國(guó)軍隊(duì)自主武器系統(tǒng)的自主程度越來(lái)越高，使用頻次越來(lái)越密集，由此產(chǎn)生的人道主義災(zāi)難事件和戰(zhàn)爭(zhēng)倫理危機(jī)也越來(lái)越多。其中，美國(guó)無(wú)人機(jī)反恐造成的倫理危機(jī)和人道主義災(zāi)難，成為全球輿論和國(guó)際社會(huì)的熱點(diǎn)話題?！?·11”事件以來(lái)，美軍以反恐名義，長(zhǎng)期在阿富汗、巴基斯坦、伊拉克、索馬里、也門(mén)以及敘利亞等主權(quán)國(guó)家領(lǐng)空范圍內(nèi)執(zhí)行無(wú)人機(jī)“定點(diǎn)清除”任務(wù)，殃及大量無(wú)辜平民。據(jù)統(tǒng)計(jì)，自2004年以來(lái)，美軍僅在巴基斯坦一國(guó)，就使用無(wú)人機(jī)進(jìn)行了408起反恐襲擊，造成包括大量平民在內(nèi)的3000多人喪生(17)Jamil Bhatti，“News Analysis: Latest U.S.Drone Strike in Pakistan May Further Escalate Bilateral Tension”,http://www.xinhuanet.com//english/2017-09/18/c_136617222.htm,2021-01-23.。圍繞美軍無(wú)人機(jī)反恐的正義性與合法性問(wèn)題，倫理學(xué)界和法學(xué)界已經(jīng)進(jìn)行過(guò)廣泛討論。2020年1月3日，美軍在伊拉克使用無(wú)人機(jī)擊斃了伊朗少將蘇萊曼尼，這是美國(guó)首次針對(duì)主權(quán)國(guó)家的重要軍事領(lǐng)導(dǎo)人實(shí)施“定點(diǎn)清除”行動(dòng)，使得此次刺殺事件在正義性方面面臨更多、更尖銳的爭(zhēng)議。2020年11月27日發(fā)生的伊朗核科學(xué)家遇刺事件，又引發(fā)了國(guó)際社會(huì)對(duì)于自主武器系統(tǒng)匿名攻擊問(wèn)題的關(guān)注。自主武器系統(tǒng)的隱秘性使得強(qiáng)權(quán)國(guó)家領(lǐng)導(dǎo)人相信，依靠自主武器系統(tǒng)實(shí)施遠(yuǎn)程打擊不需要承擔(dān)戰(zhàn)爭(zhēng)責(zé)任且毫無(wú)風(fēng)險(xiǎn)可言，也使得這種匿名攻擊的戰(zhàn)爭(zhēng)倫理后果比以前更難評(píng)估。由于各軍事強(qiáng)國(guó)競(jìng)相研發(fā)、部署和使用自主武器系統(tǒng)，智能化時(shí)代的軍事對(duì)抗日益呈現(xiàn)出“去人類(lèi)決策”“去人類(lèi)中心化”的發(fā)展趨勢(shì)。作為人工創(chuàng)造物，自主武器系統(tǒng)正在取代人類(lèi)的戰(zhàn)爭(zhēng)主體地位，開(kāi)始控制戰(zhàn)爭(zhēng)，進(jìn)而對(duì)傳統(tǒng)的戰(zhàn)爭(zhēng)倫理觀念構(gòu)成強(qiáng)有力的沖擊與挑戰(zhàn)，人類(lèi)戰(zhàn)爭(zhēng)向著失控的方向發(fā)展。

二、自主武器系統(tǒng)與“開(kāi)戰(zhàn)正義”

正義戰(zhàn)爭(zhēng)理論認(rèn)為，戰(zhàn)爭(zhēng)的正義性應(yīng)當(dāng)體現(xiàn)在目的、手段和責(zé)任三個(gè)方面，必須實(shí)現(xiàn)“開(kāi)戰(zhàn)正義”“交戰(zhàn)正義”和“戰(zhàn)后正義”的統(tǒng)一。“開(kāi)戰(zhàn)正義”是實(shí)現(xiàn)戰(zhàn)爭(zhēng)正義的起始點(diǎn)，主要是探討國(guó)家訴諸戰(zhàn)爭(zhēng)權(quán)利的正義性問(wèn)題。依據(jù)經(jīng)典正義戰(zhàn)爭(zhēng)理論以及相關(guān)國(guó)際法規(guī)定，影響“開(kāi)戰(zhàn)正義”的倫理原則主要包括“正當(dāng)理由”“合法權(quán)威”“正當(dāng)目的”“成功的可能性”“相稱(chēng)性”和“最后手段”六個(gè)方面(18)左高山、李建華：《戰(zhàn)爭(zhēng)鏡像與倫理話語(yǔ)》 ，湖南大學(xué)出版社2008年版，第31頁(yè)。。

當(dāng)前，對(duì)于自主武器系統(tǒng)引發(fā)戰(zhàn)爭(zhēng)倫理風(fēng)險(xiǎn)的探討，主要是將其作為一種戰(zhàn)爭(zhēng)手段，分析其在交戰(zhàn)過(guò)程中的手段正義性問(wèn)題以及體現(xiàn)“戰(zhàn)后正義”的責(zé)任分配問(wèn)題，也有少數(shù)學(xué)者關(guān)注到戰(zhàn)爭(zhēng)手段對(duì)于戰(zhàn)爭(zhēng)目的的反向影響。德國(guó)達(dá)姆施塔特工業(yè)大學(xué)的馬蒂亞斯·恩格勒特(Matthias Englert)等人認(rèn)為，自主武器系統(tǒng)在作戰(zhàn)手段中的道德應(yīng)用，也是將價(jià)值觀和行為準(zhǔn)則輸入智能化作戰(zhàn)平臺(tái)的控制系統(tǒng)(19)Matthias Englert，Sandra Siebert and Martin Ziegler，“Logical Limitations to Machine Ethics with Consequences to Lethal Autonomous Weapons”,Computer Science，No.11，2014.。自主武器系統(tǒng)的軍事應(yīng)用，特別是智能化情報(bào)分析和作戰(zhàn)輔助決策系統(tǒng)的出現(xiàn)，將機(jī)器意志滲透到開(kāi)戰(zhàn)決策之中，反向影響了戰(zhàn)爭(zhēng)決策者看待戰(zhàn)爭(zhēng)的價(jià)值觀念與行動(dòng)操守，從而對(duì)“開(kāi)戰(zhàn)正義”的倫理原則構(gòu)成沖擊與挑戰(zhàn)。具體而言，自主武器系統(tǒng)對(duì)于“開(kāi)戰(zhàn)正義”的挑戰(zhàn)，主要體現(xiàn)在對(duì)“正當(dāng)理由”“合法權(quán)威”以及“最后手段”三個(gè)原則的挑戰(zhàn)。

(一)自主武器系統(tǒng)對(duì)“正當(dāng)理由”原則的挑戰(zhàn)

在正義戰(zhàn)爭(zhēng)理論體系中，“正當(dāng)理由”是維系“開(kāi)戰(zhàn)正義”的首要原則。正義戰(zhàn)爭(zhēng)理論對(duì)正當(dāng)理由原則有嚴(yán)格的限定，即唯一正當(dāng)?shù)拈_(kāi)戰(zhàn)理由是針對(duì)外敵侵略進(jìn)行自衛(wèi)。自主武器系統(tǒng)的軍事應(yīng)用，沖擊了自衛(wèi)作為開(kāi)戰(zhàn)正當(dāng)理由的唯一性。

一方面，當(dāng)前自主武器系統(tǒng)作戰(zhàn)應(yīng)用所展現(xiàn)的低成本和高效率，導(dǎo)致技術(shù)先發(fā)國(guó)家不斷弱化“正當(dāng)理由”的倫理標(biāo)準(zhǔn)。較之傳統(tǒng)作戰(zhàn)平臺(tái)，目前各類(lèi)半自主和完全自主武器系統(tǒng)不僅具有平臺(tái)無(wú)人、造價(jià)低廉等優(yōu)勢(shì)，而且可以通過(guò)匿名攻擊規(guī)避戰(zhàn)爭(zhēng)責(zé)任，其在經(jīng)濟(jì)、政治以及人員安全方面的成本優(yōu)勢(shì)，使其被廣泛應(yīng)用于高技術(shù)局部戰(zhàn)爭(zhēng)、反恐作戰(zhàn)等行動(dòng)中。以美國(guó)的無(wú)人機(jī)反恐為例，邁克爾·沃爾澤(Michael Walzer)認(rèn)為：“較之其他殺傷形式，無(wú)人機(jī)容易太多了，以至于讓我們產(chǎn)生不安。它是既誘人又危險(xiǎn)的技術(shù)手段。它使我們的敵人比以往更脆弱，而我們的士兵沒(méi)有任何風(fēng)險(xiǎn)?！夹g(shù)太好，使用的標(biāo)準(zhǔn)就會(huì)逐步放松。”(20)Michael Walzer，“ Just & Unjust Targeted Killing & Drone Warfare”, Daedalus，Vol.145，No.4，2016.察打一體的武裝無(wú)人機(jī)，不僅強(qiáng)化了西方軍事強(qiáng)國(guó)打贏反恐戰(zhàn)爭(zhēng)的手段優(yōu)勢(shì)，也相應(yīng)降低其發(fā)動(dòng)戰(zhàn)爭(zhēng)的物質(zhì)成本與道德成本，導(dǎo)致少數(shù)霸權(quán)國(guó)家弱化約束開(kāi)戰(zhàn)正義的道德準(zhǔn)則，以所謂“預(yù)先防衛(wèi)”的名義，濫用開(kāi)戰(zhàn)權(quán)利。

美國(guó)使用無(wú)人機(jī)刺殺蘇萊曼尼的軍事行動(dòng)即是一個(gè)典型的例子。關(guān)于刺殺蘇萊曼尼的原因，特朗普在2020年1月13日發(fā)表的個(gè)人推文中表明心跡：“蘇萊曼尼是否對(duì)美國(guó)進(jìn)行襲擊并不重要，因?yàn)樗^(guò)去的可怕經(jīng)歷！”(21)轉(zhuǎn)引自Alex Hobson，“An Eye for an Eye Doesn’t Make Americans Safer”，F(xiàn)oreign Policy，No.2，2020。這是對(duì)特朗普復(fù)仇心態(tài)的直接表述，也意味著在特朗普政府認(rèn)同的開(kāi)戰(zhàn)理由中，自衛(wèi)已經(jīng)不是具有優(yōu)先級(jí)的理由。而特朗普在白宮的講話中也指出：“如果任何地方的美國(guó)人受到威脅，我準(zhǔn)備并采取任何必要的行動(dòng)。特別是指伊朗?！?22)National Security & Defense，“Remarks by President Trump on the Killing of Qasem Soleimani”,https://www.whitehouse.gov/briefings-statements/remarks-president-trump-killing-qasem-soleimani/,2020-09-01.只要受到“威脅”而非遭受實(shí)質(zhì)性傷害就可以“采取任何必要的行動(dòng)”，意味著在強(qiáng)大技術(shù)優(yōu)勢(shì)的加持下，美國(guó)反恐戰(zhàn)爭(zhēng)日益在戰(zhàn)略上迷失，“預(yù)先防衛(wèi)”驅(qū)使下的反恐戰(zhàn)爭(zhēng)在全球呈擴(kuò)大化趨勢(shì)，從而使國(guó)際安全環(huán)境陷入更為嚴(yán)峻的形勢(shì)之中。

另一方面，未來(lái)完全自主武器系統(tǒng)的軍事應(yīng)用，將使得機(jī)器意志貫徹到開(kāi)戰(zhàn)決策之中，導(dǎo)致維系“開(kāi)戰(zhàn)正義”的“正當(dāng)理由”原則面臨更嚴(yán)峻的挑戰(zhàn)。

伴隨軍事智能化的發(fā)展，自主武器系統(tǒng)參與戰(zhàn)爭(zhēng)決策的程度日益加深。早在1990年，美軍作戰(zhàn)實(shí)驗(yàn)室進(jìn)行實(shí)戰(zhàn)化仿真的推演結(jié)果，形成了以“左勾拳”為核心的低風(fēng)險(xiǎn)、低傷亡作戰(zhàn)方案，這也成為促成美國(guó)老布什政府作出海灣戰(zhàn)爭(zhēng)決策的關(guān)鍵依據(jù)(23)俞中明、楊旭：《海灣戰(zhàn)爭(zhēng)地面決戰(zhàn)的運(yùn)籌分析》，中國(guó)系統(tǒng)工程學(xué)會(huì)軍事系統(tǒng)工程委員會(huì)第七屆年會(huì)論文集，1995年，第54-57頁(yè)。。“9·11”事件以來(lái)，美國(guó)等人工智能技術(shù)先發(fā)國(guó)家構(gòu)建了“棱鏡”等智能化大數(shù)據(jù)分析平臺(tái)(24)Aiesha Y.Khudayer，Rasha M.Abdulsalam，et al.，“Impact of NSA-PRISM to National Information Security Strategy & Policy”, International Journal of Information and Communication Technology Research，Vol.4，No.1 ，2014.，運(yùn)用大數(shù)據(jù)挖掘、模擬仿真、兵棋推演等技術(shù)手段預(yù)判可能存在的國(guó)家安全威脅，以此作為先發(fā)制人發(fā)動(dòng)軍事行動(dòng)的憑據(jù)。當(dāng)前，以美軍為首的北約國(guó)家在針對(duì)伊斯蘭極端宗教組織的反恐戰(zhàn)爭(zhēng)中，廣泛應(yīng)用人工智能技術(shù)預(yù)判恐怖威脅，通過(guò)對(duì)過(guò)往恐怖襲擊的時(shí)間、空間、人員、裝備以及政治誘因、宗教誘因、民族誘因等歷史信息進(jìn)行關(guān)聯(lián)分析，預(yù)測(cè)未來(lái)可能發(fā)生的恐怖襲擊事件和鎖定恐怖嫌疑人。美軍針對(duì)潛在恐怖嫌疑人實(shí)施先發(fā)制人的“特征攻擊”，即目標(biāo)一旦被自主武器系統(tǒng)認(rèn)定具有恐怖分子的某些行為特征，美軍就可以在未經(jīng)國(guó)會(huì)批準(zhǔn)的情況下實(shí)施“斬首”行動(dòng)(25)Daniel Byman，“Why Drones Work：The Case for Washington’s Weapon of Choice”，F(xiàn)oreign Affairs,Vol.92，No.4，2013.。

未來(lái)，智能化戰(zhàn)爭(zhēng)決策系統(tǒng)自主能力的深度發(fā)展，可能進(jìn)一步推動(dòng)開(kāi)戰(zhàn)決策模式由機(jī)器輔助決策向機(jī)器代替人決策的顛覆性轉(zhuǎn)變，由此也引發(fā)對(duì)開(kāi)戰(zhàn)理由公開(kāi)性與透明性的質(zhì)疑。依據(jù)正義戰(zhàn)爭(zhēng)理論，正當(dāng)?shù)拈_(kāi)戰(zhàn)理由不僅是合法的，而且應(yīng)當(dāng)是公開(kāi)透明、為公眾所理解的。自主武器系統(tǒng)一旦掌握開(kāi)戰(zhàn)決策權(quán)，將導(dǎo)致公開(kāi)的開(kāi)戰(zhàn)程序日益被隱秘的算法、模型和運(yùn)算程序所取代，以各類(lèi)算法、模型為基礎(chǔ)的軍事威脅評(píng)估系統(tǒng)被視作嚴(yán)格保護(hù)的機(jī)密，這些不透明、不接受質(zhì)疑、難以被理解的算法和模型被用于戰(zhàn)爭(zhēng)決策，而國(guó)際社會(huì)和普通民眾根本無(wú)法了解決策程序的具體運(yùn)行規(guī)則，很難對(duì)其決策結(jié)果的正義性提出質(zhì)疑。

(二)自主武器系統(tǒng)對(duì)“合法權(quán)威”原則的挑戰(zhàn)

自主武器系統(tǒng)對(duì)于“開(kāi)戰(zhàn)正義”的挑戰(zhàn)，同樣體現(xiàn)為對(duì)“合法權(quán)威”原則的沖擊。正如美國(guó)賓夕法尼亞大學(xué)的亞倫·約翰遜(Aaron M.Johnson)所指出的：“自主武器系統(tǒng)引發(fā)了諸多倫理問(wèn)題，但最核心的問(wèn)題是將決定人類(lèi)生命的權(quán)利由人轉(zhuǎn)交給機(jī)器?！?26)Aaron M.Johnson and Sidney Axinn，“The Morality of Autonomous Robots”,Journal of Military Ethics，Vol.12，No.2，2013.作為開(kāi)戰(zhàn)正義的重要原則，“合法權(quán)威”原則規(guī)定戰(zhàn)爭(zhēng)是國(guó)家與國(guó)家之間的行為，主權(quán)國(guó)家和聯(lián)合國(guó)是發(fā)動(dòng)正義戰(zhàn)爭(zhēng)的合法權(quán)威。自主武器系統(tǒng)的軍事應(yīng)用，使得各類(lèi)智能化作戰(zhàn)平臺(tái)取代人類(lèi)進(jìn)行戰(zhàn)爭(zhēng)籌劃與決策成為可能，不僅顛覆了傳統(tǒng)作戰(zhàn)模式，也沖擊了“合法權(quán)威”原則的道義基礎(chǔ)。以韓國(guó)三星公司研發(fā)的SGR-A1機(jī)器人哨兵為例，據(jù)國(guó)際電氣和電子工程協(xié)會(huì)的報(bào)道，這款部署在韓朝邊境的武裝哨兵機(jī)器人，一旦切換至完全自主攻擊模式，將會(huì)掌握生殺予奪的權(quán)力，自主攻擊所有越境的入侵者(27)Jean Kumagai，“A Robotic Sentry for Korea’s Demilitarized Zone”, IEEE Spectrum，Vol.44，No.3，2007.。

更值得關(guān)注的是，自主武器系統(tǒng)一旦掌握自主開(kāi)火權(quán)，成為發(fā)動(dòng)戰(zhàn)爭(zhēng)的“合法權(quán)威”，可能增加“意外戰(zhàn)爭(zhēng)”爆發(fā)的風(fēng)險(xiǎn)?！耙馔鈶?zhàn)爭(zhēng)”是指由于核打擊方面的錯(cuò)誤評(píng)估、錯(cuò)誤判斷、錯(cuò)誤警報(bào)或核事故而引發(fā)的軍事危機(jī)，甚至導(dǎo)致核戰(zhàn)爭(zhēng)的爆發(fā)。在傳統(tǒng)的危機(jī)預(yù)警模式下，人在系統(tǒng)的回路之中，既是危機(jī)反應(yīng)的最終決策者，也是危機(jī)處理最后的“保險(xiǎn)裝置”。新美國(guó)安全中心高級(jí)研究員保羅·沙瑞爾(Paul Scharre)指出：“人類(lèi)并不完美，但他們能夠同情對(duì)手并考慮全局。與人類(lèi)不同，自主武器無(wú)法理解其行動(dòng)的后果，也無(wú)法在戰(zhàn)爭(zhēng)的邊緣懸崖勒馬。”(28)[美]保羅·沙瑞爾：《無(wú)人軍隊(duì)：自主武器與未來(lái)戰(zhàn)爭(zhēng)》 ，朱啟超等譯，世界知識(shí)出版社 2019年版，第357頁(yè)。冷戰(zhàn)期間，美蘇雙方多次收到錯(cuò)誤的核攻擊信息，得益于人類(lèi)的理性判斷和人機(jī)雙重檢查機(jī)制，雙方最終選擇了克制而非升級(jí)的應(yīng)對(duì)策略，避免了核戰(zhàn)爭(zhēng)的意外爆發(fā)。自主武器系統(tǒng)的軍事應(yīng)用，可能帶來(lái)危機(jī)預(yù)警模式的革命性變化。在危機(jī)處理規(guī)程中，自主武器系統(tǒng)通過(guò)目標(biāo)識(shí)別提取匹配算法規(guī)則的有效信息，自主進(jìn)行具體分析和判斷。這種由算法主導(dǎo)的自主預(yù)警模式，雖然在一定程度上提升了國(guó)家危機(jī)預(yù)警的速度和效率，但是，由于將人類(lèi)從危機(jī)預(yù)警的系統(tǒng)回路中剔除出來(lái)，人機(jī)雙重檢查制度和重新考慮機(jī)制無(wú)法實(shí)現(xiàn)。邁克爾·哈斯丘(Michael E.Haskew)認(rèn)為：“使用自主武器的國(guó)家會(huì)在危機(jī)方程式中引入一個(gè)超出其直接控制范圍的變量?！?29)轉(zhuǎn)引自[美] 保羅·沙瑞爾《無(wú)人軍隊(duì)：自主武器與未來(lái)戰(zhàn)爭(zhēng)》，朱啟超等譯，世界知識(shí)出版社2019年版，第345頁(yè)。人類(lèi)干預(yù)缺失造成的不可控性與算法運(yùn)行的不可控性雙重疊加，進(jìn)一步增加了危機(jī)的不穩(wěn)定性和發(fā)生“意外戰(zhàn)爭(zhēng)”的風(fēng)險(xiǎn)。

(三)自主武器系統(tǒng)對(duì)“最后手段”原則的挑戰(zhàn)

在傳統(tǒng)的“開(kāi)戰(zhàn)正義”標(biāo)準(zhǔn)之下，戰(zhàn)爭(zhēng)作為解決國(guó)際爭(zhēng)端的一種手段，受到嚴(yán)苛的條件約束，即戰(zhàn)爭(zhēng)必須是政治、外交手段窮盡之后的最后選擇。這是由于戰(zhàn)爭(zhēng)作為國(guó)之大事，關(guān)乎國(guó)家、民族的生死存亡，戰(zhàn)爭(zhēng)失敗的沉重代價(jià)，決定了戰(zhàn)爭(zhēng)手段的運(yùn)用只能是不得已而為之。近年來(lái)，國(guó)際上自主武器系統(tǒng)攻擊事件頻發(fā)，對(duì)于美國(guó)等軍事強(qiáng)國(guó)而言，低成本、高效率且可以保證攻擊方絕對(duì)安全的各類(lèi)自主武器系統(tǒng)，已經(jīng)日益將戰(zhàn)爭(zhēng)變成一架“無(wú)風(fēng)險(xiǎn)”“零傷亡”的機(jī)器，進(jìn)而使得戰(zhàn)爭(zhēng)從“最后手段”蛻變?yōu)椤白顑?yōu)手段”。概而言之，由人工智能技術(shù)驅(qū)動(dòng)的自主武器系統(tǒng)對(duì)于“最后手段”原則的挑戰(zhàn)，具體體現(xiàn)在三個(gè)方面：

首先，自主武器系統(tǒng)挑戰(zhàn)了“最后手段”原則成立的前提條件。費(fèi)爾巴哈在《宗教的本質(zhì)》中指出：“人類(lèi)的恐懼多源自于未知?！睉?zhàn)爭(zhēng)作為人類(lèi)處理紛爭(zhēng)的最后手段，也是源于交戰(zhàn)各方對(duì)戰(zhàn)爭(zhēng)結(jié)果的未知。在信息技術(shù)不發(fā)達(dá)的古代，人們無(wú)法準(zhǔn)確預(yù)知戰(zhàn)爭(zhēng)的勝負(fù)，處于“戰(zhàn)爭(zhēng)迷霧”籠罩下的政府對(duì)戰(zhàn)爭(zhēng)的決策必然是慎之又慎。人工智能技術(shù)以及自主武器系統(tǒng)的軍事應(yīng)用，使得戰(zhàn)爭(zhēng)的結(jié)果在一定程度上從“未知”變?yōu)椤耙阎?。人工智能科技領(lǐng)域的突破性進(jìn)展和軍事應(yīng)用，催生了戰(zhàn)爭(zhēng)工程、兵棋推演以及作戰(zhàn)實(shí)驗(yàn)室等一系列戰(zhàn)爭(zhēng)預(yù)判與評(píng)估手段。利用上述科技領(lǐng)域的最新進(jìn)展，推演戰(zhàn)爭(zhēng)的進(jìn)程并預(yù)測(cè)戰(zhàn)爭(zhēng)的結(jié)果，成為智能化戰(zhàn)爭(zhēng)的重要特征。借助人工智能技術(shù)的風(fēng)險(xiǎn)評(píng)估、推演和研判功能，少數(shù)霸權(quán)國(guó)家在預(yù)知戰(zhàn)爭(zhēng)結(jié)果的情況下，可以將遙遠(yuǎn)的、不確定的軍事威脅評(píng)估為確定的、迫在眉睫的戰(zhàn)爭(zhēng)前景，并以此作為濫用“預(yù)先自衛(wèi)權(quán)”和發(fā)動(dòng)“預(yù)防性戰(zhàn)爭(zhēng)”的現(xiàn)實(shí)憑據(jù)。同時(shí)，利用自主武器系統(tǒng)攻擊的低成本、零風(fēng)險(xiǎn)以及隱秘性等優(yōu)勢(shì)，這些國(guó)家可以逃避“尸袋綜合癥”帶來(lái)的國(guó)際、國(guó)內(nèi)輿論壓力，從而在輕易逾越戰(zhàn)爭(zhēng)門(mén)檻的同時(shí)占據(jù)道義制高點(diǎn)。

其次，自主武器系統(tǒng)打破了逐漸升級(jí)的“最后手段”使用模式。對(duì)于戰(zhàn)爭(zhēng)與政治的關(guān)系，克勞塞維茨(Carl Von Clausewitz)在《戰(zhàn)爭(zhēng)論》中有過(guò)精辟的論述：“戰(zhàn)爭(zhēng)是政治通過(guò)另一種手段的繼續(xù)?！睆臅r(shí)間關(guān)系上來(lái)看，這句話也說(shuō)明政治手段與戰(zhàn)爭(zhēng)手段之間存在一個(gè)前后接續(xù)的關(guān)系。傳統(tǒng)的戰(zhàn)爭(zhēng)往往經(jīng)歷由照會(huì)、聲明、磋商、談判和斡旋等低成本政治外交手段，再向軍事滲透、介入、威懾、干預(yù)、打擊等高成本、高風(fēng)險(xiǎn)戰(zhàn)爭(zhēng)手段逐漸升級(jí)的過(guò)程。各類(lèi)自主武器系統(tǒng)以其“無(wú)人化”“非接觸”的打擊優(yōu)勢(shì)，顛覆了逐漸升級(jí)的手段使用模式。特朗普政府在沒(méi)有掌握確鑿證據(jù)的情況下，就使用無(wú)人機(jī)擊斃伊朗軍事領(lǐng)導(dǎo)人蘇萊曼尼，也反映了在解決國(guó)際爭(zhēng)端中，較之暴力程度更低但程序繁瑣、時(shí)間冗長(zhǎng)的政治、外交手段，能夠一錘定音且毫無(wú)風(fēng)險(xiǎn)的自主武器系統(tǒng)顯然更受到政治家的青睞。

最后，自主武器系統(tǒng)進(jìn)一步挑戰(zhàn)了維系“最后手段”原則的均衡性基礎(chǔ)。“最后手段”原則成立的基礎(chǔ)，在于敵對(duì)雙方力量總體上處于均勢(shì)狀態(tài)，從而使他們審慎思考未來(lái)戰(zhàn)爭(zhēng)的殘酷性和取得戰(zhàn)爭(zhēng)勝利的慘重代價(jià)。正如美國(guó)內(nèi)戰(zhàn)時(shí)期著名將領(lǐng)羅伯特·李(Robert Lee)所言：“戰(zhàn)爭(zhēng)殘酷是件好事，否則人們真的會(huì)愛(ài)上戰(zhàn)爭(zhēng)。”于爾根·奧特曼(Jürgen Altmann)等學(xué)者指出，自主武器系統(tǒng)的軍事應(yīng)用，進(jìn)一步打破了國(guó)際軍事競(jìng)爭(zhēng)的戰(zhàn)略穩(wěn)定性(30)Jürgen Altmann and Frank Sauer，“Autonomous Weapon Systems and Strategic Stability”，Survival，Vol.59 ，No.5，2017.。自主武器系統(tǒng)實(shí)現(xiàn)人與武器的實(shí)質(zhì)性分離，極大提升作戰(zhàn)效率，同時(shí)使己方戰(zhàn)爭(zhēng)傷亡無(wú)限趨近于零。美軍正在實(shí)施的“第三次抵消戰(zhàn)略”，就是試圖利用人工智能技術(shù)和自主武器系統(tǒng)的質(zhì)量?jī)?yōu)勢(shì)，抵消戰(zhàn)略對(duì)手在傳統(tǒng)信息化作戰(zhàn)力量上的數(shù)量?jī)?yōu)勢(shì)。未來(lái)，具備人工智能的“無(wú)人軍團(tuán)”，可能成為世界一流軍隊(duì)的“標(biāo)配”，從而進(jìn)一步拉大國(guó)際間軍力差距，在國(guó)際軍事力量博弈中塑造強(qiáng)者恒強(qiáng)、弱者愈弱的格局。

三、自主武器系統(tǒng)與“交戰(zhàn)正義”

“交戰(zhàn)正義”又稱(chēng)戰(zhàn)爭(zhēng)手段正義，主要體現(xiàn)為交戰(zhàn)過(guò)程中攻防雙方如何規(guī)制作戰(zhàn)手段的使用方式，使其符合倫理道德規(guī)范的要求。隨著各國(guó)加大對(duì)自主武器系統(tǒng)的研發(fā)投入，其在交戰(zhàn)過(guò)程中的自主性不斷提升。譬如，英國(guó)軍方研發(fā)的“雷神”無(wú)人機(jī)，設(shè)置有主動(dòng)攻擊目標(biāo)的可選模式，可在戰(zhàn)場(chǎng)上自主搜尋和攻擊敵對(duì)目標(biāo)(31)[美]保羅·沙瑞爾：《無(wú)人軍隊(duì)：自主武器與未來(lái)戰(zhàn)爭(zhēng)》，朱啟超等譯，世界知識(shí)出版社 2019年版，第120頁(yè)。；韓國(guó)軍方部署的SGR-A1機(jī)器人哨兵，可以使用弱光攝像頭和模式識(shí)別軟件鎖定敵人，并在必要的時(shí)候自主決定開(kāi)火射擊(32)Jean Kumagai，“A Robotic Sentry for Korea’s Demilitarized Zone”，IEEE Spectrum，Vol.44，No.3，2007.；俄羅斯軍方裝備的“平臺(tái)-M”陸戰(zhàn)機(jī)器人，可以在智能化系統(tǒng)控制下自主收集情報(bào)、搜索和摧毀固定及移動(dòng)目標(biāo)(33)[美] 保羅·沙瑞爾：《無(wú)人軍隊(duì)：自主武器與未來(lái)戰(zhàn)爭(zhēng)》，朱啟超等譯，世界知識(shí)出版社 2019年版，第125頁(yè)。。上述具有高度自主性的武器系統(tǒng)引發(fā)了國(guó)際社會(huì)的關(guān)注，自主武器系統(tǒng)能否在交戰(zhàn)過(guò)程中遵循戰(zhàn)爭(zhēng)倫理規(guī)范，成為當(dāng)前國(guó)內(nèi)外學(xué)者爭(zhēng)議的焦點(diǎn)。一旦完全不受約束的自主武器系統(tǒng)取代人類(lèi)成為戰(zhàn)爭(zhēng)唯一主體，必將挑戰(zhàn)維系“交戰(zhàn)正義”的基本倫理原則，可能導(dǎo)致人類(lèi)社會(huì)面臨前所未有的自我毀滅風(fēng)險(xiǎn)。自主武器系統(tǒng)在交戰(zhàn)中的倫理風(fēng)險(xiǎn)，具體體現(xiàn)在以下幾個(gè)方面：

(一)自主武器系統(tǒng)對(duì)“區(qū)分原則”的挑戰(zhàn)

“區(qū)分原則”是體現(xiàn)“交戰(zhàn)正義”的一項(xiàng)基本原則。正如沃爾澤所指出的：“在任何情況下都不能攻擊非戰(zhàn)斗人員，永遠(yuǎn)不能將其作為軍事行動(dòng)的目標(biāo)?！?34)[美]邁克爾·沃爾澤：《正義與非正義戰(zhàn)爭(zhēng)：通過(guò)歷史實(shí)例的道德論證》，任輝獻(xiàn)譯，江蘇人民出版社2008年版，第140頁(yè)?！皡^(qū)分原則”強(qiáng)調(diào)交戰(zhàn)各方必須對(duì)攻擊目標(biāo)嚴(yán)格加以區(qū)分，以達(dá)成對(duì)平民特別是老弱婦孺、俘虜和喪失戰(zhàn)斗能力者等弱勢(shì)群體的保護(hù)。

自主武器系統(tǒng)帶來(lái)了戰(zhàn)場(chǎng)區(qū)分模式的革命性變化。在傳統(tǒng)戰(zhàn)爭(zhēng)模式下，區(qū)分目標(biāo)由人類(lèi)完成，自主武器系統(tǒng)利用算法取代人力主導(dǎo)的區(qū)分方式，即通過(guò)計(jì)算機(jī)編程的方法，將區(qū)分規(guī)則轉(zhuǎn)化為自主武器系統(tǒng)能夠理解的一組算法，由此也引發(fā)了學(xué)界的廣泛質(zhì)疑。2018年5月，3100多名谷歌員工聯(lián)名抵制軍用無(wú)人機(jī)作戰(zhàn)項(xiàng)目Maven，成為震驚全球的科技倫理事件(35)Rahul Kalvapalle，“What is Project Maven? The Pentagon AI project Google Employees Want Out of”,https://globalnews.ca/news/4125382/google-pentagon-ai-project-maven/,2021-01-23.。這一事件的爆發(fā)，集中反映了學(xué)界對(duì)于算法區(qū)分模式潛在風(fēng)險(xiǎn)的憂(yōu)慮。

史蒂文·烏姆布雷洛(Steven Umbrello)一針見(jiàn)血地指出，機(jī)器算法區(qū)分存在區(qū)分目標(biāo)的盲區(qū)，無(wú)法可靠地區(qū)分合法與非法目標(biāo)(36)Steven Umbrello，“The Future of War: Could Lethal Autonomous Weapons Make Conflict More Ethical?”，AI & Society,Vol.35，No.1，2019.。在他看來(lái)，并非所有的區(qū)分標(biāo)準(zhǔn)都可以轉(zhuǎn)化為算法植入機(jī)器之中。當(dāng)前，軍服、武器裝備等一系列明確標(biāo)識(shí)可以設(shè)置區(qū)分規(guī)則，然而，在近期爆發(fā)的幾場(chǎng)高技術(shù)局部戰(zhàn)爭(zhēng)和反恐作戰(zhàn)中，為應(yīng)對(duì)北約國(guó)家的軍事打擊優(yōu)勢(shì)，對(duì)手采取寓軍于民的方式，軍事目標(biāo)缺乏明顯的視覺(jué)標(biāo)識(shí)，這給自主武器系統(tǒng)執(zhí)行區(qū)分任務(wù)帶來(lái)巨大挑戰(zhàn)。

特羅·卡爾皮(Karppi Tero)等人進(jìn)一步指出，自主武器系統(tǒng)難以勝任涉及目標(biāo)主觀情緒的區(qū)分任務(wù)(37)Karppi Tero，B?hlen Marc and Granata Yvette，“Killer Robots as Cultural Techniques”, International Journal of Cultural Studies，Vol.21，No.2，2018.。譬如，對(duì)于自主武器系統(tǒng)而言，區(qū)分投降信號(hào)的真?zhèn)伪葏^(qū)分軍民困難得多，因?yàn)閭鬟f投降信號(hào)的方式、方法和途徑呈現(xiàn)巨大的多樣性。人類(lèi)對(duì)于投降信號(hào)的識(shí)別源于自身的經(jīng)驗(yàn)、閱歷和主觀感受，難以通過(guò)編程方式轉(zhuǎn)化為可供機(jī)器區(qū)分操作的算法。

此外，錢(qián)鋮等人認(rèn)為，自主武器系統(tǒng)在貫徹區(qū)分原則方面還存在跨文化環(huán)境障礙，美軍在無(wú)人機(jī)反恐作戰(zhàn)中，將是否攜帶管制武器作為區(qū)分恐怖分子的重要特征，忽視了中亞地區(qū)游牧民族成年男性有隨身佩戴刀具的文化傳統(tǒng)(38)錢(qián)鋮、石斌：《“雄蜂”的陰影——美國(guó)無(wú)人機(jī)作戰(zhàn)對(duì)當(dāng)代戰(zhàn)爭(zhēng)倫理的挑戰(zhàn)》，《世界經(jīng)濟(jì)與政治》2013年第8期。。事實(shí)上，任何區(qū)分操作都是在具體的地域環(huán)境、文化環(huán)境和宗教環(huán)境中進(jìn)行的，將自主武器系統(tǒng)置于跨文化環(huán)境的陌生戰(zhàn)場(chǎng)，可能造成識(shí)別區(qū)分操作的失誤。

在筆者看來(lái)，即便技術(shù)的發(fā)展使得上述區(qū)分盲區(qū)不復(fù)存在，以自主武器系統(tǒng)取代人類(lèi)來(lái)區(qū)分目標(biāo)，在道義上仍是難以接受的，因?yàn)樗`背了確立“區(qū)分原則”的初衷?！皡^(qū)分原則”作為戰(zhàn)爭(zhēng)倫理規(guī)約的重要內(nèi)容，它所體現(xiàn)的根本精神就是對(duì)人類(lèi)生命權(quán)利的尊重。沃爾澤提及的“裸兵”案例啟示我們，無(wú)論對(duì)于目標(biāo)的識(shí)別多么契合“區(qū)分原則”，我們都需要在殘酷的戰(zhàn)爭(zhēng)決策中留有道義的余地，以彰顯敬畏生命、憐憫弱者的人性光輝(39)“裸兵”的案例是沃爾澤在《正義與非正義戰(zhàn)爭(zhēng)：通過(guò)歷史實(shí)例的道德論證》中摘錄羅伯特·格里福斯一戰(zhàn)回憶錄的一段：“在后方支援線，我打了個(gè)盹，剛醒過(guò)來(lái)，從射擊孔透過(guò)望遠(yuǎn)鏡看去，大約700碼外一個(gè)德國(guó)人。他正在德國(guó)的第三線洗澡。我討厭向一個(gè)沒(méi)有防衛(wèi)的人射擊，就把步槍遞給了一個(gè)中士。”。一旦自主武器系統(tǒng)可以自行決定敵人生死，就會(huì)從根本上抹去人性在戰(zhàn)場(chǎng)上的存在感，進(jìn)而可能帶來(lái)重大倫理風(fēng)險(xiǎn)。這種倫理風(fēng)險(xiǎn)并非主要由算法區(qū)分的運(yùn)行錯(cuò)誤所導(dǎo)致，而是因?yàn)樗惴▍^(qū)分剝奪了人類(lèi)決定同類(lèi)生死的權(quán)利和尊嚴(yán)，踐踏了“珍視生命、同情弱者”的社會(huì)價(jià)值觀念。在一個(gè)由自主武器系統(tǒng)主宰殺戮的社會(huì)，人類(lèi)缺乏對(duì)殺戮行為的道德負(fù)擔(dān)，其結(jié)果必然使殺戮變得毫無(wú)人性。

(二)自主武器系統(tǒng)對(duì)“相稱(chēng)性原則”的挑戰(zhàn)

在正義戰(zhàn)爭(zhēng)理論中，“相稱(chēng)性原則”是“區(qū)分原則”的重要補(bǔ)充。“相稱(chēng)性原則”強(qiáng)調(diào)在針對(duì)合法目標(biāo)進(jìn)行攻擊時(shí)，也必須視目標(biāo)和作戰(zhàn)環(huán)境的具體情況，選擇使用相稱(chēng)的作戰(zhàn)方式和暴力手段，避免過(guò)度殺傷和重復(fù)傷害(40)周桂銀：《國(guó)際政治中的外交、戰(zhàn)爭(zhēng)與倫理》，南京大學(xué)出版社2018年版，第287頁(yè)。。

在技術(shù)樂(lè)觀主義者眼中，自主武器系統(tǒng)堪稱(chēng)滿(mǎn)足“相稱(chēng)性原則”的典范：一是空間相稱(chēng)，依托人工智能技術(shù)實(shí)現(xiàn)目標(biāo)自主鎖定，精確限定作戰(zhàn)區(qū)域，選擇性殺傷目標(biāo)，最大限度避免“附帶傷害”；二是時(shí)間相稱(chēng)，以美國(guó)X-47B無(wú)人機(jī)為代表的自主武器系統(tǒng)，能夠?qū)崿F(xiàn)“半小時(shí)覆蓋全球”的快速打擊，避免“馬拉松”式消耗戰(zhàn)；三是傷亡相稱(chēng)，“自主武器系統(tǒng)”實(shí)現(xiàn)人與武器的實(shí)質(zhì)性分離，且按照智能作戰(zhàn)推演優(yōu)化作戰(zhàn)方案，使實(shí)際傷亡無(wú)限趨近于零?；诖?，美國(guó)智庫(kù)蘭德公司宣稱(chēng)，比起傳統(tǒng)軍事力量，自主武器系統(tǒng)能更好地遵循“相稱(chēng)性原則”(41)Lynn E.Davis，Michael J.McNerney，et al.，“Armed and Dangerous?UAVs and U.S.Security”，RAND，2014.。

相對(duì)于美國(guó)軍方的樂(lè)觀主義態(tài)度，倫理學(xué)界以理性的態(tài)度分析問(wèn)題，指出自主武器系統(tǒng)雖然在數(shù)據(jù)處理與速度計(jì)算方面擁有人類(lèi)難以比擬的優(yōu)勢(shì)，但在進(jìn)行相稱(chēng)性的道德評(píng)估方面仍存在諸多瓶頸。

沙瑞爾從簡(jiǎn)單環(huán)境與復(fù)雜環(huán)境的比較視角指出，自主武器系統(tǒng)僅能評(píng)估太空、深海、極地等簡(jiǎn)單環(huán)境下的相稱(chēng)性問(wèn)題，卻難以在復(fù)雜環(huán)境下遵循相稱(chēng)性原則。他認(rèn)為：“在人口稠密地區(qū)遵循相稱(chēng)性原則變得困難得多?！@將要求機(jī)器掃描目標(biāo)周?chē)钠矫駞^(qū)域，估計(jì)潛在的附帶損傷，然后判斷是否應(yīng)該進(jìn)行攻擊，這個(gè)過(guò)程很難實(shí)現(xiàn)自動(dòng)化?！?42)[美]保羅·沙瑞爾：《無(wú)人軍隊(duì)：自主武器與未來(lái)戰(zhàn)爭(zhēng)》，朱啟超等譯，世界知識(shí)出版社2019年版，第288頁(yè)。在復(fù)雜環(huán)境下，權(quán)衡軍事目標(biāo)價(jià)值與預(yù)期平民傷亡之間的相稱(chēng)性關(guān)系，涉及極其復(fù)雜的道德推理和評(píng)估能力，這是當(dāng)前自主武器系統(tǒng)難以做到的。

錢(qián)鋮等人從物理傷害與心理傷害的視角指出，軍事行動(dòng)既要在物理毀傷層面滿(mǎn)足相稱(chēng)性原則，也需要在心理傷害層面滿(mǎn)足相稱(chēng)性原則。自主武器系統(tǒng)能夠?qū)ξ锢須M(jìn)行精確評(píng)估，進(jìn)而衡量物理層面的相稱(chēng)性問(wèn)題，卻難以準(zhǔn)確評(píng)估對(duì)敵國(guó)民眾造成的持久性心理創(chuàng)傷，他們將美國(guó)無(wú)人機(jī)“定點(diǎn)清除”行動(dòng)給所在國(guó)家民眾帶來(lái)心理層面的創(chuàng)傷稱(chēng)之為“雄蜂的陰影”( the Shadow of the Drone)(43)錢(qián)鋮、石斌：《“雄蜂”的陰影——美國(guó)無(wú)人機(jī)作戰(zhàn)對(duì)當(dāng)代戰(zhàn)爭(zhēng)倫理的挑戰(zhàn)》，《世界經(jīng)濟(jì)與政治》2013年第8期。。在筆者看來(lái)，“雄蜂的陰影”反映了當(dāng)前美國(guó)利用自主武器系統(tǒng)反恐面臨的道德困境。在某些西方媒體的宣傳解讀下，無(wú)人機(jī)等半自主或自主作戰(zhàn)平臺(tái)是以精準(zhǔn)的物理摧毀來(lái)占據(jù)道義的制高點(diǎn)，媒體大肆宣揚(yáng)依托無(wú)人機(jī)清除恐怖分子首領(lǐng)的“輝煌戰(zhàn)果”，卻刻意掩飾阿富汗、也門(mén)、索馬里、敘利亞等反恐區(qū)域內(nèi)民眾反美情緒日益高漲、恐怖主義源頭難以清除以及“三股勢(shì)力”活動(dòng)愈演愈烈等一系列問(wèn)題。可以想象，在未來(lái)自主武器系統(tǒng)成為執(zhí)法工具的時(shí)代，當(dāng)局者可能對(duì)其快捷高效的執(zhí)法能力贊譽(yù)有加，而普通民眾也會(huì)對(duì)“機(jī)器人暴政”產(chǎn)生強(qiáng)烈的心理恐懼。

奧特曼等人從戰(zhàn)術(shù)和戰(zhàn)略的視角指出，自主武器系統(tǒng)即便在戰(zhàn)術(shù)層面能夠遵守相稱(chēng)性原則，在戰(zhàn)略層面也難以遵循相稱(chēng)性原則。針對(duì)少數(shù)美國(guó)學(xué)者提出的利用“蜂群”攻擊敵對(duì)國(guó)家的核武器輸送系統(tǒng)，提升美國(guó)彈道導(dǎo)彈防御能力的方案，他們認(rèn)為，自主武器系統(tǒng)執(zhí)行的任務(wù)雖然只是小規(guī)模戰(zhàn)術(shù)行動(dòng)，但是可能造成戰(zhàn)略影響(44)Jürgen Altmann and Frank Sauer，“Autonomous Weapon Systems and Strategic Stability”，Survival，Vol.59，No.5，2017.。一旦自主武器系統(tǒng)與核武器攻防技術(shù)深度融合，就必然會(huì)增加核戰(zhàn)略對(duì)手之間的緊張和不信任，進(jìn)一步刺激各國(guó)優(yōu)先發(fā)展“先發(fā)制人”的自主武器系統(tǒng)，降低核大國(guó)之間的戰(zhàn)略互信，威脅全球核戰(zhàn)略穩(wěn)定性。

在筆者看來(lái)，技術(shù)樂(lè)觀主義者片面強(qiáng)調(diào)“自主武器系統(tǒng)”在簡(jiǎn)單環(huán)境、物理毀傷以及戰(zhàn)術(shù)層面遵循“相稱(chēng)性原則”的優(yōu)勢(shì)，刻意忽視其在復(fù)雜環(huán)境、心理傷害以及戰(zhàn)略層面違背“相稱(chēng)性原則”的問(wèn)題，反映出對(duì)“相稱(chēng)性原則”內(nèi)涵的曲解。沃爾澤指出：“我們要把‘造成的傷害’——這想必不僅包括對(duì)個(gè)人的直接傷害，也包括對(duì)人類(lèi)長(zhǎng)期利益的傷害——與傷害對(duì)勝利目標(biāo)的促進(jìn)作用加以權(quán)衡比較。”(45)[美]邁克爾·沃爾澤：《正義與非正義戰(zhàn)爭(zhēng)：通過(guò)歷史實(shí)例的道德論證》，任輝獻(xiàn)譯，江蘇人民出版社2008版，第118頁(yè)。在沃爾澤看來(lái)，“相稱(chēng)性原則”在時(shí)間維度包括兩方面含義：一方面是短期相稱(chēng)性，另一方面是長(zhǎng)遠(yuǎn)相稱(chēng)性。自主武器系統(tǒng)在簡(jiǎn)單環(huán)境、物理毀傷以及戰(zhàn)術(shù)層面的行為影響都是短期的，而在復(fù)雜環(huán)境、心理傷害以及戰(zhàn)略層面的行為影響將是長(zhǎng)期持續(xù)的。兩者相較，維護(hù)人類(lèi)長(zhǎng)期利益的持久和平無(wú)疑更為重要。

四、自主武器系統(tǒng)與“戰(zhàn)后正義”

“戰(zhàn)后正義”又稱(chēng)戰(zhàn)爭(zhēng)責(zé)任正義。人類(lèi)既是享有發(fā)動(dòng)戰(zhàn)爭(zhēng)權(quán)利的主體，又是承擔(dān)戰(zhàn)爭(zhēng)責(zé)任的主體。正如沃爾澤所指出的：“責(zé)任分配是對(duì)正義論的重要檢驗(yàn)?！灰覀儨?zhǔn)確地指出責(zé)任者或者我們的責(zé)任分配和道德判斷符合戰(zhàn)爭(zhēng)的實(shí)際經(jīng)驗(yàn)，并對(duì)戰(zhàn)爭(zhēng)的所有痛苦保持敏感，就會(huì)極大地增強(qiáng)正義論的力量。如果最終無(wú)人負(fù)責(zé)，在戰(zhàn)爭(zhēng)中就沒(méi)有任何正義可言。”(46)[美] 邁克爾·沃爾澤：《正義與非正義戰(zhàn)爭(zhēng)：通過(guò)歷史實(shí)例的道德論證》，任輝獻(xiàn)譯，江蘇人民出版社2008版，第261頁(yè)。“戰(zhàn)后正義”主要關(guān)注人類(lèi)應(yīng)當(dāng)承擔(dān)的戰(zhàn)爭(zhēng)責(zé)任，具體體現(xiàn)在戰(zhàn)后秩序重建、侵略罪行審判、戰(zhàn)爭(zhēng)賠償以及制裁等戰(zhàn)爭(zhēng)責(zé)任分配問(wèn)題。在智能化戰(zhàn)爭(zhēng)模式下，伴隨自主武器系統(tǒng)的出現(xiàn)與應(yīng)用，人作為戰(zhàn)爭(zhēng)的責(zé)任主體從作戰(zhàn)系統(tǒng)中脫離出來(lái)，將生死決定權(quán)委托給機(jī)器。對(duì)于這一變化，馬庫(kù)斯·舒爾茨克(Marcus Schulzke)、斯瓦蒂·馬利克(Swati Malik)、邦尼·多徹蒂(Bonnie Docherty)等戰(zhàn)爭(zhēng)倫理學(xué)者認(rèn)為，自主武器系統(tǒng)無(wú)法識(shí)別、承擔(dān)責(zé)任并接受懲罰，原有的戰(zhàn)后正義規(guī)約難以約束一場(chǎng)完全由機(jī)器人來(lái)進(jìn)行的戰(zhàn)爭(zhēng)(47)Marcus Schulzke，“Autonomous Weapons and Distributed Responsibility”，Philosophy & Technology，Vol.26，2013；Swati Malik，“Autonomous Weapon Systems: The Possibility and Probability of Accountability”，Wisconsin International Law Journal,Vol.35 ，No.3，2018；Bonnie Docherty,“Mind the Gap: The Lack of Accountability for Killer Robots”,http://autonomousweapons.org/mind-the-gap-the-lack-of-accountability-for-killer-robots/，2021-01-23.，相應(yīng)的倫理風(fēng)險(xiǎn)體現(xiàn)為：

(一)人與武器分離引發(fā)的“問(wèn)責(zé)空白”風(fēng)險(xiǎn)

在傳統(tǒng)戰(zhàn)爭(zhēng)模式下，人類(lèi)作為軍事行動(dòng)的遂行者和武器的直接操控者，其所從事的戰(zhàn)爭(zhēng)行為與其導(dǎo)致的后果之間存在清晰的對(duì)應(yīng)關(guān)系。依據(jù)正義戰(zhàn)爭(zhēng)理論，如果有可以辨認(rèn)的戰(zhàn)爭(zhēng)罪行，就必定有可以辨認(rèn)的罪犯。伴隨自主武器系統(tǒng)的軍事應(yīng)用，人類(lèi)在戰(zhàn)爭(zhēng)系統(tǒng)中的定位由“人在回路內(nèi)”逐漸向“人在回路上”乃至“人在回路外”轉(zhuǎn)變，作戰(zhàn)主體與作戰(zhàn)手段之間的距離日益拉大，當(dāng)前西方軍事強(qiáng)國(guó)廣泛使用的“捕食者”“收割者”等半自主武裝無(wú)人機(jī)，就是典型的“平臺(tái)無(wú)人，體系有人”作戰(zhàn)模式。無(wú)人機(jī)操控員在千里之外實(shí)現(xiàn)對(duì)目標(biāo)的遠(yuǎn)程打擊，他們?cè)诟泄偕吓c戰(zhàn)場(chǎng)隔絕可能導(dǎo)致其行為與責(zé)任的分離。正如紐約大學(xué)法學(xué)系教授菲利普·阿斯頓(Philip Alston)所指出的：“作戰(zhàn)人員通過(guò)計(jì)算機(jī)按鍵與遠(yuǎn)程視頻反饋來(lái)實(shí)施打擊，因此存在以游戲心態(tài)來(lái)殺人的風(fēng)險(xiǎn)?！?48)Philip Alston,“Study on Targeted Killings”，A/HRC/14/24/ADD.6，New York: United Nations，General Assembly，2010，p.25.可以預(yù)見(jiàn)，一旦真正意義上的自主武器系統(tǒng)大規(guī)模投入戰(zhàn)場(chǎng)，人類(lèi)將從瞄準(zhǔn)和擊殺的作戰(zhàn)鏈條中被移除，這會(huì)從根本上改變?nèi)伺c戰(zhàn)爭(zhēng)、人與殺戮之間的關(guān)系，也將徹底打破正義戰(zhàn)爭(zhēng)理論所強(qiáng)調(diào)的“戰(zhàn)爭(zhēng)罪犯”與“戰(zhàn)爭(zhēng)罪行”之間的對(duì)應(yīng)關(guān)系。美國(guó)亞利桑那州立大學(xué)的希瑟·羅夫(Heather Roff)和卡內(nèi)基梅隆大學(xué)的大衛(wèi)·丹克斯(David Danks)指出：“人類(lèi)對(duì)于自主武器系統(tǒng)的信任源自于人類(lèi)對(duì)其行動(dòng)可預(yù)測(cè)性的判斷。”(49)Heather M.Roff and David Danks，“‘Trust but Verify’: The Difficulty of Trusting Autonomous Weapons Systems”，Journal of Military Ethics，Vol.17，No.1，2018.如果自主武器系統(tǒng)錯(cuò)誤的殺戮行為超出了人類(lèi)可以預(yù)料的范圍，人類(lèi)就可能產(chǎn)生不需要對(duì)殺戮行為負(fù)責(zé)任的情緒，這種“問(wèn)責(zé)空白”可能會(huì)導(dǎo)致更多的殺戮和痛苦。

(二)責(zé)任主體構(gòu)成的復(fù)雜性帶來(lái)的責(zé)任“轉(zhuǎn)嫁”風(fēng)險(xiǎn)

自主武器系統(tǒng)的作戰(zhàn)應(yīng)用，不僅會(huì)造成機(jī)器難以代替人類(lèi)承擔(dān)戰(zhàn)爭(zhēng)責(zé)任的“問(wèn)責(zé)空白”，而且可能導(dǎo)致戰(zhàn)爭(zhēng)責(zé)任的分配困境。傳統(tǒng)戰(zhàn)爭(zhēng)模式下，責(zé)任主體構(gòu)成相對(duì)簡(jiǎn)單，主要由政治家、軍隊(duì)指揮官和士兵等特定對(duì)象構(gòu)成。自主武器系統(tǒng)研發(fā)鏈條的復(fù)雜性和高技術(shù)密集性，促使程序員、算法工程師、數(shù)據(jù)工程師以及自主武器裝備生產(chǎn)商等新興責(zé)任主體出現(xiàn)，自主武器系統(tǒng)研發(fā)過(guò)程的復(fù)雜性與作戰(zhàn)應(yīng)用過(guò)程的復(fù)雜性雙重疊加，導(dǎo)致戰(zhàn)爭(zhēng)責(zé)任分配面臨巨大的困境，甚至可能出現(xiàn)責(zé)任“轉(zhuǎn)嫁”的風(fēng)險(xiǎn)。一方面，自主武器系統(tǒng)的所有國(guó)可以通過(guò)匿名攻擊的方式，使得自主武器攻擊難以溯源，導(dǎo)致被攻擊國(guó)家的盲目猜測(cè)，進(jìn)而逃避戰(zhàn)爭(zhēng)罪責(zé)。譬如，2010年發(fā)生的“震網(wǎng)”病毒攻擊伊朗核電站事件以及2020年發(fā)生的伊朗核科學(xué)家遇刺事件，都是采取自主武器系統(tǒng)匿名攻擊的方式，使得攻擊者可以逃避戰(zhàn)爭(zhēng)責(zé)任的追究；另一方面，敵對(duì)國(guó)家也可以利用智能化作戰(zhàn)平臺(tái)對(duì)作戰(zhàn)網(wǎng)絡(luò)的高度依賴(lài)，采取電磁干擾、木馬植入、黑客入侵等方式，操控其進(jìn)行大量違背人道主義準(zhǔn)則的軍事行動(dòng)，而將罪責(zé)轉(zhuǎn)嫁給智能化作戰(zhàn)平臺(tái)的所有國(guó)。2011年，伊朗電子戰(zhàn)專(zhuān)家成功俘獲美軍RQ-170“哨兵”無(wú)人機(jī)的案例，說(shuō)明在自主武器領(lǐng)域，技術(shù)先發(fā)國(guó)家與后進(jìn)國(guó)家一樣，都可能面臨戰(zhàn)爭(zhēng)責(zé)任“轉(zhuǎn)嫁”的風(fēng)險(xiǎn)。

(三)軍人存在感缺失導(dǎo)致的責(zé)任文化淪喪風(fēng)險(xiǎn)

當(dāng)前，學(xué)界對(duì)于自主武器系統(tǒng)的戰(zhàn)爭(zhēng)責(zé)任正義研究，主要是從倫理規(guī)約的層面，探討人工智能技術(shù)的軍事應(yīng)用給戰(zhàn)爭(zhēng)責(zé)任分配帶來(lái)的挑戰(zhàn)以及如何應(yīng)對(duì)這種挑戰(zhàn)。然而，在筆者看來(lái)，實(shí)現(xiàn)戰(zhàn)爭(zhēng)的責(zé)任正義，不僅要靠法律法規(guī)和倫理原則的約束，更需要將承擔(dān)戰(zhàn)爭(zhēng)責(zé)任作為一種文化進(jìn)行傳承。正如美國(guó)五星上將道格拉斯·麥克阿瑟所述：“軍人必須承擔(dān)保護(hù)弱者和沒(méi)有武裝者的責(zé)任。這是他擔(dān)任這個(gè)神圣職務(wù)的根本理由?！?50)轉(zhuǎn)引自[美]邁克爾·沃爾澤《論戰(zhàn)爭(zhēng)》 ，任輝獻(xiàn)等譯，江蘇人民出版社2008年版，第33-34頁(yè)。軍人作為一種社會(huì)尊崇的職業(yè)存在的道德基礎(chǔ)，就在于軍人以自我犧牲的精神替代平民承擔(dān)更大的責(zé)任與風(fēng)險(xiǎn)。軍人具有“保家衛(wèi)國(guó)”“不怕?tīng)奚薄坝⒂職场钡任涞戮瘢秦?zé)任文化傳承的鮮明體現(xiàn)。一旦自主武器系統(tǒng)取代人類(lèi)成為戰(zhàn)爭(zhēng)主體，戰(zhàn)爭(zhēng)將會(huì)進(jìn)入“后英雄主義時(shí)代”，各類(lèi)自主武器系統(tǒng)承擔(dān)絕大部分的作戰(zhàn)風(fēng)險(xiǎn)，戰(zhàn)爭(zhēng)中的軍人被置于比平民還要安全的境地，他們將不再被期待具備過(guò)人的勇氣和大無(wú)畏的精神，從而在無(wú)形中瓦解了確認(rèn)軍人職業(yè)身份的道義根基，也意味著軍人“武德精神”的終結(jié)。

結(jié) 論

自主武器系統(tǒng)在軍事領(lǐng)域的廣泛應(yīng)用，將軍事智能化的廣闊前景展現(xiàn)在世人面前，同時(shí)，也使得人類(lèi)戰(zhàn)爭(zhēng)較之以往任何時(shí)刻都更為接近失控的邊緣。這種由自主武器系統(tǒng)帶來(lái)的失控風(fēng)險(xiǎn)，貫穿于開(kāi)戰(zhàn)、交戰(zhàn)、戰(zhàn)后的整個(gè)戰(zhàn)爭(zhēng)過(guò)程之中，體現(xiàn)為對(duì)戰(zhàn)爭(zhēng)倫理規(guī)約的顛覆性挑戰(zhàn)。

在“開(kāi)戰(zhàn)正義”層面，自主武器系統(tǒng)所展現(xiàn)的巨大軍事價(jià)值，導(dǎo)致“開(kāi)戰(zhàn)正義”倫理原則的弱化，進(jìn)而降低了開(kāi)戰(zhàn)門(mén)檻并增加了爆發(fā)“意外戰(zhàn)爭(zhēng)”的可能性。首先，“正當(dāng)理由”原則日益由抵御侵略的被動(dòng)自衛(wèi)弱化為主動(dòng)先發(fā)制人的“預(yù)先防衛(wèi)”?！盁o(wú)風(fēng)險(xiǎn)”“零傷亡”的自主武器系統(tǒng)攻擊，促使少數(shù)霸權(quán)國(guó)家無(wú)視“開(kāi)戰(zhàn)正義”對(duì)于“正當(dāng)理由”原則的嚴(yán)苛限制，導(dǎo)致“預(yù)先防衛(wèi)”權(quán)利的濫用和預(yù)防性軍事打擊的頻繁發(fā)生。其次，開(kāi)戰(zhàn)“合法權(quán)威”日益由主權(quán)國(guó)家的國(guó)家意志轉(zhuǎn)向智能化自主武器系統(tǒng)的機(jī)器意志。人類(lèi)依賴(lài)智能化作戰(zhàn)指揮決策系統(tǒng)進(jìn)行戰(zhàn)爭(zhēng)決策，從本質(zhì)上來(lái)說(shuō)就是一種基于技術(shù)信任的授權(quán)，將本應(yīng)歸屬于主權(quán)國(guó)家的開(kāi)戰(zhàn)權(quán)利讓渡給機(jī)器，導(dǎo)致國(guó)家意志可能被機(jī)器意志操控。再次，戰(zhàn)爭(zhēng)作為“最后手段”日益向“最優(yōu)手段”轉(zhuǎn)變。自主武器系統(tǒng)強(qiáng)化了技術(shù)先發(fā)國(guó)家在“反恐戰(zhàn)爭(zhēng)”和高技術(shù)局部戰(zhàn)爭(zhēng)中的優(yōu)勢(shì)，促使少數(shù)霸權(quán)國(guó)家將遙遠(yuǎn)的、不確定的軍事威脅評(píng)估為確定的、迫在眉睫的戰(zhàn)爭(zhēng)前景，頻頻以自主武器攻擊的方式逾越戰(zhàn)爭(zhēng)門(mén)檻，使全球安全與戰(zhàn)略穩(wěn)定性面臨更加嚴(yán)峻的挑戰(zhàn)。

在“交戰(zhàn)正義”層面，自主武器系統(tǒng)取代人類(lèi)成為戰(zhàn)爭(zhēng)主體，沖擊了維系“交戰(zhàn)正義”的“區(qū)分原則”和“相稱(chēng)性原則”。一方面，對(duì)于遵循“區(qū)分原則”而言，自主武器系統(tǒng)以計(jì)算機(jī)算法區(qū)分取代人力區(qū)分，徹底顛覆了傳統(tǒng)的戰(zhàn)場(chǎng)區(qū)分模式，同時(shí)也使得作戰(zhàn)行動(dòng)遵循“區(qū)分原則”面臨新的挑戰(zhàn)。自主武器系統(tǒng)的算法區(qū)分，只能利用軍服、武器裝備等明顯的視覺(jué)標(biāo)識(shí)來(lái)設(shè)置區(qū)分規(guī)則，從而造成一系列區(qū)分盲區(qū)。同時(shí)，基于計(jì)算機(jī)算法的區(qū)分模式將決定人類(lèi)生命的權(quán)利交給冰冷的機(jī)器，導(dǎo)致人類(lèi)對(duì)戰(zhàn)場(chǎng)殺戮行為缺乏道德責(zé)任感。另一方面，對(duì)于遵循“相稱(chēng)性原則”而言，自主武器系統(tǒng)只能評(píng)估簡(jiǎn)單戰(zhàn)場(chǎng)環(huán)境、物理毀傷方面以及短期戰(zhàn)術(shù)層面的相稱(chēng)性問(wèn)題，卻難以評(píng)估涉及復(fù)雜戰(zhàn)場(chǎng)環(huán)境、心理層面?zhèn)σ约伴L(zhǎng)期戰(zhàn)略層面的相稱(chēng)性問(wèn)題，從而在本質(zhì)上背離了“相稱(chēng)性原則”的道義要求。

在“戰(zhàn)后正義”層面，非人化的自主武器系統(tǒng)難以替代人類(lèi)成為承擔(dān)戰(zhàn)爭(zhēng)責(zé)任的主體。首先，自主武器系統(tǒng)沒(méi)有能力為自己的犯罪行為感到內(nèi)疚，因此難以承擔(dān)戰(zhàn)爭(zhēng)責(zé)任。自主武器系統(tǒng)的作戰(zhàn)應(yīng)用，導(dǎo)致戰(zhàn)爭(zhēng)責(zé)任主體日益呈現(xiàn)人機(jī)分離和責(zé)任主體多元化的發(fā)展趨勢(shì)。承擔(dān)戰(zhàn)爭(zhēng)責(zé)任作為維系人類(lèi)“戰(zhàn)后正義”的倫理規(guī)約，難以適用于一場(chǎng)自主武器系統(tǒng)作為責(zé)任主體的戰(zhàn)爭(zhēng)。自主武器系統(tǒng)在法律上不能夠視為自然人，如果強(qiáng)行用約束人類(lèi)戰(zhàn)爭(zhēng)行為的規(guī)范生搬硬套，必然會(huì)造成問(wèn)責(zé)缺位的責(zé)任鴻溝，進(jìn)而造成戰(zhàn)爭(zhēng)中犯錯(cuò)不受懲罰的文化在軍隊(duì)盛行，并可能導(dǎo)致戰(zhàn)時(shí)行為的極端非人化。其次，即便理論上人類(lèi)應(yīng)當(dāng)承擔(dān)“殺手機(jī)器人”的罪責(zé)，然而真正實(shí)現(xiàn)責(zé)任到人仍然面臨諸多瓶頸。機(jī)器人的罪行需要在設(shè)計(jì)者、生產(chǎn)者、管理者、使用者、監(jiān)督者等諸多主體之間進(jìn)行“責(zé)任分?jǐn)偂保M(jìn)而容易引發(fā)“責(zé)任擴(kuò)散”，責(zé)任如何在諸多主體之間進(jìn)行公正的分配也缺乏明確的標(biāo)準(zhǔn)，并且可能造成責(zé)任“轉(zhuǎn)嫁”的風(fēng)險(xiǎn)。最后，一旦自主武器系統(tǒng)替代軍人承擔(dān)戰(zhàn)爭(zhēng)責(zé)任，也將在無(wú)形中瓦解社會(huì)對(duì)于軍人職業(yè)身份認(rèn)同的道德基礎(chǔ)，甚至導(dǎo)致軍人“武德精神”的消弭。