龍 坤 徐能武

(國防科技大學(xué)文理學(xué)院 長沙 410073)

隨著人工智能為核心驅(qū)動的新一輪技術(shù)革命、工業(yè)革命和軍事革命孕育興起，各國尤其是技術(shù)強(qiáng)國紛紛加大了對軍事智能化建設(shè)的投入和布局，力圖搶占先機(jī)，塑造新一輪戰(zhàn)略優(yōu)勢。作為以多次“抵消戰(zhàn)略”成功維持世界軍事霸權(quán)的國家，美國對于新一輪技術(shù)革命尤為敏感，在人工智能軍事化這一領(lǐng)域高度重視。新近具有代表性的言論是美國參聯(lián)會主席馬克·米利的演講，他于2021年8月2日在美國國家海軍聯(lián)盟(NLUS)舉辦的“海-空-天”全球海事博覽會上宣稱，人工智能、無人系統(tǒng)等技術(shù)是未來作戰(zhàn)必須具備的新興能力，將從根本上改變未來戰(zhàn)爭的作戰(zhàn)樣式。哪一國家掌握了這些技術(shù)，就將具備顯著的乃至決定性的優(yōu)勢[1]。

人工智能的顛覆性潛力越來越受到美軍高層的重視，制定和實(shí)施人工智能倫理規(guī)范也成為美軍推進(jìn)人工智能軍事應(yīng)用的重要一環(huán)。2019年10月，美國國防創(chuàng)新委員會(DIB) 發(fā)布《人工智能準(zhǔn)則：推動國防部以符合倫理的方式運(yùn)用人工智能的建議》(AI Principles: Recommendations on the Ethical Use of Artificial Intelligence by the Department of Defense)報告(以下簡稱《準(zhǔn)則》)，提出了國防部運(yùn)用人工智能的五項(xiàng)原則和十二條建議[2]。2020年2月24日，美國防部首席信息官達(dá)納·迪西和國防部聯(lián)合人工智能中心(Joint Artificial Intelligence Center，JAIC)主任杰克·沙納漢中將聯(lián)合對外宣布，美時任防長馬克·埃斯珀已正式采納國防創(chuàng)新委員會推薦的五項(xiàng)人工智能倫理原則，使其成為國防部在人工智能軍事應(yīng)用領(lǐng)域的官方政策[3],引發(fā)國際廣泛關(guān)注。2021年5月26日，美國防部副部長凱瑟琳·?？怂购炇饌渫?，進(jìn)一步明確了“負(fù)責(zé)任地使用人工智能”(RAI)六項(xiàng)原則[4]。但從學(xué)術(shù)研究成果來看，目前國內(nèi)外還尚未有學(xué)者對美軍人工智能軍事應(yīng)用倫理準(zhǔn)則這一領(lǐng)域的相關(guān)問題進(jìn)行系統(tǒng)的分析和考察。有鑒于此，本文將以當(dāng)前美軍的人工智能倫理準(zhǔn)則主要文件及具體舉措為主要研究對象，結(jié)合其在應(yīng)用過程的相關(guān)進(jìn)展，分析美軍高調(diào)推出人工智能軍事倫理準(zhǔn)則的出臺背景、主要內(nèi)容和基本特點(diǎn)，揭示其背后的動因，并在此基礎(chǔ)上得出對我國和我軍的啟示。

1 美軍出臺人工智能倫理準(zhǔn)則的動因與過程

美國防部出臺軍事人工智能準(zhǔn)則有著重要的時代背景，并經(jīng)歷了一個長期的過程。隨著人工智能快速發(fā)展和應(yīng)用，深刻影響軍事領(lǐng)域，與此相應(yīng)的倫理問題也逐步凸顯，從而引發(fā)美軍對于制定人工智能倫理準(zhǔn)則必要性的關(guān)注，并最終落實(shí)到行動中來。

1.1國際大勢：制定人工智能倫理準(zhǔn)則的全球浪潮方興未艾人工智能是新一輪工業(yè)革命的主要驅(qū)動技術(shù)，而人工智能倫理與規(guī)范則是未來智能社會的發(fā)展基石，算法偏見、安全性、可靠性、責(zé)任缺位等問題的凸顯使得制定人工智能倫理準(zhǔn)則的必要性日益彰顯。因而，人工智能的倫理問題成為了世界上的熱點(diǎn)議題，已引起各國政府和學(xué)術(shù)界、企業(yè)界等的廣泛關(guān)注。迄今為止，歐盟[5]、英國、日本等國際組織和國家行為體以及人類未來研究所[6]、谷歌[7]等大型跨國企業(yè)等非國家行為體，均發(fā)布了人工智能的倫理準(zhǔn)則(見表1)。美軍也意識到了制定人工智能倫理準(zhǔn)則對其推動人工智能軍事應(yīng)用的重要意義，因此“引領(lǐng)軍事人工智能倫理和安全標(biāo)準(zhǔn)制定”成為了美軍人工智能戰(zhàn)略的五大支柱之一。在這份人工智能戰(zhàn)略報告中，明確指出美國防部將“闡明以合法和合乎道德的方式使用人工智能的愿景和指導(dǎo)原則，以推廣我們的價值觀。我們將與來自學(xué)術(shù)界、私營企業(yè)和國際社會的領(lǐng)導(dǎo)人進(jìn)行磋商，以推進(jìn)軍事領(lǐng)域的人工智能倫理和安全。”[8]美國防部出臺的這份倫理準(zhǔn)則便是這一戰(zhàn)略在倫理準(zhǔn)則方面的落地，其之所以引起國際社會的廣泛關(guān)注，主要在于首次正式將人工智能倫理準(zhǔn)則延伸到軍事領(lǐng)域，為美軍推動人工智能軍事應(yīng)用提供了專門的倫理規(guī)范。從公開資料來看，目前其他國家在軍事領(lǐng)域還沒有出臺官方的人工智能倫理準(zhǔn)則。

表1 全球現(xiàn)有人工智能倫理準(zhǔn)則倡議/政策

1.2國內(nèi)考量：人工智能軍事潛力、安全風(fēng)險與倫理譴責(zé)的權(quán)衡產(chǎn)物人工智能在軍事領(lǐng)域具有重大應(yīng)用價值。美國防部認(rèn)為，人工智能在提升軍隊(duì)?wèi)B(tài)勢感知能力、賦能武器裝備、預(yù)測性維護(hù)與供應(yīng)以及簡化業(yè)務(wù)方面具有重大潛力，并專門成立國防部人工智能應(yīng)用的統(tǒng)籌協(xié)調(diào)機(jī)構(gòu)，著力推動人工智能在國家安全領(lǐng)域的運(yùn)用。2018年6月27日，國防部副部長帕特里克·沙納漢簽署備忘錄，指示建立聯(lián)合人工智能中心(JAIC)，以推動國家任務(wù)倡議，運(yùn)用人工智能解決美國防部面臨的關(guān)鍵問題[9]。2019年2月，這一機(jī)構(gòu)成為了協(xié)調(diào)美國防部推動人工智能軍事應(yīng)用、貫徹美軍人工智能戰(zhàn)略的核心機(jī)構(gòu)。據(jù)聯(lián)合人工智能中心負(fù)責(zé)人美國空軍中將約翰·杰克·沙納漢指出，這一機(jī)構(gòu)的研究重點(diǎn)領(lǐng)域包括情報探知、預(yù)測性維護(hù)與供應(yīng)、救災(zāi)和人道主義援助以及網(wǎng)絡(luò)空間等領(lǐng)域[10]。

美國政府和軍隊(duì)高度重視人工智能發(fā)展及應(yīng)用，出臺大量政策大力推動人工智能的研發(fā)和軍事應(yīng)用。特朗普政府2017年出臺的《美國國家安全戰(zhàn)略》中提到，美國將優(yōu)先發(fā)展數(shù)據(jù)科學(xué)、先進(jìn)計(jì)算、人工智能等對經(jīng)濟(jì)增長和安全至關(guān)重要的新興技術(shù)[11]。《2018美國國防戰(zhàn)略概要》進(jìn)一步強(qiáng)調(diào)，先進(jìn)自主系統(tǒng)是美軍需要塑造的關(guān)鍵能力之一，國防部將大力投資于自主、人工智能和機(jī)器學(xué)習(xí)的軍事應(yīng)用，以獲得軍事競爭優(yōu)勢[12]。2019年2月11日，特朗普簽署《維護(hù)美國在人工智能時代的領(lǐng)導(dǎo)地位》行政命令，強(qiáng)調(diào)維持美國在人工智能領(lǐng)域的領(lǐng)導(dǎo)地位對美國經(jīng)濟(jì)和國家安全至關(guān)重要[13]。2月12日，美國防部發(fā)布《2018國防部人工智能戰(zhàn)略概要：利用人工智能促進(jìn)安全與繁榮》報告，標(biāo)志著美軍人工智能戰(zhàn)略的正式出臺[14]。9月12日，美空軍發(fā)布《2019空軍人工智能戰(zhàn)略》，確立了推動美空軍推動人工智能嵌入空軍力量建設(shè)的基本框架[15]。

但如前所述，人工智能軍事應(yīng)用又存在算法偏見、責(zé)任缺位等重大安全風(fēng)險，加之輿論譴責(zé)壓力，讓美軍越來越意識到制定人工智能倫理原則的重要性。分析來看，促使美軍加快制定軍事人工智能倫理準(zhǔn)則的直接誘因是美軍與科技企業(yè)近些年日益凸顯的理念沖突。在人工智能快速發(fā)展和快速走向軍事領(lǐng)域的過程中，關(guān)于自主武器日益凸顯的國際爭議、谷歌終止Maven項(xiàng)目事件等使得美軍高層逐漸意識到制定軍事人工智能倫理準(zhǔn)則的重要性。隨著人工智能日益走向軍事領(lǐng)域，美國國內(nèi)對這一趨向存在很多質(zhì)疑和反對意見，尤其是一些人工智能科技企業(yè)不贊成將人工智能技術(shù)軍事化，用于制造戰(zhàn)爭武器，對于美國防部存在強(qiáng)烈的不信任感，呼吁加強(qiáng)對于技術(shù)的監(jiān)管。例如，2018年3月，谷歌公司3 100多名員工聯(lián)名致信谷歌CEO，要求立即終止參與Maven項(xiàng)目，并聲明永不開發(fā)戰(zhàn)爭技術(shù)。其中的主要理由是擔(dān)心人工智能技術(shù)被用于戰(zhàn)爭目的，不符合公司“不作惡”的價值觀。不久后，超過百名學(xué)者和科學(xué)家再次聯(lián)合發(fā)聲，要求谷歌承諾既不參與也不支持自主武器的研發(fā)、制造、交易和使用[16]。2019年2月，數(shù)十名微軟員工也聯(lián)名抗議公司與美國陸軍簽署4.8億美元的合同[17]。正是在與人工智能私營科技企業(yè)關(guān)系日趨緊張的背景下，美國防部試圖通過制定人工智能倫理準(zhǔn)則的方式，向外界保證美軍會以符合倫理和負(fù)責(zé)任的方式推動人工智能的軍事應(yīng)用，從而塑造美軍內(nèi)外對于人工智能軍事應(yīng)用的信任和信心，減少輿論障礙。

1.3美軍人工智能倫理準(zhǔn)則的制定過程：從醞釀到出爐從時間周期來看，美軍人工智能倫理準(zhǔn)則從初步醞釀到正式出爐歷經(jīng)了將近兩年的時間。2018年7月11日，美國國防部人工智能戰(zhàn)略首席設(shè)計(jì)師布倫丹·麥考德宣布啟動聯(lián)合人工智能中心的同時，指示國防創(chuàng)新委員會圍繞人工智能倫理原則指導(dǎo)為國防部遞交一份報告，指導(dǎo)未來人工智能系統(tǒng)以符合倫理的方式運(yùn)用于軍事領(lǐng)域。該委員會是美國一個獨(dú)立的聯(lián)邦顧問委員會，旨在為美國防部高層提供政策建議，其成員包括來自谷歌、臉書等科技企業(yè)的高管和專家，目前的在研項(xiàng)目包括國防部5G生態(tài)系統(tǒng)、人工智能軍事應(yīng)用原則等。美國國防創(chuàng)新委員會主席埃里克·施密特要求國防創(chuàng)新委員會科學(xué)和技術(shù)小組承擔(dān)這項(xiàng)工作。自此，美軍制定軍事人工智能準(zhǔn)則的進(jìn)程拉開了帷幕。在這一過程中，國防創(chuàng)新委員會召集了16位人工智能領(lǐng)域的杰出專家，進(jìn)行了為期15個月的研究。在這一過程中，國防創(chuàng)新委員會科學(xué)技術(shù)小組委員會收集了大量線上和線下的意見建議，并與學(xué)術(shù)界、工業(yè)界數(shù)十位專家進(jìn)行了三次圓桌討論會和兩次公眾聽證會，包括人工智能技術(shù)專家、軍方專家、人權(quán)律師、政治理論家、軍備控制活動家、科技領(lǐng)域企業(yè)家等。此外，國防創(chuàng)新委員會還舉行了一次“桌面推演”，以對現(xiàn)實(shí)政策情景中的原則進(jìn)行測試。在此基礎(chǔ)上，國防創(chuàng)新委員會科學(xué)技術(shù)小組專家撰寫了這份《準(zhǔn)則》報告，并在2019年10月遞交美國防部審議。如前所述，2020年2月，美國防部正式簽署這一文件，使其成為了美軍指導(dǎo)人工智能發(fā)展應(yīng)用的官方政策。在此基礎(chǔ)上，2021年5月26日，凱瑟琳·?？怂雇ㄟ^備忘錄的形式進(jìn)一步明確了“負(fù)責(zé)任地使用人工智能”(RAI)六項(xiàng)原則。自此，美軍在人工智能軍事倫理準(zhǔn)則領(lǐng)域的制度框架和規(guī)范基本成型。

2 美軍人工智能倫理準(zhǔn)則的內(nèi)容剖析

美國國防創(chuàng)新委員會在《準(zhǔn)則》中針對人工智能軍事運(yùn)用問題提出了五大倫理原則，并提供了十二條具體的建議。其中，五大原則已經(jīng)被國防部采納，成為美軍在人工智能軍事應(yīng)用領(lǐng)域的指導(dǎo)原則。

2.1五大核心原則《準(zhǔn)則》共明確了人工智能軍事運(yùn)用的五大原則，強(qiáng)調(diào)運(yùn)用于作戰(zhàn)和非作戰(zhàn)領(lǐng)域的人工智能系統(tǒng)應(yīng)當(dāng)是負(fù)責(zé)任的、公正的、可追溯的、可靠的和可管控的，具體如下：

一是“負(fù)責(zé)任”原則。這一原則要求在美軍人工智能系統(tǒng)的開發(fā)、部署、使用等整個生命周期中，都應(yīng)確保人類的適當(dāng)判斷和介入。《準(zhǔn)則》指出，只有人本身是法律賦予權(quán)利和義務(wù)的主體，因此，人而非人工智能系統(tǒng)才是需要承擔(dān)法律責(zé)任的實(shí)體所在。具體而言，按照軍事人工智能系統(tǒng)事故發(fā)生的時間順序，可以區(qū)分三個層次的責(zé)任鏈條：設(shè)計(jì)、開發(fā)和部署人工智能系統(tǒng)的決策責(zé)任機(jī)制；決策者在與敵方作戰(zhàn)期間采取行動的責(zé)任機(jī)制；以及作戰(zhàn)結(jié)束后的補(bǔ)救責(zé)任機(jī)制。這一責(zé)任鏈條的劃分將有助于將人類的判斷和責(zé)任掛鉤，避免問責(zé)空白這一后果的出現(xiàn)。

二是“公正”原則。這一原則強(qiáng)調(diào)美軍應(yīng)采取審慎的行動，避免在開發(fā)戰(zhàn)斗或非戰(zhàn)斗人工智能系統(tǒng)時出現(xiàn)意外偏差和無意中對人造成傷害。美國防部有責(zé)任采取措施，確保人工智能軍事應(yīng)用不產(chǎn)生歧視或其它有失公平的不良結(jié)果。但同時，報告也強(qiáng)調(diào)一些人工智能系統(tǒng)的“偏見”是有必要的，例如對軍人和平民、軍用物品和民用物品，應(yīng)該使用更成功地瞄準(zhǔn)特定敵方戰(zhàn)斗人員的人工智能系統(tǒng)，并盡可能減少對平民、非戰(zhàn)斗人員的不利影響，這體現(xiàn)了美軍鮮明的實(shí)用主義色彩。

三是“可追溯”原則。該原則強(qiáng)調(diào)美軍人工智能工程學(xué)科應(yīng)足夠先進(jìn)，以便技術(shù)專家對美軍人工智能系統(tǒng)的技術(shù)、開發(fā)流程和操作方法有足夠的了解，提升其透明度。在人工智能系統(tǒng)的開發(fā)和部署的整個生命周期，都要確?？勺匪菪?。具體而言，在開發(fā)階段，應(yīng)將設(shè)計(jì)方法、相關(guān)設(shè)計(jì)文檔和數(shù)據(jù)源提供給適當(dāng)?shù)呢P(guān)方。在部署階段，則要創(chuàng)建適當(dāng)?shù)挠脩粼L問和權(quán)限日志。

四是“可靠”原則。這一原則要求美軍人工智能系統(tǒng)應(yīng)具有明確的使用領(lǐng)域，并且此類系統(tǒng)的安全性和魯棒性應(yīng)在其整個生命周期內(nèi)進(jìn)行測試和保證?？煽啃允呛饬肯到y(tǒng)發(fā)生故障頻率的指標(biāo)。當(dāng)前，實(shí)現(xiàn)人工智能系統(tǒng)的可靠性面臨諸多挑戰(zhàn)，包括非線性模型、復(fù)雜的自適應(yīng)系統(tǒng)、自學(xué)習(xí)系統(tǒng)、對抗性攻擊等問題。美國防部在武器系統(tǒng)的“測試和評估”(T&E)以及“驗(yàn)證和確認(rèn)”(vV&V))方面擁有較為成熟的經(jīng)驗(yàn)，以確保武器系統(tǒng)性能符合預(yù)期。然而，當(dāng)人工智能系統(tǒng)是不確定的、非線性的、高維的時候，傳統(tǒng)的測試和驗(yàn)證技術(shù)就存在很多局限性。

五是“可管控”原則。該原則強(qiáng)調(diào)美軍人工智能系統(tǒng)的設(shè)計(jì)應(yīng)符合其預(yù)期功能，同時要具有檢測、避免意外傷害和及時中斷的能力?！稖?zhǔn)則》特別提及了人工智能系統(tǒng)可能帶來非預(yù)期事故這一問題，并建議美國防部采取一定措施降低意外升級的風(fēng)險。參考在股票市場的“熔斷機(jī)制”，《準(zhǔn)則》指出美軍可以通過對特定系統(tǒng)授權(quán)使用武力的類型或數(shù)量進(jìn)行限制，各種操作的分層授權(quán)等方法，來管控人工智能可能帶來的相關(guān)應(yīng)用風(fēng)險。

分析來看，《準(zhǔn)則》中明確的這五大原則以“負(fù)責(zé)任”為統(tǒng)領(lǐng)，強(qiáng)調(diào)了人工智能系統(tǒng)中的人類判斷是實(shí)現(xiàn)責(zé)任的關(guān)鍵。接著強(qiáng)調(diào)“公正”，直指算法偏見這一問題，同時又融合了國際人道法中的區(qū)分原則，強(qiáng)調(diào)不應(yīng)片面追求公正，而忽視軍民和敵我區(qū)分。第三和第四原則聚焦系統(tǒng)的兩大特性——可靠性和可預(yù)測性?？煽啃允呛饬肯到y(tǒng)發(fā)生故障頻率的指標(biāo)，而可預(yù)測性則是衡量系統(tǒng)在特定情況下性能(運(yùn)行過程、產(chǎn)生結(jié)果等)的指標(biāo)。相比可靠性作為所有復(fù)雜系統(tǒng)都存在的指標(biāo)，可預(yù)測性則是自主系統(tǒng)特有的要求，這與原則中的“可追溯性”所要求的的透明和可審核是相互聯(lián)系的。最后強(qiáng)調(diào)的“可管控”原則結(jié)合了前面的可靠性、可追溯等原則，旨在避免系統(tǒng)出現(xiàn)重大事故，是一個兜底的原則。

2.2十二條技術(shù)和政策建議《準(zhǔn)則》還提出了落實(shí)這五大原則的十二項(xiàng)具體建議，部分建議已經(jīng)被美國防部采納，成為未來的行動藍(lán)圖。筆者按照技術(shù)研究和政策措施兩方面將其總結(jié)如下：

技術(shù)研究方面，該報告提出了以下建議：依托美軍負(fù)責(zé)研究與工程的副部長辦公室培育和發(fā)展人工智能工程學(xué)科，將該部門的安全和責(zé)任傳統(tǒng)融入人工智能領(lǐng)域，將人工智能技術(shù)納入更大的領(lǐng)域復(fù)雜的工程系統(tǒng)；依托發(fā)展、測試與評估辦公室強(qiáng)化人工智能測試和評估技術(shù)研究，改進(jìn)現(xiàn)有的測試、評估和驗(yàn)證程序，并在必要時為人工智能系統(tǒng)建設(shè)新的基礎(chǔ)設(shè)施。這些程序應(yīng)遵循國防創(chuàng)新委員會“軟件獲取與實(shí)踐”研究中詳述的軟件驅(qū)動的測試與評估指南；制定人工智能系統(tǒng)的可靠性基準(zhǔn)；強(qiáng)化對人工智能帶來新型安全問題的研究力度；加大對提升可重復(fù)性的研究力度；研究管理人工智能風(fēng)險的具體方法；召開關(guān)于人工智能安全性和魯棒性的年會等。

在政策措施方面，《準(zhǔn)則》建議通過官方渠道正式將這些原則政策化(目前美國防部已正式簽署)；建立一個美軍范圍內(nèi)的人工智能指導(dǎo)委員會，負(fù)責(zé)確保監(jiān)督和執(zhí)行美軍人工智能戰(zhàn)略，并確保美軍人工智能項(xiàng)目符合人工智能倫理原則；強(qiáng)化在人工智能領(lǐng)域的人才培訓(xùn)計(jì)劃，要求各軍兵種、作戰(zhàn)司令部、國防部長辦公室等都應(yīng)制定與相應(yīng)的人工智能技能和知識的培訓(xùn)和教育計(jì)劃，使初級軍官、現(xiàn)役軍人和平民在職業(yè)生涯早期都可以接受人工智能培訓(xùn)；聯(lián)合人工智能中心對這些倫理準(zhǔn)則的具體落實(shí)進(jìn)行監(jiān)督和審查，確保各部門正確落實(shí)這些倫理準(zhǔn)則[18]。

2.3關(guān)于“負(fù)責(zé)任地使用人工智能”(RAI)六項(xiàng)原則在前述《準(zhǔn)則》所提出的五項(xiàng)基本原則的基礎(chǔ)上，美國防部副部長凱瑟琳·?？怂惯M(jìn)一步明確“負(fù)責(zé)任地使用人工智能”(RAI)六項(xiàng)原則如下：

一是負(fù)責(zé)任的人工智能治理。確保美軍各層級有明確的治理結(jié)構(gòu)和流程以進(jìn)行監(jiān)督和問責(zé)，并闡明RAI的指導(dǎo)方針和政策，加速美國防部內(nèi)部采用RAI相關(guān)激勵措施。

二是作戰(zhàn)人員信任。對作戰(zhàn)人員持續(xù)進(jìn)行人工智能相關(guān)知識的教育和測試，建立其對人工智能的信心。通過教育和培訓(xùn)，建立一個測試、評估、驗(yàn)證和確認(rèn)的框架，整合實(shí)時監(jiān)測、算法信心指標(biāo)和用戶反饋，以確保可信賴的人工智能能力。

三是人工智能產(chǎn)品和采辦生命周期。通過系統(tǒng)工程和風(fēng)險管理方法，開發(fā)工具、策略、流程、系統(tǒng)和指南，與整個人工智能產(chǎn)品采辦生命周期的RAI保持同步。

四是需求驗(yàn)證。將RAI納入所有適用的人工智能需求，聯(lián)合需求監(jiān)督委員會建立并批準(zhǔn)的聯(lián)合性能要求，以確保將RAI納入美軍適當(dāng)?shù)娜斯ぶ悄苣芰Α?/p>

五是負(fù)責(zé)任的人工智能生態(tài)系統(tǒng)。建立國家和全球?qū)用娴膹?qiáng)大人工智能生態(tài)系統(tǒng)，改善美國國內(nèi)政府、學(xué)術(shù)、行業(yè)和其他利益攸關(guān)方之間的關(guān)系，強(qiáng)化與盟友和伙伴國之間的合作，推進(jìn)基于共同價值觀的全球人工智能規(guī)范。

六是人工智能人才隊(duì)伍。重點(diǎn)是要建立、培訓(xùn)、裝備和維持一支符合RAI要求的人工智能人才隊(duì)伍[4]。

相比之前提出的五項(xiàng)原則，這六大原則在“負(fù)責(zé)任”這一首要原則的基礎(chǔ)上，對人員信任、產(chǎn)品周期、生態(tài)系統(tǒng)等方面進(jìn)行了具體和細(xì)化，變得更具操作性。

3 美國防部軍事人工智能倫理準(zhǔn)則的特點(diǎn)

綜合分析來看，美國防部出臺的這份人工智能軍事應(yīng)用倫理準(zhǔn)則呈現(xiàn)出以下特點(diǎn)。

3.1冷戰(zhàn)思維與意識形態(tài)斗爭色彩明顯《準(zhǔn)則》延續(xù)了特朗普上臺后強(qiáng)調(diào)大國競爭的一貫思路，意識形態(tài)斗爭色彩與冷戰(zhàn)思維十分明顯。特朗普政府的2017年《國家安全戰(zhàn)略報告》將中國視為戰(zhàn)略競爭對手，并指稱中俄等競爭對手國正在利用人工智能和機(jī)器學(xué)習(xí)技術(shù)進(jìn)行情報搜集和數(shù)據(jù)分析，這將會增大美國的國家安全風(fēng)險，美國必須要在人工智能等新興技術(shù)上保持領(lǐng)導(dǎo)地位[19]。此次美國國防創(chuàng)新委員會出臺的這份報告也彰顯了濃厚的意識形態(tài)對立色彩，將人工智能技術(shù)高度政治化。《準(zhǔn)則》稱當(dāng)前關(guān)于軍事人工智能領(lǐng)域的國際規(guī)范制定還是一塊“處女地”，因此近期在這一領(lǐng)域的舉措就會影響到這些國際規(guī)范是反映專制還是民主的理念，關(guān)乎專制主義與民主規(guī)范之間的競爭，將其拔高到意識形態(tài)斗爭的高度。此外，《準(zhǔn)則》還將中國與俄羅斯等國家推進(jìn)人工智能研發(fā)應(yīng)用的做法進(jìn)行無端放大，大力渲染其帶來的安全威脅，歪曲其防衛(wèi)意圖，并抹黑其為所謂“數(shù)據(jù)集權(quán)主義/專制主義”，以此為美國加快推動人工智能軍事應(yīng)用提供合理性。但事實(shí)上，不管是在人工智能軍事應(yīng)用相關(guān)的作戰(zhàn)概念(如算法戰(zhàn)、馬賽克戰(zhàn))，還是組織建設(shè)(如算法戰(zhàn)跨職能小組、聯(lián)合人工智能中心的建立)和實(shí)際應(yīng)用(如運(yùn)用智能無人機(jī)獵殺蘇萊曼尼)，美國試圖通過人工智能謀求絕對安全的這些霸權(quán)思維和現(xiàn)實(shí)行動更大程度上誘發(fā)了當(dāng)前世界上的人工智能軍備競賽。因此，這也體現(xiàn)了美國鮮明的“美國例外論”和“雙重標(biāo)準(zhǔn)”色彩。

3.2注重與美國現(xiàn)有理念和法律政策的協(xié)調(diào)作為世界上首份軍事領(lǐng)域的人工智能倫理準(zhǔn)則報告，《準(zhǔn)則》提出的五項(xiàng)原則十分注重與美國現(xiàn)有法律制度的協(xié)調(diào)。《準(zhǔn)則》強(qiáng)調(diào)所提出的五項(xiàng)人工智能倫理原則是在美國防部現(xiàn)有倫理框架下制定的，與美軍心價值觀、政策指令和民主理念相一致的。報告梳理了美國防部現(xiàn)有倫理框架，包括美國憲法(U.S. Constitution)《美國法典》第十條、戰(zhàn)爭法( the Law of War)以及現(xiàn)有國際公約和國防部理念等。具體而言，美國國防部的核心價值觀包括領(lǐng)導(dǎo)力、專業(yè)精神、職責(zé)、誠信、道德、榮譽(yù)、勇氣和忠誠等。美國的民主理念包括個人尊嚴(yán)、個人權(quán)利(隱私權(quán)等)和法治(國際法相關(guān)條約)等。國防創(chuàng)新委員會專家將這些理念融入到了人工智能倫理準(zhǔn)則中去，使之具體化。例如，“負(fù)責(zé)任”原則中強(qiáng)調(diào)了人對于武器系統(tǒng)進(jìn)行必要控制的重要性，這一理念在美國防部2012年出臺的《3000.09指令》中已經(jīng)得到體現(xiàn)，該文件強(qiáng)調(diào)“自主和半自主武器系統(tǒng)的設(shè)計(jì)應(yīng)允許指揮官和操作員對其進(jìn)行適當(dāng)?shù)娜藶榕袛唷保约啊笆跈?quán)使用、指揮使用或操作自主和半自主武器系統(tǒng)的人必須嚴(yán)格地服從，并執(zhí)行戰(zhàn)爭法、適用的條約、武器系統(tǒng)安全規(guī)則和適用的交戰(zhàn)規(guī)則(ROE)”[20]。但需要指出的是，《準(zhǔn)則》只注重吸收國內(nèi)和少數(shù)盟友及伙伴國的觀點(diǎn)，強(qiáng)調(diào)所謂的“民主價值觀同盟”，卻幾乎無視了與世界上其他國家的合作，具有明顯的“小圈子文化”和排他性特征。

3.3重視可操作性和實(shí)用性美國防部出臺的這份人工智能倫理原則十分注重可操作性。與國際上一般的人工智能倫理準(zhǔn)則不同的是，這份《準(zhǔn)則》不是對于人工智能“應(yīng)然”倫理的空洞描述，而是提出了與五大倫理準(zhǔn)則相適應(yīng)的具體落實(shí)方案。例如，“負(fù)責(zé)任”原則強(qiáng)調(diào)人對武器系統(tǒng)的判斷和負(fù)責(zé)。人-機(jī)關(guān)系問題是對于如何運(yùn)用自主武器系統(tǒng)的關(guān)鍵所在，而美國防部明確人應(yīng)當(dāng)對人工智能系統(tǒng)的整個生命周期行使適當(dāng)?shù)娜祟惻袛嗪拓?fù)有責(zé)任，一方面是為了確保自主武器系統(tǒng)不脫離人的控制，避免系統(tǒng)故障等造成的誤殺誤傷事故。另一方面，這一原則也有利于使得自主武器的使用遵守國際人道法，避免問責(zé)空白這一困境的出現(xiàn)。因?yàn)?，現(xiàn)有的國際人道法是針對人而非機(jī)器設(shè)立的，只要人對武器系統(tǒng)的整個周期保留適當(dāng)?shù)呐袛?、介入和控制，一旦發(fā)生事故就可以將問責(zé)鏈條對應(yīng)到具體的人，避免機(jī)器的濫殺濫傷行為無法問責(zé)?；谶@些理解，這份報告明確了人在整個人工智能系統(tǒng)研發(fā)、部署和使用等整個生命周期的責(zé)任。此外，美軍在五項(xiàng)原則基礎(chǔ)上提出的RAI六項(xiàng)原則，使之更加具體化，也充分體現(xiàn)了可操作性這一特點(diǎn)。

同時，《準(zhǔn)則》也體現(xiàn)了鮮明的實(shí)用主義色彩。當(dāng)前，人工智能的應(yīng)用出現(xiàn)了很多算法偏見方面的問題，例如谷歌公司的人臉識別算法存在曾將黑人識別成“黑猩猩”的種族歧視問題，對當(dāng)事人和整個黑人群體都帶來了傷害[21]。因此，國際人工智能技術(shù)社群十分強(qiáng)調(diào)算法公正這一問題。但美國防部這份準(zhǔn)則在論述“公平”原則時，報告使用的是“equitable”而非“fair”一詞，并強(qiáng)調(diào)美國防部認(rèn)為戰(zhàn)斗不可能也不應(yīng)該是絕對公平的，因?yàn)槊儡姷暮诵哪繕?biāo)是保持對任何潛在對手的不對稱優(yōu)勢，強(qiáng)化軍事實(shí)戰(zhàn)和威懾能力，以有利于己方的方式遏止沖突或在威懾失敗時快速打贏戰(zhàn)爭。從美軍的三次“抵消戰(zhàn)略”可以看出，美國一直以來的理念都是通過新興尖端科技塑造高于對手的不對稱戰(zhàn)略優(yōu)勢。如果一味強(qiáng)調(diào)對對手的公平，就會犯理想主義的錯誤。不難理解，美國防部是更想強(qiáng)調(diào)人工智能系統(tǒng)對于美軍內(nèi)部人員的公平，而非針對對手的公平，具備顯著的實(shí)用主義乃至單邊霸權(quán)色彩。此外，這一報告十分注重提升人工智能系統(tǒng)的可靠性和安全性，提出要加大對研究人工智能帶來的新型安全問題的投資力度，對人工智能時代的戰(zhàn)略競爭和新型威懾領(lǐng)域進(jìn)行重點(diǎn)研究，特別是人工智能與網(wǎng)絡(luò)安全、量子計(jì)算、信息戰(zhàn)或生物技術(shù)等其他領(lǐng)域結(jié)合所帶來相關(guān)問題的研究。同時，《準(zhǔn)則》還建議要研究應(yīng)對人工智能軍事應(yīng)用風(fēng)險的具體方法。

4 對美軍人工智能倫理準(zhǔn)則的綜合評價與啟示

應(yīng)當(dāng)看到，美軍率先推出人工智能軍事應(yīng)用倫理準(zhǔn)則既是迫于各方壓力的無奈之舉，同時背后也隱含著霸權(quán)邏輯。對此，應(yīng)理性分析其帶來的客觀影響和局限，并得出一些對我軍事智能化建設(shè)的有益啟示。

4.1根本目的是為運(yùn)用人工智能護(hù)持美軍霸權(quán)、化解安全風(fēng)險和輿論障礙從歷史上看，美國的國家安全戰(zhàn)略觀傾向于通過樹立假想敵來帶動軍事力量建設(shè)和國家團(tuán)結(jié)，并以試圖以自身的技術(shù)優(yōu)勢和軍事霸權(quán)來確保自身的絕對安全，在人工智能這一新興戰(zhàn)略領(lǐng)域也體現(xiàn)了這樣的邏輯。美國防部認(rèn)為，鑒于其他大國(尤其是中俄)在軍事人工智能領(lǐng)域的加快布局，美國推動人工智能的軍事應(yīng)用刻不容緩，而倫理準(zhǔn)則的制定是為安全、符合倫理和負(fù)責(zé)任使用人工智能的關(guān)鍵所在，因此也應(yīng)當(dāng)成為優(yōu)先事項(xiàng)。如果不盡快制定軍事倫理準(zhǔn)則，美國將面臨兩方面的重大風(fēng)險。一是人工智能系統(tǒng)在軍事應(yīng)用時可能會出現(xiàn)問題、危害國家安全的風(fēng)險，具體包括內(nèi)部的可靠性問題和外部的易受攻擊問題[22]。二是遭受外界批評制造戰(zhàn)爭機(jī)器、毫無倫理道德約束的輿論譴責(zé)，國際聲譽(yù)和軟實(shí)力受損。這一點(diǎn)已經(jīng)在上文所述的谷歌員工抗議Maven項(xiàng)目事件中得到了充分體現(xiàn)。有鑒于此，美軍高度重視防范這些風(fēng)險，例如在數(shù)據(jù)安全方面，就采取了很多舉措。2021年6月23日，凱瑟琳·?？怂乖趪啦咳斯ぶ悄芗夹g(shù)交流研討會開幕式上表示，美國防部已啟動“人工智能與數(shù)據(jù)加速”(ADA)計(jì)劃，力圖快速推進(jìn)“聯(lián)合全域指揮控制”等相關(guān)概念深入發(fā)展，強(qiáng)調(diào)“必須確保所有數(shù)據(jù)都是可見的、可訪問的、可理解的、可連接的、可信賴的、可互操作的和安全的”，必須“將數(shù)據(jù)視為戰(zhàn)略資源”[23]?？偠灾斯ぶ悄苘娛聭?yīng)用的安全風(fēng)險以及國內(nèi)外輿論道德壓力，都給美國制定人工智能軍事應(yīng)用的倫理準(zhǔn)則提出了需求和動力。正是看到了倫理準(zhǔn)則對于以可靠和保證問責(zé)清晰的方式推進(jìn)人工智能的軍事應(yīng)用的重大意義，美軍才如此迅速地推出了軍事人工智能的倫理準(zhǔn)則。因?yàn)槲ㄓ腥绱?，美軍才有可能推進(jìn)“第三次抵消戰(zhàn)略”的順利進(jìn)行，維持美軍的科技優(yōu)勢與軍事霸權(quán)，這也是美軍搶先推出人工智能倫理準(zhǔn)則最本質(zhì)的目的。

4.2理性看待美國推出軍事人工智能倫理準(zhǔn)則的影響與局限正如美時任防長埃斯帕在美軍人工智能倫理準(zhǔn)則發(fā)布會上所提到的那樣，“美國必須與我們的盟友和伙伴一道，加速采用人工智能，并在國家安全應(yīng)用方面發(fā)揮領(lǐng)導(dǎo)作用，以維持我們的戰(zhàn)略地位，在未來的戰(zhàn)場上占據(jù)優(yōu)勢，維護(hù)以規(guī)則為基礎(chǔ)的國際秩序?！盵3]客觀分析來看，美軍高調(diào)推出人工智能倫理準(zhǔn)則，既有規(guī)范自身軍事人工智能發(fā)展應(yīng)用之目的，也有為在世界范圍內(nèi)搶占先機(jī)和制高點(diǎn)積極準(zhǔn)備之用意，最終希望在規(guī)范自身軍事人工智能發(fā)展的同時，在該領(lǐng)域塑造大幅領(lǐng)先于對手的絕對優(yōu)勢地位，為贏得未來戰(zhàn)爭提早進(jìn)行戰(zhàn)略準(zhǔn)備。換言之，美軍試圖以一種符合自身倫理道德和美國價值理念的方式，為人工智能軍事化掃清輿論障礙、引領(lǐng)國際軍事人工智能規(guī)范制定、維護(hù)美國的作戰(zhàn)優(yōu)勢和軍事霸權(quán)。未來，美軍能否將這些倫理原則落實(shí)還有待時間檢驗(yàn)，能否通過這一準(zhǔn)則完全彌合科技企業(yè)和國防部的理念分歧也存疑。同時，人工智能倫理與人工智能軍事應(yīng)用存在一些固有矛盾有待解決，例如完全自主的致命性自主武器系統(tǒng)究竟能否研發(fā)和部署？各國在人工智能領(lǐng)域的軍備競賽是否會對全球戰(zhàn)略穩(wěn)定帶來嚴(yán)重沖擊？人工智能運(yùn)用于核指揮系統(tǒng)是否符合戰(zhàn)爭倫理和引發(fā)意外核升級風(fēng)險？這些問題目前在國際上存在較大爭議，也是這份倫理準(zhǔn)則沒有涉及的。但在人工智能快速發(fā)展和應(yīng)用的背景下，美國防部率先推出軍事領(lǐng)域的專門人工智能倫理準(zhǔn)則，在國際上產(chǎn)生重大影響，這一動向仍然值得我們高度關(guān)注。

4.3重視我國軍事智能化發(fā)展過程中的安全管控和倫理規(guī)范制定中國作為人工智能發(fā)展大國，正加快推進(jìn)“軍事智能化發(fā)展”和“機(jī)械化信息化智能化融合發(fā)展”[24],這體現(xiàn)我國已經(jīng)將基于人工智能的軍事智能化建設(shè)視為建設(shè)世界一流軍隊(duì)的關(guān)鍵支撐和基本向度，而軍事人工智能倫理規(guī)范制定則是為我國推進(jìn)軍事智能化建設(shè)保駕護(hù)航的必要途徑。目前，在國家整體層面的人工智能倫理準(zhǔn)則制定方面，我國已經(jīng)開始重視并初步采取了一些舉措。國務(wù)院于2017年出臺的《新一代人工智能發(fā)展規(guī)劃》強(qiáng)調(diào)，要“加強(qiáng)人工智能相關(guān)法律、倫理和社會問題研究，建立保障人工智能健康發(fā)展的法律法規(guī)和倫理道德框架”[25]。2019年3月25日，北京智源人工智能研究院聯(lián)合一些高校、科研院所和產(chǎn)業(yè)聯(lián)盟，共同發(fā)布《人工智能北京共識》，對人工智能的研發(fā)、使用和治理三方面提出了各個參與方應(yīng)該遵循的15條原則[26]。2019年6月17日，國家新一代人工智能治理專業(yè)委員會發(fā)布《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》，提出了人工智能治理的基本框架和行動指南[27]。2019年7月，我國正式組建中國國家科技倫理委員會。此外，我國還派出代表團(tuán)多次參與聯(lián)合國《特定常規(guī)武器公約》框架下關(guān)于致命性自主武器系統(tǒng)(LAWS)的探討，就人工智能技術(shù)定義、倫理法律風(fēng)險提出了見解[28]。2021年9月25日，國家新一代人工智能治理專業(yè)委員會發(fā)布《新一代人工智能倫理規(guī)范》，提出了增進(jìn)人類福祉、促進(jìn)公平公正、保護(hù)隱私安全、確?？煽乜尚?、強(qiáng)化責(zé)任擔(dān)當(dāng)、提升倫理素養(yǎng)等6項(xiàng)基本倫理要求和人工智能管理、研發(fā)、供應(yīng)、使用等特定活動的18項(xiàng)具體倫理要求，旨在為從事人工智能相關(guān)活動的主體提供倫理指引[29]。軍隊(duì)方面，我國軍內(nèi)智庫專家曾于2017年在新加坡香格里拉對話大會演講中呼吁國家研發(fā)部署人工智能武器必須兼顧倫理道德約束[30]。然而，客觀上而言，我軍目前還沒有制定官方的軍事人工智能倫理原則文件，這不利于我們順利推進(jìn)人工智能軍事應(yīng)用和提升制定軍事人工智能規(guī)范中的國際話語權(quán)。一旦美國聯(lián)合盟友和伙伴國等所謂“民主價值觀同盟”將這些原則向全世界推廣，以占領(lǐng)“道德高地”的方式批判他國軍隊(duì)在人工智能軍事應(yīng)用方面“沒有任何道德約束和禁忌”，我國可能面臨很大被動和國際輿論壓力。有鑒于此，應(yīng)盡快結(jié)合我國實(shí)際情況和國家利益，聯(lián)合俄羅斯等國家，組織專家制定符合我國及廣大發(fā)展中國家發(fā)展利益的軍事人工智能倫理規(guī)范。

5 結(jié) 語

在人工智能迅速發(fā)展和走向軍事應(yīng)用的背景下，美國防部在美國法律和長期價值觀的現(xiàn)有倫理框架基礎(chǔ)上，率先制定并推出了軍事領(lǐng)域的人工智能倫理準(zhǔn)則，提出了軍用人工智能系統(tǒng)應(yīng)當(dāng)是“負(fù)責(zé)的、公平的、可追溯的、可靠的和可治理的”五項(xiàng)原則，并配套系列舉措大力推動這些原則的落地。一方面，我們要高度重視美軍在這一領(lǐng)域的動向，看清美軍率先推出軍事領(lǐng)域的人工智能倫理準(zhǔn)則，既有規(guī)范美國軍事人工智能發(fā)展與應(yīng)用之目的，也是為了破除阻礙美軍運(yùn)用人工智能的輿論障礙，管控人工智能軍事應(yīng)用可能帶來的內(nèi)外部風(fēng)險，同時為搶占軍事人工智能倫理準(zhǔn)則制定的國際主導(dǎo)權(quán)，維持美軍科技優(yōu)勢和軍事霸權(quán)、贏得未來戰(zhàn)爭提早進(jìn)行戰(zhàn)略準(zhǔn)備。另一方面，也要反思我國在這一領(lǐng)域的不足，借鑒其通過制定倫理準(zhǔn)則來為推動軍隊(duì)智能化建設(shè)管控安全風(fēng)險、減輕輿論壓力的做法，加快推進(jìn)適合我國國情、符合我軍軍情的軍事人工智能倫理準(zhǔn)則制定，為推動和加快我國軍事機(jī)械化信息化智能化融合發(fā)展提供堅(jiān)實(shí)支撐和有效保障。同時，還要積極參與人工智能領(lǐng)域的國際安全治理，探索構(gòu)建相應(yīng)的國際規(guī)則和規(guī)范，為化解人工智能帶來的倫理、法律和安全風(fēng)險，構(gòu)建人工智能時代的人類命運(yùn)共同體貢獻(xiàn)中國智慧和中國方案。