龍 坤 徐能武

(國(guó)防科技大學(xué)文理學(xué)院 長(zhǎng)沙 410073)

隨著人工智能為核心驅(qū)動(dòng)的新一輪技術(shù)革命、工業(yè)革命和軍事革命孕育興起，各國(guó)尤其是技術(shù)強(qiáng)國(guó)紛紛加大了對(duì)軍事智能化建設(shè)的投入和布局，力圖搶占先機(jī)，塑造新一輪戰(zhàn)略?xún)?yōu)勢(shì)。作為以多次“抵消戰(zhàn)略”成功維持世界軍事霸權(quán)的國(guó)家，美國(guó)對(duì)于新一輪技術(shù)革命尤為敏感，在人工智能軍事化這一領(lǐng)域高度重視。新近具有代表性的言論是美國(guó)參聯(lián)會(huì)主席馬克·米利的演講，他于2021年8月2日在美國(guó)國(guó)家海軍聯(lián)盟(NLUS)舉辦的“海-空-天”全球海事博覽會(huì)上宣稱(chēng)，人工智能、無(wú)人系統(tǒng)等技術(shù)是未來(lái)作戰(zhàn)必須具備的新興能力，將從根本上改變未來(lái)戰(zhàn)爭(zhēng)的作戰(zhàn)樣式。哪一國(guó)家掌握了這些技術(shù)，就將具備顯著的乃至決定性的優(yōu)勢(shì)[1]。

人工智能的顛覆性潛力越來(lái)越受到美軍高層的重視，制定和實(shí)施人工智能倫理規(guī)范也成為美軍推進(jìn)人工智能軍事應(yīng)用的重要一環(huán)。2019年10月，美國(guó)國(guó)防創(chuàng)新委員會(huì)(DIB) 發(fā)布《人工智能準(zhǔn)則：推動(dòng)國(guó)防部以符合倫理的方式運(yùn)用人工智能的建議》(AI Principles: Recommendations on the Ethical Use of Artificial Intelligence by the Department of Defense)報(bào)告(以下簡(jiǎn)稱(chēng)《準(zhǔn)則》)，提出了國(guó)防部運(yùn)用人工智能的五項(xiàng)原則和十二條建議[2]。2020年2月24日，美國(guó)防部首席信息官達(dá)納·迪西和國(guó)防部聯(lián)合人工智能中心(Joint Artificial Intelligence Center，JAIC)主任杰克·沙納漢中將聯(lián)合對(duì)外宣布，美時(shí)任防長(zhǎng)馬克·埃斯珀已正式采納國(guó)防創(chuàng)新委員會(huì)推薦的五項(xiàng)人工智能倫理原則，使其成為國(guó)防部在人工智能軍事應(yīng)用領(lǐng)域的官方政策[3],引發(fā)國(guó)際廣泛關(guān)注。2021年5月26日，美國(guó)防部副部長(zhǎng)凱瑟琳·?？怂购炇饌渫洠M(jìn)一步明確了“負(fù)責(zé)任地使用人工智能”(RAI)六項(xiàng)原則[4]。但從學(xué)術(shù)研究成果來(lái)看，目前國(guó)內(nèi)外還尚未有學(xué)者對(duì)美軍人工智能軍事應(yīng)用倫理準(zhǔn)則這一領(lǐng)域的相關(guān)問(wèn)題進(jìn)行系統(tǒng)的分析和考察。有鑒于此，本文將以當(dāng)前美軍的人工智能倫理準(zhǔn)則主要文件及具體舉措為主要研究對(duì)象，結(jié)合其在應(yīng)用過(guò)程的相關(guān)進(jìn)展，分析美軍高調(diào)推出人工智能軍事倫理準(zhǔn)則的出臺(tái)背景、主要內(nèi)容和基本特點(diǎn)，揭示其背后的動(dòng)因，并在此基礎(chǔ)上得出對(duì)我國(guó)和我軍的啟示。

1 美軍出臺(tái)人工智能倫理準(zhǔn)則的動(dòng)因與過(guò)程

美國(guó)防部出臺(tái)軍事人工智能準(zhǔn)則有著重要的時(shí)代背景，并經(jīng)歷了一個(gè)長(zhǎng)期的過(guò)程。隨著人工智能快速發(fā)展和應(yīng)用，深刻影響軍事領(lǐng)域，與此相應(yīng)的倫理問(wèn)題也逐步凸顯，從而引發(fā)美軍對(duì)于制定人工智能倫理準(zhǔn)則必要性的關(guān)注，并最終落實(shí)到行動(dòng)中來(lái)。

1.1國(guó)際大勢(shì)：制定人工智能倫理準(zhǔn)則的全球浪潮方興未艾人工智能是新一輪工業(yè)革命的主要驅(qū)動(dòng)技術(shù)，而人工智能倫理與規(guī)范則是未來(lái)智能社會(huì)的發(fā)展基石，算法偏見(jiàn)、安全性、可靠性、責(zé)任缺位等問(wèn)題的凸顯使得制定人工智能倫理準(zhǔn)則的必要性日益彰顯。因而，人工智能的倫理問(wèn)題成為了世界上的熱點(diǎn)議題，已引起各國(guó)政府和學(xué)術(shù)界、企業(yè)界等的廣泛關(guān)注。迄今為止，歐盟[5]、英國(guó)、日本等國(guó)際組織和國(guó)家行為體以及人類(lèi)未來(lái)研究所[6]、谷歌[7]等大型跨國(guó)企業(yè)等非國(guó)家行為體，均發(fā)布了人工智能的倫理準(zhǔn)則(見(jiàn)表1)。美軍也意識(shí)到了制定人工智能倫理準(zhǔn)則對(duì)其推動(dòng)人工智能軍事應(yīng)用的重要意義，因此“引領(lǐng)軍事人工智能倫理和安全標(biāo)準(zhǔn)制定”成為了美軍人工智能戰(zhàn)略的五大支柱之一。在這份人工智能戰(zhàn)略報(bào)告中，明確指出美國(guó)防部將“闡明以合法和合乎道德的方式使用人工智能的愿景和指導(dǎo)原則，以推廣我們的價(jià)值觀。我們將與來(lái)自學(xué)術(shù)界、私營(yíng)企業(yè)和國(guó)際社會(huì)的領(lǐng)導(dǎo)人進(jìn)行磋商，以推進(jìn)軍事領(lǐng)域的人工智能倫理和安全?！盵8]美國(guó)防部出臺(tái)的這份倫理準(zhǔn)則便是這一戰(zhàn)略在倫理準(zhǔn)則方面的落地，其之所以引起國(guó)際社會(huì)的廣泛關(guān)注，主要在于首次正式將人工智能倫理準(zhǔn)則延伸到軍事領(lǐng)域，為美軍推動(dòng)人工智能軍事應(yīng)用提供了專(zhuān)門(mén)的倫理規(guī)范。從公開(kāi)資料來(lái)看，目前其他國(guó)家在軍事領(lǐng)域還沒(méi)有出臺(tái)官方的人工智能倫理準(zhǔn)則。

表1 全球現(xiàn)有人工智能倫理準(zhǔn)則倡議/政策

1.2國(guó)內(nèi)考量：人工智能軍事潛力、安全風(fēng)險(xiǎn)與倫理譴責(zé)的權(quán)衡產(chǎn)物人工智能在軍事領(lǐng)域具有重大應(yīng)用價(jià)值。美國(guó)防部認(rèn)為，人工智能在提升軍隊(duì)?wèi)B(tài)勢(shì)感知能力、賦能武器裝備、預(yù)測(cè)性維護(hù)與供應(yīng)以及簡(jiǎn)化業(yè)務(wù)方面具有重大潛力，并專(zhuān)門(mén)成立國(guó)防部人工智能應(yīng)用的統(tǒng)籌協(xié)調(diào)機(jī)構(gòu)，著力推動(dòng)人工智能在國(guó)家安全領(lǐng)域的運(yùn)用。2018年6月27日，國(guó)防部副部長(zhǎng)帕特里克·沙納漢簽署備忘錄，指示建立聯(lián)合人工智能中心(JAIC)，以推動(dòng)國(guó)家任務(wù)倡議，運(yùn)用人工智能解決美國(guó)防部面臨的關(guān)鍵問(wèn)題[9]。2019年2月，這一機(jī)構(gòu)成為了協(xié)調(diào)美國(guó)防部推動(dòng)人工智能軍事應(yīng)用、貫徹美軍人工智能戰(zhàn)略的核心機(jī)構(gòu)。據(jù)聯(lián)合人工智能中心負(fù)責(zé)人美國(guó)空軍中將約翰·杰克·沙納漢指出，這一機(jī)構(gòu)的研究重點(diǎn)領(lǐng)域包括情報(bào)探知、預(yù)測(cè)性維護(hù)與供應(yīng)、救災(zāi)和人道主義援助以及網(wǎng)絡(luò)空間等領(lǐng)域[10]。

美國(guó)政府和軍隊(duì)高度重視人工智能發(fā)展及應(yīng)用，出臺(tái)大量政策大力推動(dòng)人工智能的研發(fā)和軍事應(yīng)用。特朗普政府2017年出臺(tái)的《美國(guó)國(guó)家安全戰(zhàn)略》中提到，美國(guó)將優(yōu)先發(fā)展數(shù)據(jù)科學(xué)、先進(jìn)計(jì)算、人工智能等對(duì)經(jīng)濟(jì)增長(zhǎng)和安全至關(guān)重要的新興技術(shù)[11]?！?018美國(guó)國(guó)防戰(zhàn)略概要》進(jìn)一步強(qiáng)調(diào)，先進(jìn)自主系統(tǒng)是美軍需要塑造的關(guān)鍵能力之一，國(guó)防部將大力投資于自主、人工智能和機(jī)器學(xué)習(xí)的軍事應(yīng)用，以獲得軍事競(jìng)爭(zhēng)優(yōu)勢(shì)[12]。2019年2月11日，特朗普簽署《維護(hù)美國(guó)在人工智能時(shí)代的領(lǐng)導(dǎo)地位》行政命令，強(qiáng)調(diào)維持美國(guó)在人工智能領(lǐng)域的領(lǐng)導(dǎo)地位對(duì)美國(guó)經(jīng)濟(jì)和國(guó)家安全至關(guān)重要[13]。2月12日，美國(guó)防部發(fā)布《2018國(guó)防部人工智能戰(zhàn)略概要：利用人工智能促進(jìn)安全與繁榮》報(bào)告，標(biāo)志著美軍人工智能戰(zhàn)略的正式出臺(tái)[14]。9月12日，美空軍發(fā)布《2019空軍人工智能戰(zhàn)略》，確立了推動(dòng)美空軍推動(dòng)人工智能嵌入空軍力量建設(shè)的基本框架[15]。

但如前所述，人工智能軍事應(yīng)用又存在算法偏見(jiàn)、責(zé)任缺位等重大安全風(fēng)險(xiǎn)，加之輿論譴責(zé)壓力，讓美軍越來(lái)越意識(shí)到制定人工智能倫理原則的重要性。分析來(lái)看，促使美軍加快制定軍事人工智能倫理準(zhǔn)則的直接誘因是美軍與科技企業(yè)近些年日益凸顯的理念沖突。在人工智能快速發(fā)展和快速走向軍事領(lǐng)域的過(guò)程中，關(guān)于自主武器日益凸顯的國(guó)際爭(zhēng)議、谷歌終止Maven項(xiàng)目事件等使得美軍高層逐漸意識(shí)到制定軍事人工智能倫理準(zhǔn)則的重要性。隨著人工智能日益走向軍事領(lǐng)域，美國(guó)國(guó)內(nèi)對(duì)這一趨向存在很多質(zhì)疑和反對(duì)意見(jiàn)，尤其是一些人工智能科技企業(yè)不贊成將人工智能技術(shù)軍事化，用于制造戰(zhàn)爭(zhēng)武器，對(duì)于美國(guó)防部存在強(qiáng)烈的不信任感，呼吁加強(qiáng)對(duì)于技術(shù)的監(jiān)管。例如，2018年3月，谷歌公司3 100多名員工聯(lián)名致信谷歌CEO，要求立即終止參與Maven項(xiàng)目，并聲明永不開(kāi)發(fā)戰(zhàn)爭(zhēng)技術(shù)。其中的主要理由是擔(dān)心人工智能技術(shù)被用于戰(zhàn)爭(zhēng)目的，不符合公司“不作惡”的價(jià)值觀。不久后，超過(guò)百名學(xué)者和科學(xué)家再次聯(lián)合發(fā)聲，要求谷歌承諾既不參與也不支持自主武器的研發(fā)、制造、交易和使用[16]。2019年2月，數(shù)十名微軟員工也聯(lián)名抗議公司與美國(guó)陸軍簽署4.8億美元的合同[17]。正是在與人工智能私營(yíng)科技企業(yè)關(guān)系日趨緊張的背景下，美國(guó)防部試圖通過(guò)制定人工智能倫理準(zhǔn)則的方式，向外界保證美軍會(huì)以符合倫理和負(fù)責(zé)任的方式推動(dòng)人工智能的軍事應(yīng)用，從而塑造美軍內(nèi)外對(duì)于人工智能軍事應(yīng)用的信任和信心，減少輿論障礙。

1.3美軍人工智能倫理準(zhǔn)則的制定過(guò)程：從醞釀到出爐從時(shí)間周期來(lái)看，美軍人工智能倫理準(zhǔn)則從初步醞釀到正式出爐歷經(jīng)了將近兩年的時(shí)間。2018年7月11日，美國(guó)國(guó)防部人工智能戰(zhàn)略首席設(shè)計(jì)師布倫丹·麥考德宣布啟動(dòng)聯(lián)合人工智能中心的同時(shí)，指示國(guó)防創(chuàng)新委員會(huì)圍繞人工智能倫理原則指導(dǎo)為國(guó)防部遞交一份報(bào)告，指導(dǎo)未來(lái)人工智能系統(tǒng)以符合倫理的方式運(yùn)用于軍事領(lǐng)域。該委員會(huì)是美國(guó)一個(gè)獨(dú)立的聯(lián)邦顧問(wèn)委員會(huì)，旨在為美國(guó)防部高層提供政策建議，其成員包括來(lái)自谷歌、臉書(shū)等科技企業(yè)的高管和專(zhuān)家，目前的在研項(xiàng)目包括國(guó)防部5G生態(tài)系統(tǒng)、人工智能軍事應(yīng)用原則等。美國(guó)國(guó)防創(chuàng)新委員會(huì)主席埃里克·施密特要求國(guó)防創(chuàng)新委員會(huì)科學(xué)和技術(shù)小組承擔(dān)這項(xiàng)工作。自此，美軍制定軍事人工智能準(zhǔn)則的進(jìn)程拉開(kāi)了帷幕。在這一過(guò)程中，國(guó)防創(chuàng)新委員會(huì)召集了16位人工智能領(lǐng)域的杰出專(zhuān)家，進(jìn)行了為期15個(gè)月的研究。在這一過(guò)程中，國(guó)防創(chuàng)新委員會(huì)科學(xué)技術(shù)小組委員會(huì)收集了大量線(xiàn)上和線(xiàn)下的意見(jiàn)建議，并與學(xué)術(shù)界、工業(yè)界數(shù)十位專(zhuān)家進(jìn)行了三次圓桌討論會(huì)和兩次公眾聽(tīng)證會(huì)，包括人工智能技術(shù)專(zhuān)家、軍方專(zhuān)家、人權(quán)律師、政治理論家、軍備控制活動(dòng)家、科技領(lǐng)域企業(yè)家等。此外，國(guó)防創(chuàng)新委員會(huì)還舉行了一次“桌面推演”，以對(duì)現(xiàn)實(shí)政策情景中的原則進(jìn)行測(cè)試。在此基礎(chǔ)上，國(guó)防創(chuàng)新委員會(huì)科學(xué)技術(shù)小組專(zhuān)家撰寫(xiě)了這份《準(zhǔn)則》報(bào)告，并在2019年10月遞交美國(guó)防部審議。如前所述，2020年2月，美國(guó)防部正式簽署這一文件，使其成為了美軍指導(dǎo)人工智能發(fā)展應(yīng)用的官方政策。在此基礎(chǔ)上，2021年5月26日，凱瑟琳·?？怂雇ㄟ^(guò)備忘錄的形式進(jìn)一步明確了“負(fù)責(zé)任地使用人工智能”(RAI)六項(xiàng)原則。自此，美軍在人工智能軍事倫理準(zhǔn)則領(lǐng)域的制度框架和規(guī)范基本成型。

2 美軍人工智能倫理準(zhǔn)則的內(nèi)容剖析

美國(guó)國(guó)防創(chuàng)新委員會(huì)在《準(zhǔn)則》中針對(duì)人工智能軍事運(yùn)用問(wèn)題提出了五大倫理原則，并提供了十二條具體的建議。其中，五大原則已經(jīng)被國(guó)防部采納，成為美軍在人工智能軍事應(yīng)用領(lǐng)域的指導(dǎo)原則。

2.1五大核心原則《準(zhǔn)則》共明確了人工智能軍事運(yùn)用的五大原則，強(qiáng)調(diào)運(yùn)用于作戰(zhàn)和非作戰(zhàn)領(lǐng)域的人工智能系統(tǒng)應(yīng)當(dāng)是負(fù)責(zé)任的、公正的、可追溯的、可靠的和可管控的，具體如下：

一是“負(fù)責(zé)任”原則。這一原則要求在美軍人工智能系統(tǒng)的開(kāi)發(fā)、部署、使用等整個(gè)生命周期中，都應(yīng)確保人類(lèi)的適當(dāng)判斷和介入。《準(zhǔn)則》指出，只有人本身是法律賦予權(quán)利和義務(wù)的主體，因此，人而非人工智能系統(tǒng)才是需要承擔(dān)法律責(zé)任的實(shí)體所在。具體而言，按照軍事人工智能系統(tǒng)事故發(fā)生的時(shí)間順序，可以區(qū)分三個(gè)層次的責(zé)任鏈條：設(shè)計(jì)、開(kāi)發(fā)和部署人工智能系統(tǒng)的決策責(zé)任機(jī)制；決策者在與敵方作戰(zhàn)期間采取行動(dòng)的責(zé)任機(jī)制；以及作戰(zhàn)結(jié)束后的補(bǔ)救責(zé)任機(jī)制。這一責(zé)任鏈條的劃分將有助于將人類(lèi)的判斷和責(zé)任掛鉤，避免問(wèn)責(zé)空白這一后果的出現(xiàn)。

二是“公正”原則。這一原則強(qiáng)調(diào)美軍應(yīng)采取審慎的行動(dòng)，避免在開(kāi)發(fā)戰(zhàn)斗或非戰(zhàn)斗人工智能系統(tǒng)時(shí)出現(xiàn)意外偏差和無(wú)意中對(duì)人造成傷害。美國(guó)防部有責(zé)任采取措施，確保人工智能軍事應(yīng)用不產(chǎn)生歧視或其它有失公平的不良結(jié)果。但同時(shí)，報(bào)告也強(qiáng)調(diào)一些人工智能系統(tǒng)的“偏見(jiàn)”是有必要的，例如對(duì)軍人和平民、軍用物品和民用物品，應(yīng)該使用更成功地瞄準(zhǔn)特定敵方戰(zhàn)斗人員的人工智能系統(tǒng)，并盡可能減少對(duì)平民、非戰(zhàn)斗人員的不利影響，這體現(xiàn)了美軍鮮明的實(shí)用主義色彩。

三是“可追溯”原則。該原則強(qiáng)調(diào)美軍人工智能工程學(xué)科應(yīng)足夠先進(jìn)，以便技術(shù)專(zhuān)家對(duì)美軍人工智能系統(tǒng)的技術(shù)、開(kāi)發(fā)流程和操作方法有足夠的了解，提升其透明度。在人工智能系統(tǒng)的開(kāi)發(fā)和部署的整個(gè)生命周期，都要確?？勺匪菪浴＞唧w而言，在開(kāi)發(fā)階段，應(yīng)將設(shè)計(jì)方法、相關(guān)設(shè)計(jì)文檔和數(shù)據(jù)源提供給適當(dāng)?shù)呢P(guān)方。在部署階段，則要?jiǎng)?chuàng)建適當(dāng)?shù)挠脩?hù)訪問(wèn)和權(quán)限日志。

四是“可靠”原則。這一原則要求美軍人工智能系統(tǒng)應(yīng)具有明確的使用領(lǐng)域，并且此類(lèi)系統(tǒng)的安全性和魯棒性應(yīng)在其整個(gè)生命周期內(nèi)進(jìn)行測(cè)試和保證?？煽啃允呛饬肯到y(tǒng)發(fā)生故障頻率的指標(biāo)。當(dāng)前，實(shí)現(xiàn)人工智能系統(tǒng)的可靠性面臨諸多挑戰(zhàn)，包括非線(xiàn)性模型、復(fù)雜的自適應(yīng)系統(tǒng)、自學(xué)習(xí)系統(tǒng)、對(duì)抗性攻擊等問(wèn)題。美國(guó)防部在武器系統(tǒng)的“測(cè)試和評(píng)估”(T&E)以及“驗(yàn)證和確認(rèn)”(vV&V))方面擁有較為成熟的經(jīng)驗(yàn)，以確保武器系統(tǒng)性能符合預(yù)期。然而，當(dāng)人工智能系統(tǒng)是不確定的、非線(xiàn)性的、高維的時(shí)候，傳統(tǒng)的測(cè)試和驗(yàn)證技術(shù)就存在很多局限性。

五是“可管控”原則。該原則強(qiáng)調(diào)美軍人工智能系統(tǒng)的設(shè)計(jì)應(yīng)符合其預(yù)期功能，同時(shí)要具有檢測(cè)、避免意外傷害和及時(shí)中斷的能力?！稖?zhǔn)則》特別提及了人工智能系統(tǒng)可能帶來(lái)非預(yù)期事故這一問(wèn)題，并建議美國(guó)防部采取一定措施降低意外升級(jí)的風(fēng)險(xiǎn)。參考在股票市場(chǎng)的“熔斷機(jī)制”，《準(zhǔn)則》指出美軍可以通過(guò)對(duì)特定系統(tǒng)授權(quán)使用武力的類(lèi)型或數(shù)量進(jìn)行限制，各種操作的分層授權(quán)等方法，來(lái)管控人工智能可能帶來(lái)的相關(guān)應(yīng)用風(fēng)險(xiǎn)。

分析來(lái)看，《準(zhǔn)則》中明確的這五大原則以“負(fù)責(zé)任”為統(tǒng)領(lǐng)，強(qiáng)調(diào)了人工智能系統(tǒng)中的人類(lèi)判斷是實(shí)現(xiàn)責(zé)任的關(guān)鍵。接著強(qiáng)調(diào)“公正”，直指算法偏見(jiàn)這一問(wèn)題，同時(shí)又融合了國(guó)際人道法中的區(qū)分原則，強(qiáng)調(diào)不應(yīng)片面追求公正，而忽視軍民和敵我區(qū)分。第三和第四原則聚焦系統(tǒng)的兩大特性——可靠性和可預(yù)測(cè)性?？煽啃允呛饬肯到y(tǒng)發(fā)生故障頻率的指標(biāo)，而可預(yù)測(cè)性則是衡量系統(tǒng)在特定情況下性能(運(yùn)行過(guò)程、產(chǎn)生結(jié)果等)的指標(biāo)。相比可靠性作為所有復(fù)雜系統(tǒng)都存在的指標(biāo)，可預(yù)測(cè)性則是自主系統(tǒng)特有的要求，這與原則中的“可追溯性”所要求的的透明和可審核是相互聯(lián)系的。最后強(qiáng)調(diào)的“可管控”原則結(jié)合了前面的可靠性、可追溯等原則，旨在避免系統(tǒng)出現(xiàn)重大事故，是一個(gè)兜底的原則。

2.2十二條技術(shù)和政策建議《準(zhǔn)則》還提出了落實(shí)這五大原則的十二項(xiàng)具體建議，部分建議已經(jīng)被美國(guó)防部采納，成為未來(lái)的行動(dòng)藍(lán)圖。筆者按照技術(shù)研究和政策措施兩方面將其總結(jié)如下：

技術(shù)研究方面，該報(bào)告提出了以下建議：依托美軍負(fù)責(zé)研究與工程的副部長(zhǎng)辦公室培育和發(fā)展人工智能工程學(xué)科，將該部門(mén)的安全和責(zé)任傳統(tǒng)融入人工智能領(lǐng)域，將人工智能技術(shù)納入更大的領(lǐng)域復(fù)雜的工程系統(tǒng)；依托發(fā)展、測(cè)試與評(píng)估辦公室強(qiáng)化人工智能測(cè)試和評(píng)估技術(shù)研究，改進(jìn)現(xiàn)有的測(cè)試、評(píng)估和驗(yàn)證程序，并在必要時(shí)為人工智能系統(tǒng)建設(shè)新的基礎(chǔ)設(shè)施。這些程序應(yīng)遵循國(guó)防創(chuàng)新委員會(huì)“軟件獲取與實(shí)踐”研究中詳述的軟件驅(qū)動(dòng)的測(cè)試與評(píng)估指南；制定人工智能系統(tǒng)的可靠性基準(zhǔn)；強(qiáng)化對(duì)人工智能帶來(lái)新型安全問(wèn)題的研究力度；加大對(duì)提升可重復(fù)性的研究力度；研究管理人工智能風(fēng)險(xiǎn)的具體方法；召開(kāi)關(guān)于人工智能安全性和魯棒性的年會(huì)等。

在政策措施方面，《準(zhǔn)則》建議通過(guò)官方渠道正式將這些原則政策化(目前美國(guó)防部已正式簽署)；建立一個(gè)美軍范圍內(nèi)的人工智能指導(dǎo)委員會(huì)，負(fù)責(zé)確保監(jiān)督和執(zhí)行美軍人工智能戰(zhàn)略，并確保美軍人工智能項(xiàng)目符合人工智能倫理原則；強(qiáng)化在人工智能領(lǐng)域的人才培訓(xùn)計(jì)劃，要求各軍兵種、作戰(zhàn)司令部、國(guó)防部長(zhǎng)辦公室等都應(yīng)制定與相應(yīng)的人工智能技能和知識(shí)的培訓(xùn)和教育計(jì)劃，使初級(jí)軍官、現(xiàn)役軍人和平民在職業(yè)生涯早期都可以接受人工智能培訓(xùn)；聯(lián)合人工智能中心對(duì)這些倫理準(zhǔn)則的具體落實(shí)進(jìn)行監(jiān)督和審查，確保各部門(mén)正確落實(shí)這些倫理準(zhǔn)則[18]。

2.3關(guān)于“負(fù)責(zé)任地使用人工智能”(RAI)六項(xiàng)原則在前述《準(zhǔn)則》所提出的五項(xiàng)基本原則的基礎(chǔ)上，美國(guó)防部副部長(zhǎng)凱瑟琳·希克斯進(jìn)一步明確“負(fù)責(zé)任地使用人工智能”(RAI)六項(xiàng)原則如下：

一是負(fù)責(zé)任的人工智能治理。確保美軍各層級(jí)有明確的治理結(jié)構(gòu)和流程以進(jìn)行監(jiān)督和問(wèn)責(zé)，并闡明RAI的指導(dǎo)方針和政策，加速美國(guó)防部?jī)?nèi)部采用RAI相關(guān)激勵(lì)措施。

二是作戰(zhàn)人員信任。對(duì)作戰(zhàn)人員持續(xù)進(jìn)行人工智能相關(guān)知識(shí)的教育和測(cè)試，建立其對(duì)人工智能的信心。通過(guò)教育和培訓(xùn)，建立一個(gè)測(cè)試、評(píng)估、驗(yàn)證和確認(rèn)的框架，整合實(shí)時(shí)監(jiān)測(cè)、算法信心指標(biāo)和用戶(hù)反饋，以確?？尚刨?lài)的人工智能能力。

三是人工智能產(chǎn)品和采辦生命周期。通過(guò)系統(tǒng)工程和風(fēng)險(xiǎn)管理方法，開(kāi)發(fā)工具、策略、流程、系統(tǒng)和指南，與整個(gè)人工智能產(chǎn)品采辦生命周期的RAI保持同步。

四是需求驗(yàn)證。將RAI納入所有適用的人工智能需求，聯(lián)合需求監(jiān)督委員會(huì)建立并批準(zhǔn)的聯(lián)合性能要求，以確保將RAI納入美軍適當(dāng)?shù)娜斯ぶ悄苣芰Α?/p>

五是負(fù)責(zé)任的人工智能生態(tài)系統(tǒng)。建立國(guó)家和全球?qū)用娴膹?qiáng)大人工智能生態(tài)系統(tǒng)，改善美國(guó)國(guó)內(nèi)政府、學(xué)術(shù)、行業(yè)和其他利益攸關(guān)方之間的關(guān)系，強(qiáng)化與盟友和伙伴國(guó)之間的合作，推進(jìn)基于共同價(jià)值觀的全球人工智能規(guī)范。

六是人工智能人才隊(duì)伍。重點(diǎn)是要建立、培訓(xùn)、裝備和維持一支符合RAI要求的人工智能人才隊(duì)伍[4]。

相比之前提出的五項(xiàng)原則，這六大原則在“負(fù)責(zé)任”這一首要原則的基礎(chǔ)上，對(duì)人員信任、產(chǎn)品周期、生態(tài)系統(tǒng)等方面進(jìn)行了具體和細(xì)化，變得更具操作性。

3 美國(guó)防部軍事人工智能倫理準(zhǔn)則的特點(diǎn)

綜合分析來(lái)看，美國(guó)防部出臺(tái)的這份人工智能軍事應(yīng)用倫理準(zhǔn)則呈現(xiàn)出以下特點(diǎn)。

3.1冷戰(zhàn)思維與意識(shí)形態(tài)斗爭(zhēng)色彩明顯《準(zhǔn)則》延續(xù)了特朗普上臺(tái)后強(qiáng)調(diào)大國(guó)競(jìng)爭(zhēng)的一貫思路，意識(shí)形態(tài)斗爭(zhēng)色彩與冷戰(zhàn)思維十分明顯。特朗普政府的2017年《國(guó)家安全戰(zhàn)略報(bào)告》將中國(guó)視為戰(zhàn)略競(jìng)爭(zhēng)對(duì)手，并指稱(chēng)中俄等競(jìng)爭(zhēng)對(duì)手國(guó)正在利用人工智能和機(jī)器學(xué)習(xí)技術(shù)進(jìn)行情報(bào)搜集和數(shù)據(jù)分析，這將會(huì)增大美國(guó)的國(guó)家安全風(fēng)險(xiǎn)，美國(guó)必須要在人工智能等新興技術(shù)上保持領(lǐng)導(dǎo)地位[19]。此次美國(guó)國(guó)防創(chuàng)新委員會(huì)出臺(tái)的這份報(bào)告也彰顯了濃厚的意識(shí)形態(tài)對(duì)立色彩，將人工智能技術(shù)高度政治化?！稖?zhǔn)則》稱(chēng)當(dāng)前關(guān)于軍事人工智能領(lǐng)域的國(guó)際規(guī)范制定還是一塊“處女地”，因此近期在這一領(lǐng)域的舉措就會(huì)影響到這些國(guó)際規(guī)范是反映專(zhuān)制還是民主的理念，關(guān)乎專(zhuān)制主義與民主規(guī)范之間的競(jìng)爭(zhēng)，將其拔高到意識(shí)形態(tài)斗爭(zhēng)的高度。此外，《準(zhǔn)則》還將中國(guó)與俄羅斯等國(guó)家推進(jìn)人工智能研發(fā)應(yīng)用的做法進(jìn)行無(wú)端放大，大力渲染其帶來(lái)的安全威脅，歪曲其防衛(wèi)意圖，并抹黑其為所謂“數(shù)據(jù)集權(quán)主義/專(zhuān)制主義”，以此為美國(guó)加快推動(dòng)人工智能軍事應(yīng)用提供合理性。但事實(shí)上，不管是在人工智能軍事應(yīng)用相關(guān)的作戰(zhàn)概念(如算法戰(zhàn)、馬賽克戰(zhàn))，還是組織建設(shè)(如算法戰(zhàn)跨職能小組、聯(lián)合人工智能中心的建立)和實(shí)際應(yīng)用(如運(yùn)用智能無(wú)人機(jī)獵殺蘇萊曼尼)，美國(guó)試圖通過(guò)人工智能謀求絕對(duì)安全的這些霸權(quán)思維和現(xiàn)實(shí)行動(dòng)更大程度上誘發(fā)了當(dāng)前世界上的人工智能軍備競(jìng)賽。因此，這也體現(xiàn)了美國(guó)鮮明的“美國(guó)例外論”和“雙重標(biāo)準(zhǔn)”色彩。

3.2注重與美國(guó)現(xiàn)有理念和法律政策的協(xié)調(diào)作為世界上首份軍事領(lǐng)域的人工智能倫理準(zhǔn)則報(bào)告，《準(zhǔn)則》提出的五項(xiàng)原則十分注重與美國(guó)現(xiàn)有法律制度的協(xié)調(diào)?！稖?zhǔn)則》強(qiáng)調(diào)所提出的五項(xiàng)人工智能倫理原則是在美國(guó)防部現(xiàn)有倫理框架下制定的，與美軍心價(jià)值觀、政策指令和民主理念相一致的。報(bào)告梳理了美國(guó)防部現(xiàn)有倫理框架，包括美國(guó)憲法(U.S. Constitution)《美國(guó)法典》第十條、戰(zhàn)爭(zhēng)法( the Law of War)以及現(xiàn)有國(guó)際公約和國(guó)防部理念等。具體而言，美國(guó)國(guó)防部的核心價(jià)值觀包括領(lǐng)導(dǎo)力、專(zhuān)業(yè)精神、職責(zé)、誠(chéng)信、道德、榮譽(yù)、勇氣和忠誠(chéng)等。美國(guó)的民主理念包括個(gè)人尊嚴(yán)、個(gè)人權(quán)利(隱私權(quán)等)和法治(國(guó)際法相關(guān)條約)等。國(guó)防創(chuàng)新委員會(huì)專(zhuān)家將這些理念融入到了人工智能倫理準(zhǔn)則中去，使之具體化。例如，“負(fù)責(zé)任”原則中強(qiáng)調(diào)了人對(duì)于武器系統(tǒng)進(jìn)行必要控制的重要性，這一理念在美國(guó)防部2012年出臺(tái)的《3000.09指令》中已經(jīng)得到體現(xiàn)，該文件強(qiáng)調(diào)“自主和半自主武器系統(tǒng)的設(shè)計(jì)應(yīng)允許指揮官和操作員對(duì)其進(jìn)行適當(dāng)?shù)娜藶榕袛唷?，以及“授?quán)使用、指揮使用或操作自主和半自主武器系統(tǒng)的人必須嚴(yán)格地服從，并執(zhí)行戰(zhàn)爭(zhēng)法、適用的條約、武器系統(tǒng)安全規(guī)則和適用的交戰(zhàn)規(guī)則(ROE)”[20]。但需要指出的是，《準(zhǔn)則》只注重吸收國(guó)內(nèi)和少數(shù)盟友及伙伴國(guó)的觀點(diǎn)，強(qiáng)調(diào)所謂的“民主價(jià)值觀同盟”，卻幾乎無(wú)視了與世界上其他國(guó)家的合作，具有明顯的“小圈子文化”和排他性特征。

3.3重視可操作性和實(shí)用性美國(guó)防部出臺(tái)的這份人工智能倫理原則十分注重可操作性。與國(guó)際上一般的人工智能倫理準(zhǔn)則不同的是，這份《準(zhǔn)則》不是對(duì)于人工智能“應(yīng)然”倫理的空洞描述，而是提出了與五大倫理準(zhǔn)則相適應(yīng)的具體落實(shí)方案。例如，“負(fù)責(zé)任”原則強(qiáng)調(diào)人對(duì)武器系統(tǒng)的判斷和負(fù)責(zé)。人-機(jī)關(guān)系問(wèn)題是對(duì)于如何運(yùn)用自主武器系統(tǒng)的關(guān)鍵所在，而美國(guó)防部明確人應(yīng)當(dāng)對(duì)人工智能系統(tǒng)的整個(gè)生命周期行使適當(dāng)?shù)娜祟?lèi)判斷和負(fù)有責(zé)任，一方面是為了確保自主武器系統(tǒng)不脫離人的控制，避免系統(tǒng)故障等造成的誤殺誤傷事故。另一方面，這一原則也有利于使得自主武器的使用遵守國(guó)際人道法，避免問(wèn)責(zé)空白這一困境的出現(xiàn)。因?yàn)?，現(xiàn)有的國(guó)際人道法是針對(duì)人而非機(jī)器設(shè)立的，只要人對(duì)武器系統(tǒng)的整個(gè)周期保留適當(dāng)?shù)呐袛?、介入和控制，一旦發(fā)生事故就可以將問(wèn)責(zé)鏈條對(duì)應(yīng)到具體的人，避免機(jī)器的濫殺濫傷行為無(wú)法問(wèn)責(zé)?；谶@些理解，這份報(bào)告明確了人在整個(gè)人工智能系統(tǒng)研發(fā)、部署和使用等整個(gè)生命周期的責(zé)任。此外，美軍在五項(xiàng)原則基礎(chǔ)上提出的RAI六項(xiàng)原則，使之更加具體化，也充分體現(xiàn)了可操作性這一特點(diǎn)。

同時(shí)，《準(zhǔn)則》也體現(xiàn)了鮮明的實(shí)用主義色彩。當(dāng)前，人工智能的應(yīng)用出現(xiàn)了很多算法偏見(jiàn)方面的問(wèn)題，例如谷歌公司的人臉識(shí)別算法存在曾將黑人識(shí)別成“黑猩猩”的種族歧視問(wèn)題，對(duì)當(dāng)事人和整個(gè)黑人群體都帶來(lái)了傷害[21]。因此，國(guó)際人工智能技術(shù)社群十分強(qiáng)調(diào)算法公正這一問(wèn)題。但美國(guó)防部這份準(zhǔn)則在論述“公平”原則時(shí)，報(bào)告使用的是“equitable”而非“fair”一詞，并強(qiáng)調(diào)美國(guó)防部認(rèn)為戰(zhàn)斗不可能也不應(yīng)該是絕對(duì)公平的，因?yàn)槊儡姷暮诵哪繕?biāo)是保持對(duì)任何潛在對(duì)手的不對(duì)稱(chēng)優(yōu)勢(shì)，強(qiáng)化軍事實(shí)戰(zhàn)和威懾能力，以有利于己方的方式遏止沖突或在威懾失敗時(shí)快速打贏戰(zhàn)爭(zhēng)。從美軍的三次“抵消戰(zhàn)略”可以看出，美國(guó)一直以來(lái)的理念都是通過(guò)新興尖端科技塑造高于對(duì)手的不對(duì)稱(chēng)戰(zhàn)略?xún)?yōu)勢(shì)。如果一味強(qiáng)調(diào)對(duì)對(duì)手的公平，就會(huì)犯理想主義的錯(cuò)誤。不難理解，美國(guó)防部是更想強(qiáng)調(diào)人工智能系統(tǒng)對(duì)于美軍內(nèi)部人員的公平，而非針對(duì)對(duì)手的公平，具備顯著的實(shí)用主義乃至單邊霸權(quán)色彩。此外，這一報(bào)告十分注重提升人工智能系統(tǒng)的可靠性和安全性，提出要加大對(duì)研究人工智能帶來(lái)的新型安全問(wèn)題的投資力度，對(duì)人工智能時(shí)代的戰(zhàn)略競(jìng)爭(zhēng)和新型威懾領(lǐng)域進(jìn)行重點(diǎn)研究，特別是人工智能與網(wǎng)絡(luò)安全、量子計(jì)算、信息戰(zhàn)或生物技術(shù)等其他領(lǐng)域結(jié)合所帶來(lái)相關(guān)問(wèn)題的研究。同時(shí)，《準(zhǔn)則》還建議要研究應(yīng)對(duì)人工智能軍事應(yīng)用風(fēng)險(xiǎn)的具體方法。

4 對(duì)美軍人工智能倫理準(zhǔn)則的綜合評(píng)價(jià)與啟示

應(yīng)當(dāng)看到，美軍率先推出人工智能軍事應(yīng)用倫理準(zhǔn)則既是迫于各方壓力的無(wú)奈之舉，同時(shí)背后也隱含著霸權(quán)邏輯。對(duì)此，應(yīng)理性分析其帶來(lái)的客觀影響和局限，并得出一些對(duì)我軍事智能化建設(shè)的有益啟示。

4.1根本目的是為運(yùn)用人工智能護(hù)持美軍霸權(quán)、化解安全風(fēng)險(xiǎn)和輿論障礙從歷史上看，美國(guó)的國(guó)家安全戰(zhàn)略觀傾向于通過(guò)樹(shù)立假想敵來(lái)帶動(dòng)軍事力量建設(shè)和國(guó)家團(tuán)結(jié)，并以試圖以自身的技術(shù)優(yōu)勢(shì)和軍事霸權(quán)來(lái)確保自身的絕對(duì)安全，在人工智能這一新興戰(zhàn)略領(lǐng)域也體現(xiàn)了這樣的邏輯。美國(guó)防部認(rèn)為，鑒于其他大國(guó)(尤其是中俄)在軍事人工智能領(lǐng)域的加快布局，美國(guó)推動(dòng)人工智能的軍事應(yīng)用刻不容緩，而倫理準(zhǔn)則的制定是為安全、符合倫理和負(fù)責(zé)任使用人工智能的關(guān)鍵所在，因此也應(yīng)當(dāng)成為優(yōu)先事項(xiàng)。如果不盡快制定軍事倫理準(zhǔn)則，美國(guó)將面臨兩方面的重大風(fēng)險(xiǎn)。一是人工智能系統(tǒng)在軍事應(yīng)用時(shí)可能會(huì)出現(xiàn)問(wèn)題、危害國(guó)家安全的風(fēng)險(xiǎn)，具體包括內(nèi)部的可靠性問(wèn)題和外部的易受攻擊問(wèn)題[22]。二是遭受外界批評(píng)制造戰(zhàn)爭(zhēng)機(jī)器、毫無(wú)倫理道德約束的輿論譴責(zé)，國(guó)際聲譽(yù)和軟實(shí)力受損。這一點(diǎn)已經(jīng)在上文所述的谷歌員工抗議Maven項(xiàng)目事件中得到了充分體現(xiàn)。有鑒于此，美軍高度重視防范這些風(fēng)險(xiǎn)，例如在數(shù)據(jù)安全方面，就采取了很多舉措。2021年6月23日，凱瑟琳·?？怂乖趪?guó)防部人工智能技術(shù)交流研討會(huì)開(kāi)幕式上表示，美國(guó)防部已啟動(dòng)“人工智能與數(shù)據(jù)加速”(ADA)計(jì)劃，力圖快速推進(jìn)“聯(lián)合全域指揮控制”等相關(guān)概念深入發(fā)展，強(qiáng)調(diào)“必須確保所有數(shù)據(jù)都是可見(jiàn)的、可訪問(wèn)的、可理解的、可連接的、可信賴(lài)的、可互操作的和安全的”，必須“將數(shù)據(jù)視為戰(zhàn)略資源”[23]。總而言之，人工智能軍事應(yīng)用的安全風(fēng)險(xiǎn)以及國(guó)內(nèi)外輿論道德壓力，都給美國(guó)制定人工智能軍事應(yīng)用的倫理準(zhǔn)則提出了需求和動(dòng)力。正是看到了倫理準(zhǔn)則對(duì)于以可靠和保證問(wèn)責(zé)清晰的方式推進(jìn)人工智能的軍事應(yīng)用的重大意義，美軍才如此迅速地推出了軍事人工智能的倫理準(zhǔn)則。因?yàn)槲ㄓ腥绱?，美軍才有可能推進(jìn)“第三次抵消戰(zhàn)略”的順利進(jìn)行，維持美軍的科技優(yōu)勢(shì)與軍事霸權(quán)，這也是美軍搶先推出人工智能倫理準(zhǔn)則最本質(zhì)的目的。

4.2理性看待美國(guó)推出軍事人工智能倫理準(zhǔn)則的影響與局限正如美時(shí)任防長(zhǎng)埃斯帕在美軍人工智能倫理準(zhǔn)則發(fā)布會(huì)上所提到的那樣，“美國(guó)必須與我們的盟友和伙伴一道，加速采用人工智能，并在國(guó)家安全應(yīng)用方面發(fā)揮領(lǐng)導(dǎo)作用，以維持我們的戰(zhàn)略地位，在未來(lái)的戰(zhàn)場(chǎng)上占據(jù)優(yōu)勢(shì)，維護(hù)以規(guī)則為基礎(chǔ)的國(guó)際秩序。”[3]客觀分析來(lái)看，美軍高調(diào)推出人工智能倫理準(zhǔn)則，既有規(guī)范自身軍事人工智能發(fā)展應(yīng)用之目的，也有為在世界范圍內(nèi)搶占先機(jī)和制高點(diǎn)積極準(zhǔn)備之用意，最終希望在規(guī)范自身軍事人工智能發(fā)展的同時(shí)，在該領(lǐng)域塑造大幅領(lǐng)先于對(duì)手的絕對(duì)優(yōu)勢(shì)地位，為贏得未來(lái)戰(zhàn)爭(zhēng)提早進(jìn)行戰(zhàn)略準(zhǔn)備。換言之，美軍試圖以一種符合自身倫理道德和美國(guó)價(jià)值理念的方式，為人工智能軍事化掃清輿論障礙、引領(lǐng)國(guó)際軍事人工智能規(guī)范制定、維護(hù)美國(guó)的作戰(zhàn)優(yōu)勢(shì)和軍事霸權(quán)。未來(lái)，美軍能否將這些倫理原則落實(shí)還有待時(shí)間檢驗(yàn)，能否通過(guò)這一準(zhǔn)則完全彌合科技企業(yè)和國(guó)防部的理念分歧也存疑。同時(shí)，人工智能倫理與人工智能軍事應(yīng)用存在一些固有矛盾有待解決，例如完全自主的致命性自主武器系統(tǒng)究竟能否研發(fā)和部署？各國(guó)在人工智能領(lǐng)域的軍備競(jìng)賽是否會(huì)對(duì)全球戰(zhàn)略穩(wěn)定帶來(lái)嚴(yán)重沖擊？人工智能運(yùn)用于核指揮系統(tǒng)是否符合戰(zhàn)爭(zhēng)倫理和引發(fā)意外核升級(jí)風(fēng)險(xiǎn)？這些問(wèn)題目前在國(guó)際上存在較大爭(zhēng)議，也是這份倫理準(zhǔn)則沒(méi)有涉及的。但在人工智能快速發(fā)展和應(yīng)用的背景下，美國(guó)防部率先推出軍事領(lǐng)域的專(zhuān)門(mén)人工智能倫理準(zhǔn)則，在國(guó)際上產(chǎn)生重大影響，這一動(dòng)向仍然值得我們高度關(guān)注。

4.3重視我國(guó)軍事智能化發(fā)展過(guò)程中的安全管控和倫理規(guī)范制定中國(guó)作為人工智能發(fā)展大國(guó)，正加快推進(jìn)“軍事智能化發(fā)展”和“機(jī)械化信息化智能化融合發(fā)展”[24],這體現(xiàn)我國(guó)已經(jīng)將基于人工智能的軍事智能化建設(shè)視為建設(shè)世界一流軍隊(duì)的關(guān)鍵支撐和基本向度，而軍事人工智能倫理規(guī)范制定則是為我國(guó)推進(jìn)軍事智能化建設(shè)保駕護(hù)航的必要途徑。目前，在國(guó)家整體層面的人工智能倫理準(zhǔn)則制定方面，我國(guó)已經(jīng)開(kāi)始重視并初步采取了一些舉措。國(guó)務(wù)院于2017年出臺(tái)的《新一代人工智能發(fā)展規(guī)劃》強(qiáng)調(diào)，要“加強(qiáng)人工智能相關(guān)法律、倫理和社會(huì)問(wèn)題研究，建立保障人工智能健康發(fā)展的法律法規(guī)和倫理道德框架”[25]。2019年3月25日，北京智源人工智能研究院聯(lián)合一些高校、科研院所和產(chǎn)業(yè)聯(lián)盟，共同發(fā)布《人工智能北京共識(shí)》，對(duì)人工智能的研發(fā)、使用和治理三方面提出了各個(gè)參與方應(yīng)該遵循的15條原則[26]。2019年6月17日，國(guó)家新一代人工智能治理專(zhuān)業(yè)委員會(huì)發(fā)布《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》，提出了人工智能治理的基本框架和行動(dòng)指南[27]。2019年7月，我國(guó)正式組建中國(guó)國(guó)家科技倫理委員會(huì)。此外，我國(guó)還派出代表團(tuán)多次參與聯(lián)合國(guó)《特定常規(guī)武器公約》框架下關(guān)于致命性自主武器系統(tǒng)(LAWS)的探討，就人工智能技術(shù)定義、倫理法律風(fēng)險(xiǎn)提出了見(jiàn)解[28]。2021年9月25日，國(guó)家新一代人工智能治理專(zhuān)業(yè)委員會(huì)發(fā)布《新一代人工智能倫理規(guī)范》，提出了增進(jìn)人類(lèi)福祉、促進(jìn)公平公正、保護(hù)隱私安全、確?？煽乜尚?、強(qiáng)化責(zé)任擔(dān)當(dāng)、提升倫理素養(yǎng)等6項(xiàng)基本倫理要求和人工智能管理、研發(fā)、供應(yīng)、使用等特定活動(dòng)的18項(xiàng)具體倫理要求，旨在為從事人工智能相關(guān)活動(dòng)的主體提供倫理指引[29]。軍隊(duì)方面，我國(guó)軍內(nèi)智庫(kù)專(zhuān)家曾于2017年在新加坡香格里拉對(duì)話(huà)大會(huì)演講中呼吁國(guó)家研發(fā)部署人工智能武器必須兼顧倫理道德約束[30]。然而，客觀上而言，我軍目前還沒(méi)有制定官方的軍事人工智能倫理原則文件，這不利于我們順利推進(jìn)人工智能軍事應(yīng)用和提升制定軍事人工智能規(guī)范中的國(guó)際話(huà)語(yǔ)權(quán)。一旦美國(guó)聯(lián)合盟友和伙伴國(guó)等所謂“民主價(jià)值觀同盟”將這些原則向全世界推廣，以占領(lǐng)“道德高地”的方式批判他國(guó)軍隊(duì)在人工智能軍事應(yīng)用方面“沒(méi)有任何道德約束和禁忌”，我國(guó)可能面臨很大被動(dòng)和國(guó)際輿論壓力。有鑒于此，應(yīng)盡快結(jié)合我國(guó)實(shí)際情況和國(guó)家利益，聯(lián)合俄羅斯等國(guó)家，組織專(zhuān)家制定符合我國(guó)及廣大發(fā)展中國(guó)家發(fā)展利益的軍事人工智能倫理規(guī)范。

5 結(jié) 語(yǔ)

在人工智能迅速發(fā)展和走向軍事應(yīng)用的背景下，美國(guó)防部在美國(guó)法律和長(zhǎng)期價(jià)值觀的現(xiàn)有倫理框架基礎(chǔ)上，率先制定并推出了軍事領(lǐng)域的人工智能倫理準(zhǔn)則，提出了軍用人工智能系統(tǒng)應(yīng)當(dāng)是“負(fù)責(zé)的、公平的、可追溯的、可靠的和可治理的”五項(xiàng)原則，并配套系列舉措大力推動(dòng)這些原則的落地。一方面，我們要高度重視美軍在這一領(lǐng)域的動(dòng)向，看清美軍率先推出軍事領(lǐng)域的人工智能倫理準(zhǔn)則，既有規(guī)范美國(guó)軍事人工智能發(fā)展與應(yīng)用之目的，也是為了破除阻礙美軍運(yùn)用人工智能的輿論障礙，管控人工智能軍事應(yīng)用可能帶來(lái)的內(nèi)外部風(fēng)險(xiǎn)，同時(shí)為搶占軍事人工智能倫理準(zhǔn)則制定的國(guó)際主導(dǎo)權(quán)，維持美軍科技優(yōu)勢(shì)和軍事霸權(quán)、贏得未來(lái)戰(zhàn)爭(zhēng)提早進(jìn)行戰(zhàn)略準(zhǔn)備。另一方面，也要反思我國(guó)在這一領(lǐng)域的不足，借鑒其通過(guò)制定倫理準(zhǔn)則來(lái)為推動(dòng)軍隊(duì)智能化建設(shè)管控安全風(fēng)險(xiǎn)、減輕輿論壓力的做法，加快推進(jìn)適合我國(guó)國(guó)情、符合我軍軍情的軍事人工智能倫理準(zhǔn)則制定，為推動(dòng)和加快我國(guó)軍事機(jī)械化信息化智能化融合發(fā)展提供堅(jiān)實(shí)支撐和有效保障。同時(shí)，還要積極參與人工智能領(lǐng)域的國(guó)際安全治理，探索構(gòu)建相應(yīng)的國(guó)際規(guī)則和規(guī)范，為化解人工智能帶來(lái)的倫理、法律和安全風(fēng)險(xiǎn)，構(gòu)建人工智能時(shí)代的人類(lèi)命運(yùn)共同體貢獻(xiàn)中國(guó)智慧和中國(guó)方案。