朱啟超 龍 坤

近年來(lái)，隨著人工智能技術(shù)的快速發(fā)展和應(yīng)用，算法戰(zhàn)這一概念越來(lái)越受到美軍重視，并采取一系列舉措，推動(dòng)算法戰(zhàn)由概念走向?qū)崙?zhàn)應(yīng)用。本文從算法戰(zhàn)的概念演變出發(fā)，探究美軍推動(dòng)算法戰(zhàn)的動(dòng)因，考察其在籌劃算法戰(zhàn)方面的主要布局，并對(duì)這一作戰(zhàn)概念的整體前景及美軍推進(jìn)算法戰(zhàn)面臨的障礙進(jìn)行分析。

算法戰(zhàn)概念的緣起與發(fā)展

“算法”通常是指描述解決問(wèn)題的一系列清晰指令，“戰(zhàn)爭(zhēng)”則是千百年來(lái)軍隊(duì)試圖使敵方屈服于己方意志的終極手段。當(dāng)“算法”遇上“戰(zhàn)爭(zhēng)”，會(huì)產(chǎn)生怎樣的化學(xué)反應(yīng)？

“算法戰(zhàn)”這一概念較早見(jiàn)于2013年4月美國(guó)智庫(kù)項(xiàng)目主任詹森·希利的《震網(wǎng)事件預(yù)示算法戰(zhàn)時(shí)代來(lái)臨》文章中。該文指出，震網(wǎng)病毒是首個(gè)用算法取代人手來(lái)扣動(dòng)扳機(jī)的自主武器，這預(yù)示著算法戰(zhàn)的時(shí)代或?qū)?lái)臨。

此后，算法戰(zhàn)這一概念日益受到美國(guó)學(xué)術(shù)界和軍方的重視。2016年9月，哈佛大學(xué)法學(xué)院發(fā)布了一份題為《戰(zhàn)爭(zhēng)算法問(wèn)責(zé)》的研究報(bào)告，該報(bào)告將“戰(zhàn)爭(zhēng)算法”定義為“通過(guò)電腦代碼表達(dá)、利用構(gòu)建系統(tǒng)實(shí)現(xiàn)以及能在戰(zhàn)爭(zhēng)行動(dòng)中運(yùn)作的算法”。2017年4月26日，美國(guó)防部明確建立算法戰(zhàn)跨職能小組，標(biāo)志著美國(guó)軍方對(duì)算法戰(zhàn)這一概念的正式認(rèn)可。

美軍籌劃算法戰(zhàn)的主要?jiǎng)右?/h2>

綜合分析來(lái)看，美軍高度重視算法軍事應(yīng)用的動(dòng)因如下。

一是開(kāi)發(fā)戰(zhàn)爭(zhēng)算法，破解數(shù)據(jù)爆炸式增長(zhǎng)帶來(lái)的情報(bào)分析難題。美軍推動(dòng)算法戰(zhàn)的直接誘因是軍事大數(shù)據(jù)的顯著增長(zhǎng)給情報(bào)分析機(jī)構(gòu)帶來(lái)了巨大的處理難題。隨著各類傳感器與計(jì)算機(jī)設(shè)備的高速發(fā)展和應(yīng)用，全世界的數(shù)據(jù)量呈指數(shù)級(jí)增長(zhǎng)。面對(duì)鋪天蓋地的大數(shù)據(jù)，僅憑坐在辦公室里的軍事專業(yè)分析人員已無(wú)力應(yīng)付。與此同時(shí)，算力的顯著提升及機(jī)器學(xué)習(xí)算法的進(jìn)步，為快速而準(zhǔn)確地分析大數(shù)據(jù)提供了有效手段。算法的快速、準(zhǔn)確、無(wú)疲勞等特征使之在大數(shù)據(jù)分析領(lǐng)域大展身手，展現(xiàn)出遠(yuǎn)超人類的能力。正因如此，美國(guó)防部聯(lián)合人工職能中心主任約翰·杰克·沙納漢中將甚至稱算法是“世界上最優(yōu)秀、訓(xùn)練最有素的數(shù)據(jù)分析師”。

美軍高度重視算法的軍事應(yīng)用

二是牽引美軍軍事智能化進(jìn)程，塑造美軍技術(shù)和信息優(yōu)勢(shì)。美軍希望通過(guò)推進(jìn)算法戰(zhàn)牽引人工智能快速嵌入軍事領(lǐng)域，推動(dòng)軍隊(duì)智能化建設(shè)，利用算法洞察戰(zhàn)爭(zhēng)中快速變化的風(fēng)險(xiǎn)與機(jī)遇，提升指揮決策效率，塑造信息優(yōu)勢(shì)。

美軍高層認(rèn)為，信息優(yōu)勢(shì)是維持美軍優(yōu)勢(shì)地位的關(guān)鍵，美國(guó)防部必須在行動(dòng)中更加有效地運(yùn)用人工智能技術(shù)，以在紛繁復(fù)雜的戰(zhàn)場(chǎng)信息中找出最有價(jià)值的情報(bào)，驅(qū)散己方面臨的“戰(zhàn)爭(zhēng)迷霧”，同時(shí)增大對(duì)方的不確定性，塑造人工智能時(shí)代的新型信息優(yōu)勢(shì)。美國(guó)防部認(rèn)識(shí)到，要將接收到的海量數(shù)據(jù)快速轉(zhuǎn)換為可參考的有價(jià)值情報(bào)，因此率先設(shè)立算法戰(zhàn)跨職能小組，推動(dòng)其發(fā)展。

三是推動(dòng)作戰(zhàn)概念創(chuàng)新，加快第三次“抵消戰(zhàn)略”落地。美軍推動(dòng)算法戰(zhàn)的根本目的是通過(guò)引入人工智能這一關(guān)鍵技術(shù)，推動(dòng)作戰(zhàn)概念的創(chuàng)新和作戰(zhàn)樣式的轉(zhuǎn)型，提升美軍的戰(zhàn)斗力，維持美軍優(yōu)勢(shì)地位。

美軍此次大力推進(jìn)算法戰(zhàn)，延續(xù)了試圖通過(guò)構(gòu)設(shè)新型作戰(zhàn)概念引領(lǐng)世界的傳統(tǒng)，同時(shí)也顯現(xiàn)出美軍對(duì)自身霸權(quán)地位衰落的焦慮感。前美國(guó)防部副部長(zhǎng)羅伯特·沃克強(qiáng)調(diào)，過(guò)去美軍通過(guò)精確制導(dǎo)武器等塑造的技術(shù)優(yōu)勢(shì)地位正在慢慢喪失，因此美軍要籌劃第三次“抵消戰(zhàn)略”，用快速發(fā)展的新興技術(shù)塑造美軍的新一輪優(yōu)勢(shì)，而自主深度學(xué)習(xí)系統(tǒng)、人機(jī)協(xié)作、機(jī)器輔助人類作戰(zhàn)、高級(jí)人機(jī)編隊(duì)及自主武器就是這一戰(zhàn)略的五大關(guān)鍵支柱。因此，推動(dòng)算法戰(zhàn)實(shí)質(zhì)上也是為了推動(dòng)美軍第三次“抵消戰(zhàn)略”的落地，抵消競(jìng)爭(zhēng)對(duì)手軍事實(shí)力的提升，維持美軍在21世紀(jì)的霸權(quán)地位。

美軍籌劃算法戰(zhàn)的主要舉措

總體來(lái)看，美軍在推動(dòng)算法戰(zhàn)落地方面主要有以下舉措。

頂層設(shè)計(jì)：出臺(tái)人工智能戰(zhàn)略和云戰(zhàn)略。人工智能已經(jīng)上升到美國(guó)的國(guó)防和國(guó)家戰(zhàn)略高度，而算法戰(zhàn)則是美軍人工智能戰(zhàn)略的重要組成部分?！?018美國(guó)國(guó)防戰(zhàn)略》強(qiáng)調(diào)，國(guó)防部將大力推動(dòng)人工智能和機(jī)器學(xué)習(xí)的軍事應(yīng)用，以獲得軍事競(jìng)爭(zhēng)優(yōu)勢(shì)。2019年2月，美國(guó)防部發(fā)布《美國(guó)防部2018人工智能戰(zhàn)略概要》，標(biāo)志著美軍人工智能戰(zhàn)略正式出臺(tái)。該戰(zhàn)略共明確了五大戰(zhàn)略舉措，其中與算法戰(zhàn)密切相關(guān)的是第1條舉措——“利用人工智能解決美軍關(guān)鍵問(wèn)題”，具體包括利用人工智能提升美軍態(tài)勢(shì)感知與決策能力、實(shí)施預(yù)測(cè)性維護(hù)和補(bǔ)給等。

美國(guó)防部也十分注重大數(shù)據(jù)和云計(jì)算基礎(chǔ)設(shè)施的發(fā)展。2018年12月國(guó)防部出臺(tái)《云戰(zhàn)略》，強(qiáng)調(diào)獲取數(shù)據(jù)和隨時(shí)處理數(shù)據(jù)的能力將是確保虛擬世界戰(zhàn)爭(zhēng)勝利的關(guān)鍵，明確推動(dòng)國(guó)防部朝著企業(yè)云環(huán)境的方向發(fā)展，建立一個(gè)由一般目的（通用云）和特定目的（定制云）的云平臺(tái)組成的生態(tài)系統(tǒng)。通用云的實(shí)現(xiàn)方式是建立聯(lián)合企業(yè)防御基礎(chǔ)設(shè)施，而在通用云不能滿足任務(wù)需求的情況下，則使用定制云。顯然，這一戰(zhàn)略的實(shí)施將為美軍推動(dòng)算法戰(zhàn)提供數(shù)據(jù)和計(jì)算支撐。

組織保證：建立算法戰(zhàn)相關(guān)機(jī)構(gòu)。算法戰(zhàn)跨職能小組是美軍推動(dòng)算法戰(zhàn)的首個(gè)專門(mén)機(jī)構(gòu)。2017年4月，前美國(guó)防部副部長(zhǎng)羅伯特·沃克簽署了一份關(guān)于主題為“專家項(xiàng)目”的備忘錄，指示組建算法戰(zhàn)跨職能小組，首要任務(wù)是開(kāi)發(fā)分析戰(zhàn)術(shù)無(wú)人機(jī)系統(tǒng)采集的全動(dòng)態(tài)視頻的戰(zhàn)爭(zhēng)算法，以減輕美空軍在無(wú)人機(jī)視頻數(shù)據(jù)分析領(lǐng)域的人力負(fù)擔(dān)，配合打擊“伊斯蘭國(guó)”組織的情報(bào)、監(jiān)視和偵察，后逐漸推廣到其他國(guó)防情報(bào)任務(wù)領(lǐng)域。據(jù)美國(guó)防務(wù)系統(tǒng)網(wǎng)站披露，美國(guó)算法戰(zhàn)跨職能小組2019年底已開(kāi)發(fā)出4套智能算法，預(yù)計(jì)將很快投入實(shí)戰(zhàn)應(yīng)用。

聯(lián)合人工智能中心是目前美軍推動(dòng)人工智能戰(zhàn)略落地的核心機(jī)構(gòu)。這一機(jī)構(gòu)由美國(guó)防部于2018年6月正式成立，旨在統(tǒng)籌國(guó)防部各機(jī)構(gòu)在人工智能領(lǐng)域的行動(dòng)。目前，該機(jī)構(gòu)已將算法戰(zhàn)跨職能小組并入其中，研究重點(diǎn)包括情報(bào)探知、預(yù)測(cè)性維護(hù)與供應(yīng)以及網(wǎng)絡(luò)空間等領(lǐng)域，這些都與算法戰(zhàn)密切相關(guān)。除此之外，美國(guó)還設(shè)立了多個(gè)人工智能專門(mén)機(jī)構(gòu)，軍地共同推動(dòng)人工智能的發(fā)展和應(yīng)用。

項(xiàng)目推進(jìn)：出臺(tái)系列算法戰(zhàn)相關(guān)項(xiàng)目。美國(guó)防部將人工智能的軍事應(yīng)用作為當(dāng)前優(yōu)先任務(wù)之一，并出臺(tái)了大量項(xiàng)目。前美國(guó)防部長(zhǎng)詹姆斯·馬蒂斯在2018年披露，美軍目前約有592個(gè)與人工智能相關(guān)的項(xiàng)目。其中，不乏存在與算法戰(zhàn)密切相關(guān)的一些項(xiàng)目，具有代表性的項(xiàng)目如下表所示。

美軍算法戰(zhàn)部分相關(guān)研發(fā)項(xiàng)目

與這些項(xiàng)目相伴隨的是美國(guó)防部大量的資金支持。2018年9月，美國(guó)防高級(jí)研究計(jì)劃局宣布，擬對(duì)“下一代人工智能”研究投入20億美元的資金。最新的《2021財(cái)年美國(guó)國(guó)防授權(quán)法案提議》也特別強(qiáng)調(diào)對(duì)人工智能等關(guān)鍵技術(shù)進(jìn)行投資，建議對(duì)人工智能投資8.41億美元。

算法戰(zhàn)的前景分析

算法戰(zhàn)跨職能小組是美軍推進(jìn)算法戰(zhàn)的重要部門(mén)，現(xiàn)已并入聯(lián)合人工智能中心

盡管美軍籌劃的算法戰(zhàn)抓住了目前人工智能顯現(xiàn)的巨大潛力，并在一些領(lǐng)域取得了顯著成效。但從未來(lái)發(fā)展看，算法戰(zhàn)這一概念及其推進(jìn)仍面臨著許多問(wèn)題。

算法安全面臨諸多挑戰(zhàn)。算法是算法戰(zhàn)的核心，這就使得算法的能力高低和安全與否成為成敗關(guān)鍵。當(dāng)前，人工智能算法面臨諸多安全挑戰(zhàn)，主要可分為兩大類：內(nèi)部的可靠性問(wèn)題和外部的攻擊利用問(wèn)題。

從內(nèi)部來(lái)看，目前的人工智能算法仍然屬于弱人工智能階段，能夠在下棋和識(shí)別圖像等專門(mén)領(lǐng)域表現(xiàn)良好。但在戰(zhàn)爭(zhēng)中，如果戰(zhàn)場(chǎng)環(huán)境發(fā)生變化，一些針對(duì)特定任務(wù)和場(chǎng)景設(shè)計(jì)的人工智能系統(tǒng)就可能會(huì)出現(xiàn)紊亂或失誤。

從外部來(lái)看，人工智能算法還容易受到來(lái)自外界的攻擊和利用。對(duì)抗性數(shù)據(jù)是一個(gè)尤為突出的問(wèn)題，用于軍事領(lǐng)域算法訓(xùn)練的數(shù)據(jù)可能會(huì)遭受對(duì)手的“投毒”，破壞算法的效能。研究表明，圖像識(shí)別算法就十分容易受到像素級(jí)“毒”數(shù)據(jù)的影響。

此外，針對(duì)算法所在系統(tǒng)存在的漏洞進(jìn)行網(wǎng)絡(luò)攻擊可使算法失效、紊亂乃至系統(tǒng)倒戈相向，從而給被攻擊的一方帶來(lái)戰(zhàn)術(shù)失利甚至災(zāi)難性后果。

算法難以消除“戰(zhàn)爭(zhēng)迷霧”。“戰(zhàn)爭(zhēng)迷霧”是千百年來(lái)困擾戰(zhàn)爭(zhēng)參與者的一大難題。克勞塞維茨曾指出，“戰(zhàn)爭(zhēng)是不確定性的王國(guó)；作戰(zhàn)行動(dòng)基于的種種因素大半掩藏在或大或小的不確定性迷霧之中”。現(xiàn)代戰(zhàn)爭(zhēng)雖然擺脫了之前信息匱乏的困境，但是也使得虛假的信息增多，從瀚如煙海的信息中捕捉到真實(shí)和有用信息變得十分困難，從而為戰(zhàn)爭(zhēng)蒙上了另一層迷霧。

美國(guó)推動(dòng)人工智能發(fā)展的主要政府機(jī)構(gòu)

雖然人工智能算法在情報(bào)搜集和分析上能夠發(fā)揮巨大效力，使得信息優(yōu)勢(shì)向技術(shù)優(yōu)勢(shì)方傾斜，但是軍事對(duì)抗系統(tǒng)復(fù)雜性的提高必然帶來(lái)新的不確定性，系統(tǒng)復(fù)雜性和不確定性相生相克的客觀規(guī)律仍然適用于這一領(lǐng)域。

最能說(shuō)明這一問(wèn)題的是近年日漸興起的深度偽造技術(shù)。該技術(shù)可通過(guò)生成對(duì)抗網(wǎng)絡(luò)等算法自動(dòng)生成圖像、視頻以及文本等虛假信息，用于訓(xùn)練的數(shù)據(jù)越多，深度偽造產(chǎn)品就會(huì)越逼真，甚至達(dá)到以假亂真的程度，使得眼見(jiàn)也不一定為實(shí)。這無(wú)疑將給戰(zhàn)場(chǎng)帶來(lái)更多的不確定性，令身處其中的士兵和指揮官難辨信息真假。

位于硅谷的谷歌總部

因此，人工智能算法的軍事應(yīng)用仍難以消除“戰(zhàn)爭(zhēng)迷霧”，不確定性仍會(huì)廣泛存在于算法戰(zhàn)中。

催生新的倫理和問(wèn)責(zé)困境。算法戰(zhàn)的推進(jìn)離不開(kāi)對(duì)致命性自主武器系統(tǒng)的研發(fā)，而這類武器系統(tǒng)的戰(zhàn)場(chǎng)使用將帶來(lái)新的倫理和法律問(wèn)題。

在倫理方面，隨著人工智能算法逐步走向戰(zhàn)場(chǎng)，在未來(lái)可能到來(lái)的全面算法戰(zhàn)中，天空是呼嘯而來(lái)的無(wú)人機(jī)蜂群，地面是機(jī)器人，海下是無(wú)人潛航器甚至無(wú)人核潛艇。在毫無(wú)憐憫之心的致命性自主武器系統(tǒng)面前，被人類奉為最高價(jià)值的生命和尊嚴(yán)可能受到算法的漠視甚至踐踏。

在法律問(wèn)責(zé)方面，基于人工智能算法的致命性自主武器系統(tǒng)在誤傷濫殺后還容易帶來(lái)責(zé)任真空。由于存在算法所在的人工智能系統(tǒng)因環(huán)境擾動(dòng)或外部攻擊而未按照指揮官意圖行事的風(fēng)險(xiǎn)，一旦發(fā)生事故責(zé)任將容易懸置。在這種情況下，究竟是將責(zé)任歸之于算法的設(shè)計(jì)者、制造系統(tǒng)的國(guó)防承包商，還是人工智能系統(tǒng)的操作者，抑或是指揮行動(dòng)的指揮官，似乎都不太合適。如何處理這些問(wèn)題，也是推進(jìn)算法戰(zhàn)面臨的一大挑戰(zhàn)。

美軍推進(jìn)算法戰(zhàn)仍面臨諸多障礙。除了算法戰(zhàn)概念本身存在的問(wèn)題之外，美軍推進(jìn)算法戰(zhàn)也面臨著諸多文化、流程和人員方面的挑戰(zhàn)。

首先，硅谷科技公司與美軍的理念沖突對(duì)美軍推進(jìn)算法戰(zhàn)帶來(lái)了障礙，這方面以谷歌退出Maven項(xiàng)目事件為主要代表。2018年3月，由于擔(dān)心人工智能技術(shù)被用于制作戰(zhàn)爭(zhēng)武器，有悖于公司“不作惡”的價(jià)值觀，谷歌公司3100多名員工聯(lián)名要求公司立即終止參與Maven項(xiàng)目，并聲明永不開(kāi)發(fā)戰(zhàn)爭(zhēng)技術(shù)。最終，谷歌迫于壓力退出項(xiàng)目，并制定了谷歌人工智能原則，以平息內(nèi)部抗議。

其次，美軍推進(jìn)算法戰(zhàn)還面臨著安全和性能標(biāo)準(zhǔn)等流程問(wèn)題。通常而言，民用和軍用的安全和性能標(biāo)準(zhǔn)是不一樣的，在民用人工智能應(yīng)用中可以接受的錯(cuò)誤率在作戰(zhàn)環(huán)境則可能難以接受。

再次，美國(guó)防部采購(gòu)速度的緩慢性也可能使私營(yíng)企業(yè)望而卻步。研究顯示，美軍從私營(yíng)企業(yè)采購(gòu)一項(xiàng)技術(shù)系統(tǒng)的過(guò)程平均需要91個(gè)月，而商業(yè)公司對(duì)人工智能這類軟件系統(tǒng)在6～9個(gè)月內(nèi)就能交付產(chǎn)品。正因如此，有12家公司都以國(guó)防采購(gòu)流程過(guò)于繁瑣為由拒絕與軍隊(duì)合作。

此外，美軍在招募和保留算法戰(zhàn)人才方面也面臨挑戰(zhàn)。相比商業(yè)公司對(duì)人工智能技術(shù)專家開(kāi)出的高薪，美國(guó)防部在經(jīng)濟(jì)報(bào)酬上并不占優(yōu)勢(shì)。加之一些技術(shù)工作者認(rèn)為在谷歌、亞馬遜等私營(yíng)企業(yè)比在體制內(nèi)更能實(shí)現(xiàn)自己的技術(shù)理想和抱負(fù)，也對(duì)美軍吸引算法戰(zhàn)人才構(gòu)成挑戰(zhàn)。

結(jié)語(yǔ)

美軍通過(guò)戰(zhàn)略規(guī)劃、機(jī)構(gòu)設(shè)立及項(xiàng)目推進(jìn)等措施積極籌劃算法戰(zhàn)，目的是運(yùn)用人工智能算法解決目前軍隊(duì)面臨的現(xiàn)實(shí)難題，同時(shí)快速推動(dòng)軍隊(duì)智能化建設(shè)和作戰(zhàn)理論創(chuàng)新，塑造美軍的新一輪技術(shù)優(yōu)勢(shì)，維持其軍事霸權(quán)地位。但是，算法戰(zhàn)的推進(jìn)面臨著算法安全、組織流程、文化等方面的挑戰(zhàn)，難以驅(qū)散“戰(zhàn)爭(zhēng)迷霧”，并會(huì)帶來(lái)新的倫理和法律問(wèn)責(zé)問(wèn)題。

同時(shí)應(yīng)當(dāng)看到，人工智能算法并不能解決一切問(wèn)題。盡管目前的人工智能算法在解決特定問(wèn)題領(lǐng)域強(qiáng)于人類，但是在解決可編程范圍外的戰(zhàn)爭(zhēng)問(wèn)題時(shí)，仍無(wú)法離開(kāi)理性分析能力、靈活應(yīng)變能力、道德分辨能力等人類智能。想要決勝未來(lái)戰(zhàn)場(chǎng)，既需要挖掘人工智能算法的精準(zhǔn)、快速、冷酷等優(yōu)勢(shì)，更需要充分發(fā)揮人類士兵和指揮官在靈活應(yīng)變、全局意識(shí)、情境判斷等方面的智慧，打造類似“半人馬戰(zhàn)士”的人機(jī)混合系統(tǒng)。