張敏

科幻電影《終結(jié)者》中，原本作為軍方作戰(zhàn)網(wǎng)絡(luò)的“天網(wǎng)”在強(qiáng)人工智能推動下逐漸具備了自我意識，因而演變成未來世界機(jī)器人的領(lǐng)袖，帶領(lǐng)著掌握“開火權(quán)”的機(jī)器人肆意殘害人類。場景雖然科幻，但也表現(xiàn)出人們對于智能化戰(zhàn)爭時代，對擁有高度智能的無人作戰(zhàn)系統(tǒng)的深切擔(dān)憂。

人與武器的關(guān)系是軍事領(lǐng)域亙古不變的重要話題。隨著被譽(yù)為“人類智慧最后堡壘”的圍棋領(lǐng)域被人工智能攻破，有理由相信人工智能技術(shù)及無人自主作戰(zhàn)平臺將成為新型顛覆性作戰(zhàn)樣式，以戰(zhàn)斗機(jī)器人為代表的人工智能無人武器系統(tǒng)或?qū)⒅髟孜磥響?zhàn)場。美國早在其《21世紀(jì)戰(zhàn)略技術(shù)》中就直言：“20世紀(jì)的核心武器是坦克，21世紀(jì)的核心武器是無人系統(tǒng)?！比欢?，如果賦予智能無人作戰(zhàn)系統(tǒng)“生殺大權(quán)”，甚至實(shí)施完全是機(jī)器人士兵的“機(jī)器代理人戰(zhàn)爭”，擁有高度智能的無人作戰(zhàn)系統(tǒng)或?qū)选督K結(jié)者》等電影中的場景變?yōu)楝F(xiàn)實(shí)。除禁止使用“攻擊性自主武器”外，避免無人作戰(zhàn)系統(tǒng)擁有“開火權(quán)”，或?qū)⒊蔀橹悄軕?zhàn)爭時代人類可行的“救贖”方式。

人工智能叩開智能化戰(zhàn)爭之門

早在2011年，白俄羅斯就曾推出過一款無人駕駛遙控武器平臺，這種擁有履帶系統(tǒng)的無人作戰(zhàn)平臺，可在遙控指令控制下使用配備的機(jī)槍和榴彈發(fā)射器攻擊800米距離內(nèi)的目標(biāo)。當(dāng)然，這并不是目前惟一一款可“開火”的無人作戰(zhàn)平臺：美國海軍陸戰(zhàn)隊正在測試的模塊化先進(jìn)武裝機(jī)器人系統(tǒng)，可借助人工智能控制持槍機(jī)器人；俄羅斯戰(zhàn)略導(dǎo)彈部隊研制的狼-2式移動機(jī)器人系統(tǒng)，可在5千米范圍內(nèi)通過無線電頻道控制，能在時速35千米的情況下使用武器精確擊中目標(biāo)；以色列研制的多戈武裝作戰(zhàn)機(jī)器人，自帶格洛克26型9毫米口徑手槍；還有諸如美國海軍陸戰(zhàn)隊角斗士作戰(zhàn)機(jī)器人、以色列守護(hù)者無人駕駛戰(zhàn)車等，類似的攻擊型無人作戰(zhàn)平臺近年來不斷涌現(xiàn)。

目前，人工智能已經(jīng)被作為戰(zhàn)爭史上的“第三次戰(zhàn)爭革命”，正加速叩開未來智能化戰(zhàn)爭的大門。曾幾何時，火藥的出現(xiàn)是“第一次戰(zhàn)爭革命”，槍支與火炮等“熱兵器”的實(shí)用化對軍隊組成結(jié)構(gòu)和作戰(zhàn)方式產(chǎn)生了顛覆性變革；“第二次戰(zhàn)爭革命”伴隨著熱核武器實(shí)用化而來，意味著戰(zhàn)爭已經(jīng)達(dá)到以破壞整個國家為前提的戰(zhàn)略對峙，戰(zhàn)爭方式再次發(fā)生巨大變化。人工智能的出現(xiàn)同樣具備從根本上改變戰(zhàn)爭方式的潛力，未來戰(zhàn)爭或?qū)⒀葑兂伞皺C(jī)器VS人”乃至“機(jī)器殺人”的“機(jī)器人代理戰(zhàn)爭”。

本來，人們對于人工智能無人作戰(zhàn)裝備的需求合情合理。戰(zhàn)爭不可避免會引發(fā)流血、傷殘與死亡，無人作戰(zhàn)系統(tǒng)由于“平臺無人”，既能打仗，又不存在人員傷亡，因而適用于執(zhí)行各類高危險和高烈度戰(zhàn)爭任務(wù)，甚至可以完全取代士兵去沖鋒陷陣。因此，近年來無人作戰(zhàn)系統(tǒng)愈發(fā)得到各軍事大國研究投入，各類無人作戰(zhàn)系統(tǒng)的數(shù)量與規(guī)模也是越來越大。

在當(dāng)前軍事斗爭需求的刺激下，無人作戰(zhàn)系統(tǒng)正向著陸?？仗斓榷嗑S度快速拓展，任務(wù)領(lǐng)域也已覆蓋到包括電子干擾、偵察預(yù)警、通信中繼、排雷排爆和火力打擊等傳統(tǒng)有人作戰(zhàn)領(lǐng)域，尤其是其精確化、智能化水平的不斷提升，已經(jīng)成為各軍事大國武器裝備發(fā)展的重點(diǎn)方向。畢竟，目前公開亮相的人工智能系統(tǒng)只是基于神經(jīng)網(wǎng)絡(luò)的深度學(xué)習(xí)弱人工智能，即將到來的強(qiáng)人工智能或?qū)⒓铀僮呦蛭磥響?zhàn)場，在智能化感知與信息處理、智能化指揮控制輔助決策、無人軍用平臺及軍用機(jī)器人、人體體能技能及智能輔助系統(tǒng)等領(lǐng)域發(fā)揮重要作用，推動著智能化戰(zhàn)爭時代的加速到來。

智能武器正面臨諸多風(fēng)險挑戰(zhàn)

未來戰(zhàn)爭，隨著人工智能越來越多走上戰(zhàn)場，戰(zhàn)爭形態(tài)將從信息化戰(zhàn)爭向著智能化戰(zhàn)爭加速推進(jìn)。但人工智能機(jī)器人“大兵”真的在戰(zhàn)場上沖鋒陷陣之時，可別高興得太早，這些高度智能化武器也會對人類帶來諸多風(fēng)險挑戰(zhàn)。

2005年的伊拉克戰(zhàn)場上，美軍的劍戰(zhàn)斗機(jī)器人就曾無故將槍口指向指揮官；2015年7月，美國一臺“發(fā)瘋”的機(jī)器人也曾“失手”將一名裝配工人殺死，俄羅斯也出現(xiàn)了機(jī)器人莫名“越獄”的故事?？梢哉f，在復(fù)雜戰(zhàn)場環(huán)境下，擁有高度智能的無人作戰(zhàn)系統(tǒng)極有可能出現(xiàn)識別錯誤、通信降級甚至被敵電磁、網(wǎng)絡(luò)攻擊后“倒戈反擊”等問題，而諸如濫殺無辜、系統(tǒng)失控等更是給智能武器的軍事應(yīng)用帶來了無窮隱憂。

其實(shí)，人們對于智能武器系統(tǒng)的擔(dān)憂，從命名伊始就初見端倪。機(jī)器人的英文名為“Robot”，最早是由捷克作家卡雷爾·恰佩克在科幻作品中首創(chuàng)，其原意就是“農(nóng)奴式被強(qiáng)迫的勞動者”，并借此稱呼那些造反的機(jī)器仆人。1991年出版的《無人戰(zhàn)爭—未來戰(zhàn)場上的機(jī)器人》，也對軍用機(jī)器人使用后的倫理問題提出了嚴(yán)肅的思考。未來的智能化戰(zhàn)爭，戰(zhàn)場上的絕大多數(shù)作戰(zhàn)任務(wù)都將交由戰(zhàn)斗機(jī)器人來完成，一旦人類授予了智能武器“開火權(quán)”，這群毫無感情、不知疲倦殺人的機(jī)器走上戰(zhàn)場，會不會濫殺無辜，會不會出現(xiàn)失控，甚至?xí)粫{(diào)轉(zhuǎn)槍口成為“人類終結(jié)者”，都是我們必須思考的問題。

一方面，誰能為智能武器的“濫殺無辜”來買單。隨著相關(guān)技術(shù)的不斷發(fā)展，人工智能在某些領(lǐng)域超越人類已是不爭的事實(shí)，完全脫離人類控制而實(shí)現(xiàn)自主攻擊或?qū)⒊蔀槿斯ぶ悄茉谖磥響?zhàn)爭中的終極作戰(zhàn)形式。但人工智能武器的智能化一旦超過一定程度，極有可能出現(xiàn)自作主張甚至濫殺無辜的行為。另一方面，智能武器的戰(zhàn)場失控程度難以估計。理論上講，武器的智能化程度越高，其內(nèi)部電腦控制軟件的規(guī)模就越龐大且復(fù)雜，出現(xiàn)故障的概率也就相應(yīng)的越高。早在2005年，美國空軍的一架戰(zhàn)斗機(jī)突然自動向地面重要設(shè)施發(fā)射了一枚導(dǎo)彈，事故原因是飛機(jī)的火控系統(tǒng)電腦出了故障。

事實(shí)上，智能武器在戰(zhàn)場復(fù)雜電磁環(huán)境下也會因干擾而失控。同時，戰(zhàn)場上的敵我識別對智能武器而言同樣并非易事，伊拉克戰(zhàn)爭期間美軍的導(dǎo)彈系統(tǒng)就曾把己方飛機(jī)擊落，原因就在于無法準(zhǔn)確判斷而產(chǎn)生的戰(zhàn)場失控。