文/ 蘭順正

近日，聯(lián)合國(guó)披露的一份關(guān)于2020年3月利比亞軍事沖突的報(bào)告中稱，土耳其STM 公司研制的卡古-2 四旋翼無人攻擊機(jī)被編程為在不依靠操作員的情況下自主攻擊撤退的哈夫塔爾指揮的“利比亞國(guó)民軍”，并很有可能造成了1 名國(guó)民軍成員死亡。

這是有史以來第一例記錄在案的無人機(jī)在沒有人為命令的情況下向人發(fā)動(dòng)攻擊的案例，引發(fā)了各界對(duì)于人工智能與自主武器的關(guān)注。

機(jī)器自主殺人的擔(dān)憂

▲ 具備AI 的無人機(jī)已經(jīng)擴(kuò)散到越來越多的國(guó)家，并且價(jià)格低廉，種類繁多

▲土耳其國(guó)防技術(shù)工程與貿(mào)易公司卡古無人機(jī)

隨著技術(shù)進(jìn)步，人工智能已經(jīng)得到廣泛應(yīng)用，可隨之而來就是與之相關(guān)問題的爭(zhēng)論。

就近期來說，人工智能在軍事領(lǐng)域大顯身手的同時(shí)也是毀譽(yù)參半。目前，軍用人工智能的發(fā)展主要集中在自主情報(bào)分析、自主指揮控制系統(tǒng)和自主武器3 個(gè)方面。

自主情報(bào)分析：具有機(jī)器算法的快速、準(zhǔn)確、無疲勞等特點(diǎn)，可以高速開展目標(biāo)識(shí)別和數(shù)據(jù)分析，提取有效情報(bào)，將大量的數(shù)據(jù)轉(zhuǎn)換為有價(jià)值的信息。

自主指揮控制系統(tǒng)：人工智能可以依據(jù)戰(zhàn)場(chǎng)情況和作戰(zhàn)需求的變化發(fā)展，動(dòng)態(tài)生成作戰(zhàn)指揮命令，快速實(shí)現(xiàn)作戰(zhàn)形態(tài)的自我聚合與分解，為作戰(zhàn)指揮提供前所未有的自主性和靈活性。

自主武器：對(duì)于自主武器系統(tǒng)概念的界定，依據(jù)美國(guó)國(guó)防部2012年的定義，自主武器系統(tǒng)是“一種激活后就無需操作人員進(jìn)一步干預(yù)，可以自主選擇和攻擊目標(biāo)的武器系統(tǒng)”。國(guó)際紅十字委員會(huì)在2014年將自主武器系統(tǒng)定義為可以獨(dú)立選擇和攻擊目標(biāo)的武器，即在獲取、跟蹤、選擇和攻擊目標(biāo)等“關(guān)鍵功能”方面具有自主權(quán)。

雖然前兩方面人工智能會(huì)參與作戰(zhàn)行動(dòng)的策劃與指揮，但畢竟沒有親自手動(dòng)，而自主武器系統(tǒng)的最大特點(diǎn)是能夠在不依賴外界指令和設(shè)備支持的情況下，在復(fù)雜作戰(zhàn)環(huán)境中依靠人工智能系統(tǒng)獨(dú)立作出開火決定，讓機(jī)器殺人成為現(xiàn)實(shí)，因此，爭(zhēng)論的焦點(diǎn)更多集中在自主武器上。

“兩面開刃”的自主武器

現(xiàn)在爭(zhēng)論的核心是自主武器該不該被使用，對(duì)于使用自主武器的后果，各方存在較大分歧。

一方面，美俄等國(guó)家從鞏固技術(shù)先發(fā)優(yōu)勢(shì)的立場(chǎng)出發(fā)，提出自主武器系統(tǒng)具有人類戰(zhàn)士無可比擬的優(yōu)越性。有人認(rèn)為，智能化自主武器系統(tǒng)不僅能夠使人與武器實(shí)現(xiàn)實(shí)質(zhì)性分離，使實(shí)際傷亡率無限趨近于0，而且自主武器系統(tǒng)無需考慮自身安全，不受主觀情緒左右，具有“理性優(yōu)勢(shì)”。

如果加上更快的信息處理速度，武器的使用效率和不同武器之間的協(xié)作也將大大提升，可以最大限度地獲得戰(zhàn)場(chǎng)主動(dòng)權(quán)。因此，未來具備人工智能的“無人軍團(tuán)”必將成為軍事大國(guó)的“標(biāo)配”，進(jìn)一步拉大國(guó)與國(guó)之間的軍力差距，甚至出現(xiàn)單方面“碾壓”。

▲ 卡古-2 四旋翼無人機(jī)

另一方面，聯(lián)合國(guó)、國(guó)際紅十字會(huì)和一些技術(shù)后發(fā)國(guó)家基于潛在的安全風(fēng)險(xiǎn)指出，擺脫人類控制的自主武器裝備系統(tǒng)將使戰(zhàn)爭(zhēng)更加冷血，在戰(zhàn)場(chǎng)上被授予了“自由開火權(quán)”，人工智能可能會(huì)自作主張，濫殺無辜，將戰(zhàn)爭(zhēng)變成一場(chǎng)場(chǎng)無法“重啟”的游戲。

有分析認(rèn)為，從道義角度出發(fā)，如果讓機(jī)器來決定人類生死，就會(huì)從根本上抹去人性在戰(zhàn)場(chǎng)上的存在感，使人類缺乏對(duì)殺戮行為的道德負(fù)擔(dān)，其結(jié)果必然使殺戮變得毫無人性。同時(shí)，在戰(zhàn)場(chǎng)上作出“開火”的決定，是綜合衡量大量復(fù)雜因素的結(jié)果，但目前的機(jī)器算法存在區(qū)分目標(biāo)的盲區(qū)，無法可靠地區(qū)分合法目標(biāo)與非法目標(biāo)。

▲ 土耳其的卡古-2 無人機(jī)

另外，即使自主武器在“主觀”上并不想與人類為敵，但因?yàn)槭芸赜谟?jì)算機(jī)軟件，就一定有出錯(cuò)的可能。例如，在2007年10月，美軍第3 機(jī)步師下屬部隊(duì)攜帶3 臺(tái)利劍機(jī)器人進(jìn)攻一個(gè)反美武裝據(jù)點(diǎn)，由于沒有及時(shí)更新軟件，其中1 臺(tái)“利劍”竟把槍口對(duì)準(zhǔn)美軍操作人員，即便在操作人員發(fā)出“行動(dòng)取消”指令后，失控的“利劍”依然不聽指揮，直到另一名美軍上尉用火箭彈把它炸翻才化險(xiǎn)為夷。

本文開頭提到的卡古-2 無人機(jī)由土耳其研制，是卡古無人機(jī)的升級(jí)版?！翱ü?2”重約6.8 千克，最高時(shí)速約145 千米，續(xù)航時(shí)間約30 分鐘，可攜帶1.36 千克重的武器，還擁有面部識(shí)別能力，可以尋找特定的個(gè)人。而當(dāng)被設(shè)定為“高效的自主模式”時(shí)，無需操作員的指令，該無人機(jī)就可瞄準(zhǔn)目標(biāo)自爆。

此次聯(lián)合國(guó)專家在報(bào)告中指出，這是一次真正的“發(fā)射后不管”，也是第一次在利比亞發(fā)現(xiàn)使用這種無人機(jī)，違反了聯(lián)合國(guó)第1970號(hào)決議的第9 條。

總之，“卡古-2”在利比亞沖突的表現(xiàn)打開了機(jī)器自主向人類攻擊的“魔盒”，各方對(duì)此必須予以高度重視?！?/p>