從武裝機(jī)器狗到無(wú)人潛艇，再到搜尋目標(biāo)的無(wú)人機(jī)，現(xiàn)代戰(zhàn)爭(zhēng)中越來(lái)越廣泛應(yīng)用的人工智能技術(shù)給人們帶來(lái)了急需解答的倫理難題。

2020年11月27日，下午3點(diǎn)30分，一列車隊(duì)駛?cè)氲潞谔m的伊瑪目霍梅尼大道。車內(nèi)有一名重要人物——伊朗秘密核武器項(xiàng)目的總負(fù)責(zé)人穆赫辛·法克里扎德。當(dāng)時(shí)，他與妻子正駕車前往鄉(xiāng)村住宅，由安保車輛護(hù)送，然而在即將抵達(dá)目的地時(shí)遭到了襲擊。

幾聲槍響過(guò)后，法克里扎德駕駛的黑色尼桑汽車被擊中，無(wú)法繼續(xù)行駛。槍聲再次響起，子彈擊中了這位科學(xué)家的肩膀，迫使他走出車輛求救。隨后，完全暴露在外的他又遭受了致命一擊，而坐在副駕駛的妻子安全無(wú)恙。

接下來(lái)，奇怪的事情發(fā)生了。一輛停在路邊的皮卡車不知為何突然爆炸。事后，伊朗安全部隊(duì)在檢查皮卡車的殘骸時(shí)，發(fā)現(xiàn)了一些機(jī)槍碎片。這是一把由電腦遠(yuǎn)程遙控的機(jī)槍，配備了多個(gè)攝像頭。難道，法克里扎德是被機(jī)器人槍殺的？

《紐約時(shí)報(bào)》的后續(xù)報(bào)道披露，這把機(jī)槍并非全自動(dòng)槍械。據(jù)推測(cè)，襲擊者位于1000公里之外，會(huì)根據(jù)皮卡車回傳的圖片判斷扣動(dòng)扳機(jī)的時(shí)機(jī)，并利用人工智能軟件解決信號(hào)延遲的問(wèn)題。

這簡(jiǎn)直就是一場(chǎng)噩夢(mèng)?；ヂ?lián)網(wǎng)上流傳的俄烏沖突的視頻片段更是加深了人們的恐懼。在烏克蘭戰(zhàn)場(chǎng)上，無(wú)人機(jī)隨處可見(jiàn)，從土耳其制造的“旗手”無(wú)人機(jī)、襲擊船只的海上無(wú)人機(jī)，到能夠投擲手榴彈的四軸飛行器。如果這些片段屬實(shí)，那么現(xiàn)實(shí)情況只會(huì)越來(lái)越糟糕。

| 機(jī)器人的新風(fēng)險(xiǎn) |

網(wǎng)上有這樣一段視頻：一架無(wú)人機(jī)將一只機(jī)器狗運(yùn)送至目的地。機(jī)器狗落地后便迅速啟動(dòng)，背上還馱著一把機(jī)槍。在另一段視頻中，一名俄羅斯人改裝了一只商用機(jī)器狗，使其能夠射出子彈。

針對(duì)這些觸目驚心的視頻，2022年10月，波士頓動(dòng)力公司與另外五家機(jī)器人公司發(fā)表了聯(lián)合聲明：“我們認(rèn)為，改裝遠(yuǎn)程遙控機(jī)器人或自動(dòng)化機(jī)器人，為它們添加武器，遙控它們進(jìn)入從前難以進(jìn)入的他人工作起居之地，這些會(huì)造成新的風(fēng)險(xiǎn)，也嚴(yán)重違反倫理。將此類新型機(jī)器人武器化，會(huì)導(dǎo)致公眾不再信任本能造福社會(huì)的機(jī)器人技術(shù)。目前有大量個(gè)人嘗試將商用機(jī)器人武器化的事件，我們表示強(qiáng)烈反對(duì)，并將極力避免這種情況。我們希望，有關(guān)部門能協(xié)助我們一同提倡安全使用移動(dòng)機(jī)器人?！?/p>

現(xiàn)代汽車集團(tuán)旗下的現(xiàn)代羅特姆公司，似乎并沒(méi)有這方面的顧慮。2023年4月，現(xiàn)代羅特姆宣布，將與韓企彩虹機(jī)器人公司合作研發(fā)一款多足防務(wù)機(jī)器人。宣傳片顯示，這款產(chǎn)品其實(shí)就是配有槍支的機(jī)器狗。

防務(wù)分析家、軍事歷史學(xué)家蒂姆·里普利表示，波士頓動(dòng)力公司的聲明不具有太大的實(shí)際意義?！熬退銠C(jī)器人不配備武器，也依然會(huì)被用于戰(zhàn)爭(zhēng)。比如一架偵察無(wú)人機(jī)在發(fā)現(xiàn)目標(biāo)后，由使用者決定射出炮彈，奪人性命。那么，這架無(wú)人機(jī)和可發(fā)射炮彈的無(wú)人機(jī)其實(shí)沒(méi)有太大區(qū)別，它們都是攻擊鏈中的一環(huán)?！崩锲绽f(shuō)。他還指出，偵察無(wú)人機(jī)在俄烏沖突中發(fā)揮了關(guān)鍵作用，既能追蹤敵軍動(dòng)向，又能發(fā)現(xiàn)轟炸目標(biāo)。

由計(jì)算機(jī)控制的軍事硬件通常由兩部分組成：硬件本身與控制軟件。在戰(zhàn)場(chǎng)上，除了無(wú)人機(jī)，其他機(jī)器人尚不多見(jiàn)。不過(guò)，智能軟件的應(yīng)用已越來(lái)越普及?！坝?guó)的武器系統(tǒng)中內(nèi)置了一系列自主軟件，這很有必要。有了這些軟件，士兵就能更快地作出決定?！眰惗貒?guó)王學(xué)院的資深戰(zhàn)爭(zhēng)研究員馬丁·邁克說(shuō)，“比如一架負(fù)責(zé)探測(cè)地面熱輻射信號(hào)的阿帕奇直升機(jī)，其機(jī)載軟件能迅速識(shí)別潛在目標(biāo)，甚至能給出建議，告訴飛行員哪些目標(biāo)應(yīng)優(yōu)先處理。飛行員獲得信息后，便能作出抉擇?！?/p>

| 防微杜漸 |

軍方顯然希望擁有更多類似的武器系統(tǒng)，尤其是能與機(jī)器人適配的武器系統(tǒng)。美國(guó)幽靈機(jī)器人公司研制的機(jī)器狗（業(yè)內(nèi)又稱四足機(jī)器人）被譽(yù)為偵察利器，可幫助巡邏人員探測(cè)潛在風(fēng)險(xiǎn)地區(qū)。此外，它們也被稱作殺人機(jī)器。

在2021年10月的美國(guó)陸軍協(xié)會(huì)年會(huì)上，幽靈機(jī)器人公司展出了一只“殺手機(jī)器狗”，它的背上頂著一把槍。這把槍由美國(guó)斯沃德防御系統(tǒng)公司制造，名為特殊用途無(wú)人步槍。斯沃德公司在官方網(wǎng)站上宣稱：特殊用途無(wú)人步槍是無(wú)人武器系統(tǒng)的未來(lái)，而這個(gè)未來(lái)已經(jīng)到來(lái)。

英國(guó)皇家海軍曾測(cè)試過(guò)名為曼塔的無(wú)人潛航器。該潛航器長(zhǎng)九米，裝載了聲吶、攝像機(jī)、通信裝置及干擾裝置，進(jìn)行水下作業(yè)。此外，2021年11月，美軍與英軍在莫哈維沙漠練習(xí)使用了無(wú)人機(jī)、機(jī)器人運(yùn)輸工具及人工智能技術(shù)，幫助英軍在戰(zhàn)場(chǎng)上變得更加致命。

然而，就目前而言，即使是最精細(xì)復(fù)雜的自主武器系統(tǒng)，決策環(huán)節(jié)依舊需要人類參與。參與形式分為兩種。一種是“人在環(huán)中”，即電腦將潛在目標(biāo)呈現(xiàn)給人類操作員，由操作員決定如何行動(dòng)。另一種是“人在環(huán)上”，即電腦給出目標(biāo)的擊殺順序，雖然人類能隨時(shí)操控電腦，但大部分決策由電腦作出。而更為極端的情況是，系統(tǒng)完全自主運(yùn)行，在沒(méi)有人類干預(yù)的情況下自主選擇并除掉目標(biāo)。

“希望我們永遠(yuǎn)不會(huì)走到最后一個(gè)階段。”邁克說(shuō)，“如果把決定權(quán)交給自主武器系統(tǒng)，那我們就失去了控制權(quán)。如果系統(tǒng)認(rèn)為，除掉人類領(lǐng)導(dǎo)者是對(duì)當(dāng)前戰(zhàn)局最有利的選擇，那該怎么辦呢？誰(shuí)都無(wú)法保證這種事情不會(huì)發(fā)生?！彪娪啊督K結(jié)者》便描繪了類似的噩夢(mèng)場(chǎng)景：人工智能機(jī)器人發(fā)起戰(zhàn)爭(zhēng)，誓將人類趕盡殺絕。

弗吉尼亞理工大學(xué)教授費(fèi)拉斯·巴塔爾塞相信，人類社會(huì)距離完全自主的武器系統(tǒng)還很遙遠(yuǎn)，但人工智能已發(fā)展到了危險(xiǎn)水平。“人工智能技術(shù)還不夠聰明，不足以讓我們完全信任。但它們也沒(méi)有那么蠢，所以人類會(huì)下意識(shí)地反應(yīng)過(guò)來(lái)，不能讓它們脫離控制。”他說(shuō)。

換句話說(shuō)，若士兵全然信任人工智能系統(tǒng)，或許會(huì)讓自己陷入更危險(xiǎn)的境地。原因在于，目前的人工智能還無(wú)法處理沒(méi)有學(xué)習(xí)過(guò)的情況。研究學(xué)者將意外情況稱作異常值，而戰(zhàn)爭(zhēng)顯然會(huì)造成大量異常值?！霸趹?zhàn)場(chǎng)上，意外狀況隨時(shí)隨地都會(huì)發(fā)生。異常值簡(jiǎn)直就是戰(zhàn)爭(zhēng)的代名詞，而目前的人工智能還無(wú)法很好地處理它?！卑退柸f(shuō)。

即使解決了這個(gè)問(wèn)題，我們依然需要應(yīng)對(duì)棘手的倫理困境。舉個(gè)例子，當(dāng)人工智能作出了擊殺的決定，你該如何判斷它的決定是否正確？這與阻撓自動(dòng)駕駛技術(shù)發(fā)展的電車難題是類似的。再比如，面對(duì)即將發(fā)生的事故，我們應(yīng)任由其發(fā)展，致使五個(gè)人喪生，還是應(yīng)該采取行動(dòng)犧牲第六人，拯救這五個(gè)人？怎么做才符合倫理？

普渡大學(xué)的教授索蘭·馬泰認(rèn)為，解決辦法或許在于，讓人工智能戰(zhàn)士意識(shí)到自身的脆弱所在。如此，它們才會(huì)重視自己的“生命”，并“推己及人”。馬泰甚至認(rèn)為，這么做或許能讓戰(zhàn)爭(zhēng)變得更加人性化，“要讓人工智能變得可信任，就必須將它們擔(dān)心失去的東西賦予它們?！?/p>

但即使是最具倫理道德的戰(zhàn)爭(zhēng)機(jī)器人也有一個(gè)硬傷，那就是無(wú)法抵御黑客入侵?！澳氵@邊研發(fā)一個(gè)武器系統(tǒng)，那邊就會(huì)有人嘗試破解它。”里普利說(shuō)。這也是為什么機(jī)器人部隊(duì)顯然會(huì)成為敵軍入侵的首要目標(biāo)。若敵軍將倫理道德從機(jī)器人的芯片中抹去，策反它們，那么后果不堪設(shè)想。

邁克認(rèn)為，要想控制這些可怕的武器，或許可以參考軍事歷史?！皻v史上讓人類恐懼的武器有很多，比如核武器、化學(xué)武器、生物武器。如今各方簽署了軍備控制條約，不是因?yàn)槟膰?guó)政府主動(dòng)放棄了研發(fā)，而是因?yàn)榇蠹以谲妭涓?jìng)賽中發(fā)現(xiàn)，這些武器竟然如此可怕，所以才愿意坐下來(lái)好好談一談。”

如今，無(wú)人機(jī)、機(jī)器人及其他無(wú)人武器越來(lái)越頻繁地出現(xiàn)在戰(zhàn)場(chǎng)上。在自主武器控制條約出臺(tái)之前，想必還有一段膽戰(zhàn)心驚的日子要過(guò)。

編輯：侯寅