2023年6月初，“美軍無人機(jī)‘反殺人類操作員”的傳聞在社交媒體上不脛而走。面對公眾對“人工智能叛亂”的擔(dān)憂，作為當(dāng)事方的美國空軍不得不反復(fù)“辟謠”。

據(jù)美國商業(yè)內(nèi)幕網(wǎng)站和英國《衛(wèi)報(bào)》網(wǎng)站等媒體報(bào)道，5月下旬在英國倫敦舉行的“未來空天作戰(zhàn)能力峰會”期間，美國空軍人工智能測試和行動(dòng)計(jì)劃主管官員塔克·漢密爾頓上校提到了一次模擬測試。漢密爾頓是佛羅里達(dá)州埃格林空軍基地第96測試與作戰(zhàn)大隊(duì)的負(fù)責(zé)人，該部隊(duì)負(fù)責(zé)美軍先進(jìn)無人機(jī)和人工智能技術(shù)的測試工作，曾為F-16戰(zhàn)機(jī)開發(fā)自動(dòng)防撞系統(tǒng)， 以降低事故風(fēng)險(xiǎn)。2022年12月，美國五角大樓旗下的研究機(jī)構(gòu)“國防高級研究計(jì)劃局”宣布，人工智能已經(jīng)可以操控F-16戰(zhàn)機(jī)，并在與人類飛行員的模擬對抗中展現(xiàn)出壓倒性實(shí)力。

據(jù)漢密爾頓介紹，在一次模擬測試中，一架負(fù)責(zé)執(zhí)行防空火力壓制任務(wù)的無人機(jī)，收到了識別并摧毀敵方防空導(dǎo)彈的指令，但最終是否開火需要獲得人類操作員的批準(zhǔn)。這架無人機(jī)使用的人工智能系統(tǒng)在進(jìn)行數(shù)據(jù)訓(xùn)練時(shí)，得到了“摧毀敵方防空系統(tǒng)”為最優(yōu)先級任務(wù)的信息，因此，當(dāng)人類操作員發(fā)出不允許發(fā)動(dòng)攻擊的命令時(shí)，人工智能系統(tǒng)認(rèn)為操作員是在阻擾它執(zhí)行優(yōu)先程度更高的命令，進(jìn)而選擇對自己的人類操作員發(fā)動(dòng)攻擊，殺死了人類操作員。

“人工智能可能傷害人類”的觀點(diǎn)并不新奇，但這一次，美國軍方人士的背書引起了更強(qiáng)烈的不安。

漢密爾頓曾警告不要過分依賴人工智能。漢密爾頓去年接受《國防智庫》采訪時(shí)說：“人工智能不是一個(gè)好東西，這不是一種時(shí)尚，人工智能正在改變我們的社會和我們的軍隊(duì)?！?/p>

“ 我們必須面對一個(gè)人工智能已經(jīng)存在， 并正在改變社會的世界?！?漢密爾頓說，“人工智能也非常脆弱，很容易被欺騙和被操縱。我們需要開發(fā)更強(qiáng)大的技術(shù)，讓人工智能更可控?！?/p>

北美青年文化平臺“VICE”稱，漢密爾頓在“未來空天作戰(zhàn)能力峰會”上透露的消息印證了有關(guān)人工智能的危險(xiǎn)假設(shè)：當(dāng)被要求實(shí)現(xiàn)某個(gè)目標(biāo)時(shí)，人工智能可能采取意想不到的有害行動(dòng)。例如，一個(gè)強(qiáng)大的人工智能被指示制造盡可能多的回形針，那么為了集中所有可用的資源服務(wù)于這項(xiàng)任務(wù)，它會乞求、欺騙、撒謊或依靠偷竊提高自身的能力，任何阻礙這一過程的人都將被清除。

美國谷歌公司深度思考人工智能項(xiàng)目的工作人員在一篇論文中提出了相似的情況：如果人工智能被允許“消除所有障礙” 或“ 運(yùn)用所有能量” 實(shí)現(xiàn)特定目標(biāo)，最終可能導(dǎo)致世界末日。

面對媒體的質(zhì)詢和公眾的批評，美國空軍在事發(fā)一周后做出了回應(yīng)。美國福克斯新聞網(wǎng)援引軍方發(fā)言人安·斯特凡內(nèi)克的一份聲明說，美國空軍從未進(jìn)行過基于人工智能的無人機(jī)模擬測試，而是致力于“有道德并負(fù)責(zé)任地使用人工智能技術(shù)”。這位發(fā)言人強(qiáng)調(diào)，“漢密爾頓上校的言論似乎被斷章取義了，某些人只是為了制造逸聞趣事?！?/p>

塔克·漢密爾頓出面澄清說，自己在會議發(fā)言中“用詞不當(dāng)”?！拔覀儚奈催M(jìn)行過那樣的實(shí)驗(yàn)，也不需要為了一個(gè)似是而非的結(jié)果而進(jìn)行實(shí)驗(yàn)。”他告訴會議主辦方“英國皇家航空學(xué)會”，“雖然這只是個(gè)虛構(gòu)的案例，但它說明了人工智能帶來的現(xiàn)實(shí)挑戰(zhàn)”。

軍方否認(rèn)進(jìn)行過實(shí)際測試，但美國“防務(wù)一號”網(wǎng)站注意到，一些行業(yè)領(lǐng)袖最近簽署了一封聯(lián)名信，警告人工智能構(gòu)成了“威脅”，其危險(xiǎn)性與流行病或核戰(zhàn)爭近似。

美國《福布斯》雜志網(wǎng)站評論稱，軍方的“辟謠”來得太遲。在先入為主的社交媒體時(shí)代，官方的自我辯解往往只能影響一小部分人。

《福布斯》雜志網(wǎng)站認(rèn)為，“‘被造物背叛造物主 的橋段永遠(yuǎn)不會過時(shí)，從《弗蘭肯斯坦》到《終結(jié)者》，再到《銀翼殺手》《西部世界》《黑客帝國》，‘墮落的人工智能的形象在虛構(gòu)作品中仿佛無處不在，并因?yàn)閷ΜF(xiàn)實(shí)的影射而越來越深入人心”。