這不再是科幻小說的內(nèi)容：將人工智能（AI）應(yīng)用于核武器系統(tǒng)的競賽正在進(jìn)行中。

沒人懷疑，使用核武器所帶來的風(fēng)險(xiǎn)，會(huì)給人類和地球造成難以估量的破壞。即便只是區(qū)域性核戰(zhàn)爭，它也可能直接殺死數(shù)十萬人，由此造成的氣候變化又可能使數(shù)十億人陷入饑餓。然而，最近數(shù)周內(nèi)七國集團(tuán)發(fā)布的行為準(zhǔn)則和拜登的行政命令，都只是順便提到了有必要保護(hù)民眾免受人工智能所帶來的化學(xué)、生物與核領(lǐng)域的威脅，英國首相蘇納克則根本沒提到與核武器相關(guān)的人工智能應(yīng)用所帶來的嚴(yán)重危險(xiǎn)。

核歷史上的未遂事故屢見不鮮。很多時(shí)候，相比盲目遵從機(jī)器所提供的信息，人類選擇相信自己的判斷，世界末日也因此得以避免。1983年，蘇聯(lián)軍官斯坦尼斯拉夫·彼得羅夫收到其正在監(jiān)控的預(yù)警衛(wèi)星系統(tǒng)的警報(bào)：探測(cè)到美國核導(dǎo)彈正在飛往蘇聯(lián)。但彼得羅夫并未立即向其上級(jí)提出警示（此舉無疑會(huì)引發(fā)核“報(bào)復(fù)”），而是正確地認(rèn)定這是一次錯(cuò)誤的報(bào)警。

如果有人工智能的參與，彼得羅夫是否會(huì)做出同樣的決定—甚至，他是否會(huì)有這樣做的機(jī)會(huì)？事實(shí)上，將機(jī)器學(xué)習(xí)應(yīng)用于核武，將削弱人類對(duì)于部署核武之決策的控制力。

當(dāng)然，自核武器發(fā)明以來，越來越多的指揮、控制和通信任務(wù)已經(jīng)進(jìn)入自動(dòng)化階段。但隨著機(jī)器學(xué)習(xí)的發(fā)展，先進(jìn)計(jì)算機(jī)的決策過程變得越來越不透明—也就是所謂的人工智能“黑匣子問題”。這導(dǎo)致人類很難監(jiān)控機(jī)器的運(yùn)行，更不用說確定它是否受到了損害、出現(xiàn)了故障，或以可能導(dǎo)致非法或意外結(jié)果的方式進(jìn)行了編程。

單純確保由人類作出最終的發(fā)射決策，并不足以緩解上述風(fēng)險(xiǎn)。正如心理學(xué)家約翰·霍利在2017年的一項(xiàng)研究中所總結(jié)的那樣，“人類非常不擅長滿足由監(jiān)控機(jī)制所強(qiáng)加的監(jiān)控和干預(yù)規(guī)定”。

此外，正如普林斯頓大學(xué)2020年科學(xué)與全球安全計(jì)劃所表明的那樣，領(lǐng)導(dǎo)人在面臨核危機(jī)時(shí)的決策時(shí)間已經(jīng)非常短暫。即使人工智能僅用于傳感器和目標(biāo)定位，而不是做出發(fā)射核武器的決策，它也會(huì)縮短決定是否打擊的時(shí)間。領(lǐng)導(dǎo)人所面臨的額外壓力，將增加誤判或非理性選擇的風(fēng)險(xiǎn)。

衛(wèi)星和其他情報(bào)探測(cè)系統(tǒng)使用人工智能，會(huì)帶來另外一種風(fēng)險(xiǎn)：使隱藏歷史上一直處于隱蔽狀態(tài)的核武器（如彈道導(dǎo)彈潛艇）變得更加困難。這可能促使有核國家在沖突的早期就部署所有核武器—以求趕在對(duì)手有機(jī)會(huì)使已知的核系統(tǒng)無法行動(dòng)之前。

迄今為止，從拜登的行政命令到七國集團(tuán)的行為準(zhǔn)則，沒有哪項(xiàng)倡議超出試圖保障人類繼續(xù)控制核武器決策的自愿承諾。但就像聯(lián)合國秘書長古特雷斯所指出的那樣，達(dá)成一項(xiàng)禁止“致命自主武器系統(tǒng)”的具有法律約束力的條約非常關(guān)鍵。

盡管上述條約邁出了必要的第一步，但要做的工作還有很多。具體到核武器領(lǐng)域，僅試圖預(yù)測(cè)、緩解或監(jiān)管新興技術(shù)所帶來的新風(fēng)險(xiǎn)是遠(yuǎn)遠(yuǎn)不夠的。我們必須將上述武器徹底排除在權(quán)衡之外。這意味著，各國政府承諾通過加入《禁止核武器條約》來禁止和消除核武器，以通向一個(gè)沒有核武器的世界。這也意味著，擁有核武器的國家將停止投資于核武庫的現(xiàn)代化及拓展，包括以“保障”核武“安全”或免受網(wǎng)絡(luò)攻擊的名義—鑒于核武器存在本身就會(huì)帶來無法克服的風(fēng)險(xiǎn)，這樣的努力從本質(zhì)上講是徒勞的。

我們知道，自主系統(tǒng)可能會(huì)降低參與武裝沖突的門檻。如果應(yīng)用于核武，人工智能又為本已不可接受的風(fēng)險(xiǎn)水平增加了另一重風(fēng)險(xiǎn)。關(guān)鍵是，決策者和公眾必須對(duì)此有清醒的認(rèn)識(shí)。

梅麗莎·帕克，澳大利亞前國際發(fā)展部長，現(xiàn)任“國際廢除核武器運(yùn)動(dòng)”的執(zhí)行主任。本文已獲Project Syndicate授權(quán)。