李馳江

近年來(lái)，人工智能技術(shù)得到快速發(fā)展和廣泛應(yīng)用，有效提高了經(jīng)濟(jì)和社會(huì)發(fā)展的智能水平。與此同時(shí)，人工智能日益被視為大國(guó)競(jìng)爭(zhēng)的關(guān)鍵技術(shù)，隨著美國(guó)、俄羅斯等國(guó)紛紛出臺(tái)人工智能軍事應(yīng)用相關(guān)戰(zhàn)略及政策，并加大無(wú)人化和智能化軍事裝備研發(fā)和應(yīng)用步伐，智能化戰(zhàn)爭(zhēng)模式已初現(xiàn)雛形，軍事人工智能的全球治理引發(fā)國(guó)際社會(huì)廣泛關(guān)注，相關(guān)軍控倡議和進(jìn)程方興未艾。

2018年，聯(lián)合國(guó)秘書(shū)長(zhǎng)古特雷斯在“載軍議程：為了共同未來(lái)的安全”文件中指出，人工智能（例如機(jī)器學(xué)習(xí)）賦能的自主武器系統(tǒng)可能產(chǎn)生不可預(yù)測(cè)和難以解釋的行為，國(guó)際社會(huì)應(yīng)對(duì)此類(lèi)武器系統(tǒng)的研發(fā)和使用持謹(jǐn)慎態(tài)度，各國(guó)應(yīng)努力探討相關(guān)政治性或具有法律約束力的措施，并應(yīng)確保人類(lèi)對(duì)使用此類(lèi)武器的控制權(quán)。自2014年起，聯(lián)合國(guó)《特定常規(guī)武器公約》框架下開(kāi)啟了“致命性自主武器系統(tǒng)”問(wèn)題的討論進(jìn)程，這是目前聯(lián)合國(guó)框架內(nèi)為數(shù)不多的涉及人工智能軍事應(yīng)用具體問(wèn)題的討論進(jìn)程。

該討論進(jìn)程迄今已召開(kāi)八次會(huì)議。2014年至2016年，召開(kāi)了三次非正式專(zhuān)家會(huì)議;2017年至2019年，召開(kāi)了五次政府專(zhuān)家組會(huì)議。原計(jì)劃于2020年繼續(xù)召開(kāi)政府專(zhuān)家組會(huì)議，但受新冠疫情影響只進(jìn)行了線上非正式討論。上述會(huì)議討論了“致命性自主武器系統(tǒng)”涉及的技術(shù)特征、法律適用、道德倫理、軍事應(yīng)用、安全風(fēng)險(xiǎn)、限制措施等議題，達(dá)成重要的早期收獲。特別是2019年第八次政府專(zhuān)家組會(huì)議協(xié)商一致通過(guò)報(bào)告，并經(jīng)《特定常規(guī)武器公約》締約國(guó)會(huì)議核準(zhǔn)通過(guò)，提出了規(guī)范“致命性自主武器系統(tǒng)”的11條指導(dǎo)原則，主要包括：國(guó)際人道主義法繼續(xù)完全適用于所有武器系統(tǒng)，包括致命性自主武器系統(tǒng)的可能開(kāi)發(fā)和使用;人類(lèi)必須對(duì)武器系統(tǒng)的使用決定負(fù)有責(zé)任;應(yīng)確保根據(jù)適用的國(guó)際法在《特定常規(guī)武器公約》框架內(nèi)對(duì)發(fā)展、部署和使用任何新武器系統(tǒng)問(wèn)責(zé);發(fā)展致命性自主武器系統(tǒng)時(shí)，應(yīng)考慮實(shí)體安保、適當(dāng)?shù)姆菍?shí)體保障、落入恐怖主義團(tuán)體手中的風(fēng)險(xiǎn)和擴(kuò)散的風(fēng)險(xiǎn);風(fēng)險(xiǎn)評(píng)估和減少風(fēng)險(xiǎn)的措施應(yīng)成為任何武器系統(tǒng)新技術(shù)的設(shè)計(jì)、發(fā)展、測(cè)試和部署周期的組成部分;在《特定常規(guī)武器公約》范圍內(nèi)討論和采取任何可能的政策措施都不應(yīng)阻礙智能自主技術(shù)的進(jìn)步或和平利用;可在《特定常規(guī)武器公約》目標(biāo)和宗旨范圍內(nèi)處理致命性自主武器系統(tǒng)領(lǐng)域新技術(shù)的問(wèn)題，力求在軍事必要性和人道主義考慮之間求得平衡，等等。

總體看，各國(guó)對(duì)于致命性自主武器系統(tǒng)的軍控措施持三類(lèi)觀點(diǎn)：有的國(guó)家主張全面禁止此類(lèi)武器，有的國(guó)家主張部分限制此類(lèi)武器使用，也有國(guó)家反對(duì)全面禁止此類(lèi)武器。與此同時(shí)，奧地利等國(guó)主張達(dá)成具有法律約束力的國(guó)際文書(shū);法國(guó)等國(guó)主張分步走，先達(dá)成政治宣言或行為準(zhǔn)則，再達(dá)成法律文書(shū);美國(guó)等國(guó)則反對(duì)上述主張，提出圍繞現(xiàn)有11條指導(dǎo)原則進(jìn)一步討論。

除聯(lián)合國(guó)渠道外，各國(guó)政府、產(chǎn)業(yè)界、學(xué)術(shù)界、國(guó)際組織等就包括人工智能軍事應(yīng)用在內(nèi)的人工智能治理規(guī)范和原則進(jìn)行了廣泛討論并提出諸多建議，旨在保障人工智能發(fā)展和應(yīng)用符合道德倫理要求，減少人工智能應(yīng)用帶來(lái)的潛在安全風(fēng)險(xiǎn)。例如，2019年6月，中國(guó)國(guó)家人工智能治理委員會(huì)發(fā)布了“新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能”，提出“和諧友好，公平公正，包容共享，尊重隱私，安全可控，共擔(dān)責(zé)任，開(kāi)放協(xié)作，敏捷治理”等八項(xiàng)重要原則。2020年2月，美國(guó)國(guó)防部正式發(fā)布規(guī)范人工智能軍事能力發(fā)展的“負(fù)責(zé)、公平、可追溯、可靠和可治理的”五項(xiàng)原則。2020年2月，歐盟發(fā)布《歐洲數(shù)字戰(zhàn)略》，指出歐盟的人工智能發(fā)展基于信任和追求卓越。2020年6月，瑞典斯德哥爾摩國(guó)際和平研究所發(fā)表《人工智能對(duì)戰(zhàn)略穩(wěn)定和核風(fēng)險(xiǎn)的影響》報(bào)告，探討了人工智能軍事應(yīng)用對(duì)戰(zhàn)略穩(wěn)定和核風(fēng)險(xiǎn)的影響并提出相關(guān)建議。

總體看，國(guó)際社會(huì)都高度關(guān)注人工智能軍事應(yīng)用對(duì)國(guó)際和平與安全構(gòu)成的嚴(yán)峻挑戰(zhàn)，但是各國(guó)對(duì)如何應(yīng)對(duì)這些挑戰(zhàn)，特別是減少人工智能軍事應(yīng)用風(fēng)險(xiǎn)，仍然存在不同看法和優(yōu)先事項(xiàng)。展望未來(lái)，國(guó)際社會(huì)理應(yīng)繼續(xù)秉持多邊主義精神，共同尋求各方均可接受的解決思路和方案，確保人工智能技術(shù)造福人類(lèi)，并促進(jìn)國(guó)際和平與安全。