龍坤

龍坤國(guó)防大學(xué)國(guó)家安全學(xué)院

5月19日，聯(lián)合國(guó)《特定常規(guī)武器公約》（CCW）針對(duì)致命性自主武器系統(tǒng)（LAWS）的政府專(zhuān)家組本年度第二期會(huì)議落下帷幕，但并未能開(kāi)啟一些國(guó)家預(yù)期中的國(guó)際條約談判進(jìn)程。當(dāng)前，人工智能越來(lái)越多地運(yùn)用到軍事領(lǐng)域，尤其是去年11月以來(lái)，以ChatGPT為代表的生成式人工智能初步展現(xiàn)出通用智能的潛力，人工智能軍備競(jìng)賽有愈演愈烈之勢(shì)。在此背景下，針對(duì)這一領(lǐng)域的軍備控制也越來(lái)越受到重視?？偟亩裕斯ぶ悄?chē)?guó)際軍控正在爭(zhēng)議中艱難前行。

聯(lián)合國(guó)《特定常規(guī)武器公約》（CCW）框架下的致命性自主武器系統(tǒng)（LAWS）軍控磋商遭遇困境。CCW自2013年以來(lái)開(kāi)始關(guān)注LAWS問(wèn)題。2016年12月，第五次審議大會(huì)決定成立LAWS問(wèn)題的政府專(zhuān)家組。2017年至今，召開(kāi)了多次政府專(zhuān)家組會(huì)議。2019年，通過(guò)了11項(xiàng)指導(dǎo)原則。今年3月和5月，政府專(zhuān)家組召開(kāi)了兩期會(huì)議，審議通過(guò)了年度報(bào)告。但是，“禁止殺手機(jī)器人運(yùn)動(dòng)”為代表的一些非政府組織對(duì)聯(lián)合國(guó)CCW機(jī)制下的LAWS軍控進(jìn)程表達(dá)失望，認(rèn)為通過(guò)的年度報(bào)告“無(wú)實(shí)質(zhì)意義”，沒(méi)有觸及核心問(wèn)題——制定針對(duì)自主武器系統(tǒng)的具有法律約束力的國(guó)際條約。雖然經(jīng)過(guò)近十年的努力，圍繞LAWS軍控問(wèn)題達(dá)成了一定的原則性共識(shí)，例如，各方普遍贊同人工智能軍事應(yīng)用必須符合國(guó)際人道法，保持人對(duì)武力使用的控制和責(zé)任等。但這一機(jī)制并未能在實(shí)質(zhì)性的規(guī)制措施和軍控條約談判方面取得有效進(jìn)展。這主要是由于在需全體同意的議事規(guī)則下，各方分歧明顯，難以調(diào)和。另外，聯(lián)合國(guó)CCW機(jī)制主要針對(duì)的是特定常規(guī)武器的軍備控制，而人工智能?chē)?guó)際軍控不僅僅涉及常規(guī)武器，還涉及核武器等大規(guī)模殺傷性武器，例如人工智能一旦運(yùn)用到核指揮控制領(lǐng)域，將可能對(duì)核戰(zhàn)略穩(wěn)定帶來(lái)極大沖擊。

聯(lián)合國(guó)CCW框架外的人工智能軍控相關(guān)機(jī)制蓬勃發(fā)展。最近幾個(gè)月，國(guó)際上圍繞自主武器軍控的探討越來(lái)越豐富，不僅聯(lián)合國(guó)體系內(nèi)繼續(xù)這一議題的磋商，一些國(guó)家和地區(qū)也開(kāi)始召開(kāi)相關(guān)的會(huì)議。比較有代表性的有：2023年2月15至16日，荷蘭與韓國(guó)共同主辦“軍事領(lǐng)域負(fù)責(zé)任使用人工智能”峰會(huì)（REAIM），吸引了中國(guó)、美國(guó)等80多個(gè)主權(quán)國(guó)家、聯(lián)合國(guó)等國(guó)際組織，以及政府、智庫(kù)、企業(yè)、科研機(jī)構(gòu)等1700余人與會(huì)，并發(fā)布成果文件《軍事領(lǐng)域負(fù)責(zé)任使用人工智能行動(dòng)倡議》。2月24至25日，拉丁美洲和加勒比海地區(qū)國(guó)家共同體在哥斯達(dá)黎加召開(kāi)主題為“人工智能對(duì)于社會(huì)和人道主義的影響”會(huì)議，33個(gè)國(guó)家共同發(fā)表了一份聯(lián)合公報(bào)，呼吁“就自主武器系統(tǒng)問(wèn)題緊急談判一項(xiàng)具有法律約束力的國(guó)際文書(shū)”。4月25至26日，盧森堡召開(kāi)“自主武器系統(tǒng)”會(huì)議，呼吁各方采取更加具體的舉措建立對(duì)自主武器系統(tǒng)的管控框架。5月30日，包括“ChatGPT之父”薩姆·阿爾特曼在內(nèi)的350余名人工智能頂級(jí)專(zhuān)家和其他領(lǐng)域知名人士共同簽署公開(kāi)信，呼吁將人工智能給人類(lèi)帶來(lái)的生存威脅作為全球優(yōu)先事項(xiàng)之一予以應(yīng)對(duì)。

中國(guó)積極參與人工智能?chē)?guó)際軍控進(jìn)程。2021年12月，中國(guó)代表李松大使在CCW第六次審議大會(huì)上提交的《中國(guó)關(guān)于規(guī)范人工智能軍事應(yīng)用的立場(chǎng)文件》中強(qiáng)調(diào)“智能向善”原則，呼吁“各國(guó)政府、國(guó)際組織、技術(shù)企業(yè)、科研院校、民間機(jī)構(gòu)和公民個(gè)人等各主體秉持共商共建共享的理念，協(xié)力共同促進(jìn)人工智能安全治理?！?022年7月，在聯(lián)合國(guó)CCW框架下針對(duì)LAWS的政府專(zhuān)家組第二期會(huì)議上，中國(guó)提交了關(guān)于致命性自主武器系統(tǒng)的工作文件。2022年11月16日，中國(guó)政府在參加CCW締約國(guó)會(huì)議時(shí)，進(jìn)一步提交了《中國(guó)關(guān)于加強(qiáng)人工智能倫理治理的立場(chǎng)文件》，從監(jiān)管、研發(fā)、使用和國(guó)際合作四個(gè)方面提出了強(qiáng)化全球人工智能倫理治理的中國(guó)方案。今年2月中國(guó)發(fā)布的《全球安全倡議概念文件》中更是將“加強(qiáng)人工智能等新興科技領(lǐng)域國(guó)際安全治理”作為重點(diǎn)合作方向?qū)ν庑?，體現(xiàn)了中國(guó)作為負(fù)責(zé)任大國(guó)的責(zé)任擔(dān)當(dāng)。

人工智能?chē)?guó)際軍控是攸關(guān)國(guó)際安全、人道主義和人類(lèi)未來(lái)的重大議題。然而，國(guó)際社會(huì)圍繞“人工智能?chē)?guó)際軍控究竟應(yīng)當(dāng)控什么、怎么控”這些問(wèn)題仍在爭(zhēng)論不休。在此背景下，各方應(yīng)秉持中國(guó)倡導(dǎo)的人類(lèi)命運(yùn)共同體理念，尤其是大國(guó)要強(qiáng)化人工智能軍控合作，盡快對(duì)可能?chē)?yán)重破壞戰(zhàn)略穩(wěn)定和導(dǎo)致人道主義災(zāi)難的危險(xiǎn)人工智能應(yīng)用進(jìn)行有效限制，確保人對(duì)致命性武力的有效控制和責(zé)任。