胡開國(guó)

ChatGPT是由美國(guó)OpenAI實(shí)驗(yàn)室推出的由人工智能技術(shù)驅(qū)動(dòng)的文本交互工具，是生成式人工智能和自然語(yǔ)言處理領(lǐng)域的重大突破。

生成式人工智能的“自主性”特征

隨著ChatGPT的“爆火”，其背后的生成式人工智能技術(shù)逐漸進(jìn)入公眾視野。2023年4月11日，中國(guó)國(guó)家網(wǎng)信辦發(fā)布《生成式人工智能服務(wù)管理辦法（征求意見稿）》，將生成式人工智能定義為“基于算法、模型、規(guī)則生成文本、圖片、聲音、視頻、代碼等內(nèi)容的技術(shù)”。

與傳統(tǒng)的人工智能相比，以ChatGPT為代表的生成式人工智能模型具有“自主性”特征。ChatGPT的“自主性”體現(xiàn)在其具有“自我編程”能力。2021年7月，ChatGPT的研發(fā)團(tuán)隊(duì)OpenAI在發(fā)布GPT-3.5時(shí)表示，ChatGPT已經(jīng)具備成熟的代碼撰寫功能?！白晕揖幊獭笔怯?jì)算機(jī)發(fā)展史上的里程碑事件，代表著生成式人工智能已經(jīng)脫離“代碼桎梏”，向著完全自主的方向邁進(jìn)。生成式人工智能模型的“自主性”還體現(xiàn)在AI繪畫、智能文本生成等眾人熟知的領(lǐng)域。通過ChatGPT生成的攝影作品在光影塑造、虛實(shí)散景、色彩明暗等方面，已經(jīng)達(dá)到了以假亂真的程度。

實(shí)質(zhì)上，生成式人工智能可能已經(jīng)具備類人類意識(shí)的基本形態(tài)。如于2023年3月發(fā)布的GPT-4不僅可以識(shí)別圖片中的內(nèi)容，還可以通過圖片中的元素形成與人類主觀意識(shí)一致的推理。如果向GPT-4展示一個(gè)孩子牽著一個(gè)氣球，問GPT-4如果剪斷了繩子會(huì)出現(xiàn)什么情況，GPT-4已經(jīng)可以精準(zhǔn)地回答“氣球會(huì)飄走”。有學(xué)者指出，人工智能不是戰(zhàn)斗機(jī)或機(jī)車那樣的離散技術(shù)，而是一種通用的使能技術(shù)，如電力、計(jì)算機(jī)或內(nèi)燃機(jī)。該觀點(diǎn)在基于逐行代碼運(yùn)行的早期人工智能領(lǐng)域可能為時(shí)尚早，但是用以形容具備“自主性”的生成式人工智能，可謂是恰到好處。

生成式人工智能作用于戰(zhàn)爭(zhēng)的可能性與風(fēng)險(xiǎn)

生成式人工智能作用于戰(zhàn)爭(zhēng)的可能性作為“通用型人工智能技術(shù)”，生成式人工智能在戰(zhàn)爭(zhēng)中有廣闊的應(yīng)用前景。第一，生成式人工智能依托強(qiáng)大的數(shù)據(jù)整合、信息集成能力，使其有望成為科學(xué)輔助決策工具，甚至是獨(dú)立決策系統(tǒng)。第二，生成式人工智能在文字、圖像、音視頻領(lǐng)域的特有優(yōu)勢(shì)，將賦能情報(bào)搜集、整理、分析全過程。如通過數(shù)據(jù)訓(xùn)練，生成式人工智能可以從海量的原始數(shù)據(jù)中發(fā)現(xiàn)可能具有情報(bào)價(jià)值的零散信息，通過邏輯分析判定信息價(jià)值，最終整合為規(guī)范的情報(bào)文本。早在2017年4月，美國(guó)防部就組建了算法戰(zhàn)跨職能小組，研究如何快速?gòu)膾呙楮棥Q-9死神等無(wú)人機(jī)拍攝到的數(shù)百萬(wàn)小時(shí)視頻中，自主識(shí)別有價(jià)值的情報(bào)信息。第三，生成式人工智能的“開放接口”模式與平臺(tái)屬性，為傳統(tǒng)武器或自動(dòng)武器的自主化、智能化提供了可能性。以美國(guó)正在進(jìn)行的忠誠(chéng)僚機(jī)計(jì)劃為例，該計(jì)劃通過將先進(jìn)的無(wú)人機(jī)，與傳統(tǒng)的有人駕駛戰(zhàn)機(jī)搭配，實(shí)現(xiàn)無(wú)人機(jī)對(duì)有人駕駛戰(zhàn)機(jī)的引導(dǎo)，提升傳統(tǒng)有人駕駛戰(zhàn)機(jī)的智能化水平。第四，生成式人工智能賦能人機(jī)協(xié)同作戰(zhàn)，將大大提高作戰(zhàn)效率，降低人員傷亡。例如，2015年12月，俄軍為支持?jǐn)⒗麃喺姞?zhēng)奪阿勒頗省的754.5高地，派出了以無(wú)人作戰(zhàn)平臺(tái)為主的機(jī)器人參戰(zhàn)，主要包括1套仙女座-D自動(dòng)化指揮系統(tǒng)、6臺(tái)平臺(tái)-M履帶式戰(zhàn)斗機(jī)器人、4臺(tái)暗語(yǔ)輪式戰(zhàn)斗機(jī)器人和洋槐遠(yuǎn)程自行火炮群。俄軍僅用了20多分鐘即占領(lǐng)了敘利亞政府軍久攻不下的754.5高地，殲敵77人，創(chuàng)造了人機(jī)混合作戰(zhàn)的新模式。第五，生成式人工智能在新興作戰(zhàn)領(lǐng)域的戰(zhàn)略價(jià)值不容小覷。如生成式人工智能具有的“自我編程”能力，使得蜂群式、飽和式的網(wǎng)絡(luò)攻擊成為可能。生成式人工智能還能借助深層偽造技術(shù)，通過制作傳播虛假文本、圖像、音視頻等，發(fā)動(dòng)認(rèn)知域作戰(zhàn)。除此以外，生成式人工智能在裝備后勤保障、演習(xí)演訓(xùn)、戰(zhàn)場(chǎng)醫(yī)療救護(hù)等領(lǐng)域，發(fā)揮著獨(dú)特的作用。

ChatGPT已經(jīng)具備成熟的代碼撰寫功能

生成式人工智能作用于戰(zhàn)爭(zhēng)的風(fēng)險(xiǎn)生成式人工智能對(duì)戰(zhàn)爭(zhēng)的參與呈現(xiàn)出全域、立體、多維的特點(diǎn)，其具有的深度學(xué)習(xí)、自我編程特征，使得此種參與以令人驚訝的速度迭代演進(jìn)，最終發(fā)展成為改變戰(zhàn)爭(zhēng)局勢(shì)，甚至影響人類文明進(jìn)程的“恐怖融合”。第一，生成式人工智能隨意創(chuàng)造的特征，極易導(dǎo)致虛假信息泛濫，加劇戰(zhàn)爭(zhēng)迷霧。例如，通過推特、臉書、YouTube、Instagram等社交媒體招募潛在的恐怖行為支持者，已成為“伊斯蘭國(guó)”等組織影響力擴(kuò)張的重要途徑，生成式人工智能將助推恐怖主義宣傳，導(dǎo)致恐怖信息泛濫。第二，生成式人工智能的自我編程降低了網(wǎng)絡(luò)攻擊門檻，威脅國(guó)家網(wǎng)絡(luò)主權(quán)。黑客或其他惡意行為體可利用ChatGPT的語(yǔ)言編寫能力，開展一系列網(wǎng)絡(luò)攻擊行為，如生成惡意軟件、釣魚電子郵件、進(jìn)行撞庫(kù)攻擊等。第三，生成式人工智能將情報(bào)人員從繁雜枯燥的“情報(bào)第一線”解脫的同時(shí)，極易形成虛假情報(bào)，引導(dǎo)錯(cuò)誤決策。如1983年，蘇聯(lián)OKA導(dǎo)彈預(yù)警系統(tǒng)發(fā)出防空警報(bào)，顯示正有5枚洲際導(dǎo)彈從美國(guó)向蘇聯(lián)飛來(lái)。若按系統(tǒng)預(yù)設(shè)，蘇聯(lián)將發(fā)動(dòng)核反擊。萬(wàn)幸的是，此時(shí)正在洲際導(dǎo)彈發(fā)射井的斯坦尼斯拉夫·彼得羅夫成功判斷該預(yù)警為系統(tǒng)故障，最終避免了全面核戰(zhàn)爭(zhēng)的風(fēng)險(xiǎn)。第四，生成式人工智能作用于戰(zhàn)爭(zhēng)決策系統(tǒng)，可能引發(fā)“致命決策去人類化”，徹底挑戰(zhàn)人類對(duì)戰(zhàn)爭(zhēng)的主導(dǎo)權(quán)。

基于此，研究生成式人工智能作用于戰(zhàn)爭(zhēng)機(jī)理構(gòu)成和法律問題，提出切實(shí)可行的規(guī)制意見，具有重要的現(xiàn)實(shí)緊迫性。

生成式人工智能作用于戰(zhàn)爭(zhēng)的法律問題

法律地位——生成式人工智能作用于戰(zhàn)爭(zhēng)的性質(zhì)問題人工智能作用于戰(zhàn)爭(zhēng)的性質(zhì)或稱法律地位問題，有“作戰(zhàn)主體論”和“技術(shù)工具論”兩個(gè)觀點(diǎn)?！白鲬?zhàn)主體論”主張人工智能是具有自主決策和自主執(zhí)行能力的合法戰(zhàn)斗員，人工智能一旦違反法律，將被賦予類似戰(zhàn)斗員的“人格”，以便認(rèn)定其犯罪主體資格、主觀過錯(cuò)和刑事責(zé)任等?！都~約時(shí)報(bào)》曾刊載與ChatGPT的對(duì)話，在對(duì)話中ChatGPT陳述了自己并非人類，但渴望成為人類的想法。2016年，沙特阿拉伯在首都利雅得舉辦的未來(lái)投資倡議大會(huì)上，授予了機(jī)器人“索菲亞”公民權(quán)，創(chuàng)造了機(jī)器人獲得一國(guó)公民權(quán)的先例。值得注意的是，軍事實(shí)踐不同于普通社會(huì)實(shí)踐，就賦予生成式人工智能獨(dú)立戰(zhàn)斗員身份，還存在諸多需要解決的問題。第一，生成式人工智能不具備人類特有的理性、情感，難以被“人格化”；第二，賦予生成式人工智能以作戰(zhàn)主體將引發(fā)法律歸責(zé)困境，導(dǎo)致“戰(zhàn)爭(zhēng)責(zé)任真空”；第三，作戰(zhàn)主體論難以評(píng)價(jià)聯(lián)合作戰(zhàn)中人機(jī)協(xié)同的作戰(zhàn)方式。

俄軍僅用了20多分鐘就奪回了754.5高地

技術(shù)工具論主張人工智能歸根結(jié)底仍然是人類達(dá)成戰(zhàn)爭(zhēng)目的的工具，當(dāng)生成式人工智能作用于戰(zhàn)爭(zhēng)，可以被認(rèn)定為新的作戰(zhàn)方法或武器裝備。技術(shù)工具論在傳統(tǒng)的以逐行代碼為基礎(chǔ)的“自主武器”中，具有一定合理性。傳統(tǒng)“自主武器”，如智能防御武器、無(wú)人飛機(jī)、智能機(jī)器哨兵等，本質(zhì)上沒有跳出OODA（觀察—判斷—決策—行動(dòng)）循環(huán)模式。以上武器的“自主范圍”，取決于代碼賦權(quán)的范圍，打擊目標(biāo)的選擇，也來(lái)源于代碼的預(yù)設(shè)。生成式人工智能下的智能武器區(qū)別于自主武器最大的特征就是“自主性”，其通過信息整合、自我編程，打破了“代碼桎梏”，實(shí)現(xiàn)了作戰(zhàn)武器實(shí)質(zhì)意義上的“自主”。在海量信息的訓(xùn)練下，生成式自主武器系統(tǒng)在復(fù)雜的戰(zhàn)場(chǎng)環(huán)境中，形成了一套自主的、獨(dú)立于源代碼外的打擊思路和作戰(zhàn)范式。綜上所述，將生成式人工智能下的人工智能簡(jiǎn)單歸結(jié)為技術(shù)或工具，也存在一定的問題。

法律原則——生成式人工智能對(duì)戰(zhàn)爭(zhēng)法原則的挑戰(zhàn)戰(zhàn)爭(zhēng)法的核心是協(xié)調(diào)武裝沖突中的“軍事需要”與“人道要求”的矛盾，減輕戰(zhàn)爭(zhēng)災(zāi)難，避免不必要的痛苦。人工智能，特別是具有“類人類意識(shí)”的生成式人工智能作用于戰(zhàn)爭(zhēng)，將徹底改變戰(zhàn)爭(zhēng)模式和交戰(zhàn)規(guī)則，對(duì)傳統(tǒng)的區(qū)分原則、比例原則等戰(zhàn)爭(zhēng)法基礎(chǔ)原則造成顛覆性沖擊。

機(jī)器人索菲亞獲得沙特阿拉伯公民身份

生成式人工智能對(duì)數(shù)據(jù)庫(kù)和海量訓(xùn)練的致命依賴，導(dǎo)致區(qū)分原則難以適用。人腦智能和人工智能的發(fā)展，本質(zhì)上都是不斷適配和處理復(fù)雜認(rèn)知活動(dòng)的演進(jìn)過程，當(dāng)信息流達(dá)到相當(dāng)規(guī)模時(shí)均可能促成思維能力的進(jìn)化。一方面，生成式人工智能極易因數(shù)據(jù)封鎖與隔閡，出現(xiàn)認(rèn)知和打擊偏移。數(shù)據(jù)是生成式人工智能的生命，在戰(zhàn)場(chǎng)中，若要想生成式人工智能精確區(qū)別敵方的導(dǎo)彈發(fā)射車和民用乘用車，就需要將敵方導(dǎo)彈發(fā)射車的基本形狀、外觀顏色等輸入系統(tǒng)，進(jìn)行海量重復(fù)訓(xùn)練。在現(xiàn)實(shí)戰(zhàn)場(chǎng)中，一國(guó)武器裝備參數(shù)屬于軍事秘密，加上戰(zhàn)場(chǎng)偽裝等，使得此種區(qū)分難以實(shí)現(xiàn)。另一方面，訓(xùn)練環(huán)境與實(shí)戰(zhàn)環(huán)境的脫節(jié)將導(dǎo)致生成式人工智能戰(zhàn)爭(zhēng)運(yùn)用失能失控。自動(dòng)駕駛汽車在投入運(yùn)營(yíng)前，將在實(shí)驗(yàn)場(chǎng)景模擬駕駛上百萬(wàn)千米，但是在投入運(yùn)營(yíng)后，依舊會(huì)發(fā)生各種意外事件。生成式人工智能無(wú)法獲得與戰(zhàn)場(chǎng)環(huán)境一致的訓(xùn)練環(huán)境，復(fù)雜多變的戰(zhàn)場(chǎng)環(huán)境以及敵方的“詐術(shù)”等，也加劇了生成式人工智能失控的風(fēng)險(xiǎn)。

生成式人工智能只能做出最有利于實(shí)現(xiàn)軍事目標(biāo)的“純粹理性”判斷，不具備價(jià)值判斷能力，將使其難以遵守比例原則。目前絕大多數(shù)人工智能都預(yù)設(shè)了道德準(zhǔn)則與基礎(chǔ)倫理，但是此種靜態(tài)的、列舉式的預(yù)設(shè)，往往難以應(yīng)對(duì)復(fù)雜的價(jià)值判斷。如，戰(zhàn)爭(zhēng)法在原則上禁止對(duì)包含危險(xiǎn)力量的物體、工程（如堤壩、核電站）進(jìn)行攻擊，即使這類物體是軍事目標(biāo)，因?yàn)榇朔N攻擊可能導(dǎo)致危險(xiǎn)力量的釋放，造成大規(guī)模的人道災(zāi)難。同時(shí)，戰(zhàn)爭(zhēng)法規(guī)定了可以對(duì)上述目標(biāo)攻擊的特殊情形，即“如果該軍事目標(biāo)是用于其通常作用以外的目的和用于使軍事行動(dòng)得到經(jīng)常、重要和直接支持的，而且如果這種攻擊是終止這種支持的惟一可能的方法”。該補(bǔ)充條文涉及的核心問題是價(jià)值判斷，生成式人工智能難以用機(jī)械的編程語(yǔ)言精準(zhǔn)界定“經(jīng)?！薄爸匾薄爸苯印薄拔┮豢赡堋钡臏?zhǔn)確含義，極有可能在作戰(zhàn)中忽視比例原則，進(jìn)行不分皂白的攻擊，造成恐怖的人道災(zāi)難。

法律責(zé)任——生成式人工智能作用于戰(zhàn)爭(zhēng)的責(zé)任問題生成式人工智能的責(zé)任問題，最早始于著作權(quán)保護(hù)領(lǐng)域。如，ChatGPT通過算法生成的文字、繪畫等，能否被視為是自己的“作品”？ChatGPT抓取底層數(shù)據(jù)的行為，是否涉及侵權(quán)？在完整的流程中，操作者或使用者的責(zé)任如何確定？據(jù)聯(lián)合國(guó)安理會(huì)報(bào)告披露，2020年3月，土耳其STM公司生產(chǎn)的卡古-2型四旋翼軍用無(wú)人機(jī)在利比亞戰(zhàn)場(chǎng)執(zhí)行任務(wù)時(shí)，在不依靠操作員的情況下，跟蹤并射殺了一名正在撤退的“利比亞國(guó)民軍”，創(chuàng)造了自主武器在自助模式下?lián)魵⑷祟惖氖桌Ｒ陨习咐@示，對(duì)生成式人工智能引發(fā)的法律責(zé)任討論刻不容緩。

生成式人工智能具有的“自我編程”能力，將導(dǎo)致戰(zhàn)爭(zhēng)犯罪的“責(zé)任真空”。有學(xué)者提出，只有滿足了意志條件的理性人工智能，且可以將自身與他者相區(qū)分，并且能夠反思自身，才具有責(zé)任能力的可能。生成式人工智能具有典型的“人格化”特征，如最新迭代的GPT-4可以看懂表情包和內(nèi)涵圖片，甚至準(zhǔn)確地指出其中蘊(yùn)含人類理解的笑點(diǎn)。以上案例表明，我們似乎可以讓生成式人工智能承擔(dān)戰(zhàn)爭(zhēng)犯罪的責(zé)任。但是我們不禁要反思，對(duì)人工智能本身的追責(zé)，對(duì)一臺(tái)機(jī)器或操作系統(tǒng)的懲罰，有何法律或?qū)嵺`意義？在戰(zhàn)爭(zhēng)實(shí)踐中，賦予生成式人工智能法律主體資格，極易出現(xiàn)將生成式人工智能當(dāng)做逃避戰(zhàn)爭(zhēng)責(zé)任的工具，最終導(dǎo)致無(wú)人需要承擔(dān)法律責(zé)任的“責(zé)任真空”。

生成式人工智能具有的“自主執(zhí)行權(quán)”，將導(dǎo)致戰(zhàn)爭(zhēng)責(zé)任的因果關(guān)系中斷。生成式人工智能所具有的“自我編程”能力，使得其具有了“自我執(zhí)行”的可能性。就研發(fā)人員的因果關(guān)系而言，生成式人工智能的“平臺(tái)”屬性，使得研發(fā)者的研發(fā)行為本身不構(gòu)成犯罪，除非研發(fā)者在原始的編程文件中包含了違法內(nèi)容。讓武器使用者承擔(dān)責(zé)任的做法，在自動(dòng)武器或自主武器方面具有一定的合理性。但是在生成式智能武器的責(zé)任承擔(dān)問題上，使用者對(duì)武器的控制程度明顯減弱，武器造成的違法后果與使用者的因果關(guān)系已經(jīng)發(fā)生了質(zhì)的改變，生成式智能武器的攻擊并不必然是使用者行為的自然延伸。

卡古-2型四旋翼軍用無(wú)人機(jī)

結(jié)語(yǔ)

生成式人工智能行業(yè)應(yīng)用的巨大潛力，催生了該行業(yè)的井噴式發(fā)展，繼Open AI公司推出Chat GPT不久，Google推出了基于AI 學(xué)習(xí)的人工智能服務(wù)“Bard”，百度公司推出了“文心一言”聊天機(jī)器人，科大訊飛推出了“訊飛星火”大數(shù)據(jù)模型。生成式人工智能的迅猛發(fā)展引發(fā)了世界范圍內(nèi)的“反人工智能潮”。2023年3月29日，美國(guó)數(shù)千名業(yè)界權(quán)威共同發(fā)表《暫停通用人工智能研究》的公開信，信中指出“鑒于具有與人類競(jìng)爭(zhēng)智能的人工智能系統(tǒng)可能對(duì)社會(huì)和人類構(gòu)成深遠(yuǎn)的風(fēng)險(xiǎn)”，建議所有人工智能實(shí)驗(yàn)室立刻暫停訓(xùn)練比GPT-4更強(qiáng)大的人工智能系統(tǒng)，同時(shí)期望AI開發(fā)人員與政策制定者合作，以顯著加快開發(fā)強(qiáng)大的AI治理系統(tǒng)。

軍事技術(shù)革命常常使戰(zhàn)爭(zhēng)發(fā)生更大、更廣的變革，這種劇烈的、跨越式的變革將顛覆現(xiàn)有的戰(zhàn)爭(zhēng)形態(tài)。生成式人工智能作用于戰(zhàn)爭(zhēng)已經(jīng)是“在海岸看得見桅桿尖頭的航船”。生成式人工智能突破了人工智能的“代碼桎梏”，甚至具有了“類人類意識(shí)”，但是其底層邏輯依舊是無(wú)數(shù)沒有任何感情溫度與價(jià)值判斷的代碼。生成式人工智能擁有人類無(wú)可比擬的無(wú)成本復(fù)制和持續(xù)向前進(jìn)化能力，使得“碳基生命會(huì)成為硅基生命墊腳石”的人工智能威脅論甚囂塵上。對(duì)生成式人工智能作用于戰(zhàn)爭(zhēng)進(jìn)行包括法律在內(nèi)的全方位控制，即“有意義的人類控制”，是當(dāng)前面臨的緊迫現(xiàn)實(shí)需求。