〔提"""要〕人工智能加劇大國戰(zhàn)略競(jìng)爭(zhēng)，引發(fā)新的地緣政治博弈，對(duì)國際格局、國際秩序構(gòu)成重大挑戰(zhàn)。如何防范人工智能科技價(jià)值異化，引導(dǎo)人工智能朝“善治”方向發(fā)展，是事關(guān)世界和平與發(fā)展的重大議題。全球人工智能治理初步形成以國家為中心、多元主體參與的治理格局，國際社會(huì)開始規(guī)范人工智能倫理治理，積極探索國家、地區(qū)、全球多層次的治理結(jié)構(gòu)，形成風(fēng)格各異的治理特色。但是，全球人工智能治理仍然面臨著主體利益各異、治理對(duì)象復(fù)雜、排他治理突出、協(xié)同治理困難等挑戰(zhàn)。全球人工智能治理的前景取決于“善治”、“合治”與“法治”路徑能否順利推進(jìn)。作為負(fù)責(zé)任大國，中國積極探索人工智能治理的規(guī)則規(guī)范，為加強(qiáng)全球人工智能治理提出中國方案、貢獻(xiàn)中國經(jīng)驗(yàn)，成為全球人工智能治理的先行者和助力者。

〔關(guān)"鍵"詞〕人工智能、全球治理、大國競(jìng)爭(zhēng)、人類命運(yùn)共同體

〔作者簡介〕葉淑蘭，華東師范大學(xué)政治與國際關(guān)系學(xué)院教授、國際問題

研究所所長

李孟婷，華東師范大學(xué)政治與國際關(guān)系學(xué)院博士生

〔中圖分類號(hào)〕TP18，D815

〔文獻(xiàn)標(biāo)識(shí)碼〕A

〔文章編號(hào)〕0452"8832（2024）4期0100-19

人工智能的快速發(fā)展驅(qū)動(dòng)全球技術(shù)政治的深刻變革，深刻改變國家安全與國際和平的基本范式。如何防范人工智能科技價(jià)值異化，引導(dǎo)人工智能朝“善治”方向發(fā)展，是事關(guān)世界和平與發(fā)展的重大議題，也是全球治理的前沿難題。2023年10月，聯(lián)合國人工智能高級(jí)別咨詢機(jī)構(gòu)宣告成立。同月，中國提出《全球人工智能治理倡議》。2024年5月，中國與法國發(fā)布關(guān)于人工智能和全球治理的聯(lián)合聲明，宣布兩國致力于促進(jìn)安全、可靠和可信的人工智能系統(tǒng)。在當(dāng)前大國戰(zhàn)略競(jìng)爭(zhēng)加劇的背景下，習(xí)近平總書記指出：“世界各國更加需要加強(qiáng)科技開放合作，通過科技創(chuàng)新共同探索解決重要全球性問題的途徑和方法?！奔訌?qiáng)對(duì)全球人工智能治理既有進(jìn)展、現(xiàn)實(shí)困境與發(fā)展前景的研究，總結(jié)全球人工智能治理模式與治理特色，不但有利于拓展與豐富面向人工智能的全球治理理論研究，而且有助于凝聚國際社會(huì)共識(shí)，突破全球人工智能治理的瓶頸，探索有效的人工智能治理框架，推動(dòng)全球人工智能治理朝著更加公平、包容、負(fù)責(zé)任、可持續(xù)的方向發(fā)展。

一、人工智能帶來新挑戰(zhàn)

人工智能推動(dòng)科技巨頭崛起，改變國家經(jīng)濟(jì)、軍事力量對(duì)比并影響國際格局，沖擊國際經(jīng)濟(jì)、安全等方面的秩序規(guī)范。如果治理不善，人工智能將加劇大國安全困境，導(dǎo)致科技體系的封閉化與分裂化發(fā)展，甚至可能危及人類文明生存與發(fā)展，顛覆人類主體性。面對(duì)人工智能挑戰(zhàn)，國際社會(huì)亟需加強(qiáng)全球人工智能治理，構(gòu)建一個(gè)公平、透明與負(fù)責(zé)任的治理體系。

（一）對(duì)世界格局的挑戰(zhàn)

人工智能的發(fā)展將推動(dòng)科技巨頭等非國家行為體崛起，導(dǎo)致國際權(quán)力結(jié)構(gòu)的重新洗牌，強(qiáng)化美國的科技霸權(quán)地位。人工智能還加劇地緣政治競(jìng)爭(zhēng)，進(jìn)一步擴(kuò)大南北差距。

第一，人工智能的發(fā)展侵蝕主權(quán)國家權(quán)力。擁有海量數(shù)據(jù)的科技巨頭等非國家行為體迅速崛起，成為“數(shù)字利維坦”，容易導(dǎo)致“數(shù)據(jù)霸權(quán)”。它們擁有巨大的數(shù)據(jù)建構(gòu)能力與輿論引導(dǎo)能力，可能在某種程度上侵蝕主權(quán)國家權(quán)力。臉書（現(xiàn)更名為“Meta”）、谷歌等高科技公司被稱為“網(wǎng)絡(luò)國家”，有些在民眾心中甚至擁有比政府高得多的威信。科技公司在其領(lǐng)域擁有曾經(jīng)專屬于民族國家的權(quán)力，打破了國家的制度化慣例與自我敘事，可能會(huì)對(duì)國家的本體安全帶來持續(xù)影響?？萍季揞^已經(jīng)成為國際社會(huì)中不可或缺的重要行為體，在人類和平與發(fā)展的進(jìn)程中起到至關(guān)重要的作用。面對(duì)技術(shù)的復(fù)雜性與不確定性，如果沒有高科技公司的協(xié)同治理，全球人工智能治理將陷入失靈困境之中。

第二，人工智能的競(jìng)爭(zhēng)加速國際權(quán)力極化。人工智能作為一項(xiàng)顛覆性技術(shù)，將深刻改變國家實(shí)力對(duì)比，推動(dòng)非對(duì)稱性國際權(quán)力極化，重塑國際格局。人工智能技術(shù)發(fā)展迅速，而且有賴于配套的產(chǎn)業(yè)生態(tài)發(fā)展。當(dāng)前人工智能技術(shù)競(jìng)爭(zhēng)的核心在于算法、數(shù)據(jù)與算力，高端芯片則是大國算力競(jìng)爭(zhēng)的基礎(chǔ)。美國企圖通過重點(diǎn)產(chǎn)業(yè)供應(yīng)鏈“脫鉤斷鏈”策略遏制中國人工智能技術(shù)的發(fā)展，維持自身先發(fā)優(yōu)勢(shì)，在某種程度上強(qiáng)化了人工智能“強(qiáng)者恒強(qiáng)、弱者恒弱”的不平衡發(fā)展規(guī)律，使“超級(jí)大國政治”更為突出。在這場(chǎng)科技競(jìng)爭(zhēng)中，后發(fā)國家非但難以趕超，而且可能被更遠(yuǎn)地甩在后面，更深地陷入國際分工中心—邊緣的格局。

第三，人工智能的博弈加劇地緣政治競(jìng)爭(zhēng)。人工智能將對(duì)國家戰(zhàn)略競(jìng)爭(zhēng)產(chǎn)生重要影響，加劇地緣政治博弈。俄羅斯總統(tǒng)普京曾指出：“誰能成為人工智能領(lǐng)域的領(lǐng)先者，誰就能統(tǒng)治世界?！泵绹?、俄羅斯、歐洲等大國與地區(qū)均積極布局人工智能發(fā)展戰(zhàn)略。人工智能展現(xiàn)出強(qiáng)大的軍事應(yīng)用潛力，圍繞人工智能領(lǐng)域的軍備競(jìng)賽日趨激烈。美國在傳統(tǒng)地緣政治基礎(chǔ)上，加緊組建“技術(shù)聯(lián)盟”，主導(dǎo)人工智能國際規(guī)則的制定，把地緣政治競(jìng)爭(zhēng)推向數(shù)字空間，意圖使中國等發(fā)展中國家陷于人工智能產(chǎn)業(yè)鏈下游。高科技公司的權(quán)力擴(kuò)張又將進(jìn)一步鞏固新型“技術(shù)極”秩序，動(dòng)搖傳統(tǒng)地緣政治以國家為中心的主體參與格局，并加劇戰(zhàn)略博弈中的話語權(quán)競(jìng)爭(zhēng)。

（二）對(duì)國際秩序的挑戰(zhàn)

人工智能的快速發(fā)展導(dǎo)致數(shù)字鴻溝不斷擴(kuò)大，加劇國際經(jīng)濟(jì)秩序的不平衡發(fā)展，對(duì)國際安全秩序產(chǎn)生巨大影響。

一方面，人工智能技術(shù)加劇國際經(jīng)濟(jì)秩序的不平衡發(fā)展。對(duì)人工智能的過度依賴可能使人類逐漸喪失創(chuàng)造性思維，并使勞動(dòng)、工作、創(chuàng)造和謀生變得更加困難。牛津大學(xué)研究團(tuán)隊(duì)評(píng)估了美國702種職業(yè)未來被計(jì)算機(jī)替代的可能性，指出47%的崗位面臨高度被替代的風(fēng)險(xiǎn)。OpenAI公司在2023年3月發(fā)布的報(bào)告中指出，GPT模型及相關(guān)技術(shù)的出現(xiàn)將影響約80%的美國勞動(dòng)力至少10%的工作任務(wù)。人工智能技術(shù)的運(yùn)用大大增加了社會(huì)的物質(zhì)財(cái)富，但是受益的是少數(shù)精英，大多數(shù)人沒有過得更好。隨著人工智能的發(fā)展，資本權(quán)力將進(jìn)一步依托技術(shù)壟斷的優(yōu)勢(shì)持續(xù)擴(kuò)張，愈演愈烈的失業(yè)潮將加速社會(huì)財(cái)富的兩極分化。從長期來看，受自動(dòng)化影響最深的可能不是美國和其他發(fā)達(dá)國家的勞動(dòng)者，而是以低成本勞動(dòng)力作為競(jìng)爭(zhēng)優(yōu)勢(shì)的發(fā)展中國家。人工智能提升勞動(dòng)生產(chǎn)率，降低生產(chǎn)成本，將削弱發(fā)展中國家廉價(jià)勞動(dòng)力優(yōu)勢(shì)，并減少其參與國際分工的機(jī)會(huì)。

另一方面，人工智能技術(shù)對(duì)國際安全秩序造成巨大影響。人工智能技術(shù)將更廣泛地對(duì)軍事力量、戰(zhàn)略競(jìng)爭(zhēng)和世界政治變革產(chǎn)生潛在但具有決定性的影響。軍事智能化發(fā)展可以實(shí)現(xiàn)更科學(xué)精準(zhǔn)的情報(bào)分析與決策部署，以及更準(zhǔn)確高效的目標(biāo)擊殺率。人工智能技術(shù)的使用大大加快戰(zhàn)爭(zhēng)的決策與執(zhí)行速度，使“極速戰(zhàn)”（hyperwar）成為可能。軍事領(lǐng)域的人工智能應(yīng)用引發(fā)武器開發(fā)及使用方面的倫理道德爭(zhēng)議，可能加劇武裝沖突與人工智能武器的濫用，并使全球公共安全治理壓力上升。低成本、高收益的自主武器系統(tǒng)成為執(zhí)行危險(xiǎn)性較高軍事行動(dòng)的有效手段，因此也降低了發(fā)動(dòng)戰(zhàn)爭(zhēng)的門檻。此外，致命性自主武器落入恐怖組織的風(fēng)險(xiǎn)正在增大。當(dāng)前主要大國紛紛加強(qiáng)人工智能戰(zhàn)略規(guī)劃，力求在大國戰(zhàn)略競(jìng)爭(zhēng)中搶占先機(jī)，圍繞人工智能領(lǐng)域的軍備競(jìng)賽也日趨激烈。美國組建“技術(shù)聯(lián)盟”，極力打壓中國人工智能發(fā)展，維護(hù)自身科技霸權(quán)地位。馬斯克曾對(duì)人工智能的軍事應(yīng)用態(tài)勢(shì)表示極大擔(dān)憂，警告全球人工智能競(jìng)賽有可能引發(fā)第三次世界大戰(zhàn)?；艚鹕案遣粺o擔(dān)憂地指出，人工智能的全面發(fā)展可能意味著人類的終結(jié)。

（三）對(duì)全球技術(shù)治理的挑戰(zhàn)

全球人工智能治理是全球技術(shù)治理的前沿議題和棘手問題，關(guān)系到全球技術(shù)治理的創(chuàng)新發(fā)展。人工智能以驚人的速度完成迭代升級(jí)，但技術(shù)治理卻遠(yuǎn)遠(yuǎn)滯后于技術(shù)本身的發(fā)展。人工智能帶來的隱私安全、算法“黑箱”、倫理風(fēng)險(xiǎn)與科技價(jià)值異化對(duì)全球技術(shù)治理構(gòu)成重大挑戰(zhàn)，全球人工智能治理亟需加強(qiáng)。

首先，人工智能存在隱私侵犯與泄漏的風(fēng)險(xiǎn)。英國數(shù)據(jù)監(jiān)管機(jī)構(gòu)指出，Snapchat人工智能聊天機(jī)器人或危及兒童隱私。2023年，微軟的人工智能研究團(tuán)隊(duì)在GitHub上發(fā)布開源數(shù)據(jù)時(shí)意外泄漏了38TB的隱私數(shù)據(jù)。其次，人工智能算法“黑箱”可能導(dǎo)致算法歧視問題。2022年的一項(xiàng)研究表明，機(jī)器人大規(guī)模地表現(xiàn)出性別、種族等方面的刻板印象。再次，人工智能存在技術(shù)濫用與道德倫理風(fēng)險(xiǎn)。2023年，一名年輕的比利時(shí)男子在與智能聊天機(jī)器人聊天數(shù)周后自殺身亡，引發(fā)人們對(duì)人工智能安全性的關(guān)注，加強(qiáng)人工智能的技術(shù)治理與倫理治理勢(shì)在必行。最后，人工智能的使用存在人機(jī)責(zé)任不清的問題。2022年5月，一輛特斯拉汽車在啟用全自動(dòng)駕駛功能后沖出道路撞上樹，隨后爆炸起火最終導(dǎo)致車內(nèi)人員身亡，人機(jī)責(zé)任如何界定與區(qū)分成為棘手的問題。

二、全球人工智能治理的進(jìn)展

人工智能給人類社會(huì)帶來的巨大挑戰(zhàn)引發(fā)國際社會(huì)的普遍焦慮與不安全感，全球人工智能治理亟需加強(qiáng)。經(jīng)合組織相關(guān)數(shù)據(jù)顯示，當(dāng)前已有69個(gè)國家及地區(qū)出臺(tái)了1000多項(xiàng)關(guān)于人工智能的政策措施。在主要大國和地區(qū)、聯(lián)合國等國際組織、行業(yè)協(xié)會(huì)、科技企業(yè)等多元主體的努力下，全球人工智能治理已經(jīng)開始起步并取得顯著進(jìn)展，呈現(xiàn)從多方進(jìn)程主導(dǎo)向多邊進(jìn)程主導(dǎo)的過渡與轉(zhuǎn)移特征。國際社會(huì)開始規(guī)范人工智能倫理治理，初步探索多元主體參與的多層次治理結(jié)構(gòu)，形成風(fēng)格各異的治理特色。

（一）初步形成多元主體治理格局

2016年以來，已有40余個(gè)國家和地區(qū)先后將人工智能發(fā)展上升到國家戰(zhàn)略高度。政府與民間、公共部門與私人部門合作等治理方式已經(jīng)成為人工智能治理不可或缺的一種方式。當(dāng)前國際社會(huì)已初步形成以主權(quán)國家為主，國際組織、行業(yè)組織、學(xué)術(shù)團(tuán)體、高科技公司等多元主體共同參與的人工智能治理網(wǎng)絡(luò)。

第一，主權(quán)國家加強(qiáng)以硬法治理為特征的國家中心治理模式。以國家為中心的治理模式是當(dāng)前全球人工智能治理最為顯著的模式，中美等大國均積極通過制定法律法規(guī)等方式加強(qiáng)對(duì)國內(nèi)人工智能發(fā)展的布局、規(guī)劃與監(jiān)管。國家中心治理模式具有有效使用公權(quán)力以及運(yùn)用硬法治理的優(yōu)勢(shì)，有助于取得更為顯著的治理效果，但是主權(quán)國家各自為政的單一行動(dòng)已完全無法應(yīng)對(duì)人工智能的全球風(fēng)險(xiǎn)，無法遏制人工智能安全化、武器化趨勢(shì)，還容易陷入為保持技術(shù)領(lǐng)先地位“重研發(fā)而輕治理”的怪圈。為控制國家中心治理模式的負(fù)外部性，歐盟在地區(qū)層面加強(qiáng)倫理治理，中國則在加強(qiáng)負(fù)責(zé)任人工智能國家治理基礎(chǔ)上積極推進(jìn)全球治理。

第二，國際組織推進(jìn)以倫理治理與機(jī)制治理為主要特征的治理模式。經(jīng)合組織、聯(lián)合國教科文組織等國際組織在推動(dòng)人工智能倫理治理方面起到引領(lǐng)性作用。2019年《經(jīng)合組織人工智能原則》提出以人為本，打造值得信賴的人工智能。2021年聯(lián)合國教科文組織發(fā)布的《人工智能倫理問題建議書》提出人工智能系統(tǒng)生命周期中應(yīng)遵守的價(jià)值觀。2023年7月，在聯(lián)合國安理會(huì)人工智能與安全問題高級(jí)別公開會(huì)上，秘書長古特雷斯強(qiáng)烈呼吁通過成立新的聯(lián)合國機(jī)構(gòu)強(qiáng)化對(duì)人工智能的全球治理。同年10月，聯(lián)合國人工智能高級(jí)別咨詢機(jī)構(gòu)宣布成立，這是全球人工智能治理機(jī)制化建設(shè)向前邁出的重要一步。

第三，行業(yè)協(xié)會(huì)與高科技企業(yè)加強(qiáng)以治理聯(lián)盟與技術(shù)治理為主要特征的治理模式。加強(qiáng)行業(yè)間治理聯(lián)盟合作是人工智能治理的重要途徑。亞馬遜、谷歌等高科技公司早在2016年就聯(lián)合發(fā)起人工智能合作伙伴關(guān)系（Partnership"on"AI），至今在全球已有126個(gè)合作伙伴。世界經(jīng)濟(jì)論壇在2023年也發(fā)起人工智能治理聯(lián)盟（AI"Governance"Alliance）。此外，行業(yè)協(xié)會(huì)與高科技企業(yè)在技術(shù)治理上扮演重要角色，美國電氣和電子工程師協(xié)會(huì)（IEEE）提供人工智能倫理與治理方面的行業(yè)技術(shù)標(biāo)準(zhǔn)，中國計(jì)算機(jī)協(xié)會(huì)、美國計(jì)算機(jī)協(xié)會(huì)、國際標(biāo)準(zhǔn)化組織等行業(yè)組織以及微軟、谷歌等高科技公司，也紛紛制定人工智能技術(shù)標(biāo)準(zhǔn)與倫理規(guī)范。

（二）加強(qiáng)人工智能倫理治理規(guī)范

人工智能存在數(shù)據(jù)泄露、隱私侵犯、技術(shù)濫用等道德風(fēng)險(xiǎn)，并對(duì)人類生存與發(fā)展構(gòu)成重大挑戰(zhàn)。為引導(dǎo)人工智能向善發(fā)展，規(guī)范人工智能倫理治理尤為重要。2017年，美國“有益的人工智能”（Beneficial"AI）會(huì)議討論并制定了阿西洛馬人工智能原則（Asilomar"AI"Principles），明確規(guī)定人工智能應(yīng)該是有益的智能，不能不受（人類）控制；其中23條原則涉及研究、道德標(biāo)準(zhǔn)與價(jià)值觀念等方面，是最早且最具影響力的人工智能治理原則之一。"近年來，美國、中國、歐盟等主要國家與地區(qū)組織均將倫理治理納入自身的人工智能發(fā)展戰(zhàn)略中。此外，聯(lián)合國、二十國集團(tuán)、經(jīng)合組織等也不斷提出人工智能倫理原則與倡議。聯(lián)合國教科文組織2021年通過《人工智能倫理問題建議書》，從價(jià)值觀、倫理原則與政策指導(dǎo)三方面確立了全球首個(gè)人工智能倫理框架，高達(dá)193個(gè)成員國一致通過該建議書，促使人工智能倫理規(guī)范成為更大范圍的國際共識(shí)。

歐盟在規(guī)范人工智能倫理治理上頗具代表性。歐盟人工智能技術(shù)和產(chǎn)業(yè)發(fā)展均落后于美國，其將人工智能治理的重心放在倫理道德與法律法規(guī)上。作為人工智能監(jiān)管在全球范圍內(nèi)的“第一推動(dòng)者”，歐盟強(qiáng)調(diào)人工智能應(yīng)合法、合倫理、穩(wěn)健，要構(gòu)建可信賴的人工智能生態(tài)系統(tǒng)。2024年通過的《人工智能法案》進(jìn)一步強(qiáng)化了歐盟對(duì)高風(fēng)險(xiǎn)人工智能應(yīng)用的監(jiān)管力度。

中國較早開始加強(qiáng)人工智能倫理治理，早在2017年發(fā)布的《新一代人工智能發(fā)展規(guī)劃》就提出2025年要初步建立人工智能倫理規(guī)范。隨后，中國對(duì)人工智能倫理治理的相關(guān)原則和具體要求作出更為明確的規(guī)定。2022年發(fā)布的《中國關(guān)于加強(qiáng)人工智能倫理治理的立場(chǎng)文件》則從人工智能監(jiān)管、研發(fā)、使用及國際合作等方面提出主張，推動(dòng)國際人工智能倫理治理。加強(qiáng)對(duì)人工智能倫理治理的規(guī)范，有助于確立技術(shù)開發(fā)與應(yīng)用過程中需遵循的基本價(jià)值理念，將倫理規(guī)范內(nèi)化到技術(shù)發(fā)展的全生命周期中，避免顛覆性風(fēng)險(xiǎn)的發(fā)生，確保人工智能技術(shù)向善發(fā)展。

（三）積極探索多層次治理結(jié)構(gòu)

人工智能治理已經(jīng)初步形成國家、地區(qū)與全球多層次治理結(jié)構(gòu)。從國家層面看，主要大國均通過制定政策、開展立法等方式加強(qiáng)人工智能國內(nèi)治理。從地區(qū)層面看，歐盟、東盟均通過了各具特色的人工智能治理文件。歐盟《人工智能法案》以嚴(yán)格著稱，對(duì)人工智能的穩(wěn)健性、準(zhǔn)確性、安全性等方面制定了嚴(yán)格標(biāo)準(zhǔn)。東盟《人工智能治理和倫理指南》則凸顯靈活性，強(qiáng)調(diào)文化差異，傾向于讓成員國自行確定最有效的措施。從全球?qū)用婵矗壳叭斯ぶ悄苤卫碇饕蕾嚶?lián)合國、七國集團(tuán)、二十國集團(tuán)在內(nèi)的國際組織與國際機(jī)制。聯(lián)合國宣布成立的人工智能高級(jí)別咨詢機(jī)構(gòu)為聯(lián)合國框架下人工智能管理機(jī)構(gòu)的形式和功能奠定基礎(chǔ)。

人工智能國家治理進(jìn)展相對(duì)較快，全球治理進(jìn)展較為緩慢。受技術(shù)民族主義影響，不同主體與層次之間的協(xié)同治理仍較為匱乏。全球人工智能治理大多停留在概念與理念的提出與闡述上，真正落地的實(shí)踐行動(dòng)還相當(dāng)有限。全球人工智能治理的進(jìn)一步發(fā)展需要多元、多層次治理主體之間的協(xié)同治理與網(wǎng)絡(luò)化治理模式的創(chuàng)新。

（四）形成風(fēng)格各異的治理特色

伴隨人工智能技術(shù)的發(fā)展，美國、歐盟、中國等紛紛加強(qiáng)對(duì)人工智能治理方法、模式的探索，結(jié)合各自政治制度與人工智能發(fā)展特點(diǎn)，逐漸形成風(fēng)格各異的人工智能治理特色。

美國為保持技術(shù)領(lǐng)先地位形成相對(duì)寬松的治理特色。美國加強(qiáng)人工智能治理的首要目標(biāo)在于提升美國人工智能的全球領(lǐng)導(dǎo)力。由于美國將人工智能研發(fā)作為優(yōu)先事項(xiàng)，在治理措施的制定上較為審慎，監(jiān)管力度也較為寬松，更傾向于行業(yè)自律，以免過度治理阻礙科技創(chuàng)新。2023年美國國會(huì)共提出181項(xiàng)有關(guān)人工智能的議案，但僅有1項(xiàng)議案獲得通過。美國還設(shè)立了國家人工智能倡議辦公室（NAIIO）、國家人工智能咨詢委員會(huì)（NAIAC）等機(jī)構(gòu)，推動(dòng)各部門、各行業(yè)的協(xié)同治理。

歐盟形成重視倫理治理與軟硬法相結(jié)合的治理特色。歐盟人工智能治理較為嚴(yán)格，尤其重視對(duì)倫理規(guī)范、數(shù)據(jù)保護(hù)、網(wǎng)絡(luò)安全等方面的監(jiān)管。歐盟2019年發(fā)布的《可信賴的人工智能倫理準(zhǔn)則》從人類自主性、技術(shù)安全性、隱私治理、透明度、防止偏見、社會(huì)福祉、問責(zé)制度七大方面提出人工智能倫理要求。歐盟不斷將以倫理準(zhǔn)則為代表的軟法向立法推進(jìn)，2024年通過全球首部《人工智能法案》，實(shí)現(xiàn)區(qū)域性硬法的落地。

中國形成既立足國內(nèi)又面向全球的負(fù)責(zé)任人工智能治理特色。中國高度重視人工智能治理，提出公平公正、包容共享、尊重隱私、共擔(dān)責(zé)任等人工智能治理原則。2023年中國《生成式人工智能服務(wù)管理暫行辦法》成為全球首部針對(duì)生成式人工智能的專門立法。中國還積極向國際社會(huì)提出《全球數(shù)據(jù)安全倡議》（2020年）、《關(guān)于加強(qiáng)人工智能倫理治理的立場(chǎng)文件》（2022年）以及《全球人工智能治理倡議》（2023年）等文件。中國支持在聯(lián)合國框架下討論成立國際人工智能治理機(jī)構(gòu)，協(xié)調(diào)國際人工智能發(fā)展、安全與治理重大問題，為包括發(fā)展中國家在內(nèi)的國際社會(huì)提供中國方案，這對(duì)于加強(qiáng)負(fù)責(zé)任的全球人工智能治理起到積極推動(dòng)作用。

三、全球人工智能治理的困境

大國戰(zhàn)略競(jìng)爭(zhēng)加劇了顛覆性技術(shù)的安全化與武器化傾向，超越地區(qū)合作層面的全球性數(shù)字治理幾乎處于全面停頓的狀態(tài)。當(dāng)前全球人工智能治理面臨著主體利益各異、治理對(duì)象復(fù)雜、治理共識(shí)不足、治理方式各異等困境。

（一）主體利益各異，全球治理乏力

全球人工智能治理雖然形成了多元主體參與的治理格局，但多元主體之間的互動(dòng)與協(xié)同還遠(yuǎn)遠(yuǎn)不足，治理力量呈現(xiàn)分散化與碎片化的狀態(tài)。主要大國利益訴求多樣化，不同國家間的治理法規(guī)政策存在很大差異，而國際組織、行業(yè)協(xié)會(huì)、學(xué)術(shù)團(tuán)體、高科技企業(yè)又立場(chǎng)各異，各主體難以達(dá)成相對(duì)統(tǒng)一的全球治理目標(biāo)、標(biāo)準(zhǔn)與原則。

國家作為重要的國際行為體，是推動(dòng)全球人工智能治理的中堅(jiān)力量。然而，在現(xiàn)實(shí)主義思維支配下，國家極為重視人工智能國內(nèi)治理，對(duì)全球治理卻更多處于觀望與呼吁狀態(tài)，缺乏切實(shí)行動(dòng)。加強(qiáng)全球人工智能治理無疑需要美國等西方發(fā)達(dá)國家發(fā)揮更為重要的作用，但美國為了維護(hù)其科技霸權(quán)地位，通過技術(shù)聯(lián)盟這一排他性框架打壓其他國家的科技發(fā)展，企圖擴(kuò)大技術(shù)代差。美國通過其主導(dǎo)的技術(shù)治理多邊體系搶占人工智能國際規(guī)則制定的主導(dǎo)權(quán)，在客觀上加大了全球人工智能治理的現(xiàn)實(shí)困難。

科技巨頭之間治理價(jià)值觀的不一致令人工智能治理前景變得更為模糊不清。2023年3月，馬斯克等上千名科技人士發(fā)布公開信，呼吁所有人工智能實(shí)驗(yàn)室暫停訓(xùn)練比GPT-4更強(qiáng)大的人工智能系統(tǒng)至少6個(gè)月，反對(duì)過快發(fā)展人工智能。馬斯克批評(píng)OpenAI追求利潤而忽視人工智能安全，但他很快于2023年7月成立新人工智能公司X.AI，聲稱目標(biāo)是“了解宇宙的真實(shí)本質(zhì)”，并于當(dāng)年11月推出聊天機(jī)器人"Grok，與谷歌、OpenAI等行業(yè)領(lǐng)導(dǎo)者競(jìng)爭(zhēng)。"高科技公司既無法回避對(duì)人工智能快速發(fā)展?jié)撛陲L(fēng)險(xiǎn)的擔(dān)憂，又希望獲取技術(shù)領(lǐng)先地位并實(shí)現(xiàn)自身的科技價(jià)值觀，客觀上加劇了人工智能的研發(fā)競(jìng)爭(zhēng)，使全球人工智能治理陷入遲滯甚至停頓的狀態(tài)。

（二）治理對(duì)象復(fù)雜，治理時(shí)機(jī)難定

人工智能治理是一個(gè)全球性、系統(tǒng)性的工程。在2021年世界人工智能大會(huì)（WAIC）治理論壇上，清華大學(xué)教授薛瀾提出“敏捷治理”概念，認(rèn)為數(shù)據(jù)、算法、應(yīng)用場(chǎng)景、平臺(tái)、企業(yè)作為治理對(duì)象應(yīng)自下而上分層治理。"顯然，人工智能治理對(duì)象的復(fù)雜性及其產(chǎn)生的不確定性風(fēng)險(xiǎn)使治理難度進(jìn)一步加大。算法“黑箱”的透明化困境及其帶來的算法歧視問題、人工智能實(shí)際應(yīng)用場(chǎng)景的變化，都成為人工智能治理不可回避的難題。

人工智能技術(shù)處于快速迭代發(fā)展的過程之中，對(duì)其進(jìn)行治理與監(jiān)管極易陷入“科林格里奇困境”（Collingridge’s"Dilemma）：在技術(shù)相對(duì)可控的發(fā)展早期難以對(duì)其未來發(fā)展的風(fēng)險(xiǎn)作出準(zhǔn)確預(yù)測(cè)，因此無法過早開始治理；在技術(shù)發(fā)展成熟后，再對(duì)已經(jīng)顯現(xiàn)并深嵌于社會(huì)的風(fēng)險(xiǎn)進(jìn)行治理則異常困難。例如，在人工智能深度合成技術(shù)發(fā)展早期，人們對(duì)其后續(xù)可能被不法分子濫用進(jìn)行詐騙等問題認(rèn)識(shí)不足，未能及時(shí)介入治理，而當(dāng)深度合成技術(shù)已被濫用于電信詐騙、色情傳播、肖像權(quán)侵犯、輿論操控之后，又面臨更為復(fù)雜的治理難題?？傊?，“前瞻治理”無法準(zhǔn)確預(yù)測(cè)技術(shù)的發(fā)展方向，“事后治理”又無法彌補(bǔ)已經(jīng)造成的技術(shù)負(fù)面影響，這成為人工智能治理的一大困境。

（三）治理共識(shí)尚淺，排他治理突出

當(dāng)前國際社會(huì)雖然有加強(qiáng)人工智能發(fā)展與治理的基本共識(shí)，但具體要如何推進(jìn)治理，尤其是如何推進(jìn)全球?qū)用娴闹卫?，則難以達(dá)成一致。受不同行為體利益取向、意識(shí)形態(tài)、文化價(jià)值觀差異等影響，各方治理理念存在較大差異，甚至相互沖突，要達(dá)成深度治理共識(shí)顯得尤為困難。

各國在追求人工智能快速發(fā)展的同時(shí)，沒有進(jìn)行充分的技術(shù)分享。世界各國或是在本國行政管轄權(quán)范圍內(nèi)構(gòu)建相應(yīng)的人工智能技術(shù)發(fā)展規(guī)范，或是在有限的排他性“聯(lián)盟集團(tuán)”內(nèi)部展開治理問題協(xié)商。2019年5月，經(jīng)合組織數(shù)字經(jīng)濟(jì)政策委員會(huì)（CDEP）發(fā)布了全球首份政府間人工智能政策指南，其中關(guān)于人工智能發(fā)展的五項(xiàng)原則和五點(diǎn)建議基本上與特朗普簽署的“維持美國在人工智能領(lǐng)域領(lǐng)先地位”行政令的基調(diào)完全一致；而且，恰恰由于美國的參與和支持，該政策指南成為一份被發(fā)達(dá)國家認(rèn)可的“國際準(zhǔn)則”。但是美國在背后積極推動(dòng)的此次討論不僅未邀請(qǐng)中國代表參加，還拒絕中國學(xué)者參與。美國試圖在全球人工智能治理中邊緣化中國，這種帶有排他性的做法極大影響了全球人工智能治理的進(jìn)程。此外，大國領(lǐng)導(dǎo)力缺失將制約全球治理能力的提升，使全球人工智能治理的國際合作空間難以拓展。

（四）治理松緊不一，協(xié)同治理困難

由于過嚴(yán)或過松的監(jiān)管都不利于人工智能技術(shù)的健康發(fā)展和科學(xué)治理，因此在鼓勵(lì)人工智能技術(shù)創(chuàng)新、保持發(fā)展勢(shì)頭與設(shè)置監(jiān)管邊界、制定治理政策之間，各國往往根據(jù)其國家利益與現(xiàn)實(shí)需求采取松緊不一的治理方式?？傮w上，中國與歐盟的治理強(qiáng)度高于美國。美國始終強(qiáng)調(diào)在人工智能領(lǐng)域的全球領(lǐng)先地位，因此其治理側(cè)重于行業(yè)自治、應(yīng)用與流程管理，通過政策指南、行業(yè)共識(shí)、行業(yè)標(biāo)準(zhǔn)等方式，以相對(duì)較弱的監(jiān)管來保證人工智能產(chǎn)業(yè)發(fā)展的活力。美國2020年發(fā)布的《人工智能應(yīng)用規(guī)范指南》強(qiáng)調(diào)：“為了促進(jìn)美國的創(chuàng)新，各機(jī)構(gòu)要謹(jǐn)記人工智能的國際應(yīng)用，要確保美國公司不受美國監(jiān)管制度的不利影響?！睔W盟以強(qiáng)監(jiān)管態(tài)度，通過硬法與軟法并存的治理方式，進(jìn)一步將維護(hù)人工智能倫理價(jià)值觀上升至歐洲整體戰(zhàn)略層面。2018年5月生效的歐盟《通用數(shù)據(jù)保護(hù)條例》是目前世界上最嚴(yán)格的數(shù)據(jù)隱私保護(hù)法規(guī)。

由于利益差異以及治理松緊程度不一，國家之間往往難以進(jìn)行有效的協(xié)同治理。同為技術(shù)聯(lián)盟成員，美國與歐盟緊密合作，意圖領(lǐng)導(dǎo)全球人工智能治理規(guī)則的制定，但在涉及各自人工智能治理領(lǐng)域的具體措施時(shí)，雙方時(shí)有分歧與摩擦。歐盟謀求技術(shù)主權(quán)，并不想成為美國的戰(zhàn)略附庸，因而試圖在中美之間尋求平衡。歐盟在數(shù)據(jù)隱私保護(hù)與監(jiān)管方面的政策要比美國嚴(yán)格得多，兩者難以達(dá)成相對(duì)一致的治理方式與規(guī)則，在全球?qū)用嫔系膮f(xié)同治理則更是難上加難。盡管其他多邊國際組織、行業(yè)自治網(wǎng)絡(luò)和技術(shù)社團(tuán)等在人工智能的倫理準(zhǔn)則和監(jiān)管機(jī)制方面展開有益探索，但由于不同組織與機(jī)制間的主張各異，彼此之間的溝通協(xié)調(diào)與協(xié)同治理也頗為困難。

四、全球人工智能治理的出路

人工智能所涉及利益與技術(shù)的復(fù)雜程度決定了其全球治理的難度要遠(yuǎn)高于其他領(lǐng)域的治理。面對(duì)人工智能治理困境，存在推動(dòng)全球人工智能走向“善治”與全球治理難以推進(jìn)兩種聲音。人工智能治理具有復(fù)雜性、長期性與艱巨性的特征，其治理前景取決于“善治”、“合治”與“法治”路徑能否順利推進(jìn)。

（一）“善治”：共識(shí)下的差異

人工智能是把雙刃劍，它朝著何種方向發(fā)展取決于國際社會(huì)的治理能力。要確保人工智能發(fā)展是為人類謀福利而非顛覆人類社會(huì)，其底線在于“善治”，即發(fā)展公平、透明、負(fù)責(zé)任、向善的人工智能，通過良善的治理來實(shí)現(xiàn)全球的正義目標(biāo)。

“善治”已經(jīng)成為人工智能治理倫理話語的高度概括。阿西洛馬人工智能原則強(qiáng)調(diào)人工智能發(fā)展要符合人類利益，要?jiǎng)?chuàng)造安全、透明、負(fù)責(zé)任的人工智能系統(tǒng)。中國倡導(dǎo)“以人為本”理念與“智能向善”宗旨，確保人工智能始終處于人類控制之下，打造可審核、可監(jiān)督、可追溯、可信賴的人工智能技術(shù)。無論是歐盟的人工智能發(fā)展愿景，還是2023年聯(lián)合國人工智能高級(jí)別咨詢機(jī)構(gòu)發(fā)布的《以人為本的人工智能治理》報(bào)告，無不體現(xiàn)出“善治”的共性。“善治”中的“以人為本”既源于中國古代的民本思想，又契合西方人權(quán)理念，是中西方文化的共通價(jià)值，能夠成為促進(jìn)各國人工智能治理共識(shí)的價(jià)值基礎(chǔ)。

盡管各方對(duì)“善治”能夠產(chǎn)生觀念上的共鳴，促成初步共識(shí)，但要真正達(dá)成“善治”目標(biāo)并非易事。多元主體對(duì)于“善治”概念以及達(dá)成“善治”路徑的理解仍有差異。對(duì)于人工智能“善治”更為強(qiáng)調(diào)的應(yīng)該是治理的公平與正義，還是治理的倫理與規(guī)范，抑或是治理的敏捷與效能等，目前尚無定論。因此，人工智能“善治”仍處于較為理想化的呼吁階段。如要真正實(shí)現(xiàn)“善治”目標(biāo)，國際社會(huì)需要在已有基本共識(shí)的基礎(chǔ)上，堅(jiān)持客觀審慎的態(tài)度，強(qiáng)化人的主體性，明確人工智能的研發(fā)禁區(qū)，將可解釋、可信賴、安全、負(fù)責(zé)任的人工智能作為未來發(fā)展方向。

（二）“合治”：協(xié)同治理創(chuàng)新

人工智能的治理目標(biāo)靠單一行為體難以實(shí)現(xiàn)，迫切需要加強(qiáng)不同國際行為體的“合治”?！恫既R切利宣言》指出，人工智能的風(fēng)險(xiǎn)從本質(zhì)上看是全球性的，最好通過國際合作來解決。人工智能“合治”需要推動(dòng)跨國界、跨地區(qū)、跨領(lǐng)域、跨學(xué)科、跨部門的合作與協(xié)同治理。

加強(qiáng)人工智能治理不僅需要人的自覺、反思與克制，還需要在國家主義和全球主義間尋求某種平衡，實(shí)現(xiàn)技術(shù)治理、社會(huì)治理、政府治理與國際治理之間的合作，從政企協(xié)同、政民協(xié)同、人機(jī)協(xié)同等多層面推動(dòng)多元主體協(xié)同治理。人工智能“合治”呈現(xiàn)多主體合治、跨界合治、跨國合治等多種形式，需要推動(dòng)多邊合作機(jī)制，充分發(fā)揮行業(yè)協(xié)會(huì)、研究機(jī)構(gòu)、高科技公司的積極作用。

當(dāng)前，不同行為體人工智能治理模式的相互影響與借鑒為推動(dòng)“合治”創(chuàng)造了一定可能性。分散的人工智能治理機(jī)制在相互鏈接的過程中出現(xiàn)了成員范圍、合作內(nèi)容的重疊，因此需要加強(qiáng)對(duì)人工智能治理機(jī)制的有機(jī)整合。推動(dòng)全球人工智能“合治”也是發(fā)展中國家共享人工智能知識(shí)成果、獲得開源人工智能技術(shù)的寶貴機(jī)會(huì)。但是，由于多元主體的利益訴求與合作基礎(chǔ)不同，人工智能治理很容易陷入“分而治之”的困境。這需要處理好“分”與“合”的內(nèi)在張力，平衡好國家主義和全球主義的關(guān)系，將碎片化與分散化的治理轉(zhuǎn)化為治理合力，增強(qiáng)全球治理的包容性。

（三）“法治”：軟硬法并濟(jì)

人工智能“法治”意味著通過制定規(guī)則、規(guī)范、機(jī)制避免技術(shù)價(jià)值的異化，通過制度性的約束與監(jiān)督推動(dòng)人工智能走向“善治”。技術(shù)本身具有價(jià)值中立性，但技術(shù)的濫用或誤用可能使其價(jià)值向度偏離正常軌道。阿西洛馬人工智能23條原則暗含了發(fā)展通用人工智能甚至是超（高）級(jí)人工智能的目標(biāo)，這導(dǎo)致人工智能在自主性方面過于超前。如果沒有外部監(jiān)管，放任技術(shù)自由迭代發(fā)展，不僅將加劇技術(shù)風(fēng)險(xiǎn)，還可能動(dòng)搖人類基本價(jià)值。加強(qiáng)人工智能“法治”建設(shè)需要在有法可治的基礎(chǔ)上進(jìn)行依法治理，加強(qiáng)國內(nèi)硬法與國際軟法建設(shè)，尤其重視國際軟法治理體系的建設(shè)，強(qiáng)調(diào)國際規(guī)范、國際機(jī)制的引導(dǎo)與約束作用，明確人工智能研發(fā)、使用與治理的價(jià)值理念?！胺ㄖ巍奔仁菍?duì)“善治”與“合治”的制度保障，也是實(shí)現(xiàn)全球人工智能治理落地的重要推力。

硬法常見于國內(nèi)法。中國的《個(gè)人信息保護(hù)法》《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》為人工智能治理奠定了法律基礎(chǔ)。歐盟《人工智能法案》明確了人工智能在歐盟市場(chǎng)的準(zhǔn)入規(guī)則，并要求在高風(fēng)險(xiǎn)領(lǐng)域進(jìn)行人工監(jiān)督；該法案為人工智能治理從原則性指導(dǎo)走向可審核、可執(zhí)行的法律程序提供了參考路徑，是區(qū)域性“法治”的一個(gè)例證。但是，國際社會(huì)并不存在類似國內(nèi)社會(huì)的硬法治理，只能在有約束性承諾的國際公約的基礎(chǔ)上，制定軟性治理框架，發(fā)揮國際法與國際機(jī)制在推動(dòng)全球人工智能治理方面的作用。面對(duì)全球人工智能治理的復(fù)雜局面，單純依靠國內(nèi)硬法或國際軟法并不足以實(shí)現(xiàn)全面有效的人工智能治理。因此，要實(shí)現(xiàn)“法治”的理想狀態(tài)，還需要探索軟硬并濟(jì)的混合治理機(jī)制，在克服兩者弊端的基礎(chǔ)上實(shí)現(xiàn)優(yōu)勢(shì)互補(bǔ)，讓軟法強(qiáng)化硬法的靈活性，讓硬法保障軟法的效力性，實(shí)現(xiàn)軟硬法的協(xié)同治理。

五、結(jié)語

人工智能的發(fā)展對(duì)地緣政治、國際體系以及人類社會(huì)均構(gòu)成巨大挑戰(zhàn)。人工智能大國競(jìng)爭(zhēng)極易陷入個(gè)體理性導(dǎo)致集體非理性的悖論中?？萍济\(yùn)共同體的本質(zhì)需要國家超越技術(shù)民族主義意識(shí)，加強(qiáng)全球技術(shù)創(chuàng)新與協(xié)同發(fā)展。人工智能治理失靈問題的解決無法依靠單一國家，需要世界各國的共同努力。推動(dòng)全球人工智能治理體系的建設(shè)，需要進(jìn)一步加強(qiáng)機(jī)制化建設(shè)，構(gòu)建技術(shù)監(jiān)控、安全評(píng)估、風(fēng)險(xiǎn)防范“三位一體”的治理體系。為防止人工智能治理領(lǐng)域寡頭壟斷地位的形成，需要充分發(fā)揮主權(quán)國家作用，推動(dòng)多邊主義治理，"重視發(fā)達(dá)國家與發(fā)展中國家的協(xié)同合作治理，積極應(yīng)對(duì)當(dāng)前日益擴(kuò)大的數(shù)字鴻溝，推動(dòng)國際政治經(jīng)濟(jì)的平衡發(fā)展，實(shí)現(xiàn)全球人工智能治理的“善治”目標(biāo)。

作為負(fù)責(zé)任的大國，中國始終“深度參與全球科技治理，貢獻(xiàn)中國智慧，著力推動(dòng)構(gòu)建人類命運(yùn)共同體”。中國在國內(nèi)層面需要積極加強(qiáng)人工智能社會(huì)治理實(shí)踐，建立先行先試實(shí)驗(yàn)點(diǎn)與示范點(diǎn)，探索人工智能治理的規(guī)則規(guī)范，以更好地為全球人工智能治理提供中國經(jīng)驗(yàn)。在國際層面，中國積極支持聯(lián)合國框架下的人工智能治理議程，提出《全球數(shù)據(jù)安全倡議》《全球人工智能治理倡議》《國際科技合作倡議》等中國方案，分享技術(shù)治理的中國智慧，成為全球人工智能治理的先行者和助力者。作為世界上最大的發(fā)展中國家，中國在人類命運(yùn)共同體理念引領(lǐng)下，積極提出人工智能治理標(biāo)準(zhǔn)、規(guī)則、規(guī)范，努力縮小發(fā)展中國家與發(fā)達(dá)國家之間的數(shù)字鴻溝，不斷推動(dòng)構(gòu)建公正、包容、可信、向善的全球人工智能治理體系。

【責(zé)任編輯：肖瑩瑩】