人工智能（Artificial Intelligence，縮寫(xiě)為AI）是發(fā)展新質(zhì)生產(chǎn)力的主要陣地，是新一輪科技革命和產(chǎn)業(yè)變革的核心驅(qū)動(dòng)力。中國(guó)已經(jīng)躋身世界人工智能技術(shù)發(fā)展第一梯隊(duì)，為企業(yè)帶來(lái)后發(fā)追趕“換道超車”的重大機(jī)會(huì)窗口。與此同時(shí)，AI這把強(qiáng)大的“雙刃劍”也可能會(huì)帶來(lái)顛覆性風(fēng)險(xiǎn)。

如何強(qiáng)化前瞻預(yù)判，健全相關(guān)規(guī)則和政策，形成與新質(zhì)生產(chǎn)力更相適應(yīng)的生產(chǎn)關(guān)系，以“善治”引導(dǎo)人工智能“向善”？在上海舉行的2024世界人工智能大會(huì)暨人工智能全球治理高級(jí)別會(huì)議上，來(lái)自中美英法新等國(guó)逾25位各國(guó)人工智能治理權(quán)威圍繞人工智能倫理治理展開(kāi)研討，現(xiàn)將主要論點(diǎn)綜述如下。

人工智能治理存在的風(fēng)險(xiǎn)挑戰(zhàn)

據(jù)圖靈獎(jiǎng)得主Yoshua Bengio介紹，由75位頂尖人工智能專家和30個(gè)國(guó)家共同參與撰寫(xiě)的《先進(jìn)人工智能安全國(guó)際科學(xué)報(bào)告》中期報(bào)告中，將AI的風(fēng)險(xiǎn)分為以下三類。

由于系統(tǒng)缺陷與失靈造成的風(fēng)險(xiǎn)。隱私泄露，大模型可能會(huì)將訓(xùn)練所用數(shù)據(jù)和用戶信息泄露，對(duì)商業(yè)秘密和個(gè)人隱私構(gòu)成威脅。虛假信息，AI可以生成以假亂真的圖片和假消息，迅速傳播假新聞和謠言。偏見(jiàn)和歧視，大語(yǔ)言模型生成的文本內(nèi)容中，可能會(huì)放大現(xiàn)實(shí)社會(huì)中對(duì)婦女、兒童、有色人種等的刻板印象和歧視現(xiàn)象。知識(shí)產(chǎn)權(quán)侵權(quán)，由ChatGPT生成的論文等為AI學(xué)習(xí)現(xiàn)有作品生成的內(nèi)容，可能侵犯原作者的著作權(quán)。

由于人類主觀惡意造成的風(fēng)險(xiǎn)。深度偽造，生成式AI技術(shù)可能會(huì)被用來(lái)偽裝人類的外貌、聲音。網(wǎng)絡(luò)犯罪，AI根據(jù)用戶指令生成的內(nèi)容可能存在違法違規(guī)、違反公序良俗等情形，也可能被利用在詐騙等犯罪中。網(wǎng)絡(luò)恐怖主義，AI可能成為恐怖分子用來(lái)傳播暴力極端主義意識(shí)形態(tài)甚至發(fā)起恐怖主義攻擊的武器。生物安全，AI在發(fā)現(xiàn)和改善藥物化合物等方面具有強(qiáng)大能力，也可能用來(lái)制造生物武器的危險(xiǎn)物質(zhì)。

帶給人類社會(huì)的系統(tǒng)性風(fēng)險(xiǎn)。權(quán)力集中，AI領(lǐng)域發(fā)展速度呈指數(shù)級(jí)變化，發(fā)達(dá)國(guó)家與落后國(guó)家的AI發(fā)展程度差距將越來(lái)越大。勞工失業(yè)，AI的發(fā)展將取代很多人工崗位，對(duì)就業(yè)造成沖擊。能源消耗，算力的迅猛增長(zhǎng)對(duì)電力需求提出了極大挑戰(zhàn)。削弱文化多樣性，在處理和分析文化內(nèi)容時(shí)可能會(huì)強(qiáng)化主流文化，導(dǎo)致文化的同質(zhì)化。

人工智能治理面臨的困難問(wèn)題

與會(huì)專家普遍認(rèn)為，目前的治理手段尚不足以防御現(xiàn)有的風(fēng)險(xiǎn)和潛在的災(zāi)難性風(fēng)險(xiǎn)。北京大學(xué)博雅講席教授高文院士認(rèn)為，當(dāng)前的人工智能水平還不足以實(shí)現(xiàn)向善，要從技術(shù)、倫理和道德角度對(duì)人工智能進(jìn)行規(guī)范。

技術(shù)層面，仍然有待發(fā)展和進(jìn)步。一是現(xiàn)階段開(kāi)發(fā)者無(wú)法預(yù)測(cè)和控制大模型的表現(xiàn)。目前的大模型由數(shù)據(jù)而非規(guī)則驅(qū)動(dòng)。類似人們?nèi)詿o(wú)法預(yù)測(cè)和控制小孩子的舉動(dòng)，設(shè)計(jì)者也無(wú)法理解目前的大模型是如何做出特定決策的。二是現(xiàn)有技術(shù)安全能力還顯不足。大語(yǔ)言模型的安全“護(hù)欄”機(jī)制非常脆弱，可能會(huì)被繞開(kāi)。加州大學(xué)伯克利分校教授Dawn Song指出，當(dāng)前大模型對(duì)抵御模型攻擊測(cè)試特別是誘導(dǎo)攻擊的能力還有很大欠缺。三是評(píng)估測(cè)試不能確保萬(wàn)無(wú)一失。中國(guó)信通院與上海人工智能實(shí)驗(yàn)室介紹了目前在國(guó)內(nèi)大模型安全評(píng)測(cè)方面的工作。目前通用AI通過(guò)輸入各種問(wèn)題來(lái)進(jìn)行評(píng)估測(cè)試，但這些抽查測(cè)試并不能保證100%無(wú)風(fēng)險(xiǎn)。

治理層面，尚未形成國(guó)際共識(shí)。一是各國(guó)在人工智能領(lǐng)域競(jìng)爭(zhēng)激烈。AI不僅是經(jīng)濟(jì)議題、技術(shù)議題，也是政治議題。目前僅美國(guó)、中國(guó)和少數(shù)歐盟國(guó)家有力量進(jìn)行生成式AI大模型的開(kāi)發(fā)與訓(xùn)練。歐盟希望通過(guò)規(guī)則制定在未來(lái)AI全球治理中贏得話語(yǔ)權(quán)。美國(guó)明確主張“確保在AI領(lǐng)域的領(lǐng)先地位”，高度警惕我國(guó)的技術(shù)追趕，并為此出臺(tái)了大量封鎖、制裁和懲罰性舉措。二是爭(zhēng)相主導(dǎo)全球人工智能治理。七國(guó)集團(tuán)提出AI監(jiān)管的“廣島進(jìn)程”；英國(guó)舉辦“AI Safety”峰會(huì)并發(fā)布了《布萊切利宣言》；第78屆聯(lián)合國(guó)大會(huì)協(xié)商一致通過(guò)了由中國(guó)主提的加強(qiáng)人工智能能力建設(shè)國(guó)際合作決議，140多國(guó)參加決議聯(lián)署。本次世界人工智能大會(huì)上中國(guó)發(fā)布的《人工智能全球治理上海宣言》，為全球AI的治理范式和路徑提供了新思路。

制度層面，各國(guó)立法思路不一，主要是各國(guó)在產(chǎn)業(yè)發(fā)展中的地位不同。加州大學(xué)伯克利分校人類兼容人工智能中心執(zhí)行主任Mark Nitzberg說(shuō)，美國(guó)目前主要以單行法律、行政命令和州立法為主，尚未出臺(tái)綜合性立法，給予企業(yè)更多容錯(cuò)空間。歐盟《人工智能法案》是全球首部對(duì)AI領(lǐng)域進(jìn)行全面監(jiān)管的法律，即使是開(kāi)發(fā)并部署在歐盟境外的AI系統(tǒng)，只要其輸出結(jié)果在歐盟境內(nèi)使用，其提供者與部署者均將可被法案管轄。中國(guó)政法大學(xué)教授、聯(lián)合國(guó)高層AI顧問(wèn)機(jī)構(gòu)專家張凌寒說(shuō)，中國(guó)強(qiáng)調(diào)發(fā)展與安全并重，已經(jīng)出臺(tái)數(shù)據(jù)安全法、個(gè)人信息保護(hù)法等法律，《生成式人工智能服務(wù)管理暫行辦法》等部門(mén)規(guī)章。人工智能法也已列入全國(guó)人大常委會(huì)2024年立法計(jì)劃預(yù)備項(xiàng)目。

對(duì)于我國(guó)人工智能治理的前景展望

在對(duì)AI進(jìn)行安全倫理監(jiān)管的同時(shí)，也要把握發(fā)展規(guī)律，促進(jìn)產(chǎn)業(yè)發(fā)展與技術(shù)進(jìn)步。

集聚人類智慧提升人工智能治理能力。以開(kāi)放姿態(tài)繼續(xù)加強(qiáng)國(guó)際合作?？蒲蟹矫?，清華大學(xué)人工智能國(guó)際治理研究院院長(zhǎng)薛瀾和卡內(nèi)基國(guó)際和平研究院主席Mariano-Florentino Cu llar認(rèn)為，要展開(kāi)頻繁密切的討論，特別是中美需要開(kāi)展對(duì)話，建立起多邊的各領(lǐng)域?qū)＜医M合作網(wǎng)絡(luò)系統(tǒng)。標(biāo)準(zhǔn)方面，牛津大學(xué)馬丁人工智能治理計(jì)劃聯(lián)合主任Robert Trager提出，要制定AI全生命周期國(guó)際安全標(biāo)準(zhǔn)，向國(guó)際民航組織等學(xué)習(xí)各國(guó)執(zhí)行統(tǒng)一標(biāo)準(zhǔn)、檢驗(yàn)結(jié)果互認(rèn)等好的做法，并建立起一套管理機(jī)制保障標(biāo)準(zhǔn)的實(shí)施。國(guó)際合作方面，要建立所有國(guó)家合作的平臺(tái)，保障發(fā)展中國(guó)家的發(fā)展權(quán)，尊重各國(guó)價(jià)值觀。Bengio強(qiáng)調(diào)，要設(shè)立大規(guī)模濫用和失控風(fēng)險(xiǎn)的閾值及預(yù)警機(jī)制，并準(zhǔn)備好各國(guó)共同應(yīng)對(duì)的計(jì)劃。

以良法善治推動(dòng)人工智能治理制度創(chuàng)新。一要制定靈活開(kāi)放的政策。政府應(yīng)當(dāng)開(kāi)展分級(jí)分類監(jiān)管，將AI風(fēng)險(xiǎn)分成國(guó)內(nèi)監(jiān)管的風(fēng)險(xiǎn)、嚴(yán)重潛在的風(fēng)險(xiǎn)（需要各國(guó)共同監(jiān)督）、不可接受的風(fēng)險(xiǎn)（直到能確保安全再創(chuàng)造這樣的系統(tǒng)）等級(jí)別進(jìn)行監(jiān)管。中國(guó)工程院院士、清華大學(xué)智能產(chǎn)業(yè)研究院院長(zhǎng)張亞勤提出，將前沿大模型按規(guī)模進(jìn)行分類，對(duì)萬(wàn)億參數(shù)的加強(qiáng)規(guī)范，但對(duì)于小規(guī)模的不過(guò)度監(jiān)管。我國(guó)的人工智能立法一方面要回?fù)敉獠康亩糁?，支持和促進(jìn)AI的發(fā)展；另一方面要向世界推廣自己的治理價(jià)值理念，占據(jù)國(guó)際規(guī)則先發(fā)優(yōu)勢(shì)。以“小快靈”而非綜合性的立法，快速響應(yīng)AI發(fā)展面臨的新情況新變化，促進(jìn)AI發(fā)展與安全并行不悖。要明確以下幾點(diǎn)原則：就責(zé)任主體而言，要“負(fù)責(zé)任地使用人工智能”，明確使用AI作為輔助工具也需要為生成結(jié)果負(fù)責(zé)。中國(guó)科學(xué)院自動(dòng)化研究所人工智能倫理與治理研究中心主任、聯(lián)合國(guó)人工智能高層顧問(wèn)機(jī)構(gòu)專家曾毅認(rèn)為，要?jiǎng)澏ā癆I的紅線”，防止AI武器化或失控，比如未經(jīng)人類允許就自我復(fù)制；要?jiǎng)澏ā叭祟惖募t線”，即明確什么事項(xiàng)的決策控制權(quán)必須掌握在人類手中，比如核武器就不能交給AI控制。