摘要：目前，以ChatGPT為代表的人工智能技術(shù)引發(fā)了廣泛關(guān)注。人工智能發(fā)展帶來了一系列風(fēng)險(xiǎn)挑戰(zhàn)：主體性危機(jī)引發(fā)人類自身主體性質(zhì)疑，喪失自主判斷力，帶來現(xiàn)實(shí)人際孤島；數(shù)據(jù)缺失造成結(jié)論誤導(dǎo)，虛假數(shù)據(jù)造成信任危機(jī)，數(shù)據(jù)泄露和濫用帶來安全隱患；算法的可解釋性不足帶來“黑箱”問題，算法的魯棒性不足造成算法失靈，“回音室效應(yīng)”帶來偏見與分化；社會風(fēng)險(xiǎn)包括技術(shù)的顛覆性變革帶來國際分工重塑，意識形態(tài)的輿論引導(dǎo)性風(fēng)險(xiǎn)，行業(yè)科技巨頭壟斷趨勢加??；等等。人工智能治理在中國、美國、歐盟得到了很好的實(shí)踐。

敏捷治理、韌性治理、負(fù)責(zé)任創(chuàng)新和治理，是最新的人工智能治理的三大理念。對于人工智能的發(fā)展和治理，不僅要充分釋放“制”的優(yōu)勢，更要做好“治”的文章，充分發(fā)揮各治理主體的作用，需要政府發(fā)揮統(tǒng)領(lǐng)監(jiān)督引導(dǎo)作用，整合企業(yè)、科研機(jī)構(gòu)、高校的各種資源，實(shí)現(xiàn)政府、企業(yè)、高校、科研機(jī)構(gòu)的協(xié)同發(fā)力。

關(guān)鍵詞：人工智能；治理；主體性危機(jī)；算法

中圖分類號：F224.32

文獻(xiàn)標(biāo)識碼：A

DOI：10.12186/2023.02.008

文章編號：2096-9864（2023）02-0056-07

當(dāng)今世界，全球重大前沿技術(shù)和顛覆性創(chuàng)新快速突破，新一輪科技革命和產(chǎn)業(yè)變革帶來重大機(jī)遇，以人工智能、大數(shù)據(jù)、云計(jì)算、區(qū)塊鏈為代表的新一代信息技術(shù)飛速發(fā)展、加快滲透，對人類的生產(chǎn)、生活方式產(chǎn)生了深刻影響。一方面，以人工智能為代表的新興技術(shù)與經(jīng)濟(jì)社會深度融合，催生了智慧城市、智慧農(nóng)業(yè)、智慧能源、智慧交通等新領(lǐng)域新賽道，成為我國構(gòu)建現(xiàn)代化產(chǎn)業(yè)體系、提高經(jīng)濟(jì)綜合競爭力的重要戰(zhàn)略引擎；另一方面，人工智能等新興技術(shù)在加速迭代升級的過程中，也給人類社會的法律隱私、倫理道德、社會治理、國際關(guān)系準(zhǔn)則等方面帶來一系列問題和挑戰(zhàn)。

關(guān)于人工智能的研究已經(jīng)成為全球性、全局性的問題，國內(nèi)外學(xué)者從不同角度對人工智能展開了研究。W.J.Rapaport［1］認(rèn)為，人工智能屬于計(jì)算機(jī)科學(xué)的一個分支，是一門通過研究算法來解決問題和完成任務(wù)的學(xué)科；M.Maas［2］認(rèn)為，人工智能的內(nèi)涵包括了眾多內(nèi)容，目前是一個復(fù)雜而又混亂的概念；龐禎敬等［3］認(rèn)為，人工智能催生出的諸多新產(chǎn)業(yè)、新服務(wù)、新業(yè)態(tài)和新模式已成為經(jīng)濟(jì)社會數(shù)字化變革的核心動力；閆德利［4］認(rèn)為，人工智能的發(fā)展將引起就業(yè)結(jié)構(gòu)的巨大變化，單一特定領(lǐng)域的重復(fù)性工作將被人工智能大量取代；石琳娜等［5］認(rèn)為，以人工智能、云計(jì)算、物聯(lián)網(wǎng)等為代表的數(shù)字經(jīng)濟(jì)重要性日益突出，并與實(shí)體經(jīng)濟(jì)加速融合；魯傳穎等［6］認(rèn)為，人工智能風(fēng)險(xiǎn)存在于各個領(lǐng)域，對國際、國家、社會、個人等都產(chǎn)生了廣泛影響；洪永淼等［7］認(rèn)為，以ChatGPT 為代表的前沿人工智能目前仍沒有人類的意識或理解能力，只有預(yù)測能力；T.Liu［8］認(rèn)為，增強(qiáng)人工智能的可解釋性成為熱點(diǎn)問題，但仍處在初期研究階段，有多種研究路徑可供持續(xù)探索；梁正等［9］認(rèn)為，世界諸國對于什么是人工智能治理、為什么進(jìn)行治理以及如何治理等還沒有形成深刻的成果與共識。

綜上所述，目前國內(nèi)外關(guān)于人工智能治理的研究還處于起步和探索階段，理論研究的步伐明顯落后于實(shí)踐，在我國新發(fā)展階段和經(jīng)濟(jì)社會轉(zhuǎn)型升級的背景下，探討人工智能治理相關(guān)問題具有重要意義。

一、人工智能發(fā)展帶來的風(fēng)險(xiǎn)挑戰(zhàn)

目前，以ChatGPT為代表的人工智能技術(shù)引發(fā)廣泛關(guān)注，人工智能等新興技術(shù)在加速迭代升級的過程中，也引發(fā)了一系列風(fēng)險(xiǎn)和問題。

1.主體性危機(jī)

（1）引發(fā)人類自身主體性質(zhì)疑

當(dāng)前人工智能系統(tǒng)在某些方面已經(jīng)可以與人類相媲美，甚至超越人類，人工智能的普及會削弱人在社會中的主體地位。例如，人工智能系統(tǒng)已經(jīng)開始取代人類部分工作，這可能會使人們開始懷疑自己的職業(yè)價(jià)值和發(fā)展前景。未來，人類有可能逐漸難以參與智能生產(chǎn)的過程，喪失在實(shí)踐活動中的主體地位。

（2）失去自主判斷力

人工智能所具有的高效信息收集、分析、推理、決策能力是人類所難以企及的，但當(dāng)人們過度依賴人工智能時，他們可能會失去自己的判斷能力。另外，人工智能系統(tǒng)的設(shè)計(jì)和訓(xùn)練可能存在偏見和局限性，如果人們長期依賴它，可能會失去對這些錯誤的察覺和糾正，導(dǎo)致人們的自主判斷和決策能力被進(jìn)一步削弱。

（3）帶來現(xiàn)實(shí)人際孤島

人工智能技術(shù)實(shí)現(xiàn)了虛擬社交的擴(kuò)大化。當(dāng)今社會，網(wǎng)絡(luò)社交平臺層出不窮，打破了時空和地理的限制，讓全球的用戶可以同時在線使用并分享和交流相關(guān)信息。這種虛擬社交的擴(kuò)大會促使用戶快速獲得自己喜歡或認(rèn)同的內(nèi)容，篩選與自己志趣相投的群體、與自己有共同語言的虛擬人物。通過算法設(shè)計(jì)出來的虛擬人物能充分滿足用戶需求，比真實(shí)人類更加善解人意，這樣會極大地降低現(xiàn)實(shí)世界人際交往的欲望和動力。同時，對人工智能產(chǎn)品的大量使用會分散真實(shí)世界中人類群體建立親密關(guān)系的精力，拉大身邊的人與人之間交往的鴻溝，人際孤島的問題也逐漸凸顯。

2.數(shù)據(jù)問題

（1）數(shù)據(jù)缺失造成的結(jié)論誤導(dǎo)

人工智能進(jìn)行自動化決策時，如果數(shù)據(jù)不充分、不達(dá)標(biāo)，會導(dǎo)致預(yù)測結(jié)果不準(zhǔn)確、不可靠。例如，醫(yī)療領(lǐng)域的人工智能模型在訓(xùn)練數(shù)據(jù)中如果缺少某些疾病的信息，就會出現(xiàn)漏診或誤診從而給患者帶來嚴(yán)重的健康風(fēng)險(xiǎn)；在金融領(lǐng)域，如果缺少某些欺詐行為的信息，就會產(chǎn)生誤判從而導(dǎo)致金融損失和信用危機(jī)等。

（2）虛假數(shù)據(jù)造成的信任危機(jī)

人工智能算法具有極高的仿真度，使得日?；顒又械姆纻舞b定面臨困難，對社會各個層面都構(gòu)成潛在的威脅。如果在算法中混入虛假的數(shù)據(jù)還會對算法形成欺騙，在智能決策結(jié)論中得出錯誤的結(jié)果。當(dāng)人工智能模型故意模擬或使用虛假數(shù)據(jù)時，可能會導(dǎo)致預(yù)測結(jié)果的低準(zhǔn)確性，從而降低用戶對模型的信任。

（3）數(shù)據(jù)泄露和濫用帶來的安全隱患

數(shù)據(jù)的采集和使用若管理不到位會給個人、社會和國家?guī)戆踩[患。例如，企業(yè)在加工、使用數(shù)據(jù)的過程中出現(xiàn)泄露和濫用，不僅會威脅到用戶的個人隱私，還會對企業(yè)乃至社會形成巨大風(fēng)險(xiǎn)。此外，如果國家機(jī)密數(shù)據(jù)被泄露，就可能會被用于進(jìn)行間諜活動、網(wǎng)絡(luò)攻擊等，對國家安全造成威脅。

3.算法的固有缺陷

（1）算法的可解釋性不足帶來“黑箱”問題

普通用戶無法理解程序的復(fù)雜運(yùn)算過程，可解釋性不足讓人們不能理解算法的決策機(jī)理，也難以預(yù)測算法的行為，“黑箱”問題由此出現(xiàn)。深度學(xué)習(xí)算法的一個顯著特點(diǎn)是在訓(xùn)練過程中自動提取特征，但這一過程目前尚不可控，算法可能會選擇錯誤的特征。算法的透明性和可解釋性不足會限制技術(shù)的傳播和發(fā)展，成為算法利用方面的難題。

（2）算法的魯棒性不足造成算法失靈

算法的魯棒性是指算法在處理輸入數(shù)據(jù)時，能夠保持穩(wěn)定性和正確性的能力。一個具有魯棒性的算法，可以正確地處理各種類型的數(shù)據(jù)，包括缺失數(shù)據(jù)、錯誤數(shù)據(jù)、離群值和噪聲等。當(dāng)算法的魯棒性不足時，它可能會輸出錯誤的結(jié)果，或者出現(xiàn)錯誤時無法正常運(yùn)行，導(dǎo)致算法失靈。

（3）回音室效應(yīng)帶來偏見與分化

深度學(xué)習(xí)算法能夠挖掘訓(xùn)練數(shù)據(jù)集中不同因素的相關(guān)性，擬合其分布特性，數(shù)據(jù)集中的偏見與歧視會被引入到訓(xùn)練出的模型之中。在網(wǎng)絡(luò)信息化時代，各種數(shù)據(jù)和信息可能會被分類和篩選，并進(jìn)行標(biāo)簽固化，在算法推薦系統(tǒng)的不利影響下很有可能產(chǎn)生“回音室效應(yīng)”，導(dǎo)致人們長期獲得自身畫像的單一數(shù)據(jù)和信息，致使人們沉浸在自己偏好的信息世界中，可能造成嚴(yán)重的公眾意識形態(tài)分化、網(wǎng)絡(luò)群體極化現(xiàn)象［10］。

4.社會風(fēng)險(xiǎn)

（1）技術(shù)的顛覆性變革帶來國際分工重塑

人工智能等新興技術(shù)的變革發(fā)展，也帶來了科技保護(hù)主義的興起。美國在算力、算法、芯片等關(guān)鍵領(lǐng)域都有較大優(yōu)勢，基于自身的先行優(yōu)勢，美國有能力構(gòu)建一個新的、更固化的中心-外圍結(jié)構(gòu)的世界分工格局。近年來，美國依靠自身的科技和經(jīng)濟(jì)實(shí)力，以及自身的世界霸主地位，正在強(qiáng)化單邊科技保護(hù)主義，努力與中國以及其他國家脫鉤，以保持自身的領(lǐng)先地位。其他發(fā)展中國家與美國在人工智能領(lǐng)域，特別是在通用模型的科技研發(fā)方面差距巨大?？萍剂α繎沂饧觿×藦V大科技弱勢國家對發(fā)達(dá)國家的技術(shù)依賴，科技弱勢國家被迫選邊站隊(duì)，科技政治極化風(fēng)險(xiǎn)激增。作為最大的發(fā)展中國家，中國在人工智能的模型迭代創(chuàng)新方面擁有較大上升空間，仍需要不斷努力。

（2）意識形態(tài)的輿論引導(dǎo)性風(fēng)險(xiǎn)

以ChatGPT為代表的人工智能大模型高度擬人化和便利性將強(qiáng)化社會公眾對它的信任和依賴，同時增強(qiáng)它對重大概念和事件的解釋權(quán)，與政府官方的解釋權(quán)形成競爭，其輸出結(jié)果的真實(shí)性持續(xù)影響公眾的判斷和選擇，潛移默化之中塑造和改變公眾的觀念和輿論判斷。擁有技術(shù)優(yōu)勢的國家有可能利用他國公眾的從眾心理，利用人工智能大模型輸出意識形態(tài)偏好，強(qiáng)化西方價(jià)值觀，隱蔽進(jìn)行意識形態(tài)滲透和制度干擾，侵蝕技術(shù)弱勢國家的政權(quán)管理能力。同時，國際互聯(lián)網(wǎng)平臺充斥著的不計(jì)其數(shù)的智能水軍，也給技術(shù)弱勢國家?guī)砹司薮蟮谋O(jiān)管壓力，增加了社會不穩(wěn)定因素。

（3）行業(yè)科技巨頭壟斷趨勢加劇

人工智能作為前沿新興技術(shù)，在理論和實(shí)踐中擁有廣闊的發(fā)展空間。但是，在實(shí)踐應(yīng)用和落地發(fā)展中，通用大模型并不“通用”，該領(lǐng)域的研發(fā)和創(chuàng)新只有科技巨頭才能涉足。目前，用于存儲數(shù)據(jù)模型的顯卡至少價(jià)值200萬元，模型迭代需要長期、大量的資本、人力投入，其需要的算力和數(shù)據(jù)儲備只有科技巨頭企業(yè)才能滿足，得體的交互應(yīng)對背后是聚沙成塔式的細(xì)節(jié)更新，高昂的訓(xùn)練和能源消耗成本也不是普通中小企業(yè)能提供的。科技巨頭企業(yè)高額投入換來的技術(shù)不斷更新進(jìn)步，同時帶來的經(jīng)濟(jì)回報(bào)和影響力也是巨大的，長此以往，這種趨勢帶來的科技壟斷將更加明顯。

二、人工智能治理的全球?qū)嵺`

自2016年起，已有40多個國家和地區(qū)將推動人工智能發(fā)展上升到國家戰(zhàn)略高度，加快推動人工智能的創(chuàng)新發(fā)展。ChatGPT的出現(xiàn)反映了人工智能發(fā)展的新趨勢，即AI正在從感知智能向認(rèn)知智能快速發(fā)展。作為人工智能領(lǐng)域發(fā)展最先進(jìn)的國家，美國擁有一系列具備充足技術(shù)和資金資源的公司和實(shí)驗(yàn)室，如谷歌、微軟、OpenAI、亞馬遜、Meta等科技巨頭，都在通用大模型上進(jìn)行了大規(guī)模布局與投資。繼OpenAI發(fā)布ChatGPT大模型之后，中國的科技公司也陸續(xù)加入了大模型開發(fā)和應(yīng)用的隊(duì)伍，并努力將之前的發(fā)展重點(diǎn)（單一模型對應(yīng)單一任務(wù)的專用大模型）調(diào)整為通用大模型，如百度開發(fā)的“文心一言”，阿里開發(fā)的“通義M6”，騰訊開發(fā)的“混元”，華為開發(fā)的“盤古”，中國科學(xué)院自動化研究所開發(fā)的“紫東太初”等。人工智能的快速發(fā)展引起了全球的廣泛關(guān)注，與此同時，開展人工智能治理，發(fā)展負(fù)責(zé)任和可信的人工智能也正在成為全球共識。中國、美國、歐盟作為三大經(jīng)濟(jì)體是最具有代表性的典型樣本［9］，近幾年，已經(jīng)相繼出臺了人工智能治理的相關(guān)法規(guī)，做到了有法可依。

1.中國實(shí)踐

為搶抓人工智能發(fā)展的重大戰(zhàn)略機(jī)遇，構(gòu)筑我國人工智能發(fā)展的先發(fā)優(yōu)勢，加快建設(shè)創(chuàng)新型國家和世界科技強(qiáng)國，我國在大力推動人工智能發(fā)展的同時，也出臺了一系列政策法規(guī)，指導(dǎo)人工智能的健康發(fā)展。國務(wù)院在《新一代人工智能發(fā)展規(guī)劃》中提出，“建立人工智能法律法規(guī)、倫理規(guī)范和政策體系，形成人工智能安全評估和管控能力”。該規(guī)劃強(qiáng)調(diào)防范人工智能風(fēng)險(xiǎn)，引導(dǎo)人工智能向有益于人類的方向發(fā)展，需要及時就人工智能出現(xiàn)的風(fēng)險(xiǎn)及其防范機(jī)制進(jìn)行研究。國家標(biāo)準(zhǔn)化管理委員會發(fā)布的中國《人工智能標(biāo)準(zhǔn)化白皮書2018》，首次從政府層面提出了中國關(guān)于人工智能倫理的人類利益原則和責(zé)任原則。同時，中國也通過立法的形式進(jìn)一步規(guī)范以人工智能為代表的新興技術(shù)的發(fā)展，先后出臺了《數(shù)據(jù)安全法》《個人信息保護(hù)法》《網(wǎng)絡(luò)安全法》，我國人工智能治理逐漸進(jìn)入法制化軌道。我國各部委也持續(xù)跟進(jìn)相關(guān)政策文件的補(bǔ)充落實(shí)，如由國家網(wǎng)信辦發(fā)布的以算法為治理對象的政策文件《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》，對企業(yè)使用算法時需要遵守的規(guī)定、違法之后的處罰作了相應(yīng)規(guī)定。由工信部發(fā)布的《“十四五”信息化和工業(yè)化深度融合發(fā)展規(guī)劃》，對智能產(chǎn)品在行業(yè)的應(yīng)用推廣進(jìn)行了系統(tǒng)性的部署，對其他部署也做了相應(yīng)的行為規(guī)定［11］。

2.美國實(shí)踐

美國作為科技實(shí)力最強(qiáng)的國家，其人工智能技術(shù)發(fā)展領(lǐng)先全球。美國先后出臺了三個扶持人工智能發(fā)展的政策文件《國家人工智能研發(fā)戰(zhàn)略規(guī)劃》《為人工智能的未來做好準(zhǔn)備》《人工智能、自動化與經(jīng)濟(jì)報(bào)告》，同時漸進(jìn)式推進(jìn)人工智能治理的立法實(shí)踐。在美國，各州率先出臺了人工智能治理相關(guān)的法規(guī)，但是在聯(lián)邦層面的立法進(jìn)展始終較為緩慢。在治理方式上，美國政府問責(zé)局發(fā)布了一個人工智能問責(zé)框架，幫助聯(lián)邦機(jī)構(gòu)在算法治理、系統(tǒng)性能、數(shù)據(jù)記錄、持續(xù)監(jiān)測規(guī)范使用智能技術(shù)。美國聯(lián)邦貿(mào)易委員會發(fā)布的備忘錄要求各企業(yè)在人工智能的使用中確保透明、公平、可解釋性和穩(wěn)健性。美國國防部發(fā)布的《負(fù)責(zé)任的人工智能備忘錄》，為第三方開發(fā)者開發(fā)軍用人工智能產(chǎn)品提供了清晰高效的評估和查詢流程。美國平等就業(yè)機(jī)會委員會也曾發(fā)起一項(xiàng)致力于消解就業(yè)領(lǐng)域算法偏見的倡議，以確保人工智能和其他用于招聘和就業(yè)決策的新興工具使用符合民權(quán)法律［11］。

3.歐盟實(shí)踐

2018年4月25日，歐盟委員會發(fā)布了《歐盟人工智能》政策文件，提出了以人為本的人工智能發(fā)展理念。作為人工智能的推動者，歐盟也在世界范圍內(nèi)發(fā)布了首部人工智能法案。2021年4月21日，歐盟發(fā)布了《人工智能法》提案，該法案將人工智能應(yīng)用的風(fēng)險(xiǎn)劃分為四種，提出了在人工智能產(chǎn)品上市之前，應(yīng)對產(chǎn)品進(jìn)行相應(yīng)風(fēng)險(xiǎn)評估，不可接受風(fēng)險(xiǎn)不能上市，高風(fēng)險(xiǎn)要有合適的監(jiān)管，最大限度地縮小風(fēng)險(xiǎn)擴(kuò)散的范圍，要求有限風(fēng)險(xiǎn)的產(chǎn)品應(yīng)該對公眾透明化，對極低風(fēng)險(xiǎn)產(chǎn)品的使用法案不進(jìn)行干預(yù)。作為一項(xiàng)具有權(quán)威性的人工智能監(jiān)管法案，該法案為人工智能治理的可執(zhí)行性提供了法律參照［11］。

三、人工智能治理的新理念

隨著新一代人工智能技術(shù)的快速發(fā)展，國內(nèi)外學(xué)者對以人工智能為代表的新興技術(shù)治理進(jìn)行了廣泛討論，逐漸形成了多種治理理念與模式，比較前沿和新型的治理理念主要有以下幾種。

1.敏捷治理

敏捷治理理論最初是在軟件開發(fā)領(lǐng)域提出的，強(qiáng)調(diào)軟件開發(fā)過程的互動，加強(qiáng)與客戶合作，通過工具創(chuàng)新和迭代縮短軟件開發(fā)周期，以應(yīng)對快速變化的環(huán)境與需求的一種理論。歷經(jīng)多年的發(fā)展變化，敏捷治理從軟件開發(fā)領(lǐng)域發(fā)展到多學(xué)科應(yīng)用，其核心理念“以敏捷的態(tài)度回應(yīng)快速變化的環(huán)境”得到了諸多學(xué)者的認(rèn)可與發(fā)展。2018年的世界經(jīng)濟(jì)論壇發(fā)布了標(biāo)題為《敏捷治理：第四次工業(yè)革命時代政策制定的重構(gòu)》的治理白皮書，將敏捷治理正式引入政府治理領(lǐng)域［12］。該白皮書提出，敏捷治理是一種自適應(yīng)、以人為本與具有包容性和可持續(xù)性的決策過程，其運(yùn)用的手段應(yīng)具有靈活性、適應(yīng)性和柔韌性，敏捷不僅要求更快速的反應(yīng)與治理行為，同時還要對政策流程進(jìn)行全新的設(shè)計(jì)。

在實(shí)踐方面，敏捷治理首先在西方國家得到了政府的采納。美國政府采用敏捷的方法與理念，在政府內(nèi)部通過敏捷治理改進(jìn)電子政府的效率與服務(wù)，從治理流程、服務(wù)內(nèi)容、價(jià)值交付等方面進(jìn)行敏捷化變革。英國數(shù)字服務(wù)小組（GDS）以敏捷治理理念為指導(dǎo)，建立起敏捷服務(wù)社區(qū)，通過建立在線服務(wù)平臺，對社區(qū)居民的需求進(jìn)行迅速的回應(yīng)，為其提供高效高質(zhì)的社會服務(wù)。第四次工業(yè)革命中，以大數(shù)據(jù)、人工智能、區(qū)塊鏈為代表的新興技術(shù)改變了人類社會傳統(tǒng)的信息溝通方式，給政府監(jiān)管、風(fēng)險(xiǎn)控制帶來了巨大挑戰(zhàn)。在此背景下，敏捷治理被認(rèn)為是回應(yīng)新興技術(shù)治理的理想方式。敏捷治理是指應(yīng)對不斷變化的新興技術(shù)采取同等迅速變化的、靈活的、適應(yīng)性的手段進(jìn)行治理，敏捷治理通過對快速變化的新興產(chǎn)業(yè)進(jìn)行治理從而推動其進(jìn)行創(chuàng)新。

敏捷治理具有如下特征：其一，時間敏感性。敏捷治理需要對快速變化的新技術(shù)變化采取同等迅速的手段進(jìn)行監(jiān)管和治理，同時進(jìn)行持續(xù)性的準(zhǔn)備以應(yīng)對未知的風(fēng)險(xiǎn)，并在不斷變化與技術(shù)更迭中實(shí)現(xiàn)學(xué)習(xí)與創(chuàng)新。其二，參與廣泛性。敏捷治理強(qiáng)調(diào)多方利益主體之間的協(xié)同合作，通過讓更多的利益主體參與到政策制定與治理過程中來，加強(qiáng)多主體間的協(xié)調(diào)與合作，將企業(yè)的創(chuàng)新活力融入政府治理中，以多方利益平衡機(jī)制增進(jìn)政策的有效性與可持續(xù)性。其三，政策工具的更迭與創(chuàng)新。新技術(shù)發(fā)展為政府治理工作的開展所采取的方法與工具提出了更高的要求，傳統(tǒng)的治理工具具有時滯性高、治理力度大的特征，敏捷治理要求政府不斷更新治理工具，以輕柔、靈活的工具為主，以方向修正與抽象指導(dǎo)為主要治理方式，以互動式監(jiān)管促進(jìn)產(chǎn)業(yè)創(chuàng)新。

2.韌性治理

“韌性”一詞來源于拉丁詞語“Resiliens”，但直到 19 世紀(jì)初，隨著彈性力學(xué)基本理論的確立，“韌性”一詞才被賦予“壓縮后恢復(fù)原狀能力”的內(nèi)涵。20世紀(jì)50年代，西方心理學(xué)引入“韌性”的概念來反映人們遭受精神創(chuàng)傷后的恢復(fù)情況。20世紀(jì)70年代，生態(tài)學(xué)家Holling首次使用“韌性”一詞描述干擾過后生態(tài)、資源系統(tǒng)的自我修復(fù)能力，并認(rèn)為這種性質(zhì)不僅意味著系統(tǒng)能恢復(fù)到原初平衡狀態(tài)，更重要的是可以向新的平衡狀態(tài)轉(zhuǎn)化［13］。

近年來，國內(nèi)外專家學(xué)者紛紛將韌性治理引入到公共管理領(lǐng)域，韌性治理是指在系統(tǒng)分析脆弱性風(fēng)險(xiǎn)的基礎(chǔ)上，運(yùn)用更具包容性、冗余度、感知力與應(yīng)變力的治理手段，通過事前預(yù)警規(guī)避、事中響應(yīng)調(diào)整、事后迅速恢復(fù)和優(yōu)化的系統(tǒng)流程來提升風(fēng)險(xiǎn)治理水平［14］。韌性治理的理念逐漸融入國家治理、城市建設(shè)、社區(qū)治理、產(chǎn)業(yè)治理的各個方面和各項(xiàng)具體行動之中。在治理過程中，以人工智能、大數(shù)據(jù)、云計(jì)算為代表的新興技術(shù)，一方面，可以作為治理工具賦能韌性治理，協(xié)助進(jìn)行智能社會治理、智慧城市治理，防范和化解城市和生活中存在的各種風(fēng)險(xiǎn)和矛盾，提升治理的效率和效能；另一方面，人工智能等新興技術(shù)也作為治理對象存在，治理者對人工智能存在的風(fēng)險(xiǎn)進(jìn)行識別和預(yù)測并制定治理預(yù)案，對已經(jīng)出現(xiàn)的風(fēng)險(xiǎn)和問題進(jìn)行有效干預(yù)和控制。只有依法和適度地應(yīng)用人工智能，才能讓人工智能在韌性治理過程中實(shí)現(xiàn)治理工具和治理對象的統(tǒng)一。

3.負(fù)責(zé)任創(chuàng)新和治理

2003年，德國學(xué)者海斯托姆首次提出了“負(fù)責(zé)任創(chuàng)新”的概念，隨著新興技術(shù)的不斷發(fā)展，各國政府和學(xué)者也在不斷思考“創(chuàng)新創(chuàng)造”和“治理”之間的辯證關(guān)系，“負(fù)責(zé)任創(chuàng)新”的內(nèi)涵被不斷拓展。2011年，歐盟政策委員會發(fā)布了《地平線 2020框架計(jì)劃》，其中明確提出“負(fù)責(zé)任創(chuàng)新”這一概念，并將其作為歐盟發(fā)展戰(zhàn)略的重要內(nèi)容。該計(jì)劃指出，負(fù)責(zé)任創(chuàng)新的基本要素包括社會利益、道德倫理可接受程度及風(fēng)險(xiǎn)管理等，強(qiáng)調(diào)將科技進(jìn)步合理地嵌入社會發(fā)展進(jìn)程，引導(dǎo)科技創(chuàng)新的過程與產(chǎn)品實(shí)現(xiàn)倫理可接受、發(fā)展可持續(xù)和社會滿意，實(shí)現(xiàn)科技創(chuàng)新面向未來發(fā)展的集體管理［15］。

負(fù)責(zé)任創(chuàng)新聚焦新興技術(shù)治理，推動了傳統(tǒng)的以風(fēng)險(xiǎn)議題為核心的技術(shù)治理模式走向創(chuàng)新行為的責(zé)任塑造模式，形成了目標(biāo)設(shè)定、行動主體參與、價(jià)值準(zhǔn)則協(xié)調(diào)、過程響應(yīng)、制度建構(gòu)五個維度［15］，逐漸成為新興技術(shù)治理的主流治理模式和理念之一。歐盟針對新興技術(shù)治理的責(zé)任式創(chuàng)新范式的提出，得到全球多個國家如美國、英國、印度、韓國等的積極響應(yīng)。中國隨即也展開了對負(fù)責(zé)任創(chuàng)新的新興技術(shù)治理的研究與實(shí)踐，2019 年6月17日，我國發(fā)布《新一代人工智能治理原則》，其中明確提出了“發(fā)展負(fù)責(zé)任的人工智能”［15］。

四、啟示與展望

人工智能作為全球前沿的創(chuàng)新領(lǐng)域，其產(chǎn)生的顛覆性突破往往會帶動其他產(chǎn)業(yè)的發(fā)展甚至引發(fā)整個社會的綜合性變革。因此，

對于人工智能的發(fā)展和治理，不僅要充分釋放“制”的優(yōu)勢，更要做好“治”的文章，充分發(fā)揮各治理主體的作用，需要政府發(fā)揮統(tǒng)領(lǐng)監(jiān)督引導(dǎo)作用，整合企業(yè)、科研機(jī)構(gòu)、高校的各種資源，實(shí)現(xiàn)政府、企業(yè)、高校、科研機(jī)構(gòu)的協(xié)同發(fā)力。

人工智能治理機(jī)構(gòu)應(yīng)從技術(shù)上致力于提高人工智能技術(shù)的可解釋性、信任度、評估監(jiān)測等，同時也應(yīng)開展人工智能行為科學(xué)和倫理等問題研究，研制多層次的人工智能治理框架，研究人工智能立法規(guī)劃和制定人工智能突發(fā)事件應(yīng)急方案。針對人工智能存在的“黑箱”問題和不可解釋性，應(yīng)努力提高算法透明度，如規(guī)定在某些情形下公開人工智能系統(tǒng)或應(yīng)用代碼，規(guī)定公眾或受人工智能自動決策影響的用戶有權(quán)知道人工智能算法背后的基本邏輯或運(yùn)算標(biāo)準(zhǔn)，用戶在受到不公正對待時有權(quán)獲得救濟(jì)并對相關(guān)責(zé)任主體追究責(zé)任。

參考文獻(xiàn)：

［1］ RAPAPORT W J.What is artificial intelligence？［J］.Journal of Artificial General Intelligence，2022（2）：52.

［2］ MAAS M.Artificial intelligence governance under change foundations，facets，frameworks［D］. Denmark：University of Copenhagen，2020.

［3］ 龐禎敬，薛瀾.人工智能治理：認(rèn)知邏輯與范式超越［J］.科學(xué)學(xué)與科學(xué)技術(shù)管理，2022（9）：3.

［4］ 閆德利. 2016年人工智能產(chǎn)業(yè)發(fā)展綜述［J］.互聯(lián)網(wǎng)天地，2017（2）：22.

［5］ 石琳娜，陳勁.數(shù)字經(jīng)濟(jì)推動實(shí)現(xiàn)共同富裕的機(jī)理與路徑研究［EB/OL］.（2022-11-30）［2022-12-01］.https：∥kns.cnki.net/kcms/detail∥42.1224.G3.20221130.1432.003.html.

［6］ 魯傳穎，張璐瑤.人工智能的安全風(fēng)險(xiǎn)及治理模式探索［J］.國家安全研究，2022（4）：84.

［7］ 洪永淼，汪壽陽.人工智能新近發(fā)展及其對經(jīng)濟(jì)學(xué)研究范式的影響［J］.中國科學(xué)院院刊，2023（3）：353.

［8］ LIU T.Algorithm＼|dependent generalization bounds for multi＼|task learning［J］.IEEE Transactions on Pattern Analysis and Machine Intelligence， 2016（39）：227.

［9］ 梁正，張輝.構(gòu)建平衡包容的人工智能治理體系［J］.中國發(fā)展觀察，2022（12）：44.

［10］劉露，楊曉雷，高文.我國人工智能倫理監(jiān)管需求分析及對策研究［J］.中國工程科學(xué)，2021（3）：106.

［11］段家欣，趙瑜.全球人工智能治理的核心議題與規(guī)制趨勢［J］.聲屏世界，2022（12）：5.

［12］曹海軍，侯甜甜.敏捷賦能視角下的數(shù)字政府建設(shè)：實(shí)踐緣起與理論建構(gòu)［J］.吉林大學(xué)社會科學(xué)學(xué)報(bào)，2021（6）：170.

［13］HOLLING C S.Resilience and stability of ecological systems［J］.Annual Review of Ecology and Systematics，1973（4）：1.

［14］翟紹果，張星.從脆弱性治理到韌性治理：中國貧困治理的議題轉(zhuǎn)換、范式轉(zhuǎn)變與政策轉(zhuǎn)型［J］.山東社會科學(xué)，2021（1）：76.

［15］梅亮，臧樹偉，張娜娜.新興技術(shù)治理： 責(zé)任式創(chuàng)新視角的系統(tǒng)性評述［J］.科學(xué)學(xué)研究，2021（12）：2113.

［責(zé)任編輯：王天笑］