2025年4月25日，習(xí)近平總書記在主持二十屆中共中央政治局第二十次集體學(xué)習(xí)時(shí)強(qiáng)調(diào)，“面對(duì)新一代人工智能技術(shù)快速演進(jìn)的新形勢(shì)，要充分發(fā)揮新型舉國(guó)體制優(yōu)勢(shì)，堅(jiān)持自立自強(qiáng)，突出應(yīng)用導(dǎo)向，推動(dòng)我國(guó)人工智能朝著有益、安全、公平方向健康有序發(fā)展”。這一重要論述，為人工智能發(fā)展指明前進(jìn)方向。

堅(jiān)持多維度統(tǒng)籌人工智能發(fā)展

隨著人工智能技術(shù)的突破性進(jìn)展，我國(guó)在頂層設(shè)計(jì)層面加速發(fā)展人工智能，構(gòu)建了系統(tǒng)化的政策支持體系。特別是堅(jiān)持以促進(jìn)產(chǎn)業(yè)發(fā)展為基本導(dǎo)向，秉持發(fā)展與安全并重的原則，從法律、倫理、政策及技術(shù)等多維度統(tǒng)籌人工智能發(fā)展，引導(dǎo)其向上向善。

2017年國(guó)務(wù)院發(fā)布《新一代人工智能發(fā)展規(guī)劃》，確立人工智能治理總體目標(biāo)和規(guī)劃。一是到2025年，初步建立人工智能法律法規(guī)、倫理規(guī)范和政策體系，形成人工智能安全評(píng)估和管控能力；二是到2030年，建成更加完善的人工智能法律法規(guī)、倫理規(guī)范和政策體系。國(guó)家先后出臺(tái)《中華人民共和國(guó)網(wǎng)絡(luò)安全法》《中華人民共和國(guó)數(shù)據(jù)安全法》《中華人民共和國(guó)個(gè)人信息保護(hù)法》三部基礎(chǔ)性法律，從基礎(chǔ)設(shè)施、數(shù)據(jù)要素、自動(dòng)化決策等關(guān)鍵性要素方面構(gòu)建了治理框架。《中華人民共和國(guó)民法典》《中華人民共和國(guó)電子商務(wù)法》《中華人民共和國(guó)反不正當(dāng)競(jìng)爭(zhēng)法》等共同構(gòu)建數(shù)字經(jīng)濟(jì)時(shí)代的法律體系。2023年以來，我國(guó)人工智能監(jiān)管明顯提速，針對(duì)生成式人工智能和人臉識(shí)別等新興技術(shù)出臺(tái)專項(xiàng)規(guī)定，強(qiáng)化內(nèi)容安全和隱私保護(hù)。在此基礎(chǔ)上，各省市結(jié)合產(chǎn)業(yè)特點(diǎn)，出臺(tái)系列法規(guī)和規(guī)章，為促進(jìn)本地區(qū)人工智能技術(shù)創(chuàng)新提供堅(jiān)實(shí)的制度保障。

隨著科技快速發(fā)展，科技倫理挑戰(zhàn)日益凸顯。2019年6月，國(guó)家新一代人工智能治理專業(yè)委員會(huì)發(fā)布《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》，提出“發(fā)展負(fù)責(zé)任的人工智能”。2021年發(fā)布《新一代人工智能倫理規(guī)范》，細(xì)化倫理要求。2022年《中華人民共和國(guó)科學(xué)技術(shù)進(jìn)步法》從法律層面確立科技倫理治理框架，明確“國(guó)家建立科技倫理委員會(huì)，完善科技倫理制度規(guī)范”。2023年，科技部等部門聯(lián)合印發(fā)《科技倫理審查辦法（試行）》，明確科技活動(dòng)的倫理底線，要求生命科學(xué)、醫(yī)學(xué)、人工智能等敏感領(lǐng)域科研單位設(shè)立倫理審查委員會(huì)。多地成立省級(jí)科技倫理審查委員會(huì)，設(shè)區(qū)市設(shè)立倫理委員會(huì)和區(qū)域?qū)彶橹行?，完善上下?lián)動(dòng)機(jī)制，基本形成了具有地方特色的“規(guī)范引領(lǐng)、分類監(jiān)管、促進(jìn)創(chuàng)新”治理模式。

人工智能安全治理面臨諸多挑戰(zhàn)

我國(guó)人工智能安全治理雖然取得積極成效，但隨著技術(shù)快速迭代，仍面臨政策法規(guī)滯后、數(shù)據(jù)安全與隱私保護(hù)、算法透明度不足、監(jiān)管能力薄弱等諸多挑戰(zhàn)。

司法治理敏捷度不足。人工智能的快速發(fā)展引發(fā)多領(lǐng)域的法律合規(guī)風(fēng)險(xiǎn)，現(xiàn)行法律體系在應(yīng)對(duì)技術(shù)超前性、提升監(jiān)管敏捷性方面存在不足，亟須構(gòu)建動(dòng)態(tài)適配的治理框架。算法設(shè)計(jì)理念缺陷、模型漏洞及安全保障不足等潛在風(fēng)險(xiǎn)，可能以難以察覺的方式對(duì)社會(huì)造成系統(tǒng)性損害。人工智能技術(shù)具有高度復(fù)雜性、快速創(chuàng)新性和跨國(guó)性特征，現(xiàn)有法律制度難以跟上技術(shù)迭代速度，司法治理的敏捷度亟待提升。

倫理治理效力有限?，F(xiàn)行倫理治理主要依賴企業(yè)自律和行業(yè)指引等非強(qiáng)制性指引，缺乏有力約束。傳統(tǒng)監(jiān)管模式下人工智能倫理治理過于柔性，難以及時(shí)有效應(yīng)對(duì)人工智能快速發(fā)展帶來的技術(shù)風(fēng)險(xiǎn)?！皞惱硐刃小痹瓌t實(shí)施較為空洞，甚至實(shí)踐中流于形式，缺乏貫穿研發(fā)應(yīng)用全周期的實(shí)質(zhì)性倫理框架。倫理治理的軟約束特征導(dǎo)致規(guī)范效力不足，亟須強(qiáng)化倫理規(guī)范的剛性約束，建立具有執(zhí)行力的倫理治理體系。

技術(shù)治理機(jī)制不健全。算法治理雖已建立自評(píng)估與備案制度，但仍存在短板。當(dāng)前“事前監(jiān)管+事后追責(zé)”的治理模式難以有效應(yīng)對(duì)AI技術(shù)的系統(tǒng)性風(fēng)險(xiǎn)，特別是在應(yīng)用場(chǎng)景仍處探索階段、治理思路尚不明晰的背景下，適應(yīng)性表現(xiàn)出不足。同時(shí)，技術(shù)特性與責(zé)任認(rèn)定存在機(jī)制沖突。AI決策的不可解釋性、自主學(xué)習(xí)的不確定性，與傳統(tǒng)法律責(zé)任認(rèn)定機(jī)制難以匹配，導(dǎo)致事故責(zé)任界定困難、追責(zé)機(jī)制失效。

社會(huì)風(fēng)險(xiǎn)防范能力薄弱。人工智能引發(fā)的社會(huì)風(fēng)險(xiǎn)具有極強(qiáng)的不確定性、無邊界性和規(guī)?；?yīng)，絕非個(gè)體用戶或者社交網(wǎng)絡(luò)平臺(tái)所能防范和處置，亟須構(gòu)建全方位的風(fēng)險(xiǎn)防控體系。生成式人工智能通過數(shù)據(jù)“投喂”機(jī)制可能放大社會(huì)偏見，可能產(chǎn)生因訓(xùn)練數(shù)據(jù)偏差導(dǎo)致的價(jià)值偏見、數(shù)據(jù)缺失造成的文化偏見、“信息繭房”加劇引起的商業(yè)歧視。這些偏見通過算法決策滲透到就業(yè)、信貸、教育等領(lǐng)域，但相關(guān)部門尚未建立有效識(shí)別和干預(yù)機(jī)制。不容忽視的是，算法成為隱性價(jià)值觀的傳播載體，可能輸出具有欺騙性的虛假內(nèi)容。

推動(dòng)治理能力與技術(shù)發(fā)展相適應(yīng)

面對(duì)人工智能發(fā)展帶來的機(jī)遇與挑戰(zhàn)，必須站在維護(hù)國(guó)家安全、促進(jìn)科技創(chuàng)新、保障民生福祉的戰(zhàn)略高度，系統(tǒng)完善安全治理體系，推動(dòng)治理能力與技術(shù)發(fā)展相適應(yīng)。

堅(jiān)持以人民為中心，確保政策落地見效。人工智能技術(shù)的根本價(jià)值在于為社會(huì)創(chuàng)造福祉、為人類增進(jìn)幸福。當(dāng)前，在鼓勵(lì)技術(shù)創(chuàng)新和產(chǎn)業(yè)引領(lǐng)的同時(shí)，更需要確保技術(shù)發(fā)展始終遵循以人為本的價(jià)值準(zhǔn)則，恪守服務(wù)人類的倫理原則。要堅(jiān)持“科技向善、治理為民”的價(jià)值導(dǎo)向，需要構(gòu)建多層次的價(jià)值轉(zhuǎn)化機(jī)制。在制度層面，要通過法律法規(guī)將抽象的價(jià)值原則具象為管理規(guī)范，明確政府、企業(yè)、科研機(jī)構(gòu)等主體責(zé)任。落實(shí)歸責(zé)機(jī)制，探索建立算法安全主體責(zé)任清單制度。創(chuàng)新監(jiān)管模式，實(shí)施過程性規(guī)制，平衡效率與安全。在技術(shù)層面，要將倫理原則嵌入產(chǎn)品全生命周期，形成可驗(yàn)證的技術(shù)標(biāo)準(zhǔn)和設(shè)計(jì)規(guī)范。健全算法審查制度和科技倫理審查制度，確保倫理委員會(huì)發(fā)揮實(shí)質(zhì)作用。

提升風(fēng)險(xiǎn)鑒別能力，強(qiáng)化風(fēng)險(xiǎn)處置效能。風(fēng)險(xiǎn)鑒別是科學(xué)治理的基礎(chǔ)。只有準(zhǔn)確識(shí)別風(fēng)險(xiǎn)類型、層級(jí)和源頭，才能制定針對(duì)性策略，實(shí)現(xiàn)精準(zhǔn)治理。因此，必須構(gòu)建覆蓋風(fēng)險(xiǎn)識(shí)別、分類、評(píng)估的完整體系，明確不同類型風(fēng)險(xiǎn)的特征和影響范圍，為分級(jí)分類治理提供科學(xué)依據(jù)。要探索安全技術(shù)研發(fā)創(chuàng)新工具，推進(jìn)事前、事中、事后全流程監(jiān)管。廣泛發(fā)掘一批可推廣復(fù)制的技術(shù)路線，不斷豐富內(nèi)容標(biāo)識(shí)、紅隊(duì)測(cè)試、價(jià)值對(duì)齊等技術(shù)工具和治理經(jīng)驗(yàn)，發(fā)布數(shù)據(jù)審查庫(kù)、數(shù)據(jù)標(biāo)注規(guī)范等評(píng)估指引，增強(qiáng)人工智能風(fēng)險(xiǎn)的動(dòng)態(tài)感知、科學(xué)預(yù)警、留痕溯源能力。此外，還可探索風(fēng)險(xiǎn)補(bǔ)償機(jī)制，構(gòu)建保險(xiǎn)補(bǔ)償機(jī)制。

加快政務(wù)服務(wù)轉(zhuǎn)型，推進(jìn)政府治理創(chuàng)新。人工智能技術(shù)的快速發(fā)展深刻改變了政府治理環(huán)境和治理方式。應(yīng)主動(dòng)適應(yīng)變革，創(chuàng)新治理模式，完善監(jiān)管機(jī)制，以科技賦能提升政府治理效能和公共服務(wù)水平。一是創(chuàng)新多元治理模式。按照企業(yè)主導(dǎo)、政府引導(dǎo)原則，鼓勵(lì)多主體協(xié)同治理，積極推進(jìn)協(xié)同高效的數(shù)字化治理體系。二是完善監(jiān)管體制機(jī)制。明確各類風(fēng)險(xiǎn)事件責(zé)任主體，建立跨部門聯(lián)合監(jiān)管機(jī)構(gòu)和應(yīng)急協(xié)同機(jī)制，確保快速響應(yīng)、精準(zhǔn)施策。三是強(qiáng)化治理支撐能力。建立類別化案例庫(kù)，輔助風(fēng)險(xiǎn)治理決策，提升風(fēng)險(xiǎn)研判能力。開展全民數(shù)字素養(yǎng)提升工程，引導(dǎo)公眾理性看待和使用技術(shù)，以正確和積極的方式使用人工智能。

（作者單位：蘇州科技大學(xué)馬克思主義學(xué)院）

責(zé)任編輯：蘇勝利