當(dāng)前，我國生成式人工智能正經(jīng)歷著從初期爆發(fā)式增長向廣泛普及轉(zhuǎn)變的過程，所帶來的數(shù)據(jù)安全、算法黑箱、新型糾紛等風(fēng)險挑戰(zhàn)層出不窮，統(tǒng)籌人工智能高質(zhì)量發(fā)展和高水平安全是事關(guān)我國能否抓住新一輪變革機遇的戰(zhàn)略問題，應(yīng)從技術(shù)、倫理、法律等多方面設(shè)置“安全閥”，系統(tǒng)性推進人工智能高質(zhì)量安全發(fā)展

近兩年，生成式人工智能已迅速構(gòu)筑起“基礎(chǔ)模型—專業(yè)模型—服務(wù)應(yīng)用”的層級化產(chǎn)業(yè)格局。面對新業(yè)態(tài)的涌現(xiàn)，要求治理者跳出傳統(tǒng)數(shù)據(jù)、算法、平臺的框架，深入探討“基礎(chǔ)模型—專業(yè)模型—服務(wù)應(yīng)用”鏈中的治理新邏輯。治理策略應(yīng)注重靈活性和前瞻性，以適應(yīng)生成式語言模型和應(yīng)用工具的快速擴散。

近年來，新一輪科技革命和產(chǎn)業(yè)革命浪潮涌起，人工智能技術(shù)發(fā)展迅速，作為各領(lǐng)域新興技術(shù)背后的元技術(shù)被廣泛應(yīng)用于諸多領(lǐng)域，涉及產(chǎn)業(yè)升級、人才培養(yǎng)和社會融合等多層面，不斷催生新產(chǎn)業(yè)、新業(yè)態(tài)、新商業(yè)模式，成為加快培育和發(fā)展新質(zhì)生產(chǎn)力的重要引擎。當(dāng)前，我國生成式人工智能正經(jīng)歷著從初期爆發(fā)式增長向廣泛普及轉(zhuǎn)變的過程，所帶來的數(shù)據(jù)安全、算法黑箱、新型糾紛等風(fēng)險挑戰(zhàn)層出不窮，統(tǒng)籌人工智能高質(zhì)量發(fā)展和高水平安全是事關(guān)我國能否抓住新一輪變革機遇的戰(zhàn)略問題，應(yīng)從技術(shù)、倫理、法律等多方面設(shè)置“安全閥”，系統(tǒng)性推進人工智能高質(zhì)量安全發(fā)展。特別是黨的二十屆三中全會明確提出“完善推動新一代信息技術(shù)、人工智能……等戰(zhàn)略性產(chǎn)業(yè)發(fā)展和治理體系”“完善生成式人工智能發(fā)展和管理機制”“建立人工智能安全監(jiān)管制度”，為人工智能技術(shù)的發(fā)展提供了明確的政策導(dǎo)向。

生成式人工智能技術(shù)演進引發(fā)治理變革與挑戰(zhàn)

生成式人工智能技術(shù)演進重塑治理焦點，加大治理難度。

首先，新業(yè)態(tài)的崛起成為不可忽視的現(xiàn)象。傳統(tǒng)的人工智能治理主要圍繞數(shù)據(jù)、算法和平臺展開。然而，近兩年生成式人工智能已迅速構(gòu)筑起“基礎(chǔ)模型—專業(yè)模型—服務(wù)應(yīng)用”的層級化產(chǎn)業(yè)格局。生成式語言模型嶄露頭角，跨部門采納率激增，同時生成式AI工具亦呈現(xiàn)出爆炸性增長。

其次，治理重心的轉(zhuǎn)移成為必然趨勢。隨著AI技術(shù)在內(nèi)容創(chuàng)造方面的能力增強，平臺已不再是信息流通和內(nèi)容生成的唯一樞紐，其對數(shù)據(jù)資源和要素運用的核心控制力有所削弱。因此，治理的焦點由單一的平臺治理模式，轉(zhuǎn)向更為分散化和多元化的治理路徑。關(guān)注點逐漸集中于AI模型本身，包括其設(shè)計理念、訓(xùn)練過程和應(yīng)用場景，而非僅僅局限于平臺層面的監(jiān)管。

最后，治理對象和方法論的變遷亦成為治理面臨的挑戰(zhàn)。生成式人工智能技術(shù)的迅猛發(fā)展，及其應(yīng)用前景和發(fā)展方向的不可預(yù)知性，使得治理的范疇不再局限于特定平臺或企業(yè)，而是擴展至整個AI生態(tài)系統(tǒng)，包括數(shù)據(jù)、算法、模型和應(yīng)用等各個方面。與此同時，立法機構(gòu)對于底層技術(shù)的迅猛發(fā)展理解不足，導(dǎo)致法律和監(jiān)管措施的滯后，難以有效應(yīng)對新興技術(shù)和應(yīng)用帶來的諸多挑戰(zhàn)。

人工智能發(fā)展呈現(xiàn)跨界性和跨國性，面臨治理挑戰(zhàn)。

一方面，隨著我國“人工智能＋”行動的全面推進，亟需圍繞研發(fā)、應(yīng)用和產(chǎn)業(yè)賦能等全流程進行立法和監(jiān)管。行業(yè)間的數(shù)據(jù)共享和流通需要打破壁壘，但同時也帶來數(shù)據(jù)安全和隱私保護的問題。不同行業(yè)對人工智能的應(yīng)用需求和標準各異，面臨實現(xiàn)跨行業(yè)的統(tǒng)一標準和協(xié)調(diào)監(jiān)管的挑戰(zhàn)，對立法的系統(tǒng)性和協(xié)調(diào)性提出了更高要求。

另一方面，不同國家對人工智能的法律規(guī)定和監(jiān)管框架存在差異，跨國運營企業(yè)面臨合規(guī)挑戰(zhàn)。數(shù)據(jù)治理在跨國層面尤為復(fù)雜，涉及數(shù)據(jù)主權(quán)、跨境數(shù)據(jù)流動、數(shù)據(jù)存儲位置等問題。人工智能技術(shù)的國際標準尚未完全統(tǒng)一，影響了技術(shù)的互操作性和全球市場的整合。所以人工智能立法不僅體現(xiàn)本國的立法和監(jiān)管智慧，還將被置于“放大鏡”下，受到其他各國的審視，是國家競爭力的重要組成部分。

人工智能技術(shù)創(chuàng)新，帶來倫理道德等新型安全風(fēng)險。

一是人工智能技術(shù)創(chuàng)新引發(fā)的倫理道德風(fēng)險。由于人工智能的決策過程依賴于復(fù)雜的算法和模型，其結(jié)果有可能與人類的倫理道德標準相悖，例如出現(xiàn)歧視性決策、無端侵犯個人隱私等行為。算法可能無意中嵌入偏見，導(dǎo)致在招聘、信貸、保險等領(lǐng)域的決策過程中出現(xiàn)歧視現(xiàn)象，加劇社會不平等。面對這一挑戰(zhàn)，生成式人工智能的治理必須精準把握技術(shù)創(chuàng)新與倫理道德之間的平衡點。

二是安全隱患對個人信息安全和社會秩序穩(wěn)定的威脅。黑客攻擊、病毒感染等安全隱患，可能導(dǎo)致數(shù)據(jù)泄露、系統(tǒng)癱瘓，對個人信息安全、社會秩序穩(wěn)定和國家安全構(gòu)成威脅。特別是高度自主的人工智能系統(tǒng)，一旦因設(shè)計缺陷或外部干擾失控，執(zhí)行非預(yù)期操作，后果將不堪設(shè)想。

三是責(zé)任主體界定困難。當(dāng)人工智能系統(tǒng)發(fā)生錯誤或造成損害時，責(zé)任主體的界定成為一大難題，使得受害者尋求法律救助的道路變得異常曲折。

追求高質(zhì)量發(fā)展與高水平安全的統(tǒng)籌兼顧

創(chuàng)新治理架構(gòu)、優(yōu)化治理手段，適應(yīng)人工智能發(fā)展新業(yè)態(tài)。

治理生成式人工智能的關(guān)鍵在于實現(xiàn)治理理念的更新、治理架構(gòu)的優(yōu)化以及治理手段的創(chuàng)新。一是針對新業(yè)態(tài)的涌現(xiàn)，治理體系應(yīng)實現(xiàn)從靜態(tài)監(jiān)管向動態(tài)適應(yīng)轉(zhuǎn)變。生成式人工智能構(gòu)建的層級化產(chǎn)業(yè)格局，要求治理者跳出傳統(tǒng)數(shù)據(jù)、算法、平臺的框架，深入探討“基礎(chǔ)模型—專業(yè)模型—服務(wù)應(yīng)用”鏈中的治理新邏輯。治理策略應(yīng)注重靈活性和前瞻性，以適應(yīng)生成式語言模型和應(yīng)用工具的快速擴散。

二是鑒于治理重心的潛移，構(gòu)建多元化的治理架構(gòu)。在AI技術(shù)內(nèi)容創(chuàng)造能力增強的背景下，治理焦點應(yīng)從平臺中心主義轉(zhuǎn)向?qū)I模型本質(zhì)的深入審視，包括其設(shè)計理念、訓(xùn)練過程和應(yīng)用情境的全方位治理。此轉(zhuǎn)變強調(diào)治理的深度與廣度，以實現(xiàn)對技術(shù)本質(zhì)的精準把握。

三是面對治理對象和方法論的演變，采取系統(tǒng)性的治理視角。生成式人工智能的發(fā)展要求監(jiān)管機構(gòu)將治理范疇擴展至整個生態(tài)系統(tǒng)，實施跨領(lǐng)域、跨層級的綜合治理。同時，立法和監(jiān)管機構(gòu)需加強對技術(shù)發(fā)展趨勢的洞察，推動法律與監(jiān)管體系的創(chuàng)新，以應(yīng)對技術(shù)的不可預(yù)知性和復(fù)雜性。

構(gòu)建跨界跨國綜合治理框架，促進人工智能治理共識形成。

生成式人工智能的治理需立足于理論與實踐相結(jié)合的高度，通過創(chuàng)新治理理念和手段，實現(xiàn)技術(shù)發(fā)展與倫理道德、安全保障的和諧統(tǒng)一。

首先，針對生成式人工智能的跨界特性，建議構(gòu)建多層次、跨領(lǐng)域的綜合治理框架。應(yīng)充分考慮我國“人工智能＋”戰(zhàn)略的實施，圍繞研發(fā)、應(yīng)用推廣至產(chǎn)業(yè)賦能的全鏈條，制定具有前瞻性的立法和監(jiān)管措施。在此過程中，需特別關(guān)注行業(yè)間數(shù)據(jù)共享與流通的壁壘問題，探索建立既能促進信息自由流動，又能保障數(shù)據(jù)安全和隱私保護的新型治理模式。還應(yīng)注意到，跨行業(yè)統(tǒng)一標準的制定與協(xié)調(diào)監(jiān)管，是提升治理效率的關(guān)鍵。

其次，在國際法律環(huán)境差異的背景下，面對生成式人工智能的跨國性挑戰(zhàn)，推動形成全球治理共識。我國應(yīng)積極參與國際規(guī)則的制定，推動建立跨國數(shù)據(jù)治理框架，以解決數(shù)據(jù)主權(quán)、跨境數(shù)據(jù)流動等復(fù)雜問題。同時，我國立法和監(jiān)管實踐應(yīng)致力于推動人工智能技術(shù)的國際標準化，促進全球技術(shù)生態(tài)的互操作性，從而在提升國家競爭力的同時，為全球治理貢獻中國智慧。

平衡技術(shù)理性與安全風(fēng)險，實現(xiàn)人工智能決策治理創(chuàng)新。

人工智能的決策邏輯深植于復(fù)雜算法之中，治理策略應(yīng)致力于探索技術(shù)理性與倫理價值之間的動態(tài)平衡。一是構(gòu)建以倫理為先導(dǎo)的治理模式。通過精細化的倫理審查和算法透明度提升，消除招聘、信貸等領(lǐng)域的算法偏見，從而促進社會公平正義。

二是前瞻性地識別和評估人工智能系統(tǒng)的潛在威脅。針對黑客攻擊、病毒感染等安全漏洞，制定綜合性安全策略，確保個人信息安全與社會秩序穩(wěn)定。對于高度自主的人工智能系統(tǒng)，治理重點應(yīng)轉(zhuǎn)向預(yù)防性監(jiān)管，通過設(shè)計原則的嵌入和外部監(jiān)督機制的強化，防止系統(tǒng)失控所導(dǎo)致的不可預(yù)測后果。

三是針對生成式人工智能責(zé)任歸屬的模糊性，亟需在立法層面創(chuàng)新責(zé)任認定機制，確立適應(yīng)人工智能特點的責(zé)任體系。打破傳統(tǒng)法律框架的局限，構(gòu)建一套既能保障受害者權(quán)益，又能激發(fā)技術(shù)創(chuàng)新活力的法律救助路徑。

人工智能治理的深化，不僅是對技術(shù)發(fā)展的規(guī)范，更是對倫理道德原則的堅守，以及對未來社會秩序的前瞻性布局。人類與人工智能的共生將是未來的長期態(tài)勢，面對技術(shù)與風(fēng)險的持續(xù)不確定性，必須兼顧高質(zhì)量的發(fā)展與高水平的安全保障，來構(gòu)建生成式人工智能的治理體系。

（作者系浙江省習(xí)近平新時代中國特色社會主義思想研究中心省委黨?；匮芯繂T）