李楚琦

（青海民族大學法學院,青海 西寧 810007）

生成式人工智能是基于算法和數(shù)學模型生成的物理性信息的技術，它具有一個自由或者半自由的學習框架，通過模仿、學習和統(tǒng)計生成“類人化”信息。不同于傳統(tǒng)的人工智能，生成式人工智能不僅能夠收集數(shù)據(jù)還可以通過算法提煉數(shù)據(jù)并對數(shù)據(jù)進行整合和檢查，其具有高度的“類人化”特征。ChatGPT是生成式人工智能的代表程序，其主要的算法技術是由美國開放人工智能研究中心（以下簡稱OpenAI）公司開發(fā)并不斷更新，該程序突破原有的數(shù)權(quán)界限將法律發(fā)展帶入新的領域。2023年8月15日施行的《生成式人工智能服務管理暫行辦法》對生成式人工智能的數(shù)據(jù)收集行為、數(shù)據(jù)交互行為進行政策性引導。人工智能技術的發(fā)展將“類人化”行為中部分數(shù)據(jù)交互和生成行為進一步擬制為刑法規(guī)制的危害行為，以算法技術為代表的ChatGpt程序發(fā)展帶來的刑事司法挑戰(zhàn)在于如何界定數(shù)據(jù)生成、交互和獲取行為帶來的法益侵害風險和如何進行刑事規(guī)制?？梢砸罁?jù)生成式人工智能的技術特征對刑事風險進行分類討論并明確規(guī)制路徑。

1 ChatGPT生成式人工智能引發(fā)的刑事風險

金融、醫(yī)療企業(yè)運營中主要涉及數(shù)據(jù)的收集、傳輸、處理、存儲和銷毀等工作，網(wǎng)絡數(shù)據(jù)在這些工作中不斷地流動，企業(yè)因此而獲益；與此同時，數(shù)據(jù)泄露風險、再訓練階段的數(shù)據(jù)合規(guī)風險、數(shù)據(jù)濫用風險也在流動過程中逐漸增加。

1.1 生成式人工智能在運行階段的數(shù)據(jù)泄露風險

生成式人工智能在運行階段的數(shù)據(jù)行為主要以交互行為和收集行為為主，交互行為是基于算法技術結(jié)合用戶提供的關鍵詞提出解決方案，生成式人工智能擁有獨立的計算系統(tǒng)和統(tǒng)計系統(tǒng)，其提供的方案往往具有人的思維。以ChatGPT為例，由于在數(shù)據(jù)交互過程中數(shù)據(jù)痕跡不會消失，數(shù)據(jù)泄露的風險也隨之加劇。早期的ChatGPT程序中發(fā)生用戶數(shù)據(jù)泄露的情況，并且由于數(shù)據(jù)泄露導致用戶的個人信息暴露于公眾之中。

第一，生成式人工智能數(shù)據(jù)泄露的風險在于運行的廣度。其需要從大量數(shù)據(jù)中學習和生成模型，海量數(shù)據(jù)的處理將擴大其攻擊面，數(shù)據(jù)泄露的發(fā)生概率和影響范圍也隨之增大[1]。運行公司對于生成式人工智能的可控性備受質(zhì)疑，生成式人工智能在運行階段大范圍收集處理數(shù)據(jù)，其泄露的風險也逐漸加大。比如，出于數(shù)據(jù)安全考慮，美國太空部隊將暫時禁用以ChatGPT程序為代表的生成式人工智能。

第二，生成式人工智能數(shù)據(jù)泄露的風險在于其運行的深度。由于生成式人工智能通過語言模型驅(qū)動與用戶交流獲取大量數(shù)據(jù)并學習，數(shù)據(jù)來源主要是用戶提供的語言信息和利用大數(shù)據(jù)技術收集的同類型信息。在這一過程中，大量的數(shù)據(jù)處理工作增加數(shù)據(jù)泄露的風險。比如，OpenAI公司的技術官表示應謹慎使用該程序以避免出現(xiàn)信息泄露的事故，在很多大型的科技公司、學校等地方都禁止員工和學生使用ChatGPT。

基于此，以ChatGPT為代表的生成式人工智能在運行階段的數(shù)據(jù)泄露風險主要是運行階段數(shù)據(jù)收集、處理的深度和廣度，深度越深、廣度越廣，創(chuàng)設的刑事風險越高。所以，應盡可能在運行階段合規(guī)處置數(shù)據(jù)風險以優(yōu)化生成式人工智能的適用[2]。

1.2 生成式人工智能在再訓練階段的數(shù)據(jù)合規(guī)風險

生成式人工智能的特點之一在于人機交互行為，其中ChatGPT更是人機交互行為的代表，用戶與ChatGPT之間的人機交互行為會產(chǎn)生大量數(shù)據(jù)，這些數(shù)據(jù)用于其他模型進行算法更迭訓練，即再訓練階段。

再訓練階段數(shù)據(jù)流轉(zhuǎn)于其他數(shù)據(jù)模型中，這些擁有大型數(shù)據(jù)模型的科技企業(yè)是否可以合理利用獲取的數(shù)據(jù)是有待商榷的。如果交互數(shù)據(jù)中涉及個人信息、商業(yè)數(shù)據(jù)，僅依據(jù)初次使用獲得的用戶授權(quán)不足以覆蓋再訓練階段要求[3]。在這一過程中，科技企業(yè)借助授權(quán)規(guī)則濫用數(shù)據(jù)會產(chǎn)生數(shù)據(jù)合規(guī)風險，這種風險可能觸犯刑法的相關規(guī)定。比如，F(xiàn)acebook曾經(jīng)發(fā)生利用初級的生成式人工智能計算用戶的私人信息，并且導致個人私密信息泄露的事件；生成式人工智能獲取的數(shù)據(jù)發(fā)生泄露或者濫用可能引發(fā)侵犯個人信息的犯罪以及非法獲取計算機信息的犯罪，增大科技企業(yè)數(shù)據(jù)合規(guī)的風險。

1.3 生成式人工智能在輸出階段的數(shù)據(jù)濫用和算法濫用風險

生成式人工智能對于用戶的反饋主要是在數(shù)據(jù)輸出階段，其在數(shù)據(jù)輸出階段主要是對于收集的信息進行整合得出“類人化”觀點和利用算法技術推測結(jié)果、提出解決方案，在數(shù)據(jù)輸出這一階段會引發(fā)非法獲取數(shù)據(jù)、收集數(shù)據(jù)的風險，以及濫用算法技術推測結(jié)果、侵犯用戶個人信息和社會公眾數(shù)據(jù)的風險。

第一，數(shù)據(jù)濫用的風險。用戶登錄門檻較低，僅注冊便可與ChatGPT進行交互式交流并且在問答過程中極易暴露自己的個人信息，而ChatGPT沒有篩除個人信息的算法基礎，多次數(shù)據(jù)流通會導致數(shù)據(jù)濫用風險增加，侵犯公民的合法權(quán)利，甚至可能促使運行ChatGPT的公司成為刑事犯罪的主體。此外，生成式人工智能在輸出階段反饋大量的信息數(shù)據(jù)，其中可能包含不同用戶的信息，甚至是敏感信息和國家秘密信息，因為在使用初期，生成式人工智能利用同意規(guī)則的漏洞和用戶獵奇的心理，隱秘地收集大量敏感信息成為語言庫后整合成不同的答案反饋給不同的用戶、機構(gòu)，使用的用戶、機構(gòu)越多、數(shù)據(jù)濫用的風險在不斷增加。

第二，算法濫用的風險。生成式人工智能的算法技術可能被濫用，比如，用于挖掘漏洞生成惡意代碼，甚至進行網(wǎng)絡攻擊，從而成為網(wǎng)絡犯罪的工具。并且，生成式人工智能多與搜索引擎聯(lián)合開發(fā)，這種開發(fā)模式造成數(shù)據(jù)在收集階段的濫用風險加大。比如，ChatGPT與搜索引擎融合后的New Bing程序，其運行模式是搜索與生成式任務相結(jié)合的模式，這種模式雖使搜索結(jié)果的準確度得到提升，卻增加了個人信息被濫用的風險[4]，算法技術作為生成式人工智能的技術基礎，某些企業(yè)利用算法技術本身的語言漏洞從后門進入生成式人工智能的數(shù)據(jù)系統(tǒng)造成用戶信息暴露、企業(yè)機密信息泄露，甚至是國家信息非法利用等嚴重后果，算法技術的濫用不僅會降低公眾對于生成式人工智能發(fā)展的信任度，更會觸發(fā)更為嚴重的刑事犯罪。

基于此，生成式人工智能在輸出階段的數(shù)據(jù)濫用風險主要是對于用戶信息的濫用和交互信息的可信度降低等；而算法濫用風險的主體是生成式人工智能服務者，他們利用人工智能信息交互的特點，增加“類人化”特性，不斷運用帶有風險的算法技術導致算法濫用，增加企業(yè)合規(guī)風險。

2 對ChatGPT生成式人工智能初步的刑事規(guī)制

生成式人工智能具有傳統(tǒng)產(chǎn)業(yè)無法具備的創(chuàng)造力和生產(chǎn)力，同時，也引發(fā)數(shù)據(jù)安全風險和知識產(chǎn)權(quán)刑事犯罪問題，為了進一步維護數(shù)字技術空間的穩(wěn)定發(fā)展，保障公民的隱私權(quán)和數(shù)權(quán)，國內(nèi)有關部門制定了一系列的法律文件以規(guī)制刑事風險。

2.1 生成式人工智能的現(xiàn)有刑事規(guī)范

《生成式人工智能服務管理暫行辦法》《中華人民共和國網(wǎng)絡安全法》《中華人民共和國數(shù)據(jù)安全法》《中華人民共和國個人信息保護法》《中華人民共和國科學技術進步法》《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》《中華人民共和國刑法》以及相關的政策中均有條文涉及規(guī)制生成式人工智能服務者的不法行為的規(guī)定。比如，《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》第六條規(guī)定，任何組織及個人不能利用以生成式人工智能為代表的深度合成服務生產(chǎn)、傳播違法信息以及從事違法犯罪活動，并禁止利用深度合成服務的基本特點從中獲取非法信息。此外，《生成式人工智能服務管理暫行辦法》第十七條規(guī)定提供具有輿論屬性或者社會動員能力的生成式人工智能服務應履行算法備案義務[5]。不同類型的法律規(guī)范均對生成式人工智能有所涉及，其目的在于不同場景下均可以有相關主體和規(guī)范對有關生成式人工智能的犯罪進行規(guī)制。

刑法中雖然未明確規(guī)定生成式人工智能犯罪，但是基于生成式人工智能的特點也有部分罪名可以適用，比如，《中華人民共和國刑法》第二百五十三條之一，違規(guī)處理個人信息、非法獲取公民個人信息的，對于生成式人工智能的服務者將以單位犯罪進行處罰。與此同時，不同地區(qū)也開始制定有關生成式人工智能的條例，且主要集中于科技、金融發(fā)達的地區(qū)，比如深圳市發(fā)布的《深圳經(jīng)濟特區(qū)人工智能產(chǎn)業(yè)促進條例》。

2.2 生成式人工智能現(xiàn)有刑事規(guī)范的不足

現(xiàn)有刑事規(guī)范對于生成式人工智能的規(guī)制主要在于信息網(wǎng)絡犯罪板塊，并且人工智能的規(guī)范處于萌芽階段，生成式人工智能的快速發(fā)展與法律規(guī)范發(fā)展的不同步性導致其約束力不足，主要體現(xiàn)在以下幾個方面：

第一，監(jiān)管主體難以明確。目前，國內(nèi)對于生成式人工智能的監(jiān)管主要體現(xiàn)多主體的情況，比如，國家市場監(jiān)督管理總局、國家互聯(lián)網(wǎng)信息辦公室、公訴機關等都可以成為監(jiān)管主體，但主體之間的權(quán)責范圍未加以明確。不同類型的法律規(guī)范在一定場景下可能會發(fā)生重復適用的情況，或者法律規(guī)范缺乏一定的標準以明確如何進行適用，不同的監(jiān)管主體無法第一時間針對生成式人工智能創(chuàng)設的風險進行規(guī)制，公訴機關也無法第一時間進行監(jiān)查并提出合規(guī)舉措，法律規(guī)范的現(xiàn)狀在一定程度上不利于生成式人工智能向好發(fā)展。

第二，生成式人工智能刑事規(guī)范不夠完備、效力不明確。目前，國內(nèi)對于生成式人工智能的規(guī)制主要在于其關聯(lián)罪名，多集中于網(wǎng)絡犯罪中，沒有明確界定生成式人工智能刑事主體資格。此外，現(xiàn)有的法律規(guī)范部分是依托于某一特定的部門法，對于部分非法行為是否可以由該規(guī)范規(guī)制存在疑問，則其效力和約束力也無法實現(xiàn)。比如，《生成式人工智能服務管理暫行辦法》和《個人信息保護法》中均規(guī)定了同意原則，但是生成式人工智能的使用會淡化同意原則導致相關的法律規(guī)范不能有效地規(guī)制刑事風險及犯罪。

3 ChatGPT生成式人工智能風險刑事規(guī)制的路徑

以ChatGPT程序為代表的生成式人工智能會引發(fā)數(shù)據(jù)安全風險、侵犯個人信息的風險等刑事犯罪風險。所以，應對生成式人工智能創(chuàng)設的風險給予必要的規(guī)制。從刑事合規(guī)的角度加強刑事規(guī)范的實踐性，進一步規(guī)制生成式人工智能產(chǎn)生的刑事風險，促進其與公民數(shù)字權(quán)利、社會公共利益的共同發(fā)展。

3.1 生成式人工智能數(shù)據(jù)刑事合規(guī)的路徑

生成式人工智能數(shù)據(jù)刑事合規(guī)的途徑主要針對其產(chǎn)生的刑事風險類型進行，分別從數(shù)據(jù)泄露、數(shù)據(jù)濫用風險和算法濫用的風險進行考慮，主要的措施是風險預警、評估、監(jiān)督和處理機制，以生成式人工智能服務者合規(guī)的方式進行刑事規(guī)制。

第一，針對數(shù)據(jù)泄露的刑事風險。應當明確收集數(shù)據(jù)的類型是否涉及敏感信息、個人信息，并評估在使用過程中存在的數(shù)據(jù)泄露風險。對于個人信息泄露的刑事風險，應從數(shù)據(jù)收集的深度和廣度進行衡量。從而構(gòu)建生成式人工智能服務者的刑事合規(guī)體系。生成式人工智能服務者的刑事合規(guī)主要聚焦于技術與利益的平衡點上，需要算法技術的層次和深度、既得利益的獲得與生成式人工智能使用者的合法權(quán)利之間的平衡，生成式人工智能的發(fā)展不能以突破個人權(quán)利為條件。一方面，以OpenAI為代表的生成式人工智能服務者，應當承擔保護使用者及其他公民數(shù)據(jù)信息的責任，設立專門的風險預警、監(jiān)督和處理機制，風險預警機制在于要求對出現(xiàn)的風險及時報告監(jiān)督部門，并在風險最小的時候進行處理，減少處理成本；另一方面，風險監(jiān)督機制和風險處理機制緊密結(jié)合。監(jiān)督機制不僅要監(jiān)督平臺，還要進一步監(jiān)督后續(xù)平臺合規(guī)措施的及時性和完成性。

第二，針對數(shù)據(jù)濫用的風險?，F(xiàn)有運行的ChatGPT程序具有3 000億單詞的語料基礎上預訓練擁有1 750億參數(shù)的模型[6]，大量的數(shù)據(jù)收集和處理工作增大了數(shù)據(jù)濫用的風險，針對這一情況，應當加強檢察機關對生成式人工智能服務者的監(jiān)管，形成強有力的監(jiān)管體系。此外，可以建立專門的第三方機構(gòu)幫助公檢機關做到日常監(jiān)管，通過技術手段建立一個有效的、具有針對性的持續(xù)監(jiān)管體系。對出現(xiàn)數(shù)據(jù)濫用風險的服務者，及時介入并進行查管、做出刑事合規(guī)的建議和具體舉措，并針對合規(guī)的效果決定是否移送起訴。

第三，針對算法技術濫用創(chuàng)設的刑事風險。以ChatGPT為代表的生成式人工智能是以不同的算法技術為基礎構(gòu)建的程序，應當引入專業(yè)的技術監(jiān)督部門形成完備的技術監(jiān)督體系，專業(yè)的技術監(jiān)督部門不僅可以做到日常算法監(jiān)督還可以提供算法技術濫用的技術判斷支持。對于利用算法技術謀取非法利益的企業(yè)應及時處理，并提出是否進行合規(guī)的建議，而無法進行合規(guī)的服務者及時移送起訴。

基于此，作為超大型、集中式平臺的生成式人工智能服務者，為降低信息數(shù)據(jù)被泄露和濫用的風險，應通過合規(guī)計劃明確數(shù)據(jù)獲取途徑和獲取中的刑事風險，制定具體的風險識別、評估和防控措施[7]，此外，在風險處理中應當從預防階段進行規(guī)制以降低解決風險處理成本，并且著重關注風險監(jiān)督機制和處理機制，做好合規(guī)后的評估和處理，對于未及時按照相關機關規(guī)定進行合規(guī)審查的服務者在核查后移送起訴。

3.2 刑事規(guī)范規(guī)制生成式人工智能的路徑

第一，明確生成式人工智能的風險分類便于刑事規(guī)范規(guī)制生成式人工智能。生成式人工智能風險類型化后，根據(jù)不同類型的風險在法律規(guī)定上也更加清晰，有助于解決實踐中監(jiān)管主體混雜的問題。比如，對于一般的數(shù)據(jù)泄露風險和算法技術濫用風險以刑事合規(guī)為主要的規(guī)制手段。但是，對于嚴重侵犯公民權(quán)利和社會公共利益、國家利益的危險行為，應及時以刑事規(guī)范進行規(guī)制，做到分類處理、高效治理。

第二，基于現(xiàn)有的有關生成式人工智能的監(jiān)管舉措，形成具有針對性的監(jiān)管舉措，對生成式人工智能形成綜合性的法律監(jiān)管體系。在這個法律監(jiān)管體系中，刑事規(guī)范與其他規(guī)范的適用場景必須明確、具體化適用標準；對于生成式人工智能的相關定義要統(tǒng)一化、刑事風險行為和其他風險行為的判斷標準要明晰，建立一種監(jiān)管為前提、明晰化的綜合性法律監(jiān)管體系，比如，以數(shù)據(jù)泄露風險為例，在監(jiān)管初期要利用相關的規(guī)范進行行政處罰和民事賠償，并且提出刑事合規(guī)舉措，監(jiān)管后期要利用刑事規(guī)范對相關的違法行為加以規(guī)制，以打擊生成式人工智能服務者的刑事犯罪。

第三，應當進一步落實數(shù)據(jù)立法與現(xiàn)有刑法分則的規(guī)定。比如，明確非法入侵計算機罪的主體中應包含生成式人工智能，避免生成式人工智能成為網(wǎng)絡犯罪的工具。數(shù)據(jù)立法成為未來立法的趨勢也是數(shù)字法治建設的重要舉措之一，數(shù)據(jù)立法中應當有一個部分是關于刑事規(guī)制的，以便于刑法打擊生成式人工智能犯罪。數(shù)據(jù)立法是更為宏觀的內(nèi)容，數(shù)據(jù)立法的相關內(nèi)容可以與刑法的相關規(guī)定相結(jié)合，便于刑法區(qū)分什么樣的行為是嚴重危害公民利益、社會公共利益和國家利益的行為，更好地適用刑法分則的規(guī)定，做到罪責刑相統(tǒng)一。

基于此，以ChatGPT為代表的生成式人工智能融入法律領域，正在推動著刑事規(guī)范的逐漸轉(zhuǎn)變。目前，刑事規(guī)范的內(nèi)部體系中對于強人工智能與弱人工智能的區(qū)分標準尚未明確，對于人工智能創(chuàng)設的刑事風險，主要以打擊生成式人工智能服務者為主，對于人工之智能的主體地位采取消極認可態(tài)度，對相應的犯罪行為是積極的應對態(tài)度。但是，隨著法律法規(guī)的不斷完善，刑事規(guī)范對于有關生成式人工智能的內(nèi)容也將會不斷完善，基于立法原意對新時代的人工智能有更多的解釋。刑事規(guī)范規(guī)制的關鍵在保證其謙抑性、明確性的前提下，進一步規(guī)制生成式人工智能創(chuàng)設的數(shù)據(jù)泄露、數(shù)據(jù)濫用和算法濫用風險。

4 結(jié)語

以ChatGPT為代表的生成式人工智能通過不斷的人機交互行為逐漸向高級智能發(fā)展，從“類人化”轉(zhuǎn)變?yōu)椤蔼毩⒒伎肌睆亩湟l(fā)了新風險。為有效應對這些風險，也在不斷地出現(xiàn)相應的法律規(guī)范和政策，對于風險的規(guī)制需要采取主動的規(guī)制措施，以預防為前提、進而主動應對。不同類型的法律規(guī)范在不斷地完善，刑事規(guī)制的路徑應從預防和懲治兩個方面介入，針對不同類型的風險提供具有針對性的解決方法。所以，刑事規(guī)制的路徑應是動態(tài)的、不斷更新的，應立足于數(shù)字技術、網(wǎng)絡技術和算法技術，明確生成式人工智能運行過程的法律風險和產(chǎn)物在刑事法律上的主體概念，加強數(shù)字刑事立法從源頭規(guī)制生成式人工智能創(chuàng)設的刑事風險，做到多層次多維度的刑事規(guī)制。