Doi：10.11835/j.issn.1008-5831.fx.2023.11.001

歡迎按以下格式引用：房慧穎.類(lèi)ChatGPT系統(tǒng)刑事風(fēng)險(xiǎn)與治理策略［J］.重慶大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版），2024（6）：263-272.Doi：10.11835/j.issn.1008-5831.fx.2023.11.001.

Citation Format： FANG Huiying. Criminal risk and governance path of ChatGPT-like system［J］.Journal of Chongqing University （Social Science Edition），2024（6）：263-272.Doi：10.11835/j.issn.1008-5831.fx.2023.11.001.

摘要：“類(lèi)ChatGPT系統(tǒng)”，是指以ChatGPT為代表的生成式預(yù)訓(xùn)練和算法語(yǔ)言轉(zhuǎn)換相結(jié)合的內(nèi)容生成式人工智能（AIGC）。類(lèi)ChatGPT系統(tǒng)在推動(dòng)人類(lèi)社會(huì)發(fā)展的同時(shí)，也帶來(lái)相應(yīng)刑事風(fēng)險(xiǎn)。類(lèi)ChatGPT系統(tǒng)為了完成生成某一內(nèi)容的指令而獲取相應(yīng)信息時(shí)，容易脫離人類(lèi)控制與干預(yù)，有可能會(huì)不當(dāng)侵犯其他數(shù)據(jù)庫(kù)的保護(hù)措施，從而侵犯其他數(shù)據(jù)的保密性。同時(shí)，類(lèi)ChatGPT系統(tǒng)生成違法犯罪信息，或使用者不當(dāng)利用類(lèi)ChatGPT系統(tǒng)所生成的信息，也可能會(huì)涉及相應(yīng)的刑事風(fēng)險(xiǎn)。但是，根據(jù)類(lèi)ChatGPT技術(shù)的發(fā)展現(xiàn)狀，其尚不具有獨(dú)立自主的意識(shí)和意志，不可能作為犯罪主體，其本質(zhì)屬性仍是人類(lèi)的工具。刑法規(guī)制類(lèi)ChatGPT系統(tǒng)犯罪，也并非規(guī)制類(lèi)ChatGPT系統(tǒng)所實(shí)施的犯罪行為，而是規(guī)制類(lèi)ChatGPT系統(tǒng)背后的人類(lèi)過(guò)錯(cuò)。在類(lèi)ChatGPT系統(tǒng)的研發(fā)和使用過(guò)程中，為有效治理技術(shù)風(fēng)險(xiǎn)，使技術(shù)“向善”，研發(fā)者應(yīng)當(dāng)履行保證人義務(wù)，盡最大可能預(yù)測(cè)、識(shí)別類(lèi)ChatGPT系統(tǒng)可能引發(fā)的刑事風(fēng)險(xiǎn)，并及時(shí)采取有效策略化解危機(jī)。使用者在使用類(lèi)ChatGPT系統(tǒng)的過(guò)程中，不能故意誘導(dǎo)其違反道德倫理或法律法規(guī)輸出違法犯罪內(nèi)容。如果研發(fā)者未盡最大可能預(yù)見(jiàn)并阻止類(lèi)ChatGPT系統(tǒng)輸出違法犯罪信息，或者使用者故意誘導(dǎo)類(lèi)ChatGPT系統(tǒng)輸出違法犯罪信息，可能需要承擔(dān)相應(yīng)的刑事責(zé)任。從宏觀層面而言，刑法在治理類(lèi)ChatGPT系統(tǒng)涉及的刑事風(fēng)險(xiǎn)時(shí)，始終應(yīng)當(dāng)堅(jiān)持自身的謙抑性，如果前置法律法規(guī)能夠有效治理類(lèi)ChatGPT系統(tǒng)所引發(fā)的風(fēng)險(xiǎn)，刑法的“觸角”就應(yīng)適度后移，避免因刑法規(guī)制手段的泛化使用而對(duì)技術(shù)創(chuàng)新發(fā)展形成阻礙。從微觀層面而言，針對(duì)類(lèi)ChatGPT系統(tǒng)刑事風(fēng)險(xiǎn)的內(nèi)容與特征，需構(gòu)建治理類(lèi)ChatGPT系統(tǒng)刑事風(fēng)險(xiǎn)的分級(jí)治理機(jī)制：通過(guò)類(lèi)ChatGPT系統(tǒng)研發(fā)企業(yè)制定與執(zhí)行自治計(jì)劃，探索能夠有效預(yù)防類(lèi)ChatGPT系統(tǒng)刑事風(fēng)險(xiǎn)的治理策略；提高行政監(jiān)管力度，將科技監(jiān)管手段融入行政監(jiān)管體系，利用行政手段降低刑事風(fēng)險(xiǎn)實(shí)際發(fā)生的幾率；刑事治理手段的使用必須嚴(yán)格遵循前置法律法規(guī)失效的前提條件，對(duì)行為刑事違法性的判斷要在罪刑法定原則框架內(nèi)進(jìn)行，不能以行政違法性判斷代替刑事違法性判斷。

關(guān)鍵詞：ChatGPT；數(shù)據(jù)犯罪；科技監(jiān)管；分級(jí)治理

中圖分類(lèi)號(hào)：D9247""文獻(xiàn)標(biāo)志碼：A""文章編號(hào)：1008-5831（2024）06-0263-10

2022年11月，美國(guó)的OpenAI公司發(fā)布的人工智能新產(chǎn)品——ChatGPT（Chat Generative Pre-trained Transformer），因其在自然語(yǔ)言處理領(lǐng)域的超智能性，在社會(huì)各界引發(fā)廣泛討論。本文所稱(chēng)“類(lèi)ChatGPT系統(tǒng)”，指的是以ChatGPT為代表的生成式預(yù)訓(xùn)練和算法語(yǔ)言轉(zhuǎn)換相結(jié)合的內(nèi)容生成式人工智能（AIGC）［1］。以ChatGPT、Bing Chat與Bard為代表的生成式人工智能，可以在短時(shí)間內(nèi)完成高質(zhì)量代碼、論文等的創(chuàng)作和翻譯，在人工智能創(chuàng)作領(lǐng)域取得了突飛猛進(jìn)的進(jìn)展。

類(lèi)ChatGPT系統(tǒng)的運(yùn)作模式為，在接收到使用者的創(chuàng)作指令時(shí)，首先搜羅與要?jiǎng)?chuàng)作內(nèi)容相關(guān)的數(shù)據(jù)文本，將這些數(shù)據(jù)文本收納到自己的數(shù)據(jù)庫(kù)中，然后通過(guò)Transformer模型，生成和人類(lèi)的思考方式以及表達(dá)習(xí)慣高度重合、類(lèi)似的內(nèi)容。ChatGPT這一現(xiàn)象級(jí)產(chǎn)品的問(wèn)世，將引發(fā)對(duì)人類(lèi)產(chǎn)生重大影響的“思維革命”［2］，同時(shí)不可否認(rèn)的是，類(lèi)ChatGPT系統(tǒng)在促進(jìn)人類(lèi)科技進(jìn)步的同時(shí)，也蘊(yùn)含著諸多刑事風(fēng)險(xiǎn)。2023年8月15日，《生成式人工智能服務(wù)管理暫行辦法》正式施行。作為中國(guó)首份生成式人工智能監(jiān)管文件，上述管理辦法體現(xiàn)了現(xiàn)階段監(jiān)管機(jī)構(gòu)的態(tài)度，即“既要重視發(fā)展，也要重視風(fēng)險(xiǎn)”。本文將從人工智能刑法與刑法教義學(xué)的視角出發(fā)，檢視類(lèi)ChatGPT系統(tǒng)所涉刑事風(fēng)險(xiǎn)，并從宏觀層面和微觀層面進(jìn)行分析與探討，提出有針對(duì)性的治理策略，以達(dá)到使技術(shù)“向善”的目的。

一、類(lèi)ChatGPT系統(tǒng)的三重刑事風(fēng)險(xiǎn)

類(lèi)ChatGPT系統(tǒng)為了生成符合使用者要求的內(nèi)容，需要獲取大量的數(shù)據(jù)資料，而這一過(guò)程目前仍處于“黑箱”狀態(tài)，也即并非是在人類(lèi)的監(jiān)督之下進(jìn)行的；同時(shí)，在人類(lèi)設(shè)置好程序之后，類(lèi)ChatGPT系統(tǒng)基于Transformer模型生成相關(guān)內(nèi)容的過(guò)程也無(wú)人類(lèi)直接介入。這就導(dǎo)致類(lèi)ChatGPT系統(tǒng)在一定程度上可能引發(fā)刑事風(fēng)險(xiǎn)。

第一重刑事風(fēng)險(xiǎn)：數(shù)據(jù)來(lái)源不當(dāng){主要涉及《中華人民共和國(guó)刑法》第180條、第219條、第253條之一、第282條、第285條第二款、第431條等規(guī)定的罪名。}。類(lèi)ChatGPT系統(tǒng)作為基于神經(jīng)網(wǎng)絡(luò)開(kāi)發(fā)的大語(yǔ)言模型，建立在海量文本數(shù)據(jù)預(yù)訓(xùn)練的基礎(chǔ)上［2］。其里程碑式的發(fā)展和優(yōu)越性，離不開(kāi)互聯(lián)網(wǎng)海量數(shù)據(jù)的支持，數(shù)據(jù)就是類(lèi)ChatGPT系統(tǒng)的生命，相關(guān)研發(fā)企業(yè)則是典型的數(shù)據(jù)驅(qū)動(dòng)型企業(yè)。類(lèi)ChatGPT系統(tǒng)為了生成符合使用者要求的內(nèi)容而在獲取相關(guān)數(shù)據(jù)資料的過(guò)程中缺乏人類(lèi)監(jiān)督，也即類(lèi)ChatGPT系統(tǒng)為了完成生成某一內(nèi)容的指令而獲取相應(yīng)信息時(shí)，容易脫離人類(lèi)控制與干預(yù)。根據(jù)現(xiàn)有技術(shù)，類(lèi)ChatGPT仍是一個(gè)算法“黑箱”，其數(shù)據(jù)來(lái)源從未被公開(kāi)，其生成內(nèi)容所依托的數(shù)據(jù)庫(kù)中的數(shù)據(jù)來(lái)源是否經(jīng)過(guò)數(shù)據(jù)權(quán)利人合法授權(quán)，目前仍然存疑?？梢?jiàn)，在類(lèi)ChatGPT系統(tǒng)預(yù)先學(xué)習(xí)既有的文本語(yǔ)料的過(guò)程中，有可能會(huì)不當(dāng)侵犯其他數(shù)據(jù)庫(kù)的保護(hù)措施，從而侵犯其他數(shù)據(jù)的保密性。換言之，刑法為了保護(hù)某些特定數(shù)據(jù)信息的保密性，而設(shè)置了相關(guān)條文，類(lèi)ChatGPT系統(tǒng)在獲取數(shù)據(jù)資料的過(guò)程中具有觸犯這些刑法條文的刑事風(fēng)險(xiǎn)。例如，類(lèi)ChatGPT系統(tǒng)在生成內(nèi)容前獲取數(shù)據(jù)的準(zhǔn)備階段，利用“爬蟲(chóng)”等工具獲取了其他企業(yè)的商業(yè)秘密，則可能因觸犯《中華人民共和國(guó)刑法》（以下簡(jiǎn)稱(chēng)《刑法》）第219條而構(gòu)成侵犯商業(yè)秘密罪；再如，對(duì)于ChatGPT這類(lèi)大語(yǔ)言模型而言，其需要的數(shù)據(jù)極其龐雜，不加限制地使用技術(shù)手段繞過(guò)他人技術(shù)防護(hù)獲取數(shù)據(jù)，則可能因觸犯《刑法》第285條第二款而構(gòu)成非法獲取計(jì)算機(jī)信息系統(tǒng)數(shù)據(jù)罪。

第二重刑事風(fēng)險(xiǎn)：生成內(nèi)容不當(dāng){主要涉及《中華人民共和國(guó)刑法》第103條、第105條、第120條之三、第181條、第221條、第249條、第278條、第291條之一、第295條、第299條、第299條之一、第353條、第359條、第364條、第373條、第378條、第422條、第433條。}。如前所述，類(lèi)ChatGPT系統(tǒng)要在無(wú)人類(lèi)介入的情況下獲取和學(xué)習(xí)相關(guān)數(shù)據(jù)資料，這就容易導(dǎo)致類(lèi)ChatGPT系統(tǒng)在生成內(nèi)容前的獲取信息過(guò)程中脫離人類(lèi)干預(yù)和控制。因此，類(lèi)ChatGPT系統(tǒng)獲取數(shù)據(jù)時(shí)，并沒(méi)有經(jīng)過(guò)人為的正確性過(guò)濾，從而導(dǎo)致類(lèi)ChatGPT系統(tǒng)所使用的數(shù)據(jù)存在源頭上的錯(cuò)誤、虛假、不合規(guī)，乃至不合法風(fēng)險(xiǎn)。既然類(lèi)ChatGPT系統(tǒng)所使用的數(shù)據(jù)在源頭上存在不可靠性，則其生成內(nèi)容的真實(shí)性、合法性就無(wú)法得到保障。類(lèi)ChatGPT系統(tǒng)生成虛假或違法犯罪信息，容易給國(guó)家安全、社會(huì)穩(wěn)定、個(gè)人權(quán)益保障造成巨大威脅。

第三重刑事風(fēng)險(xiǎn)：利用內(nèi)容不當(dāng)。一方面，將類(lèi)ChatGPT系統(tǒng)所生成的違法犯罪內(nèi)容，作為犯罪行為的“靈感”來(lái)源或者作為犯罪行為的幫助手段，會(huì)涉及相應(yīng)刑事風(fēng)險(xiǎn)。例如，行為人利用類(lèi)ChatGPT系統(tǒng)，根據(jù)受害者的特征制定個(gè)性化的詐騙計(jì)劃，會(huì)大大增加受害者上當(dāng)受騙的幾率；再如，行為人通過(guò)類(lèi)ChatGPT系統(tǒng)偽造與案件有關(guān)的信息，影響正常的司法秩序和司法判決。應(yīng)當(dāng)看到，根據(jù)類(lèi)ChatGPT技術(shù)的發(fā)展現(xiàn)狀，其尚不具有獨(dú)立自主的意識(shí)和意志，不可能作為犯罪主體，其本質(zhì)屬性仍是人類(lèi)的工具。刑法規(guī)制類(lèi)ChatGPT系統(tǒng)犯罪，也并非規(guī)制類(lèi)ChatGPT系統(tǒng)所實(shí)施的犯罪行為，而是規(guī)制類(lèi)ChatGPT系統(tǒng)背后的人類(lèi)過(guò)錯(cuò)。形式上看，犯罪行為是由類(lèi)ChatGPT系統(tǒng)直接實(shí)施的，實(shí)質(zhì)上類(lèi)ChatGPT系統(tǒng)只是在完成使用者下達(dá)的指令，對(duì)犯罪行為和犯罪結(jié)果起直接支配作用的是使用者而非類(lèi)ChatGPT系統(tǒng)［3］。輔助工具的使用不會(huì)使犯罪性質(zhì)和犯罪形態(tài)發(fā)生根本變化。例如，使用棍子非法剝奪被害人的生命和使用殺人機(jī)器人非法剝奪被害人的生命，不會(huì)改變行為的故意殺人罪的根本性質(zhì)。換言之，對(duì)犯罪的認(rèn)定仍是以客觀實(shí)際上發(fā)生的犯罪行為為標(biāo)準(zhǔn)，而非以幫助行為的來(lái)源為標(biāo)準(zhǔn)。

另一方面，未經(jīng)有效許可而擅自利用類(lèi)ChatGPT系統(tǒng)生成內(nèi)容，可能會(huì)因侵犯相關(guān)著作權(quán)而涉嫌著作權(quán)犯罪。類(lèi)ChatGPT技術(shù)的創(chuàng)新和發(fā)展，重塑著著作權(quán)領(lǐng)域中成果性質(zhì)認(rèn)定與保護(hù)的底層邏輯，并為當(dāng)前法律制度帶來(lái)了一系列顛覆性的挑戰(zhàn)。關(guān)于人工智能生成的內(nèi)容是否可以作為著作權(quán)法所保護(hù)的“作品”，一直以來(lái)存在巨大爭(zhēng)議。實(shí)踐中曾出現(xiàn)過(guò)將人工智能生成內(nèi)容認(rèn)定為作品的案例{2019年，在“騰訊訴上海盈訊公司著作權(quán)侵權(quán)案”中，騰訊公司主張其開(kāi)發(fā)的 Dreamwriter 軟件生成的文章屬于“作品”，享有相關(guān)權(quán)利，該主張得到深圳市南山區(qū)人民法院的支持。法院認(rèn)為：“從涉案文章的外在表現(xiàn)形式與生成過(guò)程分析，該文章的特定表現(xiàn)形式源于創(chuàng)作者個(gè)性化的選擇與安排，并由Dreamwriter軟件在技術(shù)上‘生成’的創(chuàng)作過(guò)程均滿(mǎn)足著作權(quán)法對(duì)文字作品的保護(hù)條件，本院認(rèn)定涉案文章屬于我國(guó)著作權(quán)法所保護(hù)的文字作品?！眳⒁?jiàn)廣東省深圳市南山區(qū)人民法院（2019）粵0305民初14010號(hào)判決書(shū)。}。而類(lèi)ChatGPT系統(tǒng)的出現(xiàn)和發(fā)展，導(dǎo)致這一爭(zhēng)論重新進(jìn)入人們的視野。在類(lèi)ChatGPT系統(tǒng)出現(xiàn)之前，人工智能生成的內(nèi)容往往是程序機(jī)械性運(yùn)作所得出的結(jié)果，不具有獨(dú)特性［4］，一般不會(huì)被認(rèn)定為著作權(quán)法所保護(hù)的作品。而類(lèi)ChatGPT系統(tǒng)所生成的內(nèi)容和人類(lèi)相比，在表達(dá)上幾乎無(wú)異，且其具有了一定程度的“涌現(xiàn)能力”{“涌現(xiàn)能力”指的是當(dāng)人工智能模型參數(shù)達(dá)到一定量級(jí)之后，會(huì)突然擁有包括常識(shí)推理、問(wèn)答、翻譯等一系列類(lèi)似人類(lèi)的“智慧能力”。}，意味著其向通用型（Artificial General Intelligence）人工智能邁出了重要一步，也就意味著其生成的內(nèi)容在形式上具有獨(dú)創(chuàng)性。如類(lèi)ChatGPT系統(tǒng)能夠?qū)δ澄恢骷业膭?chuàng)作文風(fēng)進(jìn)行模仿，從而生成文風(fēng)相同但內(nèi)容卻完全不同的新內(nèi)容，從這個(gè)意義上而言，文學(xué)創(chuàng)作中的獨(dú)立思考和計(jì)算機(jī)程序算法之間的界限被進(jìn)一步縮?。?］。從實(shí)然層面而言，鑒于類(lèi)ChatGPT系統(tǒng)生成的內(nèi)容是人工智能基于算法和數(shù)據(jù)進(jìn)行建模后自動(dòng)生成的，并非人類(lèi)的個(gè)性化表達(dá)，人類(lèi)在此過(guò)程中的參與度極低，將其作為“作品”保護(hù)與傳統(tǒng)著作權(quán)法理論相背離，存在制度障礙。然而，從應(yīng)然層面而言，類(lèi)ChatGPT系統(tǒng)生成的內(nèi)容具有一定商業(yè)價(jià)值，通過(guò)著作權(quán)相關(guān)制度對(duì)其進(jìn)行產(chǎn)權(quán)化保護(hù)［6］，是在人工智能時(shí)代解決類(lèi)ChatGPT系統(tǒng)生成內(nèi)容所涉法律糾紛的有效路徑。在此意義上而言，未經(jīng)有效許可而擅自利用類(lèi)ChatGPT系統(tǒng)生成內(nèi)容，可能會(huì)因侵犯相關(guān)著作權(quán)而涉嫌著作權(quán)犯罪。

二、類(lèi)ChatGPT系統(tǒng)刑事風(fēng)險(xiǎn)的宏觀治理原則

刑法的規(guī)制手段與其他法律的規(guī)制手段相比，明顯更具嚴(yán)厲性。治理類(lèi)ChatGPT系統(tǒng)的刑事風(fēng)險(xiǎn)時(shí)，刑法應(yīng)有所為有所不為，在保證算法安全可控的同時(shí)，也應(yīng)堅(jiān)持自身的謙抑性，從而避免因?qū)ι鐣?huì)治理的過(guò)度介入而形成對(duì)技術(shù)發(fā)展創(chuàng)新的阻礙。為此，刑法在規(guī)制類(lèi)ChatGPT系統(tǒng)的刑事風(fēng)險(xiǎn)時(shí)，應(yīng)堅(jiān)持算法可控原則，堅(jiān)守刑法謙抑性原則。

（一）堅(jiān)持算法可控原則

算法作為類(lèi)ChatGPT系統(tǒng)運(yùn)作的底層支撐邏輯，具有極強(qiáng)的專(zhuān)業(yè)性，很容易在專(zhuān)業(yè)人士與非專(zhuān)業(yè)人士之間形成技術(shù)壁壘。類(lèi)ChatGPT系統(tǒng)的正常運(yùn)行離不開(kāi)算法，但非專(zhuān)業(yè)人士難以真正掌握算法運(yùn)作原理，更談不上改變和影響算法運(yùn)作過(guò)程。所以，有能力影響類(lèi)ChatGPT系統(tǒng)算法編制和運(yùn)作程序的只能是專(zhuān)業(yè)人士。盡管技術(shù)具有中立性已成為共識(shí)，但是類(lèi)ChatGPT系統(tǒng)所依托的技術(shù)中立，不等于其輸出內(nèi)容的中立。事實(shí)上，類(lèi)ChatGPT系統(tǒng)也可能體現(xiàn)人類(lèi)的價(jià)值判斷。盡管類(lèi)ChatGPT系統(tǒng)的運(yùn)作過(guò)程具有形式上的自主性，但其運(yùn)作的原動(dòng)力也即算法在被設(shè)計(jì)和編寫(xiě)的過(guò)程中，通常會(huì)不可避免地受到設(shè)計(jì)者價(jià)值取向、倫理道德等的影響。因此，在類(lèi)ChatGPT技術(shù)發(fā)展過(guò)程中，堅(jiān)守科技倫理，保證類(lèi)ChatGPT技術(shù)發(fā)展的安全性、可靠性，便顯得至關(guān)重要。在類(lèi)ChatGPT系統(tǒng)研發(fā)與使用的過(guò)程中，為了最大限度地防范技術(shù)所引發(fā)的風(fēng)險(xiǎn)，確保技術(shù)“向善”，研發(fā)者應(yīng)盡力排除安全隱患。以O(shè)penAI公司為例，其在ChatGPT的研發(fā)階段，應(yīng)最大限度履行相應(yīng)注意義務(wù)，從而避免ChatGPT生成含違法、犯罪信息的內(nèi)容。具體而言，類(lèi)ChatGPT技術(shù)發(fā)展所應(yīng)堅(jiān)持的算法可控原則以算法透明原則與算法安全原則的形式存在。

其一，算法透明原則?；陬?lèi)ChatGPT系統(tǒng)的專(zhuān)業(yè)性，只有盡最大可能確保風(fēng)險(xiǎn)源頭透明度，才有利于盡早識(shí)別類(lèi)ChatGPT系統(tǒng)運(yùn)行過(guò)程中可能引發(fā)的風(fēng)險(xiǎn)，有利于受害者（包括個(gè)人、社會(huì)乃至國(guó)家）明晰權(quán)益受損狀況，進(jìn)而明確造成權(quán)益受損方的刑事責(zé)任。因此，在類(lèi)ChatGPT技術(shù)發(fā)展過(guò)程中，保證算法一定程度上的透明度，對(duì)于防控類(lèi)ChatGPT系統(tǒng)風(fēng)險(xiǎn)具有關(guān)鍵性的作用。

其二，算法安全原則。所謂“算法安全”，并非是指類(lèi)ChatGPT技術(shù)發(fā)展的零風(fēng)險(xiǎn)，而是指在類(lèi)ChatGPT技術(shù)發(fā)展的同時(shí)，也應(yīng)注重對(duì)個(gè)體權(quán)利的保障和對(duì)技術(shù)風(fēng)險(xiǎn)的有效預(yù)防，也即類(lèi)ChatGPT技術(shù)的發(fā)展不應(yīng)對(duì)個(gè)人與社會(huì)造成威脅或?qū)嵸|(zhì)性侵害。應(yīng)從以下三個(gè)層面理解算法安全原則：一是個(gè)人利益保障，即類(lèi)ChatGPT的研發(fā)和應(yīng)用不能造成個(gè)人權(quán)利與自由的減損，不能侵害個(gè)體尊嚴(yán)；二是技術(shù)安全，即類(lèi)ChatGPT系統(tǒng)運(yùn)行所依賴(lài)的算法與技術(shù)應(yīng)符合相關(guān)法律、法規(guī)與行業(yè)規(guī)范，且具備及時(shí)修復(fù)系統(tǒng)安全漏洞的能力；三是算力資源安全，即類(lèi)ChatGPT技術(shù)發(fā)展與創(chuàng)新過(guò)程中，不得以不恰當(dāng)方式對(duì)他人合理使用算力資源的行為予以限制，應(yīng)合理分配和使用算力資源。

（二）堅(jiān)守刑法謙抑性原則

ChatGPT的出現(xiàn)是人工智能技術(shù)發(fā)展的重要里程碑［7］。然而，技術(shù)創(chuàng)新在帶來(lái)社會(huì)進(jìn)步的同時(shí)也會(huì)產(chǎn)生相應(yīng)的副作用。正如前述，類(lèi)ChatGPT系統(tǒng)不僅可能淪為犯罪分子實(shí)施傳統(tǒng)犯罪時(shí)的“幫兇”，還可能引發(fā)新型的犯罪，從而危害社會(huì)穩(wěn)定與國(guó)家安全。當(dāng)兩種利益發(fā)生沖突時(shí)，為了重新構(gòu)建法律和平狀態(tài)，只有兩種途徑：一是一種利益向另一種利益讓步；二是兩種利益都作出一定程度的讓步［8］。為最大限度地實(shí)現(xiàn)科技發(fā)展和社會(huì)治理二者的平衡，最大限度地發(fā)揮類(lèi)ChatGPT系統(tǒng)的社會(huì)功用，進(jìn)而最大限度地實(shí)現(xiàn)社會(huì)福祉，刑法需嚴(yán)格把握治理類(lèi)ChatGPT系統(tǒng)刑事風(fēng)險(xiǎn)的尺度，既要實(shí)現(xiàn)有力治理類(lèi)ChatGPT系統(tǒng)引發(fā)的風(fēng)險(xiǎn)，又不能扼殺類(lèi)ChatGPT系統(tǒng)技術(shù)創(chuàng)新［9］。立法活動(dòng)作為國(guó)家的上層建筑，不能先于經(jīng)濟(jì)變革的步伐而沖鋒在前，而只能緊隨經(jīng)濟(jì)發(fā)展與技術(shù)變革的腳步，及時(shí)作出調(diào)整，否則便有激進(jìn)與輕率之嫌。激進(jìn)的、過(guò)度活躍的刑事立法注重社會(huì)保護(hù)而忽視人權(quán)保障，積極證立國(guó)家刑罰權(quán)的擴(kuò)張，隱含著國(guó)家權(quán)力過(guò)度膨脹的重大風(fēng)險(xiǎn)，與刑法謙抑性原則相抵牾?？梢?jiàn)，刑事立法如不能順應(yīng)時(shí)代潮流作出與時(shí)俱進(jìn)的調(diào)整，則會(huì)在規(guī)制技術(shù)發(fā)展所引發(fā)的風(fēng)險(xiǎn)方面顯得力所不逮；如為滿(mǎn)足時(shí)代和技術(shù)發(fā)展需求而作出過(guò)于頻繁、活躍的修改，則會(huì)因抵牾刑法謙抑性原則而顯得過(guò)猶不及。因此，刑事立法的調(diào)整需要把握合理尺度，尺度合理與否的檢驗(yàn)標(biāo)準(zhǔn)便是是否符合刑法謙抑性原則。

如果刑法之外的其他部門(mén)法有能力從根本上治理或者遏制某個(gè)具有社會(huì)危害性的行為，實(shí)現(xiàn)對(duì)合法利益的保護(hù)，則刑法就沒(méi)有將該行為認(rèn)定為犯罪的必要性。這是由刑法嚴(yán)厲性特征及其在法律體系中的作用和地位所決定的。在法律體系中，刑法的地位是保障法，當(dāng)其他法律無(wú)法抑止違法行為時(shí)，才能動(dòng)用刑法。同時(shí)，刑罰的適用，既有積極作用，也有消極作用，應(yīng)適當(dāng)控制刑法的適用范圍。也即當(dāng)其他治理手段均宣告無(wú)效時(shí)，刑法將該行為認(rèn)定為犯罪才具有必要性［10］。刑法目的的實(shí)現(xiàn)具有優(yōu)先性序列，個(gè)人法益應(yīng)優(yōu)先得以保護(hù)，刑法不應(yīng)為了維護(hù)社會(huì)秩序的良好運(yùn)轉(zhuǎn)而過(guò)度侵占公民個(gè)人自由的空間［11］。治理某一危害行為，應(yīng)當(dāng)遵循道德教化、行政規(guī)制、刑事懲戒的位階，只有當(dāng)前面的手段失效時(shí)，才可嘗試使用后一手段［12］。在當(dāng)今社會(huì)大變革時(shí)代，傳統(tǒng)犯罪行為在新技術(shù)的影響下，會(huì)發(fā)生一定程度的“量變”或“質(zhì)變”［13］。在這一過(guò)程中，刑法不能盲目擴(kuò)大犯罪圈，一味強(qiáng)調(diào)介入社會(huì)治理，而應(yīng)當(dāng)始終保持審慎的態(tài)度，以理性姿態(tài)控制好規(guī)制不良行為的限度，防止觸角的過(guò)分前伸。對(duì)刑法審慎介入社會(huì)治理的提倡，并不意味著對(duì)犯罪行為的放縱，而是倡導(dǎo)盡量?jī)?yōu)先適用其他法律規(guī)制手段［14］。只有其他法律手段無(wú)法實(shí)現(xiàn)對(duì)類(lèi)ChatGPT系統(tǒng)所涉風(fēng)險(xiǎn)的有效治理之時(shí)，刑法的介入才具有正當(dāng)性與必要性。

刑法與其他部門(mén)法的違法懲治手段的明顯不同在于觸犯刑法的法律后果是刑罰，刑罰實(shí)質(zhì)上是對(duì)個(gè)人財(cái)產(chǎn)、自由乃至生命的剝奪，且刑罰確認(rèn)之前的程序，諸如對(duì)犯罪嫌疑人實(shí)施的逮捕、拘留以及對(duì)被害人進(jìn)行的審判等程序，都是重大的不利益，而其他部門(mén)法的法律后果，諸如恢復(fù)原狀、賠償損失，并非對(duì)行為人的重大不利益。因此，必須將刑事處罰限縮在“必要的最小限度之內(nèi)” ［15］?！凹词剐袨榍趾蛲{了他人的生活利益，也不是必須直接動(dòng)用刑法?？赡艿脑?huà)，采取其他社會(huì)統(tǒng)治手段才是理想的。可以說(shuō)，只有在其他社會(huì)統(tǒng)治手段不充分時(shí)，或者其他社會(huì)統(tǒng)治手段（如私刑）過(guò)于強(qiáng)烈、有代之以刑罰的必要時(shí)，才可以動(dòng)用刑法”［16］。正因如此，對(duì)于類(lèi)ChatGPT系統(tǒng)所引發(fā)的風(fēng)險(xiǎn)，刑法固然不能視而不見(jiàn)、坐視不理，但同時(shí)也應(yīng)隨時(shí)以最后手段性標(biāo)準(zhǔn)進(jìn)行自我檢視。刑法在治理類(lèi)ChatGPT系統(tǒng)涉及的刑事風(fēng)險(xiǎn)時(shí)，始終應(yīng)當(dāng)堅(jiān)持自身的謙抑性，不能因?yàn)樾谭ㄒ?guī)制手段的泛化使用而對(duì)技術(shù)創(chuàng)新發(fā)展形成阻礙。如果前置法律法規(guī)能夠有效治理類(lèi)ChatGPT系統(tǒng)涉及的刑事風(fēng)險(xiǎn)，刑法的“觸角”就應(yīng)適度后移，避免越位。

三、類(lèi)ChatGPT系統(tǒng)刑事風(fēng)險(xiǎn)的微觀治理策略

正如前述，刑法治理類(lèi)ChatGPT系統(tǒng)涉及的刑事風(fēng)險(xiǎn)時(shí)，始終應(yīng)當(dāng)堅(jiān)持算法可控原則和謙抑性原則。為此，應(yīng)貫徹分級(jí)治理的策略。其一，通過(guò)類(lèi)ChatGPT系統(tǒng)研發(fā)企業(yè)自治計(jì)劃的執(zhí)行，探索能夠有效預(yù)防類(lèi)ChatGPT系統(tǒng)刑事風(fēng)險(xiǎn)的策略［17］；其二，提高行政監(jiān)管力度，將科技監(jiān)管手段融入行政監(jiān)管體系，利用行政手段降低刑事風(fēng)險(xiǎn)實(shí)際發(fā)生的幾率；其三，使用刑事手段治理已經(jīng)觸犯刑事違法性這條“底線(xiàn)”的犯罪行為，刑事治理手段的使用必須嚴(yán)格遵循前置法律法規(guī)失效的前提條件［18］。同時(shí)，應(yīng)引導(dǎo)、督促研發(fā)企業(yè)建立并實(shí)施數(shù)據(jù)合規(guī)計(jì)劃，從“源頭”消減刑事風(fēng)險(xiǎn)，促使技術(shù)“向善”。

（一）企業(yè)自治：研發(fā)企業(yè)保證人義務(wù)的履行

具備開(kāi)發(fā)類(lèi)ChatGPT系統(tǒng)等技術(shù)的企業(yè)，通常是機(jī)制龐大的超大型互聯(lián)網(wǎng)企業(yè)（下文將其簡(jiǎn)稱(chēng)為“研發(fā)企業(yè)”）。研發(fā)企業(yè)的研發(fā)行為位于風(fēng)險(xiǎn)鏈條的前端，且具有明顯技術(shù)優(yōu)勢(shì)，更有能力在風(fēng)險(xiǎn)現(xiàn)實(shí)化演進(jìn)的進(jìn)程前期化解風(fēng)險(xiǎn)。因此，研發(fā)企業(yè)作為類(lèi)ChatGPT系統(tǒng)技術(shù)風(fēng)險(xiǎn)的“源頭”，理應(yīng)更好地履行保證人義務(wù)，保證其所研發(fā)和生產(chǎn)的類(lèi)ChatGPT系統(tǒng)無(wú)安全風(fēng)險(xiǎn)［19］，確保技術(shù)“向善”。研發(fā)企業(yè)自治計(jì)劃即是消減類(lèi)ChatGPT技術(shù)風(fēng)險(xiǎn)、確保類(lèi)ChatGPT技術(shù)有序發(fā)展的重要途徑。

首先，研發(fā)企業(yè)自治計(jì)劃實(shí)施的關(guān)鍵在于建立健全企業(yè)管理體系，確保企業(yè)的研發(fā)行為在法律法規(guī)的框架內(nèi)進(jìn)行，從而履行好保證人義務(wù)。對(duì)類(lèi)ChatGPT系統(tǒng)研發(fā)企業(yè)而言，其自治計(jì)劃主要應(yīng)由兩方面組成：一是有效履行保證人義務(wù)；二是配合執(zhí)法與應(yīng)對(duì)危機(jī)。研發(fā)企業(yè)自治計(jì)劃的實(shí)施，有利于阻斷類(lèi)ChatGPT系統(tǒng)研發(fā)企業(yè)犯罪，實(shí)現(xiàn)企業(yè)治理的積極效果，更為徹底地化解類(lèi)ChatGPT系統(tǒng)的風(fēng)險(xiǎn)與危機(jī)。

其次，研發(fā)企業(yè)自治計(jì)劃實(shí)施的方式在于保證人義務(wù)的履行。算法可控性及算法可解釋性是實(shí)現(xiàn)類(lèi)ChatGPT系統(tǒng)研發(fā)企業(yè)保證人義務(wù)的基礎(chǔ)，也是治理和防范類(lèi)ChatGPT系統(tǒng)刑事風(fēng)險(xiǎn)的關(guān)鍵［20］。有學(xué)者提出，“技術(shù)黑箱”始終都是存在的［21］，但是技術(shù)人員已經(jīng)通過(guò)逆向工程等方法觸摸到了神經(jīng)網(wǎng)絡(luò)底層邏輯，并以可視化形式展示這一技術(shù)成果，從而打開(kāi)了神經(jīng)網(wǎng)絡(luò)黑箱［22］。社會(huì)中的每個(gè)主體都承擔(dān)不同的社會(huì)角色，承載不同的社會(huì)意義，但不同主體之間的角色和意義不能割裂，而要把每個(gè)主體的角色和意義放在整體的社會(huì)生態(tài)中進(jìn)行把握和理解［23］。研發(fā)企業(yè)位于風(fēng)險(xiǎn)鏈條前端，具有防控類(lèi)ChatGPT系統(tǒng)風(fēng)險(xiǎn)的技術(shù)優(yōu)勢(shì)，其保證人義務(wù)的履行可以最大程度降低危害結(jié)果發(fā)生的現(xiàn)實(shí)可能性。

最后，研發(fā)企業(yè)自治計(jì)劃實(shí)施的重點(diǎn)在于對(duì)數(shù)據(jù)的依法依規(guī)利用。類(lèi)ChatGPT系統(tǒng)研發(fā)企業(yè)在運(yùn)營(yíng)的過(guò)程中，往往會(huì)伴隨數(shù)據(jù)的傳輸、存儲(chǔ)、利用及交易等，這容易導(dǎo)致對(duì)數(shù)據(jù)安全的多層次、多節(jié)點(diǎn)的威脅。在制定類(lèi)ChatGPT系統(tǒng)研發(fā)企業(yè)自治計(jì)劃時(shí)，應(yīng)把數(shù)據(jù)依法依規(guī)利用視作重點(diǎn)內(nèi)容，明確研發(fā)企業(yè)經(jīng)營(yíng)過(guò)程中所要承擔(dān)的具體作為義務(wù)，也即將刑法賦予的數(shù)據(jù)安全保障義務(wù)以具體化方式呈現(xiàn)為企業(yè)的運(yùn)營(yíng)規(guī)則，該運(yùn)營(yíng)規(guī)則中包括履行數(shù)據(jù)安全保障義務(wù)的具體方式和手段，從而真正實(shí)現(xiàn)將外在的法定義務(wù)內(nèi)化成企業(yè)自身的運(yùn)行方式和管理制度。具體而言，數(shù)據(jù)獲取階段，研發(fā)企業(yè)應(yīng)根據(jù)相關(guān)法律法規(guī)，制定具體規(guī)章制度，建立數(shù)據(jù)獲取的風(fēng)險(xiǎn)評(píng)估機(jī)制；在數(shù)據(jù)利用階段，研發(fā)企業(yè)應(yīng)提高違法犯罪預(yù)判能力和識(shí)別水平，在源頭上實(shí)現(xiàn)對(duì)數(shù)據(jù)泄露與濫用數(shù)據(jù)風(fēng)險(xiǎn)的有效防控。

（二）政府監(jiān)管：科技監(jiān)管融入行政監(jiān)管的具體方式

類(lèi)ChatGPT系統(tǒng)的專(zhuān)業(yè)性強(qiáng)，通過(guò)傳統(tǒng)的監(jiān)管手段與依靠人為監(jiān)管的力量無(wú)法有效突破技術(shù)壁壘，因此，在預(yù)防和治理類(lèi)ChatGPT系統(tǒng)刑事風(fēng)險(xiǎn)時(shí)，科技手段可以在行政監(jiān)管中扮演重要角色。科技手段能有效提升行政監(jiān)管效能，降低類(lèi)ChatGPT系統(tǒng)風(fēng)險(xiǎn)向現(xiàn)實(shí)演進(jìn)的概率。科技監(jiān)管手段的實(shí)現(xiàn)方式具體如下。

第一，監(jiān)管機(jī)構(gòu)與研發(fā)企業(yè)二者之間建立數(shù)據(jù)信息共享與合作共治機(jī)制。在以往的監(jiān)管模式中，被監(jiān)管人被動(dòng)提供運(yùn)營(yíng)數(shù)據(jù)以供監(jiān)管機(jī)關(guān)檢查和監(jiān)督。被監(jiān)管人被動(dòng)提供的數(shù)據(jù)是監(jiān)管人判斷企業(yè)行為是否合法的重要依據(jù)。在這種監(jiān)管模式下，監(jiān)管者自上而下地對(duì)被監(jiān)管者實(shí)施治理與監(jiān)管，看似處于強(qiáng)勢(shì)地位，但在信息獲取層面看，被監(jiān)管者所提供的信息可能是被篩選、隱藏甚至是偽造的，形式上處于優(yōu)勢(shì)地位的監(jiān)管者，實(shí)際上位于劣勢(shì)地位。數(shù)據(jù)信息共享機(jī)制和合作共治機(jī)制的建成，有利于改變監(jiān)管者獲取信息被動(dòng)性所導(dǎo)致的弱勢(shì)地位，使監(jiān)管者可以主動(dòng)地獲取數(shù)據(jù)，有效破解傳統(tǒng)監(jiān)管模式中信息不對(duì)稱(chēng)的困局。同時(shí)，正如前述，對(duì)類(lèi)ChatGPT系統(tǒng)研發(fā)企業(yè)而言，監(jiān)管者對(duì)被監(jiān)管者進(jìn)行監(jiān)管的依據(jù)主要是監(jiān)管者所獲取的運(yùn)營(yíng)數(shù)據(jù)。傳統(tǒng)監(jiān)管模式下，被監(jiān)管者在被動(dòng)及被強(qiáng)制提供數(shù)據(jù)時(shí)，為了企業(yè)自身利益的最大化，可能會(huì)怠于履行提供數(shù)據(jù)的義務(wù)，甚至可能會(huì)提供被篩選、隱藏甚至是偽造的數(shù)據(jù)。在研發(fā)企業(yè)和監(jiān)管機(jī)構(gòu)之間，建立共享數(shù)據(jù)信息的有效合作機(jī)制，實(shí)現(xiàn)二者的合作共治，有利于監(jiān)管者獲取第一手?jǐn)?shù)據(jù)資料，從根本上杜絕被監(jiān)管企業(yè)偽造數(shù)據(jù)資料的可能性。這將大大提升監(jiān)管者對(duì)于風(fēng)險(xiǎn)的預(yù)測(cè)能力和識(shí)別能力，從而有利于更快速地化解風(fēng)險(xiǎn)、處理危機(jī)。

第二，監(jiān)管機(jī)構(gòu)建立實(shí)時(shí)、動(dòng)態(tài)的智能化監(jiān)管與審核機(jī)制。科技的快速發(fā)展催生出了類(lèi)ChatGPT系統(tǒng)技術(shù)，與傳統(tǒng)技術(shù)相比，類(lèi)ChatGPT技術(shù)具有一定程度的先進(jìn)性和特殊之處，如果監(jiān)管機(jī)構(gòu)仍采用傳統(tǒng)監(jiān)管方式，則無(wú)法實(shí)現(xiàn)對(duì)新技術(shù)所引發(fā)風(fēng)險(xiǎn)的有效監(jiān)管。因此，監(jiān)管機(jī)構(gòu)應(yīng)將科技監(jiān)管的手段充分融入行政監(jiān)管手段之中，進(jìn)一步提升監(jiān)管技術(shù)，根據(jù)類(lèi)ChatGPT系統(tǒng)技術(shù)的特征與發(fā)展水平，有針對(duì)性地利用智能化的審核技術(shù)進(jìn)行監(jiān)管。監(jiān)管者拓展監(jiān)管方式，運(yùn)用智能化技術(shù)充分提高和優(yōu)化監(jiān)管水平，有利于更加快速、精確地預(yù)判、識(shí)別和處理風(fēng)險(xiǎn)。具體來(lái)說(shuō)，監(jiān)管者可將監(jiān)管規(guī)則通過(guò)編程，以代碼化的方式予以呈現(xiàn)，并將其內(nèi)化于監(jiān)管系統(tǒng)。監(jiān)管者在監(jiān)督研發(fā)企業(yè)運(yùn)營(yíng)過(guò)程時(shí)，可通過(guò)自動(dòng)比對(duì)的形式，比對(duì)類(lèi)ChatGPT系統(tǒng)研發(fā)過(guò)程和相關(guān)規(guī)則的匹配程度，如有非正常情況，則及時(shí)發(fā)出警告信息。此種方式可以幫助監(jiān)管者準(zhǔn)確、及時(shí)地識(shí)別類(lèi)ChatGPT系統(tǒng)運(yùn)作時(shí)所出現(xiàn)的風(fēng)險(xiǎn)或者異常情況，進(jìn)而及時(shí)制止和處理風(fēng)險(xiǎn)，實(shí)現(xiàn)于無(wú)形中化解危機(jī)的初衷。退一步講，即便監(jiān)管者未能有效化解危機(jī)，仍使類(lèi)ChatGPT系統(tǒng)的風(fēng)險(xiǎn)現(xiàn)實(shí)化，監(jiān)管者對(duì)類(lèi)ChatGPT系統(tǒng)所作的實(shí)時(shí)監(jiān)督所形成的數(shù)據(jù)資料，也可以成為危險(xiǎn)現(xiàn)實(shí)化后進(jìn)行事后治理的重要證據(jù)和有力依據(jù)［24］。

可見(jiàn)，技術(shù)的發(fā)展一方面為行政監(jiān)管增加難度、帶來(lái)挑戰(zhàn)，另一方面也為監(jiān)管模式創(chuàng)新和變革提供了難能可貴的機(jī)遇。將科技監(jiān)管手段融入行政監(jiān)管體系，具有顯而易見(jiàn)的優(yōu)越性與重要意義。加強(qiáng)對(duì)類(lèi)ChatGPT系統(tǒng)的科技監(jiān)管，能夠在相當(dāng)程度上彌合傳統(tǒng)監(jiān)管模式的缺陷，有利于監(jiān)管者準(zhǔn)確、快速地預(yù)判、識(shí)別和預(yù)防風(fēng)險(xiǎn)，最終實(shí)現(xiàn)類(lèi)ChatGPT系統(tǒng)技術(shù)的健康發(fā)展。

（三）司法認(rèn)定：涉數(shù)據(jù)犯罪的認(rèn)定方案

類(lèi)ChatGPT系統(tǒng)并不能作為犯罪主體，換言之，類(lèi)ChatGPT系統(tǒng)沒(méi)有承擔(dān)刑事責(zé)任的主體資格，其研發(fā)企業(yè)、使用者等相關(guān)自然人或單位主體才可能最終作為刑事責(zé)任主體，為類(lèi)ChatGPT系統(tǒng)所涉及的刑事風(fēng)險(xiǎn)承擔(dān)刑事責(zé)任。對(duì)于類(lèi)ChatGPT系統(tǒng)突破道德倫理和法律底線(xiàn)而輸出違法犯罪信息，在滿(mǎn)足犯罪構(gòu)成要件的前提下，根據(jù)違法犯罪信息的內(nèi)容追究研發(fā)企業(yè)或者使用者的刑事責(zé)任即可；未取得使用資格的自然人或者單位使用類(lèi)ChatGPT系統(tǒng)生成的內(nèi)容是否有可能構(gòu)成著作權(quán)犯罪，取決于著作權(quán)法對(duì)于“作品”的認(rèn)定標(biāo)準(zhǔn)。值得探討的是，在類(lèi)ChatGPT系統(tǒng)生成相應(yīng)內(nèi)容前，其會(huì)進(jìn)行獲取數(shù)據(jù)等相應(yīng)的準(zhǔn)備工作，在此過(guò)程中，如果其有不當(dāng)行為且涉及刑事風(fēng)險(xiǎn)，如何進(jìn)行追責(zé)值得探討。筆者認(rèn)為，對(duì)于類(lèi)ChatGPT系統(tǒng)研發(fā)企業(yè)涉嫌數(shù)據(jù)信息犯罪的追責(zé)，應(yīng)嚴(yán)格遵循數(shù)據(jù)犯罪的雙重違法性特征，同時(shí)，不應(yīng)以對(duì)獲取數(shù)據(jù)行為行政違法性的判斷替代對(duì)行為刑事違法性的判斷。

其一，對(duì)類(lèi)ChatGPT系統(tǒng)研發(fā)企業(yè)涉嫌數(shù)據(jù)信息犯罪的認(rèn)定，應(yīng)嚴(yán)格遵循雙重違法性標(biāo)準(zhǔn)。數(shù)據(jù)犯罪是法定犯，其構(gòu)成應(yīng)同時(shí)滿(mǎn)足行政違法性和刑事違法性。換言之，類(lèi)ChatGPT系統(tǒng)研發(fā)企業(yè)不當(dāng)獲取數(shù)據(jù)的行為，只有在違反了相應(yīng)的前置性法律法規(guī)，具備了行政違法性的前提下，我們才能進(jìn)一步考慮該行為是否違反了刑法中有關(guān)數(shù)據(jù)犯罪的規(guī)定，是否構(gòu)成犯罪。在類(lèi)ChatGPT系統(tǒng)研發(fā)企業(yè)不當(dāng)獲取數(shù)據(jù)行為的司法認(rèn)定中，前置性法律法規(guī)始終應(yīng)處于承上啟下的地位，即當(dāng)研發(fā)企業(yè)自治計(jì)劃失靈時(shí)，監(jiān)管機(jī)關(guān)應(yīng)根據(jù)前置性法律法規(guī)的規(guī)定對(duì)研發(fā)企業(yè)進(jìn)行處罰；當(dāng)前置性法律法規(guī)失效時(shí)，刑法才能介入對(duì)研發(fā)企業(yè)不當(dāng)獲取數(shù)據(jù)行為的規(guī)制。只有堅(jiān)持企業(yè)自治計(jì)劃、前置性法律法規(guī)治理、刑法規(guī)制的三階治理策略，才能準(zhǔn)確把握刑法介入類(lèi)ChatGPT系統(tǒng)研發(fā)企業(yè)不當(dāng)獲取數(shù)據(jù)行為的時(shí)機(jī)［25］，避免刑法過(guò)早介入而阻礙研發(fā)企業(yè)的積極性，甚至遏制技術(shù)進(jìn)步的進(jìn)程，同時(shí)也避免刑法過(guò)晚介入對(duì)數(shù)據(jù)安全造成無(wú)法挽回的不利影響。

其二，對(duì)類(lèi)ChatGPT系統(tǒng)研發(fā)企業(yè)涉嫌數(shù)據(jù)信息犯罪的認(rèn)定，不應(yīng)以對(duì)獲取數(shù)據(jù)行為行政違法性的判斷替代對(duì)行為刑事違法性的判斷。應(yīng)當(dāng)看到，類(lèi)ChatGPT系統(tǒng)研發(fā)企業(yè)不當(dāng)獲取數(shù)據(jù)的行為具有行政違法性，只是其具有刑事違法性的必要條件而非充分條件。換言之，類(lèi)ChatGPT系統(tǒng)研發(fā)企業(yè)不當(dāng)獲取數(shù)據(jù)的行為構(gòu)成犯罪，則其必然具有行政違法性；但反之，類(lèi)ChatGPT系統(tǒng)研發(fā)企業(yè)不當(dāng)獲取數(shù)據(jù)的行為具有行政違法性，并不必然證明其構(gòu)成犯罪。認(rèn)定某一行為構(gòu)成犯罪，應(yīng)從行為實(shí)質(zhì)侵害法益的角度進(jìn)行判斷，不能簡(jiǎn)單地以行為具有行政違法性作為充分必要條件。詳言之，《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》《個(gè)人信息保護(hù)法》等前置性法律法規(guī)為數(shù)據(jù)犯罪的認(rèn)定提供了細(xì)致、具體的標(biāo)準(zhǔn)，未違反上述前置性法律法規(guī)的行為必然不構(gòu)成數(shù)據(jù)犯罪，但反之則不然，以防刑罰處罰范圍的不當(dāng)擴(kuò)張。

結(jié)語(yǔ)

類(lèi)ChatGPT系統(tǒng)涉及的刑事風(fēng)險(xiǎn)包括數(shù)據(jù)來(lái)源不當(dāng)、生成內(nèi)容違法違規(guī)、使用不當(dāng)手段對(duì)生成的內(nèi)容加以利用等。刑法在治理類(lèi)ChatGPT系統(tǒng)所涉及的相關(guān)刑事風(fēng)險(xiǎn)時(shí)應(yīng)當(dāng)堅(jiān)持有所為和有所不為，即在保證算法安全可控的同時(shí)，也應(yīng)當(dāng)堅(jiān)持刑法的謙抑性，以防止刑法觸角的過(guò)度延伸而阻礙技術(shù)發(fā)展。實(shí)施分級(jí)治理策略，構(gòu)建“過(guò)濾”涉類(lèi)ChatGPT系統(tǒng)犯罪的三道“濾網(wǎng)”是實(shí)踐上述原則的有效途徑：第一道“濾網(wǎng)”即通過(guò)類(lèi)ChatGPT系統(tǒng)研發(fā)企業(yè)制定與執(zhí)行自治計(jì)劃，探索能夠有效預(yù)防類(lèi)ChatGPT系統(tǒng)刑事風(fēng)險(xiǎn)的策略；第二道“濾網(wǎng)”即提高行政監(jiān)管力度，將科技監(jiān)管手段融入行政監(jiān)管體系，利用行政手段降低刑事風(fēng)險(xiǎn)實(shí)際發(fā)生的幾率［26］；第三道“濾網(wǎng)”即使用刑事手段治理已經(jīng)觸犯刑事違法性這條“底線(xiàn)”的犯罪行為，刑事治理手段的使用必須嚴(yán)格遵循前置法律法規(guī)失效的前提條件，堅(jiān)持企業(yè)自治計(jì)劃、前置性法律法規(guī)治理、刑法規(guī)制的三階治理策略，準(zhǔn)確把握刑法介入類(lèi)ChatGPT系統(tǒng)研發(fā)企業(yè)不當(dāng)獲取數(shù)據(jù)行為的時(shí)機(jī)。

參考文獻(xiàn)：

［1］ 蒲清平，向往.生成式人工智能：ChatGPT的變革影響、風(fēng)險(xiǎn)挑戰(zhàn)及應(yīng)對(duì)策略［J］.重慶大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版），2023（3）：102-114.

［2］ 朱光輝，王喜文.ChatGPT的運(yùn)行模式、關(guān)鍵技術(shù)及未來(lái)圖景［J］.新疆師范大學(xué)學(xué)報(bào)（哲學(xué)社會(huì)科學(xué)版），2023（4）：113-122.

［3］ 姚萬(wàn)勤.對(duì)通過(guò)新增罪名應(yīng)對(duì)人工智能風(fēng)險(xiǎn)的質(zhì)疑［J］.當(dāng)代法學(xué)，2019（3）：3-14.

［4］ 王遷.論人工智能生成的內(nèi)容在著作權(quán)法中的定性［J］.法律科學(xué)，2017（5）：148-155.

［5］ 房慧穎.論人工智能生成內(nèi)容的法律保護(hù)問(wèn)題［J］.山東社會(huì)科學(xué)，2023（9）：179-184.

［6］ 劉憲權(quán).人工智能生成物刑法保護(hù)的基礎(chǔ)和限度［J］.華東政法大學(xué)學(xué)報(bào)，2019（6）：60-67.

［7］ 趙廣立.ChatGPT敲開(kāi)通用人工智能大門(mén)了嗎［N］.中國(guó)科學(xué)報(bào)，2023-02-22（03）.

［8］ 卡爾·拉倫茨. 法學(xué)方法論［M］.陳愛(ài)娥，譯.北京：商務(wù)印書(shū)館，2003：279.

［9］ 房慧穎.生成型人工智能的刑事風(fēng)險(xiǎn)與防治策略：以ChatGPT為例［J］.南昌大學(xué)學(xué)報(bào)（人文社會(huì)科學(xué)版），2023（4）：52-61.［10］ 〖ZK（#〗陳興良.刑法哲學(xué)［M］.北京：中國(guó)政法大學(xué)出版社，2004：7.

［11］ 平野龍一.刑法的基礎(chǔ)［M］.黎宏，譯.北京：中國(guó)政法大學(xué)出版社，2016：90.

［12］ 儲(chǔ)槐植.美國(guó)刑法［M］.北京：北京大學(xué)出版社，1987：85.

［13］ 馮亞?wèn)|.理性主義與刑法模式［M］.北京：中國(guó)政法大學(xué)出版社，1998：10.

［14］ 房慧穎.侵犯數(shù)據(jù)產(chǎn)品權(quán)利行為的刑法認(rèn)定［J］.理論與改革，2024（5）：150-160.

［15］ 陳興良.刑事政策視野中的刑罰結(jié)構(gòu)調(diào)整［J］.法學(xué)研究，1998（6）：40-54.

［16］ 平野龍一.刑法總論Ⅰ［M］.有斐閣，1972：72.

［17］ 房慧穎.數(shù)字平臺(tái)治理的“兩面性”及刑法介入機(jī)制［J］.華東政法大學(xué)學(xué)報(bào)，2024（5）：68-77.

［18］ 房慧穎.數(shù)字資產(chǎn)屬性的界定及其證成 ［J］.學(xué)術(shù)月刊，2024（5）：113-122.

［19］ 姜濤.刑法如何應(yīng)對(duì)人工智能帶來(lái)的風(fēng)險(xiǎn)挑戰(zhàn)［N］.檢察日?qǐng)?bào)，2019-12-07（03）.

［20］ 江溯.自動(dòng)化決策、刑事司法與算法規(guī)制：由盧米斯案引發(fā)的思考［J］.東方法學(xué)，2020（3）：76-88.

［21］ 沈偉偉.算法透明原則的迷思：算法規(guī)制理論的批判［J］.環(huán)球法律評(píng)論，2019（6）：20-39.

［22］ 楊慶峰.ChatGPT：特征分析與倫理考察［N］.中國(guó)社會(huì)科學(xué)報(bào)，2023-03-07（04）.

［23］ 劉濤.網(wǎng)絡(luò)幫助行為刑法不法歸責(zé)模式：以功能主義為視角［J］.政治與法律，2020（3）：113-124.

［24］ 楊東，潘曌東.區(qū)塊鏈帶來(lái)金融與法律優(yōu)化［J］.中國(guó)金融，2016（8）：25-26.

［25］ 房慧穎.數(shù)據(jù)犯罪刑法規(guī)制模式的系統(tǒng)性研判與立體化構(gòu)建［J］.理論與改革，2023（6）：78-88.

［26］ 房慧穎.數(shù)字經(jīng)濟(jì)時(shí)代衍生數(shù)據(jù)財(cái)產(chǎn)權(quán)的刑法保護(hù)機(jī)制構(gòu)建［J］.廣西大學(xué)學(xué)報(bào)（哲學(xué)社會(huì)科學(xué)版），2024（1）：194-202.

Criminal risk and governance path of ChatGPT-like system

FANG Huiying

（School of Criminal Law， East China University of Political Science and Law， Shanghai 200042， P. R. China）

Abstract：

ChatGPT-like system refers to the content-generating artificial intelligence （AIGC） represented by ChatGPT， which combines generative pre-training with algorithmic language conversion. ChatGPT-like system not only promotes the development of human society， but also brings criminal risks. When ChatGPT-like systems obtain corresponding information to generate certain content， it is easy to break away from human control and intervention and improperly infringe on the confidentiality of other data. At the same time， if the content generated by ChatGPT-like system contains illegal and criminal information， or users improperly use the information generated by ChatGPT-like system， it may also involve corresponding criminal risks. However， ChatGPT-like system does not have the qualification of the subject of criminal responsibility， that is， the subject that may ultimately bear criminal responsibility is not ChatGPT-like system， but the developer or user related to it. In the development and use of ChatGPT-like system， to prevent technical risks and make the technology “good”， the developers should fulfill the obligations as guarantors， foresee the possible harmful results caused by ChatGPT-like system as much as possible， and take corresponding countermeasures to prevent them. Users should not intentionally induce ChatGPT-like system to break through the ethical and legal bottom line and output illegal and criminal information. If the developer fails to foresee and prevent ChatGPT-like system from outputting illegal and criminal information to the greatest extent， or the user intentionally induces ChatGPT-like system to output illegal and criminal information， he shall bear corresponding criminal responsibility. From the macro level， when regulating criminal risks involved in ChatGPT-like system， the criminal law principle of modesty should be observed to avoid hindering technological innovation and development. From the micro level， in view of the content and characteristics of criminal risks in ChatGPT-like systems， it is necessary to construct a hierarchical governance mechanism： develop and implement compliance plans through ChatGPT-like system research and development enterprises， and explore preventive governance strategies for the criminal risks; strengthen administrative supervision， and integrate scientific and technological supervision means into administrative supervision system， to reduce the "possibility of criminal risks; the use of criminal governance measures must strictly adhere to the precondition that prior legal and regulatory provisions are ineffective， the assessment of criminal illegality must be conducted within the framework of the principle of legality in criminal law， and administrative illegality should not be used to replace criminal illegality.

Key words：

ChatGPT; data crime; technology regulation; hierarchical governance（責(zé)任編輯"胡志平）

基金項(xiàng)目：

上海市哲學(xué)社會(huì)科學(xué)規(guī)劃課題“預(yù)防性刑事立法及其限度研究”（2022EFX003）

作者簡(jiǎn)介：

房慧穎，華東政法大學(xué)刑事法學(xué)院副教授， Email：fanghuiying1203@163.com。