曹俊梅 魯榛子

近年來(lái)，人工智能技術(shù)迅猛發(fā)展。2022年美國(guó)OpenAI公司發(fā)布文本類人工智能應(yīng)用產(chǎn)品ChatGPT引發(fā)關(guān)注。作為生成式人工智能的一種，ChatGPT依托大規(guī)模語(yǔ)言模型與生成式人工智能的預(yù)訓(xùn)練技術(shù)框架，在語(yǔ)言理解、意圖識(shí)別、邏輯推理、內(nèi)容生成等方面實(shí)現(xiàn)較大突破。生成式人工智能在文本寫作、代碼生成等方面具有廣闊的應(yīng)用前景，深刻影響著人們的生產(chǎn)生活。生成式人工智能高速發(fā)展的同時(shí)也存在一定風(fēng)險(xiǎn)隱患。理論界表達(dá)了對(duì)生成式人工智能可能存在平等、倫理、犯罪等方面風(fēng)險(xiǎn)的擔(dān)憂。本文對(duì)生成式人工智能可能引發(fā)的刑事風(fēng)險(xiǎn)進(jìn)行分析，總結(jié)目前法律規(guī)范的理論和實(shí)踐情況，對(duì)生成式人工智能刑事風(fēng)險(xiǎn)的應(yīng)對(duì)進(jìn)行思考。

生成式人工智能的發(fā)展與應(yīng)用

1950年，艾倫·麥席森·圖靈在論文《計(jì)算機(jī)器與智能》中提出了人工智的思想。約翰·麥卡錫創(chuàng)造了人工智能一詞后，人工智能經(jīng)歷了基于圖靈測(cè)試的機(jī)器模擬階段、基于統(tǒng)計(jì)推理的機(jī)器學(xué)習(xí)階段，再發(fā)展到今天基于神經(jīng)網(wǎng)絡(luò)的深度學(xué)習(xí)階段。在生成式人工智能興起之前，人工智能產(chǎn)品以分析式人工智能為主。分析式人工智能主要幫助預(yù)測(cè)、提升決策效率，不能生成新的內(nèi)容，因此多作為輔助工具。生成式人工智能可以根據(jù)決策作出判斷、生成內(nèi)容。Transformer的訓(xùn)練架構(gòu)促成了生成式人工智能的發(fā)展。2017年谷歌團(tuán)隊(duì)提出Transformer架構(gòu)，2018年OpenAI 公司基于Transformer架構(gòu)訓(xùn)練出了GPT-1。所謂GPT，是“生成式預(yù)訓(xùn)練”（generative pre-training）模型的簡(jiǎn)稱。ChatGPT被認(rèn)為是生成式人工智能的突破性進(jìn)展，生成式人工智能主要應(yīng)用場(chǎng)景包括了消費(fèi)端和產(chǎn)業(yè)端。生成式人工智能在消費(fèi)端的應(yīng)用主要體現(xiàn)在內(nèi)容生產(chǎn)、便捷交互和簡(jiǎn)化工作；在產(chǎn)業(yè)端則應(yīng)用于工業(yè)設(shè)計(jì)、藥物研發(fā)、材料科學(xué)、合成數(shù)據(jù)等。

生成式人工智能可能存在的刑事風(fēng)險(xiǎn)

生成式人工智能發(fā)展存在的風(fēng)險(xiǎn)已經(jīng)不是一個(gè)嶄新的問(wèn)題，本部分主要討論生成式人工智能可能涉及的刑事犯罪風(fēng)險(xiǎn)。從犯罪手段上，生成式人工智能可能涉及的犯罪包括行為人以生成式人工智能為對(duì)象的犯罪；以生成式人工智能為犯罪工具的犯罪；生成式人工智能脫離編程限制而自主實(shí)施的犯罪。從犯罪類型看，ChatGPT等生成式人工智能可能涉及的犯罪可分為煽動(dòng)類犯罪，侵犯知識(shí)產(chǎn)權(quán)類犯罪，侵犯數(shù)據(jù)、信息、計(jì)算機(jī)信息系統(tǒng)類犯罪，侵犯公民人身權(quán)利類犯罪，以及傳授犯罪方法、提供犯罪程序類犯罪等。

（一）針對(duì)生成式人工智能技術(shù)的犯罪

顧名思義，這類犯罪主要是以生成式人工智能為犯罪對(duì)象的犯罪。例如對(duì)正在研發(fā)的生成式人工智能技術(shù)、產(chǎn)品或者研發(fā)數(shù)據(jù)的竊取、使用等，可能構(gòu)成侵犯商業(yè)秘密罪、假冒專利罪、侵犯著作權(quán)罪，為境外竊取、刺探、售賣、非法提供商業(yè)秘密罪等。又如對(duì)生成式人工智能生成內(nèi)容的復(fù)制、使用如何評(píng)價(jià)，生成式人工智能生成的作品是否受著作權(quán)保護(hù)，還存在爭(zhēng)議。因此對(duì)生成式人工智能生成物的復(fù)制、使用是否構(gòu)成侵犯著作權(quán)罪等犯罪，還較難明確。不少觀點(diǎn)認(rèn)為，生成式人工智能生成物不具有真正的創(chuàng)造力，不是人類獨(dú)創(chuàng)性思想的表現(xiàn)，因此不應(yīng)享有著作權(quán)。持生成式人工智能生成物不享有著作權(quán)意見(jiàn)的觀點(diǎn)中，有的認(rèn)為可以將其作為財(cái)產(chǎn)權(quán)進(jìn)行保護(hù)，也有觀點(diǎn)認(rèn)為可以采用鄰接權(quán)保護(hù)的方式。也有專家認(rèn)為對(duì)于人工智能生成物應(yīng)當(dāng)考慮是否存在使用人工智能創(chuàng)作的人，且其在創(chuàng)作過(guò)程中是否付出了智力或創(chuàng)造性勞動(dòng)。生成物中人的智力和創(chuàng)造性勞動(dòng)是生成物是否受著作權(quán)保護(hù)的重要參考因素。例如，對(duì)于完全由ChatGPT自動(dòng)生成未能反映人類意志或情感的不具備版權(quán)；ChatGPT根據(jù)人類足夠多的具體指令生成內(nèi)容時(shí)因蘊(yùn)含人類特定思想或意志而具有可版權(quán)性；人類在ChatGPT生成物基礎(chǔ)上調(diào)整或加工而形成的內(nèi)容也具有可版權(quán)性。

（二）生成式人工智能技術(shù)本身可能存在的犯罪風(fēng)險(xiǎn)

第一，生成式人工智能存在侵犯知識(shí)產(chǎn)權(quán)的風(fēng)險(xiǎn)。由于生成式人工智能基于海量的數(shù)據(jù)和算法，如果未經(jīng)許可，復(fù)制或者通過(guò)網(wǎng)絡(luò)爬蟲爬取他人享有著作權(quán)的在線內(nèi)容，在我國(guó)現(xiàn)行《著作權(quán)法》沒(méi)有明確將數(shù)據(jù)挖掘等智能化的分析行為規(guī)定為合理使用的情況下，此行為可能構(gòu)成著作權(quán)侵權(quán)。

第二，生成式人工智能可能存在信息安全、隱私保護(hù)等方面的犯罪風(fēng)險(xiǎn)。一是生成式人工智能存在不當(dāng)收集公民個(gè)人信息、商業(yè)信息、國(guó)家信息等風(fēng)險(xiǎn)，涉及信息保護(hù)方面的犯罪，如侵犯公民個(gè)人信息罪。二是用戶使用生成式人工智能的過(guò)程中，也可能被反向收集個(gè)人信息或者其他資料，存在泄露個(gè)人信息、商業(yè)秘密或者國(guó)家秘密的風(fēng)險(xiǎn)。三是生成式人工智能還可能生成虛假、錯(cuò)誤信息，造成虛假、錯(cuò)誤信息傳播等，擾亂社會(huì)和市場(chǎng)秩序等，涉及侮辱罪、誹謗罪，編造、故意傳播虛假恐怖信息罪，編造、故意傳播虛假信息罪，損害商業(yè)信譽(yù)、商業(yè)聲譽(yù)罪等。

（三）生成式人工智能被犯罪利用的風(fēng)險(xiǎn)

ChatGPT模型因其出色的語(yǔ)言處理與文字生成能力，暴露出被不法分子濫用進(jìn)而用于從事網(wǎng)絡(luò)犯罪的風(fēng)險(xiǎn)，例如編寫釣魚郵件和惡意程序。生成式人工智能可能被作為犯罪工具，被犯罪分子運(yùn)用到一些傳統(tǒng)犯罪當(dāng)中。一是可能被恐怖主義、極端主義犯罪分子利用，實(shí)施煽動(dòng)類犯罪，如煽動(dòng)分裂國(guó)家罪、煽動(dòng)顛覆國(guó)家政權(quán)罪，宣傳恐怖主義、極端主義、煽動(dòng)實(shí)施恐怖活動(dòng)罪，煽動(dòng)民族仇恨、民族歧視罪等。二是被網(wǎng)絡(luò)犯罪利用，特別是電信網(wǎng)絡(luò)詐騙犯罪可能利用生成式人工智能編寫詐騙話術(shù)、釣魚郵件、惡意程序等。三是可能涉及公民人身權(quán)利的犯罪，如前文所述的侵犯公民個(gè)人信息罪、侮辱罪、誹謗罪等。四是可能被用于傳授犯罪方法，涉及傳授犯罪方法罪等。

（四）生成式人工智能服務(wù)者、管理者的犯罪風(fēng)險(xiǎn)

2023年我國(guó)網(wǎng)信辦、國(guó)家發(fā)改委、科技部等部門發(fā)布《生成式人工智能服務(wù)管理暫行辦法》，規(guī)定了生成式人工智能服務(wù)的總體要求、服務(wù)規(guī)范和服務(wù)者的相關(guān)責(zé)任。生成式人工智能的服務(wù)者、管理者在不履行法律、行政法規(guī)規(guī)定的信息網(wǎng)絡(luò)安全管理義務(wù)，經(jīng)監(jiān)管部門責(zé)令采取改正措施而拒不改正，可能涉及拒不履行信息網(wǎng)絡(luò)管理義務(wù)罪。此外，生成式人工智能服務(wù)者非法為實(shí)施詐騙等違法犯罪活動(dòng)發(fā)布信息的，還可能涉及非法利用信息網(wǎng)絡(luò)罪。

生成式人工智能法律規(guī)范的理論與實(shí)踐

（一）關(guān)于生成式人工智能法律規(guī)范的兩種基本立場(chǎng)

對(duì)于生成式人工智能的法律規(guī)范，學(xué)界存在兩種不同的基本觀點(diǎn)。兩種立場(chǎng)的分歧在于法律是否需要對(duì)ChatGPT類應(yīng)用風(fēng)險(xiǎn)采取專門立法的方式進(jìn)行治理，即“重構(gòu)式規(guī)制”。一種觀點(diǎn)認(rèn)為法律規(guī)范應(yīng)當(dāng)積極對(duì)生成式人工智能進(jìn)行規(guī)范和治理，因此需要根據(jù)生成式人工智能的特性，制定不同的產(chǎn)業(yè)政策和專項(xiàng)立法。另一種觀點(diǎn)則認(rèn)為，法律應(yīng)避免過(guò)早干預(yù)技術(shù)發(fā)展，阻礙技術(shù)創(chuàng)新。生成式人工智能尚處于迅猛發(fā)展階段，研究者結(jié)合其技術(shù)原理、發(fā)展趨勢(shì)及犯罪規(guī)律，對(duì)該技術(shù)可能出現(xiàn)的風(fēng)險(xiǎn)能形成大致預(yù)判。凡事預(yù)則立，不預(yù)則廢。再加上法律具有滯后性，因此在生成式人工智能技術(shù)發(fā)展初期，注重對(duì)相關(guān)法律風(fēng)險(xiǎn)的預(yù)判，同時(shí)以積極關(guān)注的姿態(tài)完善相關(guān)法律規(guī)定很有必要。當(dāng)然也應(yīng)為技術(shù)發(fā)展預(yù)留空間，保持法律規(guī)范完善與技術(shù)發(fā)展之間的平衡。筆者也認(rèn)為，通過(guò)專門立法對(duì)生成式人工智能的法律風(fēng)險(xiǎn)進(jìn)行治理，即“重構(gòu)式規(guī)制”，目前沒(méi)有必要。一則從犯罪治理的角度，單純以ChatGPT等生成式人工智能為犯罪工具而實(shí)施的犯罪在大多數(shù)情況下都可以被現(xiàn)行刑法納入規(guī)范范圍之內(nèi)。前文所述犯罪風(fēng)險(xiǎn)，能被刑法體系所囊括。二來(lái)從法律體系發(fā)展完善的角度，現(xiàn)代科技迅猛發(fā)展，每一項(xiàng)新興技術(shù)出現(xiàn)都進(jìn)行專門立法，可能不利于法律的穩(wěn)定性和長(zhǎng)期發(fā)展。當(dāng)然司法實(shí)踐中，需要完善相關(guān)司法解釋，使其適應(yīng)新形勢(shì)的要求。

（二）生成式人工智能相關(guān)法律規(guī)范的實(shí)踐探索

我國(guó)注重對(duì)生成式人工智能等技術(shù)的法律規(guī)制。除《中華人民共和國(guó)網(wǎng)絡(luò)安全法》《中華人民共和國(guó)數(shù)據(jù)安全法》《中華人民共和國(guó)個(gè)人信息保護(hù)法》等法律、行政法規(guī)的相關(guān)基本規(guī)定之外，對(duì)生成式人工智能較有針對(duì)性的規(guī)范包括：2022年中共中央辦公廳、國(guó)務(wù)院辦公廳公布的《關(guān)于加強(qiáng)科技倫理治理的意見(jiàn)》；2023年國(guó)家互聯(lián)網(wǎng)信息辦公室、工信部、公安部出臺(tái)的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》系統(tǒng)規(guī)范深度合成服務(wù)，筑牢技術(shù)安全屏障；《生成式人工智能服務(wù)管理暫行辦法》明確生成式人工智能技術(shù)的適用范圍、責(zé)任主體認(rèn)定等。針對(duì)理論和實(shí)踐較為關(guān)注的算法歧視、數(shù)據(jù)安全、侵犯?jìng)€(gè)人信息和知識(shí)產(chǎn)權(quán)等問(wèn)題，《生成式人工智能服務(wù)管理暫行辦法》均予以了回應(yīng)，其中第四條要求提供和使用生成式人工智能服務(wù)，應(yīng)當(dāng)堅(jiān)持社會(huì)主義核心價(jià)值觀，不得生成煽動(dòng)顛覆國(guó)家政權(quán)……以及虛假有害信息等法律、行政法規(guī)禁止的內(nèi)容；在算法涉及的過(guò)程中，采取措施防止民族、信仰等歧視；尊重知識(shí)產(chǎn)權(quán)；尊重他人合法權(quán)益；提升生成式人工智能服務(wù)的透明度等。

關(guān)于生成式人工智能刑事風(fēng)險(xiǎn)防控的建議

首先，完善相應(yīng)司法解釋，加強(qiáng)辦案指引。例如明確生成式人工智能是否享有著作權(quán)的問(wèn)題。本文贊同生成物中人的智力和創(chuàng)造性勞動(dòng)是生成物是否受著作權(quán)保護(hù)的重要參考因素的觀點(diǎn)。生成物中具有人類的智力和創(chuàng)造性勞動(dòng)時(shí)，應(yīng)受著作權(quán)保護(hù)。在形成該生成物過(guò)程中，付出智力和創(chuàng)造性勞動(dòng)的人應(yīng)被認(rèn)定為作者。又如，最高法、最高檢編發(fā)指導(dǎo)性案例，為辦理該類案件提供指引。特別是厘清利用生成式人工智能實(shí)施的非法利用信息網(wǎng)絡(luò)罪、幫助信息網(wǎng)絡(luò)犯罪活動(dòng)罪、拒不履行信息網(wǎng)絡(luò)安全管理義務(wù)罪等罪名的界限。

有觀點(diǎn)認(rèn)為，在創(chuàng)作過(guò)程中是否付出了智力或創(chuàng)造性勞動(dòng)成為受著作權(quán)保護(hù)的重要參考因素

其次，推進(jìn)生成式人工智能涉案企業(yè)合規(guī)制度的完善。如前文所述，生成式人工智能存在知識(shí)產(chǎn)權(quán)、信息安全等諸多風(fēng)險(xiǎn)，因此需要加強(qiáng)生成式人工智能行業(yè)的企業(yè)合規(guī)建設(shè)。服務(wù)者嚴(yán)格遵守相關(guān)使用條款和法律法規(guī)。用戶使用生成式人工智能，也應(yīng)遵守法律、行政法規(guī)，尊重社會(huì)公德和倫理道德。加強(qiáng)涉案企業(yè)合規(guī)工作，幫助行業(yè)組織、企業(yè)強(qiáng)化合規(guī)建設(shè)，建立容錯(cuò)防錯(cuò)機(jī)制，降低再犯罪的可能性，推動(dòng)行業(yè)健康發(fā)展。

再次，加強(qiáng)對(duì)利用生成式人工智能進(jìn)行犯罪的打擊力度。生成式人工智能存在被詐騙犯罪、煽動(dòng)類犯罪等利用的風(fēng)險(xiǎn)，有必要加強(qiáng)對(duì)利用生成式人工智能進(jìn)行犯罪的打擊力度。特別需要落實(shí)生成式人工智能服務(wù)提供者的管理責(zé)任，以及網(wǎng)信、工業(yè)和信息化等部門的監(jiān)督檢查等責(zé)任。

最后，注重涉生成式人工智能犯罪的社會(huì)治理。司法機(jī)關(guān)需要在辦案中，引導(dǎo)生成式人工智能服務(wù)者提供者履行安全管理義務(wù)，落實(shí)對(duì)上游技術(shù)支持者和下游服務(wù)使用者的管理責(zé)任。加大對(duì)個(gè)人信息、數(shù)據(jù)安全的保護(hù)力度，健全服務(wù)者與個(gè)人、企業(yè)關(guān)于信息、數(shù)據(jù)授權(quán)使用的制度機(jī)制，以及侵權(quán)行為發(fā)生時(shí)的救濟(jì)機(jī)制。

（曹俊梅、魯榛子工作單位系上海市嘉定區(qū)人民檢察院）