劉春彥 彭曦

作為生成式人工智能的一種，ChatGPT能夠通過(guò)學(xué)習(xí)和理解人類(lèi)的語(yǔ)言來(lái)進(jìn)行對(duì)話，還能根據(jù)聊天的上下文進(jìn)行互動(dòng)，并協(xié)助人類(lèi)完成一系列復(fù)雜任務(wù)。生成式人工智能在文本寫(xiě)作、代碼編寫(xiě)等領(lǐng)域廣闊的應(yīng)用前景，引起了各界的關(guān)注。不能忽視的是，生成式人工智能在數(shù)據(jù)存儲(chǔ)、傳輸以及使用等環(huán)節(jié)存在信息安全隱患。本文側(cè)重對(duì)生成式人工智能發(fā)展中可能存在的信息安全風(fēng)險(xiǎn)及其保護(hù)難點(diǎn)進(jìn)行分析，提出相應(yīng)的對(duì)策建議。

生成式人工智能的信息安全風(fēng)險(xiǎn)

生成式人工智能是指具有文本、圖片、音頻、視頻等內(nèi)容生成能力的模型及相關(guān)技術(shù)，以ChatGPT為例，在技術(shù)層面，ChatGPT的本質(zhì)是對(duì)大量文本數(shù)據(jù)進(jìn)行預(yù)訓(xùn)練，基于學(xué)習(xí)數(shù)據(jù)的上下文信息形成語(yǔ)言生成概率模型，從而模擬出接近自然語(yǔ)言的回答；在算法層面，ChatGPT依托GPT-3.5這一人類(lèi)反饋強(qiáng)化學(xué)習(xí)技術(shù)進(jìn)行訓(xùn)練的語(yǔ)言模型；在算力方面，ChatGPT核心基建主要是AzuerAI超算平臺(tái)，包括28.5萬(wàn)個(gè)CPU核心、1萬(wàn)個(gè) GPU和400GB/s的GPU服務(wù)器網(wǎng)絡(luò)傳輸帶寬；在數(shù)據(jù)方面，ChatGPT以龐大數(shù)據(jù)資料為基礎(chǔ)。例如，GPT-3囊括了3000億單詞語(yǔ)料。以ChatGPT為代表的生成式人工智能，通過(guò)算法模型對(duì)海量數(shù)據(jù)信息進(jìn)行處理，可能在數(shù)據(jù)輸入、處理、輸出環(huán)節(jié)出現(xiàn)信息安全問(wèn)題，引發(fā)侵犯公民、企業(yè)合法權(quán)益及損害公共利益、國(guó)家安全等安全風(fēng)險(xiǎn)。

第一，數(shù)據(jù)獲取階段可能存在非法獲取數(shù)據(jù)的風(fēng)險(xiǎn)。2023年國(guó)家網(wǎng)信辦、國(guó)家發(fā)改委、教育部、科技部、工信部、公安部、廣電總局公布《生成式人工智能服務(wù)管理暫行辦法》（以下簡(jiǎn)稱《辦法》）?！掇k法》第七條規(guī)定了生成式人工智能適用具有合法來(lái)源的數(shù)據(jù)和基礎(chǔ)模型，不得侵害他人知識(shí)產(chǎn)權(quán)，涉及個(gè)人信息的，應(yīng)當(dāng)取得個(gè)人同意等。生成式人工智能服務(wù)者可能存在無(wú)視相關(guān)規(guī)定，非法收集個(gè)人信息、企業(yè)信息等情況，導(dǎo)致侵犯公民個(gè)人信息、企業(yè)商業(yè)秘密，以及國(guó)家秘密等。同時(shí)生成式人工智能使用者在提問(wèn)中也可能涉及一些個(gè)人信息，個(gè)人信息在使用過(guò)程中被收集。第二，數(shù)據(jù)處理階段可能存在數(shù)據(jù)濫用的風(fēng)險(xiǎn)。生成式人工智能可能在信息處理時(shí)，因?yàn)榧夹g(shù)漏洞或者其他原因造成信息泄露。第三，數(shù)據(jù)輸出階段存在被非法利用的風(fēng)險(xiǎn)。生成式人工智能可能生成虛假、錯(cuò)誤的信息，造成虛假信息的傳播。生成式人工智能還可能被使用者誘導(dǎo)生成虛假信息，被不正當(dāng)使用。

生成式人工智能信息安全保護(hù)難點(diǎn)

《個(gè)人信息保護(hù)法》第六十二條規(guī)定國(guó)家網(wǎng)信部門(mén)統(tǒng)籌協(xié)調(diào)有關(guān)部門(mén)依據(jù)本法針對(duì)小型個(gè)人信息處理者、處理敏感個(gè)人信息以及人臉識(shí)別、人工智能等新技術(shù)、新應(yīng)用，制定專(zhuān)門(mén)的個(gè)人信息保護(hù)規(guī)則、標(biāo)準(zhǔn)?！稊?shù)據(jù)安全法》第二十七條也規(guī)定了利用互聯(lián)網(wǎng)等信息網(wǎng)絡(luò)開(kāi)展數(shù)據(jù)處理活動(dòng)，應(yīng)當(dāng)在網(wǎng)絡(luò)安全等級(jí)保護(hù)制度的基礎(chǔ)上，履行依照法律、法規(guī)規(guī)定，建立健全全流程數(shù)據(jù)安全管理制度、開(kāi)展數(shù)據(jù)安全教育培訓(xùn)，采取相應(yīng)的技術(shù)措施和其他必要措施保護(hù)數(shù)據(jù)安全。《辦法》也規(guī)定了生成式人工智能服務(wù)總體要求和促進(jìn)生成式人工智能技術(shù)發(fā)展的相關(guān)措施。

人工智能在行業(yè)發(fā)展初期，需要行業(yè)從業(yè)者強(qiáng)化自我合規(guī)監(jiān)督，提高對(duì)自身的道德倫理要求。

數(shù)據(jù)安全問(wèn)題不斷增多（圖文無(wú)關(guān)）

生成式人工智能信息安全保護(hù)存在以下難點(diǎn)：第一，對(duì)侵犯信息的行為發(fā)現(xiàn)難。特別是對(duì)公民個(gè)人信息的侵犯發(fā)現(xiàn)較為困難。生成式人工智能對(duì)數(shù)據(jù)的獲取采用的是海量的方式，公民個(gè)人很難發(fā)現(xiàn)自己的信息被不當(dāng)或者非法收集。第二，信息保護(hù)維權(quán)成本較高。生成式人工智能對(duì)公民個(gè)人信息侵犯時(shí)，公民維權(quán)成本較高。可能造成公民知道自己的個(gè)人信息被侵犯，但是缺乏低成本渠道進(jìn)行維權(quán)，最終只能放任侵權(quán)行為。對(duì)于企業(yè)而言，消除信息泄露影響的成本高于維權(quán)成本，因此健全信息保護(hù)機(jī)制尤為重要。第三，生成式人工智能信息安全責(zé)任劃分需要進(jìn)一步明確。生成式人工智能服務(wù)者、生成式人工智能服務(wù)使用者，以及生成式人工智能行業(yè)管理者等主體責(zé)任有待進(jìn)一步明確?！掇k法》第三章規(guī)定了提供者、使用者的義務(wù)和責(zé)任，第四章明確了有關(guān)職能部門(mén)的監(jiān)督檢查和法律責(zé)任，相關(guān)的管理和規(guī)則還需要進(jìn)一步細(xì)化。第四，生成式人工智能對(duì)公共數(shù)據(jù)的收集如何看待。公共數(shù)據(jù)是各級(jí)行政機(jī)關(guān)及具有公共管理和服務(wù)職能的事業(yè)單位在依法履行職責(zé)過(guò)程中獲得的各類(lèi)數(shù)據(jù)資源。公共數(shù)據(jù)不可避免包含國(guó)家信息、企業(yè)信息和個(gè)人信息。零星的數(shù)據(jù)信息可能并不敏感，海量的信息可能反映出某些商業(yè)秘密和國(guó)家秘密。生成式人工智能對(duì)公共數(shù)據(jù)收集的規(guī)范，需要理論和實(shí)踐的進(jìn)一步關(guān)注。

生成式人工智能信息安全保護(hù)建議

第一，進(jìn)一步明確生成式人工智能服務(wù)提供者、使用者的主體責(zé)任。明確生成式人工智能提供者、服務(wù)者依法收集信息，對(duì)使用者輸入信息和使用記錄承擔(dān)具體保護(hù)責(zé)任，以及對(duì)使用者生成違法內(nèi)容的管理責(zé)任，進(jìn)一步明確使用者合法使用生成式人工智能的義務(wù)。特別對(duì)于生成式人工智能服務(wù)提供者，其處于數(shù)據(jù)控制者的地位，基于其自身掌握的技術(shù)優(yōu)勢(shì)，理應(yīng)承擔(dān)更多的安全保護(hù)責(zé)任。實(shí)踐中，可以明確生成式人工智能服務(wù)提供者在獲取信息時(shí)需要取得原始數(shù)據(jù)所有者的授權(quán)，在處理信息時(shí)需要采取必要的加密措施防止數(shù)據(jù)處理階段的信息泄露，比如采用技術(shù)手段實(shí)現(xiàn)對(duì)訪問(wèn)IP的控制，對(duì)于短時(shí)間內(nèi)多次同地址訪問(wèn)等可疑行為采取限制措施；在信息產(chǎn)出時(shí)要對(duì)輸出信息進(jìn)行二次脫密處理，對(duì)其中敏感信息進(jìn)行技術(shù)性屏蔽，比如對(duì)個(gè)人信息進(jìn)行匿名化處理等，降低輸出信息時(shí)侵犯?jìng)€(gè)人隱私的風(fēng)險(xiǎn)。在用戶端，即生成式人工智能工具的使用者，也要強(qiáng)化信息安全的敏感性，增強(qiáng)辨別能力，對(duì)于可能涉密、涉敏的信息做好自我甄別，避免人工智能可能存在的“盲目性”。第二，注重生成式人工智能行業(yè)的規(guī)范建設(shè)。作為新興領(lǐng)域，生成式人工智能行業(yè)規(guī)范的建立需要隨著行業(yè)的發(fā)展不斷完善。在行業(yè)發(fā)展初期，從行業(yè)內(nèi)部看，需要行業(yè)從業(yè)者強(qiáng)化自我合規(guī)監(jiān)督，提高對(duì)自身的道德倫理要求，必要時(shí)需要在從業(yè)主體內(nèi)部企業(yè)架構(gòu)中增加合規(guī)部門(mén)。從外部監(jiān)管上看，要加強(qiáng)網(wǎng)信、工信等有關(guān)部門(mén)的管理職責(zé)，通過(guò)加強(qiáng)宣傳、出臺(tái)相關(guān)歸責(zé)條款等方式，引導(dǎo)生成式人工智能行業(yè)有序發(fā)展。同時(shí)，針對(duì)新興行業(yè)的固有特征，在外部監(jiān)管時(shí)要注重監(jiān)管力度和措施的必要性和謹(jǐn)慎性，給予行業(yè)發(fā)展一定的“容錯(cuò)”空間，不做“一刀切”的規(guī)定，對(duì)于存在數(shù)據(jù)安全保護(hù)問(wèn)題的行業(yè)、企業(yè)不能“一棒子打死”，但也不能讓其“野蠻生長(zhǎng)”。要強(qiáng)化政策宣傳解讀和監(jiān)督引導(dǎo)，推動(dòng)行業(yè)實(shí)現(xiàn)合規(guī)基礎(chǔ)上的繁榮。具體而言，要預(yù)防ChatGPT的數(shù)據(jù)安全風(fēng)險(xiǎn)，應(yīng)當(dāng)在ChatGPT的數(shù)據(jù)安全風(fēng)險(xiǎn)治理體系中引入合規(guī)管理方式，從企業(yè)角度建立ChatGPT的數(shù)據(jù)合規(guī)管理體系。生成式人工智能數(shù)據(jù)安全體系，包括信息分類(lèi)管理、信息安全基礎(chǔ)設(shè)施建設(shè)、信息風(fēng)險(xiǎn)防控機(jī)制設(shè)立、信息泄露的處理機(jī)制等。第三，建立健全信息保護(hù)的救濟(jì)機(jī)制。有救濟(jì)則有權(quán)利。在信息爆炸的當(dāng)今社會(huì)，數(shù)據(jù)安全問(wèn)題在社會(huì)生活方面的集中映射就是對(duì)于個(gè)人信息的侵犯不斷增多。特別是在生成式人工智能工具侵犯?jìng)€(gè)人信息時(shí)，拓寬救濟(jì)渠道，暢通投訴等救濟(jì)渠道需要進(jìn)一步加強(qiáng)。對(duì)于嚴(yán)重侵害公民個(gè)人信息的行為，公民可以立即要求服務(wù)提供者處理，生成式人工智能服務(wù)提供者有義務(wù)進(jìn)行處理，拒不處理情節(jié)嚴(yán)重的，有可能觸犯拒不履行信息網(wǎng)絡(luò)安全管理義務(wù)罪。

（劉春彥，同濟(jì)大學(xué)法學(xué)院副教授）