摘要：作為生成式人工智能的典型代表之一，虛擬數(shù)字人基于大數(shù)據(jù)模型訓(xùn)練進(jìn)行文本、圖片、影音算法生成，并應(yīng)用于文化旅游、新聞娛樂、電商游戲等場(chǎng)景。新型數(shù)據(jù)安全風(fēng)險(xiǎn)也隨之產(chǎn)生，如非法獲取與利用數(shù)據(jù)風(fēng)險(xiǎn)、數(shù)據(jù)偏見與數(shù)據(jù)存儲(chǔ)風(fēng)險(xiǎn)、虛假生成內(nèi)容與不正當(dāng)競(jìng)爭(zhēng)風(fēng)險(xiǎn)、刑事風(fēng)險(xiǎn)等。由此，面對(duì)數(shù)據(jù)安全與數(shù)據(jù)利用原則之間的現(xiàn)實(shí)張力，堅(jiān)持并實(shí)施數(shù)據(jù)安全的統(tǒng)籌安全與發(fā)展原則數(shù)據(jù)利用的分類分級(jí)原則，秉持“人身—財(cái)產(chǎn)”差異性數(shù)據(jù)分類模式，實(shí)現(xiàn)虛擬數(shù)字人數(shù)據(jù)“識(shí)別—溯源—監(jiān)管”的合規(guī)路徑，從而明確數(shù)據(jù)采集的范圍、方式，厘清企業(yè)與政府之間對(duì)數(shù)據(jù)安全風(fēng)險(xiǎn)的監(jiān)管界限。

關(guān)鍵詞：虛擬數(shù)字人；數(shù)據(jù)安全；數(shù)據(jù)利用；差異性數(shù)據(jù)分類

一、問題的提出：“深度學(xué)習(xí)”的進(jìn)步與“深度偽造”的濫用

虛擬數(shù)字人產(chǎn)業(yè)在近兩年迅速發(fā)展，成為人工智能技術(shù)應(yīng)用的前沿陣地。當(dāng)前，人工智能產(chǎn)品邁入通用型、工程化的“深度學(xué)習(xí)”階段。在類GPT模型的融合下，虛擬數(shù)字人的應(yīng)用呈現(xiàn)出由日常生活向?qū)I(yè)領(lǐng)域擴(kuò)大的趨勢(shì)。其可作為“生成型預(yù)訓(xùn)練語言轉(zhuǎn)換器”，在大量數(shù)據(jù)訓(xùn)練的基礎(chǔ)上完成對(duì)話交互、樂曲撰寫、文本生成、視頻腳本制作、代碼編寫、檢索報(bào)告生成、AI繪畫等具有類“創(chuàng)作”性質(zhì)的內(nèi)容生成任務(wù)。例如，騰訊AI LAB的數(shù)字人歌手AI艾靈基于DurIAN個(gè)性化歌聲合成和歌詞創(chuàng)作模型SongNet的支持，實(shí)現(xiàn)歌詞創(chuàng)作與歌曲演唱。

在生成式人工智能技術(shù)廣泛應(yīng)用于虛擬數(shù)字人之際，諸如“深度偽造”等數(shù)據(jù)安全事故頻發(fā)，引發(fā)了社會(huì)對(duì)數(shù)據(jù)安全的憂慮。一方面，生成式人工智能、云環(huán)境的發(fā)展加劇了數(shù)據(jù)跨境流通的頻繁性和復(fù)雜性，極易造成對(duì)數(shù)據(jù)的篡改、偽造、泄露甚至濫用。根據(jù)美國IBM公司發(fā)布的2023年度報(bào)告，單個(gè)數(shù)據(jù)泄露事件給來自全球的受訪組織造成了平均高達(dá)445萬美元的損失；另一方面，數(shù)據(jù)資源商業(yè)價(jià)值和戰(zhàn)略價(jià)值日益顯現(xiàn)，致使數(shù)據(jù)攻擊、數(shù)據(jù)竊取、數(shù)據(jù)倒賣、數(shù)據(jù)劫持等現(xiàn)象層出不窮，并逐漸呈現(xiàn)出跨國性、高科技、產(chǎn)業(yè)化等特點(diǎn)。2023年12月，AI視頻生成平臺(tái)HeyGen在國內(nèi)獲得大量用戶肖像及聲音數(shù)據(jù)后，將國內(nèi)母公司詩云科技通過決議解散程序擬注銷，并將所有國內(nèi)用戶數(shù)據(jù)轉(zhuǎn)移至美國，導(dǎo)致大量中國公民數(shù)據(jù)外流。該公司正是通過HeyGen平臺(tái)的用戶自建數(shù)字人模塊獲取大量中國公民數(shù)據(jù)。根據(jù)算法驅(qū)動(dòng)過程，在數(shù)字人研發(fā)階段預(yù)訓(xùn)練數(shù)據(jù)采集時(shí)可能對(duì)在先數(shù)據(jù)權(quán)益造成侵害，并在應(yīng)用階段存在虛假數(shù)據(jù)生成、不正當(dāng)競(jìng)爭(zhēng)與刑事風(fēng)險(xiǎn)。虛擬數(shù)字人應(yīng)用的進(jìn)一步普及將致使?jié)撛跀?shù)據(jù)安全風(fēng)險(xiǎn)增大，帶來個(gè)人隱私、企業(yè)經(jīng)營(yíng)、政府運(yùn)作等諸多領(lǐng)域的數(shù)據(jù)安全隱患。

基于虛擬數(shù)字人應(yīng)用帶來的數(shù)據(jù)安全風(fēng)險(xiǎn)治理，面臨著法律趕不上技術(shù)與應(yīng)用指數(shù)級(jí)發(fā)展的困局，如何破局成為當(dāng)務(wù)之急。盡管國家基于“總體安全觀”的戰(zhàn)略定位，對(duì)數(shù)據(jù)安全與數(shù)據(jù)利用價(jià)值問題進(jìn)行了政策指引，學(xué)界亦關(guān)于生成式AI的數(shù)據(jù)安全問題有所討論，但目前只是在探討生成式人工智能技術(shù)風(fēng)險(xiǎn)時(shí)附帶提及數(shù)據(jù)安全問題，尚未從虛擬數(shù)字人應(yīng)用視角闡述數(shù)據(jù)安全風(fēng)險(xiǎn)的特殊性及其可能引起的其他安全問題，脫離了生成式人工智能應(yīng)用端的具體化場(chǎng)景。有鑒于此，本文擬在總體國家安全觀的指引下，探尋一條平衡數(shù)據(jù)安全與數(shù)據(jù)利用價(jià)值沖突、實(shí)現(xiàn)發(fā)展與安全圓融統(tǒng)一的規(guī)范進(jìn)路。此外，基于虛擬數(shù)字人應(yīng)用的各個(gè)環(huán)節(jié)，對(duì)其數(shù)據(jù)安全風(fēng)險(xiǎn)進(jìn)行識(shí)別，探討數(shù)字人數(shù)據(jù)安全風(fēng)險(xiǎn)治理的范式轉(zhuǎn)型，提出具體應(yīng)用中數(shù)據(jù)安全風(fēng)險(xiǎn)治理的可能路徑。

二、從研發(fā)到部署：虛擬數(shù)字人應(yīng)用全流程風(fēng)險(xiǎn)識(shí)別

虛擬數(shù)字人的內(nèi)容生成離不開海量數(shù)據(jù)的支撐。AI模型的性能與模型參數(shù)規(guī)模、數(shù)據(jù)集大小等兩個(gè)數(shù)據(jù)變量呈“對(duì)數(shù)線性關(guān)系”，因此可以通過增大模型的規(guī)模不斷提高模型的性能。由此，參照歐盟《人工智能法》對(duì)人工智能研發(fā)與應(yīng)用的界定，著眼于虛擬數(shù)字人研發(fā)、部署等各方面各階段，分析現(xiàn)實(shí)存在的數(shù)據(jù)安全風(fēng)險(xiǎn)。

（一）研發(fā)階段：非法獲取與利用數(shù)據(jù)風(fēng)險(xiǎn)

在語料數(shù)據(jù)庫構(gòu)建方面，虛擬數(shù)字人需要大量數(shù)據(jù)支撐。當(dāng)前技術(shù)下可分為被動(dòng)式構(gòu)建和主動(dòng)式構(gòu)建兩種類型：第一種類型在傳統(tǒng)數(shù)字人階段就已經(jīng)出現(xiàn)，即通過用戶端對(duì)話框的數(shù)據(jù)輸入，在技術(shù)層面收集存儲(chǔ)，并構(gòu)建語料數(shù)據(jù)庫；第二種類型是生成式人工智能階段的主要形式，通過數(shù)據(jù)爬蟲等技術(shù)，自動(dòng)爬取網(wǎng)絡(luò)端的大量數(shù)據(jù)，在數(shù)據(jù)輸入階段進(jìn)行數(shù)量、效率層面的極大突破，為后期數(shù)據(jù)訓(xùn)練和機(jī)器學(xué)習(xí)提供基礎(chǔ)。

無論是被動(dòng)式構(gòu)建還是主動(dòng)式構(gòu)建，數(shù)字人研發(fā)均可能引致數(shù)據(jù)資源的非法獲取與利用。具體而言，數(shù)字人開發(fā)中主要依據(jù)CG建模及人工智能建模兩種技術(shù)，產(chǎn)生對(duì)權(quán)利人在先數(shù)據(jù)權(quán)利的侵害。

其一，非法獲取或利用行為可能侵犯數(shù)據(jù)在先人身權(quán)益。在研發(fā)階段，如原始數(shù)據(jù)來源于特定自然人肖像或其他數(shù)字人形象，需取得自然人或數(shù)字人所屬公司的在先授權(quán)；如數(shù)字人命名對(duì)其他自然人的身份混淆，或造成對(duì)其他法人、非法人組織名稱歸屬上的混淆，亦可能侵犯民事主體的姓名權(quán)或名稱權(quán)。司法實(shí)踐中已經(jīng)出現(xiàn)此類糾紛，在“AI陪伴”軟件侵害人格權(quán)案中，法院便認(rèn)定被告擅自使用原告（著名主持人何某）形象創(chuàng)設(shè)虛擬數(shù)字人，未經(jīng)同意使用原告姓名、肖像，設(shè)定涉及原告人格自由和人格尊嚴(yán)的系統(tǒng)功能，構(gòu)成對(duì)原告姓名權(quán)、肖像權(quán)、一般人格權(quán)的侵害。

其二，非法獲取或利用行為侵犯數(shù)據(jù)在先知識(shí)產(chǎn)權(quán)權(quán)益。在研發(fā)階段，相當(dāng)多的原始數(shù)據(jù)來源于第三人作品，由此生成的數(shù)字人形象構(gòu)成對(duì)原作品的復(fù)制、改編，需取得作為在先著作權(quán)人的第三人授權(quán)。以Midjourney等生成式AI繪畫軟件為例，用戶與服務(wù)提供者均需輸入大量數(shù)字化繪畫作品與圖像，以訓(xùn)練算法。然而，相當(dāng)多數(shù)據(jù)庫本身存在數(shù)字作品著作權(quán)侵權(quán)與個(gè)人隱私數(shù)據(jù)濫用風(fēng)險(xiǎn)，即便權(quán)利人采取各種措施，要求服務(wù)提供者在數(shù)據(jù)庫中刪除侵權(quán)數(shù)據(jù)，但此類數(shù)據(jù)已經(jīng)被用于模型訓(xùn)練，成為算法內(nèi)容。實(shí)踐中曾有此類糾紛，B站旗下數(shù)字人“柒柒Ranoca”便被指控涉嫌抄襲另一數(shù)字人“格蕾緹婭Gretia”的面部形象。由于非法爬取的數(shù)據(jù)一般具有私密性或保護(hù)性，數(shù)據(jù)爬取階段的不當(dāng)獲取與利用可能侵害他人的在先數(shù)據(jù)權(quán)益，存在非法獲取與利用數(shù)據(jù)風(fēng)險(xiǎn)。

（二）訓(xùn)練階段：數(shù)據(jù)偏見與數(shù)據(jù)存儲(chǔ)風(fēng)險(xiǎn)

1.數(shù)據(jù)偏見風(fēng)險(xiǎn)

訓(xùn)練階段存在數(shù)據(jù)偏見風(fēng)險(xiǎn)。虛擬數(shù)字人的內(nèi)容生成由其自然語言模型所決定，而自然語言模型在本質(zhì)上取決于研發(fā)者對(duì)于算法的選擇，這使得數(shù)字人的研發(fā)者能夠通過修改數(shù)據(jù)庫或操控算法的方式，將具有偏見的個(gè)人偏好在數(shù)據(jù)訓(xùn)練中植入，并通過數(shù)字人生成內(nèi)容對(duì)社會(huì)大眾進(jìn)行輸出，以數(shù)據(jù)輸出實(shí)現(xiàn)價(jià)值觀對(duì)人的異化。

基于數(shù)據(jù)偏見的數(shù)字人應(yīng)用，則可能衍生文化安全危機(jī)。鑒于數(shù)字人在文娛直播、旅游電商、休閑娛樂等領(lǐng)域的廣泛應(yīng)用，虛擬數(shù)字人中的數(shù)據(jù)偏見風(fēng)險(xiǎn)可能帶來極為嚴(yán)重的文化安全后果。虛擬數(shù)字人機(jī)構(gòu)可能出于特定的政治目標(biāo)或其他利益考量，使用帶有偏見的數(shù)據(jù)樣本進(jìn)行語言模型訓(xùn)練，使數(shù)字人的生成內(nèi)容具有導(dǎo)向性，例如柳夜熙等具有一定IP影響力的KOL型、歌舞型、品牌型數(shù)字人，數(shù)據(jù)偏見風(fēng)險(xiǎn)可能導(dǎo)致其生成內(nèi)容對(duì)粉絲群體的思想和偏好產(chǎn)生“潛移默化”的影響。

2.數(shù)據(jù)存儲(chǔ)風(fēng)險(xiǎn)

訓(xùn)練階段尚存在計(jì)算機(jī)及軟件保障層面的數(shù)據(jù)存儲(chǔ)風(fēng)險(xiǎn)。數(shù)字人并非限于藝術(shù)形象或角色，其依賴于計(jì)算機(jī)軟件和相關(guān)算法，對(duì)捕捉到的語音、圖像、動(dòng)作進(jìn)行識(shí)別，并在分析的基礎(chǔ)上進(jìn)行回應(yīng)決策。以上過程中所涉及的代碼可作為計(jì)算機(jī)軟件，需要數(shù)據(jù)存儲(chǔ)層面的保護(hù)，相關(guān)算法亦需要通過商業(yè)秘密的形式進(jìn)行數(shù)據(jù)保護(hù)，因此存在數(shù)據(jù)泄露、版權(quán)侵權(quán)、商業(yè)秘密侵權(quán)等數(shù)據(jù)存儲(chǔ)風(fēng)險(xiǎn)。例如，涉及開源軟件使用時(shí)，研發(fā)方需進(jìn)一步考量是否使用相關(guān)開源軟件及具體使用方式，以免自研代碼需要承擔(dān)強(qiáng)制開源的義務(wù)。

此外，當(dāng)前公民個(gè)人隱私信息的采集和存儲(chǔ)數(shù)量迎來爆發(fā)式增長(zhǎng)，生產(chǎn)、生活的任一環(huán)節(jié)都被轉(zhuǎn)化成相應(yīng)的數(shù)據(jù)存儲(chǔ)，社會(huì)關(guān)系呈現(xiàn)出數(shù)據(jù)化的形態(tài)。生成式人工智能的訓(xùn)練需要使用大量的數(shù)據(jù)，ChatGPT賬戶的注銷聲明中明確提到“用戶可以注銷且刪除賬戶信息，但會(huì)話中的敏感信息是無法刪除的，會(huì)被后續(xù)訓(xùn)練使用”，敏感數(shù)據(jù)也會(huì)被分享和第三方存儲(chǔ)，因此數(shù)據(jù)存儲(chǔ)中存在隱私泄露風(fēng)險(xiǎn)。

（三）部署階段：虛假生成內(nèi)容、不正當(dāng)競(jìng)爭(zhēng)與刑事風(fēng)險(xiǎn)

1.虛假生成內(nèi)容風(fēng)險(xiǎn)

生成式AI模型使用本身即會(huì)生產(chǎn)、傳播虛假信息數(shù)據(jù)。即便在GPT模型的介入下，虛擬數(shù)字人也非人類意義上思維判斷的產(chǎn)物，無法直接判斷算法生成內(nèi)容本身的真實(shí)性和準(zhǔn)確性。這可能導(dǎo)致虛假信息的算法自動(dòng)生成，在研發(fā)人員的介入下甚至生成惡意虛假內(nèi)容。鑒于AI大模型的開源化發(fā)展，虛假信息的生產(chǎn)和傳播呈現(xiàn)高效而低成本的特點(diǎn)，可以被批量地、大規(guī)模地生成。在可見的未來，隨著生成式AI的持續(xù)改進(jìn)，區(qū)別AI生成內(nèi)容和人類創(chuàng)造內(nèi)容的難度愈發(fā)增大，目前已經(jīng)出現(xiàn)諸如深度偽造（Deepfake）等危害安全的案件，對(duì)識(shí)別、打擊數(shù)字人領(lǐng)域的虛假信息提出了新的挑戰(zhàn)。在“深度偽造”案中，黑客集團(tuán)通過Deepfake Wire平臺(tái)利用ChatGPT制作生成式數(shù)字人，并在包裝后進(jìn)行詐騙活動(dòng)，嚴(yán)重危害社會(huì)安全。對(duì)此，2023年10月美國參議員向國會(huì)提交立法草案“No Fakes Act”，該法案旨在禁止未經(jīng)授權(quán)將個(gè)人的聲音和肖像作為生成式人工智能的投喂素材，以此創(chuàng)作與權(quán)利主體類似的虛擬數(shù)字人形象。此外，TikTok在更新的平臺(tái)社區(qū)準(zhǔn)則中也明確規(guī)定，“禁止針對(duì)個(gè)人形象的Deepfake視頻”。

2.不正當(dāng)競(jìng)爭(zhēng)風(fēng)險(xiǎn)

“數(shù)字人”運(yùn)營(yíng)需要付出較高的人力、物力及技術(shù)成本，通過提供定制化產(chǎn)品服務(wù)滿足多樣化市場(chǎng)需求，并進(jìn)行具體的場(chǎng)景應(yīng)用，以此取得交易機(jī)會(huì)和實(shí)現(xiàn)創(chuàng)新。因此，“數(shù)字人”一方面享有經(jīng)營(yíng)利益和競(jìng)爭(zhēng)優(yōu)勢(shì)，另一方面則成為不正當(dāng)競(jìng)爭(zhēng)的直接目標(biāo)。在首例涉“虛擬數(shù)字人”侵權(quán)案中，杭州互聯(lián)網(wǎng)法院便認(rèn)定杭州某網(wǎng)絡(luò)公司以引流營(yíng)銷為目的，通過視頻形式將虛擬數(shù)字人Ada作為實(shí)例展示在其抖音賬號(hào)，其在視頻中對(duì)涉及魔琺公司有關(guān)標(biāo)識(shí)的信息內(nèi)容進(jìn)行刪減并替換為課程營(yíng)銷信息或自身商標(biāo)，還在一段視頻標(biāo)題中標(biāo)注其他虛擬數(shù)字人名稱，可能影響消費(fèi)者理性決策，獲得更多商業(yè)機(jī)會(huì)，擾亂市場(chǎng)競(jìng)爭(zhēng)秩序，直接損害魔琺公司的商業(yè)利益，構(gòu)成虛假宣傳的不正當(dāng)競(jìng)爭(zhēng)行為。

3.刑事風(fēng)險(xiǎn)

除虛假信息傳播等風(fēng)險(xiǎn)外，虛擬數(shù)字人生成中個(gè)人形象特征的依附性，還可能引發(fā)現(xiàn)實(shí)的人身侵害犯罪風(fēng)險(xiǎn)?，F(xiàn)階段，數(shù)字人游戲中，每個(gè)玩家都可以基于自身形象生成自己的虛擬數(shù)字人，在游戲過程中與他人進(jìn)行沉浸體感的互動(dòng)。一名女性玩家在Meta公司游戲《地平線世界》（Horizon Worlds）中的虛擬數(shù)字人被性侵。受害人進(jìn)入游戲內(nèi)的房間后，持續(xù)遭到另一名男性虛擬角色性侵，并引起旁觀者起哄，由于虛擬人物的接觸能令玩家手中的控制器產(chǎn)生震動(dòng)，受害人感到極度不適。此事件發(fā)生后，Meta公司在《地平線世界》中著重建設(shè)了“個(gè)人邊界”功能，使每個(gè)用戶角色間存在1米左右的虛擬距離，避免他人未經(jīng)同意侵入玩家的個(gè)人空間。

虛擬數(shù)字人游戲中的性侵行為具有構(gòu)成我國《刑法》第237條強(qiáng)制猥褻、侮辱罪的可能性。在我國司法實(shí)踐中，違背被害人意志、非真實(shí)身體接觸的“隔空猥褻”行為可構(gòu)成犯罪既遂。如在最高人民檢察院發(fā)布的指導(dǎo)案例中，被告人在網(wǎng)絡(luò)聊天中對(duì)13歲女童威脅恐嚇，迫使被害人自拍裸體照片發(fā)送給自己觀看。法院認(rèn)為，通過網(wǎng)絡(luò)通訊工具，實(shí)施非直接身體接觸的猥褻行為與實(shí)際接觸兒童身體的猥褻行為具有相同的社會(huì)危害性，可認(rèn)定構(gòu)成猥褻兒童罪（既遂）。這就要求虛擬數(shù)字人游戲的開發(fā)者和運(yùn)營(yíng)者采取必要的技術(shù)手段避免用戶的身體法益受到侵害，否則就存在構(gòu)成猥褻、侮辱犯罪的幫助犯或幫助信息網(wǎng)絡(luò)犯罪活動(dòng)罪的風(fēng)險(xiǎn)。

前述風(fēng)險(xiǎn)分析，是基于大規(guī)模數(shù)據(jù)使用，所產(chǎn)生的虛擬數(shù)字人應(yīng)用侵權(quán)、犯罪的可能情形。盡管所涉知識(shí)產(chǎn)權(quán)侵權(quán)、虛假信息等情形并非直接的數(shù)據(jù)侵權(quán)，但將其一并分析有如下考量：第一，當(dāng)前虛擬數(shù)字人應(yīng)用所仰賴的生成式人工智能技術(shù)涉及大規(guī)模數(shù)據(jù)。目前最前沿的大模型GPT-4參數(shù)量已經(jīng)達(dá)到了萬億到十萬億量級(jí)，風(fēng)險(xiǎn)治理必須直面大規(guī)模的數(shù)據(jù)使用。第二，我國法律的明確規(guī)定。依照現(xiàn)行《數(shù)據(jù)安全法》的規(guī)定，“數(shù)據(jù)，是指任何以電子或者其他方式對(duì)信息的記錄”。圍繞數(shù)據(jù)的公法保障與私權(quán)設(shè)置已經(jīng)成為當(dāng)前除知識(shí)產(chǎn)權(quán)客體以外的信息保護(hù)的核心議題。因此，基于前述風(fēng)險(xiǎn)、模型需求與立法導(dǎo)向，數(shù)據(jù)安全已成為生成式人工智能技術(shù)發(fā)展與應(yīng)用風(fēng)險(xiǎn)治理的核心價(jià)值。

三、價(jià)值調(diào)和：數(shù)據(jù)利用與數(shù)據(jù)安全的法治實(shí)現(xiàn)

對(duì)于虛擬數(shù)字人應(yīng)用而言，前述各種風(fēng)險(xiǎn)，實(shí)質(zhì)上是數(shù)據(jù)安全和數(shù)據(jù)利用兩種價(jià)值取向之間緊張關(guān)系的體現(xiàn)。近兩年來，數(shù)據(jù)合規(guī)成為數(shù)字經(jīng)濟(jì)發(fā)展中需迫切關(guān)注的問題，“數(shù)據(jù)二十條”的出臺(tái)進(jìn)一步推動(dòng)了公共數(shù)據(jù)、企業(yè)數(shù)據(jù)、個(gè)人數(shù)據(jù)的合規(guī)高效流通使用。虛擬數(shù)字人在交互應(yīng)用過程中需依賴AIGC等技術(shù)，既是數(shù)據(jù)安全風(fēng)險(xiǎn)高發(fā)場(chǎng)域，也是數(shù)據(jù)合規(guī)的重點(diǎn)監(jiān)控對(duì)象。

（一）價(jià)值沖突：數(shù)據(jù)安全與數(shù)據(jù)利用的現(xiàn)實(shí)張力

基于前述虛擬數(shù)字人應(yīng)用的現(xiàn)實(shí)場(chǎng)景與相關(guān)爭(zhēng)議，可以發(fā)現(xiàn)數(shù)據(jù)安全與數(shù)據(jù)利用的現(xiàn)實(shí)張力體現(xiàn)為多元法律關(guān)系與風(fēng)險(xiǎn)表達(dá)，呈現(xiàn)出“跨越性”的特點(diǎn)。

第一，主權(quán)國家公法權(quán)力與跨國家技術(shù)競(jìng)爭(zhēng)風(fēng)險(xiǎn)。當(dāng)前，人工智能技術(shù)出口管制已經(jīng)成為國家間經(jīng)貿(mào)往來的重要話題。我國將“語音合成技術(shù)、人工智能交互界面技術(shù)、語音評(píng)測(cè)技術(shù)、智能閱卷技術(shù)、基于數(shù)據(jù)分析的個(gè)性化信息推送服務(wù)技術(shù)”等人工智能相關(guān)技術(shù)納入技術(shù)出口管制名單。美國近年來則通過《2022年保護(hù)美國知識(shí)產(chǎn)權(quán)法案》《芯片與科學(xué)法案》等相關(guān)法案，構(gòu)建了以人工智能技術(shù)為核心的全面技術(shù)出口管制與制裁體系，妨礙相關(guān)國家獲取人工智能相關(guān)硬件與技術(shù)。此外，公共數(shù)據(jù)安全風(fēng)險(xiǎn)也成為各國監(jiān)管重點(diǎn)，即以大數(shù)據(jù)形態(tài)表現(xiàn)的個(gè)人信息、公共信息等，如某一地區(qū)內(nèi)的遺傳資源信息、醫(yī)療病歷信息、地理信息等。我國、歐盟、美國等國家與地區(qū)之間的數(shù)據(jù)采集、處理、流動(dòng)的安全合規(guī)，已是當(dāng)前人工智能技術(shù)發(fā)展所需語料的應(yīng)用前提。

第二，網(wǎng)絡(luò)巨頭私法治權(quán)與跨人格私法權(quán)益風(fēng)險(xiǎn)。人工智能處理內(nèi)容過程中會(huì)產(chǎn)生技術(shù)缺陷與濫用風(fēng)險(xiǎn)。技術(shù)濫用問題主要指在利用人工智能技術(shù)進(jìn)行分析、決策的過程中，由于算法的設(shè)計(jì)與應(yīng)用的目標(biāo)等與社會(huì)倫理、法律規(guī)范的精神不符，導(dǎo)致不良社會(huì)效果，尤其是算法設(shè)計(jì)者本身的偏見、局限與算法所使用數(shù)據(jù)的偏差、不準(zhǔn)確等造成的人工智能輸出結(jié)果的歧視與侵權(quán)問題。當(dāng)前互聯(lián)網(wǎng)平臺(tái)在用戶數(shù)據(jù)的基礎(chǔ)上，通過算法應(yīng)用給用戶評(píng)分、分級(jí)。在某外賣軟件的樂跑計(jì)劃之下，騎手所使用的電動(dòng)車改裝必須超越國標(biāo)規(guī)定，且需要走小路，兼有對(duì)逆行、闖紅燈等情況的要求。

第三，大眾個(gè)人使用權(quán)益與跨空間私權(quán)侵害風(fēng)險(xiǎn)。由于以生成式人工智能為代表的技術(shù)需要使用大量數(shù)據(jù)建立語料庫，在網(wǎng)絡(luò)空間之下，前述數(shù)據(jù)的在先權(quán)利風(fēng)險(xiǎn)呈現(xiàn)出全球范圍內(nèi)的侵權(quán)與維權(quán)的跨空間特點(diǎn)。以生成式人工智能的繪畫與創(chuàng)作軟件為例，一方面，是生成內(nèi)容的侵權(quán)風(fēng)險(xiǎn)，已有藝術(shù)家提起訴訟，指責(zé)Stable Diffusion和Midjourney等智能繪畫軟件存儲(chǔ)受著作權(quán)保護(hù)的作品，并拼接成新作品；另一方面，數(shù)據(jù)內(nèi)容未經(jīng)授權(quán)的違法風(fēng)險(xiǎn)。已有暢銷書作者發(fā)現(xiàn)，ChatGPT在介紹某作品時(shí)，使用了大量作品細(xì)節(jié)，鑒于OpenAI使用的BookCorpus等語料數(shù)據(jù)庫存在著作權(quán)爭(zhēng)議，對(duì)其作品使用也存在未經(jīng)許可的情況，由此，主張OpenAI侵犯其著作權(quán)。

由此可知，如何治理這種具有“跨越性”特點(diǎn)的數(shù)據(jù)安全風(fēng)險(xiǎn)，是法律研究者所應(yīng)回答的重要問題。當(dāng)前生成式人工智能風(fēng)險(xiǎn)，涉及網(wǎng)絡(luò)空間的背景下國家、社會(huì)、科技巨頭、個(gè)體等多方主體跨越網(wǎng)絡(luò)、物理兩種空間，跨越公私兩個(gè)領(lǐng)域，利用技術(shù)、數(shù)據(jù)信息所產(chǎn)生的權(quán)力/權(quán)利的沖突。借用科林里奇困境（Collingridge Dilemma）的理論框架，人工智能風(fēng)險(xiǎn)并非如核武器研發(fā)的曼哈頓工程，新技術(shù)的后果明確可知；而如農(nóng)業(yè)綠色革命，技術(shù)實(shí)施與風(fēng)險(xiǎn)控制是社會(huì)工程。由此，以虛擬數(shù)字人為代表的生成式人工智能技術(shù)風(fēng)險(xiǎn)治理，必然是以數(shù)據(jù)安全為核心的多元價(jià)值的實(shí)現(xiàn)與多重治理方式的實(shí)施。

（二）價(jià)值保障：數(shù)據(jù)安全實(shí)現(xiàn)的規(guī)范要求

數(shù)據(jù)安全是總體國家安全觀“總體性”的集中體現(xiàn)。數(shù)據(jù)與信息作為載體與內(nèi)容之關(guān)系，數(shù)據(jù)被信息化呈現(xiàn)是大數(shù)據(jù)時(shí)代的典型特征，也決定了數(shù)據(jù)安全治理必然圍繞不同的信息內(nèi)容展開。如個(gè)人數(shù)據(jù)中的肖像、姓名等，與自然人的人格利益密切相關(guān)，而非個(gè)人數(shù)據(jù)如企業(yè)數(shù)據(jù)、文化數(shù)據(jù)等可能涉及經(jīng)濟(jì)安全、文化安全甚至政治安全等層面的國家安全利益。與數(shù)據(jù)在不同場(chǎng)景、模式中的運(yùn)用相伴而生，數(shù)據(jù)安全體現(xiàn)的是不同的安全利益需求。

當(dāng)前，國家嘗試在規(guī)范層面構(gòu)建數(shù)據(jù)保護(hù)的多級(jí)規(guī)范體系，通過了《中華人民共和國數(shù)據(jù)安全法》（以下簡(jiǎn)稱《數(shù)據(jù)安全法》）《北京市促進(jìn)數(shù)字人產(chǎn)業(yè)創(chuàng)新發(fā)展行動(dòng)計(jì)劃（2022—2025年）》《生成式人工智能服務(wù)管理暫行辦法》（以下簡(jiǎn)稱《暫行辦法》）《網(wǎng)絡(luò)數(shù)據(jù)安全管理?xiàng)l例（征求意見稿）》等政策和法律規(guī)范。從《數(shù)據(jù)安全法》第一條的立法意旨看，“保障數(shù)據(jù)安全”價(jià)值次序優(yōu)先于“促進(jìn)數(shù)據(jù)開發(fā)利用”價(jià)值。同時(shí)，該法第七條、第十三條、第十四條均對(duì)數(shù)據(jù)利用價(jià)值做了補(bǔ)強(qiáng)規(guī)定，數(shù)據(jù)利用價(jià)值實(shí)則處于核心位置。對(duì)此，立法通過多種方式保障數(shù)據(jù)安全與數(shù)據(jù)利用的價(jià)值實(shí)現(xiàn)，調(diào)和兩者之間的可能沖突。

第一，《數(shù)據(jù)安全法》確立了統(tǒng)籌安全與發(fā)展原則?！稊?shù)據(jù)安全法》第七條和第十三條是數(shù)據(jù)安全領(lǐng)域統(tǒng)籌安全與發(fā)展原則的具體依據(jù)：

其一，保護(hù)個(gè)人、組織與數(shù)據(jù)有關(guān)權(quán)益。當(dāng)前學(xué)界對(duì)于數(shù)據(jù)權(quán)利的設(shè)定存在諸多爭(zhēng)議。一方面，個(gè)人、組織與數(shù)據(jù)有關(guān)的權(quán)益是不爭(zhēng)的社會(huì)現(xiàn)象，如個(gè)人信息隱私、企業(yè)商業(yè)秘密、政務(wù)數(shù)據(jù)、數(shù)字化作品等，都以數(shù)據(jù)形態(tài)存在于網(wǎng)絡(luò)空間、電子設(shè)備之中，便于相關(guān)主體從事處理、流轉(zhuǎn)、利用等各種活動(dòng)，并且形成了相應(yīng)的數(shù)據(jù)產(chǎn)品或服務(wù)市場(chǎng)；另一方面，國家立法也對(duì)數(shù)據(jù)權(quán)益進(jìn)行了肯定，如《民法典》對(duì)數(shù)據(jù)權(quán)利的設(shè)定，《個(gè)人信息保護(hù)法》對(duì)隱私數(shù)據(jù)的保障等。由此，相關(guān)個(gè)人、組織的數(shù)據(jù)權(quán)益，無論是私法主體信息隱私的人格權(quán)益或商業(yè)秘密的財(cái)產(chǎn)權(quán)益，抑或公法主體的政務(wù)數(shù)據(jù)、交通數(shù)據(jù)、醫(yī)療數(shù)據(jù)的公共利益，都屬于《數(shù)據(jù)安全法》的保障范圍。

其二，鼓勵(lì)數(shù)據(jù)依法合理利用。這要求數(shù)據(jù)持有者、利用者的相關(guān)開發(fā)利用行為必須遵循依法保護(hù)與合理利用的原則。其一，設(shè)立了數(shù)據(jù)分級(jí)管理制度，實(shí)現(xiàn)對(duì)不同類型數(shù)據(jù)的差序保護(hù)，要求相關(guān)部門組織制定并適時(shí)修訂有關(guān)數(shù)據(jù)開發(fā)利用技術(shù)、產(chǎn)品和數(shù)據(jù)安全相關(guān)標(biāo)準(zhǔn)；其二，指出合理利用方向。國家鼓勵(lì)支持?jǐn)?shù)據(jù)在各行業(yè)、各領(lǐng)域的創(chuàng)新應(yīng)用。例如，2022年，我國數(shù)據(jù)出境相關(guān)的實(shí)施細(xì)則更加明確，制度框架已初步搭建成形。2022年7月7日《數(shù)據(jù)出境安全評(píng)估辦法》的發(fā)布明確了數(shù)據(jù)出境安全評(píng)估制度的各項(xiàng)規(guī)范。2022年6月30日，國家網(wǎng)信辦發(fā)布《個(gè)人信息出境標(biāo)準(zhǔn)合同規(guī)定（征求意見稿）》。

第二，《數(shù)據(jù)安全法》確立了數(shù)據(jù)分類分級(jí)原則。數(shù)據(jù)分類分級(jí)是數(shù)據(jù)安全治理的前提，只有對(duì)數(shù)據(jù)進(jìn)行有效分類分級(jí)，才能避免一刀切的控制方式，在數(shù)據(jù)安全管理上采用更加精細(xì)的措施，使數(shù)據(jù)在共享使用和安全使用之間獲得平衡。

其一，規(guī)范來源方面。2016年11月，《網(wǎng)絡(luò)安全法》明確將“數(shù)據(jù)分類”作為網(wǎng)絡(luò)安全保護(hù)的法定義務(wù)之一。2021年9月，《數(shù)據(jù)安全法》第二十一條再次具體確立了“數(shù)據(jù)分類分級(jí)保護(hù)制度”及其基本原則。該兩項(xiàng)條款是分類分級(jí)原則的直接體現(xiàn)。

其二，概念內(nèi)涵方面，數(shù)據(jù)分類是指按照數(shù)據(jù)的來源、內(nèi)容和用戶對(duì)數(shù)據(jù)進(jìn)行分類。而數(shù)據(jù)分級(jí)是指按照數(shù)據(jù)的價(jià)值、內(nèi)容的敏感程度、影響和分發(fā)范圍不同對(duì)數(shù)據(jù)進(jìn)行敏感級(jí)別劃分。數(shù)據(jù)分級(jí)是在數(shù)據(jù)分類的基礎(chǔ)上，采用規(guī)范、明確的方法區(qū)分?jǐn)?shù)據(jù)的重要性和敏感度差異，按照一定的分級(jí)原則對(duì)其進(jìn)行定級(jí)，從而為組織數(shù)據(jù)的開放和共享安全策略制定提供支撐的過程。

其三，法律法規(guī)方面，數(shù)據(jù)分類分級(jí)原則已經(jīng)滲透到各類規(guī)范體系中，特別是在信息安全保障領(lǐng)域?！毒W(wǎng)絡(luò)安全法》和《數(shù)據(jù)安全法》等法律文件已經(jīng)明確提出了數(shù)據(jù)分類分級(jí)制度，將其上升到國家層面，同時(shí)提出了重要數(shù)據(jù)目錄的制定。

（三）價(jià)值實(shí)現(xiàn)：基于總體國家安全觀的監(jiān)管思路

《數(shù)據(jù)安全法》第四條規(guī)定：“維護(hù)數(shù)據(jù)安全，應(yīng)當(dāng)堅(jiān)持總體國家安全觀，建立健全數(shù)據(jù)安全治理體系。”價(jià)值沖突平衡之路徑需從數(shù)據(jù)安全范疇入手，回歸“總體國家安全觀之組成部分”，從“統(tǒng)籌發(fā)展和安全”的全局視角出發(fā)探討虛擬數(shù)字人數(shù)據(jù)安全中的平衡之法。在具體實(shí)踐中，數(shù)據(jù)安全的不同領(lǐng)域之間存在較大的發(fā)展水平差異。相較于網(wǎng)絡(luò)數(shù)據(jù)安全等較為成熟的發(fā)展領(lǐng)域，生成式人工智能數(shù)據(jù)安全問題仍然處于初生階段，在數(shù)據(jù)合法性的界定、數(shù)據(jù)多層次處理手段以及數(shù)據(jù)良好業(yè)態(tài)形成等方面存在較大的不穩(wěn)定性。在某一風(fēng)險(xiǎn)初始階段制定風(fēng)險(xiǎn)治理政策存在較低的機(jī)會(huì)成本，現(xiàn)階段虛擬數(shù)字人相關(guān)企業(yè)仍需要主導(dǎo)資源配置和研發(fā)競(jìng)爭(zhēng)過程，而市場(chǎng)端和政府端的監(jiān)管控制對(duì)權(quán)利配置影響較大，應(yīng)在合理限度內(nèi)實(shí)行寬松規(guī)制，在總體國家安全觀的基本性價(jià)值指引的底線上，對(duì)數(shù)據(jù)利用價(jià)值適當(dāng)傾斜。由此，監(jiān)管思路如下：

第一，根據(jù)不同應(yīng)用領(lǐng)域之發(fā)展維度分層制定標(biāo)準(zhǔn)。在具體實(shí)踐中，現(xiàn)階段各地政府正在加快推出以元宇宙為框架的數(shù)字人相關(guān)政策和地方性法規(guī)。近年來，地方標(biāo)準(zhǔn)逐漸呈現(xiàn)出百花齊放之勢(shì)，以明確分類分級(jí)方法、分類維度、分級(jí)層次為主要內(nèi)容。不過，在下位法規(guī)定方面，雖然制定主體多樣，但文件體系性尚不明晰，導(dǎo)致分類分級(jí)依據(jù)較為混亂。

地方立法應(yīng)當(dāng)在《數(shù)據(jù)安全法》等上位法規(guī)范框架內(nèi)，盡可能減少對(duì)數(shù)字人產(chǎn)業(yè)和技術(shù)發(fā)展的限制，待數(shù)字人產(chǎn)業(yè)進(jìn)一步發(fā)展至成熟形態(tài)時(shí)，回歸數(shù)據(jù)安全與數(shù)據(jù)利用價(jià)值之平衡，結(jié)合數(shù)字人技術(shù)、AIGC技術(shù)、虛擬現(xiàn)實(shí)技術(shù)的發(fā)展態(tài)勢(shì)，分層、分階段制定行業(yè)標(biāo)準(zhǔn)。特別是針對(duì)不同類型的數(shù)據(jù)主體，應(yīng)在規(guī)范構(gòu)造中以相應(yīng)的數(shù)據(jù)級(jí)別分級(jí)處理，對(duì)于人臉識(shí)別信息等重要個(gè)人數(shù)據(jù)比照公共層面的數(shù)據(jù)安全問題實(shí)施更為嚴(yán)苛的保護(hù)措施。在具體實(shí)踐中，需要對(duì)個(gè)人數(shù)據(jù)的“橫向關(guān)系”加強(qiáng)規(guī)制，在規(guī)范層面作出針對(duì)性地補(bǔ)強(qiáng)，在考慮數(shù)據(jù)共享高風(fēng)險(xiǎn)和高收益特性的同時(shí)，抓住不同層級(jí)、不同領(lǐng)域價(jià)值沖突的重點(diǎn)。

第二，保障數(shù)據(jù)依法有序自由流動(dòng)。數(shù)據(jù)安全的目標(biāo)并不是封鎖數(shù)據(jù)、排除利用，導(dǎo)致數(shù)據(jù)喪失其經(jīng)濟(jì)與社會(huì)價(jià)值，而是依法合規(guī)流動(dòng)，始終發(fā)揮其功能和價(jià)值。因此，在產(chǎn)業(yè)層面需保障數(shù)字人研發(fā)中數(shù)據(jù)流動(dòng)的“依法”“有序”“自由”。依法，即數(shù)據(jù)流動(dòng)應(yīng)當(dāng)遵循數(shù)據(jù)安全、個(gè)人信息安全等國家安全相關(guān)法律法規(guī)，以及民法、反不正當(dāng)競(jìng)爭(zhēng)法等私法領(lǐng)域的法律法規(guī)，維護(hù)國家安全與私法權(quán)益；有序，即不同等級(jí)數(shù)據(jù)在境內(nèi)、境外流動(dòng)時(shí)，應(yīng)當(dāng)按照國家法律法規(guī)的要求進(jìn)行風(fēng)險(xiǎn)評(píng)估和安全審查，也應(yīng)當(dāng)遵循當(dāng)事人之間的合同約定；自由，即數(shù)據(jù)流動(dòng)的限制應(yīng)當(dāng)由法律法規(guī)明確規(guī)定，除此之外，地方政府、有關(guān)部門不應(yīng)當(dāng)妨礙數(shù)據(jù)流動(dòng)。

四、規(guī)制進(jìn)路：“人身－財(cái)產(chǎn)”差異性數(shù)據(jù)合規(guī)體系的構(gòu)建

基于前述虛擬數(shù)字人應(yīng)用的場(chǎng)景與風(fēng)險(xiǎn)，實(shí)現(xiàn)數(shù)據(jù)安全的基本價(jià)值，促進(jìn)數(shù)據(jù)利用，可從“識(shí)別—溯源—監(jiān)管”三個(gè)層面來實(shí)現(xiàn)合規(guī)監(jiān)管。第一，數(shù)據(jù)識(shí)別重在區(qū)分虛擬數(shù)字人所需數(shù)據(jù)類型，確定基本規(guī)制導(dǎo)向；第二，數(shù)據(jù)溯源則明確虛擬數(shù)字人數(shù)據(jù)采集的范圍、方式；第三，應(yīng)用監(jiān)管中厘清企業(yè)與政府之間對(duì)數(shù)據(jù)安全風(fēng)險(xiǎn)的監(jiān)管界限。

（一）數(shù)據(jù)識(shí)別：建立差異性數(shù)據(jù)分類模式

面對(duì)前述數(shù)據(jù)安全與技術(shù)發(fā)展的張力消解，立足于虛擬數(shù)字人應(yīng)用的數(shù)據(jù)安全領(lǐng)域，如何通過分層分類，劃定數(shù)據(jù)依法有序自由流動(dòng)的基本范圍，成為規(guī)制實(shí)施的首要目的。鑒于虛擬數(shù)字人應(yīng)用場(chǎng)景的數(shù)據(jù)類型，可從人身性與財(cái)產(chǎn)性兩個(gè)維度區(qū)分?jǐn)?shù)據(jù)類型，探討合規(guī)舉措。

第一，人身性強(qiáng)且財(cái)產(chǎn)性強(qiáng)的數(shù)據(jù)。此類數(shù)據(jù)包含文學(xué)藝術(shù)作品、名人語音形象等，此類數(shù)據(jù)不僅包含個(gè)人信息安全，還囊括財(cái)產(chǎn)權(quán)益。第二，人身性強(qiáng)財(cái)產(chǎn)性弱的數(shù)據(jù)。其包含公眾醫(yī)療數(shù)據(jù)、個(gè)人生物特征數(shù)據(jù)、公有領(lǐng)域作品等，此種數(shù)據(jù)則主要涉及個(gè)人信息安全。第三，人身性弱且財(cái)產(chǎn)性弱的數(shù)據(jù)。包含處于公共領(lǐng)域內(nèi)的諸多數(shù)據(jù)信息，此類數(shù)據(jù)則屬于法無明文規(guī)定即可自由利用的數(shù)據(jù)類型。第四，人身性弱但財(cái)產(chǎn)性強(qiáng)的數(shù)據(jù)。其包含各類商業(yè)秘密、商業(yè)數(shù)據(jù)等，此類數(shù)據(jù)具有一定的財(cái)產(chǎn)權(quán)益與競(jìng)爭(zhēng)法益。

從這一象限圖可窺見數(shù)據(jù)分類之下的合規(guī)趨勢(shì)，即重在保障人身性強(qiáng)的數(shù)據(jù)，這不僅涉及數(shù)據(jù)隱私等私人權(quán)益，更指向數(shù)據(jù)安全的公共利益。不過，基于財(cái)產(chǎn)性的強(qiáng)弱，可進(jìn)一步區(qū)分兩種合規(guī)路徑，對(duì)處于第一象限的財(cái)產(chǎn)性強(qiáng)的數(shù)據(jù)，數(shù)據(jù)權(quán)利人具有充分激勵(lì)保障數(shù)據(jù)利益，對(duì)其保護(hù)以私法自治與私法救濟(jì)為主；對(duì)處于第二象限的財(cái)產(chǎn)性弱的數(shù)據(jù)，數(shù)據(jù)權(quán)利人激勵(lì)不夠充分，私人維權(quán)成本高，但數(shù)據(jù)侵權(quán)危害大，對(duì)其保護(hù)以公權(quán)監(jiān)管與公法救濟(jì)為主，如主管部門監(jiān)管與檢察機(jī)關(guān)公益訴訟。依照這一區(qū)分，可以界定下列數(shù)據(jù)活動(dòng)的合規(guī)邊界。

（二）數(shù)據(jù)溯源：厘清數(shù)字人數(shù)據(jù)庫采集范圍

1.界定語料數(shù)據(jù)庫的數(shù)據(jù)采集行為

第一，界定數(shù)據(jù)采集行為應(yīng)以差異性數(shù)據(jù)分類為基礎(chǔ)。例如，在歌手孫燕姿的數(shù)字分身“數(shù)字人孫燕姿”的案件中，針對(duì)該數(shù)字人以孫燕姿本人的聲線翻唱歌曲是否侵害歌手本人人格權(quán)益的問題引發(fā)爭(zhēng)議。支持論者認(rèn)為，部分使用他人聲音翻唱的行為需要經(jīng)本人授權(quán)；反對(duì)論者則認(rèn)為，該數(shù)字人通過數(shù)據(jù)公開采集，對(duì)孫燕姿公開演講和表演的聲音片段進(jìn)行處理并技術(shù)生成了表演行為，并未侵害歌手的聲音識(shí)別權(quán)益。“名人語音形象”屬于人身性強(qiáng)且財(cái)產(chǎn)性強(qiáng)的第一象限數(shù)據(jù)，對(duì)此類數(shù)據(jù)采集行為的界定應(yīng)以數(shù)據(jù)利用價(jià)值為導(dǎo)向，重在財(cái)產(chǎn)權(quán)益的許可、補(bǔ)償、賠償與保護(hù)，“數(shù)字人孫燕姿”應(yīng)用本質(zhì)與“真人孫燕姿”混淆，而產(chǎn)生誤認(rèn)，進(jìn)而獲取流量利益，不屬于對(duì)個(gè)人語音形象等數(shù)據(jù)的合理利用。

第二，界定數(shù)據(jù)采集行為應(yīng)以利用程度分層為導(dǎo)向。具言之，在生成式人工智能發(fā)展的初始階段，如一貫加強(qiáng)數(shù)據(jù)采集的監(jiān)管和限制，會(huì)對(duì)該技術(shù)的發(fā)展造成不利限制，因此對(duì)數(shù)字人訓(xùn)練階段的“數(shù)據(jù)投喂”等大數(shù)據(jù)采集行為不宜輕易認(rèn)定侵權(quán)。但是如果涉及商業(yè)化使用或大規(guī)模利用行為且獲得盈利，則應(yīng)予以監(jiān)管和約束，平衡數(shù)字人數(shù)據(jù)服務(wù)者、使用者以及數(shù)據(jù)權(quán)益享有者之間的利益，完善利益分配的權(quán)利義務(wù)，健全許可使用機(jī)制。

2.明確數(shù)據(jù)采集行為的合規(guī)情形

基于前述差異性數(shù)據(jù)分類模式，現(xiàn)實(shí)情形數(shù)據(jù)采集行為呈現(xiàn)不同形態(tài)，對(duì)圖1第一象限數(shù)據(jù)，采集面臨“私權(quán)保護(hù)”，需得到權(quán)利人的許可；對(duì)第二象限數(shù)據(jù)，采集面臨“數(shù)據(jù)安全監(jiān)管”，需得到監(jiān)管機(jī)關(guān)的批準(zhǔn)；對(duì)第三象限數(shù)據(jù)，數(shù)據(jù)采集目前不受限制；對(duì)于第四象限數(shù)據(jù)，數(shù)據(jù)面臨“技術(shù)措施保障”，數(shù)據(jù)相關(guān)方利用技術(shù)措施限制或反擊采集行為。由此，采集行為需要考慮公權(quán)批準(zhǔn)、私權(quán)許可、技術(shù)措施合理的多元合規(guī)。

當(dāng)前爭(zhēng)議多聚焦于第一與第三象限的數(shù)據(jù)采集，即不考慮公權(quán)監(jiān)管，數(shù)據(jù)采集能否突破“私權(quán)許可”的低效與“技術(shù)措施”的濫用。從域外考察視角看，日本2023年5月份的相關(guān)修正案認(rèn)為“為數(shù)據(jù)分析利用計(jì)算機(jī)對(duì)作品進(jìn)行數(shù)據(jù)處理，在符合作品目的的使用下，不會(huì)對(duì)版權(quán)人產(chǎn)生損害”，即對(duì)數(shù)據(jù)采集行為的認(rèn)定較為寬松。歐盟亦在《人工智能法案》中對(duì)算法大模型訓(xùn)練行為的數(shù)據(jù)采集采取了較寬容的態(tài)度，與生成式人工智能發(fā)展階段相適應(yīng)。由此可見，域外立法立場(chǎng)多體現(xiàn)為鼓勵(lì)數(shù)據(jù)與技術(shù)措施的合理利用，同時(shí)不損害著作權(quán)與其他在先合法權(quán)益。

針對(duì)基于AIGC技術(shù)的數(shù)據(jù)采集行為，國家層面相關(guān)規(guī)范的出臺(tái)應(yīng)把握好鼓勵(lì)技術(shù)創(chuàng)新和合理監(jiān)管兩方面的平衡：第一，在司法實(shí)踐中考慮技術(shù)發(fā)展。面對(duì)訴訟糾紛，根據(jù)個(gè)案的具體采集方式和情形審慎作出侵權(quán)判定，堅(jiān)持技術(shù)中立的價(jià)值選擇，將數(shù)據(jù)安全的法律監(jiān)管置于具體應(yīng)用場(chǎng)景之中，堅(jiān)持對(duì)第二象限數(shù)據(jù)采集的公法監(jiān)管，支持第一象限數(shù)據(jù)采集的私權(quán)保障，限制第四象限數(shù)據(jù)采集的技術(shù)濫用；第二，在法律實(shí)施中認(rèn)可產(chǎn)業(yè)實(shí)踐。推動(dòng)示范性語料數(shù)據(jù)庫建設(shè)與著作權(quán)集體管理組織履職，為生成式人工智能研發(fā)提供事先合規(guī)的語料數(shù)據(jù)，減少研發(fā)機(jī)構(gòu)的法律負(fù)擔(dān)。

（三）應(yīng)用監(jiān)管：優(yōu)化數(shù)字人應(yīng)用的治理體系

1.強(qiáng)化虛擬數(shù)字人市場(chǎng)準(zhǔn)入規(guī)則

第一，加強(qiáng)數(shù)字人數(shù)據(jù)獲取的安全評(píng)估。對(duì)可能存在的非法性獲取與利用行為嚴(yán)格審查，健全數(shù)字人安全評(píng)估規(guī)則，以人身性數(shù)據(jù)安全保障為核心，對(duì)數(shù)據(jù)行為進(jìn)行由高到低的風(fēng)險(xiǎn)劃分。對(duì)于高風(fēng)險(xiǎn)等級(jí)的數(shù)據(jù)利用行為，數(shù)字人研發(fā)機(jī)構(gòu)必須提交符合規(guī)定的數(shù)據(jù)安全評(píng)估報(bào)告，并在投放市場(chǎng)前接受相關(guān)機(jī)構(gòu)的審查和批準(zhǔn)。

第二，明確數(shù)字人數(shù)據(jù)處理的披露規(guī)則。在生成式人工智能的應(yīng)用中，數(shù)據(jù)獲取方式通常缺乏公開性。為保障個(gè)人與國家層面的數(shù)據(jù)安全，虛擬數(shù)字人應(yīng)用批準(zhǔn)應(yīng)強(qiáng)調(diào)數(shù)據(jù)處理規(guī)則的披露，數(shù)字人研發(fā)機(jī)構(gòu)應(yīng)當(dāng)主動(dòng)采用數(shù)據(jù)清洗和數(shù)據(jù)去標(biāo)識(shí)化等技術(shù)，保障數(shù)字人訓(xùn)練模型的數(shù)據(jù)準(zhǔn)確可靠，并定期對(duì)數(shù)字人產(chǎn)品進(jìn)行合規(guī)審查，及時(shí)識(shí)別和解決潛在的數(shù)據(jù)安全風(fēng)險(xiǎn)。

2.加大對(duì)虛假數(shù)據(jù)生成行為的打擊力度

第一，加強(qiáng)國家相關(guān)立法和監(jiān)管。我國生成式人工智能相關(guān)立法對(duì)虛假數(shù)據(jù)生成行為進(jìn)行了規(guī)制，下階段需要進(jìn)一步加強(qiáng)執(zhí)行和監(jiān)督。另外，由于數(shù)字人技術(shù)的復(fù)雜性，監(jiān)管部門和執(zhí)法機(jī)構(gòu)在檢測(cè)和防范虛假數(shù)據(jù)風(fēng)險(xiǎn)方面存在滯后性，且具體的規(guī)制方式集中于行政處罰，在刑事合規(guī)方面需要進(jìn)一步完善相關(guān)法律法規(guī)，確保及時(shí)發(fā)現(xiàn)惡意生成虛假數(shù)據(jù)行為并進(jìn)行有效打擊。

第二，引導(dǎo)企業(yè)開展數(shù)據(jù)安全風(fēng)險(xiǎn)自糾自查。引導(dǎo)數(shù)字人企業(yè)對(duì)可能涉及惡意生成虛假數(shù)據(jù)的行為進(jìn)行風(fēng)險(xiǎn)評(píng)估，風(fēng)險(xiǎn)評(píng)估內(nèi)容應(yīng)當(dāng)包括處理重要數(shù)據(jù)的種類和數(shù)量、數(shù)據(jù)處理活動(dòng)的情況、數(shù)據(jù)安全風(fēng)險(xiǎn)等。要求相關(guān)人員提供相關(guān)說明材料，深入了解該行為可能產(chǎn)生的數(shù)據(jù)類型、數(shù)據(jù)來源、外部數(shù)據(jù)合作情況、數(shù)據(jù)保護(hù)現(xiàn)狀，并在此基礎(chǔ)上采取具有針對(duì)性及可操作性的應(yīng)對(duì)措施。此外，數(shù)字人企業(yè)內(nèi)部的重要數(shù)據(jù)風(fēng)險(xiǎn)評(píng)估應(yīng)成為一種常態(tài)化的合規(guī)要求，在做好風(fēng)險(xiǎn)防范的同時(shí)定期向有關(guān)部門報(bào)送數(shù)據(jù)評(píng)估報(bào)告，建立自身的重要數(shù)據(jù)“風(fēng)險(xiǎn)全景圖”，增強(qiáng)風(fēng)險(xiǎn)防范意識(shí)。

3.健全虛擬數(shù)字人開發(fā)的產(chǎn)業(yè)基礎(chǔ)設(shè)施

第一，建設(shè)數(shù)字人產(chǎn)業(yè)的數(shù)據(jù)登記確權(quán)機(jī)制。充分運(yùn)用作品登記、著作權(quán)認(rèn)證等機(jī)制，支持?jǐn)?shù)字人開發(fā)者、運(yùn)營(yíng)者為“數(shù)字人”生成內(nèi)容及相關(guān)軟件、名人形象聲音等構(gòu)成的作品、表演或者錄音錄像制品進(jìn)行登記確權(quán)，避免研發(fā)階段對(duì)侵犯他人在先人身、知識(shí)產(chǎn)權(quán)權(quán)益，規(guī)避非法數(shù)據(jù)獲取與利用的風(fēng)險(xiǎn)。推動(dòng)區(qū)塊鏈、智能合約等前沿技術(shù)手段在各領(lǐng)域、各場(chǎng)景的應(yīng)用，強(qiáng)化版權(quán)自動(dòng)登記和可追溯侵權(quán)源頭的功能，提升行業(yè)端對(duì)數(shù)字人數(shù)據(jù)的保護(hù)能力。

第二，推動(dòng)中華優(yōu)秀傳統(tǒng)文化語料數(shù)據(jù)庫建設(shè)。開展針對(duì)古籍、文言文、古漢語等優(yōu)秀傳統(tǒng)文化的語料建設(shè)工作，有序有效開放文化數(shù)據(jù)資源，推動(dòng)中華優(yōu)秀傳統(tǒng)文化數(shù)據(jù)要素在認(rèn)知安全的前提下轉(zhuǎn)化為生產(chǎn)要素。通過擬定公共文化數(shù)字資源許可和利用指南、示范法律文本，規(guī)范開發(fā)者對(duì)中華優(yōu)秀傳統(tǒng)文化數(shù)字資源的利用行為，合規(guī)數(shù)字人應(yīng)用中文化數(shù)據(jù)資源的數(shù)字化及可視化表達(dá)。

第三，引入數(shù)據(jù)要素流通安全保險(xiǎn)金融服務(wù)。數(shù)據(jù)安全保險(xiǎn)是控制數(shù)據(jù)流通過程中風(fēng)險(xiǎn)、降低安全損失的有效手段。針對(duì)虛擬數(shù)字人產(chǎn)業(yè)推出數(shù)據(jù)要素流通安全保險(xiǎn)，整合“數(shù)據(jù)安全風(fēng)險(xiǎn)減量”與“金融補(bǔ)償”功能，填補(bǔ)傳統(tǒng)保險(xiǎn)在應(yīng)對(duì)虛擬數(shù)字人開發(fā)等新型數(shù)字化風(fēng)險(xiǎn)保障方面的空白。具體而言，可基于虛擬數(shù)字人從研發(fā)到部署的階段性數(shù)據(jù)安全風(fēng)險(xiǎn)，推出涵蓋事前預(yù)防、事中防護(hù)和事后補(bǔ)償三個(gè)階段的數(shù)據(jù)要素流通安全綜合保險(xiǎn)，通過風(fēng)險(xiǎn)評(píng)估、系統(tǒng)加固、實(shí)時(shí)監(jiān)測(cè)和應(yīng)急響應(yīng)等措施，提升虛擬數(shù)字人產(chǎn)業(yè)的數(shù)據(jù)安全防護(hù)能力。

五、結(jié)論

在生成式人工智能技術(shù)大躍遷的時(shí)代，虛擬數(shù)字人風(fēng)險(xiǎn)治理應(yīng)以總體國家安全觀為政策導(dǎo)向，以風(fēng)險(xiǎn)全流程治理為制度目標(biāo)，以數(shù)據(jù)安全與數(shù)據(jù)利用價(jià)值衡平適用為價(jià)值選擇，以虛擬數(shù)字人為中心主體。在準(zhǔn)確識(shí)別研發(fā)、訓(xùn)練、部署階段涉數(shù)據(jù)安全風(fēng)險(xiǎn)的基礎(chǔ)上，聚焦數(shù)字時(shí)代數(shù)據(jù)安全與發(fā)展價(jià)值沖突問題，提出基于總體國家安全觀的規(guī)范性建構(gòu)路徑，并著眼于數(shù)字人實(shí)踐，通過數(shù)據(jù)溯源治理、生成內(nèi)容監(jiān)管、行業(yè)保障，凝聚技術(shù)、法律和行業(yè)組織的共同合力，構(gòu)建多維度的數(shù)字人數(shù)據(jù)安全治理體系，探索和完善數(shù)據(jù)安全風(fēng)險(xiǎn)防范模式。

On the Legal Protection of Data Security for Virtual Digital Human Applications

——With Generative Artificial Intelligence Implementation as a Way Forward

Abstract： As one of the typical representatives of generative artificial intelligence， virtual digital people are trained based on big data models for text， picture， audio and video algorithm generation， and are applied to cultural tourism， news and entertainment， e-commerce games and other scenarios. New types of data security risks have also arisen， such as the risk of illegal access and utilization of data， the risk of data bias and data storage， the risk of 1 generation of content and unfair competition， and criminal risk. Therefore， in the face of the reality of tension between data security and data utilization principles， adhere to and implement the principle of integrated security and development of data security and the principle of classification and grading of data utilization， adhere to the “personal-property” differentiated data classification model， and realize the “identification-traceability-exploitation” and “identification-traceability-exploitation” of virtual digital person data. The compliance path of “identification-traceability-regulation” is realized， so as to clarify the scope and mode of data collection and the regulatory boundaries of data security risks between enterprises and the government.

Keywords： Virtual Digital Person; Data Security; Data Utilization; Differential Data Classification

基金項(xiàng)目：本文系2023年文化和旅游部部級(jí)社科研究項(xiàng)目“文化藝術(shù)數(shù)字資源利用版權(quán)問題研究”（項(xiàng)目編號(hào)23DY18），2022年教育部人文社會(huì)科學(xué)重點(diǎn)研究基地重大項(xiàng)目“人工智能時(shí)代知識(shí)產(chǎn)權(quán)制度發(fā)展研究”（項(xiàng)目編號(hào)：22JJD820030）的研究成果。

作者簡(jiǎn)介：瞿昊暉，法學(xué)博士，中南財(cái)經(jīng)政法大學(xué)知識(shí)產(chǎn)權(quán)研究中心講師；李雋姝，中南財(cái)經(jīng)政法大學(xué)知識(shí)產(chǎn)權(quán)研究中心助理研究員。