本書從闡釋元宇宙的產(chǎn)生、發(fā)展的人文化意義與想象力價值入手，展開對元宇宙的憧憬，并進(jìn)行了從文學(xué)描繪到學(xué)術(shù)討論、從技術(shù)應(yīng)用到價值剖析、從機(jī)遇期待到風(fēng)險預(yù)估的全方位解讀，希望與廣大讀者、行業(yè)同人、學(xué)者專家形成對元宇宙的感性化共鳴與理性化共識。

從深度合成看元宇宙的“創(chuàng)世”風(fēng)險

如果說你我生活中無處不在的人臉識別是通過偵測人臉特征信息實現(xiàn)身份識別，那么深度合成則是基于包括人臉、人體在內(nèi)的對象所具備的特征合成虛擬形象，并盡可能模擬所參照對象特征的真實性。從某種意義上來說，深度合成是構(gòu)建數(shù)字孿生世界的重要方式。

作為AI合成內(nèi)容（AI-Generated Media）技術(shù)的一種，深度合成最早主要被應(yīng)用于電影制作中的數(shù)字特效，卻由于2017年有人利用該技術(shù)將美國成人電影中女主角的臉換成好萊塢知名女星的臉而受到公眾關(guān)注。也正因為此，該技術(shù)被推至輿論的風(fēng)口浪尖，并受到多國政府網(wǎng)絡(luò)監(jiān)管機(jī)構(gòu)的監(jiān)控與限制，但實際上AI換臉只是深度合成應(yīng)用中的一小部分，深度合成包括人臉再現(xiàn)、人臉生成、語音合成等技術(shù)，且未來有望向全身合成、數(shù)字虛擬人的方向發(fā)展。

其中，最早進(jìn)入公眾視野的“AI換臉”也就是人臉替換。作為目前應(yīng)用較多的深度合成形式，它主要是將某源人物的臉部圖像覆蓋到目標(biāo)任務(wù)的臉上，如ZAO、FakeApp等可實現(xiàn)最基礎(chǔ)的人臉深度合成，但不足以實現(xiàn)高精度深度合成信息。

“人臉再現(xiàn)”則主要涉及對目標(biāo)人物的臉部表情驅(qū)動，包括目標(biāo)人臉的嘴部、眉毛、眼睛和頭部的傾斜，以實現(xiàn)對目標(biāo)對象臉部表情的進(jìn)一步操控。不同于人臉替換，人臉再現(xiàn)不是為了替換目標(biāo)身份，而是改變某個真實存在的人的臉部表情，從而模擬并讓其說自己從未說過的話。

“人臉合成”是用來創(chuàng)造媲美真實人臉的全新人臉虛擬圖像，甚至可以代替一些真實肖像用于廣告宣傳、用戶頭像等。

“語音合成”是創(chuàng)建特定的聲音模型，將文本信息轉(zhuǎn)換成接近自然語音和節(jié)奏的口吻進(jìn)行敘述。

除此之外，當(dāng)前深度合成技術(shù)已經(jīng)不僅僅局限于對聲音、表情、人臉等特定生物信息的合成，而開始向全身合成與三維合成的方向發(fā)展，整合三維人臉和體態(tài)重建，結(jié)合文本、語音、口型上的自然模擬與神經(jīng)網(wǎng)絡(luò)渲染等技術(shù)，利用生成對抗網(wǎng)絡(luò)實現(xiàn)對人體動作的模擬，這也是未來數(shù)字虛擬人技術(shù)的基礎(chǔ)。

盡管深度合成在最近幾年的發(fā)展有目共睹，并在影視特效和數(shù)字孿生等前瞻應(yīng)用場景中大展拳腳，同時也成為了元宇宙的關(guān)鍵生產(chǎn)基礎(chǔ)。但由深度合成引發(fā)的一系列生物信息偽造的應(yīng)用風(fēng)險正在逐漸顯現(xiàn)，例如使用AI換臉制作色情視頻，通過合成的虛假政客視頻傳播有害信息等，引發(fā)了業(yè)界對利用深度合成技術(shù)作惡的擔(dān)憂。尤其是利用這些假冒數(shù)字媒體內(nèi)容進(jìn)行欺詐、假冒身份的非法活動，令信息安全與網(wǎng)絡(luò)攻防面臨新挑戰(zhàn)。

而深度合成背后的產(chǎn)業(yè)鏈所蘊(yùn)含的諸多問題，包括隱私數(shù)據(jù)濫用、安全攻防等方面的系統(tǒng)性風(fēng)險也不容忽視，例如基于深度合成技術(shù)，借人臉識別原理逆向部署的一些極具針對性的反人臉識別措施極大地動搖了人臉識別本身的安全性。深度合成的數(shù)據(jù)存儲、分發(fā)、應(yīng)用、銷毀以及利用生物特征信息制作商業(yè)化虛擬角色背后所蘊(yùn)含的法律合規(guī)風(fēng)險等，同樣需要以更具前瞻性的眼光看待。

1.系統(tǒng)性風(fēng)險研究

在信息化、智能化、數(shù)字化浪潮下快速推進(jìn)的深度合成技術(shù)，其算法模型的迭代離不開大規(guī)模基礎(chǔ)數(shù)據(jù)集的保障。與傳統(tǒng)機(jī)器學(xué)習(xí)所使用的文本化數(shù)據(jù)不同，深度合成技術(shù)基于大量圖像數(shù)據(jù)，而數(shù)據(jù)作為應(yīng)用最為廣泛的公民身份標(biāo)識，直接決定公民在數(shù)字治理環(huán)境下參與公共活動的權(quán)利，一旦該數(shù)據(jù)被不法分子篡改或利用，不僅會侵犯公民肖像權(quán)、隱私權(quán)等權(quán)利，還會干預(yù)甚至剝奪公民參與社會公共活動的權(quán)利，甚至直接篡改一個人的身份與社會角色，其發(fā)生泄露、篡改的風(fēng)險與造成的影響和后果非常顯著。這對承載深度合成技術(shù)的隱私保護(hù)、網(wǎng)絡(luò)與數(shù)據(jù)加密、安全攻防、標(biāo)準(zhǔn)規(guī)范建立等提出了相當(dāng)高的技術(shù)與道德要求，加之基于深度合成的人臉偽造不斷挑戰(zhàn)人臉識別的安全認(rèn)證機(jī)制，未來人臉識別的系統(tǒng)性風(fēng)險不容忽視。

人臉數(shù)據(jù)作為每個人獨一無二的身份標(biāo)識，其使用權(quán)，也就是肖像權(quán)，理應(yīng)歸自然人本體。作為人格權(quán)的一部分，肖像權(quán)包括公民有權(quán)擁有自己的肖像，擁有對肖像的制作專有權(quán)和使用專有權(quán)，公民有權(quán)禁止他人非法使用自己的肖像權(quán)或?qū)πは駲?quán)進(jìn)行損害，或以營利為目的且未經(jīng)肖像權(quán)人同意擅自使用其專有肖像。但以ZAO為代表的人臉識別結(jié)合深度合成的一系列應(yīng)用，其在用戶協(xié)議中對用戶合法權(quán)益的侵害不容忽視，如ZAO用戶協(xié)議第1版第六條規(guī)定“其享有全球范圍內(nèi)完全免費(fèi)、不可撤銷、永久、可轉(zhuǎn)授權(quán)和可再許可對用戶內(nèi)容進(jìn)行修改與編輯，以及對修改前后的用戶內(nèi)容進(jìn)行信息網(wǎng)絡(luò)傳播以及《著作權(quán)法》規(guī)定的著作權(quán)人享有的全部著作財產(chǎn)權(quán)利及鄰接權(quán)利”，這種借助技術(shù)便利過度攫取用戶授權(quán)與隱私數(shù)據(jù)的行為，進(jìn)一步引發(fā)了公眾對于ZAO以及人臉識別應(yīng)用于安防、金融、身份識別與權(quán)限管理等敏感領(lǐng)域的安全性和可靠性的質(zhì)疑。以基于人臉數(shù)據(jù)的深度合成為例，這種未經(jīng)他人允許合成某個人的肖像并用于商業(yè)目的的行為，可對現(xiàn)有公民權(quán)益保護(hù)與司法保障機(jī)制帶來極大挑戰(zhàn)，其侵權(quán)界定模糊與侵權(quán)影響廣泛將直接威脅公民合法權(quán)益。

2.加劇社會不平等現(xiàn)象

深度合成技術(shù)產(chǎn)業(yè)鏈上集中了芯片、傳感器、算法、終端、行業(yè)應(yīng)用、解決方案、安全加密、網(wǎng)絡(luò)傳輸?shù)戎T多相關(guān)方，技術(shù)濫用與不正當(dāng)競爭的現(xiàn)象難以完全避免。一旦其中任何一方采取針對用戶或者其他相關(guān)參與者的歧視性策略或不正當(dāng)競爭舉措，偏見與不平等最終會傳遞至終端消費(fèi)者并損害其應(yīng)當(dāng)享有的公平權(quán)利；加之深度合成技術(shù)的硬件、算法、數(shù)據(jù)集等都具有較高技術(shù)壁壘，不公平一旦形成將難以被打破；最后，由于機(jī)器學(xué)習(xí)的黑箱特性，模型所得結(jié)果往往具有一定不可解釋性，算法透明度存在較大爭議，可能導(dǎo)致基于深度合成技術(shù)的用戶身份、行為分析結(jié)果與用戶性別、膚色、年齡之間的相關(guān)性無法得到科學(xué)有效的闡述，這一點可能被別有用心的人利用，從而進(jìn)一步加劇性別與種族歧視現(xiàn)象。

尹巧蕊

中央司法警官學(xué)院法學(xué)院副教授，二級警督，中國法學(xué)會、河北省法學(xué)會立法學(xué)研究會理事，中央司法警官學(xué)院“習(xí)近平法治思想研究中心”執(zhí)行副主任。專長于法治政府建設(shè)、“互聯(lián)網(wǎng)+社會治理法治化”、數(shù)據(jù)要素及其權(quán)益治理、智慧司法創(chuàng)新、新媒體法制宣傳等領(lǐng)域的研究與教學(xué)，承擔(dān)相關(guān)課題并發(fā)表論文若干篇。

劉志毅

數(shù)字經(jīng)濟(jì)學(xué)家，主要研究領(lǐng)域包括數(shù)字經(jīng)濟(jì)學(xué)、人工智能倫理與治理、計算法學(xué)等?，F(xiàn)為商湯科技智能產(chǎn)業(yè)研究院主任，同濟(jì)大學(xué)人工智能與區(qū)塊鏈實驗室（AIBI）研究員，上海市人工智能技術(shù)協(xié)會專家委員會委員，中英教育合作交流特邀專家，人民郵電教育出版學(xué)術(shù)委員會專家委員。