史繼紅

算法，可謂是2023年經(jīng)濟技術(shù)領(lǐng)域中最火熱的詞之一了。2023年1月，《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》（下稱「規(guī)定」）正式落地施行，其中第19條規(guī)定，具有輿論屬性或者社會動員能力的深度合成服務(wù)提供者，應(yīng)當(dāng)按照《規(guī)定》履行備案和變更、注銷備案手續(xù)。6月20日，國家互信辦發(fā)佈國內(nèi)首批深度合成領(lǐng)域的算法發(fā)佈清單，百度、阿里、騰訊、抖音、快手、美團等互聯(lián)網(wǎng)企業(yè)的41個深度合成算法在列。有人有疑，這個規(guī)定算法需備案，備案不是審批，是否可視為生成式人工智能技術(shù)審批放松的信號？把這個問題先放一下，我們先系統(tǒng)地認(rèn)知一下規(guī)定吧。

深度合成技術(shù)的定義、廣泛運用及風(fēng)險

規(guī)定第23條明確了深度合成技術(shù)的定義，是指利用深度學(xué)習(xí)、虛擬現(xiàn)實等生成合成類算法製作文本、圖像、音頻、視頻、虛擬場景等網(wǎng)絡(luò)信息的技術(shù)，定義後非限制性的羅列了幾種技術(shù)，如大家熟悉的篇章/問答生成（如CHATGPT、文心一格）、文本轉(zhuǎn)語音、人臉生成/替換、圖象生成/修複、虛擬場景等。說到深度合成技術(shù)，首先人們想到的是「AI換臉」（包括人臉再現(xiàn)、人臉生成、語音合成等），確實它是現(xiàn)在應(yīng)用較多的深度合成形式，但深度合成早從局部合成轉(zhuǎn)向全身合成，後者從數(shù)字虛擬人技術(shù)為代表，整合3D人臉和人體重建、文本/語音/口型驅(qū)動和神經(jīng)網(wǎng)絡(luò)渲染等技術(shù)，並利用生成完成人體動作的遷移。這種捕捉和渲染隨技術(shù)發(fā)展更加靈敏生動，在遊戲、社交、影視、醫(yī)療等領(lǐng)域大有作為。得益於源代碼的開放和易用性工具的開發(fā)，深度合成技術(shù)的使用門檻已大為降低，普通用戶在手機、電腦等終端設(shè)備上，借助深度合成應(yīng)用程序，即可輕易製作、獲取人臉合成、語音合成等娛樂性的深度合成內(nèi)容。但問題就大量產(chǎn)生了，首先，視頻文件的真實性存疑，視頻文件難以識別的可修改性給名譽權(quán)和肖像權(quán)的保護增加了困難；其次，隨著人臉、語音深度合成工具的日趨成熟，換臉常常和聲音模擬等技術(shù)進行融合，出現(xiàn)了新型詐騙，識別難度極高；第三，AI技術(shù)的突破，直接改變了人類傳統(tǒng)的創(chuàng)作模式，人的創(chuàng)作從以往從無到有的創(chuàng)造變成了在AI給出的若幹選項中完成從「N到1式」的遴選、判斷、調(diào)整和優(yōu)化，所以著作權(quán)權(quán)屬問題遭到了空前的挑戰(zhàn)。除外，更可怕的是，在深度合成技術(shù)的運用中，因機器學(xué)習(xí)的需要必須收集一些人的面部特征，這些生物特征數(shù)據(jù)安全若保護欠佳，則刷臉支付、人臉認(rèn)證或許都將不再安全，再如政治層面或民生方面相關(guān)人物、事件的深度合成視頻，易給政治謠言及虛假信息的傳播提供溫床，給公眾話語權(quán)及社會輿論造成扭曲。

深度合成服務(wù)提供者躲不進「避風(fēng)港」了

對於深度合成技術(shù)的監(jiān)管，規(guī)定對深度合成內(nèi)容更有針對性地進行規(guī)制，主要針對誰呢？就是深度合成服務(wù)提供者！規(guī)制體現(xiàn)在以下幾個方面：

1.信息服務(wù)安全合法規(guī)範(fàn)，要求算法服務(wù)提供者建立健全用戶注冊、信息發(fā)佈審核、數(shù)據(jù)安全和個人信息保護、安全事件應(yīng)急處置等管理制度和技術(shù)措施，定期審核、評估、驗證算法機制機理、模型、數(shù)據(jù)和應(yīng)用結(jié)果等；建立健全用於識別違法和不良信息的特征庫，發(fā)現(xiàn)違法和不良信息的，應(yīng)當(dāng)採取相應(yīng)的處置措施；加強用戶模型和用戶標(biāo)簽管理，完善記入用戶模型的興趣點規(guī)則和用戶標(biāo)簽管理規(guī)則；加強算法推薦服務(wù)版面頁面生態(tài)管理，建立完善人工幹預(yù)和用戶自主選擇機制，在重點環(huán)節(jié)積極呈現(xiàn)符合主流價值導(dǎo)向的信息；規(guī)範(fàn)開展互聯(lián)網(wǎng)新聞信息服務(wù)，不得生成合成虛假新聞信息或者傳播非國家規(guī)定範(fàn)圍內(nèi)的單位發(fā)佈的新聞信息；不得利用算法實施影響網(wǎng)絡(luò)輿論、規(guī)避監(jiān)督管理以及壟斷和不正當(dāng)競爭行為。

2.用戶權(quán)益保護規(guī)範(fàn)，包括保障算法知情權(quán)，要求告知用戶其提供算法推薦服務(wù)的情況，並公示服務(wù)的基本原理、目的意圖和主要運行機制等；保障算法選擇權(quán)，應(yīng)當(dāng)向用戶提供不針對其個人特征的選項，或者便捷的關(guān)閉算法推薦服務(wù)的選項。此外，對向未成年人、老年人、勞動者和消費者等主體提供算法推薦服務(wù)的，則規(guī)定不得利用算法推薦服務(wù)誘導(dǎo)未成年人沉迷網(wǎng)絡(luò)，應(yīng)當(dāng)便利老年人安全使用算法推薦服務(wù)，以及不得根據(jù)消費者的偏好、交易習(xí)慣等特征利用算法在交易價格等交易條件上實施不合理的差別待遇等。

3.備案、履行安全評估和配合監(jiān)督檢查義務(wù)規(guī)範(fàn)，包括開篇提到的，具有輿論屬性或者社會動員能力的算法推薦服務(wù)提供者應(yīng)當(dāng)在提供服務(wù)之日起十個工作日內(nèi)通過互聯(lián)網(wǎng)信息服務(wù)算法備案系統(tǒng)填報服務(wù)提供者的名稱、服務(wù)形式、應(yīng)用領(lǐng)域、算法類型等備案信息，履行備案手續(xù)，而且這類提供者應(yīng)按照國家有關(guān)規(guī)定開展安全評估。此外，算法推薦服務(wù)提供者應(yīng)當(dāng)依法留存網(wǎng)絡(luò)日志，配合網(wǎng)信部門和電信、公安、市場監(jiān)管等有關(guān)部門開展安全評估和監(jiān)督檢查工作，並提供必要的技術(shù)、數(shù)據(jù)等支持和協(xié)助。

隨著深度合成技術(shù)門檻的降低，如有利可圖，掌握該技術(shù)卻不依法使用的情形很難杜絕，若使用技術(shù)侵犯知識產(chǎn)權(quán)、肖像權(quán)、名譽權(quán)的，如何對行為人進行處置，證據(jù)的收集、鑒定是擺在受害人和司法機關(guān)面前的難題，確保使用深度合成技術(shù)必須登記，也就確保執(zhí)法者對行為人的追蹤。同時，進行用戶標(biāo)簽及日志信息管理，能實現(xiàn)執(zhí)法者對於技術(shù)產(chǎn)物的追蹤，並確保任何通過深度合成技術(shù)生成的產(chǎn)品可以被公眾識別，以避免產(chǎn)生公眾認(rèn)知偏差。

另外，規(guī)定將信息安全合規(guī)審查的義務(wù)重點加持在深度合成服務(wù)者身上，意味著深度合成服務(wù)者需要採取技術(shù)或者人工方式對輸入數(shù)據(jù)和合成結(jié)果進行審核，管理深度合成內(nèi)容，建立辟謠、算法機制機理、科技倫理、信息發(fā)佈、數(shù)據(jù)安全、個人信息保護、反電信網(wǎng)絡(luò)詐騙、應(yīng)急處置等機制或?qū)徍斯芾碇贫?。說實話，合規(guī)要求還是很多的，對於小規(guī)模服務(wù)商與初創(chuàng)企業(yè)來說，如此高的合規(guī)成本將使其運營更加艱難。

再而，規(guī)定24條明確：深度合成服務(wù)提供者和技術(shù)支持者提供人臉、人聲等生物識別信息編輯功能的，應(yīng)當(dāng)提示深度合成服務(wù)使用者依法告知被編輯的個人，並取得其單獨同意。這一條毫不費力讓人聯(lián)想AI換臉應(yīng)用中，未經(jīng)他人同意情況下，使用他人照片進行AI換臉內(nèi)容製作被明確認(rèn)定為違規(guī)行為。在前述條例支持下，人工智能模型的訓(xùn)練不能隨意使用未經(jīng)同意的人臉、聲音等帶有生物特征的數(shù)據(jù)，而許多人工智能模型的訓(xùn)練通常會通過「全網(wǎng)爬取數(shù)據(jù)」的渠道將他人公佈在公共媒體的照片、視頻可能會在不知情的情況下被機器學(xué)習(xí)，成為某個模型的養(yǎng)份。

筆者還注意到，規(guī)定給應(yīng)用商店佈置了一條任務(wù)：落實上架審核、日常管理、應(yīng)急處置等安全管理責(zé)任，核驗深度合成類應(yīng)用程序的安全評估、備案等情況；對違反國家有關(guān)規(guī)定的，應(yīng)當(dāng)及時採取不予上架、警示、暫停服務(wù)或者下架等處置措施。那有些只將前述類似功能做娛樂的App很有可能無法承擔(dān)相應(yīng)的監(jiān)管義務(wù)，只能將功能下線最省心，你若不甘心應(yīng)用商店沖著守門員義務(wù)也會讓你被迫下架的。

在法律人看來，規(guī)定加持更多自查自管義務(wù)在深度合成服務(wù)提供者遠大於使用者身上，使得過去服務(wù)提供者呆在《侵權(quán)責(zé)任法》第三十六條的「避風(fēng)港規(guī)則」的舒適區(qū)，而今得裸泳在類「紅旗規(guī)則」的驚濤駭浪中，除非花大精力大價錢穿好「救生衣」。

在旁人看來，服務(wù)商負(fù)擔(dān)過重，「連監(jiān)管部門都難以做到的事情服務(wù)商們靠自身的技術(shù)能將安全合規(guī)保障得以健全麼？」筆者不是這麼看的。在新技術(shù)的治理與風(fēng)險防範(fàn)方面，監(jiān)管部門主導(dǎo)的法律規(guī)制確實必不可少，但立法是滯後的，在深度合成技術(shù)領(lǐng)域，完全跟不上技術(shù)發(fā)展的步伐，立法可能起不到應(yīng)有的效果，還可能阻礙技術(shù)的正向發(fā)展。所以借助鑒別、溯源等技術(shù)措施，要求更有能力的製作者對深度合成內(nèi)容進行源頭管理，而後通過行業(yè)公約、標(biāo)準(zhǔn)、最佳實踐指南等進行行業(yè)自律，來實現(xiàn)多元治理。實際上，互聯(lián)網(wǎng)行業(yè)內(nèi)的主流網(wǎng)絡(luò)平臺早已著手應(yīng)對深度合成技術(shù)的潛在濫用。穀歌、Facebook等美國主流科技公司已經(jīng)採取了應(yīng)對方案，如穀歌開發(fā)的「Reality Defender」工具，積極開發(fā)甄別AI合成內(nèi)容、對抗深度合成技術(shù)濫用的方法和工具。由於OpenAI的DALL-E和ChatGPT的突然爆發(fā)，生成式人工智能進入了主流意識，這導(dǎo)致更多的投資引向開發(fā)某種容易檢測人工智能謊言的方法，一些公司，如Optic和英特爾的FakeCatch，正專注於找出人工智能參與音頻和視頻的情況，而另一些公司，如Fictious.AI，則更直接地將重點放在人工智能聊天機器人生成的文本上。在國內(nèi)，騰訊信息安全團隊自研的「換臉鑒別模型的訓(xùn)練方法、換臉鑒別方法、裝置和設(shè)備」獲得專利，對相關(guān)深度合成內(nèi)容的檢測都達到了很高的準(zhǔn)確率。此外，不斷改良的數(shù)字水印技術(shù)也可在避免合成技術(shù)的濫用中發(fā)揮關(guān)鍵作用，和視覺可見的明水印不同，數(shù)字水印通過在媒體作品如音頻、視頻、圖像、文本中嵌入不可見的信息，從而實現(xiàn)信息隱藏、版權(quán)認(rèn)證、追蹤溯源、真實性驗證等作用。這些須依賴制定相關(guān)標(biāo)準(zhǔn)的大廠與技術(shù)大咖的支持，監(jiān)管層孤軍作戰(zhàn)是完全實現(xiàn)不了監(jiān)管作用的。

算法備案遠不等於產(chǎn)品審批放松

算法備案手續(xù)並不等同於生成式AI審批，也不意味著備案企業(yè)就能據(jù)此落地執(zhí)行該算法的AI產(chǎn)品。

規(guī)定第15條要求深度合成服務(wù)提供者和技術(shù)支持者提供生成或者編輯人臉、人聲等生物識別信息的，或生成或者編輯可能涉及國家安全、國家形象、國家利益和社會公共利益的特殊物體、場景等非生物識別信息的，應(yīng)依法自行或者委托專業(yè)機構(gòu)開展安全評估；第20條則要求深度合成服務(wù)提供者開發(fā)上線具有輿論屬性或者社會動員能力的新產(chǎn)品、新應(yīng)用、新功能的，應(yīng)當(dāng)按照國家有關(guān)規(guī)定開展安全評估。所以，不少深度合成技術(shù)服務(wù)商最近接到深度合成算法評估的通知，應(yīng)用市場也通知企業(yè)需先開展算法備案和安全評估之後才能上線。那倒底做哪種評估，評估該怎麼做，按什麼標(biāo)準(zhǔn)來開展？

評估的法律支撐主要有四個，分別是2017年發(fā)佈的《互聯(lián)網(wǎng)新聞信息服務(wù)新技術(shù)新應(yīng)用安全評估管理規(guī)定》，2018年發(fā)佈的《具有輿論屬性或社會動員能力的互聯(lián)網(wǎng)信息服務(wù)安全評估規(guī)定》，2022年發(fā)佈的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》和今天討論的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，匯總一下評估分為自評估、第三方機構(gòu)評估、監(jiān)管部門開展的評估，從評估對象來說可以是算法、互聯(lián)網(wǎng)服務(wù)、新技術(shù)新應(yīng)用三個對象。算法自評估目前還沒有公開的標(biāo)準(zhǔn)，但在開展算法備案的時候，需要提交一份有模板可借鑒的算法安全自評估報告，而且自評估是需按照周期開展的，同時對企業(yè)的自評估制度的建設(shè)也提出了要求。如果企業(yè)未建立評估制度，對如何開展評估無從下手，這時候就可以求助第三方專業(yè)機構(gòu)的協(xié)助，這一塊需要考量第三方機構(gòu)的專業(yè)性和技術(shù)能力。如果企業(yè)的產(chǎn)品服務(wù)或算法可能已經(jīng)走到時代的前列，或者複雜到引起相關(guān)部門的熱切關(guān)注或擔(dān)憂了，可能觸發(fā)網(wǎng)信部門或公安部門在監(jiān)管層面的評估。另外還有互聯(lián)網(wǎng)服務(wù)評估和新技術(shù)新應(yīng)用的評估這裡就略過了。

發(fā)展無止境，治理無窮期。規(guī)定的出臺標(biāo)誌著中國網(wǎng)絡(luò)綜合治理能力的進一步提升，在深度合成技術(shù)應(yīng)用與治理尚處於起步階段的現(xiàn)下，筆者認(rèn)為，規(guī)定所體現(xiàn)的多元化自律評估、管理與監(jiān)督，在技術(shù)商用領(lǐng)域的規(guī)制上放大了格局，變通了意識思想，對臻進深度合成治理水平，助力中國式現(xiàn)代化數(shù)字經(jīng)濟高質(zhì)量發(fā)展邁出了堅實的步伐。