王仲昀

AI根據提示詞生成的圖片：戴著VR眼罩的女孩。

AI的進化速度遠超預期！ Sora強大的視頻生成能力，在令IT界、藝術界和科技愛好者感到興奮的同時，也難逃人類對于最新科技成果的擔憂。

影視業(yè)也許是最先直面Sora挑戰(zhàn)的行業(yè)。有從業(yè)者表示，可以預見的是，隨著Sora普及，草根導演會出現(xiàn)，中基層的創(chuàng)作群體會很容易被洗牌。除了產業(yè)格局存在被重塑的可能性，Sora是否會進一步對傳統(tǒng)道德倫理及既定法律法規(guī)產生沖擊？為此，《新民周刊》記者采訪了關注人工智能的法律學者與從業(yè)律師。他們分享了各自眼中的擔憂與期許。

Sora出現(xiàn)后，輿論普遍認為影視行業(yè)從業(yè)者應該是最先引起重視的群體。畢竟，2023年好萊塢大罷工以抵制“AI入侵”的畫面還歷歷在目。

據《環(huán)球時報》報道，當?shù)貢r間2023年7月13日，代表16萬演藝人員的美國演員工會及廣播電視藝人聯(lián)合工會（SAG-AFTRA）宣布，其與制片公司的談判破裂，確定從即日起進行罷工。當時編劇和演員稱，他們組織罷工是為了扭轉薪酬下降的趨勢。與傳統(tǒng)的電視、電影相比，人工智能及流媒體使他們的薪水和工作條件惡化，他們要求制片方和流媒體公司保證不會以人工智能技術生成的面孔和聲音來替代演藝人員。

好萊塢大罷工數(shù)月后，2023年12月27日，美國《紐約時報》又對OpenAI和微軟提起訴訟，指控這兩家企業(yè)未經授權使用該媒體數(shù)以百萬計文章訓練ChatGPT等AI聊天機器人。

《紐約時報》稱，在某些情況下，OpenAI和微軟將其刊登的內容逐字復制，提供給向AI聊天機器人尋求答案的用戶，這些新產品為新聞出版商創(chuàng)造了潛在競爭對手，而此種對媒體版權作品的使用方式是違法的。

國內法律界人士認為，美國作為一個判例法國家，該案的判決結果對后續(xù)AI行業(yè)的同類性質產品治理也會帶來“邏輯沿用”，譬如最新的Sora。

Sora和它的同類產品顯然已經引起了一些實質性爭議，未來可能還會延伸到哪些領域？同濟大學法學院副教授、上海市人工智能社會治理協(xié)同創(chuàng)新中心研究員陳吉棟接受《新民周刊》采訪表示，Sora雖然是最新的文生視頻模型，但其本身仍是依賴數(shù)據處理而運行，本質上和過去已有的人工智能產品具有一致性。

“涉及數(shù)據處理，往往需要解決三方面問題。首先是個人信息和隱私保護；然后是財產權的利用問題，如數(shù)據權益與知識產權；最后是公共利益和各層次的安全保護相關問題?！标惣獥澱f道。

既然Sora的核心依然是數(shù)據處理，和過去的人工智能模型沒有發(fā)生根本性變化，為何有人在討論相關內容時會感到非常擔憂？陳吉棟認為，這需要回到“風險”角度。關于這一點，他曾經撰文指出，人工智能法律研究在治理法與責任法之間游移，未能正確處理人工智能法律制度展開的邏輯起點——風險及其治理理論研究與風險分配規(guī)范設計。

“目前我們擔心Sora等人工智能產品，擔憂它不安全，會造成新的風險與損害。傳統(tǒng)風險理論認為，當一個事物具有脆弱性，就會有可能被外來威脅利用，造成最終損害”，陳吉棟說，“進一步說，人類內心對于人工智能的焦慮，根源在于不信任。人工智能不同于傳統(tǒng)社會信任關系的形成機制，它超脫時空，建立在計算的基礎上，對于計算過程與結果的不確定（黑箱）讓人難以捉摸?！?/p>

對此陳吉棟提出，伴隨著人工智能應用背后的技術復雜程度越來越高，迭代速度越來越快，從而形成了建立在技術體系及其服務模式上的結構性的不平等，人類沒有太多選擇。

在玻璃杯碎裂的視頻中，Sora混淆了玻璃破碎和液體溢出的順序。說明AI模擬物理世界的能力還存在著一定的偏差，有可能存在著巨大的誤導。

對于這種結構性的不平等，陳吉棟認為，需要將人工智能系統(tǒng)研發(fā)與應用風險的認知作為起點，加強事前、事中風險治理與民事責任的溝通，如此在研發(fā)者、生產者、服務提供者與用戶之間合理分配義務，構建以風險為基礎的人工智能法律治理體系。

目前Sora還未開啟公測，僅部分藝術家、OpenAI員工擁有Sora的訪問權限。一些嘗試過的業(yè)內人士在感慨其強大創(chuàng)造力的同時，也發(fā)現(xiàn)各種漏洞和被濫用的風險。2024年1月，谷歌發(fā)布AI視頻模型Lumiere時，已經宣稱“使用這一技術時，的確有創(chuàng)建虛假或有害內容并被濫用的風險”。

假若未來Sora向普通用戶和社交媒體創(chuàng)作者開放，勢必會生產出海量視頻內容，潛在的法律問題理應得到更多重視。中倫律師事務所合伙人劉新宇律師接受《新民周刊》采訪表示，Sora等視頻生成模型是AI技術發(fā)展的重要里程碑，當然也在各個領域提出了法律問題。

劉新宇律師認為：“上述法律問題中，首先是對版權與知識產權的挑戰(zhàn)；其次，是對隱私與數(shù)據保護的考量；再次，還涉及內容責任與監(jiān)管的機制；最后，還要討論AI道德倫理的邊界?！?/p>

劉新宇律師說，在傳統(tǒng)法律框架下，版權保護的是人的創(chuàng)造性勞動成果，但Sora作為AIGC產品，其生成的視頻內容是否應被視為“作品”并享有版權保護，目前尚無明確法律答案。如果AI生成內容被認定為作品，版權歸屬將變得復雜，可能涉及開發(fā)者、用戶甚至AI本身?！坝捎赟ora目前的創(chuàng)作邏輯是通過在網絡大數(shù)據中隨機抓取視頻素材進行‘再創(chuàng)作’，如果未經權利人許可，抓取他人享有著作權的作品，進行分析、處理、演繹，并在后續(xù)輸出成果中展示，可能侵犯他人著作權。”

近期，一起人工智能生成圖片著作權糾紛案件引發(fā)輿論關注。案件中，原告利用人工智能模型，通過輸入提示詞的方式生成了一張圖片并發(fā)布在小紅書平臺。而被告人在其他平臺上使用了這張圖片作為文章配圖，并去除了圖片上的水印。原告就此提起侵犯著作權之訴。北京互聯(lián)網法院作出一審判決，認為在創(chuàng)作中利用了人工智能技術的涉案圖片具備獨創(chuàng)性，可以被認定為作品，應受到著作權法保護。業(yè)內人士指出，相關判決意味著我國法院對人工智能繪畫大模型使用者在生成圖片上享有創(chuàng)作權益給出了首次認可。

涉及數(shù)據處理，往往需要解決三方面問題。首先是個人信息和隱私保護；然后是財產權的利用問題；最后是公共利益和各層次的安全保護相關問題。

與此同時，有網友提出，用AI技術讓《西游記》等作者早已離世的作品文生視頻，是否還會構成侵權？根據《著作權法》規(guī)定，自然人的作品，其發(fā)表權等規(guī)定的權利的保護期為作者終生及其死亡后五十年，而《西游記》作者逝世遠超五十年。

在劉新宇律師看來，如果使用《西游記》的文本為Sora提供素材，并不一定直接構成侵權?！翱偟膩碚f，使用AI技術讓《西游記》這種作者早已離世的作品文生視頻，雖然可以明顯識別來自哪個文學作品，但原作品著作權在保護期外，作品已經進入公共領域，理論上大家都可以使用再次進行創(chuàng)作，但最好能有‘獨創(chuàng)性’的投入。”

要想理解Sora涉及的版權問題，就必須討論“獨創(chuàng)性”的定義。據劉新宇律師介紹，“獨創(chuàng)性”體現(xiàn)在“作品源于作者獨立的、富有個性的創(chuàng)作”，是作者精神與意識的產物。如果生成內容與原作品在表達上構成“實質性相似”，則落入“復制權”的規(guī)制范圍；若不構成“實質性相似”，而是在保留作品基礎表達的前提下形成了新的表達形式，則可能構成對訓練作品“改編權”的侵害。

因此，“獨創(chuàng)性”是作品的本質屬性與靈魂，也是判斷人工智能生成物是否屬于知識產權保護客體的關鍵所在。

至于個人隱私與數(shù)據安全，劉新宇律師認為，AI模型的訓練和優(yōu)化依賴于大量數(shù)據集，這些數(shù)據可能包含敏感個人信息，甚至進一步被不法分子利用引發(fā)詐騙。

關于這一點，陳吉棟在采訪中表示，數(shù)據安全一旦遭到侵害，因為其天然的虛擬性，使得追責并不容易。“數(shù)據的問題在于，其虛擬性、非競爭、易復制等特性決定了相關侵害行為通常難以發(fā)現(xiàn)。數(shù)據存在于系統(tǒng)中，但它的侵害往往是發(fā)生在遠端?！?/p>

近年來陳吉棟在教學與學術研究的同時，也圍繞人工智能、數(shù)字經濟發(fā)展等國家戰(zhàn)略和地方需求，積極服務立法實踐，陸續(xù)參與了《上海市數(shù)據條例》（學術建議稿）、《上海市促進人工智能發(fā)展條例》等起草研究工作。如今Sora等最新模型出現(xiàn)，在平臺和政府監(jiān)管層面，又可能會有哪些新要求？陳吉棟告訴記者，監(jiān)管的突出難點在于成本?！叭绻孪仍O置好完備的護欄，那可能就不會有Sora的誕生；而事后去對生成內容進行追責，有時候平臺具備能力，但行使能力需要消耗大量時間和人力成本?！?/p>

鑒于上述原因，陳吉棟認為政府層面理應盡快建立科學完備的人工智能風險防控機制體制?！瓣P鍵在于政府要建立風險的分級標準。高風險產品和低風險產品，需要區(qū)別看待。只有這樣，才能避免對人工智能監(jiān)管的極端化，并降低監(jiān)管的成本?！?/p>

劉新宇律師認為，隨著AI技術的發(fā)展，新型版權形式如算法版權、數(shù)據版權可能應運而生，這將對現(xiàn)有知識產權法律體系提出更高要求。如何在保護創(chuàng)新與避免過度限制技術發(fā)展之間找到平衡，是法律制定者面臨的挑戰(zhàn)。

隨著新技術的快速發(fā)展，目前我國也在加快推進知識產權建設。2023年11月，國新辦舉行加快推進知識產權強國建設、有效支撐創(chuàng)新驅動發(fā)展國務院政策例行吹風會提到，適應侵權新的特點，加強技術支撐?！凹訌娭R產權信息化、智能化基礎設施建設，強化互聯(lián)網、人工智能、大數(shù)據等信息技術在知識產權審查和保護領域的應用，推動知識產權保護線上線下融合發(fā)展、一體推進?！?/p>

劉新宇律師告訴記者，科技發(fā)展日新月異，實踐中的知識產權侵權行為的確涌現(xiàn)了新的特點?！斑@體現(xiàn)在糾紛形態(tài)與網絡環(huán)境深度融合，網絡環(huán)境下的知識產權保護日益成為重點難題?！?/p>