徐家林 鐘迎珍

徐家林?復旦大學法學博士，中央編譯局訪問學者，現(xiàn)為華東政法大學馬克思主義學院教授、博士生導師

Sora橫空出世，意味著“未來已來”，它會帶來哪些機遇，又可能引發(fā)何種風險？這不禁引發(fā)人們對人工智能的冷思考。

近日人工智能實驗室Open AI推出了旗下首款創(chuàng)新性文生視頻模型Sora，并發(fā)布了上百個模型生成視頻，此事引起世界廣泛關注。Sora的誕生不僅被視為文本生成視頻模型迎來重大突破，也被認為是人工智能（AI）邁向“世界模型”的關鍵一步。

Sora可能引領新一輪科技革命和產(chǎn)業(yè)變革

Sora是繼ChatGPT之后，大語言模型的又一現(xiàn)象級應用場景技術(shù)，被認為是一種革命性的技術(shù)變革。Sora的核心技術(shù)主要包括云計算、人工智能、大數(shù)據(jù)等。與以往AI視頻生成軟件相比，Sora的特點主要集中在視覺上，它不僅能夠?qū)⒘攘葦?shù)語的文本描述創(chuàng)建為最長達1分鐘的高清數(shù)字視頻，還能想象并模擬現(xiàn)實世界的動態(tài)，生成更符合人類認知規(guī)律的高清視頻，因此也被人們賦予“世界模擬器”的稱號。作為Open AI最新的突破性視覺技術(shù)，Sora模型能夠通過深度學習與語義分析，準確理解用戶下達的文本指令，并在生成的視頻內(nèi)容中高度還原這些指令，創(chuàng)造出特定的場景和角色，模擬人物與環(huán)境之間的相互作用等真實性世界運動，使生成的視頻具有高度逼真性。Sora在視頻生成的時間和質(zhì)量上不僅實現(xiàn)了從ChatGPT-3.0到ChatGPT-4.5的迭代，也為未來視頻創(chuàng)作者開辟了新的道路。有人認為，Sora實現(xiàn)了人工智能對現(xiàn)實世界的學習、理解和模仿，以人工智能為核心的第四次科技革命正在席卷全球，證明人工智能所孕育的顛覆性技術(shù)和革命性產(chǎn)品有望成為新一輪科技革命和產(chǎn)業(yè)變革的“領頭羊”。

從元宇宙、ChatGPT 到 Sora，以人工智能為代表的新興產(chǎn)業(yè)正在重塑人們的生活方式和社會發(fā)展方向。從技術(shù)創(chuàng)新來看，Sora展現(xiàn)了新的科技力量并有引領未來科技和產(chǎn)業(yè)發(fā)展的趨勢。隨著文生視頻技術(shù)的日趨成熟和廣泛應用，對于高端化、智能化算力、存儲空間的需求將會持續(xù)增加，有可能會開創(chuàng)大模型在數(shù)學、物理、化學等基礎應用學科研究上的先河，也可能會對無人駕駛、生物醫(yī)藥等應用研究產(chǎn)生深刻影響。從產(chǎn)業(yè)發(fā)展來看，由于Sora在生成視頻長度、多角度鏡頭能力等方面有顯著優(yōu)勢，勢必將賦予影視、短視頻、游戲開發(fā)、廣告營銷、教育培訓等產(chǎn)業(yè)更多可能性，激發(fā)更多新質(zhì)生產(chǎn)力。從勞動力市場來看，Sora發(fā)展的預期之一就是將彌補許多領域人類勞動能力的不足，其智能化和自動化特點會進一步使許多瑣碎的工作被機器取代，人們從而可以獲得更多的時間與精力將創(chuàng)意視覺化，進一步提高人們認識世界和改造世界的能力。

Sora發(fā)展可能導致的倫理困境、法律與社會風險

任何新事物特別是新的產(chǎn)業(yè)技術(shù)的出現(xiàn)，免不了會對人們原有的生產(chǎn)方式、生活方式、價值觀念產(chǎn)生沖擊。Sora的出現(xiàn)，人們紛紛在猜測、預估和思考，Sora對人類而言究竟是福音還是災禍？其實，我們必須清醒，任何智能技術(shù)仍不過是技術(shù)，它們本身并沒有善惡之別，關鍵還在于如何運用，其善惡還是取決于運用它們的人類，所謂的技術(shù)倫理和法律問題，關注的還是人的問題，關注人如何運用這些技術(shù)的問題。

Sora可能帶來認知混亂。Sora遵循的是Open AI的規(guī)模理論——大量數(shù)據(jù)、大模型和大量算力的理論范式，利用數(shù)據(jù)與數(shù)據(jù)之間的相互關系，對現(xiàn)實世界進行映射、模擬，并據(jù)此制作出幾乎達到“以假亂真”的視頻。Sora的出現(xiàn)或?qū)⒋蚱铺摂M與現(xiàn)實之間的界限，人們或許會產(chǎn)生類似“盜夢空間”般的恍惚，導致認知模糊。不過，當我們冷靜下來思考，Sora不過是對人類世界合理性現(xiàn)象的再虛擬，其創(chuàng)造的依然是擬像化的世界，并不意味其真的已經(jīng)理解且可以重新創(chuàng)造真實的人類世界，人類不必過于擔心擬像世界的真假難辨。

Sora可能帶來的法律風險。就目前來看，由Sora運用產(chǎn)生的法律問題主要涉及信息安全、數(shù)據(jù)侵權(quán)和網(wǎng)絡詐騙等問題。人工智能技術(shù)的迭代無疑是基于海量信息數(shù)據(jù)的收集、處理與學習，Sora作為一種大型視覺模型，其生成的視頻內(nèi)容少不了對他人信息、創(chuàng)意等素材的收集、使用，其信息收集、處理是否規(guī)范，是否經(jīng)過授權(quán)，是否存在侵權(quán)問題，如何保護人們的信息安全值得關注。同時，Sora因其生成的視頻內(nèi)容為自動生成，極大降低了使用門檻，從而也降低了捏造事實、損害名譽和網(wǎng)絡詐騙的門檻。

Sora可能潛藏的社會風險。隨著Sora模型的日益強大，監(jiān)視資本主義、數(shù)字資本主義將以更隱蔽的方式出現(xiàn)，勞動異化可能成為社會的重要隱患。任何技術(shù)進步，都會伴隨著不可避免的社會風險。以Sora為代表的AI技術(shù)也是如此。當其得到廣泛應用后，各類利用該技術(shù)實施不法操作甚至犯罪活動也可能會出現(xiàn)。同時，Sora的應用也會對就業(yè)市場造成沖擊。Sora已經(jīng)開始試圖去理解客觀世界，這是技術(shù)的巨大進步。在GPT-4發(fā)布后，很多公司已經(jīng)掀起了“AI代替人”的裁員浪潮，而Sora的出現(xiàn)，可能進一步加速一些公司人員替代的步伐。另外，由于Sora具有靈活性生成的特點，用戶在使用過程中可能會被灌輸特定的價值觀，這種隱秘的圖像意識形態(tài)滲透方式將可能影響人們的思維方式。

理性看待和沉著應對Sora帶來的新挑戰(zhàn)

Sora是科學技術(shù)，但又不同于傳統(tǒng)的科學技術(shù)。Sora在本質(zhì)上是一項由人發(fā)明、受人控制、為人服務的科學技術(shù)。我們希望Sora堅持以人為本的發(fā)展思想，踐行責任倫理，實現(xiàn)人與機器和諧共處的美好愿景。為了避免Sora可能引發(fā)的倫理問題，國家相關部門應當進一步加強對人工智能技術(shù)的監(jiān)管和審查、包括確立一套安全評估體系，對Sora在生產(chǎn)、銷售和維護各方面、各環(huán)節(jié)進行安全評估，確保其安全性；嚴格加強對Sora生成的視頻內(nèi)容審核，加強對著作權(quán)、個人信息的保護，防止出現(xiàn)惡意攻擊、虛假宣傳等現(xiàn)象；數(shù)據(jù)訓練要遵守一定的道德準則，確保Sora的社會無害性；正確認識Sora的就業(yè)“替代論”，Sora等AI技術(shù)會推動人類就業(yè)的結(jié)構(gòu)性調(diào)整，人類必須學會與AI協(xié)作；要提高人工智能科學家的道德責任，未來替代人類、傷害人類的不是Sora等AI技術(shù)，而可能是那些創(chuàng)造、使用這些技術(shù)及其產(chǎn)品的人。

相較于傳統(tǒng)的社會風險，Sora帶來的風險更為隱蔽，需采取綜合治理，至少需要構(gòu)建完整的治理體系，堅持黨委領導、政府負責、社會協(xié)同、公眾參與、法制保障的治理體制和治理格局。國家要加快制定針對性的法律法規(guī)，形成保證Sora規(guī)范發(fā)展的法律框架，為積極有效應對Sora帶來的社會風險奠定法律和制度基礎。加強智能技術(shù)倫理的研究和宣傳力度，確立技術(shù)服務于人的基本原則，盡量避免算法歧視和算法黑箱情況的出現(xiàn)，最大限度降低Sora被濫用的可能。政府應加強“AI+安全”領域的實戰(zhàn)型、復合型人才隊伍建設，充分發(fā)揮高校、科研機構(gòu)和民營企業(yè)在人才培養(yǎng)方面的優(yōu)勢，鼓勵成立校企共同體，在實踐中培養(yǎng)AI人才。人工智能研發(fā)者與生產(chǎn)商應增強法律意識和政治意識，自覺保持對意識形態(tài)問題的高度警覺。普通公眾要提高科學文化素養(yǎng)和社會風險防范意識，加強對Sora的理性認知，辯證看待智能技術(shù)發(fā)展，既反對技術(shù)恐懼論，又反對技術(shù)崇拜論。

Sora雖然在算力方面有其優(yōu)勢，但在情感交流、社會互動與深度思考中不及人類。Sora本身還是技術(shù)，其工具的屬性并沒有根本性的改變。無論Sora未來發(fā)展如何，它始終源于人類的創(chuàng)造，也始終是人類智慧的延伸。

（鐘迎珍系華東政法大學中國特色社會主義研究中心研究員）

編輯：薛華? ? icexue0321@163.com