亚洲免费av电影一区二区三区,日韩爱爱视频,51精品视频一区二区三区,91视频爱爱,日韩欧美在线播放视频,中文字幕少妇AV,亚洲电影中文字幕,久久久久亚洲av成人网址,久久综合视频网站,国产在线不卡免费播放

        ?

        類型化視角下人工智能數(shù)據(jù)訓(xùn)練著作權(quán)規(guī)則研究

        2024-12-31 00:00:00王靜
        電子知識產(chǎn)權(quán) 2024年7期
        關(guān)鍵詞:生成式人工智能合理使用

        摘要:人工智能數(shù)據(jù)訓(xùn)練加速技術(shù)迭代,驅(qū)動產(chǎn)業(yè)升級。然而,可版權(quán)性作品的獲取與利用使其難免著作權(quán)侵權(quán)爭議。數(shù)據(jù)訓(xùn)練特性、產(chǎn)業(yè)發(fā)展需求以及域外規(guī)制動向充分說明,人工智能數(shù)據(jù)訓(xùn)練合理使用化是大勢所趨。決策式人工智能與生成式人工智能在運行原理與輸出形式上存在顯著區(qū)別,著作權(quán)法應(yīng)當(dāng)實施類型化規(guī)制。前者利用數(shù)據(jù)的功能性價值,構(gòu)成“轉(zhuǎn)換性使用”,后者利用數(shù)據(jù)的表達性價值,應(yīng)當(dāng)將其納入可“選擇退出”的合理使用情形。在制度配套設(shè)計上,需明確人工智能開發(fā)者的數(shù)據(jù)訓(xùn)練披露義務(wù)以保證著作權(quán)人“退出”可能性,同時針對強化學(xué)習(xí)中使用者的數(shù)據(jù)訓(xùn)練行為,構(gòu)建人工智能開發(fā)者侵權(quán)提示責(zé)任減輕機制,實現(xiàn)使用者與開發(fā)者的責(zé)任分擔(dān)。

        關(guān)鍵詞:數(shù)據(jù)訓(xùn)練;決策式人工智能;生成式人工智能;合理使用;選擇退出

        一、引言

        自20世紀(jì)50年代“人工智能”(Artificial Intelligence, AI)這一術(shù)語被正式提出,人工智能發(fā)展經(jīng)歷起伏,但“如何使計算機模擬人類智能”的技術(shù)構(gòu)想從未停止。目前計算機科學(xué)領(lǐng)域內(nèi)主流的機器學(xué)習(xí)技術(shù)為數(shù)據(jù)訓(xùn)練,即人工智能開發(fā)者向人工智能“投喂”數(shù)據(jù),使其在海量數(shù)據(jù)中獲取經(jīng)驗、總結(jié)出一般性規(guī)律,進而將規(guī)律推演至其他數(shù)據(jù)上進行預(yù)測。然而,這種數(shù)據(jù)驅(qū)動的經(jīng)驗學(xué)習(xí)方式也頗具爭議——人工智能開發(fā)者時常因未經(jīng)許可的數(shù)據(jù)利用行為被提起侵權(quán)訴訟,其中包括著作權(quán)侵權(quán)糾紛。截至2024年2月,美國已發(fā)生十余起作家、畫家或新聞媒體指控人工智能開發(fā)者數(shù)據(jù)訓(xùn)練侵犯其著作權(quán)的訴訟。 3月20日,法國競爭管理局(Autorité de la concurrence)宣布,谷歌未經(jīng)同意使用出版商和新聞機構(gòu)的內(nèi)容訓(xùn)練大語言模型Bard,對其做出罰款2.5億歐元的決定。在國內(nèi),筆神作文指控“學(xué)而思”非法獲取數(shù)據(jù)用于模型訓(xùn)練的事件也受到廣泛關(guān)注。

        決策式人工智能與生成式人工智能是當(dāng)前人工智能的重要分支,兩者數(shù)據(jù)訓(xùn)練方式相似,但運行原理與輸出形式存在顯著區(qū)別。決策式人工智能根據(jù)已有數(shù)據(jù)進行分析、判斷、預(yù)測,以貓狗識別模型為例,人工智能開發(fā)者向模型輸入數(shù)據(jù),使模型在海量數(shù)據(jù)中學(xué)習(xí)“何者為貓”或“何者為狗”,當(dāng)使用者利用該模型進行圖像識別,模型輸出結(jié)果為判別結(jié)論,即直接通過文字形式表明“該圖像是貓”或“該圖像非貓”。生成式人工智能根據(jù)已有數(shù)據(jù)進行演繹創(chuàng)新,ChatGPT、Stable Diffusion、Sora等生成式工具可根據(jù)使用者輸入的提示詞生成相應(yīng)的文本、圖像、視頻。若前期人工智能開發(fā)者采用大量梵高的畫作進行模型訓(xùn)練,人工智能使用者輸入文本提示詞后,可輕松“創(chuàng)作”梵高風(fēng)格的作品。然而遺憾的是,學(xué)界未能立足于決策式人工智能與生成式人工智能的輸出形態(tài)差異,對數(shù)據(jù)訓(xùn)練行為的合法性進行類型化判斷,更未能對不同數(shù)據(jù)訓(xùn)練方式中的訓(xùn)練主體進行辨析。本文在解析人工智能數(shù)據(jù)訓(xùn)練技術(shù)原理的基礎(chǔ)上,明確決策式人工智能與生成式人工智能的數(shù)據(jù)訓(xùn)練特征差異,提出類型化規(guī)制策略,同時針對使用者數(shù)據(jù)訓(xùn)練等特殊情境,提出人工智能數(shù)據(jù)訓(xùn)練的配套制度設(shè)計,希冀為化解數(shù)據(jù)訓(xùn)練侵權(quán)困境提供全面、科學(xué)的著作權(quán)之道。

        二、人工智能數(shù)據(jù)訓(xùn)練的技術(shù)原理

        人工智能數(shù)據(jù)訓(xùn)練方式可以劃分為四種類型:監(jiān)督學(xué)習(xí)(Supervised Learning)、無監(jiān)督學(xué)習(xí)(Unsupervised Learning)、半監(jiān)督學(xué)習(xí)(Semi-Supervised Learning)與強化學(xué)習(xí)(Reinforcement Learning)。前三種數(shù)據(jù)訓(xùn)練方式的完整過程包括數(shù)據(jù)采集與獲取、數(shù)據(jù)預(yù)處理、數(shù)據(jù)標(biāo)注、數(shù)據(jù)輸入、模型訓(xùn)練與輸出。在強化學(xué)習(xí)中,環(huán)境反饋(使用者輸入的提示詞)是主要的訓(xùn)練數(shù)據(jù)來源,人工智能開發(fā)者無需主動采集數(shù)據(jù)。下文對人工智能數(shù)據(jù)訓(xùn)練的技術(shù)原理進行展開,解析其中的數(shù)據(jù)利用行為,以作為著作權(quán)法問題分析的前提與基礎(chǔ)。

        第一,數(shù)據(jù)采集與獲取。人工智能訓(xùn)練數(shù)據(jù)來源通常有兩種,一為現(xiàn)有的公開數(shù)據(jù)集,二為自建數(shù)據(jù)集。公開數(shù)據(jù)集是相關(guān)研究人員在網(wǎng)絡(luò)上發(fā)布的自行創(chuàng)建的數(shù)據(jù)集,其他研究者可在遵循許可協(xié)議的前提下通過各類數(shù)據(jù)集庫獲取并加以利用。例如,著名學(xué)者李飛飛等人曾發(fā)布圖像數(shù)據(jù)庫ImageNet,其中圖片數(shù)量多達1400萬張,類別多至2萬余個,目前ImageNet已成為計算機視覺領(lǐng)域最常使用的數(shù)據(jù)集之一。公開數(shù)據(jù)集由公眾自由獲取使用,降低了人工智能開發(fā)者的數(shù)據(jù)訓(xùn)練成本。若自建數(shù)據(jù)集,人工智能開發(fā)者主要通過兩種途徑獲取數(shù)據(jù):一則在網(wǎng)絡(luò)平臺上采集現(xiàn)有數(shù)據(jù),二則以作者身份創(chuàng)建或委托他人創(chuàng)建數(shù)據(jù)。通過多元途徑構(gòu)建自建數(shù)據(jù)集,是在難以獲取公開數(shù)據(jù)集的前提下進行人工智能訓(xùn)練的重要手段之一。

        第二,數(shù)據(jù)預(yù)處理。數(shù)據(jù)采集后,人工智能開發(fā)者對數(shù)據(jù)進行預(yù)處理,進而集成為訓(xùn)練數(shù)據(jù)集進行人工智能訓(xùn)練。以圖像為例,為滿足人工智能訓(xùn)練要求,開發(fā)者在清洗非需求數(shù)據(jù)后,可對圖像進行去噪、增加對比度等操作,進而恢復(fù)圖像信息、提高圖像質(zhì)量,抑或進行圖像增廣,增加圖像數(shù)據(jù)量。經(jīng)過預(yù)處理后的數(shù)據(jù)構(gòu)成訓(xùn)練數(shù)據(jù)集,更易為人工智能模型識別和解析。

        第三,數(shù)據(jù)標(biāo)注。在數(shù)據(jù)預(yù)處理后,根據(jù)是否進行監(jiān)督學(xué)習(xí)確定是否標(biāo)注數(shù)據(jù)。對于無監(jiān)督學(xué)習(xí),數(shù)據(jù)無需標(biāo)注,可直接輸入初始模型進行訓(xùn)練。對于監(jiān)督學(xué)習(xí),數(shù)據(jù)則需要進行標(biāo)注。人工智能模型學(xué)習(xí)識別標(biāo)注數(shù)據(jù)中重復(fù)出現(xiàn)的模式,進而在未知數(shù)據(jù)中進行預(yù)測。例如在訓(xùn)練貓狗識別模型的過程中,人工智能開發(fā)者通常會采集大量貓、狗的圖像,通過數(shù)據(jù)標(biāo)注工具框出貓、狗等主體并賦予“貓”或“狗”的標(biāo)簽。當(dāng)附有正確答案的標(biāo)注數(shù)據(jù)輸入初始模型,模型將不斷學(xué)習(xí)標(biāo)注數(shù)據(jù)的提示以實現(xiàn)自身優(yōu)化。

        第四,數(shù)據(jù)輸入。人工智能開發(fā)者在確立初始模型后,通過訓(xùn)練數(shù)據(jù)的輸入調(diào)整模型參數(shù),以實現(xiàn)理想的模型狀態(tài)。無論是標(biāo)注或未標(biāo)注的數(shù)據(jù),均需存儲在服務(wù)器上以供模型讀取。

        第五,模型訓(xùn)練與輸出。模型訓(xùn)練是循環(huán)調(diào)用輸入數(shù)據(jù)的過程,目標(biāo)在于得到損失函數(shù)最小值時的模型參數(shù)。在模型訓(xùn)練過程中,決策式人工智能與生成式人工智能會產(chǎn)生不同的輸出結(jié)果。前者輸出結(jié)果為圖像判別結(jié)論,后者則可能表現(xiàn)為具有獨創(chuàng)性的內(nèi)容。在這一環(huán)節(jié)中,如果模型輸出內(nèi)容與現(xiàn)有作品相同或“實質(zhì)性相似”,極有可能引發(fā)著作權(quán)人關(guān)于數(shù)據(jù)訓(xùn)練侵犯其作品復(fù)制權(quán)的指控。

        與人工智能開發(fā)者提前準(zhǔn)備數(shù)據(jù)集的訓(xùn)練方式不同,強化學(xué)習(xí)中的訓(xùn)練數(shù)據(jù)來自環(huán)境反饋,在生成式人工智能中即表現(xiàn)為使用者輸入的文本提示詞。從這個角度來說,強化學(xué)習(xí)本質(zhì)上是使用者進行人工智能訓(xùn)練的方式。以ChatGPT訓(xùn)練過程為例,使用者通過與ChatGPT對話,自主提供信息,ChatGPT基于使用者的輸入生成文本內(nèi)容。在結(jié)果層面,ChatGPT可能輸出與現(xiàn)有作品相同或相似的內(nèi)容,極端情況下,這種侵權(quán)的結(jié)果輸出形式是由使用者誘導(dǎo)導(dǎo)致,此時回溯人工智能開發(fā)者在數(shù)據(jù)訓(xùn)練中的侵權(quán)責(zé)任則不得不考慮使用者的作為。

        三、人工智能數(shù)據(jù)訓(xùn)練的著作權(quán)法規(guī)制之爭

        (一)人工智能數(shù)據(jù)訓(xùn)練侵權(quán)的特殊性

        人工智能數(shù)據(jù)訓(xùn)練如何處理,是人工智能技術(shù)向著作權(quán)法提出的新命題與新挑戰(zhàn)。相較傳統(tǒng)的著作權(quán)侵權(quán)行為,人工智能數(shù)據(jù)訓(xùn)練侵權(quán)具有明顯的特殊性,主要表現(xiàn)在以下三個方面。

        第一,人工智能數(shù)據(jù)訓(xùn)練的“受害者”眾多。大規(guī)模數(shù)據(jù)利用是人工智能產(chǎn)業(yè)發(fā)展的必然需求,人工智能開發(fā)者使用的訓(xùn)練數(shù)據(jù)量越大,模型與系統(tǒng)的精度越高。2020年OpenAI公司公布的ChatGPT-3的模型參數(shù)已高達1750億。在人工智能開發(fā)過程中,若開發(fā)者欲合法使用數(shù)據(jù),必須甄別數(shù)據(jù)是否屬于作品,進而與著作權(quán)人一一談判,達成許可交易。這意味著在人工智能技術(shù)研發(fā)階段,開發(fā)者就需付出高昂的時間成本與交易成本。更何況,人工智能數(shù)據(jù)訓(xùn)練的后期成果尚是未知數(shù)。面臨高昂成本,人工智能開發(fā)者更傾向于冒險使用數(shù)據(jù)。

        第二,人工智能數(shù)據(jù)訓(xùn)練的“受害者”救濟困難。人工智能輸入數(shù)據(jù)與輸出結(jié)果之間存在公眾無法洞悉的“黑箱”,開發(fā)者對數(shù)據(jù)的利用被隱匿在黑箱之內(nèi)。若人工智能輸出結(jié)果未呈現(xiàn)與現(xiàn)有作品相同或相似的效果,絕大多數(shù)著作權(quán)人無法獲知自己的作品被用于人工智能訓(xùn)練。決策式人工智能的輸出結(jié)果通常為判別結(jié)論,在此背景下著作權(quán)人甄別人工智能訓(xùn)練數(shù)據(jù)更是困難重重。著作權(quán)人與人工智能開發(fā)者關(guān)于作品的控制力失衡,著作權(quán)人權(quán)利救濟道阻且長。

        第三,人工智能數(shù)據(jù)訓(xùn)練的侵權(quán)主體難以確定。數(shù)據(jù)訓(xùn)練過程需要人工智能投資者、開發(fā)者(數(shù)據(jù)采集者、數(shù)據(jù)預(yù)處理者等)、使用者,甚至模型本身的共同參與。在監(jiān)督學(xué)習(xí)等需要提前準(zhǔn)備數(shù)據(jù)集的訓(xùn)練方式中,若數(shù)據(jù)采集者、數(shù)據(jù)預(yù)處理者以及數(shù)據(jù)輸入者等多個主體身份分離,各自的侵權(quán)責(zé)任承擔(dān)份額難以確定。在強化學(xué)習(xí)中,數(shù)據(jù)來源于人工智能使用者的輸入,使用者可能未經(jīng)許可向模型提供他人受著作權(quán)法保護的作品,此時侵權(quán)主體是輸入數(shù)據(jù)的使用者還是開發(fā)者則更加難以言明。當(dāng)前,關(guān)于人工智能生成物可版權(quán)性的討論熱烈,淡化甚至取消“人類創(chuàng)作”作為作品受著作權(quán)法保護要件的觀點甚囂塵上。當(dāng)承認機器具有自主創(chuàng)作能力,希冀著作權(quán)法保護生成物時,機器也或?qū)⒈徽J定為數(shù)據(jù)訓(xùn)練的侵權(quán)主體。

        (二)人工智能數(shù)據(jù)訓(xùn)練著作權(quán)法規(guī)制路徑爭議

        關(guān)于人工智能數(shù)據(jù)訓(xùn)練如何規(guī)制,學(xué)界眾說紛紜。普遍觀點認為人工智能數(shù)據(jù)訓(xùn)練應(yīng)當(dāng)歸屬于著作權(quán)的權(quán)利限制范疇。也有觀點認為,人工智能數(shù)據(jù)訓(xùn)練不應(yīng)當(dāng)被認定為著作權(quán)侵權(quán)行為。對此,本文將學(xué)者們提出的觀點總結(jié)如下。

        第一,在事實層面主張人工智能數(shù)據(jù)訓(xùn)練構(gòu)成合理使用或在制度層面認為應(yīng)當(dāng)實現(xiàn)人工智能數(shù)據(jù)訓(xùn)練合理使用化。具言之,部分學(xué)者認為人工智能數(shù)據(jù)訓(xùn)練可以實現(xiàn)知識增值,但與作品的原創(chuàng)價值之間高度獨立與分離,不會對作品的原初價值的市場交易產(chǎn)生法律上的侵害,可以認定為轉(zhuǎn)換性使用。有學(xué)者認為機器“完全不會像人類讀者一樣去欣賞、體驗作品,或像人類作者一樣去再創(chuàng)作”,因此機器讀者的使用行為屬于合理使用。另一部分學(xué)者雖然肯定人工智能數(shù)據(jù)訓(xùn)練存在著作權(quán)侵權(quán)風(fēng)險,但在功利主義視野下,人工智能技術(shù)發(fā)展優(yōu)先,有必要將人工智能數(shù)據(jù)訓(xùn)練明確歸入合理使用的范疇。亦有學(xué)者提出傳統(tǒng)著作權(quán)法“作者中心主義”已無法適應(yīng)人工智能技術(shù)的發(fā)展需求,故提議擴張合理使用并進行制度重塑。關(guān)于如何以合理使用制度包容人工智能數(shù)據(jù)訓(xùn)練,現(xiàn)有研究方案既包括在理論層面引入“技術(shù)性合理使用”概念,也包括在法律適用中采用整體結(jié)果考察法進行合理使用判定,亦有學(xué)者提議根據(jù)三步檢測法設(shè)計專門針對人工智能領(lǐng)域的著作權(quán)例外。

        第二,有學(xué)者主張以法定許可制度規(guī)制人工智能數(shù)據(jù)訓(xùn)練?!昂侠硎褂弥贫炔⒉荒芡耆m應(yīng)技術(shù)發(fā)展與作品保護的需求,甚至?xí)璧K社會文化發(fā)展,而法定許可制度能較好平衡作品保護與技術(shù)發(fā)展訴求,平衡各方利益,長遠看不失為一種可取的理想方案和制度安排。”此外,亦有學(xué)者主張以著作權(quán)集體管理組織輔之以法定許可。

        第三,激進的觀點認為人工智能數(shù)據(jù)訓(xùn)練為“非作品性使用”,如同商標(biāo)法無法規(guī)制“非商標(biāo)性使用”行為,“非作品性使用”行為不構(gòu)成著作權(quán)侵權(quán)。Alain Strowel教授堅持“作品性使用”作為著作權(quán)侵權(quán)分析的前提是必要的,而文本與數(shù)據(jù)挖掘(Text and Data Mining,TDM)等行為僅將作品作為導(dǎo)出相關(guān)信息的工具或數(shù)據(jù),未利用作品的表達特征,屬于“非作品性使用”,應(yīng)當(dāng)允許實施該行為。在部分論著中,“非作品性使用”是“著作權(quán)限縮”的情形之一,“著作專有權(quán)不是旨在控制所有類型的著作使用,而僅僅規(guī)制以公眾化傳播著作表達性內(nèi)容為目的之著作使用行為”,人工智能在輸入階段的數(shù)據(jù)處理行為類似于人類閱讀,不具有表達與傳播的功能,因此屬于“非作品性使用”,不構(gòu)成著作權(quán)侵權(quán)。

        綜上,圍繞人工智能數(shù)據(jù)訓(xùn)練這一命題,學(xué)界提出了多種規(guī)制路徑:或認定合理使用,或堅持法定許可,或稱不構(gòu)成著作權(quán)侵權(quán)??梢?,基于人工智能數(shù)據(jù)訓(xùn)練特性以及產(chǎn)業(yè)發(fā)展需求,肯定人工智能開發(fā)者的數(shù)據(jù)利用空間已是大勢所趨。這為后文探討技術(shù)發(fā)展與著作權(quán)保護界限問題提供了重要啟示。

        四、人工智能數(shù)據(jù)訓(xùn)練規(guī)制的域外動向

        (一)日本著作權(quán)法中的“信息分析”條款

        為應(yīng)對數(shù)字化變遷,2009年日本《著作權(quán)法》第47條之7規(guī)定使用計算機信息分析而進行的記錄或改編在著作權(quán)的權(quán)利限制之列,但供信息分析人員使用而創(chuàng)建的數(shù)據(jù)庫作品除外?!靶畔⒎治觥笔侵笍拇罅孔髌分刑崛∮嘘P(guān)語言、聲音、圖像以及其他元素的信息,例如,分析網(wǎng)頁、書籍中包含的特定詞匯和字符串的使用情況并進行統(tǒng)計處理,或者分析音頻、視頻的聲音波形、圖像亮度、顏色等。通過計算機對必要的信息進行整理和提取,目的不在于享受作品表達傳遞的思想情感或者美感,而是為了信息的統(tǒng)計處理。人工智能數(shù)據(jù)訓(xùn)練的過程屬于“信息分析”,訓(xùn)練過程中對原作品的記錄和改編當(dāng)然在著作權(quán)的權(quán)利限制范疇之列。日本著作權(quán)法為人工智能數(shù)據(jù)訓(xùn)練提供了較為寬松的環(huán)境,甚至有學(xué)者將日本稱為“機器學(xué)習(xí)天堂”。

        2018年日本《著作權(quán)法》修改,將第47條之7“信息分析”條款并入第30條之4。在該條款中,“信息分析”的適用情形有所擴張:首先,2009年日本《著作權(quán)法》第47條之7“信息分析”僅限于計算機進行的信息分析,而在2018年《著作權(quán)法》第30條之4中則取消信息分析類型的限制;其次,第30條之4中的“信息分析”不僅指統(tǒng)計分析,還包括深度學(xué)習(xí)中使用的代數(shù)和幾何分析;再者,允許“信息分析”的主體由信息處理的本人拓展至其他主體;最后,在行為類型上,信息分析過程中不僅允許記錄、改編,還可以轉(zhuǎn)讓、公開傳播。由此,相較2009年“信息分析”條款,日本2018年修改《著作權(quán)法》,擴大了權(quán)利限制范圍。從《著作權(quán)法》的修訂中可以看出,日本關(guān)于人工智能數(shù)據(jù)訓(xùn)練采取了一種較為靈活、開放的態(tài)度,為人工智能的研究與發(fā)展提供了空間。但值得注意的是,第30條之4同時規(guī)定,根據(jù)作品的類型、目的和使用方式,若著作權(quán)人的利益受到不當(dāng)損害,應(yīng)當(dāng)被排除在著作權(quán)權(quán)利限制之外,即該行為極有可能被認定為著作權(quán)侵權(quán)。鑒于此,日本“信息分析”條款雖為人工智能開發(fā)者數(shù)據(jù)利用提供了空間,但同時也將“是否超出著作權(quán)權(quán)利限制范疇”的判斷難題交給了法院。

        (二)歐盟版權(quán)框架下的著作權(quán)人“選擇退出”機制

        歐洲議會于2019年3月通過歐盟《數(shù)字單一市場版權(quán)指令》(Directive[EU]2019/790)(以下簡稱“歐盟版權(quán)指令”),其中第2條第(2)項明確“文本與數(shù)據(jù)挖掘”的定義,并在第3條及第4條規(guī)定文本與數(shù)據(jù)挖掘的著作權(quán)例外。所謂“文本與數(shù)據(jù)挖掘”,即“以數(shù)字形式分析文本和數(shù)據(jù)以生成信息的任何自動分析技術(shù),包括但不限于模式、趨勢和相關(guān)性”。歐盟版權(quán)指令第3條規(guī)定以科學(xué)研究為目的的文本與數(shù)據(jù)挖掘,將行為主體限制于科研機構(gòu)和文化遺產(chǎn)機構(gòu),將作品利用方式限制于“復(fù)制”和“提取”,而第4條規(guī)定的文本與數(shù)據(jù)挖掘例外未對行為主體與行為目的加以限制,但著作權(quán)人可以提出權(quán)利保留,若作品在網(wǎng)絡(luò)上公開發(fā)表,則著作權(quán)人應(yīng)以機器可閱讀的方式表達權(quán)利保留的意愿。歐盟版權(quán)指令在推動“文本與數(shù)據(jù)挖掘”分級化合理使用的前提下,建立著作權(quán)人的“選擇退出”機制,尊重著作權(quán)人的意愿。

        但歐盟關(guān)于人工智能發(fā)展的擔(dān)憂與期待并未止步于此。即使著作權(quán)人聲明保留權(quán)利,禁止文本和數(shù)據(jù)挖掘,人工智能數(shù)據(jù)訓(xùn)練過程中的隱蔽性也可能對著作權(quán)人的權(quán)益造成損害。2020年2月歐盟發(fā)布的《人工智能白皮書》(White Paper on Artificial Intelligence-A European Approach to Excellence and Trust)要求保存訓(xùn)練數(shù)據(jù)的相關(guān)內(nèi)容,以便應(yīng)對人工智能系統(tǒng)的復(fù)雜性和不透明性。2024年3月,歐洲議會正式通過《人工智能法案》(Artificial Intelligence Act),明確了模型提供者的訓(xùn)練數(shù)據(jù)披露義務(wù)。這將有助于在文本與數(shù)據(jù)挖掘著作權(quán)例外基礎(chǔ)上進一步完善著作權(quán)人的“選擇退出”機制,實現(xiàn)人工智能產(chǎn)業(yè)與著作權(quán)人的利益平衡。

        (三)美國司法實踐中的合理使用認定

        關(guān)于人工智能數(shù)據(jù)訓(xùn)練是否構(gòu)成合理使用,目前美國尚未有明確的司法判例,但回溯既往可以發(fā)現(xiàn),美國法院在多案中肯定了作品復(fù)制行為具有“轉(zhuǎn)換性”。在2009年的A.V. v. iParadigms, LLC案中,被告iParadigms公司使用Turnitin系統(tǒng)檢測學(xué)生提交到系統(tǒng)的作品是否抄襲,Turnitin系統(tǒng)會對學(xué)生提交的作品進行存檔進而形成數(shù)據(jù)庫用于后續(xù)其他學(xué)生的作品檢測。原告四名學(xué)生起訴iParadigms公司的存檔行為構(gòu)成著作權(quán)侵權(quán)。聯(lián)邦第四巡回上訴法院認為iParadigms公司對學(xué)生作品的存檔行為具有轉(zhuǎn)換性,因為它對作品的使用完全無關(guān)于表達性內(nèi)容,而旨在檢測和阻止抄襲。2014年,美國聯(lián)邦第二巡回上訴法院在著名的Authors Guild, Inc. v. HathiTrust案(以下簡稱“HathiTrust案”)中也指出,創(chuàng)建全文搜索性數(shù)據(jù)庫屬于轉(zhuǎn)換性使用,因為單詞搜索的結(jié)果在目的、特征、表達、含義和信息上不同于原圖書。由此可見,美國法院在作品復(fù)制行為的著作權(quán)侵權(quán)判斷中著重關(guān)注該行為是否具有轉(zhuǎn)換性,相關(guān)論述為人工智能數(shù)據(jù)訓(xùn)練侵權(quán)判斷提供了思路。

        2023年5月美國聯(lián)邦最高法院判決Andy Warhol Foundation for the Visual Arts, Inc. v. Goldsmith一案(以下簡稱“Warhol案”),引起公眾對生成式人工智能侵權(quán)判斷規(guī)則的關(guān)注。在該案中,Warhol根據(jù)Goldsmith拍攝的王子照片創(chuàng)作出16張“王子系列”圖像,該作品由安迪·沃霍爾視覺藝術(shù)基金會(The Andy Warhol Foundation for the Visual Arts, Inc.,以下簡稱“AWF”)負責(zé)授權(quán)。2016年AWF向康泰納仕集團(Condé Nast)授權(quán)“王子系列”中一張名為《橙色王子》(Orange Prince)的圖片用于雜志封面。Goldsmith通知 AWF,認為授權(quán)行為侵犯其版權(quán)。AWF則向法院起訴Goldsmith,要求做出非侵權(quán)或合理使用的宣告性判決。美國聯(lián)邦最高法院認為該案的核心在于判斷合理使用的第一要素,即作品使用的目的和性質(zhì)是否支持AWF向Condé Nast的商業(yè)許可行為。法院最終認為,《橙色王子》的目的與Goldsmith拍攝王子照片的目的基本相同,都是用來講述王子的故事,且許可的行為具有明顯的商業(yè)性質(zhì),因此不構(gòu)成合理使用。

        在Warhol案之前,生成式人工智能利用現(xiàn)有作品進行經(jīng)驗學(xué)習(xí)的行為,極有可能被評價為“轉(zhuǎn)換性使用”。正如HathiTrust案中所述,作品復(fù)制的目的在于為公眾提供搜索服務(wù),復(fù)制現(xiàn)有作品進行人工智能數(shù)據(jù)訓(xùn)練的主要目的也并非在于內(nèi)容欣賞,而是提升模型性能。 但在Warhol案之后,人工智能數(shù)據(jù)訓(xùn)練“轉(zhuǎn)換性使用”的認定門檻有所提高,法院將更加關(guān)注生成式人工智能的終端輸出內(nèi)容是否實現(xiàn)了目的轉(zhuǎn)換。人工智能生成與原作品相同或者“實質(zhì)性相似”的內(nèi)容,若僅僅在表達方式上略作改變(如Warhol案所示,由攝影作品轉(zhuǎn)變?yōu)槔L畫作品),這種作品使用方式不具有轉(zhuǎn)換性使用特征,同時鑒于生成內(nèi)容可能在客觀上擠占或者替代原作的市場,人工智能開發(fā)者證明其數(shù)據(jù)訓(xùn)練行為具有正當(dāng)性將更加困難。

        五、人工智能數(shù)據(jù)訓(xùn)練的著作權(quán)法制度應(yīng)對

        在人工智能數(shù)據(jù)訓(xùn)練的著作權(quán)法制度回應(yīng)上,有兩個問題難以回避:其一,著作權(quán)人與人工智能開發(fā)者之間的利益如何平衡;其二,人工智能數(shù)據(jù)訓(xùn)練著作權(quán)法規(guī)制路徑如何選擇。前者討論的價值和意義在于明確人工智能數(shù)據(jù)訓(xùn)練制度設(shè)計的宏觀方向,后者則綜合人工智能具體類型、人工智能數(shù)據(jù)訓(xùn)練中的參與主體以及人工智能數(shù)據(jù)訓(xùn)練的特性進行具體制度設(shè)計。

        (一)宏觀選擇:賦予人工智能開發(fā)者作品使用自由

        自著作權(quán)法誕生,“作者中心主義”一直主導(dǎo)著以《伯爾尼公約》為核心的著作權(quán)權(quán)利體系。各國立法實踐均以作者為中心配置各項權(quán)利,合理使用在著作權(quán)法體系結(jié)構(gòu)中處于“例外”地位。隨著技術(shù)變遷,著作權(quán)人對作品的控制力逐漸削弱,但立法者始終堅守“作者中心”,通過不斷修補著作權(quán)法,消解著作權(quán)人與新技術(shù)利益群體之間的矛盾。如保羅·戈斯汀教授所說,“國會……一直扮演著追逐新技術(shù)——先是照相術(shù),然后是錄音、電影、收音機、廣播電視和有線電視——的角色。”進入人工智能時代,著作權(quán)人對作品的事實控制力再度被削弱,面對人工智能開發(fā)者的作品利用,著作權(quán)人難以舉證。在此背景下,是通過傳統(tǒng)方式繼續(xù)擴張著作權(quán)人的權(quán)利控制范圍,還是在人工智能開發(fā)者與著作權(quán)人之間重新確立作品使用規(guī)則?顯然,賦予人工智能開發(fā)者更多作品使用自由已成為各國立法的主流方向。

        從人工智能技術(shù)價值來看,賦予開發(fā)者數(shù)據(jù)訓(xùn)練的作品使用自由具有重要的現(xiàn)實意義。在國際競爭層面,世界各國早已將人工智能發(fā)展上升至國家戰(zhàn)略高度,并紛紛通過人工智能技術(shù)的改進搶爭高地。人工智能的影響滲透到社會公眾生活的方方面面,實現(xiàn)了自動駕駛、電子商務(wù)推薦、疾病診斷等領(lǐng)域的公眾生活便利化。人工智能衍生物具有繁榮文化的作用,可增進人類整體社會福祉。以上說明,人工智能是社會發(fā)展的重要驅(qū)動力。數(shù)據(jù)是人工智能的“活水之源”,如果人工智能開發(fā)者始終處于恐慌與擔(dān)憂中,可能會選擇放棄使用著作權(quán)法保護的數(shù)據(jù)。如此循環(huán)往復(fù),人工智能開發(fā)進展受阻,由數(shù)據(jù)選擇偏向形成的算法歧視愈演愈烈。因此可以明確,人工智能開發(fā)者合法使用數(shù)據(jù)不僅是著作權(quán)法制度轉(zhuǎn)型的必然選擇,更是社會發(fā)展的現(xiàn)實要求。

        在探討人工智能數(shù)據(jù)訓(xùn)練著作權(quán)法規(guī)制路徑的具體選擇上,一元論并不適用。一元論既未考慮到不同類型人工智能數(shù)據(jù)利用特征差異,也未針對使用者數(shù)據(jù)訓(xùn)練提出監(jiān)管措施。面向復(fù)雜的人工智能數(shù)據(jù)訓(xùn)練情形,應(yīng)當(dāng)采取類型化規(guī)制路徑,并完善相應(yīng)的制度配套設(shè)計。

        (二)路徑之一:決策式人工智能數(shù)據(jù)利用行為構(gòu)成“轉(zhuǎn)換性使用”

        如前所述,決策式人工智能與生成式人工智能在運作原理與輸出形式上有所區(qū)別。作品是復(fù)合載體,既是外界事物信息的組合,又是凝聚作者思想情感的表達。作品承載的信息體現(xiàn)其功能性價值,后者則具有表達性價值。決策式人工智能在數(shù)據(jù)訓(xùn)練過程中主要利用數(shù)據(jù)的功能性價值,通過分析數(shù)據(jù)性質(zhì)與結(jié)構(gòu),在輸出端呈現(xiàn)分析、判斷或預(yù)測的結(jié)果。以人工智能開發(fā)者在貓狗識別模型中使用他人攝影作品為例,攝影師拍攝貓狗照片,主要是為了向公眾展示因光線、角度選擇而形成的獨有藝術(shù)美感。在人工智能訓(xùn)練過程中,貓狗照片作為信息工具,核心功能在于向機器描述照片中“何者為貓”或“何者為狗”,輸出端以判別結(jié)論為主。再如,在文字要素提取過程中,人工智能開發(fā)者關(guān)注文字作品中的核心信息,研究者可以通過人工智能從大量非結(jié)構(gòu)化文獻中自動提取生物醫(yī)學(xué)關(guān)系,這一過程顯然體現(xiàn)了與文字作品具體表達不同的價值。決策式人工智能數(shù)據(jù)訓(xùn)練的目的在于獲取數(shù)據(jù)信息、提升模型精度,而不在于傳遞作品的整體表達,并且通常情況下,決策式人工智能在輸出端已實現(xiàn)內(nèi)容轉(zhuǎn)換。鑒于此,我國法院可借鑒美國合理使用四要素標(biāo)準(zhǔn),將決策式人工智能在訓(xùn)練過程中的作品復(fù)制行為認定為“轉(zhuǎn)換性使用”。

        (三)路徑之二:生成式人工智能數(shù)據(jù)利用行為納入“選擇退出”合理使用情形

        與決策式人工智能相較,生成式人工智能前端的數(shù)據(jù)利用行為具有規(guī)制必要性。盡管生成式人工智能的輸出結(jié)果可能與輸入數(shù)據(jù)不相同且不相似,或者僅在著作權(quán)法意義上的思想范疇內(nèi)相同或相似,但在數(shù)據(jù)訓(xùn)練中,生成式人工智能主要利用了數(shù)據(jù)的表達性價值,在輸出終端極有可能對原作品產(chǎn)生替代作用,因此需要進行全面規(guī)制。

        人工智能合法訓(xùn)練的前提是人工智能開發(fā)者與著作權(quán)人達成許可交易。然而,面向人工智能產(chǎn)業(yè),數(shù)據(jù)交易的市場失靈已然存在:首先,海量的數(shù)據(jù)需求使得人工智能開發(fā)者在許可交易中必須付諸高昂的交易成本;其次,在網(wǎng)絡(luò)環(huán)境下,人工智能開發(fā)者可通過爬蟲技術(shù)、破壞技術(shù)措施等多種成本低廉的手段獲取數(shù)據(jù),加之?dāng)?shù)據(jù)訓(xùn)練行為的侵權(quán)隱蔽性,人工智能開發(fā)者主動尋求著作權(quán)人許可的可能性較低;再者,基于主體自利,著作權(quán)人捐獻自己付諸智力勞動的數(shù)據(jù)的意愿消極。在以私人協(xié)商為前提的授權(quán)許可模式下,著作權(quán)人與人工智能開發(fā)者之間通常會形成“交易不能”的困局。法定許可、合理使用等制度在人工智能數(shù)據(jù)訓(xùn)練領(lǐng)域的提出已體現(xiàn)了學(xué)者們對于數(shù)據(jù)交易效率的考量。交易成本最低的制度工具無疑是“市場失靈”狀態(tài)下的最佳選擇。

        著作權(quán)許可交易包括搜尋權(quán)利人、與之談判和協(xié)商、支付許可費用等環(huán)節(jié),相對應(yīng)地,對于作品使用者而言,必然存在搜尋成本、協(xié)商成本與執(zhí)行成本。立法者窺見傳統(tǒng)授權(quán)許可模式中交易效率低下對著作權(quán)激勵價值以及作品使用效率的損耗,或以程序性設(shè)計,抑或通過弱化權(quán)利排他性降低交易成本。具體而言,程序性設(shè)計主要體現(xiàn)在集中許可與默示許可中,前者以著作權(quán)集體管理組織為中介形成著作權(quán)權(quán)利集合,通過交易對象明確化,輔之以批量授權(quán)方式,降低作品使用者一一搜尋權(quán)利人的成本。后者默示許可構(gòu)建的“選擇退出”機制則通過著作權(quán)人的意思表達后置,弱化在作品使用前的繁復(fù)交易過程,提升作品使用效率。在弱化權(quán)利排他性的制度發(fā)明中,法定許可排除因著作權(quán)人意思表達形成的交易障礙,同樣優(yōu)化了作品交易中的搜尋成本,并以法定付酬機制降低作品使用者與權(quán)利人的協(xié)商成本。但共性在于,三種許可模式均以作品使用者向著作權(quán)人付酬為前提。推演至人工智能數(shù)據(jù)訓(xùn)練領(lǐng)域,因海量數(shù)據(jù)的使用,人工智能開發(fā)者在許可流程的末端必然需要承擔(dān)高昂的執(zhí)行成本,即支付許可費用。默示許可與法定許可雖然通過弱化著作權(quán)人的意思表達,消除了在作品使用前搜尋權(quán)利人的成本,但在作品使用后的付酬環(huán)節(jié),依然需要明確數(shù)據(jù)權(quán)利人,對此一一識別并支付許可費,因而在此環(huán)節(jié)中,人工智能開發(fā)者依舊可能面臨權(quán)利人“識別不能”與許可費“支付不能”的困境。換言之,以付酬機制為前提的許可交易難以解決人工智能開發(fā)者數(shù)據(jù)需求與執(zhí)行不能的根本矛盾。相對而言,合理使用不存在付酬機制,體現(xiàn)了交易效率的最大化。

        綜合多數(shù)許可模式中著作權(quán)人意思自治優(yōu)先與合理使用制度中交易成本“歸零化”的優(yōu)勢,在生成式人工智能領(lǐng)域,以著作權(quán)人可“選擇退出”的作品合理使用制度處理數(shù)據(jù)訓(xùn)練問題不失為優(yōu)選之舉。在可“選擇退出”的作品合理使用制度下,著作權(quán)人極有可能聲明或通知人工智能開發(fā)者拒絕其作品被用于數(shù)據(jù)訓(xùn)練。為避免此種情況對數(shù)據(jù)訓(xùn)練形成潛在危機與障礙,對著作權(quán)人的“選擇退出”應(yīng)當(dāng)加以限制。在具體的制度構(gòu)建中,應(yīng)當(dāng)明確著作權(quán)人“選擇退出”的實體條件與程序條件。在實體條件上,“選擇退出”的資格應(yīng)僅限于部分作品的著作權(quán)人,如文字作品、美術(shù)作品、音樂作品以及攝影作品。以上四種作品類型的職業(yè)創(chuàng)作群體與人工智能開發(fā)者之間的矛盾最為明顯,當(dāng)生成式人工智能生成內(nèi)容后,極有可能對之產(chǎn)生替代作用,因此,應(yīng)當(dāng)尊重以上群體捐獻自己的作品用于數(shù)據(jù)訓(xùn)練的意愿。在程序條件上,著作權(quán)人應(yīng)當(dāng)在作品發(fā)表時明確做出公開聲明,表明拒絕他人將作品用于人工智能數(shù)據(jù)訓(xùn)練,或著作權(quán)人在得知他人可能將作品用于數(shù)據(jù)訓(xùn)練時,應(yīng)在規(guī)定期限內(nèi)及時向人工智能開發(fā)者發(fā)送拒絕作品使用的通知,否則,在規(guī)定期限之外,著作權(quán)人無權(quán)阻止人工智能開發(fā)者對作品的使用。在程序條件上對著作權(quán)人的“選擇退出”加以限制,增加著作權(quán)人“選擇退出”的成本,一定程度上可降低退出的意愿。在著作權(quán)人退出后,人工智能開發(fā)者若想使用相關(guān)作品,可向著作權(quán)集體管理組織尋求許可,集中許可模式下,人工智能開發(fā)者的搜尋與協(xié)商成本也可得到控制。

        (四)配套設(shè)計:明確人工智能開發(fā)者的數(shù)據(jù)訓(xùn)練披露義務(wù)及責(zé)任減輕機制

        第一,明確人工智能開發(fā)者在數(shù)據(jù)訓(xùn)練過程中的披露義務(wù),包括數(shù)據(jù)訓(xùn)練的目的、訓(xùn)練數(shù)據(jù)來源、訓(xùn)練數(shù)據(jù)規(guī)模等。鑒于算法“黑箱”的存在,著作權(quán)人無法獲知其作品是否作為訓(xùn)練數(shù)據(jù)被輸入模型。如前所述,決策式人工智能與生成式人工智能分別適用于一般性合理使用與可“選擇退出”的合理使用制度,明確人工智能開發(fā)者的披露義務(wù),當(dāng)著作權(quán)人獲悉數(shù)據(jù)被用于生成式人工智能訓(xùn)練,著作權(quán)人可聲明“退出”以維護自身權(quán)益。在人工智能開發(fā)者披露訓(xùn)練數(shù)據(jù)后,應(yīng)當(dāng)設(shè)置著作權(quán)人的聲明期,若著作權(quán)人在聲明期內(nèi)未提出“退出”合理使用,則人工智能開發(fā)者得以無償使用該部分?jǐn)?shù)據(jù)。

        第二,構(gòu)建人工智能開發(fā)者的侵權(quán)提示責(zé)任減輕機制。部分人工智能采用強化學(xué)習(xí)方式優(yōu)化性能。使用者向人工智能輸入受著作權(quán)法保護的作品,并且通過誘導(dǎo)與提示,使人工智能輸出與現(xiàn)有作品相同或“實質(zhì)性相似”的內(nèi)容。這一行為存在兩方面的著作權(quán)侵權(quán)風(fēng)險:一方面在輸出端構(gòu)成現(xiàn)有作品的復(fù)制權(quán)或演繹權(quán)侵權(quán),另一方面在輸入端可能被指控未經(jīng)許可利用作品進行數(shù)據(jù)訓(xùn)練。對此,在技術(shù)層面,人工智能開發(fā)者可通過關(guān)鍵詞過濾等措施避免輸出與現(xiàn)有作品相同或相似的內(nèi)容;在法律層面,將侵權(quán)提示作為人工智能開發(fā)者的責(zé)任減輕事由,若人工智能開發(fā)者向使用者做出侵權(quán)提示,在使用者輸入現(xiàn)有作品并實施誘導(dǎo)侵權(quán)時即可駛?cè)搿氨茱L(fēng)港”,從而減輕著作權(quán)侵權(quán)責(zé)任。

        六、結(jié)語

        千余年前人類對機器智能追逐的理想終于在近百年落地為現(xiàn)實。多型人工智能遍地開花、數(shù)據(jù)訓(xùn)練方式多樣,一元的著作權(quán)法規(guī)制路徑在應(yīng)對多類型、多階段訓(xùn)練方式上顯得力不從心。著作權(quán)法的意義和價值在于維護作者的尊嚴(yán),更在于增進社會福祉,保障人工智能開發(fā)者的數(shù)據(jù)利用自由是技術(shù)演進現(xiàn)實與著作權(quán)法價值的共同要求。決策式人工智能與生成式人工智能在數(shù)據(jù)訓(xùn)練原理與外觀上均存在本質(zhì)區(qū)別,對此進行類型化處理有利于準(zhǔn)確回應(yīng)立法與司法的人工智能關(guān)切。決策式人工智能在數(shù)據(jù)訓(xùn)練過程中主要利用數(shù)據(jù)的功能性價值,我國法院可將其數(shù)據(jù)訓(xùn)練行為評價為“轉(zhuǎn)換性使用”。生成式人工智能利用數(shù)據(jù)的表達性價值,生成內(nèi)容極有可能對原作品產(chǎn)生市場替代影響,但基于人工智能產(chǎn)業(yè)的發(fā)展需求,我國應(yīng)當(dāng)重塑可“選擇退出”的合理使用制度予以包容。人工智能數(shù)據(jù)訓(xùn)練合理使用化是大勢所趨,但基于數(shù)據(jù)的權(quán)利重合,數(shù)據(jù)利用過程中人工智能開發(fā)者依然可能侵害個人信息或商業(yè)秘密,或因數(shù)據(jù)獲取手段不當(dāng)構(gòu)成不正當(dāng)競爭。人工智能開發(fā)者在技術(shù)實踐中應(yīng)當(dāng)提升自己的注意水平,合法使用訓(xùn)練數(shù)據(jù),增強算法的可解釋性,避免多重侵權(quán)糾紛。

        Research on Copyright Rules for Artificial Intelligence Data Training under the Perspective of Typology

        Abstract: Artificial intelligence data training accelerates technical iteration and drives industrial upgrading. However, the acquisition and utilization of copyrightable works often lead to copyright infringement disputes.Data training characteristics, industrial development needs and extraterritorial regulatory trends fully demonstrate that the fair use of artificial intelligence data training is a general trend. There is a significant difference between decision-making artificial intelligence and generative artificial intelligence in terms of operation principle and output form, so the copyright law should implement a typological regulation. The former utilizes the functional value of the data, which constitutes “transformative use”, while the latter utilizes the expressive value of the data, which should be included in the fair use situation of “opt-out”. In terms of system design, it is necessary to clarify the obligation of artificial intelligence developers to disclose data training to ensure the possibility of copyright holders to “opt out”, and at the same time, for the user’s data training behavior in reinforcement learning, it is necessary to reduce the liability of artificial intelligence developers when they make infringement cues, so as to realize the liability sharing between users and developers.

        Keywords: Data Training; Decision-Making Artificial Intelligence; Generative Artificial Intelligence; Fair Use; Opt-Out

        基金項目:本文系2021年度國家社科基金重大項目“網(wǎng)絡(luò)化開放創(chuàng)新范式下企業(yè)知識產(chǎn)權(quán)市場化保護與價值轉(zhuǎn)化機制研究”(項目批準(zhǔn)號:21amp;ZD142)的階段性成果。

        作者簡介:王靜,浙江大學(xué)光華法學(xué)院博士研究生。

        猜你喜歡
        生成式人工智能合理使用
        生成式人工智能的教育啟示:讓每個人成為他自己
        挑戰(zhàn)·融合·變革:“ChatGPT與未來教育”會議綜述
        生成式人工智能時代的政治傳播走向
        黨政研究(2023年3期)2023-05-29 01:10:39
        生成式人工智能重塑教育及教師應(yīng)對之道
        人機共生時代國際傳播的理念升維與自主敘事體系構(gòu)建
        對外傳播(2023年4期)2023-05-21 20:52:16
        生成式人工智能的教育應(yīng)用與展望
        信息自由與版權(quán)法的變革
        室外藝術(shù)品原作者署名權(quán)的行使規(guī)則案例分析
        資治文摘(2016年7期)2016-11-23 01:28:38
        淺析如何正確使用多媒體進行高中政治教學(xué)
        南北橋(2016年10期)2016-11-10 17:24:59
        “非遺”圖像——淺談非物質(zhì)文化遺產(chǎn)的圖片拍攝
        日韩精品在线视频一二三| 久久久久久久久888| 欧美日韩亚洲国内综合网| 毛片无码高潮喷白浆视频| baoyu网址国产最新| 久久网站在线免费观看| 最近中文字幕精品在线| 免费人成视网站在线剧情| 欧美成人国产精品高潮| 亚洲第一页综合图片自拍| 久久精品亚洲牛牛影视| 国产天堂av手机在线| 亚洲国产丝袜久久久精品一区二区 | 性欧美老人牲交xxxxx视频| 在线亚洲人成电影网站色www| 欧美日韩国产综合aⅴ| 久久精品这里就是精品| 精品成人av人一区二区三区 | 色综合88| 人妻少妇精品视中文字幕国语| 亚洲av成人久久精品| 精品国产一区二区三区三级| 欧美黑寡妇特a级做爰| 国产香蕉尹人在线观看视频| 国产视频最新| 亚洲天堂av另类在线播放| 久久精品亚洲精品国产区| 精品乱码一区内射人妻无码| 天天爱天天做天天爽| 国产日韩午夜视频在线观看 | 国产在线h视频| 青青青爽在线视频免费播放| 免费人成年激情视频在线观看| 亚洲精品久久久久高潮| 精品一区二区三区在线视频观看| 一区二区三区中文字幕在线观看| 久久精品国产亚洲超碰av| 久久视频在线| 狠狠爱无码一区二区三区| 久久亚洲精品一区二区| 女同同性av观看免费|