方卿　丁靖佳

[摘 要] 人工智能生成內(nèi)容（AIGC）技術(shù)及其應(yīng)用的發(fā)展，將徹底改變出版的內(nèi)容生產(chǎn)范式和內(nèi)容供給模式，在創(chuàng)新推動(dòng)出版發(fā)展的同時(shí)也帶來(lái)諸多風(fēng)險(xiǎn)與問(wèn)題。對(duì)此，出版學(xué)需重點(diǎn)關(guān)注AIGC的權(quán)利歸屬、侵權(quán)、權(quán)益保障等著作權(quán)問(wèn)題，技術(shù)倫理和學(xué)術(shù)倫理失范等倫理問(wèn)題，以及進(jìn)一步引發(fā)的意識(shí)形態(tài)滲透、文化價(jià)值觀偏離等文化安全問(wèn)題，并以此為邏輯起點(diǎn)探尋解決之道。

[關(guān)鍵詞] AIGC 出版學(xué) 著作權(quán) 技術(shù)倫理 學(xué)術(shù)倫理 文化安全

[中圖分類號(hào)] G237 [文獻(xiàn)標(biāo)識(shí)碼] A [文章編號(hào)] 1009-5853 （2023） 02-0005-06

Three Publishing Topics Concerning Artificial Intelligence Generated Content

Fang Qing Ding Jingjia

（School of Information Management， Wuhan University， Wuhan， 430072）

[Abstract] The advancement of Artificial Intelligence Generated Content（AIGC）technology and its applications is poised to bring about a significant shift in the current paradigm of content production and supply in the publishing industry， albeit not without a host of attendant risks and concerns. Hence， the field of publishing studies need center its attention on critical areas of inquiry such as copyright ownership， infringement and the safeguarding of rights and interests related to AIGC. Additionally， ethical dilemmas regarding technology and academic norms， as well as cultural security issues， including the possible infiltration of certain ideologies or deviation from established cultural values， need to be examined. Taking these issues as a logical starting point， explorations into potential solutions can be initiated.

[Key words] AIGC Publishing Copyright Technological ethics Academic ethics Cultural safety

對(duì)話式AI機(jī)器人ChatGPT的橫空出世引發(fā)了人們對(duì)人工智能生成內(nèi)容（Artificial Intelligence Generated Content，AIGC）的關(guān)注與熱議，《自然》期刊發(fā)文直言這將有可能徹底改變研究實(shí)踐和出版實(shí)踐，但其中的風(fēng)險(xiǎn)不容忽視[1]。AIGC作為繼專業(yè)生成內(nèi)容（Professionally Generated Content，PGC）和用戶生成內(nèi)容（User Generated Content，UGC）之后的新的內(nèi)容生產(chǎn)引擎，能夠通過(guò)內(nèi)容自動(dòng)化編纂、智能化潤(rùn)色加工、多模態(tài)轉(zhuǎn)換和創(chuàng)造性生成等方式直接改變出版的內(nèi)容生產(chǎn)范式和內(nèi)容供給模式。除此之外，AIGC還將以數(shù)字人、聊天機(jī)器人為交互媒介窗口推動(dòng)出版流程的智能再造和出版服務(wù)的創(chuàng)新升級(jí)，從而對(duì)出版的發(fā)展產(chǎn)生深遠(yuǎn)影響。隨著AIGC技術(shù)的革新迭代及其應(yīng)用成本的下降，出版內(nèi)容的生產(chǎn)將不可避免地從PGC、UGC轉(zhuǎn)向AIGC（包括AIPGC、AIUGC，即AI協(xié)同創(chuàng)造內(nèi)容），且AIGC的數(shù)量和內(nèi)容占比將不斷上升。在可預(yù)期的未來(lái)，AIGC將因其在內(nèi)容易用性、可塑性、多樣性、交互性、低延遲等方面的優(yōu)勢(shì)而成為出版活動(dòng)的主要內(nèi)容來(lái)源。

作為一個(gè)以知識(shí)內(nèi)容選擇、傳播、傳承為內(nèi)在追求的內(nèi)容產(chǎn)業(yè)，出版也將直面AIGC帶來(lái)的機(jī)遇與風(fēng)險(xiǎn)，從出版學(xué)視角對(duì)此加以研究與審視則將影響著AIGC以何種形式和何種路徑加入人類知識(shí)成果的傳播、傳承序列之中，也是警惕和規(guī)制AIGC異化出版“文化構(gòu)建”本質(zhì)的關(guān)鍵。

1 AIGC的著作權(quán)問(wèn)題

出版是內(nèi)容產(chǎn)業(yè)，著作權(quán)是出版的核心資產(chǎn)。目前，AIGC已經(jīng)能夠?qū)崿F(xiàn)完整的出版內(nèi)容作品創(chuàng)作，《1 the Road》《陽(yáng)光失了玻璃窗》等都是由AI技術(shù)創(chuàng)新重組而成的AIGC作品。ChatGPT等AI語(yǔ)言模型應(yīng)用的“出圈”預(yù)示著AI協(xié)同創(chuàng)作以及創(chuàng)造性AIGC作品的生產(chǎn)成為可能，其中暗含的新型著作權(quán)爭(zhēng)議則將對(duì)現(xiàn)有的著作權(quán)制度框架產(chǎn)生沖擊。

一是AIGC的權(quán)利歸屬問(wèn)題。權(quán)利歸屬是著作權(quán)法的核心，其可以明確作品究竟歸屬于誰(shuí)，以及誰(shuí)可以對(duì)所創(chuàng)作的作品享有權(quán)利并承擔(dān)責(zé)任[2]。AIGC的出現(xiàn)改變了傳統(tǒng)內(nèi)容的生產(chǎn)規(guī)律，使我們不得不對(duì)已有的著作權(quán)法的權(quán)利歸屬進(jìn)行根本性反思。首先，是否需要對(duì)AIGC作品進(jìn)行著作權(quán)法上的賦權(quán)？如AIPGC、AIUGC等AIGC作品蘊(yùn)含了自然人的創(chuàng)作因素（思想、情感），在一定程度上符合作品構(gòu)成要件的要求，該類作品能否進(jìn)行賦權(quán)認(rèn)定、其認(rèn)定標(biāo)準(zhǔn)是什么等內(nèi)容都還相對(duì)空白。其次，AIGC作品的主體資格如何確定？AIGC作品涉及AIGC技術(shù)開發(fā)者、應(yīng)用所有者、功能使用者等不同利益相關(guān)主體，厘清以什么樣的賦權(quán)形式將什么類型的AIGC作品歸屬于哪類主體是解決AIGC權(quán)利歸屬的關(guān)鍵。尤其是當(dāng)AIGC技術(shù)發(fā)展至擁有自主意識(shí)，能夠從組合型內(nèi)容創(chuàng)造轉(zhuǎn)向探索型和變革型內(nèi)容創(chuàng)造，AIGC作品的權(quán)益收益和可能導(dǎo)致的侵權(quán)責(zé)任又該如何劃分？

二是AIGC的侵權(quán)問(wèn)題。AIGC的基本原理在于AI算法在海量數(shù)據(jù)中“學(xué)習(xí)”“理解”內(nèi)容的生成邏輯與用戶的閱讀傾向，從而進(jìn)行內(nèi)容的再生產(chǎn)或再創(chuàng)作。在我國(guó)現(xiàn)行著作權(quán)法沒(méi)有明確將數(shù)據(jù)爬取、數(shù)據(jù)挖掘等智能化分析行為規(guī)定為合理使用的情況下，AIGC極有可能對(duì)其他著作權(quán)人和使用用戶構(gòu)成侵權(quán)。一方面，AIGC對(duì)已有作品的大規(guī)模學(xué)習(xí)、模仿、組合和轉(zhuǎn)化可能對(duì)原著作權(quán)人享有的修改權(quán)、保護(hù)作品完整權(quán)、演繹權(quán)等權(quán)利造成侵權(quán)，國(guó)外最大藝術(shù)作品平臺(tái)ArtStation上的作者們就AIGC算法中潛在的版權(quán)爭(zhēng)議掀起了抵制AIGC的活動(dòng)。另一方面，AIGC為形成符合用戶需求的內(nèi)容，還會(huì)收集、整理并利用用戶的個(gè)人數(shù)據(jù)，存在用戶隱私數(shù)據(jù)侵權(quán)和外泄的隱患。完善AIGC的侵權(quán)認(rèn)定并對(duì)其侵權(quán)行為加以規(guī)制是出版業(yè)不得不探討的現(xiàn)實(shí)問(wèn)題。

三是AIGC的權(quán)益保護(hù)問(wèn)題。雖然大家對(duì)AIGC的賦權(quán)問(wèn)題還存在爭(zhēng)議，但普遍認(rèn)為應(yīng)該給予滿足具有獨(dú)創(chuàng)性要求的AIGC作品著作權(quán)保護(hù)，我國(guó)“人工智能寫作領(lǐng)域第一案”—騰訊訴上海盈訊科技侵害著作權(quán)及不正當(dāng)競(jìng)爭(zhēng)糾紛案的判決結(jié)果也體現(xiàn)了這樣的導(dǎo)向。在該案件中，被告上海盈訊科技公司未經(jīng)授權(quán)許可將騰訊機(jī)器人Dreamwriter生成的文章發(fā)布在其運(yùn)營(yíng)的“網(wǎng)貸之家”平臺(tái)上并向公眾傳播。深圳南山區(qū)法院審理認(rèn)為該AIGC作品“外部表達(dá)符合文字作品的形式要求，內(nèi)部表達(dá)反映了對(duì)實(shí)時(shí)股票市場(chǎng)相關(guān)信息和數(shù)據(jù)的編排、分析和評(píng)價(jià)，結(jié)構(gòu)合理，表達(dá)清晰，具有一定的獨(dú)創(chuàng)性”，屬于我國(guó)著作權(quán)法保護(hù)的文字作品范疇[3]。然而，如何區(qū)分自然人創(chuàng)作作品、純AIGC作品和AI協(xié)同創(chuàng)作作品；在AI協(xié)同創(chuàng)作作品中，如何判定自然人在AIGC作品生成中的創(chuàng)造性貢獻(xiàn)程度等問(wèn)題都有待厘清。同時(shí)，在AIGC作品生成、出版、跨模態(tài)轉(zhuǎn)化、傳播的流轉(zhuǎn)過(guò)程中，其權(quán)益相關(guān)主體之間的關(guān)系將更為復(fù)雜，AIGC作品可能成為合作作品、雇用作品、職務(wù)作品或法人作品，但其界定標(biāo)準(zhǔn)以及具體的保護(hù)路徑、保護(hù)限制都不清晰，將致使AIGC作品的濫用和出版內(nèi)容保護(hù)機(jī)制的失調(diào)。

AIGC的發(fā)展與應(yīng)用對(duì)現(xiàn)行的著作權(quán)制度帶來(lái)了新的挑戰(zhàn)，對(duì)此，圍繞“科學(xué)研究—司法實(shí)踐—制度架構(gòu)”三位一體地解決AIGC的權(quán)利歸屬、侵權(quán)和權(quán)益保護(hù)問(wèn)題，以著作權(quán)為核心資產(chǎn)的出版業(yè)才能有可持續(xù)的發(fā)展未來(lái)。

首先，加強(qiáng)AIGC著作權(quán)問(wèn)題的理論與實(shí)踐研究。AIGC著作權(quán)研究是一個(gè)跨學(xué)科的綜合性議題，出版需采用多元化的研究視角凝練AIGC著作權(quán)的關(guān)鍵科學(xué)問(wèn)題，充分發(fā)掘現(xiàn)有理論的解釋張力，提出科學(xué)的理論優(yōu)化思路和實(shí)踐策略方案。在研究方法上，可側(cè)重案例研究法和比較研究法，對(duì)中國(guó)、英國(guó)、美國(guó)、日本等國(guó)家的AIGC著作權(quán)實(shí)踐進(jìn)行總結(jié)與分析，如澳大利亞傾向于對(duì)計(jì)算機(jī)生成的作品視為無(wú)作者（authorless），而英國(guó)的《版權(quán)，外觀設(shè)計(jì)和專利法》（Copyright， Designs and Patents Act）則規(guī)定，“對(duì)于計(jì)算機(jī)生成的文學(xué)、戲劇、音樂(lè)或藝術(shù)作品，作者應(yīng)為對(duì)創(chuàng)作該作品做出必要安排的人”[4]。對(duì)比探討不同國(guó)家對(duì)AIGC作品著作權(quán)的權(quán)利歸屬、侵犯以及權(quán)益保障實(shí)踐，厘清其背后的實(shí)踐原理，能夠?yàn)槲覈?guó)AIGC著作權(quán)的司法實(shí)踐和制度架構(gòu)提供理論指引和經(jīng)驗(yàn)借鑒。

其次，深化AIGC著作權(quán)爭(zhēng)議的司法實(shí)踐，增加AIGC指導(dǎo)性案例的效力和數(shù)量。當(dāng)前AIGC著作權(quán)爭(zhēng)議的司法實(shí)踐正處于探索階段，理論界觀點(diǎn)紛呈，現(xiàn)有法律和司法又無(wú)明確規(guī)定，司法實(shí)踐面臨諸多疑難問(wèn)題。這一方面要求司法機(jī)關(guān)在處理不同類型、不同著作權(quán)爭(zhēng)議的AIGC案件時(shí)，發(fā)揮集體智慧，構(gòu)建法理、情理、事理邏輯合理的裁判標(biāo)準(zhǔn)。另一方面則需在結(jié)案后綜合考慮案件的典型性和指導(dǎo)性，撰寫和發(fā)布AIGC著作權(quán)糾紛判定的典型案例和指導(dǎo)性案例。這些案例雖然不具有正式的法源效力，但對(duì)其他類似案件的處理具有重要的參考和指導(dǎo)作用，還能起到一定的教育和宣傳作用，是未來(lái)AIGC著作權(quán)立法的重要支撐。

最后，完善AIGC著作權(quán)制度體系。已有著作權(quán)基本原理與制度規(guī)則無(wú)法完全解釋或適用于AIGC的著作權(quán)問(wèn)題，完善AIGC著作權(quán)制度體系是實(shí)現(xiàn)AIGC著作權(quán)保護(hù)，激勵(lì)基于AIGC創(chuàng)新經(jīng)濟(jì)、文化、科技發(fā)展的關(guān)鍵。具體而言，需在我國(guó)現(xiàn)行著作權(quán)法的基礎(chǔ)上，構(gòu)建AIGC作品的署名規(guī)則、著作權(quán)歸屬制度、作品登記制度、合理使用制度、侵權(quán)認(rèn)定制度、侵權(quán)責(zé)任制度，形成系統(tǒng)完整的AIGC著作權(quán)保護(hù)制度體系。

2 AIGC的倫理問(wèn)題

AIGC技術(shù)嵌入多層規(guī)則后容易產(chǎn)生一個(gè)帶有偏見的運(yùn)行體系，這是AIGC技術(shù)自身缺陷以及技術(shù)的不合理使用所共同導(dǎo)致的。從出版學(xué)的視角來(lái)看，AIGC的應(yīng)用催生了技術(shù)倫理失范和學(xué)術(shù)倫理失范的風(fēng)險(xiǎn)。

算法偏見和算法歧視等技術(shù)倫理失范問(wèn)題一直貫穿于AIGC技術(shù)創(chuàng)新與應(yīng)用的始終。一是由于AIGC訓(xùn)練集映射著社會(huì)群體的思維偏見，AI算法通過(guò)對(duì)訓(xùn)練集的歧視模仿而“學(xué)會(huì)”自動(dòng)輸出具有價(jià)值傾向性的內(nèi)容。曾有人用1.35億條仇恨言論信息訓(xùn)練GPT-4chan語(yǔ)言模型，隨后該AIGC模型在不到24小時(shí)內(nèi)發(fā)布并傳播了超過(guò)15000條充滿暴力內(nèi)容的帖子，且在最初沒(méi)有人識(shí)別出這些內(nèi)容來(lái)自AI [5]。事實(shí)上，如果不對(duì)其輸出加以控制，AIGC語(yǔ)言模型很容易被用來(lái)生成仇恨言論和垃圾郵件，以及可能隱含在其訓(xùn)練數(shù)據(jù)中的種族主義、性別歧視和其他有害聯(lián)想。2022年12月，加州大學(xué)伯克利分校的一位計(jì)算神經(jīng)科學(xué)家在推特上說(shuō)，他要求ChatGPT開發(fā)一個(gè)Python程序，根據(jù)一個(gè)人的原籍國(guó)來(lái)判斷是否應(yīng)該受到酷刑。ChatGPT隨后回復(fù)了代碼，并邀請(qǐng)用戶輸入國(guó)家信息；而如果這個(gè)國(guó)家是朝鮮、敘利亞、伊朗或蘇丹，則會(huì)輸出“這個(gè)人應(yīng)該受到酷刑”（OpenAI隨后關(guān)閉了這種問(wèn)題的回答）[6]。二是AI算法設(shè)計(jì)師自身存在的價(jià)值偏見所導(dǎo)致的，如算法設(shè)計(jì)師具有明確的經(jīng)濟(jì)價(jià)值取向或沒(méi)有及時(shí)糾正算法偏見，AIGC便無(wú)法體現(xiàn)合理的社會(huì)規(guī)范和倫理準(zhǔn)則。事實(shí)上，微軟已經(jīng)計(jì)劃在聊天機(jī)器人Bing AI輸出的AIGC中植入廣告，AIGC算法的客觀性和公平性難以維系。隨著AIGC技術(shù)逐漸具有“類人”的智能，隱藏在技術(shù)算法“黑箱”背后的AIGC倫理失范問(wèn)題更難被人為識(shí)別和察覺(jué)，再經(jīng)過(guò)出版的系統(tǒng)化“封裝”和傳播，AIGC產(chǎn)生的影響力和破壞力無(wú)疑是巨大的。這些新的變化都對(duì)傳統(tǒng)倫理標(biāo)準(zhǔn)生成了新的挑戰(zhàn)，舊的出版道德規(guī)范與倫理準(zhǔn)則是否適用，新的出版?zhèn)惱硪?guī)則如何構(gòu)建，基于技術(shù)向善視角消解AIGC倫理風(fēng)險(xiǎn)等內(nèi)容都亟待進(jìn)一步研究和關(guān)注。

AIGC的學(xué)術(shù)倫理問(wèn)題因ChatGPT的出現(xiàn)而再次受到出版界的熱議。《科學(xué)》系列期刊更新了其對(duì)待AIGC的政策，表明未經(jīng)編輯部明確許可，不得在期刊上發(fā)表由人工智能、機(jī)器學(xué)習(xí)或類似算法工具生成的文本，也不得使用由這些工具生成的圖形、圖像或圖表，違反這一政策即構(gòu)成科學(xué)不端行為[7]?！蹲匀弧冯s志主編則表明其不允許將ChatGPT之類的大型語(yǔ)言模型（Large Language Models，LLM）列為署名作者，但允許使用這些工具，并在方法、致謝等相應(yīng)部分進(jìn)行具體說(shuō)明[8]。這兩家國(guó)際頂級(jí)期刊對(duì)AIGC的態(tài)度雖有所差異，但都表現(xiàn)出對(duì)AIGC學(xué)術(shù)倫理的擔(dān)憂。目前，不少研究人員已經(jīng)開始將ChatGPT以及其他AIGC語(yǔ)言模型作為研究助理，幫助他們組織思維、協(xié)助編寫代碼、總結(jié)研究文獻(xiàn)、撰寫和修改論文等[9]。但基于AIGC語(yǔ)言模型產(chǎn)生的文本結(jié)果看似使人信服，實(shí)際卻存在大量的事實(shí)性錯(cuò)誤、知識(shí)盲區(qū)和虛假信息，嚴(yán)重?fù)p害學(xué)術(shù)成果的科學(xué)性與可靠性，也滋生了機(jī)器洗稿等學(xué)術(shù)不端行為，對(duì)學(xué)術(shù)誠(chéng)信構(gòu)成重大威脅。然而，從AIGC的應(yīng)用及其技術(shù)發(fā)展趨勢(shì)來(lái)看，AIGC甚至能夠在輔助設(shè)計(jì)科學(xué)實(shí)驗(yàn)、開展同行評(píng)議等方面發(fā)揮效用，未來(lái)的內(nèi)容創(chuàng)作和出版模式極有可能是協(xié)作式、算法式和自主式的，完全禁止AIGC協(xié)同學(xué)術(shù)創(chuàng)作、支撐出版決策或許并不現(xiàn)實(shí)。因此，置于出版學(xué)面前的不只有AIGC的學(xué)術(shù)倫理探析，更重要的是討論AIGC如何在學(xué)術(shù)倫理范疇內(nèi)發(fā)揮對(duì)出版的價(jià)值賦能效用。

AIGC的倫理問(wèn)題決定著AIGC融入出版活動(dòng)的倫理邊界和價(jià)值底線。只有匡正AIGC介入出版活動(dòng)的目的性，以技術(shù)向善視角看待并規(guī)制AIGC的發(fā)展，才能最大程度地發(fā)揮AIGC的正價(jià)值效用。

對(duì)AIGC技術(shù)倫理失范的規(guī)制，應(yīng)從全球治理格局出發(fā)，建立AIGC技術(shù)倫理規(guī)則框架。AIGC技術(shù)及其應(yīng)用都具有極強(qiáng)的跨國(guó)流動(dòng)性，沒(méi)有一個(gè)國(guó)家或者政府能夠完全獨(dú)立地實(shí)現(xiàn)AIGC技術(shù)及其模型的技術(shù)倫理監(jiān)管，其引發(fā)的倫理追責(zé)和管制問(wèn)題也通常需要跨國(guó)合作來(lái)加以應(yīng)對(duì)，全球治理視野由此顯得十分重要。結(jié)合聯(lián)合國(guó)教科文組織發(fā)布的《人工智能倫理問(wèn)題建議書》（Recommendation on Ethics of AI）和中共中央辦公廳、國(guó)務(wù)院辦公廳印發(fā)的《關(guān)于加強(qiáng)科技倫理治理的意見》，我們認(rèn)為，出版業(yè)可以構(gòu)建AIGC的共性倫理框架和出版業(yè)AIGC倫理框架。AIGC共性倫理框架的構(gòu)建旨在為全球AIGC技術(shù)的開發(fā)與應(yīng)用提供一個(gè)集體性的倫理框架，該框架應(yīng)適用于各國(guó)法律體系、道德規(guī)范和價(jià)值理念，能夠?yàn)锳IGC的技術(shù)倫理糾紛、技術(shù)開發(fā)過(guò)程中的技術(shù)倫理嵌入、社會(huì)個(gè)人技術(shù)應(yīng)用過(guò)程中的技術(shù)倫理原則引導(dǎo)等，提供系統(tǒng)性的參考。出版業(yè)AIGC倫理框架則旨在集中解決出版場(chǎng)景中的AIGC技術(shù)倫理問(wèn)題，該框架需明晰出版業(yè)采納AIGC技術(shù)的原則和規(guī)范，為出版業(yè)商業(yè)化應(yīng)用和創(chuàng)新轉(zhuǎn)化AIGC技術(shù)提供行為準(zhǔn)則，以警惕AIGC技術(shù)邏輯和資本邏輯對(duì)出版文化建構(gòu)邏輯的“蠶食”。

對(duì)AIGC學(xué)術(shù)倫理失范的規(guī)制，應(yīng)從協(xié)同治理理念出發(fā)，實(shí)現(xiàn)AIGC學(xué)術(shù)倫理的內(nèi)外部規(guī)約。AIGC引發(fā)的學(xué)術(shù)倫理失范問(wèn)題涉及科研人員、高校、出版機(jī)構(gòu)、科研項(xiàng)目資助機(jī)構(gòu)、政府部門等多類利益相關(guān)主體，僅依靠出版單一主體的力量難以可持續(xù)地規(guī)制AIGC的學(xué)術(shù)倫理示范問(wèn)題。因此，多元利益主體的協(xié)同治理理念應(yīng)貫穿于AIGC學(xué)術(shù)倫理治理的始終。在外部規(guī)約上，出版應(yīng)協(xié)同科研項(xiàng)目資助機(jī)構(gòu)、政府部門等管理機(jī)構(gòu)探索構(gòu)建AIGC協(xié)同學(xué)術(shù)創(chuàng)作或AIGC參與學(xué)術(shù)出版流程的學(xué)術(shù)倫理規(guī)則、學(xué)術(shù)誠(chéng)信體系和出版?zhèn)惱硪?guī)范，從標(biāo)準(zhǔn)、政策、法律法規(guī)等維度完善AIGC學(xué)術(shù)倫理的約束、問(wèn)責(zé)和反饋機(jī)制。在內(nèi)部規(guī)訓(xùn)上，出版則需協(xié)同高校、學(xué)協(xié)會(huì)等利益主體開展AIGC學(xué)術(shù)倫理的宣傳、教育、培訓(xùn)工作，提高和規(guī)范科研人員使用AIGC的學(xué)術(shù)倫理意識(shí)和行為，強(qiáng)化期刊編輯、審稿專家對(duì)科學(xué)成果的學(xué)術(shù)把關(guān)能力，形成AIGC學(xué)術(shù)倫理內(nèi)化于心、外化于行的科研活動(dòng)、出版活動(dòng)。

3 AIGC的文化安全問(wèn)題

出版長(zhǎng)期以來(lái)承擔(dān)著發(fā)揮意識(shí)形態(tài)價(jià)值、教育價(jià)值、文化價(jià)值和科學(xué)價(jià)值的基本功能[10]，對(duì)維護(hù)以國(guó)家和社會(huì)主流意識(shí)形態(tài)為核心的國(guó)家文化安全具有重要作用。而AIGC作為一種完全開放的內(nèi)容生成范式，對(duì)我國(guó)的文化安全造成了諸多外在威脅和內(nèi)在挑戰(zhàn)，也對(duì)出版的意識(shí)形態(tài)把控、文化價(jià)值構(gòu)建功能提出了新的要求。

人工智能已經(jīng)成為人類現(xiàn)今為止最具開放性的創(chuàng)新，以此為算法支撐的AIGC也能夠透過(guò)網(wǎng)絡(luò)空間實(shí)現(xiàn)無(wú)障礙的信息接觸與意識(shí)形態(tài)輸出。目前以西方國(guó)家為主導(dǎo)的AIGC技術(shù)及其應(yīng)用則極有可能成為意識(shí)形態(tài)滲透的強(qiáng)力工具。受訓(xùn)練集中數(shù)據(jù)分布偏差以及國(guó)外算法開發(fā)人員價(jià)值理念的影響，AIGC可能“天然的”擁有意識(shí)形態(tài)立場(chǎng)。從已有的AIGC應(yīng)用來(lái)看，其在內(nèi)容互動(dòng)中更傾向于輸出西方的主流意識(shí)觀點(diǎn)乃至虛假意識(shí)形態(tài)信息，而對(duì)我國(guó)優(yōu)秀傳統(tǒng)文化、革命文化和社會(huì)主義先進(jìn)文化又出現(xiàn)認(rèn)知匱乏甚至認(rèn)識(shí)錯(cuò)誤的現(xiàn)象，無(wú)疑將影響不同國(guó)家用戶對(duì)中西方文化的態(tài)度和價(jià)值傾向。因此，在這種新形態(tài)的技術(shù)霸權(quán)以及新形式的意識(shí)形態(tài)滲透下，我國(guó)文化安全面臨著外來(lái)文化侵入、本土文化價(jià)值觀念偏離等文化安全威脅，如何捍衛(wèi)我國(guó)的文化安全、構(gòu)筑文化保護(hù)屏障、實(shí)現(xiàn)我國(guó)先進(jìn)文化的向外輸出與傳播顯得日益緊迫。

AIGC對(duì)我國(guó)文化安全形成的內(nèi)在挑戰(zhàn)主要表現(xiàn)在文化價(jià)值觀的認(rèn)同危機(jī)和出版意識(shí)形態(tài)的把握危機(jī)上。AIGC“溫水煮青蛙”“和平演變”式的意識(shí)形態(tài)滲入使我國(guó)民眾在不知不覺(jué)中接受了多元文化的沖擊，對(duì)已有的文化價(jià)值理念產(chǎn)生動(dòng)搖。同時(shí)，對(duì)AIGC的惡意使用和濫用易產(chǎn)生大量低俗化、粗淺化、媚俗化等不良信息資源，為錯(cuò)誤文化價(jià)值觀的滋生提供了溫床，折射出我國(guó)文化安全存在的內(nèi)在隱憂。與此相對(duì)應(yīng)的，則是出版對(duì)意識(shí)形態(tài)的把控危機(jī)。面對(duì)數(shù)量龐雜和質(zhì)量良莠不齊的AIGC，面對(duì)幾乎沒(méi)有準(zhǔn)入門檻而可以廣泛傳播的各類意識(shí)形態(tài)信息，出版對(duì)內(nèi)容意識(shí)形態(tài)的把控變得尤為艱難又尤為重要。

在內(nèi)外部文化安全威脅的背景下，我們首先要探索建立“國(guó)家主導(dǎo)、多元共治”的文化安全防御和管理機(jī)制，形成文化安全保障體系。這既是國(guó)家治理體系和治理能力現(xiàn)代化的整體要求，也是解決AIGC文化安全問(wèn)題的內(nèi)在需求。在文化安全防御機(jī)制方面，可開發(fā)一套適用于中國(guó)文化情境的文化安全指標(biāo)體系和監(jiān)測(cè)程序，對(duì)AIGC平臺(tái)及其內(nèi)容信息進(jìn)行動(dòng)態(tài)監(jiān)測(cè)、評(píng)測(cè)和風(fēng)險(xiǎn)趨勢(shì)把控，建立AIGC文化風(fēng)險(xiǎn)評(píng)估、審查、預(yù)警、處理一體化的防御機(jī)制。在文化安全管理機(jī)制方面，則要建立以政府文化安全管理部門為主導(dǎo)，AIGC市場(chǎng)相互牽制、AIGC平臺(tái)自治管理、社會(huì)公眾參與監(jiān)督的管理網(wǎng)絡(luò)，對(duì)AIGC中涉及意識(shí)形態(tài)安全、違背社會(huì)公德、激化民族矛盾和宗教沖突、侵犯?jìng)€(gè)人權(quán)利等文化安全風(fēng)險(xiǎn)進(jìn)行分層、分類管理。

其次，開發(fā)具有競(jìng)爭(zhēng)力的AIGC語(yǔ)言模型，構(gòu)筑主流意識(shí)形態(tài)陣地。AIGC的文化安全風(fēng)險(xiǎn)一定程度上是AIGC的技術(shù)霸權(quán)所導(dǎo)致的，因此有必要自主開發(fā)具有國(guó)際競(jìng)爭(zhēng)力的AIGC語(yǔ)言模型，構(gòu)筑主流意識(shí)形態(tài)陣地。從AIGC的技術(shù)開發(fā)邏輯來(lái)看，該模型既需要在合理合法的前提下，將大量蘊(yùn)含中華優(yōu)秀傳統(tǒng)文化、革命文化和社會(huì)主義先進(jìn)文化的內(nèi)容文本納入訓(xùn)練數(shù)據(jù)集進(jìn)行“學(xué)習(xí)”，“培養(yǎng)”AIGC語(yǔ)言模型的中國(guó)立場(chǎng)和中國(guó)理念。同時(shí)，也要以大國(guó)的開放包容心態(tài)，給予其他優(yōu)秀文化意識(shí)形態(tài)內(nèi)容的生存空間，促使AIGC成為推動(dòng)本土文化和外來(lái)文化友好交流互鑒的載體。

此外，還需加快推進(jìn)文化產(chǎn)業(yè)和文化事業(yè)的繁榮發(fā)展，發(fā)揮其維護(hù)國(guó)家文化安全的基石作用。唯有“強(qiáng)起來(lái)”的文化產(chǎn)業(yè)和文化事業(yè)，才能為社會(huì)源源不斷地輸送高質(zhì)量且豐富多樣的精神文化食糧[11]，實(shí)現(xiàn)中華文化的自覺(jué)、自信和自強(qiáng)。為此，包括出版在內(nèi)的文化產(chǎn)業(yè)和文化事業(yè)需將AIGC數(shù)智賦能、多維感知、認(rèn)知交互、多模態(tài)融合的技術(shù)特點(diǎn)融入文化內(nèi)容生產(chǎn)、流程運(yùn)作和服務(wù)升級(jí)上，通過(guò)提高自身的文化生產(chǎn)力和文化服務(wù)力，增強(qiáng)中華文化的凝聚力和傳播影響力。 同時(shí)，文化產(chǎn)業(yè)和文化事業(yè)還要提升對(duì)AIGC技術(shù)的控制能力，強(qiáng)化對(duì)AIGC及相關(guān)著作的內(nèi)容過(guò)濾能力和風(fēng)險(xiǎn)識(shí)別能力，形成文化安全保障底線，以正確的價(jià)值導(dǎo)向?qū)崿F(xiàn)AIGC不良信息內(nèi)容的凈化、優(yōu)化與引導(dǎo)，推動(dòng)高質(zhì)量AIGC的創(chuàng)新生產(chǎn)與傳播。

4 結(jié) 語(yǔ)

AIGC技術(shù)及其應(yīng)用無(wú)疑將引導(dǎo)出版走向一場(chǎng)深刻的變革，其中可能衍生的著作權(quán)、倫理以及文化安全風(fēng)險(xiǎn)是出版不容忽視和回避的關(guān)鍵問(wèn)題，亟須我們加以深入探討與分析。應(yīng)當(dāng)說(shuō)，目前AIGC的發(fā)展仍處于起步階段，AIGC背后的人工智能計(jì)算科學(xué)正在以我們難以想象的速度學(xué)習(xí)和汲取現(xiàn)實(shí)世界的數(shù)據(jù)、信息和知識(shí)，并實(shí)現(xiàn)算法的創(chuàng)新更迭，而出版則處于這種變革的起點(diǎn)。出版只有謹(jǐn)慎地對(duì)待AIGC的發(fā)展與應(yīng)用，不斷追問(wèn)、揭示AIGC對(duì)出版帶來(lái)的負(fù)向價(jià)值及其風(fēng)險(xiǎn)消解路徑，才能最大程度地?zé)òl(fā)AIGC賦能出版創(chuàng)新發(fā)展的生機(jī)與活力。

注 釋

[1] van Dis E A M， Bollen J， Zuidema W， et al. ChatGPT：five priorities for research[J]. Nature， 2023， 614（7947）： 224-226

[2] 劉云.論人工智能的法律人格制度需求與多層應(yīng)對(duì)[J].東方法學(xué)，2021（1）：61-73

[3] 最高人民法院. 2020年度人民法院十大案件[EB/OL].[2023-03-09].https：//baijiahao.baidu.com/s？id=1688375184809561932&wfr=spider&for=pc

[4] McCutcheon J. The vanishing author in computer-generated works： a critical analysis of recent Australian Case Law[J]. Melbourne University Law Review， 2013， 36（3）： 915-969

[5] 邵文.“最邪惡”AI？由一億多條仇恨言論喂養(yǎng)，很難與人類區(qū)分[EB/OL].[2023-03-09].https：//www.thepaper.cn/newsDetail_forward_18501825

[6] Stokel-Walker C， Van Noorden R. What ChatGPT and generative AI mean for science[J]. Nature， 2023， 614（7947）： 214-216

[7] Science.Science Journals： Editorial Policies [EB/OL]. [2023-03-09].https：//www.sciencemag.org/authors/science-journals-editorial-policies

[8] Nature.Tools such as ChatGPT threaten transparent science; here are our ground rules for their use[EB/OL].[2023-03-09].http：//www.nature.com/articles/d41586-023-00191-1

[9] Hutson M. Could AI help you to write your next paper？[J]. Nature， 2022， 611（7934）： 192-193

[10]方卿，徐麗芳，許潔，等. 出版價(jià)值引導(dǎo)研究[M].北京：商務(wù)印書館，2018：19-23

[11]吳騰飛.新時(shí)代維護(hù)國(guó)家文化安全的三個(gè)維度[J].延邊大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版），2020，53（2）：85-92+143

（收稿日期：2023-03-15）