摘 要：智能出版是人工智能技術(shù)應(yīng)用于出版業(yè)融合發(fā)展而形成的新型出版模式，是數(shù)字出版發(fā)展的高級(jí)階段。智能出版具有先天的技術(shù)發(fā)展優(yōu)勢(shì)，但也存在技術(shù)引發(fā)的不確定性。正是這種不確定性導(dǎo)致了智能出版的倫理問(wèn)題，因而需要回答智能出版如何規(guī)范化發(fā)展，即智能出版“應(yīng)該做什么”與“不應(yīng)該做什么”。根據(jù)智能出版活動(dòng)中人的主體行為不當(dāng)與智能出版技術(shù)應(yīng)用引發(fā)的不確定性，智能出版?zhèn)惱盹L(fēng)險(xiǎn)包括技術(shù)發(fā)展失控，技術(shù)誤用、濫用與應(yīng)用后的負(fù)面影響，以及管理不當(dāng)和管理欠缺造成的問(wèn)題。針對(duì)智能出版現(xiàn)存或潛在的倫理風(fēng)險(xiǎn)，需要構(gòu)建智能出版?zhèn)惱眢w系，通過(guò)其倫理使命、準(zhǔn)則與細(xì)則形成有機(jī)體，發(fā)揮系統(tǒng)性作用機(jī)制，最大程度實(shí)現(xiàn)人工智能技術(shù)在出版業(yè)的向善發(fā)展，促進(jìn)智能出版生態(tài)創(chuàng)新。

關(guān)鍵詞：智能出版；出版?zhèn)惱恚蝗斯ぶ悄?；治理；倫理風(fēng)險(xiǎn)

DOI： 10.3969/j.issn.2097-1869.2024.03.007 文獻(xiàn)標(biāo)識(shí)碼：A

著錄格式：吳亮芳，羅群群，趙星宇.智能出版?zhèn)惱肀举|(zhì)、風(fēng)險(xiǎn)與治理研究[J].數(shù)字出版研究，2024，3（3）：56-64.

1 智能出版?zhèn)惱硌芯康睦碚撊笔c實(shí)踐需求

1956年被認(rèn)為是人工智能元年。這一年夏天，在美國(guó)召開(kāi)的著名的達(dá)特茅斯會(huì)議（Dartmouth Conference）上，信息論創(chuàng)始人克勞德·香農(nóng)（Claude Shannon）見(jiàn)證了人工智能學(xué)科的誕生，并完成與約翰·麥卡錫（John McCarthy）、馬文·明斯基（Marvin Minsky）、赫伯特·西蒙（Herbert Simon）、艾倫·紐厄爾（Allen Newell）等新一代人工智能學(xué)術(shù)領(lǐng)袖的傳承。之后，人工智能的發(fā)展就與其他新事物一樣，并非一帆風(fēng)順，而是歷經(jīng)“三起兩落”的曲折歷程后才成為全世界關(guān)注的焦點(diǎn)。

出版是一個(gè)技術(shù)驅(qū)動(dòng)的行業(yè)，自然不會(huì)錯(cuò)失與人工智能融合發(fā)展的機(jī)遇。兩者的融合發(fā)展不斷催生出新的應(yīng)用場(chǎng)景，促使出版產(chǎn)品、出版服務(wù)與出版生態(tài)的創(chuàng)新與變革，進(jìn)而引發(fā)智能出版學(xué)理探討。早在2005年，朱李莉等[1]就提出了網(wǎng)絡(luò)出版的商務(wù)智能模型，但并未提及智能出版概念。直到2018年，劉華東等[2]在文章中提到“智能出版”，并指出“智能出版將會(huì)成為新聞出版業(yè)的未來(lái)發(fā)展趨勢(shì)”。同年，宋偉等[3]在分析人工智能與數(shù)字出版業(yè)融合發(fā)展現(xiàn)狀的基礎(chǔ)上首次提出了智能出版概念，并認(rèn)為智能出版專指“人工智能+數(shù)字出版”。之后，有關(guān)智能出版的研究文獻(xiàn)迅速增多，據(jù)不完全統(tǒng)計(jì)，短短5年中已有百余篇論文，還有1部專著，研究?jī)?nèi)容涉及智能出版的概念、技術(shù)原理、流程變革、現(xiàn)實(shí)困境、實(shí)現(xiàn)路徑等方面。具體到智能出版?zhèn)惱硌芯浚延袆嶽4]、劉海明[5]、吳煒華[6]、李華君[7]等展開(kāi)研究，主要觀點(diǎn)為智能出版技術(shù)的泛化與過(guò)度使用引發(fā)出版主體身份焦慮、內(nèi)容文化屬性偏離、算法關(guān)系黑箱等倫理風(fēng)險(xiǎn)。除此之外，還有部分研究成果探討人工智能技術(shù)在學(xué)術(shù)出版等具體領(lǐng)域中的應(yīng)用引發(fā)的倫理風(fēng)險(xiǎn)，如張萍等[8]指出機(jī)器參與論文寫(xiě)作會(huì)造成“數(shù)據(jù)倫理問(wèn)題、學(xué)術(shù)創(chuàng)新?tīng)?zhēng)議、算法黑箱與偏見(jiàn)問(wèn)題、引用問(wèn)題和署名問(wèn)題”。這些研究成果大多建立在已有人工智能技術(shù)應(yīng)用于出版業(yè)的現(xiàn)實(shí)基礎(chǔ)上，進(jìn)而分析、歸納出倫理風(fēng)險(xiǎn)，具有開(kāi)拓價(jià)值，但還需系統(tǒng)性深化，以滿足智能出版高質(zhì)量發(fā)展要求。

2022年11月，隨著具有多模態(tài)生成能力的ChatGPT成功出圈，智能出版發(fā)展更加迅速，涌現(xiàn)諸多智能化應(yīng)用場(chǎng)景。依據(jù)傳統(tǒng)出版流程，智能技術(shù)在出版業(yè)中的應(yīng)用場(chǎng)景涵蓋了選題策劃、內(nèi)容創(chuàng)作、編輯校對(duì)、發(fā)行、營(yíng)銷等關(guān)鍵環(huán)節(jié)。然而，由于生成式人工智能技術(shù)比以往的科學(xué)技術(shù)更具有類人化與智能性，其所引發(fā)的智能出版?zhèn)惱韱?wèn)題更為復(fù)雜。事實(shí)上，除了已有研究文獻(xiàn)歸納的倫理風(fēng)險(xiǎn)以外，還可能存在難以預(yù)知的倫理風(fēng)險(xiǎn)?？梢哉f(shuō)，智能出版?zhèn)惱盹L(fēng)險(xiǎn)預(yù)防難度極大，而現(xiàn)有防范機(jī)制有待完善，而且隨著技術(shù)不斷發(fā)展，更多未知的倫理風(fēng)險(xiǎn)還將不斷涌現(xiàn)。因此，須對(duì)智能出版?zhèn)惱碜繁舅菰?，探究其本質(zhì)，對(duì)其風(fēng)險(xiǎn)進(jìn)行立體化分析，并構(gòu)建治理體系，以確保智能出版業(yè)健康、有序地發(fā)展。

2 本質(zhì)：智能出版的“應(yīng)該做”與“不應(yīng)該做”

本質(zhì)是指“事物本身所固有的，決定事物性質(zhì)、面貌和發(fā)展的根本屬性”。智能出版?zhèn)惱肀举|(zhì)是其獨(dú)有的特性，而這種特性源于人工智能技術(shù)在出版業(yè)中的應(yīng)用。為了厘清智能出版?zhèn)惱肀举|(zhì)，以下采用追根溯源的方式，按照“倫理—人工智能倫理—智能出版?zhèn)惱怼钡倪壿嬛鸺?jí)展開(kāi)分析。

倫理本意是指事物的條理，引申為人倫道德之理。在我國(guó)，“倫理”一詞最早見(jiàn)于秦漢時(shí)期的《禮記· 樂(lè)記篇》：“樂(lè)者，通倫理者也。”在《說(shuō)文解字》中，“倫理”一詞解釋為“倫，從人，輩也，明道也；理，從玉，治玉也”，這是最早將“倫理”界定為人與人的關(guān)系的規(guī)范記載。在西方，“倫理”一詞來(lái)源于古希臘，本意是指一群人居住的地方，后來(lái)其意義擴(kuò)大為一群人的性格、氣質(zhì)、風(fēng)俗習(xí)慣、思想方式等，并演繹為人與人之間的關(guān)系及其規(guī)范。盡管倫理的內(nèi)涵在我國(guó)的演化路徑不同于西方國(guó)家，但逐漸趨于一致，都是指人與人的關(guān)系和規(guī)范。隨著人類文明的發(fā)展，人際關(guān)系和人類事務(wù)越來(lái)越復(fù)雜，倫理問(wèn)題產(chǎn)生的具體情境越來(lái)越具有特殊性，因而倫理的內(nèi)涵也越來(lái)越豐富，外延也不斷拓展。一般認(rèn)為，倫理概念有廣義和狹義之分。狹義的倫理主要關(guān)涉道德本身，包括人與人、人與社會(huì)、人與自身的關(guān)系和規(guī)范；而廣義的倫理除了人與人、人與社會(huì)、人與自身的關(guān)系和規(guī)范外，還包括義務(wù)、責(zé)任、價(jià)值、正義等一系列價(jià)值觀[9]。

20世紀(jì)60—70年代，應(yīng)用倫理學(xué)興起，研究范圍關(guān)乎一切具體并具爭(zhēng)議的道德應(yīng)用問(wèn)題，包括科技倫理、生命倫理、動(dòng)物倫理、生態(tài)倫理、環(huán)境倫理、藝術(shù)倫理等。其中，科技倫理指各種科學(xué)技術(shù)發(fā)展所引發(fā)的倫理問(wèn)題，涉及基因編輯、克隆、納米、互聯(lián)網(wǎng)及人工智能等多種科學(xué)技術(shù)發(fā)展和應(yīng)用領(lǐng)域?？梢?jiàn)，科技倫理是倫理學(xué)的一個(gè)分支，人工智能倫理屬于科技倫理范疇。作為一種科學(xué)技術(shù)，人工智能越來(lái)越具有類人化與智能性特征。正是這種類人化與智能性使得人工智能倫理問(wèn)題要比其他科技倫理更復(fù)雜，也更受關(guān)注。根據(jù)倫理概念，結(jié)合人工智能倫理問(wèn)題的復(fù)雜性，人工智能倫理也有廣義和狹義之分。狹義的人工智能倫理是指人與人工智能技術(shù)系統(tǒng)、智能機(jī)器的關(guān)系及其使用所引發(fā)的涉及人類的倫理道德問(wèn)題，屬于應(yīng)用倫理學(xué)；廣義的人工智能倫理是指人與人工智能系統(tǒng)、人與智能機(jī)器、人與智能社會(huì)之間的倫理關(guān)系，以及超現(xiàn)實(shí)的強(qiáng)人工智能倫理問(wèn)題，包括人工智能系統(tǒng)與智能機(jī)器對(duì)于人類的責(zé)任、安全、正義等范疇[9]。

根據(jù)概念邏輯關(guān)系，智能出版?zhèn)惱砼c人工智能倫理為從屬關(guān)系，智能出版?zhèn)惱硎侨斯ぶ悄軅惱淼南挛桓拍?。結(jié)合人工智能倫理定義與智能出版活動(dòng)特點(diǎn)，智能出版?zhèn)惱硎顷P(guān)于智能出版活動(dòng)主體間的關(guān)系，同樣也有廣義和狹義之分。狹義的智能出版?zhèn)惱硎侵赋霭婊顒?dòng)中的人與智能出版技術(shù)、出版活動(dòng)中的人與智能出版生態(tài)之間的關(guān)系；廣義的智能出版?zhèn)惱沓税íM義的定義外，還包括智能出版技術(shù)對(duì)國(guó)家、社會(huì)的責(zé)任、安全等使命。

相比人工智能倫理，智能出版?zhèn)惱淼奶匦允怯扇斯ぶ悄芗夹g(shù)應(yīng)用于出版活動(dòng)而引發(fā)的。正是基于人工智能技術(shù)，智能出版一方面具有先天的發(fā)展優(yōu)勢(shì)，另一方面由人工智能技術(shù)引發(fā)出許多不確定性。這種不確定性就是智能出版?zhèn)惱韱?wèn)題的起源，需要回答智能出版應(yīng)該如何規(guī)范化發(fā)展，具體為如何處理智能出版活動(dòng)中的人與智能出版技術(shù)、智能出版生態(tài)系統(tǒng)等之間的關(guān)系。從倫理主體間的關(guān)系出發(fā)，智能出版?zhèn)惱肀举|(zhì)就是，智能出版活動(dòng)中的人應(yīng)該做什么、不應(yīng)該做什么，智能出版活動(dòng)中的人讓智能出版技術(shù)應(yīng)該做什么、不應(yīng)該做什么。 智能出版?zhèn)惱淼摹皯?yīng)該做”與“不應(yīng)該做”，源自道德的社會(huì)責(zé)任、出版業(yè)的社會(huì)使命，以及智能出版的社會(huì)價(jià)值。其中，“應(yīng)該做什么”是智能出版活動(dòng)中的人從文化傳承、知識(shí)服務(wù)與智能出版生態(tài)創(chuàng)新的使命出發(fā)，指導(dǎo)智能出版技術(shù)的設(shè)計(jì)、開(kāi)發(fā)和應(yīng)用，使智能出版帶來(lái)積極的影響，成為新質(zhì)生產(chǎn)力發(fā)展的重要載體和發(fā)展方向，屬于“正”的一面；“不應(yīng)該做什么”是智能出版活動(dòng)中的人違背其出版使命，主觀或客觀性地錯(cuò)誤設(shè)計(jì)、開(kāi)發(fā)與應(yīng)用智能出版技術(shù)，使智能出版產(chǎn)生負(fù)面影響，屬于“反”的一面。這兩方面相輔相成、無(wú)法分割，共同構(gòu)成了智能出版?zhèn)惱淼谋举|(zhì)內(nèi)涵。

3 風(fēng)險(xiǎn)：智能出版技術(shù)的失控、應(yīng)用與管理

智能出版?zhèn)惱盹L(fēng)險(xiǎn)由出版活動(dòng)中的人與智能出版技術(shù)、智能出版生態(tài)間關(guān)系不確定性引發(fā)，表征為智能出版活動(dòng)效益與人工智能技術(shù)應(yīng)用目的之間的不確定性。那么，產(chǎn)生這種不確定性的原因是什么，又有哪些不確定性？這是應(yīng)對(duì)智能出版風(fēng)險(xiǎn)真正要探尋的問(wèn)題。

人工智能研究產(chǎn)出了許多技術(shù)途徑，其中占據(jù)主導(dǎo)地位的兩大途徑是強(qiáng)力法和訓(xùn)練法。強(qiáng)力法利用顯式表達(dá)的知識(shí)進(jìn)行推理來(lái)解決問(wèn)題，是可解釋的，其常用的知識(shí)表示和推理方法基于形式化邏輯、概率論、決策論規(guī)劃、狀態(tài)空間上的搜索等；訓(xùn)練法利用人工標(biāo)注的數(shù)據(jù)訓(xùn)練人工神經(jīng)網(wǎng)絡(luò)（或其他類型的隱式知識(shí)表示模型），用訓(xùn)練好的人工神經(jīng)網(wǎng)絡(luò)來(lái)解決問(wèn)題。深度學(xué)習(xí)是訓(xùn)練法的一個(gè)著名例子[10]。一般認(rèn)為，人工智能技術(shù)強(qiáng)力法和訓(xùn)練法的應(yīng)用場(chǎng)景只要符合封閉性準(zhǔn)則就不存在技術(shù)風(fēng)險(xiǎn)，也不存在倫理風(fēng)險(xiǎn)。智能出版符合強(qiáng)力法的封閉性準(zhǔn)則有三個(gè)條件：（1）影響智能出版應(yīng)用場(chǎng)景的多個(gè)因素能簡(jiǎn)化為有限確定要素，從而可在一個(gè)有限確定的范圍進(jìn)行設(shè)計(jì)；（2）智能出版應(yīng)用場(chǎng)景中的所有影響因素都服從出版領(lǐng)域定律，并用智能出版模型表達(dá)出來(lái)；（3）智能出版模型符合該應(yīng)用場(chǎng)景的需求、應(yīng)用場(chǎng)合和應(yīng)用條件等所有因素要求。智能出版符合訓(xùn)練法的封閉性準(zhǔn)則同樣“以設(shè)計(jì)和評(píng)價(jià)準(zhǔn)則為出發(fā)點(diǎn)，以結(jié)果導(dǎo)向的方式開(kāi)展研發(fā)，不需要把握領(lǐng)域定律，只要測(cè)試結(jié)果達(dá)到了評(píng)價(jià)準(zhǔn)則的要求就算成功”[11]。然而在實(shí)踐中，智能出版的封閉性應(yīng)用場(chǎng)景雖可由強(qiáng)力法和訓(xùn)練法技術(shù)結(jié)合加以解決，但仍然存在不確定性：封閉性準(zhǔn)則下，強(qiáng)力法技術(shù)應(yīng)用中難以找出完整的領(lǐng)域定律，訓(xùn)練法技術(shù)應(yīng)用中具有不可解釋性并缺乏巨大的代表性數(shù)據(jù)集。另外，封閉限制則可能因出現(xiàn)更強(qiáng)大的人工智能技術(shù)而被突破，出現(xiàn)難以控制的技術(shù)風(fēng)險(xiǎn)，從而引發(fā)倫理風(fēng)險(xiǎn)。除人工智能技術(shù)應(yīng)用于出版業(yè)引發(fā)不確定性之外，還有智能出版活動(dòng)中的人的主體行為不當(dāng)而引發(fā)的倫理風(fēng)險(xiǎn)?；诖?，智能出版?zhèn)惱盹L(fēng)險(xiǎn)主要體現(xiàn)為以下三個(gè)方面。

3.1 智能出版技術(shù)的失控問(wèn)題

人工智能技術(shù)失控不是智能出版的專有風(fēng)險(xiǎn)，而是人工智能技術(shù)發(fā)展的潛在問(wèn)題，實(shí)質(zhì)是人工智能技術(shù)的主體性倫理風(fēng)險(xiǎn)。從發(fā)展歷程來(lái)看，人工智能技術(shù)越發(fā)具有類人化與智能性特征，特別是以ChatGPT、文心一言等為代表的大語(yǔ)言模型的成功出圈，引起許多人擔(dān)憂人工智能技術(shù)有可能超越人類的控制能力，并擺脫人類的控制而獨(dú)立發(fā)展，甚至反過(guò)來(lái)控制人類。正如美國(guó)當(dāng)代著名技術(shù)哲學(xué)家蘭登·溫納（Langdon Winner）指出，技術(shù)有時(shí)并不能服務(wù)于人類，反而會(huì)失去控制，甚至?xí)?dǎo)致災(zāi)難。人類對(duì)人工智能技術(shù)失控的擔(dān)憂遠(yuǎn)勝于其他技術(shù)，這是因?yàn)槿斯ぶ悄芗夹g(shù)失控與其他技術(shù)失控之間存在本質(zhì)區(qū)別：其他類型技術(shù)失控多為結(jié)果的不可控，而人工智能技術(shù)失控是人類對(duì)技術(shù)控制權(quán)的喪失[12]。對(duì)智能出版來(lái)說(shuō)，若有一天發(fā)生人工智能技術(shù)的失控，那么可能出現(xiàn)人類知識(shí)存儲(chǔ)、社會(huì)歷史等被篡改為有利于人工智能統(tǒng)治的社會(huì)文化?？梢钥隙ǖ氖牵軓?qiáng)力法封閉性與訓(xùn)練法封閉性的限制，現(xiàn)階段這類技術(shù)失控的風(fēng)險(xiǎn)不可能存在。但未來(lái)如果封閉性制約被超級(jí)強(qiáng)大的人工智能技術(shù)突破時(shí)，就需要應(yīng)對(duì)這種技術(shù)失控風(fēng)險(xiǎn)。正因如此，當(dāng)前我國(guó)智能出版應(yīng)抓住歷史性機(jī)遇，研發(fā)符合封閉性準(zhǔn)則的智能出版應(yīng)用場(chǎng)景，并進(jìn)行大規(guī)模應(yīng)用，實(shí)現(xiàn)彎道超車。

3.2 智能出版技術(shù)的應(yīng)用問(wèn)題

這類問(wèn)題主要包括技術(shù)誤用、技術(shù)濫用，以及技術(shù)應(yīng)用后產(chǎn)生的社會(huì)性負(fù)面影響。技術(shù)誤用為無(wú)意為之，是在不知道會(huì)產(chǎn)生風(fēng)險(xiǎn)的情況對(duì)人工智能技術(shù)的錯(cuò)誤應(yīng)用；技術(shù)濫用則為有意為之，是在知道會(huì)產(chǎn)生風(fēng)險(xiǎn)的情況毫無(wú)節(jié)制地應(yīng)用人工智能技術(shù)。對(duì)于智能出版來(lái)說(shuō)，這兩種情況都存在。智能出版技術(shù)誤用和濫用引發(fā)的倫理風(fēng)險(xiǎn)主要為出版用戶隱私問(wèn)題、出版內(nèi)容質(zhì)量問(wèn)題與算法公平問(wèn)題等。其一，關(guān)于出版用戶隱私問(wèn)題。大數(shù)據(jù)是人工智能發(fā)揮技術(shù)功能的基礎(chǔ)條件之一，沒(méi)有質(zhì)量合格、數(shù)量足夠的出版大數(shù)據(jù)資源，智能出版技術(shù)的運(yùn)作也就成了“無(wú)本之木”，技術(shù)社會(huì)價(jià)值的發(fā)揮也就無(wú)從談起。出版大數(shù)據(jù)是由各類出版信息組成的數(shù)據(jù)集，包含出版物市場(chǎng)信息、出版單位信息和讀者信息等[13]。一方面，出版數(shù)據(jù)越齊全，智能出版技術(shù)就可以更加有效、精準(zhǔn)地運(yùn)作；但另一方面，技術(shù)本身的商業(yè)屬性及出版大數(shù)據(jù)本身所包含的巨大經(jīng)濟(jì)價(jià)值，使得在出版大數(shù)據(jù)的采集與使用過(guò)程中很有可能發(fā)生用戶信息外泄。其二，關(guān)于出版內(nèi)容質(zhì)量問(wèn)題，主要包括內(nèi)容失真和碎片化。一方面，出版物是傳播知識(shí)的重要載體，其內(nèi)容的正確性關(guān)系著社會(huì)公共利益和穩(wěn)定。但無(wú)論技術(shù)發(fā)展到什么程度，智能生成內(nèi)容在重組知識(shí)時(shí)都有可能產(chǎn)生謬誤與偏差，從而導(dǎo)致出版物內(nèi)容失真，以及虛假信息的廣泛傳播；另一方面，智能出版技術(shù)往往基于特定的數(shù)據(jù)模式和用戶行為來(lái)生成內(nèi)容，會(huì)忽略對(duì)整體性和連貫性的考慮，導(dǎo)致出版物內(nèi)容的碎片化和淺顯化。其三，關(guān)于算法公平問(wèn)題。算法公平指在機(jī)器學(xué)習(xí)算法的設(shè)計(jì)和應(yīng)用過(guò)程中，確保預(yù)測(cè)和決策不對(duì)特定群體產(chǎn)生不公平的影響。由于日常生活中的數(shù)據(jù)常常包含了人類社會(huì)固有的隱性偏見(jiàn)，包括文化、語(yǔ)言和意識(shí)形態(tài)偏見(jiàn)，性別和種族偏見(jiàn)，權(quán)威和群體思維偏見(jiàn)及算法自身的偏見(jiàn)[14]，一旦接觸這些數(shù)據(jù)，智能生成內(nèi)容便有可能重復(fù)或加劇這些偏見(jiàn)。

3.3 智能出版技術(shù)的管理問(wèn)題

智能出版作為數(shù)字出版的高級(jí)階段和出版業(yè)的新業(yè)態(tài)，必定對(duì)出版產(chǎn)業(yè)升級(jí)、對(duì)中華優(yōu)秀傳統(tǒng)文化的傳承與弘揚(yáng)、對(duì)提升國(guó)家文化軟實(shí)力產(chǎn)生深遠(yuǎn)影響。然而，目前我國(guó)對(duì)智能出版還缺乏管理經(jīng)驗(yàn)，也很難直接從國(guó)外借鑒經(jīng)驗(yàn)。截至目前，我國(guó)出臺(tái)了《中華人民共和國(guó)網(wǎng)絡(luò)安全法》《中華人民共和國(guó)數(shù)據(jù)安全法》《中華人民共和國(guó)個(gè)人信息保護(hù)法》《中華人民共和國(guó)科學(xué)技術(shù)進(jìn)步法》等法律，以及《新一代人工智能發(fā)展規(guī)劃》《促進(jìn)大數(shù)據(jù)發(fā)展行動(dòng)綱要》《生成式人工智能服務(wù)管理暫行辦法》等文件。這些法律法規(guī)與政策文件為防范智能出版?zhèn)惱盹L(fēng)險(xiǎn)提供了基礎(chǔ)工具，但缺乏具有直接性與針對(duì)性的防范措施。新中國(guó)成立以來(lái)，我國(guó)出版業(yè)已出臺(tái)系列法律法規(guī)、規(guī)章制度及許多政策文件等，如《中華人民共和國(guó)著作權(quán)法》《出版管理?xiàng)l例》《印刷業(yè)管理?xiàng)l例》《音像制品管理?xiàng)l例》等，但對(duì)智能出版?zhèn)惱砉芾盹@然不適用。2019年8月，科技部等六部門聯(lián)合發(fā)布了《關(guān)于促進(jìn)文化和科技深度融合的指導(dǎo)意見(jiàn)》，為智能出版的發(fā)展提供了良好的政策環(huán)境。在國(guó)外，許多權(quán)威出版機(jī)構(gòu)對(duì)人工智能的管理政策提出了不同看法，BMJ出版集團(tuán)指出，如果可以保證內(nèi)容的透明度和合理度，可以考慮使用人工智能生成內(nèi)容[15]；Science、Korean Journal of Radiology等期刊則明令禁止在未經(jīng)許可的情況下使用人工智能生成內(nèi)容。2023年9月，中國(guó)科學(xué)技術(shù)信息研究所聯(lián)合Elsevier、Springer Nature、Wiley等國(guó)際出版集團(tuán)共同出臺(tái)《學(xué)術(shù)出版中AIGC使用邊界指南》。但總體而言，國(guó)內(nèi)外對(duì)智能出版都還存在較大的管理政策缺失。智能出版作為新業(yè)態(tài)，其風(fēng)險(xiǎn)比以往出版業(yè)態(tài)倫理風(fēng)險(xiǎn)更復(fù)雜，因此我國(guó)亟須對(duì)智能出版風(fēng)險(xiǎn)管理問(wèn)題進(jìn)行深入探討，提出適合智能出版健康發(fā)展的監(jiān)管措施和管理機(jī)制，避免陷入倫理危機(jī)。

4 治理：智能出版?zhèn)惱眢w系構(gòu)建

智能出版?zhèn)惱韱?wèn)題的治理是一項(xiàng)系統(tǒng)工程，需要以人工智能倫理治理理論為基礎(chǔ)，結(jié)合智能出版的實(shí)際情況，提出系統(tǒng)性的解決方案。目前，人工智能倫理治理已經(jīng)在人工智能技術(shù)發(fā)展的必要性、人工智能倫理準(zhǔn)則這兩個(gè)方面基本達(dá)成共識(shí)。隨著以ChatGPT、文心一言為代表的生成式人工智能技術(shù)的成熟，人工智能倫理體系構(gòu)建成為重要議題。依托人工智能倫理建設(shè)的經(jīng)驗(yàn)和成果，智能出版?zhèn)惱韱?wèn)題的治理可直接進(jìn)入體系構(gòu)建階段。

智能出版?zhèn)惱眢w系的構(gòu)建需要弄清楚兩個(gè)重要問(wèn)題，即智能出版?zhèn)惱眢w系作用的對(duì)象是什么？智能出版?zhèn)惱眢w系的作用機(jī)制是什么？

4.1 智能出版生態(tài)系統(tǒng)

智能出版?zhèn)惱眢w系的作用對(duì)象與人工智能出版技術(shù)應(yīng)用于出版的直接目的具有一致性，即促使智能出版生態(tài)系統(tǒng)形成并不斷創(chuàng)新。按照人工智能產(chǎn)業(yè)生態(tài)系統(tǒng)創(chuàng)新的社會(huì)需要、研究與應(yīng)用三個(gè)環(huán)節(jié)，智能出版生態(tài)系統(tǒng)的形成與發(fā)展以智能出版產(chǎn)業(yè)發(fā)展需要、智能出版技術(shù)應(yīng)用及倫理研究、智能出版的應(yīng)用場(chǎng)景形成循環(huán)演進(jìn)的閉環(huán)。在這個(gè)循環(huán)演進(jìn)的閉環(huán)中，智能出版產(chǎn)業(yè)的形成與發(fā)展需求推動(dòng)其技術(shù)應(yīng)用及倫理研究，而成熟的研究成果經(jīng)過(guò)產(chǎn)業(yè)化運(yùn)作實(shí)現(xiàn)應(yīng)用場(chǎng)景落地，應(yīng)用場(chǎng)景的實(shí)際應(yīng)用又可引發(fā)新的發(fā)展需求，進(jìn)一步促進(jìn)智能出版產(chǎn)業(yè)發(fā)展。這正是智能出版?zhèn)惱眢w系作用對(duì)象的具體化。而智能出版生態(tài)系統(tǒng)中的應(yīng)用場(chǎng)景包括但不限于選題策劃、內(nèi)容創(chuàng)作、智能編校、智能發(fā)行、智能營(yíng)銷等環(huán)節(jié)。

4.2 智能出版?zhèn)惱頇C(jī)制

厘清了智能出版?zhèn)惱眢w系的作用對(duì)象后，再探討智能出版體系的作用機(jī)制，這也是其倫理體系的核心部分。探究智能出版?zhèn)惱眢w系的作用機(jī)制需要回答兩個(gè)問(wèn)題，即針對(duì)智能出版?zhèn)惱韱?wèn)題采用哪些措施？如何發(fā)揮其系統(tǒng)性作用以確保智能出版體系發(fā)揮最大價(jià)值？據(jù)此，結(jié)合人工智能倫理體系的基礎(chǔ)架構(gòu)[11]構(gòu)建的智能出版?zhèn)惱眢w系由智能出版生態(tài)系統(tǒng)和智能出版?zhèn)惱頇C(jī)制組成。智能出版?zhèn)惱頇C(jī)制是核心部分，由智能出版?zhèn)惱硎姑鼘印?zhǔn)則層與細(xì)則層構(gòu)成有機(jī)整體（見(jiàn)圖1）。

4.2.1 智能出版?zhèn)惱硎姑?/p>

智能出版?zhèn)惱淼幕臼姑c智能出版的社會(huì)價(jià)值直接相關(guān)，可定義為“為文化傳承、知識(shí)服務(wù)和智能出版生態(tài)創(chuàng)新發(fā)展提供倫理支撐”。出版以文化傳承作為本質(zhì)功能和職責(zé)使命。從歷史上看，無(wú)論是春秋時(shí)期孔子及其弟子編纂《六經(jīng)》，還是近代張?jiān)獫?jì)主持編?！端牟繀部?，以及新時(shí)代《復(fù)興文庫(kù)》的編纂出版，都充分展示了出版在思想文化傳承與發(fā)展中的基礎(chǔ)性作用。這種對(duì)于文化傳承的承載與推動(dòng)作用，構(gòu)成了出版業(yè)有別于其他文化產(chǎn)業(yè)的核心特征。因此，智能出版?zhèn)惱眢w系要確保智能出版活動(dòng)在文化傳承、知識(shí)服務(wù)和智能出版生態(tài)創(chuàng)新發(fā)展上符合道德準(zhǔn)則和倫理規(guī)范，為智能出版的健康、可持續(xù)發(fā)展提供倫理指引。

4.2.2 智能出版?zhèn)惱頊?zhǔn)則

智能出版準(zhǔn)則是人工智能技術(shù)在出版領(lǐng)域的應(yīng)用規(guī)范，是智能出版基本使命的具體化。隨著人工智能的持續(xù)發(fā)展，全球各國(guó)家和地區(qū)、社會(huì)組織、行業(yè)紛紛對(duì)人工智能的技術(shù)發(fā)展和倫理問(wèn)題給予高度關(guān)注。據(jù)不完全統(tǒng)計(jì)，迄今已有50多個(gè)機(jī)構(gòu)或組織提出了各自的人工智能倫理準(zhǔn)則[11]。如2017年，全球工會(huì)聯(lián)合會(huì)出臺(tái)《合倫理的人工智能十大原則》[16]；2019年，歐盟出臺(tái)《可信賴的人工智能倫理準(zhǔn)則》，中國(guó)出臺(tái)《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》等。從這些倫理準(zhǔn)則的內(nèi)容來(lái)看，雖然各個(gè)國(guó)家文化背景有所不同，但在制度層面的倫理關(guān)注有其共性，即都考慮到了問(wèn)責(zé)機(jī)制、公平、安全性、可控性、隱私保護(hù)和社會(huì)福祉等要點(diǎn)。這些人工智能倫理準(zhǔn)則為智能出版?zhèn)惱硖峁┝嘶A(chǔ)，特別是我國(guó)提出的“增進(jìn)人類福祉、促進(jìn)公平公正、保護(hù)隱私安全、確保可控可信、強(qiáng)化責(zé)任擔(dān)當(dāng)、提升倫理素養(yǎng)”[17]等六項(xiàng)基本倫理要求是智能出版需要遵循的基本原則。在這些基本原則基礎(chǔ)上，結(jié)合智能出版自身特點(diǎn)，本文認(rèn)為，智能出版?zhèn)惱頊?zhǔn)則主要包括堅(jiān)持主體地位、堅(jiān)守文化使命、遵守道德規(guī)范、責(zé)權(quán)歸屬明晰、保障讀者權(quán)益。

堅(jiān)持主體地位，指智能出版應(yīng)該尊重作者在內(nèi)容創(chuàng)作與編輯在出版活動(dòng)中的主體地位，而不能由人工智能技術(shù)主導(dǎo)出版生產(chǎn)環(huán)節(jié)，替代作者和編輯的身份和職責(zé)。堅(jiān)守文化使命，指智能出版也應(yīng)回歸出版的本質(zhì)，將傳承文化、積累文化、傳播文化、發(fā)展文化、創(chuàng)造文化作為追求的目標(biāo)[18]，避免利益驅(qū)動(dòng)下出版大量毫無(wú)價(jià)值或存在負(fù)面價(jià)值導(dǎo)向的內(nèi)容。遵守道德規(guī)范，指在開(kāi)展智能出版活動(dòng)時(shí)，各技術(shù)活動(dòng)主體具備一定的倫理意識(shí)和較高的倫理素養(yǎng)，將“善”的道德觀念作為行動(dòng)立足點(diǎn)，保證智能出版更好地為社會(huì)和人民服務(wù)。責(zé)權(quán)歸屬明晰，指應(yīng)該明確參與智能出版流程的利益相關(guān)者的責(zé)任，明晰責(zé)任關(guān)系歸屬，達(dá)成著作權(quán)和署名權(quán)等權(quán)利認(rèn)定的共識(shí)，建立權(quán)責(zé)分明的智能出版風(fēng)險(xiǎn)問(wèn)責(zé)與追責(zé)機(jī)制。保障讀者權(quán)益，指智能出版要充分尊重讀者信息知情、同意等權(quán)利，保障其隱私與數(shù)據(jù)安全，不得損害其合法數(shù)據(jù)權(quán)益和侵害隱私權(quán)。

4.2.3 智能出版?zhèn)惱砑?xì)則

智能出版?zhèn)惱砑?xì)則又是倫理準(zhǔn)則的具體化，要將其細(xì)化為具有針對(duì)性、強(qiáng)制性、可操作性的具體規(guī)范。智能出版?zhèn)惱砑?xì)則的范圍廣泛，只要是為保障智能出版活動(dòng)健康、有序開(kāi)展而制定、能具體落實(shí)到智能出版應(yīng)用場(chǎng)景中的實(shí)施細(xì)則，皆可納入其中。在此，著重介紹四類細(xì)則。

一是完善智能出版?zhèn)惱矸煞ㄒ?guī)。主管部門可根據(jù)《中華人民共和國(guó)數(shù)據(jù)安全法》《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等法律和行政法規(guī)，制定和完善智能出版領(lǐng)域的專項(xiàng)法律法規(guī)，明確智能出版活動(dòng)各方的權(quán)利、義務(wù)和責(zé)任，保障人與技術(shù)的合法利益。

二是建立智能出版?zhèn)惱肀O(jiān)管機(jī)制。主管部門應(yīng)設(shè)立專門的倫理監(jiān)管機(jī)構(gòu)，對(duì)智能出版活動(dòng)進(jìn)行全方位、全過(guò)程的監(jiān)督和管理；同時(shí)建立針對(duì)生成式人工智能技術(shù)風(fēng)險(xiǎn)的動(dòng)態(tài)評(píng)估體系，實(shí)時(shí)關(guān)注并分析相關(guān)倫理風(fēng)險(xiǎn)，以確保監(jiān)管機(jī)制能夠及時(shí)調(diào)整并保持有效性。此外，還應(yīng)鼓勵(lì)社會(huì)各界參與智能出版?zhèn)惱肀O(jiān)管，建立舉報(bào)機(jī)制，及時(shí)發(fā)現(xiàn)和糾正違反倫理準(zhǔn)則的行為。

三是制定智能出版?zhèn)惱硇袠I(yè)規(guī)定。出版業(yè)內(nèi)的相關(guān)組織和機(jī)構(gòu)應(yīng)合作制定出一份行業(yè)內(nèi)普遍認(rèn)可且具有約束力的智能出版?zhèn)惱硇袠I(yè)規(guī)定，包括但不限于人工智能技術(shù)使用范圍、數(shù)據(jù)使用和保護(hù)、用戶權(quán)益保障等，通過(guò)強(qiáng)制性的規(guī)定以確保所有參與智能出版活動(dòng)的組織和個(gè)人都能夠遵守和執(zhí)行。

四是構(gòu)建智能出版?zhèn)惱順?biāo)準(zhǔn)體系。要立足于對(duì)智能出版的深入理解，厘清智能出版工作中涉及的主體、對(duì)象、環(huán)境和流程，確保該標(biāo)準(zhǔn)體系在整體上具有關(guān)聯(lián)性，在實(shí)際操作中具備可行性。一方面，應(yīng)在國(guó)家標(biāo)準(zhǔn)的基礎(chǔ)上，構(gòu)建包括行業(yè)標(biāo)準(zhǔn)、團(tuán)體標(biāo)準(zhǔn)及企業(yè)標(biāo)準(zhǔn)在內(nèi)的多層次標(biāo)準(zhǔn)體系。在內(nèi)容上，該類標(biāo)準(zhǔn)宜包含人工智能在出版領(lǐng)域的應(yīng)用邊界、實(shí)施流程、主體責(zé)任、風(fēng)險(xiǎn)防范舉措等，為智能出版的應(yīng)用制定行為規(guī)則。在團(tuán)體標(biāo)準(zhǔn)方面，2023年12月20日，中國(guó)音像與數(shù)字出版協(xié)會(huì)發(fā)布《出版業(yè)生成式人工智能技術(shù)應(yīng)用指南》，為出版機(jī)構(gòu)應(yīng)用生成式人工智能技術(shù)提供了重要指導(dǎo)。而在企業(yè)標(biāo)準(zhǔn)方面，各大出版機(jī)構(gòu)尚未發(fā)表相關(guān)標(biāo)準(zhǔn)，因此在研發(fā)垂直類大模型的過(guò)程中，出版機(jī)構(gòu)或其他相關(guān)組織可制定相應(yīng)企業(yè)標(biāo)準(zhǔn)，并通過(guò)標(biāo)準(zhǔn)信息公共服務(wù)平臺(tái)，向社會(huì)公開(kāi)披露模型功能效果、測(cè)試數(shù)據(jù)等關(guān)鍵信息，為國(guó)家標(biāo)準(zhǔn)、行業(yè)標(biāo)準(zhǔn)的制定提供實(shí)踐依據(jù)。另一方面，標(biāo)準(zhǔn)體系還應(yīng)包括智能出版技術(shù)標(biāo)準(zhǔn)、產(chǎn)品標(biāo)準(zhǔn)與治理標(biāo)準(zhǔn)等。技術(shù)標(biāo)準(zhǔn)應(yīng)以算法、算力和數(shù)據(jù)等技術(shù)為本位，明確擴(kuò)展現(xiàn)實(shí)與算法數(shù)據(jù)、知識(shí)圖譜、虛擬現(xiàn)實(shí)（VR）、增強(qiáng)現(xiàn)實(shí)（AR）等技術(shù)在出版業(yè)中的應(yīng)用規(guī)制；產(chǎn)品標(biāo)準(zhǔn)則應(yīng)關(guān)注智能出版模型或產(chǎn)品的設(shè)計(jì)、生產(chǎn)和推廣等全過(guò)程，針對(duì)某一具體的智能出版模型或產(chǎn)品，如蜜度文修、BooksGPT等，確保服務(wù)質(zhì)量、權(quán)責(zé)明晰和數(shù)據(jù)安全；治理標(biāo)準(zhǔn)則應(yīng)以保障出版內(nèi)容質(zhì)量、保護(hù)知識(shí)產(chǎn)權(quán)、確保數(shù)據(jù)安全、防范技術(shù)風(fēng)險(xiǎn)為核心，制定智能出版內(nèi)容審核標(biāo)準(zhǔn)、數(shù)據(jù)安全標(biāo)準(zhǔn)、知識(shí)產(chǎn)權(quán)保護(hù)標(biāo)準(zhǔn)、風(fēng)險(xiǎn)評(píng)估與應(yīng)對(duì)標(biāo)準(zhǔn)等，如2019年國(guó)際保護(hù)知識(shí)產(chǎn)權(quán)協(xié)會(huì)（AIPPI）發(fā)布的《人工智能生成物的版權(quán)問(wèn)題決議》對(duì)人工智能生成物的版權(quán)進(jìn)行了說(shuō)明和限制。

需注意的是，制定智能出版?zhèn)惱砑?xì)則應(yīng)充分參考和借鑒國(guó)際標(biāo)準(zhǔn)和實(shí)踐經(jīng)驗(yàn)，不可閉門造車。全球人工智能倫理治理已經(jīng)從原則共識(shí)走向了治理實(shí)踐。聯(lián)合國(guó)教科文組織在2021年11月發(fā)布《人工智能倫理問(wèn)題建議書(shū)》，標(biāo)志著全球倫理治理達(dá)成了政府間最廣泛的倫理共識(shí)，它是全球人工智能發(fā)展的共同綱領(lǐng)，將為進(jìn)一步形成人工智能有關(guān)的國(guó)際標(biāo)準(zhǔn)、國(guó)際法等提供強(qiáng)有力的參考。我國(guó)的倫理治理也在不斷呈現(xiàn)制度化、法律化的趨勢(shì)。例如，我國(guó)已經(jīng)組建國(guó)家科技倫理委員會(huì)，負(fù)責(zé)指導(dǎo)和統(tǒng)籌協(xié)調(diào)推進(jìn)全國(guó)科技倫理治理體系建設(shè)工作。2022年，中共中央辦公廳、國(guó)務(wù)院辦公廳印發(fā)《關(guān)于加強(qiáng)科技倫理治理的意見(jiàn)》，對(duì)落實(shí)科技倫理治理作出了頂層設(shè)計(jì)和全面部署。具體的法律法規(guī)和規(guī)范性文件，如《中華人民共和國(guó)數(shù)據(jù)安全法》《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見(jiàn)》等，則對(duì)數(shù)據(jù)和算法活動(dòng)提出了科技倫理治理的要求和措施。可見(jiàn)，這些具有相對(duì)普適性的倫理細(xì)則為智能出版?zhèn)惱砑?xì)則的制定提供了參照和依據(jù)。前文提到的《學(xué)術(shù)出版中AIGC使用邊界指南》對(duì)學(xué)術(shù)出版中人工智能生成內(nèi)容的使用邊界、標(biāo)注、責(zé)任劃分等問(wèn)題展開(kāi)詳細(xì)研究，并為相關(guān)利益主體提供規(guī)范的使用指導(dǎo)。除此之外，我國(guó)智能出版?zhèn)惱砑?xì)則還不多見(jiàn)，但可預(yù)見(jiàn)，隨著智能出版的發(fā)展，相應(yīng)的倫理細(xì)則會(huì)逐漸涌現(xiàn)。

5 結(jié)語(yǔ)

2022年4月，中共中央宣傳部印發(fā)《關(guān)于推動(dòng)出版深度融合發(fā)展的實(shí)施意見(jiàn)》明確指出要“充分發(fā)揮技術(shù)支撐作用”，“強(qiáng)化大數(shù)據(jù)、云計(jì)算、人工智能、區(qū)塊鏈等技術(shù)應(yīng)用，創(chuàng)新驅(qū)動(dòng)出版深度融合發(fā)展”[19]，這為智能出版的蓬勃發(fā)展提供了良好的政策環(huán)境。在政策導(dǎo)向與技術(shù)賦能的雙重加持下，智能出版必將迎來(lái)繁榮興盛期，助力我國(guó)出版業(yè)數(shù)字化轉(zhuǎn)型升級(jí)、高質(zhì)量發(fā)展與出版強(qiáng)國(guó)建設(shè)。在智能出版的快速發(fā)展過(guò)程中，現(xiàn)存的和潛在的倫理風(fēng)險(xiǎn)不可忽視。應(yīng)對(duì)智能出版?zhèn)惱盹L(fēng)險(xiǎn)，需要構(gòu)建智能出版?zhèn)惱眢w系，協(xié)同使用法律法規(guī)、行業(yè)規(guī)范、技術(shù)等多種治理手段，也需要政府機(jī)構(gòu)、出版行業(yè)、科研機(jī)構(gòu)及社會(huì)組織等多元主體共同參與。

為了確保智能出版的健康發(fā)展，只有探尋智能出版?zhèn)惱韱?wèn)題的深層邏輯，從智能出版?zhèn)惱硎姑?、?zhǔn)則與實(shí)施細(xì)則三個(gè)層面落實(shí)智能出版?zhèn)惱眢w系構(gòu)建，才能應(yīng)對(duì)智能出版帶來(lái)的倫理挑戰(zhàn)，構(gòu)建人與技術(shù)的良性關(guān)系，真正實(shí)現(xiàn)人工智能技術(shù)在出版領(lǐng)域的向善發(fā)展。智能出版?zhèn)惱硌芯渴且粋€(gè)動(dòng)態(tài)過(guò)程，隨著技術(shù)的不斷進(jìn)步和社會(huì)價(jià)值觀的變化，需要不斷更新和完善智能出版?zhèn)惱韱?wèn)題的相關(guān)研究。同時(shí)，也要積極借鑒國(guó)際經(jīng)驗(yàn)，加強(qiáng)國(guó)際合作，共同推動(dòng)智能出版?zhèn)惱淼难芯亢蛯?shí)踐。

作者簡(jiǎn)介

吳亮芳，女，博士，湖南師范大學(xué)新聞與傳播學(xué)院副教授、碩士生導(dǎo)師，湖南師范大學(xué)文化和旅游研究院副院長(zhǎng)。研究方向：數(shù)字出版、文化產(chǎn)業(yè)融合與新業(yè)態(tài)、文化治理與跨文化傳播。

羅群群，女，湖南師范大學(xué)新聞與傳播學(xué)院碩士研究生。研究方向：數(shù)字出版。

趙星宇，女，湖南師范大學(xué)新聞與傳播學(xué)院碩士研究生。研究方向：數(shù)字出版。

參考文獻(xiàn)

朱李莉，盧冰原，彭?yè)P(yáng).網(wǎng)絡(luò)出版的電子商務(wù)智能模型的研究[J].價(jià)值工程，2005（7）：71-73.

劉華東，馬維娜，張新新.“出版+人工智能”：智能出版流程再造[J].出版廣角，2018（1）：14-16.

宋偉，劉禹希，王金金.智能出版：開(kāi)啟后數(shù)字出版新業(yè)態(tài)[J].傳媒觀察，2018（8）：24-29.

劉寧，周宇豪.智能出版的技術(shù)圖景：產(chǎn)業(yè)鏈、倫理困境與紓解路徑[J].出版廣角，2023（19）：54-58.

劉海明，馬皖雪.ChatGPT應(yīng)用于數(shù)字出版的倫理風(fēng)險(xiǎn)與倫理原則[J].數(shù)字出版研究，2023，2（2）：21-26.

吳煒華，黃珩.智能創(chuàng)作、深度融入與倫理危機(jī)：ChatGPT在數(shù)字出版行業(yè)的應(yīng)用前景新探[J].中國(guó)編輯，2023（6）：40-44.

李華君，雷月秋.智能出版的技術(shù)特征、倫理風(fēng)險(xiǎn)與編輯把關(guān)[J].中國(guó)編輯，2024（1）：33-37，48.

張萍，張小強(qiáng).機(jī)器參與論文寫(xiě)作的出版?zhèn)惱盹L(fēng)險(xiǎn)與防范對(duì)策[J].中國(guó)科技期刊研究，2022（4）：439-449.

莫宏偉，徐立芳.人工智能倫理導(dǎo)論[M].西安：西安電子科技大學(xué)出版社，2023：2-3，15.

陳小平.人工智能中的封閉性和強(qiáng)封閉性：現(xiàn)有成果的能力邊界、應(yīng)用條件和倫理風(fēng)險(xiǎn)[J].智能系統(tǒng)學(xué)報(bào)，2020（1）：114-120.

陳小平.人工智能倫理導(dǎo)引[M].北京：中國(guó)科學(xué)技術(shù)出版社，2021：10，14，224.

李勝疆.人工智能技術(shù)發(fā)展的內(nèi)在風(fēng)險(xiǎn)及三級(jí)防范機(jī)制[J].科技廣場(chǎng)，2020（3）：63-71.

吳亮芳，羅紫初.論出版信息資源的概念、類型及特點(diǎn)[J].出版科學(xué)，2012（2）：44-48.

郭小東.生成式人工智能的風(fēng)險(xiǎn)及其包容性法律治理[J].北京理工大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版），2023（6）：1-18.

MACDONALD H， ABBASI K. Riding the whirlwind： BMJ’s policy on artificial intelligence in scientific publishing[J].BMJ，2023（382）：1923.

白鈞溢.教育人工智能倫理治理：現(xiàn)實(shí)挑戰(zhàn)與實(shí)現(xiàn)路徑[J].重慶高教研究，2024，12（2）：37-47.

中華人民共和國(guó)科學(xué)技術(shù)部.《新一代人工智能倫理規(guī)范》發(fā)布[EB/OL].（2021-09-26）[2024-07-30]. https：//www.most.gov.cn/kjbgz/202109/t20210926_177063.html.

聶震寧，謝迪南.文化：出版的本質(zhì)，出版企業(yè)的終極目標(biāo)[N].中國(guó)圖書(shū)商報(bào)，2007-04-17（2）.

中共中央宣傳部. 中共中央宣傳部印發(fā)《關(guān)于推動(dòng)出版深度融合發(fā)展的實(shí)施意見(jiàn)》的通知[EB/OL].（2022-04-24）[2024-07-30]. https：//www.nppa.gov.cn/xxfb/tzgs/202204/t20220424_666332.html.

Research on Essence， Risks and Governance of Intelligent Publishing Ethics

WU Liangfang1， 2， LUO Qunqun1， ZHAO Xingyu1

1. School of Journalism and Communication， Hunan Normal University， 410081， Changsha， China;

2. Institute of Culture and Tourism， Hunan Normal University， 410081， Changsha， China.

Abstract： Intelligent publishing is a new publishing mode developed by integration of artificial intelligence technology and publishing industry， and it is an advanced stage of digital publishing development. It has inherent technological advantages， but there are still uncertainties caused by technology， which lead to ethical problems. Therefore， it is necessary to figure out how to realize standardized development of intelligent publishing， that is， what should be done and not done. According to the uncertainty caused by improper behavior of human subjects and application of intelligent publishing technology in intelligent publishing activities， ethical risks of intelligent publishing include the out-of-control development， misuse and abuse of technology and their negative impacts， and other problems caused by improper or insufficient management. Given these existing or potential ethical risks， it is necessary to build an ethical system of intelligent publishing， to form an organism through its ethical mission， guidelines and detailed rules， playing a systematic mechanism to maximize the development of artificial intelligence technology in publishing industry and promote ecological innovation of intelligent publishing.

Keywords： Intelligent publishing; Publishing ethics; Artificial intelligence; Governance; Ethical risk