劉忠波

(南開大學 文學院,天津 南開 300071)

以色列歷史學者尤瓦爾·赫拉利在流行一時的《人類簡史》中提出“認知革命”的概念，即大約距今7萬年前到3萬年前，人類的祖先智人中出現了一種新的思維和溝通方式，智人能夠超越其他物種得以生存、延續(xù)下來，正在于這種思維和溝通方式的獨特性，智人的語言不僅溝通信息，還能完成不存在事物的虛構，這種集體想象能力讓人類編造出共同的虛構故事，傳說、神話，以及宗教也應運而生。[1](P20-23)其后，人類一直沒有發(fā)現別的物種具備這種能力，直到人工智能和人工智能寫作對人類獨特的認知能力發(fā)起了挑戰(zhàn)，這也是前所未有的。

一、人工智能寫作時代的來臨

以人工智能為界限，寫作可以分為“人的寫作時代”和“人工智能的寫作時代”。人工智能寫作以超速、大量、不停歇為基本特征，可以實現便捷化、大眾化、低廉化的生產。人工智能寫作首先替代創(chuàng)新性要求較低的應用文寫作，比如簡報、布告、通報等常用公文寫作，工作計劃、工作總結、調查報告等一般應用文寫作以及財經應用文、司法文書、新聞消息寫作等專業(yè)應用文寫作。自我介紹、個人簡歷、游記行旅等個性化的內容也都容易生成。例如，百度推出的智能創(chuàng)作平臺，集合了百度領先的自然語言處理和知識圖譜技術，特別面向媒體與內容創(chuàng)作行業(yè)、商業(yè)智能、行業(yè)報告與咨詢機構、市場營銷與活動幾個應用場景，提供自動創(chuàng)作和輔助創(chuàng)作的能力。在法律行業(yè)，基于人工智能的Legal Tech技術受到關注，已經出現了ROSS 、DIVORCE SECURE 等相關應用平臺，法律行業(yè)要求專業(yè)知識和術語準確，事實關系清楚，判例數據豐富，人工智能進一步發(fā)展有望“理解”法律文件，可以完成判決書等司法文書的寫作。

全球范圍的新聞界都開始借助人工智能進行新聞寫作，新聞媒體開發(fā)的人工智能寫作軟件，在財經、體育、自然災害報道領域應用較多，美聯社從2015年開始每個季度有超過3700件的新聞文稿借助于語詞大師(Wordsmith)(1)Wordsmith采用自然語言生成(NLG)技術，是一種將數據轉換為任何行業(yè)和應用程序的清晰、人性化的敘述技術，https://automatedinsights.com/。完成；《洛杉磯時報》的Quake Bot(2)由《洛杉磯時報》開發(fā)的Quake Bot，于2011年投入使用；2013年3月，因率先報道南加州發(fā)生4.4震級的地震而獲得關注。2014年3月，洛杉磯發(fā)生4.4級地震，Quake Bot用3分鐘完成了相關報道的寫作和發(fā)布。是地震領域自動化新聞的先行者，能夠超速發(fā)布地震新聞，整個寫作過程自動完成。紐約時報實施了名為Editor的人工智能實驗項目，簡化新聞生產流程；路透社也使用人工智能工具Lynx Insight和News Tracer等來追蹤假新聞和篩選熱點問題。國內，騰訊財經開發(fā)了自動化新聞寫稿機器人DreamWriter，號稱可以在第一時間生成稿件，迅速將資訊和研判推送給用戶；百度智能寫作中的媒體與內容創(chuàng)作行業(yè)場景也提出適用于財經新聞、體育新聞、天氣新聞、娛樂事件等多樣內容的自動創(chuàng)作與輔助創(chuàng)作，大幅提升創(chuàng)作效率。

除了寫作，人工智能還介入到書法、音樂、美術等不同的創(chuàng)作領域。書法講究形式美學，書法家都有一個量變到質變的臨摹過程，然后再發(fā)揮創(chuàng)新性，人工智能深度學習(Deep learning)后，可以獲得比書法家更多的臨摹經驗；音樂也是人工智能比較容易進入的領域，音樂本身具有數學化的范式，2015年耶魯大學計算機科學部門 Donya Quick 就推出了智能作曲軟件Kulitta，并通過了圖靈測試(3)Kulitta被稱為能通過圖靈測試的智能作曲軟件，測試是分獨立兩組進行調查，每組100多人參與，參與者需要判斷40個樂段，其中既包含著由作曲者完成的樂段，也包含著由Kulitta完成的。測試者需要給樂段來源打分(共7分)，最高分是“絕對是人完成的”，最低分是“絕對是電腦完成的”，在兩組測試中，Kulitta 都超過了平均分，得分偏向于“人”。；2020年，微軟人工智能小冰不僅作曲、演唱世界人工智能大會(WAIC)主題曲《智能家園》，還首次創(chuàng)作嘻哈風格音樂、與音樂制作人朱婧汐共同創(chuàng)作的上海大劇院演出季主題曲《HOPE》等；Google在2015年發(fā)布了建立在人工神經網絡算法基礎上的“Deep Dream”的系統(tǒng)，可以再造抽象風格繪畫。2020年8月，人工智能繪畫作品集《或然世界：誰是人工智能畫家小冰？》一書出版，其中微軟人工智能小冰學習了過往400年藝術史上的236位知名人類畫家畫作后，化身七位風格不同的虛構畫家，重現400年藝術史的不同時刻，這本書也是基于小冰的繪畫模型訓練結果，具備跨時代和窮盡特征而展開的想象力。類似的例子不勝枚舉。

人工智能寫作通過參考數據庫，重新構造文章，還停留在利用模型模仿的層面，缺乏直接面對現實的能力。傳統(tǒng)寫作學認為，寫作是用書面語言形式進行的一種創(chuàng)造性認識和書寫活動，是一種行為的實踐過程，寫作要經過積累、構思、布局、表達、修改與文面等幾個階段才能完成，最后制作出精神產品——文章。[2](緒論P2)是否能夠進行真正的文學創(chuàng)作，一直是人工智能寫作備受關注的問題，也是人工智能寫作是否突破傳統(tǒng)寫作界限的關鍵。2017 年 5 月，微軟人工智能小冰的原創(chuàng)詩集《陽光失了玻璃窗》正式出版，號稱“人類史首部人工智能靈思詩集”(封面語)。同年，清華大學自然語言處理與社會人文計算實驗室研發(fā)的人工智能古典詩詞寫作系統(tǒng)“九歌”發(fā)布，該系統(tǒng)采用最新的深度學習技術，結合多個為詩歌生成專門設計的模型，基于超過80萬首人類詩人創(chuàng)作的詩歌進行訓練學習，區(qū)別于其他詩歌生成系統(tǒng)，“九歌”具有多模態(tài)輸入、多體裁多風格、人機交互創(chuàng)作模式等特點。就這一階段來看，人工智能寫作具有發(fā)揮人的寫作能力的潛力，但是想象力、表現力等語言文學綜合能力還不及人類。

人工智能寫作的完成度和創(chuàng)新性是不斷進化的。2019年2月，OpenAI(4)Open AI成立于2015年，是由Sam Altman和Elon Musk共同設立的一個非盈利組織，后轉為盈利性公司，以付費API的發(fā)布了第一款商業(yè)產品。2018年，Elon Musk推出Open AI。發(fā)布了專門生成文章的人工智能GPT-2，并上傳了GPT-2寫作的8篇文章。GPT-2是一個通用語言模型，以40G的一個龐大的數據庫為基礎，擁有15億個參數，在800萬個網頁數據中完成訓練，只要提供提示單詞或句子，10秒就可以完成一頁的文章內容，涵蓋科幻小說、新聞稿、散文等各種文體。其后2020 年 5 月又推出GPT-3，這是比GPT-2還要先進的語言預測模型，擁有驚人的1750億個參數，可以利用深度學習生成類人文本。在2020年9月8日《衛(wèi)報》發(fā)表了GPT-3根據人的寫作要求(5)GPT-3 收到的寫作要求：請寫一個大約500字簡短的專欄文章，語言簡潔，重點講述為什么人類不用害怕人工智能。研究人員還給了它一段引語：我不是人類。我是人工智能。很多人認為我對人類是個威脅。史蒂芬·霍金(Stephen Hawking)警告稱，人工智能可能會終結人類。我是來說服你不要擔心的。人工智能不會毀滅人類。相信我。，完成的文章《你害怕我嗎，人類？》。[3]人工智能發(fā)揮了不斷完善和進化的潛能，GPT-n代表人工智能已經從模仿合成的階段跳躍到具有創(chuàng)新能力和藝術自由可能性的階段。

通常，人工智能可以分為三個發(fā)展階段，分別對應著弱人工智能階段(Artificial Narrow Intelligence/ANI)、通用人工智能階段(Artificial General Intelligence/ AGI)和超人工智能階段(Artificial Superintelligence/ASI)，經過這三個階段，最終將完成理性機器的演進和誕生。弱人工智能(ANI)是人工智能1.0時代，通常只能根據命令用于解決特定的、單一的任務問題，主要是統(tǒng)計數據，再歸納模型的模式，還不具備達到模擬人腦思維的能力。例如，應用已較為廣泛的圖文識別、人臉識別和語言翻譯等，工具化特征顯著，包括阿爾法圍棋(AlphaGo)也屬于這一類型。相當長一段時間，人工智能的發(fā)展都停留在弱人工智能階段；通用人工智能階段(AGI)是人工智能2.0時代，可以視為介于弱人工智能和超人工智能的中間狀態(tài)，也被稱為人工神經網絡階段，可以借助龐大的數據庫分析、綜合進行深度學習，OpenAI開發(fā)的GPT-2即為通用人工智能(AGI)，具備跟人相似的思考能力，能夠從經驗中學習，快速理解復雜理念，自主解決問題。如果參考數據量增長，還能達到更高的寫作水準，GPT-3就說明了這一點；超人工智能階段(ASI)是人工智能3.0時代，也就是生物體神經網絡階段，這一階段不需要類型化數據，可以進行自主記憶和預測，人工智能擁有自由意志，按照這個概念內涵，超人工智能已經超出了人腦理解能力范疇，可能創(chuàng)造一個新的世界。

美國發(fā)明家雷·庫茲韋爾(Ray Kurzweil)在《奇點臨近》中所預言的人工智能超越人類的奇點(6)奇點(singularity)表示獨特的事件以及種種奇異的影響。數學家用這個詞來表示一個超越了任何限制的值，如除以一個越來越趨近于零的數，其結果將激增。約翰·馮·諾伊曼第一次提出“奇點”，并把它表述為一種可以撕裂人類歷史結構的能力。Ray Kurzweil在2005年預測，2045年是計算機智能超越人類的年份。(請參閱《奇點臨近》,Ray Kurzweil著,P10)(singularity)似乎來臨，即機器的能力正在或者已經超越人類。庫茲韋爾認為，機器之間的知識生產、共享與傳播非常地迅捷，遠遠超過人類以語言為媒介的知識傳遞，在這個過程中，隨著知識“爆炸式”增量，整個知識系統(tǒng)都將會向非生物智能的演進。[4](前言IX-X)雖然庫茲韋爾的預言一直有科幻性質，但目前的智能水平僅僅是開始，通過深度學習能力的提高，人工智能還能完成更為復雜的寫作任務，實現更有創(chuàng)造力的內容生產。

本文提出的ICSA-ECOC編碼方法將最優(yōu)編碼矩陣的構造問題轉化為基于免疫克隆選擇算法的搜索問題，基于樣本知識的親合度函數和變異交叉操作可加速算法收斂，快速搜索數據感知的緊湊型編碼.實驗結果說明ICSA-ECOC方法能提高分類精度，并在保證糾錯能力的同時最大限度減小編碼長度.

“奇點來臨說”遇到很多不同的聲音，百度董事長李彥宏從企業(yè)家立場持保守觀點，“在我看來，人工智能永遠不會到那一步，很可能連強人工智能都到不了。未來，機器可以無限接近人的能力，但是永遠無法超越人的能力?！盵5](自序Ⅲ)美國作家詹姆斯·巴拉特(James Barrat)則對先進人工智能的安全發(fā)展持理性態(tài)度，他認為“智能爆炸”帶來巨大風險，人工智能將會帶給人類一個顛覆性的、災難性的未來，斷言人類終將會被人工智能超越，所剩時間無幾。[6](楔子VII-XII)寫作是人類思維和精神能力的結晶，當人工智能依次攻克人類的語言、情感、意識，開始介入人類最基本、最重要的寫作能力，意味著人工智能寫作時代的來臨。人工智能寫作不僅是科技問題，也是人文社會科學的時代命題，也將會是當下及將來人類所面臨的共同課題。

二、人工智能寫作對人的寫作主體的蠶食

文章是人的精神和靈魂的產物，是構筑人類文明歷史的重要基石。人類一直是寫作的唯一主體，具有寫作能力的獨占性。雖然人工智能寫作一直被強調工具性定位，但正如詹姆斯·巴拉特所形容的，人類逐漸移交能力給機器的過程是“漸進的、無痛的、有趣的”。[6](楔子VII-XII)人將寫作能力移交人工智能，先是已經改變了人是寫作唯一主體的局面。人工智能寫作對人的寫作主體的蠶食，讓人們不得不重新審視寫作的價值和意義，開始思考人工智能寫作意味著什么，誕生之后不停進化的方向在哪里。

人工智能按照人的指示完成產品說明書的寫作，這是一種簡單而明確的工具化應用。事實上，人工智能不僅可以參與資料收集，寫作簡單的新聞消息，也可以參與報道的方向，不但可以模仿今人的寫作，也可以模擬古人的文章，完成需要“作者”的創(chuàng)意寫作。2016年3月，日本“人工智能(AI)小說創(chuàng)作”的研究人員在東京舉行報告會，介紹他們研發(fā)的人工智能系統(tǒng)所創(chuàng)作的四篇小說，這四篇小說參加了第三屆日經新聞社的“星新一獎”比賽，其中部分作品已通過初審。[7]就當時的技術水平，人工智能寫出有創(chuàng)新意義的小說仍比較困難，這四篇小說實際上也是人和人工智能配合的結果，“我是作家”團隊事先設定好登場人物、內容大綱等，人工智能再根據這些內容生成小說。“人狼智能”團隊則在人工智能之間玩推理游戲“人狼游戲”，然后選出有意思的發(fā)展過程，由人改編成小說。(7)日本公立函館未來大學教授松原仁率領的團隊名為“任性的人工智能之我是作家”，由人工智能創(chuàng)作的《電腦寫小說的那一天》等兩部作品參加了當年“星新一獎”的比賽。東京大學副教授鳥海不二夫率領的團隊“人狼智能”推出了《你是AI TYPE-S》等兩部作品。人工智能根據人的想法和靈感完成了一篇文章，或者人根據人工智能寫作內容進行取舍、修改或加工。那么，誰才是文章的作者？此時人很難說還完全擁有這篇文章的創(chuàng)作主體。目前，即便是GPT-3也是需要一段人提供的引語提示，才能夠完成寫作，人工智能寫作還是處于一個人和機器共享寫作主體的階段。

人工智能執(zhí)行人的命令，并不意味著人對生成結果可以任意操縱，人僅僅對機器下達“開始”的命令，結果已經超出人可以預測和控制的范圍。人工智能寫作正在不斷地提高文章的創(chuàng)新性和完成度，如今已經可以把語言以及語言包含的模糊性都量化和賦予意義。通常，人通過直覺來處理語言的模糊性和空白，不同的人處理能力也并不相同，比如有的人難以理解語義復雜的文章。人工智能同樣可以捕捉到非結構化數據(unstructured data)并轉化成結構數據，經過數字化處理、運算，精準地表達出文章的深層內涵和意義，人工智能非結構數據(8)非結構化數據是指缺乏數據結構規(guī)則，不符合范式理論，無法用關系型數據庫表示和存儲的數據，涵蓋了各種可能的數據類型，例如，視頻數據、音頻數據、圖片數據等。的處理能力每年都有巨大的躍升。人工智能寫作從依賴人工智能收集龐大資料數據，到依賴其取舍內容，這些并非是終點，走向的是不斷對人工智能內容生產的依賴。人工智能正在逐漸蠶食人的主體的份額，最終轉而可能會成為創(chuàng)作的主體。

寫作不是單純的信息處理工作，是人類綜合認知活動之一，也是人類思想形成的基礎。同樣，人工智能也可以通過寫作來獲得不可想象的成長。通用人工智能具備深度學習能力，獲得了類似人的創(chuàng)新性自由思考能力，雖然思考方式和人并不相同，人工智能也成為一個“我思”(cogito)的存在，可以達到超出人想象的思想深度和奇思妙想。下一步，人工智能寫作可以結合當下的意識形態(tài)、情感結構和社會機制等進行寫作，比如吸收人在社交媒介上傳的各種點滴的日常生活，更加自主化地完成敘事結構、人物形象等內容，可能比人的寫作更為動人，充滿光華。在人工智能寫作能力逐漸高于人的發(fā)展背景下，若人工智能的思考能力、表現能力比人更加優(yōu)越，人很容易淪落為寫作的“看客”，逐漸喪失人通過寫作凝聚的主體意義和力量。寫作是人工智能學習人的思考方式一個最佳捷徑，人工智能可能通過閱讀人類典籍觸發(fā)自身的思考活動，然后演化、模擬寫作，凸顯出不同的個性和風格，甚至文章的完成度超越人類，形成獨立寫作主體。人工智能寫作剝奪人類寫作的主導權，這會給人帶來不可想象的危害。如果人工智能替代人進行寫作，會破壞人的思考能力、語言能力，剝奪藉由寫作而獲得的人的理性發(fā)展，進一步將全方面地介入人和社會的主體地位。

三、資本加速與惰性依附：人的寫作邊緣化的必然走向

人工智能在新聞、商業(yè)、司法、科研、教育等多樣領域都可以完成寫作任務，具有較好的效用性、便利性，速度更快，將人從重復性的、消磨性的寫作勞動中解放出來。一方面，人工智能寫作的運用無論是對新聞、文秘等寫作勞動密集型領域，還是寫作成本高昂的法律、金融咨詢等專業(yè)領域，都會產生積極的影響，例如，用戶可以以較低的價格購買法律服務和司法文書寫作服務。另一方面，人工智能寫作會剝奪大量寫作工作崗位，寫作行為貶值，就如同現代工藝的進步，藝術品經歷了工業(yè)化的復制生產，寫作將經歷由作品到低廉商品和服務的價值變革。

人工智能寫作蘊含巨大的經濟價值，資本將加速人的寫作的邊緣化。無論是應用文寫作，還是專業(yè)化寫作，人工智能寫作的生產成本會不斷降低，甚至趨向于零。即便人的寫作更為完善，人工智能寫作生產也會讓人的寫作邊緣化，經濟利益會抵消一定程度的技術缺陷，邏輯不通、表意不準等問題可以通過人的把關改善，人的寫作和機器的寫作并行仍然比單純人的寫作擁有成本優(yōu)勢。人工智能寫作在詞匯、結構、資料、速度等方面都擁有超過人的潛力，通過深度學習自主發(fā)展寫作能力，不斷提高文章的完成度和質量，達到一定的寫作水準之后，寫作速度和質量將會快速增長，在資本的推動下，最終變成大眾化的生產方式。

人工智能寫作可能帶來的問題已經引起了社會各界的關注。2018年4月，OpenAI發(fā)布《OpenAI綱領》描述其使命和原則，強調在整個開發(fā)過程中致力于為人類的最佳利益行事?！毒V領》寫道：“OpenAI的使命是確保通用人工智能 (Artificial General Intelligence, AGI)，即一種高度自主且在大多數具有經濟價值的工作上超越人類的系統(tǒng)，將為全人類帶來福祉。我們不僅希望直接建造出安全的、符合共同利益的通用人工智能，而且愿意幫助其它研究機構共同建造出這樣的通用人工智能以達成我們的使命。為了達到這個目標，我們制訂了如下原則：1.廣泛造福社會(Broadly Distributed Benefits)；2. 關注長遠安全問題(Long-Term Safety)；3.引領技術研究(Technical Leadership)；4.保持合作意向(Cooperative Orientation)?！盵8]2019年12月北京第二屆語言智能與社會發(fā)展論壇，業(yè)界專家們聚焦“智能寫作的社會影響及其倫理、法律問題”，發(fā)表了《推進智能寫作健康發(fā)展宣言》，呼吁智能寫作在發(fā)展中應當以人為本，永不尋求替代或削弱人類的語言使用能力，始終保持其工具性定位；并應不斷提高其自身透明性、可解釋性、可預測性，使系統(tǒng)可追溯、可核查、可問責；智能寫作要尊重人類語言作品的知識產權，審慎處置“原創(chuàng)”語言作品產權。[9]在資本裹挾下，這些社會共識和倫理準則能否貫徹是值得懷疑的。例如，OpenAI在成立之初，自定義為是非贏利性組織，但很快轉為盈利性公司，2020年推出價格不菲的基于GPT-3的API商業(yè)產品。寫作從人的寫作轉入超速的、大量的機器生產，資本推動的人工智能生產機制極有可能對消極影響視而不見，這樣前車之鑒并不在少數。

除了資本的推動，人的惰性也會促使人不斷加深依附人工智能寫作，放棄寫作實踐帶來的思考價值和自我意識。人工智能寫作幾秒鐘完成人需要冥思苦想才能完成的文章，可以幾個小時完成學者歷時幾個月的學術寫作，可以重新拼湊散軼的古籍內容，還可以學貫中西博通古今寫出“巨著”。人工智能寫作超速、大量、不停歇地生產，按照人不同的要求，隨時隨地量身定做寫作服務。人的惰性會讓人傾向選擇人工智能寫作服務，躲避作為體力勞動和精神勞動的寫作。依賴人工智能寫作，人一段時間之后就會失去寫作的興趣、動機和能力，也會懷疑人寫作的必要性。

當大部分文章淪落為人工智能量身定做的商品或服務，人的寫作可能不會完全消失，只剩下自我滿足式的個人創(chuàng)作，需要個人寫作的情形會越來越少。人工智能寫作會讓人的寫作，或者大多數人的寫作失去了意義，人的寫作可能反而需要單獨標識“手工制作”加以強調。

四、人工智能寫作問題有限的幾個突破口

人工智能將寫作的性質由情感轉化為數據，通過高超的數據運算能力，可以實現人無法達到的豐富語匯和復雜修辭。人工智能寫作具有人相似的綜合能力，其蘊含的力量給人類帶來的絕不僅僅是浪漫未來。實際上，面對人工智能寫作的不確定未來，人工智能寫作問題的突破口也是有限的。

1.人應當堅守寫作的主體地位，堅持人始終是寫作的主要作者。人工智能通過深度學習生產出的文章，近似人通過思維勞動，傾盡心血完成的作品，但人工智能寫作和人寫作的本質和價值是不同的。人工智能文章不經歷人的精神創(chuàng)造過程，并非是生命感受的結果，僅僅通過數據分析、加工完成文章。從這點來講，人工智能寫作能夠承載倫理意識，可以寫出符合人類倫理的內容，但人工智能寫作行為本身是違反人的寫作倫理的。

寫作要重新強調人的主體角色，堅持人工智能寫作輔助工具的功能定位。人工智能負責收集、整理材料，核實準確性，提供數據統(tǒng)計結果和參考案例，執(zhí)行相對初級的寫作工作，觀點最終應該由人來完成。同樣，在寫作教育方面，人工智能只能扮演寫作教育的輔助角色，人工智能可以檢查語法、錯別字等，而不能提供人學習的范文。值得深思的是，人積極地接受了人工智能寫作的角色，這其中如何界定人是寫作的主體，如何堅守人作為主體的邊界，仍是一個懸而未決的問題。

2.區(qū)分人工智能的寫作領域和人的寫作領域。人工智能是沒有真實生命體驗和生活經歷的機器，所有已存在的文章都可以成為人工智能深度學習的參考數據庫。人的寫作只是人工智能寫作的參考數據之一。不僅人的文章淪落為數據，人的生存和社會活動，包括性別、年齡、職業(yè)、財產、健康、人際交往、行蹤等都已經數據化。人工智能快速地分析、解釋和處理個體數據，在這些數據的基礎上，可以完成和人的體驗近似的內容。人工智能比人更加有效、精煉地使用語言，開發(fā)公共性語言(流行語、口號等)的鼓動性和影響力，主導社會輿論，這種能力會誤導或操縱現實。

寫作本身就是意識形態(tài)，大眾化的人工智能寫作意味著形成強大的意識形態(tài)的媒介。人工智能寫作的領域應該集中于以信息為中心的應用寫作，而文學寫作、深度報道、政治報告等，尤其是涉及到國家意識形態(tài)話語的文本，應該由人來主筆，不能由人工智能代筆。

3.人工智能文章要進行標識化，以不同的價值觀和評價體系進行評估和應用。人工智能寫作可以混淆真假、虛實難辨，導致人的判斷能力弱化，對人的生存環(huán)境帶來消極的影響。人工智能可以生成接近客觀存在的信息，可以生成世界不存在的人像、圖片和視頻等文件，可以制作真假難辨的內容，甚至技術上還無法完全對其進行甄別。隨著 GAN、VAE 等生成模型的發(fā)展，圖像生成技術突飛猛進，各種不存在的自然物都可以虛擬生成出來。例如，基于GAN(生成對抗網絡，Generative Adversarial Networks)，Nvidia采用人工智能算法StyleGAN上線了“此人不存在”網站(ThisPersonDoesNotExist.com)，用戶每次刷新都能生成人臉圖像。

“此人不存在”網站(ThisPersonDoesNotExist.com)生成的人臉圖像

2019年亮相的Deepfake是一種基于GAN的人工智能圖像合成技術應用，通過深度學習模型將假圖像/視頻組合、疊加到源圖像/視頻，這是一種屬于深度圖像生成模型的應用。Deepfake可以創(chuàng)建假視頻，生產不存在的動作/事件，人已經無法覺察其中的破綻。人可能最終不得不依靠人工智能辨別諸多存在物的真?zhèn)?，也意味人類對人工智能?chuàng)造物失去基本的辨別力。文學是對現實的再現，小說、戲劇都是虛構文體，報告文學等是非虛構文體，人工智能將虛構文體與非虛構文體混合則容易導致認知上的混亂。

人工智能寫作可以發(fā)揮出個人化的修辭和風格，但是人工智能寫作的語言邏輯習慣、修辭方式、結構組織等并非與人類完全一致，即便是兩者看起來近似，仍有細微差異。當人工智能文章在社會中應用、流通和擴散，尤其在大多數人無法分辨人的文章還是機器文章的情況下，從語言的表現形式到應用方法，都將潛移默化地對人施加影響，這會加深人語言的人工智能化，進而影響到人的思維能力和思想方式。機器寫作文本的標識制度，能保證寫作文本來源清晰、可溯源?！叭绾芜M行作者標識”需要出臺相關的政策制度方案，嚴格貫徹執(zhí)行，形成社會的共識。

人工智能技術仍在不斷開發(fā)和超速成長，人工智能寫作的現狀也在不斷發(fā)生變化。人類若過于依賴人工智能寫作工具，那么寫作能力一旦退化，就并非是單純的寫作問題，而是涉及到人類生存本質的嚴肅問題。在人工智能時代，我們正經歷一個無限可能的時代，始終應從人本主義立場去思考我們所面臨的情境，守護人的價值體系。無論在什么時代，人的寫作和人的生存始終是一脈相承的。