陶鋒

關鍵詞 人工智能文藝 倫理 治理 審美理性 人機和諧

〔中圖分類號〕Ｉ０－０５；ＴＰ１８ 〔文獻標識碼〕Ａ 〔文章編號〕０４４７－６６２Ｘ（２０２３）０５－００５２－１１

近幾年來，人工智能在文藝領域的表現(xiàn)越發(fā)亮眼。人工智能繪畫程序Ｄａｌｌｅ－２、ＳｔａｂｌｅＤｉｆｆｕｓｉｏｎ等已經(jīng)可以生成風格各異、極具創(chuàng)新性的作品。而ＣｈａｔＧＰＴ則憑借強大的自然語言處理系統(tǒng)，在人工智能文學方面的表現(xiàn)令人驚嘆，它不僅可以生成非虛構類的作品，如工作報告、策劃方案、論文、新聞、悼詞、影評等，還可以創(chuàng)作虛構類作品，如小說、歌詞、劇本等。這些人工智能文藝作品不但能以假亂真，而且似乎還有一定的創(chuàng)新和風格。人工智能不僅可以幫助人類進行體力勞動，還能進行一定程度的腦力勞動和創(chuàng)造性活動。除了這些自動生成藝術品的程序之外，還有很多文藝產(chǎn)業(yè)中的計算機平臺、軟件和手機ＡＰＰ在廣泛使用智能程序，如引發(fā)激烈爭論的“換臉術”，以及娛樂ａｐｐ利用人工智能來計算客戶的審美偏好并進行智能推送等等，這些新技術、新作品和新應用也帶來新的社會和倫理問題。

人工智能文藝作品主要指的是人工智能技術獨立或者半獨立地模擬生成的文藝作品。廣義的人工智能文藝作品還包括以“人工智能”等智能技術為主要輔助手段的人類作品。人工智能文藝研究主要包括：（１）對人工智能文藝作品的鑒別、欣賞與評價；（２）對人工智能文藝作品的生成、流通、應用和鑒賞等活動的研究和反思，并以此為關照，對人類藝術活動本質(zhì)的重新審思；（３）對人工智能技術在文藝領域的應用所引發(fā)的諸多社會現(xiàn)象的分析和反思。人工智能文藝活動與傳統(tǒng)的文藝活動的區(qū)別主要在于，人工智能可以較為獨立地進行文藝生產(chǎn)，一定程度上改變了傳統(tǒng)藝術生產(chǎn)者的構成和地位。下文主要就人工智能文藝作品的生成和應用（人工智能行為）領域產(chǎn)生的各種問題進行討論，結合最新的人工智能技術，探討人工智能可能會對文藝領域產(chǎn)生何種倫理和社會沖擊，以及我們應該如何在思想和現(xiàn)實層面對技術進行引導。

一、人工智能文藝領域的倫理與社會問題

人工智能藝術的生產(chǎn)和應用過程，會產(chǎn)生大量的倫理和社會問題。雖然相對于其他人工智能技術，如自動駕駛、智能制造等方面，人工智能文藝生產(chǎn)和應用不會直接威脅到人類的生命安全，但是其對個人和社會造成的顯性和隱性影響也極為廣泛與深遠。對于個體而言，人工智能文藝活動會影響到個人隱私和安全、文藝工作者的權益以及情感問題；而對于社會而言，這類特殊的生產(chǎn)應用活動會帶來信任問題、數(shù)字鴻溝、歧視以及影響到藝術行業(yè)的人員就業(yè)問題。下面，我們從個體和社會兩個方面來談談人工智能文藝領域的影響。

１．人工智能對文藝領域內(nèi)個體權益、隱私和情感的影響

人工智能強大的圖像處理能力，使其可以生成高仿真的圖片和視頻，特別是人臉圖片。這類技術在文藝領域特別是影視和主播領域，得到了廣泛的運用。比如電影拍攝方面，正在越來越多地運用到換臉技術。如《速度與激情７》（２０１５）中，用ＡＩ換臉技術完成了去世影星的表演鏡頭。２０１９年一款名為“ＺＡＯ”的軟件風靡全國，該軟件運用了人工智能深度學習技術，可以進行實時的面部轉(zhuǎn)化，俗稱“換臉術”。這種換臉術早在２０１６年就由德國紐倫堡大學的教授蒂耶斯（Ｊ．Ｔｈｉｅｓ）團隊開發(fā)出來，稱為Ｆａｃｅ２Ｆａｃｅ，后來進一步發(fā)展成Ｄｅｅｐｆａｋｅ技術，該技術主要包括三個步驟：一是人臉偵測和識別，二是確定變換矩陣，三是人臉替換。由于這種面部轉(zhuǎn)換過于逼真和簡易，會侵犯到他人的肖像和隱私權，所以引發(fā)了較大的爭議。而在主播行業(yè)，虛擬主播越來越流行，人們既可以生成一張?zhí)摂M面孔以替代真人主播，也可以利用虛擬技術為自己建立數(shù)字分身。

本雅明認為，藝術的本質(zhì)特征是復制。但是，當這種復制不再局限于靜態(tài)圖片，而是介入動態(tài)視頻甚至生成更加仿真的事物時，會產(chǎn)生很多現(xiàn)實的道德和法律上的風險。例如Ｄｅｅｐｆａｋｅ可以用來制作明星虛假色情視頻，這嚴重地侵犯了他人的肖像權，甚至有些視頻使用政治人物的頭像，這可能會造成外交和政治問題。美國試圖立法禁止媒體使用此類視頻，但是由于技術限制，目前仍然很難追蹤并快速識別換臉視頻。影視行業(yè)如果不加約束地使用此技術，會導致一些節(jié)目為了節(jié)約人力成本、追求利潤，使用ＡＩ換臉術來欺騙觀眾，這將損害到觀眾的權益，也必然對整個行業(yè)造成負面影響。

除了Ｄｅｅｐｆａｋｅ換臉術，人工智能生成文學作品也帶來了各種爭議。深度學習需要輸入大量的人類作品，這會帶來版權和著作權等問題。一些人工智能程序開發(fā)者已經(jīng)明確放棄人工智能生成作品的版權，如微軟小冰在推出《陽光失去了玻璃窗》詩集之后不久，就宣布放棄對程序?qū)懺姷陌鏅唷Ｃ绹鏅嗑种魅闻翣柲绿兀ǎ樱校澹颍欤恚酰簦簦澹颍┲赋?，使用ＤＡＬＬ－Ｅ、Ｍｉｄｊｏｕｒｎｅｙ、ＣｈａｔＧＰＴ以及新發(fā)布的ＧＰＴ－４等工具生成的數(shù)字藝術、詩歌和書籍，如果人類在作品生成中僅僅使用文字描述或提示，將不受版權保護。

在人工智能時代，藝術的復制不再是簡單的機械“復制”，而是進入了一種風格模擬、創(chuàng)意模擬和藝術機制模擬的階段，也即是“人工智能模擬時代”。對于表象上的復制和抄襲，我們很容易鑒別，但是對于風格、創(chuàng)意和機制的模擬，就很難從直觀上分辨了。例如現(xiàn)在的ＣｈａｔＧＰＴ使用了超大規(guī)模的自我監(jiān)督神經(jīng)網(wǎng)絡學習技術，學習了幾十億個詞匯。它生成的作品很難說會和已有人類的某件作品雷同，但是這并不能保證，其在一些創(chuàng)意上不會“借鑒”他人的作品。這些隱性的抄襲雖然不會直接傷害到作者的權益，但是會影響其創(chuàng)作積極性。

人工智能技術在圖像和藝術方面的開發(fā)和應用，不僅會產(chǎn)生個體權益問題，還可能會侵犯到個人隱私。首先在技術開發(fā)中，由于人工智能需要大量的數(shù)據(jù)輸入來訓練，所以一些公司可能在未經(jīng)用戶同意的情況下使用他們的照片和數(shù)據(jù)。例如，ＩＢＭ在未經(jīng)用戶同意的情況下，在圖片分享網(wǎng)站Ｆｌｉｃｋｒ上獲取了大約１００萬張照片用于訓練其人臉識別的算法。另外，個人興趣、愛好和一些偏好也屬于隱私的一部分。一些娛樂的ａｐｐ會根據(jù)個體的觀看偏好來推薦作品，這樣也會引發(fā)人們對隱私的擔憂。隨著人工智能視覺識別技術的廣泛運用，還會產(chǎn)生金融和財務的安全問題。例如現(xiàn)在的人臉識別技術，被廣泛地運用于交通、出行、快遞收取和金融業(yè)務上，這極大地提高了工作效率、改善了生活體驗，但是也帶來了各種風險。

人工智能藝術生成還會對人類的藝術情感和情感交流產(chǎn)生沖擊。首先，人工智能藝術的出現(xiàn)，打破了藝術必須傳遞情感的說法。沒有情感或者偽造情感灌注的藝術品，也能引發(fā)人們的審美感受和共鳴。目前的人工智能是無法真正產(chǎn)生情感的，它只能通過“情感計算”（ａｆｆｅｃｔｉｖｅｃｏｍｐｕｔｉｎｇ）或者設置情感程序的方式來模擬情感。情感計算的實質(zhì)是通過大數(shù)據(jù)和精確的計算將引發(fā)情感的藝術表現(xiàn)形式與情感對應起來，然后通過學習模擬這些藝術形式，生成一些看起來有情感的作品。無論是情感計算，還是設置情感程序，并非都是人工智能自身的情感。這種虛假的情感也能使人感動，但是一旦它被發(fā)現(xiàn)是假的，人們會覺得受到了愚弄。就如同艾略特所說的被“胡言亂語”（ｇｉｂｂｅｒｉｓｈ）的詩歌所欺騙那樣。

其次，情感機器人的發(fā)展也會對人類的情感交流造成困擾。人工智能程序與人進行對話的同時，可以通過情感計算方式來收集話語中的情感信息，對話者在對話中成了它的一個數(shù)據(jù)收集對象。但是，當人們發(fā)現(xiàn)這些機器的情感并非基于生命而是通過計算而來的，人們很可能會陷入迷惘、失望和恐懼中。日本學者森政弘提出“恐惑谷”理論，認為機器人與人類的過分相似會導致人們的迷惑心理和恐懼情感。他主要是從機器人設計的外觀和行為來說明這種現(xiàn)象的。實際上，這種恐惑心理和情感在機器人和人工智能與人類交流時也會出現(xiàn)。在人工智能程序表現(xiàn)出高度的擬人化和智能化時，如人工智能程序Ｄａｌｌｅ－２創(chuàng)作出新奇的畫作，或者是如ＣｈａｔＧＰＴ能夠?qū)懗鰞?yōu)美的詩句時，人們也可能會出現(xiàn)迷惑甚至恐懼的心理，特別是在人們不知道創(chuàng)作者是人還是機器時。

人工智能在文藝領域的應用不僅僅會對個體造成影響，還會對整個社會產(chǎn)生積極或消極的影響，引發(fā)人類社會的信任危機，以及數(shù)字鴻溝、歧視、失業(yè)等社會問題。

２．人工智能藝術產(chǎn)生的社會信任、數(shù)字鴻溝、就業(yè)問題

人工智能對情感的模擬使得人們首先面臨一種情感信任危機，而在此基礎上會引發(fā)更大的人與機器、人與人的信任危機。人工智能模擬情感雖然可以在娛樂、科研等方面對人們有所助益，但是它們會擾亂人類生命共同體的情感交流方式和信任機制，“人們的注意力逐漸被虛擬世界吸引”，人與人之間的同理心和共通感不再是普遍的、可靠的了?？档聦⑷祟惖墓餐ǜ幸曌鲗徝琅袛嘀跃哂衅毡樾缘幕A，而審美快感是與生命感緊密聯(lián)系的。然而一旦人類的情感和審美活動被人工智能所模擬和中介，人們的審美判斷就不再是純粹的、普遍的、與生命有關的了。這一點在康德提到“人造花”時已經(jīng)指出，人們在發(fā)現(xiàn)自己欣賞的是人造花而不是真花時，會有一種“虛榮的興趣”（ＩｎｔｅｒｅｓｓｅｄｅｒＥｉｔｅｌｋｅｉｔ）。當人工智能藝術和文本越來越泛濫時，人們在對藝術品進行審美判斷之前，需要先進行真假判斷：這到底是人的作品還是人工智能的作品？這些作品的情感是真實的還是虛擬的？有人用ＣｈａｔＧＰＴ寫作的論文和作品去投稿，導致許多期刊開始抵制ＣｈａｔＧＰＴ寫作的作品，這體現(xiàn)了學術界的擔憂，即人工智能文本會污染人類文本。除了人工智能藝術品之外，前面說的換臉術、虛擬主播、機器人客服等，都會導致信任危機。

人類社會的穩(wěn)定在很大程度上建立在信任和共識上，正是因為我們對人類的個體相似性以及文化、情感、語言、精神的可交流性的信任，使得人們可以相信他人、協(xié)同合作。正如伽達默爾指出的，“語言是我們在世存在的基本活動模式，也是包羅萬象的世界構造形式”。但是，以ＣｈａｔＧＰＴ為代表的人工智能程序，正在生成大量的“自然”語言和文本，這些語言和文本混入到了人類的語言和文本池中。其強大的計算能力和生成效率，會導致人類語言被機器生成的文本所稀釋、掩蓋甚至代替。后人類時代要擔心的不僅僅是人類個體器官被人工器官所置換，“身體不再徹底是或完全是屬人的”，還要憂心于人類社會，包括工具、文化甚至精神，都可能被機器所中介和置換。

人工智能技術的發(fā)展，還會造成不同階層、不同國家和地區(qū)的數(shù)字鴻溝問題，這也集中體現(xiàn)在各地區(qū)人們對人工智能文藝的接受、理解、普及和宣傳的不同上。“數(shù)字素養(yǎng)”（ｄｉｇｉｔａｌｌｉｔｅｒａｃｙ）是２１世紀人類的重要技能，提高數(shù)字素養(yǎng)，其目的是“要讓大眾有能力去保護自己防止數(shù)據(jù)濫用，重要的是讓他們能夠順暢地理解數(shù)據(jù)收集和共享的方式、算法的使用方式和目的，以及他們可以使用哪些工具和技術來保護自己”。但是，不同階層、不同年齡段的民眾對數(shù)字和網(wǎng)絡技術的理解和學習能力是不同的。不同國家，由于教育、經(jīng)濟發(fā)展和重視程度的不同，也會導致數(shù)字素養(yǎng)方面的差距。

就文化和藝術而言，人工智能技術可以促進文化產(chǎn)業(yè)的發(fā)展和擴展文藝傳播的范圍。例如Ｆａｃｅｂｏｏｋ、Ｗｈａｔｓａｐｐ、抖音等社交娛樂軟件，由于應用了人工智能技術，可以更便捷地推及世界各地。人工智能翻譯技術的提升，使得一些強勢語言和文化更易傳播，這種廣泛傳播反過來又能夠促進人工智能語言翻譯的提升。而一些小語種和相對不發(fā)達的文化，由于本身可采集的文本和語料較少，人工智能翻譯數(shù)據(jù)少，再加上其地區(qū)的技術滯后，各種文化作品翻譯和傳播就更為艱難。強勢語言和文化與弱勢語言和文化之間的差距會越拉越大。人們在使用ＣｈａｔＧＰＴ時就體會到了，該程序?qū)τ诓煌Z言的回答會有明顯的質(zhì)量上的區(qū)別。ＣｈａｔＧＰＴ的中文訓練語料庫僅占比５％，而且由于中文自然語言的復雜性等原因，使得ＣｈａｔＧＰＴ在中文文本生成上遠遠遜色于英文。中文尚且如此，其他小語種就更不用說了。因此，智能科技的發(fā)展背后是國家實力和文化實力的支撐，數(shù)字鴻溝會隨著技術的發(fā)展而越來越大。

人工智能技術高度發(fā)展伴隨而來的還有各種歧視和偏見等問題。麻省理工學院的學者發(fā)現(xiàn)，ＩＢＭ、微軟和中國公司Ｆａｃｅ＋＋的三個最新的性別識別程序，從照片中正確識別出一個人的性別，對于白人男性而言高達９９．２％，而對于皮膚黝黑的女性來說，準確率下降到只有６５．３％。而ＣｈａｔＧＰＴ的開發(fā)者也明確指出，盡管他們努力使模型拒絕不正當?shù)恼埱?，但是ＣｈａｔＧＰＴ仍然可能對有害的指令做出反應或表現(xiàn)出有偏見的行為。ＣｈａｔＧＰＴ等人工智能的技術本質(zhì)決定了，它們可能會繼承并放大人類思想中傳統(tǒng)的偏見，如性別、種族等等，這些歧視和偏見不僅僅需要我們通過技術來防止，還需要從人類思想和文化的層面去改變。

人工智能生成藝術作品，還會引發(fā)文化產(chǎn)業(yè)領域中的就業(yè)和勞動問題。２０１６年，牛津大學出版的一份報告指出，雖然寫作、作曲等藝術工作較之機械的、重復性勞動更難被取代，然而在未來，也會被人工智能所取代。目前來看，人工智能程序已經(jīng)可以生成一定質(zhì)量的繪畫、設計、音樂、詩歌等門類的作品。一些文化產(chǎn)業(yè)中的低端復制性工作更容易被取代，如插畫師、行畫技師、初級設計師、配樂師等等。特別是２０２３年３月１５日推出的ＧＰＴ４和升級版的ｓｔａｂｌｅｄｉｆｆｕｓｉｏｎ程序，在識圖、繪圖方面的水平表現(xiàn)得非常出色，其繪制的設計圖片，已經(jīng)被一些設計師用作參考了。而一些藝術家個體，也會在人工智能的全面圍剿下變得生存艱難。藝術市場會被物美價廉的人工智能藝術品所擠占。這將引發(fā)藝術市場的失業(yè)問題，迫使人們向其他更難取代的工作轉(zhuǎn)移，文藝產(chǎn)業(yè)中的中低端工作將慢慢消失。我們雖然對此已有思想準備，然而隨著人工智能技術的高速發(fā)展，行業(yè)調(diào)整以及人員培訓的速度仍然可能趕不上技術發(fā)展的速度。因此，如何預先設想行業(yè)未來的發(fā)展狀況，以及引導技術的發(fā)展方向，是亟須思考的重要問題。

二、人工智能文藝的倫理社會問題之思想根源

人工智能藝術帶來的個體與社會的問題，有其深遠的社會和思想根源。在人工智能出現(xiàn)之前，控制與自由、藝術與技術、人與機器的矛盾問題就已經(jīng)存在了，人工智能技術進一步放大了這些矛盾。人工智能與之前的作為工具的機器有著本質(zhì)的不同，人工智能已經(jīng)不單純是被動的工具，而是具有一定主動性和主體性的代理性主體（ａｇｅｎｔ）了，這迫使我們需要重新思考這些經(jīng)典的哲學問題。

１．控制與自由

馬克思曾在《資本論》中分析了機器的自動化與人類勞動之間的關系。馬克思指出，大工業(yè)生產(chǎn)中，機器成了異化和控制人的“自動機”，“濫用機器的目的是要使工人自己從小就變成局部機器的一部分”。機器看似在減輕和取代人的勞動，但實際上，“機器不是使工人擺脫勞動，而是使工人的勞動毫無內(nèi)容。”機器會加速人們的異化勞動。馬克思認為，“生產(chǎn)過程的智力同體力勞動相分離，智力轉(zhuǎn)化為資本支配勞動的權力”。自動化機器實際上是資本控制的有力工具，人們創(chuàng)造了機器，但是反過來卻被機器和資本所控制。到了人工智能時代，機器不僅會取代人類的體力勞動，還可能取代人們的部分腦力勞動，甚至是那些人類引以為傲的創(chuàng)造性活動。倘若如此，人們是會擺脫束縛，進入到自由勞動中，還是被資本在腦力與體力全方位控制呢？

海德格爾認為，機器改變了人的語言本質(zhì)，機器與以往工具最大的不同在于，機器會催逼自然。海德格爾區(qū)分了言說機器（Ｓｐｒｅｃｈｍａｓｃｈｉｎｅ）與語言機器（Ｓｐｒａｃｈｍａｓｃｈｉｎｅ）。前者是一種被動的、記錄人類語言的機械裝置，而“語言機器從它的機器能量和功能中已經(jīng)調(diào)節(jié)并安排我們的語言的可能的使用方法”，現(xiàn)代技術支配語言本身和世界，“語言機器使得語言運行起來，因此控制了人類”。海德格爾最終將希望寄托于本真的藝術語言——詩歌，因為現(xiàn)代技術與機器遮蔽了人和真理的本真狀態(tài)，所以“一首詩原則上不能用計算機編制程序”。

在智能科技時代，人工智能通過學習人類文本，模擬生產(chǎn)類似的文本。而當人工智能生成的文本不斷增多，逐漸稀釋并淹沒了人類文本時，人們會習慣于閱讀機器文本而不自知。那么，控制人工智能的力量，也可以輕而易舉地控制人們所有能讀到的文本。這種文化控制和阿多諾指出的工業(yè)化時代的控制是一脈相承的，文化工業(yè)可以通過對藝術產(chǎn)品的精確控制，來影響甚至控制人們的審美口味，進一步控制人的思想和認識。這種控制力量可以是資本、財團或者統(tǒng)治階層。一些智能音箱如亞馬遜公司的智能音箱“Ｅｃｈｏ”可以在用戶不知情的情況下追蹤用戶的關鍵詞甚至部分對話。我們在上網(wǎng)、打電話或者用社交軟件等任何智能程序和設備時，都會遇到這種問題。盡管研發(fā)者宣稱，他們只是在追蹤一些關鍵詞，而不會涉及具體內(nèi)容。但是，正是這種智能化追蹤和推薦，正在潛移默化地改變?nèi)藗兊馁徺I偏好、審美趣味、生活方式甚至思維習慣。

控制力量也可以來自人工智能本身。如果說資本還只是人類意識的延伸，那么群集智能、通用人工智能就有可能發(fā)展成獨立于人的自動力量。它們具有資本所不具有的自主性與主動性。一旦它們的發(fā)展超出人類的控制，就可能轉(zhuǎn)而成為控制人的力量。在智能科技時代，控制和自由將體現(xiàn)在人與機器人的關系中。

２．人機關系

人與機器人的關系脫胎于人與機器的關系，是人機關系中的新類型。現(xiàn)代機器人主要指具有一定自主性的自動化機器和智能化程序。人們對自動化機器的想象由來已久，早期想象中的機器人類型大致可分為兩種：一種是實用工具，即機器人代替人來工作，如古希臘神話中的青銅衛(wèi)士塔羅斯。亞里士多德在《政治學》中曾經(jīng)提到，如果工具能夠完成自己的工作，服從或預期他人的意愿，那么“主人也不想要奴隸”。還有中國傳說中的自動運輸工具“木牛流馬”等。另一種則是供人欣賞娛樂的藝術品，如《列子·湯問》里面的“偃師造人”中所設想的會自動舞蹈的歌姬，霍夫曼小說《沙人》中的情愛機器人奧林匹婭，以及中西方機械史中的人偶機械裝置。這些實際上也是一種供人娛樂的工具。到了２０世紀的文藝作品中，人們開始重新批判這種人機關系。設想中的機器人與人類的關系是不和諧的，機器人成了反抗的主體，它會威脅和報復人類。捷克作家恰佩克（Ｋ．Ｃａｐｅｋ）在一部戲劇中創(chuàng)造了“Ｒｏｂｏｔ”（機器人）這個詞，該詞源于捷克語的“ｒｏｂｏｔａ”，意思是“苦力”。劇中，機器人后來毀滅了人類，統(tǒng)治了地球。類似的還有電影《大都會》（１９２７）里的破壞勞工運動的女機器人等等。到了好萊塢電影《ＡＩ》（２００１）中，人工智能機器人從威脅人的怪物變成了被人類肆意傷害的弱者。在人們的文藝作品中，人與機器人的關系始終是壓抑與被壓抑的緊張關系。

隨著科技的發(fā)展，文藝想象中的自動機器也逐漸變成現(xiàn)實。人與機器的關系越發(fā)緊密，特別是人工智能技術，已經(jīng)介入到我們的日常生產(chǎn)、生活中。智能機器已然不是一般的使用工具，人機關系理應進入到新型的人機合作形態(tài)。保羅·沙瑞爾（ＰａｕｌＳｃｈａｒｒｅ）根據(jù)機器承擔的任務類型、執(zhí)行任務時的人機關系、機器決策的復雜性程度，將人機合作的具體形式分為半自主、輔助自主以及完全自主三種方式。２０２０年，馬斯克在Ｎｅｕｒａｌｉｎｋ發(fā)布會上展示了腦機接口技術，提示人類和機器的融合已經(jīng)進入到肉體甚至是神經(jīng)系統(tǒng)層面。隨著人工智能自主技術的發(fā)展，人機關系可能會進入到人機共生關系形態(tài)，正如海姆所說：“我們與信息機器的關系宣布了一種共生關系，最終是與技術的精神聯(lián)姻?！?/p>

２０１９年歐盟頒布的《可信賴的人工智能倫理原則》強調(diào)，人應該對人工智能擁有絕對的控制權，人工智能應該以人為中心。實際上，科幻作家阿西莫夫早在１９４２年小說里提出的“機器人三定律”就是這種人機關系立場的延續(xù)，體現(xiàn)了一種“人類中心主義”立場。在人工智能還不具備自主意識的情況下，人類的這種控制是有其實際意義的。但是，人們一方面希望創(chuàng)造出能替代人類進行各種勞動的真正的智能體，一方面又希望這種智能體只是一種可控的工具，這種想法顯然是矛盾的。因為如果人工智能真要實現(xiàn)智能，它就需要具有獨立性和一定的自主性，甚至，我們希望人工智能成為道德和法律上的責任主體。倘若如此，人工智能是很難被人所完全控制的。之所以會出現(xiàn)這種悖論，還是因為人類理性的高度工具化、功能化和目的化，人們?yōu)榱硕虝旱膶嵱媚康亩鲆暳碎L期的合目的性。

因此，筆者在參與２０１９年科技部《新一代人工智能治理原則》的制定過程中，提出了“人機和諧”的建議，并得到了采納。所謂的“人機和諧”并不是一種浪漫的藝術幻想，而是基于對人自身的理性、對“人類中心主義”的反思和批判。無論是人機合作還是人機共生，都應該是一種和諧關系而非壓抑和對抗關系。人機和諧的前提和基礎是人對工具理性的控制，對人與技術、人與機器關系的思考。人們在擔心人工智能給人帶來威脅之前，首先應該擔心的是人類理性中蘊含的控制性和毀滅性力量。正如法蘭克福學派所預言和批判的，人類的同一性哲學和工具理性，會讓人們控制自然、控制他者，而這種力量最終會反噬人類自身，異化和控制人類。正是人類自己發(fā)明了足以摧毀人類和世界的技術——核武器、基因工程和人工智能，如果有一天人工智能真的毀滅人類，本質(zhì)上是人類的自我毀滅。人機和諧的基礎是人類的自我和諧、感性與理性的和諧，主體與客體的和諧。如果人始終想奴役和控制對象，那人類也將在奴役和控制中自我奴役。而人類的自身和諧，首先要將對抗性的工具理性轉(zhuǎn)變?yōu)橐环N和諧的理性，這需要藝術與技術的融合。

３．藝術與技術

早期的人類藝術與技術是合一的，在漢語中，“藝”的原意是“種植”，古代“六藝”也多為實用性技術。亞里士多德所言的“技藝”（Ｔｅｋｈｎē）包括手工藝在內(nèi)的實用技術制造，也包括了“詩藝”（Ｐｏｉēｓｉｓ）。隨著人類文明的發(fā)展，技術與藝術慢慢區(qū)分開來，藝術成了以欣賞為主的、與人類精神文明相關的行為?？档旅鞔_將“無功利性”和“自由”賦予了藝術。而技術則是實用的、有功利性的人類活動。

在《啟蒙辯證法》中，霍克海默和阿多諾認為社會分工造成了藝術與科學的分離和對立?？茖W鄙棄藝術中留存的巫術，自己卻變成了一種工具，理性也成了一種工具理性。阿多諾在《美學理論》中進一步發(fā)展了這種觀點，技術鄙棄藝術的巫術遺存，而藝術則將技術從統(tǒng)治中解放出來。斯蒂格勒認為，工業(yè)時代，技術試圖徹底拋棄自身的偶然性，與科學結合到一起，成了斯蒂格勒所說的“技術科學”（ｔｅｃｈｎｏｓｃｉｅｎｃｅ），即科技。不可否認，科技對于人類進步起到了巨大的推動作用。然而人們并不僅僅希望將這種必然性限于科技之中，也試圖將之加到藝術身上，將藝術整合進科技中。

科技對藝術的第一次大規(guī)模整合即本雅明所說的機械復制時代產(chǎn)生的藝術品，他將機械復制時代的藝術過程視作一種生產(chǎn)過程，文藝作者本身是生產(chǎn)者。因此，本雅明非常重視技術革新對藝術帶來的巨大影響，技術將藝術從巫術中解放出來，例如機械復制技術使得藝術失去了宗教價值，只剩下了展覽價值。阿多諾批判了本雅明的藝術生產(chǎn)和機械復制觀念，他認為，藝術本身具有必然與偶然、表達與不可表達的辯證因素，本真藝術應該保持其不可復制性，反對文化工業(yè)將藝術品變成商品。阿多諾試圖將技術藝術化來結合藝術與技術，藝術通過自身的技術——一種“無目的的”、非暴力的和諧方式，來反對和拯救有目的的、同一化的技術。藝術中的模仿—表達要素則可以用來拯救工具理性。本雅明的藝術技術化觀點重視的是技術為藝術生產(chǎn)帶來的解放性變革，而阿多諾的技術藝術化考慮的則是藝術對技術理性的改造。馬爾庫塞則試圖綜合兩者，他認為藝術可以成為技術，技術也可以融入到藝術中，他重視的是藝術和審美中的“非侵略性”力量。

人工智能技術在藝術領域的應用，體現(xiàn)了智能科技對藝術新的整合趨勢。一方面，人工智能可以生成藝術品，這表明藝術的某些規(guī)律已經(jīng)可以被算法化、計算化了。另一方面，人工智能技術也可以廣泛應用到鑒賞性的、審美式的藝術之中。不過，目前人工智能在藝術上的應用，更多地還是為了研發(fā)和提升技術。例如，ＣｈａｔＧＰＴ寫作、微軟小冰寫詩、谷歌寫作ＡＰＰ研發(fā)的目的是為了改進ＮＬＰ（自然語言處理）技術，從而能更好地為顧客服務，其背后驅(qū)動仍然是商業(yè)利益。提倡藝術和技術結合，指的是通過技術藝術化來引導技術向善——技術的目的是為了提升人類的生活福祉，人工智能技術應該重點研發(fā)藝術、娛樂、教育以及健康等方面的問題，而不是戰(zhàn)爭、犯罪以及控制等領域。

三、人工智能文藝領域倫理社會問題之治理基礎

人工智能文藝生成和應用活動中，產(chǎn)生了各種與個人權益和社會控制相關的問題，原因在于藝術與技術的摩擦、人和機器的矛盾，而追根溯源，則是人類自身理性發(fā)展的問題。正是由于人們無限制地使用理性，生成了各種無法控制的技術，所以才進一步加劇了人與自然的對立、導致了社會矛盾的加劇，因此，對于人類理性的控制和引導首當其沖，只有深刻反思人類思想上的痼疾，才能進一步在實踐中加以引導和轉(zhuǎn)變。

１．審美理性

隨著技術的提升和人類對工具理性的批判，人類的理性在逐漸脫離舊的工具性、壓抑性特質(zhì)，而逐漸發(fā)展出一種相對可控的、調(diào)和的“設計理性”。人工智能之父司馬賀（Ｈ．Ｓｉｍｏｎ）認為，我們現(xiàn)今生活的世界就是一個人工世界，正確地研究人類就是研究設計科學。?設計理性不同于以往的工具理性之處在于，首先，工具理性的中心是外在目的，而設計理性更重視人的需求和目的。其次，工具理性關注物的功能與實用價值，設計理性除此之外，還關注物的審美價值。再次，設計理性中隱含著“創(chuàng)新”之維度，工具理性則只考慮利益的增值。在人工智能、虛擬現(xiàn)實、克隆、基因編輯等技術的加持之下，世界的一切，包括藝術、人類大腦、生命都可以被設計。但是，設計理性不過是工具理性的高級階段，它并沒有擺脫那種將事物和人類工具化的根本特征?？萍伎梢栽O計一切事物，但是無法設計自然合目的性本身。

因此，一種符合自然合目的性的審美理性應該是理性發(fā)展到最高階段的產(chǎn)物。也即是說，人類的理性，只有實現(xiàn)了以生命為最終目的，才能是自由和自為統(tǒng)一的理性。審美理性的基礎來源于阿多諾的審美合理性（ＡｅｓｔｈｅｔｉｃＲａｔｉｏｎａｌｉｔｙ／？ｓｔｈｅｔｉｓｃｈｅＲａｔｉｏｎａｌｉｔａaｔ）概念。阿多諾提出此概念是為了彌補工具合理性的不足，其目的是借鑒藝術和審美中的平等因素，來糾偏同一性思想和技術理性中的壓制本性。在阿多諾之后，一些堅持“審美理性”（ＡｅｓｔｈｅｔｉｃＲｅａｓｏｎ）觀點的學者，繼承了阿多諾的審美理性化和審美救贖責任這兩個核心維度，如伯恩斯坦認為審美理性是“藝術作品中所表達的一種推理”，藝術品是對科學知識和道德經(jīng)驗所提出問題的回答。阿蘭·辛格提出要“重新審視現(xiàn)代美學理論的認知主義根源”，審美活動不應該是一種逃避，而是“一種有意義的社會事業(yè)”。審美合理性除了審美救贖的內(nèi)涵之外，還包含著審美的理性化部分。人工智能藝術的出現(xiàn)，首先說明了審美理性化是有可能的，藝術和審美的部分規(guī)律可以被認識、計算或者算法化了。一些現(xiàn)代美學流派如信息美學、實驗美學、神經(jīng)美學重視藝術的必然性一面，卻忽視了審美辯證法。我們不應該簡單地讓智能科技將藝術整合進去，用必然性替代個性、偶然性和自由特征。我們更需要的是藝術與技術的融合，人工智能技術需要審美理性來引導。人工智能藝術可以成為文化工業(yè)有力的工具，成為資本盈利的手段，控制資本與技術的階層可以通過控制大眾的審美來進一步控制人們的思想與行為。在這種情況下，我們更應該重視和珍惜人類藝術的重要性，不應該將藝術完全交給人工智能去生產(chǎn)。我們只有堅持發(fā)展藝術的想象力和創(chuàng)造力，保有藝術創(chuàng)作和欣賞過程中的平等、和諧因素，才能夠更好地引導人類理性和技術，同時對人工智能技術進行有效的引導。

２．中國話語

人工智能藝術所帶來的倫理和社會問題，也可以從中華傳統(tǒng)思想中尋找到指引方法。如前所述，中國的《新一代人工智能治理原則》率先提出了人機和諧的思想，這種和諧觀就來自中國傳統(tǒng)的天人和諧觀念。在莊子那里，機械源于人類的“機事”和“機心”，莊子希望人們能夠去掉機心和分別心，回到人與自然的融合，實現(xiàn)天人合一。然而，我們現(xiàn)代世界中已經(jīng)充斥了各種人工物，這些人工物不僅實際參與了我們的生活，還參與到我們的意向活動以及倫理中。機器和人工物構成了一種人造自然，因而，我們就要考慮如何在人類、自然和人造自然之間重新達成新的和諧。這種和諧需要人們承認自己的有限性、理性的有限性，需要人們破除“人類中心主義”迷思。唯有如此，人類才能尊重其他生命，敬畏自然，警惕理性和技術的過度使用，為理性與技術劃界。老子說“知止不殆，可以長久”，知道界限，人類才能長存。庫茲韋爾在《奇點臨近》中認為，我們要進行“細粒度放棄”，放棄那些會對人類產(chǎn)生不可逆的、巨大危險的技術。對于人工智能藝術而言，我們可以通過人工智能技術去探索藝術和審美的規(guī)律及算法進程，但是同時也要重視藝術中那些偶然性、個體性和變化性等無法算法化的特性。在生產(chǎn)應用方面，我們還要限制那些威脅到人類隱私和自由的應用，如“換臉術”、竊取數(shù)據(jù)等，更要警惕資本在文化工業(yè)中對人工智能技術的肆意濫用，生產(chǎn)出大量的拙劣的、惡趣味的文化商品，而使真正的藝術品被淹沒。

另外，人機和諧還包括人與人工物、人工物的研發(fā)者之間和諧信任的機制。誠信是中國傳統(tǒng)美德，孔子非常強調(diào)人與人之間“誠信”相待，“信”是儒家所說的“四教”之一?！缎乱淮斯ぶ悄苤卫碓瓌t》提到人工智能程序必須事先表明身份。筆者認為，在文藝領域，人工智能藝術品也應該作出明確標示，這是為了防止人工智能濫用仿人、仿生技術，給人類社會帶來信任危機。誠信還包含了人與機構、國家之間的信任，所謂“民無信不立”。在文化工業(yè)中，一些公司掌握了大量的公民的數(shù)據(jù)，如個人的審美偏好、閱讀習慣、趣味等等，公民授權它們使用這些數(shù)據(jù)，是為了促進文化工業(yè)領域的健康發(fā)展，為人們提供更加優(yōu)質(zhì)的文藝作品。所以這些公司應該盡量做到信息和技術的“開源”，讓人們普遍參與到授信與監(jiān)督之中，也最大限度地保障公民隱私權不受侵犯。

因此，引導理性、提升道德和建立互信是長遠之計，從現(xiàn)實層面來說，我們還是應該加強倫理監(jiān)管，預先設置道理倫理準則甚至是法律制度。

３．指導規(guī)范

相較于法律制度，倫理原則更加寬泛、更有彈性一些，因此也適合那些新出現(xiàn)的、尚無定論的社會問題。例如人工智能“換臉術”“換聲術”等，這些技術如果合理運用，是可以有益于人的。但是一旦濫用，則必定給個人和國家的隱私、安全帶來極大的威脅，在不同的情況下需要區(qū)別對待，而法律很難做到巨細無遺。因此，出臺相應的倫理原則成了當務之急。目前，歐美多國出臺了人工智能治理和倫理規(guī)范。例如歐盟《可信賴的人工智能倫理指南》提出，“可信賴的人工智能”包括合法、合乎道德、穩(wěn)健可控三個方面，而道德是基礎。２０１６年美國白宮發(fā)布的《國家人工智能研究與發(fā)展戰(zhàn)略規(guī)劃》中確定的七項戰(zhàn)略中也包括“理解和應對人工智能帶來的倫理、法律和社會影響”。２０１７年國務院發(fā)布的《新一代人工智能戰(zhàn)略發(fā)展規(guī)劃》中明確指出“制定促進人工智能發(fā)展的法律法規(guī)和倫理規(guī)范”。２０１９年科技部發(fā)布的《新一代人工智能治理原則》以“和諧友好”“公平公正”“包容共享”“尊重隱私”“共擔責任”等倫理道德原則為核心內(nèi)容。不過，這些原則卻幾乎沒有言及人工智能在文藝領域所產(chǎn)生的倫理和社會問題，更多關注的是自動駕駛、安全、監(jiān)控和隱私方面。前已論及，人工智能文藝生產(chǎn)雖然并不會直接危及人們的生命、財產(chǎn)安全，但是，也會給個人的權益、隱私以及整個社會帶來不利影響，還會通過改變?nèi)藗兊膶徝?、?chuàng)造能力來同質(zhì)化人們的認識能力和鑒別能力，甚至能對人類的感性、理性和自由精神產(chǎn)生影響。這些危害或許要多年以后才能顯現(xiàn)出來?！皧蕵菲脚_為了自身的商業(yè)利益，利用算法誘導用戶進行娛樂或信息消費，導致用戶沉迷。另外，‘算法至上的內(nèi)容推薦，會導致利用算法不斷強化用戶自己想看的世界，內(nèi)容越來越單一且變得偏激，以致形成惡性循環(huán)。此類算法濫用可能導致用戶價值觀扭曲、視野狹窄等問題?！币虼耍覀円残枰雠_相應的行業(yè)倫理細則來規(guī)范人工智能文藝領域的研發(fā)和應用，特別是對一些研發(fā)平臺和公司進行監(jiān)督和規(guī)范，加強科技工作者的倫理教育和自律，加強技術人員與藝術工作者的合作，讓藝術和技術真正地融合起來。

綜上所述，人工智能藝術的出現(xiàn)，會產(chǎn)生應用倫理、社會倫理、情感倫理等多方面的問題，如危及個體隱私、自由、權益和情感，會導致信任問題、數(shù)字鴻溝、性別歧視等問題頻發(fā)，甚至也會影響到藝術行業(yè)的就業(yè)和經(jīng)濟結構。這些問題的根源在于控制與自由、人與機器、藝術與技術等傳統(tǒng)問題中固有的矛盾和沖突，人工智能的出現(xiàn)，加劇了這些矛盾。我們只有先從批判人類理性入手，才能進一步地健全人類理性和道德，并引導技術朝健康的方向發(fā)展。筆者呼吁能通過審美理性——結合了感性和理性、藝術與技術、平等與和諧的理性，來糾偏技術理性，引導技術。我們應該承認理性的有限性和界限，適時適當?shù)胤艞壞承┩{人類的技術，從而能夠塑造人與自然、人工自然的和諧。中國的傳統(tǒng)和諧觀能夠為新的人機關系奠定思想基礎，另外，我們也需要建立文藝領域的倫理原則，來指導人工智能藝術的健康發(fā)展。

作者單位：南開大學哲學院

責任編輯：魏策策