摘 "要：[研究目的]以ChatGPT為代表的生成式人工智能在應用中日漸表現(xiàn)出通用的潛力，其雖憑借自身的超大算法功能、超大模型參數(shù)、強大的擴展功能等技術實現(xiàn)了對人類部分腦力勞動的取代，但亦帶來了一系列的倫理問題，例如人類主體地位缺失、人倫關系危機、算法歧視、用戶隱私泄露等，這種困境催生了應對倫理危機、構建新型人機關系的時代訴求。[研究方法]立足于馬克思科學技術觀及科技倫理思想及國內(nèi)外學者關于生成式人工智能應用、人機交互關系等方面的現(xiàn)有研究成果，分析生成式人工智能快速發(fā)展所帶來的倫理問題，從資本邏輯、技術構成和技術應用的角度探究倫理困境之源，并對倫理困境進行對策探究。[研究結論]新時代要實現(xiàn)生成式人工智能的良性發(fā)展，治理好它帶來的倫理困境，需要從堅持馬克思主義理論指導下的科技倫理觀、堅守技術創(chuàng)新領域的倫理紅線、推動構建技術開發(fā)者與人文學者的溝通平臺、在技術發(fā)展中融入人文思想等措施入手擺脫倫理困境，實現(xiàn)人與人工智能的良性互動。

關鍵詞：生成式人工智能；ChatGPT；科技倫理；倫理困境；倫理規(guī)范

中圖分類號：B82-057；TP18 文獻標識碼：A DOI：10.19881/j.cnki.1006-3676.2024.06.09

隨著科學技術的發(fā)展，其所帶來的倫理問題也不斷困擾著人類。從第一次工業(yè)革命至今，機器已經(jīng)實現(xiàn)了對大部分體力勞動的取代，而從20世紀興起的人工智能技術則開始逐步實現(xiàn)對人類智能的部分取代。在當代，由OpenAI所發(fā)布的ChatGPT給人類社會帶來了高效信息集成的同時，也激發(fā)了人類對生成式人工智能技術的倫理思考。唯技術論者漠視科學技術給人類社會所帶來的消極影響，片面注重技術所帶來的好處，忽視了科技與倫理之間的關系。人類在科學技術的進步中打開了人工智能的潘多拉魔盒，發(fā)現(xiàn)其中隱藏的是對人類社會現(xiàn)有倫理道德的顛覆，人類的命運受到了嚴峻的挑戰(zhàn)。在人工智能所引領的數(shù)字化、信息化背景下，我們要順應時代潮流，同時也要重視應對技術發(fā)展所帶來的倫理問題。

一、生成式人工智能發(fā)展下的倫理困境顯現(xiàn)

2023年3月，OpenAI推出了ChatGPT-4，GPT-4除了在模型參數(shù)上遠超前幾代的人工智能，還具備了更加類人化的強大功能。以往的生成式人工智能模型只能以文本的輸入輸出作為工作形式，但GPT-4在此限制上完成突破，能夠做到理解文字含義并完成文字的圖片轉換，實現(xiàn)了圖片和文本的輸入輸出。ChatGPT類人化功能的推出，實現(xiàn)了對人類部分腦力勞動更深程度的取代，顛覆了人類獲取知識的方式，開啟了人工智能技術的新篇章。人類在享受科技進步所帶來的便捷生活時，也需要及時對科學技術做出反思。因此，審視技術發(fā)展所帶來的倫理困境是必要的。

（一）生成式人工智能發(fā)展導致人類主體地位的喪失

隨著工業(yè)革命的逐步推進，科學技術給人類社會帶來深刻變革的同時，也展現(xiàn)出模仿人、代替人，甚至類人化的特征。作為模仿人類智能的生成式人工智能，其產(chǎn)生之初的意義便是通過模仿人類大腦的工作方式將人類從繁重的勞動中解放出來。但是生成式人工智能發(fā)展至今，在逐步實現(xiàn)人類勞動解放的過程中反而帶來了人類主體性進一步喪失、主體自由的實現(xiàn)對大部分人而言變得愈發(fā)困難的問題。

首先，人作為社會的存在物，離不開社會交往。生成式人工智能因其模型功能可以深入理解人類語言，能夠與人類進行溝通交流，對人類提出的問題做出回應。在人工智能與社會生產(chǎn)生活深入結合的今天，AI可以成為人類的私人秘書、心理醫(yī)生，甚至成為知心朋友。但是，這也造成了人類主體性交流功能可能減弱甚至喪失的危機。在人機交互中，生成式人工智能的強大交流功能，可能會使得人類忽視現(xiàn)實中的人際交往，沉溺于AI所創(chuàng)造的虛擬語境，淪為機器的“附庸”。

其次，人工智能技術可能引發(fā)人類思維的主體地位缺失。ChatGPT-4相較于上一代人工智能模型實現(xiàn)了突破式的進化，擁有了強大的文字續(xù)寫功能、語境理解功能、圖片輸出功能。但生成式人工智能延伸至人類思維創(chuàng)作領域，或會引發(fā)人類思維的主體地位缺失，養(yǎng)成“懶人”思維。用戶在使用人工智能的過程中，可能會過分依賴其輸出的信息而減弱自身獨立思考的能力。長此以往，人類可能會成為人工智能的“提線木偶”。

最后，生成式人工智能還可能造成人類勞動主體地位的喪失。“勞動資料一作為機器出現(xiàn)，就立刻成了工人本身的競爭者[1]?！弊鳛樯a(chǎn)工具的人工智能技術，憑借其強大的算法基礎和數(shù)據(jù)分析能力，不但同勞動者進行競爭，而且已經(jīng)逐步呈現(xiàn)出勞動客體的主體化趨勢。人工智能技術的快速發(fā)展，不僅在很大程度上取代了人類的體力勞動，而且也逐步顯現(xiàn)出取代人類腦力勞動的趨勢。馬克思在《1844年經(jīng)濟學哲學手稿中》提到：“人的類特性恰恰就是自由的自覺的活動[2]?！倍白杂傻淖杂X的活動”就是指人類可以按照規(guī)律和自己的意識進行勞動創(chuàng)造，在這個“自由的自覺地活動”中，人類擁有勞動的主體地位，但人工智能對人類腦力勞動的部分取代，可能是人的勞動主體地位在科技進步中面臨的一個新挑戰(zhàn)。

（二）生成式人工智能發(fā)展導致人倫關系的危機

在傳統(tǒng)的倫理學中，人倫關系主要是指人與人之間的關系。人工智能作為人類對象化活動的產(chǎn)物，可以幫助提高社會生產(chǎn)力，變革社會生產(chǎn)關系，但另一方面，人工智能技術在發(fā)展中卻逐步出現(xiàn)侵犯人倫的現(xiàn)象，甚至有“反客為主”的趨勢，這可能引發(fā)人倫世界的顛覆。

一方面，生成式人工智能會引發(fā)人與人之間倫理關系的混亂。生成式人工智能的工作原理是利用已經(jīng)訓練好的大語言模型進行單字接龍，與常用的搜索引擎從已建構的數(shù)據(jù)庫搜索的工作原理相比，生成式人工智能會對已有的數(shù)據(jù)首先進行深入學習以形成屬于自己的大語言模型，然后通過對模型的訓練，讓其學會提問和回答的規(guī)律，從而在面對一個全新的問題時，能夠通過已有的模型實現(xiàn)對問題的解答。顯而易見，生成式人工智能的文字生成方式與人類語言的生成方式有著相似性，人類在語言生成中會出現(xiàn)失誤，人工智能也會如此。因此在技術的使用過程中，生成式人工智能可以做到“講話”，但是無法做到“講真話”，用戶對生成內(nèi)容加以學習后，可能會形成或加深自身的錯誤偏見，這無疑會對現(xiàn)實中人與人之間的交往產(chǎn)生影響，從而引發(fā)人際倫理關系的失調(diào)。此外，具有強大功能的生成式人工智能如ChatGPT不僅可以作為用戶情感上的導師，甚至可以幫助用戶處理各類生活問題，導致用戶在使用人工智能的過程中，會逐步產(chǎn)生對技術的依賴心理，甚至可能受到技術的支配，淡化現(xiàn)實中的人際交往。

另一方面，生成式人工智能還可能引發(fā)人機倫理關系的變化。在傳統(tǒng)的倫理道德中，人一直都是主體，動物和機器只是倫理道德的受動者，但是生成式人工智能的發(fā)展可能會顛覆傳統(tǒng)的人機倫理關系。當下ChatGPT4.0強大的文字和圖片創(chuàng)作能力就在使人機倫理關系逐漸模糊。藝術文化創(chuàng)作活動是以人為主體的精神活動，生成式人工智能的介入會引發(fā)很多倫理爭議：例如生成式人工智能的自主創(chuàng)作權是否要受到限制、由AI所創(chuàng)造的文化藝術產(chǎn)品是否像人類一樣有著對作品的專著權、AI創(chuàng)作的藝術作品要承擔什么樣的倫理道德責任等。人工智能介入人類專屬的創(chuàng)作領域，必然會造成人機倫理關系的顛覆，我們需要對AI所創(chuàng)造的作品加以分類和定性才能避免這種情況發(fā)生，促進人機關系的良性互動。

（三）生成式人工智能發(fā)展導致公平正義的缺失

公平正義是倫理學的核心概念之一。生成式人工智能因其強大的算法和大數(shù)據(jù)模型被廣泛應用在社會生產(chǎn)生活各個方面，但在生成式人工智能與社會生產(chǎn)生活結合的過程中，生成式人工智能的技術優(yōu)勢反而會帶來算法歧視和侵犯隱私等現(xiàn)象，導致社會公平正義的缺失。

首先，生成式人工智能會造成算法歧視現(xiàn)象。算法歧視是指以算法為手段實施的歧視性行為，是歧視在數(shù)字社會中的一種特殊表現(xiàn)形式[3]。算法歧視作為中立性缺失的行為，具有高度的隱蔽性、強大的危害性。一方面，由于算法的價值觀念并不是中立的，而是技術開發(fā)人員的價值觀映射，因此在人工智能技術的使用中，由技術人員開發(fā)的算法可能會塑造用戶的價值觀，影響用戶的行為，從而激化社會矛盾。另一方面，人工智能的強大算法會產(chǎn)生行業(yè)壁壘，還會導致算法黑箱現(xiàn)象的出現(xiàn)。用戶在技術使用中無法理解算法的運行邏輯，可能會加劇他們在技術使用中的弱勢地位，從而引發(fā)算法歧視，甚至社會群體之間的對立。

其次，生成式人工智能會侵犯用戶的個人隱私。雖然OpenAI宣稱ChatGPT經(jīng)過模型訓練后已經(jīng)剔除了關于個人隱私的內(nèi)容，但對大數(shù)據(jù)進行分析和處理時，生成式人工智能依舊可以通過算法模型的強大邏輯推理能力從信息中推斷出用戶的身份。因此即使人工智能模型已經(jīng)剔除了關于個人的隱私信息，但根據(jù)數(shù)據(jù)關聯(lián)和算法邏輯的推演，人工智能依舊可以對個人信息進行重新識別從而侵犯個人隱私，并且在訪問第三方數(shù)據(jù)中造成個人隱私的泄露。

最后，生成式人工智能會影響社會的公平正義。在信息化社會，生成式人工智能對社會公平正義的影響主要聚焦于兩個方面。一方面，人工智能會導致人與人之間的信息差距增大。人工智能由于模型進化的需要，會對大數(shù)據(jù)進行深入挖掘，在此過程中，由于貧困階層缺乏信息防衛(wèi)意識以及保護自身信息的經(jīng)濟能力，更容易淪為資本的剝削對象。另一方面，人工智能可能會造成勞動者的失業(yè)危機，導致工作機會的不公平。在人工智能時代，出現(xiàn)了大量機器排擠工人現(xiàn)象，致使大量工人失業(yè)，如果社會沒有做好相應的失業(yè)應急措施，就會出現(xiàn)社會階層收入差距擴大等影響社會公平正義的現(xiàn)象。

二、生成式人工智能發(fā)展下的倫理困境之源

針對生成式人工智能技術所帶來的倫理困境，本文從科技產(chǎn)生的環(huán)境、算法設計及大數(shù)據(jù)學習、技術的應用這三個方面對倫理困境產(chǎn)生的根源進行深入分析，以期通過探究生成式人工智能的倫理困境之源，為技術發(fā)展的倫理規(guī)范路徑提供方向。

（一）資本邏輯之下的倫理困境之源

科學技術是人本質(zhì)力量的外在延展，是人的價值屬性的工具化表達，這決定其必然內(nèi)嵌于特定的社會關系中，表達特定的階級思想和階級利益[4]。資本增殖需要科學技術的革新，技術也因資本的需要而快速發(fā)展。生成式人工智能作為由西方國家主導開發(fā)的技術，必然會受到資本的控制，代表資本主義的階級意識，成為資產(chǎn)階級利益的對象化產(chǎn)物。因此，在資本主義制度下，生成式人工智能與資本全面融合，導致人工智能技術發(fā)生了嚴重的異化，并逐漸陷入倫理困境。

首先，資本對技術的控制導致倫理困境的產(chǎn)生。資本主義經(jīng)濟條件下，生產(chǎn)的至深動機與根本目的是剩余價值[5]。作為資本人格化的資本家為了追求高額的剩余價值，會不斷地革新生產(chǎn)工具，使工人在同等時間內(nèi)生產(chǎn)更多的商品，而為了最大限度地獲取利潤，資本家一定會加大對生成式人工智能的控制和應用。資本對人工智能技術的控制主要體現(xiàn)在：一方面，資本會在人工智能技術的研發(fā)中，將消費主義、個人主義、性別歧視、種族歧視等內(nèi)容融入算法和模型訓練中，通過激起社會其他方面的矛盾從而轉移人們對資本主義基本矛盾的關注。另一方面，資本會在人工智能的使用中實現(xiàn)對技術的控制。資本通過人工智能與各專業(yè)領域的結合，實現(xiàn)人工智能的泛化應用，為資本的壯大服務，而技術會在應用中逐步取代人類的主體地位，迫使勞動者失業(yè)，造成人類主體性缺失、社會公平正義缺失等倫理困境。

其次，數(shù)字資本化導致倫理困境的產(chǎn)生。數(shù)字資本是資本發(fā)展到新階段的一種資本形態(tài)，數(shù)字資本化體現(xiàn)了信息化時代技術與資本的深度融合。在數(shù)字資本主義時代，用戶正淪為數(shù)字平臺的免費勞工，用戶通過使用社交媒體、搜索引擎、應用程序等大數(shù)據(jù)平臺為人工智能的模型開發(fā)提供了大量數(shù)據(jù)，但是在這一過程中，用戶并未被告知自身數(shù)據(jù)被使用，也沒有得到相應的勞動報酬，這是資本邏輯下人工智能技術對用戶隱私和社會公平正義的侵犯。此外，數(shù)字資本對勞動者剝削的程度更加嚴重，它可以利用用戶對平臺的使用數(shù)據(jù)實現(xiàn)對免費勞動的無償占有。信息化時代下，勞動者的工作和休息時間被進一步模糊化，勞動者使用數(shù)據(jù)平臺的過程也是為資本進行勞動生產(chǎn)的過程，其結果便是少數(shù)平臺經(jīng)營公司獲得巨大利潤，而代價則是大多數(shù)勞工陷入低工資、不穩(wěn)定就業(yè)及社會貧富差距拉大的窘境中[6]。

最后，技術服務對象的異化導致倫理困境的產(chǎn)生。生成式人工智能誕生于西方“數(shù)字帝國主義”的背景下，能夠極大降低數(shù)字化生產(chǎn)成本、提高生產(chǎn)效率、增加資本利潤，因此不可避免地被資本家狂熱追捧和利用。生成式人工智能出現(xiàn)的本意是服務于人類的勞動解放，但現(xiàn)實卻是造成了異化現(xiàn)象，給人類社會帶來了災難。一方面，人工智能的強大功能使其在文字生成、語言邏輯的某些方面正逐步超越人類，造成勞動者的部分腦力勞動被人工智能所否定。另一方面，技術服務于人類，但技術卻成為一種異己的力量。人工智能在為人類社會造福的同時，也通過智能算法深入分析每一個人的生產(chǎn)生活習慣，營造屬于每個人的“信息繭房”，逐漸成為控制人類的異己力量。

（二）算法和大數(shù)據(jù)之下的倫理困境之源

人工智能作為人類智能的物化，其技術核心是智能算法和語言模型。人工智能在技術應用中出現(xiàn)的歧視現(xiàn)象和公平正義缺失等倫理問題與算法技術的研發(fā)和大數(shù)據(jù)的學習緊密相關，從算法和大數(shù)據(jù)中探究倫理困境產(chǎn)生的根源，是分析和解決它們的重要途徑。

一方面，人工智能的算法研發(fā)會導致倫理困境的出現(xiàn)。ChatGPT作為一種基于深度學習和強化訓練的神經(jīng)網(wǎng)絡系統(tǒng)，具有專業(yè)的算法設計和復雜的模型訓練方式。智能算法的設計是人類處理數(shù)據(jù)并獲得信息的過程，在編寫設計算法代碼的過程中人工智能已經(jīng)被植入了算法設計者的價值觀[7]。算法設計人員在人工智能模型的構建過程中，會將自己對于社會的觀點、看法和個人偏見帶入其中，可以說，生成式人工智能在應用中出現(xiàn)的算法歧視現(xiàn)象本質(zhì)上是算法設計人員的價值觀映射。此外，企業(yè)作為人工智能算法技術的占有者，也在算法中蘊藏了自己的意圖。人工智能企業(yè)為了達到快速盈利的目標，會通過算法技術向用戶推送符合公司利益的信息內(nèi)容。此外，人工智能企業(yè)還可能通過占有算法技術掌握社會的數(shù)據(jù)資源，對處于算法弱勢或者沒有占有算法技術的群體進行技術控制。

另一方面，人工智能模型訓練所需的大數(shù)據(jù)對倫理造成的影響也不容忽視。用戶使用社交軟件、搜索引擎和各類應用程序會產(chǎn)生大量數(shù)據(jù)，這些數(shù)據(jù)可以幫助生成式人工智能模型進行文本生成、圖像處理等功能的優(yōu)化，對人工智能的模型進化尤為重要。在運用用戶數(shù)據(jù)進行模型訓練的過程中，用戶的數(shù)據(jù)隱私可能在模型訓練中被侵犯，造成個人隱私的泄露，而且因為人工智能算法無法有效識別用戶數(shù)據(jù)中關于性別歧視、種族歧視、宗教歧視等不良信息，所以可能會在技術應用中放大輸出人類社會的歧視信息。與此同時，用戶卻對自己的數(shù)據(jù)參與至人工智能模型的訓練過程一概不知，這容易導致用戶淪為某些企業(yè)的“免費勞工”，使用戶遭受著更加隱蔽的剝削。

（三）技術應用之下的倫理困境之源

生成式人工智能的類人化功能展現(xiàn)出強大的通用價值，可以和不同平臺結合，促進社會生產(chǎn)力的發(fā)展。ChatGPT的底層算法是由強化訓練模型和獎勵模型構成的預訓練模型，能幫助它在不同領域或者行業(yè)數(shù)據(jù)的喂養(yǎng)下進化為適合該領域或者行業(yè)的專用GPT[8]。將應用領域與ChatGPT預訓練模型相結合，對模型進行數(shù)據(jù)投喂和工作場景嵌入，使生成式人工智能技術融入社會生產(chǎn)生活，是人工智能技術與實踐相結合的主要途徑。

當前，生成式人工智能在技術應用中已經(jīng)逐步實現(xiàn)了對人類非物質(zhì)勞動的取代，其主要體現(xiàn)在語言勞動的取代和情感勞動的取代兩個方面。首先，語言作為一項純粹人類技能，正被人工智能所掌握，它可以勝任語言表達、解決問題、符號和分析任務的勞動[9]。以ChatGPT為代表的生成式人工智能在人工客服、文字處理、編輯等腦力勞動領域表現(xiàn)出強大的運用潛力。在取代這類腦力勞動者的過程中，人工智能的使用不僅造成了勞動者的失業(yè)，還使這類崗位被人工智能重新定義和改造。語言不再成為人類的專屬技能，因為人工智能在語言邏輯、知識儲備、信息檢索等方面正在超越人類，并逐步進化出藝術創(chuàng)造的能力，顛覆了以往的人機關系，對人類主體構成了巨大威脅。

其次，在情感對話中，人工智能可以根據(jù)算法技術識別用戶的情緒，為用戶提供情緒價值，從而深度參與到人類生活的各個領域。人工智能可以利用算法技術結合用戶在數(shù)字平臺的數(shù)據(jù)，對用戶的情感進行分析，從而為用戶提供情感價值。在以前的人類社會，機器是作為人類的附庸為人服務的，如今的人工智能則可以在一定程度上取代心理醫(yī)生等職業(yè)與用戶進行互動。作為生產(chǎn)生活的工具，人工智能能實現(xiàn)對人類的“精神維修”，這有其積極作用，但也可能會在一定程度上引發(fā)人與機器的倫理關系混亂。

最后，人工智能在技術應用中對人類語言和情感勞動取代的直接結果便是勞動者的失業(yè)問題。人工智能技術對人類腦力勞動的取代在一定程度上會導致技術應用下的倫理困境。馬克思早已預料到了這種現(xiàn)象的發(fā)生：“勞動生產(chǎn)力越高，非工人和工人相比數(shù)量就越多，不從事必要生活資料生產(chǎn)或完全不從事物質(zhì)生產(chǎn)的工人的數(shù)量就越多[10]?！睆V大勞動者在技術的應用過程中被人工智能所取代，喪失勞動機會，甚至面臨著淪為“無用階級”的風險。因此，解決人工智能所引發(fā)的倫理困境，促進技術與人類社會共同發(fā)展，是全球人工智能科技倫理治理的重點。

三、生成式人工智能發(fā)展的倫理規(guī)范路徑

生成式人工智能深入?yún)⑴c人類腦力勞動而產(chǎn)生的科技倫理困境主要與資本邏輯、算法和大數(shù)據(jù)的研發(fā)、人工智能技術的應用相關。時代一直向前發(fā)展，中國也需要發(fā)展屬于自己的生成式人工智能，習近平總書記說過，中國要強盛、要復興，就一定要大力發(fā)展科學技術，努力成為世界主要科學中心和創(chuàng)新高地[11]。我們必須緊隨時代潮流，在發(fā)展人工智能技術的過程中及時解決它引發(fā)的倫理問題，引導人工智能向著為人民服務的方向發(fā)展。

（一）提升科技倫理認識，構建中國特色的科技倫理體系

公眾的認知是推行人工智能倫理規(guī)范的重要因素[12]。針對倫理困境，首先應該提升公眾對科技倫理的認識，將科技倫理思想深入滲透至公眾的工作學習生活中，讓個體能夠在一定的科技倫理規(guī)范下判斷行為的可行性。具體而言，要在我國的中小學倫理教育課程中培養(yǎng)人們的科技倫理意識。此外，還要塑造適合科技倫理發(fā)展的社會文化環(huán)境，以良好的科學社會文化保障科技倫理教育的穩(wěn)步推進。

其次，提升科技工作者的倫理意識?？萍紓惱淼难芯恐卫砭哂锌鐚W科屬性，僅僅依靠相關人員自發(fā)的參與難以達到有效治理的目標。所以，對于提升科技工作者的倫理意識，一方面可以從高等教育入手，各大高校要積極開設倫理相關課程，讓學生真正理解專業(yè)領域與倫理之間的聯(lián)系。另一方面，要構建技術研發(fā)人員與人文學者的交流溝通平臺，推動二者的交流，克服跨學科障礙，使技術研發(fā)人員深入理解專業(yè)領域深入發(fā)展對人類社會的影響，同時讓人文學者也能更好地理解科學前沿，真正做到“科技”和“倫理”的深度融合。

最后，要深化馬克思主義對科技倫理的指導。馬克思和恩格斯在無產(chǎn)階級革命實踐中提出的唯物辯證法思想，為我國的科技倫理體系的構建提供了思想基礎。馬克思主義認為唯物辯證法是關于自然和人類思維運動的一般規(guī)律的科學，在此基礎上構建起來的馬克思科技倫理思想高度肯定了科學技術對人類社會的革命作用，同時也從異化觀念上對技術產(chǎn)生的影響加以批判，這對我國科技倫理體系的構建具有指導性意義。此外，馬克思將科技視為社會的基本要素，根據(jù)這個思想從人類社會視角探討生成式人工智能與社會的關系，對我國規(guī)范科技倫理具有借鑒作用。所以，我們需要在馬克思主義指導下深入研究治理科技倫理困境，構建符合中國國情、具有中國特色的科技倫理體系。

（二）將人文思想融入技術研究中

馬克思主義認為“現(xiàn)實的人”生存發(fā)展的實踐是科技活動的邏輯起點[13]?！艾F(xiàn)實的人”主要是指以實踐的方式存在著的并從事現(xiàn)實生產(chǎn)活動的人。在人類歷史的發(fā)展中，科學技術源于人類的實踐，在科技的幫助下，人類得以改造客觀世界，展示人類的本質(zhì)力量。因此，在人工智能技術研究中，需要以“現(xiàn)實的人”為出發(fā)點，將人文思想融入技術研究，讓科學技術真正為人民大眾服務。

一方面，企業(yè)要將人文思想融入企業(yè)的發(fā)展中。將人文思想與技術研究相融合，是揚棄異化、解決倫理困境的重要途徑。“人文”與“技術”之間不是簡單的理論與理論之間的融合，而是要深刻地嵌入于企業(yè)的生產(chǎn)生活中。企業(yè)作為人工智能技術的設計與生產(chǎn)主體，需要積極引導人文素養(yǎng)融入企業(yè)文化，在人工智能的設計和生產(chǎn)應用中更加注重道德物化的實踐，生產(chǎn)具備人文氣息的人工智能產(chǎn)品，實現(xiàn)人工智能技術為用戶造福的目標。

另一方面，科技工作人員要及時以人文視角對技術發(fā)展進行反思?？萍佳芯孔鳛槿说膶嵺`活動，其精神態(tài)度源于人，科學技術理應做到為人服務。隨著科技的發(fā)展，需要將人文思想融入以求真創(chuàng)新為準則的科技活動。因此，技術工作者應該要對技術研究進行反思，從人文視角來審視人工智能技術研究中的倫理問題，以帶有人文氣息的設計推動人工智能技術與社會進步相互補充、相互發(fā)展。

（三）規(guī)范技術創(chuàng)新中的倫理底線

規(guī)定人工智能發(fā)展的倫理底線，關系到人類的生產(chǎn)生活方式和人類命運的終極意義。黨的二十大報告強調(diào)，我們必須增強憂患意識，堅持底線思維，做到居安思危、未雨綢繆，準備經(jīng)受風高浪急甚至驚濤駭浪的重大考驗[14]。在人工智能技術創(chuàng)新中，要有憂患意識，堅持技術創(chuàng)新中的倫理底線，實現(xiàn)技術為人類造福的價值目標。

人工智能技術創(chuàng)新中的倫理底線，其核心要聚焦于人類的理想、信念和價值目標。這一倫理底線的問題關系到人類的整個生活方式和人類命運的終極意義，關系到人類的命運和未來[15]。在人工智能技術創(chuàng)新中如果缺少倫理底線，可能會導致人類的毀滅。而這一倫理底線的設置，一方面來自于法律，因為法律從根本上被認為是符合道德的，也是社會公平正義的最直接體現(xiàn)，另一方面，這種倫理規(guī)范需要有客觀普遍性，可以被人民大眾所理解和信仰。人權作為人類社會的核心范疇，既具有法律上的概念范疇，也是道德所推崇的重要理念，是技術創(chuàng)新中必須堅持的倫理底線。因此，在人工智能技術創(chuàng)新中必須要堅持人權法則的倫理底線，即保障人類的生存和發(fā)展權利。具體而言，就是要求企業(yè)和科學技術人員在技術創(chuàng)新中深刻反省人工智能的倫理準則，理解人工智能技術對人類社會產(chǎn)生的不利影響，在科技與倫理之間尋找平衡，真正做到科技與倫理相互促進、相互發(fā)展。

四、結語

生成式人工智能技術發(fā)展帶來的倫理困境正成為各國的發(fā)展痛點，技術的倫理治理也成為了當代焦點。人工智能技術進步的腳步不會停歇，由技術發(fā)展帶來的倫理問題也需要得到解決?？萍即龠M時代不斷向前發(fā)展，時代也為科技發(fā)展指明方向，構建可控可靠的人工智能依舊是生成式人工智能發(fā)展所追求的最終目標。針對我國國情，在生成式人工智能技術治理中，我國應結合各國治理的優(yōu)點，以提升公眾和科技人員的倫理認識為出發(fā)點，以技術創(chuàng)新中的倫理底線為紅線，將人文思想融入人工智能技術發(fā)展，實現(xiàn)對人工智能倫理困境的有效治理。

參考文獻：

[1] 馬克思，恩格斯.馬克思恩格斯文集：第5卷[M].北京：人民出版社，2009：495.

[2] 馬克思.1844年經(jīng)濟學哲學手稿[M].北京：人民出版社，2000：53.

[3] 石穎.算法歧視的發(fā)生邏輯與法律規(guī)制[J].理論探索，2022（3）：122-128.

[4] 鄧觀鵬，顧友仁.算法殖民：西方意識形態(tài)算法化統(tǒng)治的審視與批判[J].新疆社會科學，2023（5）：20-31，174.

[5] 薛丹妮.人工智能資本主義應用的資本邏輯及內(nèi)在張力[J].深圳大學學報（人文社會科學版），2022，39（5）：130-137.

[6] 張瑜.生成式人工智能中的數(shù)字剝削問題、癥候成因及治理策略[J].企業(yè)經(jīng)濟，2024，43（3）：135-142.

[7] 肖峰，胡月慶.智能算法的資本化效應及其辯證檢視[J].云南社會科學，2024（1）：46-55.

[8] 鄒開亮，劉祖兵.論類ChatGPT通用人工智能治理：基于算法安全審查視角[J].河海大學學報（哲學社會科學版），2023，25（6）：46-59.

[9] 崔中良，盧藝.勞動替代危機下人機關系的顛覆與重建[J].江漢論壇，2024（2）：61-69.

[10] 馬克思，恩格斯.馬克思恩格斯文集：第8卷[M].北京：人民出版社，2009：370.

[11] 習近平.習近平談治國理政：第3卷[M].北京：外文出版社，2020：246.

[12] 鄧若玉.人工智能發(fā)展的科技倫理反思[J].廣西社會科學，2020（10）：93-97.

[13] 韓來平，陳璇.馬克思主義科技與人文相融合的理與路：科技倫理共識問題研究[J].科學技術哲學研究，2022，39（3）：97-103.

[14] 習近平.高舉中國特色社會主義偉大旗幟 為全面建設社會主義現(xiàn)代化國家而團結奮斗：在中國共產(chǎn)黨第二十次全國代表大會上的報告[M].北京：人民出版社，2022：26.

[15] 李偉，孔祥瑜.人類文明新形態(tài)視域下人工智能發(fā)展的倫理底線與進路[J].寧夏社會科學，2023（2）：33-39.

An Exploration of the Ethical Dilemmas Brought by Generative Artificial Intelligence and Its Governance

Jing "Junxue " "Fan "Yanglu

（Lanzhou University of Technology，School of Marxism，Gansu，Lanzhou，730050）

Abstract：[Research purpose] Generative artificial intelligence represented by ChatGPT is increasingly showing general potential in applications. Although it has replaced part of human mental work with its own super-large algorithm functions，super-large model parameters，powerful expansion functions and other technologies，it has brought a series of ethical problems，such as the lack of human subjectivity，the crisis of human relations，algorithmic discrimination，user privacy leakage，etc. Such a dilemma has given birth to the demands of the times to deal with the ethical crisis and build a new type of human-computer relationship. [Research method] Based on Marx’s concept of science and technology and the ethics of science and technology，as well as the existing research results of domestic and foreign scholars on the application of generative artificial intelligence and human-computer interaction，this paper analyzes the ethical problems brought about by the rapid development of generative artificial intelligence，explores the source of ethical dilemmas from the perspectives of capital logic，technology composition and technology application，and explores the countermeasures to ethical dilemmas. [Research conclusion] In order to achieve the benign development of generative artificial intelligence in the new era and deal with the ethical dilemma that arises therefrom，it is necessary to get rid of the ethical dilemma by adhering to the ethical concept of science and technology under the guidance of Marxist theory，adhering to the ethical red line under technological innovation，promoting the construction of a communication platform between technology developers and humanities scholars，and integrating humanistic ideas into technological development，so as to realize the benign interaction between human and artificial intelligence.

Key words：generative artificial intelligence；ChatGPT；ethics of science and technology；ethical dilemmas；code of ethics

作者簡介：景君學，男，1970年生，博士，教授，研究方向為生態(tài)哲學、技術哲學及西方馬克思主義。范洋露，男，2001年生，碩士研究生，研究方向為馬克思主義發(fā)展史。