唐 權,楊書文,張麗穎

(天津財經大學 財稅與公共管理學院,天津 300222)

著名政治學家亨廷頓(Samuel P. Huntington)曾指出,“現代性孕育著穩(wěn)定,但其現代化過程卻容易滋生混亂”[1]。雖然生成型預訓練聊天機器人ChatGPT(即Chat Generative Pre-trained Transformer)誕生的時間不長,但其在人文社會領域所產生的影響卻舉世矚目。作為新一代人工智能交互技術,它自2022年11月30日由美國人工智能研究中心(OpenAI)正式發(fā)布以后就贏得了廣大用戶的“追捧”。依托其所具有的聊天、翻譯、做作業(yè)、寫論文、參加考試、編寫代碼、創(chuàng)作詩歌與藝術、輔助教學與科研、檢查程序錯誤等方面的強大功能,它在短短的5天、1周、2個月、3個月就分別吸引了100萬、5 700萬、1億、1.23億的用戶,成為全球有史以來用戶增速最快的“革命性”“消費級”“現象級”“生態(tài)級”應用程序。隨之而來的,則是各大科技公司搶先登錄與靠岸。2023年2月7日,谷歌公司發(fā)布了下一代人工智能聊天機器人Bard;2月8日,微軟公司整合ChatGPT技術發(fā)布了搜索引擎Bing與Edge瀏覽器;2 月 24 日,Meta 公司通過發(fā)布LLa MA宣布加入硅谷人工智能競賽;3月16日,百度對標ChatGPT正式推出大語言模型“文心一言”;3月22日,Azure Open AI服務推出 GPT-4預覽版;而阿里巴巴、京東、華為、騰訊、寺庫、水滴、學而思、字節(jié)跳動、網易有道、科大訊飛、360、天娛數科等國內外其他互聯(lián)網公司也在蓄勢待發(fā)?；谄渌哂械膶ψ匀徽Z言輸入的理解與響應,微軟公司創(chuàng)始人比爾·蓋茨(Bill Gates)認為其將“改變世界”,而美國太空探索技術公司 CEO 埃隆·馬斯克(Elon Musk)則認為其“厲害得嚇人”。雖然目前該技術并未在各個行業(yè)領域廣泛推廣開來,但我們應充分發(fā)揮自身的主觀能動性未雨綢繆地防范其所帶來的風險。鐘秉林[2]、周洪宇[3]、喻國明[4]等研究者認為其具有底層性、突破性、革命性、破壞性乃至顛覆性影響,將對人類社會的知識生產產生巨大沖擊,并波及教育、科技等諸多領域。鑒于近年來實踐領域掀起的“應用風暴”與理論界掀起的“研究熱潮”,以及ChatGPT技術有可能在今后對我國各人文社會領域所產生的巨大沖擊,本研究將通過采用文獻薈萃分析法得出其現實應用、沖擊領域、應對策略。

一、ChatGPT在人文社會領域的現實應用

(一)應用邏輯

ChatGPT是由美國OpenAI公司基于人工智能技術及其程序設計推出的一款基于“聊天+搜索引擎”[5],并以“對話+創(chuàng)作”為基礎的“智能對話工具”“智能對話系統(tǒng)”“人工智能應用”或“聊天機器人”[4]。它由Chat(聊天)與GPT(Generative Pre-trained Transformer,即生成式預訓練轉換器)這兩部分組成,主要依賴于“類人交互”“海量數據”“處理技術”“內容生成”這4個基本構成要素。對于“類人交互”,沈書生等將其視為一種以模擬人類交互行為,并直接貼近人類最基本的社會交互需求的“內容生成式AI產品”[6];而劉勤則指出它是一種基于自然語言處理,通過運用多種語言以類似人類交際的方式快速應答各種問題的智能人機對話系統(tǒng)[7]。對于海量數據,蔣華林介紹OpenAI 公司為了“培養(yǎng)”它而使用了45 TB數據、1萬億個單詞,總計1 351 萬本牛津詞典的詞匯量[8];劉勤認為必須在事前“多方收集大量高質量的文本數據”,并對其進行有效篩選、清洗、預訓練、深度學習計算[7];而陸偉則指出其不僅覆蓋了歷史多輪對話的“海量數據”,而且匯聚全域數據及其推理能力的新型信息源[9]。對于處理技術與內容生成,孫偉平將其內容生成功能歸結于大數據、云計算、大模型、大算力和大算法的工程性結合[10];令小雄等將其視為一款通過“GPT-3.5高效設計架構”理解與解讀用戶請求的主力模型[11];而王佑鎂[12]、王樹義[13]、焦建利[14]、劉勤[7]、蔣華林[8]等則指出其采用的是內含以人工神經網絡、深度學習、人類反饋強化學習(Reinforcement Learning from Human Feedback,RLHF)為主的自然語言處理技術(Natural Language Processing,NLP)、機器學習技術(Machine Learning,ML)、大型語言模型(Large Language Model, LLM)、自然語言生成技術 (Neural Language Generation,NLG) 、人工智能內容生成技術 (AI Generated Content,AIGC),并通過多模態(tài)學習與適應、多輪次人機對話理解與會意、大規(guī)模公開語料存儲與使用、混合Instruct GPT數據集撰寫備選答案、幾萬AI訓練師對話與排序、增加學習獎勵與自主微調、采取深度學習與不斷迭代改進的預訓練的“產物”,最終生成符合人類需求與行為習慣的“具有較高復雜度的”“更加細膩與精準的”“近乎人類自然語言”的“高質量回應文本”。在這其中,張愛軍還關注到人類理性、算法控制、數字運行規(guī)律、存在可計算或能計算對象對人們選用該技術所產生的重要作用[15];而李書寧則更為系統(tǒng)地將其操作步驟歸納為用戶需求輸入、系統(tǒng)識別語言、進行情感分析、拒絕不當提問、抽取關鍵特征、命名實體術語、修正錯誤輸入、歸類輸入文本、定位查詢索引、算出最好結果、生成答復內容、選擇輸出形式等[5]。

(二)本質特性

鑒于其依賴的構成要素,ChatGPT的現實應用具有交互性、技術性、知識性、程序性、自動化、創(chuàng)造性等方面的特征。(1)交互性。該技術的鮮明特點為類人聊天或人機交互,正如鄧建鵬將其視為根據用戶提問及其處理、模擬人類聊天行為、使用自然語言進行回復的聊天機器人[16]。(2)技術性。蔣華林將其核心競爭力歸結為生成式人工智能(AIGC)[8];而鐘秉林等則將其“獨到技術”歸結為采用Transformer 結構和“自回歸+Prompting”的訓練模型[2]。(3)知識性。Chat GPT所生成的“高質量答案”源自海量數據的知識提取,正如李書寧指出其來源于對“大規(guī)模語料庫”的分析處理[5];蔣華林認為其具有數據采集、整合與挖掘等方面的高維能力[8];而鐘秉林等則指出Transformer 結構的中低層所存儲的詞性句法、中高層存儲的抽象語義與事實概念知識能夠“解鎖”大型語言模型,從而使得人類的知識生產方式由“手動式”“半自動式”向“自動化”“智能化”方向轉變[2]。(4)程序性。該技術及其同類產品以技術員預先的設定程序作為存在前提,正如李書寧指出其“最大特點”在于程序員預先設計的“內容生成規(guī)則”[5]。(5)自動化。該程序因為程序設計、智能技術支撐而擁有自動化處理的特性與功能,正如李書寧等認為其因為“無監(jiān)督”或“自監(jiān)督”的預訓練方式而具有自動理解與文本生成能力[5];喻國明認為其還可自動化生成圖像、視頻、音頻等內容[4];而令小雄等則指出其專有的“自注意力機制”能夠產生“情商加智商”的“高逼真文本”[11]。(6)創(chuàng)造性。鄧建鵬等認為其“將顯著改變人類的工作與交互方式,激發(fā)創(chuàng)造力”[16];彭蘭指出大眾的參與將大大拓展其應用場景,“激發(fā)一場全民參與的人機協(xié)同創(chuàng)作的運動”[17];張夏恒將其本質歸結為依托核心技術處理海量數據和進行深度學習所生成的全新的、原創(chuàng)的數字內容[18];而王佑鎂[12]、Taecharungroj[19]則指出其因為采用人類反饋的強化學習訓練方法而具有“敢于質疑”“承認錯誤”“承認無知”“改進答復”的功能。

(三)治理領域

基于其所具有的強大功能特性,該款人工智能程序及其內容生成結果受到不同領域研究者與實踐者的“青睞”?；诮换バ?姜奇平[20]、盧宇[21]等認為其能像人一樣根據上下文進行聊天與互動。基于技術性,鐘秉林認為其采用預訓練強化模式所生成的文本及其回應更為“善解人意”[2]?；趧?chuàng)造性,陸偉指出其促使過去的“檢索+推薦”內容供給方式轉變?yōu)椤案兄?檢索+推薦+生成”模式[9];而鄧建鵬[16]、張夏恒[18]等則指出用戶只要輸入指令,就能獲其所需的文字、圖片、代碼、音樂或視頻等內容。對于其作用領域,沈書生認為其因為與個體發(fā)生聯(lián)系而改變人們的行為方式和學習形態(tài)[6];盧宇指出經由該軟件可解決人類社會100%的意外遷移任務和85%的意外內容任務[21];而蔣華林[8]、沈書生[6]、李書寧[5]、令小雄[11]等則基于其知識生成性影響關注到它對戀愛、教學、考試、翻譯、編碼、科研、寫作、求職等各個方面的影響,進而影響到人們的日常生活、金融會計、法律醫(yī)療、教學科研、傳媒藝術等領域。

(四)功能作用

ChatGPT因其多輪強化訓練及其內容迭代生成,促使其擁有與以往人工智能不同的強大功能。鄧建鵬[16]、孫偉平[10]等認為它與以往功能單一、大多面向特定用戶的人工智能系統(tǒng)不同,能夠通過智能程序生成“創(chuàng)造性內容”;沈書生認為其不僅可以為用戶提供解決問題的對策建議,還能滿足用戶個性化的需求[6];孫偉平指出其因為大型語言模型的誕生及應用而表現出人意料的語言理解與表達能力,并可在聊天與回答問題方面超過90%以上的人[10];而李書寧則直接將其功能歸納為類人交互、抽取文本內容、編寫簡歷推薦、寫作文章意見、繪制圖表、語言翻譯、編寫考題、編寫代碼及其注釋、修復與精簡代碼、智能推薦信息、進行文本分類、數據與情感分析、實體識別、語義理解、基礎計算、支持多輪對話與改進答復、拒絕用戶不當請求[5]。在此基礎上,朱光輝指出其有望形成“思維革命”,并通過替代人類創(chuàng)作、創(chuàng)意、解答、咨詢、翻譯和客服等來重塑各行業(yè)領域生態(tài)乃至整個世界[22];令小雄認為其在“公正客觀的文本規(guī)訓”中養(yǎng)成更好的“理解語境”的能力,而其升級與更新?lián)Q代則將創(chuàng)造“普遍文字”“超級算力”乃至打造“數字共同體”[11]。

二、ChatGPT對人文社會產生的現實沖擊

技術進步是一把“雙刃劍”。如運用得當,該技術能夠造福人類,正如朱光輝指出其在生產知識方面能夠節(jié)約資源、創(chuàng)新創(chuàng)造、推動產業(yè)升級、大幅提質增效[22];而張夏恒則指出其具有解放生產力、變革生產關系、創(chuàng)新商業(yè)模式、驅動產業(yè)轉型、催生應用場景等功能[18]。雖然如此,現有技術的不成熟、用戶使用不當、監(jiān)管體系不健全也會促使其對教育管理、知識生產、信息安全、商業(yè)就業(yè)等人文社會領域產生巨大沖擊。

(一)影響教育管理

鑒于教育領域生產與傳播知識的行業(yè)特性,現有的大多數研究者都比較關注其對教育行業(yè)產生的影響。(1)正面影響。王佑鎂等將其對教育工作的賦能歸結為提升教學的完成度與創(chuàng)意、增強數字導師的角色互動、提高自適應學習系統(tǒng)的易用性與精準度、促進教學方式的智慧化與創(chuàng)造性、支持教學反饋評價的生成與個性化[12];沈書生認為它使得師生擁有助推教學、科研評價或解決問題的“復合腦”,也即外加的數腦(存儲數據)、匯腦(整合數據)、智腦(創(chuàng)造數據)[6];朱光輝[22]、周洪宇[3]、張志禎[23]等將其帶來的“技術紅利”歸納為勝任助教學伴、減負增效、設計教學大綱、陳列知識體系、生成課程材料、豐富教學內容、模擬教學課堂、采取游戲教學、敏捷靈活教學、推薦閱讀材料、生成學習材料、進行個性化輔導、提供對話練習、支持學生科研、協(xié)助創(chuàng)意寫作、評估考核測驗、翻譯語言內容、練習復習備考、幫助解決問題、幫助寫作論文、提供職業(yè)指導、協(xié)助時間管理、協(xié)助家庭作業(yè)、多元協(xié)同創(chuàng)作、給予實時反饋、用于自我反思與評價等。(2)負面影響?，F有研究在闡述其正面功能的同時,也關注其“自帶風險”。鐘秉林[2]、張志禎[23]認為其所提供的信息不準確,不利于建立人際互動關系和培養(yǎng)同理心、創(chuàng)造力、批判性思維;沈書生[6]、周洪宇[2]等更為關注其技術異化風險,也即知識異化、學習主體異化、教學過程異化、數字社會倫理異化、數字教育治理異化等;王樹義[13]、焦建利[14]等則指出它很有可能是一種內含“學術抄襲”“考試作弊”“逃避學習”在內的“高科技剽竊”方式。

(二)沖擊知識生產

除了影響傳播知識的教育管理領域以外,該技術還對內含科學研究、知識產出、產權維護等在內的整個知識生產過程帶來巨大沖擊。對于科學研究,王樹義認為將其應用于科研將產生很多未經思考或檢驗的數據污染,進而難以確保其答復的真實性與準確性[13];張夏恒則指出將其應用于學術論文撰寫之中容易招致抄襲剽竊、數據與實驗造假等學術不端行為[18];焦建利認為其有可能因為科研人員的濫用而生成有違學術倫理與誠信的虛假信息乃至騙局[14];令小雄認為它無法解決蘊含其中的大量倫理問題,而其不當使用將導致人們面臨著包括道德判斷、數據泄漏、學術抄襲等在內的不負責任的倫理風險與社會后果[11];蔣華林認為其在加速科學研究、解放知識生產者、促使知識生產“自動化”“智能化”的同時,也面臨著遮蔽學術演化史、影響科研評價、挑戰(zhàn)知識產權制度、影響成果權屬認定、侵犯學術倫理道德、影響科研評價生態(tài)、沖擊人才評價標準與客觀性等方面的問題[8]。跟隨“技術濫用”而來的,則是侵犯知識產權歸屬或導致版權糾紛。陸偉指出目前國內外并未對其生成內容的所有權做出明確的法律規(guī)定[9];朱光輝等認為其有可能因為在未經授權的圖片或文字上進行創(chuàng)作而引發(fā)“知識產權糾紛問題”[22];叢立先認為數據是其“發(fā)動機”和迭代進化的“重要支撐”,而其內容生成很有可能因為對數據的重組與使用面臨著數據挖掘、內容生成、內容使用這三個方面的版權風險[24];鄧建鵬[16]、張夏恒[18]指出其因為“無監(jiān)管式”挖掘數據、信息來源與倫理道德過濾機制的缺失,往往面臨著知識產權爭議、數據來源合法性、生成不良或違法信息等方面的風險;而令小雄則明確指出其有可能引發(fā)署名權之爭[11]。

(三)影響信息傳播安全

除知識生產和傳播領域之外,該技術所擁有的強大的算法處理和學習反饋強化能力也對信息傳播安全產生至關重要的影響。陸偉等認為其強化學習模型能夠過濾掉仇恨、歧視、涉暴、涉恐等不當的內容信息[9];郭全中指出其強大的NLP處理能力能夠準確分析與判斷語義多元、語法特殊、寓意隱晦的文本內容,而持續(xù)的用戶互動與不斷反饋又能增強其內容理解和生成能力[25];李書寧等認為其會助推館員成長、提升工作效率、助推咨詢服務智能化、推動知識服務深入發(fā)展、改善用戶檢索體驗、提升資源檢索的準確與有效性[5];而喻國明則認為其將激發(fā)傳播領域的“生態(tài)級”變局,也即基于信息、個體、連接這三個方面穿透社會網絡資源壁壘、賦能賦權個體認知與信息傳播、推動智能互聯(lián)轉型、實現人類語義智能化和構造數字文明社會[4]。雖然如此,其不當使用也會導致信息安全問題。令小雄[11]、王樹義[13]指出它很有可能因為編程偏差等“技術盲區(qū)”而傳播未經思考的、錯誤虛假的、侵犯個人隱私的、有失道德倫理的數據信息或決策建議;張夏恒[18]、陸偉[9]等認為其很有可能因為科技倫理道德計算、用戶使用保護條款及其警惕性等方面的缺失而生成高可信釣魚郵件、真假難辨或偏見信息、侵犯與盜取個人隱私、造成社交網絡攻擊,而經由互聯(lián)網所產生的大規(guī)模數據聚集與跨境流動又容易產生數據外泄乃至失去國家技術主控權;焦建利指出其還有可能生成“不良”或“有毒”信息[14];更有甚者,鐘秉林等指出其很有可能是一臺一本正經地胡說八道的“聊天機器人”[2]。

(四)改變商業(yè)就業(yè)領域

ChatGPT基于數據信息這一關鍵的投入與產出要素,還將極大地改變商業(yè)管理與勞動力就業(yè)市場的內在結構。對于商業(yè)管理領域,張夏恒指出其將拉動人工智能產業(yè)的發(fā)展、促使生產關系變革、創(chuàng)新創(chuàng)造多種商業(yè)模式、不斷拓展與豐富應用場景、極大地釋放社會生產力,在廣告、營銷、電商、建筑等領域催生出具有創(chuàng)造性的經營活動,促使生命科學、新型材料、航空航天等新興科技領域的快速發(fā)展,以及進一步加快算力、算法、芯片、集成電路等網絡軟硬件技術設施行業(yè)的發(fā)展[18]。對于勞動力市場結構,劉勤指出會計人員可以利用其分析和判斷經營活動、快速高效地處理數據、組織和管理會計工作、應對財務風險與提高工作效率[7];而朱光輝等則認為其能節(jié)約資源能源、解放數億勞動力、生產大幅提質增效、提高企業(yè)競爭力、擁有更多消費者、滿足更多消費需求、實現經濟的可持續(xù)發(fā)展[22]。該技術在催生新的商業(yè)領域及其工作崗位的同時,也給現有勞動力市場帶來重構、取代甚至消滅性的影響。正如孫偉平[10]、蔣華林[8]等認為基于其高新科技物種、出色完成工作任務與不斷迭代升級將導致“技術性失業(yè)潮”,并由替代低級重復的體力勞動轉變?yōu)樘娲呒墝儆谌祟惖哪X力勞動,以及逐步表現出超出一般勞動能力的發(fā)展趨勢。

三、ChatGPT對人文社會沖擊的應對策略

組織制度和技術進步是促使現代組織變革和社會變遷的兩種主要力量,正如周洪宇等指出:人類社會已經進入精神世界、物質世界、數字世界相互依存、互相合作、共同進化的時代[3]。基于其強大的人工智能機器屬性,可采用正確認知和行為規(guī)制、技術規(guī)訓與組織治理、自主規(guī)約與制度規(guī)治相結合的綜合治理策略來應對這場具有“顛覆性”的數字技術變革“洪流”。

(一)樹立正確認知

人們的意識決定其行為,我們應正確認知其利弊與治理優(yōu)劣勢。(1)正確看待技術發(fā)展及其應用趨勢。蔣華林等指出人類社會“信息化”“智能化”發(fā)展不可逆轉[8];孫偉平指出生產和服務的信息化、自動化、智能化發(fā)展浪潮洶涌澎湃[10];而鐘秉林則指出,“縱觀人類歷史,即使技術具有一定風險,但只要是‘可控的’‘能夠提高生產效率的’,最后都會被人類社會所使用”[2]。(2)樹立積極主動的技術風險應對態(tài)度。鐘秉林認為我們沒必要夸大其“潛能”,將其“神化”或視為“洪水猛獸”皆不可取[2];而蔣華林則指出“人是萬物的尺度”,人們應在思想上基于其滲透性、顛覆性采取主動積極面對的態(tài)度[8]。(3)正視其技術本質與功能作用。雖然有人擔心人類社會因此產生技術“異化”或“物化”的結果,但幾乎所有的研究者都認為其本質上是一種為人類所用的技術工具。周洪宇等認為它是由人類創(chuàng)造發(fā)明的,其本質是人類改造社會的“產物”[3]; 蔣華林認為其智能水平是人賦予的,而其替代性也只能建立在“數據化”和“邏輯化”人類勞動的基礎之上[8];彭蘭指出人是機器的“駕馭者”“檢修者”或“學習模板”,并擁有更強的“判斷”與“糾錯”能力[17];鐘秉林認為它僅作為教育主體生命的一種外在的“技術形式”,改變不了教育的本質[2]。(4)秉持趨利避害與揚長避短的應用態(tài)度。劉勤認為未來我們應該采取合作共生、智能增強、數據驅動、靈活適應、可持續(xù)發(fā)展的特點的人機協(xié)同共生治理模式[7];鐘秉林認為人們應充分認識該技術本身所具有的弱人工智能、通過學習訓練進行進化、依賴大數據集、支撐模型的功能局限,并在后工業(yè)社會打造自身核心競爭力并釋放“技術紅利”[2];鄧建鵬[16]、張夏恒[18]等認為人們應該“謹慎”并“樂觀”地擁抱科技,正確對待科技進步背后的潛在風險,并借助其類人性與高智能為人們的生產生活提供便利;周洪宇等指出技術與教育并非對立關系,應在新的人機社會分工體系中找準自身定位,通過教育培訓和充分利用數字技術更好地為人類工作“增智賦能”,以及通過人與智能技術的互補協(xié)作、雙向耦合、共同治理、高度融合來實現技術“適應”及其“超越”的重大使命[3];周洪宇[3]、沈書生[6]等認為學校應該促使學生構建“復合腦”和培養(yǎng)“復合性”人才,并樹立“思維比知道重要、問題比答案重要、邏輯比羅列重要”的教學評價思維;而蔣華林[8]、孫偉平[10]、令小雄[11]、張志禎[23]則指出廣大教師應該培養(yǎng)學生們的數字意識、獨立思考、審慎判斷、好奇想象、情感愿望、價值信念、文化素養(yǎng)、靈機應變、解決問題、注重倫理、學習批判、適應合作、創(chuàng)新創(chuàng)造、終身學習的能力,而將那些重復單調、危險有害的工作交給智能系統(tǒng)。

(二)技術干預修正

作為人類創(chuàng)造的智能產物,高技術所產生的應用風險依然可通過研發(fā)新技術來防治。(1)通過公開其智能生成邏輯來提高人們的認知。張愛軍指出應通過創(chuàng)建公開且透明的算法體制、遵循客觀且簡潔的推薦準則、打造開放與和諧的算法平臺來削弱其算法的“舒適圈”對受眾所產生的影響[15];而令小雄[11]、蔣華林[8]等則指出應推動其技術“開源”,通過公開其算法與生成邏輯來揭開技術應用“黑箱”和提高技術認知的可信度。(2)采取技術干預之法進行修正。喻國明指出應在給予其成長空間的基礎上進行干預和修正,通過注重智能算法模型的“賦魂”機制來確保其可知、可控與向善發(fā)展[4];王佑鎂等認為技術企業(yè)應通過不斷優(yōu)化升級或加快技術革新來治理其自身所存在的技術缺陷[12];劉勤認為應采取優(yōu)化工作流程、加強任務有效分配、持續(xù)訓練和優(yōu)化機器學習模型、適時調整和優(yōu)化算法、關注與處理特殊情況的技術管理舉措[7];叢立先主張通過研發(fā)與使用內含基于密碼技術和基于數字水印的版權管理技術(DRM,全 稱 Digital Rights Management)來防治其侵權風險[24];張夏恒主張根據技術特點提前布局,通過技術企業(yè)研發(fā)的AI 甄別工具、內容檢測系統(tǒng)及其不斷迭代升級來實現以“算法治理算法”“AI治理AI”的技術善治目標[18];而令小雄還認為應該采取提升數據質量、仔細選擇訓練數據集、更新迭代訓練模型、強化專業(yè)問題認知、使用正則與交叉驗證技術、加強深度學習與理解篩選能力、克服語言文化誤差、提高模型道德性與倫理識別能力、促使算法轉變?yōu)椤皵底挚撮T人”等舉措來防治其應用風險[11]。(3)全面突破技術研發(fā)與自主掌控瓶頸。就總的技術研發(fā)上看,鐘秉林認為其技術瓶頸雖有一定突破,但尚未達到全面程度[2]。就我國技術而言,張夏恒[18]、周洪宇[3]等認為應該通過加大投入、重視產業(yè)發(fā)展、動員第三方機構自主研發(fā)“中國版”的ChatGPT及其可控技術,來夯實我國人工智能技術體系并掌握全球數字競爭主動權。

(三)加強自主規(guī)約

鑒于其所擁有的高級思維、主觀能動和倫理道德性,人工智能技術用戶與企業(yè)應自主加強其技術規(guī)約性。(1)用戶應自主培養(yǎng)其技術使用的道德判斷意識。令小雄指出人們應基于其所增加的倫理風險而加強“內部規(guī)約”或強化“道德判斷”,強化其信息甄別能力[11];(2)著重提升個人的數字技術使用素養(yǎng)。周洪宇指出教學雙方應在享受技術便利的同時避免淪為其“附庸”[3]。也即,教師應樹立正確的使用觀、提高數字意識、增強數字勝任力、提高終身學習能力,而學生則應摒棄技術萬能觀念、提高其自主可控意識、提高信息篩選與數字應用能力、利用技術優(yōu)勢激發(fā)其創(chuàng)新創(chuàng)造能力。(3)秉持揚長避短的原則充分發(fā)揮雙方特長。鐘秉林指出教師比技術更加“智能”并能擔負教育倫理的責任,而優(yōu)秀學生則會利用其查閱資料、解決問題與提高作業(yè)質量[2];而周洪宇則認為教師應秉持“當用則用,操縱適宜”的原則利用其探索未知與尋找發(fā)現,而學生則應促使其成為個人發(fā)展的“義肢”[3]。(4)采取平臺或行業(yè)自治模式。叢立先認為具有一定自治能力的平臺應從“治理受體”轉變?yōu)椤爸卫碇黧w”,通過采用類似YouTube 平臺的內容識別(Content Id)與版權監(jiān)視(Copyright Watch)工具來篩查其侵權內容[24];鄧建鵬等指出技術公司應通過研發(fā)自測模型與信息源比照系統(tǒng)、設置用戶質疑和辟謠機制、加強倫理道德認知訓練以及踐行合規(guī)經營制度來防治其虛假的、不良的內容信息[16];周洪宇認為應該由“政府”和“行業(yè)協(xié)會”牽頭,以用戶作為遵循技術使用倫理的義務主體,通過加強多元利益相關主體的對話交流、務實合作和構建數字命運共同體來抵御其“潛藏危害”[3];而張夏恒則指出各方都應明確其角色、任務與責任,堅守依法使用的思維與道德底線[18]。

(四)加強外部規(guī)治

人們的行為選擇與外部環(huán)境是相互影響、互相作用的,應通過加強組織管理和制度建設來規(guī)治理性個體的行為。喻國明指出我們應建立“算法失靈”的社會補充以及“算法脫軌”的干預機制[4];而彭蘭則指出人類社會理應在人機同行的征途中始終作為“機器導航”的“核心準則”,通過不時校準其目標和及時踩剎車來防治技術濫用的風險[17]。(1)加快出臺防治技術濫用的政策法規(guī)。依法治國是黨領導人民治理國家的基本方略,幾乎所有研究都指出要通過完善現有的法制體系來防治不當信息和抵御技術濫用風險。張夏恒指出歐盟已發(fā)布對新型智能系統(tǒng)實施“前瞻性”治理的《人工智能法》,我國也應加快其法制建設進程[18];張夏恒指出應不斷完善新一代人工智能領域的立法工作,盡快修訂與之相關的著作權法、商標專利法、數據安全法、電子商務法、網絡安全法等[18];蔣華林指出應通過不斷完善倫理規(guī)范和管理制度,以及深入貫徹落實國家發(fā)布的《新一代人工智能倫理規(guī)范》[8];而令小雄[11]、周洪宇等則認為應在社會層面大力推動數據保護、隱私保密等相關法律法規(guī)的不斷完善,以及建立健全審核學術不端行為的問責機制[3]。(2)加大技術正當使用的宣傳與教育培訓力度。令小雄等認為現階段的解決方案依然是通過加大宣傳與教育培訓來促使用戶認識技術使用的局限性或提高其數字素養(yǎng)[11];而周洪宇則指出應加快制定一般的倫理準則與法律法規(guī)來避免“道德失范”,以及通過加強數字倫理研究、將其納入課程建設、加強數字倫理培育來鞏固技術使用的道德自律[3]。(3)通過管理設計來防治技術濫用風險。焦建利認為學校不能“簡單粗暴地”禁止學生使用該技術,并指出一些學校已經通過調整教學活動、重新設計教學評估乃至采用 DetectGPT檢測程序來防治學生將其用于代寫作業(yè)和考試作弊[14];王佑鎂[12]等指出教育部門應采取宜疏不宜堵的管理舉措,例如加大誠信教育、改進教學方式、設定教學期望、明確教學方針、追蹤教學進度等;而鐘秉林等則指出高校應建立人工智能輔助教學的倫理評價機制,并通過施行代表作制度來堅守科學“正”與“善”的價值。(4)采取法治與多元利益主體合作共治的方式。叢立先等指出司法裁判應合理利用其裁量空間,以及適當發(fā)揮其對破壞市場公平競爭的監(jiān)管作用[24];而張夏恒[18]則指出應加快建設多方及時響應的協(xié)同監(jiān)管系統(tǒng),以便防治各類應用風險和處置各種違法違規(guī)行為。更有甚者,鐘秉林[2]、陸偉[9]、令小雄[11]、焦建利[14]、張夏恒[18]、朱光輝[22]等研究者都提及國內外部分學校、學術期刊、教育部門限制乃至禁用ChatGPT的事例。此外,部分學者還關注到建立健全社會保障機制的重要性。例如,陳永偉[26]、張夏恒[18]等認為應該通過提供再就業(yè)培訓服務、加強青年人職業(yè)規(guī)劃、促進新就業(yè)形式發(fā)展、建立終身學習與培訓體系、借助金融工具減輕失業(yè)負擔、做好社會兜底保障工作來防治技術性失業(yè)帶來的風險。

四、結語

鑒于內容生成式人工智能技術“ChatGPT”對人文社會各個領域產生的顛覆性影響,現有研究已對其現實應用、沖擊與應對策略作了諸多有益探討,進而形成了一系列有益的學術成果。未雨綢繆,我們還應正視存在的不足來促使其為人類社會謀福利。也即,該項人工智能技術存在理解有限、形式簡單、情感缺失、數據輸入局限、系統(tǒng)部署局限、知識結構局限、算法處理限制、缺乏人類互動、以自然語言文本處理為前提、無法培養(yǎng)批判性思維與研究解決問題能力等方面的問題,為此,人們當下與未來的使命在于秉持趨利避害的原則研發(fā)各領域切實有效的具體防控舉措。