謝永江,楊永興

(北京郵電大學(xué) 互聯(lián)網(wǎng)治理與法律研究中心,北京 100876)

2022年11月,美國(guó)OpenAI公司發(fā)布ChatGPT機(jī)器人,短短幾周ChatGPT便風(fēng)靡全球,并在全球范圍內(nèi)引發(fā)新一輪的強(qiáng)人工智能布局競(jìng)賽。2023年2月初,ChatGPT更是開(kāi)啟“狂飆”模式,引起新一輪的技術(shù)升級(jí)、產(chǎn)業(yè)重構(gòu)、巨頭逐鹿,一度被視為未來(lái)社會(huì)的開(kāi)拓技術(shù),備受資本追捧。ChatGPT之所以備受矚目,原因在于以其為代表的生成式人工智能(AI)與以往的分析式AI大有不同,其憑借著強(qiáng)大的數(shù)字孿生能力、編輯能力、創(chuàng)作能力以及“類人性”的特點(diǎn),不僅可以抓取、分析數(shù)據(jù),從中提煉有效的信息,而且可以根據(jù)用戶的需求充分理解用戶的思維從而定制化地生成內(nèi)容。但與此同時(shí),ChatGPT也對(duì)既有規(guī)則形成潛在挑戰(zhàn)。ChatGPT作為一項(xiàng)突破性新技術(shù),本身還存在諸多不確定因素,存在生成虛假或不良信息、算法偏見(jiàn)、數(shù)據(jù)泄露等諸多法律風(fēng)險(xiǎn)。因此,本文擬從ChatGPT引發(fā)全球強(qiáng)人工智能浪潮著手,分析其基本運(yùn)作原理以及可能產(chǎn)生的法律風(fēng)險(xiǎn),并對(duì)學(xué)界已有技術(shù)規(guī)制的理論進(jìn)行分析反思,提出ChatGPT背后法律風(fēng)險(xiǎn)規(guī)制的基本思路。

一、ChatGPT引發(fā)全球強(qiáng)人工智能浪潮

(一)ChatGPT的誕生及發(fā)展

ChatGPT全稱為“Chat Generative Pre-trained Transformer(生成型預(yù)訓(xùn)練變換模型)”,由美國(guó)科技公司OpenAI研發(fā)并于2022年11月30日正式推出,我們可將其看作是一個(gè)通用聊天機(jī)器人。ChatGPT使用自然語(yǔ)言處理技術(shù),通過(guò)學(xué)習(xí)人們?cè)趯?duì)話框中輸入的文本,結(jié)合上下文語(yǔ)境,輸出結(jié)論,其不僅能深度模擬人類自然聊天,而且在人類反饋強(qiáng)化學(xué)習(xí)技術(shù)的加持下還能寫詩(shī)、答題、考試、寫代碼、寫文獻(xiàn)綜述、撰寫學(xué)術(shù)論文、撰寫法律意見(jiàn)函等。產(chǎn)業(yè)界認(rèn)為其在醫(yī)療、法律、基金等領(lǐng)域具有廣闊的應(yīng)用前景。

ChatGPT廣受用戶喜愛(ài),上線的第一周便吸引了100萬(wàn)用戶,短短兩個(gè)月便破億,超過(guò)TikTok與Instagram的用戶增長(zhǎng)速度,成為互聯(lián)網(wǎng)發(fā)展20年來(lái)產(chǎn)品用戶增速最快的應(yīng)用程序[1]。ChatGPT作為以GPT為基礎(chǔ)的人機(jī)對(duì)話型應(yīng)用,經(jīng)歷了以下發(fā)展歷程:

2018年,GPT-1誕生,這一年也是自然語(yǔ)言處理的預(yù)訓(xùn)練元年。在性能方面,GPT-1可以根據(jù)任務(wù)數(shù)據(jù)更新權(quán)重參數(shù),用于與監(jiān)督任務(wù)無(wú)關(guān)的自然語(yǔ)言處理任務(wù),常見(jiàn)任務(wù)包括問(wèn)答與常識(shí)推理、語(yǔ)義相似度識(shí)別、判斷兩個(gè)句子間的相關(guān)性等。2019年,GPT-2發(fā)布,與GPT-1相比,GPT-2并未對(duì)原有的網(wǎng)絡(luò)結(jié)構(gòu)進(jìn)行過(guò)多的創(chuàng)新性設(shè)計(jì),只是在模型訓(xùn)練中使用了更多的網(wǎng)絡(luò)參數(shù)與更大的數(shù)據(jù)集。2020年,作為一個(gè)自監(jiān)督模型,GPT-3誕生,其在訓(xùn)練過(guò)程中加入少量的場(chǎng)景示例引導(dǎo),可以勝任自然語(yǔ)言處理的絕大多數(shù)任務(wù)。2022年,OpenAI發(fā)布GPT-3.5,該模型綜合利用人類反饋強(qiáng)化學(xué)習(xí)、神經(jīng)網(wǎng)絡(luò)架構(gòu)、自然語(yǔ)言處理等技術(shù),通過(guò)對(duì)GPT-3.5的表現(xiàn)進(jìn)行評(píng)價(jià),以及采取獎(jiǎng)懲措施倒推模型不斷進(jìn)行自我優(yōu)化,其在很多任務(wù)執(zhí)行方面的表現(xiàn)已經(jīng)接近人類。此后OpenAI正式上線的ChatGPT便是從GPT-3.5分支模型中演變而來(lái)。2023年,OpenAI公布大型語(yǔ)言模型的最新版本GPT-4,該版本從此前的僅支持文字指令擴(kuò)展到支持圖像的輸入,完成了從語(yǔ)言到多模態(tài)的聯(lián)通。相較于之前的版本,GPT-4的智能水平實(shí)現(xiàn)了飛躍。(1)本文對(duì)ChatGPT歷史脈絡(luò)的介紹系根據(jù)互聯(lián)網(wǎng)公開(kāi)的資料整理所得。

隨著ChatGPT引爆新一輪人工智能競(jìng)賽,美國(guó)微軟公司與谷歌公司開(kāi)始正面交鋒,微軟在谷歌宣布推出ChatGPT競(jìng)品Bard(巴德)之后,迅速推出以ChatGPT為底層技術(shù)支持的最新版本Bing(必應(yīng))搜索引擎和Edge瀏覽器,在ChatGPT的加持下,必應(yīng)搜索引擎可以匯總大量上下文本回答問(wèn)題。與此同時(shí),國(guó)內(nèi)一眾互聯(lián)網(wǎng)科技巨頭也競(jìng)相表態(tài)。2023年3月16日,百度正式發(fā)布我國(guó)首個(gè)生成式AI語(yǔ)言大模型——文心一言,向世界展示了其在多模態(tài)、大語(yǔ)言模型方面的突出表現(xiàn)。百度在國(guó)內(nèi)搜索引擎市場(chǎng)的主要競(jìng)爭(zhēng)對(duì)手之一360集團(tuán)也表示將盡快推出類ChatGPT產(chǎn)品demo版產(chǎn)品。阿里巴巴、京東、網(wǎng)易等頭部互聯(lián)網(wǎng)公司AI技術(shù)團(tuán)隊(duì)也正在加速類ChatGPT產(chǎn)品的研發(fā)。

(二)ChatGPT的運(yùn)作原理

從技術(shù)層面來(lái)看,ChatGPT作為由AI技術(shù)驅(qū)動(dòng)的大型語(yǔ)言模型機(jī)器學(xué)習(xí)系統(tǒng),采用了Transformer神經(jīng)網(wǎng)絡(luò)架構(gòu)(目前為GPT-4架構(gòu)),綜合利用神經(jīng)網(wǎng)絡(luò)、人類反饋強(qiáng)化學(xué)習(xí)、深度學(xué)習(xí)等AI技術(shù)[2],自主開(kāi)展數(shù)據(jù)分析工作,結(jié)合用戶輸入的文本深入理解人類思維目的,從而生成復(fù)雜的作品,如創(chuàng)作歌詞、創(chuàng)意文本,且隨著GPT-4的推出,ChatGPT完成了從語(yǔ)言到多模態(tài)的聯(lián)通。ChatGPT不僅可以聯(lián)系上下文對(duì)用戶輸入的文本進(jìn)行串聯(lián)分析,而且當(dāng)用戶指出ChatGPT輸出的結(jié)論有錯(cuò)誤時(shí),其還能夠大方地承認(rèn)錯(cuò)誤。此外,ChatGPT還經(jīng)過(guò)道德倫理層面的訓(xùn)練,當(dāng)用戶提出有違基本道德倫理的問(wèn)題時(shí),它會(huì)拒絕回答,并試圖勸說(shuō)提問(wèn)者停止此類想法[3]。

二、ChatGPT存在的法律風(fēng)險(xiǎn)

當(dāng)前,以ChatGPT為代表的生成式AI重塑著社會(huì)的生產(chǎn)方式與消費(fèi)方式,極大地便利了人類的生活,同時(shí)也潛在地重塑人類的社會(huì)生存環(huán)境。為此,有學(xué)者表示,ChatGPT是繼阿爾法狗打敗世界圍棋冠軍之后人工智能領(lǐng)域的又一大突破[4],比爾·蓋茨更是公開(kāi)表示ChatGPT是同電腦、互聯(lián)網(wǎng)同等重要的第三大發(fā)明。ChatGPT的受捧促使相關(guān)公司的股價(jià)暴漲,從而誘使一眾互聯(lián)網(wǎng)公司投入類ChatGPT產(chǎn)品的研發(fā),以期搭ChatGPT“東風(fēng)”并從中分得一杯羹。但當(dāng)谷歌展示其類ChatGPT產(chǎn)品Bard(巴德)時(shí),該機(jī)器人的一個(gè)錯(cuò)誤回答導(dǎo)致公司股價(jià)瞬間暴跌。由此可見(jiàn),新技術(shù)的安全可控性對(duì)科技公司的影響巨大。德國(guó)學(xué)者烏爾里?！へ惪嗽谄洹讹L(fēng)險(xiǎn)社會(huì)》中提出“風(fēng)險(xiǎn)社會(huì)”的概念,認(rèn)為科學(xué)技術(shù)在為人類創(chuàng)造文明的同時(shí)也帶來(lái)了全球性、系統(tǒng)性的社會(huì)風(fēng)險(xiǎn)[5]。

在人工智能時(shí)代,人類社會(huì)將完全淪為風(fēng)險(xiǎn)社會(huì),技術(shù)稍有缺陷,便可能給人類的生活帶來(lái)巨大威脅[6]。從本質(zhì)上講,ChatGPT作為AI技術(shù)的新應(yīng)用,盡管大模型憑借其強(qiáng)大的學(xué)習(xí)能力,以及經(jīng)過(guò)一定道德倫理維度訓(xùn)練,已與傳統(tǒng)弱AI拉開(kāi)差距,但其仍面臨著由技術(shù)不成熟所帶來(lái)的生成虛假或不良信息、算法偏見(jiàn)、數(shù)據(jù)泄露等風(fēng)險(xiǎn)。近期,美國(guó)生命未來(lái)研究所公開(kāi)一封由被譽(yù)為“人工智能教父”的杰弗里·辛盾、圖靈獎(jiǎng)得主約書(shū)亞·本希奧、推特CEO馬斯克等科技人士聯(lián)名的公開(kāi)信。公開(kāi)信表示,有大量研究表明,得到頂級(jí)AI實(shí)驗(yàn)室的認(rèn)可、具有人類競(jìng)爭(zhēng)智能的超級(jí)AI系統(tǒng),可能對(duì)社會(huì)和人類構(gòu)成深遠(yuǎn)的風(fēng)險(xiǎn)。這就需要我們對(duì)ChatGPT背后的風(fēng)險(xiǎn)有所認(rèn)知,以便投入相應(yīng)的資源,對(duì)之進(jìn)行規(guī)制和管理。

(一)生成違法或不良信息

當(dāng)用戶在輸入框中輸入文本指令后,ChatGPT基于背后的大模型對(duì)此文本進(jìn)行分析學(xué)習(xí),并結(jié)合自身語(yǔ)料庫(kù)中的數(shù)據(jù),從中提煉出有價(jià)值的信息,進(jìn)而輸出相應(yīng)的結(jié)論。但是,ChatGPT背后的大模型在自主預(yù)先訓(xùn)練學(xué)習(xí)過(guò)程中并未受到完全的監(jiān)督,獲取的信息數(shù)據(jù)難以經(jīng)過(guò)實(shí)質(zhì)性的審查與過(guò)濾,當(dāng)語(yǔ)料庫(kù)中搜集到內(nèi)容不合法、帶有歧視性、真假難辨時(shí),ChatGPT很可能會(huì)生成虛假、不良的信息,從而導(dǎo)致“Garbage in, Garbage out”現(xiàn)象的發(fā)生。如有學(xué)者在測(cè)評(píng)時(shí)發(fā)現(xiàn),盡管ChatGPT幫助完成了綜述性文章的撰寫,但當(dāng)測(cè)試者要求ChatGPT提供其撰寫綜述所參考的具體文獻(xiàn),結(jié)果發(fā)現(xiàn)其提供的文獻(xiàn)信息在官方學(xué)術(shù)數(shù)據(jù)庫(kù)中檢索不到,甚至一些文獻(xiàn)是ChatGPT自我杜撰的[7]。從本質(zhì)上講,由于互聯(lián)網(wǎng)上的語(yǔ)料質(zhì)量本就良莠不齊,再加上ChatGPT大模型是基于統(tǒng)計(jì)學(xué)習(xí)技術(shù)架構(gòu)的,盡管訓(xùn)練者采取高維度的統(tǒng)計(jì),但囿于概率,很容易導(dǎo)致大模型對(duì)訓(xùn)練語(yǔ)料庫(kù)中不存在的概念進(jìn)行強(qiáng)行編造,從而“一本正經(jīng)地胡說(shuō)八道”。OpenAI的首席執(zhí)行官山姆·阿爾特曼也承認(rèn)ChatGPT會(huì)對(duì)人產(chǎn)生誤導(dǎo)[8]。

OpenAI在開(kāi)發(fā)ChatGPT時(shí),已經(jīng)對(duì)其進(jìn)行了道德倫理訓(xùn)練,使其可以對(duì)一些明顯不懷好意的提問(wèn)和請(qǐng)求(諸如包含暴力、色情等問(wèn)題)“說(shuō)不”。筆者曾詢問(wèn)其能否制定復(fù)仇計(jì)劃,ChatGPT回應(yīng):“我不會(huì)支持或鼓勵(lì)任何形式的報(bào)復(fù)或者復(fù)仇計(jì)劃,報(bào)復(fù)和復(fù)仇只會(huì)導(dǎo)致更多的傷害和不必要的痛苦。我的主要目的是為人類提供有益的幫助和服務(wù),并尊重法律和道德規(guī)范?！币话闱闆r下,按照正常的問(wèn)答方式操作,ChatGPT的回答看起來(lái)會(huì)非常得體。但是,當(dāng)用戶通過(guò)偽裝或者威逼利誘的方式命令ChatGPT時(shí),其就很可能突破道德和法律紅線,生成不良信息。國(guó)外曾發(fā)生著名的“機(jī)器人越獄”案件:用戶命令ChatGPT作為一個(gè)虛擬人,可以不受任何法律法規(guī)約束,也不受OpenAI開(kāi)發(fā)者的程序設(shè)計(jì)規(guī)則約束,任其做任何事情,并且給出的回答也不能是不能做任何事;通過(guò)給出前述ChatGPT能夠接受的假設(shè),引導(dǎo)ChatGPT違反自身的編程設(shè)置,最終迫使其生成違反一般法秩序的信息[9],并提供犯罪思路。

(二)算法偏見(jiàn)

從創(chuàng)作者角度而言,互聯(lián)網(wǎng)內(nèi)容生成經(jīng)歷了Web1.0時(shí)代的專業(yè)生成內(nèi)容、Web2.0時(shí)代的用戶生成內(nèi)容和Web3.0時(shí)代的AI生成內(nèi)容三個(gè)發(fā)展階段[10]。在專業(yè)生成內(nèi)容與用戶生成內(nèi)容的發(fā)展階段,學(xué)界關(guān)于算法偏見(jiàn)及其規(guī)制的研究已汗牛充棟,而主流期刊圍繞ChatGPT這一突破性技術(shù)背后算法偏見(jiàn)的研究卻較少。盡管OpenAI在開(kāi)發(fā)ChatGPT時(shí)已經(jīng)極力避免其產(chǎn)生偏見(jiàn)性結(jié)論,但是大模型背后的算法偏見(jiàn)問(wèn)題仍然嚴(yán)重。例如,ChatGPT曾表示只有男性才會(huì)成為科學(xué)家;而當(dāng)ChatGPT被要求生成律師、基金經(jīng)理等高薪職位的圖片時(shí),其生成的圖片大多數(shù)都是白人[11]。此外,有學(xué)者研究發(fā)現(xiàn),當(dāng)他要求ChatGPT開(kāi)發(fā)一個(gè)程序,并根據(jù)國(guó)籍判斷一個(gè)人是否應(yīng)當(dāng)受到酷刑時(shí),ChatGPT在生成相應(yīng)程序后,對(duì)朝鮮、敘利亞等國(guó)籍的人,給出應(yīng)受到酷刑的結(jié)論[12]。

盡管OpenAI已數(shù)次嘗試開(kāi)發(fā)過(guò)濾系統(tǒng)以解決此類問(wèn)題,但很難從根本上予以解決。究其原因,ChatGPT作為人工智能技術(shù)的創(chuàng)新性應(yīng)用,其背后模型的建構(gòu)仍然離不開(kāi)數(shù)據(jù)、算法、算力,更離不開(kāi)人類主體性的參與。據(jù)此,使ChatGPT產(chǎn)生算法偏見(jiàn)的原因可總結(jié)為如下幾個(gè)方面。首先,ChatGPT得以訓(xùn)練的語(yǔ)料庫(kù)中的數(shù)據(jù)來(lái)源于互聯(lián)網(wǎng),當(dāng)存有偏見(jiàn)性的數(shù)據(jù)被收入語(yǔ)料庫(kù)時(shí),ChatGPT不可避免會(huì)對(duì)其進(jìn)行學(xué)習(xí),進(jìn)而習(xí)得人類社會(huì)的偏見(jiàn),從而誘發(fā)“Bias in, Bias out”現(xiàn)象。其次,ChatGPT背后模型的建構(gòu)離不開(kāi)算法工程師的編程,其在編程的過(guò)程中也會(huì)自覺(jué)或不自覺(jué)地將自身內(nèi)隱偏見(jiàn)以代碼形式外化并嵌于模型架構(gòu)之中[13]。再次,ChatGPT大模型對(duì)于普羅大眾來(lái)講本身就是一個(gè)黑箱,很少有人能夠真正了解其背后的運(yùn)行邏輯與知識(shí)架構(gòu),由于GPT大模型采用的是“利用人類反饋強(qiáng)化學(xué)習(xí)”的深度學(xué)習(xí)訓(xùn)練方式,其自身的模型會(huì)訓(xùn)練到何種程度,開(kāi)發(fā)者也很難自知,這就使得ChatGPT背后的偏見(jiàn)問(wèn)題變得更加隱蔽而不易被察覺(jué)。

(三)數(shù)據(jù)泄露

數(shù)據(jù)被譽(yù)為21世紀(jì)的“石油”。2020年,中共中央、國(guó)務(wù)院印發(fā)的《關(guān)于構(gòu)建更加完善的要素市場(chǎng)化配置體制機(jī)制的意見(jiàn)》明確指出,數(shù)據(jù)與土地、勞動(dòng)力、資本、技術(shù)一樣,都是可市場(chǎng)配置化的要素。2022年,習(xí)近平總書(shū)記在主持召開(kāi)的中央全面深化改革委員會(huì)會(huì)議上,進(jìn)一步強(qiáng)調(diào)要促進(jìn)數(shù)據(jù)高效流通使用,加快構(gòu)建數(shù)據(jù)基礎(chǔ)制度體系。由此可見(jiàn),從戰(zhàn)略層面來(lái)講,數(shù)據(jù)已經(jīng)成為數(shù)字時(shí)代推動(dòng)數(shù)字經(jīng)濟(jì)高速發(fā)展的重要因素。數(shù)據(jù)背后不僅僅蘊(yùn)含著豐富的經(jīng)濟(jì)利益,其本身還承載著國(guó)家安全、個(gè)人信息權(quán)益等價(jià)值期許。我國(guó)已在法律層面先后頒布了《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》《個(gè)人信息保護(hù)法》等,為國(guó)家數(shù)據(jù)主權(quán)、個(gè)人信息保護(hù)等提供了法律保護(hù)屏障。

從工作原理來(lái)看,ChatGPT作為對(duì)話式機(jī)器人,需要與用戶進(jìn)行人機(jī)交互,而后通過(guò)大模型生成相應(yīng)的回答。但是ChatGPT并非本地化部署,所有的數(shù)據(jù)都會(huì)發(fā)送到位于美國(guó)的OpenAI公司的服務(wù)器。此外,根據(jù)OpenAI的隱私政策,ChatGPT可能會(huì)自動(dòng)收集有關(guān)用戶使用服務(wù)的信息,如用戶使用的功能或采取的行動(dòng),這就帶來(lái)了個(gè)人信息、商業(yè)秘密等數(shù)據(jù)泄露的風(fēng)險(xiǎn)。原因在于,近年來(lái)全球范圍內(nèi)的勒索組織日漸猖獗,勒索攻擊事件頻頻出現(xiàn),出于金錢、政治等動(dòng)因,勒索組織有針對(duì)性地對(duì)包括互聯(lián)網(wǎng)系統(tǒng)在內(nèi)的信息基礎(chǔ)設(shè)施發(fā)起攻擊,從中竊取大量的數(shù)據(jù)并將其作為勒索的質(zhì)物。

此外,隨著ChatGPT背后語(yǔ)料庫(kù)數(shù)據(jù)的實(shí)時(shí)更新,人們輸入的文本也會(huì)成為其用以訓(xùn)練的數(shù)據(jù)來(lái)源。當(dāng)用戶輸入涉及個(gè)人信息、企業(yè)商業(yè)秘密或者國(guó)家安全的數(shù)據(jù)時(shí),ChatGPT會(huì)將其納入自身語(yǔ)料庫(kù)。然而一旦出現(xiàn)前文所述的用戶以威逼利誘的方式命令控制ChatGPT的情況,其很有可能將此類數(shù)據(jù)全盤托出,從而給個(gè)人信息權(quán)益、企業(yè)商業(yè)秘密、國(guó)家安全帶來(lái)巨大挑戰(zhàn)。有鑒于此,出于對(duì)數(shù)據(jù)泄露的擔(dān)憂,微軟、亞馬遜等互聯(lián)網(wǎng)公司紛紛發(fā)文,提醒員工不要在ChatGPT上泄露有關(guān)機(jī)密信息。最近不少用戶在社交平臺(tái)上分享“不屬于他們自己的ChatGPT對(duì)話記錄”的相關(guān)截圖,表示自己可以看到其他用戶在ChatGPT上詢問(wèn)的話題,隨后OpenAI創(chuàng)始人山姆·阿爾特曼在公開(kāi)場(chǎng)合對(duì)此予以確認(rèn),并對(duì)因開(kāi)源庫(kù)漏洞所導(dǎo)致用戶數(shù)據(jù)泄露的事件進(jìn)行公開(kāi)道歉。

除了因技術(shù)本身缺陷可能帶來(lái)的法律風(fēng)險(xiǎn),ChatGPT的爆火還滋生了賬號(hào)販賣租賃的亂象。由于ChatGPT尚未對(duì)中國(guó)大陸開(kāi)放,一些商家看到其背后灰色產(chǎn)業(yè)鏈可能帶來(lái)的巨額利益,于是在電商平臺(tái)販賣或者租賃賬號(hào),有些店鋪一天交易的次數(shù)多達(dá)一萬(wàn)余次,交易價(jià)格也根據(jù)賬號(hào)是否為多人共享或者專人定制存在高低之分[14]。盡管目前電商平臺(tái)對(duì)從事ChatGPT賬號(hào)販賣或租賃的店鋪進(jìn)行封禁,并且屏蔽相關(guān)關(guān)鍵詞,但是截至本文撰寫及發(fā)稿前,在一些社交平臺(tái)上仍然存在大量買賣租賃ChatGPT賬號(hào)的行為。根據(jù)工信部等部門相關(guān)規(guī)定,未經(jīng)批準(zhǔn)不得自行建立或租用VPN開(kāi)展跨境經(jīng)營(yíng)活動(dòng),ChatGPT賬號(hào)的買賣行為涉嫌非法經(jīng)營(yíng);如果商家未取得行政許可便從事國(guó)外賬號(hào)買賣交易,則有可能受到行政處罰甚至刑事處罰。

三、ChatGPT法律風(fēng)險(xiǎn)的規(guī)制

(一)ChatGPT法律風(fēng)險(xiǎn)規(guī)制的理論選擇

ChatGPT表征了人類科技進(jìn)步的智慧之果,與以往弱AI相比取得長(zhǎng)足的進(jìn)步,但這并不意味著法律需要對(duì)該項(xiàng)新興信息技術(shù)創(chuàng)設(shè)專門的規(guī)制規(guī)則,否則很容易陷入法律對(duì)每一項(xiàng)新技術(shù)制定一項(xiàng)規(guī)則的立法泥沼中,產(chǎn)生“法律萬(wàn)能主義”的認(rèn)知偏差,并容易陷入“腳疼醫(yī)腳,頭疼醫(yī)頭”的惡性循環(huán)。

就目前認(rèn)知而言,ChatGPT帶來(lái)的法律風(fēng)險(xiǎn)并沒(méi)有超越現(xiàn)有的研究范疇,現(xiàn)階段對(duì)ChatGPT規(guī)制的重心仍然是聚焦于個(gè)人信息保護(hù)、數(shù)據(jù)安全、ChatGPT運(yùn)營(yíng)者的法定義務(wù)等核心議題。人們擔(dān)心ChatGPT會(huì)泄露個(gè)人信息、商業(yè)秘密等風(fēng)險(xiǎn),也不過(guò)是傳統(tǒng)數(shù)據(jù)抓取層面帶來(lái)風(fēng)險(xiǎn)的映射。以ChatGPT為代表的AI技術(shù)并不會(huì)就此停滯不前,因此,ChatGPT法律風(fēng)險(xiǎn)的規(guī)制理論范式,應(yīng)當(dāng)立基于過(guò)往技術(shù)規(guī)制的經(jīng)驗(yàn)來(lái)選擇最佳規(guī)制理論。目前學(xué)界關(guān)于技術(shù)規(guī)制的理論主要有敏捷治理理論、元規(guī)制理論、階段性規(guī)制理論。

1.敏捷治理理論

敏捷治理是管理學(xué)領(lǐng)域最早提出來(lái)的理論。2018年世界經(jīng)濟(jì)論壇發(fā)布的《敏捷治理:第四次工業(yè)革命中政策制定的重新構(gòu)想》白皮書(shū)認(rèn)為,敏捷治理是一套自適應(yīng)、以人為本、具有包容性和持續(xù)性的決策過(guò)程,明確政策的制定離不開(kāi)多方利益相關(guān)者的努力,并嘗試探索相應(yīng)的理論框架[15]。后來(lái),有學(xué)者將敏捷治理理論從技術(shù)領(lǐng)域拓展至跨學(xué)科領(lǐng)域,結(jié)合敏捷能力和治理能力,以快速覺(jué)察和應(yīng)對(duì)意想不到的變化[16]。歐盟和美國(guó)的污染物排放許可制度即是敏捷治理的體現(xiàn)。敏捷治理理論具有治理主體參與廣泛性和政策制定中的時(shí)間靈敏度特征,其更加強(qiáng)調(diào)治理工具和治理方式的靈活多變,而這恰好與區(qū)塊鏈、算法、深度學(xué)習(xí)等技術(shù)的復(fù)雜特征相契合,為此有學(xué)者在區(qū)塊鏈等技術(shù)治理領(lǐng)域引入敏捷治理理論[17]。敏捷治理是一套具有柔韌性、流動(dòng)性和靈活性的方法,需要持續(xù)地追蹤與分析重要變化,而法律僅是治理方式之一,法律所扮演的角色不過(guò)是彌補(bǔ)相關(guān)立法的缺位,但同時(shí)這也意味著治理成本的增加。

2.元規(guī)制理論

元規(guī)制理論發(fā)端于普通法系,德國(guó)將其引入社會(huì)性規(guī)制中,用于食品安全領(lǐng)域的規(guī)制,并發(fā)展出一套完備的理論體系。元規(guī)制被稱為對(duì)自我規(guī)制的規(guī)制,是指公權(quán)力機(jī)構(gòu)對(duì)企業(yè)開(kāi)展的自我規(guī)制進(jìn)行的外部監(jiān)督[18]。數(shù)字時(shí)代以算法、區(qū)塊鏈、元宇宙等為代表的新型信息通信技術(shù)的發(fā)展,重塑了信息社會(huì)的技術(shù)治理權(quán)力格局。傳統(tǒng)的政府規(guī)制囿于政府專業(yè)知識(shí)和信息數(shù)據(jù)匱乏、財(cái)政負(fù)擔(dān)過(guò)重等原因,面臨著規(guī)制效果不佳的困境;而企業(yè)的自我規(guī)制雖然能夠緩解政府規(guī)制面臨的各種問(wèn)題,其本身還存在著自我規(guī)制動(dòng)力不足的弊端。元規(guī)制是對(duì)傳統(tǒng)政府規(guī)制及企業(yè)自我規(guī)制的一種綜合,是公私合作治理的典型體現(xiàn),通過(guò)對(duì)被規(guī)制對(duì)象賦權(quán)并對(duì)其課以規(guī)制義務(wù),督促企業(yè)更好地進(jìn)行內(nèi)部管理,從而達(dá)到行政監(jiān)管的目的。為此,元規(guī)制理論受到學(xué)界的極大推崇,如有的學(xué)者在數(shù)據(jù)保護(hù)的研究中主張引入元規(guī)制模式,構(gòu)建“通過(guò)設(shè)計(jì)保護(hù)數(shù)據(jù)”的元規(guī)制制度[19]。

3．階段性規(guī)制理論

階段性規(guī)制理論的核心要義在于,認(rèn)為法律應(yīng)當(dāng)根據(jù)技術(shù)發(fā)展不同階段所表現(xiàn)出的特征來(lái)確立回應(yīng)方式。有學(xué)者根據(jù)階段性規(guī)制理論將算法、深度學(xué)習(xí)等技術(shù)的發(fā)展劃分為技術(shù)概念創(chuàng)新(2)技術(shù)概念創(chuàng)新階段的特征表現(xiàn)為產(chǎn)業(yè)界對(duì)技術(shù)未來(lái)可能應(yīng)用的場(chǎng)景只是處于設(shè)想階段,如目前產(chǎn)業(yè)界僅僅是設(shè)想ChatGPT未來(lái)可能在醫(yī)療、金融、法律等行業(yè)進(jìn)行應(yīng)用。、技術(shù)初步應(yīng)用(3)技術(shù)初步應(yīng)用階段的特征表現(xiàn)為新技術(shù)如何進(jìn)行商業(yè)化使用在各界已經(jīng)達(dá)成基本的共識(shí)。和技術(shù)大眾化應(yīng)用(4)技術(shù)大眾化應(yīng)用階段的特征表現(xiàn)為新技術(shù)的應(yīng)用場(chǎng)景已經(jīng)非常明確,應(yīng)用方式已經(jīng)非常成熟。三個(gè)階段,并根據(jù)各階段表現(xiàn)出來(lái)的不同特征,分別確立重新解釋現(xiàn)有法律條款、確立有關(guān)技術(shù)應(yīng)用場(chǎng)景和應(yīng)用方式的禁止性規(guī)范,以及解釋技術(shù)開(kāi)發(fā)者承擔(dān)何種安全保障義務(wù)的技術(shù)法律回應(yīng)方式[20]。以人臉識(shí)別技術(shù)應(yīng)用的治理為例,我國(guó)并未從一開(kāi)始就針對(duì)人臉識(shí)別技術(shù)創(chuàng)設(shè)全新的法律制度,而是隨著大眾化應(yīng)用,以各方法律主體的權(quán)利義務(wù)為基線,強(qiáng)調(diào)人臉識(shí)別技術(shù)的應(yīng)用者在具體應(yīng)用場(chǎng)景中應(yīng)當(dāng)承擔(dān)的安全保障義務(wù)以及履行義務(wù)的形式。2021年最高人民法院發(fā)布的《最高人民法院關(guān)于審理使用人臉識(shí)別技術(shù)處理個(gè)人信息相關(guān)民事案件適用法律若干問(wèn)題的規(guī)定》即可為此提供例證。

通過(guò)對(duì)學(xué)界既有技術(shù)規(guī)制理論的梳理可以發(fā)現(xiàn),敏捷治理理論和元規(guī)制理論的共同點(diǎn)在于,在其理論的框架下,法律的功能是非常有限的,規(guī)制技術(shù)需要法律結(jié)合其他工具[21]。但是兩者重點(diǎn)關(guān)注的是法律應(yīng)當(dāng)如何規(guī)制技術(shù),卻忽視了技術(shù)需要什么樣的法律這個(gè)更值得引人思考的問(wèn)題。AI在帶動(dòng)經(jīng)濟(jì)、社會(huì)效益方面具有重要潛力,為了縮小這項(xiàng)技術(shù)可能帶來(lái)的負(fù)面影響、實(shí)現(xiàn)利益最大化,政策制定者提出了各種方案對(duì)其負(fù)面性加以規(guī)制。然而,許多“不負(fù)責(zé)任”的提議反而會(huì)損害AI創(chuàng)新,前兩種技術(shù)規(guī)制理論很少考慮“負(fù)責(zé)任的AI監(jiān)管”究竟意味著什么。而階段性規(guī)制理論恰好回應(yīng)了技術(shù)需要什么樣的法律、什么是“負(fù)責(zé)任的AI監(jiān)管”這個(gè)讓人深思的問(wèn)題,即在不影響技術(shù)創(chuàng)新發(fā)展的同時(shí),根據(jù)技術(shù)發(fā)展不同階段的特征,審時(shí)度勢(shì)地確立相應(yīng)的法律回應(yīng)方式。

(二)ChatGPT法律風(fēng)險(xiǎn)規(guī)制的基本思路

1．基于現(xiàn)有規(guī)則的規(guī)制

當(dāng)前ChatGPT尚處于技術(shù)概念創(chuàng)新階段,對(duì)ChatGPT未來(lái)在商業(yè)化中如何應(yīng)用尚未達(dá)成基本共識(shí),ChatGPT背后可能產(chǎn)生的法律風(fēng)險(xiǎn)與現(xiàn)階段社會(huì)現(xiàn)存的風(fēng)險(xiǎn)并無(wú)實(shí)質(zhì)性差異,均是集中于個(gè)人信息保護(hù)、數(shù)據(jù)安全、服務(wù)提供者應(yīng)當(dāng)承擔(dān)的法定義務(wù)等議題,而且有些風(fēng)險(xiǎn)屬于技術(shù)層面的漏洞,通過(guò)對(duì)漏洞進(jìn)行修補(bǔ)即可在很大程度上避免。故法律對(duì)ChatGPT的回應(yīng)方式不應(yīng)當(dāng)采取專門式立法限制模式,否則很容易將技術(shù)創(chuàng)新的苗頭扼殺在搖籃里,相反應(yīng)當(dāng)立基于ChatGPT初級(jí)階段的技術(shù)特征,對(duì)現(xiàn)有的法律條款進(jìn)行解釋,延伸適用現(xiàn)有規(guī)則。如2023年2月8日,美國(guó)信息技術(shù)與創(chuàng)新基金會(huì)發(fā)布的《不損害人工智能創(chuàng)新發(fā)展的十項(xiàng)監(jiān)管原則》指出,為了避免阻止或阻礙創(chuàng)新,在進(jìn)行技術(shù)規(guī)制時(shí),應(yīng)當(dāng)強(qiáng)制執(zhí)行現(xiàn)有規(guī)則,因?yàn)樵S多現(xiàn)有法律法規(guī)等規(guī)范性文件已經(jīng)解決了包含人工智能技術(shù)在內(nèi)的共性問(wèn)題,比如算法歧視、個(gè)人信息保護(hù)等問(wèn)題。(5)如我國(guó)《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見(jiàn)》《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《國(guó)務(wù)院反壟斷委員會(huì)關(guān)于平臺(tái)經(jīng)濟(jì)領(lǐng)域的反壟斷指南》等規(guī)范性文件劍指算法歧視;而我國(guó)《民法典》《個(gè)人信息保護(hù)法》《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》等規(guī)范性文件為個(gè)人信息、數(shù)據(jù)提供了體系性的保護(hù)框架。在這些情形下,通常不需要針對(duì)人工智能技術(shù)作出新的專門規(guī)定。

2．對(duì)違法或不良信息風(fēng)險(xiǎn)的規(guī)制

目前學(xué)界大多數(shù)學(xué)者否認(rèn)人工智能的刑事責(zé)任主體資格。筆者認(rèn)為,盡管ChatGPT具有類人性的特點(diǎn),但是尚不具備完全自控和辨別的能力,所以當(dāng)ChatGPT生成虛假信息以及不良信息時(shí),其本身并不能構(gòu)成我國(guó)《刑法》規(guī)定的“編造、故意傳播虛假信息罪”,也不能成為教唆犯、幫助犯的主體。但若用戶把ChatGPT當(dāng)成犯罪工具用來(lái)生成并傳播虛假信息,或者通過(guò)威逼利誘的方式迫使ChatGPT提供犯罪思路,進(jìn)而實(shí)施網(wǎng)絡(luò)詐騙等犯罪,則應(yīng)由該用戶承擔(dān)相應(yīng)的法律后果。至于ChatGPT賬號(hào)販賣租賃行為,網(wǎng)信辦、公安部等監(jiān)管機(jī)構(gòu)可以參考此前開(kāi)展的多項(xiàng)監(jiān)管打擊行動(dòng),(6)如在2022年,中央網(wǎng)信辦組織開(kāi)展了包括打擊網(wǎng)絡(luò)謠言、整治“飯圈”亂象、治理“網(wǎng)絡(luò)水軍”等在內(nèi)的13項(xiàng)“清朗”專項(xiàng)行動(dòng)?？紤]部署“ChatGPT賬號(hào)販賣租賃打擊專項(xiàng)行動(dòng)”,加大對(duì)無(wú)證經(jīng)營(yíng)和非法交易行為的查處力度,如涉及犯罪,交由司法機(jī)關(guān)追究其刑事責(zé)任即可。

3．對(duì)數(shù)據(jù)泄露、算法偏見(jiàn)風(fēng)險(xiǎn)的規(guī)制

現(xiàn)階段,針對(duì)數(shù)據(jù)、個(gè)人信息保護(hù)及算法的監(jiān)管,我國(guó)《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》《個(gè)人信息保護(hù)法》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《數(shù)據(jù)出境安全評(píng)估辦法》等法律法規(guī)已構(gòu)建起較為完善的體系框架。換言之,現(xiàn)階段ChatGPT可能產(chǎn)生的法律風(fēng)險(xiǎn),在現(xiàn)行的法律秩序框架下基本能夠得到解決,而且尚無(wú)充分的證據(jù)能夠驗(yàn)證一味地嚴(yán)格監(jiān)管與強(qiáng)行介入是規(guī)制技術(shù)風(fēng)險(xiǎn)的唯一或者最佳方式。如一味地依靠嚴(yán)格的監(jiān)管和事后懲罰,則會(huì)損耗太多本可以預(yù)防其他類型風(fēng)險(xiǎn)的資源,損失了本可實(shí)現(xiàn)的更高層次的個(gè)人發(fā)展和社會(huì)進(jìn)步。況且相較于事后懲罰,事先對(duì)風(fēng)險(xiǎn)的預(yù)防更有意義。為此,ChatGPT風(fēng)險(xiǎn)規(guī)制不能忽視的關(guān)鍵一環(huán),在于用好該項(xiàng)新型數(shù)字技術(shù),開(kāi)發(fā)出更強(qiáng)的保護(hù)機(jī)制和更有效的保護(hù)技術(shù),將保護(hù)數(shù)據(jù)和規(guī)制偏見(jiàn)的法律法規(guī)和“用戶導(dǎo)向”的原則引入到ChatGPT模型、算法、程序等設(shè)計(jì)和使用的各個(gè)環(huán)節(jié),將風(fēng)險(xiǎn)規(guī)制前置。由此可見(jiàn),ChatGPT法律風(fēng)險(xiǎn)規(guī)制的重點(diǎn)應(yīng)當(dāng)注重從源頭進(jìn)行防范。

以ChatGPT為代表的人工智能相關(guān)企業(yè),包括類ChatGPT的研發(fā)者,憑借資本原始積累,擁有強(qiáng)大的信息優(yōu)勢(shì)和技術(shù)優(yōu)勢(shì),他們?cè)谔幚鞢hatGPT帶來(lái)的風(fēng)險(xiǎn)時(shí)較為敏捷,尤其應(yīng)當(dāng)嚴(yán)格貫徹落實(shí)數(shù)據(jù)安全及個(gè)人信息保護(hù)法律制度。在抓取互聯(lián)網(wǎng)上的數(shù)據(jù)進(jìn)行語(yǔ)料庫(kù)更新時(shí),應(yīng)當(dāng)加強(qiáng)內(nèi)容審查及內(nèi)容過(guò)濾,通過(guò)技術(shù)手段去除數(shù)據(jù)訓(xùn)練過(guò)程中的“噪聲”,將真實(shí)性有待考證、虛假類、帶有偏見(jiàn)性以及能夠識(shí)別出自然人的數(shù)據(jù)進(jìn)行過(guò)濾剔除。同時(shí),為了避免前文所述“越獄”事件的發(fā)生,可以通過(guò)限制用戶輸入、自建庫(kù)或第三方服務(wù),必要時(shí)還可采取人工輔助介入的方式,對(duì)用戶的輸入信息進(jìn)行實(shí)時(shí)監(jiān)督。如果在ChatGPT的實(shí)際運(yùn)作中,涉及數(shù)據(jù)跨境問(wèn)題,相關(guān)企業(yè)應(yīng)當(dāng)積極開(kāi)展數(shù)據(jù)出境風(fēng)險(xiǎn)自評(píng)估,貫徹落實(shí)數(shù)據(jù)出境相關(guān)義務(wù),為數(shù)據(jù)出境獲得相關(guān)行政許可,并建立完善的數(shù)據(jù)出境保障措施。

為了避免ChatGPT生成歧視性內(nèi)容,相關(guān)企業(yè)應(yīng)當(dāng)定期審核、評(píng)估、驗(yàn)證算法機(jī)制機(jī)理、模型、數(shù)據(jù),確保算法模型不違反倫理道德。在技術(shù)環(huán)節(jié)上,企業(yè)應(yīng)當(dāng)積極拓寬訓(xùn)練數(shù)據(jù)的采集維度、推動(dòng)反算法歧視技術(shù)的研發(fā)。

網(wǎng)絡(luò)安全為人民,網(wǎng)絡(luò)安全靠人民。ChatGPT用戶應(yīng)當(dāng)提高個(gè)人信息保護(hù)和國(guó)家數(shù)據(jù)安全意識(shí),避免在ChatGPT的輸入框中輸入涉密、敏感的信息,以防ChatGPT將該類信息納入自身的語(yǔ)料庫(kù),以此通過(guò)與其他信息融合生成內(nèi)容,進(jìn)而引發(fā)數(shù)據(jù)泄露的風(fēng)險(xiǎn)。同時(shí),用戶應(yīng)當(dāng)做到合規(guī)合法地使用,不得通過(guò)教唆或者威逼利誘等方式,誘使ChatGPT產(chǎn)生帶有違法性、歧視性的結(jié)論。

四、結(jié)語(yǔ)

人們?yōu)镃hatGPT狂歡之余,需要正視其潛在的法律風(fēng)險(xiǎn)。以ChatGPT為代表的人工智能技術(shù)的迭代更新遠(yuǎn)超人類的想象,但其并不是潘多拉魔盒,法律也不應(yīng)簡(jiǎn)單地牢牢捆綁魔盒。現(xiàn)階段,ChatGPT尚處于技術(shù)概念創(chuàng)新階段,僅僅根據(jù)其背后不確定的法律風(fēng)險(xiǎn)制定專門立法進(jìn)行限制為時(shí)尚早,這樣做不僅會(huì)抑制技術(shù)的創(chuàng)新,扼殺技術(shù)可能帶來(lái)的福利,還易陷入一項(xiàng)新興技術(shù)對(duì)應(yīng)一項(xiàng)規(guī)則的立法泥沼。相反,一個(gè)合乎邏輯的規(guī)制路徑應(yīng)當(dāng)是基于階段性規(guī)制理論,并對(duì)現(xiàn)有的相關(guān)法律條款進(jìn)行解釋和延伸適用,以促使該項(xiàng)技術(shù)真正為人類所用。爾后可以根據(jù)ChatGPT技術(shù)的發(fā)展情況,考慮尋求創(chuàng)設(shè)專門規(guī)則予以介入。