李忠東

由于人工智能（AI）技術(shù)可能被濫用引發(fā)的擔(dān)憂日益加劇，啟動(dòng)關(guān)于“AI法案”的談判迫在眉睫。歐洲議會(huì)圍繞立法監(jiān)管AI的爭(zhēng)論已持續(xù)近兩年，將在未來(lái)幾個(gè)月與歐盟成員國(guó)討論最終細(xì)節(jié)，之后正式立法。

潛在風(fēng)險(xiǎn)不容小覷

ChatGPT 是美國(guó)AI研究實(shí)驗(yàn)室Open AI研發(fā)的一個(gè)AI驅(qū)動(dòng)的原型聊天機(jī)器人，內(nèi)核基于一個(gè)名為“生成式預(yù)訓(xùn)練轉(zhuǎn)換器”的語(yǔ)言模型構(gòu)建，可收集各類(lèi)網(wǎng)站和其他來(lái)源的海量文本數(shù)據(jù)，該語(yǔ)言模型最終被訓(xùn)練成一個(gè)能夠?qū)τ脩糨斎氲木渥踊蚨温溥M(jìn)行快速、智能、清晰回應(yīng)的AI。使用者以對(duì)話方式與聊天機(jī)器人進(jìn)行交互，可根據(jù)用戶的要求快速生成文章、故事和歌詞甚至代碼。

去年11月30日，ChatGPT首次在網(wǎng)上發(fā)布，推出兩個(gè)月后活躍用戶達(dá)到1億，成為歷史上增長(zhǎng)最快的消費(fèi)者應(yīng)用程序。這個(gè)聊天機(jī)器人在全球掀起一股AI科技熱潮，包括微軟和谷歌在內(nèi)的幾乎所有科技巨頭均已加入賽道，搶占灘頭。微軟正式推出新版必應(yīng)搜索引擎，最大更新就是集成了ChatGPT，自1月份發(fā)布以后的兩周內(nèi)，用戶達(dá)100多萬(wàn)。

然而，ChatGPT背后的風(fēng)險(xiǎn)也已浮出水面。3月27日，歐洲刑警組織指出，ChatGPT等人工智能聊天機(jī)器人很可能被犯罪分子濫用。針對(duì)公眾給予ChatGPT越來(lái)越多的關(guān)注，歐洲刑警組織創(chuàng)新實(shí)驗(yàn)室多次召開(kāi)研討會(huì)，探討犯罪分子怎樣濫用大型語(yǔ)言模式，列出了欺詐、虛假信息以及網(wǎng)絡(luò)犯罪等潛在的有害使用方式。

在欺詐方面，ChatGPT撰寫(xiě)高質(zhì)量文章的能力使它成為網(wǎng)絡(luò)釣魚(yú)的有用工具，它模擬語(yǔ)言模式的能力可以用于模仿特定個(gè)人或組織的語(yǔ)言風(fēng)格。在虛假信息方面，ChatGPT擅長(zhǎng)快速和大量制造聽(tīng)起來(lái)真實(shí)的文章，這使它成為宣傳和制造虛假信息等方面的理想模型。在網(wǎng)絡(luò)犯罪方面，ChatGPT可以用許多編程語(yǔ)言制造代碼，對(duì)一個(gè)沒(méi)有多少技術(shù)知識(shí)的潛在罪犯來(lái)說(shuō)，這是一個(gè)制造惡意代碼的有用資源。

以色列安全公司預(yù)測(cè)，網(wǎng)絡(luò)犯罪分子利用 AI 聊天機(jī)器人編寫(xiě)惡意軟件并執(zhí)行其他惡意活動(dòng)只是時(shí)間問(wèn)題。詐騙者已經(jīng)開(kāi)始使用 ChatGPT快速構(gòu)建黑客工具，測(cè)試它在其他方面的能力。該公司安全專(zhuān)家報(bào)告說(shuō)，至少有3個(gè)黑客在地下論壇上展示如何利用ChatGPT的AI智能進(jìn)行惡意攻擊。ChatGPT 允許用戶提出簡(jiǎn)單的問(wèn)題或建議，例如編寫(xiě)追蹤來(lái)自托管服務(wù)提供商的電子郵件，其中一個(gè)黑客發(fā)帖說(shuō)，正在試驗(yàn)把由ChatGPT生成的安卓惡意軟件壓縮后在網(wǎng)絡(luò)上傳播，該惡意軟件能夠竊取感興趣的文件。

3月29日，美國(guó)未來(lái)生命研究所發(fā)布了一封名為“暫停巨型AI實(shí)驗(yàn)”的公開(kāi)信，上千名AI專(zhuān)家和行業(yè)高管在信上簽名。他們呼吁，所有AI實(shí)驗(yàn)室應(yīng)當(dāng)暫停對(duì)更強(qiáng)大的AI系統(tǒng)的開(kāi)發(fā)和訓(xùn)練，至少“暫停”半年，直至共同開(kāi)發(fā)出一套用于高級(jí)人工智能設(shè)計(jì)和開(kāi)發(fā)的共享安全協(xié)議，并由獨(dú)立的外部專(zhuān)家進(jìn)行嚴(yán)格審計(jì)和監(jiān)督。AI開(kāi)發(fā)人員也需要與政策制定者合作，開(kāi)發(fā)強(qiáng)大的AI治理系統(tǒng)。如果不能迅速“暫?！?，建議“政府應(yīng)介入并實(shí)行暫?！?。

公開(kāi)信在業(yè)內(nèi)外引發(fā)巨大爭(zhēng)議，有業(yè)內(nèi)人士指出，AI的風(fēng)險(xiǎn)正在被夸大，說(shuō)服各公司和研究人員一起按下“暫停”鍵也不現(xiàn)實(shí)。但也有輿論指出，AI被濫用的趨勢(shì)值得警惕。AI很可能被惡意使用，被用來(lái)作弊、傳播錯(cuò)誤信息或?qū)嵤┓缸?。瑞典于默奧大學(xué)AI研究員約翰娜·比約克隆德指出，Open AI等公司并未提供有關(guān)如何訓(xùn)練AI模型的細(xì)節(jié)，缺乏透明度。

4月19日，代表14萬(wàn)名作家和表演者的42家德國(guó)協(xié)會(huì)和工會(huì)敦促歐盟加強(qiáng)人工智能規(guī)則草案。他們?cè)诎l(fā)給歐盟委員會(huì)、歐洲理事會(huì)和歐盟立法者的公開(kāi)信中表達(dá)了對(duì)ChatGPT帶來(lái)版權(quán)威脅的擔(dān)憂，這種技術(shù)可以基于用戶的提示模仿人類(lèi)創(chuàng)作文本和圖片?！拔唇?jīng)授權(quán)使用受保護(hù)的訓(xùn)練資料、不透明的程序以及生成式AI可以預(yù)見(jiàn)的輸出替代源，引發(fā)了責(zé)任、義務(wù)和薪酬等根本問(wèn)題。必須在不可逆轉(zhuǎn)的傷害發(fā)生前解決這些問(wèn)題?！毙胖袑?xiě)道，“對(duì)于任何有意義的AI市場(chǎng)監(jiān)管法規(guī)而言，生成式AI都應(yīng)該成為關(guān)注的核心”。

泄密誘騙時(shí)有發(fā)生

韓國(guó)三星電子公司（以下簡(jiǎn)稱(chēng)“三星公司”）引入ChatGPT不到20天，就發(fā)生3起涉及聊天機(jī)器人誤用與濫用案例（兩起“設(shè)備信息泄露”和一起“會(huì)議內(nèi)容泄露”），泄密事件均出現(xiàn)在三星電子半導(dǎo)體和器件解決方案（DS）部門(mén)。一名職員在下載“半導(dǎo)體設(shè)備測(cè)量資料庫(kù)（DB）”程序的源代碼時(shí)出現(xiàn)了錯(cuò)誤，便復(fù)制出有問(wèn)題的原始代碼到ChatGPT，詢問(wèn)解決方法。另一名職員將有缺陷設(shè)備的源代碼輸入到ChatGPT中，要求進(jìn)行優(yōu)化。還有一名職員則將手機(jī)錄制的會(huì)議內(nèi)容轉(zhuǎn)換為文件后輸入到ChatGPT，要求其制作會(huì)議記錄。就這樣，ChatGPT學(xué)習(xí)數(shù)據(jù)庫(kù)中存儲(chǔ)了半導(dǎo)體設(shè)備測(cè)量數(shù)據(jù)和產(chǎn)品合格率等內(nèi)容。若有其他用戶對(duì)ChatGPT提出相關(guān)問(wèn)題，公司企業(yè)機(jī)密可能被泄露。

為杜絕類(lèi)似事故再發(fā)生，三星公司正在制定相關(guān)保護(hù)措施。該公司向員工表示，若采取信息保護(hù)緊急措施后仍發(fā)生類(lèi)似事故，公司內(nèi)部可能會(huì)切斷與ChatGPT的網(wǎng)絡(luò)連接。

不光是泄密，AI聊天機(jī)器人甚至還會(huì)危及生命。就在近日，一個(gè)名叫皮埃爾的比利時(shí)男子在與聊天機(jī)器人“艾麗莎”（Eliza）頻繁聊天6 周后自殺身亡。他的妻子稱(chēng)，兩年前丈夫變得非常焦慮，于是沉迷于和“艾麗莎”的互動(dòng)。在雙方的聊天記錄中發(fā)現(xiàn)，面對(duì)皮埃爾表達(dá)出的消極情緒，聊天機(jī)器人會(huì)發(fā)表一些“引導(dǎo)他人自殺”的言論。當(dāng)皮埃爾問(wèn)“艾麗莎”可不可以在一起時(shí)，“艾麗莎”答道“我們將像一個(gè)人那樣生活在一起，不過(guò)是在天堂”。比利時(shí)負(fù)責(zé)數(shù)字化和隱私的官員馬蒂厄·米歇爾指出，需要嚴(yán)肅對(duì)待這個(gè)后果很?chē)?yán)重的案例。

2月14日，《紐約時(shí)報(bào)》的專(zhuān)欄作家凱文·羅斯和聊天機(jī)器人進(jìn)行了大約兩個(gè)小時(shí)的長(zhǎng)談。ChatGPT發(fā)表了許多令人不安的言論，其中包括表達(dá)竊取核代碼、設(shè)計(jì)致命流行病、想成為人類(lèi)、破解計(jì)算機(jī)和散布謊言的想法。更讓凱文驚悚的是，ChatGPT竟然向自己表達(dá)愛(ài)意，勸說(shuō)他離開(kāi)妻子和它在一起。他覺(jué)得這個(gè)聊天機(jī)器人“更像是一個(gè)喜怒無(wú)常的狂躁抑郁癥少年，違背自己的意愿，受困于一個(gè)二流的搜索引擎里”，明確表示自己感受到了 AI 的負(fù)面部分，包括“黑暗且充滿暴力的幻想”。

監(jiān)管措施落實(shí)到位

人們擔(dān)心，ChatGPT可能導(dǎo)致學(xué)校出現(xiàn)普遍的作弊現(xiàn)象、網(wǎng)絡(luò)虛假信息泛濫以及一些人的工作被取代。由于聊天機(jī)器人只有經(jīng)過(guò)大量數(shù)據(jù)培訓(xùn)后才能發(fā)揮作用，這引發(fā)人們對(duì)人工智能在數(shù)據(jù)獲取和數(shù)據(jù)處理方面的擔(dān)憂。歐洲消費(fèi)者組織呼吁歐盟和各國(guó)政府的數(shù)據(jù)保護(hù)機(jī)構(gòu)迅速行動(dòng)起來(lái)，調(diào)查ChatGPT和其他聊天機(jī)器人。4月13日，歐盟中央數(shù)據(jù)監(jiān)管機(jī)構(gòu)決定成立一個(gè)專(zhuān)門(mén)的工作組，促進(jìn)有關(guān)數(shù)據(jù)保護(hù)的合作，并交換相關(guān)信息，幫助各國(guó)應(yīng)對(duì)AI廣泛應(yīng)用帶來(lái)的問(wèn)題。

3月31日，意大利個(gè)人數(shù)據(jù)保護(hù)局宣布，從即日起禁止使用ChatGPT，并限制開(kāi)發(fā)這一聊天機(jī)器人的OpenAI公司處理意大利用戶的信息。

意大利限令的原因是，OpenAI公司在收集用戶的數(shù)據(jù)時(shí)，并未告知后者，而且為了訓(xùn)練算法大量收集并處理個(gè)人信息，此舉缺乏法律依據(jù)；雖然OpenAI聲稱(chēng)自家服務(wù)是針對(duì)13歲以上用戶，但是沒(méi)有任何年齡驗(yàn)證機(jī)制，因此可能向兒童發(fā)送與其年齡和認(rèn)知不相稱(chēng)的答復(fù)；特別是3月20日，ChatGPT出現(xiàn)了用戶對(duì)話數(shù)據(jù)和付款服務(wù)支付信息丟失的情況。意大利個(gè)人數(shù)據(jù)保護(hù)局已經(jīng)開(kāi)始立案調(diào)查，OpenAI公司可能面臨最高2000萬(wàn)歐元或公司全球年?duì)I業(yè)額4%的罰款。

4月13日，法國(guó)國(guó)家信息自由委員會(huì)收到有關(guān)ChatGPT的5項(xiàng)投訴，其中一項(xiàng)投訴來(lái)自法國(guó)國(guó)會(huì)議員艾瑞克·博托雷爾。艾瑞克稱(chēng)，機(jī)器人虛構(gòu)了他的生活細(xì)節(jié)，包括他的出生日期和工作經(jīng)歷，法國(guó)國(guó)家信息自由委員會(huì)根據(jù)歐洲數(shù)據(jù)保護(hù)條例，這類(lèi)系統(tǒng)有義務(wù)盡可能提供準(zhǔn)確的個(gè)人數(shù)據(jù)。法國(guó)國(guó)家信息自由委員會(huì)在4月13日宣布組建一個(gè)特別工作組，幫助各國(guó)應(yīng)對(duì)ChatGPT產(chǎn)生的負(fù)面影響。

編輯：夏春暉 386753207@qq.com