□ 文 張 彥 劉宏斌

0 引言

當前科技飛速發(fā)展，人工智能產(chǎn)品的“智能化”、“擬人化”特征更加突出，隨著第一代生成式人工智能產(chǎn)品ChatGPT出現(xiàn)，相關(guān)智能產(chǎn)品Youchat、Rytr等也隨之出現(xiàn)。ChatGPT作為新興人工智能產(chǎn)品，是美國openAI公司發(fā)布的強大人工智能產(chǎn)品，全稱為Chat Generative Pre-trained Transformer（生成式語音預訓轉(zhuǎn)換模型）。ChatGPT使用Transformer結(jié)構(gòu)與自回歸+Prompting的訓練模式，擁有廣闊數(shù)據(jù)庫、成熟運算模型、具備精確定位用戶需求和快速分析輸出信息的強大能力。

在促進生產(chǎn)效率提高、激勵社會創(chuàng)新的同時，ChatGPT 存在幫助電信網(wǎng)絡(luò)詐騙的可能性，例如：非法竊取及利用用戶信息、輸出虛假信息、更新詐騙手段。電信網(wǎng)絡(luò)詐騙具有高科技性，且往往將智能性、科技性產(chǎn)品技術(shù)應用于電信網(wǎng)絡(luò)詐騙。以ChatGPT 為代表的人工智能技術(shù)更是提升了詐騙犯罪的智能化和識別難度，使詐騙犯罪更易獲得潛在受害人的信任，為電信網(wǎng)絡(luò)詐騙犯罪滋生新的發(fā)展環(huán)境、提供新的實施手段。2023 年5月，包頭市公安局電信網(wǎng)絡(luò)犯罪偵查局發(fā)布一起使用智能AI 技術(shù)進行電信網(wǎng)絡(luò)詐騙的案件。為此，應重視研究ChatGPT 被應用于電信網(wǎng)絡(luò)詐騙的可能，進而有效預防和消除潛在風險。

1 ChatGPT在應用過程中的風險漏洞

ChatGPT的出現(xiàn)代表著人工智能技術(shù)從行業(yè)專用發(fā)展至社會通用，應用領(lǐng)域前所未有的廣闊。其在收錄信息、語言訓練、生成內(nèi)容等方面的優(yōu)良表現(xiàn)在為社會活動提供便利的同時，也暴露其存在的風險與弊端。

1.1 存在泄露用戶隱私的漏洞

ChatGPT 的內(nèi)容生成是通過學習大量的文本語料庫實現(xiàn)模型訓練，最終生成最優(yōu)文本。在生成信息之前，其學習數(shù)據(jù)來源于廣闊的互聯(lián)網(wǎng)。在互聯(lián)網(wǎng)信息池當中，信息種類繁多，良莠不齊，ChatGPT無法保證其學習數(shù)據(jù)的質(zhì)量，也就無法保證其信息來源的安全性。2023 年3月24號，openAI官網(wǎng)發(fā)布通知表明ChatGPT 泄露用戶隱私。這表明ChatGPT 在用戶信息、隱私保護方面也存在風險，存在隱私漏洞，并未有效保護其數(shù)據(jù)庫內(nèi)信息。

此外，2023年5月，北京市通信管理局官網(wǎng)最新公開通報了27款未整改或整改不到位的應用軟件。此類應用軟件代表互聯(lián)網(wǎng)應用中存在“違反必要原則收集個人信息”以及“未明示收集使用個人信息的目的、方式和范圍”等侵害用戶權(quán)益和安全隱患類問題。

1.2 存在惡意使用或濫用風險

ChatGPT通過預訓練語言模型生成信息，其輸出的信息具有一定的可信度，但是無法完全避免輸出錯誤信息。在使用ChatGPT的過程中，使用者與ChatGPT進行的溝通對話也會被作為訓練素材納入ChatGPT的信息庫。如若使用者具有惡意傾向，則會通過ChatGPT輸出虛假、惡意信息，隨著這些虛假、惡意信息生成比例逐漸上升，則會加劇公眾對于社會中傳播的信息的不信任，影響正常的社會交流。

目前ChatGPT的普遍應用場景為學生使用ChatGPT輸出課程作業(yè)或者在考試中作弊、研究人員使用ChatGPT實施學術(shù)不端行為。ChatGPT在這些場景中的應用已經(jīng)對教育、醫(yī)療、科研等領(lǐng)域構(gòu)成威脅與破壞，在學術(shù)誠信、數(shù)據(jù)真實性、以及個人學術(shù)獨創(chuàng)性等方面存在社會風險。

2 利用ChatGPT實施電信網(wǎng)絡(luò)詐騙的主要誘因

ChatGPT本質(zhì)上是一種對話型機器人模型，作為一種內(nèi)容生成式AI產(chǎn)品（AIGC Products），可以智能生成如代碼、文字、圖像等內(nèi)容，具有超強的信息檢索、自然語音處理、文本生成等能力。目前已經(jīng)出現(xiàn)利用人工智能技術(shù)進行電信網(wǎng)絡(luò)詐騙的案例，從風險預防的角度出發(fā)，需要對利用ChatGPT 進行電信網(wǎng)絡(luò)詐騙的誘因進行分析，為進而開展針對性的防控工作提供必要基礎(chǔ)。

2.1 便于詐騙團體收集信息

在信息高度共享、快速傳播的互聯(lián)網(wǎng)時代，社會公眾在使用網(wǎng)絡(luò)媒體過程中的進行搜索、注冊登錄、交流溝通、輸出信息等行為，均會在互聯(lián)網(wǎng)中“留痕”，使自己的身份、財產(chǎn)及社會關(guān)系等信息散落在互聯(lián)網(wǎng)廣闊的信息池當中。對于公眾無意泄露的自身信息，詐騙團體在進行詐騙之前需要對其進行收集，完成犯罪預備。傳統(tǒng)電信網(wǎng)絡(luò)詐騙犯罪主要通過人工搜索以及購買的方式來非法收集公眾信息，ChatGPT的出現(xiàn)為詐騙團體非法收集公眾信息提供便利。

2.2 便于詐騙團體“虛構(gòu)事實”

“虛構(gòu)事實”是電信網(wǎng)絡(luò)詐騙犯罪的關(guān)鍵環(huán)節(jié)，指的是詐騙團體獲取潛在受害人信任的方法。“虛構(gòu)事實”的能力水平直接影響著電信網(wǎng)絡(luò)詐騙犯罪的辨別與打擊難度。傳統(tǒng)的電信網(wǎng)絡(luò)詐騙中受害人對詐騙團體產(chǎn)生信任的基礎(chǔ)是雙方處于不見面、不交談的非接觸狀態(tài)，此種信任是在真實性不高的狀態(tài)下的信任。以ChatGPT 為代表的人工智能技術(shù)能夠“消除”詐騙團體與受害人的距離和不真實感，編造出“真實”的詐騙環(huán)境，幫助詐騙團體操縱受害人的心理，從而獲取被害人的信任。

2.3 便于詐騙團體輸出虛假信息

精準定位受害人的特定需求，是成功實施電信網(wǎng)絡(luò)詐騙的必要條件。ChatGPT可根據(jù)詐騙團體向其提供的受害人的生活環(huán)境、身份信息以及社會關(guān)系，經(jīng)過運算對受害人的具體特征進行畫像，進而精準定位其心理或物質(zhì)需求，針對特定需求開展針對性詐騙。

3 對利用ChatGPT進行電信網(wǎng)絡(luò)詐騙的防控措施

電信網(wǎng)絡(luò)詐騙擅于應用新型人工智能產(chǎn)品、數(shù)據(jù)處理技術(shù)，ChatGPT的出現(xiàn)提示著我們對于電信網(wǎng)絡(luò)詐騙的防控，需要采取新的應對措施。可以結(jié)合ChatGPT在電信網(wǎng)絡(luò)詐騙中應用的角度，從法律法規(guī)、應用監(jiān)管、規(guī)范使用、保護受害人等角度來思考防控對策。

3.1 嚴格執(zhí)行國家法律

為防止ChatGPT 等新興生成類人工智能產(chǎn)品在當前社會中的濫用，必須嚴格落實《中華人民共和國數(shù)據(jù)安全法》《中華人民共和國個人信息保護法》。此外，2022 年11月，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》，在法規(guī)制度方面對人工智能產(chǎn)品進行規(guī)范，從基礎(chǔ)上避免人工智能產(chǎn)品被濫用。只有嚴格落實國家有關(guān)人工智能產(chǎn)品使用、信息保護等法律法規(guī)，確保法律的適用性、可執(zhí)行性和懲罰力度，才能從宏觀層面為ChatGPT 等生成式人工智能產(chǎn)品提供健康、廣闊的應用環(huán)境，保證其發(fā)展的良好網(wǎng)絡(luò)生態(tài)。

3.2 從源頭規(guī)范ChatGPT的應用

ChatGPT的開發(fā)者與服務提供商應當提升對于用戶個人信息的保護力度，建立嚴格的數(shù)據(jù)隱私保護措施，采用加密技術(shù)保護用戶數(shù)據(jù)，并且在用戶數(shù)據(jù)的收集、存儲、傳輸?shù)拳h(huán)節(jié)設(shè)置安全措施來防止泄露用戶隱私或被詐騙團體濫用；其次，應當嚴格審查數(shù)據(jù)來源，依法、嚴格、規(guī)范的對數(shù)據(jù)進行分析預判，堅決杜絕在數(shù)據(jù)庫中產(chǎn)生問題信息；進入語言信息庫的個人信息數(shù)據(jù)必須合法；互聯(lián)網(wǎng)時代，用戶信息處于公開透明狀態(tài)，在信息傳播的過程中需要相關(guān)部門嚴格核查網(wǎng)絡(luò)數(shù)據(jù)的真?zhèn)涡?，以便于更好地從源頭遏制虛假信息的傳播。最后，對ChatGPT 輸出的內(nèi)容應當嚴格監(jiān)管，建立人工與機器的雙重監(jiān)管機制，對于其中違反法律或倫理道德、破壞公序良俗的信息進行及時的識別與攔截。

3.3 加強個人信息保護

個人信息泄露是電信網(wǎng)絡(luò)詐騙犯罪的高發(fā)點，做好個人信息保護是防范電信網(wǎng)絡(luò)詐騙的重要基礎(chǔ)手段。ChatGPT的用戶必須提高個人信息安全意識，認真了解已發(fā)生的利用人工智能技術(shù)施行詐騙案例，提高其保護隱私信息、辨別網(wǎng)絡(luò)信息、合法使用網(wǎng)絡(luò)的安全意識，從預防的角度降低受騙風險。對于目前出現(xiàn)的AI 換臉、AI 換聲等電信詐騙案件，應當仔細辨別，包括查找聲紋和面部信息的原始來源或可信任來源、檢驗聲紋與面部信息的真實性等。

3.4 完善風險研判與防控機制

針對當前電信網(wǎng)絡(luò)詐騙犯罪猖獗、被害人財產(chǎn)損失巨大的狀況以及人工智能技術(shù)在電信網(wǎng)絡(luò)詐騙犯罪中的應用趨勢，應當從風險預防的角度建立對電信網(wǎng)絡(luò)詐騙犯罪的打擊與長遠性預防機制，提升政府與公安機關(guān)應對的主動性、提升打擊犯罪的成功率。

3.4.1 公安機關(guān)利用人工智能技術(shù)進行犯罪分析研判

為提升公安機關(guān)應對電信網(wǎng)絡(luò)詐騙犯罪新趨勢的主動性，公安機關(guān)可以利用人工智能技術(shù)來幫助鑒別與預測詐騙行為。

進行犯罪數(shù)據(jù)收集與分析。收集大量的電信網(wǎng)絡(luò)詐騙案例，總結(jié)包括詐騙模式、應用人工智能技術(shù)的類型與程度、受害者信息、詐騙金額等在內(nèi)的數(shù)據(jù)，對此類數(shù)據(jù)進行分析和挖掘，識別詐騙模式及其關(guān)聯(lián)程度。

進行特征提取。通過自然語言處理（NLP）技術(shù)對欺詐郵件、短信或社交媒體消息進行文本分析和特征提取，對其中的關(guān)鍵詞、語法結(jié)構(gòu)、情感進行分析和辨別，確立詐騙行為指標，為建立訓練模型做準備。

建立模型訓練并進行分類。利用決策樹、邏輯回歸、支持向量機（SVM）等機器學習算法來對提取的特征進行訓練與分類，進而結(jié)合詐騙行為指標，建立分類模型，從而預測未來電信網(wǎng)絡(luò)詐騙案例發(fā)生的可能性及其風險等級。

運用模型進行實時監(jiān)測和反饋。將建立的AI 模型應用于實時數(shù)據(jù)流，及時檢測和識別可能的電信網(wǎng)絡(luò)詐騙行為。在這個過程中，可以利用異常檢測算法，識別電信網(wǎng)絡(luò)交易中異常的交易金額、頻率或地理位置等信息，從而發(fā)現(xiàn)潛在的詐騙行為；在涉及圖像的詐騙案例中，可以利用計算機視覺技術(shù)檢測圖像的真實性和修改痕跡。例如，基于AI的圖像分析可以識別出AI 換臉等技術(shù)所生成的虛假圖像。通過這些持續(xù)的檢測和分析，可以及時發(fā)現(xiàn)新的詐騙模式和趨勢，并及時采取反制措施。

進行強化學習。在電信網(wǎng)絡(luò)詐騙犯罪研判中，可以利用強化學習來模擬詐騙團體的策略，并預測詐騙團體可能采取的行動。

3.4.2 建立對電信網(wǎng)絡(luò)詐騙犯罪的防控機制

針對應用人工智能技術(shù)的電信網(wǎng)絡(luò)詐騙犯罪，公安機關(guān)與相關(guān)部門機構(gòu)應當加強協(xié)作、開展信息共享，并且不斷進行技術(shù)創(chuàng)新。對于涉及境外詐騙團體的案件，還應加強境外合作。

堅持技術(shù)創(chuàng)新。開發(fā)基于機器學習和人工智能的模型和算法，實時檢測可能發(fā)生的電信網(wǎng)絡(luò)詐騙行為并及時進行技術(shù)阻攔。

堅持數(shù)據(jù)共享與分析。建立安全數(shù)據(jù)共享平臺，讓各部門可以共享電信網(wǎng)絡(luò)詐騙的相關(guān)數(shù)據(jù)，如詐騙模式、受害者信息和詐騙者行為等。通過數(shù)據(jù)分析和挖掘，發(fā)現(xiàn)新的詐騙模式和趨勢，并及時采取反制措施。

加強國際合作與刑事司法協(xié)助。對于處于境外的詐騙團體，在尊重國家主權(quán)的前提下，建立以雙邊多邊協(xié)議為基礎(chǔ)建立電信網(wǎng)絡(luò)詐騙案件管轄權(quán)協(xié)商機制，建立更高效的國際警務合作機制。從而促進信息共享、證據(jù)收集和嫌疑犯引渡，加大對境外詐騙團體的打擊力度。

4 結(jié)束語

隨著社會經(jīng)濟及通信技術(shù)的高速發(fā)展，電信網(wǎng)絡(luò)詐騙犯罪已經(jīng)呈現(xiàn)了專業(yè)化、團隊化現(xiàn)象，并且存在與人工智能等科技產(chǎn)品結(jié)合的趨勢。ChatGPT 在電信網(wǎng)絡(luò)詐騙犯罪中的應用將會擴大此類犯罪規(guī)模和影響范圍，其對現(xiàn)有社會治理、公共秩序、價值觀念、倫理道德也將帶來一系列的沖擊與挑戰(zhàn)。因此，應當加強風險預防，從而最大程度減少ChatGPT 對社會發(fā)展的不利影響。針對此類人工智能技術(shù)，需要全社會的支持、幫助和包容，各地方、各部門、各行業(yè)均應展現(xiàn)出對ChatGPT的接納和承受力，助力ChatGPT內(nèi)在技術(shù)的革新發(fā)展和在實踐中的積極應用，為其營造良好的發(fā)展生態(tài)?！?/p>