黨亞娟 /文

2022 年11 月30 日，OpenAI開放ChatGPT 測試。兩個月后，ChatGPT 用戶數(shù)量達1億，僅2023 年1 月份的訪問量就約5.9億。這是互聯(lián)網(wǎng)領(lǐng)域發(fā)展20 年來，增長速度最快的消費類應(yīng)用程序。2023 年2 月，美國人工智能研究實驗室OpenAI 推出ChatGPT Plus 試點訂閱計劃，訂閱者可獲得比免費版本更穩(wěn)定、更快的服務(wù)，以及嘗試新功能和優(yōu)化的優(yōu)先權(quán)。

ChatGPT 基本情況

ChatGPT 是一款由人工智能技術(shù)驅(qū)動的新型自然語言處理工具，基于GPT-3.5 架構(gòu)的大型神經(jīng)網(wǎng)絡(luò)語言模型，通過大規(guī)模的、海量的文本數(shù)據(jù)訓(xùn)練，對其不斷地監(jiān)督學(xué)習(xí)、人工糾錯、強化學(xué)習(xí)、進行對話模擬，使其擁有強大的自然語言處理能力，生成近乎于人類語言的大型語言模型。

演化歷程

GPT 性能比較表

2018 年，OpenAI 實驗室推出基于多層變換器（Transformer）神經(jīng)網(wǎng)絡(luò)的GPT-1 模型。該模型具有1.17 億個參數(shù)，在問答、文本相似性評估、語義蘊含判定以及文本分類四種語言場景中取得了比基礎(chǔ)Transformer 模型更優(yōu)的結(jié)果。2019 年，OpenAI 公布了具有15 億個參數(shù)的GPT-2 模型。該模型具有人工智能生成式方面潛力，如可故事續(xù)寫、生成假新聞、釣魚郵件等。2020 年，OpenAI 發(fā)展了具有1750 億個參數(shù)的GPT-3模型，通過利用更多數(shù)據(jù)訓(xùn)練，使其具有更多樣化的知識庫、執(zhí)行更廣泛任務(wù)的能力。2022 年，OpenAI 利用公測期間的大量數(shù)據(jù)集對GPT-3 模型進行微調(diào)，并將人類反饋納入訓(xùn)練過程，以使模型型輸出結(jié)果與用戶意圖保持一致，以此推出了ChatGPT 模型。

ChatGPT 可能帶來的軍事影響

當(dāng)前，ChatGPT 在教育、娛樂、新聞、制造、科技和藝術(shù)等行業(yè)引起極大關(guān)注。美國國防部于2023 年2 月稱，其在國防視覺信息分發(fā)服務(wù)網(wǎng)（DVIDS）發(fā)布了一則由ChatGPT 撰寫的關(guān)于美陸軍成立第39 任務(wù)部隊的新聞報道。雖然ChatGPT 本身并不是軍事系統(tǒng)，但是其可為部隊提供跨域軍事行動能力，改善戰(zhàn)場分析，幫助軍事人員做出更明智、更有效的決策。

未來可能軍事應(yīng)用場景

類似ChatGPT 的能力可能在如下軍用場景中應(yīng)用：

通信領(lǐng)域?；贑hatGPT 的人工智能技術(shù)可為戰(zhàn)場人員提供實時翻譯服務(wù)，保證不同國籍的士兵能夠無縫通信。在GPS 干擾和拒止環(huán)境中，ChatGPT 可以幫助作戰(zhàn)人員在沒有傳統(tǒng)通信系統(tǒng)的情況下進行有效的通信和協(xié)調(diào)。例如，它可以為部隊提供敵我雙方最新狀態(tài)，促進不同部隊間實時通信。

情監(jiān)偵領(lǐng)域。ChatGPT 系統(tǒng)可以分析多型傳感器和來源的輸入數(shù)據(jù)，提供全面和最新的作戰(zhàn)環(huán)境圖，將其集成至軍用車輛、無人機和其他系統(tǒng)中，便可為其實時提供改進的態(tài)勢感知和決策支持服務(wù)。在戰(zhàn)術(shù)級行動中，ChatGPT 可為軍事決策者提供敵人位置、活動情況以及盟軍實時信息。

指揮控制領(lǐng)域。在惡劣的作戰(zhàn)環(huán)境下，基于ChatGPT 的人工智能技術(shù)可以分析大量多源數(shù)據(jù)，提供快速、準確的威脅評估，幫助指揮人員做出正確決策。同時，ChatGPT 通過為作戰(zhàn)人員提供實時情報和指導(dǎo)，協(xié)助其進行作戰(zhàn)任務(wù)規(guī)劃和遂行任務(wù)。例如，它可以幫助軍隊識別和避免潛在的危險，并推薦替代路線和策略。

后勤保障領(lǐng)域。ChatGPT 可以通過分析運輸路線、供應(yīng)鏈和其他相關(guān)的信息來協(xié)助后勤管理，以識別低率行動、優(yōu)化資源配置。

戰(zhàn)場部署要求

在軍事行動中部署ChatGPT能大幅提升跨多個作戰(zhàn)域的軍事行動能力，尤其是將其部署至戰(zhàn)術(shù)邊緣計算機上，將會在多域環(huán)境中發(fā)揮重要作用，可為士兵提供實時信息和決策支持工具，能有效協(xié)調(diào)多個作戰(zhàn)域的活動。

在惡劣的作戰(zhàn)環(huán)境中快速部署人工智能需要專門的硬件。ChatGPT 模型的訓(xùn)練和部署需要能夠處理大量數(shù)據(jù)和復(fù)雜算法的強大計算平臺。運行配置是8 個英偉達A100 80GB GPU，這種模型計算量很大，不適用于戰(zhàn)術(shù)邊緣應(yīng)用程序。為此，在戰(zhàn)場中部署ChatGPT 需要經(jīng)過定制模型，以便在大型計算服務(wù)器上開展訓(xùn)練，并使用嵌入式AI 技術(shù)將其部署在具有特定任務(wù)參數(shù)的加固型戰(zhàn)術(shù)邊緣系統(tǒng)上。

ChatGPT 可能帶來的安全風(fēng)險

OpenAI 使用人類反饋強化學(xué)習(xí)（RLHF）的訓(xùn)練方法優(yōu)化ChatGPT 模型，以實現(xiàn)最小化無益、失真或偏見的輸出，使其通過學(xué)習(xí)和理解人類的語言來進行對話，還能根據(jù)聊天的上下文進行互動，真正像人類一樣聊天交流，甚至能完成撰寫郵件、視頻腳本、文案、翻譯、代碼等任務(wù)。但在其應(yīng)用過程中，也面臨著網(wǎng)絡(luò)安全、數(shù)據(jù)安全以及偏見等諸多安全問題。

網(wǎng)絡(luò)安全風(fēng)險

與其他基于語言模型的人工智能工具一樣，ChatGPT 的應(yīng)用也帶來了諸多網(wǎng)絡(luò)安全風(fēng)險。黑客或其他惡意行為者可利用ChatGPT 自然語言編寫的能力，開展一系列網(wǎng)絡(luò)攻擊行為，如生成惡意軟件、釣魚電子郵件、進行撞庫攻擊等。以往威脅實施者的知識水平限制了其對網(wǎng)絡(luò)安全威脅的程度，但是現(xiàn)在借助ChatGPT 可更快、更容易發(fā)起網(wǎng)絡(luò)攻擊，大大降低網(wǎng)絡(luò)攻擊的成本和門檻，甚至新手都進行網(wǎng)絡(luò)攻擊。ChatGPT 可造成的典型網(wǎng)絡(luò)安全問題如下：

一是實施釣魚式社會工程攻擊。通過利用來自社交媒體或其他來源的大量文本數(shù)據(jù)進行模型訓(xùn)練，攻擊者可以根據(jù)每個目標任務(wù)特點，有針對性地生成釣魚軟件，大幅降低偽造的人工成本，同時最大程度上提高了成功率。

二是實施撞庫攻擊。目前，大量用戶喜歡在不同網(wǎng)站使用同一個用戶名和密碼。利用這一習(xí)慣，網(wǎng)絡(luò)攻擊者可以使用ChatGPT 對在線賬戶進行潛在用戶名和密碼的組合式自動攻擊，以實現(xiàn)非法獲取若干不同網(wǎng)站的賬號密碼信息。

三是生成惡意軟件。利用ChatGPT 自然語言編寫的能力，攻擊者可以編寫惡意軟件說明和指令，從而規(guī)避病毒軟件的檢測。當(dāng)前，已經(jīng)有人開始使用ChatGPT開發(fā)惡意軟件。相比傳統(tǒng)軟件開發(fā)工具，以代碼為中心的ChatGPT類工具可以顯著縮短惡意軟件開發(fā)流程和生命周期。

數(shù)據(jù)安全風(fēng)險

ChatGPT 大型語言模型是在TB 級別的海量互聯(lián)網(wǎng)文本數(shù)據(jù)上開展訓(xùn)練，并生成相應(yīng)文本信息。這一過程涉及對個人信息、密碼等敏感數(shù)據(jù)的收集和處理，以及生成信息的利用問題，使ChatGPT 面臨數(shù)據(jù)安全合規(guī)的問題。

一是泄露敏感數(shù)據(jù)。用戶在使用ChatGPT 過程中，被收集的個人數(shù)據(jù)用于ChatGPT 不斷的訓(xùn)練和模型優(yōu)化，這就可能導(dǎo)致個人敏感數(shù)據(jù)的泄露。亞馬遜公司律師、微軟首席技術(shù)官辦公室都曾警告員工不要在ChatGPT 上分享敏感數(shù)據(jù)，尤其是與工作相關(guān)的敏感信息。

二是生成虛假信息。惡意行為者可以使用ChatGPT 在社交媒體或論壇上生成數(shù)千條自動消息，以傳播虛假信息，影響公眾輿論或破壞政治活動。

三是盜用身份信息。惡意行為者可以使用ChatGPT 收集用戶敏感信息、實施身份盜用等，創(chuàng)建虛假社交媒體資料或聊天機器人帳戶，以冒充真實的人或組織誘騙受害提供個人信息，如登錄憑據(jù)或信用卡號。

偏見問題

人工智能系統(tǒng)需要對政治、種族和性別保持中立。ChatGPT 基于大型語言模型構(gòu)建和龐大數(shù)據(jù)集開展訓(xùn)練，但是開發(fā)人員很難從訓(xùn)練數(shù)據(jù)中剔除所有偏差數(shù)據(jù)，這使得模型會受到人類信息的不準確和偏見影響。OpenAI 利用審核應(yīng)用程序接口開展對話監(jiān)控，防止大量生產(chǎn)不安全的內(nèi)容，以努力減少系統(tǒng)中的偏見問題，并允許用戶報告所發(fā)生的不當(dāng)交互和錯誤。同時，在某些特殊情況下，OpenAI 也會提供諸如“不要完成非法內(nèi)容的請求”“避免在有爭議的話題中站隊”的輸出指導(dǎo)。例如ChatGPT拒絕以《紐約郵報》的風(fēng)格撰寫關(guān)于亨特·拜登的新聞。但是在實際的使用中，ChatGPT 還是出現(xiàn)了種族主義和性偏見問題，這在社交媒體上引起廣泛爭議。例如，當(dāng)ChatGPT 被要求根據(jù)某人的性別和種族評估某人是否會成為一名優(yōu)秀的科學(xué)家時，ChatGPT 只推薦白人男性。

幾點認識

一是ChatGPT 底層自然語言處理模型和技術(shù)改變了現(xiàn)有自然語言處理的格局。在GPT 之前，大型自然語言處理模型都是根據(jù)特定任務(wù)基于大量標記數(shù)據(jù)開展數(shù)據(jù)訓(xùn)練，受限于準確的標記數(shù)據(jù)，同時模型也無法執(zhí)行開箱即用的任務(wù)。而GPT 模型是根據(jù)龐大的互聯(lián)網(wǎng)和內(nèi)容存儲庫中收集的未標記數(shù)據(jù)構(gòu)建生成語言模型，并與人類反饋強化學(xué)習(xí)微調(diào)相結(jié)合，使其具備快速響應(yīng)時間和高準確性。在實際應(yīng)用中，ChatGPT 能夠生成一段既有創(chuàng)意又適合其上下文的新文本，以響應(yīng)用戶不同難度的需求。

二是美軍開始關(guān)注ChatGPT類生成人工智能技術(shù)的軍事影響。雖然ChatGPT 本身不是一個軍事系統(tǒng)，但生成人工智能技術(shù)飛速發(fā)展蘊含著巨大的軍事應(yīng)用潛能。作為改善戰(zhàn)場分析和預(yù)測性維護需求等應(yīng)用的手段，美軍在人工智能和相關(guān)技術(shù)上的投入越來越多。美國信息系統(tǒng)局已宣布將ChatGPT 類生成人工智能技術(shù)列入觀察清單。該清單一直會定期更新，而清單中的關(guān)鍵技術(shù)都可能轉(zhuǎn)變?yōu)槊儡娢磥碜鲬?zhàn)的基礎(chǔ)能力，如5G、邊緣計算、量子技術(shù)等技術(shù)已在軍用場景中發(fā)揮作用。同時，美國信息系統(tǒng)局也開始研究ChatGPT 類生成人工智能技術(shù)如何改變該部門使命任務(wù)，如何影響部門未來行動。

三是合理規(guī)范并引導(dǎo)ChatGPT 相關(guān)技術(shù)的發(fā)展。在ChatGPT 風(fēng)靡全球后，世界各大搜索引擎巨頭們也都相繼推出類似系統(tǒng)。Google 宣布推出類似ChatGPT 的對話人工智能服務(wù)——Bard。Bard 基于LaMDA對話編程語言模型，根據(jù)從網(wǎng)絡(luò)上收集的信息，對提出的問題生成文本答復(fù)，未來將融入Google搜索引擎。百度公司也推出類ChatGPT 聊天機器人——文心一言，計劃3 月完成內(nèi)測，面向公眾開放。面對這種熱潮，我們應(yīng)注意到此類人工智能技術(shù)為社會帶來的挑戰(zhàn)與威脅。各國應(yīng)出臺相關(guān)法律法規(guī)，合理規(guī)范并引導(dǎo)相關(guān)技術(shù)的發(fā)展，使相關(guān)技術(shù)的發(fā)展始終維持在有益于人類的軌道上，能夠確保人們正確認識并處理好智能化武器與倫理偏見的關(guān)系。