劉胡君 薛宇

網(wǎng)絡(luò)空間安全是指網(wǎng)絡(luò)世界中的信息安全和網(wǎng)絡(luò)安全，是一種保護(hù)網(wǎng)絡(luò)系統(tǒng)、網(wǎng)絡(luò)數(shù)據(jù)和網(wǎng)絡(luò)信息安全的綜合性概念。隨著互聯(lián)網(wǎng)普及程度的提高，網(wǎng)絡(luò)空間已然成為繼陸?？仗熘蟮牡谖褰颍瑢?duì)于維護(hù)國(guó)家安全以及推動(dòng)經(jīng)濟(jì)發(fā)展都具有非常重要的戰(zhàn)略意義。網(wǎng)絡(luò)技術(shù)的快速發(fā)展使得網(wǎng)絡(luò)空間安全面臨著越來(lái)越多的挑戰(zhàn)，如黑客攻擊、病毒侵入、網(wǎng)絡(luò)釣魚等惡意行為，這些對(duì)個(gè)人、企業(yè)和國(guó)家的安全都造成了威脅。

ChatGPT使用自然語(yǔ)言處理、機(jī)器學(xué)習(xí)、深度學(xué)習(xí)等目前主流的人工智能算法，能夠?qū)W習(xí)并理解人類語(yǔ)言，幾乎像人類一樣進(jìn)行互動(dòng)交流，生成的內(nèi)容流暢自然且具有一定的邏輯性。自2022年11月發(fā)布以來(lái)，ChatGPT火速風(fēng)靡全球，在教育、醫(yī)療、金融、計(jì)算機(jī)等領(lǐng)域掀起軒然大波。比爾·蓋茨多次在采訪中表示，類似于ChatGPT的人工智能技術(shù)出現(xiàn)的重要意義不亞于互聯(lián)網(wǎng)和電腦的誕生。但也有人對(duì)ChatGPT的出現(xiàn)表示了擔(dān)憂，埃隆·馬斯克認(rèn)為“ChatGPT非常好用，我們離危險(xiǎn)的強(qiáng)人工智能已經(jīng)不遠(yuǎn)了”。那么ChatGPT的出現(xiàn)，對(duì)于網(wǎng)絡(luò)空間安全意味著什么呢？

ChatGPT的網(wǎng)絡(luò)空間安全隱患

ChatGPT是網(wǎng)絡(luò)空間安全的一把“雙刃劍”。實(shí)踐證明，ChatGPT會(huì)給網(wǎng)絡(luò)安全帶來(lái)一些風(fēng)險(xiǎn)與不利影響。由于ChatGPT可以模擬真人對(duì)話，所以它能夠非常便捷地被用來(lái)進(jìn)行“釣魚”等非法活動(dòng)，導(dǎo)致網(wǎng)絡(luò)安全形勢(shì)出現(xiàn)了極大的復(fù)雜性與不確定性。另外，ChatGPT可能會(huì)在自我學(xué)習(xí)過(guò)程中汲取不當(dāng)?shù)男畔ⅲ瑤?lái)一定的安全威脅，出現(xiàn)網(wǎng)絡(luò)安全漏洞。具體而言，ChatGPT存在著以下幾種網(wǎng)絡(luò)安全隱患。

已有多個(gè)公司禁止員工向ChatGPT分享敏感數(shù)據(jù)

造成數(shù)據(jù)泄露。ChatGPT依托海量的數(shù)據(jù)庫(kù)存在，其隱私政策中提到會(huì)將收集到的各種用戶信息（包括用戶的賬戶信息、對(duì)話的相關(guān)內(nèi)容）共享給供應(yīng)商、服務(wù)提供商以及相關(guān)人員，在數(shù)據(jù)共享過(guò)程中可能會(huì)被未經(jīng)授權(quán)的實(shí)體攻擊，從而造成數(shù)據(jù)以及隱私泄露。由于ChatGPT無(wú)法對(duì)數(shù)據(jù)來(lái)源進(jìn)行核查，可能將用戶發(fā)送的個(gè)人信息或者商業(yè)機(jī)密用于未來(lái)的模型訓(xùn)練，導(dǎo)致個(gè)人隱私泄露以及商業(yè)機(jī)密泄露兩大風(fēng)險(xiǎn)。泄露的個(gè)人數(shù)據(jù)可能會(huì)被未經(jīng)授權(quán)的第三方利用，用于制造垃圾郵件、詐騙或其他惡意行為。商業(yè)機(jī)密的泄露則會(huì)給企業(yè)帶來(lái)重大損失。2023年3月，韓國(guó)三星就發(fā)生了員工在ChatGPT上輸入半導(dǎo)體設(shè)備信息以及重要內(nèi)部會(huì)議資料而導(dǎo)致商業(yè)機(jī)密泄露的事件。為了規(guī)避數(shù)據(jù)泄露風(fēng)險(xiǎn)，已有微軟、亞馬遜等企業(yè)明確禁止員工向ChatGPT分享敏感數(shù)據(jù)。

惡意用戶行為。ChatGPT所提供的API接口可以讓開發(fā)者基于其模型開發(fā)自己的應(yīng)用，如語(yǔ)音識(shí)別、語(yǔ)音合成等，而這些應(yīng)用又可以被惡意行為者攻擊計(jì)算機(jī)系統(tǒng)提供了更多的工具和數(shù)據(jù)開發(fā)方向。ChatGPT在受到攻擊后可能濫用收集到的用戶信息，在網(wǎng)絡(luò)上肆意傳播用戶的隱私，或利用用戶的個(gè)人資料進(jìn)行惡意詐騙。

遭受網(wǎng)絡(luò)攻擊。ChatGPT可能存在技術(shù)失靈導(dǎo)致的網(wǎng)絡(luò)安全問(wèn)題。ChatGPT往往使用軟件程序來(lái)完成指令，這種程序可能存在安全漏洞，一旦被惡意行為者利用，就可以在系統(tǒng)中收集數(shù)據(jù)、竊取隱私，甚至在系統(tǒng)中實(shí)施惡意攻擊，造成巨大的損失。2023年3月，OpenAI發(fā)布臨時(shí)中斷服務(wù)的調(diào)查報(bào)告，稱由于其開源庫(kù)中存在的漏洞，可能導(dǎo)致1.2%的用戶數(shù)據(jù)被泄露。

降低黑客門檻。ChatGPT能夠自主編寫程序代碼，這極大地降低了進(jìn)行網(wǎng)絡(luò)黑客活動(dòng)的準(zhǔn)入門檻并擴(kuò)大了惡意黑客的群體規(guī)模。ChatGPT采用的是自監(jiān)管訓(xùn)練方式，它會(huì)自動(dòng)地學(xué)習(xí)與處理輸入和輸出的文本，以此幫助用戶提供預(yù)測(cè)和解決問(wèn)題的能力。ChatGPT在處理文本相關(guān)問(wèn)題上的能力幾近人類水平，黑客可以使用其強(qiáng)大的文本處理能力執(zhí)行復(fù)雜攻擊。這些入門級(jí)網(wǎng)絡(luò)犯罪分子通過(guò)應(yīng)用ChatGPT能夠更加便捷、高效地編寫針對(duì)性代碼進(jìn)行社會(huì)工程詐騙或者網(wǎng)絡(luò)釣魚活動(dòng)，使得網(wǎng)絡(luò)安全形勢(shì)面臨嚴(yán)峻考驗(yàn)。

傳播虛假信息。惡意行為者也可以使用ChatGPT的自然語(yǔ)言編寫程序批量生成具有規(guī)?；?、低成本、智能化的虛假觀點(diǎn)。以往大規(guī)模傳播虛假信息都是由簡(jiǎn)單機(jī)器人創(chuàng)建新賬號(hào)，然后不停重復(fù)發(fā)送虛假信息、進(jìn)行點(diǎn)贊評(píng)論。這種可疑的發(fā)布模式以及大量重復(fù)的內(nèi)容相對(duì)較容易被社交媒體識(shí)別并封禁，ChatGPT則可以依據(jù)特定的主題，模仿人類發(fā)表虛假觀點(diǎn)，甚至進(jìn)行互動(dòng)留言，十分難以察覺(jué)。再則，ChatGPT并不像人類一樣具有判斷力和價(jià)值觀，因此可能會(huì)回答錯(cuò)誤或產(chǎn)生具有誤導(dǎo)性的信息，但ChatGPT看似“博學(xué)”“中立”的特征，會(huì)導(dǎo)致這些虛假、甚至有誤導(dǎo)性的信息被傳播。

ChatGPT助力維護(hù)網(wǎng)絡(luò)空間安全

當(dāng)然，作為一款強(qiáng)大的人工智能工具，ChatGPT也可以成為網(wǎng)絡(luò)空間安全治理的強(qiáng)大賦能器，業(yè)界一些學(xué)者正在探索ChatGPT與網(wǎng)絡(luò)空間安全領(lǐng)域結(jié)合的可能性與應(yīng)用場(chǎng)景。它可以提升聊天機(jī)器人的語(yǔ)義理解能力，增加用戶的使用體驗(yàn)，ChatGPT也可以通過(guò)自然語(yǔ)言處理技術(shù)來(lái)解決網(wǎng)絡(luò)安全問(wèn)題，讓用戶更便捷地了解網(wǎng)絡(luò)安全的相關(guān)知識(shí)，從而有效提升網(wǎng)絡(luò)空間的安全性。具體來(lái)說(shuō)，ChatGPT也可以從以下幾個(gè)方面提升網(wǎng)絡(luò)空間安全。

提升網(wǎng)絡(luò)安全數(shù)據(jù)分析能力。從網(wǎng)絡(luò)安全角度來(lái)看，ChatGPT 可以幫助企業(yè)實(shí)現(xiàn)更高效的網(wǎng)絡(luò)安全管理，更好地防止攻擊者進(jìn)行非法入侵。ChatGPT可以通過(guò)自然語(yǔ)言處理技術(shù)來(lái)分析用戶的語(yǔ)言行為，分析網(wǎng)絡(luò)流量，幫助發(fā)現(xiàn)網(wǎng)絡(luò)內(nèi)可能的攻擊行為，建立更安全的網(wǎng)絡(luò)環(huán)境。此外，ChatGPT 還可以利用機(jī)器學(xué)習(xí)技術(shù)來(lái)快速識(shí)別可疑的攻擊者行為，從而做出更早的反應(yīng)，有效地阻止攻擊者滲透網(wǎng)絡(luò)系統(tǒng)。

提高網(wǎng)絡(luò)空間智能化水平。ChatGPT的出現(xiàn)，為網(wǎng)絡(luò)安全領(lǐng)域提供了一種新的方法，它可以促進(jìn)網(wǎng)絡(luò)空間智能化，檢測(cè)和阻止惡意軟件、網(wǎng)絡(luò)攻擊和網(wǎng)絡(luò)釣魚等網(wǎng)絡(luò)安全威脅來(lái)提高網(wǎng)絡(luò)安全防護(hù)的效率和效果。ChatGPT可以通過(guò)智能分析網(wǎng)絡(luò)數(shù)據(jù)，識(shí)別網(wǎng)絡(luò)攻擊的特征，從而幫助網(wǎng)絡(luò)安全人員及時(shí)發(fā)現(xiàn)網(wǎng)絡(luò)安全威脅。ChatGPT可以幫助企業(yè)更好地理解和預(yù)測(cè)用戶的行為，從而更好地檢測(cè)可疑的攻擊行為，及時(shí)采取相應(yīng)的防范措施。

增強(qiáng)網(wǎng)絡(luò)空間個(gè)人信息安全。ChatGPT可以幫助用戶識(shí)別潛在的安全問(wèn)題，并自動(dòng)對(duì)數(shù)據(jù)、網(wǎng)絡(luò)和系統(tǒng)進(jìn)行安全加固，以預(yù)防攻擊或者竊取數(shù)據(jù)的情況發(fā)生。還可以利用ChatGPT來(lái)組織可以使用的語(yǔ)言模型對(duì)惡意軟件進(jìn)行分析，通過(guò)識(shí)別出惡意軟件中常用的語(yǔ)言模型來(lái)及時(shí)檢測(cè)惡意軟件的各種變體。例如，Uber已經(jīng)使用ChatGPT來(lái)自動(dòng)修補(bǔ)潛在的安全漏洞，保護(hù)用戶的個(gè)人隱私。

2023年3月，泄露事件后，OpenAI公司緊急關(guān)停了ChatGPT

如何安全使用ChatGPT

近年來(lái)，自然語(yǔ)言處理技術(shù)的飛速發(fā)展引起了社會(huì)和行業(yè)的廣泛關(guān)注。其中，ChatGPT作為一個(gè)基于自然語(yǔ)言處理的人機(jī)對(duì)話系統(tǒng)，被廣泛應(yīng)用于各個(gè)領(lǐng)域，包括教育、醫(yī)療、金融、客服等。然而，隨著ChatGPT的廣泛應(yīng)用，也面臨著越來(lái)越多的安全問(wèn)題。為了規(guī)避ChatGPT的危險(xiǎn)并提升其安全性，研發(fā)人員、技術(shù)實(shí)施者、監(jiān)管者以及用戶都應(yīng)當(dāng)采取適當(dāng)?shù)拇胧?，下面從四個(gè)方面來(lái)進(jìn)行分析。

研發(fā)人員提供安全可靠的產(chǎn)品。研發(fā)人員是ChatGPT技術(shù)的開發(fā)者，由于開發(fā)ChatGPT對(duì)于算法、數(shù)據(jù)、服務(wù)器都有較高的需求，因此具備開發(fā)能力的往往是一些頭部科技企業(yè)或者技術(shù)公司。ChatGPT的研發(fā)人員可以采取以下措施來(lái)提升產(chǎn)品的安全性。第一，加強(qiáng)對(duì)ChatGPT的安全性測(cè)試，盡可能識(shí)別潛在安全問(wèn)題，定期檢查ChatGPT的更新，及時(shí)對(duì)漏洞進(jìn)行修復(fù)。第二，盡可能使數(shù)據(jù)庫(kù)的來(lái)源多樣化，對(duì)數(shù)據(jù)進(jìn)行清洗以及脫敏，從而保護(hù)用戶隱私提升數(shù)據(jù)質(zhì)量。第三，增加防護(hù)措施，需要加強(qiáng)系統(tǒng)的密碼學(xué)機(jī)制，加強(qiáng)對(duì)安全漏洞的檢測(cè)和修補(bǔ)，提高系統(tǒng)安全性能。相較于對(duì)用戶行為進(jìn)行監(jiān)督，讓研發(fā)人員從源頭對(duì)技術(shù)進(jìn)行安全規(guī)范成果可能更加顯著。

技術(shù)實(shí)施者確保技術(shù)合法安全使用。技術(shù)實(shí)施者是實(shí)際操作ChatGPT系統(tǒng)的人員，可以通過(guò)以下幾個(gè)方面來(lái)提升ChatGPT的安全性。第一，加強(qiáng)系統(tǒng)的訪問(wèn)控制。在使用ChatGPT系統(tǒng)時(shí)必須對(duì)系統(tǒng)和數(shù)據(jù)的訪問(wèn)進(jìn)行控制，只有經(jīng)過(guò)授權(quán)的使用者才能訪問(wèn)，防止未經(jīng)授權(quán)使用者進(jìn)行信息泄露、竊取或非法使用。第二，在ChatGPT和用戶之間搭建安全防火墻，對(duì)內(nèi)部用戶和外部攻擊做出預(yù)警并及時(shí)采取措施，在實(shí)施ChatGPT的同時(shí)可以采取應(yīng)急避險(xiǎn)措施，確保ChatGPT的安全可靠。第三，還應(yīng)當(dāng)設(shè)置一套有效的用戶信息安全保護(hù)體系，例如采用SSL加密技術(shù)加密數(shù)據(jù)傳輸，以防止網(wǎng)絡(luò)攻擊和身份偽造。第四，對(duì)不同的數(shù)據(jù)信息進(jìn)行分級(jí)管理，對(duì)垃圾信息、違法信息進(jìn)行過(guò)濾，設(shè)立檢查流程來(lái)確保生成內(nèi)容的準(zhǔn)確性。

用戶提升安全使用意識(shí)。安全防護(hù)并不能僅僅依靠安全產(chǎn)品，提升用戶對(duì)Chat GP T的安全使用意識(shí)也至關(guān)重要。用戶在使用ChatGPT系統(tǒng)時(shí)也需要注意以下方面，以更好地保證其安全性。第一，用戶需要著重保護(hù)自身隱私，在使用ChatGPT的過(guò)程中，自覺(jué)保護(hù)個(gè)人隱私和數(shù)據(jù)信息的安全，特別是在一些開放網(wǎng)絡(luò)上的使用，需要設(shè)定更高的隱私保護(hù)級(jí)別。第二，提高個(gè)人安全意識(shí)，使用ChatGPT的過(guò)程中，用戶必須格外警惕網(wǎng)絡(luò)上的釣魚郵件、虛假網(wǎng)頁(yè)等安全威脅，并嚴(yán)格遵守相關(guān)使用規(guī)定和程序，嚴(yán)格保守賬號(hào)密碼和使用者身份信息。第三，用戶在工作生活中還可以通過(guò)參與網(wǎng)絡(luò)空間安全相關(guān)宣傳、培訓(xùn)活動(dòng)，了解ChatGPT的正確使用方法，提升安全素養(yǎng)。

監(jiān)管者建立嚴(yán)格安全審查機(jī)制。ChatGPT在廣泛應(yīng)用的過(guò)程中，需要實(shí)施良好的監(jiān)管制度，監(jiān)管者需要對(duì)ChatGP T進(jìn)行以下方面的管控和監(jiān)督。第一，加強(qiáng)對(duì)ChatGPT的審批和監(jiān)管，因?yàn)镃hatGPT涉及到大量的基礎(chǔ)性和敏感性數(shù)據(jù)，可以建立嚴(yán)格的安全審查機(jī)制，在研發(fā)企業(yè)的相關(guān)產(chǎn)品投入市場(chǎng)之前，利用算法備案機(jī)制，對(duì)產(chǎn)品進(jìn)行安全審查，杜絕惡意的信息泄露和網(wǎng)絡(luò)攻擊。第二，在教育、勞動(dòng)力、醫(yī)療等領(lǐng)域設(shè)置適當(dāng)?shù)氖褂靡?guī)范，加強(qiáng)用戶教育，確保ChatGPT能夠穩(wěn)定、安全而可靠的運(yùn)行，從而更好地維護(hù)網(wǎng)絡(luò)空間的安全。

使用ChatGPT時(shí)需提高安全使用意識(shí)

結(jié)語(yǔ)

網(wǎng)絡(luò)空間安全的發(fā)展對(duì)于不同的國(guó)家和地區(qū)來(lái)說(shuō)具有非常大的差異，全球范圍內(nèi)的互聯(lián)網(wǎng)安全治理仍處于不斷探索和摸索的階段，各國(guó)都在積極尋求建立適合自己國(guó)情的網(wǎng)絡(luò)安全法規(guī)體系。ChatGPT可能被用于制造虛假的新聞、個(gè)人信息泄露等，這些都是極大的安全風(fēng)險(xiǎn)，對(duì)于網(wǎng)絡(luò)空間安全的保護(hù)提出了更高的要求，需要通過(guò)強(qiáng)有力的技術(shù)手段和規(guī)范管理來(lái)遏制這種風(fēng)險(xiǎn)。

面對(duì)ChatGPT的強(qiáng)大功能以及帶來(lái)的種種網(wǎng)絡(luò)空間安全隱患，一些國(guó)家以及非國(guó)家行為體也采取了相應(yīng)的措施。2023年4月，意大利政府宣布封禁ChatGPT，并限制OpenAI處理本國(guó)信息，成為世界上第一個(gè)封禁ChatGPT的國(guó)家。不久后，德國(guó)、西班牙、法國(guó)也開始采取措施，加強(qiáng)對(duì)于ChatGPT的監(jiān)管。2023年3月，未來(lái)生命研究所向全世界發(fā)布了一封公開信，呼吁全世界所有人工智能實(shí)驗(yàn)室立即暫停比GPT-4更強(qiáng)大的人工智能系統(tǒng)的訓(xùn)練，這封公開信獲得了埃隆·馬斯克、約書亞·本希奧、史蒂夫·沃茲尼亞克等1127名科技領(lǐng)袖人物的簽名。這些事情表明，隨著技術(shù)進(jìn)步，如何平衡好科技創(chuàng)新所帶來(lái)的重大機(jī)遇與潛在風(fēng)險(xiǎn)之間的關(guān)系，是各個(gè)主體都需要考慮的問(wèn)題。ChatGPT的發(fā)展也給人工智能和自然語(yǔ)言處理領(lǐng)域帶來(lái)了新的機(jī)遇，未來(lái)它可能會(huì)成為解決一些復(fù)雜問(wèn)題的利器，需要人們持續(xù)關(guān)注其發(fā)展。