王國(guó)銳 唐文超

人工智能（Artificial Intelligence，英文縮寫為AI）是研究如何運(yùn)用計(jì)算機(jī)軟硬件來模擬人類某些智能行為的基本理論、方法和技術(shù)，自1956 年提出概念至今已經(jīng)歷三次大的飛躍。2022 年年末，美國(guó)OpenAI推出聊天生成預(yù)訓(xùn)練轉(zhuǎn)換器（Chat Generative Pretrained Transformer，簡(jiǎn)稱ChatGPT），其類人化的對(duì)話表現(xiàn)迅疾火爆全球，開啟了全球新一輪數(shù)字技術(shù)競(jìng)爭(zhēng)的新賽道和制高點(diǎn)。作為生成式AI 技術(shù)的代表，ChatGPT 在提高工作效率和方便的同時(shí)，也日益成為全球戰(zhàn)略穩(wěn)定“重要變量”，尤其是從根本上改變?nèi)藗儷@取知識(shí)基本模式，誘使用戶形成心智依賴，重構(gòu)決定人類認(rèn)知底層生態(tài)?？萍冀鐚?duì)新技術(shù)新事物有這么一條認(rèn)識(shí)定律：人們總是高估一項(xiàng)科技所帶來的短期效益，卻又低估他的長(zhǎng)期影響。對(duì)此，我們必須冷靜審視并前瞻思考其帶來的機(jī)遇和挑戰(zhàn)，特別是該技術(shù)對(duì)官兵獲取網(wǎng)絡(luò)信息所造成的安全挑戰(zhàn)。

一、人工智能技術(shù)對(duì)官兵獲取網(wǎng)絡(luò)信息的安全挑戰(zhàn)

ChatGPT 是AI 大模型創(chuàng)新從量變到質(zhì)變長(zhǎng)期積累的成果，是人工智能正在從感知智能向認(rèn)知智能發(fā)展的重要里程碑，昭示著一場(chǎng)“意識(shí)形態(tài)的核戰(zhàn)爭(zhēng)”即將到來。網(wǎng)絡(luò)意識(shí)形態(tài)斗爭(zhēng)處在意識(shí)形態(tài)領(lǐng)域斗爭(zhēng)的最前沿，其技術(shù)屬性特征更為鮮明。調(diào)研了解到，一些官兵已經(jīng)嘗試過百度“文心一言”、訊飛星火等類似ChatGPT 的AI 大模型工具?？梢灶A(yù)見，基于網(wǎng)絡(luò)的AI 大模型技術(shù)迅猛迭代，必將對(duì)我國(guó)網(wǎng)民包括部隊(duì)官兵的“求知途徑、思維方式、價(jià)值觀念”產(chǎn)生巨大沖擊和深遠(yuǎn)影響。

一是基于生成式AI 的偽造、抹黑足以亂真。生成式AI 通過深度學(xué)習(xí)個(gè)人、群體或某行（專）業(yè)大量數(shù)據(jù)，模仿生成與其風(fēng)格相似的文字、圖片、音頻和視頻等信息，由此產(chǎn)生的虛假信息將直接影響官兵認(rèn)知及其多樣性發(fā)展。2023年2月16日，ChatGPT 仿寫的“杭州即將取消限行”通告，迅速引發(fā)軒然大波；4 月初，澳大利亞赫伯恩郡市長(zhǎng)胡德因ChatGPT 誹謗他行賄，或?qū)⑻崞鹑蚴桌槍?duì)生成式AI 的誹謗訴訟。可以預(yù)見，網(wǎng)絡(luò)水軍進(jìn)階嵌入生成式AI工具，將強(qiáng)化擬人程度，即可完成主動(dòng)發(fā)帖、自動(dòng)交互、長(zhǎng)期誘導(dǎo)等更為多元復(fù)雜任務(wù)，用戶難識(shí)別、平臺(tái)難甄別，主流媒體發(fā)布信息的公正性與權(quán)威性將被侵蝕，這些都會(huì)使官兵對(duì)社會(huì)發(fā)展的認(rèn)知受到影響。特別是大模型技術(shù)為少數(shù)國(guó)家所壟斷，更為其發(fā)動(dòng)意識(shí)形態(tài)戰(zhàn)爭(zhēng)或“顏色革命”提供優(yōu)勢(shì)支撐，以虛假信息煽動(dòng)、拱火和挑撥，扶植和組織反對(duì)勢(shì)力對(duì)目標(biāo)國(guó)進(jìn)行網(wǎng)絡(luò)攻擊和數(shù)據(jù)篡改，潛移默化塑造和誤導(dǎo)各界輿論，攪亂目標(biāo)國(guó)公眾思想認(rèn)識(shí)和主流價(jià)值觀念，進(jìn)而把控政治走向。

二是大數(shù)據(jù)“精準(zhǔn)喂養(yǎng)”持續(xù)加固“信息繭房”。在智能大數(shù)據(jù)強(qiáng)勢(shì)滲透下，與信息獲取效率提升伴生的還有信息獲取視野的“窄化”。ChatGPT 內(nèi)部運(yùn)行流程可歸納為“資料搜集、數(shù)據(jù)獲取—整合構(gòu)建語言數(shù)據(jù)庫(kù)—接收命令和算法加工—結(jié)果輸出”。從國(guó)內(nèi)外實(shí)驗(yàn)統(tǒng)計(jì)情況看，類ChatGPT 看似“無所不知”，答案邏輯完整、條分縷析，實(shí)則給出的內(nèi)容多為高級(jí)碎片化、不嚴(yán)謹(jǐn)信息。不僅沒有真正解決搜索時(shí)代信息過量致盲問題，反而使人習(xí)慣接受毫不費(fèi)力的“數(shù)據(jù)喂養(yǎng)”而不追根溯源。一旦長(zhǎng)期桎梏于此，“新型數(shù)字鴻溝”將加劇認(rèn)知層級(jí)分化，部分科技素養(yǎng)薄弱的官兵將難以發(fā)聲；而降低觀點(diǎn)多樣性將阻礙官兵創(chuàng)新思維的產(chǎn)生，甚至助推錯(cuò)誤認(rèn)知定型。人工智能技術(shù)占據(jù)網(wǎng)絡(luò)意識(shí)形態(tài)領(lǐng)域“話語霸權(quán)”的情況將日益嚴(yán)峻，“破繭之路”將更加艱難。

三是算法“自動(dòng)化偏見”極易催生“群體極化”。群體極化是指在互聯(lián)網(wǎng)和群體的作用下，促使群體成員的觀點(diǎn)或態(tài)度在固有傾向的基礎(chǔ)上轉(zhuǎn)向極端化。在人機(jī)交互和內(nèi)容生成過程中，AI 算法將根據(jù)互動(dòng)性知識(shí)生產(chǎn)模式和使用者標(biāo)簽、喜好，動(dòng)態(tài)調(diào)整輸出內(nèi)容和結(jié)果，變“給予真相”為“私人定制”。國(guó)外多項(xiàng)基于政府官員的實(shí)證研究表明，官員們不會(huì)盲目信任算法給出的決策建議，但當(dāng)AI 生成結(jié)果與其想法或刻板印象相符或相近時(shí)，就會(huì)傾向于采納該決策建議。在“輸入—輸出—訓(xùn)練—輸出”的反復(fù)過程中，實(shí)際上起指導(dǎo)作用的是算法的“自動(dòng)化偏見”和個(gè)體或群體的“選擇性遵從”，通過操控和改變個(gè)體認(rèn)知來強(qiáng)化群體觀點(diǎn)，煽動(dòng)“烏合之眾”情緒，最終導(dǎo)致群體極化現(xiàn)象加劇。而發(fā)達(dá)國(guó)家的人工智能技術(shù)霸權(quán)將進(jìn)一步加劇信息殖民格局、加大西方優(yōu)越感傳播、加強(qiáng)隱蔽價(jià)值觀對(duì)他國(guó)的影響和支配，陷他國(guó)民眾于網(wǎng)上意識(shí)形態(tài)極化“泥潭”。

二、人工智能技術(shù)挑戰(zhàn)下官兵獲取網(wǎng)絡(luò)信息存在的風(fēng)險(xiǎn)點(diǎn)

持續(xù)演進(jìn)的人工智能深度嵌入國(guó)際政治、經(jīng)濟(jì)、軍事諸領(lǐng)域?qū)⒊蔀榇髣?shì)所趨。從官兵獲取網(wǎng)絡(luò)信息的安全性角度審視自身短板弱項(xiàng)，主要體現(xiàn)在思想認(rèn)識(shí)不夠清晰、機(jī)制建設(shè)有待加強(qiáng)、應(yīng)對(duì)效能尚未充分釋放等方面。

一是官兵擁抱人工智能的熱情與去偽存真的能力還不匹配。生成式AI是“大模型+高算力”的組合，其區(qū)別以往的智能化程度讓用戶感到新奇，精準(zhǔn)“投喂”喜好信息讓用戶被舒適拿捏，深度扮演客觀公正角色讓用戶放下戒備心理，使得追求新奇、新潮的青年人積極擁抱其技術(shù)應(yīng)用、探索其效用功能。即使未主動(dòng)嘗試AI 新技術(shù)的官兵，只要通過互聯(lián)網(wǎng)獲取信息，均會(huì)受到智能算法“算計(jì)”。然而，從部隊(duì)調(diào)研數(shù)據(jù)來看，能選用采用客觀正確有效信息的“玩家”很少，能認(rèn)清講清生成式AI核心機(jī)理的“教員”更少，能做好做精人工智能內(nèi)容供給的“導(dǎo)師”少之又少，部分官兵擁抱新技術(shù)的熱情可能直中“技術(shù)笑面虎”的下懷，在其制造的“信息繭房”“群體極化”作用下，喪失鑒別辨識(shí)能力。

二是規(guī)范使用人工智能的法規(guī)與日新月異的技術(shù)還不適應(yīng)。當(dāng)前，社會(huì)各界均已充分意識(shí)到須通過法治方式規(guī)范人工智能技術(shù)應(yīng)用的緊迫性。今年8 月15 日，由國(guó)家網(wǎng)信辦等七部門發(fā)布的《生成式人工智能服務(wù)管理暫行辦法》正式落地實(shí)施，提出了國(guó)家堅(jiān)持發(fā)展和安全并重、促進(jìn)創(chuàng)新和依法治理相結(jié)合的原則，采取有效措施鼓勵(lì)生成式人工智能創(chuàng)新發(fā)展，對(duì)生成式人工智能服務(wù)實(shí)行包容審慎和分類分級(jí)監(jiān)管，明確了提供和使用生成式人工智能服務(wù)總體要求。但需要關(guān)注的是，因人工智能技術(shù)迭代發(fā)展和不確定突變的特點(diǎn)，該領(lǐng)域制度規(guī)范滯后性特征相較其他領(lǐng)域更加明顯。隨著智能時(shí)代網(wǎng)絡(luò)信息的安全風(fēng)險(xiǎn)急速拓展攀升，軍隊(duì)關(guān)于“使用、限用、禁用”“何種、何類、何型”人工智能技術(shù)的法規(guī)還需加緊出臺(tái)，降低人工智能技術(shù)對(duì)官兵獲取網(wǎng)絡(luò)信息的安全威脅。

三是靈活運(yùn)用人工智能的技能與有效控?cái)车囊筮€有差距。人工智能是當(dāng)前最尖端最前沿技術(shù)之一，其核心技術(shù)多被美歐等發(fā)達(dá)國(guó)家所掌握，其高度的專業(yè)性和復(fù)雜性也將加劇迭代“勢(shì)差”，獲取“入場(chǎng)券”、發(fā)展“主力軍”、搶占“主戰(zhàn)場(chǎng)”需久久為功。目前，我們?cè)诘讓铀惴ā⒋髷?shù)據(jù)安全互聯(lián)、輿情監(jiān)測(cè)預(yù)警等技術(shù)上還有較大提升空間；基于主動(dòng)覺察、智控技術(shù)的檢測(cè)模型和維護(hù)機(jī)制還不夠健全。一旦敵對(duì)勢(shì)力運(yùn)用人工智能技術(shù)對(duì)我實(shí)施針對(duì)性信息投送，我將更多采用技術(shù)方式進(jìn)行事后處理，事中對(duì)抗、主動(dòng)出擊和前瞻布局的技術(shù)能力還需進(jìn)一步提高。

三、應(yīng)對(duì)人工智能時(shí)代官兵獲取網(wǎng)絡(luò)信息安全挑戰(zhàn)的思考建議

前瞻人工智能技術(shù)發(fā)展影響，網(wǎng)絡(luò)信息領(lǐng)域很可能涌現(xiàn)虛擬與現(xiàn)實(shí)交織、偽造與反偽造對(duì)抗、進(jìn)攻與反制融合等諸多特征。我應(yīng)積極主動(dòng)面對(duì)，持續(xù)加強(qiáng)跟蹤研究，著力克服短板弱項(xiàng)，進(jìn)一步爭(zhēng)取主動(dòng)權(quán)。

（一）加強(qiáng)針對(duì)性宣傳教育。針對(duì)人工智能的防范和使用教育，重在引導(dǎo)官兵破除“技術(shù)中立”錯(cuò)誤認(rèn)識(shí)。一方面，著眼提升官兵的“主體能動(dòng)”和“理性自覺”抓宣傳教育。特別是針對(duì)“投喂”信息，點(diǎn)擊前做到“三個(gè)堅(jiān)決不看”，禁止瀏覽的信息堅(jiān)決不看、信源有疑的堅(jiān)決不看、觀點(diǎn)錯(cuò)誤的堅(jiān)決不看；閱看中做到“三個(gè)想一想”，政治立場(chǎng)對(duì)不對(duì)要想一想、真實(shí)情況是不是要想一想、邏輯關(guān)系順不順要想一想；獲取后做到“三個(gè)一定要”，觀點(diǎn)錯(cuò)誤的一定要堅(jiān)決抵制、問題嚴(yán)重的一定要及時(shí)報(bào)告、流言蜚語一定要以正視聽。另一方面，堅(jiān)持“多措并舉”和“一舉多效”抓宣傳教育。組織形式上，采取專題教育與隨機(jī)教育相結(jié)合。專題教育重在系統(tǒng)性介紹人工智能安全隱患，幫助官兵廓清認(rèn)識(shí)、審慎對(duì)待；隨機(jī)教育重在使思想開關(guān)“時(shí)刻在線”。內(nèi)容安排上，采取基本理論與警示案例相結(jié)合?；驹碇卦谥v透人工智能表象背后的深層邏輯，在知其所以然之上觀其然，確保面對(duì)技術(shù)應(yīng)用“基因突變”定力不減；警示案例重在辨析人工智能技術(shù)發(fā)展創(chuàng)新變化點(diǎn)所帶來的問題隱患，明確“戒行”指令和“執(zhí)行”指標(biāo)，讓官兵清晰知曉防什么、怎么防。

（二）構(gòu)建常態(tài)化控防機(jī)制。秉持早評(píng)估、早發(fā)現(xiàn)原則，構(gòu)建科學(xué)有效的應(yīng)對(duì)機(jī)制。一是危害風(fēng)險(xiǎn)評(píng)估機(jī)制。主要對(duì)包括人工智能技術(shù)發(fā)展、人工智能技術(shù)應(yīng)用形態(tài)、官兵獲取信息中人工智能含量等要素進(jìn)行危害風(fēng)險(xiǎn)評(píng)估。人工智能技術(shù)發(fā)展方面主要是密切跟蹤人工智能發(fā)展態(tài)勢(shì)，把握后續(xù)技術(shù)質(zhì)變節(jié)點(diǎn)，評(píng)估其發(fā)展走向所帶來的危害風(fēng)險(xiǎn)可能性；人工智能技術(shù)應(yīng)用形態(tài)方面主要是對(duì)其技術(shù)所產(chǎn)生的落地應(yīng)用進(jìn)行經(jīng)常性測(cè)試，驗(yàn)證其政治立場(chǎng)嬗變和武器化進(jìn)展情況，評(píng)估其既有表現(xiàn)所帶來的現(xiàn)實(shí)危害風(fēng)險(xiǎn)；官兵獲取信息中人工智能含量方面主要是分析評(píng)估官兵獲取信息中人工智能生成信息的比率，以及此類信息中危害政治安全的比率。二是信息收集機(jī)制。為避免敵方利用人工智能對(duì)我官兵實(shí)施認(rèn)知域“定點(diǎn)攻擊”，必要時(shí)可對(duì)官兵網(wǎng)上瀏覽信息實(shí)施收集和分析，但需要遵循合法性、正當(dāng)性和比例性原則。合法性是指信息收集和分析必須獲得法律明確授權(quán)，擁有執(zhí)法權(quán)限；正當(dāng)性是指不得超越掌握官兵獲取網(wǎng)絡(luò)信息安全情況的正當(dāng)目的；比例性是收集行為應(yīng)當(dāng)力求個(gè)人權(quán)利保護(hù)與官兵網(wǎng)絡(luò)信息獲取情況之間的平衡，收集行為對(duì)個(gè)人權(quán)利的損害應(yīng)當(dāng)盡可能最小。

（三）厚植基礎(chǔ)性環(huán)境建設(shè)。通過構(gòu)建維護(hù)有利于我的互聯(lián)網(wǎng)環(huán)境建設(shè)，促使敵借人工智能實(shí)施安全破壞企圖流產(chǎn)。一方面，加強(qiáng)對(duì)互聯(lián)網(wǎng)領(lǐng)域主流意識(shí)數(shù)據(jù)的輸入。人工智能訓(xùn)練需要大量數(shù)據(jù)作支撐，當(dāng)前互聯(lián)網(wǎng)涉軍信息主要是主流媒體新聞報(bào)道和軍迷議論猜測(cè)，其數(shù)據(jù)量相較整體而言如滄海一粟。因此，需要輸入大量高質(zhì)量涉軍數(shù)據(jù)對(duì)生成式AI 的內(nèi)容生成起到正向訓(xùn)練作用，根據(jù)使用場(chǎng)景、私密程度、敏感程度對(duì)互聯(lián)網(wǎng)進(jìn)行數(shù)據(jù)輸入，由此對(duì)利用互聯(lián)網(wǎng)數(shù)據(jù)進(jìn)行訓(xùn)練的人工智能進(jìn)行針對(duì)性“規(guī)訓(xùn)”。另一方面，加強(qiáng)人工智能技術(shù)的反應(yīng)用。防御化解敵方進(jìn)攻的同時(shí)，加強(qiáng)對(duì)敵方的議題設(shè)置和反制，按照“掃描—識(shí)別—制作—輸出”流程，由人工智能實(shí)施即時(shí)性回應(yīng)攻擊，給出“正確答案”，避免錯(cuò)誤言論混淆視聽，營(yíng)造正氣充盈網(wǎng)絡(luò)環(huán)境，搶占官兵認(rèn)知陣地。