王伊

在人工智能發(fā)展過程中，要堅持安全可靠和創(chuàng)新發(fā)展并重，筑牢安全防護墻，應對人工智能帶來的安全風險亟須未雨綢繆，從而真正擁抱人工智能發(fā)展帶來的機遇。

馬駒橋，北京重要的物流基地；天津港，京津冀的海上門戶。每天，不計其數的貨物在二者之間往來，繁忙的G2京滬高速（原京津塘高速）上車流如梭。

最近，這條高速公路上出現了特殊的貨車。這些貨車看上去與普通的貨運重卡車并無太多差別，但車內方向盤在沒有人工操作的情況下就能動起來。

貨運往往需要跨越大江南北，司機更容易疲勞駕駛，危險系數更高。自動駕駛恰恰可以解決這一問題。于是，此前還是多應用于封閉園區(qū)內的無人駕駛重卡在協(xié)同發(fā)展背景下，進入了北京和天津攜手開啟的全國首個跨省市高速公路自動駕駛貨運測試項目。伴隨著這一項目的逐漸推進，高速公路自動駕駛貨運的場景逐漸清晰。

過去幾年，自動駕駛汽車逐漸駛上街頭，但大多都跑在城市道路上，應用場景主要是無人駕駛出租車、無人配送車、無人駕駛小巴、無人清掃車等。而高速公路的試點開放，也讓自動駕駛貨運成為可能。

從輔助科研到藝術創(chuàng)作，從金融分析到自動駕駛，飛快進步的人工智能（AI）有效提升工作生活的效率和質量，助推多個行業(yè)形成新質生產力。

同時，隨著演進速度加快、賦能范圍變廣和影響程度加深，人工智能的負面影響和潛在風險也警示要推動這種前沿技術安全有序發(fā)展。如何應對人工智能可能帶來的安全問題成為各界關注點，也成為網絡安全工作的下一個著力點。

人工智能產業(yè)蓬勃發(fā)展

近年來，我國積極順應新一代人工智能的發(fā)展潮流，政策及時精準發(fā)力，研發(fā)能力大幅提升，產業(yè)生態(tài)蓬勃發(fā)展，技術賦能效應凸顯，在人工智能這一科技新賽道，我國處在世界第一梯隊。

美國斯坦福大學發(fā)布的《2023年人工智能指數報告》顯示，我國人工智能領域發(fā)表論文數量居首位，在發(fā)表論文總量世界前十的機構中，我國共占9席。高水平論文被引用量與美國的差距進一步縮小，騰訊、阿里巴巴和華為等公司已經成為人工智能研究領域排名進入世界前十的公司。

2023年，我國智能芯片、開發(fā)框架、通用大模型等創(chuàng)新成果不斷涌現：華為、寒武紀、景嘉微、壁仞科技、摩爾線程、燧原科技等芯片公司推出了不同設計架構、不同應用場景的AI推理和訓練任務的芯片加速卡；昇思MindSpore、飛槳Paddle-Paddle等國產人工智能開發(fā)框架逐步成長，昇思開源社區(qū)下載量已突破474萬，飛槳開發(fā)者已超過800萬；百度文心一言、阿里云通義千問、華為盤古、科大訊飛星火等人工智能大模型持續(xù)迭代升級，充分發(fā)揮溢出帶動性強的“頭雁效應”。

我國人工智能已具備深入賦能的能力。2023年，人工智能核心產業(yè)規(guī)模接近5800億元，核心企業(yè)數量4482家，企業(yè)平均增速約為22%，這一增速遠超許多傳統(tǒng)產業(yè)，顯現出人工智能產業(yè)的強勁增長勢頭，同時產業(yè)鏈覆蓋芯片、算法、數據、平臺、應用等上下游關鍵環(huán)節(jié)，細分領域不斷突破。

隨著人工智能技術的廣泛應用，“人工智能+”成為推動新質生產力發(fā)展的重要引擎。

隨著技術的不斷進步和創(chuàng)新，人工智能正逐漸滲透到各個領域，產業(yè)規(guī)模不斷增長。中商產業(yè)研究院發(fā)布的《2022-2027年中國人工智能產業(yè)發(fā)展趨勢分析及投資風險預測報告》顯示，2022年產業(yè)規(guī)模達到5080億元，同比增長18%。中商產業(yè)研究院分析師預測，2024年產業(yè)規(guī)模將增長至6530億元。

未來在“人工智能+”的推動下，新一代信息、生物、能源、材料等領域顛覆性技術不斷涌現，呈現深度交叉融合、高度復雜和多點突破發(fā)展態(tài)勢。支撐社會發(fā)展的基礎設施也在新技術的作用下進一步升級，形成數字化智能化的新型基礎設施。數據要素因其獨有的低邊際成本、強滲透性和融合性等特點，可推動生產工具和設備、生產方式、資源配置方式不斷優(yōu)化升級。

潛藏安全風險引擔憂

技術是一把雙刃劍。人工智能日益滲入日常生活、賦能各行各業(yè)的同時，也存在一些隱憂。

來自內蒙古鄂爾多斯的李女士某天突然在微信上收到了老同學“賈某”的好友申請。其后雙方在聊天過程中，“賈某”發(fā)來視頻通話邀請，盡管李女士發(fā)現視頻中的畫面很模糊，聲音也很卡頓，但確實看到了“老同學”的樣貌，最終將40萬元轉到了對方提供的銀行賬號上。所幸李女士發(fā)現事有蹊蹺后報警，警方啟動了緊急止付機制，及時將被騙的錢款攔截。

李女士遭遇的人工智能制造“老同學”詐騙案并非個例。近年來，隨著人工智能技術的發(fā)展和應用，網絡詐騙也升級了新手法，不法分子頻頻利用深度偽造等技術通過人工智能換臉、人工智能變聲實施“精準”詐騙。

“AI換臉”是指通過使用AI技術合成虛假的視頻或圖像，從而讓人們誤認為某個事件實際上發(fā)生了。近年來，“AI換臉”技術已經進化到了一個令人驚訝的程度，它可以瞞過我們肉眼，欺騙我們的大腦，模仿任何人的面容，產生完美的人工影像，這讓人感到厭惡和不安。詐騙分子可以利用這種技術來欺騙受害者，比如“AI換臉”破解了實體面試的驗證機制，影響受害者的面試結果。

類似的還有“AI語音合成詐騙”。這種詐騙手法是通過模擬受害者的真實聲音和語音特征，進行欺詐，實施詐騙。詐騙分子通過利用AI技術生成人工語音，瞞過了受害者，取得了他們的信任，并以此盜取了他們的財產、身份信息等。

中國社會科學院大學數字中國研究院發(fā)布的《數字時代安全科技價值報告》將AI安全風險分為3類：第一類是人工智能系統(tǒng)內部所產生的“內生安全問題”，如“數據有毒”“價值對齊”“決策黑盒”等問題；第二類是“衍生安全問題”，比如生成假新聞、深度合成偽造進行詐騙或釣魚攻擊，涉及隱私保護、國家安全、倫理道德等與社會治理有關的挑戰(zhàn)性問題；第三類是“外生安全問題”，即面向人工智能系統(tǒng)的外部網絡攻擊對抗。

在中國工程院院士吳世忠看來，人工智能的安全問題，既有近憂也有遠慮。

“從‘近憂看，AI大模型落地應用主要面臨的安全風險有生成不當內容、產生隱私問題、引發(fā)技術攻擊等。”在“遠慮”方面，技術發(fā)展失速、倫理規(guī)范和道德約束的缺乏等是吳世忠主要的擔憂。

總體而言，人工智能發(fā)展帶來的網絡安全新挑戰(zhàn)不容忽視，既有技術層面的攻防對抗，也有系統(tǒng)自身的脆弱性，更有深層次的倫理困境。

如何筑牢人工智能安全防線，維護人工智能健康發(fā)展，事關國家安全、經濟運行和社會穩(wěn)定大局。

完善人工智能領域法律建設

針對人工智能技術發(fā)展可能出現的問題，制定規(guī)則以防患于未然。這是我國促進數字經濟發(fā)展的必要之舉，也是維護國家網絡安全的具體體現。

我國對人工智能安全高度重視，逐步完善相關政策法規(guī)。近年來，關于網絡安全的法律法規(guī)、標準規(guī)范，包括各種團體標準、地方政策不斷出臺。

2017年6月1日，《中華人民共和國網絡安全法》（簡稱“網絡安全法”）正式實施。作為我國互聯網領域第一部專門法律，網絡安全法是我國網絡空間法制建設的重要里程碑。以此為框架，數據安全法、個人信息保護法等一系列法律法規(guī)相繼出臺。

隨著時代生產要素的演進，當前人工智能時代的本質在于算法和數據。算法帶來飛速便利的同時也帶來了諸如大數據殺熟、算法黑箱、信息繭房、算法操縱等新的社會風險問題。如果算法是一匹“脫韁的野馬”該怎么辦？

繼數據安全法、個人信息保護法等法律法規(guī)概括性地對數據新技術的開發(fā)應用、自動化決策等的公平公正性進行總體性規(guī)范后，2022年3月1日，國家網信辦等4部門聯合發(fā)布的《互聯網信息服務算法推薦管理規(guī)定》（簡稱《規(guī)定》）正式施行?！兑?guī)定》明確，算法推薦服務提供者不得設置誘導用戶沉迷、過度消費等違反法律法規(guī)或者違背倫理道德的算法模型；不得根據消費者的偏好、交易習慣等特征，利用算法在交易價格等交易條件上實施不合理的差別待遇等違法行為。

相比于此前法律法規(guī)層面對于算法監(jiān)管的總體、概括性要求，《規(guī)定》以互聯網信息服務為基礎，從算法的公平公正及信息內容角度對算法推薦服務提出了各項具體細化的要求，反映了有關部門對于數字產業(yè)監(jiān)管愈發(fā)深入，已從對于算法問題所凸顯的法律價值層面的監(jiān)管滲透到對于算法應用過程的技術性監(jiān)管。

2023年以來，與生成式人工智能相關的各種新技術不斷迭代，相關場景應用不斷豐富。如何不斷提升生成式人工智能技術的安全性、可靠性、可控性、公平性需要倍加關注。

一些專家判斷，生成式人工智能將引發(fā)新一輪人工智能革命，人類與機器、技術與產業(yè)、虛擬與現實之間的關系正在發(fā)生廣泛而深刻的變化，技術創(chuàng)新也給人類社會文明秩序帶來了挑戰(zhàn)。

對此，國家網信辦聯合國家發(fā)展改革委、教育部、科技部、工業(yè)和信息化部、公安部、國家廣播電視總局公布的《生成式人工智能服務管理暫行辦法》（簡稱《辦法》）于2023年8月15日起正式實施。這是我國首個針對生成式人工智能產業(yè)的規(guī)范性政策?！掇k法》明確鼓勵生成式人工智能技術在各行業(yè)、各領域的創(chuàng)新應用，生成積極健康、向上向善的優(yōu)質內容，探索優(yōu)化應用場景，構建應用生態(tài)體系。

業(yè)界人士認為，在人工智能發(fā)展過程中，要堅持安全可靠和創(chuàng)新發(fā)展并重，筑牢安全防護墻，應對人工智能帶來的安全風險亟須未雨綢繆，從而真正擁抱人工智能發(fā)展帶來的機遇。

用AI解決AI帶來的安全問題

人工智能研究具有高度技術性和專業(yè)性的特點，各分支領域各不相通，因而涉及范圍極廣。要打敗人工智能帶來的不安全因素，就要“魔高一尺、道高一丈”。

中國工程院院士鄔賀銓認為，以人工智能為代表的數字技術將重塑數字內容生產方式和消費模式，通用人工智能將實現知識與數據雙輪驅動，把智腦加進去，未來單個模型有望通過遷移學習支持多種業(yè)務，并能精準選擇節(jié)點，有效降低功耗和成本。數字化將逐漸走向智能化高峰，開啟人工智能時代。同時，數字安全也在不斷發(fā)展演進，傳統(tǒng)安全防護的手段亟待升級。

對于人工智能的模型、算法、數據、隱私及應用等存在的風險和安全威脅，強化基礎理論研究和先進安全技術研究，推動關鍵技術的應用，形成人工智能安全管理的技術體系，是有效控制人工智能風險的必要措施。

IEEE標準協(xié)會新標準立項委員會副主席兼IEEE數字金融與經濟標準委員會主席林道莊曾表示，雖然AI時代，企業(yè)面臨著更大的網絡安全和數據安全的挑戰(zhàn)，但是在這個過程中，企業(yè)也可以充分應用AI的能力進行預警、防御?！巴ㄟ^AI自動學習識別，預測一些潛在的風險，并將這些風險自動隔離起來?！绷值狼f如是說，“通過AI的賦能，讓企業(yè)級防火墻具備更強的應變能力?！?/p>

2024年全國兩會期間，全國政協(xié)委員、全國工商聯副主席、奇安信集團董事長齊向東建議，大力探索“AI+安全”創(chuàng)新應用，搶占國家安全的人工智能戰(zhàn)略制高點，提高我國應對網絡空間安全風險與不確定性的能力，護航中國式現代化行穩(wěn)致遠。

在齊向東看來，解決AI帶來的安全問題，只能用AI來解決。為此，他建議抓住“三個關鍵”：從供給側看，開展聯合創(chuàng)新，圍繞攻防實戰(zhàn)和應用場景實現“AI+安全”尖端技術研發(fā)突破；從需求側看，強化政策牽引，推動“AI+安全”技術創(chuàng)新產品在各行業(yè)落地應用，建議像支持新能源汽車的發(fā)展一樣，支持“AI+安全”發(fā)展，設置專項基金，對研發(fā)創(chuàng)新“AI+安全”產品的企業(yè)，給予政府基金、貼息貸款或科研項目等支持；從人才側看，壯大“AI+安全”領域的實戰(zhàn)型、復合型人才隊伍。

事實上，隨著大語言模型的快速發(fā)展，一些市場機構近年來已經開始將大模型與網絡安全相結合，提升網絡威脅、系統(tǒng)漏洞等方面防護的效率，降低人工成本。

2023年9月，360智腦大模型面向公眾開放。據了解，該模型是全國首個原生安全大模型。360集團首席科學家兼360數字安全集團CTO潘劍鋒介紹，360安全大模型正是基于通用大模型360智腦，通過蒸餾、繼續(xù)預訓練、有監(jiān)督精調等技術手段訓練而產出，將作為“安全副手”走進企業(yè)真實安全運營場景。

中國電信翼支付系統(tǒng)為了應對新興的“AI換臉”欺詐方式，自主研發(fā)出金融級KYC證件識別產品“偵圖”平臺，助力支付平臺健全AI換臉欺詐風險偵測體系，有力保障了用戶支付安全，并受到了金融領域的廣泛關注。

雖然人工智能的發(fā)展背景下蘊含著各種挑戰(zhàn)，但同時也孕育著巨大的機遇。通過積極保護數據隱私，靈活適應變革，我們可以更加充分地發(fā)揮人工智能的優(yōu)勢，以更加積極的態(tài)度來迎接未來發(fā)展所帶來的機遇。