文／王 春

近幾年，科技企業(yè)在推廣新一代信息技術產(chǎn)品時，數(shù)據(jù)安全、數(shù)據(jù)隱私等問題廣受詬病。數(shù)據(jù)作為驅(qū)動人工智能快速發(fā)展的重要基礎，其安全也決定了人工智能的安全。人工智能的加速發(fā)展給數(shù)據(jù)的安全治理帶來了新的機遇和挑戰(zhàn)。

驗證碼登陸、移動在線支付、人臉識別門禁……

隨著新一代信息技術的發(fā)展，互聯(lián)網(wǎng)和人工智能技術應用蓬勃發(fā)展，數(shù)據(jù)也被視為一種無形的資產(chǎn)。然而，技術是一把雙刃劍，在給我們生產(chǎn)生活帶來效率提升的同時，伴隨的安全問題也不可忽視。

近幾年，科技企業(yè)在推廣新一代信息技術產(chǎn)品時，數(shù)據(jù)安全、數(shù)據(jù)隱私等問題廣受詬病。數(shù)據(jù)安全成為當今數(shù)字化轉(zhuǎn)型時代的關鍵緊迫議題。

在7月8日至10日舉行的2021世界人工智能大會上，數(shù)據(jù)安全、數(shù)據(jù)治理、網(wǎng)絡安全等問題備受關注。業(yè)界認為，在人工智能深入推進城市數(shù)字化轉(zhuǎn)型過程中，企業(yè)應積極主動接受監(jiān)管，推動產(chǎn)業(yè)健康持續(xù)發(fā)展。

數(shù)據(jù)安全治理面臨新的機遇和挑戰(zhàn)

近日，桔視記錄儀等25款App因存在嚴重違法違規(guī)收集使用個人信息問題，被國家互聯(lián)網(wǎng)信息辦公室依據(jù)《中華人民共和國網(wǎng)絡安全法》相關規(guī)定，通知應用商店下架。

此前，在上海車展特斯拉車主維權事件中，特斯拉公布了維權車主車輛事發(fā)前半小時的行車數(shù)據(jù)。該行為引發(fā)了眾多爭議：車企該不該將行車數(shù)據(jù)公開？人們?nèi)绾未_定數(shù)據(jù)的可靠性？

沒有大數(shù)據(jù)的收集和基礎，人工智能是無本之木。數(shù)據(jù)作為驅(qū)動人工智能快速發(fā)展的重要基礎，其安全也決定了人工智能的安全。人工智能的加速發(fā)展給數(shù)據(jù)的安全治理帶來了新的機遇和挑戰(zhàn)。

“大數(shù)據(jù)驅(qū)動業(yè)務的開展，讓數(shù)據(jù)安全對城市運轉(zhuǎn)變得前所未有的重要，數(shù)據(jù)一旦遭到攻擊，就意味著業(yè)務會停轉(zhuǎn)，將造成嚴重的經(jīng)濟損失和社會后果?！?60公司創(chuàng)始人、董事長兼CEO周鴻祎表示，最近幾年，360公司接到大量醫(yī)院的報警，稱醫(yī)院網(wǎng)站被勒索軟件攻擊之后不能進行手術，不能給病人掛號看病。

近年來，城市也成為了網(wǎng)絡勒索的重要目標，而且網(wǎng)絡攻擊的對象不僅限于電腦、手機、設備、系統(tǒng)，還逐漸擴展到數(shù)據(jù)。人工智能數(shù)據(jù)的獲取、處理和應用具有極強的隱私性與領域擴展性，關乎個人信息安全甚至國家信息安全。對政府、城市公共事業(yè)單位的數(shù)據(jù)勒索，會造成城市運轉(zhuǎn)和服務陷入停擺。今年5月，美國最大的燃油輸送管線遭遇網(wǎng)絡攻擊被迫關停，導致美國東海岸45%的汽油、柴油等燃料供應受到影響。

業(yè)界認為，針對上述情況，要讓人工智能技術的頭頂上高懸一把達摩克里斯之劍。

數(shù)據(jù)輸入、分析等過程都存在相應風險

數(shù)據(jù)非法跨境流通可能危害國家主權和國家安全；數(shù)字信息的過度采集和非法使用，可能侵犯公民的權利和隱私；算法的偏好可能加劇社會的偏見或歧視，威脅公平正義；無人駕駛汽車緊急避險等智能決策可能威脅特定人群的生命……

全國政協(xié)社會和法制委員會副主任陳智敏在人工智能大會安全高端對話上指出，人工智能發(fā)展與安全發(fā)展風險同時并存，這不僅是一個技術問題，也是一個安全問題，同時還涉及倫理、法律和國際規(guī)則等相關問題。

國家工業(yè)信息安全發(fā)展研究中心副主任何小龍在人工智能大會上表示，人工智能帶來的數(shù)據(jù)安全問題一方面加速了傳統(tǒng)數(shù)據(jù)安全問題。

人工智能大規(guī)模的運用使得過度采集數(shù)據(jù)安全問題進一步加劇。另一方面，也帶來了新型數(shù)據(jù)安全的問題。人工智能的算法對數(shù)據(jù)具有較強的依賴性，可能會帶來數(shù)據(jù)投毒等新型數(shù)據(jù)安全挑戰(zhàn)。

算法、模型和數(shù)據(jù)構成機器學習三大基石。騰訊朱雀實驗室首席AI安全專家朱季峰在人工智能大會主題論壇上表示，以算法構建過程中上下游的產(chǎn)業(yè)鏈來看，數(shù)據(jù)的輸入、數(shù)據(jù)的分析、模型的訓練、模型的決策、模型的上線部署應用以及模型的改造過程當中都存在相應的風險。

例如，在數(shù)據(jù)輸入環(huán)節(jié)，如果攻擊者控制了數(shù)據(jù)來源，或者攻擊者能夠?qū)κ占瘮?shù)據(jù)的設備本身產(chǎn)生安全攻擊，最終將通過這個鏈條影響到算法模型。如通過超聲波影響陀螺儀，最終可以使無人機墜落?；蛘咴谀Ｐ蜎Q策階段，可以通過物理攻擊，使得自動駕駛車輛最終視覺識別系統(tǒng)出問題，這樣可能影響車輛自動行駛或者對行人的判斷。

隨著人工智能的應用，技術的濫用帶來失控風險。驗證碼驗證機制首當其沖。朱季峰介紹，早在2017年，地下的黑產(chǎn)就已經(jīng)開始用機器學習的方法做二維碼識別訓練。資料表明，80%以上驗證的準確性都可以通過機器學習算法自動完成線上的注冊，這就產(chǎn)生了一系列的安全問題。

3大系統(tǒng)共筑數(shù)據(jù)安全防火墻

人臉識別技術依托于對海量視圖數(shù)據(jù)的分析，因而數(shù)據(jù)安全直接影響著人臉識別技術的實戰(zhàn)應用。人工智能技術在安防領域的應用是技術尋求落地進程最快、應用最早的訓練場。

達闥創(chuàng)始人、董事長兼CEO黃曉慶表示，從數(shù)據(jù)采集到數(shù)據(jù)處理到數(shù)據(jù)傳輸，解決數(shù)據(jù)網(wǎng)絡安全問題有很多手段。從網(wǎng)絡和數(shù)據(jù)角度要完成三個重要的任務——物理隔離、網(wǎng)絡隔離、應用端到端的保護。

除了技術，我國利用法律武器在數(shù)據(jù)立法上也做出了探索。

今年6月，我國頒布了《數(shù)據(jù)安全法》，9月1日將開始正式實施?！稊?shù)據(jù)安全法》提出以數(shù)據(jù)分級分類為核心，搭建數(shù)據(jù)安全的監(jiān)管制度，要求強化落實各級數(shù)據(jù)處理活動主體數(shù)據(jù)安全保護的義務與責任，為規(guī)范數(shù)據(jù)處理活動，保障數(shù)據(jù)安全提供法律依據(jù)。另外，《個人信息保護法（草案）》也即將進入三審階段，兩項法案相輔相成，推動我國個人信息保護和數(shù)據(jù)安全治理進入全新階段。

在人工智能大會“大愛無疆·共生”論壇上，清華大學蘇世民書院院長薛瀾回顧人工智能治理模式歷經(jīng)回應式治理、集中治理和敏捷治理三個階段?！艾F(xiàn)在我們進入了相對比較集中的治理模式。該模式明確了國家加強行業(yè)監(jiān)管，促進制度落地的決心，對暴露出來的各種問題采取比較堅決的措施落實監(jiān)管規(guī)則，同時觸及到需要進一步研究的問題?！毖懻f。

目前，上海正研究立項公共場所人臉識別分級分類應用規(guī)范的地方標準，將成為全國首個立項的人臉識別的地方性標準；開展全市人工智能數(shù)據(jù)立法調(diào)研，規(guī)范數(shù)據(jù)確權，數(shù)據(jù)共享等重要內(nèi)容，推動可信人工智能的研究。上海市人大也正在起草《上海市數(shù)據(jù)條例》。

此外，上海市數(shù)字證書認證中心、復旦大學計算機學院、上海交通大學電子信息與電氣工程學院、移動互聯(lián)網(wǎng)系統(tǒng)與應用安全國家工程實驗室、上海賽博網(wǎng)絡安全產(chǎn)業(yè)創(chuàng)新研究院共同發(fā)起籌建數(shù)字身份與數(shù)據(jù)流通信任技術實驗室，該實驗室將基于數(shù)字信任技術的產(chǎn)學研生態(tài)合作，開展隱私計算、區(qū)塊鏈、前沿密碼等數(shù)字信任技術攻關和產(chǎn)業(yè)應用，支撐城市數(shù)字化轉(zhuǎn)型、數(shù)據(jù)要素市場構建和網(wǎng)絡安全體系建設。

記者獲悉，上海浦東新區(qū)將在數(shù)據(jù)資源共享、數(shù)據(jù)交易、數(shù)據(jù)開發(fā)利用等方面進行立法探索；臨港新片區(qū)將試點開展企業(yè)法人數(shù)據(jù)的跨境流通的安全評估和服務監(jiān)管，加強個人數(shù)據(jù)的全生命周期安全監(jiān)控和防護。