黃騰達,邢文明,陳繼麗

(湘潭大學 公共管理學院,湖南 湘潭 411100)

0 引言

黨的二十大報告指出“要貫徹總體國家安全觀,健全國家安全體系?！笨傮w國家安全觀作為維護我國國家安全和經(jīng)濟發(fā)展的重要指導思想,囊括了社會、科技、網(wǎng)絡、人工智能等重點發(fā)展領域的安全問題。而智慧政府是提升我國政府治理能力、推進國家治理體系現(xiàn)代化建設的重要內(nèi)容。智慧政府的數(shù)據(jù)安全治理是總體國家安全觀的重要組成部分之一。當前,人工智能逐漸成為提高智慧政府治理能力和智慧水平的關鍵力量,將人工智能關鍵算法應用到政府智能治理以及智慧政府建設成為我國政府數(shù)字化建設的重要目標[1]。算法技術在賦能政府治理的過程中也引發(fā)了算法偏見、減損政府公信力、社會民生、隱私安全等一系列風險問題[2]。其中,用戶隱私問題、政府信息安全更是當前各級政府部門和社會重點關注的話題。因此,全面研判算法嵌入智慧政府的風險,通過有效手段來提高智慧政府的數(shù)據(jù)安全防范能力,推進國家安全治理體系和治理能力現(xiàn)代化,維護公民利益和國家安全是現(xiàn)如今我國智慧政府建設必須要面對的重要議題。

1 算法嵌入智慧政府引發(fā)的隱私風險

從數(shù)據(jù)全生命周期和用戶維度出發(fā),將算法嵌入智慧政府引發(fā)的隱私風險分為政府數(shù)據(jù)問題引發(fā)的風險、隱私泄露引發(fā)的用戶情緒風險等方面。

1.1 算法收集數(shù)據(jù)引發(fā)的隱私風險

先進的算法模型需要采集各種類型的政府數(shù)據(jù),在這一過程中可能會引發(fā)用戶隱私泄露風險。在智慧政府的運行過程中,算法對政府數(shù)據(jù)的收集主要是通過爬蟲技術來進行,收集人臉識別、互聯(lián)網(wǎng)、移動設備等數(shù)據(jù),這些數(shù)據(jù)使得用戶的生物信息和社會關系等全被政府所知。由于政府的權利,公眾的許多數(shù)據(jù)被算法強制地收集起來。這一系列的數(shù)據(jù)收集過程使用戶隱私全部被分析和挖掘,一旦政府的算法在數(shù)據(jù)收集過程中出現(xiàn)差錯,用戶的個人信息就很容易被泄露,從而造成隱私風險。尤其是在目前的智慧政府建設過程中,由于技術限制,智慧政府的算法設計和運行權利仍掌握在私人技術公司手上[3],這意味著算法收集到的用戶數(shù)據(jù)由于私人公司的疏忽極易落到不法分子手中。譬如:一些互聯(lián)網(wǎng)企業(yè)以及黑客過分地進行收集、竊取和倒賣個人的隱私數(shù)據(jù)信息[4]。

1.2 數(shù)據(jù)存儲過程存在的隱私風險

政府的智能治理和政務處理離不開數(shù)據(jù)庫的支持,這些數(shù)據(jù)庫中存儲著大量的數(shù)據(jù),算法通過利用這些數(shù)據(jù)來為政府工作服務,政府及大型企業(yè)往往會將數(shù)據(jù)存儲在云端服務器上,利用人工智能技術將這些數(shù)據(jù)保護起來。然而,在數(shù)據(jù)存儲過程中,人工智能技術所采取的匿名技術、加密措施等保護手段變得容易被破解,同時像政府這樣大規(guī)模的數(shù)據(jù)存儲需要用到十分嚴格的身份認證管理和訪問控制,政府的云端數(shù)據(jù)、網(wǎng)絡、算法及人工智能的管理難度將會變大,造成數(shù)據(jù)隱私泄露的因素增多,從而加大了隱私泄露的風險[5]。如2022年紅十字國際委員會的數(shù)據(jù)庫泄露事件,來自全球至少60多個紅十字會組織,超過50萬用戶的個人信息和隱私數(shù)據(jù)遭到泄露[6]。

1.3 算法利用數(shù)據(jù)造成的隱私風險

在智慧政府的工作中,需要利用算法技術來對數(shù)據(jù)進行篩選和應用,算法對數(shù)據(jù)進行自動篩選。政府通過算法利用數(shù)據(jù)的過程中會留有痕跡,有關用戶行為模式、生物特征等信息會被記錄。在算法的幫助下,用戶隱私信息被大量地挖掘和聚集起來生成“數(shù)據(jù)畫像”,用戶信息變得更加透明化,極大地增加了用戶隱私泄露的風險[7]。譬如,2015 年重慶、上海等超 30個省市衛(wèi)生和社保系統(tǒng)中的數(shù)千萬用戶社保信息被泄露,其中包括社保參保、房屋等敏感信息[8]。除此之外,政府在通過算法利用數(shù)據(jù)時不能保證數(shù)據(jù)被全部利用,算法不重視的數(shù)據(jù)相應的防護措施也比較低,很容易造成用戶隱私信息泄露風險。

1.4 數(shù)據(jù)銷毀過程中產(chǎn)生的隱私風險

算法技術作為人工智能的核心要素之一,加強算法在智慧政府建設中的應用是我國政府數(shù)字化和政府智能化的重要工作。而作為政府數(shù)字化的重要因素,算法在參與智慧政府建設的過程中也會出現(xiàn)數(shù)據(jù)被永久“記憶”的情況。正如維克托·邁爾-舍恩伯格所言:“數(shù)字化的技術已經(jīng)逐漸讓我們這個社會擁有了完美的記憶功能,但遺忘的能力卻在漸漸喪失。”[9]沒有被遺忘和徹底銷毀的數(shù)據(jù)在今后可能會引發(fā)用戶隱私風險。例如在一些用戶畫像的應用場景中,雖然用戶姓名、電話、IP等關鍵隱私數(shù)據(jù)已經(jīng)銷毀,但是信息處理者通過算法技術仍能實現(xiàn)對用戶行為偏好等隱私信息的分析[10]。因此,在算法嵌入智慧政府的過程中,政府關注用戶數(shù)據(jù)銷毀過程中“被遺忘的權力”在很大程度上能夠有效地降低用戶隱私泄露的風險。

1.5 用戶隱私泄露引發(fā)用戶情緒風險

將算法嵌入智慧政府建設中引發(fā)的隱私風險不僅僅只是用戶的隱私泄露問題,同時還伴隨著隱私泄露引發(fā)的用戶情緒風險。其一,隱私風險引發(fā)的用戶顧慮情緒。隱私顧慮亦稱隱私關注,一般被定義為個人將其數(shù)據(jù)提供給某個組織后,對組織如何使用及保護個人信息的擔憂程度[11]。在信息系統(tǒng)管理研究領域,隱私顧慮被表述為用戶對互聯(lián)網(wǎng)上控制、收集和使用其個人信息的關注[12]。而將算法嵌入智慧政府中也可被看作是一個大型信息管理系統(tǒng),政府利用算法進行治理會應用大量的用戶數(shù)據(jù),這些大量用戶數(shù)據(jù)的使用極易引發(fā)用戶對自身隱私安全的顧慮情緒,用戶這種顧慮情緒的出現(xiàn)使用戶更加地關注和保護個人隱私安全問題。其二,隱私安全引發(fā)用戶對政府的信任危機。政府在利用算法進行治理的過程中,由于“算法黑箱”的存在公眾無法了解智慧政府算法設計的具體意圖和運行機制,公民在知情權上受到一定程度的遮蔽,出于對算法嵌入智慧政府合理性的擔憂,容易引起用戶對政府的信任危機[13]。如智能移動設備在智慧政府建設中的廣泛應用使得大量的用戶敏感信息被政府掌握,容易在未經(jīng)授權的情況下將用戶數(shù)據(jù)提供給第三方,從而導致用戶隱私泄露的風險。

2 算法嵌入智慧政府過程中隱私風險形成的原因

智慧政府在享受算法帶來便利的同時,在應用過程中也存在許多局限性。將算法嵌入智慧政府中引發(fā)數(shù)據(jù)收集、應用、保存、銷毀以及用戶情緒等一系列的隱私風險是在眾多因素的共同作用下引起的。主要包括技術因素、環(huán)境因素和自身因素等。

2.1 技術原因誘發(fā)用戶隱私風險

第一,算法技術應用過程中引發(fā)的風險。在現(xiàn)實的政府工作中,由于大量的數(shù)據(jù)匯集在一起,政府的算法無法對所有數(shù)據(jù)進行篩選和整理。一旦在智慧政府運行過程中,算法無力承擔巨大的工作量或者應用不當將極大增加用戶個人數(shù)據(jù)泄露的風險。第二,算法技術的局限性導致“算法黑箱”問題。由于某些數(shù)據(jù)以及企業(yè)的一些數(shù)據(jù)屬于機密范圍,這就使得政府在算法的使用過程中具有不透明性以及機器學習內(nèi)涵的自主性,導致了這種“黑箱”特性[14]。

2.2 環(huán)境因素提升用戶隱私風險

將算法嵌入智慧政府的治理過程中要考慮外部環(huán)境對算法應用的影響。面對諸多環(huán)境變化,同樣的運行規(guī)則運用到不同的時代、環(huán)境中可能就會在某一過程中出現(xiàn)缺陷而導致用戶的隱私安全受到威脅。信息技術的快速發(fā)展伴隨著隱私竊取技術的快速發(fā)展。不法分子利用先進的技術對用戶個人數(shù)據(jù)進行攻擊,導致用戶隱私受到威脅。同時,國際環(huán)境的不斷變化也是用戶隱私安全受到威脅的重要原因。一些敵對國家利用本國最先進的技術對我國的用戶數(shù)據(jù)進行攻擊,不僅對用戶的信息安全,而且對國家安全都構成極大威脅。除此之外,法律環(huán)境對用戶的隱私安全也有極大影響。目前,我國針對人工智能的數(shù)據(jù)安全、算法的隱私安全都沒有具體的法律和政策規(guī)定,用戶隱私安全受到侵犯時得不到有效保障,法規(guī)政策缺失問題也提升了用戶的隱私風險。

2.3 自身原因導致用戶隱私泄露

政府自身的素養(yǎng)無法與先進的算法相匹配可能會引發(fā)用戶的隱私風險,用戶自身由于缺乏相應的安全保護意識而提升了自身隱私安全泄露的風險。一方面,算法在政府工作中的應用,數(shù)據(jù)化、信息化等新名詞的出現(xiàn)使得一些政府中沒有相關學習背景的工作人員無法正確地利用相關的算法技術來進行正確操作,對算法的理解也比較模糊,這就會導致算法在運行過程中出現(xiàn)紕漏,從而造成隱私泄露的風險。同時,政府的組織制度和數(shù)據(jù)審查標準尚未更新,很多內(nèi)容已經(jīng)無法與現(xiàn)在的算法規(guī)則相契合。另一方面是由于用戶自身問題導致的。用戶自身對個人隱私信息的不重視、隱私安全意識的不足等因素也增大了算法嵌入智慧政府的隱私風險。用戶在進入網(wǎng)站、使用社交軟件的過程中由于對個人隱私的保護意識不足,未閱讀隱私條款等情況下極易造成隱私泄露。

3 智慧政府隱私安全風險的應對策略

隱私安全作為近年來公眾關注的重點問題,算法嵌入智慧政府引發(fā)的隱私安全問題也受到了普遍的關注。通過對引發(fā)隱私風險的原因進行分析,可以通過樹立安全觀念、提高技術手段、完善隱私制度等策略來降低算法嵌入智慧政府帶來的隱私風險。

3.1 樹立正確的安全治理理念

將算法嵌入智慧政府中引發(fā)的隱私風險最根本的原因就是隱私安全觀念不足。因此,在算法廣泛應用到各個行業(yè)時,在管理者和用戶之間樹立正確的安全治理理念是各個機構和行業(yè)的首要任務。

3.1.1 構建政府安全治理共同體理念

在人工智能、算法技術快速發(fā)展和應用的年代,僅僅依靠政府的力量是遠遠不夠的,必須創(chuàng)新政府安全治理理念,確保政府的數(shù)據(jù)安全、用戶的隱私安全[15]。一方面要形成人人有責的安全治理意識。公眾要樹立人工智能時代隱私安全防護的觀念,提高自身的隱私安全意識,增強對隱私保護工具的重視心理和正確應用。另一方面包括政府在內(nèi)的各組織機構要人人盡責。政府要充分發(fā)揮數(shù)據(jù)安全頂層設計優(yōu)勢,根據(jù)算法技術的特點、運行模式等因素對隱私風險的防范進行戰(zhàn)略規(guī)劃,將智慧政府的安全問題上升為國家戰(zhàn)略,實現(xiàn)國家層面的統(tǒng)籌規(guī)劃[16]。同時,要以智慧政府的業(yè)務為導向,逐步實現(xiàn)數(shù)據(jù)安全治理的“縱向大聯(lián)動,橫向大合作”,群眾、政府、高校等機構多方參與形成智慧政府安全治理共同體,有效防范智慧政府安全風險,人人享有智慧政府成果。

3.1.2 提高政府組織培養(yǎng)能力

完善的政府組織保障體系能夠有效提升政府的安全風險應對能力,要提高政府的組織培養(yǎng)意識,通過優(yōu)秀的人才隊伍和部門執(zhí)行力來保障智慧政府的安全。一方面政府要加強人才培養(yǎng),提高政府工作人員的安全防范意識。其中,網(wǎng)絡安全技術人才是保障網(wǎng)絡隱私安全的關鍵性要素,是提升網(wǎng)絡隱私安全、保障競爭力的核心要義[17]。另一方面要提高政府部門的執(zhí)行力,保障算法嵌入智慧政府的安全風險防范效力。政府要注重對智慧政府運行過程中各個環(huán)節(jié)數(shù)據(jù)安全的監(jiān)督,當算法嵌入智慧政府產(chǎn)生安全風險時,政府通過各部門的組織協(xié)調能力,合理分工,高效應對政府面臨的安全風險。

3.2 提高智慧政府建設科技水平

3.2.1 提升智慧政府基礎設施建設效能

算法在政府治理過程中的高效運行離不開智慧政府基礎設施建設。首先,提高智慧政府信息資源利用水平,需要建立一套完整的基礎設施安全體系,通過更加完善的基礎設施安全體系政府能夠更加有效地抵御外來的數(shù)據(jù)侵犯行為。除此之外,政府要加強各地互聯(lián)網(wǎng)基礎設施的建設。5G基礎設施的建設也是保障用戶隱私安全的有效措施。構建專業(yè)的智慧政府數(shù)據(jù)安全防控體系以及全流程的數(shù)據(jù)安全治理平臺,能夠幫助人工智能對隱私侵權行為更加快速地做出反應。

3.2.2 完善算法嵌入智慧政府風險研判軟硬件建設

政府自身硬件和軟件的升級也是有效保護用戶隱私安全的重要手段。政府傳統(tǒng)設備大多已經(jīng)不能夠再繼續(xù)支撐算法對政府數(shù)據(jù)的收集和運算,因此政府要對自身的硬件和軟件設備做好升級工作。政府應該分析對隱私風險的威脅程度,對政府目前的軟件和硬件系統(tǒng)進行評估,根據(jù)具體的技術應用環(huán)境對政府的軟硬件進行升級。比如:設置更加高等級的防火墻、使用更加嚴格的用戶隱私監(jiān)控系統(tǒng)等先進的硬件和軟件技術。

3.3 完善智慧政府隱私安全制度

算法嵌入智慧政府的建設中,用戶的隱私安全離不開相關的法律法規(guī)和政府相關政策的保護,法律法規(guī)和相關政策是用戶隱私安全的基本保障。

3.3.1 完善政府用戶隱私安全法律法規(guī)

依據(jù)算法嵌入智慧政府的具體應用情況,不斷完善用戶隱私安全保護的法律法規(guī)和實施細則。隱私權是我國《民法典》規(guī)定的一項民事權利,“但是在‘大數(shù)據(jù)時代’,公民個人信息隱私已從傳統(tǒng)法律界分‘隱私權’的‘私域’中‘溢出’,向‘公域’延伸,從而成為橫跨‘公私兩域’的‘復合性’權利”[18]。《個人信息保護法》作為一部集公法規(guī)范與私法規(guī)范為一體的法律,盡管其中的一些條文也承擔了一定的保護隱私、規(guī)制算法的任務,但因其堅持“個人信息”與 “隱私”和“數(shù)據(jù)”的界分,而使其在保護數(shù)據(jù)隱私、規(guī)制算法方面具有一定局限性。

3.3.2 建立健全政府用戶隱私安全保護制度

政府應該結合自身的情況建立一套合理的用戶隱私安全保護制度。各級政府結合自身情況,建立完整的用戶信息、用戶數(shù)據(jù)保護制度以及相關的用戶數(shù)據(jù)安全審查制度和數(shù)據(jù)分級分類制度,能夠大大降低用戶的隱私風險。除此之外,政府內(nèi)部應該設置分工合理的安全組織機構。國際上,英國政府設置了內(nèi)閣辦公室、“信息專員總署”、英國披露與限制服務中心等機構來保護政府用戶的隱私安全。我國政府應通過建立一套合理的安全制度,同時在相應的安全組織機構的協(xié)助下,有效保障算法嵌入智慧政府帶來的隱私風險,滿足智慧政府安全治理需求。

4 結語

本文從算法嵌入智慧政府的角度出發(fā),從算法數(shù)據(jù)的收集、數(shù)據(jù)的存儲、數(shù)據(jù)的利用、數(shù)據(jù)的銷毀、標準規(guī)范、用戶情緒等方面分析了用戶隱私存在的風險,從技術、環(huán)境、政府、用戶自身等方面分析了這些風險存在的原因,提出了相應的應對策略以提高政府對算法帶來的隱私風險的應對能力。政府要通過相應的對策來降低這些風險的發(fā)生,維護新時期貫徹國家總體安全觀背景下我國政府的信息安全。