單美靜

一、引言

當前，網絡數(shù)據已經成為國家重要戰(zhàn)略資源和新生產要素，對經濟發(fā)展、國家治理、社會管理、人民生活都產生了重大影響。然而，一旦發(fā)生數(shù)據濫用則會產生巨大的危害，如基礎設施數(shù)據匯露事關國家安全、數(shù)據違規(guī)流轉危害行業(yè)安全、數(shù)據泄露侵害公民隱私等。因此，數(shù)據的重要性顯而易見。同時，數(shù)據也是人工智能（Artificial Intelligence，簡稱AI）的三大核心驅動力和生產力之一。目前，人工智能廣泛應用于公開數(shù)據的深度挖掘，集中在采集、管理、分析數(shù)據、挖掘信息與事實之間的關聯(lián)性分析等。實際上，人工智能也同時應用于多渠道信息數(shù)據的收集與分析工作，例如，軍事情報數(shù)據的收集與分析、社交媒體信息數(shù)據的收集與分析、網絡輿情信息數(shù)據的收集與分析等?？傊瑪?shù)據的地位日益提升，數(shù)據的安全性也受到重視，尤其是個人隱私數(shù)據。

個人隱私是指公民個人生活中不愿告人或不便告人的信息，且該信息與其他人及社會利益無關。隱私權是公民享有的私人生活安寧與私人信息依法受到保護，不被他人非法侵擾、知悉、搜集、利用和公開等的一種人格權。〔1〕張新寶：《隱私權的法律保護》（第二版），群眾出版社2004年版，第10頁。2021年1月1日將施行的《中華人共和國民法典》第1032 條規(guī)定，自然人享有隱私權。任何組織或者個人不得以刺探、侵擾、泄露、公開等方式侵害他人的隱私權。隱私是自然人的私人生活安寧和不愿為他人知曉的私密空間、私密活動、私密信息。因此，盜取他人隱私進行非法傳播屬于違法犯罪行為。

近年來，世界各國都在向大數(shù)據的開放、共享“轉型升級”，在此過程中隱私泄露、隱私破壞、隱私侵犯甚至隱私竊取等數(shù)據安全問題日益突出。在我國，數(shù)據安全與個人隱私關系密切，同樣也面臨嚴重挑戰(zhàn)?？萍脊?、通信服務商、電商平臺等信息技術服務類行業(yè)，銀行、證券、理財、保險等金融行業(yè)以及醫(yī)療衛(wèi)生、交通運輸、教育求職等重要行業(yè)涉及個人隱私數(shù)據竊取頻發(fā)，國內多家企業(yè)的上億用戶的簡歷、智能家居的用戶信息等大規(guī)模隱私數(shù)據也遭遇竊取。隨著人工智能技術的不斷發(fā)展，一些不法分子利用最新的技術手段進行非公開隱私數(shù)據的獲取與犯罪。作為一把雙刃劍，人工智能技術到底如何被用于隱私數(shù)據的竊取，又是如何應用于防范隱私竊取，是亟待研究和討論的課題。

二、人工智能背景下的隱私竊取

人工智能技術作為犯罪手段，常被不法分子用于竊取隱私的違法犯罪活動。在此過程中，面對不同種類的隱私，所使用的技術手段不盡相同。

（一）隱私分類

2016年，歐盟發(fā)布的《一般數(shù)據保護條例》將個人數(shù)據定義為“與已識別或可識別的自然人有關的任何數(shù)據”，其范圍包括但不限于“自然人的姓名、家庭住址、電子信息、身份證件號碼、位置信息、IP 地址、瀏覽記錄IP、手機識別碼、醫(yī)院或醫(yī)生持有的數(shù)據等信息”。根據隱私所面向的對象和包含內容對隱私進行分類如下（詳見圖1）。〔2〕韓博文：《可穿戴設備數(shù)據隱私保護技術的研究》，北京交通大學2018年碩士學位論文。

圖1 隱私數(shù)據的分類

1.面向數(shù)據的隱私 在面向數(shù)據的隱私中，數(shù)據融合是指傳感器網絡在聚合節(jié)點通過數(shù)據融合或者壓縮等方法來減少冗余信息、降低網絡的信息量、提高網絡的通信效率的過程。數(shù)據融合的隱私主要是在數(shù)據融合、傳輸?shù)冗^程中隱含了用戶的隱私信息。數(shù)據查詢的隱私主要是通過高資源節(jié)點采集底層傳感器數(shù)據完成查詢，并將查詢結果發(fā)送給基站。數(shù)據發(fā)布的隱私主要是數(shù)據的發(fā)布可能是動態(tài)的，且針對同一用戶數(shù)據來源眾多、總量巨大，隱含一定的隱私信息。數(shù)據挖掘的隱私主要是在大數(shù)據環(huán)境下，由于數(shù)據存在多源性和動態(tài)性等特點，即使經過匿名處理，然而通過關聯(lián)分析、聚合分析、分類等算法和技術，依然可以分析出用戶的隱私信息。數(shù)據共享的隱私主要是在大數(shù)據環(huán)境下，共享數(shù)據及屬性給用戶的過程當中涉及的隱私信息。

2.面向環(huán)境的隱私

在面向環(huán)境的隱私信息中，用戶的位置信息、身份信息、路由信息和時序信息等，都可能成為人工智能機器學習算法數(shù)據集中的一條。這樣一條條數(shù)據，積累足夠多時即可構成數(shù)據訓練集，人工智能算法就會從中學習、構建模型、訓練認知能力，進一步會了解甚至刻畫出完整的人物形象、屬性以及社交網絡等隱私信息。

（二）隱私竊取

隨著互聯(lián)網的網絡行為更加便利化、多元化，互聯(lián)網的眾多服務應用建立在知悉用戶相關信息的前提下進行。那么，此過程不可避免地需要一些用戶的個人數(shù)據。眾多開放式信息數(shù)據的呈現(xiàn)，將導致用戶隱私泄露以及為不法分子進行隱私竊取帶來了極大便利?！?〕俞藝涵等：《互聯(lián)網環(huán)境下隱私安全風險評估體系構建》，載《海軍工程大學學報》2020年第2期，第61頁。

隱私數(shù)據在整個傳輸過程中，面臨著各種披露、泄露、竊取的威脅，遭遇竊取的主要途徑如表1所示。

表1 隱私竊取的途徑

1.用戶個人網絡行為導致隱私被竊取

（1）用戶主動泄露信息。在下載、安裝、使用移動互聯(lián)網應用程序（Application,簡稱APP）過程中或者進行網頁注冊時，根據頁面要求主動填寫的身份證號、手機號、微信號、生活狀態(tài)與社交情況等個人信息；在智慧城市的各個電子監(jiān)控終端留下的個人動態(tài)聲像資料；線上購物時根據瀏覽痕跡留下的購物習慣、消費傾向、用戶地址信息、銀行卡號或者移動支付賬號等信息。用戶在使用某些特定APP 時，會打開自己移動設備上的定位功能或導航功能：在用戶靜止狀態(tài)下如果發(fā)出查詢請求，則泄漏了用戶的位置數(shù)據；在用戶連續(xù)移動過程中如果發(fā)出查詢請求，則泄露了用戶的軌跡數(shù)據?！?〕張青云等：《位置軌跡隱私保護技術綜述》，載《計算機應用研究》2020年第1期，第1頁。手機中還內置了陀螺儀、羅盤、氣壓計等，用來定位用戶的位置，可能泄露用戶的位置數(shù)據。

（2）用戶被動泄露信息。近年來，移動應用市場快速發(fā)展，而在移動互聯(lián)網特殊而復雜的環(huán)境中，企業(yè)利用收集和使用用戶下載、注冊APP 的數(shù)據，為個人隱私帶來了嚴重的安全問題與泄露風險，有意或無意中為犯罪分子的犯罪行為帶來便利。國家互聯(lián)網應急中心發(fā)布的《2019年我國互聯(lián)網網絡安全態(tài)勢綜述》指出，竊取用戶隱私的惡意APP 成為了不可忽略的安全威脅。另外，部分APP 在下載和安裝過程中，存在過度索要無關權限、惡意訪問用戶敏感信息等行為也是導致犯罪行為的直接或間接因素。

（3）用戶錯誤操作。用戶在日常上網過程中，不打碼展示個人生活狀態(tài)、個人信息、涉及肖像的圖片、資料時，對于隱私信息沒有加以篩選、隱藏，不實施任何隱私保護措施，導致個人隱私信息泄露或遭到竊取。

（4）用戶網絡設備安全存在漏洞。目前流行的智能家電，大多存在隱私竊取。例如，配備了紅外功能的智能燈泡就有可能泄露用戶的隱私信息。在使用過程中，黑客捕獲智能燈泡發(fā)出的可見光和紅外光譜，先進行解碼然后通過紅外不可見光將命令發(fā)送到智能燈泡上竊取數(shù)據，以威脅家庭網絡中的其他已連接到網絡的設備。兒童智能手表也同樣存在事關隱私數(shù)據的安全漏洞，例如，接口越權漏洞可導致兒童被黑客實時監(jiān)控，泄露兒童的日常行走軌跡、實時位置信息和實時環(huán)境聲音等隱私信息。

2.各類不可信網絡服務應用導致隱私被竊取

（1）非授權的訪問。此種行為主要包括非法用戶進入網絡或系統(tǒng)進行違法操作和合法用戶以未授權的方式進行操作，常用的手段包括特意繞開訪問控制機制、對網絡設備及資源進行非正常使用、擅自擴大權限、越權訪問信息等，如常用形式有假冒、身份攻擊、非法用戶進入網絡系統(tǒng)進行違法操作、合法用戶以未授權方式進行操作。

（2）非法鏈路流量劫持。此種行為是針對骨干網等關鍵信息基礎設施的互聯(lián)網鏈路的網絡攻擊方式，利用網絡鏈路和節(jié)點，架設服務器部署攻擊程序，實現(xiàn)對用戶的互聯(lián)網數(shù)據的竊取、分析和修改，替換或嵌入有害鏈接，從而實現(xiàn)非法獲利。

（3）惡意數(shù)據關聯(lián)分析，過度數(shù)據挖掘。例如，從大量數(shù)據中發(fā)現(xiàn)主體的隱私信息、頻繁出現(xiàn)的相互依賴關系和關聯(lián)關系，挖掘關聯(lián)現(xiàn)象等，將獲得的用戶隱私信息進而進行販賣，非法獲利。

（4）惡意代碼植入。在開發(fā)工具中植入惡意代碼，然后利用工具編寫IOS 版本APP 以及Mac OS 的程序具有信息竊取行為，并具有惡意遠程控制的功能，能夠竊取用戶終端的各種隱私信息。

（5）直接大規(guī)模隱私數(shù)據竊取。例如，部分企業(yè)或個人通過編寫爬蟲程序，利用人工智能技術模擬人工操作實施大量代理IP 地址、偽造設備標識、每日數(shù)百萬次高頻爬取等手段，繞過正規(guī)網站服務器的防護措施，竊取存放在其服務器上的用戶個人信息數(shù)據。犯罪分子將不同的網站竊取來的用戶隱私數(shù)據進行重新合并、排列、撞庫、清洗，對于重名、噪聲、缺失數(shù)據經過篩選、比對后形成了幾近完整的人物屬性畫像。進而將非法獲得并整理的用戶隱私數(shù)據進行售賣，非法獲利。

3.各類攻擊導致隱私被竊取

（1）APP 超范圍收集用戶個人信息。用戶在移動商店中下載APP 時，被要求必須勾選同意使用的協(xié)議。由于各種主觀和客觀原因，用戶沒有仔細閱讀協(xié)議中的詳細內容，或者對于協(xié)議中的條款表述不明確，對其中涉及的個人隱私與相關數(shù)據不知曉，用戶在不知情的情況下，造成隱私信息被泄露。

（2）未經授權共享用戶個人信息。例如，某些APP 基于部分用戶授權訪問的通訊錄中的姓名和手機號，收集并存儲用戶的地理位置信息，向其推薦“可能認識的人”，并推送廣告，進而侵犯了個人信息權益及隱私權。

（3）內部人員操作。由于能夠直接或間接接觸用戶隱私數(shù)據，部分內部人員通過人工智能技術惡意竊取、泄露、售賣用戶隱私數(shù)據，非法牟利。在正常工作過程中，內部人員也會由于誤操作等方式調取公民個人信息非法提供給他人，最終導致隱私遭到竊取。

（4）數(shù)據備份存儲。在信息時代，用戶習慣在多個終端存儲個人信息數(shù)據，在更新?lián)Q代終端設備、丟失設備或設備損害維修等過程中，如果未能格式化清空其中的敏感數(shù)據，一旦數(shù)據遭遇泄露、竊取，則會對用戶造成不可逆的損失。

三、人工智能技術背景下隱私竊取的技術防范手段

目前，針對隱私竊取的各種防范措施主要包括制定嚴格的法律法規(guī)、人工智能技術防范、進行自我保護的宣傳、規(guī)范相關企業(yè)的倫理道德方式等。保護隱私的相關法律法規(guī)出臺，必然會導致企業(yè)的數(shù)據收集、整理、分析、使用以及流通的合規(guī)成本的提高，也會導致“信息孤島”的產生。在隱私竊取的防范工作中，引入人工智能技術是人工智能領域研究的重要課題，對于防范隱私竊取發(fā)揮了重要作用。因此，防范隱私竊取，不是完全不收集數(shù)據，而是要通過技術的手段保護隱私數(shù)據安全。

目前，用于防范隱私竊取的主要技術包括數(shù)據同態(tài)加密、分布式計算、機器學習等的混合算法、安全多方計算、差分隱私算法、聯(lián)邦學習算法、霧計算等（如圖2所示）。具體包括如下手段：

圖2 防范隱私竊取的技術手段

1.數(shù)據同態(tài)加密

在全球數(shù)據的開放與共享過程匯總中，引發(fā)了隱私數(shù)據的安全問題。為保護隱私數(shù)據不被竊取，引入“數(shù)據同態(tài)加密”技術。在加密數(shù)據的傳輸過程中，該技術無需密鑰進行解密就能對加密數(shù)據進行處理，而且處理過程不會泄露任何原始內容，同時，擁有密鑰的用戶解密后可以得到處理后的結果，極大地提高了隱私數(shù)據的安全性。

2.霧計算

計算模型將原有云計算中心的部分或全部計算任務遷移到數(shù)據源的附近執(zhí)行，將介于云和終端用戶之間進行的邊緣計算，稱為“霧計算”。因此，霧計算具有低延時、位置敏感、分布廣泛等特點。通常利用云計算和霧計算相結合的多級聚合模型對隱私數(shù)據進行多層保護，主要用于智能交通領域的用戶隱私數(shù)據保護。

3.安全多方計算

安全多方計算旨在解決一組互不信任的參與方之間保護隱私的協(xié)同計算問題，實現(xiàn)各方在不泄露本地任何數(shù)據隱私的情況下，完成數(shù)據的聚合計算，這主要用于交易過程中的用戶隱私數(shù)據保護。

4.差分隱私

差分隱私是一種數(shù)學技術，例如，假設要分析數(shù)據集并計算其統(tǒng)計數(shù)據（如數(shù)據的平均值、方差、中位數(shù)、眾數(shù)等），如果通過查看輸出，我們無法分辨原始數(shù)據集中是否包含了任何個體的數(shù)據，那么這種算法就被稱為差異私有。社交平臺已經使用這種方法來收集聚合數(shù)據，而不需要識別特定的用戶，用于保護用戶社交隱私數(shù)據的安全。

5.聯(lián)邦學習

聯(lián)邦學習采用了分布式機器學習方法，假設用戶數(shù)據不會被存儲到中心服務器上，而是私密地存儲在個人的終端設備上，比如手機。聯(lián)邦學習在傳輸數(shù)據、訓練模型和輸出結果的過程中不需要用戶數(shù)據離開個人設備，從根本上增強了用戶隱私安全。

四、隱私竊取防范的實踐探索

（一）隱私竊取的具體情形

1.生物特征的無意泄漏

社交網絡是隱私竊取犯罪的重災區(qū)，高清原圖中包含了大量的隱私信息，包括圖片本身的信息、拍攝設備的型號、拍攝日期和地理位置等。例如，在網絡中傳輸?shù)恼掌瓐D保留了完整的Exif 信息。一旦犯罪分子獲得圖片，則立刻可以定位發(fā)送者。犯罪分子通過圖片中EXIF 信息，即可獲取位置、手機等數(shù)據，從而分析出圖片發(fā)送人的位置、軌跡等信息，如果能有更多圖片進行關聯(lián)計算，則可能獲取發(fā)送人的更多基本情況。

生物認證最大的特點就是唯一性。每個人都有獨一無二的面部特征、指紋和虹膜等，正是這種唯一性才促使生物認證的安全使用。例如，犯罪分子獲取圖片中的人物面部正臉肖像，可以在人臉識別系統(tǒng)中應用，進而通過刷臉支付等平臺進行犯罪行為。如果伸手比“耶”，那么不法分子容易提取到用戶的指紋特征信息，“復刻”他人的指紋，進而利用指模工具制作出指紋倒模，可在指紋識別系統(tǒng)中進行犯罪活動。又如，在一些社交軟件中，可以發(fā)送語音信息，不法分子根據用戶發(fā)送的音頻進行聲紋解析，進而根據其特性合成用戶音色相同的聲音或者把其他人的聲音替換成該用戶的，用于冒充用戶進行電話、語音詐騙等犯罪行為。再如，如果圖片是面部的特寫，不法分子容易提取用戶的虹膜信息，即使戴美瞳或隱形眼鏡等產品都無法完全遮擋虹膜信息，在虹膜驗證身份信息的系統(tǒng)中就可以假冒用戶身份進行犯罪行為。

生物特征識別是一個信息系統(tǒng)，可以根據一個人的一些主要生理和行為特征對其進行識別。它基于用于數(shù)據采集的硬件系統(tǒng)，該系統(tǒng)集成了軟件組件，這些軟件組件允許通過算法執(zhí)行數(shù)據分析并重構人的身份并對其進行識別。用戶的生物信息特征不可能重新設置，如果存儲大量用戶的生物特征數(shù)據庫被攻破或竊取，大量帶有唯一性的生物特征數(shù)據被不法分子竊取利用，輕則造成個人財產損失，重則危及國家安全，具有極大的風險性。同時，還需要防范不法分子惡意將照片中獲取的生物特征信息與其他個人信息進行關聯(lián)分析，進行非法用途。

2.網絡中隱私數(shù)據的專門爬取

國家互聯(lián)網應急中心發(fā)布的《2019年我國互聯(lián)網網絡安全態(tài)勢綜述》指出，竊取用戶隱私的惡意APP 成為了不可忽視的安全威脅。生活中，移動APP 為手機用戶提供便利的同時，也調取和傳輸用戶的隱私信息，違規(guī)索權比較普遍。在使用過程中，幾乎所有的APP默認調用相機權限，三分之一的APP 默認調用讀取聯(lián)系人權限。

數(shù)據爬取技術類似一個搜索探測器，按照預先編寫的算法規(guī)則，通過遍歷網絡內容的方式，搜集、提取所需的網頁數(shù)據，然后回傳給技術人員，再通過儲存或重新加工，得到需要的高價值信息。數(shù)據爬取所獲得的信息多種多樣，不僅可以爬取互聯(lián)網網站上的信息，在不同場景下還爬取用戶身份、通信、出行、社交、網購、銀行記錄等多個維度的數(shù)據。

金融借貸類APP 為幫助市場放貸主體爬取借款人的個人隱私信息，特別是借款人的通訊信息，主要用于日后向借款人及其家人朋友催收，同時進行隱私信息販賣。在使用過程中，由于搜集個人信息等原因，金融借貸 APP 不但能夠非法竊取用戶隱私，而且嘗試對客戶的面部圖像進行靜默拍攝。APP 通過非法采集各種敏感通信與網絡數(shù)據，包括手機號碼、通話記錄、接入網絡、身份證照片等，然后明文回傳至目標單位的服務器上。

針對目前互聯(lián)網上廣泛應用的移動支付終端，不法分子設計了專門爬取移動支付終端數(shù)據的產品。只需要用移動終端掃描一下登錄“二維碼”，就可爬取用戶的隱私數(shù)據，包括真實姓名、手機號、收貨地址、近一年的購物信息，交易記錄等。不法分子首先爬取用戶的隱私數(shù)據，然后登陸各大運營商的系統(tǒng)爬取通話記錄的數(shù)據，形成“個人用戶報告”，報告中的內容包括通話號碼、次數(shù)、時長等。爬蟲產品還可以通過API 接口切入客戶平臺，利用一個或兩個頁面，植入平臺借款申請流程場景中，在借款人通過頁面申請借款時，直接形成風險評估。

（二）隱私竊取的防范

以上情形充分說明，無論用戶的無意泄露還是不法分子的主動竊取，個人隱私數(shù)據已經遭遇泄露。隨著數(shù)據挖掘技術的急劇發(fā)展，在更廣泛領域的隱私數(shù)據泄露、竊取將直接帶來數(shù)據權屬、知識產權和商業(yè)機密保護、個人信息隱私界限、不正當競爭等方面巨大爭議。

近年來，在金融、電商等各類場景的隱私數(shù)據泄露、竊取案件頻發(fā)，對互聯(lián)網和大數(shù)據商業(yè)業(yè)態(tài)已經產生了重大負面影響，同時引起了產業(yè)界、監(jiān)管者和全社會的廣泛關注。對此，有關部門發(fā)布了多部相關規(guī)范性文件以及開展了相關防范工作，具體如下：

2019年1月，中央網信辦、工信部、公安部、市場監(jiān)管總局等四部門在全國范圍組織開展App 違法違規(guī)收集使用個人信息專項治理：重點組織專業(yè)機構對與民生密切相關的App隱私政策和個人信息收集使用情況進行評估；加強對違法違規(guī)收集使用個人信息行為進行監(jiān)管和處罰；開展打擊整治網絡侵犯公民個人信息違法犯罪專項工作；開展自愿性App 個人信息安全認證。

2019年3月，App 專項治理工作組制定發(fā)布了《App 違法違規(guī)收集使用個人信息自評估指南》，為App 運營者自查自糾提供指引。

2019年4月，公安部網絡安全保衛(wèi)局、北京網絡行業(yè)協(xié)會、公安部第三研究所等聯(lián)合發(fā)布《互聯(lián)網個人信息安全保護指南》，旨在指導個人信息持有者建立健全公民個人信息安全保護管理制度和技術措施，有效防范侵犯公民個人信息違法行為，保障網絡數(shù)據安全和公民合法權利。

2019年5月，國家互聯(lián)網信息辦公室發(fā)布《數(shù)據安全管理辦法（征求意見稿）》，不僅對網民關注的個人敏感信息收集方式、廣告精準推送、App 過度索權、賬戶注銷難等問題作出了直接回應，還對“網絡運營者”的數(shù)據收集、處理使用以及數(shù)據安全監(jiān)督管理等內容進行了具體規(guī)定，為保護個人隱私數(shù)據安全助力。

2019年11月，中央網信辦、工信部、公安部、市場監(jiān)管總局等四部門聯(lián)合制定發(fā)布了《App 違法違規(guī)收集使用個人信息行為認定方法》，該辦法明確界定了App 收集使用個人信息方面的違法違規(guī)行為，為App 評估和處置提供參考，同時強化了用戶的知情權和決定權，但目前我國相關法律對公民個人信息范圍還未作出明確的劃分。

總之，為了保護公民個人隱私數(shù)據的安全，一方面需要積極推進數(shù)據安全管理和個人信息保護立法，加強數(shù)據安全防護，特別是防范隱私數(shù)據竊取，同時提高公民個人信息防護意識等。另一方面，從技術角度層面而言，還應考慮將區(qū)塊鏈技術與人工智能技術相結合，為隱私數(shù)據保護助力。