David

前不久，迫于公眾輿論壓力，美國奧蘭多市政府和警察局發(fā)布正式聲明：停止使用亞馬遜人臉識別AI技術(shù)——Rekognition，再一次引發(fā)了人們對于AI可能侵犯隱私的關(guān)注。

這項名為“Rekognition”的技術(shù)使用AI人工智能來識別物體、人物、場景，以及更多的圖像或視頻，它可以被執(zhí)法部門用來搜索和識別身份不明的嫌疑犯、沒有身份證明的人，以及可能的證人和同謀者。在奧蘭多，這項技術(shù)被用來在整個城市中使用監(jiān)控錄像來實時搜索“感興趣的人”。盡管執(zhí)法部門把它定義為更容易抓捕罪犯的方式，但民權(quán)組織擔(dān)心它可能侵犯隱私權(quán)，并被用于針對弱勢群體。

在此之前，包括“美國公民自由聯(lián)盟”在內(nèi)一些機(jī)構(gòu)和人們曾強(qiáng)烈呼吁：亞馬遜應(yīng)該停止向美國政府提供強(qiáng)大且危險的人臉識別系統(tǒng)-Rekognition，因為這可能會導(dǎo)致美國公民的私人數(shù)據(jù)被濫用及隱私遭到侵犯。甚至亞馬遜的20個股東團(tuán)體都致信公司首席執(zhí)行官杰夫·貝佐斯（Jeff Bezos），要求他不要司法部門出售此系統(tǒng)。

雖然目前Rekognition還沒有傳出泄露用戶隱私的消息，但公眾的這種擔(dān)心是有根據(jù)的。今年年初“Facebook泄露門事件”，超過5，000萬的Facebook用戶個人隱私信息被泄露，更為嚴(yán)重的是，這些數(shù)據(jù)被懷疑干預(yù)了政治競選，造成了公眾對于隱私泄露的憂慮與日俱增。前不久，美國媒體又爆出Facebook一件隱私泄露事件。據(jù)報道，F(xiàn)acebook會給廣告主提供一項特殊服務(wù)——忠誠度預(yù)測。這是一項基于AI的服務(wù)，即預(yù)測用戶的未來行為，作為廣告投放的依據(jù)。而“忠誠度預(yù)測”依靠的數(shù)據(jù)有：用戶位置、設(shè)備信息、所連接Wi-Fi網(wǎng)絡(luò)的情況、觀看的視頻記錄、親朋好友的各種細(xì)節(jié)，甚至是和朋友聊天的內(nèi)容。這些數(shù)據(jù)，無疑已經(jīng)觸及到了用戶的底線。

在國內(nèi)，隱私被侵犯的情況更是屢見不鮮。去年9月浙江紹興警方破獲了全國首例利用AI人工智能技術(shù)竊取公民個人信息的案件，截獲了10億余組公民個人信息。被警方查封的平臺叫做「快啊」，曾經(jīng)是市場上最大的打碼平臺。他們在破解、竊取、販賣和盜用個人信息實施詐騙有著完整的鏈條，其中人工AI技術(shù)運用在識別驗證碼這個環(huán)節(jié)。

與歐美國家相比，國內(nèi)用戶的隱私意識相對薄弱，保護(hù)隱私的法律也很匱乏，以至于被侵犯還不知覺。比如不少手機(jī)APP，不僅要求訪問手機(jī)相冊、獲取信息和聯(lián)系人方式，有的還要與銀行卡關(guān)聯(lián)。AI之所以在中國可以迅速崛起，某些程度上也受益于此。

隱私風(fēng)險來自三個環(huán)節(jié)

進(jìn)入AI時代，數(shù)據(jù)搜集及基于數(shù)據(jù)的分析和機(jī)器學(xué)習(xí)不可避免，在AI應(yīng)用中必然存在隱私侵犯的風(fēng)險。一般來說，這些風(fēng)險主要來自于三個環(huán)節(jié)：

1.數(shù)據(jù)采集環(huán)節(jié)：隨著各類AI智能設(shè)備的廣泛使用，智能系統(tǒng)不僅能通過指紋、心跳等生理特征來辨別身份，還能根據(jù)不同人的行為喜好自動調(diào)節(jié)燈光、室內(nèi)溫度、播放音樂，甚至能通過睡眠時間、鍛煉情況、飲食習(xí)慣以及體征變化等來判斷身體是否健康。然而，這些智能技術(shù)的使用就意味著智能系統(tǒng)掌握了個人的大量信息，甚至比自己更了解自己。這些數(shù)據(jù)如果使用得當(dāng)，可以提升人類的生活質(zhì)量，但如果出于商業(yè)目的非法使用某些私人信息，就會造成隱私侵犯。

2.云計算環(huán)節(jié)：因為云計算技術(shù)使用便捷、成本低廉，提供了基于共享池實現(xiàn)按需式資源使用的模式，許多公司和政府組織開始將AI大數(shù)據(jù)存儲至云上。將隱私信息存儲至云端后，這些信息就容易遭到各種威脅和攻擊。由于AI系統(tǒng)普遍對計算能力要求較高，目前在許多AI應(yīng)用中，云計算已經(jīng)被配置為主要架構(gòu)，因此在開發(fā)該類智能應(yīng)用時，云端隱私保護(hù)也是人們需要考慮的問題。

3.知識抽取環(huán)節(jié)：由數(shù)據(jù)到知識的抽取是人工智能的重要能力，知識抽取工具正在變得越來越強(qiáng)大，無數(shù)個看似不相關(guān)的數(shù)據(jù)片段可能被整合在一起，識別出個人行為特征甚至性格特征。例如，只要將網(wǎng)站瀏覽記錄、聊天內(nèi)容、購物過程和其他各類別記錄數(shù)據(jù)組合在一起，就可以勾勒出某人的行為軌跡，并可分析出個人偏好和行為習(xí)慣，從而進(jìn)一步預(yù)測出消費者的潛在需求，商家可提前為消費者提供必要的信息、產(chǎn)品或服務(wù)。但是，這些個性化定制過程又伴隨著對個人隱私的發(fā)現(xiàn)和曝光，如何規(guī)范隱私保護(hù)是需要與技術(shù)應(yīng)用同步考慮的一個問題。

應(yīng)對措施

面對著這些隱私風(fēng)險，面對著日益高漲的公眾訴求，政府和企業(yè)開始做出了一些實際行動。如亞馬遜、微軟、谷歌、IBM、Facebook和蘋果，聯(lián)合成立非營利性的人工智能合作組織“Partnership on AI”。該聯(lián)盟為開發(fā)AI系統(tǒng)的公司，提供了一個溝通平臺，讓各方在一些有可能對全人類，造成巨大損害的問題上，尋求共同點；微軟成立了AI倫理委員會“AETHER”，把全公司的產(chǎn)品部門、業(yè)務(wù)部門，還有更重要的法務(wù)部門集合在一起，以討論和解決AI相關(guān)問題；今年6月，谷歌CEO桑德爾·皮查伊（Sundar Pichai）發(fā)布了谷歌使用AI的七項原則，提出不會將AI用于監(jiān)視和收集信息，避免AI造成或加劇社會不公等。

在政府層面，5月25日，歐盟出臺了史上最嚴(yán)的公民隱私法案GDPR——《通用數(shù)據(jù)保護(hù)條例》，違規(guī)企業(yè)最高可能受到2000萬歐元或全球營業(yè)額4%的罰款；6月底，由公安部牽頭制定的《網(wǎng)絡(luò)安全等級保護(hù)條例》（以下簡稱“條例”）在網(wǎng)上發(fā)布，向社會征求意見，行業(yè)稱之為信息安全規(guī)范等保2.0版本。相比《信息安全等級保護(hù)管理辦法》，“條例”規(guī)范的領(lǐng)域更廣，不僅針對網(wǎng)絡(luò)和信息系統(tǒng)，還把云計算、大數(shù)據(jù)、物聯(lián)網(wǎng)、AI人工智能等新業(yè)態(tài)也納入了監(jiān)管。

結(jié)語

隨著技術(shù)的發(fā)展，AI在人們工作與生活中扮演著越來越多、越來越重要的角色，其所帶來的價值無疑是巨大的。例如，它可以大大提高工作效率，替代人們從事某些領(lǐng)域的重復(fù)、繁重或危險的工作，讓生活更輕松美好等。AI的發(fā)展離不開大數(shù)據(jù)，而數(shù)據(jù)在獲取分析應(yīng)用中，就存在著用戶隱私被泄露和被非法使用的風(fēng)險。如何保證數(shù)據(jù)不被泄露、如何在獲取數(shù)據(jù)的同時，利用協(xié)議、技術(shù)等手段告知和保證用戶的數(shù)據(jù)和隱私安全，盡量做到獲取和利用數(shù)據(jù)與安全的平衡才是關(guān)鍵。