錢世超

AI技術(shù)的大量采用存在法律風(fēng)險(xiǎn)

在AI應(yīng)用中有效保護(hù)個(gè)人隱私

所謂AI，就是研究、開發(fā)用于模擬、延伸和擴(kuò)展人的智能的理論、方法、技術(shù)及應(yīng)用系統(tǒng)的一門科學(xué)。其主要應(yīng)用領(lǐng)域包括：機(jī)器視覺、指紋識(shí)別、人臉識(shí)別、視網(wǎng)膜識(shí)別、掌紋識(shí)別、專家系統(tǒng)、自動(dòng)規(guī)劃等。

中國(guó)很重視AI的研究與應(yīng)用，目前已將其上升為優(yōu)先發(fā)展戰(zhàn)略，初步確立了AI發(fā)展的領(lǐng)先地區(qū)，例如上海。中國(guó)的幾個(gè)特大城市，在計(jì)算機(jī)視覺、語音語義識(shí)別、腦智工程等領(lǐng)域都有了深入的研究和應(yīng)用。

如果是在5年前，人們或許不會(huì)對(duì)自己的個(gè)人信息如此敏感。但在AI技術(shù)被廣泛應(yīng)用于個(gè)人信息的采集、存儲(chǔ)和應(yīng)用后，例如人臉特征、指紋特征被用于電子支付、身份認(rèn)證等，使得個(gè)人特征信息變得比貨幣更為重要。如今，人們通過網(wǎng)絡(luò)上傳一張自己的照片，在無濾鏡、無修改的情況下，都難免會(huì)有所顧慮——如果這些信息被所謂的“數(shù)據(jù)采集公司”收集并泄露，其風(fēng)險(xiǎn)之大是令人難以預(yù)估的。

目前，AI不僅已經(jīng)在工業(yè)領(lǐng)域有了廣泛的應(yīng)用，而且開始在社會(huì)管理中得到廣泛應(yīng)用。有些應(yīng)用是在人們不知不覺中進(jìn)行的。這些應(yīng)用確實(shí)方便了社會(huì)管理，但由此引發(fā)的個(gè)人特征信息泄露、隱私泄露問題也令人擔(dān)憂。比如由于指紋識(shí)別技術(shù)的應(yīng)用，很多手機(jī)在其功能實(shí)現(xiàn)的過程中廣泛采集個(gè)人指紋;銀行也會(huì)采集個(gè)人指紋;某些區(qū)域、機(jī)構(gòu)（例如旅游景點(diǎn)）則利用指紋進(jìn)行身份識(shí)別。

指紋是每個(gè)人不可更改的終身識(shí)別信息，這種信息被技術(shù)系統(tǒng)采集后，如何保管、如何防止泄露，值得我們好好思考。目前手機(jī)幾乎覆蓋了所有的人群，采集指紋已經(jīng)是一種非常普遍的現(xiàn)象，這會(huì)派生出一個(gè)巨大的指紋數(shù)據(jù)庫(kù)，如果沒有采取嚴(yán)格的管理措施和保護(hù)措施，一旦有信息泄露，其后果難以想象。

再比如人臉特征識(shí)別技術(shù)，現(xiàn)在已經(jīng)被廣泛應(yīng)用于銀行、機(jī)場(chǎng)、海關(guān)、交通管理甚至居民區(qū)管理等領(lǐng)域。AI系統(tǒng)采集的人臉特征信息如何保管、如何防止泄露，也是值得我們思考并盡快采取措施加以應(yīng)對(duì)的重要問題。

還有手機(jī)定位功能，它可以將每個(gè)人的活動(dòng)軌跡準(zhǔn)確定位和記錄，這些信息明顯屬于個(gè)人隱私，一旦泄露并掌握在某些有不良企圖的人手中，將會(huì)對(duì)個(gè)人的人身、財(cái)產(chǎn)及隱私安全造成嚴(yán)重后果。

將AI作為重點(diǎn)發(fā)展方向，這個(gè)決策是十分正確的。但在AI的開發(fā)及應(yīng)用方面，一定要考慮如何防止個(gè)人信息泄露、如何有效保護(hù)個(gè)人隱私以及如何保護(hù)每個(gè)人的尊嚴(yán)。這些問題如果不及時(shí)考慮并采取措施應(yīng)對(duì)，將會(huì)產(chǎn)生難以想象的后果，于國(guó)于民都會(huì)造成巨大損失。

避免造成“透明人”的幾點(diǎn)建議

AI技術(shù)如果應(yīng)用得好，定會(huì)造福國(guó)家與社會(huì)，但涉及個(gè)人隱私的大數(shù)據(jù)一旦泄露，每個(gè)人都有變成“透明人”的危險(xiǎn)，感到自己好像“赤裸于這個(gè)世界”。這既傷害個(gè)人尊嚴(yán)，同時(shí)也會(huì)給不法者以可乘之機(jī)，對(duì)國(guó)家和社會(huì)產(chǎn)生危害。

人們生活在高科技加持的城市中，一定要有安全感。如果有人感到自己是“透明人”，時(shí)刻都處在別人的監(jiān)視之下，那么自然很難有安全感。因此，我們建議在AI技術(shù)應(yīng)用領(lǐng)域，一定要將個(gè)人的尊嚴(yán)感和安全感放在重要位置，絕不能因?yàn)楸阌诔鞘泄芾矶鵂奚鼈€(gè)人的隱私權(quán)益。因此，AI技術(shù)中的定位、人臉特征識(shí)別、指紋識(shí)別等技術(shù)，一定要慎用。

我們建議政府加快解決AI時(shí)代存在的個(gè)人信息泄露問題，及時(shí)制定出臺(tái)相關(guān)規(guī)定，嚴(yán)格限制對(duì)個(gè)人信息進(jìn)行采集的單位、行業(yè)和采集方法，建立個(gè)人特征信息采集的許可制度，規(guī)定哪些單位和行業(yè)是可以采集個(gè)人信息的，哪些單位和行業(yè)是不被允許的，并嚴(yán)格執(zhí)行，一旦發(fā)現(xiàn)違規(guī)采集者，就給予嚴(yán)厲處罰。

建議政府盡快采取措施，制定對(duì)個(gè)人信息實(shí)施保護(hù)的方法，制定嚴(yán)格的防泄露措施和使用規(guī)范，明確規(guī)定哪些社會(huì)管理領(lǐng)域可以應(yīng)用個(gè)人特征信息，哪些領(lǐng)域不能使用這類信息。絕不能讓個(gè)人信息的應(yīng)用遍地開花，絕不能為了不必要的高效率而放任對(duì)個(gè)人信息的濫用。防止個(gè)人信息的泄露，保護(hù)好每個(gè)人的隱私和尊嚴(yán)。

特別建議城市交通管理領(lǐng)域，不要輕易采用人臉特征識(shí)別技術(shù)，因?yàn)橐坏┎捎茫此瓶梢宰屵@個(gè)城市的每個(gè)人快速形成規(guī)范的交通意識(shí)，但這將使每個(gè)人感覺自己處在監(jiān)視之下，處于“透明狀態(tài)”，這有一定的危險(xiǎn)。培養(yǎng)交通守法意識(shí)，最終靠的是每個(gè)人文明程度的提升，而不能只依賴技術(shù)手段進(jìn)行約束。

我們還希望能夠有專門針對(duì)人臉識(shí)別領(lǐng)域的規(guī)范條例出臺(tái)。雖然我國(guó)《網(wǎng)絡(luò)安全法》明確將個(gè)人生物特征信息納入個(gè)人信息范圍，但對(duì)于信息的使用、存儲(chǔ)、傳輸、管理仍要進(jìn)一步細(xì)化。很多人就此呼吁，相關(guān)部門應(yīng)組織專家學(xué)者，對(duì)人臉識(shí)別技術(shù)在現(xiàn)實(shí)運(yùn)用中的安全隱患、隱私風(fēng)險(xiǎn)等予以評(píng)估，建立行業(yè)標(biāo)準(zhǔn)和國(guó)家標(biāo)準(zhǔn);探討建立相應(yīng)的監(jiān)管制度乃至立法，規(guī)范人臉識(shí)別的信息采集與運(yùn)用程序和隱私邊界。比如，哪些領(lǐng)域可運(yùn)用人臉識(shí)別技術(shù)，哪些領(lǐng)域禁止運(yùn)用，該如何保障公眾的知情權(quán)、選擇權(quán)、同意權(quán)與信息安全，若有個(gè)人信息遭到泄露，如何予以應(yīng)對(duì)和懲處。

關(guān)于AI時(shí)代公民個(gè)人信息的保護(hù)，可以從兩個(gè)方面考慮：一是對(duì)于公民自身來說，我們不能對(duì)其期望太高，不能把責(zé)任完全壓在公民個(gè)人身上。在這方面，加強(qiáng)宣傳不僅很重要，而且也很急迫。

在一些與個(gè)人信息泄露有關(guān)的案件中，犯罪嫌疑人對(duì)侵犯公民個(gè)人信息的行為并沒有充分認(rèn)識(shí)，甚至完全沒有概念。因此，司法機(jī)關(guān)和媒體需要進(jìn)行宣傳，以避免或減少此類事件的發(fā)生。司法機(jī)關(guān)在辦案中可以通過檢察建議、司法建議等方式，從法律角度向公眾提示風(fēng)險(xiǎn);可以通過新聞發(fā)布會(huì)或發(fā)布案例等方式，面向社會(huì)加大宣傳力度。此外，長(zhǎng)效的防范還要依靠社會(huì)公眾一起參與，這是預(yù)防的重點(diǎn)。當(dāng)前，民眾對(duì)于個(gè)人信息保護(hù)的意識(shí)還比較薄弱，要加強(qiáng)這方面的宣傳、教育和引導(dǎo)。

二是要對(duì)行業(yè)進(jìn)行有效的規(guī)范。相關(guān)行業(yè)往往可以便捷且大量地獲取公民的個(gè)人信息，AI加持的高科技手段加劇了這一狀況，使行業(yè)企業(yè)成為信息的主要泄露源。因此，要充分管緊并抓好行業(yè)規(guī)范這個(gè)重點(diǎn)。目前一些網(wǎng)絡(luò)違法犯罪的防范，并不專門針對(duì)侵犯公民個(gè)人信息罪或網(wǎng)絡(luò)詐騙罪，而是一個(gè)體系化、全面化的防范體系。

公民個(gè)人信息涉及社會(huì)的方方面面，公檢法機(jī)關(guān)固然要發(fā)揮重要作用，但其根源還在于行業(yè)規(guī)范的成熟和完備，以及行業(yè)協(xié)會(huì)的監(jiān)管和預(yù)防。這當(dāng)中少不了運(yùn)營(yíng)商、金融機(jī)構(gòu)、銀行以及相關(guān)的互聯(lián)網(wǎng)行業(yè)協(xié)會(huì)、互聯(lián)網(wǎng)頭部企業(yè)等的參與。首先要想辦法將內(nèi)部的防范體系建好，把數(shù)據(jù)資源的出口守好;其次，行業(yè)內(nèi)部的從業(yè)人員，從其入職培訓(xùn)開始就要加強(qiáng)信息保護(hù)意識(shí)的培養(yǎng)。