胡靈芝

（浙江省杭州經濟技術開發(fā)區(qū)人民檢察院， 浙江 杭州 310018）

2018年浙江省紹興市公安機關破獲了全國首例利用人工智能技術實施的“特大侵犯公民個人信息案”，徹底搗毀了一個集盜取、販賣、利用個人信息實施詐騙的產業(yè)鏈，成功截留公民個人信息十億組，共抓獲173人，扣押追繳贓款600余萬。①格爾生活：《全國首例利用AI侵犯公民信息犯罪案告破，黑客破解驗證碼快至毫秒級》，http://k.sina.com.cn/article_6423164131_17ed9b4e3001003k3s.html，最后訪問時間：2019年6月4日14時33分。

該犯罪團伙主要是利用社交軟件冒充好友實施代付詐騙，偵查之初，從詐騙嫌疑人員電腦中發(fā)現了大量的公民個人信息，經過追查發(fā)現，這些公民個人信息系從一黑客團伙處低價購買所得。隨后一個名為“快啊”的打碼平臺浮出水面，該平臺在破解網站、平臺為防止黑客測試賬戶、密碼而設置的“驗證碼”環(huán)節(jié)，運用人工智能的深度學習來自主操作識別圖片驗證碼，輕松繞過互聯網公司設置的驗證碼，大大提升了黑客人員獲取公民個人信息的準確率和速度。

從這一犯罪團伙的作案手段可以發(fā)現，人工智能在獲取、破解網站平臺賬號、密碼等公民個人信息等犯罪鏈中起到了至關重要的作用，這是人工智能對法律與社會倫理的沖擊、對個人隱私的侵犯。2017年7月國務院印發(fā)的《新一代人工智能發(fā)展規(guī)劃》中將這種情況歸納為人工智能發(fā)展不確定性帶來的新挑戰(zhàn)。同時，該文件中也明確指出，人工智能是國際競爭中的新焦點，是經濟發(fā)展的新引擎，為社會發(fā)展帶來了新機遇。所以，人工智能是科技發(fā)展的新生物，且利弊共存于一體，我們絕不可因噎廢食，棄而遠之。筆者認為，應從技術和法律兩個層面認識人工智能，探析人工智能與公民個人信息保護之間的辯證關系，探索人工智能時代加強公民個人信息保護的途徑。

一、人工智能時代公民個人信息保護概述

（一）人工智能的概念及特點

對于大多數人而言，人工智能可能是出現在我們身邊的智能家電、無人駕駛汽車，還可能是出現在科幻影視劇中的超能機器人，但對人工智能這一術語的理解，還需從其概念及特點談起。

1.人工智能的概念

人工智能是Artificial Intelligence的中文譯稱，英文簡稱為AI，這一概念最早由約翰·麥卡錫（John McCarthy）在1956年提出，“是研究、開發(fā)用于模擬、延伸和擴展人的智能的理論、方法、技術及應用系統(tǒng)的一門新的技術科學。人工智能是計算機科學的一個分支，它企圖了解智能的實質，并生產出一種新的能以人類智能相仿的方式做出反應的智能機器，該領域的研究包括機器人、語言識別、圖像識別、自然語言處理和專家系統(tǒng)等?！边@是從技術層面對人工智能含義所作的界定，人工智能根據技術發(fā)展水平不同，又可以分為弱人工智能、強人工智能和超人工智能三種。

人工智能在法律層面也有相關研究，如華東政法大學刑法學教授劉憲權就認為，人工智能是指使機器像人一樣去完成某項任務的軟硬件技術。同時，劉教授還根據人工智能是否具有辨認能力和控制能力，將其分為弱人工智能和強人工智能兩類。①劉憲權：《人工智能時代的“內憂”“外患”與刑事責任》，https://www.sohu.com/a/215125849_786964，最后訪問時間：2019年6月1日14時37分。

通過對人工智能技術和法律兩個層面內涵及分類的研究，筆者認為，可以從結合技術和法律兩方面出發(fā)，將“人工智能”界定為，被科研人員賦予了與人類智能相仿的具有辨識和控制能力的技術產品。

2.人工智能的特點

從人工智能的上述概念中可以看出，人工智能包含以下幾個方面的特點：

第一，人工智能機體的無生命性。人工智能的本質是技術科學，而非具有生命意義的植物或者動物等生命體，因此，不能當然地認為人工智能如自然人一樣具有生命性。時下，包括知識產權法、民法、刑法在內，已有學者呼吁比照“法人”的法律擬制的主體設立原則，賦予人工智能法律責任主體地位，在特定的情況下由人工智能承擔起相應的法律權利和法律義務。這一探討對于人工智能未來的發(fā)展具有重要意義，但筆者認為，對人工智能法律主體資格的探討與人工智能機體本身的無生命性之間并不矛盾，無生命性仍是人工智能的一大特性。

第二，人工智能來源的人類性。人工智能雖然具有與人類智能相仿的智能，甚至在某些層面上擁有超越人類的智能，比如阿爾克戈（AlphaGo）戰(zhàn)勝圍棋世界冠軍李世石。但人工智能的智能并非自動生成的，其智能仍來源于設計者、研發(fā)者的技術賦予。引言中所述的“快吧”平臺上的智能軟件雖具有自主學習、積累的能力，但該能力來源于設計者的程序設計。因此，學界一些主流觀點認為，人工智能的設計、研發(fā)者應當對人工智能所實施的行為承擔相應的法律責任，依據即在于此。

第三，人工智能行為模式的類人性。人工智能最初產生的目的就是模擬人的行為、思維方式，從而延伸和擴展人的力所能及或者力所不能及的范圍，以幫助提高人類的認知和活動能力，所以，人工智能行為模式的類人性是人工智能設計者開發(fā)設計人工智能產品的目的性體現。如果人工智能失去了行為模式的類人性，其名稱中的“人工”二字便無從談起。

（二）人工智能時代公民個人信息的內涵和特點

我國雖然沒有專門的個人信息保護法，但對于網絡環(huán)境下公民個人信息保護的刑法規(guī)范在不斷完善之中。從2009年刑法修正案（七）到2015年刑法修正案（九）對公民個人信息犯罪罪名的增設到相關內容修改，再到“兩高”《關于辦理侵犯公民個人信息刑事案件適用法律若干問題的解釋》（以下簡稱《解釋》）對侵犯公民個人信息犯罪認定予以細化，公民個人信息的保護朝著規(guī)范化的方向發(fā)展。

《解釋》第一條就開門見山地對公民個人信息的概念做出明確規(guī)定，即“以電子或者其他方式記錄的能夠單獨或者與其他信息結合識別特定自然人身份或者反映特定自然人活動情況的各種信息，包括姓名、身份證件號碼、通信通訊聯系方式、住址、賬號密碼、財產狀況、行蹤軌跡等。”當人工智能技術介入公民個人信息的收集、使用和保護后，公民個人信息在收集、保存、使用環(huán)節(jié)中又有自身的一些新的特點，主要體現在以下方面：

第一，信息收集更具目的性和技術性。人工智能技術的最大優(yōu)勢即可根據研發(fā)設計者的需求，通過技術性手段，有針對性地抓取數據信息，從而使獲取的信息在數量和質量上達到預期效果。因此，通過人工智能技術獲取的公民個人信息具有先天的目的性和技術性，這是其得以產生的初衷所在。

第二，信息內容更具人身性和財產性。最具價值的公民個人信息無外于包含人身和財產內容的信息，通過人工智能技術獲得的公民個人信息也多為關乎網絡信息主體身份識別及賬戶財產安全的最隱私的內容，這便是人工智能時代公民個人信息具有人身性和財產性的原因所在。

第三，信息使用更具責任性和可罰性。因人工智能獲取的公民個人信息數量多，且有較強的人身性和財產性，所以掌握公民個人信息的主體在保管、使用和提供過程中需承擔更大的責任，故應嚴格按照法定及信息主體授權的范圍進行轉讓、共享或披露，如果實施了非法獲取或非法提供公民個人信息的行為，則應受到相應法律的懲罰。

二、人工智能技術與公民個人信息保護的關系

引言案例反映出人工智能技術成為了公民個人信息犯罪的“幫兇”，但人工智能與公民個人信息犯罪的關系僅限于消極對抗嗎？筆者認為，對于人工智能技術和公民個人信息保護的關系應辯證看待，首先需認清人工智能技術在公民個人信息保護中的中立性，進而才能分析人工智能時代公民個人信息保護的緊迫性和必要性。

（一）人工智能技術在公民個人信息保護中的中立性

人工智能與公民個人信息保護之間的關系歸根到底是科學技術與法律制度之間的關系問題?？茖W技術具有中立性，一項科學技術的產生、發(fā)展對法律制度而言，并不必然帶來消極影響。相反，科學技術是生產力發(fā)展的直接體現，而任何規(guī)則制度的產生都得益于生產力的發(fā)展，法律自然也不例外。①任婷婷：《法與科技之關系的全新解讀》，載《山西科技》2007年第5期，第66頁。概括而言，科技發(fā)展對法律制度完善的作用主要體現在三個方面：

第一，科技為法律提供技術支持。法律是一門開放性的社會科學，科技領域現有成果的融入，有利于提高法律的運行質量和效率，例如智能辦案系統(tǒng)的研發(fā)和運用。

第二，科技發(fā)展擴充了法律調整的社會關系內容。因科技發(fā)展導致了一些新型社會關系的產生，為更好地適應科技給社會生活帶來的變化，法律也增設了相關內容對這些新的社會關系予以調整，例如網絡安全方面法律規(guī)定的產生就是為了調整網絡環(huán)境下新生的社會關系。

第三，科技發(fā)展導致了法律制度的變遷。為適應其他因素帶來的社會環(huán)境的變化，一些法律方面的制度也在不斷更新之中，例如刑事訴訟法對于電子數據這一證據種類的羅列，以及學界對于人工智能主體地位的探討等。

從上述分析中，我們不難看出，科技自始自終保持著技術中立性的特點，對于法律制度發(fā)展的總體影響是積極的、向前的，但當其為不法分子所掌握和使用之后，就會誘發(fā)嚴重的消極后果。因此，可以概括而言，人工智能技術對公民個人信息的保護而言有兩方面的影響：一方面，人工智能技術為更快速、便捷地獲取公民個人信息提供了技術支持，另一方面，人工智能技術也在一定程度上被不法分子所獲取，用于實施違法犯罪行為，從而產生了侵犯公民個人信息以及其背后的個人人身及財產安全的違法犯罪行為。

（二）人工智能時代加強公民個人信息保護的緊迫性

在大數據的信息海洋中，我們通過網絡查詢、瀏覽自己需要的信息，同時也通過各種網絡平臺上發(fā)布信息，而各種平臺則通過人工智能技術對信息加以搜集、存儲和分析利用。在這個過程中，個人信息不可避免地被不法分子獲取和非法利用，我們每個人既可以是信息的使用者，也可以是信息的創(chuàng)造者，我們更肩負著信息的守護者的重任。雖然人工智能技術具有先天的中立性，但是，從現實情況來看，人工智能技術對于公民個人信息保護的巨大沖擊是客觀存在的，一定程度上助推了侵犯公民個人信息的行為。因此，加強公民個人信息保護極具迫切性，主要體現在以下三個方面：

第一，人工智能導致公民個人信息被侵犯數量大幅增加、被侵犯速度加快。公民個人信息被泄露或被非法提取并非人工智能時代才出現，泄露、非法獲取和出售公民個人信息的行為其實早有發(fā)生，且多發(fā)于傳統(tǒng)的金融、電信、交通、教育、醫(yī)療等具有先天優(yōu)勢合法獲取公民個人信息的行業(yè)中。這些領域獲取的一手公民個人信息一般都是在不斷積累客戶資源后形成的，其形成時間相對較長，且因領域限制，其信息總量也是有限的，但是，在人工智能技術被用于公民個人信息的獲取、泄露等行為之后，數量巨大的公民個人信息可能僅因黑客侵入而在瞬間被獲取，其獲取速度之快、信息量之大是傳統(tǒng)非人工智能手段方式獲取公民個人信息所無法相比的。引言案件中，人工智能對非法獲取公民個人信息的犯罪行為來說如虎添翼，不僅大大提升了破解獲取平臺用戶賬號、密碼等公民個人信息的速度，而且也使被非法獲取的公民個人信息的真實性和準確性得以強化。

第二，人工智能導致現有網絡平臺公民個人信息安全度降低。網絡技術的快速發(fā)展，最大限度地解放了人們的生活方式，使得人們的生活更簡單易行，但同時，越來越多的個人信息也不可避免留在了網絡平臺上，如常見的網購APP、外賣APP上個人姓名、電話、收貨地址等，這些信息的真實性、準確性、即時性極高，均為信息時代個人最重要的信息內容。設想一下，如果有不法分子通過人工智能技術匹配獲取該些后臺數據，之后該些數據信息被不法轉讓和利用，其后果之嚴重性可想而知。引言案例中所述的巨大涉案金額只是公民個人信息被侵犯后果的冰山一角。

第三，人工智能導致公民個人信息泄露后其他關聯犯罪多發(fā)。純粹的公民個人信息對于他人而言其實并無太大利用價值，所以實際案例中，以購買、交換、出售、泄露等非法方式獲取和提供公民個人信息之人的目的并不單純。近年來備受人們痛恨、公檢法常打不懈的電信詐騙案件中，非法獲取的公民個人信息就體現出了重要價值。嫌疑人均根據非法獲取的公民個人信息聯系被害人，被害人多因對自身信息真實性的信任而放松了對于嫌疑人的警惕，并基于錯誤認識而處分財產，使嫌疑人的詐騙目的得逞。山東女大學生徐玉玉因個人教育信息等被泄露遭遇電信詐騙身亡案、甘肅某鄉(xiāng)村教師遭遇電信詐騙自殺案、清華大學教師因購買房產的交易信息被泄露遭遇電信詐騙1700萬等案件都是個人信息泄露的鮮活教訓。除此之外，侵犯公民個人信息犯罪還與搶劫、綁架、非法拘禁、敲詐勒索等暴力犯罪以及盜竊、信用卡詐騙等財產犯罪聯系緊密。①鄧漫銀：《侵犯公民個人信息犯罪之現狀》，http://blog.sina.com.cn/s/blog_15e18e8100102wyjc.html，最后訪問時間：2019年6月4日14時45分。目前，以侵犯公民個人信息為中心的犯罪產業(yè)鏈初步成型，對公民合法權益以及社會信任造成了嚴重危害。

三、人工智能時代公民個人信息保護的應對舉措

人工智能技術的發(fā)展是大勢所趨，但人工智能技術如被不法分子利用，對公民個人信息保護帶來的消極影響是不可估量的。所以，人工智能時代，防范侵犯公民個人信息犯罪、維護公民個人信息安全，任重道遠。當下，應多管齊下，在強化公民自我保護意識、打擊關聯犯罪、利用技術手段防范和完善法律制度保障等四個方面進一步努力，共同實現人工智能時代公民個人信息的合理利用和保護。

（一）強化公民自保意識

面對人工智能技術發(fā)展給公民個人信息帶來的重大侵害，公安司法部門作為違法犯罪行為的打擊主體，應通過宣傳幫助公民不斷增強個人信息的自我保護意識。公民自身是個人信息保護的重要主體，要構筑起公民個人信息保護的有效屏障，必須做到以下兩點：一方面，增強公民個人自身安全意識。如盡量不瀏覽、登錄一些不可信的網站，必須登錄時，盡量不要提交或者留下個人信息，如必須填寫或注冊網絡賬號時，如無特殊身份驗證需求，應盡可能避免使用真實姓名、詳細住址等信息，以避免被釣魚網站騙取個人信息。另外，除特殊情況外盡可能不連接公共場所免費WIFI，不掃可疑二維碼，不下載非官方應用的APP。另一方面，引導公民在發(fā)現信息泄露時及時提供案件線索。當公民在日常生活中接到一些能確定自己身份信息的推銷電話或者可疑電話時，應提高警惕，必要時及時報警，以幫助偵查機關發(fā)現案件線索，如不幸發(fā)生了錢款被騙等情況則應及時止損，防止損失進一步擴大，盡快制止犯罪，以避免犯罪分子利用非法獲取的公民個人信息實施其他犯罪。

（二）強化打擊關聯犯罪

利用人工智能技術獲取的公民個人信息一般是其他下游犯罪的前端行為，上游非法獲取的公民個人信息主要被用于下游的電信詐騙、綁架、敲詐勒索等犯罪目的。因此，偵查機關在發(fā)現電信詐騙、綁架等下游犯罪線索之后，應高度重視，利用個案分析和類案比較的方式對案情信息進行整合，發(fā)現偵查突破口，利用偵查手段順藤摸瓜，探尋相關案件中公民個人信息的來源，以拔出整個犯罪鏈條，嚴厲打擊侵犯公民個人信息的犯罪。另外，當接到一些公民個人信息被侵犯的違法犯罪線索后，偵查機關應高度重視，深挖涉案公民個人信息的去向和用途，以便及時控制、阻止下游電信詐騙等犯罪行為的發(fā)生。

（三）強化技術防范手段

俗話說“魔高一尺，道高一丈”。以技術手段來應對違法犯罪技術不失為一項良策。就如騰訊安全專家周正所述，互聯網行業(yè)的安全防范主要是對抗有規(guī)律、有特點的惡意行為，對抗這種有深度學習能力的人工智能犯罪，有必要提升防范等級，增加多維度的安全驗證環(huán)節(jié)。比如，登錄時使用字符型驗證碼，二次登錄用短信或郵件驗證，輔助以滑塊解鎖等方式，“對抗不斷升級的入侵攻擊，提高犯罪門檻，強化動態(tài)機制，是互聯網安全行業(yè)一直在做的事情。”①劉甦：《人工智能犯罪細節(jié)首次披露：你的個人信息是這樣被破解的》，載《財經雜志》2017年10月30日版。而公安機關在利用技術防范措施方面不斷探索，有報道稱公安部在防止公民個人信息泄露方面，將電子身份標識載入手機卡。這項電子身份標識（簡稱eID）是以密碼技術為基礎、以智能安全芯片為載體的網絡身份標識，能夠在不泄露身份的前提下在線遠程識別身份。②《身份證將迎大變革：電子身份標識讓你安全“隱身”》，http://www.chinaz.com/news/2017/0926/807994.shtml，訪問時間：2019年5月4日14時7分。所以，隨著技術防范手段的升級、推廣，技術隔離防護網的構建將在一定程度上為保護公民個人信息筑起技術圍墻。

（四）強化法律保護屏障

為了打擊和懲治侵犯公民個人信息犯罪，《刑法》以及最高人民法院、最高人民檢察院《關于辦理侵犯公民個人信息刑事案件適用法律若干問題的解釋》中根據情節(jié)輕重對各類侵犯公民個人信息行為作出了相應的處罰規(guī)定。而從侵犯公民個人信息的現狀來看，該類案件一直處于“野火燒不盡，春風吹又生”的狀況，嚴重影響了社會經濟發(fā)展和不特定廣大人民財產安全。通過個案處理追責打擊，往往難以應對現有公民個人信息受侵害的嚴峻形勢，所以，只有從類案中總結經驗教訓，再從源頭上采取治理措施，才能最大限度地保護公民個人信息。根據我們現有制度設計，筆者認為，適時將侵犯公民個人信息行為納入公益訴訟制度范疇，通過檢察機關介入追責的方式，賦予公民個人信息在法律上更大的保護空間。從理論上看，這一做法具有一定的合理性和必要性，是建立全方位公民個人信息保護法律制度的有效途徑。