沈國琴，齊小力

（中國人民公安大學 法學院，北京 100038）

當前，人工智能預(yù)測開始進入社會各個領(lǐng)域，日常生活中無人能避開的“精準推送”可以說就是人工智能預(yù)測的直接產(chǎn)物。人工智能預(yù)測同樣吸引著政府，“能處理海量數(shù)據(jù)的智能計算機給政府提供了一種全新的革命性工具”[1]。智慧政務(wù)、智慧司法、智慧警務(wù)的“智慧”中無不包含人工智能預(yù)測的內(nèi)容。其中，智慧警務(wù)對于人工智能預(yù)測有更多的期待。隨著恐怖主義、極端主義的全球威脅，社會風險因素增多，提前預(yù)測、預(yù)知違法犯罪行為，從而預(yù)警并進行先期控制，是各國警察部門所普遍期望的。因此，很多國家警察部門開始嘗試使用人工智能預(yù)測警務(wù)，如美國不少警察部門使用PredPol軟件、Hunchlab軟件，英國達勒姆警察部門使用HART工具，丹麥警察部門使用POLINTEL平臺等預(yù)測警情。我國智慧公安的建設(shè)中也包含通過人工智能進行警務(wù)預(yù)測的內(nèi)容，如2013年北京市公安局懷柔分局開始運行“犯罪數(shù)據(jù)分析和趨勢預(yù)測系統(tǒng)”[2]；廣東公安機關(guān)構(gòu)建的“13847”框架模式①“13847”框架模式的具體內(nèi)容是：一個愿景；三步戰(zhàn)略；八大創(chuàng)新應(yīng)用，即智慧新指揮、智慧新管控、智慧新偵查、智慧新防控、智慧新交管、智慧新監(jiān)管、智慧新民生、智慧新警隊；四大賦能工程，即大數(shù)據(jù)工程、警務(wù)云工程、視頻云工程、云網(wǎng)端工程以及北斗七星計劃。參見《廣東公安智慧新警務(wù)總體規(guī)劃解讀》（https：//www.sohu.com/a/228039416_119778）。中包含“智慧新防控”的內(nèi)容，溫州公安機關(guān)構(gòu)建的“1+5+15+N”模式②“1+5+15+N”模式所指向的內(nèi)容為：“1”是溫州市公安局“云上公安·在線警務(wù)”實戰(zhàn)中心，“5”是聯(lián)合指揮部、情報預(yù)警部、合成作戰(zhàn)部、信息支撐部、綜合協(xié)調(diào)部五大功能板塊；“15”是五大功能板塊下的十五個分區(qū)；“N”是“云上公安，在線警務(wù)”實戰(zhàn)分中心、“云上公安，在線警務(wù)”實戰(zhàn)子中心等。參見溫州市公安局課題組《構(gòu)建立體化信息化精準化社會治安防控體系》一文，載《浙江警察學院學報》2019年第3期。中也有“情報預(yù)警部”的建設(shè)，等等。黨的十九屆四中全會提出“完善社會治安防控體系”的目標，要求“堅持專群結(jié)合、群防群治，提高社會治安立體化、法治化、專業(yè)化、智能化水平……提高預(yù)測預(yù)警預(yù)防各類風險能力，增強社會治安防控的整體性、協(xié)同性、精準性”[3]。從中可以看出，智能化與提高預(yù)測預(yù)警預(yù)防各類風險能力被關(guān)聯(lián)在了一起。

對于預(yù)防違法犯罪的警務(wù)工作而言，技術(shù)賦能的預(yù)測警務(wù)具有現(xiàn)實意義，“能夠使警務(wù)活動更有效率、更為精確”[4]。但與此同時，預(yù)測警務(wù)也面臨諸多質(zhì)疑。一方面，學界對預(yù)測警務(wù)的技術(shù)前景有不同的聲音。有學者指出，“預(yù)測警務(wù)這個概念從誕生起就受到犯罪預(yù)測的可能性及其精確度的爭議與質(zhì)疑”[5]。很多要素無法預(yù)測，其中“如不少刑事案件中犯罪者的動機和目的”[6]。另一方面，人們對預(yù)測警務(wù)可能會帶來的道德、倫理、法律等方面的問題充滿憂慮，“基于大數(shù)據(jù)的警務(wù)預(yù)測難以避免會引發(fā)道德、倫理、法律等方面的沖突”[7]。這些憂慮是值得關(guān)注的，因為只有保持必要的理性認識和批判才能避免技術(shù)為惡的結(jié)果。其中尤其值得關(guān)注的是法律風險問題。法律是人類發(fā)展歷程中所形成的行為底線標準。警察權(quán)是重要的執(zhí)法權(quán)力形式之一，其必須遵守依法執(zhí)法的基本要求。因此，及時認識人工智能嵌入預(yù)測警務(wù)所存在的法律風險，并在此基礎(chǔ)上找到預(yù)防和化解風險的措施與方法是迫切且重要的。

一、人工智能嵌入預(yù)測警務(wù)中警察權(quán)運行邏輯的轉(zhuǎn)變

關(guān)于預(yù)測警務(wù)的概念，一般認為是基于概率統(tǒng)計方法形成的預(yù)判。2013年美國蘭德公司曾撰寫題為《預(yù)測警務(wù)——犯罪預(yù)測在執(zhí)法機構(gòu)業(yè)務(wù)運作中的角色》的研究報告，其中將預(yù)測警務(wù)界定為“通過應(yīng)用分析技術(shù)，特別是量化分析技術(shù)，實現(xiàn)統(tǒng)計預(yù)測，為警察干預(yù)、預(yù)防犯罪或者解決已發(fā)犯罪提供可能的目標”[8]。這一概念符合人工智能技術(shù)嵌入預(yù)測警務(wù)的發(fā)展方向，強調(diào)警務(wù)預(yù)測基于大數(shù)據(jù)統(tǒng)計而形成。人工智能與預(yù)測警務(wù)相結(jié)合使得警察權(quán)運行邏輯較之前有了很大的差別。這是理解人工智能預(yù)測警務(wù)中存在法律風險的前提。

（一）從側(cè)重經(jīng)驗推斷到依賴數(shù)據(jù)計算

人工智能技術(shù)運用于警務(wù)活動之前，預(yù)測警務(wù)建立在小樣本數(shù)據(jù)基礎(chǔ)之上，概率統(tǒng)計方法難以發(fā)揮作用。這往往導(dǎo)致警務(wù)預(yù)測在很大程度上依據(jù)經(jīng)驗進行推斷，“警務(wù)運行的質(zhì)態(tài)或工作生態(tài)主要表現(xiàn)為警務(wù)工作判斷、決策中具有明顯的經(jīng)驗慣性，太過依賴于以前的警務(wù)經(jīng)驗積累和警務(wù)慣性思維，即經(jīng)驗型警務(wù)”[9]。而經(jīng)驗型預(yù)測的最大困境是過于依賴特定的個人，富有經(jīng)驗者與缺乏經(jīng)驗者之間差距非常明顯。而即使是富有經(jīng)驗者，也存在很多難以克服的局限性，如受制于自身主觀性和有限理性等問題。

人工智能的出現(xiàn)則使警務(wù)預(yù)測可以在大樣本數(shù)據(jù)的基礎(chǔ)上通過概率統(tǒng)計的方式運行，“讓數(shù)據(jù)發(fā)聲，運用大數(shù)據(jù)開展情報分析進而合理調(diào)配警力資源的預(yù)測警務(wù)，是預(yù)防和打擊違法犯罪、保障社會公共安全、解決當下警力資源不足的新思路”[10]。人工智能預(yù)測警務(wù)依賴于大數(shù)據(jù)的采集和基于大數(shù)據(jù)的智能算法。隨著人工智能技術(shù)的不斷推進，大數(shù)據(jù)的采集涵蓋的領(lǐng)域越來越廣，采集的渠道越來越多，包括“圖像（含人像模型）、視頻、RFID、GPS、DNA、指紋等。數(shù)據(jù)的采集可通過移動互聯(lián)網(wǎng)、物聯(lián)網(wǎng)傳感等技術(shù)來進行智能化的多方位立體采集”[11]。海量數(shù)據(jù)在人工智能算法的框架內(nèi)開始變得有生命力，“將來源不同的數(shù)據(jù)篩選和綜合碰撞在一起，進一步生產(chǎn)出新的具有實際意義的相關(guān)犯罪信息”[12]。從整個人工智能預(yù)測警務(wù)的流程來看，從采集形成海量的結(jié)構(gòu)化和非結(jié)構(gòu)化數(shù)據(jù)開始，到通過智能化技術(shù)進行數(shù)據(jù)挖掘、比對、分析，再到數(shù)據(jù)畫像、繪制犯罪熱點地圖，可以發(fā)現(xiàn)通過“數(shù)據(jù)驅(qū)動”而形成“數(shù)據(jù)計算”是人工智能預(yù)測警務(wù)的主線。人工智能警務(wù)預(yù)測使得很多看似不相關(guān)的數(shù)據(jù)信息聯(lián)系在了一起，完成了大量人腦無法完成的任務(wù)。與經(jīng)驗推斷相比，數(shù)據(jù)推算擺脫了對具體的有經(jīng)驗的個人的依賴，克服了因為選擇性記憶、個人偏好等原因而產(chǎn)生的主觀性問題，也在很大程度上克服了人的有限理性問題。

（二）從因果關(guān)系歸責到相關(guān)關(guān)系預(yù)判

警務(wù)活動的核心任務(wù)是維護公共安全和秩序，不可避免地涉及對違法、犯罪行為進行制止、懲戒的強制性權(quán)力的使用。在已形成的法律追責體系中，警察權(quán)對違法、犯罪行為的追懲往往遵循因果關(guān)系法則，要求違法、犯罪行為與產(chǎn)生的危害后果之間必須存在因果關(guān)系。盡管對于法律上的因果關(guān)系如何理解、其要素包括哪些等問題長期以來一直頗有爭議[13]，但法律責任必須基于“因果關(guān)系”的觀點卻不曾改變，屬于基本共識。

人工智能預(yù)測警務(wù)從根本上改變了懲戒違法犯罪行為的認知模式，算法決策基于建模計算和數(shù)理邏輯，這樣就在決策系統(tǒng)中改寫了知識邏輯，實現(xiàn)了數(shù)理邏輯的加持。此時，人們“不再熱衷于尋找因果關(guān)系”[14]。關(guān)于違法犯罪的歸責模式開始從“因果關(guān)系歸責”模式向“相關(guān)關(guān)系預(yù)判”模式轉(zhuǎn)變?？赡茈S著強人工智能的出現(xiàn)，弱人工智能的“相關(guān)關(guān)系”特點會向“因果關(guān)系”方向轉(zhuǎn)變，“在強人工智能證成中，圖靈獎獲得者朱迪亞·珀爾（J.Pearl）的因果推斷理論是最具特色的理論”[15]。但是，就現(xiàn)有的人工智能發(fā)展水平來看，人工智能預(yù)測警務(wù)仍然只能采用具有“相關(guān)關(guān)系”特點的弱人工智能。

與弱人工智能相結(jié)合的預(yù)測警務(wù)一般被應(yīng)用于違法犯罪熱點的預(yù)判和具體的違法犯罪人或受害人的預(yù)判。就違法犯罪熱點預(yù)判而言，其主要是對違法犯罪風險高發(fā)地區(qū)的概率推測，“對過去犯罪數(shù)據(jù)中的模式和相關(guān)性進行識別和分析，預(yù)測發(fā)生犯罪概率較高的時間和地點，并將警力部署到可能發(fā)生犯罪的地區(qū)”[16]。而就具體的違法犯罪人或受害人的預(yù)判而言，則指向明確具體的個體，“通過智能技術(shù)分析過去犯罪活動的社交網(wǎng)絡(luò)，使用機器學習和算法來識別可能的肇事者或受害者”[17]。通過人工智能預(yù)測警情無疑對警察權(quán)運行產(chǎn)生巨大影響。當獲得對違法犯罪風險較高的地區(qū)和時間節(jié)點的預(yù)判結(jié)果時，就可提前部署警力，預(yù)防違法犯罪行為的出現(xiàn)；當獲得對違法犯罪人的預(yù)判結(jié)果時，就可提前介入避免違法犯罪人犯罪?？梢钥闯?，無論是哪種預(yù)判，都是以統(tǒng)計模式為基礎(chǔ)而形成的算法，通過大數(shù)據(jù)運算而計算出的結(jié)果。從這一過程可知，通過計算所形成的結(jié)果實際上是一種概率上的可能性，是一種不確定性。這意味著對警情的預(yù)測只是基于算法而形成的推算結(jié)果而已，至于是否會發(fā)生，則可能會有正相變化，也可能會有負相變化。

（三）從權(quán)力符號外顯到權(quán)力的技術(shù)化內(nèi)置

警察權(quán)的設(shè)置是一個社會公共安全秩序的基本保障。警察被視為街頭官僚，其常常通過權(quán)力符號外顯達到向社會展示權(quán)威的目的。著警服出現(xiàn)于公眾面前，且佩戴警械、武器等都是權(quán)力符號外顯的具體表現(xiàn)。警察的權(quán)力符號外顯具有“勸說”社會公眾自愿服從并配合警務(wù)活動的作用，也隱含“威懾”和“強制性”作用，意味著警察可以使用強制手段處置違法犯罪行為，使失序的社會狀況回歸正常。見警率一度是城市安全的重要標識。人工智能的介入改變了警察權(quán)權(quán)力符號外顯的運行邏輯，警察權(quán)越來越多地被內(nèi)置在人工智能技術(shù)之中?！肮矙?quán)力部門則在智慧政務(wù)、智慧司法、智慧檢務(wù)的戰(zhàn)略目標下，把網(wǎng)絡(luò)技術(shù)、數(shù)字技術(shù)和人工智能技術(shù)作為一種技術(shù)賦能，在其權(quán)力運作過程中加以日益廣泛和深入地應(yīng)用，如智能監(jiān)控、人臉識別、智能輔助辦案系統(tǒng)等，這些算法決策和代碼規(guī)制便形成了權(quán)力技術(shù)化的態(tài)勢。”[18]公共場所智能監(jiān)控、人臉識別、GPS定位等智能技術(shù)正在取代警察的到場，人們往往看不到警察，但卻能感覺到無所不在的權(quán)力“在場”。警察權(quán)無需在場就能完成信息的收集，并且這些信息與警方數(shù)據(jù)庫中已經(jīng)采集到的身份證、車牌號碼、違法犯罪記錄等各種信息比對、碰撞，關(guān)于個人的立體畫像就得以形成?！奥胤e累所有數(shù)據(jù)，直至在計算機數(shù)據(jù)庫中形成一個‘人’”[19]。在警察權(quán)面前，人成為立體透明的，甚至個人未來發(fā)生違法犯罪的概率也一并被計算了出來。

在人工智能與警務(wù)相結(jié)合的場景中，警察權(quán)運行邏輯發(fā)生變化的同時，也帶來了與社會公眾之間關(guān)系的改變。警察權(quán)符號外顯的目的是減少對抗，強化相對人的服從及社會公眾的配合。但當人工智能介入時，關(guān)于服從及配合的討論便失去了意義，因為無論服從與否、配合與否，個人的行為及其軌跡均可以一覽無遺地進入公權(quán)力監(jiān)視的范圍之內(nèi)；無論服從與否、配合與否，算法已預(yù)設(shè)，代碼已生成，關(guān)于個人行為的預(yù)測，以及針對預(yù)測應(yīng)采取何種措施的預(yù)判在悄悄地做出。不必見警，警察就在身邊，警察權(quán)已內(nèi)置在技術(shù)之中，這是人工智能預(yù)測警務(wù)的真實寫照。

二、預(yù)測警務(wù)中人工智能嵌入存在的法律風險

人工智能預(yù)測警務(wù)蘊含了警察權(quán)運行邏輯的巨大變化。這套新的邏輯背后隱藏著諸多法律風險，對此必須給予必要的關(guān)注。

（一）個人權(quán)利被侵害的隱憂

人工智能預(yù)測警務(wù)運行的基礎(chǔ)在于數(shù)據(jù)，“數(shù)據(jù)猶如‘智慧公安’的‘血液’，是‘智慧公安’中最基本、最重要的因素，影響和決定了‘智慧公安’的效用”[20]。數(shù)據(jù)的重要性已為人所共知，不言而喻。但數(shù)據(jù)收集、處理過程卻暗藏著侵害個人權(quán)利的風險。

人工智能預(yù)測警務(wù)的數(shù)據(jù)收集和處理的過程中，易受到侵害的權(quán)利主要有“信息權(quán)益”和“個人隱私權(quán)”。這兩類權(quán)利雖然在《中華人民共和國憲法》（以下簡稱《憲法》）中尚沒有明確規(guī)定，但是從憲法教義學的角度分析，《憲法》第三十八條關(guān)于公民人格尊嚴的規(guī)定、第三十九條關(guān)于住宅權(quán)的規(guī)定、第四十條關(guān)于通信自由和通信秘密的規(guī)定中包含有信息權(quán)益和隱私權(quán)的內(nèi)容。2017年頒布的《中華人民共和國民法總則》中，第一百二十七條、一百一十條、一百一十一條分別關(guān)注數(shù)據(jù)保護、隱私權(quán)和個人信息保護等方面的問題，及至2020年《中華人民共和國民法典》（以下簡稱《民法典》）出臺，這種立法思路得到延續(xù)，其在第一百二十七條中規(guī)定了法律對數(shù)據(jù)保護的內(nèi)容；對隱私權(quán)、信息保護的規(guī)定則內(nèi)容較多，在第四編“人格權(quán)”中專門規(guī)定了一章內(nèi)容，即第六章“隱私權(quán)和個人信息保護”。由此，我國對隱私權(quán)和個人信息保護的規(guī)定更加全面。同時，個人信息保護的專門立法已開啟，《中華人民共和國個人信息保護法（草案）》（以下簡稱《個人信息保護法（草案）》）已于2020年向社會公布。綜上可以看出，隱私權(quán)和個人信息權(quán)益等權(quán)利形式正在茁壯成長，在要求平等主體不得侵害的同時，也要求國家公權(quán)力機關(guān)不得侵害。

對于人工智能預(yù)測警務(wù)而言，所涉及的信息保護對象是以數(shù)據(jù)為載體而形成的信息內(nèi)容，即“數(shù)據(jù)信息”，因此主要涉及“數(shù)據(jù)信息權(quán)益”的內(nèi)容。人工智能預(yù)測警務(wù)活動中常見的侵害“數(shù)據(jù)信息權(quán)益”的問題主要集中在數(shù)據(jù)真實權(quán)、知情權(quán)、數(shù)據(jù)修改權(quán)和刪除權(quán)等方面。要避免個人數(shù)據(jù)信息權(quán)益不被侵害首先要避免出現(xiàn)數(shù)據(jù)庫中數(shù)據(jù)失真的問題?？赡軐?dǎo)致數(shù)據(jù)失真的原因有很多，可能是欺騙性數(shù)據(jù)，如基于“換臉技術(shù)”而收集的數(shù)據(jù)；也可能是注水數(shù)據(jù)，如網(wǎng)絡(luò)“水軍”注水而形成的數(shù)據(jù)；或者僅僅因為數(shù)據(jù)沒有及時更新而導(dǎo)致數(shù)據(jù)失真；等等。無論何種原因都極有可能使人工智能預(yù)測警務(wù)形成致命的預(yù)測錯誤，造成嚴重的后果。數(shù)據(jù)真實與否直接關(guān)系人工智能預(yù)測警務(wù)的結(jié)果，是其發(fā)揮作用的前提，更會與相關(guān)個體的合法權(quán)益有密切關(guān)系。數(shù)據(jù)真實在人工智能預(yù)測警務(wù)中至關(guān)重要。但是，現(xiàn)實的問題是數(shù)據(jù)是否真實，數(shù)據(jù)權(quán)主體往往自己都不知道，這會導(dǎo)致侵害權(quán)利的風險無法被消除，且不斷向后傳遞，帶來更多侵權(quán)的結(jié)果。而這種現(xiàn)象又與數(shù)據(jù)知情權(quán)、數(shù)據(jù)修改權(quán)和刪除權(quán)等權(quán)利未能得到保障直接相關(guān)。

在數(shù)據(jù)收集、數(shù)據(jù)融合過程中，個人的隱私權(quán)也存在被侵害的風險。一方面，存在公共空間隱私權(quán)被侵害的風險。傳統(tǒng)空間隱私權(quán)的理論一般認為公共空間不存在隱私權(quán)。但是在公共視頻監(jiān)控被大量使用的年代，這一理論并不周延。在沒有拍照和攝影設(shè)備的年代，公共空間內(nèi)不愿被他人看到的隱私和尷尬瞬間即可被忘記，但公共視頻所具有的長期保存、一鍵定格且可被反復(fù)觀看的特點使得隱私和尷尬瞬間成為“永久畫面”，此時隱私權(quán)保護就成為必要。比如一位女士在公共場所時，她的裙子不小心被風吹起，這本是瞬間就可化解的尷尬，但公共視頻的拍攝卻有了不同的結(jié)果。因此，一般認為“即便他人身處某一公共場所，他人的某些事務(wù)仍然可能是其私人事務(wù)”[21]。另一方面，存在個人的隱私信息被侵害的風險。警察部門利用自己所掌握的或者共享的龐大的數(shù)據(jù)庫資源進行數(shù)據(jù)融合、碰撞，往往形成對預(yù)測對象的洞察，描摹出個人的立體畫像，某些個人不愿意為人所知曉的行為特征、價值取向也被呈現(xiàn)出來。顯然，這其中包含了侵害個人隱私權(quán)的風險?！盁o處不在的數(shù)據(jù)分析、數(shù)據(jù)畫像和精準推送，已經(jīng)扯開了傳統(tǒng)隱秘空間上的面紗，個人很難再找回自己那個曾經(jīng)無人知曉的‘后花園’，成為‘無隱私的公眾’”[22]。透明人是對數(shù)字時代中的人的真實描述，而透明，尤其是在公權(quán)力面前的透明，正在不斷消解個人的隱私權(quán)。

（二）傳統(tǒng)法律制度失靈的風險

人工智能預(yù)測警務(wù)雖以預(yù)測為目的，但是預(yù)測并非終點，預(yù)測結(jié)果要為警務(wù)工作服務(wù)。“預(yù)測警務(wù)并不僅僅停留于預(yù)測，而是要求執(zhí)法人員以數(shù)據(jù)分析結(jié)果為依據(jù)，將特定主體與犯罪行為進行預(yù)判性匹配，并基于該預(yù)判采取針對特定個人的犯罪控制措施?！盵23]人工智能對違法犯罪行為或者違法犯罪人的預(yù)測往往要求在違法犯罪行為發(fā)生之前就加以制止?！皩ξ覀兌裕ｋU不再是隱私的泄露，而是被預(yù)知的可能性——這些能預(yù)測我們可能生病、拖欠還款和犯罪的算法會讓我們無法購買保險、無法貸款、甚至在實施犯罪前就被預(yù)先逮捕”[24]。基于人工智能警務(wù)預(yù)測而形成實施犯罪之前預(yù)先逮捕的做法盡管帶來“零犯罪率”的美好預(yù)期，但是卻會從根本上動搖著人類長久以來積累形成的刑事偵查制度，解構(gòu)既有規(guī)則。

傳統(tǒng)的偵查是一種對過去事實的回溯性重構(gòu)，通過客觀證據(jù)在嫌疑人與違法犯罪行為之間建立關(guān)系。偵查啟動以及刑事強制措施的采用往往要基于“嫌疑”“有證據(jù)證明”①如《中華人民共和國刑事訴訟法》第一百零九條規(guī)定立案的條件是“發(fā)現(xiàn)犯罪事實或者犯罪嫌疑人”，第八十一條規(guī)定逮捕的條件是“有證據(jù)證明有犯罪事實”；第一百三十六條規(guī)定搜查的條件是“犯罪嫌疑人以及可能隱藏罪犯或犯罪證據(jù)”?；蛘摺昂侠砀鶕?jù) ”或“相當理由”等條件②英美法系刑事偵查啟動條件的確立是在與盤查相區(qū)別的過程中形成的，偵查一般須有“合理根據(jù) ”或“相當理由”，盤查則根據(jù)“合理懷疑”。參見王兆鵬《路檢、盤查與人權(quán)》，臺灣元照出版有限公司2003年版，第94頁。。這些條件雖然可能存在程度上的差異，但構(gòu)成“嫌疑”的本質(zhì)是存在客觀證據(jù)能夠證明行為人與具體案件之間具有直接、明確、緊密的關(guān)聯(lián)關(guān)系。但是，人工智能介入之后，通過數(shù)據(jù)運算形成對違法犯罪的提前預(yù)判，此時偵查啟動或強制性措施的采用所依據(jù)的就不再是基于客觀證據(jù)而形成的“嫌疑”，僅僅是依據(jù)數(shù)據(jù)畫像而形成的概率上的可能性，僅僅是基于類型化的預(yù)測。如英國2015年的Beghal案就展示了這樣的趨勢。該案中當事人Beghal在機場遭到警方的盤問和搜查，這并不是因為Beghal實施了任何具體的可疑行為，只是因為警方在相關(guān)性信息的匯總、篩選之后發(fā)現(xiàn)Beghal的丈夫因?qū)嵤┛植乐髁x犯罪正處于羈押中③見Beghal v Director of Public Prosecutions〔2015〕UKSC 49.。顯然，依據(jù)算法形成“嫌疑”，并進而采取強制措施的做法正在打破傳統(tǒng)制度的要求。

傳統(tǒng)的偵查制度基于對偵查權(quán)濫用的警惕構(gòu)建了較為嚴格的約束機制，主要包括啟動偵查必須遵循嚴格的程序規(guī)則和對被立案偵查對象的程序性權(quán)利予以保障。但是隨著警方掌控的技術(shù)手段的增加，嚴格的規(guī)則能夠被繞開，存在無法發(fā)揮程序約束的風險。傳統(tǒng)程序約束規(guī)則所針對的是物理上強制措施，如搜查、扣押等，或采取傳統(tǒng)技術(shù)手段進行的監(jiān)聽或監(jiān)視，而新的技術(shù)手段完全可以在不接觸當事人、不進入私人空間、當事人不知曉的情形下靜悄悄地進行。通過數(shù)據(jù)計算形成對具體個體的嫌疑時，特定指向性技術(shù)手段就可以隨之跟進，形成對特定個體的特定監(jiān)控。而從普遍化監(jiān)控、類型化監(jiān)控到具體個體的監(jiān)控的推進往往已經(jīng)內(nèi)置于技術(shù)之中，程序控制無法發(fā)揮作用。尤其需要注意的是，由于人工智能技術(shù)存在算法錯誤、算法偏差、算法偏見，數(shù)據(jù)分析挖掘結(jié)果存在誤差等問題，無辜的人極有可能被算法計算成“嫌疑人”，而傳統(tǒng)制約制度的失靈必然會帶來令人恐怖的后果。

（三）無法消解權(quán)力濫用的問題

在人工智能將權(quán)力內(nèi)化為算法、代碼的過程中，出現(xiàn)了新形式的權(quán)力濫用問題。

首先，對法律規(guī)范再解釋時的權(quán)力濫用問題。通過人工智能的方式預(yù)測警情或者違法犯罪人，首要的前提是把法律語言“翻譯”成計算機語言，把法律規(guī)范“轉(zhuǎn)換”為機器代碼。在這個過程中，“翻譯”“轉(zhuǎn)換”的本質(zhì)就是“解釋”。盡管對于抽象的法律規(guī)范往往會通過立法解釋或者司法解釋的方式對其具體化，使其具有可操作性，但即使如此，很多法律概念、法律條件仍然存在模糊性。在這種情況下，代碼編寫中對法律概念的再解釋，對法律條件的再認識就會深刻地嵌入其中。如《中華人民共和國刑法》第一百一十四、一百一十五條規(guī)定了“以危險方法危害公共安全罪”，其中“危險方法”“公共安全”等不確定法律概念就需要加以解釋。為此，大量的司法解釋出現(xiàn)。其中2020年《關(guān)于依法懲治妨害新型冠狀病毒感染肺炎疫情防控違法犯罪的意見》是眾多司法解釋中一個。該司法解釋中規(guī)定：“新型冠狀病毒感染肺炎疑似病人拒絕隔離治療或者隔離期未滿擅自脫離隔離治療，并進入公共場所或者公共交通工具，造成新型冠狀病毒傳播的”，屬于以危險方法危害公共安全罪。而此解釋中關(guān)于“疑似病人”“公共場所”“公共交通工具”等概念均沒有明確的列舉。這意味著，把這些概念解釋清楚，并列舉出來就有了非常大的解釋空間。而此類法律規(guī)范再解釋的問題是在編寫算法，形成代碼時的普遍現(xiàn)象。由此看來，為編寫代碼提供標準和依據(jù)的執(zhí)法主體就成為再解釋主體，其受外在約束較小，再解釋權(quán)濫用的風險極大。

其次，基于偏見而產(chǎn)生的權(quán)力濫用的問題。人工智能預(yù)測警務(wù)以預(yù)測警情或者違法犯罪人為目的，這種目的必然要求對“什么樣的人更容易違法犯罪”進行判斷。對于預(yù)測違法犯罪人的智能系統(tǒng)而言，運算出這種判斷結(jié)論需要向其輸入“與可能發(fā)生的違法犯罪行為相關(guān)的要素特征”。如果警察部門為編寫代碼者提供的判斷要素本身就存在偏見，將某些地方打上犯罪高發(fā)地區(qū)的標簽，把某些特定身份或者經(jīng)歷的人群打上違法犯罪高發(fā)人群的標簽，那么即使算法中立，最終的運算結(jié)果也是充滿偏見的?！皩⒇毨?、家庭狀況、種族或民族、社會經(jīng)濟地位等維度輸入進去……從這個角度說，犯罪人預(yù)測是顯失公平正義的，他們被預(yù)測是危險的‘犯罪人’并據(jù)此受到懲罰，不是因為他們做過什么，而是因為他們是誰、他們的家庭怎么樣以及他們的口袋里有多少錢?！盵25]以偏見為前提的代碼編寫，將會把程序運行的結(jié)果引向錯誤的預(yù)測，從而導(dǎo)致權(quán)力的濫用。

最后，人工智能預(yù)測結(jié)果不當使用的問題。人工智能預(yù)測警務(wù)被設(shè)計出來的目的無非是得到預(yù)判，采取預(yù)防措施制止違法犯罪行為，減少社會的不安全因素。但是，由于懲罰違法、犯罪的制度設(shè)計中包含“經(jīng)濟罰”的內(nèi)容，經(jīng)濟收益在一定程度上會成為執(zhí)法權(quán)力濫用的動力。實踐中也曾出現(xiàn)過此類案例，“荷蘭警方通過分析TomTom導(dǎo)航儀記錄的道路速度數(shù)據(jù)，在那些最可能創(chuàng)收的地方設(shè)置限速陷阱”[26]。從這種典型的“數(shù)據(jù)釣魚”執(zhí)法中可以看到，技術(shù)的加持使得權(quán)力濫用更加精準。

權(quán)力的技術(shù)化內(nèi)置的過程中，權(quán)力濫用的形式多種多樣，上述所列只是非常典型的形式而已。在實踐中，甚至還存在為特定目的，或者為特殊人群布設(shè)“后門”而帶來的權(quán)力濫用問題。總的來看，權(quán)力的技術(shù)化內(nèi)置并沒有消解權(quán)力濫用的問題。

三、預(yù)測警務(wù)嵌入人工智能法律風險的預(yù)防

預(yù)測警務(wù)嵌入人工智能后出現(xiàn)了大量法律風險，有些屬于制度滯后導(dǎo)致的，有些屬于制度落實上不嚴格的問題，還有些屬于技術(shù)發(fā)展本身的問題。在人工智能預(yù)測警務(wù)發(fā)展的推進過程中應(yīng)當針對不同的法律風險確定不同的預(yù)防方案。

（一）完善與技術(shù)發(fā)展相適應(yīng)的權(quán)利保障制度

技術(shù)發(fā)展的目的是要讓人更自由、生活更美好，因此人的權(quán)利和尊嚴應(yīng)當是技術(shù)創(chuàng)新和發(fā)展的首要價值，“在價值上申言數(shù)字科技必須以人為本，必須把人的權(quán)利及尊嚴作為其最高目的，并以人權(quán)作為其根本的劃界尺度和評價標準”[27]。隨著技術(shù)發(fā)展，一些不曾被人們所認識的權(quán)利類型開始出現(xiàn)，如前文所談及的“數(shù)據(jù)信息權(quán)益”“個人隱私權(quán)”即屬于此種類型。法律有必要及時回應(yīng)技術(shù)發(fā)展確立這類權(quán)利的地位，并明確法律保護的范圍?！睹穹ǖ洹分袑懭搿皵?shù)據(jù)保護”“隱私權(quán)和個人信息保護”都是對時代回應(yīng)的最直接體現(xiàn)。但是民法上所規(guī)定的僅是民事權(quán)利，所對抗的對象是平等主體。而人工智能預(yù)測警務(wù)涉及的是公權(quán)力與公民權(quán)利之間的關(guān)系，保護內(nèi)容、方式等方面都會存在較大的差別。有必要在公法體系中完善與技術(shù)發(fā)展相適應(yīng)的權(quán)利保障制度。

我國關(guān)于信息權(quán)益保護的公法體系正處于建設(shè)之中。2017年公布的《信息安全技術(shù)個人信息安全規(guī)范》（以下簡稱《安全規(guī)范》）中就關(guān)涉公權(quán)力收集、處理個人信息的規(guī)則。2020年10月21日公布的《個人信息保護法（草案）》中專門有“國家機關(guān)處理個人信息的特別規(guī)定”的內(nèi)容。相較于《安全規(guī)范》而言，該法對公權(quán)力處理個人信息權(quán)益規(guī)則有了重大突破?！栋踩?guī)范》規(guī)定公權(quán)力收集信息、使用信息等方面都可遵循“知情同意例外”的原則，即公權(quán)力在收集和處理信息時不必征得當事人同意；《個人信息保護法（草案）》則改變了絕對例外的態(tài)度，對國家機關(guān)處理“個人信息”采用“告知+同意”的模式①《個人信息保護法（草案）》第三十五條規(guī)定：“國家機關(guān)為履行法定職責處理個人信息，應(yīng)當依照本法規(guī)定向個人告知并取得其同意；法律、行政法規(guī)規(guī)定應(yīng)當保密，或者告知、取得同意將妨礙國家機關(guān)履行法定職責的除外?！?。這一改變極有意義，有助于督促公權(quán)力在處理個人信息時尊重當事人的意愿，保持謹慎處理的態(tài)度?！秱€人信息保護法（草案）》的精神雖然帶來公權(quán)力與數(shù)據(jù)信息權(quán)益關(guān)系的嶄新變化，但是對技術(shù)發(fā)展復(fù)雜程度的考量仍不夠充分。如前文所述，人工智能預(yù)測警務(wù)極有可能因為數(shù)據(jù)失真把某些個體預(yù)測為違法犯罪嫌疑人。為避免此種情況出現(xiàn)，有必要確立針對公權(quán)力的“告知+確認”規(guī)則。若數(shù)據(jù)處理之后出現(xiàn)對當事人不利的或者負面的評價或者預(yù)測，被預(yù)測者享有“數(shù)據(jù)信息真實權(quán)”，由此而派生出“告知+確認”權(quán)，由其確認所處理的信息真實無誤；一旦出現(xiàn)信息錯誤，個人享有修改和刪除的權(quán)利。至于數(shù)據(jù)收集、數(shù)據(jù)融合過程中個人隱私權(quán)保護的問題，需要特別注意公權(quán)力在收集時盡可能地明確標識，保障當事人形成合理的隱私期待。同時，對于收集到的信息使用也應(yīng)有相應(yīng)的規(guī)則。這些權(quán)利保障內(nèi)容開始獲得《個人信息保護法（草案）》的關(guān)注。因此，個人信息保護法的出臺值得期待。不過個人信息保護法的目標定位是信息權(quán)益保障的基本法，這意味著其規(guī)定是原則性的，更為具體的規(guī)定有待于個人信息保護法出臺后對人臉識別、公共視頻監(jiān)控等涉及的信息權(quán)益、隱私權(quán)作專門規(guī)定。

（二）強化程序控制克服傳統(tǒng)法律制度的失靈

警察部門對人工智能所確定的“嫌疑人”進行針對性監(jiān)控時，有必要加強程序的控制。我國現(xiàn)有的刑事訴訟制度對使用技術(shù)偵查措施規(guī)定了嚴格的批準手續(xù)，但仍被置于公安機關(guān)內(nèi)部。鑒于預(yù)測警務(wù)只是在相關(guān)性數(shù)據(jù)的挖掘、處理的基礎(chǔ)上而形成的“嫌疑”，不同于基于因果關(guān)系而形成的“嫌疑”，誤判的風險較大，因此應(yīng)當給予更為嚴格的程序控制。嚴格程序控制的典型方法就是引入第三方進行權(quán)力制約，核心是引入司法權(quán)。司法機關(guān)作為審查機關(guān)，在確定是否有必要采取針對性偵查措施時不能僅依據(jù)數(shù)據(jù)分析結(jié)果，“僅有數(shù)據(jù)分析結(jié)果不足以確認‘有犯罪事實’或單獨作為定案根據(jù)，需要有其他類型證據(jù)予以補強和印證”[28]。如果不引入第三方進行權(quán)力約束，警察部門往往并無動力在數(shù)據(jù)分析結(jié)果之外收集其他類型的證據(jù)。同時應(yīng)當注意的是，人工智能從大規(guī)模監(jiān)控到對具體的推算出來的“嫌疑人”進行監(jiān)控的“轉(zhuǎn)變”可能已經(jīng)內(nèi)置在技術(shù)之中，此時司法審查程序就有被規(guī)避的可能。因此可以考慮把司法制約程序內(nèi)化到程序之中，當進行針對性的“監(jiān)控”時自動推送到司法機關(guān)的審查平臺上，由司法機關(guān)進行必要的審查。并且，將審查處理結(jié)果也內(nèi)置化到技術(shù)之中：審查同意，具體的針對性“監(jiān)控”程序繼續(xù)進行；審查未獲得通過的，“監(jiān)控”程序則無法啟動。通過此種方式有效回應(yīng)傳統(tǒng)法律制度的失靈問題。

（三）通過多元參與克服權(quán)力技術(shù)化中的權(quán)力濫用

人們已經(jīng)意識到，人工智能所存在的傾向和偏見源于人類自己，“由于這種傾向根植于人類社會本身，因此不應(yīng)歸咎于大數(shù)據(jù)等信息技術(shù)的運用”[29]。技術(shù)的作用僅在于它會不斷迭代強化這種傾向或者偏見。因此，從源頭避免不恰當?shù)膬A向、減少偏見至關(guān)重要。源頭減少的方式應(yīng)當是在警務(wù)預(yù)測技術(shù)化過程中不僅要考慮警察權(quán)的權(quán)力運行需求，而且也要考慮制約警察權(quán)的各方面要求。應(yīng)當考慮使預(yù)測警務(wù)從單純關(guān)注警察權(quán)運行的模式轉(zhuǎn)變?yōu)槲{多元主體參與的模式，以減少算法、代碼中的偏見和歧視。一是法律再解釋時應(yīng)吸納立法機關(guān)、裁量基準制定機關(guān)的意見。如果只由使用預(yù)測警務(wù)系統(tǒng)的警察部門形成對法律再解釋的意見，并形成相關(guān)算法的話，會使得關(guān)于預(yù)防、打擊違法犯罪的法律認識的模型中潛藏部門意見，而這往往是一種不全面或者有偏見的模型，是一種“殘缺的模型”?！澳Ｐ褪且酝?jīng)驗與未來推斷之間的橋梁，人們只有借助模型才能看到已然與未然的聯(lián)系。所以，殘缺的模型是對原始樣本信息和人們集體經(jīng)驗的肢解。”[30]為了避免法律再解釋權(quán)被濫用，有必要在把法律內(nèi)容轉(zhuǎn)化為代碼時，充分吸納更有權(quán)威機關(guān)的解釋意見，其中主要包括立法機關(guān)、裁量基準制定機關(guān)等對法律規(guī)范把握更準確的機關(guān)。二是違法犯罪特征代碼化的過程中應(yīng)吸納社會公眾的意見。關(guān)于違法犯罪的特征，不同的群體有不同的認識。警察部門在打擊違法犯罪過程中隨著經(jīng)驗的積累，往往能夠形成專業(yè)化認識，但是同樣也會帶來固化思維，極易對特定群體形成標簽化認識；也極易僅從單一角度認識問題，無法在公共秩序與個人權(quán)利之間進行兼顧。如果警察權(quán)在封閉的框架內(nèi)運行則難以走出固化的、單一化的思維模式，就有必要打破這種封閉權(quán)力運行模式，把社會公眾的認識也納入其中。這意味著在技術(shù)賦權(quán)進程中，“必須與民眾所生活的社會維度、政治維度以及個體維度相結(jié)合，以便讓賦權(quán)實踐與包容、參與以及社會正義相結(jié)合”[31]。從不同的角度認識違法犯罪行為的特征，一定程度上有助于減少基于權(quán)力的偏見而導(dǎo)致算法的偏見。

綜上，人工智能技術(shù)正在劇烈影響著人類的生活方式和活動方式。人工智能技術(shù)與權(quán)力的結(jié)合使得公權(quán)力具有更大的社會影響力，“干涉他人的能力、維穩(wěn)能力和法律強制力不斷增強”[32]。同樣，人工智能和預(yù)測警務(wù)的結(jié)合也深刻地改變著警察權(quán)的運行邏輯及其影響社會的方式，基于大數(shù)據(jù)計算而形成的警務(wù)預(yù)測對預(yù)防違法犯罪具有不可低估的意義。但是，在這種新的預(yù)測警務(wù)方式之中卻也隱藏著諸多法律風險。對此，必須保持必要的警惕。當然，對于嵌入人工智能的預(yù)測警務(wù)所潛藏的法律風險的分析并非要否定這種技術(shù)帶來的積極價值，而是要通過制度建設(shè)遏制風險，在技術(shù)向善的框架內(nèi)找到公共安全和秩序及個人權(quán)利之間恰當?shù)钠胶恻c，推動嵌入人工智能的預(yù)測警務(wù)在法治的框架中前進，為推動“法治中國”“平安中國”的建設(shè)發(fā)揮積極的作用。