李 亮
(浙江警察學(xué)院,浙江 杭州 530053)
由于管理資源更加豐富、覆蓋性和可及性更強(qiáng)、管理更加精準(zhǔn)匹配,能更好地回應(yīng)復(fù)雜性社會(huì)治安防控、打擊違法犯罪的需求,以大數(shù)據(jù)、云計(jì)算、人工智能為技術(shù)驅(qū)動(dòng)的警務(wù)改革取得了迅猛發(fā)展。然而,由此滋生的數(shù)據(jù)采集無(wú)限擴(kuò)大、數(shù)據(jù)濫用、自動(dòng)決策削弱執(zhí)法正當(dāng)程序、警察權(quán)更易進(jìn)入私域等問(wèn)題也接踵而來(lái)。基于公安大數(shù)據(jù)、人工智能等警務(wù)技術(shù)治理到底是擴(kuò)展了公權(quán)力還是更好地保障了當(dāng)事人權(quán)利,是有利于保障公民權(quán)利還是成為侵犯公民隱私等權(quán)利的更大風(fēng)險(xiǎn),如何讓老百姓在智慧警務(wù)中得到更多的實(shí)惠而不是承擔(dān)更多的風(fēng)險(xiǎn)等一系列疑問(wèn),愈來(lái)愈成為防范智慧警務(wù)風(fēng)險(xiǎn)、深化警務(wù)改革的重要議題。
為此,學(xué)者們的研究主要體現(xiàn)為以下兩種進(jìn)路。一是以不同業(yè)務(wù)領(lǐng)域?yàn)檫M(jìn)路研究智慧警務(wù)的規(guī)制問(wèn)題。在刑事偵查中,有學(xué)者認(rèn)為,對(duì)大數(shù)據(jù)偵查進(jìn)行法律控制,可采取偵查規(guī)范和數(shù)據(jù)規(guī)范的雙重路徑,[1]或從程序規(guī)范及證據(jù)規(guī)則兩方面進(jìn)行嚴(yán)格法律規(guī)制,前者包括適用范圍、適用條件、適用主體、批準(zhǔn)程序、實(shí)施程序等方面,后者包括證據(jù)的排除規(guī)則等方面。[2]在警察行政執(zhí)法中,有學(xué)者認(rèn)為,可從明確大數(shù)據(jù)技術(shù)應(yīng)用范圍、應(yīng)用條件,增強(qiáng)執(zhí)法過(guò)程透明性、公開(kāi)性和可問(wèn)責(zé)性以及厘清數(shù)據(jù)信息權(quán)利等方面入手。[3]還有很多學(xué)人從智慧監(jiān)所[4]、智慧偵查[5]、智慧新防控警務(wù)[6]、智慧視野下警用無(wú)人機(jī)使用規(guī)則[7]等角度去探討如何在具體警種業(yè)務(wù)中規(guī)制智慧警務(wù)。二是以技術(shù)元素分析為進(jìn)路研究智慧警務(wù)的風(fēng)險(xiǎn)防范及規(guī)制。從警務(wù)大數(shù)據(jù)角度,認(rèn)為警務(wù)數(shù)據(jù)采集范圍、采集依據(jù)、采集與隱私權(quán)問(wèn)題等要采取明確法律授權(quán),[8]或通過(guò)《中華人民共和國(guó)人民警察法》授權(quán)體系補(bǔ)足來(lái)解決。[9]也有學(xué)者主張通過(guò)重視警務(wù)流程中的數(shù)據(jù)法治化、完善警務(wù)網(wǎng)絡(luò)安全防護(hù)技術(shù)、加強(qiáng)倫理規(guī)范和第三方市場(chǎng)規(guī)范等途徑來(lái)防范數(shù)據(jù)泄露等安全風(fēng)險(xiǎn)、數(shù)據(jù)權(quán)力擴(kuò)張與數(shù)據(jù)權(quán)利沖突等法律風(fēng)險(xiǎn)。[10]從警務(wù)算法及其應(yīng)用的角度,認(rèn)為算法權(quán)力嵌入公權(quán)力后,異化風(fēng)險(xiǎn)不斷增加,[11]算法權(quán)力威脅了個(gè)體的隱私與自由,算法歧視與偏見(jiàn)導(dǎo)致更深層次的不平等,應(yīng)當(dāng)構(gòu)建算法公開(kāi)、數(shù)據(jù)賦權(quán)與反算法歧視等算法規(guī)制的具體制度來(lái)規(guī)制警務(wù)算法,[12]要加快制定人工智能科技特別法,[13]要探索確立智慧社會(huì)治理的新理念、新思維、新機(jī)制、新策略等。[14]上述研究為闡釋智慧警務(wù)存在的風(fēng)險(xiǎn)提供了很多有益的嘗試,為智慧警務(wù)實(shí)踐者防范智慧風(fēng)險(xiǎn)、消除智慧警務(wù)帶來(lái)的問(wèn)題提供了很多有益的途徑。“從不同警務(wù)領(lǐng)域分析進(jìn)路”以點(diǎn)帶面,讓我們對(duì)智慧化手段介入各警種警務(wù)有了深入了解,進(jìn)而對(duì)“智慧化后的警務(wù)”在面上可能出現(xiàn)的風(fēng)險(xiǎn)及其規(guī)制有了全景式認(rèn)知。“從不同技術(shù)元素角度分析進(jìn)路”由面及點(diǎn),讓我們對(duì)“警務(wù)的智慧化”在縱向深度應(yīng)用中的風(fēng)險(xiǎn)及其規(guī)制有了立體化的理解。
本文試圖同時(shí)結(jié)合運(yùn)用以上兩種進(jìn)路,主要以技術(shù)及其法律風(fēng)險(xiǎn)為切入口,分析智慧警務(wù)技術(shù)消解了法治目標(biāo)、壓縮甚至弱化了程序空間,使得警察權(quán)更加模糊地進(jìn)入私域,違背了警務(wù)技術(shù)治理的初衷,不利于警務(wù)改革綜合目標(biāo)的實(shí)現(xiàn),同時(shí),提出規(guī)制智慧警務(wù)風(fēng)險(xiǎn)的事前預(yù)防、事中監(jiān)管、事后救濟(jì)的三大機(jī)制。事前預(yù)防機(jī)制主要針對(duì)技術(shù)主義弱化警務(wù)法治目標(biāo)的風(fēng)險(xiǎn),提出要從數(shù)據(jù)正義的價(jià)值取向和健全技術(shù)標(biāo)準(zhǔn)去預(yù)防;事中監(jiān)管機(jī)制主要針對(duì)智慧化警務(wù)技術(shù)消解了公安執(zhí)法正當(dāng)程序的風(fēng)險(xiǎn),提出要對(duì)警務(wù)數(shù)據(jù)采集和運(yùn)用、警務(wù)算法的決策和適用范圍加強(qiáng)程序控制;事后救濟(jì)機(jī)制主要針對(duì)智慧警務(wù)導(dǎo)致警察權(quán)更加容易進(jìn)入私權(quán)利的風(fēng)險(xiǎn),提出要加強(qiáng)警察機(jī)關(guān)在算法決策中的責(zé)任,健全公安機(jī)關(guān)算法歸責(zé)原則,同時(shí),強(qiáng)化公民在受到侵犯后的實(shí)體權(quán)利和程序權(quán)利的保障。
到目前為止,學(xué)界對(duì)智慧警務(wù)的概括,代表性的主要有“功能論”“模式論”“技術(shù)論”“機(jī)制論”等四種?!肮δ苷摗闭J(rèn)為,智慧警務(wù)是適應(yīng)現(xiàn)代警務(wù)功能特點(diǎn),通過(guò)互聯(lián)化、智能化和物聯(lián)化,從而促進(jìn)公安機(jī)關(guān)各個(gè)系統(tǒng)、各個(gè)模塊功能集成、協(xié)調(diào)運(yùn)作,實(shí)現(xiàn)信息數(shù)據(jù)高度整合、共享的警務(wù)目標(biāo);[15]“模式論”認(rèn)為,智慧警務(wù)是能夠?qū)崿F(xiàn)“智能指揮”的新型警務(wù)運(yùn)行方式,海量地掌控與人相關(guān)的“屋、車、場(chǎng)、網(wǎng)、組織”等周邊要素信息,從而形成動(dòng)態(tài)化的軌跡管控機(jī)制,實(shí)現(xiàn)智能辦公和智能監(jiān)督,極大地提高工作效率;[16]“技術(shù)論”認(rèn)為,智慧警務(wù)建立在公安機(jī)關(guān)海量數(shù)據(jù)信息的占有與運(yùn)用之上,警務(wù)更加智能、開(kāi)放與人性化;[17]“機(jī)制論”認(rèn)為,智慧警務(wù)是公安機(jī)關(guān)為了回應(yīng)智能化社會(huì)等新警務(wù)環(huán)境,運(yùn)用云計(jì)算、大數(shù)據(jù)等技術(shù)對(duì)警務(wù)機(jī)制進(jìn)行改革,進(jìn)而建立的一種新型警務(wù)機(jī)制。[18]無(wú)論哪種界定,共同點(diǎn)在于,智慧警務(wù)都離不開(kāi)警務(wù)信息數(shù)據(jù)化、警務(wù)運(yùn)行算法化、警務(wù)業(yè)務(wù)場(chǎng)景化等三項(xiàng)內(nèi)容,大家在智慧警務(wù)的本質(zhì)是實(shí)現(xiàn)警務(wù)方式、手段和路徑的智慧化上形成了共識(shí)。因此,應(yīng)當(dāng)主要從智慧化的手段、方式和路徑等技術(shù)層面入手,認(rèn)真總結(jié)智慧化警務(wù)技術(shù)帶來(lái)了哪些風(fēng)險(xiǎn),并深刻分析引起這些風(fēng)險(xiǎn)的緣由。
技術(shù)有天然追求效率的屬性,與追求公正的警務(wù)法治目標(biāo)產(chǎn)生了一定張力。警務(wù)主要指作為治安行政力量和刑事司法力量的公安機(jī)關(guān)依據(jù)法律從事的各項(xiàng)事務(wù),包括安全防范、治安管理、行政執(zhí)法、刑事司法等多項(xiàng)事務(wù),是法治政府的重要組成方面,也是法治治理的重要環(huán)節(jié),追求公平、正義是其應(yīng)有之義。智慧警務(wù)是大數(shù)據(jù)、云計(jì)算、5G、人工智能等高新技術(shù)在警務(wù)領(lǐng)域的集中體現(xiàn),目的在于不斷提高警務(wù)的效能。技術(shù)一旦形成自己的運(yùn)行慣性,技術(shù)治理的結(jié)果難免以效率、效能為目標(biāo),裹挾著警務(wù)人員跟隨著技術(shù)的步伐,依從技術(shù)的邏輯開(kāi)展具體的治安管理、行政執(zhí)法等,而忽視相對(duì)人的隱私、知情權(quán)、自決權(quán)等權(quán)利,滋生不公正。為了更好預(yù)防犯罪,北京市懷柔區(qū)警方在2013年建立了“犯罪數(shù)據(jù)分析和趨勢(shì)預(yù)測(cè)系統(tǒng)”,[19]蘇州市犯罪預(yù)測(cè)系統(tǒng)在2015年已覆蓋91種違法犯罪行為,[20]犯罪治理從事后打擊轉(zhuǎn)為事前預(yù)測(cè),但由于算法具有機(jī)器優(yōu)勢(shì)、架構(gòu)優(yōu)勢(shì)和嵌入優(yōu)勢(shì),其不斷強(qiáng)化自身的判斷和預(yù)測(cè),形成相對(duì)獨(dú)立的認(rèn)知,反過(guò)來(lái)又來(lái)塑造、強(qiáng)化執(zhí)法者的認(rèn)知,針對(duì)某個(gè)地域、某個(gè)行業(yè),甚至根據(jù)行為人的衣食住行的分析形成的預(yù)測(cè),算法會(huì)自動(dòng)回饋執(zhí)法者的發(fā)現(xiàn),進(jìn)而形成回路。特定危險(xiǎn)人群的鎖定和分析往往會(huì)針對(duì)有前科記錄的人,強(qiáng)化了犯罪人的標(biāo)簽化效應(yīng),形成了“關(guān)注特定人群的行為本身會(huì)造成特定人群再犯危險(xiǎn)增加”這一悖論,[21]加大了對(duì)該類群體的偏見(jiàn)與不公正,擴(kuò)大甚至破壞了社會(huì)公正。
技術(shù)邏輯的主動(dòng)性沖擊了法治邏輯的保守性。人工智能時(shí)代,警務(wù)應(yīng)用中的算法構(gòu)建了治安防控、重點(diǎn)人口管理、群體性事件處置等不同治理系統(tǒng)架構(gòu),執(zhí)法者進(jìn)入系統(tǒng)架構(gòu)后,行為即受到算法的支配,而借助源源不斷產(chǎn)生的數(shù)據(jù),算法系統(tǒng)架構(gòu)可以內(nèi)在發(fā)生延伸,并在不同系統(tǒng)之間共享數(shù)據(jù)以持續(xù)形成執(zhí)法者的判斷,這成為技術(shù)治理的主要邏輯,自主學(xué)習(xí)、自動(dòng)預(yù)警、主動(dòng)出擊。這種技術(shù)治理的邏輯為警務(wù)服務(wù),即要求在違法犯罪發(fā)生之前就預(yù)警并加以制止?!皩?duì)我們而言,危險(xiǎn)不再是隱私的泄露,而是被預(yù)知的可能性——這些能預(yù)測(cè)我們可能生病、拖欠還款和犯罪的算法會(huì)讓我們無(wú)法購(gòu)買(mǎi)保險(xiǎn)、無(wú)法貸款、甚至在實(shí)施犯罪前就被預(yù)先逮捕”。[22]偵查啟動(dòng)的依據(jù)不是基于已經(jīng)發(fā)生的客觀事實(shí),而是大數(shù)據(jù)通過(guò)警務(wù)算法形成的一般性、類型化預(yù)測(cè),這與刑事訴訟基本原理規(guī)定的對(duì)犯罪事實(shí)的偵查是一種回溯性重構(gòu)顯然南轅北轍,刑事法治的題中之義應(yīng)當(dāng)是也只能是對(duì)已經(jīng)發(fā)生的犯罪的懲罰,這也是法治保守性的應(yīng)有之義。更何況,數(shù)據(jù)分析存在分析挖掘的誤差甚至錯(cuò)誤,無(wú)辜的人被認(rèn)定為“犯罪嫌疑人”更是對(duì)法治精神的背離。
警務(wù)的智慧化弱化了警察行政的公開(kāi)性。程序是看得見(jiàn)的公正,公開(kāi)、透明、公眾參與已構(gòu)成現(xiàn)代正當(dāng)法律程序基本的、甚至是不可或缺的內(nèi)容。[23]智慧化技術(shù)最顯著的特點(diǎn)就是專業(yè)性,專業(yè)的警務(wù)算法要取得更精準(zhǔn)的治理效果,需要更多的數(shù)據(jù)及其對(duì)結(jié)果的不斷重塑。在這一過(guò)程中,一方面,警務(wù)數(shù)據(jù)的收集往往基于公共利益豁免原則,本身很難透明;另一方面,警務(wù)算法設(shè)計(jì)原理及其決策過(guò)程很難傳遞給普通大眾,大眾沒(méi)有機(jī)會(huì)獲得這種解釋,因此,進(jìn)入某一警務(wù)算法諸如電子類證據(jù)的采集及其可能引發(fā)的證據(jù)合法性認(rèn)定程序被“算法黑箱”所遮蔽。何況,作為技術(shù)的算法擁有天然“不可解釋性”,技術(shù)本身可以以軟件著作權(quán)為對(duì)抗事由獲得不被解釋的機(jī)會(huì),而且,公權(quán)力機(jī)關(guān)往往不愿意對(duì)算法的采購(gòu)、設(shè)計(jì)及其運(yùn)行予以公開(kāi),不僅是擔(dān)心可能阻礙治安行政、犯罪預(yù)防等警務(wù)目標(biāo)的實(shí)現(xiàn),也可能偏向于以“不可解釋性”為背書(shū)來(lái)逃避可能到來(lái)的未知法律責(zé)任。
警務(wù)的智慧化異化了法律因果性,消解了警察執(zhí)法程序。追究法律責(zé)任的前提是損害行為和傷害結(jié)果之間存在法律上的因果關(guān)系。但建立在算法自動(dòng)化之上的自動(dòng)駕駛導(dǎo)致傷害后,其法律責(zé)任如何分配?警務(wù)算法引起對(duì)行政相對(duì)人的賠償之后,公安機(jī)關(guān)內(nèi)部如何劃分責(zé)任?這類傷害結(jié)果和算法之間的因果關(guān)系構(gòu)成法律上的因果關(guān)系嗎?此外,之前法律上的因果關(guān)系的鏈接往往靠經(jīng)驗(yàn)與邏輯,但是智慧警務(wù)中對(duì)犯罪的預(yù)測(cè),對(duì)治安問(wèn)題的防范往往不再執(zhí)著于經(jīng)驗(yàn)上的因果關(guān)聯(lián),轉(zhuǎn)而借助海量警務(wù)數(shù)據(jù)直面模糊與混雜,[24]從看似不相關(guān)的現(xiàn)象中找到切口,如維克多·邁爾-舍恩伯格指出的那樣,“知道‘是什么’就夠了,沒(méi)必要知道‘為什么’。在大數(shù)據(jù)時(shí)代,我們不必非得知道現(xiàn)象背后的原因,而是讓數(shù)據(jù)自己‘發(fā)聲’”,[25]“對(duì)過(guò)去犯罪數(shù)據(jù)中的模式和相關(guān)性進(jìn)行識(shí)別和分析,預(yù)測(cè)發(fā)生犯罪概率較高的時(shí)間和地點(diǎn),并將警力部署到可能發(fā)生犯罪的地區(qū)”,“通過(guò)智能技術(shù)分析過(guò)去犯罪活動(dòng)的社交網(wǎng)絡(luò),使用機(jī)器學(xué)習(xí)和算法來(lái)識(shí)別可能的肇事者或受害者”,[26]可以認(rèn)為是以“全數(shù)據(jù)”代替“樣本數(shù)據(jù)”擴(kuò)大探尋犯罪可能存在的時(shí)空,也可以認(rèn)為“不是‘因果關(guān)系’,而是‘相關(guān)關(guān)系’”[27]來(lái)推動(dòng)警務(wù)目標(biāo)的實(shí)現(xiàn)。而且,在假釋、減刑等處罰情節(jié)中采用風(fēng)險(xiǎn)預(yù)測(cè)算法,相當(dāng)于用實(shí)然來(lái)推斷應(yīng)然、以相關(guān)性而非因果性進(jìn)行推理,無(wú)疑否定了無(wú)罪推定原則的程序性保障。
智慧警務(wù)中的算法自動(dòng)化決策壓縮了行政程序的空間。程序不僅具有工具性價(jià)值,還具有構(gòu)成性價(jià)值。[28]工具性價(jià)值的目的在于提高警務(wù)效率,關(guān)注的是警務(wù)活動(dòng)的整體流程;構(gòu)成性價(jià)值的目的在于某種特殊的價(jià)值,比如交警當(dāng)場(chǎng)做出處罰時(shí)必須亮明身份、訊問(wèn)之前必須告知犯罪嫌疑人有委托辯護(hù)人的權(quán)利等,關(guān)注的是警務(wù)活動(dòng)程序的完整性。在交通違法的自動(dòng)識(shí)別中,算法自動(dòng)化決策可同時(shí)完成調(diào)集數(shù)據(jù)、識(shí)別車輛、分析違法行為、形成車輛違法數(shù)據(jù),經(jīng)過(guò)交警部門(mén)審核,通知交通違法行為人。除了人為加入的審核環(huán)節(jié),其他環(huán)節(jié)均可在技術(shù)上瞬間完成,原有的按照人的活動(dòng)步驟設(shè)立的諸多行政正當(dāng)程序的發(fā)送信息功能均被省略,[29]難以分離活動(dòng)的步驟、方式,使得警察行政正當(dāng)程序無(wú)用武之地,直接損害了行政相對(duì)人的程序性權(quán)利,可能還削減了其實(shí)體權(quán)利。
此外,技術(shù)治理的依賴導(dǎo)致警察權(quán)專屬性的弱化。為了精準(zhǔn)、迅速打擊犯罪,很多警務(wù)活動(dòng),典型的電子證據(jù)采集等經(jīng)常需要尋求大型網(wǎng)絡(luò)技術(shù)公司的支持,甚至?xí)扇 巴獍钡男问竭M(jìn)行公私合作,現(xiàn)實(shí)的運(yùn)作過(guò)程很難做到界限分明,相關(guān)公司因此獲得了事實(shí)上只有行政執(zhí)法、刑事司法中才擁有的監(jiān)控、調(diào)查、初查等公權(quán)力,其顯然違背了警察權(quán)的專屬性。
智慧化的技術(shù)不僅賦能,提高了治安防控、打擊犯罪的能力,更重要的是,技術(shù)還賦權(quán),強(qiáng)化了警察權(quán)的社會(huì)控制。[30]一方面,人工智能等技術(shù)介入警務(wù),緩解了治安治理資源的緊張,突破了以往通過(guò)民警人力很難下沉社會(huì)每個(gè)觸角的瓶頸,公共場(chǎng)所智能視頻監(jiān)控、人像識(shí)別、緝查布控平臺(tái)的視頻導(dǎo)偵等實(shí)現(xiàn)了對(duì)復(fù)雜社會(huì)更加有效的治理。但另一方面,智慧警務(wù)中以技術(shù)為載體和牽引的警察權(quán)可以更精準(zhǔn)地觸及每個(gè)個(gè)體,個(gè)體的自治空間被壓縮,個(gè)人的隱私權(quán)尤其是互聯(lián)網(wǎng)上的各項(xiàng)個(gè)人信息權(quán)利更加容易被侵犯。
智慧化的警務(wù)技術(shù)不僅增強(qiáng)了警察權(quán)的廣度,而且增強(qiáng)了警察權(quán)介入公民私權(quán)利的深度和力度。警務(wù)數(shù)據(jù)的不斷增多,警務(wù)應(yīng)用及其算法的不斷優(yōu)化,算力的不斷增強(qiáng),算法決策系統(tǒng)使用“超級(jí)推理”,能夠以微妙而有效的方式塑造用戶的感受和行為,破壞個(gè)人的獨(dú)立判斷力。[31]這種優(yōu)勢(shì)不斷增強(qiáng)的一個(gè)附產(chǎn)品是,國(guó)家對(duì)秩序和穩(wěn)定的重視進(jìn)一步附加到不斷提升的警務(wù)能力之上,客觀上增強(qiáng)了警察權(quán)進(jìn)入私領(lǐng)域的力度,諸多龐雜的社會(huì)問(wèn)題隨之附加在警務(wù)之上,一定程度上模糊了警察權(quán)在社會(huì)治理中的邊界。而且,警務(wù)應(yīng)用往往融匯了大數(shù)據(jù)、5G和人工智能等多項(xiàng)前沿技術(shù),伴隨科學(xué)技術(shù)更迭升級(jí),其收集、存儲(chǔ)、運(yùn)輸、使用個(gè)人信息的能力持續(xù)強(qiáng)大,在警察權(quán)面前,個(gè)人愈加立體透明,[32]表面看,算法越來(lái)越讓數(shù)字世界成為人類觀察和認(rèn)識(shí)自我的“鏡子”,以至于讓我們進(jìn)一步認(rèn)為,在日趨脫離客觀物質(zhì)世界的同時(shí),由大數(shù)據(jù)而構(gòu)成的數(shù)字世界又讓我們?cè)絹?lái)越接近真正的自己,[33]殊不知,真正接近的自己是算法的結(jié)果。
智慧化的警務(wù)增加了公民判斷警察權(quán)是否侵入私域的難度。一方面,基于技術(shù)上的不平等性,警務(wù)應(yīng)用采集、存儲(chǔ)、運(yùn)輸和運(yùn)用公民個(gè)人信息往往依賴數(shù)據(jù)資源和專業(yè)技術(shù)知識(shí)的壟斷,其決策機(jī)理難以被普通公眾所理解,算法權(quán)力借由技術(shù)屏障達(dá)成了技術(shù)化統(tǒng)治,[34]個(gè)人很難通過(guò)自身能力來(lái)鑒別和判定。另一方面,基于地位上的不平等性,即便個(gè)人明知收集個(gè)人信息的方式或者警務(wù)應(yīng)用提供的隱私政策不合適,但卻無(wú)法形成法律上的有效對(duì)抗,相對(duì)而言,警察行政機(jī)構(gòu)更熟知政府公共政策、警務(wù)運(yùn)行機(jī)制,善于利用這些機(jī)制、政策變相逃避個(gè)人抗辯。此外,一旦警務(wù)應(yīng)用侵犯了公民個(gè)人信息權(quán)等私權(quán)利,個(gè)人很難針對(duì)警務(wù)算法決策的違法性提出訴訟請(qǐng)求。當(dāng)前,公民針對(duì)具體行政行為的違法提出行政復(fù)議、行政訴訟或申請(qǐng)行政信息公開(kāi)的同時(shí),是否能夠包括算法決策,或者說(shuō)算法決策能否作為具體行政行為或其中的一部分,還尚不明確。行政機(jī)關(guān)可能以算法涉及國(guó)家秘密、商業(yè)秘密、個(gè)人隱私或?qū)儆趦?nèi)部信息為由,[35]而拒絕行政相對(duì)人的申請(qǐng)。
無(wú)論是警務(wù)智慧化可能導(dǎo)致的警務(wù)與法治公正目標(biāo)的偏離,還是技術(shù)治理把復(fù)雜社會(huì)問(wèn)題簡(jiǎn)化為數(shù)據(jù)計(jì)算導(dǎo)致的警務(wù)綜合治理目標(biāo)的偏離,都涉及大數(shù)據(jù)運(yùn)用、算法設(shè)計(jì)、智慧警務(wù)應(yīng)用的目標(biāo)取向問(wèn)題,如何在事前預(yù)防智慧化的技術(shù)偏離警務(wù)改革的目標(biāo),是防范和化解智慧警務(wù)風(fēng)險(xiǎn)的第一道關(guān)卡。計(jì)算正義、數(shù)據(jù)正義、數(shù)字倫理、人工智能倫理等觀念、價(jià)值的討論,[36]成為破解這一難題的不二之選。智慧化的警務(wù)技術(shù)不但具有工具意義,提高了警務(wù)活動(dòng)的效率,還對(duì)深嵌在治安防控、犯罪控制、秩序維護(hù)等警務(wù)中的社會(huì)生活產(chǎn)生了重構(gòu)意義,甚至重塑著公正觀等共同價(jià)值,因此,包括數(shù)據(jù)、代碼、算法以及由它們?nèi)诤闲纬傻闹腔劬瘎?wù)技術(shù),也應(yīng)當(dāng)具有價(jià)值取向。當(dāng)把這些價(jià)值取向深嵌在警務(wù)化技術(shù)的設(shè)計(jì)及運(yùn)用環(huán)節(jié),即建立了在事前預(yù)防智慧警務(wù)風(fēng)險(xiǎn)的第一道屏障。
技術(shù)正義“家族”被認(rèn)為主要包括數(shù)據(jù)正義、代碼正義和算法正義。[37]在智慧警務(wù)中,則主要涉及警務(wù)數(shù)據(jù)的公平占有和合理使用及對(duì)其闡釋的價(jià)值取向問(wèn)題、警務(wù)算法設(shè)計(jì)的偏好及正當(dāng)性問(wèn)題,以及如何防范算法偏見(jiàn)、算法歧視、算法黑箱問(wèn)題。
用法律的價(jià)值去約束并整合技術(shù)正義。當(dāng)人們發(fā)現(xiàn)算法在賦予同距離乘客不同網(wǎng)約車價(jià)格的時(shí)候,算法實(shí)際上已經(jīng)在平臺(tái)、消費(fèi)者、生產(chǎn)者之間賦予了權(quán)利、分配了義務(wù)、配置了責(zé)任,這是算法的規(guī)范屬性,其對(duì)人的行為指引作用可以視作法律對(duì)人行為指引的延伸。只是這種指引作用造成了不公正,不同乘客享受了同樣的權(quán)利,卻承擔(dān)了不同的義務(wù)。如果在警察行政處罰中,就是不同行政相對(duì)人因?yàn)橥瑯拥倪`法行為卻承擔(dān)了不一樣的法律責(zé)任,“同案同判”“權(quán)利義務(wù)責(zé)任相一致”的法律價(jià)值取向需要及時(shí)糾偏這樣的算法邏輯。此外,還要利用法律的確定性去避免智慧警務(wù)應(yīng)用的“不可解釋性”。算法設(shè)計(jì)的專業(yè)性、商業(yè)秘密屬性不排除其透明性、公正化,算法要可理解、可分析,[38]尤其當(dāng)警務(wù)算法侵害了個(gè)人權(quán)利時(shí),要確保個(gè)人能夠充分理解警務(wù)算法并進(jìn)行舉證。對(duì)透明性、可解釋性的追尋無(wú)非是不斷增加算法的確定性,提升用戶面對(duì)智慧化警務(wù)技術(shù)的預(yù)期性,這種確定性、預(yù)期性的算法倫理應(yīng)當(dāng)在法律對(duì)算法的規(guī)制中被法律價(jià)值所統(tǒng)攝。
通過(guò)建立技術(shù)標(biāo)準(zhǔn)去防止算法等技術(shù)偏離價(jià)值設(shè)定。“數(shù)據(jù)闡釋并不是理性的,這不能測(cè)量,也沒(méi)有是非對(duì)錯(cuò)的終極判斷。闡釋永遠(yuǎn)是主觀的,是依賴直覺(jué)的,而且也與周邊環(huán)境緊密相關(guān)。同樣的數(shù)據(jù)在不同的環(huán)境內(nèi)容中可以有截然不同的意義,這些意義并非數(shù)據(jù)所固有,而是人們?cè)谔囟ōh(huán)境中分析數(shù)據(jù)并將意義賦予了數(shù)據(jù)”,[39]大數(shù)據(jù)分析離不開(kāi)分析者對(duì)數(shù)據(jù)清理、數(shù)據(jù)集成和數(shù)據(jù)規(guī)約等技術(shù)的取舍,算法設(shè)計(jì)離不開(kāi)編寫(xiě)者的偏好,“他們對(duì)當(dāng)前互聯(lián)網(wǎng)代碼的可變和空白之處所做出的選擇,決定了互聯(lián)網(wǎng)的面貌”,[40]技術(shù)正義的價(jià)值設(shè)定必須盡可能限定數(shù)據(jù)取舍者、算法設(shè)計(jì)者的主觀偏好。一方面,要努力形成技術(shù)標(biāo)準(zhǔn),同一類型警務(wù)算法處理個(gè)人信息的要素和指標(biāo)要統(tǒng)一,這類標(biāo)準(zhǔn)可以由公檢法等政法機(jī)關(guān)、相關(guān)協(xié)會(huì)、研究機(jī)構(gòu)聯(lián)合制定,指導(dǎo)警務(wù)應(yīng)用在設(shè)計(jì)時(shí)即平衡好公權(quán)力和私權(quán)利,確保運(yùn)行的客觀性、公正性。另一方面,要建立算法審查機(jī)制,2021年通過(guò)的《中華人民共和國(guó)個(gè)人信息保護(hù)法》中的數(shù)據(jù)保護(hù)專員是這一方面的努力嘗試,可以對(duì)算法的技術(shù)和倫理層面進(jìn)行單一或一并審查。
從技術(shù)元素角度看,在警務(wù)技術(shù)應(yīng)用過(guò)程中,智慧警務(wù)風(fēng)險(xiǎn)主要來(lái)自于兩個(gè)方面:一是警務(wù)數(shù)據(jù)的采集、儲(chǔ)存、傳輸及運(yùn)用的風(fēng)險(xiǎn);二是智慧警務(wù)算法設(shè)計(jì)、應(yīng)用中的風(fēng)險(xiǎn)。健全完善避免數(shù)據(jù)濫用、嚴(yán)格數(shù)據(jù)運(yùn)用、防范算法偏見(jiàn)、防止算法權(quán)力濫用等程序規(guī)則,是解決問(wèn)題的重要突破口。
首先,警務(wù)數(shù)據(jù)的采集和運(yùn)用直接涉及公民的個(gè)人信息權(quán)利,針對(duì)這種典型干預(yù)公民權(quán)利的手段需要有法律的授權(quán)。無(wú)論是警察機(jī)關(guān)直接采集治安基礎(chǔ)信息、基礎(chǔ)場(chǎng)所信息、危險(xiǎn)物品信息等,還是委托社會(huì)機(jī)構(gòu)采集旅館住宿登記信息、出租屋登記信息,或者是警察機(jī)關(guān)從大型互聯(lián)網(wǎng)公司收集個(gè)人運(yùn)動(dòng)數(shù)據(jù)、消費(fèi)選擇、瀏覽記錄等動(dòng)態(tài)信息,雖然有其他主體參與,但都是以警察機(jī)關(guān)的采集、委托和收集為信息警務(wù)化的最后一道程序,因此,以《中華人民共和國(guó)人民警察法》第二條第一款和第六條為基礎(chǔ),針對(duì)數(shù)據(jù)收集、數(shù)據(jù)分析等智慧警務(wù)中典型干預(yù)手段建構(gòu)標(biāo)準(zhǔn)授權(quán)條款,即可解決智慧化技術(shù)的授權(quán)問(wèn)題。[41]《中華人民共和國(guó)反恐怖主義法》第二十八條、第四十三條,《中華人民共和國(guó)網(wǎng)絡(luò)安全法》第二十八條至第三十條及第四十一條至第四十五條的規(guī)定,可以被認(rèn)為構(gòu)成智慧化警務(wù)技術(shù)采集個(gè)人信息的授權(quán)條款;包括《公安機(jī)關(guān)辦理行政案件程序規(guī)定》第八十二條和第八十三條的規(guī)定,對(duì)涉嫌違法行為的例行檢查或者對(duì)違法行為人可以依法提取或者采集肖像、指紋等人體生物識(shí)別信息等,基本保證了警務(wù)數(shù)據(jù)采集的合法性。然而,針對(duì)人臉等敏感性生物信息的采集,到目前為止,法律并沒(méi)有規(guī)定采集主體及相應(yīng)的采集、儲(chǔ)存和運(yùn)用等程序,杭州野生動(dòng)物園“人臉第一案”凸顯了解決這一問(wèn)題的現(xiàn)實(shí)性和緊迫性。[42]人臉、虹膜,甚至基因,這些唯一性的生物信息一旦泄露,用戶身份安全將形同“裸奔”,如果再結(jié)合3D打印技術(shù),現(xiàn)實(shí)生活中就能實(shí)現(xiàn)真正的冒名頂替,個(gè)人人身、財(cái)產(chǎn)就面臨重大風(fēng)險(xiǎn)?!吨腥A人民共和國(guó)個(gè)人信息保護(hù)法》用“敏感個(gè)人信息”對(duì)人臉等生物性信息進(jìn)行了概括性保護(hù),2020年頒布的行業(yè)標(biāo)準(zhǔn)《App收集使用個(gè)人信息最小必要評(píng)估規(guī)范總則》中提出了人臉信息收集的最小必要規(guī)范,但對(duì)其采集主體、采集條件和適用范圍并沒(méi)有嚴(yán)格予以限定。伴隨智能終端、3D打印技術(shù)愈加發(fā)達(dá),需要將人臉等生物敏感性信息的采集條件、適用范圍等程序納入一般法律中加以詳盡規(guī)定,尤其要在涉及治安行政案件、刑事案件的辦案規(guī)則中予以明確規(guī)定,進(jìn)而對(duì)其他規(guī)則發(fā)揮引領(lǐng)示范功能。
其次,要完善警務(wù)數(shù)據(jù)的使用規(guī)則。有學(xué)者提出了關(guān)于數(shù)據(jù)使用的“可見(jiàn)性、事先約定、防范不公平對(duì)待”三個(gè)核心觀點(diǎn)。[43]針對(duì)警務(wù)數(shù)據(jù),主要涉及“數(shù)據(jù)使用的可見(jiàn)性”,其實(shí)質(zhì)包含了“可見(jiàn)”和“不可見(jiàn)”兩層含義。一方面是“程序的可見(jiàn)性”,警察機(jī)關(guān)對(duì)個(gè)人數(shù)據(jù)的采集、使用和響應(yīng)的監(jiān)管流程應(yīng)當(dāng)是能明示的、可見(jiàn)的,尤其要可解釋,能被公眾理解。另一方面是“個(gè)人信息的不可見(jiàn)性”,流程要可見(jiàn),但涉及隱私、身份信息、生物信息等個(gè)人數(shù)據(jù),警察機(jī)關(guān)在使用過(guò)程中要確保其安全性,不被案外人員知曉并利用。此外,還要防止警務(wù)數(shù)據(jù)采集及使用的偏差,正如有學(xué)者所言“如果沒(méi)有算法的參與,人類的決策和預(yù)測(cè)也會(huì)產(chǎn)生大量偏見(jiàn)”,[44]作為結(jié)果的算法偏見(jiàn)主要來(lái)源于人們不斷產(chǎn)生的數(shù)據(jù)偏見(jiàn),只是警務(wù)算法的反復(fù)運(yùn)用,以技術(shù)的方式呈現(xiàn)了這種偏見(jiàn),并以其本身暗含的客觀性、理性加深了這種偏見(jiàn)。但其根源仍然在于數(shù)據(jù)本身的偏見(jiàn),因此,對(duì)警務(wù)數(shù)據(jù)的采集和使用要能發(fā)現(xiàn)并糾偏本身的偏見(jiàn)數(shù)據(jù)及衍生的偏見(jiàn)數(shù)據(jù)。
再次,要厘清預(yù)測(cè)類警務(wù)算法的適用范圍和條件。有學(xué)者針對(duì)自動(dòng)化技術(shù)引入行政執(zhí)法過(guò)程中后,可能對(duì)公民權(quán)利造成侵害這種情況,提出了技術(shù)性正當(dāng)程序(Technological Due Process)的概念。[45]預(yù)測(cè)型警務(wù)可能導(dǎo)致之前傳統(tǒng)的程序控制失靈,導(dǎo)致權(quán)力濫用、權(quán)利被無(wú)聲侵犯。要嚴(yán)格限制預(yù)測(cè)型警務(wù)算法決策應(yīng)用范圍,《歐盟通用數(shù)據(jù)保護(hù)條例》第22條明確規(guī)定,如果算法決策對(duì)數(shù)據(jù)主體有法律效力或者重大影響,那么這種決策不應(yīng)純粹由算法作出。對(duì)涉及限制人身自由的預(yù)測(cè)型警務(wù)算法設(shè)計(jì)和納入警務(wù)應(yīng)用,至少要有全國(guó)人大常委會(huì)制定的法律授權(quán),采取更嚴(yán)格的審查標(biāo)準(zhǔn)。不僅要限制預(yù)測(cè)型警務(wù)算法的使用范圍,更要嚴(yán)格規(guī)定其適用條件,雖然《中華人民共和國(guó)個(gè)人信息保護(hù)法》也明確規(guī)定,個(gè)人有權(quán)拒絕個(gè)人信息處理者僅通過(guò)自動(dòng)化決策的方式作出決定。但是,由于警務(wù)類預(yù)測(cè)型算法主要適用于警察機(jī)關(guān)內(nèi)部的風(fēng)險(xiǎn)評(píng)估和警務(wù)啟動(dòng),因此,個(gè)人沒(méi)有機(jī)會(huì)知曉其決策的過(guò)程,更沒(méi)有機(jī)會(huì)拒絕其預(yù)測(cè)的結(jié)果。警察會(huì)根據(jù)預(yù)測(cè)結(jié)果允許或剝奪個(gè)體的行為選擇,比如用來(lái)排除潛在恐怖分子的機(jī)場(chǎng)禁飛名單系統(tǒng)即是如此。由于對(duì)“誰(shuí)是犯罪嫌疑人”的一系列推斷已經(jīng)深嵌在算法技術(shù)之中,因此,要在算法決策內(nèi)部建立審查監(jiān)督機(jī)制,可以考慮將人民檢察院的法律監(jiān)督功能等監(jiān)督機(jī)制鑲嵌到公安機(jī)關(guān)預(yù)測(cè)型警務(wù)應(yīng)用的算法決策過(guò)程,對(duì)其推理并做出決策的一系列算法過(guò)程進(jìn)行審查監(jiān)督,逐項(xiàng)同意,以使決策得以逐步實(shí)現(xiàn)。
最后,針對(duì)智慧化警務(wù)技術(shù)事實(shí)上提前啟動(dòng)了犯罪偵查的問(wèn)題,要嘗試分類分層設(shè)計(jì)調(diào)查取證措施。由于犯罪預(yù)測(cè)系統(tǒng)的提前預(yù)報(bào),形成了事實(shí)上的偵查提前啟動(dòng)。按照2015年出臺(tái)的《關(guān)于辦理網(wǎng)絡(luò)犯罪案件適用刑事訴訟程序若干問(wèn)題的意見(jiàn)》規(guī)定,“對(duì)接受的案件或者發(fā)現(xiàn)的犯罪線索,在審查中發(fā)現(xiàn)案件事實(shí)或者線索不明,需要經(jīng)過(guò)調(diào)查才能夠確認(rèn)是否達(dá)到犯罪追訴標(biāo)準(zhǔn)的,經(jīng)辦案部門(mén)負(fù)責(zé)人批準(zhǔn),可以進(jìn)行初查”,初查的啟動(dòng)至少應(yīng)當(dāng)具備具體的、特定的犯罪事實(shí)或線索,那么,類似“犯罪地圖”的預(yù)測(cè)警務(wù)所獲得的信息,不應(yīng)成為啟動(dòng)初查的條件。[46]據(jù)此,可以將刑事案件在公安機(jī)關(guān)辦理階段劃分為預(yù)測(cè)警務(wù)、犯罪初查和犯罪偵查三個(gè)階段。就調(diào)查內(nèi)容來(lái)看,比照偵查階段、初查階段采集證據(jù)規(guī)則,初查階段以不干預(yù)個(gè)人敏感信息為原則,并以經(jīng)特殊程序許可的有限干預(yù)為例外,預(yù)測(cè)警務(wù)階段則要嚴(yán)格禁止對(duì)個(gè)人敏感信息的干預(yù)。[47]就調(diào)查方式手段而言,比照《關(guān)于辦理網(wǎng)絡(luò)犯罪案件適用刑事訴訟程序若干問(wèn)題的意見(jiàn)》規(guī)定的“初查過(guò)程中,可以采取詢問(wèn)、查詢、勘驗(yàn)、檢查、鑒定、調(diào)取證據(jù)材料等不限制初查對(duì)象人身、財(cái)產(chǎn)權(quán)利的措施,但不得對(duì)初查對(duì)象采取強(qiáng)制措施和查封、扣押、凍結(jié)財(cái)產(chǎn)”規(guī)則,預(yù)測(cè)警務(wù)階段應(yīng)當(dāng)嚴(yán)格禁止采取可能影響個(gè)人權(quán)利的調(diào)查措施,如有必要,必須對(duì)照技術(shù)偵查措施適用方式強(qiáng)化對(duì)初查措施的審批監(jiān)督。
當(dāng)事前預(yù)防機(jī)制、事中監(jiān)管機(jī)制失靈,功能沒(méi)有充分發(fā)揮,一旦發(fā)生警務(wù)數(shù)據(jù)濫用或警務(wù)算法決策應(yīng)用侵犯了公民權(quán)利的情形,則涉及責(zé)任分配和權(quán)利救濟(jì)的問(wèn)題。
一般來(lái)說(shuō),警務(wù)數(shù)據(jù)濫用主要指公安機(jī)關(guān)內(nèi)部人員利用便利或在執(zhí)行公務(wù)中違規(guī)查詢、收集、使用個(gè)人信息,依違法責(zé)任原則,其責(zé)任的最終承擔(dān)主體當(dāng)然是違規(guī)的民警。但在警務(wù)算法應(yīng)用中,對(duì)公民權(quán)利義務(wù)產(chǎn)生的影響往往是自動(dòng)化決策的結(jié)果,此時(shí)涉及警務(wù)算法應(yīng)用的責(zé)任問(wèn)題,即責(zé)任的可追溯性和責(zé)任的分擔(dān)問(wèn)題。在民事領(lǐng)域,算法責(zé)任主體往往涉及算法設(shè)計(jì)者、應(yīng)用開(kāi)發(fā)者、應(yīng)用平臺(tái)及監(jiān)管部門(mén)的責(zé)任,尤其是算法應(yīng)用平臺(tái),因其強(qiáng)大的合規(guī)能力,往往被賦予更多的義務(wù)責(zé)任。但警務(wù)算法應(yīng)用一旦做出了侵犯公民權(quán)利的決策后,是否應(yīng)當(dāng)由公安機(jī)關(guān)承擔(dān)責(zé)任?公安機(jī)關(guān)承擔(dān)責(zé)任的前提是,算法決策行為是否屬于公安機(jī)關(guān)做出的具體行政行為,且這樣的決策是否具有違法性。從算法決策行為與公安機(jī)關(guān)的關(guān)系來(lái)看,以犯罪預(yù)測(cè)型警務(wù)系統(tǒng)為例,由公安機(jī)關(guān)委托設(shè)計(jì),且由公安機(jī)關(guān)應(yīng)用,算法決策行為應(yīng)當(dāng)視作公安機(jī)關(guān)做出該具體行政行為的一部分。從決策行為是否違法來(lái)看,如果公安機(jī)關(guān)不能證明自動(dòng)化決策過(guò)程全程合法,那么公安機(jī)關(guān)當(dāng)然應(yīng)當(dāng)承擔(dān)該次算法的責(zé)任;如果公安機(jī)關(guān)能夠證明自動(dòng)化決策過(guò)程合法,是否就不用承擔(dān)該次算法的責(zé)任?對(duì)于造成的公民權(quán)利侵害又由誰(shuí)來(lái)賠償?筆者認(rèn)為,應(yīng)當(dāng)綜合算法決策與損害結(jié)果的因果關(guān)系的強(qiáng)弱,讓公安機(jī)關(guān)承擔(dān)相應(yīng)的責(zé)任,如果說(shuō)前者的依據(jù)是違法責(zé)任原則,那么后者的依據(jù)可以認(rèn)為是無(wú)過(guò)錯(cuò)責(zé)任原則,這可以認(rèn)為是智慧警務(wù)改革進(jìn)程中技術(shù)智慧化的部分代價(jià)。
要及時(shí)強(qiáng)化公民在自我救濟(jì)時(shí)的程序權(quán)利和實(shí)體權(quán)利。在大數(shù)據(jù)引導(dǎo)的警務(wù)變革及其實(shí)踐中,隨著事實(shí)上偵查啟動(dòng)時(shí)點(diǎn)的提前,當(dāng)然應(yīng)當(dāng)允許被干預(yù)的權(quán)利主體的辯護(hù)權(quán)提前到同一時(shí)點(diǎn),并加強(qiáng)權(quán)利主體在這一階段有效獲取相關(guān)證據(jù)的權(quán)利。同時(shí),由于公安機(jī)關(guān)擁有比個(gè)人強(qiáng)大的數(shù)據(jù)收集能力和數(shù)據(jù)挖掘技術(shù),要強(qiáng)化智慧化技術(shù)下公安機(jī)關(guān)對(duì)無(wú)罪、無(wú)違法之類證據(jù)的搜集義務(wù)。為了避免由于當(dāng)事人不懂智慧化技術(shù)而導(dǎo)致辯護(hù)權(quán)行使的弱化,還要完善當(dāng)事人聘請(qǐng)專家輔助人的制度,允許專家輔助人提前介入庭前會(huì)議等庭前程序。
智慧警務(wù)的范疇很廣,文中主要以預(yù)測(cè)型犯罪系統(tǒng)為例,借助警務(wù)數(shù)據(jù)和警務(wù)算法應(yīng)用兩條線索,從技術(shù)邏輯—法治目標(biāo)、技術(shù)主義—正當(dāng)程序、警察權(quán)—私權(quán)利等維度提出了智慧警務(wù)建設(shè)應(yīng)當(dāng)關(guān)注的風(fēng)險(xiǎn),并分別從數(shù)據(jù)正義、技術(shù)標(biāo)準(zhǔn)、程序控制、權(quán)利救濟(jì)等角度提出了事前預(yù)防、事中監(jiān)管、事后救濟(jì)等三大規(guī)制機(jī)制。無(wú)論如何被雙重空間、數(shù)據(jù)應(yīng)用、算法決策等不斷重塑,作為執(zhí)法機(jī)關(guān),公安機(jī)關(guān)的警務(wù)必須以法治化為目標(biāo)指向。警務(wù)理論如何積極回應(yīng)那些智慧化技術(shù)帶來(lái)的顛覆性挑戰(zhàn),并能重構(gòu)又不斷指導(dǎo)警務(wù)實(shí)踐適應(yīng)智慧社會(huì)的法律規(guī)則,還需要數(shù)字化變革以及一系列警務(wù)數(shù)字化、智慧化、智能化的努力和嘗試。
浙江警察學(xué)院學(xué)報(bào)2022年2期