李皛

本期接上期繼續(xù)介紹美國“預測性警務”的爭議與困境及出路等。

三、爭議與困境

“預測性警務”在美國一度受到執(zhí)法機關和媒體的熱烈追捧，并被美國《時代周刊》列入2011年的50項最佳發(fā)明之一。在媒體的推波助瀾下，很多人相信“預測性警務”所使用的技術工具能夠“自動”對犯罪和罪犯做出“預言”，一時間一些人寄希望于用高科技武裝到牙齒的超級警察來拯救美國，另一些人則恐懼像科幻電影《少數(shù)派報告》中所描述的籠罩一切的數(shù)字強權即將到來。

2013年，美國蘭德公司的報告將“預測性警務”的現(xiàn)實應用拉下神壇。通過對美國警察機關的詳盡調(diào)查，該報告破除了有關“計算機知道未來”“計算機能做一切”“預測犯罪等于阻止犯罪”的神話，報告中指出雖然數(shù)據(jù)科學必然成為警務活動不可或缺的組成部分，而科技發(fā)展將使其發(fā)揮越來越重要的作用，但至少在目前和可預見的未來，各種“預測性警務”工具的有效性仍取決于人們能否發(fā)現(xiàn)、確定并為其提供可靠且有效的數(shù)據(jù)，其“預測”范圍也局限于有限的功能設定之內(nèi)。而即便在一定程度上實現(xiàn)了準確的“預測”，能否實現(xiàn)打擊和預防犯罪的目標仍取決于警察的業(yè)務素質(zhì)和工作方法。報告強調(diào)，迷信和依賴技術工具，不能正確認識數(shù)據(jù)產(chǎn)生的背景和內(nèi)涵，忽視或誤解影響預測的非技術因素，自恃強大技術而輕視維護社區(qū)公眾關系的重要性甚至踐踏公民權利，必將導致實踐中的失敗。

在技術進步的興奮逐漸消退后，“預測性警務”的發(fā)展必須面對越來越復雜的輿論環(huán)境和來自多方面的質(zhì)疑與批評，特別是在美國長期存在基于種族、宗教等因素的執(zhí)法不公的情況下，一些問題具有高度的政治敏感性，迫使警察機關及其合作方必須謹慎應對。

2013年斯諾登事件后，美國公眾越來越關心互聯(lián)網(wǎng)時代的公民隱私保護和數(shù)據(jù)權屬問題，對政府不受限制地獲取和利用數(shù)據(jù)保持高度警惕。此后，美國警察機關利用社交媒體監(jiān)控和數(shù)據(jù)挖掘公司“吉歐菲迪亞”（公司名GeoFeedia，音譯）等提供的網(wǎng)絡爬蟲工具，從“臉書”（Facebook）“推特”（Twitter）和“照片墻”（Instagram）等社交媒體平臺廣泛挖掘數(shù)據(jù)以用于“預測性警務”的情況被不斷披露，美國公民自由聯(lián)盟（American Civil Liberties Union）等民權組織抗議警察機關在此類工作中將特定短語（如黑人民權運動口號“黑人的命也是命”，即“BlackLivesMatter”等）作為檢索目標，稱這種做法無異于將特定種族或文化背景的人群與犯罪相聯(lián)系，并成功迫使主流社交媒體平臺關閉了警方使用的網(wǎng)絡爬蟲工具訪問其后端數(shù)據(jù)權限。但即便如此，很多美國人仍擔憂警察機關獲取像美國國家安全局等情報機關那樣強大和不受監(jiān)督的數(shù)據(jù)挖掘能力，并認為即便不能訪問后端數(shù)據(jù)，警方仍能獲取大量有關個人隱私的信息。

在公眾的焦慮之外，專業(yè)人士和組織則對美國警察機關的工作進行了更深入的審視。一些人類學家和社會學家反對“社會物理學”學派提出的概念，認為相對于人類行為和人類社會的復雜性，至少現(xiàn)有的數(shù)據(jù)科學手段過于粗糙和簡易，只能應用于一些極其有限的場合，對認識和解決復雜社會問題沒有太高的價值。一些犯罪學家和統(tǒng)計學家指出，對迄今為止顯示出“預測性警務”神奇效果的那些統(tǒng)計數(shù)據(jù)缺乏認真評估，很少在合適的監(jiān)督下由獨立且嚴肅的研究機構(gòu)開展。他們認為，一些確實存在的治安好轉(zhuǎn)和犯罪率下降是由于多方面因素導致的，如隨著互聯(lián)網(wǎng)經(jīng)濟的發(fā)展在全世界范圍內(nèi)普遍存在街頭侵財類犯罪大幅下降的現(xiàn)象;還有一些成果則是由于像前洛杉磯警察局長布拉頓那樣的強勢警察機關領導人能夠調(diào)動更多資源而實現(xiàn)的，“預測性警務”等先進技術在其中更多起到了宣傳作用。一些人工智能專家則提醒公眾，當前用于“訓練”人工智能的“算法”本質(zhì)上是“黑箱”，即便是發(fā)明者也無法解釋其內(nèi)在的運作邏輯，將這種無法監(jiān)督和不受控的工具用于政府的公共服務中，其合法性是值得懷疑的。更嚴厲的指責則在于一些學者認為作為“預測性警務”實現(xiàn)基礎的數(shù)據(jù)本身已經(jīng)被過往警察執(zhí)法中的偏見和歧視性做法所“污染”，建立在其基礎上的“預測”也只能是過往錯誤的重復，或是用“科學”的外衣掩飾美國的種族主義警務傳統(tǒng)。賓夕法尼亞大學研究人員克里斯蒂安·盧姆（Kristian Lum）和人工智能公司“深度思考”（Deep Mind）的專家威廉·艾薩克（William Isaac）通過模擬研究發(fā)現(xiàn)，“預測警務”公司提供的犯罪預測軟件在目標犯罪類型應呈平均分布的情況下，以大約兩倍于白人社區(qū)的規(guī)模向黑人社區(qū)調(diào)配警力?！邦A測警務”公司表示應注意避免帶有偏見的執(zhí)法，但仍爭辯說，其開發(fā)的犯罪預測軟件并不依賴經(jīng)過警方主觀挑選或與個人身份相關的數(shù)據(jù)。但學者們表示，在美國社會，偏見與歧視絕非僅僅是個人的主觀意志所決定的，而是根植于整個社會結(jié)構(gòu)的系統(tǒng)性壓迫，要“洗刷”干凈并不容易。美國學界對“預測性警務”的批評不斷掀起新的高潮，在2020年5月發(fā)生黑人弗洛伊德遭警察“跪殺”事件后，6月15日，在美國數(shù)學家學會的倡導下，約1500多名科學家加入了抵制“預測性警務”，拒絕與警察機關合作的運動;7月，《麻省理工大學技術評論》（MIT Technology Review）發(fā)表了題為“廢除種族主義的預測性警務算法”（Predictive policing algorithms are racist. They need to be dismantled）的文章。美國“預測性警務”的發(fā)展正面臨來自它最迫切需要的智力資源的強烈反對。

不利的輿論環(huán)境迫使美國警察機關公開其有關“預測性警務”的技術和工作方法的細節(jié)，并接受更多元化的監(jiān)督和評估，以求得到公眾的諒解，但目前看來事與愿違。反“預測性警務”團體“停止洛杉磯警察局間諜活動聯(lián)盟”（Stop LAPD Spying Coalition）于2017年和2018年要求洛杉磯警察局公布其“激光”行動的詳細信息且訴諸司法訴訟，迫使該警察局公開了數(shù)百份相關文件，并在2019年初對“激光”行動進行了內(nèi)部審查，發(fā)現(xiàn)在被歸類為“活躍的長期犯罪者”的233人中，拉美裔或非裔美國人占84%，似乎“證實”了有關執(zhí)法偏見的質(zhì)疑，從而引起了更強烈的反彈。無獨有偶，經(jīng)過《芝加哥太陽報》的呼吁和訴諸司法訴訟，芝加哥警察局被迫公開了“戰(zhàn)略對象清單”的詳情，民權團體在經(jīng)過梳理后，對其中所體現(xiàn)的難以理解的算法邏輯表示質(zhì)疑：在總數(shù)約40萬的被標注者中，約29萬人被標注為“高風險”，而其中9萬人從未被捕或曾成為犯罪受害者，批評者據(jù)此指出警方正在締造基于算法的新的執(zhí)法歧視體系。

四面楚歌之下，近年來美國“預測性警務”屢遭“滑鐵盧”。2019年，一向在警務創(chuàng)新中居于前沿的美國洛杉磯警察局對其“預測性警務”項目進行全面審查，最終認為就“預測警務”公司提供的犯罪預測軟件對減少犯罪的總體有效性“無法得出有意義的結(jié)論”;并決定結(jié)束“激光”行動，認為需要對其效果進行重新評估。2020年初，芝加哥警察局悄然結(jié)束了“戰(zhàn)略對象清單”行動，并承認2019年的一項研究表明沒有充分證據(jù)證實該行動對減少暴力犯罪有顯著作用。2020年6月，“預測警務”公司總部所在地——美國加利福尼亞州圣克魯斯縣成為全美第一個由于“了解到預測性警務和面部識別對有色人種產(chǎn)生不成比例的偏見”而正式宣布禁止使用這些技術的行政區(qū)。

四、癥結(jié)與出路

毫無疑問，美國“預測性警務”的發(fā)展當前正面臨自其誕生以來最嚴峻的挑戰(zhàn)，在極端不利的輿論環(huán)境下面對針對其目標、技術路徑、實際成效、道德標準和合法性的全方位質(zhì)疑與批評。但與此同時，無論是“預測性警務”的擁護者抑或反對者，都承認基于數(shù)據(jù)科學和人工智能的警務技術革新難以避免，美國人必須學會使用或面對這些陌生、可疑且難以控制的社會治理工具。

美國公眾對該國警察體制根深蒂固的不信任有其深刻根源。從1619年第一批黑人奴隸被販賣到北美，直至20世紀60年代的民權運動終結(jié)了種族隔離，美國有300多年的極端的、制度化的種族壓迫歷史，在此期間，包括警察在內(nèi)的國家暴力機器是種族壓迫最直接和殘酷的執(zhí)行者。此后，雖然種族壓迫的制度被終止，但其造成的社會撕裂和其他災難性后果，以及始終縈繞不去的種族主義文化氛圍，使種族壓迫仍然系統(tǒng)性存在，只不過變得隱晦，而警察普遍性地帶有種族偏見的執(zhí)法行為，則早已成為社會痼疾。美國公眾有理由相信，種族壓迫將成為人工智能通過“機器學習”所接受的訓練的組成部分，從而將這一丑惡的傳統(tǒng)延續(xù)下去，并為其披上科學的外衣。

美國行政機關的“自治”模式導致在全美約18000個執(zhí)法機構(gòu)之上并不存在總的監(jiān)督機制，使公眾長期以來對如何運用“預測性警務”技術掌握在執(zhí)法機關管理層和出售這些技術的商業(yè)機構(gòu)手中的狀況倍感憂慮，一直在呼吁讓更多的專業(yè)機構(gòu)和社會團體，特別是那些深受警察歧視性執(zhí)法之害的弱勢群體的代表，參與到對警方?jīng)Q策的評估和審查中;要求供應商將其用于訓練人工智能的數(shù)據(jù)集公開并提交專門機構(gòu)審核，以使政府治理更符合民主原則。面對壓力，自奧巴馬執(zhí)政時期開始，美國政府推動了“警察數(shù)據(jù)計劃”，鼓勵警察部門提供更多的檔案以供公眾審查，但參與的機構(gòu)數(shù)量仍十分有限。此外，“預測性警務”使用的技術手段也被應用在改善警察與社區(qū)關系，以及監(jiān)督警察執(zhí)法等方面。美國斯坦福大學在2015年啟動了“法律秩序與算法”項目，通過對上億條高速公路執(zhí)法巡邏站數(shù)據(jù)的分析和發(fā)布，建立對社會開放的警民互動數(shù)據(jù)庫。高技術公司對此也反響積極，試圖為人工智能樹立更加友善和“政治正確”的形象。在蘇格拉塔（公司名Socrata，音譯）等公司的幫助下，美國政府正在研究通過對警察使用武力、被投訴、出警響應時間等數(shù)據(jù)的分析排除“不良”執(zhí)法數(shù)據(jù)的技術。但無論如何，無論是醫(yī)治美國社會種族歧視的痼疾，抑或減少犯罪，都絕非通過技術手段或警察以及刑事司法部門的努力所能解決的，其將是持久、全面而深刻社會變革的組成部分。

另一方面，在今天的信息化社會，互聯(lián)網(wǎng)和數(shù)據(jù)空間承載了越來越多的，甚至某種意義上的大部分人類活動，但就法律與道德規(guī)范而言，則在很大程度上仍是一片空白。“預測性警務”所使用的技術工具不可避免地涉及互聯(lián)網(wǎng)個人隱私和數(shù)據(jù)權屬等敏感而無法在短期內(nèi)取得共識的議題。對此，美國學界呼吁警方應在合理利用數(shù)據(jù)資源的同時促進互聯(lián)網(wǎng)與數(shù)據(jù)道德、法規(guī)建設的良性發(fā)展。美國印第安納大學教授弗里德·凱特（Fried Cate）指出，公眾更關注信息被如何使用而非如何收集，警方應注意到這一點，并對此時刻保持謹慎。此外，技術進步也可能帶來一些更深層次的問題。如美國憲法第四修正案規(guī)定“人民的人身、住宅、文件和財產(chǎn)不受無理搜查和扣押的權利，不得侵犯。除依照合理根據(jù)，以宣誓或代誓宣言保證，并具體說明搜查地點和扣押的人或物，不得發(fā)出搜查和扣押狀”。然而，當警察或司法機關基于人工智能的判斷，或在受到人工智能影響的情況下作出諸如搜查或扣押的決定，應如何審視其合法性？當今科學技術的發(fā)展已經(jīng)遠遠走在了人類對環(huán)境適應能力的前面，如何使科學技術始終為人類社會發(fā)展服務，始終堅持以人為本而不再迷失在盲目技術崇拜、技術恐懼或?qū)ぞ咝阅繕说钠珗?zhí)中，美國“預測性警務”的發(fā)展與困境或?qū)⑹且粋€很好的啟示。（全文完）■

（責任編輯：馮苗苗）