2023年，ChatGPT掀起全球熱潮，重新定義人類(lèi)知識(shí)，加速現(xiàn)實(shí)社會(huì)變革，而這僅是當(dāng)前人工智能快速發(fā)展的一個(gè)縮影。隨著人工智能賦能警務(wù)，人的智能與人工智能之間的絕對(duì)界限正被打破。對(duì)美國(guó)刑事執(zhí)法人工智能的審視可沿以下兩條線(xiàn)索展開(kāi)。

一是人工智能技術(shù)演變與應(yīng)用脈絡(luò)。從弱人工智能應(yīng)用到類(lèi)ChatGPT大模型引入，美國(guó)刑事執(zhí)法人工智能融合應(yīng)用歷經(jīng)三次技術(shù)浪潮，不僅將警務(wù)技術(shù)發(fā)展推向智能化邏輯演變方向，也掀起犯罪預(yù)防、打擊與治理的結(jié)構(gòu)性變革。究其本質(zhì)，人工智能作為一種技術(shù)賦能，在警務(wù)中體現(xiàn)的是以數(shù)據(jù)為應(yīng)用基礎(chǔ)、以算法為應(yīng)用驅(qū)動(dòng)，實(shí)現(xiàn)以機(jī)器換人力、以智能增效能的邏輯，重塑傳統(tǒng)刑事執(zhí)法行為與模式——治理主體機(jī)器化、治理體系算法化、治理節(jié)點(diǎn)前置化，但本質(zhì)上只專(zhuān)注于特定任務(wù)表現(xiàn)，缺乏人類(lèi)判斷力、同理心與處理復(fù)雜社會(huì)互動(dòng)的能力。

二是技術(shù)與社會(huì)環(huán)境間的相互形塑。當(dāng)一項(xiàng)技術(shù)的影響不可分割地源于其設(shè)計(jì)和社會(huì)背景的結(jié)合，技術(shù)中立不再適用，必須考慮技術(shù)本身具有的倫理屬性。在新冠疫情沖擊下美國(guó)財(cái)政赤字、公共債務(wù)大幅上升，以“工作而非監(jiān)獄”“關(guān)心而非警察”為口號(hào)的“撤資警察”（Defund the Police）運(yùn)動(dòng)加劇警方面臨的負(fù)擔(dān)過(guò)重、資金不足與人員短缺困境，基于人工智能的“精準(zhǔn)警務(wù)”興起，公私合作研發(fā)治理模式在提升整體安全治理能力的同時(shí)塑造市場(chǎng)力量，帶來(lái)大規(guī)模商業(yè)活動(dòng)。而人工智能嵌入刑事執(zhí)法對(duì)既有警務(wù)倫理、正義理念帶來(lái)的挑戰(zhàn)和種族歧視、暴力執(zhí)法等根深蒂固的“美國(guó)病”交織，迫使美國(guó)警方反思其合法性基礎(chǔ)。在后弗洛伊德時(shí)代，美國(guó)警察何為？如何改進(jìn)人工智能警務(wù)的監(jiān)管與問(wèn)責(zé)，修補(bǔ)破碎社會(huì)中的裂痕？

一、人工智能在美國(guó)刑事執(zhí)法中的融合觀察

（一）第一次浪潮：專(zhuān)家系統(tǒng)在美國(guó)刑事執(zhí)法中的先行先試

人工智能常被誤解為一項(xiàng)單一的新興技術(shù)，但實(shí)際上，人工智能是一個(gè)涵蓋廣泛方法與技術(shù)的計(jì)算機(jī)科學(xué)領(lǐng)域。人工智能之父約翰·麥卡錫在1956年將其定義為“制造智能機(jī)器的科學(xué)與工程”。在概念層面，人工智能意味著機(jī)器能夠獨(dú)立感知、響應(yīng)環(huán)境，在無(wú)人類(lèi)直接干預(yù)下執(zhí)行通常需要人類(lèi)智慧與決策的任務(wù)。

20世紀(jì)80年代，模仿人類(lèi)專(zhuān)家邏輯規(guī)則和推理思維構(gòu)建人工智能專(zhuān)家系統(tǒng)的技術(shù)浪潮興起，美國(guó)警界認(rèn)為計(jì)算機(jī)程序可緩解因經(jīng)驗(yàn)豐富的偵查人員退休而造成的人才流失，F(xiàn)BI（美國(guó)聯(lián)邦調(diào)查局）率先推動(dòng)以專(zhuān)家系統(tǒng)形式將人工智能應(yīng)用于犯罪偵查。FBI分析師大衛(wèi)·伊科夫指出，“犯罪人格分析專(zhuān)家利用人工智能技術(shù)捕捉連環(huán)暴力犯罪分子側(cè)寫(xiě)相關(guān)難以捉摸的決策規(guī)則”——美國(guó)國(guó)家暴力犯罪分析中心開(kāi)發(fā)“側(cè)寫(xiě)者”系統(tǒng)，基于犯罪側(cè)寫(xiě)員經(jīng)驗(yàn)和研究，匯聚來(lái)自犯罪現(xiàn)場(chǎng)處置、暴力犯罪逮捕計(jì)劃報(bào)告等FBI數(shù)據(jù)庫(kù)中的數(shù)據(jù)，進(jìn)行犯罪模式分析，尋找已知或未知犯罪人線(xiàn)索，并對(duì)犯罪預(yù)防策略進(jìn)行有效性評(píng)估，為偵查人員提供咨詢(xún)建議。1989年，美國(guó)檢察官編寫(xiě)《執(zhí)法中的人工智能和專(zhuān)家系統(tǒng)手冊(cè)》，介紹專(zhuān)家系統(tǒng)在計(jì)算機(jī)輔助調(diào)度、案件偵辦和警察培訓(xùn)等方面的實(shí)際應(yīng)用，對(duì)馬里蘭州巴爾的摩警察局在1988年至1990年間開(kāi)展的入室盜竊專(zhuān)家系統(tǒng)試點(diǎn)進(jìn)行案例分析。

專(zhuān)家系統(tǒng)在本質(zhì)上是“知識(shí)庫(kù)+推理機(jī)”的組合，從人類(lèi)專(zhuān)家中采集知識(shí)，編寫(xiě)大量指令，以“if-then”規(guī)則運(yùn)算并在硬件中執(zhí)行，完成特定領(lǐng)域問(wèn)題推理，但并沒(méi)有學(xué)習(xí)或處理不確定性問(wèn)題的能力。然而，專(zhuān)家系統(tǒng)在復(fù)雜犯罪分析中展現(xiàn)出的潛力，為更廣泛的人工智能技術(shù)在美國(guó)刑事執(zhí)法中拓展應(yīng)用奠定基礎(chǔ)。

（二）第二次浪潮：機(jī)器學(xué)習(xí)在美國(guó)刑事執(zhí)法中的應(yīng)用普及

21世紀(jì)以來(lái)，人工智能技術(shù)和警務(wù)改革的雙重演進(jìn)與融合推動(dòng)美國(guó)以“數(shù)據(jù)+智能”為關(guān)鍵要素的現(xiàn)代化偵查治理模式不斷形成完善。

機(jī)器學(xué)習(xí)的崛起標(biāo)志著人工智能發(fā)展迎來(lái)第二次浪潮，海量數(shù)據(jù)、低成本大規(guī)模并行計(jì)算以及持續(xù)優(yōu)化的學(xué)習(xí)技術(shù)，實(shí)現(xiàn)圖像和文本識(shí)別、自然語(yǔ)言處理等任務(wù)突破，為偵查破案賦能增效。在視頻偵查中，機(jī)器學(xué)習(xí)在特征提取、對(duì)象識(shí)別、行為分析、實(shí)時(shí)監(jiān)控等方面具備天然優(yōu)勢(shì)。在經(jīng)歷2001年“9·11”恐怖襲擊事件、2013年波士頓馬拉松爆炸案后，美國(guó)深刻意識(shí)到通過(guò)精準(zhǔn)人臉識(shí)別和影像系統(tǒng)快速鎖定犯罪嫌疑人的重要性，F(xiàn)BI投資10億美元研發(fā)“下一代識(shí)別系統(tǒng)”（NGI），各州警方加大對(duì)人工智能驅(qū)動(dòng)的智能視頻與圖像監(jiān)控、自動(dòng)車(chē)牌讀取、無(wú)人機(jī)巡查等領(lǐng)域開(kāi)發(fā)部署。“場(chǎng)景理解”是美國(guó)國(guó)家司法研究所重點(diǎn)資助的人工智能研發(fā)方向之一，旨在實(shí)現(xiàn)無(wú)人工干預(yù)下識(shí)別視頻中正在進(jìn)行的犯罪活動(dòng)，如“一個(gè)人拔出手槍向商店櫥窗開(kāi)槍”。電子前沿基金會(huì)數(shù)據(jù)顯示，截至2023年7月，美國(guó)約849個(gè)警察局采用人臉識(shí)別，約35個(gè)警察局采用視頻分析。

機(jī)器學(xué)習(xí)重新定義美國(guó)刑事執(zhí)法中的“取證”，顯著提升偵查人員對(duì)物證的識(shí)別和解釋能力——深度學(xué)習(xí)模型經(jīng)過(guò)訓(xùn)練可識(shí)別復(fù)雜數(shù)據(jù)集中的模式和異常，提升DNA、指紋、虹膜、語(yǔ)音分析等的靈敏度、準(zhǔn)確性，美國(guó)警方將其應(yīng)用于懸置多年的性侵、兇殺、失蹤等冷案分析，2018年成功查獲在1970至1980年代犯下數(shù)十宗性侵與殺人案的“金州殺手”。此外，基于神經(jīng)網(wǎng)絡(luò)的犯罪現(xiàn)場(chǎng)照片和視頻分析工具可突出顯示隱藏的武器、細(xì)微的斗爭(zhēng)跡象等可能被人眼忽略的細(xì)節(jié)。2012年至今，非營(yíng)利公司索恩與美國(guó)警方合作，開(kāi)發(fā)具備機(jī)器學(xué)習(xí)功能的聚光燈（Spotlight）軟件，掃描互聯(lián)網(wǎng)、暗網(wǎng)色情廣告，自動(dòng)查找失蹤兒童并標(biāo)記高風(fēng)險(xiǎn)廣告，據(jù)稱(chēng)為警方減省60%人口販賣(mài)調(diào)查時(shí)間。索恩還發(fā)起阿耳特彌斯項(xiàng)目，掃描網(wǎng)上歷史聊天記錄發(fā)現(xiàn)潛在兒童性侵者。

與此同時(shí)，問(wèn)題導(dǎo)向警務(wù)、情報(bào)主導(dǎo)警務(wù)、熱點(diǎn)警務(wù)、社區(qū)警務(wù)等思想與改革運(yùn)動(dòng)勃興，預(yù)測(cè)性分析等機(jī)器學(xué)習(xí)方法與美國(guó)警務(wù)改革發(fā)展潮流相契合，有助于發(fā)現(xiàn)隱藏的犯罪模式和趨勢(shì)，實(shí)現(xiàn)更積極主動(dòng)的犯罪預(yù)防。2010年前后，洛杉磯警察局和紐約警察局率先開(kāi)展犯罪時(shí)空預(yù)測(cè)實(shí)驗(yàn)。在加州大學(xué)洛杉磯分校布蘭廷厄姆教授技術(shù)支持下，將過(guò)去10年內(nèi)刑事案件記錄匯總成為數(shù)據(jù)集用于訓(xùn)練算法，以深具地域預(yù)測(cè)性特質(zhì)的財(cái)產(chǎn)犯罪（入室竊盜、汽車(chē)竊盜）進(jìn)行試驗(yàn)，基于犯罪類(lèi)型、犯罪地點(diǎn)和犯罪時(shí)間進(jìn)行預(yù)測(cè)，為警方重點(diǎn)巡邏犯罪熱點(diǎn)時(shí)空提供前瞻性建議、降低犯罪率和受害率，之后延伸至重大槍支兇殺案、幫派犯罪等不太受地域規(guī)律和熟悉特性限制的犯罪種類(lèi)。值得關(guān)注的是，鑒于試驗(yàn)成果相對(duì)成功，洛杉磯警局與布蘭廷厄姆教授共同開(kāi)設(shè)創(chuàng)業(yè)公司PredPol，目前已成為市場(chǎng)龍頭，號(hào)稱(chēng)“美國(guó)每33人中就有1人受到PredPol公司提供的安全保護(hù)”。萬(wàn)國(guó)商業(yè)機(jī)器公司（IBM）與孟菲斯、紐約警察局合作，推出藍(lán)色鎮(zhèn)壓（Blue CRUSH）計(jì)劃，基于SPSS預(yù)測(cè)分析揭示毒品、武器、賣(mài)淫等潛在犯罪趨勢(shì)，標(biāo)識(shí)廢棄住房等影響犯罪趨勢(shì)的長(zhǎng)期因素，偵查人員不僅可以看到當(dāng)前犯罪熱點(diǎn)的多層地圖，還可以看到警務(wù)部署和戰(zhàn)術(shù)變化帶來(lái)的犯罪情況變遷。大數(shù)據(jù)企業(yè)帕蘭提爾、律商聯(lián)訊等也紛紛加入賽道，當(dāng)前基于地點(diǎn)的預(yù)測(cè)性警務(wù)已不再是純粹警察內(nèi)部輔助系統(tǒng)，而是一項(xiàng)每年價(jià)值數(shù)百萬(wàn)美元的業(yè)務(wù)、大規(guī)模商業(yè)活動(dòng)。

不限于犯罪時(shí)空，美國(guó)預(yù)測(cè)性警務(wù)進(jìn)一步拓展至對(duì)受害者、犯罪人的預(yù)測(cè)，“以人為本”的警務(wù)計(jì)劃在美國(guó)各地蔓延。芝加哥警察局將“利用人工智能算法、根據(jù)關(guān)聯(lián)和行為預(yù)測(cè)暴力犯罪受害者”納入減少暴力犯罪戰(zhàn)略。帕斯科縣警長(zhǎng)辦公室發(fā)起“高發(fā)犯罪者”項(xiàng)目，涉嫌盜竊、毒品與暴力犯罪被捕的人將被算法系統(tǒng)分配分?jǐn)?shù)，若之后在警方報(bào)告中出現(xiàn)五次以上將被賦予“增強(qiáng)分”，分?jǐn)?shù)與犯罪風(fēng)險(xiǎn)掛鉤，被認(rèn)定為“高發(fā)犯罪者”意味著要接受警方更嚴(yán)格的盤(pán)查。2016年，美國(guó)首份《國(guó)家人工智能研發(fā)戰(zhàn)略計(jì)劃》將“安全和執(zhí)法”列為利用人工智能推進(jìn)的國(guó)家優(yōu)先事項(xiàng)，提出執(zhí)法和安全官員可通過(guò)使用模式檢測(cè)來(lái)檢測(cè)個(gè)人行為者的異常行為或預(yù)測(cè)危險(xiǎn)人群的行為，從而幫助建立一個(gè)更安全的社會(huì)。伊格納斯在《算法治理——后人類(lèi)時(shí)代的政治與法律》中指出，我們正在見(jiàn)證“從人類(lèi)執(zhí)法到數(shù)字系統(tǒng)執(zhí)法”的轉(zhuǎn)變。

然而，關(guān)于技術(shù)與警務(wù)的反思并不止步于此，以機(jī)器學(xué)習(xí)為代表的人工智能技術(shù)已深度嵌入美國(guó)警務(wù)與司法改革過(guò)程。2018年12月，時(shí)任美國(guó)總統(tǒng)特朗普簽署《第一步法》（First Step Act），規(guī)定建立聯(lián)邦罪犯風(fēng)險(xiǎn)和需求評(píng)估系統(tǒng)（PATTERN），精確測(cè)量罪犯在監(jiān)禁期間的再犯風(fēng)險(xiǎn)變化，以風(fēng)險(xiǎn)評(píng)分為基礎(chǔ)決定是否提前釋放或分配至生產(chǎn)性活動(dòng)，推動(dòng)罪犯走向無(wú)犯罪（crime-free）生活的第一步。這項(xiàng)舉措深刻反映了美國(guó)對(duì)20世紀(jì)80年代以來(lái)嚴(yán)打犯罪政策的反思，對(duì)大規(guī)模監(jiān)禁帶來(lái)的社會(huì)混亂的擔(dān)憂(yōu)，也是美國(guó)利用人工智能技術(shù)優(yōu)化犯罪治理路徑的重要體現(xiàn)。

2020年以來(lái)，轟動(dòng)全美的弗洛伊德案進(jìn)一步暴露出美國(guó)執(zhí)法機(jī)構(gòu)長(zhǎng)期存在的暴力執(zhí)法和系統(tǒng)性種族歧視問(wèn)題，民主黨人士發(fā)起“撤資警察”運(yùn)動(dòng)，認(rèn)為“問(wèn)題是制度性的，減少傷害的唯一方法是從警察手中奪走權(quán)力和資金”，主張大幅削減警方預(yù)算，用財(cái)政手段倒逼警察減少暴力執(zhí)法現(xiàn)象。基于新冠疫情和全國(guó)“撤資警察”運(yùn)動(dòng)帶來(lái)的雙重壓力，美國(guó)警方面臨十多年來(lái)未見(jiàn)的預(yù)算縮減，人員流失率達(dá)到歷史最高水平，新警招聘困難，暴力犯罪激增?；谌斯ぶ悄艿摹熬珳?zhǔn)警務(wù)”（Precision Policing）應(yīng)運(yùn)而生，提倡在充滿(mǎn)挑戰(zhàn)的環(huán)境中適當(dāng)使用資源，加強(qiáng)基于證據(jù)的犯罪防控，提升透明度和問(wèn)責(zé)制，針對(duì)性處置微型犯罪人群（Micro Criminal Populations），而非擴(kuò)大警務(wù)范圍。聲思（SoundThinking）等行業(yè)企業(yè)推出槍擊檢測(cè)、犯罪追蹤、巡邏部署、社交媒體監(jiān)控等人工智能產(chǎn)品，承諾讓資源緊張的警察局更高效地利用警務(wù)與犯罪分析資源，在提高犯罪威懾的同時(shí)，不增加警察與公眾的不利接觸。2023年4月，紐約警察局宣布在時(shí)代廣場(chǎng)部署K5自主安全機(jī)器人，配備360度攝像頭和多個(gè)麥克風(fēng)，用于監(jiān)控周?chē)h(huán)境是否存在可疑活動(dòng)、人員并實(shí)時(shí)報(bào)告，在案發(fā)后也可提供關(guān)于暴力襲擊、武裝搶劫、盜竊車(chē)輛等最佳證據(jù)。

（三）第三次浪潮：類(lèi)ChatGPT大模型在美國(guó)刑事執(zhí)法中應(yīng)用前瞻

當(dāng)前，人工智能技術(shù)迎來(lái)第三次浪潮的開(kāi)端，強(qiáng)調(diào)提升人工智能模型的解釋性與通用性。這意味著工程師們致力于構(gòu)建能夠模擬真實(shí)世界體驗(yàn)、與人類(lèi)進(jìn)行自然互動(dòng)交流以及在新任務(wù)、新情境下快速完成學(xué)習(xí)和思考的系統(tǒng)。ChatGPT是2022年由美國(guó)開(kāi)放人工智能（OpenAI）公司發(fā)布的自然語(yǔ)言處理預(yù)訓(xùn)練模型，GPT-4升級(jí)為多模態(tài)模型，代表第三次浪潮中具有一定解釋性和通用性特征的人工智能系統(tǒng)之一，但本質(zhì)上仍屬于特定領(lǐng)域的模型。

具備多模態(tài)的GPT-4能高效準(zhǔn)確處理多源數(shù)據(jù)，在發(fā)現(xiàn)犯罪活動(dòng)熱點(diǎn)、監(jiān)控社交媒體平臺(tái)和在線(xiàn)論壇、分析海量數(shù)據(jù)識(shí)別線(xiàn)索關(guān)聯(lián)性、為面部識(shí)別軟件提供底層算法支撐等方面的潛力已獲得美國(guó)學(xué)界和警界關(guān)注。2023年6月，F(xiàn)BI局長(zhǎng)克里斯托弗·雷就“人工智能以及FBI如何專(zhuān)注于快速變化的前沿”發(fā)表講話(huà)，表示FBI將向人工智能轉(zhuǎn)型，一方面，預(yù)測(cè)并防御使用人工智能和機(jī)器學(xué)習(xí)實(shí)施惡意網(wǎng)絡(luò)攻擊等犯罪活動(dòng)的威脅；另一方面，利用人工智能對(duì)偵查活動(dòng)中收集的海量數(shù)據(jù)進(jìn)行分類(lèi)、排序。有研究提出，GPT-4通過(guò)分析證據(jù)和案件檔案可生成有關(guān)案件歷史和背景的詳細(xì)報(bào)告，幫助偵查人員了解犯罪發(fā)生原因以及如何更好地進(jìn)行偵查。馬爾辛·弗朗茨凱維奇稱(chēng)，馬薩諸塞州警察局使用GPT-4分析過(guò)去二十年的冷案，F(xiàn)BI將GPT-4納入工具箱，用于線(xiàn)索分析與生成。

大型語(yǔ)言模型憑借規(guī)模龐大的語(yǔ)料體系、先進(jìn)的預(yù)訓(xùn)練算法以及優(yōu)異的微調(diào)算法，具備強(qiáng)大的語(yǔ)言理解和生成能力。2023年3月，奧斯汀警察局宣布與維賽特姆公共安全公司（Versaterm Public Safety）合作，推出對(duì)話(huà)式人工智能驅(qū)動(dòng)的“非緊急在線(xiàn)報(bào)告系統(tǒng)”，適用于犯罪嫌疑人已不在現(xiàn)場(chǎng)、對(duì)個(gè)人沒(méi)有直接危險(xiǎn)的情況。社區(qū)成員可通過(guò)語(yǔ)音、短信、網(wǎng)頁(yè)或APP與虛擬調(diào)查員聯(lián)系，在人工智能引導(dǎo)的調(diào)查訪談中提供斗毆、盜竊、詐騙、騷擾、非法侵入、兒童監(jiān)護(hù)等信息，虛擬調(diào)查員全程專(zhuān)心傾聽(tīng)、耐心提問(wèn)并無(wú)縫響應(yīng)，按照國(guó)家犯罪數(shù)據(jù)申報(bào)系統(tǒng)（NIBRS）要求自動(dòng)生成犯罪報(bào)告，在警方驗(yàn)證后自動(dòng)向個(gè)人提供案件編號(hào)和處置情況，支持英語(yǔ)、西班牙語(yǔ)、法語(yǔ)、中文等20多種語(yǔ)言。奧斯汀警察局表示，如今警方接到的求助電話(huà)比以往任何時(shí)候都多，公眾服務(wù)期望也達(dá)到歷史最高水平。這種針對(duì)非緊急情況的人工智能方案有助于簡(jiǎn)化犯罪報(bào)告程序，為社區(qū)提供即時(shí)安全服務(wù)與個(gè)性化關(guān)注，提升處理其他優(yōu)先事項(xiàng)的能力。

二、人工智能在美國(guó)刑事執(zhí)法中存在的問(wèn)題和挑戰(zhàn)

（一）發(fā)展的基礎(chǔ)問(wèn)題

1.數(shù)據(jù)質(zhì)量：制約刑事執(zhí)法人工智能發(fā)展的基礎(chǔ)難題

無(wú)論是專(zhuān)家系統(tǒng)、機(jī)器學(xué)習(xí)，還是大型語(yǔ)言模型，本質(zhì)都是數(shù)據(jù)驅(qū)動(dòng)的智能。數(shù)據(jù)用于訓(xùn)練、測(cè)試和推理，塑造警用人工智能的預(yù)測(cè)、決策和生成能力。然而，美國(guó)國(guó)家司法研究所指出，“數(shù)據(jù)質(zhì)量差和數(shù)據(jù)不足”已構(gòu)成主要發(fā)展障礙。犯罪黑數(shù)、刑事隱案存在，記錄、報(bào)告并分析犯罪活動(dòng)的數(shù)據(jù)和統(tǒng)計(jì)信息可能只代表部分已發(fā)生的犯罪情況，家暴、性侵害、幫派暴力、毒品犯罪等領(lǐng)域數(shù)據(jù)收集與報(bào)告具有局限性，致使依賴(lài)于犯罪統(tǒng)計(jì)數(shù)據(jù)的人工智能系統(tǒng)產(chǎn)生扭曲結(jié)果；數(shù)據(jù)壁壘、融合壁壘凸顯，美國(guó)各州人工智能警務(wù)系統(tǒng)平臺(tái)建設(shè)多各自為政，數(shù)據(jù)難以流動(dòng)共享；信息噪聲、數(shù)據(jù)中毒值得關(guān)注，尤其是對(duì)警用大型語(yǔ)言模型而言，不完整的訓(xùn)練數(shù)據(jù)、虛假信息和未及時(shí)更新的數(shù)據(jù)集都可能導(dǎo)致推理偏差，模型被引導(dǎo)學(xué)習(xí)錯(cuò)誤數(shù)據(jù)后可能造成數(shù)據(jù)中毒和模型反轉(zhuǎn)。

2.算法黑箱：困擾刑事執(zhí)法人工智能應(yīng)用的核心難點(diǎn)

賓夕法尼亞大學(xué)教授理查德·伯克在《人工智能、預(yù)測(cè)性警務(wù)和執(zhí)法風(fēng)險(xiǎn)評(píng)估》中強(qiáng)調(diào)，人們關(guān)于人工智能警務(wù)準(zhǔn)確性、公平性和透明性的擔(dān)憂(yōu)是真實(shí)存在的，法律和政治必須在各優(yōu)先事項(xiàng)間取得合理平衡。由于深度學(xué)習(xí)驅(qū)動(dòng)的人工智能系統(tǒng)的復(fù)雜性，即使是系統(tǒng)創(chuàng)建者往往也難以解釋深度學(xué)習(xí)算法輸入如何導(dǎo)致特定輸出，給警方在刑事執(zhí)法環(huán)境中使用人工智能技術(shù)與系統(tǒng)帶來(lái)額外風(fēng)險(xiǎn)——損害警用人工智能系統(tǒng)在決策過(guò)程中的透明度，并在警用人工智能系統(tǒng)受到質(zhì)疑或必須解釋輸出結(jié)論時(shí)產(chǎn)生困難。

3.人工智能素養(yǎng)：推動(dòng)刑事執(zhí)法人工智能融合的關(guān)鍵

人工智能素養(yǎng)既是一種“個(gè)人能夠批判性評(píng)估人工智能技術(shù)、與人工智能進(jìn)行有效溝通和協(xié)作的能力”，也是一種“能夠?qū)⑷斯ぶ悄茏鳛楣ぷ骰驅(qū)W習(xí)工具的能力”。在個(gè)人層面，2023年對(duì)北卡羅來(lái)納州等地警務(wù)人員調(diào)研發(fā)現(xiàn)，多數(shù)人既不熟悉人工智能，也不了解人工智能的局限性。在組織層面，面對(duì)外源性人工智能技術(shù)嵌入，警方能否接納及在多大程度上接納，決定技術(shù)與警務(wù)互動(dòng)的廣度與深度。美國(guó)國(guó)家司法研究所強(qiáng)調(diào)，業(yè)務(wù)工作流程的改變和組織文化的抵制比純粹技術(shù)問(wèn)題更有挑戰(zhàn)性。在戰(zhàn)略層面，格蘭特·弗格森指出，由于具備人工智能專(zhuān)業(yè)知識(shí)的員工不足，警察局等政府機(jī)構(gòu)在現(xiàn)代化轉(zhuǎn)型中依賴(lài)于技術(shù)供應(yīng)商、在采購(gòu)談判中處于被動(dòng)地位，可能帶來(lái)政府技術(shù)采購(gòu)的“失權(quán)”風(fēng)險(xiǎn)。

（二）警務(wù)合法性危機(jī)

未來(lái)學(xué)家羅伊·阿馬拉在談到人工智能與執(zhí)法時(shí)表示，人們傾向于高估一項(xiàng)技術(shù)的短期效用，卻低估技術(shù)的長(zhǎng)期影響。人工智能不僅構(gòu)成美國(guó)刑事執(zhí)法工具，也實(shí)質(zhì)性改變刑事執(zhí)法行為。自弗洛伊德案以來(lái)，美國(guó)警務(wù)改革呼聲高漲，針對(duì)預(yù)測(cè)性警務(wù)、大規(guī)模監(jiān)控等抗議也愈演愈烈，迫使警方重新審視權(quán)力合法性基礎(chǔ)。美國(guó)警務(wù)的核心目標(biāo)在于維護(hù)公共安全、預(yù)防犯罪和騷亂，尊重公民憲法權(quán)利，并遵循合法警務(wù)（Legitimacy policing）的基本要求——確保警方有足夠能力、對(duì)犯罪作出適當(dāng)反應(yīng)、維護(hù)執(zhí)法公正并贏得公眾信任。警務(wù)合法性反映美國(guó)警方在社會(huì)中被認(rèn)可、接受的程度以及是否在法律、倫理框架下行使權(quán)力，而近年的警務(wù)合法性危機(jī)為人工智能應(yīng)用提供了反思維度。

1.比例原則挑戰(zhàn)

合法警務(wù)中比例原則要求犯罪預(yù)防措施給公民帶來(lái)的風(fēng)險(xiǎn)與要實(shí)現(xiàn)的犯罪減少目標(biāo)相稱(chēng)，但刑事執(zhí)法人工智能的引入可能侵犯公民諸多法定權(quán)利?；趥€(gè)體的犯罪預(yù)測(cè)工具引入，可能會(huì)導(dǎo)致追訴活動(dòng)在刑事立案之前啟動(dòng)，而機(jī)器學(xué)習(xí)支持下海量信息匯總、分析產(chǎn)生的犯罪嫌疑人畫(huà)像加劇偵查人員形成有罪推定傾向，潛在侵犯?jìng)€(gè)人無(wú)罪推定權(quán)利；通過(guò)基于地點(diǎn)的算法巡邏管理系統(tǒng)、自動(dòng)槍擊檢測(cè)系統(tǒng)，警方可能將高犯罪率區(qū)域、多重預(yù)測(cè)警報(bào)區(qū)域作為判斷是否存在逮捕、搜查或扣押“合理依據(jù)”（Probable Cause）的因素，改變警察對(duì)所巡邏社區(qū)和所遇到人員的看法和行為，同時(shí)在本質(zhì)上拓展了美國(guó)憲法第四修正案中合理依據(jù)的界限，因?yàn)檫@種判斷基于數(shù)據(jù)分析，而非已有事實(shí)證據(jù)；人工智能賦能的全面監(jiān)控網(wǎng)絡(luò)引發(fā)公眾對(duì)隱私和人權(quán)侵犯的擔(dān)憂(yōu)，有研究者引入美國(guó)刑訴中的“馬賽克理論”進(jìn)行分析，指出即使是若干非重大信息片段的結(jié)合也可形成揭示目標(biāo)個(gè)人生活模式的完整信息鏈條。此外，警察數(shù)據(jù)收集、交易問(wèn)題引發(fā)學(xué)界關(guān)注，一是關(guān)于數(shù)據(jù)代理，警方將安全機(jī)器人、監(jiān)控系統(tǒng)所收集數(shù)據(jù)的控制權(quán)部分交給私營(yíng)公司的行為引發(fā)爭(zhēng)議；二是關(guān)于數(shù)據(jù)采購(gòu)，憲法第四修正案判例法限制政府收集特定類(lèi)型公民數(shù)據(jù)，然而伴隨公私合作深化，技術(shù)供應(yīng)商越來(lái)越多地收集、匯聚、處理公民數(shù)據(jù)并將其出售給警方，警方采購(gòu)公民數(shù)據(jù)的合憲性受到質(zhì)疑。

2.公平原則隱憂(yōu)

合法警務(wù)中公平原則要求警方對(duì)所有群體平等執(zhí)行法律并提供保護(hù)，美國(guó)刑事執(zhí)法人工智能涉及的公平問(wèn)題要在反種族主義、反歧視性警務(wù)大浪潮下理解。

司法部對(duì)聯(lián)邦罪犯風(fēng)險(xiǎn)和需求評(píng)估系統(tǒng)審查發(fā)現(xiàn)，與白人囚犯相比，系統(tǒng)將少數(shù)族裔囚犯再犯率高估2%到8%。鄧肯·普維斯指出，預(yù)測(cè)性警務(wù)等刑事執(zhí)法人工智能在運(yùn)作中存在系統(tǒng)性種族主義。多數(shù)警務(wù)算法所基于的數(shù)據(jù)是逮捕數(shù)據(jù)，但在犯罪率相似的前提下，美國(guó)有色人種逮捕率遠(yuǎn)高于白人?；跉v史數(shù)據(jù)的預(yù)測(cè)將不可避免出現(xiàn)盲點(diǎn)，而算法引入重現(xiàn)并放大了社會(huì)偏見(jiàn)和歧視，侵犯?jìng)€(gè)人被平等對(duì)待的權(quán)利。“失控反饋循環(huán)”理論在美國(guó)學(xué)術(shù)界引發(fā)熱議，當(dāng)警方“瞄準(zhǔn)”特定社區(qū)或地域，帶來(lái)更多警察接觸、攔截和逮捕，生成更多犯罪報(bào)告，當(dāng)這些犯罪數(shù)據(jù)反饋到機(jī)器學(xué)習(xí)模型中，又會(huì)引導(dǎo)算法將警察引回同一區(qū)域造成過(guò)度執(zhí)法。

3.信任與問(wèn)責(zé)困境

公眾對(duì)警方的信任和支持是合法警務(wù)的關(guān)鍵，當(dāng)警方對(duì)行為負(fù)責(zé)并愿意承擔(dān)后果時(shí)，人們更有信心與之互動(dòng)。然而，美國(guó)警方面臨人工智能系統(tǒng)問(wèn)責(zé)困境：第一，責(zé)任主體難以明確，各類(lèi)刑事執(zhí)法人工智能從設(shè)計(jì)到部署全過(guò)程涉及多個(gè)主體，包括人工智能本體、人工智能及其算法設(shè)計(jì)者、人工智能所有者以及人工智能使用者。若運(yùn)行過(guò)程中發(fā)生誤判、錯(cuò)判、侵權(quán)，歸因歸責(zé)將會(huì)變得異常難以厘定。算法黑箱可能導(dǎo)致刑事執(zhí)法人工智能操作、決策、生成過(guò)程缺乏透明度、可解釋性，而美國(guó)警方一般立場(chǎng)是“不能對(duì)我們不理解的事項(xiàng)負(fù)責(zé)”，進(jìn)一步加劇公眾懷疑和不信任。第二，技術(shù)外包缺乏公眾監(jiān)督。美國(guó)電子隱私信息中心于2023年9月發(fā)布的報(bào)告《外包與自動(dòng)化：人工智能公司如何接管政府決策》指出，警察局等政府機(jī)構(gòu)采購(gòu)人工智能系統(tǒng)在一定程度上是將決策外包給供應(yīng)商，而供應(yīng)商多以人工智能軟件、模型系專(zhuān)有商業(yè)信息為由，將決策程序保密或繞過(guò)問(wèn)責(zé)機(jī)制，這意味著諸多人工智能系統(tǒng)沒(méi)有受到有意義的公眾監(jiān)督。

三、探尋美國(guó)人工智能警務(wù)發(fā)展與規(guī)制的良性互動(dòng)空間

（一）統(tǒng)籌發(fā)展與安全的內(nèi)在邏輯

刑事執(zhí)法人工智能具有技術(shù)屬性、警務(wù)屬性、社會(huì)屬性高度融合的特征，在賦能警務(wù)工作的同時(shí)帶來(lái)諸多挑戰(zhàn)與風(fēng)險(xiǎn)，但美國(guó)并未否定人工智能技術(shù)在社會(huì)發(fā)展與治理創(chuàng)新過(guò)程中的應(yīng)用價(jià)值。以洛杉磯警察局為例，盡管在多年當(dāng)?shù)氐种葡掠?020年結(jié)束長(zhǎng)達(dá)十年的犯罪預(yù)測(cè)實(shí)驗(yàn)，在《2019-2021年戰(zhàn)略計(jì)劃》中仍將“數(shù)據(jù)驅(qū)動(dòng)警務(wù)”作為降低犯罪的關(guān)鍵舉措，在《2021-2023年戰(zhàn)略計(jì)劃》中提出“利用新興技術(shù)向巡邏警官傳送實(shí)時(shí)犯罪數(shù)據(jù)”。美國(guó)國(guó)家司法研究所也指出，人工智能有望成為刑事司法生態(tài)中“永久性構(gòu)成要素”，將持續(xù)資助犯罪預(yù)測(cè)、公共安全視頻和圖像分析、DNA分析、槍擊檢測(cè)等人工智能項(xiàng)目。在更廣闊的宏觀層面，2023年以來(lái)，美國(guó)白宮接連發(fā)布《拜登-哈里斯政府宣布采取新行動(dòng)促進(jìn)負(fù)責(zé)任的人工智能創(chuàng)新，保護(hù)美國(guó)人的權(quán)利和安全》《拜登-哈里斯政府采取新措施推進(jìn)負(fù)責(zé)任的人工智能研究、開(kāi)發(fā)和部署》等政策，提出加大人工智能研發(fā)投資，使其更好地為公共利益服務(wù)。在《2025財(cái)年預(yù)算的機(jī)構(gòu)研發(fā)優(yōu)先事項(xiàng)》備忘錄中，白宮科技政策辦公室將“設(shè)計(jì)、試點(diǎn)和評(píng)估應(yīng)用人工智能改善政府職能和公共服務(wù)”作為研發(fā)重點(diǎn)。在可預(yù)見(jiàn)的未來(lái)，人工智能作為公共安全產(chǎn)品，有望進(jìn)一步拓展美國(guó)刑事執(zhí)法應(yīng)用范圍，加快警務(wù)科技創(chuàng)新，而現(xiàn)實(shí)中的治理關(guān)鍵是如何將技術(shù)缺陷與人的因素帶來(lái)的法律、倫理、安全問(wèn)題最小化。

（二）構(gòu)建人工智能應(yīng)用監(jiān)管體系

審查與監(jiān)督的主要目的在于解釋和追責(zé)，實(shí)現(xiàn)損害可以被評(píng)估、控制和補(bǔ)救，平衡警方技術(shù)使用需求與公民權(quán)利保障。美國(guó)國(guó)家標(biāo)準(zhǔn)與技術(shù)研究所將“審計(jì)、測(cè)試和評(píng)估”列入人工智能風(fēng)險(xiǎn)管理框架。2023年以來(lái)，在聯(lián)邦層面，美國(guó)參議院引入《評(píng)估人工智能法案》，要求成立內(nèi)閣級(jí)人工智能工作組，對(duì)聯(lián)邦機(jī)構(gòu)采購(gòu)、部署、應(yīng)用的人工智能系統(tǒng)進(jìn)行評(píng)估并提出整改意見(jiàn)。在地方層面，2023年6月，美國(guó)得克薩斯州頒布《成立人工智能咨詢(xún)委員會(huì)法》。州長(zhǎng)雅培表示：“人工智能作為生活和勞動(dòng)力中的革命性工具變得日益普遍，必須確保這項(xiàng)技術(shù)以負(fù)責(zé)任、合乎倫理的方式開(kāi)發(fā)……為保障公民隱私和自由，簽署該法成立人工智能咨詢(xún)委員會(huì)，研究并監(jiān)管州機(jī)構(gòu)開(kāi)發(fā)、使用人工智能的情況?！痹摲鞔_州機(jī)構(gòu)應(yīng)在2024年7月1日前向人工智能咨詢(xún)委員會(huì)和參眾議院匯報(bào)所有正在開(kāi)發(fā)、使用或采購(gòu)的自動(dòng)化決策系統(tǒng)情況，如系統(tǒng)是否用于獨(dú)立決策及決策對(duì)公民的影響，系統(tǒng)是否經(jīng)過(guò)第三方測(cè)試、是否存在已知偏見(jiàn)，所輸入數(shù)據(jù)是如何生成、收集和處理的，系統(tǒng)中數(shù)據(jù)是否安全存儲(chǔ)、處理，是否與其他實(shí)體共享系統(tǒng)和數(shù)據(jù)的訪問(wèn)權(quán)限及原因等，人工智能咨詢(xún)委員會(huì)負(fù)責(zé)審查、提出行政建議并評(píng)估是否有必要制定倫理準(zhǔn)則。此外，馬薩諸塞州眾議院引入《建立自動(dòng)決策委員會(huì)法案》，若法案通過(guò)意味著政府自動(dòng)化決策委員會(huì)將審查執(zhí)法機(jī)構(gòu)使用人工智能進(jìn)行決策的行為。雖然這些立法并非專(zhuān)門(mén)針對(duì)警察機(jī)構(gòu)，但聯(lián)邦與地方警察也在規(guī)制范圍內(nèi)，在一定意義上強(qiáng)化警方使用人工智能的責(zé)任意識(shí)。

（三）推進(jìn)系統(tǒng)與決策的透明公正

技術(shù)正當(dāng)程序強(qiáng)調(diào)透明、準(zhǔn)確、參與等核心要素，重新將“人”引入技術(shù)決策進(jìn)程中。美國(guó)白宮發(fā)布的《人工智能權(quán)利法案藍(lán)圖》提出“通知和解釋原則”，強(qiáng)調(diào)公眾應(yīng)知曉組織正在使用自動(dòng)化系統(tǒng)及其如何產(chǎn)生有影響力的結(jié)果。2023年以來(lái)，在聯(lián)邦層面，美國(guó)參議院引入《透明自動(dòng)化治理法案》，提出“關(guān)鍵決策”概念，若法案通過(guò)意味著采用人工智能作出與特定個(gè)人或群體的地位、權(quán)利、財(cái)產(chǎn)或福祉緊密相關(guān)的決定及對(duì)個(gè)人生活產(chǎn)生重大影響的決定，應(yīng)告知公眾、保持信息透明，并提供針對(duì)不準(zhǔn)確、有偏見(jiàn)決定的申訴渠道。在地方層面，康涅狄格州州長(zhǎng)簽署《關(guān)于人工智能、自動(dòng)決策和個(gè)人數(shù)據(jù)隱私的法》，自2023年起行政服務(wù)部門(mén)對(duì)警察局等州機(jī)構(gòu)使用人工智能情況進(jìn)行年度清查并在州開(kāi)放數(shù)據(jù)門(mén)戶(hù)網(wǎng)站上公布清查報(bào)告，包括系統(tǒng)名稱(chēng)和供應(yīng)商、系統(tǒng)功能和用途、系統(tǒng)是否用于獨(dú)立制定或?qū)嵸|(zhì)性支持相關(guān)結(jié)論和判斷以及系統(tǒng)在部署前是否進(jìn)行影響評(píng)估；在2024年2月1日前，管理政策辦公室制定并建立警察局等州機(jī)構(gòu)使用人工智能系統(tǒng)相關(guān)的開(kāi)發(fā)、采購(gòu)、部署、使用和評(píng)估政策程序，確保系統(tǒng)不會(huì)基于膚色、種族、信仰、性取向等特征對(duì)個(gè)人或群體帶來(lái)非法歧視，并在管理政策辦公室網(wǎng)站上公布政策程序文本。

（四）強(qiáng)化數(shù)據(jù)保護(hù)與權(quán)限管控

數(shù)據(jù)安全范式的核心要素是“可控性”，強(qiáng)調(diào)將數(shù)據(jù)收集、分析、再利用納入風(fēng)險(xiǎn)管控過(guò)程。美國(guó)“警察數(shù)據(jù)倡議”在促進(jìn)開(kāi)放數(shù)據(jù)使用的同時(shí)，鼓勵(lì)警方與社區(qū)共同解決問(wèn)題，增進(jìn)理解和問(wèn)責(zé)。2023年以來(lái)，美國(guó)參議員霍利在《未來(lái)人工智能立法指導(dǎo)原則》中提出個(gè)人數(shù)據(jù)保護(hù)總體原則，禁止人工智能模型未經(jīng)同意收集敏感個(gè)人數(shù)據(jù)，并對(duì)個(gè)人數(shù)據(jù)濫用行為予以嚴(yán)厲處罰。針對(duì)警方數(shù)據(jù)采購(gòu)與監(jiān)控，美國(guó)兩黨引入《第四修正案不可出售法案》，要求警方在迫使數(shù)據(jù)經(jīng)紀(jì)人披露數(shù)據(jù)前必須獲得法院授權(quán)，并禁止警方采購(gòu)從用戶(hù)賬戶(hù)設(shè)備秘密抓取、通過(guò)黑客攻擊或違反隱私政策和用戶(hù)協(xié)議等非法方式獲取的公民數(shù)據(jù)。針對(duì)公私合作中隱私侵權(quán)風(fēng)險(xiǎn)，美國(guó)電子隱私信息中心建議通過(guò)立法或內(nèi)部規(guī)則制定，要求警察局等州機(jī)構(gòu)在人工智能技術(shù)采購(gòu)合同中內(nèi)置個(gè)人數(shù)據(jù)保護(hù)條款、強(qiáng)化技術(shù)外包過(guò)程的數(shù)據(jù)安全監(jiān)督與控制，將供應(yīng)商二級(jí)數(shù)據(jù)使用風(fēng)險(xiǎn)納入考量，禁止供應(yīng)商在完成合同后將數(shù)據(jù)或從中推斷出的信息用于其他目的。

（五）人工智能倫理與最佳實(shí)踐

在新一輪人工智能科技革命背景下，美國(guó)司法界與學(xué)界開(kāi)始反思人機(jī)協(xié)同的犯罪治理模式，探索人工智能倫理與最佳實(shí)踐。美國(guó)國(guó)家司法研究所發(fā)布多份指導(dǎo)文件，構(gòu)建人工智能工具倫理與關(guān)鍵問(wèn)題列表，建議刑事執(zhí)法領(lǐng)導(dǎo)者在考慮人工智能方案時(shí)將技術(shù)可行性、倫理適當(dāng)性、操作可實(shí)現(xiàn)性等納入考量，對(duì)人工智能的技術(shù)本質(zhì)、執(zhí)法需求、相關(guān)背景及局限性有清醒認(rèn)知，作出審慎恰當(dāng)?shù)牟渴鹁駬?。美?guó)國(guó)家警務(wù)研究所呼吁強(qiáng)化程序正義教育培訓(xùn)，推動(dòng)基于公平和尊重的犯罪熱點(diǎn)警務(wù)活動(dòng)，改善公眾對(duì)警務(wù)合法性、犯罪預(yù)防活動(dòng)有效性的評(píng)價(jià)。在美國(guó)國(guó)家科學(xué)基金會(huì)資助下，學(xué)界積極關(guān)注負(fù)責(zé)任警務(wù)人工智能開(kāi)發(fā)最佳實(shí)踐，建議開(kāi)發(fā)?員、警方和社區(qū)在技術(shù)全生命周期緊密協(xié)作，引入去偏見(jiàn)技術(shù)優(yōu)化模型，利用“藍(lán)色數(shù)據(jù)”“明亮數(shù)據(jù)”診斷警察巡邏中存在的問(wèn)題或危險(xiǎn)行為，進(jìn)行第三方安全測(cè)試認(rèn)證，將犯罪分析與非執(zhí)法導(dǎo)向、更柔和、更貼近社區(qū)需求的教育與預(yù)防措施相結(jié)合等。

2023年10月，美國(guó)總統(tǒng)拜登簽署《關(guān)于安全、可靠和可信地開(kāi)發(fā)和使用人工智能的行政令》，提出人工智能警務(wù)相關(guān)的風(fēng)險(xiǎn)防控目標(biāo)和行動(dòng)。行政令指示司法部部長(zhǎng)與國(guó)土安全部部長(zhǎng)、科技政策辦公室主任一起向總統(tǒng)提交一份關(guān)于在刑事司法系統(tǒng)中使用人工智能的報(bào)告，重點(diǎn)關(guān)注人工智能應(yīng)用如何在保護(hù)公民隱私、權(quán)利和自由的前提下提高執(zhí)法效率、準(zhǔn)確性，報(bào)告應(yīng)包含最佳執(zhí)法實(shí)踐，提供人工智能使用指南，并幫助解決預(yù)測(cè)性算法、面部識(shí)別、生物識(shí)別等技術(shù)使用過(guò)程中的數(shù)據(jù)儲(chǔ)存、訪問(wèn)問(wèn)題。此外，司法部部長(zhǎng)需審查司法部“調(diào)查因人工智能使用而導(dǎo)致執(zhí)法人員在合法情況下剝奪公民權(quán)利的情況”的能力，優(yōu)化執(zhí)法人員教育培訓(xùn)。

[基金支持：國(guó)家社會(huì)科學(xué)基金重大項(xiàng)目《網(wǎng)絡(luò)信息安全監(jiān)管法治體系構(gòu)建研究》（21amp;ZD193）項(xiàng)目階段性成果]

【作者簡(jiǎn)介】王彩玉，公安部第三研究所網(wǎng)絡(luò)安全法律工程師，主要研究網(wǎng)絡(luò)安全、網(wǎng)絡(luò)犯罪防治立法；梁立增，中國(guó)人民公安大學(xué)信息網(wǎng)絡(luò)安全學(xué)院警務(wù)碩士、山東省濟(jì)南市公安局網(wǎng)絡(luò)安全保衛(wèi)支隊(duì)民警，研究方向?yàn)榫W(wǎng)絡(luò)安全管理、網(wǎng)絡(luò)安全法制建設(shè)。

（責(zé)任編輯：馮苗苗）