編譯/吳杰麗

近年來(lái)，人工智能技術(shù)（AI）正經(jīng)歷著令人難以置信的跨越式發(fā)展，成為一股強(qiáng)大的力量，重塑著社會(huì)的諸多方面。警務(wù)執(zhí)法領(lǐng)域也不例外。隨著人工智能在警務(wù)領(lǐng)域的不斷深化應(yīng)用，警務(wù)科技含量和執(zhí)法規(guī)范化水平都得到了提升。一定程度上，“人工智能+警務(wù)”模式也緩解了警力不足的難題。

然而，作為一種具有超強(qiáng)潛力的技術(shù)資本，人工智能時(shí)代的到來(lái)也給世界帶來(lái)了諸多不確定性和威脅。這些潛在的風(fēng)險(xiǎn)要求我們時(shí)刻保持最大的警惕性和責(zé)任感。尤其是在要求嚴(yán)格和敏感強(qiáng)度高的執(zhí)法環(huán)境中。

鑒于人工智能在警務(wù)執(zhí)法領(lǐng)域應(yīng)用仍然欠缺充分的指引，并且在道德規(guī)范方面不可避免地引發(fā)擔(dān)憂，因此，國(guó)際刑警組織（Interpol）和聯(lián)合國(guó)區(qū)域間犯罪和司法研究所（UNICRI）在國(guó)際刑警組織警察科學(xué)大會(huì)上共同發(fā)布了“負(fù)責(zé)任的人工智能創(chuàng)新工具指南”。該指南旨在指引執(zhí)法人員和機(jī)構(gòu)能夠以可靠、合法和負(fù)責(zé)任的方式將人工智能技術(shù)應(yīng)用于警務(wù)執(zhí)法領(lǐng)域。

一、“人工智能創(chuàng)新工具指南”的形成路徑

在歐盟的財(cái)政支持下，人工智能創(chuàng)新工具指南由區(qū)域間犯罪和司法研究所人工智能與機(jī)器人中心和國(guó)際刑警組織人工智能實(shí)驗(yàn)室聯(lián)合開(kāi)發(fā)。人工智能創(chuàng)新工具指南的形成過(guò)程充分體現(xiàn)了包容、協(xié)商和迭代的特點(diǎn)，主要由以下四個(gè)方面參與完成。

一是由國(guó)際刑警組織和區(qū)域間犯罪和司法研究所共同成立的核心專(zhuān)家組。該專(zhuān)家組由來(lái)自30 多個(gè)不同國(guó)家的執(zhí)法部門(mén)、學(xué)術(shù)界、私營(yíng)部門(mén)和民間組織的56 名專(zhuān)家組成。在開(kāi)發(fā)過(guò)程中，共召開(kāi)了6 次在線會(huì)議。會(huì)上，圍繞人工智能在警務(wù)執(zhí)法中的應(yīng)用問(wèn)題充分開(kāi)展了研討和協(xié)商。

二是利益攸關(guān)方的參與研討。在人工智能創(chuàng)新工具指南開(kāi)發(fā)過(guò)程中，國(guó)際刑警組織和區(qū)域間犯罪和司法研究所會(huì)同執(zhí)法領(lǐng)域的代表定期進(jìn)行協(xié)商。此外，又與刑事司法人員、人權(quán)保護(hù)領(lǐng)域代表以及技術(shù)供應(yīng)商召開(kāi)特別協(xié)商會(huì)議。必要時(shí)，還與個(gè)別領(lǐng)域?qū)＜?、委員會(huì)和組織就專(zhuān)題進(jìn)行商議。公眾參與、信任和執(zhí)法透明度的理念在“負(fù)責(zé)任的人工智能創(chuàng)新”概念中發(fā)揮著至關(guān)重要的作用。為了在開(kāi)發(fā)工具指南中充分體現(xiàn)這些理念，開(kāi)展了全球民意調(diào)查，全面收集公眾的意見(jiàn)和反饋，了解公眾對(duì)于人工智能在執(zhí)法領(lǐng)域運(yùn)用的看法，并且在公眾特別關(guān)注的領(lǐng)域或者薄弱且亟須改進(jìn)的領(lǐng)域進(jìn)一步組織磋商。

三是同行審查。國(guó)際刑警組織和區(qū)域間犯罪和司法研究所組織了全球各地的30 多名具有執(zhí)法、學(xué)術(shù)、人力資源、工業(yè)、刑事司法、公共部門(mén)和國(guó)際組織背景的專(zhuān)家就人工智能創(chuàng)新工具指南開(kāi)展了技術(shù)審查。在此過(guò)程中，收集反饋信息，并及時(shí)將更新的內(nèi)容融入工具指南中。

四是實(shí)際環(huán)境中的測(cè)試。作為對(duì)技術(shù)同行審查的補(bǔ)充，15 個(gè)不同國(guó)家和地方層面的執(zhí)法機(jī)構(gòu)，在實(shí)際執(zhí)法環(huán)境中，對(duì)人工智能創(chuàng)新工作指南進(jìn)行了測(cè)試。即使在指南發(fā)布的此刻，在實(shí)際執(zhí)法環(huán)境中的測(cè)試仍然在繼續(xù)，反饋信息和改進(jìn)措施不斷被指南的未來(lái)版本所采納。

二、“人工智能創(chuàng)新工具指南”的內(nèi)涵建設(shè)

世界各地的國(guó)家執(zhí)法機(jī)構(gòu)陸續(xù)開(kāi)發(fā)、獲取和使用不同類(lèi)型的人工智能系統(tǒng)、工具和技術(shù)，從而支持越來(lái)越廣泛的執(zhí)法工作。無(wú)論是應(yīng)用于圖像、文本、語(yǔ)音分析還是風(fēng)險(xiǎn)評(píng)估，人工智能都是必不可少的，甚至正在成為警務(wù)執(zhí)法工作的基本操作手段之一。負(fù)責(zé)任的人工智能在警務(wù)執(zhí)法領(lǐng)域的創(chuàng)新應(yīng)用，其內(nèi)涵建設(shè)主要圍繞三個(gè)目標(biāo)開(kāi)展：第一，在各方面必須追求道德平衡以及符合法律法規(guī)；第二，從開(kāi)發(fā)到應(yīng)用需要有一套健全的管理機(jī)制；第三，必須建立強(qiáng)有力的監(jiān)管機(jī)構(gòu)，從而確保創(chuàng)新應(yīng)用時(shí)的公平公正和安全穩(wěn)定。

為了實(shí)現(xiàn)內(nèi)涵建設(shè)的三大目標(biāo)，人工智能創(chuàng)新工具指南設(shè)計(jì)了七個(gè)部分內(nèi)容，分別是：導(dǎo)論、原則、組織計(jì)劃、組織準(zhǔn)備評(píng)估問(wèn)卷、風(fēng)險(xiǎn)評(píng)估問(wèn)卷、工作手冊(cè)、技術(shù)參考書(shū)。

導(dǎo)論部分向執(zhí)法團(tuán)隊(duì)和個(gè)人提供了人工智能的概念、負(fù)責(zé)任的人工智能創(chuàng)新應(yīng)用含義和解讀、人工智能在執(zhí)法領(lǐng)域應(yīng)用的基礎(chǔ)條件以及重要意義等內(nèi)容。

作為人工智能創(chuàng)新工作指南的基礎(chǔ)性?xún)?nèi)容，原則部分中闡述了在警務(wù)執(zhí)法領(lǐng)域負(fù)責(zé)任應(yīng)用人工智能的指導(dǎo)原則。該原則與警務(wù)原則保持一致，確保能夠在保護(hù)人權(quán)和追求道德平衡的同時(shí)，開(kāi)發(fā)和使用人工智能系統(tǒng)，從而造福社會(huì)。

組織計(jì)劃部分旨在幫助執(zhí)法機(jī)構(gòu)了解應(yīng)該具備哪些要素，以便對(duì)人工智能系統(tǒng)的開(kāi)發(fā)、采購(gòu)以及部署采取負(fù)責(zé)任的手段和措施。

組織準(zhǔn)備評(píng)估部分主要是一份自我評(píng)估問(wèn)卷，旨在幫助執(zhí)法機(jī)構(gòu)對(duì)其文化、人員、專(zhuān)業(yè)知識(shí)和現(xiàn)有流程的批判性審查，確定這些要素在其機(jī)構(gòu)中采用負(fù)責(zé)任的人工智能的準(zhǔn)備情況。這份自我評(píng)估問(wèn)卷將使機(jī)構(gòu)更好地了解自己在向負(fù)責(zé)任的人工智能發(fā)展過(guò)程中所處的位置。組織準(zhǔn)備評(píng)估部分與組織計(jì)劃部分和原則部分密切相關(guān)，旨在支持各機(jī)構(gòu)實(shí)施其中包含的建議。

風(fēng)險(xiǎn)評(píng)估問(wèn)卷部分旨在支持執(zhí)法機(jī)構(gòu)和人員，從負(fù)責(zé)任人工智能創(chuàng)新角度，認(rèn)識(shí)到人工智能應(yīng)用過(guò)程將會(huì)對(duì)個(gè)人、群體甚至是整個(gè)社會(huì)，帶來(lái)潛在威脅和不利影響，以及這些威脅和不利影響發(fā)生的可能性?；谶@些對(duì)于潛在威脅的認(rèn)知，執(zhí)法人員和機(jī)構(gòu)能夠在人工智能系統(tǒng)設(shè)計(jì)、開(kāi)發(fā)、采購(gòu)、部署或使用的每一環(huán)節(jié)作出負(fù)責(zé)任的決策，并且建立相應(yīng)組織、技術(shù)和安全保障，必要時(shí)采取相應(yīng)的行動(dòng)。

工作手冊(cè)旨在為執(zhí)法機(jī)構(gòu)實(shí)施負(fù)責(zé)任態(tài)度的人工智能創(chuàng)新，以及人工智能整個(gè)開(kāi)發(fā)周期作出相應(yīng)的決策。技術(shù)參考部分旨在與工具指南中的其他部分一起使用。它提供了對(duì)關(guān)鍵概念和術(shù)語(yǔ)以及相關(guān)領(lǐng)域的解釋?zhuān)⑻峁┝伺c執(zhí)法有關(guān)的案例。

這七個(gè)部分又可以分為三大類(lèi)：主要指導(dǎo)文件、實(shí)用工具、輔助文件。這些部分的設(shè)計(jì)旨在通過(guò)向執(zhí)法機(jī)構(gòu)和人員提供豐富的人工智能知識(shí)、人工智能應(yīng)用指導(dǎo)和最佳實(shí)踐范式，從而實(shí)現(xiàn)基于“人權(quán)-道德-警務(wù)原則”三個(gè)維度的負(fù)責(zé)任人工智能警務(wù)執(zhí)法創(chuàng)新之路。

三、“人工智能創(chuàng)新工具指南”的使用建議

首先，建議警務(wù)工作領(lǐng)導(dǎo)者、負(fù)責(zé)人以及決策者等認(rèn)真閱讀原則、組織計(jì)劃、組織準(zhǔn)備評(píng)估問(wèn)卷等部分內(nèi)容。其次，建議執(zhí)法機(jī)構(gòu)在人工智能創(chuàng)新應(yīng)用之初進(jìn)行自我評(píng)估。通過(guò)自我評(píng)估，了解機(jī)構(gòu)人工智能警務(wù)執(zhí)法應(yīng)用的經(jīng)驗(yàn)和能力水平。再者，由于風(fēng)險(xiǎn)評(píng)估是一個(gè)反復(fù)的過(guò)程，因此建議定期完成風(fēng)險(xiǎn)評(píng)估問(wèn)卷。此外，建議認(rèn)真閱讀負(fù)責(zé)人的人工智能創(chuàng)新行動(dòng)手冊(cè)。該手冊(cè)能夠?yàn)槿斯ぶ悄芫瘎?wù)執(zhí)法應(yīng)用過(guò)程中的每個(gè)不同階段提供配套資源，從規(guī)劃到部署，再到使用和監(jiān)控，以及其他可能涉及的事務(wù)。最后需要強(qiáng)調(diào)的是，該指南也有助于各國(guó)能力建設(shè)的提升，幫助各國(guó)更好地起草國(guó)家層面的人工智能警務(wù)執(zhí)法的管理機(jī)制。

國(guó)際刑警組織秘書(shū)長(zhǎng)斯托克表示：“不可否認(rèn)，人工智能改變了犯罪分子和執(zhí)法部門(mén)的行事規(guī)則。然而，我們必須以可靠、合法和負(fù)責(zé)任的態(tài)度，提供清晰、務(wù)實(shí)，最重要是有效的方式，向新科技時(shí)代過(guò)渡?！痹诼?lián)合國(guó)犯罪和司法研究所與國(guó)際刑警組織的伙伴關(guān)系框架下，促成了這一關(guān)鍵的創(chuàng)新工具指南，確保執(zhí)法人員和機(jī)構(gòu)能夠在符合法治和道德以及尊重人權(quán)的范圍內(nèi)利用好技術(shù)。與此同時(shí)，人工智能創(chuàng)新工作指南將定期進(jìn)行更新和修訂，以確保執(zhí)法部門(mén)能夠緊跟這一領(lǐng)域的快速發(fā)展，并且及時(shí)應(yīng)對(duì)相關(guān)的法律和道德挑戰(zhàn)。當(dāng)然，每個(gè)國(guó)家勢(shì)必對(duì)其人工智能發(fā)展道路保留完全的自主權(quán)。