陳程，吳瑞君

（1.上海社會科學(xué)院 信息研究所，上海 200020；2.華東師范大學(xué) 中國現(xiàn)代城市研究中心暨社會發(fā)展學(xué)院，上海 200062）

自1956年誕生以來，人工智能學(xué)科已有60多年歷史，其發(fā)展經(jīng)歷了兩次高潮和低谷，并于2010年迎來第三次發(fā)展浪潮，成為21世紀(jì)最為重要的核心技術(shù)之一。人工智能本質(zhì)上是為了研制出具有類人智能的機器，能夠模擬、延伸和擴展人類智能的理論、方法、技術(shù)以及應(yīng)用形式。［1］該領(lǐng)域的研究包括機器人、語言識別、圖像識別、自然語言處理和專家系統(tǒng)等。伴隨著信息技術(shù)革命的浪潮，以大數(shù)據(jù)和算法等為核心的人工智能技術(shù)已成為未來社會發(fā)展的重要驅(qū)動力，人類社會向智能化發(fā)展的大潮勢不可擋。

在大數(shù)據(jù)的推動下，人工智能算法能夠簡化重復(fù)性任務(wù)，特別是那些需要審查大量文書工作的任務(wù)，從而推動工作流程的自動化，提升信息處理速度和工作效率。［2］在社會層面，人工智能有助于提升社會勞動生產(chǎn)率，并有效降低勞動成本、優(yōu)化產(chǎn)品和服務(wù)、創(chuàng)造新市場和就業(yè)等，從而為人類的生產(chǎn)和生活帶來革命性的轉(zhuǎn)變。在國家治理層面，人工智能技術(shù)在信息收集、決策制定、方案執(zhí)行和監(jiān)控實施等認(rèn)知域和物理域的應(yīng)用將極大地提升國家治理水平和效能，有效地推動國家治理范式的轉(zhuǎn)型與升級。［3］政府和公共行政部門日益認(rèn)識到人工智能對經(jīng)濟和社會發(fā)展的重要性，并大力支持人工智能研究。截至2019年，共有23個獨立的國家或超國家人工智能戰(zhàn)略達成，多數(shù)戰(zhàn)略價值達數(shù)十億美元。

除此以外，人工智能在解決人類面臨的共同挑戰(zhàn)方面也發(fā)揮著日益重要的作用。全球化時代，國際移民問題日益凸顯其非傳統(tǒng)安全的特點。跨國遷移的流動性和信息的不對稱性，使得移民數(shù)量、方向和影響都無法進行精準(zhǔn)測量或預(yù)估；國際移民問題橫跨政治、經(jīng)濟、公共衛(wèi)生和人權(quán)等多個領(lǐng)域，復(fù)雜性特征也使得移民安全、難民接收和融入等問題更加突出。技術(shù)創(chuàng)新往往伴隨著公平和效率的提升，為了應(yīng)對規(guī)模龐大的移民和難民等復(fù)雜問題，各國迫切希望將新技術(shù)作為快速解決移民問題的辦法。［4］近年來，國際組織和各國就將大數(shù)據(jù)及人工智能技術(shù)應(yīng)用于國際移民管理領(lǐng)域展開了積極探索。如國際移民組織發(fā)起了“大數(shù)據(jù)移民聯(lián)盟”（Big Data For Migration Alliance），探索人工智能技術(shù)在國際移民中的應(yīng)用；［5］歐盟通過了在移民和安全領(lǐng)域利用人工智能和相關(guān)技術(shù)的新立法（第2018/1860號法規(guī)、第2019/816號法規(guī)、第2019/818號法規(guī)）；為應(yīng)對災(zāi)害和恐怖主義行為，歐盟綜合政治危機應(yīng)對委員會（Integrated Political Crisis Response，ICPR）建立了具有預(yù)警功能的監(jiān)測系統(tǒng)，并于2015年10月“移民危機”期間首次啟動信息共享模式，同時各國也在研究利用人工智能技術(shù)預(yù)測下一次“移民危機”的可能性；經(jīng)濟合作與發(fā)展組織成員國，如孟加拉國、尼泊爾和馬來西亞開始在其移民管理系統(tǒng)中采用自動化技術(shù)。［6］

當(dāng)下，人工智能技術(shù)的發(fā)展還處于弱人工智能（Artificial Narrow Intelligence，ANI）階段，跨領(lǐng)域解決問題的通用人工智能技術(shù)仍然面臨著極大的不確定性。人工智能技術(shù)的發(fā)展會逐步成為社會治理和行業(yè)轉(zhuǎn)型升級的關(guān)鍵，但先期技術(shù)能力優(yōu)勢帶來的范式轉(zhuǎn)變及其影響必然有一個過程。在國際移民治理領(lǐng)域，人工智能技術(shù)的創(chuàng)新性發(fā)展具有高度的戰(zhàn)略價值，但其演進路徑的不明也蘊含著潛在的風(fēng)險和問題。

一、人工智能技術(shù)在國際移民領(lǐng)域中的應(yīng)用場景

當(dāng)前，人工智能技術(shù)在國際移民領(lǐng)域應(yīng)用普遍，并主要集中在以下技術(shù)領(lǐng)域：移民的預(yù)測管理、自動化決策、身份識別、機器學(xué)習(xí)與匹配、情緒分析、邊境監(jiān)測及機器人技術(shù)等。

（一）移民遷移的預(yù)測和管理

在國際移民日益增長的背景下，預(yù)測遷移趨勢并做出適當(dāng)而迅速的策略反應(yīng)至關(guān)重要?？傮w來看，國際遷移不穩(wěn)定且難預(yù)測。若進行細分，某些類型的移民比其他類型更穩(wěn)定或更易預(yù)測，如常規(guī)勞工移民和家庭遷移等；被迫移民和非正規(guī)流動通常很難預(yù)測，而預(yù)測這類遷移趨勢對支持國家和地方層面的一體化服務(wù)特別有價值，這就需要提前進行預(yù)測以便制定應(yīng)急計劃或迅速調(diào)整庇護和服務(wù)措施。

移民流動預(yù)測和管理依賴于大數(shù)據(jù)或可分析的、以揭示人類行為關(guān)聯(lián)模式的超大型數(shù)據(jù)集，大數(shù)據(jù)或超大型數(shù)據(jù)具有容量高、速度快和多樣性三個特征。［7］遷移預(yù)測主要取決于底層數(shù)據(jù)的質(zhì)量、關(guān)鍵驅(qū)動因素的復(fù)雜程度和所考慮的時間框架。與移民流動預(yù)測有關(guān)的大數(shù)據(jù)可來源于基于通信的信息源，如互聯(lián)網(wǎng)搜索、智能手機應(yīng)用程序、網(wǎng)站登錄和電子郵件IP地址以及通話記錄等極具“地理定位”特征的數(shù)據(jù)，也包括從文本、音頻、視頻和社交媒體渠道中提取的有意義的信息。大數(shù)據(jù)分析是從大數(shù)據(jù)中獲取情報的技術(shù)，能夠發(fā)現(xiàn)并捕獲數(shù)據(jù)中的關(guān)系和模式。［8］例如，數(shù)據(jù)科學(xué)家使用自然災(zāi)害或沖突期間個人生成的數(shù)據(jù)（如Facebook登記功能、YouTube在線視頻、Instagram或Pinterest在線平臺上公開發(fā)布的照片、在谷歌上在線搜索的特定術(shù)語等），以預(yù)測沖突或自然災(zāi)害發(fā)生時的移民潮。［9］

海量數(shù)據(jù)研究所和喬治敦大學(xué)國際移民研究所開發(fā)了一個數(shù)據(jù)密集型預(yù)警系統(tǒng)，用于檢測沖突和地震、颶風(fēng)等自然災(zāi)害造成的被迫緊急移民情況。［10］人工智能算法可以提高“移民危機”預(yù)測精度，［11］大數(shù)據(jù)技術(shù)還可用于預(yù)測移民安置的布局和密度等，實現(xiàn)移民安置點更公平、更周全的接收和整合戰(zhàn)略。同樣，大數(shù)據(jù)和傳統(tǒng)統(tǒng)計數(shù)據(jù)可用于描繪城市移民社區(qū)的多樣性，使決策者能夠預(yù)見哪些地區(qū)或社區(qū)可以吸引特定的移民，從而更好地規(guī)劃基礎(chǔ)設(shè)施建設(shè)，實現(xiàn)公共服務(wù)的合理配置。

以大數(shù)據(jù)分析為基礎(chǔ)的預(yù)測著眼于關(guān)聯(lián)共現(xiàn)關(guān)系的沖突特征和模式識別。［12］通過人工智能技術(shù)的嵌入可以實現(xiàn)這一過程的智能化，通過擴大數(shù)據(jù)收集、減少信息未知性以及建立相關(guān)分析模型，人工智能技術(shù)能夠在擴大預(yù)測適用范圍的同時提高預(yù)測的準(zhǔn)確性和實效性。聯(lián)合國難民署嘗試使用天氣數(shù)據(jù)來預(yù)測人們可能的流向，國際移民組織開發(fā)了“流離失所追蹤矩陣”（Displacement Tracking Matrix），利用移動電話記錄和地理標(biāo)記以及對社交媒體活動的分析，監(jiān)測正在遷移的人口，以更好地預(yù)測流離失所者的需求。人工智能技術(shù)同樣可以應(yīng)用于全球范圍內(nèi)的自然災(zāi)害和其他社會危機的預(yù)測預(yù)警。例如，公共衛(wèi)生部門能夠利用人工智能技術(shù)對疫情數(shù)據(jù)進行分析，準(zhǔn)確、有效地對各類傳染疾病進行跟蹤和預(yù)防，從而更高效地分配公共衛(wèi)生資源。［13］

（二）移民申請與庇護決策

為了應(yīng)對繁雜的移民申請和認(rèn)定程序，各移民國也嘗試在各種應(yīng)用程序中使用“自動決策系統(tǒng)”。自動決策技術(shù)需要大量數(shù)據(jù)形成的數(shù)據(jù)集，通過分析這些數(shù)據(jù)集的模式和關(guān)聯(lián)性，可以模擬人類認(rèn)知并根據(jù)結(jié)果做出決定。自動決策系統(tǒng)以輸入數(shù)據(jù)的形式處理信息，使用算法生成輸出。一個算法可以被認(rèn)為是一組指令，就像“一個由可編程步驟組成的配方……組織并作用于一組數(shù)據(jù)以快速達到預(yù)期的結(jié)果”。某些算法是使用一個大型的現(xiàn)有數(shù)據(jù)集“訓(xùn)練”的，它允許算法分類并“概括”出訓(xùn)練集。訓(xùn)練數(shù)據(jù)可以是案例的一部分、照片的集合或統(tǒng)計數(shù)據(jù)庫，其中一些或全部已經(jīng)根據(jù)設(shè)計師的標(biāo)準(zhǔn)進行了預(yù)分類或標(biāo)記。［14］

依據(jù)最終的“決策”，政府或私營部門可以將自動化決策系統(tǒng)用于多種多樣的應(yīng)用程序中，自動化系統(tǒng)可以做出看似“中立”的決定，例如移民申請程序是否完成；也可以做出更復(fù)雜的決定，例如移民婚姻情況是否真實，或者移民是否符合“人道主義”救助的條件等。自2014年以來，加拿大一直在其移民和難民系統(tǒng)中使用自動化決策。2018年又啟動了兩個試點項目：一個用于幫助評估來自印度和中國的臨時居留簽證申請，另一個用來對簡單移民申請進行分類。項目實施后，簡單的程序可由自動化決策系統(tǒng)實施，從而釋放出更多的人力和時間投入到復(fù)雜的決策程序中。

當(dāng)然，自動決策系統(tǒng)的決策規(guī)則由實施者制定。在美國，自政府頒布行政命令嚴(yán)厲打擊移民之后，移民與海關(guān)執(zhí)法局（ICE）一直在修改其在美墨邊境的保釋裁定算法，以證明其在每一個案件中所做出的拘留決定是合理的。2017年，移民與海關(guān)執(zhí)法局還發(fā)布了“極端審核倡議”，對移民進行自動篩選和評估，以確保審批通過的申請人“對社會做出積極貢獻”并“為美國國家利益服務(wù)”，同時“預(yù)測他們?nèi)刖澈笫欠翊蛩銓嵤┓缸锘蚩植佬袨椤?。?5］德國聯(lián)邦移民和難民辦公室也在其移民項目中使用了方言識別、姓名音譯和身份驗證移動數(shù)據(jù)設(shè)備分析等技術(shù)，能夠自動核實移民身份和來源國等信息，以支持庇護申請過程中的決策。［16］

（三）移民身份識別與安全

在國際移民領(lǐng)域，生物特征或“基于個人生物學(xué)和行為特征的自動識別”技術(shù)的使用也在增加。生物測定包括指紋數(shù)據(jù)、視網(wǎng)膜掃描和面部識別等，可識別人的靜脈和血管模式、耳朵形狀和步態(tài)等。經(jīng)由人工智能算法訓(xùn)練的人臉識別、圖像識別與視頻結(jié)構(gòu)化等技術(shù)，可以用于網(wǎng)絡(luò)文本、圖片、視頻和語音內(nèi)容識別、監(jiān)測和分類，為網(wǎng)絡(luò)技術(shù)的各類場景化應(yīng)用提供輔助工具，從而有效提高移民身份識別能力，并根據(jù)相關(guān)信息給出更優(yōu)判決結(jié)果。聯(lián)合國一直致力于用生物識別技術(shù)填充其數(shù)據(jù)庫，并累計收集800多萬人的生物數(shù)據(jù)，以幫助難民逃離沖突或為其提供人道主義援助。

在政府部門，面部識別技術(shù)被應(yīng)用于安全和身份管理等用途。在某些情況下，該技術(shù)可以與監(jiān)視公共場所的現(xiàn)有視頻監(jiān)控系統(tǒng)（例如閉路電視攝像機）連接，執(zhí)法部門用它來識別、監(jiān)視和抓獲罪犯。政府頒發(fā)的身份證明程序（例如駕照和護照）也采用面部識別技術(shù)作為防止身份欺詐的工具。例如，新西蘭等國家在試驗使用基于生物特征的自動面部識別技術(shù)來識別所謂的外來“麻煩制造者”；歐盟修訂后的申根信息系統(tǒng)（SIS）也通過使用面部識別、DNA和生物測定數(shù)據(jù)，方便非正常情況下的移民返回（第2018/1860號條例）。［17］在私人部門，優(yōu)步（Uber）將該技術(shù)用作防范欺詐的工具，用于確認(rèn)駕駛員身份；一些公司推出了客戶付款系統(tǒng)，通過掃描客戶的面部來尋找物品，根據(jù)其年齡或性別等標(biāo)識符對客戶進行分類和定位。

（四）移民融入與公共危機

自2015年開始，歐洲難民激增，各國接收和安置的難度加大，難民的社會融入也面臨挑戰(zhàn)。政府急需找到快速收容和重新安置移民個人和家庭的辦法。對此，瑞士開發(fā)了一種靈活的數(shù)據(jù)驅(qū)動算法，可以橫跨安置地點分配難民，以優(yōu)化其總體就業(yè)率，改善融合效果。該算法采用監(jiān)督式機器學(xué)習(xí)和最優(yōu)匹配相結(jié)合的方法，發(fā)現(xiàn)并利用難民特征與安置點之間的協(xié)同效應(yīng)實現(xiàn)匹配。該算法在美國和瑞士的歷史登記數(shù)據(jù)庫進行了測試，與之前的分配做法相比，該方法使難民的就業(yè)率平均提高了 40%~70%。［18］

新的數(shù)字核查技術(shù)使來自沖突地區(qū)的數(shù)據(jù)更加可靠，移民管理部門也通過創(chuàng)建各種技術(shù)應(yīng)用程序，幫助難民獲得醫(yī)療、銀行等社會服務(wù)，如全球性非營利組織Techfugees通過技術(shù)支持推動移民社區(qū)融入，其口號是“通過技術(shù)賦予流離失所者權(quán)力”；德國創(chuàng)建了名為“Ankommen”的智能手機應(yīng)用程序，提供基礎(chǔ)德語課和關(guān)于庇護申請程序及如何找工作或培訓(xùn)的信息，同時也會發(fā)布關(guān)于德國人價值觀和社會風(fēng)俗的信息，幫助移民更好地融入當(dāng)?shù)厣鐣?/p>

人工智能技術(shù)應(yīng)用的全質(zhì)性使其能夠同多種物質(zhì)力量結(jié)合，催化算法在諸如意識形態(tài)感知領(lǐng)域的應(yīng)用。人工智能時代泛起的網(wǎng)絡(luò)輿情危思潮，威脅著意識形態(tài)在社會公眾群體中的傳播效能，也催生了輿情治理的新范式。［19］大數(shù)據(jù)與人工智能技術(shù)能夠協(xié)助政府部門對多種公共危機，尤其是以網(wǎng)絡(luò)群體事件為主的新型公共危機進行及時監(jiān)控。例如，聯(lián)合國難民署利用人工智能技術(shù)對網(wǎng)民性格和政治傾向進行分析，對難民的仇外心理和種族主義等社會情緒進行持續(xù)性監(jiān)測，以幫助制定宣傳戰(zhàn)略，將網(wǎng)絡(luò)負(fù)面情緒降至最小范圍。

（五）邊境監(jiān)測和非法移民攔截

人工智能技術(shù)也被用于邊境監(jiān)測和保護。例如，歐洲邊防和海岸警衛(wèi)隊（FRONTEX）一直在地中海測試各種無人駕駛軍用級無人機，用于監(jiān)視和攔截試圖抵達歐洲海岸以便利庇護申請的移民船只；［20］匈牙利Roborder項目通過配備無人移動機器人，致力于建立一套“全功能的自主邊境監(jiān)視系統(tǒng)，應(yīng)用場景包括空中、水面、水下和地面車輛”；［21］希臘群島周圍海域部署了一個名為艾米麗（Emily）的自動機器人救生筏，即緊急綜合救生繩，以協(xié)助營救難民。［22］

國際移民的各個階段相互聯(lián)系和影響，人工智能技術(shù)在國際移民領(lǐng)域中的應(yīng)用也存在一定的交叉性。我們對人工智能在國際移民領(lǐng)域應(yīng)用的認(rèn)知，多數(shù)還是建立在當(dāng)前已有技術(shù)應(yīng)用的基礎(chǔ)上。雖然現(xiàn)階段人工智能技術(shù)的應(yīng)用過程仍存在明顯缺陷，但總體看來，人工智能基于進化賦能的實踐應(yīng)用在國際移民領(lǐng)域中存在著一定的技術(shù)發(fā)展正循環(huán)，這一廣域治理的特征不僅意味著人工智能將會成為國際移民治理的重要驅(qū)動力，也說明人工智能將進一步拓展國際移民治理理念、方式與界域，并影響這一復(fù)雜的組織和治理架構(gòu)。但是，從數(shù)據(jù)隱私和安全問題，到移民領(lǐng)域最關(guān)心的人權(quán)問題，人工智能技術(shù)的實施和應(yīng)用仍然面臨著諸多挑戰(zhàn)和風(fēng)險。

二、人工智能對國際移民治理的影響與挑戰(zhàn)

人工智能的技術(shù)迭代與技術(shù)創(chuàng)新驅(qū)動著國際移民治理理念和模式的全面變革和轉(zhuǎn)型，也將在治理主體的能力代差、治理過程及結(jié)果的公平性和治理規(guī)范等方面，對國際移民的治理體系產(chǎn)生一定沖擊。

（一）技術(shù)鴻溝進一步拉大國際移民治理主體間的能力代差

世界移民危機之后，各主要移民國及國際組織都在努力加強全球移民治理機制的建設(shè)。2016年聯(lián)合國大會通過《紐約難民和移民宣言》，隨后通過了《全球難民契約（2018）》《全球安全、有序和正常移民契約（2018）》。在全球?qū)用?，各移民治理主體在移民問題上的互動是不對稱的，盡管更多的國際移民輸出國是南方國家，但制定國際移民的全球議程卻是北方各移民輸入國。［23］目前，發(fā)達國家在人工智能技術(shù)的發(fā)展上仍然處于絕對優(yōu)勢，多數(shù)發(fā)展中國家在這一領(lǐng)域的發(fā)展則存在著天然的缺陷。因此，這一內(nèi)嵌的技術(shù)霸權(quán)邏輯會導(dǎo)致國際移民治理主體之間產(chǎn)生更大的溝壑和差距。

在人工智能時代背景下，圖像識別、行為預(yù)測、風(fēng)險感知、人群畫像等應(yīng)用實踐催生出全景式數(shù)據(jù)監(jiān)控的技術(shù)治理模式。社會的發(fā)展塑造技術(shù)，但也被技術(shù)所影響。人工智能技術(shù)的應(yīng)用在極大地提升治理主體的社會能見度、風(fēng)險感知靈敏度和預(yù)警預(yù)防精確度的同時，也在潛移默化地形塑著數(shù)據(jù)和技術(shù)控制型的社會結(jié)構(gòu)。在數(shù)據(jù)及技術(shù)的控制下，“技術(shù)利維坦”①注：“利維坦”（Leviathan）原為《舊約圣經(jīng)》中記載的一種海上怪獸，后成為強勢的國家（政府）的代名詞。“技術(shù)利維坦”常被理解為“國家信息技術(shù)的全面裝備，將公民置于徹底而富有成效的監(jiān)控體系之下，而公民卻難以有效地運用信息技術(shù)來維護其公民權(quán)利，即無法通過數(shù)字民主來制衡國家的監(jiān)控體系”，其本質(zhì)是一種技術(shù)手段與國家權(quán)力相結(jié)合產(chǎn)生巨大政治效應(yīng)的過程。參見王小芳、王磊：《“技術(shù)利維坦”：人工智能嵌入社會治理的潛在風(fēng)險與政府應(yīng)對》，《電子政務(wù)》2019年第5期。的生成幾乎不可避免，“技術(shù)利維坦”與普通個體之間的“技術(shù)鴻溝”成為亟待深思的理論焦點。［24］科技革命的發(fā)生往往會對國家力量對比、地緣政治結(jié)構(gòu)以及社會治理等多個方面產(chǎn)生深遠影響，進而也會從多個領(lǐng)域?qū)抑卫砟芰υ斐筛拘蕴魬?zhàn)。人工智能作為一項通用性的平臺技術(shù)，其在移民領(lǐng)域的應(yīng)用場景將會實現(xiàn)全面擴展。擁有人工智能技術(shù)優(yōu)勢的國家（地區(qū)）將會在更多的領(lǐng)域研發(fā)出適用效用更大和預(yù)期風(fēng)險更低的技術(shù)，促進國際移民治理能力提升，而技術(shù)劣勢方則難以用數(shù)量疊層或策略戰(zhàn)術(shù)等手段來彌補這一力量差距。

在實踐或具體的運用中，人工智能擴大了國家之間的技術(shù)或數(shù)字鴻溝。［25］同時，國家權(quán)力機關(guān)并不是掌控海量數(shù)據(jù)的唯一主體，擁有大數(shù)據(jù)和人工智能技術(shù)的高科技巨頭公司也將擁有數(shù)據(jù)支配權(quán)，通過人工智能與大數(shù)據(jù)，高科技巨頭公司不僅能針對移民習(xí)慣精確投放廣告，甚至可以利用自身的數(shù)據(jù)資源干涉移民政策和選舉等政治事務(wù)。政府的相關(guān)政務(wù)，也需要科技公司的技術(shù)支持才能順利實施，高科技公司將更深入地介入到政府運轉(zhuǎn)和移民治理的過程中。［26］數(shù)據(jù)權(quán)力結(jié)構(gòu)呈多元發(fā)展態(tài)勢，將會促進中心化的單向治理格局向多元共治格局轉(zhuǎn)向。

（二）算法價值觀念缺失以及自動化偏差帶來了治理過程及結(jié)果的不公

基于大數(shù)據(jù)的人工智能新技術(shù)越來越多地出現(xiàn)在各個社會領(lǐng)域，人工智能技術(shù)的介入也將會從利益再分配、法律規(guī)范等多個層面對社會治理形成沖擊。新技術(shù)有助于改善國際移民治理，加強對移民風(fēng)險的保護。但不加限制地使用這類技術(shù)實際上可能對移民的安全構(gòu)成嚴(yán)重威脅。算法的數(shù)據(jù)運用、決策機制及結(jié)構(gòu)表征等基于開發(fā)者主觀價值選擇而形成，開發(fā)者潛在的偏見很可能被嵌入其中。同時，人工智能技術(shù)的甄別邏輯來源于輸入的數(shù)據(jù)，數(shù)據(jù)質(zhì)量缺陷可能會造成算法過程噪聲的進一步放大或固化，導(dǎo)致“自我實現(xiàn)的歧視性反饋”。［27］例如，緬甸羅興亞難民生物特征數(shù)據(jù)被收集后，專制政府更易識別該群體并將他們從營地中趕走。［28］這種因數(shù)據(jù)或算法導(dǎo)致的歧視可能會從技術(shù)上強化社會偏見。

同時，基于人工智能技術(shù)算法做出的決策也存在責(zé)任性和公平性的問題。技術(shù)治理的邏輯下，政策決策者和所有人一樣偏愛機器所呈現(xiàn)的結(jié)果，這種現(xiàn)象被稱為“自動化偏差”。［29］技術(shù)運用被抬到壓倒性地位，決策者希求以技術(shù)手段解決一切問題。算法可以使用無監(jiān)督學(xué)習(xí)進行訓(xùn)練、自行學(xué)習(xí)和模式識別，這些“思維過程”人類無法完全解釋，甚至那些在一開始就設(shè)計好的算法也不一定會按照預(yù)期進行。［30］機器可能會根據(jù)算法的結(jié)果拒絕移民的簽證申請，或?qū)⒁泼竦纳矸菖c恐怖分子嫌疑犯的身份混淆，卻無法對決策做出明確解釋，這造成了相當(dāng)大的不可預(yù)測性和不透明性，使其做出的決策難以獲得信任。［31］

同時，移民權(quán)利受到侵犯時尋求幫助也面臨重大困難。公平是公正審判權(quán)的重要組成部分，它要求審判（包括在行政當(dāng)局之前的審判）應(yīng)在“不存在任何直接或間接的影響、壓力、恐嚇或來自任何方面和出于任何動機的入侵”。［32］鑒于決策者與移民或?qū)で蟊幼o的難民之間固有的權(quán)力差異，對不透明的人工智能算法的依賴，以及持續(xù)存在的自動化偏差，會導(dǎo)致過度影響決策進而損害過程的公平性。因此，有必要嚴(yán)格監(jiān)督和規(guī)范新技術(shù)在國際移民領(lǐng)域的使用情況，警惕技術(shù)濫用和過渡依賴可能帶來的負(fù)面后果。

（三）推進面向循證決策的移民治理模式初步轉(zhuǎn)變

《移民問題全球契約（2018）》提出的目標(biāo)之一是加強國際移民的全球證據(jù)基礎(chǔ)，收集和利用準(zhǔn)確分類數(shù)據(jù)作為循證決策的依據(jù)。［33］循證決策的基本思想可以概括為使用盡可能多的嚴(yán)格制定和嚴(yán)謹(jǐn)闡釋的數(shù)據(jù)、事實作為政策決策的基礎(chǔ)，核心在于依據(jù)證據(jù)而非依靠經(jīng)驗或靈感做出決策。［34］大量可靠、及時和可比較的移民數(shù)據(jù)、庇護數(shù)據(jù)以及跨國統(tǒng)計數(shù)據(jù)，能有效指導(dǎo)歐盟層面移民政策的制定。［35］國際移民組織也強調(diào)，需要更可靠的移民數(shù)據(jù)來為決策提供信息。大數(shù)據(jù)搜集、存儲和挖掘工具的應(yīng)用為治理的前瞻性和動態(tài)決策帶來了機遇。［36］人工智能技術(shù)作為一種推動國際移民治理轉(zhuǎn)型的“倒逼機制”，借助從宏觀、微觀層次無限逼近事實真相的大數(shù)據(jù)資源，將人工智能等新技術(shù)直接轉(zhuǎn)化為智能服務(wù)和產(chǎn)品，全面應(yīng)用于國際移民治理過程中，從而幫助政府、移民組織和機構(gòu)做出更科學(xué)的決策。［37］

數(shù)據(jù)是決策的命脈，也是問責(zé)的基石。受大數(shù)據(jù)的推動，移民管理和邊境管制等方面日益依賴不同類型的數(shù)據(jù)，包括衛(wèi)星大數(shù)據(jù)等。數(shù)據(jù)增長來源于國家對邊境監(jiān)視和移民管理軟件和信息管理系統(tǒng)投資的不斷增加，［38］還有部分?jǐn)?shù)據(jù)來源于社交媒體渠道或在線平臺介導(dǎo)互動而產(chǎn)生的“大社會數(shù)據(jù)”。［39］在國際移民領(lǐng)域，越來越多的學(xué)者呼吁制定以證據(jù)為基礎(chǔ)的政策，這與人工智能技術(shù)及大數(shù)據(jù)在移民領(lǐng)域應(yīng)用的激增密不可分。日益豐富的遷移數(shù)據(jù)有利于數(shù)據(jù)驅(qū)動的人工智能算法的發(fā)展，推動領(lǐng)域內(nèi)更多數(shù)據(jù)驅(qū)動的決策。遷移管理中的人工智能算法也可以分析大量定性的移民訪談數(shù)據(jù)，歸納移民模式并基于移民意愿對移民趨勢進行預(yù)測。算法還可以用于檢測和評估政府的移民政策和方案。一些國際組織和機構(gòu)一直致力于利用數(shù)據(jù)促進移民決策。國際移民組織建立的移民數(shù)據(jù)門戶和聯(lián)合國倡議建立的全球脈動（UN Global Pulse）等項目為移民決策提供了大量關(guān)鍵數(shù)據(jù)資源。

當(dāng)然，基于數(shù)據(jù)驅(qū)動的循證決策也面臨著一些挑戰(zhàn)。由于國際移民過程的復(fù)雜性，基于數(shù)據(jù)證據(jù)的決策中，對于“證據(jù)”的定義和分類需要進行明確，以便將訓(xùn)練數(shù)據(jù)用于移民治理的人工智能算法，能夠超越對移民現(xiàn)象純數(shù)字的觀點?；跀?shù)據(jù)的技術(shù)治理在一定程度上提升了移民治理的精細化水平，卻無法解決深層次的矛盾和社會問題。在移民治理實踐中，要謹(jǐn)防將治理技術(shù)的創(chuàng)新作為治理創(chuàng)新的全部，從而消解和稀釋改革動力。

（四）對形成移民治理的全球性框架和責(zé)任體系提出挑戰(zhàn)

在提升國際移民治理效能的同時，人工智能技術(shù)的嵌入還將深化移民治理的向度并擴展移民治理的維度，進而也會催生一種技術(shù)安全悖論。人工智能不僅是一種顛覆性技術(shù)，也可能是人類遇到的最具破壞性的技術(shù)。［40］隨著以人工智能為代表的新技術(shù)的嵌入及其在移民治理領(lǐng)域不同場景的應(yīng)用，人工智能對移民治理的影響越來越廣、越來越深，也對傳統(tǒng)國際移民治理中的責(zé)任體系帶來挑戰(zhàn)和沖擊。由于其所展現(xiàn)出的“替代人類”的技術(shù)走向，使得傳統(tǒng)圍繞移民和實體組織所構(gòu)建的責(zé)任體系存在面臨解構(gòu)的風(fēng)險。漢斯·約納斯（Hans Jonas）、漢斯·昆（Hans Kung）等人在建立責(zé)任倫理學(xué)的過程中，確立了一個根本原則即“絕對不可拿整個人類的存在去冒險”。從技術(shù)責(zé)任的概念譜系來看，這一原則同樣適用于分析人工智能技術(shù)責(zé)任的負(fù)載對象，我們要做的就是將這個根本原則所指稱的“人類的存在”具體化和對象化。［41］

國際人權(quán)的規(guī)范性和普遍性為國際移民領(lǐng)域的全球治理提供了一個可行的起點，以期從跨國和全球的角度認(rèn)知和剖析其潛在的危害性。人工智能技術(shù)是建立更有效的國際移民治理系統(tǒng)的一個有益的工具，但此類工具的開發(fā)和部署要符合道德規(guī)范以及法律框架，尤其是國際人權(quán)法律。［42］在實踐中，移民自動決策技術(shù)需要大量的數(shù)據(jù)，大數(shù)據(jù)分析需要搜集并形成龐大的數(shù)據(jù)集，在沒有監(jiān)管和問責(zé)的情況下收集移民人口信息和邊緣移民的數(shù)據(jù)可能導(dǎo)致嚴(yán)重的侵犯隱私和人權(quán)問題。

為了解決這些問題，帕斯奎爾（Pasquale）等提出了“技術(shù)正當(dāng)程序”的概念，包括對技術(shù)的問責(zé)、公平和透明度保證。［43］世界銀行也提出基于國際人權(quán)法的框架進行人權(quán)影響評估，以審查在移民管理中使用人工智能技術(shù)是否會損害移民和尋求庇護者的利益。［44］麥格雷戈（McGregor）等提議在現(xiàn)有國際人權(quán)法法律框架的基礎(chǔ)上，解決從設(shè)計到實施整個生命周期所有階段的人工智能算法問責(zé)問題。［45］國際人權(quán)法的法律框架有助于識別移民領(lǐng)域算法決策可能帶來的潛在危害，但是國際人權(quán)法對于國際人權(quán)條約的締約國可能有效，但不適用于公司等非國家行為體。［46］在聯(lián)合國層面，《聯(lián)合國商業(yè)和人權(quán)指導(dǎo)原則》對于商業(yè)技術(shù)公司適用但卻是一個不具法律約束力的國際框架，［47］現(xiàn)有的框架基于企業(yè)應(yīng)尊重、保護和補救人權(quán)的理念，主要依靠企業(yè)自律來配合。［48］瓦克泰（Wachter）等提出一種同時適用于國家和非國家行為體的解決辦法，即建立“合理推斷權(quán)”，這項權(quán)利要求數(shù)據(jù)控制器能證明數(shù)據(jù)的類型、基于這些數(shù)據(jù)做出的推論，以及所用方法的準(zhǔn)確性和可靠性。如果有足夠的政治意愿推動，這項新權(quán)利可能會改變?nèi)藗儗λ惴ㄘ?zé)任的認(rèn)知方式，對移民和庇護決策也有影響。［49］

三、討論與啟示

移民問題的跨國性、非對稱性、不易控性等兼具非傳統(tǒng)安全的特點為國際移民的治理帶來了很大難度。為了應(yīng)對規(guī)模龐大的全球移民和難民等復(fù)雜問題，各國也迫切希望將新技術(shù)視為快速解決移民問題的辦法。大數(shù)據(jù)以及人工智能技術(shù)的廣泛應(yīng)用成為各國和國際組織尋求管理國際移民的方式。當(dāng)前人工智能在國際移民領(lǐng)域主要應(yīng)用在移民流動的預(yù)測管理、自動化決策、身份識別、機器學(xué)習(xí)與匹配、情緒分析、邊境監(jiān)測及機器人技術(shù)等場景。

人工智能技術(shù)的發(fā)展從不同層面影響國際移民治理。首先，人工智能技術(shù)的發(fā)展會影響到國家治理格局，人工智能技術(shù)鴻溝加深了國家間在國際移民治理方面的能力代差，也加快了移民數(shù)據(jù)權(quán)力結(jié)構(gòu)多元化的發(fā)展態(tài)勢。其次，新技術(shù)的應(yīng)用有助于改善國際移民治理狀態(tài)，但對技術(shù)不加限制的使用，會對移民安全和權(quán)利構(gòu)成嚴(yán)重威脅，人工智能算法價值觀念缺失可能會加劇社會偏見，技術(shù)“自動化偏差”亦會造成移民治理過程及結(jié)果的不公平。再次，受大數(shù)據(jù)推動，人工智能技術(shù)在國際移民領(lǐng)域應(yīng)用激增，有助于政府、移民組織和機構(gòu)擺脫經(jīng)驗枷鎖，形成更為科學(xué)的決策，推動移民治理向數(shù)據(jù)驅(qū)動和循證決策模式的轉(zhuǎn)變。最后，技術(shù)是檢驗國家實踐、民主、權(quán)利觀念和問責(zé)制的重要視角，人工智能技術(shù)的應(yīng)用在推動社會發(fā)展的同時也導(dǎo)致了一系列社會問題，這些問題往往無法在現(xiàn)有的社會框架下得到妥善解決，這對塑造人工智能背景下移民治理的全球性框架和責(zé)任體系提出了挑戰(zhàn)。

全球移民時代，沒有國家能完全置身于國際移民潮之外。2016年，中國正式成為國際移民組織（IMO）成員國；2018年，中國國家移民管理局正式成立。移民管理局的組建是我國參與國際人才競爭、實現(xiàn)人口紅利向人才紅利轉(zhuǎn)型的需要，也是全球化發(fā)展對完善移民體系提出的新要求。盡管學(xué)界對于人工智能應(yīng)用于移民領(lǐng)域的研究所涉甚少，但如果中國能抓住人工智能技術(shù)優(yōu)勢，更多地發(fā)揮技術(shù)治理在國際移民領(lǐng)域中的正向循環(huán)作用，將有助于增強中國在國際移民治理領(lǐng)域的能力和效能，促進中國參與全球治理的深度，進一步提升中國在國際移民領(lǐng)域的話語權(quán)和國際形象。

［注釋］

［1］Jenna Burrell， “How the Machine ‘Thinks’： Understanding Opacity in Machine Learning Algorithms”，Big Data &Society， Vol.3， No.1， Jan 2016， pp.1-12.

［2］Michael Chui et al，Notes from the AI Frontier: Applying Artifi cial Intelligence for Social Good， Washington D.C.：McKinsey Global Institute， 2018.

［3］闕天舒、張紀(jì)騰：《人工智能時代背景下的國家安全治理：應(yīng)用范式、風(fēng)險識別與路徑選擇》，《國際安全研究》2020年第1期。

［4］Petra Molna， “Technology on the Margins： AI and Global Migration Management from a Human Rights Perspective”，Cambridge International Law Journal， Vol.8， No.2， 2019， pp.305-330.

［5］“Big Data for Migration Alliance （BD4M）： Harnessing the Potential of New Data Sources and Innovative Methodologies for Migration”， 2017， https://gmdac.iom.int/launch-big-data-migration-alliance， 2020年 7月 21日瀏覽。

［6］Stephen Gelb and Aarti Krishnan，Technology, Migration and the 2030 Agenda for Sustainable Development，London： Overseas Development Institute， 2018.

［7］Marzia Rango， “How Big Data Can Help Migrants”， 2015， https://www.weforum.org/agenda/2015/10/how-big-datacan-help-migrants/， 2020年7月23日瀏覽。

［8］Spyratos Spyridon et al，Migration Data Using Social Media: A European Perspective， Luxembourg： Publications Office of the European Union， 2018.

［9］Ana Beduschi， “The Big Data of International Migration： Opportunities and Challenges for States under International Human Rights Law”，Georgetown Journal of International Law,Vol.49， No.4， 2018.

［10］Jeff Collmann et al， “Measuring the Potential for Mass Displacement in Menacing Contexts”，Journal of Refugee Studies， Vol. 29， Issue 3， Sep 2016， pp. 273-294.

［11］Babusi Nyoni， “How Artificial Intelligence can be Used to Predict Africa’s Next Migration Crisis”， 2017， https://www.unhcr.org/innovation/how-artificial-intelligence-can-be-used-to-predict-africas-next-migration-crisis/，2020年7月20日瀏覽； Marcello Carammia and Jean-Christophe Dumont， “Can We Anticipate Future Migration Flows”，OECD: Migration Policy Debates， 2018.

［12］董青嶺：《大數(shù)據(jù)安全態(tài)勢感知與沖突預(yù)測》，《中國社會科學(xué)》2018年第6期。

［13］Trang Pham et al， “Predicting Health care Trajectories from Medical Records： A Deep Learning Approach”，Journal of Biomedical Informatics， Vol.69， No.3， May 2017， pp.218-229.

［14］Petra Molna， “Technology on the margins： AI and global migration management from a human rights perspective”，Cambridge International Law Journal， Vol.8， No.2， Dec 2019， pp.305-330.

［15］April Glaser， “ICE Wants to Use Predictive Policing Technology for its ‘Extreme Vetting’ Program”，Slate， 2017.

［16］Julian Tangermann，Documenting and Establishing Identity in the Migration Process—Challenges and Practices in the German Context,Nuremberg： Federal Office for Migration and Refugees， 2017.

［17］The European Parliament and the Council of the European Union， “Regulation （EU） 2018/1860 of the European Parliament and of the Council of 28 November 2018： On the Use of the Schengen Information System for the Return of Illegally Staying Third-Country Nationals”，Official Journal of the European Union,2018.

［18］Kirk Bansak et al， “Improving Refugee Integration through Data-driven Algorithmic Assignment”.Science，Vol.359， Issue 6373， Jan 2018， pp.325-329.

［19］姚翼源：《人工智能時代政府網(wǎng)絡(luò)輿情治理的邏輯、困局與策略》，《西南民族大學(xué)學(xué)報（人文社會科學(xué)版）》2020年第3期。

［20］Raluca Csernatoni， “Constructing the EU’s High-Tech Borders： FRONTEX and Dual-Use Drones for Border Management”，European Security， Vol.27， Issue 2， 2018， pp.175-200.

［21］Roborder， “Aims & Objectives-Roborder”， 2019， https://roborder.eu/the-project/aims-objectives/， 2020年5月7日瀏覽。

［22］Rebeca Moreno， “Teaching a ‘Robot’ to Detect Xenophobia Online”， UNHCR Innovation Service， 2017， https://www.unhcr.org/innovation/teaching-robot-detect-xenophobia-online/， 2020年7月16日瀏覽。

［23］Guy J. Abel and Nikola Sander， “Quantifying Global International Migration Flows”，Science， Vol.343， Issue 6178，Mar 2014， pp.1520-1522.

［24］單勇：《跨越“數(shù)字鴻溝”：技術(shù)治理的非均衡性社會參與應(yīng)對》，《中國特色社會主義研究》2019年5期。

［25］Pippa Norris，Digital Divide: Civic Engagement, Information Poverty and the Internet Worldwide， New York：Cambridge University Press， 2001.

［26］岳楚炎：《人工智能革命與政府轉(zhuǎn)型》，《自然辯證法通訊》2019年第1期。

［27］Richard Berk，Machine Learning Risk Assessments in Criminal Justice Settings， Berlin： Springer-Verlag Press，2018， pp.22-23.

［28］Petra Molna， “Technology on the margins： AI and global migration management from a human rights perspective”，Cambridge International Law Journal， Vol.8， No.2， 2019， pp.305-330.

［29］Christopher D. Wickens et al， “Complacency and Automation Bias in the Use of Imperfect Automation”，Human Factors:The Journal of the Human Factors and Ergonomics Society， Vol.57， No.5， 2015， pp.728-739.

［30］Frank Pasquale，The Black Box Society: The Secret Algorithms That Control Money and Information， Cambridge：Harvard University Press， 2015.

［31］Lorna McGregor， Daragh Murray and Vivian Ng， “International Human Rights Law as a Framework for Algorithmic Accountability”，International and Comparative Law Quarterly， Vol.68， No.2， 2019， pp.309-343.

［32］UN. Human Rights Committee， “General Comment No.32： Article 14， Right to Equality before Courts and Tribunals and to Fair Trial”， United Nations Digital Library，2007， https://digitallibrary.un.org/record/606075?ln=en， 2020年7月16日瀏覽。

［33］《安全、有序和正常移民全球契約（移民問題全球契約）》， https://www.un.org/zh/documents/treaty/files/A-RES-73-195.shtml， 2020年7月13日瀏覽。

［34］李強彬：《證據(jù)驅(qū)動型政策制定：西方的論爭與回應(yīng)》，《行政科學(xué)論壇》2020年第2期。

［35］Ann Singleton，Migration and Asylum Data for Policy-Making in the European Union: the Problem with Numbers，Brussels： CEPS Paper in Liberty and Security in Europe， 2016.

［36］龍?zhí)骸堆C決策及其在公共政策中應(yīng)用路徑探究》，《四川行政學(xué)院學(xué)報》2017年第1期。

［37］常保國：《人工智能+國家治理智能治理模式的內(nèi)涵建構(gòu)、生發(fā)環(huán)境與基本布局》，《政治學(xué)研究》2020年第2期。

［38］Dennis Broeders and Huub Dijstelbloem， “The Datafification of Mobility and Migration Management： the Mediating State and its Consequences”， 2016， pp.242-260， in： I. Van der Ploeg and J. Pridmore （eds.），Digitizing Identities:Doing Identity in a Networked World， London： Routledge.

［39］Ana Beduschi， “The Big Data of International Migration： Opportunities and Challenges for States under International Human Rights Law”，F(xiàn)orthcoming Georgetown Journal of International Law， vol.49， No.4， 2018.

［40］闕天舒、張紀(jì)騰：《人工智能時代背景下的國家安全治理：應(yīng)用范式、風(fēng)險識別與路徑選擇》，《國際安全研究》2020年第1期。

［41］顏佳華：《人工智能場景下公共行政技術(shù)責(zé)任審視》，《理論探索》2019年第3期。

［42］Luciano Floridi et al， “AI4People-An Ethical Framework for a Good AI Society： Opportunities， Risks， Principles，and Recommendations”，Minds and Machines， Vol.28， No.1， 2018， pp.689-707.

［43］Danielle K. Citron and Frank Pasquale， “The Scored Society： Due Process for Automated Prediction”，Washington Law Review， Vol.89， No.1， 2014， pp.1-33.

［44］World Bank，Human Rights Impact Assessments: A Review of the Literature, Differences with Other Forms of Assessments and Relevance for Development， Washington D.C.： World Bank， 2013.

［45］Lorna McGregor， Daragh Murray and Vivian Ng， “International Human Rights Law as a Framework for Algorithmic Accountability”，International and Comparative Law Quarterly， Vol.68， No.2， 2019， pp.309-343.

［46］Andrew Clapham，Human Rights Obligations of Non-State Actors， Oxford： Oxford University Press， 2006.

［47］John Ruggie， “Business and Human Rights： The Evolving International Agenda”，American Journal of International Law， Vol.101， No.4， 2007， pp.819-840； John Ruggie， “Protect， Respect and Remedy： A Framework for Business and Human Rights”，Innovations Technology Governance Globalization,Vol.3， No.2， Feb 2008， pp.189-212.

［48］Michael Addo， “The Reality of the United Nations Guiding Principles on Business and Human Rights”，Human Rights Law Review， Vol.14， No.1， 2014， pp.133-147.

［49］Sandra Wachter and Brent Mittelstadt， “A Right to Reasonable Inferences： Re-thinking Data Protection Law in the Age of Big Data and AI”，Columbia Business Law Review， No.2， 2019， pp.494-620.