莫莊非/編譯

安全奧運(yùn)的衍生物即將審視你我他。

2024年夏天的巴黎奧運(yùn)會上，負(fù)責(zé)安全的官員將在這座光之城的中心進(jìn)行一項(xiàng)大規(guī)模的實(shí)驗(yàn)。實(shí)驗(yàn)根據(jù)一項(xiàng)臨時法律開展，覆蓋賽事、整個奧運(yùn)村以及連接的道路和鐵路，允許自動監(jiān)控系統(tǒng)偵察可能導(dǎo)致恐怖襲擊的“預(yù)定事件”。

對此，隱私保護(hù)活動人士提出反對。該臨時法律通過后不久，國際特赦組織秘書長艾格尼絲 · 卡拉馬德（Agnes Callamard）表示：“人工智能驅(qū)動的大規(guī)模監(jiān)控是一個危險的政治項(xiàng)目，可能導(dǎo)致廣泛侵犯人權(quán)。公共場所的每項(xiàng)行動都將被納入監(jiān)視基礎(chǔ)設(shè)施的天羅地網(wǎng)，從而損害基本的公民自由?！?/p>

然而廣大公眾似乎并不關(guān)心。事實(shí)上，當(dāng)巴黎奧運(yùn)會主辦區(qū)之一塞納-圣但尼省的官員介紹了一個初步的人工智能視頻監(jiān)控系統(tǒng)，表示它可以檢測亂扔垃圾等反社會行為并處以罰款時，居民們舉手詢問為什么系統(tǒng)還沒出現(xiàn)在街道上。

“監(jiān)控不是一個單一概念。并非每個人都反對?！瘪R修斯 · 維加斯 · 法拉利（Matheus Viegas Ferrari）說道。法拉利是巴西巴伊亞聯(lián)邦大學(xué)的國際關(guān)系博士生和法國巴黎第八大學(xué)的人類學(xué)博士生，曾參加塞納-圣但尼省的社區(qū)會議，并發(fā)表了關(guān)于2024年奧運(yùn)會監(jiān)控的研究論文。

如果有鄰居遛狗時放任寵物排泄而又不收撿狗便，對該鄰居不滿者就可與塞納-圣但尼省那些歡迎監(jiān)控的居民站在同一戰(zhàn)線。但如果監(jiān)控系統(tǒng)可能因算法偏好某種膚色或服裝風(fēng)格而在罰款時厚此薄彼，很多人的意見大概就要反轉(zhuǎn)了。

事實(shí)上，歐盟國家制定《人工智能法案》旨在通過規(guī)范人工智能的政府和商業(yè)使用以保護(hù)公民的隱私和權(quán)利。與福利政策相關(guān)的人工智能法執(zhí)行不力已經(jīng)導(dǎo)致荷蘭內(nèi)閣垮臺。

臨時監(jiān)控法（其中的視頻處理?xiàng)l款將于2025年3月到期）似乎是為避免這種結(jié)果而制定的。它堅(jiān)稱其管轄下的算法“不處理任何生物識別數(shù)據(jù)，也不實(shí)施任何面部識別技術(shù)，無法與其他個人數(shù)據(jù)處理進(jìn)行任何協(xié)調(diào)、互連或自動連接”。

藝術(shù)家保羅 · 西里奧（Paolo Cirio）曾在未經(jīng)批準(zhǔn)的眾包面部識別活動中印制了警察臉部海報(bào)并將其張貼于巴黎各地。他認(rèn)為這種表達(dá)是一種進(jìn)步。“事實(shí)上，即使在法國奧運(yùn)會期間，政府也必須在法律中寫入他們不會使用生物識別技術(shù)，這對我來說已經(jīng)是令人難以置信的事情，這是活動人士在法國和歐洲其他地方多年奮斗的結(jié)果。”

群體分析

官員們可以做的就是使用計(jì)算機(jī)進(jìn)行實(shí)時人群分析，而非生物識別和面部識別分析。這項(xiàng)技術(shù)可追溯至很久以前，人們對多種群體行為的許多方面進(jìn)行研究，此類研究甚至被應(yīng)用于防止母雞自相殘殺。雖然群體可能非理性，但對群體分析是一門科學(xué)。

然而，群體中的個體可能無法真正獲得隱私保護(hù)。歐洲民間社會團(tuán)體在一封公開信中稱，監(jiān)視必然需要隔離并識別個人，從而剝奪無辜者的隱私權(quán)。

這是否屬實(shí)尚不清楚，所涉及技術(shù)的快速發(fā)展使其成為一個難以回答的問題。法國上阿爾薩斯大學(xué)的數(shù)據(jù)科學(xué)家喬納森 · 韋伯（Jonathan Weber）曾合著一份關(guān)于視頻監(jiān)控的人群分析回顧文章，在他看來，“你不必識別這些人，程序員可以用類似人形的素材訓(xùn)練神經(jīng)網(wǎng)絡(luò)，直到它能在后續(xù)視頻中可靠識別出人類。然后，他們能訓(xùn)練神經(jīng)網(wǎng)絡(luò)處理更復(fù)雜的模式，例如人們摔倒、奔跑、打架，甚至爭論或攜帶刀具”。

法國視頻分析公司Videtics聯(lián)合創(chuàng)始人兼首席執(zhí)行官艾倫 · 費(fèi)爾巴赫（Alan Ferbach）表示：“我們發(fā)出的警報(bào)并非基于生物識別技術(shù)，而是基于體態(tài)，例如一個人是否躺在地上。”位于巴黎的Videtics已提交了2024年奧運(yùn)會安保合同部分內(nèi)容的投標(biāo)，也開始銷售可檢測建筑物墜落或戶外非法傾倒的軟件——這兩種方法都無需識別個人身份。

但這可能還不足以讓批評者滿意。歐洲非營利法律中心（位于荷蘭海牙的民間社會組織）的數(shù)字民用空間顧問卡羅琳娜 · 伊萬斯卡（Karolina Iwańska）表示：“即使只是對人們的行為進(jìn)行分類，那也可能與識別人們的身份一樣具有侵略性和危險性，因?yàn)樗赡軐?dǎo)致錯誤、歧視以及對隱私和匿名的侵犯，還可能影響公平審判權(quán)和訴諸司法的機(jī)會?！睔W洲非營利法律中心已向法國憲法委員會提交了有關(guān)奧運(yùn)會監(jiān)控法的非當(dāng)事人意見陳述。

韋伯特別重視訓(xùn)練數(shù)據(jù)的偏差會如何導(dǎo)致AI群體分析出現(xiàn)問題。例如，當(dāng)美國公民自由聯(lián)盟將美國國會代表的照片與警方拍攝的罪犯的面部照片進(jìn)行比較時，該軟件錯誤地將深色皮膚者識別為匹配對象。韋伯表示，這種算法的潛在偏差將取決于軟件開發(fā)人員訓(xùn)練它的方式：“你必須非常小心。一個最大的問題在于你或許沒有大量關(guān)于危險行為的視頻用以訓(xùn)練算法。”

費(fèi)爾巴赫說道：“我認(rèn)為，我們必須對訓(xùn)練路徑渠道進(jìn)行認(rèn)證，然后不同公司可以根據(jù)經(jīng)過認(rèn)證的訓(xùn)練集開發(fā)自己的模型。如果需要驗(yàn)證每個模型，那成本將是巨大的?！睔W盟監(jiān)管機(jī)構(gòu)尚未明確人工智能法案會如何解決這個問題。

即使軟件開發(fā)人員能利用足夠多關(guān)于不良行為的現(xiàn)實(shí)和模擬視頻，毫無偏見地訓(xùn)練算法，他們也還需要弄清楚怎樣處理他們收集到的所有現(xiàn)實(shí)世界數(shù)據(jù)。西里奧指出：“收集的數(shù)據(jù)越多，這些數(shù)據(jù)最終落入公眾或壞人手中的可能性就越大。”作為回應(yīng)，一些公司使用面部模糊工具以減少個人數(shù)據(jù)泄露的風(fēng)險。其他研究人員建議從正上方錄制視頻，從而避免錄制人臉。

也許生物識別技術(shù)是必需的

另一些學(xué)者則在朝相反方向努力——開發(fā)識別個體的工具，或者至少使用步態(tài)分析將目標(biāo)與視頻中的其他人區(qū)分開來。如果這種技術(shù)被應(yīng)用，那么監(jiān)控視頻就不會做面部模糊，也不會以俯視視角拍攝視頻，所謂隱私保護(hù)自然無從談起，它與法國奧運(yùn)會的相關(guān)法律規(guī)定亦背道而馳。伊萬斯卡表示，法律禁止生物特征數(shù)據(jù)處理，同時又允許算法做事件偵測，這“似乎只能是美好的一廂情愿，我無法想象如果不處理生物識別數(shù)據(jù)，系統(tǒng)該如何按照預(yù)期工作”。

監(jiān)控在潛行

困擾奧運(yùn)會安全觀察者的另一個問題是該系統(tǒng)應(yīng)保留多久。舊金山民間社會組織電子前沿基金會的高級政策分析師馬修 · 瓜里格利亞（Matthew Guariglia）表示：“對于希望加強(qiáng)監(jiān)控的政府來說，利用一些煽動事件（例如襲擊或即將發(fā)生的重大事件）來證明其正當(dāng)性是很常見的?；A(chǔ)設(shè)施可以保留，易于日后重啟并用于日常警務(wù)?！?/p>

法國奧運(yùn)會法律規(guī)定了監(jiān)控系統(tǒng)的有效期限，但伊萬斯卡稱這是任意而為，官方做出這一決定時“并未對它之于為期兩個月的奧運(yùn)會和殘奧會的必要性或恰當(dāng)性進(jìn)行任何評估”。

另有研究安全技術(shù)和奧運(yùn)會的歷史學(xué)家指出，各國經(jīng)常將奧運(yùn)會視為安全商品展覽會。而且，即使法國在奧運(yùn)法到期后停止在公共場所使用其視頻處理算法，其他國家也可能從法國公司購買技術(shù)并在本國使用。法國和其他地方的監(jiān)控行業(yè)將從巴黎奧運(yùn)會的曝光中獲益匪淺，其他國家的人權(quán)可能受損。

奧運(yùn)會也成為推翻惱人安全措施的試驗(yàn)場。1980年，當(dāng)美國官員們在普萊西德湖奧運(yùn)村周圍安裝圍欄時，運(yùn)動員們不斷往圍欄上靠，從而觸發(fā)了警報(bào)。一段時間后，安全官員發(fā)現(xiàn)警報(bào)根本不起作用。原來有人（甚至可能是官員自己）拔掉了警報(bào)系統(tǒng)的電源。

資料來源 IEEE Spectrum