文/付琴雯
在2023 年7 月的安理會辯論中,法國將人工智能稱為“21 世紀(jì)的革命”。近年來,人工智能技術(shù)成為法國媒體的追蹤焦點(diǎn)之一,特別是生成式人工智能ChatGPT 帶來了爆炸式熱度。然而,法國公眾對這一現(xiàn)象的看法并不積極。根據(jù)法國民調(diào)機(jī)構(gòu)奧多克薩研究所(Odoxa institute)最近為甲骨文云計(jì)算公司(Oracle)進(jìn)行的一項(xiàng)調(diào)查結(jié)果顯示,67%的法國人認(rèn)為人工智能是一種威脅:“現(xiàn)在(持威脅論)的比例明顯占多數(shù)。去年同期,只有53%的法國人持這種觀點(diǎn)?!睂τ谠S多法國人來說,人工智能的發(fā)展仍是一個(gè)令人擔(dān)憂的問題。
此外,許多法國人也對人工智能發(fā)展的國家監(jiān)管能力提出質(zhì)疑。甲骨文公司法國分公司總經(jīng)理克里斯托夫-內(nèi)格里爾(Christophe Negrier)指出:“整個(gè)問題的關(guān)鍵在于人工智能的識別、應(yīng)用和控制?!?2%的法國受訪者表示“希望看到政府監(jiān)管”。
人工智能技術(shù)的快速性、精確性,使其成為許多投機(jī)分子實(shí)施不法行為的新手段、新方法。近年來,伴隨著全球經(jīng)濟(jì)衰退,犯罪分子利用人工智能實(shí)施不法行為的情形日益增多,這種新興趨勢也成為當(dāng)前理論界和實(shí)務(wù)部門的關(guān)注焦點(diǎn)。
例如,近年來,法國境內(nèi)利用人工智能技術(shù)實(shí)施“網(wǎng)絡(luò)釣魚”等金融欺詐的案件頻發(fā)。這些不法分子可以使用生成式人工智能工具,快速為其“網(wǎng)絡(luò)釣魚”電子郵件編寫欺騙性內(nèi)容,并在目標(biāo)系統(tǒng)上安裝惡意欺詐軟件。有數(shù)據(jù)統(tǒng)計(jì),截至2023 年1 月,“網(wǎng)絡(luò)釣魚”成為法國最常見的網(wǎng)絡(luò)攻擊類型,大約四分之三的法國公司成為惡意電子郵件的攻擊目標(biāo)。專注于IT(信息技術(shù))安全治理的波耐蒙研究所(Ponemon Institute)曾于2018年做過一項(xiàng)調(diào)查,調(diào)查結(jié)果顯示,54%的法國公司認(rèn)為網(wǎng)絡(luò)黑客已較好掌握了機(jī)器學(xué)習(xí)等人工智能技術(shù);人工智能等技術(shù)帶來的全球數(shù)字化轉(zhuǎn)型使網(wǎng)絡(luò)犯罪分子的攻擊能力“呈指數(shù)級擴(kuò)大”?,F(xiàn)有網(wǎng)絡(luò)犯罪技術(shù)和方法可以通過人工智能實(shí)現(xiàn)自動(dòng)化和加速化,從而對相關(guān)企業(yè)產(chǎn)生毀滅性的影響。該調(diào)查還顯示,計(jì)算機(jī)黑客、間諜活動(dòng)、數(shù)據(jù)盜竊等是困擾法國企業(yè)的主要網(wǎng)絡(luò)威脅,勒索軟件等自動(dòng)化攻擊正在增加其頻率,尤其是這些“數(shù)據(jù)勒索攻擊”占報(bào)告事件總數(shù)的比例從13%增加到27%。以加密貨幣領(lǐng)域?yàn)槔?,這些虛擬貨幣本來受到復(fù)雜算法的保護(hù)以確保交易,但現(xiàn)如今,許多不法分子利用人工智能技術(shù)在網(wǎng)絡(luò)釣魚軟件或勒索軟件中添加數(shù)據(jù)泄露功能,產(chǎn)生的數(shù)據(jù)可以讓其訪問相關(guān)公司的加密貨幣錢包,從而增加了運(yùn)用加密貨幣進(jìn)行交易操作的風(fēng)險(xiǎn)性??梢哉f,飛速發(fā)展的人工智能技術(shù)就像一把“雙刃劍”,雖然對人類生活帶來了便利,但同時(shí)也增加了其被濫用的風(fēng)險(xiǎn)。
又如,法國社會中基于人工智能實(shí)施的“合成身份欺詐”案件不斷增多。事實(shí)上,虛擬遠(yuǎn)程開展業(yè)務(wù)作為擴(kuò)大金融業(yè)務(wù)可及性的一種方式受到了公眾歡迎,但這種做法也為犯罪分子開展欺詐提供了系統(tǒng)漏洞,尤其是人工智能技術(shù)為犯罪分子偽造個(gè)人身份的惡意行為提供了新的方法。近年來,犯罪分子進(jìn)一步利用“深度偽造”(Deepfake)技術(shù)進(jìn)行在線欺詐,特別是合成身份欺詐。在這方面,抵押貸款行業(yè)特別容易受到影響?!吧疃葌卧臁奔夹g(shù)誕生于2014 年,由一位名為伊恩·古德費(fèi)洛(Ian Goodfellow)的研究人員所創(chuàng)造,這項(xiàng)技術(shù)也被稱為“生成式對抗網(wǎng)絡(luò)”(Generative Adversarial Networks)。“深度偽造”有幾種類型,最著名的就是“換臉”,包括通過該人工智能技術(shù)替換一張“已知”的臉,或者以完全合成為基礎(chǔ)生成一張“不存在”的臉。2018 年,一段“深度偽造”美國前總統(tǒng)巴拉克·奧巴馬的視頻一舉成名,人們開始關(guān)注這項(xiàng)人工智能技術(shù)。值得注意的是,法國政府切實(shí)開展“深度偽造”技術(shù)的打擊活動(dòng)是基于一個(gè)特殊的背景原因,即2022 年法國總統(tǒng)選舉期間受到了外國社交網(wǎng)絡(luò)上利用人工智能技術(shù)傳播虛假信息的干預(yù)和威脅。為此,法國政府成立了一個(gè)名為“警惕和保護(hù)外國數(shù)字干擾局”(Viginum)的機(jī)構(gòu),隸屬于法國國防和國家安全總秘書處 ,專門負(fù)責(zé)監(jiān)控和防范來自外國的“數(shù)字干擾”。
案例1:“假勒德里昂”案——人工智能“換臉”技術(shù)造成多位社會名流重大經(jīng)濟(jì)財(cái)產(chǎn)損失
比利時(shí)國王、道達(dá)爾公司首席執(zhí)行官、巴黎大主教、加蓬總統(tǒng)……2015 年至2016 年間,一個(gè)法國騙子團(tuán)伙利用人工智能“深度偽造”技術(shù),冒充時(shí)任法國國防部長讓-伊夫·勒德里昂(Jean-Yves Le Drian)或其他內(nèi)閣成員,與150 多位公眾人物取得聯(lián)系并實(shí)施詐騙,其慣常采用的詐騙理由是“要錢支付在敘利亞被劫持的法國人質(zhì)的贖金,并保證迅速償還”。除了上述社會名流外,上當(dāng)受騙的還有經(jīng)營法國波爾多最負(fù)盛名的葡萄酒莊之一的瑪歌酒莊莊主、伊斯瑪儀教派的精神領(lǐng)袖阿加汗和某土耳其富商等,總涉案金額近6000 萬歐元。
2020 年3 月11 日,巴黎刑事法院分別判處涉嫌策劃這一騙局的吉爾貝·奇克利(Gilbert Chikli)和安東尼·扎列維奇(Anthony Lazarevitch)11 年和7 年監(jiān)禁。對此,讓-伊夫·勒德里昂的辯護(hù)律師指出:“在這個(gè)假冒偽劣泛濫的時(shí)代,一審對詐騙犯的重判向社會釋放出了強(qiáng)烈的信號?!?/p>
案例2:“數(shù)字監(jiān)管”——法國新聞出版業(yè)聯(lián)合反對利用人工智能進(jìn)行內(nèi)容竊取
2023 年9 月26 日,近300 家新聞公司聚集在法國新聞聯(lián)盟,宣布計(jì)劃“建立法律儲備機(jī)制”,以防止人工智能公司的網(wǎng)絡(luò)爬蟲無償使用他們的內(nèi)容。法國新聞聯(lián)盟指出,新聞出版物受知識產(chǎn)權(quán)保護(hù),對人工智能公司“在不補(bǔ)償任何價(jià)值的情況下”使用相關(guān)文章內(nèi)容的行為表示遺憾,同時(shí),“面對這一現(xiàn)實(shí),新聞出版商必須捍衛(wèi)自己的權(quán)利,保障其商業(yè)模式的未來和新聞業(yè)的資金來源”。
與搜索引擎機(jī)器人一樣,一些人工智能研究企業(yè)開發(fā)了相關(guān)爬蟲軟件,對互聯(lián)網(wǎng)上的所有數(shù)據(jù)進(jìn)行篩選和抽取,如通過OpenAI 的ChatGPT、Google 的Bard、Meta的LLaMa 等生成式人工智能工具進(jìn)行攝取和合成,但卻沒有向原始資源生產(chǎn)者支付絲毫的經(jīng)濟(jì)補(bǔ)償。對此,新聞聯(lián)盟進(jìn)一步指出,使用相關(guān)法律武器可以“使新聞出版業(yè)重新獲得對其出版物使用的控制權(quán)”,并且“這也是與人工智能服務(wù)商展開談判的必要前提”。
法國總統(tǒng)馬克龍正在體驗(yàn)一臺人工智能設(shè)備
眾所周知,數(shù)字技術(shù)發(fā)展在一定程度上是與法律標(biāo)準(zhǔn)背道而馳的。當(dāng)前,國際社會仍有聲音認(rèn)為不應(yīng)對算法和人工智能進(jìn)行監(jiān)管,其理由主要是在當(dāng)前制定相關(guān)規(guī)則“為時(shí)尚早”,因?yàn)榧夹g(shù)發(fā)展的速度與法律發(fā)展的速度不可同日而語。這種觀點(diǎn)忽略了一個(gè)現(xiàn)實(shí),即“算法及其使用已經(jīng)直接或間接地受到許多法律規(guī)則的制約”,法國的相關(guān)立法實(shí)踐就是典型例證。
早在20 世紀(jì)60 年代,法國政府就開始注意到信息和通信技術(shù)對個(gè)人自由帶來的風(fēng)險(xiǎn)與挑戰(zhàn)。1969 年,法國政府提請國務(wù)委員會審視信息技術(shù)對個(gè)人自由帶來的威脅。1970 年3 月,在時(shí)任法國總統(tǒng)喬治·蓬皮杜(Georges Pompidou)領(lǐng)導(dǎo)下,法國政府曾嘗試創(chuàng)建一個(gè)集中的個(gè)人數(shù)據(jù)數(shù)據(jù)庫,又名“SAFARI”數(shù)據(jù)庫,并由法國國家統(tǒng)計(jì)和經(jīng)濟(jì)研究所(Insee)秘密執(zhí)行該項(xiàng)目。然而,該項(xiàng)目遭到泄露并引起了法國社會輿論的巨大爭議。隨后,時(shí)任總理皮埃爾·梅斯梅爾 (Pierre Messmer)停止了該項(xiàng)目,并于1974 年3 月30 日成立了“信息技術(shù)和自由委員會”,其任務(wù)是保護(hù)公民的隱私權(quán),防止因計(jì)算機(jī)文件的發(fā)展而可能造成的侵犯。
1975 年9 月,該委員會提交了著名的《關(guān)于保障尊重個(gè)人自由的措施的報(bào)告》(因總報(bào)告人為時(shí)任法國國務(wù)委員會委員伯納德·特里科特,因此又被稱為《特里科特報(bào)告》)。該委員會在報(bào)告中指出了一些重要問題,除了就收集和儲存大量數(shù)據(jù)的處理能力等相關(guān)問題進(jìn)行討論之外,還提出了包括法國國家和社會層面的“計(jì)算機(jī)化”所帶來的挑戰(zhàn),并從一開始就明確了歧視或排斥個(gè)人的風(fēng)險(xiǎn)以及過度依賴計(jì)算機(jī)的風(fēng)險(xiǎn)。此外,報(bào)告還指出,既要有效應(yīng)對這些威脅,又要維護(hù)信息技術(shù)帶來的機(jī)遇,并不是靠建立一個(gè)煩瑣而分散的法律體系,而是靠對它的控制與主導(dǎo)使其發(fā)揮應(yīng)有的效用??梢哉f,《特里科特報(bào)告》也是一個(gè)縮影,代表了法國在算法與信息安全、個(gè)人數(shù)據(jù)保護(hù)等議題上所具有的敏銳性和前瞻性,該報(bào)告成為了1978 年法國《數(shù)據(jù)保護(hù)法》的基礎(chǔ)。
2018 年3 月,法國總統(tǒng)馬克龍宣布在五年內(nèi)投入15 億歐元支持人工智能發(fā)展
1978 年1 月6 日,法國頒布第78-17 號“關(guān)于數(shù)據(jù)處理、文件和自由的法律”,即《數(shù)據(jù)保護(hù)法》。自此,法國成為歐洲最早規(guī)范個(gè)人數(shù)據(jù)處理的西方國家之一,70 年代,另外兩個(gè)就個(gè)人數(shù)據(jù)處理問題出臺法律規(guī)范的國家是德國和瑞典。隨后,法國政府也有力推動(dòng)了1981年歐洲委員會《個(gè)人數(shù)據(jù)自動(dòng)化處理中的個(gè)人保護(hù)公約》(簡稱《108 號公約》)以及1990 年的《個(gè)人數(shù)據(jù)文件監(jiān)管指南》制定出臺。
1978 年《數(shù)據(jù)保護(hù)法》于2004 年修訂,涉及個(gè)人數(shù)據(jù)的所有自動(dòng)處理,包含多項(xiàng)規(guī)定,如向國家信息與自由委員會申報(bào)包含個(gè)人數(shù)據(jù)的文件的義務(wù)、禁止收集敏感數(shù)據(jù)(即一般情況下與宗教、健康、政治等有關(guān)的數(shù)據(jù))、確立了“公平數(shù)據(jù)收集原則”、確保所收集的所有數(shù)據(jù)的安全的義務(wù)、有義務(wù)告知相關(guān)個(gè)人其數(shù)據(jù)的收集情況以及訪問、修改和刪除相關(guān)數(shù)據(jù)的權(quán)利,等等。
此外,對于算法和人工智能新型生態(tài)的法律規(guī)制,還引發(fā)了法國公眾對于人工智能引發(fā)的相關(guān)倫理和社會問題的思辨。法國國家信息與自由委員會發(fā)起過一項(xiàng)公眾調(diào)查,結(jié)果顯示法國公眾要求對算法和人工智能制定規(guī)則或進(jìn)行限制。除了具有約束力的規(guī)范之外,這些規(guī)則和限制還可以采用其他方式,例如行業(yè)或企業(yè)采用的“章程”形式。
在這一背景下,法國國家信息與自由委員會成立了一個(gè)特別工作組來審議數(shù)字技術(shù)發(fā)展帶來的倫理和社會問題。這顯然反映了人們希望對新技術(shù)的限制和標(biāo)準(zhǔn)進(jìn)行反思。因此,國家信息與自由委員會尋求盡可能廣泛地開展辯論,辯論的對象不僅包括公共參與者,還包括從業(yè)人員、專業(yè)人士和普通公眾。
人工智能的快速發(fā)展正在快速而深入地改變世界各國人民的工作和生活形態(tài),同時(shí),這也要求各國能夠及時(shí)研究制定相關(guān)法律法規(guī)為人工智能融入人類活動(dòng)提供適當(dāng)?shù)目蚣堋3鲇趯?shù)據(jù)使用的擔(dān)憂,意大利成為西方世界第一個(gè)阻止生成式人工智能聊天程序ChatGPT 的國家。2023 年3 月31 日,意大利當(dāng)局宣布屏蔽聊天機(jī)器人ChatGPT,理由是“缺乏證明大規(guī)模收集和保存?zhèn)€人數(shù)據(jù)合理性的法律依據(jù)”。同時(shí),ChatGPT 沒有設(shè)置任何過濾器來驗(yàn)證用戶的年齡,無法限制13 歲以下兒童對于該機(jī)器人的使用。歐洲警察署也在一份報(bào)告中指出,從網(wǎng)絡(luò)釣魚到虛假信息和惡意軟件,人工智能聊天機(jī)器人的快速發(fā)展容易被惡意利用。對于意大利禁止ChatGPT 的做法,法國國家信息與自由委員會表示“尚未收到投訴,也沒有進(jìn)行類似的程序”,但已聯(lián)系意大利同行討論相關(guān)調(diào)查結(jié)果,并旨在“澄清相關(guān)法律框架”。
法國國家信息與自由委員會指的“法律框架”,是指目前歐盟于2021 年提出的《人工智能法案》(Artificial Intelligence Act)。《人工智能法案》旨在通過確立統(tǒng)一的人工智能法律監(jiān)管框架,以基于風(fēng)險(xiǎn)識別分析的方法,為不同類型的人工智能系統(tǒng)提出不同的義務(wù)要求,從而確?;谌斯ぶ悄艿纳唐泛头?wù)在高度保護(hù)健康、安全、公民基本權(quán)利和保障公共利益的前提下,促進(jìn)人工智能規(guī)范化的開發(fā)、使用和營銷。該法案的法律框架內(nèi),主要討論人工智能算法的定義,相關(guān)軟件可能產(chǎn)生哪些社會后果,以及如何打擊人工智能使用中存在的相關(guān)種族主義和性別歧視情形,等等。值得注意的是,《人工智能法案》還規(guī)定為每個(gè)國家需要指定一個(gè)負(fù)責(zé)人工智能的監(jiān)管機(jī)構(gòu)。為此,2023 年1 月,法國國家信息與自由委員會成立了一個(gè)由五人組成的、專門負(fù)責(zé)人工智能事務(wù)的部門,由其下設(shè)的技術(shù)與創(chuàng)新局(DTI)監(jiān)管。除了為人工智能用戶制定明確的數(shù)據(jù)保護(hù)規(guī)定等基本目標(biāo)外,該機(jī)構(gòu)還旨在確保對于人工智能的法律規(guī)制能在歐洲層面統(tǒng)一步調(diào)、協(xié)調(diào)發(fā)展。
實(shí)際上,早在2017 年,法國國家信息與自由委員會就提交了一份《關(guān)于算法和人工智能倫理挑戰(zhàn)報(bào)告》,表達(dá)了對人工智能問題的密切關(guān)注。近年來,歐盟委員會希望通過制定更為明確的規(guī)則,以確保針對人工智能的相關(guān)數(shù)據(jù)保護(hù)措施適用于所有歐洲公民。為此,法國國家信息與自由委員會的人工智能監(jiān)管部門設(shè)置了四大目標(biāo):了解人工智能的工作原理、為人工智能的發(fā)展提供法律框架、保護(hù)使用人工智能的用戶、支持法國和歐洲的人工智能創(chuàng)新。
法國國家信息與自由委員會還表示,之所以要進(jìn)一步開展對人工智能的研究,是因?yàn)槠渥⒁獾?022 年期間對于這些工具的使用呈爆炸式增長。根據(jù)該委員會的說法,這些基于數(shù)據(jù)密集型算法的、涉及個(gè)人數(shù)據(jù)的工具可能存在問題。此外,為了處理大量人工智能相關(guān)的投訴案件,委員會還通過開發(fā)一個(gè)人工智能服務(wù)的門戶網(wǎng)站,使用戶能夠跟蹤案件進(jìn)展,簡化程序并確保交流。
誠然,人工智能的快速發(fā)展影響社會多領(lǐng)域和多部門,具有典型的跨部門性,因此迫切需要專業(yè)機(jī)構(gòu)的監(jiān)督。法國國家信息與自由委員會及時(shí)成立專門針對人工智能的監(jiān)管機(jī)構(gòu),無疑是一種具有前瞻性的國家實(shí)踐。不過,對于此種實(shí)踐,也有專家提出不同看法,尤其是指出法國國家信息與自由委員會不可能成為規(guī)范人工智能使用的唯一權(quán)威機(jī)構(gòu),因?yàn)槿斯ぶ悄鼙举|(zhì)上涉及多領(lǐng)域、多行業(yè),其監(jiān)管機(jī)構(gòu)不應(yīng)是這個(gè)“數(shù)據(jù)保護(hù)”機(jī)構(gòu)的衍生產(chǎn)物。專家同時(shí)指出,與關(guān)注一般性數(shù)據(jù)保護(hù)方法相比,對于人工智能的規(guī)范“似乎需要更加細(xì)微的方法”,來確保對其的使用能在合理、正義的軌道上發(fā)展,因此,似乎更適合成立一個(gè)特定的、獨(dú)立的人工智能監(jiān)管機(jī)構(gòu),以便協(xié)調(diào)不同領(lǐng)域和部門機(jī)構(gòu)之間的工作,來確保對人工智能監(jiān)管的有效性和一致性。
歐洲議會議員擔(dān)心人工智能技術(shù)對隱私保護(hù)產(chǎn)生不良影響
雖然人工智能的研究及其實(shí)際應(yīng)用正在不斷發(fā)展,但在防止可能發(fā)生的重大侵犯基本權(quán)利行為方面,現(xiàn)行法律規(guī)制仍不完善。鑒于歐盟即將通過有關(guān)這一主題的條例提案以及歐洲委員會正在開展的工作,法國國家人權(quán)咨詢委員會(CNCDH)呼吁公共當(dāng)局在這一領(lǐng)域推動(dòng)建立一個(gè)“雄心勃勃”的法律框架。法國國家人權(quán)咨詢委員會于1947 年在諾貝爾和平獎(jiǎng)獲得者勒內(nèi)·卡桑的倡議下成立,是法國保護(hù)和促進(jìn)人權(quán)的國家機(jī)構(gòu),并獲得聯(lián)合國認(rèn)可。作為一個(gè)合議機(jī)構(gòu),法國國家人權(quán)咨詢委員會完全獨(dú)立地確保在人權(quán)、法律和人道主義行動(dòng)領(lǐng)域向政府和議會發(fā)揮咨詢和建議作用,并尊重給予人權(quán)的基本保障。公民行使公共自由的權(quán)利,并承擔(dān)監(jiān)督法國遵守其在該領(lǐng)域國際承諾的情況的使命。
2022 年4 月7 日,法國國家人權(quán)咨詢委員會在全體會議上一致通過了《關(guān)于人工智能對基本權(quán)利影響的意見》(A-2022-6),對人工智能法律框架的制定提出了近20 項(xiàng)建議,現(xiàn)摘要如下。
1.委員會建議有關(guān)機(jī)構(gòu)在交流中應(yīng)使用比“人工智能”更中立、更客觀的術(shù)語,如“算法決策支持系統(tǒng)”(ADSS)。
2.委員會建議歐盟《人工智能法案》應(yīng)包括更有力的條款,以確保建立一個(gè)具有約束力的法律框架,保證切實(shí)尊重基本權(quán)利。此外,委員會建議在歐洲委員會框架內(nèi)通過“關(guān)于人工智能的108+公約”。
3.委員會建議在正在進(jìn)行的改革中考慮以人權(quán)為基礎(chǔ)的方法,因?yàn)檫@些改革旨在確保尊重基本權(quán)利。
4.委員會建議禁止使用選擇界面,因?yàn)槠淠康幕蛐Ч抢糜脩舻穆┒磥聿倏v用戶,對其造成損害。
5.委員會禁止主管部門或任何公司(無論是公共還是私營)實(shí)施任何類型的社會評分。
6.委員會建議禁止在公共場所和公眾可進(jìn)入的場所對人員進(jìn)行遠(yuǎn)程生物特征識別,但允許在例外情況下使用,條件是這對防止人員生命或安全以及對重要工程、設(shè)施和機(jī)構(gòu)的生命或安全構(gòu)成嚴(yán)重和緊迫威脅是絕對必要、適當(dāng)和相稱的。
7.委員會建議進(jìn)一步考慮確定在法律訴訟中使用人工智能的益處和局限性。
8.委員會建議禁止情緒識別技術(shù),但在旨在加強(qiáng)人們的自主權(quán)或更廣泛地增強(qiáng)其基本權(quán)利的有效性時(shí)允許作為例外使用它們。
9.委員會建議,人工智能系統(tǒng)的用戶應(yīng)評估其使用對基本權(quán)利的影響,并在確定風(fēng)險(xiǎn)的情況下,根據(jù)風(fēng)險(xiǎn)的可能性和嚴(yán)重性對其進(jìn)行評估。影響評估至少應(yīng)包括說明使用人工智能系統(tǒng)的目的,確定可能受該制度影響的基本權(quán)利,審查所設(shè)想的人工智能系統(tǒng)并在此基礎(chǔ)上評估其必要性、適宜性以及相對于預(yù)期目標(biāo)而言對基本權(quán)利的侵犯是否相稱,制定了哪些程序來監(jiān)督應(yīng)用情況以及采取了哪些措施來降低風(fēng)險(xiǎn)。
10.根據(jù)人工智能系統(tǒng)在特定使用環(huán)境下對基本權(quán)利產(chǎn)生的風(fēng)險(xiǎn),委員會建議確保在決定使用該系統(tǒng)之前,根據(jù)適當(dāng)?shù)姆椒ㄅc利益相關(guān)者進(jìn)行協(xié)商,包括工作人員代表以及更廣泛的人工智能系統(tǒng)的目標(biāo)人群。
11.委員會建議對人工智能系統(tǒng)進(jìn)行監(jiān)督,監(jiān)督程序可根據(jù)影響研究確定的侵犯基本權(quán)利的風(fēng)險(xiǎn)而有所不同,以保持用戶對系統(tǒng)影響的持續(xù)警惕,特別是其歧視性影響。
12.委員會建議鼓勵(lì)對培訓(xùn)和信息工具的設(shè)計(jì)進(jìn)行公共投資,使盡可能多的人能夠獲得這些工具。
13.委員會建議,按照國家倫理咨詢委員會組織的“生物倫理國家大會”(Etats généraux de la biothique)的思路,組織國家磋商。
14.委員會建議法國教育系統(tǒng)為學(xué)生提供更多有關(guān)人工智能的技術(shù)、政治和社會問題的培訓(xùn),并為此為教師提供教學(xué)輔助工具。
15.委員會建議根據(jù)與人工智能系統(tǒng)風(fēng)險(xiǎn)水平相對應(yīng)的方法,保證人為干預(yù),控制人工智能系統(tǒng)產(chǎn)生的個(gè)人決策;通過為參與者提供有關(guān)系統(tǒng)特征的適當(dāng)培訓(xùn)和信息以確保其有效性,并當(dāng)偏離人工智能系統(tǒng)的建議時(shí)不施加任何特定限制;確保公共服務(wù)用戶系統(tǒng)地保持對人工代理的替代訪問。
16.委員會建議賦予人工智能系統(tǒng)用戶參數(shù)化標(biāo)準(zhǔn)的權(quán)利,特別是在確定所接收內(nèi)容的選擇和呈現(xiàn)方式時(shí),以及在更廣泛的人機(jī)交互情況下。
17.委員會建議,當(dāng)個(gè)人接觸或?qū)⑴c人工智能系統(tǒng)互動(dòng)時(shí),應(yīng)系統(tǒng)性地告知個(gè)人;當(dāng)個(gè)人成為決策主體時(shí),應(yīng)告知個(gè)人決策在適用情況下部分或全部基于算法處理。
18.委員會建議,應(yīng)保障數(shù)據(jù)主體有權(quán)要求人工審查任何完全或部分基于算法處理的個(gè)人決定,如果該決定對他們有重大影響的話。
19.委員會建議公共機(jī)構(gòu)以可理解的形式提供信息,說明算法的運(yùn)行方式,以及決策過程中的人為干預(yù)。它還建議考慮將這一義務(wù)擴(kuò)大到私營機(jī)構(gòu)。
總體而言,法國國家人權(quán)咨詢委員會提出的關(guān)于“人工智能”意見的宗旨,主要概括為兩個(gè)方面,一是建議禁止某些被認(rèn)為對基本權(quán)利過于有害的人工智能用途,如社會評分或在公共場所對人們進(jìn)行遠(yuǎn)程生物識別。二是建議對人工智能系統(tǒng)的用戶提出能夠保證尊重基本權(quán)利的要求。此外,法國國家人權(quán)咨詢委員會呼吁承認(rèn)算法決策主體的權(quán)利,特別是在決策過程中進(jìn)行人工干預(yù)的權(quán)利以及配置人工智能系統(tǒng)運(yùn)行標(biāo)準(zhǔn)的權(quán)利。
巴黎正在為 2024 年奧運(yùn)會配備人工智能視頻監(jiān)控?cái)z像頭
2023 年7 月,聯(lián)合國安理會第9831 次會議首次審查了人工智能對國際和平與安全的影響。秘書長認(rèn)為,人工智能“具有大規(guī)模行善和作惡的巨大潛力”,其創(chuàng)造者自己也看到了“潛在的生存”風(fēng)險(xiǎn)。意識到其中的利害關(guān)系,絕大多數(shù)安理會成員呼吁在國際層面通過道德和負(fù)責(zé)任行為的原則及相關(guān)建議。在會上,法國代表團(tuán)對人工智能在虛假信息方面的能力感到震驚,并強(qiáng)調(diào)“在競爭日益逼近、混合戰(zhàn)爭交織的嚴(yán)酷世界中,必須促使人工智能成為服務(wù)和平的工具”。
2023 年10 月24 日,在聯(lián)合國大會第78 屆會議上,裁軍與國際安全第一委員會就“其他裁軍措施和國際安全”進(jìn)行專題辯論,其中特別包括了與信息技術(shù)、信息和通信、網(wǎng)絡(luò)安全及國際合作的問題。法國代表卡米耶·佩蒂特(Camille Petit)指出,在過去的25 年里,各國政府已經(jīng)認(rèn)識到數(shù)字技術(shù)是發(fā)展的催化劑,但也可能被用于與維護(hù)國際和平與安全不相容的目的。在國家和非國家行為體實(shí)施的網(wǎng)絡(luò)攻擊的頻率、復(fù)雜性和嚴(yán)重性不斷增加的背景下,網(wǎng)絡(luò)安全已成為一個(gè)重要議題。
為此,法國以決議草案的形式提出一項(xiàng)旨在《促進(jìn)各國在國際安全背景下使用數(shù)字服務(wù)技術(shù)負(fù)責(zé)任行為的行動(dòng)計(jì)劃》,其目標(biāo)是到2026 年底建立一個(gè)常設(shè)的、包容性的和注重行動(dòng)的機(jī)制,以替代當(dāng)前的“2021-2025 年不限成員名額工作組”機(jī)制。該常設(shè)機(jī)制的使命是加強(qiáng)各國數(shù)字能力建設(shè),彌合國家間“數(shù)字鴻溝”,實(shí)施商定的準(zhǔn)則框架,制定具有法律約束力的標(biāo)準(zhǔn),同時(shí)促進(jìn)非政府行為體——尤其是私營部門的參與。此外,法國強(qiáng)調(diào),該機(jī)制的構(gòu)建應(yīng)采取一種平衡的方法,機(jī)制建設(shè)進(jìn)程也應(yīng)避免與當(dāng)前工作組產(chǎn)生職能重疊,確保兩者之間平穩(wěn)過渡。與法國立場類似,東盟等幾個(gè)國家集團(tuán)都呼吁避免建立平行和重疊的機(jī)制,主張?jiān)趨f(xié)商一致建議的基礎(chǔ)上開展“單軌”治理進(jìn)程。
互聯(lián)網(wǎng)的普及運(yùn)用催生了網(wǎng)絡(luò)犯罪,人工智能技術(shù)的興起則加速了這些非法活動(dòng)的趨勢,或使其變得更加復(fù)雜。據(jù)歐盟估計(jì),網(wǎng)絡(luò)犯罪每年造成的損失高達(dá)55000億歐元。法國和歐盟進(jìn)一步意識到了互聯(lián)網(wǎng)發(fā)展所帶來的潛在危險(xiǎn),并將打擊網(wǎng)絡(luò)犯罪作為其優(yōu)先事項(xiàng)之一。
2001 年,歐洲委員會《網(wǎng)絡(luò)犯罪公約》(又稱《布達(dá)佩斯公約》)的誕生,也是歷史上第一個(gè)打擊網(wǎng)絡(luò)犯罪活動(dòng)的國際協(xié)定。此后,歐盟繼續(xù)對網(wǎng)絡(luò)空間進(jìn)行監(jiān)管以限制威脅,并先后頒布了一系列重大措施。2013 年,歐盟成立“歐洲網(wǎng)絡(luò)犯罪中心”(EC3),該中心位于荷蘭海牙歐洲警察署所在地,旨在打擊歐盟境內(nèi)的網(wǎng)絡(luò)犯罪。2016 年,歐盟通過《網(wǎng)絡(luò)和信息系統(tǒng)安全指令》(SRI),這是歐盟層面采取的第一項(xiàng)立法措施,旨在加強(qiáng)成員國之間在網(wǎng)絡(luò)安全這一關(guān)鍵問題上的合作。2019 年,歐盟理事會通過了《網(wǎng)絡(luò)安全條例》,設(shè)立歐盟網(wǎng)絡(luò)安全局,幫助成員國、歐盟機(jī)構(gòu)和其他利益攸關(guān)方打擊網(wǎng)絡(luò)攻擊。同年,歐盟建立了針對網(wǎng)絡(luò)攻擊的自主制裁制度。
2022 年3 月,歐洲理事會批準(zhǔn)了“戰(zhàn)略指南針”計(jì)劃,這是歐盟第一份關(guān)于安全與防御的白皮書,其中包含數(shù)項(xiàng)打擊網(wǎng)絡(luò)犯罪的有力措施。2022 年,歐盟通過了SRI 2 指令,旨在考慮新的數(shù)字威脅,尤其是在衛(wèi)生危機(jī)期間出現(xiàn)的威脅。同年,歐盟委員會提出了《歐洲網(wǎng)絡(luò)復(fù)原力法》,目的是在所售產(chǎn)品的整個(gè)生命周期,特別是聯(lián)網(wǎng)物品的整個(gè)生命周期,建立網(wǎng)絡(luò)安全的共同規(guī)則。
2023年3月29日,法國宣布啟動(dòng)“2030年國家人工智能新戰(zhàn)略”
2023 年3 月,歐洲警察署討論了人工智能的濫用問題。在最新的一份報(bào)告中,該組織表示從網(wǎng)絡(luò)釣魚到虛假信息和惡意軟件,ChatGPT 等人工智能的快速發(fā)展容易被犯罪分子快速利用。2023 年6 月,歐洲議會通過了《人工智能法案》,率先展開了規(guī)范人工智能問題的立法嘗試。當(dāng)前,歐盟內(nèi)部正在就如何完善人工智能領(lǐng)域的監(jiān)管問題進(jìn)行討論。此外,歐盟積極建設(shè)“歐洲打擊犯罪威脅多學(xué)科平臺”(EMPACT),并將“打擊跨國犯罪威脅和網(wǎng)絡(luò)犯罪”列入EMPACT 平臺的十大戰(zhàn)略優(yōu)先事項(xiàng)之一。作為歐盟打擊網(wǎng)絡(luò)犯罪和人工智能犯罪的主要力量,法國正在歐洲層面指導(dǎo)與這一事項(xiàng)有關(guān)的行動(dòng)計(jì)劃。此外,2023 年8 月28 日至9 月1 日,法國國際安全合作局(DCIS)第三次會議在法國巴黎南泰爾(92 ?。┡e行,歐盟委員會內(nèi)政和移民事務(wù)總干事莫尼克-帕里亞特(Monique Pariat)在圓桌討論會上專門就有關(guān)議題進(jìn)行討論,并表示將制定戰(zhàn)略使歐盟能夠應(yīng)對“數(shù)字時(shí)代”帶來的大規(guī)模犯罪威脅。
最后,歐盟意識到網(wǎng)絡(luò)安全不能僅在區(qū)域?qū)用孢M(jìn)行治理。例如,近年來歐盟推動(dòng)與伙伴國家就打擊網(wǎng)絡(luò)犯罪和人工智能監(jiān)管等議題進(jìn)行磋商,特別是許多大型信息服務(wù)提供商所在地的美國。又如,在開展打擊網(wǎng)絡(luò)犯罪的多邊國際合作中,歐盟似乎尋求突破區(qū)域局限,除了繼續(xù)推動(dòng)實(shí)施其主導(dǎo)制定的《網(wǎng)絡(luò)犯罪公約》外,還積極參與到了聯(lián)合國框架下制定的《打擊網(wǎng)絡(luò)犯罪公約》的談判進(jìn)程。