姜浩峰
“立法機(jī)關(guān)也在加強(qiáng)對(duì)人工智能等領(lǐng)域法律問(wèn)題的研究,不斷建立健全相關(guān)法律制度?!?023年6月25日,全國(guó)人大常委會(huì)法制工作委員會(huì)舉行記者招待會(huì)介紹立法相關(guān)工作情況。當(dāng)時(shí)由于“AI換臉”技術(shù)實(shí)施詐騙案件屢發(fā),這一新型網(wǎng)絡(luò)電信詐騙引起社會(huì)關(guān)注。當(dāng)初傳出的訊息是,人工智能法草案進(jìn)入國(guó)務(wù)院年度立法工作計(jì)劃,準(zhǔn)備提請(qǐng)全國(guó)人大常委會(huì)審議。
今年全國(guó)兩會(huì)期間,“AI與安全”仍然是全國(guó)人大代表、全國(guó)政協(xié)委員們熱議的話題。
全國(guó)人大代表、科大訊飛董事長(zhǎng)劉慶峰提出加快推動(dòng)通用人工智能(AGI)發(fā)展的九項(xiàng)建議,全國(guó)政協(xié)委員、微博首席執(zhí)行官曹菲及知乎創(chuàng)始人周源提出規(guī)范AI數(shù)據(jù)交易及大模型的數(shù)據(jù)采集相關(guān)的舉措,奇安信董事長(zhǎng)齊向東在AI及安全等方面建言。
連續(xù)履職17年的全國(guó)人大代表、上海富申評(píng)估咨詢集團(tuán)董事長(zhǎng)樊蕓在今年的全國(guó)兩會(huì)期間接受了《新民周刊》記者的采訪。
經(jīng)過(guò)深入調(diào)研,樊蕓對(duì)“AI與安全”的看法是——要看到相關(guān)違法行為的本質(zhì)是通過(guò)各種手段去追求不正當(dāng)利益。
且看近期一些案例,頗有典型性。
2月初,香港警方披露了一起多人“AI換臉”詐騙案,涉案金額高達(dá)2億港元。這起案件被香港警方定義為“AI深偽”。案件過(guò)程是這樣的:一家跨國(guó)公司香港分部的職員受邀參加總部首席財(cái)務(wù)官發(fā)起的“多人視頻會(huì)議”,并按照要求先后轉(zhuǎn)賬多次,他將2億港元分別轉(zhuǎn)賬15次,轉(zhuǎn)到5個(gè)本地銀行賬戶內(nèi)。其后,他向總部查詢才知道受騙。警方調(diào)查得知,這起案件中所謂的視頻會(huì)議中只有受害人一個(gè)人是“真人”,其他“參會(huì)人員”都是經(jīng)過(guò)“AI換臉”后的詐騙人員。盡管此事發(fā)生在香港地區(qū),亦引起了內(nèi)地法律界人士的矚目。央視在報(bào)道這起案件時(shí)如此評(píng)論:“這事聽(tīng)上去似乎匪夷所思,卻真實(shí)地發(fā)生了。”
另一起案件發(fā)生在陜西。西安財(cái)務(wù)人員張女士與老板視頻通話,老板要求她轉(zhuǎn)賬186萬(wàn)元到一個(gè)指定賬號(hào)。被害人張女士當(dāng)時(shí)理解,這筆款老板要得非常著急。因?yàn)橐曨l顯示的那個(gè)“他”的聲音、身影都跟老板一模一樣,張女士信以為真。轉(zhuǎn)賬之后,張女士按照規(guī)定將電子憑證發(fā)到了公司財(cái)務(wù)內(nèi)部群里,群里的老板看到信息后,向她詢問(wèn)這筆資金的來(lái)由。被害人張女士感覺(jué)不對(duì)勁打電話跟老板去核實(shí)。報(bào)警后,警方立刻對(duì)接反詐中心、聯(lián)系相關(guān)銀行進(jìn)行緊急止付,最終保住了大部分被騙資金——156萬(wàn)元。
樊蕓向記者分析道:“這兩起詐騙案件,看上去像是升級(jí)版的電信詐騙?!痹谒磥?lái),無(wú)論是既有的線下詐騙、電信詐騙,還是新冒出來(lái)的AI詐騙,違法者的目的都是不擇手段非法占有不正當(dāng)利益,從這個(gè)角度去看,現(xiàn)有法律也適用于對(duì)AI詐騙犯罪的制裁?!叭斯ぶ悄苎苌龅男滦褪侄?,掩蓋不了犯罪分子非法占有的目的?!狈|告訴記者,“也正因此,我們才說(shuō)互聯(lián)網(wǎng)不是法外之地。”
無(wú)論是既有的線下詐騙、電信詐騙,還是新冒出來(lái)的AI詐騙,違法者的目的都是不擇手段非法占有不正當(dāng)利益,從這個(gè)角度去看,現(xiàn)有法律也適用于對(duì)AI詐騙犯罪的制裁。
中國(guó)網(wǎng)絡(luò)空間安全協(xié)會(huì)人工智能安全治理專委會(huì)專家薛智慧曾介紹,“AI換臉”過(guò)程主要包括人臉識(shí)別追蹤、面部特征提取、人臉變換融合、背景環(huán)境渲染、圖像與音頻合成等幾個(gè)關(guān)鍵步驟,其背后最核心的技術(shù)包括三個(gè)部分:首先,利用深度學(xué)習(xí)算法精準(zhǔn)地識(shí)別視頻中的人臉圖像,并提取出如眼睛、鼻子、嘴巴等關(guān)鍵面部特征;其次,將這些特征與目標(biāo)人臉圖像進(jìn)行匹配、替換、融合;最后,通過(guò)背景環(huán)境渲染并添加合成后的聲音,生成逼真度較高的虛假換臉視頻。
樊蕓認(rèn)為,未經(jīng)他人允許而使用他人肖像,相當(dāng)于通過(guò)偽裝和欺騙的手段去詐騙受害者。這一犯罪路徑是能夠找尋到的。根據(jù)《中華人民共和國(guó)民法典》,任何組織或者個(gè)人不得以丑化、污損,或者利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán)。未經(jīng)肖像權(quán)人同意,不得制作、使用、公開(kāi)肖像權(quán)人的肖像,但是法律另有規(guī)定的除外。同時(shí),這種手段還涉嫌侵犯著作權(quán)、聲音權(quán)等。樊蕓認(rèn)為,有關(guān)人工智能法律問(wèn)題的研究,該關(guān)切現(xiàn)有法律無(wú)法涉及、無(wú)以適用的領(lǐng)域。
在2月28日舉行的2024上海網(wǎng)絡(luò)安全產(chǎn)業(yè)創(chuàng)新大會(huì)上記者了解到,上海市經(jīng)濟(jì)信息化委組織遴選了34家網(wǎng)絡(luò)和數(shù)據(jù)安全支撐單位,希望各企業(yè)圍繞風(fēng)險(xiǎn)信息報(bào)送、工業(yè)互聯(lián)網(wǎng)安全分類分級(jí)、工業(yè)數(shù)據(jù)安全分類分級(jí)、現(xiàn)場(chǎng)核查、風(fēng)險(xiǎn)評(píng)估、應(yīng)急保障、咨詢服務(wù)等7個(gè)方向,加快推進(jìn)工業(yè)信息化領(lǐng)域網(wǎng)絡(luò)和數(shù)據(jù)安全保障體系建設(shè),推動(dòng)網(wǎng)絡(luò)和數(shù)據(jù)安全產(chǎn)業(yè)創(chuàng)新發(fā)展。
全國(guó)人大代表樊蕓出席十四屆全國(guó)人大二次會(huì)議。??
上海市經(jīng)濟(jì)和信息化委員會(huì)總工程師葛東波稱:“目前上海的網(wǎng)絡(luò)安全產(chǎn)業(yè)生態(tài)正持續(xù)完善中,希望加快建設(shè)上海網(wǎng)絡(luò)安全產(chǎn)業(yè)示范園,打造網(wǎng)絡(luò)安全產(chǎn)業(yè)協(xié)同創(chuàng)新中心,開(kāi)展攻防競(jìng)賽、聯(lián)合實(shí)驗(yàn)室、在職培訓(xùn)等多途徑人才培養(yǎng)模式。”
樊蕓認(rèn)為,人工智能要賦能高質(zhì)量發(fā)展,在市場(chǎng)環(huán)境下,比如在使用數(shù)字人進(jìn)行一些商業(yè)會(huì)議,或者信息披露時(shí),要提前告知。如果以技術(shù)進(jìn)步為幌子,刻意讓人無(wú)法區(qū)分?jǐn)?shù)字人、虛擬人與真人,并且不是單純的游戲的話,恐怕就涉及欺詐了。
今年全國(guó)兩會(huì),樊蕓還提出了《關(guān)于侵犯公民個(gè)人信息犯罪涉案企業(yè)合規(guī)專項(xiàng)評(píng)估審查標(biāo)準(zhǔn)的建議》。她認(rèn)為,對(duì)侵犯公民個(gè)人信息犯罪涉案企業(yè)進(jìn)行專項(xiàng)合規(guī)評(píng)估審查時(shí),應(yīng)當(dāng)堅(jiān)持三個(gè)原則:一為合規(guī)管理體系建設(shè)與合規(guī)風(fēng)險(xiǎn)相適應(yīng);二為全面評(píng)估審查與重點(diǎn)環(huán)節(jié)評(píng)估審查相結(jié)合;三為評(píng)估審查標(biāo)準(zhǔn)的統(tǒng)一性與涉案企業(yè)特點(diǎn)相結(jié)合??傊?,要以個(gè)人信息保護(hù)合規(guī)風(fēng)險(xiǎn)整改防控為重點(diǎn),結(jié)合危害個(gè)人權(quán)益、公共利益和國(guó)家安全的不同情形,確定合規(guī)重點(diǎn)領(lǐng)域、重點(diǎn)環(huán)節(jié)和重點(diǎn)人員。