摘 ? ?要:自動駕駛汽車算法需要大量算法數(shù)據(jù)作為運(yùn)行基礎(chǔ),而當(dāng)前算法數(shù)據(jù)使用的紕漏在于類型劃分不清、保全措施存在不足,以及合規(guī)體系出現(xiàn)缺位。在參考《數(shù)據(jù)安全法》明確算法數(shù)據(jù)的定義后,需要根據(jù)算法場域的差異將其劃分為學(xué)習(xí)算法數(shù)據(jù)、運(yùn)行算法數(shù)據(jù)和衍生算法數(shù)據(jù),并結(jié)合算法場域的技術(shù)特征消除算法偏見。保全算法數(shù)據(jù)需要預(yù)先設(shè)置算法數(shù)據(jù)的記錄、留存和公開模式以避免算法黑箱,并在制定行程數(shù)據(jù)保護(hù)計(jì)劃的同時貫徹行程數(shù)據(jù)算法透明原則?;凇稊?shù)據(jù)安全法》構(gòu)建算法數(shù)據(jù)的合規(guī)體系,需要將公民個人信息法益為合規(guī)基礎(chǔ),基于法秩序統(tǒng)一原理協(xié)調(diào)不同法律規(guī)范,調(diào)整刑事政策來指引合規(guī)體系走向,同時參考刑法規(guī)范制定具體的合規(guī)計(jì)劃。
關(guān)鍵詞:自動駕駛;數(shù)據(jù)安全法;算法數(shù)據(jù);算法偏見;刑事合規(guī)
中圖分類號:D 912 ? ? ? 文獻(xiàn)標(biāo)志碼:A ? ? 文章編號:2096?9783(2022)03?0085?08
引 ?言
自動駕駛汽車的技術(shù)核心是算法,算法通過計(jì)算公共交通中事故的規(guī)模和概率,輸出精準(zhǔn)的車輛控制措施,將數(shù)字控制下的自動駕駛汽車合理地安置于公共交通秩序中,并實(shí)現(xiàn)本身的迭代升級,優(yōu)化自動駕駛算法的運(yùn)行流程[1]。自動駕駛算法本質(zhì)上是以數(shù)字代碼來表達(dá)意見,以大規(guī)模、高質(zhì)量的算法數(shù)據(jù)為算法提供決策參考的基礎(chǔ)。比如當(dāng)下自動駕駛廣泛使用的羅爾斯算法模型,其計(jì)算原理是將事故主體(使用者、行人等)與可選操作(轉(zhuǎn)彎、直行等)之間的效用函數(shù)構(gòu)成一個笛卡爾積,先從笛卡爾積的映射數(shù)據(jù)集中權(quán)衡出事故主體存活概率的最低收益集,再循環(huán)窮舉篩選出將最低收益最大化的操作[2]。有鑒于此,在《中華人民共和國數(shù)據(jù)安全法》(以下簡稱《數(shù)據(jù)安全法》)頒布后,對算法數(shù)據(jù)的保護(hù)力度進(jìn)一步增強(qiáng),應(yīng)該基于《數(shù)據(jù)安全法》對算法數(shù)據(jù)進(jìn)行分類,并配合其他法律規(guī)范完善算法數(shù)據(jù)的保全措施,構(gòu)建算法數(shù)據(jù)合規(guī)體系,以期實(shí)現(xiàn)對算法數(shù)據(jù)的全方位保護(hù)。
一、問題緣起:自動駕駛算法數(shù)據(jù)使用存在紕漏
當(dāng)下人類社會正在由傳統(tǒng)物理社會牛頓的“大定律,小數(shù)據(jù)”技術(shù)范式轉(zhuǎn)向人工智能算法時代默頓的“大數(shù)據(jù),小定律”技術(shù)范式,算法的運(yùn)行規(guī)則是由“小數(shù)據(jù)”產(chǎn)生“大數(shù)據(jù)”,再由“大數(shù)據(jù)”加強(qiáng)機(jī)器算法學(xué)習(xí)[3]。自動駕駛汽車的安全行駛需要算法數(shù)據(jù)和算法進(jìn)行有機(jī)結(jié)合,如果使用的算法數(shù)據(jù)存在紕漏,則會影響自動駕駛汽車的正常行駛。
(一)自動駕駛算法數(shù)據(jù)的類型劃分不清
自動駕駛算法的正常運(yùn)行需要算法數(shù)據(jù)的支持,而伴隨算法數(shù)據(jù)應(yīng)用范圍的擴(kuò)張,算法數(shù)據(jù)的類型也日趨復(fù)雜,因此需要根據(jù)算法場域的差異進(jìn)行類型化區(qū)分,否則算法數(shù)據(jù)會因?yàn)樽陨淼慕诲e混亂導(dǎo)致流通“梗阻”并缺乏持續(xù)性的數(shù)據(jù)供給,影響算法決策的科學(xué)性[4]。當(dāng)前劃分算法數(shù)據(jù)存在以下問題:第一,當(dāng)前劃分算法場域缺乏準(zhǔn)確合理的劃分標(biāo)準(zhǔn),沒有準(zhǔn)確理解算法場域的技術(shù)特征,無法為后續(xù)算法數(shù)據(jù)的類型劃分提供依據(jù)。第二,在劃分算法場域后,如何結(jié)合場域特征來區(qū)分算法數(shù)據(jù)存在爭議,算法數(shù)據(jù)背后蘊(yùn)藏著算法的價值選擇[5],而區(qū)分算法數(shù)據(jù)則應(yīng)該基于算法數(shù)據(jù)在不同場域的技術(shù)特征進(jìn)行實(shí)質(zhì)分類。第三,在劃分算法數(shù)據(jù)類型后,需要對不同類型的算法數(shù)據(jù)有針對性地消除其算法偏見,如何合理消除不同場域下算法數(shù)據(jù)中隱藏的算法偏見,關(guān)系到算法數(shù)據(jù)選取的準(zhǔn)確性和可用性。總之,對于算法數(shù)據(jù)的類型化區(qū)分,需要解決算法場域、算法數(shù)據(jù)分類,以及算法偏見消除這一系列問題,為保障算法數(shù)據(jù)的運(yùn)行奠定規(guī)范基礎(chǔ)。
(二)自動駕駛算法數(shù)據(jù)的保全措施不足
當(dāng)前自動駕駛交通肇事頻發(fā)的原因之一在于對算法數(shù)據(jù)的保全措施存在不足,導(dǎo)致算法數(shù)據(jù)面臨各種侵害的威脅,主要包括兩個方面:第一,算法黑箱吞噬運(yùn)行數(shù)據(jù)導(dǎo)致數(shù)據(jù)保全出現(xiàn)紕漏。算法黑箱中的算法不公布收集與使用數(shù)據(jù)的范圍,甚至?xí)[藏乃至消除其非法利用數(shù)據(jù)的痕跡。在河南張女士特斯拉維權(quán)案中,張女士質(zhì)疑特斯拉篡改剎車失靈時的記錄數(shù)據(jù),特斯拉事后提供的算法數(shù)據(jù)中缺少了電機(jī)扭矩、剎車踏板位移、iboost(發(fā)動機(jī)助力)記錄等諸多數(shù)據(jù),導(dǎo)致無法判斷交通事故時車輛的剎車狀態(tài)[6],這意味著特斯拉可能借助算法黑箱隱藏了關(guān)鍵的行程數(shù)據(jù)來規(guī)避交通肇事的事后追責(zé)。有鑒于此,如何避免自動駕駛的算法黑箱吞噬數(shù)據(jù)并保全完整的車輛運(yùn)行數(shù)據(jù),與算法數(shù)據(jù)的公信力直接相關(guān)。第二,算法設(shè)計(jì)缺陷容易導(dǎo)致公民個人行程數(shù)據(jù)泄露,對個人行程數(shù)據(jù)的保全不夠周延?!稊?shù)據(jù)安全法》第27條規(guī)定了數(shù)據(jù)安全保護(hù)義務(wù),第32條規(guī)定了數(shù)據(jù)收集方式,自動駕駛算法的運(yùn)行需要依據(jù)規(guī)范整合不同類型的算法數(shù)據(jù),而在整合數(shù)據(jù)的過程中,算法會將數(shù)據(jù)通過多種頻道向外傳遞并交互回饋,在此過程中有個人行程數(shù)據(jù)泄露的風(fēng)險??傊?,鑒于算法數(shù)據(jù)在算法運(yùn)行中扮演著重要角色,對算法數(shù)據(jù)的獲取和使用應(yīng)該強(qiáng)化保全措施,保全的核心內(nèi)涵是為了算法數(shù)據(jù)能夠按照其既定目標(biāo)正常運(yùn)轉(zhuǎn),不僅內(nèi)容要完整,更要功能完備,在提升算法數(shù)據(jù)使用效率的同時保護(hù)其周延。
(三)自動駕駛算法數(shù)據(jù)的合規(guī)體系缺位
當(dāng)前,自動駕駛算法運(yùn)行過程中算法數(shù)據(jù)合規(guī)體系的缺位,導(dǎo)致自動駕駛車企容易陷入算法數(shù)據(jù)糾紛之中,扼殺了自動駕駛車企技術(shù)開發(fā)的積極性[7]。算法數(shù)據(jù)合規(guī)體系的構(gòu)建需要依據(jù)自動駕駛發(fā)展的實(shí)際狀況與利益需求進(jìn)行構(gòu)建,并在合規(guī)體系中強(qiáng)化刑法的兜底性保障作用。第一,算法數(shù)據(jù)合規(guī)體系的構(gòu)建缺乏明確的法益保護(hù)訴求,關(guān)于保護(hù)法益有私法益和公法益之爭,導(dǎo)致刑事合規(guī)體系的核心利益搖擺。第二,當(dāng)前關(guān)于算法數(shù)據(jù)的法規(guī)規(guī)范復(fù)雜,因此合規(guī)體系中需要對不同法律規(guī)范進(jìn)行協(xié)調(diào),避免合規(guī)體系的規(guī)范基礎(chǔ)產(chǎn)生內(nèi)容沖突影響合規(guī)效用的發(fā)揮。第三,算法數(shù)據(jù)合規(guī)體系中發(fā)揮刑法的兜底性作用需要正確制定并理解刑事政策,刑事政策對于合規(guī)體系具有方向性的指引作用。第四,算法數(shù)據(jù)合規(guī)體系需要制定科學(xué)合理的合規(guī)計(jì)劃,實(shí)現(xiàn)對算法數(shù)據(jù)的預(yù)防性保護(hù),合規(guī)計(jì)劃是合規(guī)體系正常運(yùn)行的基礎(chǔ),缺乏科學(xué)合理的合規(guī)計(jì)劃會導(dǎo)致合規(guī)體系面臨空置化之虞??傊?,針對當(dāng)前算法數(shù)據(jù)合規(guī)體系的缺位,應(yīng)該構(gòu)建行之有效的合規(guī)體系來填補(bǔ)空缺,在監(jiān)督車企強(qiáng)化對算法數(shù)據(jù)管理的同時,提供預(yù)防機(jī)能和出罪路徑,實(shí)現(xiàn)對算法數(shù)據(jù)的全面監(jiān)管。
二、不同場域下自動駕駛算法數(shù)據(jù)的類型化區(qū)分
算法數(shù)據(jù)本質(zhì)上是信息表達(dá)的一種方式,《數(shù)據(jù)安全法》第3條規(guī)定,“本法所稱數(shù)據(jù),是指任何以電子或者其他方式對信息的記錄”,而自動駕駛算法數(shù)據(jù)的定義則應(yīng)該基于算法的整體環(huán)境展開,具有數(shù)字性、場域性、學(xué)習(xí)性、偏見性等固有特征。有鑒于此,算法數(shù)據(jù)作為“算法場域下的數(shù)據(jù)”,其定義是“適用于算法場域,以電子或者其他方式對信息的記錄”,算法數(shù)據(jù)的外延與算法場域緊密關(guān)聯(lián),只要置于算法場域就屬于算法數(shù)據(jù),其區(qū)分依據(jù)是算法場域的差異,并在區(qū)分后消除算法偏見,科學(xué)有效地發(fā)揮出算法數(shù)據(jù)的內(nèi)在價值[8]。
(一)場域化視角下算法數(shù)據(jù)的類型劃分
自動駕駛算法的應(yīng)用場景日趨復(fù)雜,意味著算法數(shù)據(jù)需要逐漸適應(yīng)不同的算法場域,并根據(jù)《數(shù)據(jù)安全法》第21條的規(guī)定,由“國家建立數(shù)據(jù)分類分級保護(hù)制度”,實(shí)現(xiàn)對算法數(shù)據(jù)的“規(guī)訓(xùn)”[9],而區(qū)分算法場域是劃分算法數(shù)據(jù)類型的基礎(chǔ)。自動駕駛算法場域主要是學(xué)習(xí)場域、行駛場域和靜態(tài)場域,劃分依據(jù)是自動駕駛汽車的不同行駛狀態(tài):(1)學(xué)習(xí)場域?qū)?yīng)自動駕駛汽車的學(xué)習(xí)狀態(tài),主要對應(yīng)自動駕駛汽車在出廠前的調(diào)適過程,由車企調(diào)整算法數(shù)據(jù),包括速度測試數(shù)據(jù)、傳感器反應(yīng)數(shù)據(jù)等,幫助自動駕駛算法學(xué)習(xí)如何處理公共交通狀況。(2)行駛場域?qū)?yīng)自動駕駛汽車的機(jī)動狀態(tài),主要是指自動駕駛汽車在行駛過程中對算法數(shù)據(jù)的收集和使用,需要處理行駛過程中的動態(tài)化數(shù)據(jù)。(3)靜態(tài)場域?qū)?yīng)自動駕駛汽車的常態(tài)靜止?fàn)顟B(tài),主要是指自動駕駛汽車在停止運(yùn)行時,收集個人行程數(shù)據(jù)和公共交通規(guī)范數(shù)據(jù)并進(jìn)行衍生加工處理。個人行程數(shù)據(jù)包括駕駛習(xí)慣、便捷設(shè)置等數(shù)據(jù),公共交通規(guī)范數(shù)據(jù)是指一定地域內(nèi)公共交通規(guī)定的數(shù)字化記錄,對公共交通規(guī)范進(jìn)行數(shù)據(jù)化轉(zhuǎn)型有助于自動駕駛汽車“理解”交通秩序,從而更好地融入其中。
與區(qū)分后的算法場域相對應(yīng),自動駕駛算法數(shù)據(jù)的區(qū)分也受到算法場域特征的影響,不同場域下算法數(shù)據(jù)受其影響后的內(nèi)涵亦不相同,體現(xiàn)了算法數(shù)據(jù)的場域性、數(shù)字性以及學(xué)習(xí)性特征,主要包括學(xué)習(xí)算法數(shù)據(jù)、運(yùn)行算法數(shù)據(jù)和衍生算法數(shù)據(jù)。(1)學(xué)習(xí)算法數(shù)據(jù),主要集中在自動駕駛算法的預(yù)先學(xué)習(xí)階段,包括模擬各種公共交通狀況和模擬駕駛者心態(tài)的數(shù)據(jù),在機(jī)器學(xué)習(xí)中幫助算法通過處理數(shù)據(jù)進(jìn)行“自我成長”以應(yīng)對復(fù)雜的公共交通狀況,不斷強(qiáng)化操作流程。(2)運(yùn)行算法數(shù)據(jù),主要是指自動駕駛汽車在行駛場域中實(shí)際運(yùn)行所收集、處理的算法數(shù)據(jù),主要分為兩大來源:一是收集路況信息后進(jìn)行反饋處理的算法數(shù)據(jù),通過傳感器元件對行駛時周圍的交通狀態(tài)進(jìn)行數(shù)字化展示;二是收集駕駛者的狀況并進(jìn)行數(shù)字化處理后進(jìn)行反饋的算法數(shù)據(jù),將駕駛者的判斷力、反應(yīng)力乃至生命健康狀況進(jìn)行數(shù)字化演示。(3)衍生算法數(shù)據(jù),主要是算法數(shù)據(jù)在靜止?fàn)顟B(tài)下經(jīng)過算法深度再加工之后挖掘出更多價值的算法數(shù)據(jù),增加了對算法數(shù)據(jù)的實(shí)質(zhì)管理和利用。衍生算法數(shù)據(jù)能夠?qū)ψ詣玉{駛算法進(jìn)行“反哺”,經(jīng)過算法加工處理后,不僅發(fā)掘出衍生算法數(shù)據(jù)的潛在價值,而且可以由衍生算法數(shù)據(jù)修正原始算法,再形成新的衍生算法數(shù)據(jù)進(jìn)行不斷優(yōu)化,最終形成最優(yōu)化的算法[10]??傊?,學(xué)習(xí)算法數(shù)據(jù)、運(yùn)行算法數(shù)據(jù)和衍生算法數(shù)據(jù)貫穿了自動駕駛算法運(yùn)行的全流程,對應(yīng)不同類型的算法場域,從機(jī)器學(xué)習(xí)到投入使用,再到不斷優(yōu)化的過程中,自動駕駛算法數(shù)據(jù)都發(fā)揮了重要作用,并且在保證數(shù)據(jù)可靠性的前提下積極擴(kuò)充、擴(kuò)張算法數(shù)據(jù)的應(yīng)用規(guī)模。
(二)算法數(shù)據(jù)類型化后的算法偏見消除
基于算法數(shù)據(jù)的類型化區(qū)分,算法數(shù)據(jù)受算法場域影響產(chǎn)生的算法偏見也應(yīng)該予以消除,防止算法偏見在算法數(shù)據(jù)的處理過程中被不斷強(qiáng)化,最終陷入“自我的歧視性反饋循環(huán)”?!稊?shù)據(jù)安全法》第8條規(guī)定數(shù)據(jù)處理要“尊重社會公德和倫理,遵守商業(yè)道德和職業(yè)道德”,這里對社會公德、倫理、商業(yè)道德、職業(yè)道德的遵守,都是為了避免算法數(shù)據(jù)存在歧視性偏見,要求算法數(shù)據(jù)在處理之后能夠客觀公正地反映社會生活要素。有鑒于此,消除算法偏見、跨越數(shù)字鴻溝是自動駕駛算法數(shù)據(jù)真正投入使用前的必經(jīng)之路,而不同類型算法數(shù)據(jù)的算法偏見也應(yīng)該根據(jù)算法場域的技術(shù)特征進(jìn)行針對性消除。
第一,學(xué)習(xí)算法數(shù)據(jù)的算法偏見主要存在于處理駕駛風(fēng)險的虛擬學(xué)習(xí)場域,算法的學(xué)習(xí)效果高度依賴于算法數(shù)據(jù)的數(shù)量和質(zhì)量,學(xué)習(xí)算法偏見是因?yàn)閮A向性的算法數(shù)據(jù)導(dǎo)致算法在學(xué)習(xí)處理模式時無法公正地做出決策,影響算法后續(xù)的正常運(yùn)行。為了消除學(xué)習(xí)算法偏見,應(yīng)該響應(yīng)《數(shù)據(jù)安全法》第24條的倡導(dǎo)來建立數(shù)據(jù)安全審查制度,通過設(shè)定機(jī)器學(xué)習(xí)算法訓(xùn)練數(shù)據(jù)的最小數(shù)量規(guī)模和合理采集方式,確保算法學(xué)習(xí)所用算法數(shù)據(jù)的質(zhì)量,限制使用歧視性和違法性算法數(shù)據(jù),通過預(yù)先的嚴(yán)格審查來消弭學(xué)習(xí)算法偏見[11]。消除學(xué)習(xí)算法偏見,能夠保證算法在后續(xù)實(shí)際運(yùn)行過程中不會對算法數(shù)據(jù)的選擇產(chǎn)生偏見,防止學(xué)習(xí)算法受數(shù)據(jù)處理慣性誤導(dǎo)產(chǎn)生錯誤決策。
第二,行駛場域中運(yùn)行算法數(shù)據(jù)的算法偏見,主要是行駛狀態(tài)中收集處理算法數(shù)據(jù)所帶來的錯誤引導(dǎo),既包括實(shí)行數(shù)據(jù)收集不全或者數(shù)據(jù)固有缺陷導(dǎo)致的錯誤引導(dǎo),也有算法和運(yùn)行算法數(shù)據(jù)的配合不當(dāng)產(chǎn)生錯誤輸出。針對運(yùn)行算法偏見一般采用自律性規(guī)制和他律性規(guī)制“雙管齊下”的消除模式,自律式規(guī)制要求算法自身優(yōu)化對運(yùn)行算法數(shù)據(jù)的校正,由優(yōu)化后的算法來內(nèi)部篩選算法數(shù)據(jù),他律式規(guī)制要求參考用戶對算法偏見排除意見,駕駛者在行駛過程中對可能出現(xiàn)的算法偏見進(jìn)行匯報并且手動制止,防止算法處理失誤[12]。質(zhì)言之,自律式規(guī)制還是他律式規(guī)制都需要遵循《數(shù)據(jù)安全法》的規(guī)范指引,鑒于運(yùn)行算法偏見具有不可預(yù)測性,所以應(yīng)該履行算法數(shù)據(jù)安全保護(hù)義務(wù),對算法數(shù)據(jù)處理加強(qiáng)風(fēng)險監(jiān)測。
第三,靜態(tài)場域中衍生算法數(shù)據(jù)的算法偏見,主要是因?yàn)閷A(chǔ)算法數(shù)據(jù)的錯誤加工或者過度加工,導(dǎo)致加工后的衍生算法數(shù)據(jù)存在錯誤導(dǎo)向,這種錯誤導(dǎo)向來源于被加工的基礎(chǔ)算法數(shù)據(jù),卻相較而言影響更大且難以根除。對于衍生算法偏見應(yīng)該預(yù)先參考《數(shù)據(jù)安全法》等法律規(guī)范,妥善地規(guī)定算法數(shù)據(jù)收集范圍與衍生算法數(shù)據(jù)加工方式。規(guī)范算法數(shù)據(jù)的收集范圍,要求限制基礎(chǔ)算法數(shù)據(jù)的收集范圍,排除自帶偏見的基礎(chǔ)算法數(shù)據(jù),從數(shù)據(jù)根源上消除衍生的算法偏見影響。規(guī)范衍生算法數(shù)據(jù)的處理方式,要求對收集后的基礎(chǔ)算法數(shù)據(jù)進(jìn)行標(biāo)準(zhǔn)化處理,避免過度處理基礎(chǔ)算法數(shù)據(jù)加深偏見性影響。總之,將法律規(guī)范應(yīng)用于算法數(shù)據(jù)處理過程中,有助于調(diào)節(jié)算法處理邏輯,得出更加準(zhǔn)確的衍生算法數(shù)據(jù),避免過度解讀導(dǎo)致原有的算法偏見被擴(kuò)大。
三、《數(shù)據(jù)安全法》下完善算法數(shù)據(jù)的保全措施
《數(shù)據(jù)安全法》為保全算法數(shù)據(jù)提供了宏觀層面的指引,其中第4章規(guī)定數(shù)據(jù)安全保護(hù)義務(wù),主要包括預(yù)防階段的風(fēng)險監(jiān)測、風(fēng)險評估,使用階段的數(shù)據(jù)收集、數(shù)據(jù)審核,事后階段的數(shù)據(jù)安全管理、數(shù)據(jù)交易處理,從而形成全流程算法數(shù)據(jù)保全體系,體現(xiàn)法律規(guī)范對算法數(shù)據(jù)保全的積極介入[13]。在自動駕駛算法運(yùn)行過程中,算法數(shù)據(jù)保全上的紕漏會導(dǎo)致算法數(shù)據(jù)被吞噬或泄露,包括運(yùn)行算法數(shù)據(jù)和公民個人行程數(shù)據(jù),而對應(yīng)的算法數(shù)據(jù)保全措施應(yīng)該以數(shù)據(jù)安全法為基礎(chǔ),制定切實(shí)可行的保全措施,實(shí)現(xiàn)對算法數(shù)據(jù)的全方位保障。
(一)避免算法黑箱吞噬運(yùn)行算法數(shù)據(jù)
當(dāng)前算法運(yùn)行過程中依靠技術(shù)壁壘形成了不公開、不透明與缺乏監(jiān)督的“算法黑箱”[14],其通過算法壁壘剝奪了公民理解自動駕駛算法的權(quán)力,甚至在算法數(shù)據(jù)處理過程中肆無忌憚地吞噬運(yùn)行算法數(shù)據(jù)[15]。算法黑箱吞噬運(yùn)行算法數(shù)據(jù)導(dǎo)致使用者在行駛過程中難以把握算法決策,加劇了人與技術(shù)之間的疏離感,而為了保全運(yùn)行算法數(shù)據(jù),需要明確運(yùn)行算法數(shù)據(jù)的處理要求。當(dāng)前我國僅在《數(shù)據(jù)安全法》第27條概括性規(guī)定,“建立健全全流程數(shù)據(jù)安全管理制度……履行上述數(shù)據(jù)安全保護(hù)義務(wù)”,而為了保全運(yùn)行算法數(shù)據(jù),應(yīng)該預(yù)先設(shè)置數(shù)據(jù)處理要求來限制算法黑箱,主要包括運(yùn)行算法數(shù)據(jù)的記錄、留存和公開。
1.明確運(yùn)行算法數(shù)據(jù)記錄標(biāo)準(zhǔn)
明確運(yùn)行算法數(shù)據(jù)的記錄標(biāo)準(zhǔn)是后續(xù)開展保護(hù)的基礎(chǔ),貫徹《數(shù)據(jù)安全法》第17條倡導(dǎo)的“國家推進(jìn)數(shù)據(jù)開發(fā)利用技術(shù)和數(shù)據(jù)安全標(biāo)準(zhǔn)體系建設(shè)”來構(gòu)建記錄標(biāo)準(zhǔn),健全全流程數(shù)據(jù)安全管理制度,在自動駕駛?cè)^程中明確運(yùn)行算法數(shù)據(jù)的記錄頻率、記錄模式以及記錄范圍,在科學(xué)有效地記錄運(yùn)行算法數(shù)據(jù)的同時避免記錄冗余。通過明確的記錄標(biāo)準(zhǔn)能夠從基礎(chǔ)上遏制算法黑箱。算法黑箱吞噬數(shù)據(jù)的機(jī)理在于其對算法數(shù)據(jù)的不公開、不透明處理,導(dǎo)致一般人難以理解算法數(shù)據(jù),而明確的記錄標(biāo)準(zhǔn)將打破算法黑箱人為制造的技術(shù)壁壘,算法黑箱將無法吞噬運(yùn)行算法數(shù)據(jù),而是必須提供準(zhǔn)確的數(shù)據(jù)記錄流程并進(jìn)行標(biāo)準(zhǔn)化解讀。
2.優(yōu)化運(yùn)行算法數(shù)據(jù)留存模式
優(yōu)化運(yùn)行算法數(shù)據(jù)的留存模式是保護(hù)措施的核心模式,通過留存的運(yùn)行算法數(shù)據(jù)在處理交通肇事追責(zé)爭議時提供裁判依據(jù)。參考德國的《道路交通法》第63條對自動駕駛汽車數(shù)據(jù)的規(guī)定,“當(dāng)車輛控制模式從人工向技術(shù)系統(tǒng)切換或者技術(shù)系統(tǒng)向人工系統(tǒng)切換時,必須記載位置和時間信息。當(dāng)系統(tǒng)要求駕駛員接管對車輛的控制或者系統(tǒng)出現(xiàn)技術(shù)故障時,也應(yīng)保存相應(yīng)信息”,并設(shè)置平臺向主管機(jī)關(guān)傳輸保存數(shù)據(jù)的義務(wù)[16]。鑒于數(shù)據(jù)安全法中規(guī)定的數(shù)據(jù)處理包括儲存,所以需要優(yōu)化對運(yùn)行算法數(shù)據(jù)的留存內(nèi)容、留存形式,讓算法黑箱無法篡改留存數(shù)據(jù),以技術(shù)標(biāo)準(zhǔn)限制吞噬、篡改可能性。此外,為了節(jié)約算力和成本,不能無限制地留存運(yùn)行算法數(shù)據(jù),而是應(yīng)該規(guī)定運(yùn)行算法數(shù)據(jù)的留存和刪除周期,維持合理的數(shù)據(jù)存量。
3.制定運(yùn)行算法數(shù)據(jù)公開制度
制定運(yùn)行算法數(shù)據(jù)公開制度有助于保護(hù)體系的整體改進(jìn),合理的數(shù)據(jù)處理包括對數(shù)據(jù)的公開,通過法律規(guī)范要求車企將交通肇事時的運(yùn)行算法數(shù)據(jù)向官方鑒定機(jī)構(gòu)公開,有助于增強(qiáng)運(yùn)行算法數(shù)據(jù)的公信力。在河南張女士特斯拉維權(quán)案中,盡管有關(guān)部門多次協(xié)調(diào),但是車企仍然拒絕提供全部數(shù)據(jù),最終僅提供約半小時數(shù)據(jù)且存在缺失,影響事故追責(zé)認(rèn)定。有鑒于此,制定運(yùn)行算法數(shù)據(jù)公開制度并向官方鑒定機(jī)構(gòu)公開肇事車輛的運(yùn)行算法數(shù)據(jù),可以防止車企通過算法黑箱吞噬不利運(yùn)行算法數(shù)據(jù),算法黑箱將被納入官方機(jī)構(gòu)的監(jiān)管范疇,符合《數(shù)據(jù)安全法》第6條規(guī)定的“主管部門承擔(dān)本行業(yè)、本領(lǐng)域數(shù)據(jù)安全監(jiān)管職責(zé)”,實(shí)現(xiàn)對算法數(shù)據(jù)的常態(tài)監(jiān)管。
(二)遏制自動駕駛個人行程數(shù)據(jù)泄露
公民個人行程數(shù)據(jù)是算法數(shù)據(jù)的重要組成部分,和公民個人信息法益緊密相關(guān),《數(shù)據(jù)安全法》第32條規(guī)定收集數(shù)據(jù)應(yīng)當(dāng)采取合法、正當(dāng)?shù)姆绞剑坏酶`取或者以其他非法方式獲取數(shù)據(jù)。為了保全個人行程數(shù)據(jù),自動駕駛算法在需要處理個人行程數(shù)據(jù)的同時遏制數(shù)據(jù)泄露,包括制定行程數(shù)據(jù)保護(hù)計(jì)劃并貫徹行程數(shù)據(jù)算法透明原則。
1.制定個人行程數(shù)據(jù)具體保護(hù)計(jì)劃
針對自動駕駛過程中個人行程數(shù)據(jù)的泄露,可以參考《數(shù)據(jù)安全法》制定符合我國自動駕駛實(shí)際發(fā)展?fàn)顩r的行程數(shù)據(jù)保護(hù)計(jì)劃,通過行業(yè)規(guī)劃的方式落實(shí)對個人行程數(shù)據(jù)的保護(hù)。在行程數(shù)據(jù)保護(hù)計(jì)劃中,需要根據(jù)行程數(shù)據(jù)的保護(hù)訴求規(guī)定生產(chǎn)者的義務(wù)與使用者的權(quán)利:(1)規(guī)定生產(chǎn)者對個人行程數(shù)據(jù)的處理義務(wù),分為目的一致義務(wù),即自動駕駛汽車收集個人行程數(shù)據(jù)的適用目的和個人行程數(shù)據(jù)收集后最終的生成目的保持一致;數(shù)據(jù)安全義務(wù),即采取有效措施防止個人行程數(shù)據(jù)遺失,禁止生產(chǎn)者未經(jīng)使用者或主管部門允許而披露個人行程數(shù)據(jù);最小化義務(wù),即采集個人行程數(shù)據(jù)以完成行程為目的,只采集能夠完成行程所必須的最少個人行程數(shù)據(jù);觀察預(yù)警義務(wù),要求生產(chǎn)者在整合個人行程數(shù)據(jù)時進(jìn)行安全審查,如若傳輸?shù)街醒胩幚砥鞯膫€人行程數(shù)據(jù)存在異樣則要及時預(yù)警。(2)規(guī)定使用者個人行程數(shù)據(jù)的權(quán)利,分為數(shù)據(jù)知情權(quán),即使用者有權(quán)知曉生產(chǎn)者如何收集、使用、共享乃至銷毀個人行程數(shù)據(jù);選擇決定權(quán),即使用者對于自身被收集的個人行程數(shù)據(jù),可以在保障道路交通安全的前提下自主決定收集使用方式;訪問修改權(quán),即使用者在使用自動駕駛汽車時,可以隨時訪問檢查自己的個人行程數(shù)據(jù),并且在未出現(xiàn)交通肇事時,可以依據(jù)個人意志修改數(shù)據(jù);銷毀刪除權(quán),即使用者在未出現(xiàn)交通肇事時,可以在規(guī)定的留存期間后按照自主意志銷毀刪除個人行程數(shù)據(jù),確保未經(jīng)自己允許任何人無法取得自己的個人行程數(shù)據(jù)。
2.貫徹個人行程數(shù)據(jù)算法透明原則
從根源上遏制個人行程數(shù)據(jù)的泄露需要貫徹算法透明原則,公開自動駕駛的算法模型,基于可問責(zé)性和知情權(quán)兩個維度進(jìn)行公開透明的算法解釋,預(yù)防個人行程數(shù)據(jù)泄露[17]。算法透明原則要求算法解釋為何選擇和如何利用個人行程數(shù)據(jù),在投入使用前公開其使用模式和運(yùn)行機(jī)理[18],幫助公眾理解自己的個人行程數(shù)據(jù)如何被采集與處理,比如歐盟《通用數(shù)據(jù)保護(hù)條例》第13—15條就要求數(shù)據(jù)控制者向數(shù)據(jù)主體提供自動化決策的邏輯并解釋其影響。簡言之,在貫徹算法透明原則之后,使用者可以通過較為可信的方式獲得算法對個人行程數(shù)據(jù)的處理功能、運(yùn)行邏輯等關(guān)鍵信息,有助于提升公眾對自動駕駛算法的信任。
具體而言,針對個人行程數(shù)據(jù)貫徹算法透明原則,應(yīng)該從自動駕駛算法的運(yùn)行模式入手逐步完善。第一,在人機(jī)交互場域中,自動駕駛算法在收集公民個人行程數(shù)據(jù)時必須給出清晰準(zhǔn)確的解釋,確保其收集的個人行程數(shù)據(jù)不被用于其他非駕駛用途,保全個人行程數(shù)據(jù)的使用范圍。第二,在自主學(xué)習(xí)場域中,需強(qiáng)調(diào)自主學(xué)習(xí)算法收集處理個人行程數(shù)據(jù)的合理理由和范圍邊界,如若是為了提升自動駕駛效果而收集使用信息,則應(yīng)該獲得使用者的許可,否則即便沒有擴(kuò)散個人行程數(shù)據(jù),也存在非法利用的可能性,對這種自帶的算法設(shè)計(jì)缺陷需要進(jìn)行算法問責(zé)[19]。第三,算法透明原則需要在兼具開放性、反思性和統(tǒng)合性的框架內(nèi)運(yùn)行,不能僅局限于當(dāng)前對個人行程數(shù)據(jù)的使用,同時也要考慮算法的自我糾偏等未來功能,所以可以適當(dāng)擴(kuò)充數(shù)據(jù)的收集規(guī)模。總之,貫徹算法透明原則能夠在開發(fā)者和使用者之間維持權(quán)力關(guān)系的平衡,做到雙方實(shí)質(zhì)平等,確保收集使用個人行程數(shù)據(jù)具有合理的信賴基礎(chǔ)[20]。
四、基于《數(shù)據(jù)安全法》構(gòu)建算法數(shù)據(jù)的合規(guī)體系
為了保障自動駕駛產(chǎn)業(yè)的安全發(fā)展,需要由政府主導(dǎo)構(gòu)建針對自動駕駛算法數(shù)據(jù)的合規(guī)體系,實(shí)現(xiàn)對算法數(shù)據(jù)的預(yù)防性監(jiān)管,這本身就是《數(shù)據(jù)安全法》倡導(dǎo)的“建立健全數(shù)據(jù)安全治理體系”的應(yīng)有之義。技術(shù)層面的自動駕駛算法是為實(shí)現(xiàn)行駛?cè)蝿?wù)而構(gòu)造的指令集,其以數(shù)據(jù)為基礎(chǔ)、以算力為支撐,通過準(zhǔn)確高效的運(yùn)算將輸入數(shù)據(jù)轉(zhuǎn)化為輸出的智能決策[21]。自動駕駛對算法數(shù)據(jù)的使用,如若僅進(jìn)行事后追責(zé)則存在保護(hù)不及時的弊端,而通過構(gòu)建算法數(shù)據(jù)合規(guī)體系,卻能夠?qū)崿F(xiàn)前置性預(yù)防,形成對算法數(shù)據(jù)的全流程保護(hù)。
(一)以公民個人信息法益為合規(guī)基礎(chǔ)
構(gòu)建合規(guī)體系應(yīng)該在明確算法數(shù)據(jù)保護(hù)法益的基礎(chǔ)上展開,自動駕駛算法數(shù)據(jù)的保護(hù)法益是公民個人信息法益[22],其作為新型權(quán)利兼具私密性和社會性[23],其中私密性體現(xiàn)為算法數(shù)據(jù)與個人隱私相關(guān),在價值內(nèi)涵上蘊(yùn)涵公民個人的利益訴求,而社會性是指自動駕駛汽車在公共道路上行駛,處理算法數(shù)據(jù)后做出的決策關(guān)系到公共交通秩序的正常運(yùn)轉(zhuǎn),進(jìn)而影響整體社會公共秩序。以公民個人信息法益作為算法數(shù)據(jù)合規(guī)體系的基礎(chǔ),可以從法益保護(hù)的角度勾勒出合規(guī)體系的預(yù)設(shè)保護(hù)目標(biāo),即對算法數(shù)據(jù)的保護(hù)本質(zhì)上是保護(hù)公民個人信息權(quán),不僅及于私法益,還包括公法益。圍繞公民個人信息法益構(gòu)建的合規(guī)體系,在協(xié)調(diào)法秩序關(guān)系、調(diào)整合規(guī)體系走向、制定具體合規(guī)計(jì)劃等諸多層面都需要參考對保護(hù)法益的實(shí)質(zhì)解讀,保護(hù)法益是合規(guī)體系運(yùn)行的價值基礎(chǔ),依據(jù)保護(hù)法益的內(nèi)涵可以明確合規(guī)體系的實(shí)際影響范圍,同時也是對抽象法律規(guī)范的實(shí)質(zhì)解讀?!吨腥A人民共和國網(wǎng)絡(luò)安全法》(以下簡稱《網(wǎng)絡(luò)安全法》)第12條規(guī)定“國家保護(hù)公民、法人和其他組織依法使用網(wǎng)絡(luò)的權(quán)利”,《數(shù)據(jù)安全法》第7條規(guī)定“國家保護(hù)個人、組織與數(shù)據(jù)有關(guān)的權(quán)益”,《中華人民共和國個人信息保護(hù)法》(以下簡稱《個人信息保護(hù)法》)第1條規(guī)定“為了保護(hù)個人信息權(quán)益”,梳理三部不同法規(guī)可以發(fā)現(xiàn),雖然具體的規(guī)范內(nèi)容不同,但是其設(shè)立初衷都是保護(hù)公民個人信息法益,那么可以將抽象的法律規(guī)范聚合為保護(hù)法益實(shí)體,并以此為核心構(gòu)建算法數(shù)據(jù)合規(guī)體系,確保合規(guī)體系本身貫徹了不同法律規(guī)范對保護(hù)算法數(shù)據(jù)的共同訴求??傊?,自動駕駛的高速發(fā)展急需算法數(shù)據(jù)合規(guī)體系作為規(guī)范支撐,為了保障新技術(shù)的進(jìn)步,對算法數(shù)據(jù)的保護(hù)不能僅依據(jù)事后追責(zé),同時也要借助合規(guī)體系對保護(hù)法益這一核心利益進(jìn)行前瞻性預(yù)防。
(二)法秩序統(tǒng)一下協(xié)調(diào)不同法律規(guī)范
基于法秩序統(tǒng)一原理保護(hù)算法數(shù)據(jù)需要協(xié)調(diào)不同法律規(guī)范,由算法數(shù)據(jù)合規(guī)體系吸納不同類型法律規(guī)范對數(shù)據(jù)的規(guī)定,消弭規(guī)范沖突的同時尋求不同規(guī)范的共通之處,最大程度地尋求法律規(guī)范上的保護(hù)共識。第一,法秩序統(tǒng)一原理下協(xié)調(diào)不同法律規(guī)范需要樹立《數(shù)據(jù)安全法》的主導(dǎo)地位,圍繞《數(shù)據(jù)安全法》的規(guī)定將其他法律規(guī)范補(bǔ)充進(jìn)算法數(shù)據(jù)合規(guī)體系中。算法數(shù)據(jù)合規(guī)體系的核心是對算法數(shù)據(jù)的預(yù)先保護(hù),算法數(shù)據(jù)作為數(shù)據(jù)的一部分,以專門的《數(shù)據(jù)安全法》作為核心規(guī)范更符合算法數(shù)據(jù)保護(hù)的整體語境。第二,在《數(shù)據(jù)安全法》與其他法律規(guī)范的銜接過程中,需要優(yōu)化關(guān)于算法數(shù)據(jù)的細(xì)節(jié)性規(guī)定,將相關(guān)細(xì)節(jié)規(guī)定補(bǔ)充進(jìn)算法數(shù)據(jù)合規(guī)體系,實(shí)現(xiàn)對算法數(shù)據(jù)的多層次保護(hù)。比如算法數(shù)據(jù)合規(guī)體系中對處理個人行程數(shù)據(jù)的規(guī)定,除了引用《數(shù)據(jù)安全法》第32條規(guī)定的“任何組織、個人收集數(shù)據(jù),應(yīng)當(dāng)采取合法、正當(dāng)?shù)姆绞健弊鳛檎w性規(guī)范,還要參考《個人信息保護(hù)法》第2章個人信息處理規(guī)則的細(xì)節(jié)內(nèi)容,堅(jiān)持《中華人民共和國民法典》第6章規(guī)定的個人信息處理規(guī)則,同時將《中華人民共和國刑法》(以下簡稱《刑法》)第253條侵犯公民個人信息罪的犯罪構(gòu)成要件作為合規(guī)體系的兜底性條款,在多方協(xié)調(diào)配合下實(shí)現(xiàn)對算法數(shù)據(jù)的體系性保護(hù)。有鑒于此,為了在算法數(shù)據(jù)合規(guī)體系中實(shí)現(xiàn)法秩序的內(nèi)部統(tǒng)一,在法律規(guī)范框架的構(gòu)建上,應(yīng)該以聯(lián)系最為緊密的《數(shù)據(jù)安全法》為統(tǒng)籌,配合《網(wǎng)絡(luò)安全法》《個人信息保護(hù)法》等其他法律規(guī)范,從刑法、民法、行政法等多方面入手優(yōu)化合規(guī)體系的運(yùn)行[24]。
(三)調(diào)整刑事政策指引合規(guī)體系走向
刑事政策是對刑法解釋與刑事立法的宏觀指引,在算法數(shù)據(jù)合規(guī)體系中,刑事合規(guī)是算法數(shù)據(jù)合規(guī)體系的強(qiáng)制力保障,而刑事合規(guī)遵從刑事政策的指引,針對潛在的算法數(shù)據(jù)犯罪風(fēng)險,調(diào)整對應(yīng)的刑事政策可以有效預(yù)防算法數(shù)據(jù)犯罪,實(shí)現(xiàn)算法數(shù)據(jù)合規(guī)體系的預(yù)防性機(jī)能。保護(hù)算法數(shù)據(jù)、強(qiáng)調(diào)數(shù)據(jù)合規(guī)的刑事政策需要圍繞算法權(quán)力擴(kuò)張的時代背景進(jìn)行展開,一方面倡導(dǎo)完善刑事立法強(qiáng)化對單位及自然人的追責(zé),借助合規(guī)激勵機(jī)制促使車企從內(nèi)部優(yōu)化對算法數(shù)據(jù)的保護(hù);另一方面調(diào)整刑法解釋上的出罪路徑,促使司法機(jī)關(guān)在處理算法數(shù)據(jù)犯罪時考慮合規(guī)體系的預(yù)防犯罪功能,為車企預(yù)設(shè)合理的出罪路徑,借助刑事政策構(gòu)建非犯罪化模型,避免車企在處理算法數(shù)據(jù)時承擔(dān)過重的責(zé)任。當(dāng)算法深度嵌入社會各個環(huán)節(jié)之后,強(qiáng)調(diào)數(shù)據(jù)合規(guī)的刑事政策體現(xiàn)了國家強(qiáng)力監(jiān)管算法的意志,展現(xiàn)了預(yù)防型積極的刑法觀,借助刑事政策在理念構(gòu)成和實(shí)體法律規(guī)劃上強(qiáng)化對算法數(shù)據(jù)的監(jiān)管[25]。第一,在理念構(gòu)成層面,通過外部激勵機(jī)制促進(jìn)企業(yè)合規(guī),從刑事政策上體現(xiàn)監(jiān)管算法數(shù)據(jù)的刑法強(qiáng)制力,本身也是為車企的發(fā)展提供行為規(guī)范的邊界,要求自動駕駛算法在處理算法數(shù)據(jù)的過程中避免數(shù)據(jù)泄露、違規(guī)利用等刑事不法行為。第二,在實(shí)體法律規(guī)劃層面,在制定對應(yīng)的刑事政策時充分考慮不同法律規(guī)范對算法數(shù)據(jù)合規(guī)的共同價值訴求,對《數(shù)據(jù)安全法》《網(wǎng)絡(luò)安全法》《個人信息保護(hù)法》等法律規(guī)范進(jìn)行統(tǒng)籌考量,不能僅偏重對算法數(shù)據(jù)的強(qiáng)制力保護(hù),也要在刑事政策的松緊度上考慮算法數(shù)據(jù)的利用需求,做到利用與保護(hù)并重。
(四)參考刑法規(guī)范制定數(shù)據(jù)合規(guī)計(jì)劃
在算法數(shù)據(jù)合規(guī)體系中,《刑法》發(fā)揮刑法強(qiáng)制力保障合規(guī)體系的正常運(yùn)行,而制定切實(shí)可行的合規(guī)計(jì)劃則需要正確理解侵犯公民個人信息罪等罪名的犯罪構(gòu)成,一方面在責(zé)任層面為車企構(gòu)建主觀免責(zé)的合規(guī)出罪路徑;另一方面將《數(shù)據(jù)安全法》等法律規(guī)范作為侵犯公民個人信息罪中“違反國家有關(guān)規(guī)定”的參考,構(gòu)建合規(guī)管理義務(wù)為使用算法數(shù)據(jù)提供合理性支撐[26]。第一,合規(guī)計(jì)劃中規(guī)定車企主觀罪過免除制度。自動駕駛車企在編譯自動駕駛算法時,應(yīng)該發(fā)布企業(yè)合規(guī)政策和員工行為手冊,針對算法數(shù)據(jù)建立合規(guī)標(biāo)準(zhǔn),明令禁止員工和高管實(shí)施違法行為并建立懲戒機(jī)制,設(shè)立內(nèi)部合規(guī)培訓(xùn)制度[27]。如果員工編譯算法時內(nèi)置算法后門違規(guī)獲取、使用算法數(shù)據(jù),則其個人構(gòu)成犯罪而企業(yè)不承擔(dān)刑事責(zé)任。第二,合規(guī)計(jì)劃中參考相關(guān)法律規(guī)范制定需要履行的法定管理義務(wù)。自動駕駛車企對算法數(shù)據(jù)的法定管理義務(wù)主要參考《數(shù)據(jù)安全法》等法律規(guī)范,包括對數(shù)據(jù)安全進(jìn)行規(guī)范審查,甄別算法數(shù)據(jù)污染的情況,對算法數(shù)據(jù)實(shí)行預(yù)防保護(hù)。比如《數(shù)據(jù)安全法》中第3章數(shù)據(jù)安全制度、第4章數(shù)據(jù)安全保護(hù)義務(wù)的內(nèi)容,都屬于企業(yè)在編譯自動駕駛算法時應(yīng)該考慮的法定管理規(guī)范,車企編譯的算法應(yīng)該在初始階段就消除可能存在的負(fù)面影響,只有這樣的算法才能避免對算法數(shù)據(jù)產(chǎn)生負(fù)面影響,同時也將企業(yè)對算法的監(jiān)管納入合規(guī)計(jì)劃中。
結(jié) ?語
自動駕駛算法以算法為決策核心,通過神經(jīng)網(wǎng)絡(luò)、深度學(xué)習(xí)等手段實(shí)現(xiàn)智能交通的目的[28],而算法發(fā)揮效用則需要依靠大量精確的算法數(shù)據(jù)作為支撐?!稊?shù)據(jù)安全法》出臺后,保全算法數(shù)據(jù)需要認(rèn)清其數(shù)據(jù)實(shí)質(zhì),并在不同場域中對算法數(shù)據(jù)提供針對性的保全措施,確保公民可以從法律和倫理層面真正信任算法數(shù)據(jù)。為了降低算法數(shù)據(jù)被侵害的風(fēng)險,需要強(qiáng)化對算法數(shù)據(jù)的預(yù)防性前置保護(hù),為自動駕駛算法數(shù)據(jù)構(gòu)建切實(shí)可行的合規(guī)體系,規(guī)范算法數(shù)據(jù)的處理流程,真正實(shí)現(xiàn)對算法數(shù)據(jù)的立體化監(jiān)管,提升自動駕駛的安全性[29]。
參考文獻(xiàn):
[1] PRIMIERO G. Algorithmic iteration for computational intelligence[J]. Minds & Machines, 2017, 27(3): ?521-543.
[2] 陳禹衡. 算法優(yōu)化語境下自動駕駛汽車交通肇事的困境紓解[J]. 蘇州大學(xué)學(xué)報(法學(xué)版),2021(3):60-73.
[3] 鄭智航. 人工智能算法的倫理危機(jī)與法律規(guī)制[J] .法律科學(xué),2021(1):14-26.
[4] 劉文杰. 被遺忘權(quán):傳統(tǒng)元素、新語境與利益衡量[J]. 法學(xué)研究,2018(2):24-41.
[5] 金夢. 立法倫理與算法正義——算法主體行為的法律規(guī)制[J]. 政法論壇,2021(1):29-40.
[6] 陳白. 用戶數(shù)據(jù)歸屬權(quán)才是特斯拉維權(quán)案的命門[N]. 經(jīng)濟(jì)觀察報,2021-04-26(008).
[7] 李本燦. 企業(yè)犯罪預(yù)防中合規(guī)計(jì)劃制度的借鑒[J]. 中國法學(xué),2015(5):177-205.
[8] 陳兵,馬賢茹. 數(shù)據(jù)要素權(quán)益配置類型化研究[J]. 科技與法律(中英文),2022(1):1-9.
[9] HASSAN S, FILIPPI P D. The expansion of algorithmic governance: from code is law to law is code[J]. Field Actions Science Report, ?2017(17): 88-90
[10] 胡小偉. 人工智能時代算法風(fēng)險的法律規(guī)制論綱[J]. 湖北大學(xué)學(xué)報(哲學(xué)社會科學(xué)版),2021(2):120-131.
[11] 崔聰聰,許智鑫. 機(jī)器學(xué)習(xí)算法的法律規(guī)制[J]. 上海交通大學(xué)學(xué)報(哲學(xué)社會科學(xué)版),2020(2):35-47.
[12] GURNEY J K. Crashing into the unknown: an examination of crash-optimization algorithms through the two lanes of ethics and law[J]. Albany Law Review, 2016, 79(1): 183-267.
[13] 王俊. 積極刑法觀的反思與批判[J]. 法學(xué),2022(2):68-85.
[14] 吳椒軍,郭婉兒. 人工智能時代算法黑箱的法治化治理[J]. 科技與法律(中英文),2021(1):19-28.
[15] CITRON D K, PASQUALE F A. The scored society: due process for automated predictions[J]. Washington Law Review, 2014, 89(1): 1-34.
[16] 汪慶華. 人工智能的法律規(guī)制路徑:一個框架性討論[J]. 現(xiàn)代法學(xué),2019(2):54-63.
[17] 張莉莉,朱子升. 算法歧視的法律規(guī)制:動因、路徑和制度完善[J]. 科技與法律(中英文),2021(2):15-21.
[18] EZRACHI A, STUCKE M E. Artificial intelligence & collusion: when computers inhibit competition[J]. University of Illinois Law Review, 2017, 1(5): 1-38.
[19] 沈偉偉. 算法透明原則的迷思——算法規(guī)制理論的批判[J]. 環(huán)球法律評論,2019(6):20-39.
[20] 張凌寒. 商業(yè)自動化決策算法解釋權(quán)的功能定位與實(shí)現(xiàn)路徑[J]. 蘇州大學(xué)學(xué)報(哲學(xué)社會科學(xué)版),2020(2):51-60.
[21] BEER D. Power through the algorithm? participatory web cultures and the technological unconscious[J]. New Media & Society, 2009, 11(6): 985-1002.
[22] 劉艷紅. 侵犯公民個人信息罪法益:個人法益及新型權(quán)利之確證——以《個人信息保護(hù)法(草案)》為視角之分析[J]. 中國刑事法雜志,2019(5):19-33.
[23] 歐陽本祺. 侵犯公民個人信息罪的法益重構(gòu):從私法權(quán)利回歸公法權(quán)利[J]. 比較法研究,2021(3):55-68.
[24] 陳禹衡. 《個人信息保護(hù)法》視角下征信合規(guī)體系構(gòu)建[J]. 上海金融,2022(1):23-30.
[25] 劉艷紅. 積極預(yù)防性刑法觀的中國實(shí)踐發(fā)展——以《刑法修正案(十一)》為視角的分析[J]. 比較法研究,2021(1):62-75.
[26] PRICE W N. Black-Box medicine[J]. Harvard Journal of Law and Technology, 2015, 28(2): ?419-468.
[27] 陳瑞華. 企業(yè)合規(guī)出罪的三種模式[J]. 比較法研究,2021(3):69-88.
[28] NYHOLM S, SMIDS J. Automated cars meet human drivers: responsible human-robot coordination and the ethics of mixed traffic[J]. Ethics and Information Technology, 2018, 22(4): 1-10.
[29] 張韜略. 自動駕駛汽車道路測試安全制度分析:中日立法的比較[J]. 科技與法律,2019(4):73-82.
Classification, Preservation and Compliance of Autonomous Driving
Algorithm Data under the Data Security Act
Chen Yuheng
(School of Law, Southeast University, Nanjing 211189, China)
Abstract: Autonomous driving algorithms need a large amount of algorithm data as the basis of operation, and the flaws in the use of current algorithm data lie in unclear classification, inadequate preservation measures and absence of compliance system. After defining algorithm data by referring to the Data Security Law, it is necessary to divide algorithm data into learning algorithm data, operating algorithm data and derived algorithm data according to the difference of applicable field, and eliminate algorithm bias by combining with the technical characteristics of applicable field. The preservation of algorithm data requires pre-setting of algorithm data recording, retention and disclosure modes to avoid algorithm black box, and implement the principle of algorithm transparency while formulating the protection plan for algorithm data. To build a compliance system based on the Data Security Law, it is necessary to take the legal interests of citizens' personal information as the basis of compliance, coordinate different legal norms based on the principle of law unification, adjust criminal policies to guide the trend of the compliance system, and formulate specific compliance plans by referring to the norms of criminal law.
Keywords: autonomous driving; data security act; algorithm data; algorithm bias; criminal compliance