王?峰 欒群

大數(shù)據(jù)、云計算等技術(shù)的進(jìn)步促進(jìn)了人工智能產(chǎn)業(yè)發(fā)展，成為未來經(jīng)濟社會發(fā)展的重要方向和支柱。人工智能開始在各個領(lǐng)域廣泛應(yīng)用，帶給人類便捷與高效的同時衍生出一系列安全問題，如數(shù)據(jù)與個人隱私的保護(hù)、算法透明度與可解釋性的缺失、系統(tǒng)安全風(fēng)險等，安全問題也成為阻礙行業(yè)發(fā)展的一個主要障礙。解決這一問題需要靠技術(shù)，同時還要加強法律治理，確保人工智能安全、可靠、可控發(fā)展。

目前存在的主要風(fēng)險

數(shù)據(jù)與個人隱私保護(hù)防范難度增加。人工智能的發(fā)展需要海量數(shù)據(jù)的收集、應(yīng)用和共享，但是，數(shù)據(jù)收集、深度處理和全球化傳遞中都可能危及數(shù)據(jù)和隱私安全。主要表現(xiàn)在三方面：一是智能設(shè)備和算法對于個人隱私的發(fā)掘分析能力遠(yuǎn)超以往技術(shù)，隱私所有權(quán)人防范的難度大大增加。二是用于身份識別驗證的生物信息具有較強的穩(wěn)定性，一旦發(fā)生泄露無法找回或重置，生物信息的價值大大減損，且與個人生物信息綁定的相關(guān)安全驗證都將面臨很高的安全風(fēng)險，目前對生物信息安全問題關(guān)注遠(yuǎn)遠(yuǎn)不夠。三是個人行為數(shù)據(jù)被智能設(shè)備和定位系統(tǒng)記錄、存儲和分析后會全面呈現(xiàn)個人的行為偏好、習(xí)慣和生活狀態(tài)，目前只規(guī)制“出售或提供行蹤軌跡信息，被他人用于犯罪的”情形，其他領(lǐng)域行為數(shù)據(jù)如何保護(hù)尚缺少相應(yīng)規(guī)定。

算法透明度與可解釋性缺失。一是人工智能算法的學(xué)習(xí)與決策存在海量數(shù)據(jù)本身的不確定性，使得算法的決策過程和決策規(guī)則難以被人類明悉，造成人工智能算法的透明度與可解釋性缺失。二是人工智能算法的設(shè)計是編程人員的主觀選擇和價值判斷，也可能在機器深度學(xué)習(xí)過程中自主演變和進(jìn)化，不能保障算法決策的公平性和透明度，難以認(rèn)定產(chǎn)生法律責(zé)任的主體。三是人工智能的判斷規(guī)則可能存在潛在歧視，一旦作為重大決策的參照物，會帶來不可想象的后果。

系統(tǒng)安全風(fēng)險。系統(tǒng)安全風(fēng)險主要表現(xiàn)在人工智能硬件應(yīng)用中，智能硬件的系統(tǒng)漏洞、基礎(chǔ)安全技術(shù)缺失以及復(fù)雜的供應(yīng)鏈條帶來的歸責(zé)困境。一是智能硬件缺失加密技術(shù)，采用默認(rèn)密碼技術(shù)措施不足，使大量的用戶信息處于極度危險狀態(tài)。二是復(fù)雜的系統(tǒng)構(gòu)成導(dǎo)致高密度關(guān)聯(lián)風(fēng)險增加。以智能網(wǎng)聯(lián)汽車為例，如因軟件漏洞導(dǎo)致系統(tǒng)被入侵后造成的安全事故責(zé)任，難以確定應(yīng)該由整車廠或是軟件系統(tǒng)服務(wù)提供商承擔(dān)責(zé)任。

國外經(jīng)驗

頒布保護(hù)數(shù)據(jù)和個人隱私指令。在數(shù)據(jù)保護(hù)和個人隱私方面，美國于1974年頒布的《聯(lián)邦隱私權(quán)法》為隱私權(quán)保護(hù)的基本法，隨后頒布了《聯(lián)邦電子通訊隱私法案》、《公民網(wǎng)絡(luò)隱私權(quán)保護(hù)暫行條例》、《個人隱私與國家信息基礎(chǔ)設(shè)施》等法律。歐盟對此已經(jīng)頒布多項個人數(shù)據(jù)保護(hù)指令，例如《關(guān)于涉及個人數(shù)據(jù)處理的個人保護(hù)以及此類數(shù)據(jù)自由流動的指令》等，構(gòu)建了個人數(shù)據(jù)保護(hù)體系。2016年，歐盟頒布《個人數(shù)據(jù)保護(hù)通用條例》，禁止一切未經(jīng)同意而非法使用公民個人數(shù)據(jù)的行為。在個人數(shù)據(jù)隨時可被搜集的時代，任何情況下都必須堅持保護(hù)隱私和個人數(shù)據(jù)的原則。歐盟法律事務(wù)委員會建議，針對人工智能領(lǐng)域進(jìn)行政策制定時，應(yīng)當(dāng)進(jìn)一步完善通過設(shè)計保護(hù)隱私、默認(rèn)保護(hù)隱私、知情同意、加密等概念的標(biāo)準(zhǔn)。

提高智能算法透明化和可責(zé)性。2017年1月12日，美國計算機協(xié)會下屬美國公共政策委員會發(fā)布文件，闡述了關(guān)于人工智能算法透明化和可責(zé)性七條原則，旨在通過算法透明化及可追溯性，盡量減少潛在的風(fēng)險及危害。2017年2月，歐盟議會通過《機器人民事法律規(guī)則》，強調(diào)算法透明原則，即對某個人或更多人的生活可能產(chǎn)生實質(zhì)性的影響，借助于人工智能所做出的決策，必須在任何情況下都可以提供其決策背后的算法設(shè)計規(guī)則。

2017年12月11日，紐約市議會通過《政府部門自動決策系統(tǒng)法案》，這是美國針對人工智能算法進(jìn)行立法監(jiān)管的首個法案，其目的在于促進(jìn)政府自動決策算法的公開、公平，提高政府決策智能算法的公信力。

采取系列措施保障系統(tǒng)安全。2016年，美國發(fā)布《美國國家人工智能研發(fā)戰(zhàn)略計劃》，為確保人工智能系統(tǒng)的安全，提出通過采取一系列措施，比如增強人工智能的可解釋性和透明度、構(gòu)建信任體系、增強可驗證與可確認(rèn)性，以保護(hù)人工智能系統(tǒng)免受攻擊，從而實現(xiàn)長期的人工智能安全和優(yōu)化。

對策與建議

加快構(gòu)建隱私權(quán)保護(hù)的法律。針對人工智能技術(shù)應(yīng)用的不同領(lǐng)域，收集個人信息的來源，構(gòu)架出一套自下而上、逐層具體、全面完善的隱私權(quán)保護(hù)的法律。一是對于個人敏感信息，明確列舉哪些信息屬于個人敏感信息，需要采取特殊的保護(hù)手段和使用限制予以保護(hù)。二是對于需要采集和存儲個人信息和數(shù)據(jù)隱私的單位和個人，在采集和存儲前應(yīng)當(dāng)明確告知信息主體，特定范圍的信息需要取得信息主體的明示同意。三是明確規(guī)定可能會給信息主體造成一定風(fēng)險的個人信息和數(shù)據(jù)的獲取的正當(dāng)性和必要性條件，規(guī)范信息獲取行為，降低信息和數(shù)據(jù)被非法獲取和使用的風(fēng)險。

法律明確人工智能算法透明化和可責(zé)性要求。一是算法設(shè)計者應(yīng)該對訓(xùn)練數(shù)據(jù)的來源及可靠性加以說明。二是算法設(shè)計機構(gòu)應(yīng)記錄模型、算法、數(shù)據(jù)和具體決策，以便在解決出現(xiàn)的問題或依法監(jiān)管時有據(jù)可查。三是算法應(yīng)用機構(gòu)應(yīng)采取可靠的技術(shù)手段對其算法的程序進(jìn)行驗證，以提高基于此算法所自動做出的決策的可信度。四是定時評估系統(tǒng)的規(guī)范性，對錯誤決策可以進(jìn)行調(diào)查并予以糾正。

通過立法強化人工智能系統(tǒng)安全義務(wù)?？煽康娜斯ぶ悄芟到y(tǒng)應(yīng)具有強大的安全性能，能夠有效應(yīng)對各類惡意攻擊，法律可以考慮通過安全標(biāo)準(zhǔn)、安全評估義務(wù)等規(guī)范達(dá)到強化系統(tǒng)安全的目的。一是提高人工智能產(chǎn)品研發(fā)的安全標(biāo)準(zhǔn)，從技術(shù)上增強智能系統(tǒng)的安全性和強健性。二是推行智能系統(tǒng)安全認(rèn)證制度，對人工智能技術(shù)和產(chǎn)品進(jìn)行嚴(yán)格測試，增強社會公眾信任。三是強化安全評估義務(wù)主體責(zé)任，針對人工智能應(yīng)用場景和應(yīng)用重要程度的不同，有針對性地制定技術(shù)標(biāo)準(zhǔn)和評估方案，滿足不同系統(tǒng)安全風(fēng)險與保障的差異化需求。