肖紅軍 陽(yáng)鎮(zhèn)
摘 要:新一輪數(shù)字技術(shù)產(chǎn)生了全新的數(shù)字經(jīng)濟(jì)形態(tài)和數(shù)字社會(huì),但也引發(fā)了系列負(fù)外部性問(wèn)題,數(shù)字科技倫理監(jiān)管成為數(shù)字經(jīng)濟(jì)時(shí)代必須直面的重大現(xiàn)實(shí)議題,既有研究對(duì)數(shù)字科技倫理監(jiān)管的理論框架、監(jiān)管模式和主要議題缺乏深度解構(gòu)。本文立足美國(guó)數(shù)字科技倫理監(jiān)管的最新政策布局與監(jiān)管實(shí)踐,解析美國(guó)數(shù)字科技倫理監(jiān)管的主要主體、監(jiān)管模式和重點(diǎn)議題,搭建面向數(shù)字科技倫理監(jiān)管的“監(jiān)管主體—監(jiān)管模式—監(jiān)管機(jī)制”的一般性理論框架,研究發(fā)現(xiàn),美國(guó)數(shù)字科技倫理監(jiān)管主體涵蓋“聯(lián)邦政府—州政府—行業(yè)協(xié)會(huì)—企業(yè)”等多元主體,監(jiān)管模式型側(cè)重以國(guó)會(huì)為主導(dǎo)的美國(guó)政府立法與標(biāo)準(zhǔn)引領(lǐng)型監(jiān)管、行業(yè)協(xié)會(huì)和研究機(jī)構(gòu)等社會(huì)組織多元參與型監(jiān)管,以及企業(yè)以數(shù)字科技倫理嵌入公司治理的嵌入型自治模式的三重主導(dǎo)模式,監(jiān)管重點(diǎn)議題涵蓋道德式人工智能與透明、公平和可解釋的算法以及數(shù)據(jù)隱私與數(shù)據(jù)倫理等核心議題。中國(guó)加快構(gòu)建數(shù)字科技倫理監(jiān)管體系,需要強(qiáng)化數(shù)字科技倫理監(jiān)管立法,在分層分類思路開展數(shù)字科技倫理制度設(shè)計(jì)和政策執(zhí)行的基礎(chǔ)上,需要進(jìn)一步發(fā)揮地方數(shù)字科技倫理監(jiān)管政策制定與執(zhí)行的自主性原則,調(diào)動(dòng)數(shù)字企業(yè)在數(shù)字科技倫理監(jiān)管與治理方面的治理標(biāo)準(zhǔn)、行業(yè)規(guī)范、企業(yè)倡議、治理指南和操作手冊(cè)等方面的引領(lǐng)作用。
關(guān)鍵詞:數(shù)字科技倫理;監(jiān)管模式;數(shù)字企業(yè)
中圖分類號(hào):F49;F125.1文獻(xiàn)標(biāo)識(shí)碼:A文章編號(hào):1000?176X(2023)06?0073?14
一、引 言
新一輪技術(shù)革命的實(shí)質(zhì)是以人工智能、大數(shù)據(jù)、移動(dòng)互聯(lián)網(wǎng)、區(qū)塊鏈、虛擬現(xiàn)實(shí)等為核心的數(shù)字技術(shù)充分嵌入經(jīng)濟(jì)和社會(huì),形成面向宏觀經(jīng)濟(jì)形態(tài)、中觀產(chǎn)業(yè)部門和微觀企業(yè)組織的全方位變革,特別是立足數(shù)字科技創(chuàng)新實(shí)現(xiàn)數(shù)字產(chǎn)業(yè)化與產(chǎn)業(yè)數(shù)字化,以數(shù)字企業(yè)主導(dǎo)的微觀企業(yè)組織不斷創(chuàng)新與演化。隨著黨和國(guó)家對(duì)數(shù)字經(jīng)濟(jì)發(fā)展重視程度的不斷強(qiáng)化,建設(shè)數(shù)字中國(guó)在“十四五”時(shí)期成為國(guó)家發(fā)展的重要戰(zhàn)略。根據(jù)2023年中國(guó)信息通信研究院對(duì)數(shù)字經(jīng)濟(jì)規(guī)模的測(cè)算,2022年中國(guó)數(shù)字經(jīng)濟(jì)規(guī)模達(dá)到50.2萬(wàn)億元,同比名義增長(zhǎng)10.3%,已連續(xù)11年顯著高于同期GDP名義增速,數(shù)字經(jīng)濟(jì)占GDP的比重相當(dāng)于第二產(chǎn)業(yè)占國(guó)民經(jīng)濟(jì)的比重,達(dá)到41.5%,足以說(shuō)明數(shù)字經(jīng)濟(jì)已經(jīng)成為國(guó)民經(jīng)濟(jì)的主導(dǎo)力量。其中,數(shù)字產(chǎn)業(yè)化規(guī)模和產(chǎn)業(yè)數(shù)字化規(guī)模分別達(dá)到9.2萬(wàn)億元和41.0萬(wàn)億元,占數(shù)字經(jīng)濟(jì)的比重分別為18.3%和81.7%,一定程度上,產(chǎn)業(yè)數(shù)字化成為數(shù)字經(jīng)濟(jì)發(fā)展主引擎。從世界范圍來(lái)看,中國(guó)數(shù)字經(jīng)濟(jì)發(fā)展相較于世界發(fā)達(dá)國(guó)家特別是美國(guó)依然存在較大的差距,中國(guó)信息通信研究院發(fā)布的《全球數(shù)字經(jīng)濟(jì)白皮書(2022年)》指出,中、美、歐形成全球數(shù)字經(jīng)濟(jì)發(fā)展的三極格局。2021年美國(guó)數(shù)字經(jīng)濟(jì)規(guī)模持續(xù)保持世界第一,達(dá)15.3萬(wàn)億美元。美國(guó)數(shù)字經(jīng)濟(jì)對(duì)國(guó)民經(jīng)濟(jì)滲透率更高,數(shù)字經(jīng)濟(jì)占GDP的比重超過(guò)60%。在數(shù)字化轉(zhuǎn)型方面,美國(guó)是全球最早布局?jǐn)?shù)字化轉(zhuǎn)型的國(guó)家,美國(guó)商務(wù)部(DOC)早在1998年就發(fā)布數(shù)字經(jīng)濟(jì)的專題報(bào)告,指出信息技術(shù)、互聯(lián)網(wǎng)和電子商務(wù)的發(fā)展會(huì)產(chǎn)生新的數(shù)字經(jīng)濟(jì)形態(tài)。
近年來(lái),學(xué)術(shù)界加快了對(duì)數(shù)字經(jīng)濟(jì)的內(nèi)涵、測(cè)算方法和影響效應(yīng)等方面的研究。從數(shù)字經(jīng)濟(jì)的內(nèi)涵來(lái)看,2018年OECD和美國(guó)商務(wù)部經(jīng)濟(jì)分析局(BEA)對(duì)數(shù)字經(jīng)濟(jì)的概念進(jìn)行了界定,即通過(guò)交易是否涉及信息與通信技術(shù)(ICT)來(lái)界定一項(xiàng)經(jīng)濟(jì)活動(dòng)是否屬于數(shù)字經(jīng)濟(jì);中國(guó)信息通信研究院則從產(chǎn)業(yè)范圍和數(shù)字治理的視角界定數(shù)字經(jīng)濟(jì),認(rèn)為數(shù)字經(jīng)濟(jì)主要包括數(shù)據(jù)價(jià)值化、數(shù)字產(chǎn)業(yè)化、產(chǎn)業(yè)數(shù)字化和數(shù)字化治理四個(gè)方面。學(xué)術(shù)界對(duì)數(shù)字經(jīng)濟(jì)的界定視角紛繁復(fù)雜,主要包括特征視角、主體視角、產(chǎn)業(yè)視角和經(jīng)濟(jì)范式視角等多重視角??傮w而言,數(shù)字經(jīng)濟(jì)是區(qū)別于傳統(tǒng)工業(yè)經(jīng)濟(jì)時(shí)代下的新經(jīng)濟(jì),包括數(shù)字經(jīng)濟(jì)基礎(chǔ)產(chǎn)業(yè)和數(shù)字經(jīng)濟(jì)融合效應(yīng)兩個(gè)部分。從數(shù)字經(jīng)濟(jì)的測(cè)算方法來(lái)看,目前測(cè)算方法相對(duì)多元,對(duì)數(shù)字經(jīng)濟(jì)的測(cè)算包括數(shù)字經(jīng)濟(jì)指數(shù)編制法、增加值測(cè)算法和構(gòu)建衛(wèi)星賬戶法等[1-3]。從數(shù)字經(jīng)濟(jì)的影響效應(yīng)來(lái)看,既有研究充分注意到了數(shù)字經(jīng)濟(jì)對(duì)宏觀經(jīng)濟(jì)增長(zhǎng)、經(jīng)濟(jì)結(jié)構(gòu)調(diào)整、產(chǎn)業(yè)轉(zhuǎn)型升級(jí)、創(chuàng)業(yè)與就業(yè)和社會(huì)治理等方面的重要作用。尤其是黨的十八大以來(lái),高質(zhì)量發(fā)展已經(jīng)成為整個(gè)經(jīng)濟(jì)和社會(huì)發(fā)展的主導(dǎo)戰(zhàn)略,既有研究充分注意到了數(shù)字經(jīng)濟(jì)對(duì)高質(zhì)量發(fā)展的重要驅(qū)動(dòng)作用,主要表現(xiàn)為數(shù)字經(jīng)濟(jì)對(duì)生產(chǎn)力層面的要素投入、宏觀層面的資源配置效率與全要素生產(chǎn)率[4-6]、微觀層面的信息效應(yīng)與匹配效率、產(chǎn)業(yè)層面的產(chǎn)業(yè)創(chuàng)新與轉(zhuǎn)型升級(jí)[7-8]、微觀企業(yè)層面的企業(yè)創(chuàng)新[9-10]等方面的重要驅(qū)動(dòng)效應(yīng),尤其是數(shù)字經(jīng)濟(jì)下的關(guān)鍵技術(shù)支撐即數(shù)字技術(shù)具備高度的包容性[11],能夠?yàn)榘菪栽鲩L(zhǎng)開辟新路,能夠支撐共同富裕目標(biāo)下的貧困減緩以及實(shí)現(xiàn)區(qū)域的均衡性增長(zhǎng)[12]。但不容忽視的現(xiàn)實(shí)是,數(shù)字經(jīng)濟(jì)發(fā)展為經(jīng)濟(jì)和社會(huì)發(fā)展帶來(lái)顯著的正外部性的同時(shí),也產(chǎn)生了諸多負(fù)外部性問(wèn)題,涵蓋數(shù)字技術(shù)層面的算法歧視、算法霸權(quán)和以算法壟斷為核心的算法技術(shù)治理議題[13]、數(shù)字企業(yè)層面的企業(yè)數(shù)字責(zé)任缺失與異化[14]、數(shù)字平臺(tái)企業(yè)壟斷與社會(huì)責(zé)任治理等現(xiàn)實(shí)問(wèn)題[15-17]。特別是在人工智能領(lǐng)域,人工智能深度嵌入社會(huì)引發(fā)的道德倫理沖突逐步加劇,既有研究對(duì)機(jī)器人倫理、算法倫理和無(wú)人駕駛汽車倫理等問(wèn)題開展了系列研究,包括人工智能是否能夠成為道德與責(zé)任主體、人工智能技術(shù)倫理構(gòu)成及其規(guī)制重點(diǎn)、人工智能倫理治理等多層次內(nèi)容研究[18-21]。
遺憾的是,學(xué)術(shù)界對(duì)數(shù)字技術(shù)創(chuàng)新進(jìn)程中的數(shù)字科技倫理問(wèn)題缺乏關(guān)注與研究,較少涉及數(shù)字科技倫理中的細(xì)微議題如大數(shù)據(jù)技術(shù)倫理、算法倫理等[22-23],難以為數(shù)字技術(shù)創(chuàng)新提供一般性理論框架。特別是,隨著以ChatGPT技術(shù)為核心的人工智能語(yǔ)言模型的出現(xiàn)及其應(yīng)用,一定程度上人工智能可以改變與重塑人類社會(huì)的思維范式,這引發(fā)對(duì)以人民為中心的人本價(jià)值觀的全新沖擊,在整個(gè)企業(yè)生產(chǎn)與人類社會(huì)生活中產(chǎn)生了較大程度的道德倫理沖突和技術(shù)倫理隱優(yōu),因而強(qiáng)調(diào)數(shù)字技術(shù)更好地融入社會(huì)并服務(wù)社會(huì)的數(shù)字科技倫理觀建構(gòu)極為迫切。實(shí)質(zhì)上,數(shù)字科技倫理是以數(shù)字科技為技術(shù)基礎(chǔ)探究其與人、與社會(huì)之間的基本關(guān)系及其對(duì)人類社會(huì)的基本影響,數(shù)字科技倫理的研究視角在于充分規(guī)范、預(yù)見和識(shí)別數(shù)字科技與人類社會(huì)的基本關(guān)系,實(shí)現(xiàn)數(shù)字科技創(chuàng)新與應(yīng)用過(guò)程符合道德倫理要求與社會(huì)規(guī)范,最大程度上地實(shí)現(xiàn)人與技術(shù)的和諧共生。
基于上述分析,本文以美國(guó)數(shù)字科技倫理監(jiān)管為主要研究對(duì)象,基于近年來(lái)美國(guó)聯(lián)邦政府和各州政府出臺(tái)的戰(zhàn)略文本和政策文件為文獻(xiàn)檢索范圍,并充分利用互聯(lián)網(wǎng)資料對(duì)美國(guó)主要數(shù)字科技類企業(yè)(如Amazon、IBM、Microsoft、Facebook等)發(fā)布的年報(bào)和管理層公開發(fā)言進(jìn)行人工整理,對(duì)涉及數(shù)字科技倫理監(jiān)管的政策布局、監(jiān)管主體、重點(diǎn)議題和主要模式開展系統(tǒng)分析。具體來(lái)看,一方面,本文系統(tǒng)梳理美國(guó)近年來(lái)對(duì)數(shù)字科技倫理監(jiān)管的政策布局,進(jìn)而分析美國(guó)數(shù)字科技倫理監(jiān)管的主要模式與機(jī)制,為構(gòu)建一般性的數(shù)字科技倫理監(jiān)管框架提供理論參考。另一方面,本文系統(tǒng)總結(jié)美國(guó)聯(lián)邦政府在面向數(shù)字科技倫理監(jiān)管的主要領(lǐng)域與關(guān)鍵議題,為我國(guó)各級(jí)政府瞄準(zhǔn)數(shù)字科技倫理監(jiān)管前沿與重點(diǎn)領(lǐng)域政策布局提供國(guó)際經(jīng)驗(yàn),最終為構(gòu)建適合我國(guó)數(shù)字經(jīng)濟(jì)發(fā)展階段以及契合我國(guó)制度情境的數(shù)字科技倫理監(jiān)管制度體系提供理論框架與政策指引。
二、美國(guó)數(shù)字科技倫理監(jiān)管政策的最新布局與主要進(jìn)展
(一)面向人工智能倫理監(jiān)管的政策布局
在人工智能倫理監(jiān)管層面,美國(guó)國(guó)會(huì)通過(guò)立法的形式加快對(duì)人工智能倫理的監(jiān)管與治理。其中,2021年1月1日,美國(guó)頒布《2020年國(guó)家人工智能倡議法案》(National Artificial Intelligence Initiative Act of 2020,簡(jiǎn)稱NAIIA),該法案的主要目的是:第一,確保美國(guó)在人工智能研發(fā)方面的領(lǐng)導(dǎo)地位;在公共部門和私營(yíng)部門開發(fā)和使用可信賴的人工智能系統(tǒng)方面引領(lǐng)世界。第二,為當(dāng)前和未來(lái)的美國(guó)勞動(dòng)力做好準(zhǔn)備,以便在經(jīng)濟(jì)和社會(huì)的所有部門整合人工智能系統(tǒng)。第三,協(xié)調(diào)所有聯(lián)邦政府機(jī)構(gòu)正在進(jìn)行的人工智能活動(dòng),以確保每個(gè)政府機(jī)構(gòu)都能為其他機(jī)構(gòu)的工作提供信息。與此同時(shí),為確保該法案的實(shí)施,美國(guó)成立了國(guó)家科學(xué)技術(shù)委員會(huì) (NSTC) 人工智能特別委員會(huì)推進(jìn)人工智能相關(guān)的標(biāo)準(zhǔn)、指南與技術(shù)的研究。1在拜登政府時(shí)期,同樣也制定了自己的人工智能戰(zhàn)略與監(jiān)管計(jì)劃。政府推出了ai.gov網(wǎng)站,該網(wǎng)站“致力于將美國(guó)人民與有關(guān)聯(lián)邦政府活動(dòng)的信息聯(lián)系起來(lái),推動(dòng)可信賴的人工智能(AI)的設(shè)計(jì)、開發(fā)和負(fù)責(zé)任地使用”。美國(guó)還成立了國(guó)家人工智能研究資源工作組和國(guó)家人工智能咨詢委員會(huì)。前者旨在使研究工具的獲取民主化,以促進(jìn)人工智能創(chuàng)新,而后者將為拜登總統(tǒng)和聯(lián)邦政府機(jī)構(gòu)提供有關(guān)人工智能研發(fā)的建議。
2019年2月,美國(guó)國(guó)防部(DOD)推出了人工智能戰(zhàn)略與倫理監(jiān)管政策,聲稱“以合法和合乎道德的方式使用人工智能,以強(qiáng)化負(fù)責(zé)任的價(jià)值觀愿景和強(qiáng)化人工智能利用的指導(dǎo)原則”,并將“繼續(xù)分享我們的目標(biāo)、道德準(zhǔn)則和安全程序,以鼓勵(lì)其他國(guó)家負(fù)責(zé)任地開發(fā)和使用人工智能”。該部門還聲稱,在與利益相關(guān)方協(xié)商后,它將制定國(guó)防事務(wù)中人工智能倫理和安全規(guī)則,并將該部門的觀點(diǎn)推廣給更多的全球受眾,為全球軍事人工智能提供信息倫理。另外,美國(guó)州政府在人工智能治理方面都有自己的舉措,在提出和通過(guò)監(jiān)管方面比聯(lián)邦政府更積極。例如,伊利諾伊州提出了《生物識(shí)別信息隱私法》(存在一些技術(shù)問(wèn)題)和《人工智能視頻采訪法》。這兩項(xiàng)法律都反映出美國(guó)對(duì)生物識(shí)別實(shí)踐的審查越來(lái)越嚴(yán)格——第一部與數(shù)據(jù)隱私更直接相關(guān),而第二部則對(duì)可能在面試過(guò)程中使用 HireVue2等人工智能服務(wù)公司提出了算法透明度的要求。華盛頓州則簽署了《SB 6280法案》,其建立了基本的透明度和問(wèn)責(zé)機(jī)制以備政府決定部署反烏托邦式的實(shí)時(shí)監(jiān)控,特別是全面禁止面部識(shí)別時(shí)侵犯?jìng)€(gè)人隱私和可能存在的算法偏見??傮w而言,目前,美國(guó)有數(shù)十個(gè)獨(dú)立的人工智能倫理、政策和技術(shù)工作組(團(tuán)體)分散在各個(gè)聯(lián)邦政府機(jī)構(gòu)中,涵蓋國(guó)防、民事和立法領(lǐng)域。雖然美國(guó)聯(lián)邦政府推出了人工智能倫理監(jiān)管政策,但依然存在不斷演變的政策可能產(chǎn)生政策內(nèi)容不完整、不同政策之間的監(jiān)管配套舉措不一致或彼此不兼容等問(wèn)題。
從人工智能倫理監(jiān)管的重點(diǎn)領(lǐng)域來(lái)看,美國(guó)聚焦于智能算法的社會(huì)倫理監(jiān)管,側(cè)重從算法研發(fā)設(shè)計(jì)到算法應(yīng)用的全過(guò)程監(jiān)管。2022年7月20日,美國(guó)眾議院能源和商業(yè)委員會(huì)以53∶2的票數(shù)通過(guò)了《美國(guó)數(shù)據(jù)隱私和保護(hù)法》(American Data Privacy and Protection Act,簡(jiǎn)稱ADPPA)的修正版。該法案旨在聯(lián)邦政府層面建立面向人工智能算法決策過(guò)程中的消費(fèi)者隱私數(shù)據(jù)保護(hù)法律框架,為美國(guó)消費(fèi)者提供了隱私權(quán)保護(hù)和有效的補(bǔ)救措施。該法案將“算法”定義為“使用機(jī)器學(xué)習(xí)、自然語(yǔ)言處理、人工智能技術(shù)或其他類似或更復(fù)雜的計(jì)算處理技術(shù)的計(jì)算過(guò)程,能夠自主作出決策或促進(jìn)或輔助人類決策”,例如,為特定對(duì)象提供排名、排序、促銷、推薦等服務(wù)或向特定個(gè)人提供信息服務(wù)等。根據(jù)該法案,相關(guān)實(shí)體和服務(wù)提供商必須評(píng)估算法的設(shè)計(jì)、結(jié)構(gòu)和數(shù)據(jù)輸入,以降低潛在的道德倫理風(fēng)險(xiǎn)。
(二)面向大數(shù)據(jù)倫理(數(shù)據(jù)倫理)監(jiān)管的政策布局
美國(guó)面向大數(shù)據(jù)倫理監(jiān)管的政策布局主要包括頂層設(shè)計(jì)和中層銜接,形成聯(lián)邦政府主導(dǎo)的大數(shù)據(jù)倫理監(jiān)管原則、戰(zhàn)略實(shí)踐和倫理監(jiān)管具體行動(dòng)。其中,頂層設(shè)計(jì)立足美國(guó)國(guó)家戰(zhàn)略層面推進(jìn)對(duì)數(shù)據(jù)的管理、保護(hù)和共享等工作。中層銜接是大數(shù)據(jù)倫理監(jiān)管的關(guān)鍵環(huán)節(jié),主要包括政策協(xié)調(diào)機(jī)構(gòu),首席數(shù)據(jù)官、機(jī)構(gòu)網(wǎng)絡(luò)和數(shù)據(jù)管理,法律和監(jiān)管框架,技術(shù)能力建設(shè)、協(xié)作和知識(shí)共享等四個(gè)方面。在政策協(xié)調(diào)機(jī)構(gòu)方面,美國(guó)白宮管理和預(yù)算辦公室(OMB)下設(shè)的數(shù)據(jù)委員會(huì),既負(fù)責(zé)協(xié)調(diào)數(shù)據(jù)戰(zhàn)略的實(shí)施,也負(fù)責(zé)通知數(shù)據(jù)管理和使用的預(yù)算優(yōu)先事項(xiàng)。在大數(shù)據(jù)倫理監(jiān)管的政策布局方面,具有代表性的是2020年9月美國(guó)總務(wù)管理局(GSA)聯(lián)同14個(gè)聯(lián)邦政府機(jī)構(gòu)共同發(fā)布的《數(shù)據(jù)倫理框架草案》[24],其提出了數(shù)據(jù)倫理的的七項(xiàng)基本原則:一是了解并遵守適用的法規(guī)、規(guī)定、行業(yè)準(zhǔn)則和道德標(biāo)準(zhǔn);二是誠(chéng)實(shí)并正直行事;三是負(fù)責(zé)并追究他人責(zé)任;四是保持透明;五是了解數(shù)據(jù)科學(xué)領(lǐng)域的進(jìn)展,包括數(shù)據(jù)系統(tǒng)、技能和技術(shù)等方面;六是尊重隱私和機(jī)密性;七是尊重公眾、個(gè)人和社區(qū)。
美國(guó)在大數(shù)據(jù)倫理監(jiān)管領(lǐng)域的國(guó)家戰(zhàn)略與政策布局始于奧巴馬政府時(shí)期,自 2012 年以來(lái),美國(guó)作為全球大數(shù)據(jù)倫理監(jiān)管與治理的領(lǐng)跑者,相繼出臺(tái)了系列法律法規(guī)推動(dòng)大數(shù)據(jù)倫理監(jiān)管。2012年3月,奧巴馬政府頒布《大數(shù)據(jù)研發(fā)倡議》,其中提出大數(shù)據(jù)收集、分享過(guò)程中要注意隱私、安全和道德。在此倡議促進(jìn)下,聯(lián)邦政府機(jī)構(gòu)、科研院所和社會(huì)企業(yè)在大數(shù)據(jù)研發(fā)、管理和應(yīng)用等方面進(jìn)行了積極探索,取得了明顯進(jìn)展。在特朗普政府時(shí)期,延續(xù)了奧巴馬政府的大數(shù)據(jù)倫理監(jiān)管與治理的政策思路,進(jìn)一步挖掘大數(shù)據(jù)的正向經(jīng)濟(jì)與社會(huì)價(jià)值。2019年12月,美國(guó)白宮管理和預(yù)算辦公室(OMB)發(fā)布《聯(lián)邦數(shù)據(jù)戰(zhàn)略2020行動(dòng)計(jì)劃》。該行動(dòng)計(jì)劃以政府?dāng)?shù)據(jù)治理為主要視角,描繪了聯(lián)邦政府未來(lái)十年的數(shù)據(jù)愿景以及 2020 年需要采取的關(guān)鍵行動(dòng),目的是在保護(hù)安全、隱私和機(jī)密的同時(shí),充分發(fā)揮美國(guó)聯(lián)邦數(shù)據(jù)資產(chǎn)的潛力,加速使用數(shù)據(jù)執(zhí)行任務(wù)、服務(wù)公眾和管理資源。拜登政府時(shí)期持續(xù)加快對(duì)大數(shù)據(jù)倫理監(jiān)管的政策布局,2021年10月25日,拜登政府發(fā)布《聯(lián)邦數(shù)據(jù)戰(zhàn)略2021行動(dòng)計(jì)劃》,在指導(dǎo)各機(jī)構(gòu)應(yīng)對(duì)共同的數(shù)據(jù)挑戰(zhàn)過(guò)程中使用現(xiàn)有的協(xié)作渠道幫助實(shí)現(xiàn)人工智能研究的民主化并發(fā)展聯(lián)邦勞動(dòng)力的數(shù)據(jù)技能。2022年1月26日,美國(guó)白宮管理和預(yù)算辦公室(OMB)發(fā)布了一項(xiàng)聯(lián)邦戰(zhàn)略,旨在推動(dòng)美國(guó)聯(lián)邦政府對(duì)網(wǎng)絡(luò)安全采取“零信任”方法。在落實(shí)關(guān)于改善國(guó)家網(wǎng)絡(luò)安全問(wèn)題上,該戰(zhàn)略意味著向前邁出的關(guān)鍵一步,其側(cè)重于進(jìn)一步推進(jìn)數(shù)據(jù)安全措施以顯著降低針對(duì)聯(lián)邦政府?dāng)?shù)字基礎(chǔ)設(shè)施的網(wǎng)絡(luò)攻擊風(fēng)險(xiǎn)。2023年3月31日,美國(guó)白宮科技政策辦公室(OSTP)發(fā)布《促進(jìn)數(shù)據(jù)共享與分析中的隱私保護(hù)國(guó)家戰(zhàn)略》,正式確立了政府的大數(shù)據(jù)倫理監(jiān)管目標(biāo),該目標(biāo)支持保護(hù)隱私數(shù)據(jù)共享和分析(Privacy?Preserving Data Sharing and Analytics, 簡(jiǎn)稱PPDSA)技術(shù),1該戰(zhàn)略關(guān)注PPDSA技術(shù)對(duì)經(jīng)濟(jì)和社會(huì)的外部性影響,尤其關(guān)注對(duì)弱勢(shì)群體隱私的影響,提出了PPDSA技術(shù)需要保持透明度與包容性,尊重隱私、保護(hù)公民自由和權(quán)利。
從大數(shù)據(jù)倫理監(jiān)管的重點(diǎn)領(lǐng)域來(lái)看,美國(guó)的政策布局主要集中于數(shù)據(jù)隱私領(lǐng)域。《美國(guó)數(shù)據(jù)隱私和保護(hù)法》為公司收集的個(gè)人信息制定國(guó)家標(biāo)準(zhǔn)和保障措施,包括旨在解決算法潛在歧視影響的措施。作為聯(lián)邦政府對(duì)人工智能倫理監(jiān)管需求增長(zhǎng)趨勢(shì)的重要回應(yīng)的組成部分,《美國(guó)數(shù)據(jù)隱私和保護(hù)法》代表了美國(guó)在制定全面的數(shù)據(jù)隱私法方面取得了一定的進(jìn)展。盡管近年來(lái)推出了其他幾項(xiàng)涉及算法決策的聯(lián)邦法案,但《美國(guó)數(shù)據(jù)隱私和保護(hù)法》是第一個(gè)得到兩黨支持和推動(dòng)的法案,也是第一個(gè)將針對(duì)算法問(wèn)責(zé)制和偏見的條款與解決數(shù)據(jù)隱私和安全問(wèn)題的條款捆綁在一起的法案。該法案確定了幾種不同類型的實(shí)體,這些實(shí)體具有額外的義務(wù)或豁免權(quán)。對(duì)于某些義務(wù),相關(guān)實(shí)體按“影響”(影響力依據(jù)年度全球收入和受實(shí)體運(yùn)營(yíng)影響的數(shù)據(jù)主體數(shù)量而定)和“與數(shù)據(jù)主體的具體關(guān)系”(表現(xiàn)為直接關(guān)系、第三方關(guān)系或服務(wù)提供商關(guān)系等)進(jìn)行分類。實(shí)體收集的“數(shù)據(jù)”被定義為“識(shí)別或鏈接或合理鏈接到一個(gè)或多個(gè)人的信息,包括派生數(shù)據(jù)和唯一標(biāo)識(shí)符?!?重要的是,員工數(shù)據(jù)和公開數(shù)據(jù)都被排除在這個(gè)定義之外。而且某些類型的數(shù)據(jù)被定義為敏感數(shù)據(jù),包括政府標(biāo)識(shí)符(如駕駛執(zhí)照或社會(huì)安全碼)以及與健康、地理位置、財(cái)務(wù)、登錄憑據(jù)、種族、性別或階級(jí)身份相關(guān)的數(shù)據(jù)。
(三)面向區(qū)塊鏈倫理監(jiān)管的政策布局
區(qū)塊鏈結(jié)合了多種技術(shù),為沒(méi)有中央機(jī)構(gòu)(例如銀行)的多方交易提供可信、防篡改的記錄。區(qū)塊鏈可用于各種金融和非金融應(yīng)用,包括加密貨幣、供應(yīng)鏈管理和法律記錄。2022年3月23日,美國(guó)國(guó)會(huì)政府問(wèn)責(zé)局(GAO)發(fā)布《區(qū)塊鏈——新興技術(shù)為某些應(yīng)用帶來(lái)好處但面臨挑戰(zhàn)》報(bào)告,該報(bào)告提出區(qū)塊鏈對(duì)某些應(yīng)用程序有用,但對(duì)其他應(yīng)用程序來(lái)說(shuō)用處有限甚至存在問(wèn)題。例如,由于其抗篡改性,它可能對(duì)涉及許多不一定相互信任的參與者的應(yīng)用程序有用。即使對(duì)于少數(shù)受信任的用戶來(lái)說(shuō),區(qū)塊鏈的某些應(yīng)用程序可能過(guò)于復(fù)雜,而傳統(tǒng)的電子表格和數(shù)據(jù)庫(kù)可能更有用。更為關(guān)鍵的是,區(qū)塊鏈還可能帶來(lái)安全和隱私方面的倫理挑戰(zhàn)。從監(jiān)管制度形式上,美國(guó)主要采取立法的形式對(duì)區(qū)塊鏈倫理進(jìn)行監(jiān)管,商務(wù)部長(zhǎng)與聯(lián)邦貿(mào)易委員會(huì)(FTC)協(xié)商向國(guó)會(huì)提交一份關(guān)于區(qū)塊鏈技術(shù)現(xiàn)狀及其在消費(fèi)者保護(hù)中應(yīng)用的報(bào)告。2021 年5月28日,美國(guó)眾議院能源和商業(yè)委員會(huì)的立法聽證會(huì)提出了《區(qū)塊鏈創(chuàng)新法案》,該法案的倫理監(jiān)管目標(biāo)主要是減少欺詐以及提高商業(yè)交易的安全性。
從區(qū)塊鏈倫理監(jiān)管的重點(diǎn)領(lǐng)域來(lái)看,美國(guó)的政策布局主要集中于區(qū)塊鏈透明度領(lǐng)域,這有助于阻止美國(guó)區(qū)塊鏈公司轉(zhuǎn)移到其他國(guó)家。明確的行業(yè)監(jiān)管框架可以讓個(gè)人和公司在美國(guó)更成功地參與區(qū)塊鏈相關(guān)的商業(yè)活動(dòng),包括監(jiān)管實(shí)體和開發(fā)商在內(nèi)的決策者都可以使用監(jiān)管沙盒等工具來(lái)進(jìn)行區(qū)塊鏈監(jiān)管。例如,2018年10月至2021年4月,有11家企業(yè)加入了亞利桑那州金融技術(shù)監(jiān)管沙盒。在聯(lián)邦政府層面,消費(fèi)者金融保護(hù)局(CFPB)創(chuàng)建了一個(gè)合規(guī)援助沙盒,在與該局共享數(shù)據(jù)的同時(shí),企業(yè)可以在有限的時(shí)間內(nèi)獲得測(cè)試創(chuàng)新產(chǎn)品和服務(wù)的安全港。這可以為決策者提供機(jī)制,使其在面臨監(jiān)管不確定性時(shí)能夠更好地履行法定義務(wù)。與此同時(shí),決策者能夠提供可協(xié)調(diào)的改進(jìn)措施或提出明確預(yù)期的方案,以打擊區(qū)塊鏈相關(guān)商業(yè)中的非法活動(dòng)。例如,美國(guó)財(cái)政部的金融犯罪執(zhí)法網(wǎng)絡(luò)(FinCEN)近年來(lái)提出了一項(xiàng)規(guī)則,要求銀行提交報(bào)告、保存記錄并驗(yàn)證某些加密貨幣交易中客戶的身份,以確保加密貨幣行業(yè)更好地應(yīng)對(duì)反洗錢和國(guó)家安全風(fēng)險(xiǎn)方面的挑戰(zhàn)。
三、美國(guó)數(shù)字科技倫理監(jiān)管的主要主體與重點(diǎn)議題
(一)美國(guó)數(shù)字科技倫理監(jiān)管的主要主體
1.美國(guó)聯(lián)邦政府
美國(guó)聯(lián)邦政府是美國(guó)數(shù)字科技倫理監(jiān)管的主要主體,其主要采取國(guó)會(huì)立法的方式對(duì)數(shù)字科技倫理開展規(guī)范與引導(dǎo)。目前,美國(guó)聯(lián)邦政府由6個(gè)機(jī)構(gòu)和獨(dú)立組織代表整個(gè)聯(lián)邦政府開發(fā)人工智能技術(shù)或政策。第一,美國(guó)白宮科技政策辦公室(OSTP)為總統(tǒng)辦公廳提供經(jīng)濟(jì)、國(guó)家安全、國(guó)土安全等方面的建議。OSTP發(fā)布多個(gè)行政命令,確定聯(lián)邦政府關(guān)于人工智能監(jiān)管的總體政策目標(biāo)。特別是在《2020年國(guó)家人工智能倡議法案》通過(guò)后,OSTP成立了國(guó)家人工智能計(jì)劃辦公室(NAIO),該辦公室全面負(fù)責(zé)開發(fā)、使用和管理人工智能。第二,美國(guó)總務(wù)管理局(GSA)是提供政府信息資源的部門,為各政府機(jī)構(gòu)帶來(lái)了眾多尖端技術(shù),GSA的人工智能卓越中心(COE)為聯(lián)邦政府機(jī)構(gòu)提供服務(wù),以確保聯(lián)邦政府機(jī)構(gòu)能夠采用最佳的方式將人工智能技術(shù)運(yùn)用到政府服務(wù)中。第三,美國(guó)國(guó)家人工智能安全委員會(huì)(NSCAI)獲得2019年國(guó)防授權(quán)的特許和資助,并于2021年 3月提交了最終報(bào)告,該報(bào)告就美國(guó)應(yīng)如何在人工智能時(shí)代保持優(yōu)勢(shì)提出了戰(zhàn)略性建議,為美國(guó)在人工智能時(shí)代遏制他國(guó)、贏得競(jìng)爭(zhēng)提出了戰(zhàn)略方針和行動(dòng)路線圖。第四,美國(guó)商務(wù)部(DOC)推進(jìn)其下屬各局跟進(jìn)人工智能倫理監(jiān)管政策的實(shí)施。聯(lián)邦貿(mào)易委員會(huì)(FTC)就如何最佳定位、開發(fā)和提供人工智能產(chǎn)品和服務(wù),以避免與現(xiàn)有和潛在的未來(lái)立法沖突,向企業(yè)發(fā)布了指導(dǎo)意見。第五,美國(guó)白宮管理和預(yù)算辦公室(OMB)發(fā)布了如何規(guī)范人工智能應(yīng)用程序的指南,該指南為發(fā)展和部署人工智能相關(guān)技術(shù)提供監(jiān)管和非監(jiān)管方法,減少發(fā)展人工智能技術(shù)的障礙。第六,美國(guó)兩黨人工智能核心小組,通過(guò)報(bào)告和個(gè)人法案制定相關(guān)法案。另外,美國(guó)國(guó)土安全部科學(xué)技術(shù)局 (S&T) 在數(shù)字科技倫理監(jiān)管方面也作為重要的監(jiān)管主體開展系列政策設(shè)計(jì)。
2.美國(guó)州政府
美國(guó)對(duì)數(shù)字科技倫理監(jiān)管的主要主體還包括美國(guó)州政府,且相當(dāng)程度上美國(guó)州政府對(duì)數(shù)字科技倫理監(jiān)管具有較大程度的自主權(quán)與政策制定空間。在數(shù)字科技倫理監(jiān)管的重點(diǎn)領(lǐng)域,美國(guó)州政府都有自己的舉措,比美國(guó)聯(lián)邦政府更積極更主動(dòng)。在特朗普政府時(shí)期,美國(guó)聯(lián)邦政府與國(guó)會(huì)通過(guò)的《2020年國(guó)家人工智能倡議法案》對(duì)人工智能倫理監(jiān)管采取寬松策略,州政府層面的其他立法建議則采取更主動(dòng)的人工智能倫理監(jiān)管策略。例如,加利福尼亞州的《2020年自動(dòng)決策系統(tǒng)問(wèn)責(zé)法》則早于美國(guó)聯(lián)邦政府。在自動(dòng)駕駛汽車的監(jiān)管方面,2011年美國(guó)內(nèi)華達(dá)州就通過(guò)第一個(gè)關(guān)于自動(dòng)駕駛汽車檢測(cè)的立法,該法規(guī)定了自動(dòng)駕駛汽車的檢測(cè)條件,要求對(duì)自動(dòng)駕駛技術(shù)進(jìn)行監(jiān)管。目前已有40個(gè)州通過(guò)了法律或行政命令規(guī)制自動(dòng)駕駛汽車。在人臉識(shí)別技術(shù)的監(jiān)管方面,美國(guó)聯(lián)邦政府未出臺(tái)統(tǒng)一的規(guī)定,而美國(guó)德克薩斯州、弗吉尼亞州、加利福尼亞州等都針對(duì)“深度偽造”行為出臺(tái)了相應(yīng)法案,走在了聯(lián)邦政府的前面。
3.行業(yè)協(xié)會(huì)
美國(guó)行業(yè)協(xié)會(huì)在數(shù)字科技倫理監(jiān)管過(guò)程中主要扮演參與者與協(xié)同者的角色。以人工智能倫理監(jiān)管為例,美國(guó)聯(lián)邦政府早期主要采取不干預(yù)的原則,主要是通過(guò)各州發(fā)揮自主性與獨(dú)立性開展相關(guān)人工智能倫理監(jiān)管的政策制定與政策執(zhí)行,且社會(huì)各界對(duì)人工智能倫理監(jiān)管尚存在廣泛的爭(zhēng)議性。美國(guó)商會(huì)(USCC)則呼吁對(duì)人工智能進(jìn)行監(jiān)管,以確保它不會(huì)損害經(jīng)濟(jì)增長(zhǎng)或成為國(guó)家安全風(fēng)險(xiǎn)。美國(guó)人工智能促進(jìn)協(xié)會(huì)(AAAI)在人工智能倫理監(jiān)管中發(fā)揮了重要作用,其主要致力于促進(jìn)人工智能的研究和應(yīng)用。AAAI還旨在提高公眾對(duì)人工智能的理解,提高人工智能從業(yè)者的教學(xué)和培訓(xùn)水平,并為研究規(guī)劃者和資助者提供當(dāng)前人工智能發(fā)展?jié)摿臀磥?lái)方向的指導(dǎo)。AAAI提出了專業(yè)性的人工智能道德原則以監(jiān)管人工智能行為,具體包括:一是承認(rèn)所有人都是利益相關(guān)方;二是避免傷害(負(fù)面后果);三是誠(chéng)實(shí)守信;四是公平并采取行動(dòng)不歧視;五是尊重產(chǎn)生新想法、發(fā)明、創(chuàng)意作品和計(jì)算工件所需的工作;六是尊重隱私;七是保密。
4.企業(yè)
美國(guó)在發(fā)揮聯(lián)邦政府與州政府對(duì)數(shù)字科技倫理監(jiān)管的引領(lǐng)與規(guī)范的同時(shí),也充分發(fā)揮市場(chǎng)自我調(diào)節(jié)的重要功能,主要體現(xiàn)為充分尊重企業(yè)作為數(shù)字科技倫理治理的重要角色與功能。企業(yè)扮演數(shù)字科技倫理監(jiān)管的參與者、互補(bǔ)者與協(xié)同者的重要角色,發(fā)揮對(duì)數(shù)字技術(shù)倫理治理的重要功能。以IBM為例,針對(duì)數(shù)字科技倫理的監(jiān)管與治理,IBM組建了道德倫理委員會(huì)。其中,IBM 的人工智能道德委員會(huì)是一個(gè)多學(xué)科機(jī)構(gòu),負(fù)責(zé)領(lǐng)導(dǎo)人工智能道德政策和實(shí)踐的治理和決策過(guò)程。具體來(lái)看,IBM的人工智能道德委員會(huì)的倫理監(jiān)管目標(biāo)是在整個(gè)公司層面支持道德、負(fù)責(zé)任和值得信賴的人工智能文化和價(jià)值觀,并指導(dǎo)公司技術(shù)層與業(yè)務(wù)層對(duì)人工智能系統(tǒng)進(jìn)行道德開發(fā)和部署。與此同時(shí),IBM遵循三個(gè)總體原則:第一,人工智能的目的是增強(qiáng)人類智能。第二,數(shù)據(jù)和見解屬于其創(chuàng)造者。第三,人工智能技術(shù)必須透明且可解釋。IBM堅(jiān)信當(dāng)人工智能成為企業(yè)的核心甚至支柱型技術(shù)或者業(yè)務(wù)時(shí),人工智能的可解釋性、公平性、魯棒性(穩(wěn)健性)、透明性和隱私性成為人工智能倫理監(jiān)管的重要內(nèi)容與追求目標(biāo),只有遵循上述原則才能構(gòu)建真正合乎道德的人工智能工具。
(二)美國(guó)數(shù)字科技倫理監(jiān)管的重點(diǎn)議題
1. 道德式人工智能與透明、公平和可解釋的算法
美國(guó)對(duì)人工智能倫理監(jiān)管的重點(diǎn)在于著重塑造道德式人工智能與透明、公平和可解釋的算法。既有研究普遍認(rèn)為,從人工智能技術(shù)中獲益將取決于創(chuàng)建和部署人工智能系統(tǒng)的能力,這些系統(tǒng)被認(rèn)為是合乎道德和值得信賴的。但是,目前最大的挑戰(zhàn)在于對(duì)什么是合乎道德和值得信賴的人工智能、如何識(shí)別人工智能以及如何在實(shí)踐中證明人工智能的可持續(xù)性尚未達(dá)成共識(shí)。解決人工智能與人類社會(huì)可能存在的道德倫理沖突和可能的負(fù)外部性的可行方法是:基于透明、公平和可解釋等概念框定人工智能算法開發(fā)、系統(tǒng)部署和技術(shù)使用的基本規(guī)范,通過(guò)人工智能的算法設(shè)計(jì)與算法驗(yàn)證能夠證明該算法是透明、公平和可解釋的。另外,人工智能的可解釋性問(wèn)題被稱為人工智能的“黑匣子問(wèn)題”,許多機(jī)器學(xué)習(xí)算法系統(tǒng)的響應(yīng)無(wú)法用人們?nèi)菀桌斫獾男g(shù)語(yǔ)解釋。開發(fā)機(jī)器學(xué)習(xí)算法的標(biāo)準(zhǔn)方法產(chǎn)生了一組高度復(fù)雜的數(shù)據(jù)矩陣,包含數(shù)百、數(shù)千或數(shù)百萬(wàn)個(gè)連接節(jié)點(diǎn),每個(gè)節(jié)點(diǎn)都包含一個(gè)權(quán)重或值。當(dāng)機(jī)器學(xué)習(xí)模型被“訓(xùn)練”時(shí),這些權(quán)重需要進(jìn)行調(diào)整以提高模型的性能。這個(gè)動(dòng)態(tài)的、復(fù)雜的系統(tǒng)不是為了去解釋決策過(guò)程,也通常不能提供一個(gè)容易理解的原因解釋,即無(wú)法說(shuō)明它是如何達(dá)到任何給定的結(jié)果。目前,美國(guó)正對(duì)人工智能的可解釋性問(wèn)題開展系統(tǒng)性研究,例如,通過(guò)了美國(guó)國(guó)防預(yù)先研究計(jì)劃局(DARPA)的“可解釋人工智能”(XIA)計(jì)劃,該計(jì)劃的主要目的是開發(fā)可解釋的人工智能系統(tǒng),讓算法開發(fā)與研究人員能夠開發(fā)與設(shè)計(jì)更多可解釋的算法模型,同時(shí)保持高水平的智能學(xué)習(xí)表現(xiàn)(預(yù)測(cè)準(zhǔn)確性),并兼顧算法決策的過(guò)程性以及算法決策結(jié)果的準(zhǔn)確性。
美國(guó)聯(lián)邦政府對(duì)算法倫理監(jiān)管的重點(diǎn)在于算法決策的公平性、算法透明度方面。2022年7月20日,美國(guó)國(guó)會(huì)眾議院能源和商業(yè)委員會(huì)通過(guò)的《美國(guó)數(shù)據(jù)隱私和保護(hù)法》,其提出了算法決策的公平性和算法歧視監(jiān)管的相關(guān)條款,在第207條明確提出“公民權(quán)利和算法”,根據(jù)該條款,相關(guān)實(shí)體和服務(wù)提供商不得以歧視或其他方式收集、處理或傳輸存在具有歧視性的數(shù)據(jù),比如基于種族、膚色、宗教、國(guó)籍、性別或殘疾狀況的數(shù)據(jù)。且與美國(guó)大多數(shù)現(xiàn)有的州政府?dāng)?shù)據(jù)隱私法不同,《美國(guó)數(shù)據(jù)隱私和保護(hù)法》要求不同類型的公司評(píng)估某些算法程序、算法模型與工具的具體影響,并將這些評(píng)估結(jié)果提交給聯(lián)邦貿(mào)易委員會(huì)(FTC)。在算法透明度方面,美國(guó)立法的重點(diǎn)在于監(jiān)管算法設(shè)計(jì)開發(fā)層面的算法透明度,根據(jù)《美國(guó)數(shù)據(jù)隱私和保護(hù)法》的相關(guān)內(nèi)容,相關(guān)實(shí)體和服務(wù)提供商必須評(píng)估算法在設(shè)計(jì)、模型結(jié)構(gòu)和數(shù)據(jù)輸入層面可能存在的倫理問(wèn)題,以降低潛在歧視性影響的風(fēng)險(xiǎn)。更為關(guān)鍵的是,《美國(guó)數(shù)據(jù)隱私和保護(hù)法案》對(duì)算法可能存在的危害構(gòu)建了負(fù)面清單,以負(fù)面清單式監(jiān)管規(guī)避可能的算法負(fù)外部性。
2.數(shù)據(jù)隱私與數(shù)據(jù)倫理
美國(guó)在大數(shù)據(jù)領(lǐng)域的數(shù)據(jù)泄露事件引發(fā)的公共安全和個(gè)體隱私破壞等風(fēng)險(xiǎn)持續(xù)存在,根據(jù)德國(guó)研究型數(shù)據(jù)統(tǒng)計(jì)公司Statista的統(tǒng)計(jì),美國(guó)的數(shù)據(jù)泄露事件數(shù)量從2010年的662起大幅飆升至2020年的1 000多起。自2020年以來(lái),每起數(shù)據(jù)泄露事件對(duì)公司造成的平均損失為50萬(wàn)美元。在大數(shù)據(jù)領(lǐng)域,美國(guó)數(shù)字科技倫理監(jiān)管的重點(diǎn)在于數(shù)據(jù)隱私與數(shù)據(jù)倫理等方面,即充分尊重與保障數(shù)據(jù)權(quán)屬下的個(gè)人隱私和公共安全。實(shí)際上,在面向大數(shù)據(jù)技術(shù)的科技倫理監(jiān)管政策方面,美國(guó)自?shī)W巴馬政府以來(lái)持續(xù)重視數(shù)據(jù)倫理。例如,2012年3月,美國(guó)白宮發(fā)布的《大數(shù)據(jù)研究與發(fā)展計(jì)劃》是美國(guó)在國(guó)家戰(zhàn)略意義上正式出臺(tái)大數(shù)據(jù)戰(zhàn)略,并在2012年3月29日進(jìn)一步發(fā)布《大數(shù)據(jù)研究和發(fā)展倡議》,提出需要增強(qiáng)大數(shù)據(jù)收集過(guò)程、使用分享過(guò)程中的隱私保護(hù)、安全與道德性,確保使用主體的使用過(guò)程能夠合乎社會(huì)道德以及避免破壞個(gè)人隱私和公共安全。為進(jìn)一步保障大數(shù)據(jù)應(yīng)用過(guò)程中的數(shù)據(jù)隱私,美國(guó)自2013年以來(lái)持續(xù)公布系列關(guān)于數(shù)據(jù)隱私保護(hù)的相關(guān)行動(dòng)計(jì)劃。例如,2013年5月9日,美國(guó)聯(lián)邦政府簽署行政命令13 642號(hào)《開放數(shù)據(jù)政策備忘錄》,規(guī)定所有新生成的聯(lián)邦數(shù)據(jù)應(yīng)對(duì)公眾開放,并恰當(dāng)?shù)乇Wo(hù)數(shù)據(jù)隱私。在 2014年5月9日公布的《美國(guó)開放數(shù)據(jù)行動(dòng)計(jì)劃》中,承諾用可發(fā)現(xiàn)的、機(jī)器可讀的、有用的方式發(fā)布公開數(shù)據(jù)。另外,美國(guó)聯(lián)邦政府發(fā)布的《大數(shù)據(jù):關(guān)于算法系統(tǒng)、機(jī)遇和公民權(quán)利報(bào)告》提出,政府的重要任務(wù)在于對(duì)大數(shù)據(jù)與算法系統(tǒng)的系列潛在隱私風(fēng)險(xiǎn)問(wèn)題進(jìn)行監(jiān)管。
在拜登政府時(shí)期,美國(guó)加快了對(duì)大數(shù)據(jù)倫理監(jiān)管的政策布局,把數(shù)據(jù)隱私與數(shù)據(jù)倫理監(jiān)管擺在了更為重要的戰(zhàn)略位置,表現(xiàn)為在立法層面加快了面向數(shù)據(jù)隱私風(fēng)險(xiǎn)防范與追責(zé)體系的立法進(jìn)程。例如,在《聯(lián)邦數(shù)據(jù)戰(zhàn)略》中所提及的第一項(xiàng)原則就是“倫理性治理”,并表示將把數(shù)據(jù)倫理治理作為一種組織原則和文化融入數(shù)據(jù)戰(zhàn)略中。2020年9月,美國(guó)總務(wù)管理局(GSA)聯(lián)同14個(gè)聯(lián)邦政府機(jī)構(gòu)共同發(fā)布了《數(shù)據(jù)倫理框架草案》,該草案指導(dǎo)聯(lián)邦政府雇員在收集和使用數(shù)據(jù)時(shí)作出符合數(shù)據(jù)倫理的選擇。2022年7月20日,美國(guó)眾議院能源和商業(yè)委員會(huì)通過(guò)《美國(guó)數(shù)據(jù)隱私和保護(hù)法》的修正版,與其他數(shù)據(jù)隱私法相比,該法案以不同的術(shù)語(yǔ)和不同的范圍開展全方位大數(shù)據(jù)倫理監(jiān)管,主要體現(xiàn)為:第一,法案面向的實(shí)體范圍發(fā)生重大變化,“涵蓋實(shí)體”定義為收集、處理或傳輸數(shù)據(jù)并受《聯(lián)邦貿(mào)易委員會(huì)法》約束的任何實(shí)體或個(gè)人,包括《通信法》規(guī)定的公共承運(yùn)人,或者是非營(yíng)利組織,實(shí)體范圍涵蓋了絕大多數(shù)企業(yè)。第二,法案面向的數(shù)據(jù)范圍發(fā)生重大變化?!昂w數(shù)據(jù)”包括任何識(shí)別、鏈接或合理鏈接到個(gè)人或設(shè)備的信息,還包括從此類信息中派生的任何數(shù)據(jù)或唯一標(biāo)識(shí)符,如 IP 地址、目標(biāo)廣告標(biāo)識(shí)符等。第三,特別注重保護(hù)未成年的數(shù)據(jù)隱私。法案將“兒童”定義為17歲以下的任何人。第四,對(duì)敏感數(shù)據(jù)進(jìn)行了特別關(guān)注。“敏感數(shù)據(jù)”包括超出其他州隱私法認(rèn)為敏感的數(shù)據(jù)類別。大多數(shù)法律認(rèn)為種族、民族、基因數(shù)據(jù)、兒童數(shù)據(jù)等信息屬于敏感數(shù)據(jù),但《美國(guó)數(shù)據(jù)隱私和保護(hù)法》包括所有這些以及任何設(shè)備的登錄憑據(jù)信息。且敏感數(shù)據(jù)的使用需要在收集、處理或傳輸之前就必須獲得個(gè)人的肯定性明示同意。更為關(guān)鍵的是,《美國(guó)數(shù)據(jù)隱私和保護(hù)法》明確了數(shù)據(jù)持有者的責(zé)任義務(wù)范圍,要求大數(shù)據(jù)持有者承擔(dān)數(shù)據(jù)來(lái)源與處理過(guò)程信息披露、數(shù)據(jù)隱私產(chǎn)生的影響評(píng)估、數(shù)據(jù)自動(dòng)收集與運(yùn)算的影響評(píng)估、年度第三方評(píng)估認(rèn)證等四項(xiàng)義務(wù)。
四、數(shù)字科技倫理監(jiān)管的主要模式與機(jī)制選擇
(一)以國(guó)會(huì)為主導(dǎo)的美國(guó)政府立法與標(biāo)準(zhǔn)引領(lǐng)型監(jiān)管模式
與英國(guó)、歐盟、韓國(guó)等其他發(fā)達(dá)國(guó)家相比,美國(guó)對(duì)數(shù)字科技倫理的監(jiān)管更依賴于政府立法主導(dǎo)的監(jiān)管模式。實(shí)際上,美國(guó)在引入立法模式監(jiān)管數(shù)字科技倫理也從猶豫階段走向了堅(jiān)定落實(shí)階段,呈現(xiàn)出一個(gè)漸進(jìn)式的監(jiān)管模式轉(zhuǎn)型。具體而言,在特朗普政府時(shí)期,政府機(jī)構(gòu)被勸阻不要引入新的監(jiān)管措施,因?yàn)閾?dān)心這些措施會(huì)阻礙創(chuàng)新。從2021年初開始,可以看到有限治理的穩(wěn)步出臺(tái)?!?020年國(guó)家人工智能倡議法案》于2021年1月1日通過(guò),要求建立多個(gè)機(jī)構(gòu)來(lái)提供聯(lián)邦政府層面的跨部門聯(lián)合指導(dǎo)。其中,最著名的是國(guó)家人工智能計(jì)劃辦公室(NAIO),其負(fù)責(zé)支持人工智能研發(fā)、教育計(jì)劃、跨機(jī)構(gòu)規(guī)劃和國(guó)際合作,負(fù)責(zé)監(jiān)督和實(shí)施美國(guó)國(guó)家人工智能戰(zhàn)略,協(xié)調(diào)聯(lián)邦各政府機(jī)構(gòu)、私營(yíng)部門、研究部門和其他利益相關(guān)方在人工智能研究和監(jiān)管政策制定方面的協(xié)調(diào)合作,最終為推進(jìn)人工智能倫理監(jiān)管政策制定與實(shí)施提供整體性部署和戰(zhàn)略性指引。聯(lián)邦政府機(jī)構(gòu)也在推行其他規(guī)模較小的舉措,例如,美國(guó)國(guó)家標(biāo)準(zhǔn)與技術(shù)研究院(NIST)制定的《人工智能風(fēng)險(xiǎn)管理框架》(AI RMF 1.0),該管理框架適用于設(shè)計(jì)、開發(fā)、部署或使用人工智能系統(tǒng)的組織。總體來(lái)說(shuō),美國(guó)對(duì)數(shù)字科技倫理監(jiān)管的立法特點(diǎn)是強(qiáng)調(diào)促進(jìn)創(chuàng)新以保持美國(guó)在數(shù)字科技特別是人工智能領(lǐng)域的全球領(lǐng)導(dǎo)地位,重新利用現(xiàn)有法律并引入目前有利于治理的軟法,這意味著美國(guó)對(duì)數(shù)字科技倫理監(jiān)管立法模式的重點(diǎn)依然是在規(guī)范數(shù)字科技良性生態(tài)發(fā)展的同時(shí),以硬法與軟法相結(jié)合的方式提高數(shù)字科技競(jìng)爭(zhēng)力。
具體來(lái)看,在人工智能倫理監(jiān)管方面,美國(guó)形成了政府立法主導(dǎo)的數(shù)字科技倫理監(jiān)管模式,美國(guó)聯(lián)邦政府持續(xù)重視對(duì)新一代數(shù)字技術(shù)監(jiān)管的立法工作,高度重視人工智能領(lǐng)域的相關(guān)法律法規(guī)等制度建設(shè)。例如,第117屆美國(guó)國(guó)會(huì)在2021年共提出了130項(xiàng)與人工智能相關(guān)的法案。在制定技術(shù)標(biāo)準(zhǔn)方面,美國(guó)聯(lián)邦政府機(jī)構(gòu)主動(dòng)參與人工智能國(guó)際標(biāo)準(zhǔn)制定,以促進(jìn)自愿的、行業(yè)引領(lǐng)的標(biāo)準(zhǔn)制定,促進(jìn)人工智能創(chuàng)新。2019年2月,特朗普在簽署的人工智能行政命令中要求美國(guó)國(guó)家標(biāo)準(zhǔn)與技術(shù)研究院(NIST)發(fā)揮在人工智能標(biāo)準(zhǔn)制定方面的重要作用。美國(guó)在負(fù)責(zé)人工智能標(biāo)準(zhǔn)制定的國(guó)際標(biāo)準(zhǔn)委員會(huì)中處于領(lǐng)導(dǎo)角色,但美國(guó)政策制定者應(yīng)更加積極地應(yīng)對(duì)其他國(guó)家主導(dǎo)的、限制性的、歧視性的標(biāo)準(zhǔn)方法。與此同時(shí),美國(guó)聯(lián)邦政府基于人工智能應(yīng)用領(lǐng)域?qū)I(yè)化原則分部門對(duì)人工智能技術(shù)開展倫理監(jiān)管。例如,美國(guó)交通部(DOT)監(jiān)管自動(dòng)駕駛汽車的使用,美國(guó)食品藥品監(jiān)督管理局(FDA)監(jiān)管基于人工智能的醫(yī)療設(shè)備。1在算法倫理監(jiān)管方面,《算法問(wèn)責(zé)法2019(草案)》進(jìn)入?yún)⒈妰稍旱牧⒎ǔ绦颍摬莅甘敲嫦蛉斯ぶ悄芩惴▊惱肀O(jiān)管的總體部署,特別是對(duì)人工智能算法應(yīng)用廣泛與頻繁的大型互聯(lián)網(wǎng)平臺(tái)企業(yè)的算法倫理提出了明確規(guī)范與要求。在大數(shù)據(jù)倫理監(jiān)管方面,美國(guó)同樣地針對(duì)大數(shù)據(jù)倫理的具體專業(yè)細(xì)分領(lǐng)域出臺(tái)相應(yīng)的監(jiān)管法案和政策布局。例如,2020年6月,美國(guó)參議院發(fā)布《數(shù)據(jù)問(wèn)責(zé)和透明度法2020》,著重將算法對(duì)數(shù)據(jù)自動(dòng)收集和自動(dòng)運(yùn)算決策納入到倫理監(jiān)管框架,提出消費(fèi)者應(yīng)當(dāng)有權(quán)質(zhì)疑收集數(shù)據(jù)的理由并要求人工對(duì)算法自動(dòng)化決策進(jìn)行審查和解釋。
(二)行業(yè)協(xié)會(huì)和研究機(jī)構(gòu)等社會(huì)組織多元參與型監(jiān)管模式
區(qū)別于政府立法主導(dǎo)的數(shù)字科技倫理監(jiān)管模式,各類行業(yè)協(xié)會(huì)和研究機(jī)構(gòu)等社會(huì)組織在美國(guó)數(shù)字科技倫理監(jiān)管特別是在人工智能倫理監(jiān)管中發(fā)揮重要作用,在數(shù)字科技倫理監(jiān)管方面更側(cè)重于對(duì)人工智能技術(shù)的風(fēng)險(xiǎn)識(shí)別、風(fēng)險(xiǎn)評(píng)估,以及對(duì)監(jiān)管原則、監(jiān)管對(duì)象、監(jiān)管內(nèi)容等方面開展系列治理活動(dòng)。
從研究機(jī)構(gòu)來(lái)看,其對(duì)數(shù)字科技倫理監(jiān)管主要是提出前瞻性的監(jiān)管原則與監(jiān)管指南框架,充分提出可預(yù)見性和可操作性的監(jiān)管方案與相應(yīng)監(jiān)管模式。2023年1月26日,美國(guó)國(guó)家標(biāo)準(zhǔn)與技術(shù)研究院(NIST)正式發(fā)布了《人工智能風(fēng)險(xiǎn)管理框架》及配套使用手冊(cè)。該框架旨在幫助人工智能系統(tǒng)的開發(fā)者、用戶和評(píng)估人員更好地管理可能影響個(gè)人、組織、社會(huì)或環(huán)境的人工智能風(fēng)險(xiǎn),提高人工智能系統(tǒng)的可信度,并提出了人工智能風(fēng)險(xiǎn)監(jiān)管的跨周期與多元化參與模式,將相關(guān)活動(dòng)分為應(yīng)用程序背景、數(shù)據(jù)和輸入、人工智能模型、任務(wù)和輸出四個(gè)維度以及“人與地球”一個(gè)特殊維度(用以代表作為人工智能背景的人權(quán)、社會(huì)和地球等更廣泛的福祉),并強(qiáng)調(diào)測(cè)試、評(píng)估、檢驗(yàn)和確認(rèn)在整個(gè)生命周期中的重要地位,監(jiān)管目標(biāo)是確保人工智能更加負(fù)責(zé)任以及更加可信,確保人工智能監(jiān)管貫徹到全生命周期。
從行業(yè)協(xié)會(huì)來(lái)看,美國(guó)行業(yè)協(xié)會(huì)在美國(guó)聯(lián)邦政府立法主導(dǎo)的數(shù)字科技倫理監(jiān)管模式下,逐步形成“強(qiáng)社會(huì)參與以及影響型”監(jiān)管參與模式,這種模式表現(xiàn)為以美國(guó)商會(huì)(USCC)主導(dǎo)的人工智能監(jiān)管標(biāo)準(zhǔn)制定與倡議等形式推動(dòng)美國(guó)聯(lián)邦政府對(duì)人工智能領(lǐng)域的監(jiān)管。2023年3月9日,美國(guó)商會(huì)(USCC)發(fā)布《人工智能委員會(huì)報(bào)告》,呼吁盡快制定人工智能法律監(jiān)管框架,規(guī)避因技術(shù)進(jìn)步導(dǎo)致的國(guó)家安全風(fēng)險(xiǎn)。該報(bào)告提出了人工智能監(jiān)管治理框架的五大原則,既要注重個(gè)人權(quán)利、自由、隱私保護(hù),又要確保美國(guó)人工智能領(lǐng)先地位的創(chuàng)新驅(qū)動(dòng)。具體來(lái)看,五大原則包括:一是效率原則,評(píng)估現(xiàn)有法律法規(guī)的可適用性;二是中立原則,填補(bǔ)法律空白的同時(shí)避免過(guò)度立法和過(guò)度監(jiān)管;三是比例性原則,采取以風(fēng)險(xiǎn)為本的監(jiān)管方法和執(zhí)法手段;四是共治性原則,注重分散化監(jiān)管和協(xié)同治理;五是靈活性原則,鼓勵(lì)私營(yíng)部門進(jìn)行風(fēng)險(xiǎn)評(píng)估和創(chuàng)新。在生成式人工智能1領(lǐng)域,美國(guó)新聞/媒體聯(lián)盟(The News/Media Alliance,簡(jiǎn)稱NMA)在2023年發(fā)布了有關(guān)ChatGPT生成式人工智能的監(jiān)管原則,提出生成式人工智能開發(fā)者與部署者必須尊重創(chuàng)作者對(duì)其內(nèi)容的權(quán)利,尊重知識(shí)產(chǎn)權(quán)(知識(shí)產(chǎn)權(quán)原則)、生成式人工智能系統(tǒng)應(yīng)該對(duì)出版商透明(透明性原則)、生成式人工智能系統(tǒng)的部署者應(yīng)該對(duì)系統(tǒng)輸出負(fù)責(zé)(責(zé)任原則)、生成式人工智能系統(tǒng)不應(yīng)該創(chuàng)造或冒不公平的市場(chǎng)或競(jìng)爭(zhēng)結(jié)果的風(fēng)險(xiǎn)(公平性原則)、生成式人工智能系統(tǒng)應(yīng)該是安全的、避免隱私風(fēng)險(xiǎn)的(安全性)。
(三)企業(yè)以數(shù)字科技倫理嵌入公司治理的嵌入型自治模式
企業(yè)不僅是市場(chǎng)主體,更是技術(shù)創(chuàng)新與應(yīng)用的主體。數(shù)字企業(yè)的主導(dǎo)技術(shù)是數(shù)字科技,以企業(yè)為中心構(gòu)建企業(yè)自我驅(qū)動(dòng)的數(shù)字科技倫理監(jiān)管治理體系尤為重要。美國(guó)企業(yè)主導(dǎo)的數(shù)字科技倫理監(jiān)管主要表現(xiàn)為企業(yè)以數(shù)字技術(shù)治理的方式推動(dòng)數(shù)字科技向善和社會(huì)價(jià)值創(chuàng)造,其主要實(shí)現(xiàn)模式是將企業(yè)數(shù)字科技倫理融入企業(yè)價(jià)值主張、融入企業(yè)戰(zhàn)略、融入企業(yè)技術(shù)創(chuàng)新管理過(guò)程,實(shí)現(xiàn)企業(yè)對(duì)數(shù)字科技倫理的有效治理,確保數(shù)字科技更好地融入社會(huì)。在人工智能算法倫理監(jiān)管領(lǐng)域,Amazon、IBM、Microsoft近年來(lái)都強(qiáng)化了對(duì)人工智能算法的倫理監(jiān)管,主要是通過(guò)企業(yè)主導(dǎo)制定相關(guān)人工智能倫理準(zhǔn)則、人工智能倫理治理倡議等開展數(shù)字科技倫理治理。例如,Microsoft開發(fā)了六項(xiàng)人工智能的首要倫理原則:公平、可靠和安全、隱私和安全、包容性、透明度、問(wèn)責(zé)制。Amazon在戰(zhàn)略層面提出了“負(fù)責(zé)任地使用機(jī)器學(xué)習(xí)算法”,通過(guò)可持續(xù)的數(shù)字技術(shù)開發(fā)價(jià)值觀影響平臺(tái)用戶的方式確保平臺(tái)用戶、其他互補(bǔ)者更負(fù)責(zé)任地開發(fā)與使用機(jī)器學(xué)習(xí)算法等各類工具。具體來(lái)看,Amazon提倡機(jī)器學(xué)習(xí)算法的生命周期包括設(shè)計(jì)和開發(fā)、系統(tǒng)部署、持續(xù)使用三個(gè)主要階段,所有使用機(jī)器學(xué)習(xí)算法的行為都必須尊重法治、人權(quán)、公平、隱私的價(jià)值觀。特別是負(fù)責(zé)任的機(jī)器學(xué)習(xí)算法領(lǐng)域是一個(gè)新興技術(shù)快速發(fā)展的領(lǐng)域,因而機(jī)器學(xué)習(xí)算法的可持續(xù)開發(fā)與利用是算法技術(shù)倫理和算法技術(shù)向善的一個(gè)新的起點(diǎn),需要鼓勵(lì)用戶考慮這些建議背后的價(jià)值觀和意圖,并鼓勵(lì)平臺(tái)用戶與第三方一起負(fù)責(zé)任地開發(fā)或使用機(jī)器學(xué)習(xí)算法系統(tǒng),確保機(jī)器學(xué)習(xí)算法在開發(fā)和使用過(guò)程中不破壞倫理道德和基本人權(quán)等。
企業(yè)開展數(shù)字科技倫理監(jiān)管的另一種模式是基于企業(yè)主導(dǎo)的數(shù)字科技倫理委員會(huì)的方式開展數(shù)字科技倫理治理,這意味著企業(yè)主動(dòng)將數(shù)字科技倫理治理面對(duì)的各類社會(huì)議題、重點(diǎn)難點(diǎn)問(wèn)題放置于公司治理層面,特別是引入各類利益相關(guān)方參與機(jī)制以推動(dòng)數(shù)字科技倫理議題的落實(shí),強(qiáng)化企業(yè)董事會(huì)、戰(zhàn)略委員會(huì)、高管團(tuán)隊(duì)等戰(zhàn)略決策者對(duì)數(shù)字科技倫理的認(rèn)知,確保企業(yè)在數(shù)字技術(shù)開發(fā)與利用過(guò)程中更好地保護(hù)利益相關(guān)方的利益,確保各類戰(zhàn)略決策符合道德規(guī)范和倫理要求。例如,IBM是一家有110年歷史的數(shù)字科技企業(yè),其在2021年成立了人工智能道德委員會(huì),以強(qiáng)化企業(yè)數(shù)字科技倫理治理。具體來(lái)看,在信任和透明原則的指導(dǎo)下,IBM通過(guò)涓滴策略來(lái)追求合乎道德的數(shù)字科技倫理,即其將監(jiān)管重點(diǎn)聚焦特定的數(shù)字科技倫理監(jiān)管領(lǐng)域,而非整體性和全面性的監(jiān)管。具體來(lái)看,IBM人工智能道德委員會(huì)定期處理數(shù)字科技倫理議題,例如,人工智能的精確調(diào)節(jié)、種族司法改革、數(shù)據(jù)責(zé)任、人臉識(shí)別、算法偏見、可信任的人工智能系統(tǒng)等。Facebook是面向社交領(lǐng)域的數(shù)字平臺(tái),為應(yīng)對(duì)用戶輿論可能產(chǎn)生的道德倫理沖突以及對(duì)人權(quán)的破壞等潛在風(fēng)險(xiǎn),F(xiàn)acebook主張以平臺(tái)規(guī)則的全球統(tǒng)一性為邏輯起點(diǎn)開發(fā)一套網(wǎng)絡(luò)社區(qū)輿論標(biāo)準(zhǔn),包括數(shù)百條關(guān)于“仇恨言論”、欺凌、暴力、裸體、假新聞、垃圾郵件、版權(quán)等的規(guī)則,對(duì)可能違反Facebook規(guī)則的內(nèi)容進(jìn)行評(píng)估并作出決定。但是,F(xiàn)acebook在以統(tǒng)一規(guī)則治理的方式開展數(shù)字科技倫理治理的過(guò)程中也面臨諸多的利益相關(guān)方壓力,例如,當(dāng)“黑人的命也是命”抗議活動(dòng)在世界各地蔓延時(shí),社會(huì)活動(dòng)人士認(rèn)為Facebook在處理其平臺(tái)上的“仇恨言論”方面監(jiān)管不力,導(dǎo)致員工抗議和廣告商的廣泛抵制。而且與處理其他有爭(zhēng)議的內(nèi)容相比,F(xiàn)acebook在減少“仇恨言論”方面較少作為,部分原因是針對(duì)“仇恨演講”內(nèi)容需要對(duì)文本語(yǔ)句的上下文敏感性進(jìn)行智能判斷,這對(duì)算法治理提出了較大的挑戰(zhàn)。
五、美國(guó)數(shù)字科技倫理監(jiān)管對(duì)中國(guó)構(gòu)建數(shù)字科技監(jiān)管體系的經(jīng)驗(yàn)借鑒
(一)政府制度設(shè)計(jì)對(duì)中國(guó)的經(jīng)驗(yàn)借鑒
在數(shù)字科技倫理監(jiān)管的政府制度設(shè)計(jì)層面,美國(guó)的主要模式是通過(guò)立法的方式對(duì)數(shù)字技術(shù)可能涉及到的道德倫理風(fēng)險(xiǎn)和潛在道德沖突進(jìn)行監(jiān)管,以各類法律法規(guī)的形式強(qiáng)化數(shù)字技術(shù)在嵌入企業(yè)與社會(huì)過(guò)程中的監(jiān)管治理,確保數(shù)字技術(shù)開發(fā)者、使用者和創(chuàng)新者能夠在統(tǒng)一的規(guī)制與規(guī)則指引下開展統(tǒng)一的行動(dòng)。在人工智能算法領(lǐng)域,監(jiān)管的重點(diǎn)是鼓勵(lì)數(shù)字技術(shù)創(chuàng)新與應(yīng)用,確保技術(shù)開發(fā)與創(chuàng)新過(guò)程中的安全性和道德倫理規(guī)范。更為關(guān)鍵的是,美國(guó)對(duì)數(shù)字科技倫理監(jiān)管的政策呈現(xiàn)出連續(xù)性,即以聯(lián)邦政府主導(dǎo)的國(guó)會(huì)立法持續(xù)推進(jìn)關(guān)于數(shù)字科技倫理監(jiān)管的法律法規(guī)。以人工智能算法倫理監(jiān)管為例,早在2016年奧巴馬政府時(shí)期,就發(fā)布了《國(guó)家人工智能研究與發(fā)展戰(zhàn)略規(guī)劃》,其推動(dòng)對(duì)人工智能開始系統(tǒng)性研究,促進(jìn)人工智能可持續(xù)發(fā)展,要求人工智能研究與開發(fā)契合社會(huì)需求和道德倫理規(guī)范。2019年特朗普政府時(shí)期繼續(xù)強(qiáng)化對(duì)人工智能發(fā)展戰(zhàn)略規(guī)劃過(guò)程中的道德倫理、法律與社會(huì)影響評(píng)估,新增了確保人工智能系統(tǒng)的安全性內(nèi)容,將人工智能算法應(yīng)用的安全建設(shè)作為人工智能重大戰(zhàn)略方向之一。2020年1月,美國(guó)白宮發(fā)布了《人工智能應(yīng)用監(jiān)管指南》,該指南從監(jiān)管和非監(jiān)管兩個(gè)層面提出了人工智能應(yīng)用的相關(guān)原則和建議,并針對(duì)通用或特定行業(yè)人工智能應(yīng)用程序的設(shè)計(jì)、開發(fā)、部署和操作提出10條監(jiān)管原則,具體包括公眾對(duì)人工智能的信任、公眾參與、科學(xué)完整性與信息質(zhì)量、風(fēng)險(xiǎn)評(píng)估與管理、成本效益分析、靈活性、公平性與非歧視性、信息與透明度、安全性與可靠性、跨部門協(xié)調(diào)??梢钥闯?,美國(guó)對(duì)數(shù)字科技倫理監(jiān)管制度總體上遵循漸進(jìn)式原則,且在制度安排上偏向于戰(zhàn)略性指引、總體性意見、抽象式原則逐步走向具象性法律監(jiān)管,在立法過(guò)程中以靈活有效、科學(xué)前沿的措施對(duì)人工智能算法、大數(shù)據(jù)主體進(jìn)行科學(xué)分類,并非采取“一刀切”的方式進(jìn)行監(jiān)管,而是立足分類治理原則推進(jìn)以人工智能、大數(shù)據(jù)、區(qū)塊鏈等為核心的數(shù)字科技倫理監(jiān)管。
因此,中國(guó)在數(shù)字科技倫理監(jiān)管的制度構(gòu)建和政策設(shè)計(jì)過(guò)程中,一方面,需要積極借鑒美國(guó)國(guó)會(huì)立法這一最高頂層制度設(shè)計(jì)的模式開展數(shù)字科技倫理監(jiān)管,鼓勵(lì)地方政府在重要行業(yè)和創(chuàng)新領(lǐng)域先行先試,充分發(fā)揮地方自主性原則,積極借鑒美國(guó)采取“州政府監(jiān)管早于聯(lián)邦政府統(tǒng)一立法”方式,在地方重要行業(yè)和重要領(lǐng)域先行先試的基礎(chǔ)上,積極探索監(jiān)管成功模式與經(jīng)驗(yàn),以法律為最高準(zhǔn)繩,并充分發(fā)揮市場(chǎng)的調(diào)節(jié)功能,面向數(shù)字科技重點(diǎn)行業(yè)和重點(diǎn)領(lǐng)域開展相關(guān)立法工作,針對(duì)人工智能的技術(shù)類型與倫理影響程度的差異性,盡快探索通用性人工智能和專用性人工智能的差異性倫理監(jiān)管法律,進(jìn)而確定不同類型人工智能倫理監(jiān)管的主要主體、主要對(duì)象、主要議題、主要措施和監(jiān)管邊界范圍。另一方面,政府在數(shù)字科技倫理監(jiān)管的制度與政策涉及的目標(biāo)取向方面,其重要目標(biāo)之一在于識(shí)別、控制、防范數(shù)字科技創(chuàng)新與應(yīng)用過(guò)程中的道德倫理風(fēng)險(xiǎn)和公共安全風(fēng)險(xiǎn),以最大限度地降低風(fēng)險(xiǎn)源和最大限度地控制風(fēng)險(xiǎn)環(huán)節(jié)為基本原則,針對(duì)各類數(shù)字科技開發(fā)與設(shè)計(jì)的相關(guān)組織和主體進(jìn)行倫理監(jiān)管制度設(shè)計(jì)。
(二)監(jiān)管模式設(shè)計(jì)對(duì)中國(guó)的經(jīng)驗(yàn)借鑒
在監(jiān)管模式設(shè)計(jì)方面,美國(guó)對(duì)數(shù)字科技倫理監(jiān)管模式主要是以政府戰(zhàn)略引領(lǐng)、法律牽引、市場(chǎng)自治的方式開展數(shù)字科技倫理監(jiān)管,充分發(fā)揮政府對(duì)數(shù)字科技倫理的宏觀政策制定與調(diào)控作用,更好地發(fā)揮市場(chǎng)主體特別是從事數(shù)字技術(shù)創(chuàng)新、開發(fā)與應(yīng)用的主體自我治理的重要作用,以分層分類的模式開展數(shù)字科技倫理監(jiān)管。具體來(lái)講,從分層的視角來(lái)看,美國(guó)在發(fā)揮州政府積極性與自主性的基礎(chǔ)上,進(jìn)一步通過(guò)國(guó)會(huì)和聯(lián)邦政府機(jī)構(gòu)的制度建構(gòu)和政策部署推動(dòng)整體性的數(shù)字科技倫理監(jiān)管行動(dòng)。在人工智能倫理監(jiān)管方面,美國(guó)在人臉識(shí)別技術(shù)的倫理監(jiān)管便是由州政府自主探索,走在聯(lián)邦立法的前面。以《美國(guó)數(shù)據(jù)隱私和保護(hù)法》為例,在充分考慮美國(guó)各州隱私法的基礎(chǔ)上,進(jìn)一步提出區(qū)別于美國(guó)各州隱私法的關(guān)鍵監(jiān)管內(nèi)容和監(jiān)管議題。從分類的視角來(lái)看,美國(guó)對(duì)數(shù)字科技倫理監(jiān)管以監(jiān)管對(duì)象、監(jiān)管領(lǐng)域、監(jiān)管議題等多重分類思路開展數(shù)字科技倫理監(jiān)管制度與政策設(shè)計(jì),針對(duì)數(shù)據(jù)持有者的差異性,大型數(shù)據(jù)持有者的數(shù)據(jù)倫理風(fēng)險(xiǎn)和公共安全風(fēng)險(xiǎn)更大,其監(jiān)管內(nèi)容重點(diǎn)與小型數(shù)據(jù)持有者的數(shù)據(jù)倫理監(jiān)管內(nèi)容具有明顯的責(zé)任差異性。在《美國(guó)數(shù)據(jù)隱私和保護(hù)法》中明確提出了小型數(shù)據(jù)持有者與大型數(shù)據(jù)持有者的分類監(jiān)管思路,對(duì)小型數(shù)據(jù)持有者將被免除大多數(shù)數(shù)據(jù)安全監(jiān)管方面的要求,特別是在個(gè)人數(shù)據(jù)的簡(jiǎn)短形式通知方面采取豁免原則。就大型數(shù)據(jù)持有者而言,其面臨更多的倫理監(jiān)管要求,具體包括:第一,簡(jiǎn)短形式的通知。提供一份關(guān)于其被涵蓋數(shù)據(jù)做法的簡(jiǎn)短通知。第二,隱私影響評(píng)估。每?jī)赡赀M(jìn)行一次隱私影響評(píng)估,權(quán)衡被涵蓋數(shù)據(jù)的收集、處理和傳輸做法的好處與這些做法的潛在外部效應(yīng)。第三,算法影響評(píng)估。對(duì)用于收集、處理或傳輸被涵蓋數(shù)據(jù)的任何算法進(jìn)行年度影響評(píng)估,并向聯(lián)邦貿(mào)易委員會(huì)提交評(píng)估報(bào)告。第四,年度認(rèn)證。大型數(shù)據(jù)持有者的執(zhí)行官必須每年向聯(lián)邦貿(mào)易委員會(huì)證明,該實(shí)體保持遵守該法案的合理內(nèi)部控制,以及確保認(rèn)證的官員參與,并由認(rèn)證官員負(fù)責(zé)。在人工智能倫理監(jiān)管制度與政策設(shè)計(jì)過(guò)程中,美國(guó)聯(lián)邦政府同樣遵循分類監(jiān)管思路。例如,2020年1月,美國(guó)白宮發(fā)布的《人工智能應(yīng)用監(jiān)管指南》從監(jiān)管和非監(jiān)管兩個(gè)層面出發(fā)提出設(shè)計(jì)、開發(fā)、部署和操作等10條監(jiān)管原則,為人工智能倫理監(jiān)管提供了整體性的部署。
因此,中國(guó)在數(shù)字科技倫理監(jiān)管制度設(shè)計(jì)的過(guò)程中,在借鑒美國(guó)基于分層分類思路開展數(shù)字科技倫理制度設(shè)計(jì)與政策執(zhí)行的基礎(chǔ)上,需要進(jìn)一步發(fā)揮地方政府政策制定與執(zhí)行的自主性原則,考慮到中國(guó)數(shù)字科技創(chuàng)新與應(yīng)用呈現(xiàn)出區(qū)域發(fā)展不平衡、行業(yè)不平衡的現(xiàn)狀,需要根據(jù)地方數(shù)字經(jīng)濟(jì)發(fā)展?fàn)顩r、數(shù)字科技重點(diǎn)行業(yè)發(fā)展?fàn)顩r、面臨的風(fēng)險(xiǎn)等級(jí)開展精準(zhǔn)分類,對(duì)不同行業(yè)、不同應(yīng)用場(chǎng)景、不同風(fēng)險(xiǎn)等級(jí)的重點(diǎn)行業(yè)、重要領(lǐng)域和主要監(jiān)管對(duì)象開展制度分類設(shè)計(jì),有效發(fā)揮中央頂層制度設(shè)計(jì)和地方具體政策執(zhí)行自主性的優(yōu)勢(shì),確保中央政府與地方政府在數(shù)字科技倫理監(jiān)管過(guò)程中的制度框架一致性與政策協(xié)同性。
(三)企業(yè)參與數(shù)字科技倫理監(jiān)管對(duì)中國(guó)的經(jīng)驗(yàn)借鑒
在企業(yè)參與數(shù)字科技倫理監(jiān)管方面,美國(guó)充分發(fā)揮市場(chǎng)主導(dǎo)的企業(yè)自主性原則,充分發(fā)揮企業(yè)自我治理的重要作用,形成政府立法主導(dǎo)、企業(yè)治理參與的數(shù)字科技倫理監(jiān)管格局。更為關(guān)鍵的是,從企業(yè)參與數(shù)字科技倫理監(jiān)管模式來(lái)看,主要表現(xiàn)為三個(gè)主要特征:第一,發(fā)揮數(shù)字科技領(lǐng)軍企業(yè)的標(biāo)準(zhǔn)制定功能,特別是發(fā)揮從事人工智能技術(shù)開發(fā)與應(yīng)用的數(shù)字科技龍頭企業(yè)的作用,通過(guò)企業(yè)主導(dǎo)制定的數(shù)字科技創(chuàng)新與應(yīng)用的各類倡議、指南、企業(yè)手冊(cè)等方式樹立行業(yè)示范效應(yīng),帶動(dòng)產(chǎn)業(yè)鏈上下游企業(yè)乃至整個(gè)數(shù)字商業(yè)生態(tài)圈的其他企業(yè)開展系統(tǒng)學(xué)習(xí),基于學(xué)習(xí)效應(yīng)發(fā)揮數(shù)字科技倫理監(jiān)管的輻射擴(kuò)散作用。第二,數(shù)字科技領(lǐng)域的相關(guān)龍頭企業(yè)主要采用數(shù)字科技倫理委員會(huì)、董事會(huì)和戰(zhàn)略委員會(huì)等方式實(shí)現(xiàn)倫理嵌入治理監(jiān)管模式,形成“董事會(huì)—高管戰(zhàn)略決策團(tuán)隊(duì)—員工”的傳導(dǎo)體系,確保數(shù)字科技倫理治理充分融入到組織創(chuàng)新戰(zhàn)略、管理過(guò)程、業(yè)務(wù)流程,最大程度地實(shí)現(xiàn)數(shù)字科技倫理融入企業(yè)治理全過(guò)程。第三,企業(yè)自我主導(dǎo)的數(shù)字科技倫理治理充分引入利益相關(guān)方參與機(jī)制。即數(shù)字科技倫理監(jiān)管涉及到的多元利益相關(guān)方主體具備廣泛性特征,需要充分引入不同領(lǐng)域和不同價(jià)值訴求的利益相關(guān)方,主要包括政策設(shè)計(jì)者、科學(xué)家、研發(fā)人員、技術(shù)應(yīng)用者、社會(huì)公眾等不同類型的利益相關(guān)方主體,建立定期溝通協(xié)商機(jī)制,進(jìn)而制定相關(guān)數(shù)字科技倫理監(jiān)管的重點(diǎn)領(lǐng)域和重點(diǎn)議題。
因此,中國(guó)在數(shù)字科技倫理監(jiān)管制度設(shè)計(jì)的過(guò)程中,一方面,發(fā)揮數(shù)字科技領(lǐng)域重點(diǎn)行業(yè)的科技領(lǐng)軍企業(yè)的重要作用,發(fā)揮這類企業(yè)在數(shù)字科技倫理治理方面的重要作用,以這類科技領(lǐng)軍企業(yè)為載體推動(dòng)企業(yè)主動(dòng)對(duì)標(biāo)國(guó)際數(shù)字科技領(lǐng)域的世界一流企業(yè)相關(guān)的治理標(biāo)準(zhǔn)、行業(yè)規(guī)范、治理指南、企業(yè)倡儀和操作手冊(cè)等,實(shí)現(xiàn)中國(guó)企業(yè)主導(dǎo)的數(shù)字科技倫理治理標(biāo)準(zhǔn)充分融入國(guó)際主流標(biāo)準(zhǔn),并進(jìn)一步結(jié)合中國(guó)數(shù)字科技創(chuàng)新與應(yīng)用過(guò)程中的主要社會(huì)問(wèn)題與道德倫理風(fēng)險(xiǎn),制定重點(diǎn)治理領(lǐng)域與細(xì)分環(huán)節(jié),并積極構(gòu)建以科技領(lǐng)軍企業(yè)為牽引的數(shù)字科技倫理監(jiān)管與治理共同體或治理生態(tài)圈。另一方面,進(jìn)一步增強(qiáng)企業(yè)社會(huì)責(zé)任導(dǎo)向,立足企業(yè)社會(huì)責(zé)任戰(zhàn)略融入算法技術(shù)治理、大數(shù)據(jù)治理、區(qū)塊鏈安全治理等多重?cái)?shù)字科技倫理治理領(lǐng)域,實(shí)現(xiàn)企業(yè)數(shù)字科技創(chuàng)新與應(yīng)用過(guò)程中的可持續(xù)創(chuàng)新、可持續(xù)開發(fā)利用、可持續(xù)創(chuàng)造綜合價(jià)值,通過(guò)企業(yè)社會(huì)責(zé)任戰(zhàn)略構(gòu)建動(dòng)態(tài)的利益相關(guān)方溝通參與機(jī)制,確保數(shù)字科技倫理治理內(nèi)容與議題的動(dòng)態(tài)性與時(shí)效性。
參考文獻(xiàn)
[1] 金星曄,伏霖,李濤.數(shù)字經(jīng)濟(jì)規(guī)模核算的框架、方法與特點(diǎn)[J].經(jīng)濟(jì)社會(huì)體制比較,2020(4):69-78.
[2] 蔡躍洲.數(shù)字經(jīng)濟(jì)的增加值及貢獻(xiàn)度測(cè)算:歷史沿革、理論基礎(chǔ)與方法框架[J].求是學(xué)刊,2018,45(5):65-71.
[3] 許憲春,張美慧.中國(guó)數(shù)字經(jīng)濟(jì)規(guī)模測(cè)算研究——基于國(guó)際比較的視角[J].中國(guó)工業(yè)經(jīng)濟(jì),2020(5):23-41.
[4] 郭家堂,駱品亮.互聯(lián)網(wǎng)對(duì)中國(guó)全要素生產(chǎn)率有促進(jìn)作用嗎?[J].管理世界,2016(10):34-49.
[5] 陽(yáng)鎮(zhèn),陳勁,李紀(jì)珍.數(shù)字經(jīng)濟(jì)時(shí)代下的全球價(jià)值鏈:趨勢(shì)、風(fēng)險(xiǎn)與應(yīng)對(duì)[J].經(jīng)濟(jì)學(xué)家,2022 (2):64-73.
[6] 黃群慧,余泳澤,張松林.互聯(lián)網(wǎng)發(fā)展與制造業(yè)生產(chǎn)率提升:內(nèi)在機(jī)制與中國(guó)經(jīng)驗(yàn)[J].中國(guó)工業(yè)經(jīng)濟(jì),2019(8):5-23.
[7] 荊文君,孫寶文.數(shù)字經(jīng)濟(jì)促進(jìn)經(jīng)濟(jì)高質(zhì)量發(fā)展:一個(gè)理論分析框架[J].經(jīng)濟(jì)學(xué)家,2019(2):66-73.
[8] 趙濤,張智,梁上坤.數(shù)字經(jīng)濟(jì)、創(chuàng)業(yè)活躍度與高質(zhì)量發(fā)展——來(lái)自中國(guó)城市的經(jīng)驗(yàn)證據(jù)[J].管理世界,2020,36(10):65-76.
[9] 陽(yáng)鎮(zhèn),凌鴻程,季與點(diǎn),等.數(shù)智化時(shí)代傳統(tǒng)文化的特殊力量:儒家文化會(huì)驅(qū)動(dòng)人工智能企業(yè)創(chuàng)新績(jī)效嗎?[J].創(chuàng)新科技,2021,21(7):19-33.
[10] 諸竹君,袁逸銘,焦嘉嘉.工業(yè)自動(dòng)化與制造業(yè)創(chuàng)新行為[J].中國(guó)工業(yè)經(jīng)濟(jì),2022(7):84-102.
[11] 張勛,萬(wàn)廣華,張佳佳,等.數(shù)字經(jīng)濟(jì)、普惠金融與包容性增長(zhǎng)[J].經(jīng)濟(jì)研究,2019,54(8):71-86.
[12] 夏杰長(zhǎng),劉誠(chéng).數(shù)字經(jīng)濟(jì)賦能共同富裕:作用路徑與政策設(shè)計(jì)[J].經(jīng)濟(jì)與管理研究,2021,42(9):3-13.
[13] 陽(yáng)鎮(zhèn),陳勁.數(shù)智化時(shí)代下的算法治理——基于企業(yè)社會(huì)責(zé)任治理的重新審視[J].經(jīng)濟(jì)社會(huì)體制比較,2021(2):12-21.
[14] 肖紅軍,陽(yáng)鎮(zhèn),商慧辰.平臺(tái)監(jiān)管的多重困境與范式轉(zhuǎn)型[J]. 中國(guó)人民大學(xué)學(xué)報(bào),2022(4):24-39.
[15] 肖紅軍,李平.平臺(tái)型企業(yè)社會(huì)責(zé)任的生態(tài)化治理[J]. 管理世界,2019(4):120-144+196.
[16] 肖紅軍,陽(yáng)鎮(zhèn).平臺(tái)企業(yè)社會(huì)責(zé)任:邏輯起點(diǎn)與實(shí)踐范式[J]. 經(jīng)濟(jì)管理,2020(4):37-53.
[17] 陽(yáng)鎮(zhèn), 陳勁. 數(shù)智化時(shí)代下企業(yè)社會(huì)責(zé)任的創(chuàng)新與治理[J]. 上海財(cái)經(jīng)大學(xué)學(xué)報(bào), 2020(6):33-51.
[18] 于雪,段偉文.人工智能的倫理建構(gòu)[J].理論探索,2019(6):43-49.
[19] 莫宏偉.強(qiáng)人工智能與弱人工智能的倫理問(wèn)題思考[J].科學(xué)與社會(huì),2018(1):14-24.
[20] 段偉文.機(jī)器人倫理的進(jìn)路及其內(nèi)涵[J].科學(xué)與社會(huì),2015,5(2):35-45
[21] BURREL J. How the machine ‘thinks:understanding opacity in machine learning algorithms[J].Big data & society,2016,3(1):1-12.
[22] 董軍,程昊.大數(shù)據(jù)技術(shù)的倫理風(fēng)險(xiǎn)及其控制——基于國(guó)內(nèi)大數(shù)據(jù)倫理問(wèn)題研究的分析[J].自然辯證法研究,2017(11):80-85.
[23] MITTELSTADT B D, ALLO P, TADDEO M, et al.The ethics of algorithms:mapping the debate[J].Big data & society,2016,3(2):1-21.
[24] FEDERAL DATA STRATEGY.Data ethics framework[EB/OL].(2021-09-03)[2023-03-02].https://resources.data.gov/assets/documents/fds?data?ethics?framework.pdf.Ethical Regulation of Digital Technology: Progress in the United States
and Reference From China
XIAO Hong?jun1, YANG Zhen1,2
(1. Institute of Industrial Economics, Chinese Academy of Social Sciences, Beijing 100006, China;
2. Research Center of Technological Innovation, Tsinghua University, Beijing 100084, China)
Summary:In recent years, a new round of technological revolution and industrial revolution driven by digital technology has evolved alternately, giving birth to new forms of digital economy, and promoting the innovative development of digital industrial organizations and digital enterprises. However, digital technology has also produced many negative social problems in the process of enabling economy and high?quality social development.Based on this, it is urgent to accelerate the construction of a regulation and governance system in the process of digital technology innovation and development.
This article takes the ethical regulation of digital technology in the United States as the main research object, takes strategic texts and policy documents introduced by the US government and local governments in recent years as the scope of literature search, and makes full use of Internet materials to manually organize annual reports and public speeches of management of major digital technology enterprises in the United States. We discuss institutional arrangements related to ethical regulation of digital technology in the text, and conduct systemic analysis of policy deployment, major regulatory strategies, and key areas of ethical regulation of digital technology.The research results show that firstly, regulatory entities of digital technology ethics in the United States cover multiple levels and types of entities, such as the ‘federal government?state governments?industry associations?enterprises.The regulatory models mainly include the legislative and standard?led regulatory model led by the Congress, the participatory regulatory model of multiple social organizations such as industry associations and research institutions, and the embedded regulatory model in digital technology ethics governance for enterprises. Secondly, in terms of policy layout for ethical regulation of digital technology, it mainly focuses on the development and application of digital technologies such as artificial intelligence, big data, and blockchain. The key regulatory topics cover core issues such as ethical artificial intelligence and transparent, fair and interpretable algorithm design and development, as well as digital privacy and data ethics. Thirdly, the ethical regulation of digital technology in the United States has important reference significance for accelerating the construction of Chinas ethical regulation system of digital technology. On the one hand, it is necessary to strengthen legislation on ethical regulation of digital technology, and design and implement ethical system and policies for digital technology based on a hierarchical classification approach. On the other hand, it is necessary to further leverage the principle of autonomy in the formulation and implementation of local policies for ethical regulation of digital technology, and mobilize the leading role of digital enterprises.
This article provides international experience for governments at all levels in China to formulate policies on the forefront and key areas of ethical regulation of digital technology, and provides a theoretical framework and policy guidance for China to build an ethical regulation system of digital technology suitable for the development stage of digital economy and the institutional context of China.
Key words:digital technology ethics; regulatory model; digital enterprise
(責(zé)任編輯:尚培培)
[DOI]10.19654/j.cnki.cjwtyj.2023.06.006
[引用格式]肖紅軍,陽(yáng)鎮(zhèn).數(shù)字科技倫理監(jiān)管:美國(guó)進(jìn)展與中國(guó)借鑒[J].財(cái)經(jīng)問(wèn)題研究,2023(6):73-86.