張欽坤 胡曉萌

新興數(shù)字科技的浪潮已經(jīng)來到，不僅需要洞悉和把握科技發(fā)展的趨勢，抓住此次科技浪潮提升綜合國力和國內(nèi)科技企業(yè)的國際競爭力，也需要積極應(yīng)對新興數(shù)字科技的技術(shù)風(fēng)險，以科技向善為核心建立內(nèi)外兼修、創(chuàng)新和治理統(tǒng)一的科技倫理治理體系。

2022年2月，習(xí)近平總書記在署名文章《不斷做強做優(yōu)做大我國數(shù)字經(jīng)濟(jì)》中強調(diào)：“發(fā)展數(shù)字經(jīng)濟(jì)意義重大，是把握新一輪科技革命和產(chǎn)業(yè)變革新機(jī)遇的戰(zhàn)略選擇。”數(shù)字技術(shù)、數(shù)字經(jīng)濟(jì)已經(jīng)成為當(dāng)今世界科技革命和產(chǎn)業(yè)變革的先機(jī)，是新一輪國際競爭重點領(lǐng)域。抓住先機(jī)、搶占未來發(fā)展制高點，不僅要掌握新興數(shù)字科技的發(fā)展趨勢，也要在數(shù)字科技治理上搶占規(guī)則制定的話語權(quán)。以科技向善引領(lǐng)新興數(shù)字科技治理，能夠有效防控科技倫理風(fēng)險，不斷推動科技向善、造福人類，展示負(fù)責(zé)任的大國形象和企業(yè)形象。

一、新興數(shù)字科技發(fā)展趨勢

根據(jù)騰訊研究院的梳理和總結(jié)，新興數(shù)字科技有三大技術(shù)集群，即連接、交互和計算。新興數(shù)字科技的創(chuàng)新發(fā)展主要是圍繞這三大技術(shù)集群展開的，并且呈現(xiàn)網(wǎng)絡(luò)化、融合化與智能化的發(fā)展趨勢。這種發(fā)展趨勢會帶來數(shù)字世界和物理世界的進(jìn)一步融合，朝著數(shù)字世界的實體化和物理世界的數(shù)字化兩個方向交互融合。

（一）連接技術(shù)促進(jìn)萬物的網(wǎng)絡(luò)化

連接主要就是把數(shù)字世界、現(xiàn)實世界中的各類要素進(jìn)行連接，如互聯(lián)網(wǎng)實現(xiàn)了人與人的連接，物聯(lián)網(wǎng)實現(xiàn)了人與物、物與物的連接。5G和6G通信、區(qū)塊鏈等都屬于連接的技術(shù)集群。連接技術(shù)集群不僅深刻改變了人類在消費互聯(lián)網(wǎng)領(lǐng)域的生產(chǎn)生活方式，也在制造業(yè)、農(nóng)業(yè)等各類產(chǎn)業(yè)領(lǐng)域快速落地發(fā)展，更好地實現(xiàn)數(shù)字經(jīng)濟(jì)和實體經(jīng)濟(jì)更為廣泛、深度、緊密地連接。

目前智慧城市、車聯(lián)網(wǎng)、智能家居、智慧農(nóng)業(yè)等業(yè)態(tài)和模式已經(jīng)讓人們意識到萬物互聯(lián)的世界正在到來。以人工智能的農(nóng)業(yè)應(yīng)用為例，目前基于人工智能的農(nóng)業(yè)種植系統(tǒng)，在受控環(huán)境中可以大幅度提升農(nóng)業(yè)產(chǎn)能。智能種植系統(tǒng)能根據(jù)農(nóng)業(yè)專家經(jīng)驗、農(nóng)業(yè)環(huán)境數(shù)據(jù)、蟲害信息和作物的圖像數(shù)據(jù)等建立智能模型系統(tǒng)，模擬作物的生長情況，最后在實際種植過程中實現(xiàn)對作物生長的控制。2018年首屆人工智能國際智慧溫室種植比賽中，騰訊iGOW智能種植系統(tǒng)種植的黃瓜平均產(chǎn)量達(dá)到24公斤/平方米/季，是國內(nèi)平均水平的6倍。除農(nóng)業(yè)領(lǐng)域外，在人工智能的制造業(yè)應(yīng)用中，越來越多的機(jī)器與機(jī)器連接、人與機(jī)器連接，大大提升了生產(chǎn)效率、降低了生產(chǎn)成本。

（二）交互技術(shù)打造虛實的融合化

交互的技術(shù)集群是讓數(shù)字世界和現(xiàn)實世界更好地互動起來，力促數(shù)字世界中的體驗更加接近現(xiàn)實世界，同時在現(xiàn)實世界中更好地實現(xiàn)數(shù)字世界的便捷性。從人類獲取信息的各類感官來說，過去信息技術(shù)實現(xiàn)的交互，主要是以2D畫面呈現(xiàn)的視覺，3D環(huán)境下如何實現(xiàn)更好的交互體驗，怎么能夠讓人們在數(shù)字世界中具有與現(xiàn)實世界相同的感知和體驗，是未來交互技術(shù)集群所要解決的問題，同時也是未來交互技術(shù)集群的發(fā)展方向。這類技術(shù)包括虛擬現(xiàn)實、增強現(xiàn)實、混合現(xiàn)實、3D和4D打印、生物傳感及腦機(jī)接口等，交互方式也包括全息交互、通感互聯(lián)、智能交互等。

交互技術(shù)的發(fā)展有賴于硬件設(shè)備的突破，目前動態(tài)捕捉技術(shù)、3D建模技術(shù)、終端硬件產(chǎn)品等在技術(shù)上不斷成熟，價格上持續(xù)下降，加速了人們對未來新型交互模式的期待，并催生了元宇宙理念的落地。2021年可以說是元宇宙概念大火的一年，META在其關(guān)于元宇宙的介紹性視頻中，展現(xiàn)了其是如何利用VR、AR、MR等技術(shù)手段組合，顛覆性地變革了交互方式，創(chuàng)造了與現(xiàn)實世界映射、交互與融合的虛擬世界。當(dāng)然，元宇宙并非一個獨立的完整概念，更像是類似于移動互聯(lián)網(wǎng)、智慧城市等集合式產(chǎn)業(yè)概念，因此未來肯定會有更多種的新型交互方式出現(xiàn)，不斷推動數(shù)實融合的演進(jìn)，我們可以拭目以待。

腦機(jī)接口也是數(shù)字世界和現(xiàn)實世界交互融合的一項關(guān)鍵技術(shù)，它能夠?qū)崿F(xiàn)人通過意念去操縱物體。人體的大腦皮層發(fā)出指令時，產(chǎn)生的生物電信號被植入大腦的芯片或者貼在人體頭皮的電極片捕捉并進(jìn)行放大和處理。芯片可以對這些電信號進(jìn)行智能運算分析，獲得具體的指令，然后把指令編碼成機(jī)器可讀的語言，并最終實現(xiàn)對外接機(jī)器的控制。可以想象到，未來會有越來越多的人機(jī)融合技術(shù)產(chǎn)生和應(yīng)用。

（三）計算技術(shù)推動科技的智能化

計算技術(shù)集群是連接和交互技術(shù)集群的基礎(chǔ)性技術(shù)底座。大數(shù)據(jù)、云計算、人工智能等已經(jīng)成為數(shù)字社會的基礎(chǔ)設(shè)施，支撐著各類數(shù)字技術(shù)產(chǎn)品和數(shù)字設(shè)施的正常運行。計算技術(shù)集群的三個基本要素是數(shù)據(jù)、算力和算法，其中數(shù)據(jù)是新生產(chǎn)資料，算力是新生產(chǎn)力，算法是新生產(chǎn)關(guān)系，它們共同推動著數(shù)字技術(shù)集群的快速演進(jìn)。云計算、邊緣計算、量子計算等提供了更為便捷、廉價的算力，互聯(lián)網(wǎng)、大數(shù)據(jù)提供了海量的數(shù)據(jù)，算法擁有越來越高的自主性，使計算更智能化、使技術(shù)更自動化。

在計算技術(shù)集群的發(fā)展上，繼數(shù)據(jù)成為新型生產(chǎn)要素之后，我國啟動“東數(shù)西算”工程，完成全國一體化大數(shù)據(jù)中心體系建設(shè)的總體布局。2022年2月，國家發(fā)改委等四部門聯(lián)合通知，同意在京津冀、長三角、粵港澳大灣區(qū)、成渝、內(nèi)蒙古、貴州、甘肅、寧夏等8地啟動建設(shè)國家算力樞紐節(jié)點，并規(guī)劃了10個國家數(shù)據(jù)中心集群。算力已經(jīng)呈現(xiàn)出取代熱力、電力成為未來數(shù)字經(jīng)濟(jì)發(fā)展新動能的趨勢，也成為國際數(shù)字科技核心競爭力的關(guān)鍵要素。我國《新一代人工智能發(fā)展規(guī)劃》明確指出，我國在核心算法上與發(fā)達(dá)國家存在較大差距，圍繞提升我國人工智能國際競爭力的迫切需求，新一代人工智能關(guān)鍵共性技術(shù)的研發(fā)部署要以算法為核心，加強引領(lǐng)人工智能算法的數(shù)據(jù)基礎(chǔ)理論研究。在此背景下，算法創(chuàng)新成為建設(shè)網(wǎng)絡(luò)強國的有力支撐，成為貫徹新發(fā)展理念的重要實踐。目前，全球已有40多個國家和地區(qū)把數(shù)字化、網(wǎng)絡(luò)化、智能化技術(shù)發(fā)展上升為國家或地區(qū)戰(zhàn)略。未來誰掌握先進(jìn)的算力、積累數(shù)據(jù)資源多、擁有高智能水平的算法能力，誰就掌握了發(fā)展的主動權(quán)。

二、新興數(shù)字科技面臨的倫理困境

新興數(shù)字科技深刻地變革了傳統(tǒng)物理世界和現(xiàn)實社會中人與人、人與社會以及人與自然的關(guān)系，也因此引發(fā)了一系列倫理問題和爭議，涉及人的基本價值和權(quán)益。由于新興數(shù)字科技的技術(shù)特征，并且在人類社會中的介入越來越廣泛和深入，這些倫理問題呈現(xiàn)出傳播迅速、問題隱蔽、持續(xù)發(fā)酵、影響深遠(yuǎn)等特征，對人類社會的平穩(wěn)秩序和價值體系造成了巨大沖擊。

（一）新興數(shù)字科技的倫理問題

倫理關(guān)注人類自身的價值，數(shù)字科技的倫理問題通常表現(xiàn)為技術(shù)對人類自身價值的侵害，如自由與自主、生命與尊嚴(yán)、人性與權(quán)利、安全與環(huán)境、平等與公正、責(zé)任與信任等。下面以人工智能、自動駕駛、元宇宙等為例進(jìn)行倫理問題的梳理和說明。

1.算法歧視和不公平問題

算法歧視是人工智能倫理問題中較為常見且易發(fā)生的問題。如2015年谷歌Photos軟件的人臉識別功能曾經(jīng)把黑人標(biāo)記為大猩猩；2016年P(guān)roPublica調(diào)查發(fā)現(xiàn)它的犯罪風(fēng)險評估算法系統(tǒng)性地歧視了黑人；2018年5月，有人發(fā)現(xiàn)Facebook的廣告算法能夠幫助廣告主排除大齡勞動者，造成就業(yè)不公平。萊普利·普魯諾（Lepri Bruno）將算法歧視分為三類：（1）社會中預(yù)先就有的偏見導(dǎo)致的算法歧視；（2）在使用算法決策過程導(dǎo)致的算法歧視；（3）在算法決策中各類數(shù)據(jù)所設(shè)置的權(quán)重不同，從而有可能導(dǎo)致間接的歧視行為。算法歧視會固化加深社會原有的歧視，導(dǎo)致更為廣泛的社會不公平，也會產(chǎn)生新形式的不公平問題。新興數(shù)字科技塑造的未來世界，依然是以真實世界的人為行為主體，人類社會生活的固有問題依然會延續(xù)。

2.隱私泄露、侵犯問題

數(shù)據(jù)是數(shù)字社會的生產(chǎn)要素，人工智能等數(shù)字科技都依賴數(shù)據(jù)的喂養(yǎng)。新興數(shù)字科技發(fā)展對數(shù)據(jù)的巨大需求給隱私保護(hù)帶來了巨大挑戰(zhàn)，第一是數(shù)據(jù)源不合規(guī)，即使用的數(shù)據(jù)是非法采集的，甚至是數(shù)據(jù)黑產(chǎn)；第二是對知情同意規(guī)則提出挑戰(zhàn)，物聯(lián)網(wǎng)、人工智能等技術(shù)的廣泛應(yīng)用，使數(shù)據(jù)收集變得無時無刻、無處不在。例如自動駕駛，數(shù)據(jù)采集車在道路上行駛，很難說獲得道路上所有人的知情同意；第三是數(shù)據(jù)的使用可能存在違法違規(guī)或者違約的情況，比如人工智能算法對數(shù)據(jù)的使用超出了用戶授權(quán)的范圍，或二次利用等一系列可能存在的情況；第四是在一些特殊場景中，數(shù)據(jù)使用可能會造成一些負(fù)面的影響。例如Facebook數(shù)據(jù)泄露事件，由于它泄露的數(shù)據(jù)被劍橋分析不當(dāng)使用，影響了美國大選，造成了很嚴(yán)重的影響。

3.算法黑箱與信任問題

個性化推薦、精準(zhǔn)廣告、人臉識別等人工智能算法應(yīng)用經(jīng)常因為算法黑箱問題引發(fā)爭議。而以深度學(xué)習(xí)為核心的人工智能算法在解釋性上存在客觀的難度。用戶難以理解算法的模型和邏輯。算法模型的輸出結(jié)果難以解釋。國內(nèi)外人工智能治理，都提出讓算法具有可解釋性、更加透明，從而建立起政府、公眾對算法的信任度。在未來人機(jī)交互的智能社會中，打開算法黑箱，建立算法信任是不可避免并且亟須解決的問題。

4.安全與濫用問題

以深度學(xué)習(xí)為核心的人工智能存在弱魯棒性等問題，在面臨攻擊時極其容易引發(fā)安全事故。現(xiàn)在網(wǎng)絡(luò)安全問題隨著人工智能的廣泛應(yīng)用，出現(xiàn)了新型的攻擊類型，如針對算法的數(shù)據(jù)下毒、對抗樣本攻擊、標(biāo)簽操縱、算法后門攻擊、模型竊取攻擊、模型反饋誤導(dǎo)、數(shù)據(jù)逆向還原、成員推理攻擊等。這些安全問題可能會直接導(dǎo)致嚴(yán)重的生命財產(chǎn)損失。這需要未來人工智能系統(tǒng)能夠做得更加的安全，才能夠更好地保障消費者的安全權(quán)益。人工智能的濫用問題也很普遍，已經(jīng)被國家納入重點監(jiān)管和治理范圍。2021年清朗專項行動重點治理算法濫用行為，包括深度合成技術(shù)用于生物偽造、深度偽造人臉或者音視頻從事詐騙活動等，嚴(yán)厲打擊危害個人生命財產(chǎn)安全的違法行為。

5.自主性與問責(zé)問題

新興數(shù)字技術(shù)以智能算法為核心，朝著智能化的方向發(fā)展而具有越來越高的自主性。但是，這也導(dǎo)致了人們對數(shù)字技術(shù)的盲目信任，技術(shù)越來越高的自主性削弱了人的自主性。第一例自動駕駛汽車碰撞行人致死的案例就說明了技術(shù)對人的自由與自主價值的侵蝕。2018年Uber的自動駕駛測試員在進(jìn)行自動駕駛汽車的真實夜間測試時，由于盲目信任自動駕駛汽車，沒有正常觀測路況和駕駛，而是在低頭刷手機(jī)視頻。由于光線較暗，自動駕駛測試車在面臨一個行人過馬路時無法及時獲取數(shù)據(jù)，沒能做出避讓或者剎車動作，最終撞向行人導(dǎo)致其死亡。后來特斯拉也發(fā)生了相似的事故案例，特斯拉將產(chǎn)品名稱從“自動駕駛系統(tǒng)”改成了“自動輔助駕駛系統(tǒng)”，并且加入了對駕駛員雙手脫離方向盤的警示提醒，以建立更為合理的人機(jī)交互的信任關(guān)系。此外，自動駕駛的事故責(zé)任認(rèn)定和追責(zé)也充滿爭議，面臨自動駕駛系統(tǒng)設(shè)計者、汽車生產(chǎn)商、人類駕駛員等三方誰要承擔(dān)責(zé)任、如何定責(zé)的困境。

（二）新興數(shù)字科技倫理問題的特征

數(shù)字科技的用戶群體大、黑箱屬性等多方面因素，導(dǎo)致新興數(shù)字科技的倫理問題具有技術(shù)性強，沖擊力大、快速形成廣泛影響，以及問題隱蔽且影響深遠(yuǎn)等特征。

1.技術(shù)性強

數(shù)字社會以數(shù)字科技作為基礎(chǔ)設(shè)施，塑造了人們的生產(chǎn)生活。人們在數(shù)字社會中生活，就要與智能系統(tǒng)、機(jī)器以及算法等有大量的交互。但是由于算法黑箱等因素導(dǎo)致的技術(shù)性過強，數(shù)字科技已經(jīng)對大多數(shù)人形成了認(rèn)知門檻。新一代人工智能的核心就是深度學(xué)習(xí)算法，算法也是未來智能化的技術(shù)保障，然而，算法具有黑箱屬性，即人們只能知道輸入數(shù)據(jù)和輸出結(jié)果，而數(shù)據(jù)處理的過程甚至是專家也無法完全理解。隨著算法在人類社會的深度嵌入，弗蘭克·帕斯奎爾（Frank Pasquale）認(rèn)為人類將迎來黑箱社會。這意味著歧視、偏見、安全等倫理問題也會隱藏在黑箱之中。甚至由于對算法準(zhǔn)確、高效、科學(xué)的標(biāo)榜，人們對算法產(chǎn)生了盲目崇拜，對算法的輸出結(jié)果不假反思、盲目信任，而使問題更加難以被發(fā)現(xiàn)。

由于算法黑箱等問題，人們對數(shù)字科技背后的復(fù)雜技術(shù)邏輯缺乏認(rèn)知，無法及時意識到很多技術(shù)倫理問題的存在，更沒有能力采取主動措施保護(hù)自身權(quán)益，需要越來越多地依賴于熟悉計算機(jī)技術(shù)的專家和管理者，而這方面的人才儲備還相當(dāng)不足。20世紀(jì)50、60年代，歐洲學(xué)界在討論科技創(chuàng)新產(chǎn)生的社會、政治問題時提出了技術(shù)專家治國論（Technocracy）的理論觀點，即當(dāng)社會運行以越來越復(fù)雜的技術(shù)為支撐時，技術(shù)專家就存在一定的合理性統(tǒng)治或管理社會。2020年歐盟數(shù)據(jù)保護(hù)條例（GDPR）實施2周年之際，因為缺乏大量的專業(yè)技術(shù)人員和相應(yīng)的財政預(yù)算來支撐用戶大量的投訴處理工作，很多國家數(shù)據(jù)保護(hù)監(jiān)管機(jī)構(gòu)不堪重負(fù)。而算法歧視等倫理問題的治理也越來越依賴于專業(yè)技術(shù)人員。

2.沖擊力大，快速形成廣泛影響

未來萬物互聯(lián)、虛實結(jié)合的數(shù)字世界中，人與人、人與物、物與物之間的信息傳遞更加緊密迅速，因此倫理問題也隨之傳播和擴(kuò)散得更快。以深度合成技術(shù)（Deep Synthesis）為例，它可以通過生成對抗網(wǎng)絡(luò)進(jìn)行圖像、語音的合成?，F(xiàn)在流行的AI換臉、語音合成、虛擬合成主播等都是深度合成技術(shù)的具體應(yīng)用。2018年5月，網(wǎng)上流傳了一個特朗普嘲諷比利時留在巴黎氣候協(xié)議的深度合成視頻。該視頻在社交媒體上被快速分享、大規(guī)模傳播，有人將該視頻認(rèn)定為操縱影響大選的手段。這些被蓄意制造、具有誤導(dǎo)性的視頻或語音能夠歪曲民主話語，操縱選舉，削弱社會信任，加劇社會分裂，破壞公共安全，對包括選舉候選人在內(nèi)的個人的聲譽造成難以修復(fù)的損害。因此，《紐約時報》認(rèn)為深度合成是對民主政治的新興長期威脅。在后真相時代，人們對真相的認(rèn)知逐漸從客觀事實轉(zhuǎn)移到情感和個人信仰。這也為別有用心的深度偽造視頻語音提供了快速傳播的土壤。深度合成技術(shù)濫用的危害之所以這么大，就是因為可以借助媒體的快速傳播，形成巨大沖擊，快速造成廣泛影響。

3.隱蔽、影響深遠(yuǎn)

數(shù)字科技與人類社會深度融合，社會演變會受到技術(shù)形態(tài)的影響。英國技術(shù)哲學(xué)家大衛(wèi)·科林格里奇（David Collingridge）曾經(jīng)提出過著名的科林格里奇困境，指出了人們在預(yù)見和防范技術(shù)長遠(yuǎn)發(fā)展時所面臨的一個雙重約束困境（double-bind problem），首先是人們很難在技術(shù)生命周期的早期對一項技術(shù)的社會后果進(jìn)行預(yù)見；然后是當(dāng)不好的后果被發(fā)現(xiàn)時，技術(shù)卻往往已經(jīng)成為整個經(jīng)濟(jì)和社會結(jié)構(gòu)的一部分，以至于難以對其加以調(diào)控。

例如，短視頻已經(jīng)成為人們?nèi)粘Ｉ钪袏蕵贰⑿畔@取、表達(dá)自我以及內(nèi)容消費的主要方式。截至2021年12月，短視頻用戶規(guī)模為9.34億，占網(wǎng)民整體的90.5%，人均單日使用時長為125分鐘，占用了網(wǎng)民上網(wǎng)時長的一半以上，是名副其實的“Time-killer”。短視頻的用戶群體中，青少年由于尚未養(yǎng)成較好的自控力與對世界的穩(wěn)定認(rèn)知，很容易被短視頻內(nèi)容所影響，造成焦慮心理、影響自我認(rèn)知等問題；中老年人因為日常娛樂生活較為單調(diào)，更容易沉溺在短視頻之中。2018年英國索爾福德大學(xué)瑪麗亞·帕納吉奧蒂（Maria Panagiotidi）在研究中表明，成年人注意力缺陷多動障礙（ADHD）癥狀與過度使用互聯(lián)網(wǎng)存在正相關(guān)關(guān)系。而ADHD已經(jīng)被證明會對個人內(nèi)驅(qū)力和職業(yè)發(fā)展、情緒穩(wěn)定和心理健康、執(zhí)行力和判斷能力等造成危害。隨著元宇宙的到來，網(wǎng)絡(luò)成癮、注意力缺陷、網(wǎng)絡(luò)焦慮、自我認(rèn)知缺陷等問題是不是會更為加??？

三、科技向善：內(nèi)外兼修的科技倫理治理

科技是一種能力，向善是一種選擇?？萍枷蛏拼碇鴦?chuàng)新和治理的平衡和統(tǒng)一，以最大彰顯科技造福人類生活的使命。未來新興數(shù)字科技的發(fā)展會逐漸走進(jìn)“深水區(qū)”。建立起內(nèi)外兼修的科技倫理治理體系，將成為未來數(shù)字科技創(chuàng)新進(jìn)入深水區(qū)后可以被摸到的石頭。同時，面對日益復(fù)雜的全球競爭格局，重視和發(fā)展科技倫理治理不僅能夠保障技術(shù)順利研發(fā)應(yīng)用，也能使國家和企業(yè)在科技競爭中脫穎而出，展現(xiàn)負(fù)責(zé)任的形象。

1.以科技倫理治理保障和促進(jìn)新興數(shù)字科技創(chuàng)新

我國目前已經(jīng)初步建立了法律和倫理并重、創(chuàng)新和治理統(tǒng)一的科技倫理治理體系。2022年3月，中共中央辦公廳、國務(wù)院辦公廳印發(fā)《加強科技倫理治理的意見》明確指出，科技倫理是開展科學(xué)研究、技術(shù)開發(fā)等科技活動需要遵循的價值理念和行為規(guī)范，是促進(jìn)科技事業(yè)健康發(fā)展的重要保障。

以“科技向善”為中心的科技倫理治理體系應(yīng)同時融合法律、技術(shù)和倫理三個維度，按照“扎牢紅線、放開上線、提高基線”的思路進(jìn)行治理?！霸渭t線”即通過法律規(guī)定技術(shù)應(yīng)用的邊界，對損害國家安全和社會公共利益的行為嚴(yán)厲禁止，如侵犯個人隱私、安全問題、算法歧視中的大數(shù)據(jù)殺熟等?！胺砰_上線”要求進(jìn)行包容審慎、敏捷靈活、鼓勵創(chuàng)新等創(chuàng)新性立法和監(jiān)管策略，為新興數(shù)字科技創(chuàng)造更多的創(chuàng)新空間?！疤岣呋€”便是秉承科技向善的理念，通過建立技術(shù)標(biāo)準(zhǔn)、倫理框架、科技倫理審查、從業(yè)人員和社會公眾的科技倫理教育和意識提升等多種方式，確保新興數(shù)字科技負(fù)責(zé)任的創(chuàng)新發(fā)展。

2.以向善的技術(shù)手段解決技術(shù)問題

科技向善不僅要求技術(shù)本身是善的、合乎倫理的，而且希望技術(shù)創(chuàng)新可以促進(jìn)社會的公平、人類的福祉和利益。例如人工智能發(fā)展中曾遇到數(shù)據(jù)利用涉嫌侵權(quán)隱私的問題，業(yè)界隨后提出了隱私設(shè)計理念，即將隱私保護(hù)納入整個設(shè)計和研發(fā)過程。聯(lián)邦計算便是隱私設(shè)計的一個典型案例，它在數(shù)據(jù)不出本地的情況下實現(xiàn)了聯(lián)合訓(xùn)練人工智能模型，有效地保護(hù)了數(shù)據(jù)隱私和信息安全。在隱私設(shè)計之后，倫理設(shè)計的理念和實踐也在發(fā)展之中。倫理設(shè)計要求將倫理價值植入到技術(shù)的研發(fā)設(shè)計過程中。為了解決人工智能可解釋性、公平和安全等問題，國內(nèi)外很多科技企業(yè)都在積極開發(fā)倫理工具，如谷歌開發(fā)的可解釋性人工智能工具箱、IBM開發(fā)的人工智能公平的倫理工具等。

與此同時，類似深度合成等技術(shù)也可以向善地創(chuàng)新發(fā)展，幫助建立科學(xué)有效、無偏見的訓(xùn)練數(shù)據(jù)集供人工智能訓(xùn)練使用。在醫(yī)療領(lǐng)域，深度合成技術(shù)合成醫(yī)療影像數(shù)據(jù)，為人工智能診療系統(tǒng)提供了必需的訓(xùn)練數(shù)據(jù)，有效地解決了隱私保護(hù)、數(shù)據(jù)不足問題。無偏見訓(xùn)練數(shù)據(jù)集則能滿足人工智能對訓(xùn)練數(shù)據(jù)集無誤性、準(zhǔn)確性、完整性、相關(guān)性、代表性、時新性、來源合法性、無歧視性等多種要求，確保人工智能本身不出現(xiàn)科技倫理問題。

3.建立科技向善和負(fù)責(zé)任的科技創(chuàng)新制度和文化

此前國內(nèi)有學(xué)者指出，我國政府在算法監(jiān)管方面要求強化平臺責(zé)任，但是也造成了企業(yè)自律機(jī)制不足的問題，即強監(jiān)管弱自律。因此，圍繞科技向善建立的科技倫理治理強調(diào)內(nèi)功修煉，建立自律的創(chuàng)新制度和文化。內(nèi)部建設(shè)主要以科技倫理委員會為載體，外部建設(shè)有第三方倫理認(rèn)證的探索性嘗試。

我國《關(guān)于加強科技倫理治理的意見》《科學(xué)技術(shù)進(jìn)步法》《關(guān)于加強互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》等政策法規(guī)文件都提出強化科技倫理意識，建立科技倫理（審查）委員會和科技倫理審查制度等要求?？萍紓惱砦瘑T會是建立科技向善和負(fù)責(zé)任的科技創(chuàng)新文化的有效載體，其主要職能如下：

（1）倫理決策與咨詢：主要為機(jī)構(gòu)戰(zhàn)略目標(biāo)和方向、政策制定與對外合作等進(jìn)行倫理決策和咨詢，使其滿足社會價值需求和人的普遍道德情感。機(jī)構(gòu)應(yīng)通過倫理決策和咨詢辨認(rèn)價值觀和行動之間的缺口，并制訂使之彌合的詳細(xì)計劃來優(yōu)化決策。

（2）倫理評估與審查：主要依據(jù)倫理原則規(guī)范、政策法規(guī)，對技術(shù)研發(fā)和產(chǎn)品引用進(jìn)行事前評估審批、事中監(jiān)督和事后跟蹤的全過程倫理約束作用。倫理評估與審查是試圖幫助機(jī)構(gòu)在新興數(shù)字科技的技術(shù)設(shè)計、研發(fā)和運營中采取符合那些價值觀的行動。

（3）倫理教育與文化建設(shè)：倫理約束一般是內(nèi)化的，通常通過教育手段實現(xiàn)，以期其成為一種內(nèi)在的引導(dǎo)和制約力量，即內(nèi)化于心，外化于行。倫理教育是科技倫理治理的重要組成部分，它可以有效地使科技創(chuàng)新從業(yè)人員、企業(yè)合規(guī)團(tuán)隊等相關(guān)人員能夠通過人與社會的敏感價值體系，建立內(nèi)外兼修的個人認(rèn)知、行為規(guī)范和職業(yè)倫理素養(yǎng)，也可以很好地幫助從業(yè)人員建立倫理風(fēng)險識別的能力。

此外，來自第三方的權(quán)威倫理認(rèn)證，也是幫助機(jī)構(gòu)建立科技向善和負(fù)責(zé)任的科技創(chuàng)新制度和文化的有效舉措。目前，人工智能倫理標(biāo)準(zhǔn)認(rèn)證通過建立一套系統(tǒng)的倫理標(biāo)準(zhǔn)，對符合標(biāo)準(zhǔn)的人工智能產(chǎn)品、服務(wù)或系統(tǒng)進(jìn)行鑒定認(rèn)證，作為確保人工智能合乎倫理的有效嘗試已經(jīng)獲得了越來越多的認(rèn)可，同時國內(nèi)外也已經(jīng)有了越來越多的嘗試。2021年11月，維也納的智慧城市公共服務(wù)提供商Wiener Stadtwerke的電子郵件智能分類系統(tǒng)ESC通過了包含43條倫理標(biāo)準(zhǔn)的IEEE CertifAIEd認(rèn)證，成為全球第一個獲得IEEE倫理認(rèn)證標(biāo)志的機(jī)構(gòu)。IEEE專家小組認(rèn)為，這是合乎倫理地使用人工智能技術(shù)的開始，也為其他企業(yè)及產(chǎn)品應(yīng)用以負(fù)責(zé)任、以人為本的方式開發(fā)使用人工智能系統(tǒng)樹立了先例。

四、結(jié)語

新興數(shù)字科技的浪潮已經(jīng)來到，不僅需要洞悉和把握科技發(fā)展的趨勢，抓住此次科技浪潮提升綜合國力和國內(nèi)科技企業(yè)的國際競爭力，也需要積極應(yīng)對新興數(shù)字科技的技術(shù)風(fēng)險，以科技向善為核心建立內(nèi)外兼修、創(chuàng)新和治理統(tǒng)一的科技倫理治理體系。積極推動具有中國特色的科技倫理治理，也是在全球數(shù)字科技競爭和數(shù)字科技治理中積極搶占規(guī)則制定的話語權(quán)，貢獻(xiàn)中國智慧和中國方案。

（張欽坤為騰訊研究院秘書長，胡曉萌為騰訊研究院博士后）