張欽坤 胡曉萌

新興數(shù)字科技的浪潮已經(jīng)來(lái)到，不僅需要洞悉和把握科技發(fā)展的趨勢(shì)，抓住此次科技浪潮提升綜合國(guó)力和國(guó)內(nèi)科技企業(yè)的國(guó)際競(jìng)爭(zhēng)力，也需要積極應(yīng)對(duì)新興數(shù)字科技的技術(shù)風(fēng)險(xiǎn)，以科技向善為核心建立內(nèi)外兼修、創(chuàng)新和治理統(tǒng)一的科技倫理治理體系。

2022年2月，習(xí)近平總書(shū)記在署名文章《不斷做強(qiáng)做優(yōu)做大我國(guó)數(shù)字經(jīng)濟(jì)》中強(qiáng)調(diào)：“發(fā)展數(shù)字經(jīng)濟(jì)意義重大，是把握新一輪科技革命和產(chǎn)業(yè)變革新機(jī)遇的戰(zhàn)略選擇。”數(shù)字技術(shù)、數(shù)字經(jīng)濟(jì)已經(jīng)成為當(dāng)今世界科技革命和產(chǎn)業(yè)變革的先機(jī)，是新一輪國(guó)際競(jìng)爭(zhēng)重點(diǎn)領(lǐng)域。抓住先機(jī)、搶占未來(lái)發(fā)展制高點(diǎn)，不僅要掌握新興數(shù)字科技的發(fā)展趨勢(shì)，也要在數(shù)字科技治理上搶占規(guī)則制定的話語(yǔ)權(quán)。以科技向善引領(lǐng)新興數(shù)字科技治理，能夠有效防控科技倫理風(fēng)險(xiǎn)，不斷推動(dòng)科技向善、造福人類，展示負(fù)責(zé)任的大國(guó)形象和企業(yè)形象。

一、新興數(shù)字科技發(fā)展趨勢(shì)

根據(jù)騰訊研究院的梳理和總結(jié)，新興數(shù)字科技有三大技術(shù)集群，即連接、交互和計(jì)算。新興數(shù)字科技的創(chuàng)新發(fā)展主要是圍繞這三大技術(shù)集群展開(kāi)的，并且呈現(xiàn)網(wǎng)絡(luò)化、融合化與智能化的發(fā)展趨勢(shì)。這種發(fā)展趨勢(shì)會(huì)帶來(lái)數(shù)字世界和物理世界的進(jìn)一步融合，朝著數(shù)字世界的實(shí)體化和物理世界的數(shù)字化兩個(gè)方向交互融合。

（一）連接技術(shù)促進(jìn)萬(wàn)物的網(wǎng)絡(luò)化

連接主要就是把數(shù)字世界、現(xiàn)實(shí)世界中的各類要素進(jìn)行連接，如互聯(lián)網(wǎng)實(shí)現(xiàn)了人與人的連接，物聯(lián)網(wǎng)實(shí)現(xiàn)了人與物、物與物的連接。5G和6G通信、區(qū)塊鏈等都屬于連接的技術(shù)集群。連接技術(shù)集群不僅深刻改變了人類在消費(fèi)互聯(lián)網(wǎng)領(lǐng)域的生產(chǎn)生活方式，也在制造業(yè)、農(nóng)業(yè)等各類產(chǎn)業(yè)領(lǐng)域快速落地發(fā)展，更好地實(shí)現(xiàn)數(shù)字經(jīng)濟(jì)和實(shí)體經(jīng)濟(jì)更為廣泛、深度、緊密地連接。

目前智慧城市、車聯(lián)網(wǎng)、智能家居、智慧農(nóng)業(yè)等業(yè)態(tài)和模式已經(jīng)讓人們意識(shí)到萬(wàn)物互聯(lián)的世界正在到來(lái)。以人工智能的農(nóng)業(yè)應(yīng)用為例，目前基于人工智能的農(nóng)業(yè)種植系統(tǒng)，在受控環(huán)境中可以大幅度提升農(nóng)業(yè)產(chǎn)能。智能種植系統(tǒng)能根據(jù)農(nóng)業(yè)專家經(jīng)驗(yàn)、農(nóng)業(yè)環(huán)境數(shù)據(jù)、蟲(chóng)害信息和作物的圖像數(shù)據(jù)等建立智能模型系統(tǒng)，模擬作物的生長(zhǎng)情況，最后在實(shí)際種植過(guò)程中實(shí)現(xiàn)對(duì)作物生長(zhǎng)的控制。2018年首屆人工智能國(guó)際智慧溫室種植比賽中，騰訊iGOW智能種植系統(tǒng)種植的黃瓜平均產(chǎn)量達(dá)到24公斤/平方米/季，是國(guó)內(nèi)平均水平的6倍。除農(nóng)業(yè)領(lǐng)域外，在人工智能的制造業(yè)應(yīng)用中，越來(lái)越多的機(jī)器與機(jī)器連接、人與機(jī)器連接，大大提升了生產(chǎn)效率、降低了生產(chǎn)成本。

（二）交互技術(shù)打造虛實(shí)的融合化

交互的技術(shù)集群是讓數(shù)字世界和現(xiàn)實(shí)世界更好地互動(dòng)起來(lái)，力促數(shù)字世界中的體驗(yàn)更加接近現(xiàn)實(shí)世界，同時(shí)在現(xiàn)實(shí)世界中更好地實(shí)現(xiàn)數(shù)字世界的便捷性。從人類獲取信息的各類感官來(lái)說(shuō)，過(guò)去信息技術(shù)實(shí)現(xiàn)的交互，主要是以2D畫面呈現(xiàn)的視覺(jué)，3D環(huán)境下如何實(shí)現(xiàn)更好的交互體驗(yàn)，怎么能夠讓人們?cè)跀?shù)字世界中具有與現(xiàn)實(shí)世界相同的感知和體驗(yàn)，是未來(lái)交互技術(shù)集群所要解決的問(wèn)題，同時(shí)也是未來(lái)交互技術(shù)集群的發(fā)展方向。這類技術(shù)包括虛擬現(xiàn)實(shí)、增強(qiáng)現(xiàn)實(shí)、混合現(xiàn)實(shí)、3D和4D打印、生物傳感及腦機(jī)接口等，交互方式也包括全息交互、通感互聯(lián)、智能交互等。

交互技術(shù)的發(fā)展有賴于硬件設(shè)備的突破，目前動(dòng)態(tài)捕捉技術(shù)、3D建模技術(shù)、終端硬件產(chǎn)品等在技術(shù)上不斷成熟，價(jià)格上持續(xù)下降，加速了人們對(duì)未來(lái)新型交互模式的期待，并催生了元宇宙理念的落地。2021年可以說(shuō)是元宇宙概念大火的一年，META在其關(guān)于元宇宙的介紹性視頻中，展現(xiàn)了其是如何利用VR、AR、MR等技術(shù)手段組合，顛覆性地變革了交互方式，創(chuàng)造了與現(xiàn)實(shí)世界映射、交互與融合的虛擬世界。當(dāng)然，元宇宙并非一個(gè)獨(dú)立的完整概念，更像是類似于移動(dòng)互聯(lián)網(wǎng)、智慧城市等集合式產(chǎn)業(yè)概念，因此未來(lái)肯定會(huì)有更多種的新型交互方式出現(xiàn)，不斷推動(dòng)數(shù)實(shí)融合的演進(jìn)，我們可以拭目以待。

腦機(jī)接口也是數(shù)字世界和現(xiàn)實(shí)世界交互融合的一項(xiàng)關(guān)鍵技術(shù)，它能夠?qū)崿F(xiàn)人通過(guò)意念去操縱物體。人體的大腦皮層發(fā)出指令時(shí)，產(chǎn)生的生物電信號(hào)被植入大腦的芯片或者貼在人體頭皮的電極片捕捉并進(jìn)行放大和處理。芯片可以對(duì)這些電信號(hào)進(jìn)行智能運(yùn)算分析，獲得具體的指令，然后把指令編碼成機(jī)器可讀的語(yǔ)言，并最終實(shí)現(xiàn)對(duì)外接機(jī)器的控制。可以想象到，未來(lái)會(huì)有越來(lái)越多的人機(jī)融合技術(shù)產(chǎn)生和應(yīng)用。

（三）計(jì)算技術(shù)推動(dòng)科技的智能化

計(jì)算技術(shù)集群是連接和交互技術(shù)集群的基礎(chǔ)性技術(shù)底座。大數(shù)據(jù)、云計(jì)算、人工智能等已經(jīng)成為數(shù)字社會(huì)的基礎(chǔ)設(shè)施，支撐著各類數(shù)字技術(shù)產(chǎn)品和數(shù)字設(shè)施的正常運(yùn)行。計(jì)算技術(shù)集群的三個(gè)基本要素是數(shù)據(jù)、算力和算法，其中數(shù)據(jù)是新生產(chǎn)資料，算力是新生產(chǎn)力，算法是新生產(chǎn)關(guān)系，它們共同推動(dòng)著數(shù)字技術(shù)集群的快速演進(jìn)。云計(jì)算、邊緣計(jì)算、量子計(jì)算等提供了更為便捷、廉價(jià)的算力，互聯(lián)網(wǎng)、大數(shù)據(jù)提供了海量的數(shù)據(jù)，算法擁有越來(lái)越高的自主性，使計(jì)算更智能化、使技術(shù)更自動(dòng)化。

在計(jì)算技術(shù)集群的發(fā)展上，繼數(shù)據(jù)成為新型生產(chǎn)要素之后，我國(guó)啟動(dòng)“東數(shù)西算”工程，完成全國(guó)一體化大數(shù)據(jù)中心體系建設(shè)的總體布局。2022年2月，國(guó)家發(fā)改委等四部門聯(lián)合通知，同意在京津冀、長(zhǎng)三角、粵港澳大灣區(qū)、成渝、內(nèi)蒙古、貴州、甘肅、寧夏等8地啟動(dòng)建設(shè)國(guó)家算力樞紐節(jié)點(diǎn)，并規(guī)劃了10個(gè)國(guó)家數(shù)據(jù)中心集群。算力已經(jīng)呈現(xiàn)出取代熱力、電力成為未來(lái)數(shù)字經(jīng)濟(jì)發(fā)展新動(dòng)能的趨勢(shì)，也成為國(guó)際數(shù)字科技核心競(jìng)爭(zhēng)力的關(guān)鍵要素。我國(guó)《新一代人工智能發(fā)展規(guī)劃》明確指出，我國(guó)在核心算法上與發(fā)達(dá)國(guó)家存在較大差距，圍繞提升我國(guó)人工智能國(guó)際競(jìng)爭(zhēng)力的迫切需求，新一代人工智能關(guān)鍵共性技術(shù)的研發(fā)部署要以算法為核心，加強(qiáng)引領(lǐng)人工智能算法的數(shù)據(jù)基礎(chǔ)理論研究。在此背景下，算法創(chuàng)新成為建設(shè)網(wǎng)絡(luò)強(qiáng)國(guó)的有力支撐，成為貫徹新發(fā)展理念的重要實(shí)踐。目前，全球已有40多個(gè)國(guó)家和地區(qū)把數(shù)字化、網(wǎng)絡(luò)化、智能化技術(shù)發(fā)展上升為國(guó)家或地區(qū)戰(zhàn)略。未來(lái)誰(shuí)掌握先進(jìn)的算力、積累數(shù)據(jù)資源多、擁有高智能水平的算法能力，誰(shuí)就掌握了發(fā)展的主動(dòng)權(quán)。

二、新興數(shù)字科技面臨的倫理困境

新興數(shù)字科技深刻地變革了傳統(tǒng)物理世界和現(xiàn)實(shí)社會(huì)中人與人、人與社會(huì)以及人與自然的關(guān)系，也因此引發(fā)了一系列倫理問(wèn)題和爭(zhēng)議，涉及人的基本價(jià)值和權(quán)益。由于新興數(shù)字科技的技術(shù)特征，并且在人類社會(huì)中的介入越來(lái)越廣泛和深入，這些倫理問(wèn)題呈現(xiàn)出傳播迅速、問(wèn)題隱蔽、持續(xù)發(fā)酵、影響深遠(yuǎn)等特征，對(duì)人類社會(huì)的平穩(wěn)秩序和價(jià)值體系造成了巨大沖擊。

（一）新興數(shù)字科技的倫理問(wèn)題

倫理關(guān)注人類自身的價(jià)值，數(shù)字科技的倫理問(wèn)題通常表現(xiàn)為技術(shù)對(duì)人類自身價(jià)值的侵害，如自由與自主、生命與尊嚴(yán)、人性與權(quán)利、安全與環(huán)境、平等與公正、責(zé)任與信任等。下面以人工智能、自動(dòng)駕駛、元宇宙等為例進(jìn)行倫理問(wèn)題的梳理和說(shuō)明。

1.算法歧視和不公平問(wèn)題

算法歧視是人工智能倫理問(wèn)題中較為常見(jiàn)且易發(fā)生的問(wèn)題。如2015年谷歌Photos軟件的人臉識(shí)別功能曾經(jīng)把黑人標(biāo)記為大猩猩；2016年P(guān)roPublica調(diào)查發(fā)現(xiàn)它的犯罪風(fēng)險(xiǎn)評(píng)估算法系統(tǒng)性地歧視了黑人；2018年5月，有人發(fā)現(xiàn)Facebook的廣告算法能夠幫助廣告主排除大齡勞動(dòng)者，造成就業(yè)不公平。萊普利·普魯諾（Lepri Bruno）將算法歧視分為三類：（1）社會(huì)中預(yù)先就有的偏見(jiàn)導(dǎo)致的算法歧視；（2）在使用算法決策過(guò)程導(dǎo)致的算法歧視；（3）在算法決策中各類數(shù)據(jù)所設(shè)置的權(quán)重不同，從而有可能導(dǎo)致間接的歧視行為。算法歧視會(huì)固化加深社會(huì)原有的歧視，導(dǎo)致更為廣泛的社會(huì)不公平，也會(huì)產(chǎn)生新形式的不公平問(wèn)題。新興數(shù)字科技塑造的未來(lái)世界，依然是以真實(shí)世界的人為行為主體，人類社會(huì)生活的固有問(wèn)題依然會(huì)延續(xù)。

2.隱私泄露、侵犯問(wèn)題

數(shù)據(jù)是數(shù)字社會(huì)的生產(chǎn)要素，人工智能等數(shù)字科技都依賴數(shù)據(jù)的喂養(yǎng)。新興數(shù)字科技發(fā)展對(duì)數(shù)據(jù)的巨大需求給隱私保護(hù)帶來(lái)了巨大挑戰(zhàn)，第一是數(shù)據(jù)源不合規(guī)，即使用的數(shù)據(jù)是非法采集的，甚至是數(shù)據(jù)黑產(chǎn)；第二是對(duì)知情同意規(guī)則提出挑戰(zhàn)，物聯(lián)網(wǎng)、人工智能等技術(shù)的廣泛應(yīng)用，使數(shù)據(jù)收集變得無(wú)時(shí)無(wú)刻、無(wú)處不在。例如自動(dòng)駕駛，數(shù)據(jù)采集車在道路上行駛，很難說(shuō)獲得道路上所有人的知情同意；第三是數(shù)據(jù)的使用可能存在違法違規(guī)或者違約的情況，比如人工智能算法對(duì)數(shù)據(jù)的使用超出了用戶授權(quán)的范圍，或二次利用等一系列可能存在的情況；第四是在一些特殊場(chǎng)景中，數(shù)據(jù)使用可能會(huì)造成一些負(fù)面的影響。例如Facebook數(shù)據(jù)泄露事件，由于它泄露的數(shù)據(jù)被劍橋分析不當(dāng)使用，影響了美國(guó)大選，造成了很嚴(yán)重的影響。

3.算法黑箱與信任問(wèn)題

個(gè)性化推薦、精準(zhǔn)廣告、人臉識(shí)別等人工智能算法應(yīng)用經(jīng)常因?yàn)樗惴ê谙鋯?wèn)題引發(fā)爭(zhēng)議。而以深度學(xué)習(xí)為核心的人工智能算法在解釋性上存在客觀的難度。用戶難以理解算法的模型和邏輯。算法模型的輸出結(jié)果難以解釋。國(guó)內(nèi)外人工智能治理，都提出讓算法具有可解釋性、更加透明，從而建立起政府、公眾對(duì)算法的信任度。在未來(lái)人機(jī)交互的智能社會(huì)中，打開(kāi)算法黑箱，建立算法信任是不可避免并且亟須解決的問(wèn)題。

4.安全與濫用問(wèn)題

以深度學(xué)習(xí)為核心的人工智能存在弱魯棒性等問(wèn)題，在面臨攻擊時(shí)極其容易引發(fā)安全事故。現(xiàn)在網(wǎng)絡(luò)安全問(wèn)題隨著人工智能的廣泛應(yīng)用，出現(xiàn)了新型的攻擊類型，如針對(duì)算法的數(shù)據(jù)下毒、對(duì)抗樣本攻擊、標(biāo)簽操縱、算法后門攻擊、模型竊取攻擊、模型反饋誤導(dǎo)、數(shù)據(jù)逆向還原、成員推理攻擊等。這些安全問(wèn)題可能會(huì)直接導(dǎo)致嚴(yán)重的生命財(cái)產(chǎn)損失。這需要未來(lái)人工智能系統(tǒng)能夠做得更加的安全，才能夠更好地保障消費(fèi)者的安全權(quán)益。人工智能的濫用問(wèn)題也很普遍，已經(jīng)被國(guó)家納入重點(diǎn)監(jiān)管和治理范圍。2021年清朗專項(xiàng)行動(dòng)重點(diǎn)治理算法濫用行為，包括深度合成技術(shù)用于生物偽造、深度偽造人臉或者音視頻從事詐騙活動(dòng)等，嚴(yán)厲打擊危害個(gè)人生命財(cái)產(chǎn)安全的違法行為。

5.自主性與問(wèn)責(zé)問(wèn)題

新興數(shù)字技術(shù)以智能算法為核心，朝著智能化的方向發(fā)展而具有越來(lái)越高的自主性。但是，這也導(dǎo)致了人們對(duì)數(shù)字技術(shù)的盲目信任，技術(shù)越來(lái)越高的自主性削弱了人的自主性。第一例自動(dòng)駕駛汽車碰撞行人致死的案例就說(shuō)明了技術(shù)對(duì)人的自由與自主價(jià)值的侵蝕。2018年Uber的自動(dòng)駕駛測(cè)試員在進(jìn)行自動(dòng)駕駛汽車的真實(shí)夜間測(cè)試時(shí)，由于盲目信任自動(dòng)駕駛汽車，沒(méi)有正常觀測(cè)路況和駕駛，而是在低頭刷手機(jī)視頻。由于光線較暗，自動(dòng)駕駛測(cè)試車在面臨一個(gè)行人過(guò)馬路時(shí)無(wú)法及時(shí)獲取數(shù)據(jù)，沒(méi)能做出避讓或者剎車動(dòng)作，最終撞向行人導(dǎo)致其死亡。后來(lái)特斯拉也發(fā)生了相似的事故案例，特斯拉將產(chǎn)品名稱從“自動(dòng)駕駛系統(tǒng)”改成了“自動(dòng)輔助駕駛系統(tǒng)”，并且加入了對(duì)駕駛員雙手脫離方向盤的警示提醒，以建立更為合理的人機(jī)交互的信任關(guān)系。此外，自動(dòng)駕駛的事故責(zé)任認(rèn)定和追責(zé)也充滿爭(zhēng)議，面臨自動(dòng)駕駛系統(tǒng)設(shè)計(jì)者、汽車生產(chǎn)商、人類駕駛員等三方誰(shuí)要承擔(dān)責(zé)任、如何定責(zé)的困境。

（二）新興數(shù)字科技倫理問(wèn)題的特征

數(shù)字科技的用戶群體大、黑箱屬性等多方面因素，導(dǎo)致新興數(shù)字科技的倫理問(wèn)題具有技術(shù)性強(qiáng)，沖擊力大、快速形成廣泛影響，以及問(wèn)題隱蔽且影響深遠(yuǎn)等特征。

1.技術(shù)性強(qiáng)

數(shù)字社會(huì)以數(shù)字科技作為基礎(chǔ)設(shè)施，塑造了人們的生產(chǎn)生活。人們?cè)跀?shù)字社會(huì)中生活，就要與智能系統(tǒng)、機(jī)器以及算法等有大量的交互。但是由于算法黑箱等因素導(dǎo)致的技術(shù)性過(guò)強(qiáng)，數(shù)字科技已經(jīng)對(duì)大多數(shù)人形成了認(rèn)知門檻。新一代人工智能的核心就是深度學(xué)習(xí)算法，算法也是未來(lái)智能化的技術(shù)保障，然而，算法具有黑箱屬性，即人們只能知道輸入數(shù)據(jù)和輸出結(jié)果，而數(shù)據(jù)處理的過(guò)程甚至是專家也無(wú)法完全理解。隨著算法在人類社會(huì)的深度嵌入，弗蘭克·帕斯奎爾（Frank Pasquale）認(rèn)為人類將迎來(lái)黑箱社會(huì)。這意味著歧視、偏見(jiàn)、安全等倫理問(wèn)題也會(huì)隱藏在黑箱之中。甚至由于對(duì)算法準(zhǔn)確、高效、科學(xué)的標(biāo)榜，人們對(duì)算法產(chǎn)生了盲目崇拜，對(duì)算法的輸出結(jié)果不假反思、盲目信任，而使問(wèn)題更加難以被發(fā)現(xiàn)。

由于算法黑箱等問(wèn)題，人們對(duì)數(shù)字科技背后的復(fù)雜技術(shù)邏輯缺乏認(rèn)知，無(wú)法及時(shí)意識(shí)到很多技術(shù)倫理問(wèn)題的存在，更沒(méi)有能力采取主動(dòng)措施保護(hù)自身權(quán)益，需要越來(lái)越多地依賴于熟悉計(jì)算機(jī)技術(shù)的專家和管理者，而這方面的人才儲(chǔ)備還相當(dāng)不足。20世紀(jì)50、60年代，歐洲學(xué)界在討論科技創(chuàng)新產(chǎn)生的社會(huì)、政治問(wèn)題時(shí)提出了技術(shù)專家治國(guó)論（Technocracy）的理論觀點(diǎn)，即當(dāng)社會(huì)運(yùn)行以越來(lái)越復(fù)雜的技術(shù)為支撐時(shí)，技術(shù)專家就存在一定的合理性統(tǒng)治或管理社會(huì)。2020年歐盟數(shù)據(jù)保護(hù)條例（GDPR）實(shí)施2周年之際，因?yàn)槿狈Υ罅康膶I(yè)技術(shù)人員和相應(yīng)的財(cái)政預(yù)算來(lái)支撐用戶大量的投訴處理工作，很多國(guó)家數(shù)據(jù)保護(hù)監(jiān)管機(jī)構(gòu)不堪重負(fù)。而算法歧視等倫理問(wèn)題的治理也越來(lái)越依賴于專業(yè)技術(shù)人員。

2.沖擊力大，快速形成廣泛影響

未來(lái)萬(wàn)物互聯(lián)、虛實(shí)結(jié)合的數(shù)字世界中，人與人、人與物、物與物之間的信息傳遞更加緊密迅速，因此倫理問(wèn)題也隨之傳播和擴(kuò)散得更快。以深度合成技術(shù)（Deep Synthesis）為例，它可以通過(guò)生成對(duì)抗網(wǎng)絡(luò)進(jìn)行圖像、語(yǔ)音的合成?，F(xiàn)在流行的AI換臉、語(yǔ)音合成、虛擬合成主播等都是深度合成技術(shù)的具體應(yīng)用。2018年5月，網(wǎng)上流傳了一個(gè)特朗普嘲諷比利時(shí)留在巴黎氣候協(xié)議的深度合成視頻。該視頻在社交媒體上被快速分享、大規(guī)模傳播，有人將該視頻認(rèn)定為操縱影響大選的手段。這些被蓄意制造、具有誤導(dǎo)性的視頻或語(yǔ)音能夠歪曲民主話語(yǔ)，操縱選舉，削弱社會(huì)信任，加劇社會(huì)分裂，破壞公共安全，對(duì)包括選舉候選人在內(nèi)的個(gè)人的聲譽(yù)造成難以修復(fù)的損害。因此，《紐約時(shí)報(bào)》認(rèn)為深度合成是對(duì)民主政治的新興長(zhǎng)期威脅。在后真相時(shí)代，人們對(duì)真相的認(rèn)知逐漸從客觀事實(shí)轉(zhuǎn)移到情感和個(gè)人信仰。這也為別有用心的深度偽造視頻語(yǔ)音提供了快速傳播的土壤。深度合成技術(shù)濫用的危害之所以這么大，就是因?yàn)榭梢越柚襟w的快速傳播，形成巨大沖擊，快速造成廣泛影響。

3.隱蔽、影響深遠(yuǎn)

數(shù)字科技與人類社會(huì)深度融合，社會(huì)演變會(huì)受到技術(shù)形態(tài)的影響。英國(guó)技術(shù)哲學(xué)家大衛(wèi)·科林格里奇（David Collingridge）曾經(jīng)提出過(guò)著名的科林格里奇困境，指出了人們?cè)陬A(yù)見(jiàn)和防范技術(shù)長(zhǎng)遠(yuǎn)發(fā)展時(shí)所面臨的一個(gè)雙重約束困境（double-bind problem），首先是人們很難在技術(shù)生命周期的早期對(duì)一項(xiàng)技術(shù)的社會(huì)后果進(jìn)行預(yù)見(jiàn)；然后是當(dāng)不好的后果被發(fā)現(xiàn)時(shí)，技術(shù)卻往往已經(jīng)成為整個(gè)經(jīng)濟(jì)和社會(huì)結(jié)構(gòu)的一部分，以至于難以對(duì)其加以調(diào)控。

例如，短視頻已經(jīng)成為人們?nèi)粘Ｉ钪袏蕵?lè)、信息獲取、表達(dá)自我以及內(nèi)容消費(fèi)的主要方式。截至2021年12月，短視頻用戶規(guī)模為9.34億，占網(wǎng)民整體的90.5%，人均單日使用時(shí)長(zhǎng)為125分鐘，占用了網(wǎng)民上網(wǎng)時(shí)長(zhǎng)的一半以上，是名副其實(shí)的“Time-killer”。短視頻的用戶群體中，青少年由于尚未養(yǎng)成較好的自控力與對(duì)世界的穩(wěn)定認(rèn)知，很容易被短視頻內(nèi)容所影響，造成焦慮心理、影響自我認(rèn)知等問(wèn)題；中老年人因?yàn)槿粘蕵?lè)生活較為單調(diào)，更容易沉溺在短視頻之中。2018年英國(guó)索爾福德大學(xué)瑪麗亞·帕納吉奧蒂（Maria Panagiotidi）在研究中表明，成年人注意力缺陷多動(dòng)障礙（ADHD）癥狀與過(guò)度使用互聯(lián)網(wǎng)存在正相關(guān)關(guān)系。而ADHD已經(jīng)被證明會(huì)對(duì)個(gè)人內(nèi)驅(qū)力和職業(yè)發(fā)展、情緒穩(wěn)定和心理健康、執(zhí)行力和判斷能力等造成危害。隨著元宇宙的到來(lái)，網(wǎng)絡(luò)成癮、注意力缺陷、網(wǎng)絡(luò)焦慮、自我認(rèn)知缺陷等問(wèn)題是不是會(huì)更為加劇？

三、科技向善：內(nèi)外兼修的科技倫理治理

科技是一種能力，向善是一種選擇?？萍枷蛏拼碇鴦?chuàng)新和治理的平衡和統(tǒng)一，以最大彰顯科技造福人類生活的使命。未來(lái)新興數(shù)字科技的發(fā)展會(huì)逐漸走進(jìn)“深水區(qū)”。建立起內(nèi)外兼修的科技倫理治理體系，將成為未來(lái)數(shù)字科技創(chuàng)新進(jìn)入深水區(qū)后可以被摸到的石頭。同時(shí)，面對(duì)日益復(fù)雜的全球競(jìng)爭(zhēng)格局，重視和發(fā)展科技倫理治理不僅能夠保障技術(shù)順利研發(fā)應(yīng)用，也能使國(guó)家和企業(yè)在科技競(jìng)爭(zhēng)中脫穎而出，展現(xiàn)負(fù)責(zé)任的形象。

1.以科技倫理治理保障和促進(jìn)新興數(shù)字科技創(chuàng)新

我國(guó)目前已經(jīng)初步建立了法律和倫理并重、創(chuàng)新和治理統(tǒng)一的科技倫理治理體系。2022年3月，中共中央辦公廳、國(guó)務(wù)院辦公廳印發(fā)《加強(qiáng)科技倫理治理的意見(jiàn)》明確指出，科技倫理是開(kāi)展科學(xué)研究、技術(shù)開(kāi)發(fā)等科技活動(dòng)需要遵循的價(jià)值理念和行為規(guī)范，是促進(jìn)科技事業(yè)健康發(fā)展的重要保障。

以“科技向善”為中心的科技倫理治理體系應(yīng)同時(shí)融合法律、技術(shù)和倫理三個(gè)維度，按照“扎牢紅線、放開(kāi)上線、提高基線”的思路進(jìn)行治理。“扎牢紅線”即通過(guò)法律規(guī)定技術(shù)應(yīng)用的邊界，對(duì)損害國(guó)家安全和社會(huì)公共利益的行為嚴(yán)厲禁止，如侵犯?jìng)€(gè)人隱私、安全問(wèn)題、算法歧視中的大數(shù)據(jù)殺熟等?！胺砰_(kāi)上線”要求進(jìn)行包容審慎、敏捷靈活、鼓勵(lì)創(chuàng)新等創(chuàng)新性立法和監(jiān)管策略，為新興數(shù)字科技創(chuàng)造更多的創(chuàng)新空間?！疤岣呋€”便是秉承科技向善的理念，通過(guò)建立技術(shù)標(biāo)準(zhǔn)、倫理框架、科技倫理審查、從業(yè)人員和社會(huì)公眾的科技倫理教育和意識(shí)提升等多種方式，確保新興數(shù)字科技負(fù)責(zé)任的創(chuàng)新發(fā)展。

2.以向善的技術(shù)手段解決技術(shù)問(wèn)題

科技向善不僅要求技術(shù)本身是善的、合乎倫理的，而且希望技術(shù)創(chuàng)新可以促進(jìn)社會(huì)的公平、人類的福祉和利益。例如人工智能發(fā)展中曾遇到數(shù)據(jù)利用涉嫌侵權(quán)隱私的問(wèn)題，業(yè)界隨后提出了隱私設(shè)計(jì)理念，即將隱私保護(hù)納入整個(gè)設(shè)計(jì)和研發(fā)過(guò)程。聯(lián)邦計(jì)算便是隱私設(shè)計(jì)的一個(gè)典型案例，它在數(shù)據(jù)不出本地的情況下實(shí)現(xiàn)了聯(lián)合訓(xùn)練人工智能模型，有效地保護(hù)了數(shù)據(jù)隱私和信息安全。在隱私設(shè)計(jì)之后，倫理設(shè)計(jì)的理念和實(shí)踐也在發(fā)展之中。倫理設(shè)計(jì)要求將倫理價(jià)值植入到技術(shù)的研發(fā)設(shè)計(jì)過(guò)程中。為了解決人工智能可解釋性、公平和安全等問(wèn)題，國(guó)內(nèi)外很多科技企業(yè)都在積極開(kāi)發(fā)倫理工具，如谷歌開(kāi)發(fā)的可解釋性人工智能工具箱、IBM開(kāi)發(fā)的人工智能公平的倫理工具等。

與此同時(shí)，類似深度合成等技術(shù)也可以向善地創(chuàng)新發(fā)展，幫助建立科學(xué)有效、無(wú)偏見(jiàn)的訓(xùn)練數(shù)據(jù)集供人工智能訓(xùn)練使用。在醫(yī)療領(lǐng)域，深度合成技術(shù)合成醫(yī)療影像數(shù)據(jù)，為人工智能診療系統(tǒng)提供了必需的訓(xùn)練數(shù)據(jù)，有效地解決了隱私保護(hù)、數(shù)據(jù)不足問(wèn)題。無(wú)偏見(jiàn)訓(xùn)練數(shù)據(jù)集則能滿足人工智能對(duì)訓(xùn)練數(shù)據(jù)集無(wú)誤性、準(zhǔn)確性、完整性、相關(guān)性、代表性、時(shí)新性、來(lái)源合法性、無(wú)歧視性等多種要求，確保人工智能本身不出現(xiàn)科技倫理問(wèn)題。

3.建立科技向善和負(fù)責(zé)任的科技創(chuàng)新制度和文化

此前國(guó)內(nèi)有學(xué)者指出，我國(guó)政府在算法監(jiān)管方面要求強(qiáng)化平臺(tái)責(zé)任，但是也造成了企業(yè)自律機(jī)制不足的問(wèn)題，即強(qiáng)監(jiān)管弱自律。因此，圍繞科技向善建立的科技倫理治理強(qiáng)調(diào)內(nèi)功修煉，建立自律的創(chuàng)新制度和文化。內(nèi)部建設(shè)主要以科技倫理委員會(huì)為載體，外部建設(shè)有第三方倫理認(rèn)證的探索性嘗試。

我國(guó)《關(guān)于加強(qiáng)科技倫理治理的意見(jiàn)》《科學(xué)技術(shù)進(jìn)步法》《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見(jiàn)》等政策法規(guī)文件都提出強(qiáng)化科技倫理意識(shí)，建立科技倫理（審查）委員會(huì)和科技倫理審查制度等要求?？萍紓惱砦瘑T會(huì)是建立科技向善和負(fù)責(zé)任的科技創(chuàng)新文化的有效載體，其主要職能如下：

（1）倫理決策與咨詢：主要為機(jī)構(gòu)戰(zhàn)略目標(biāo)和方向、政策制定與對(duì)外合作等進(jìn)行倫理決策和咨詢，使其滿足社會(huì)價(jià)值需求和人的普遍道德情感。機(jī)構(gòu)應(yīng)通過(guò)倫理決策和咨詢辨認(rèn)價(jià)值觀和行動(dòng)之間的缺口，并制訂使之彌合的詳細(xì)計(jì)劃來(lái)優(yōu)化決策。

（2）倫理評(píng)估與審查：主要依據(jù)倫理原則規(guī)范、政策法規(guī)，對(duì)技術(shù)研發(fā)和產(chǎn)品引用進(jìn)行事前評(píng)估審批、事中監(jiān)督和事后跟蹤的全過(guò)程倫理約束作用。倫理評(píng)估與審查是試圖幫助機(jī)構(gòu)在新興數(shù)字科技的技術(shù)設(shè)計(jì)、研發(fā)和運(yùn)營(yíng)中采取符合那些價(jià)值觀的行動(dòng)。

（3）倫理教育與文化建設(shè)：倫理約束一般是內(nèi)化的，通常通過(guò)教育手段實(shí)現(xiàn)，以期其成為一種內(nèi)在的引導(dǎo)和制約力量，即內(nèi)化于心，外化于行。倫理教育是科技倫理治理的重要組成部分，它可以有效地使科技創(chuàng)新從業(yè)人員、企業(yè)合規(guī)團(tuán)隊(duì)等相關(guān)人員能夠通過(guò)人與社會(huì)的敏感價(jià)值體系，建立內(nèi)外兼修的個(gè)人認(rèn)知、行為規(guī)范和職業(yè)倫理素養(yǎng)，也可以很好地幫助從業(yè)人員建立倫理風(fēng)險(xiǎn)識(shí)別的能力。

此外，來(lái)自第三方的權(quán)威倫理認(rèn)證，也是幫助機(jī)構(gòu)建立科技向善和負(fù)責(zé)任的科技創(chuàng)新制度和文化的有效舉措。目前，人工智能倫理標(biāo)準(zhǔn)認(rèn)證通過(guò)建立一套系統(tǒng)的倫理標(biāo)準(zhǔn)，對(duì)符合標(biāo)準(zhǔn)的人工智能產(chǎn)品、服務(wù)或系統(tǒng)進(jìn)行鑒定認(rèn)證，作為確保人工智能合乎倫理的有效嘗試已經(jīng)獲得了越來(lái)越多的認(rèn)可，同時(shí)國(guó)內(nèi)外也已經(jīng)有了越來(lái)越多的嘗試。2021年11月，維也納的智慧城市公共服務(wù)提供商Wiener Stadtwerke的電子郵件智能分類系統(tǒng)ESC通過(guò)了包含43條倫理標(biāo)準(zhǔn)的IEEE CertifAIEd認(rèn)證，成為全球第一個(gè)獲得IEEE倫理認(rèn)證標(biāo)志的機(jī)構(gòu)。IEEE專家小組認(rèn)為，這是合乎倫理地使用人工智能技術(shù)的開(kāi)始，也為其他企業(yè)及產(chǎn)品應(yīng)用以負(fù)責(zé)任、以人為本的方式開(kāi)發(fā)使用人工智能系統(tǒng)樹(shù)立了先例。

四、結(jié)語(yǔ)

新興數(shù)字科技的浪潮已經(jīng)來(lái)到，不僅需要洞悉和把握科技發(fā)展的趨勢(shì)，抓住此次科技浪潮提升綜合國(guó)力和國(guó)內(nèi)科技企業(yè)的國(guó)際競(jìng)爭(zhēng)力，也需要積極應(yīng)對(duì)新興數(shù)字科技的技術(shù)風(fēng)險(xiǎn)，以科技向善為核心建立內(nèi)外兼修、創(chuàng)新和治理統(tǒng)一的科技倫理治理體系。積極推動(dòng)具有中國(guó)特色的科技倫理治理，也是在全球數(shù)字科技競(jìng)爭(zhēng)和數(shù)字科技治理中積極搶占規(guī)則制定的話語(yǔ)權(quán)，貢獻(xiàn)中國(guó)智慧和中國(guó)方案。

（張欽坤為騰訊研究院秘書(shū)長(zhǎng)，胡曉萌為騰訊研究院博士后）