摘 要：人工智能正在重塑人類心理與行為體系、社群互動模式，以及商業(yè)模式和社會組織運(yùn)營動力體系。傳統(tǒng)科技創(chuàng)新模式與政策法規(guī)面向數(shù)據(jù)安全、算法公正等人工智能倫理的問題，存在制度缺失，人工智能創(chuàng)新備受關(guān)注。人工智能倫理研究在產(chǎn)業(yè)發(fā)展中越來越重要，已有文獻(xiàn)多以歐美發(fā)達(dá)經(jīng)濟(jì)體為對象，缺少與我國實(shí)際情況結(jié)合的研究。從“科技更向善”的視角，使用文獻(xiàn)計(jì)量學(xué)方法分析了近5年人工智能倫理領(lǐng)域的研究現(xiàn)狀，分析當(dāng)前所面臨的挑戰(zhàn)，以期為我國人工智能倫理研究和治理提供建議?？萍计髽I(yè)應(yīng)在關(guān)注經(jīng)濟(jì)利潤增長的同時(shí)，利用人工智能技術(shù)提高社會包容度，并建立無偏、公正、隱私保護(hù)的人工智能倫理治理框架。

關(guān)鍵詞：人工智能；倫理風(fēng)險(xiǎn)；CiteSpace

中圖分類號：G311

文獻(xiàn)標(biāo)識碼：A

Doi：10.3969/j.issn.1672-2272.202401096

Artificial Intelligence Ethics： Research Trends， Challenges， and Governance

Wang Xueqian， Ni Shiguang

（Shenzhen International Graduate School， Tsinghua University， Shenzhen 518055， China）

Abstract： The rapid development of computer science and technology， particularly artificial intelligence （AI）， has significantly transformed human psychology， behavior， community interaction patterns， and the dynamics of social organizations. Although technological innovation brings convenience， it presents challenges， including data security and algorithm fairness. Current models and policies of technological innovation have institutional deficiencies. The social responsibility associated with technological innovation has garnered attention. Governments worldwide have released plans and reports of AI ethics， highlighting the significance and urgency of solving ethical issues in the field of AI. Existing literature primarily concentrates on developed economies like Europe and the United States， failing to consider China's context. Therefore， this study adopts the \"technology for good\" perspective and employs bibliometrics to analyze the literature on AI ethics over the past five years. It aims to identify current challenges related to AI ethics and provide suggestions for relevant research and policies. While seeking economic growth and fostering social inclusivity by utilizing AI， technology companies should address AI-related ethics， bias， and privacy issues.

Key Words：Artificial Intelligence; Ethics Risk; CiteSpace

0 引言

當(dāng)前，以人工智能為代表的計(jì)算機(jī)科學(xué)與技術(shù)快速發(fā)展，正在深刻地重塑人類心理與行為體系，再造社群互動模式，解構(gòu)傳統(tǒng)商業(yè)模式，以及社會組織運(yùn)營和動力體系[1]?？萍紕?chuàng)新在推動社會發(fā)展并給人們生活帶來便利的同時(shí)，也帶來了諸如數(shù)據(jù)安全性、算法公正性、數(shù)字包容性等方面的挑戰(zhàn)。原有的科技創(chuàng)新模式、政策法規(guī)、評估方法和科學(xué)社會契約關(guān)系等在面向新興科技創(chuàng)新治理時(shí)面臨著諸多制度缺失[2]。為了應(yīng)對人工智能帶來的潛在風(fēng)險(xiǎn)，推動科技發(fā)展以人為本，人工智能倫理研究作為產(chǎn)業(yè)發(fā)展的重要環(huán)節(jié)，也將扮演越來越重要的角色。深度學(xué)習(xí)等人工智能算法的不透明性、可解釋性、自適應(yīng)性、運(yùn)用廣泛等特征可能在基本人權(quán)、社會秩序、國家安全等諸多方面存在倫理問題。近年來，各國政府紛紛發(fā)布治理規(guī)劃與報(bào)告[3]，突顯了人工智能倫理及其治理問題的重要性與緊迫性。

但是，已有文獻(xiàn)多以歐美等發(fā)達(dá)國家為對象，很少將國際經(jīng)驗(yàn)與我國實(shí)際情況相結(jié)合。鑒于此，本文從“科技更向善”的視角[4]，使用文獻(xiàn)計(jì)量學(xué)方法分析了最近5年人工智能倫理領(lǐng)域的研究現(xiàn)狀，為我國人工智能倫理價(jià)值、倫理規(guī)范和倫理實(shí)踐提供參考。

1 人工智能倫理研究現(xiàn)狀

本文使用CiteSpace軟件分析人工智能倫理研究領(lǐng)域的現(xiàn)狀與熱點(diǎn)。CiteSpace是文獻(xiàn)計(jì)量學(xué)的一個(gè)重要軟件，其可以根據(jù)文獻(xiàn)繪制關(guān)鍵詞共現(xiàn)圖譜、關(guān)鍵詞聚類圖譜、時(shí)間線圖譜和空間圖譜，其生成的知識圖譜能夠顯示知識的發(fā)展進(jìn)程與結(jié)構(gòu)，以此來定量描述和客觀分析某個(gè)領(lǐng)域的重點(diǎn)內(nèi)容、研究成果、趨勢與不足等[5]。

1.1 國內(nèi)外研究現(xiàn)狀分析

1.1.1 國內(nèi)人工智能倫理研究現(xiàn)狀

本文以“人工智能倫理”為主題檢索中國知網(wǎng)（CNKI）2018-2023年所發(fā)表的期刊論文，選取了1 000篇高引用論文，繪制了關(guān)鍵詞共現(xiàn)知識圖譜，每個(gè)節(jié)點(diǎn)代表一個(gè)關(guān)鍵詞，節(jié)點(diǎn)大小表示了該關(guān)鍵詞出現(xiàn)的頻率，反映了該關(guān)鍵詞在人工智能倫理研究領(lǐng)域中的熱度。從圖1可以看出，首先是“大數(shù)據(jù)”“機(jī)器人”的頻率最高，說明機(jī)器人倫理和大數(shù)據(jù)倫理的研究文獻(xiàn)占據(jù)了主流；其次是“人機(jī)關(guān)系”“法律規(guī)制”“新聞倫理”“主體性”等主題熱度較高。

本文對關(guān)鍵詞節(jié)點(diǎn)進(jìn)行聚類，得到了10個(gè)聚類結(jié)果如圖2所示，可以了解到國內(nèi)人工智能倫理研究主要圍繞以下方面進(jìn)行：①探究目前人工智能領(lǐng)域出現(xiàn)的倫理問題，如大數(shù)據(jù)、機(jī)器人等；②探究人工智能技術(shù)與人的關(guān)系；③探究人工智能相關(guān)法律法規(guī)的制定；④人工智能在社會中應(yīng)該承擔(dān)什么角色與責(zé)任。

為了進(jìn)一步探究該領(lǐng)域研究熱點(diǎn)的時(shí)序變化，本文繪制了聚類時(shí)間軸，如圖3所示?？梢园l(fā)現(xiàn)，大部分關(guān)鍵詞類別在近5年中都始終保持著熱度。值得注意的是，“倫理”“倫理規(guī)范”等類別自2020年來熱度稍降，表示國內(nèi)研究從整體的人工智能倫理轉(zhuǎn)移到各個(gè)具體的應(yīng)用場景中。而“法律規(guī)制”“新聞倫理”兩個(gè)類別從2018年開始熱度逐年上升，展示了當(dāng)前國內(nèi)該領(lǐng)域較為前沿的兩個(gè)細(xì)分方向。

1.1.2 國外人工智能倫理研究現(xiàn)狀

為了解國外人工智能倫理領(lǐng)域的研究熱點(diǎn)和趨勢，本文進(jìn)一步對Web of Science數(shù)據(jù)庫收錄的2018-2023年英文文獻(xiàn)進(jìn)行計(jì)量學(xué)分析。通過分析國外人工智能倫理研究的關(guān)鍵詞共現(xiàn)圖譜，如圖4所示，出現(xiàn)最多的幾個(gè)關(guān)鍵詞包括“決策支持”（decision support）“心理健康”（mental health）等，總體和國內(nèi)的關(guān)鍵詞共現(xiàn)結(jié)果類似，只是出現(xiàn)了更多像“心理健康”等關(guān)注個(gè)體的關(guān)鍵詞。在其他出現(xiàn)頻次較高的關(guān)鍵詞中，也可以注意到“健康”（health）、“人”（people）、“隱私”（privacy）等關(guān)鍵詞。另外，也出現(xiàn)了“未來”（future）、“挑戰(zhàn)”（challenge）等關(guān)鍵詞。

1.2 熱點(diǎn)子領(lǐng)域研究現(xiàn)狀分析

1.2.1 人工智能與人機(jī)關(guān)系

通過分析人工智能與人際關(guān)系領(lǐng)域的關(guān)鍵詞共現(xiàn)網(wǎng)絡(luò)，如圖5所示，可以發(fā)現(xiàn)對于人機(jī)關(guān)系子領(lǐng)域研究，研究者對于“技術(shù)倫理”“智能教育”“認(rèn)識論”“本體論”和“工業(yè)美學(xué)”等關(guān)鍵詞的討論較為頻繁。在人機(jī)關(guān)系的本體論、認(rèn)識論以及價(jià)值論研究中，研究者主要探討的是人和機(jī)器本質(zhì)上的關(guān)聯(lián)，在本體論層面將人和機(jī)器視為同等的存在。在機(jī)器愈加智能化時(shí)代，人與機(jī)器之間的界限確實(shí)逐漸變得模糊，未來人類與機(jī)器愈加密切融合，會使知識嵌入人類大腦，并通過智能體分享和共同創(chuàng)造知識[6]。

將人機(jī)關(guān)系相關(guān)文獻(xiàn)的關(guān)鍵詞進(jìn)行聚類，如圖6所示，得到11個(gè)聚類結(jié)果，分別為：人機(jī)關(guān)系、人工智能、安全可控、倫理原則、科幻片、價(jià)值論、押井守、數(shù)據(jù)隱私、科技倫理意識、倫理價(jià)值觀、跨界融合。值得注意的是，對于科幻片、押井守（電影導(dǎo)演）的研究單獨(dú)占據(jù)了兩個(gè)聚類結(jié)果，這在一定程度上說明，人工智能科技發(fā)展過程及其對應(yīng)的人工智能倫理研究，在一定程度上受到了文學(xué)尤其是科幻文學(xué)的影響。通常的科幻文學(xué)中不僅有對科技發(fā)展程度的合理幻想，更多的是在科幻文學(xué)中，在構(gòu)筑新的世界下以人為本的反思[7]。

人機(jī)關(guān)系相關(guān)文獻(xiàn)關(guān)鍵詞的時(shí)間軸分析表明，“人工智能”“人機(jī)關(guān)系”和“智能美學(xué)”的概念提出較早。2010年“電子人”“機(jī)器人”等開始出現(xiàn)，目前 “元宇宙”“數(shù)字人”等概念進(jìn)入大眾視野。2016年卷積神經(jīng)網(wǎng)絡(luò)的提出，掀起了人工智能研究的又一次熱潮，自2016年開始，人機(jī)關(guān)系研究也逐漸豐富， “法律責(zé)任與法律主體”“機(jī)體哲學(xué)”“科幻電影”“有限人格”“技術(shù)正當(dāng)程序”等成為人工智能領(lǐng)域人機(jī)關(guān)系的研究熱點(diǎn)。

1.2.2 人工智能與科技倫理

圖7為人工智能與科技倫理相關(guān)文獻(xiàn)的關(guān)鍵詞共現(xiàn)網(wǎng)絡(luò)，可以發(fā)現(xiàn)，對于人工智能與科技倫理領(lǐng)域的研究熱點(diǎn)，主要集中于：機(jī)器人、區(qū)塊鏈、物聯(lián)網(wǎng)、數(shù)字經(jīng)濟(jì)等。并可以看出，在人工智能不同的應(yīng)用領(lǐng)域，科技倫理有著不同的體現(xiàn)，而且國家層面也非常重視科技倫理發(fā)展，國家相關(guān)文件中也多次提出科技倫理建設(shè)。

圖8為人工智能與科技倫理相關(guān)文獻(xiàn)的關(guān)鍵詞聚類網(wǎng)絡(luò)，得到的全部聚類結(jié)果分別為：科技倫理、人工智能、價(jià)值、學(xué)科定位、科研不端、區(qū)塊鏈、數(shù)字經(jīng)濟(jì)、人工智能體、倫理原則、理解能力等。可以看出，科技倫理本質(zhì)上還是倫理問題，當(dāng)前在學(xué)術(shù)界出現(xiàn)的學(xué)術(shù)不端的現(xiàn)象成為科技倫理的研究熱點(diǎn)，而且在不同的學(xué)科，科技倫理研究的重點(diǎn)也不盡相同。

基于區(qū)塊鏈技術(shù)的數(shù)字貨幣支付不可避免地面臨著技術(shù)設(shè)計(jì)和商業(yè)應(yīng)用等科技倫理層面的問題[8]。因此，在數(shù)字貨幣設(shè)計(jì)中，一方面需要考慮其價(jià)值敏感性，另一方面則需要注重使用主體的道德想象力。在機(jī)器人領(lǐng)域，機(jī)器人在某種程度上比人類更加聰明。任何新生事物的出現(xiàn)都有兩面性，特別是當(dāng)機(jī)器人借助于“人工智能”產(chǎn)生創(chuàng)造性效果后，它也許會產(chǎn)生出自我意識和自我決策能力，甚至追求與人類相類似的道德地位。因此，對機(jī)器人領(lǐng)域的科技倫理研究一直在進(jìn)行。同時(shí)，物聯(lián)網(wǎng)技術(shù)帶來了信息安全和隱私侵犯的問題，以及物本主義與人主體地位之間的沖突、多元化的價(jià)值觀對倫理共識的沖擊等倫理問題。為了更好地以物聯(lián)網(wǎng)推動相關(guān)產(chǎn)業(yè)發(fā)展，實(shí)現(xiàn)物聯(lián)網(wǎng)的健康可持續(xù)發(fā)展，應(yīng)加緊借助法律、道德和技術(shù)等途徑構(gòu)建物聯(lián)網(wǎng)技術(shù)倫理體制。

通過進(jìn)一步對人工智能與科技倫理相關(guān)文獻(xiàn)關(guān)鍵詞進(jìn)行時(shí)間軸分析發(fā)現(xiàn)，研究者對于科技倫理的研究在2012年就開始了，直到2016年網(wǎng)絡(luò)上開始爆料學(xué)術(shù)不端事件，將學(xué)術(shù)倫理研究推向大眾的視野。而且在這期間，受科幻電影的影響，科技倫理也有一定的發(fā)展，科研不端將倫理研究逐漸推出，各個(gè)細(xì)分領(lǐng)域也開始探索各自深層次的倫理問題。

1.2.3 機(jī)器人倫理

研究顯示，國外近20年內(nèi)對于機(jī)器人倫理的研究領(lǐng)域主要集中在傳統(tǒng)倫理問題高發(fā)領(lǐng)域，例如共現(xiàn)結(jié)果中的“癌癥”（cancer）說明了醫(yī)學(xué)、社會學(xué)等領(lǐng)域?qū)儆趥惱韱栴}高發(fā)區(qū)域，這導(dǎo)致了與其相關(guān)的機(jī)器人應(yīng)用方面也頗受人們關(guān)注。此外，一個(gè)領(lǐng)域必將伴隨革新，所以關(guān)于機(jī)器人倫理領(lǐng)域改革研究也被國外學(xué)者提到日程上來，例如對于醫(yī)護(hù)機(jī)器人倫理問題的改革研究。

1.2.4 人工智能倫理與法律規(guī)制

通過統(tǒng)計(jì)中國知網(wǎng)（CNKI）人工智能與法律規(guī)制的相關(guān)文獻(xiàn)發(fā)現(xiàn)，人工智能與法律規(guī)制的相關(guān)文獻(xiàn)從2016年開始大量增長，這與該年所發(fā)生的極具影響力的人工智能產(chǎn)業(yè)重大事件有關(guān)。AlphaGo利用了蒙特卡洛樹狀搜索與兩個(gè)深度神經(jīng)網(wǎng)絡(luò)相結(jié)合的方法在職業(yè)圍棋榜沖上世界第二的位置。2016年10月，美國發(fā)布《國家人工智能研究和發(fā)展戰(zhàn)略計(jì)劃》，在交通、金融等領(lǐng)域制定應(yīng)用標(biāo)準(zhǔn)。2016年9月，包含谷歌在內(nèi)的5家互聯(lián)網(wǎng)公司宣布組成人工智能聯(lián)盟“Partnership on AI”，以求在科研領(lǐng)域建立良性的競爭與合作關(guān)系，人工智能發(fā)展倫理、包容性和隱私等，也成為了這個(gè)聯(lián)盟的重要研究課題。2016年，一輛行駛于美國佛羅里達(dá)州的特斯拉汽車在開啟自動駕駛模式時(shí)，首次發(fā)生了致司機(jī)死亡的事故，導(dǎo)致美國交通當(dāng)局介入調(diào)查，引發(fā)了大眾對于未成熟的自動駕駛上路的擔(dān)憂[9]。同時(shí)，深度計(jì)算已經(jīng)開始被用于疑難疾病診斷，東京大學(xué)醫(yī)學(xué)研究所通過應(yīng)用IBM的人工智能平臺僅用時(shí)10 min就診斷出了資深醫(yī)師也難以判別的特殊白血病。

通過圖9可以看出，人工智能與法律規(guī)制近幾年的發(fā)文情況，主題大多為自動駕駛、法律規(guī)制、著作權(quán)、侵權(quán)責(zé)任、知識產(chǎn)權(quán)、法律人格、智慧法院等。人工智能與法律的關(guān)鍵詞聚類知識圖譜如圖10所示。

綜上所述，知識圖譜的分析展示了當(dāng)前人工智能法律規(guī)制方面比較突出的一些問題。首先是人格權(quán)保護(hù)問題，當(dāng)前人工智能技術(shù)可以對照片以及視頻進(jìn)行處理，達(dá)到AI換臉、AI換聲的效果，但是如果未經(jīng)他人同意，擅自使用該技術(shù)就會對他人的人格權(quán)、肖像權(quán)造成侵害；其次是版權(quán)問題，現(xiàn)有AI技術(shù)可以通過對大型數(shù)據(jù)庫中的數(shù)據(jù)進(jìn)行訓(xùn)練，來創(chuàng)作自己的文章、音樂，其作品的所有權(quán)歸屬問題也有待商榷。此外，數(shù)據(jù)應(yīng)用的個(gè)人許可是一個(gè)關(guān)鍵問題，這需要很高的安全性要求，對于數(shù)據(jù)集處理也較為困難，并且大量文本、圖像信息融合在一起，行業(yè)標(biāo)準(zhǔn)難以統(tǒng)一。其中最值得關(guān)注的是大數(shù)據(jù)模式下的個(gè)人隱私保護(hù)問題和數(shù)據(jù)倫理與安全問題，我國《民法總則》對數(shù)據(jù)的屬性進(jìn)行了相關(guān)界定，該法律將數(shù)據(jù)定義為一種新型的財(cái)產(chǎn)，受財(cái)產(chǎn)權(quán)保護(hù)，但是并不限于財(cái)產(chǎn)權(quán)的歸屬與分配問題[10]。

2 人工智能倫理的治理政策建議

在面對人工智能這一引領(lǐng)科技革命的關(guān)鍵技術(shù)時(shí)，不僅要看到它為全球社會經(jīng)濟(jì)發(fā)展帶來的巨大正面影響，如生活便利性的提升、政府和企業(yè)運(yùn)營效率的提升，以及在應(yīng)對氣候變化和貧困問題上的助力。但是，隨之而來的倫理問題同樣嚴(yán)峻。制定人工智能倫理治理政策目標(biāo)不僅是為其創(chuàng)造一個(gè)良好的發(fā)展環(huán)境，更是推動其技術(shù)應(yīng)用發(fā)展的同時(shí)，確保為整個(gè)社會帶來更多的正向功能與價(jià)值。在這個(gè)過程中，如何有效監(jiān)管以規(guī)避風(fēng)險(xiǎn)成為政策治理的核心問題。

人工智能倫理的治理需要關(guān)注：①技術(shù)“向善”屬性，確保技術(shù)真正服務(wù)于人類，推進(jìn)人類文明和經(jīng)濟(jì)社會發(fā)展；②技術(shù)可控性，確保技術(shù)的合法合規(guī)、安全可控，并且始終由人類自主控制；③如何平衡AI企業(yè)、公眾和監(jiān)管者之間的關(guān)系。本文從人工智能倫理機(jī)制建設(shè)、人工智能倫理準(zhǔn)則的場景落地、以及人工智能倫理風(fēng)險(xiǎn)的預(yù)測判別等3個(gè)方面展開討論，以期為人工智能倫理治理提供更具針對性的政策建議。

2.1 人工智能倫理機(jī)制建設(shè)

人工智能倫理機(jī)制建設(shè)過程分為3個(gè)階段，分別是人工智能倫理建設(shè)的必要性、倫理準(zhǔn)則和體系建設(shè)的探討。

2.1.1 人工智能倫理建設(shè)的必要性

人工智能分為弱人工智能和強(qiáng)人工智能兩個(gè)階段。弱人工智能通過基于規(guī)則的程序?qū)θ祟愡壿嬎季S與決策過程進(jìn)行模擬，使智能體表現(xiàn)出與人類相似的行為模式，這種人工智能缺乏獨(dú)立意識，或許更準(zhǔn)確地說，弱人工智能應(yīng)被稱為機(jī)器智能。

強(qiáng)人工智能不再局限于模仿人類的低級行為，而被認(rèn)為具有真正獨(dú)立的思想與意識。其具備獨(dú)立思考、推理并解決問題的能力，甚至可能表現(xiàn)出與人類相似的情感。如何確保強(qiáng)人工智能的發(fā)展不會帶來不可預(yù)知后果，如何定義和維護(hù)人工智能的道德準(zhǔn)則，都是亟待解決的問題。因此，需要對人工智能倫理進(jìn)行全面和深入的探討，以確保人工智能發(fā)展始終服務(wù)于人類福祉。

2.1.2 人工智能倫理準(zhǔn)則探討

在人工智能倫理的必要性被普遍接受后，社會需要探討人工智能的倫理準(zhǔn)則[11]。歐盟人工智能倫理高級專家組提出了人工智能倫理的7條準(zhǔn)則，包括：確保人的能動性和監(jiān)督性、保證技術(shù)穩(wěn)健性和安全性、加強(qiáng)隱私和數(shù)據(jù)管理、保證透明度、維持人工智能系統(tǒng)使用的多樣性、非歧視性和公平性、增強(qiáng)社會福祉、加強(qiáng)問責(zé)制[12]。清華大學(xué)人工智能與安全項(xiàng)目組提出了6條準(zhǔn)則：福祉原則、安全原則、共享原則、和平原則、法治原則、合作原則[13]。從總體來看，各個(gè)國家和機(jī)構(gòu)的倫理準(zhǔn)則建議基本一致。首先，以人為本：遵循人類共同價(jià)值觀，保障個(gè)人隱私與數(shù)據(jù)安全；其次，公平公正：堅(jiān)持惠普性和包容性，切實(shí)保護(hù)各相關(guān)主體合法權(quán)益，推動全社會共享智能益處；第三，可控可信：保障人類擁有充分自主決策權(quán)，有權(quán)選擇是否接受人工智能服務(wù)。

2.1.3 人工智能倫理體系建設(shè)

通過上述兩個(gè)階段，關(guān)于人工智能倫理準(zhǔn)則的討論已取得一定共識。但是，由于人工智能復(fù)雜性和未來發(fā)展的不確定性，導(dǎo)致人工智能責(zé)任的明確歸屬變得更為困難和模糊，如何防范其可能帶來的風(fēng)險(xiǎn)也就變得越發(fā)困難，甚至?xí)霈F(xiàn)無法追責(zé)的倫理缺失現(xiàn)象。

面對人工智能的倫理風(fēng)險(xiǎn)，依據(jù)英國倫理學(xué)家盧恰諾·弗洛里迪提出的“分布式道德”[14]概念，構(gòu)建一個(gè)系統(tǒng)性的防范框架，如圖11所示。該框架旨在明確各方在人工智能應(yīng)用中的倫理責(zé)任，從而形成合力，共同防范倫理風(fēng)險(xiǎn)。

根據(jù)這張框架圖，可以把人工智能倫理風(fēng)險(xiǎn)防范分為3個(gè)部分。第一，前端設(shè)計(jì)者需承擔(dān)重要的倫理責(zé)任（責(zé)任1）。設(shè)計(jì)者在最初設(shè)計(jì)AI的時(shí)候有從善、中性到惡有多種選擇。為遏制這一過程中潛在倫理風(fēng)險(xiǎn)，應(yīng)通過強(qiáng)制性的政策準(zhǔn)則進(jìn)行約束，對于嚴(yán)重違規(guī)行為應(yīng)上升至法律規(guī)約層面，創(chuàng)新應(yīng)從源頭上防范倫理風(fēng)險(xiǎn)。

第二，中端使用者需為自己的使用行為承擔(dān)相應(yīng)的倫理責(zé)任（責(zé)任2）。他們應(yīng)確保人工智能技術(shù)的合理應(yīng)用，避免對個(gè)人、社會和環(huán)境造成潛在傷害。使用者的倫理責(zé)任是確保技術(shù)應(yīng)用與道德原則相一致，從而防止技術(shù)濫用或誤用。

第三，末端受眾作為社會成員，有監(jiān)督人工智能使用的間接責(zé)任（責(zé)任3）。個(gè)體在這一環(huán)節(jié)的倫理責(zé)任較小，但由于公眾數(shù)量龐大，無數(shù)微小的努力匯聚將成為強(qiáng)大的倫理風(fēng)險(xiǎn)防范力量。社會應(yīng)通過宣傳教育等手段，引導(dǎo)社會成員積極參與防范工作，共同遏制人工智能的倫理風(fēng)險(xiǎn)。

綜上所述，在強(qiáng)人工智能時(shí)代，沒有人是旁觀者。要最大限度遏制高科技的倫理風(fēng)險(xiǎn)，需要實(shí)現(xiàn)倫理責(zé)任全覆蓋。只有各方共同努力，才能確保人工智能技術(shù)發(fā)展真正符合人類的價(jià)值觀和倫理原則，為人類社會發(fā)展作出積極貢獻(xiàn)。

2.2 人工智能倫理準(zhǔn)則的場景落地問題與建議

人工智能倫理的核心準(zhǔn)則涵蓋了以人為本、公平公正、可控可信3個(gè)方面。這些倫理準(zhǔn)則在實(shí)際場景落地過程中主要面臨以下3個(gè)主要問題，并分別提出了解決問題的建議：

第一，數(shù)據(jù)保護(hù)和行業(yè)發(fā)展平衡的問題。數(shù)據(jù)在人工智能技術(shù)發(fā)展中占據(jù)核心地位，但企業(yè)在數(shù)據(jù)收集過程中的不正當(dāng)措施導(dǎo)致多方權(quán)益受到侵犯。為解決這一問題，建議由政府相關(guān)部門負(fù)責(zé)行業(yè)數(shù)據(jù)管理，公司應(yīng)通過審核獲取數(shù)據(jù)，實(shí)現(xiàn)數(shù)據(jù)統(tǒng)一化管理，保障公民隱私，促進(jìn)行業(yè)的公平發(fā)展。

第二，數(shù)據(jù)權(quán)益與公共安全沖突。人臉識別技術(shù)的廣泛應(yīng)用對公民隱私保護(hù)帶來了挑戰(zhàn)。人臉識別技術(shù)廣泛應(yīng)用于日常生活中，但是面部特征具有極高的隱私敏感性，如被濫用，可能對公民隱私保護(hù)產(chǎn)生極大威脅。一些國家已經(jīng)開始對公權(quán)力機(jī)關(guān)使用人臉識別技術(shù)進(jìn)行執(zhí)法活動，予以限制和禁止。建議對個(gè)人隱私數(shù)據(jù)的征集應(yīng)遵循本人意愿，并提供多種個(gè)人證明方式，以平衡公共安全和個(gè)人隱私之間的關(guān)系。

第三，個(gè)人主體權(quán)益保障。當(dāng)前，電子商務(wù)經(jīng)營者收集了大量用戶個(gè)人信息、交易記錄等，從而實(shí)現(xiàn)個(gè)性化搜索和推薦，但是這種自動化決策技術(shù)限制了用戶全面了解商品信息的機(jī)會，從而對公平交易的權(quán)力造成傷害。為此，建議平臺應(yīng)提供個(gè)性化和非個(gè)性化兩種模式，以滿足用戶對人工智能技術(shù)的個(gè)性化需求，并保障其知情權(quán)。

2.3 人工智能倫理風(fēng)險(xiǎn)的預(yù)測判別問題與建議

實(shí)現(xiàn)人工智能倫理治理的基本前提是確保人工智能的倫理底線，即確保人工智能研究和應(yīng)用的風(fēng)險(xiǎn)處于可控范圍內(nèi)。文獻(xiàn)[15]顯示，人工智能有以下3種風(fēng)險(xiǎn)：①技術(shù)誤用。由于人工智能技術(shù)不夠成熟、不夠人性化或缺乏足夠的倫理約束等原因，給使用者帶來直接的損害，數(shù)據(jù)隱私問題、安全性問題和公平性問題都屬于這類風(fēng)險(xiǎn)。②技術(shù)失控。是指人類失去對人工智能技術(shù)控制從而導(dǎo)致嚴(yán)重的后果，例如人們擔(dān)憂人工智能未來會全面超過人類的智慧。③應(yīng)用失控。是指人工智能技術(shù)在某些行業(yè)的廣泛應(yīng)用帶來嚴(yán)重的負(fù)面社會效果，例如工廠大量使用機(jī)器人導(dǎo)致工人失業(yè)。

人工智能風(fēng)險(xiǎn)預(yù)測判別研究的主要任務(wù)應(yīng)對應(yīng)上述3種風(fēng)險(xiǎn)。技術(shù)誤用風(fēng)險(xiǎn)已經(jīng)在人工智能和其他技術(shù)的應(yīng)用中凸顯出來，但情況嚴(yán)重性被低估了，目前仍缺乏有效的監(jiān)督與管控[15]。因此，人工智能和相關(guān)技術(shù)的倫理體系建設(shè)亟待加強(qiáng)，必須依托專業(yè)隊(duì)伍，深入開展倫理問題研究；在政策制定層面設(shè)置更高標(biāo)準(zhǔn)、合理的規(guī)章制度；并加強(qiáng)規(guī)章制度執(zhí)行的監(jiān)管力度。技術(shù)失控風(fēng)險(xiǎn)從短期來看較低，但是一旦發(fā)生將造成嚴(yán)重后果。全人類社會必須防范未然，從人工智能設(shè)計(jì)和應(yīng)用的各個(gè)環(huán)節(jié)將風(fēng)險(xiǎn)發(fā)生的可能性降到最低。對于應(yīng)用失控風(fēng)險(xiǎn)，機(jī)器人替代人類工作導(dǎo)致人類失業(yè)僅是目前大家普遍意識到和關(guān)注的負(fù)面社會效果之一，各學(xué)科研究者和各環(huán)節(jié)責(zé)任承擔(dān)者應(yīng)積極開展合作，對各個(gè)行業(yè)、各種應(yīng)用場景、各類社會影響及早進(jìn)行風(fēng)險(xiǎn)預(yù)測研判。

未來人工智能創(chuàng)新生態(tài)中，研究將不僅局限于傳統(tǒng)的科技研究或技術(shù)性研究，也將包括倫理性研究，后者主要對人工智能風(fēng)險(xiǎn)的預(yù)測與判別進(jìn)行研究，是一個(gè)高度交叉的領(lǐng)域，涉及哲學(xué)、法律、社會學(xué)、心理學(xué)等[16]。這兩者之間的相互支持將有助于確保人工智能技術(shù)發(fā)展與社會的長遠(yuǎn)利益一致。

3 結(jié)論與展望

3.1 研究結(jié)論

人工智能倫理的治理政策，可以重點(diǎn)從以下幾個(gè)方面展開。在研究層面，鼓勵(lì)自然科學(xué)、工程技術(shù)、哲學(xué)、倫理學(xué)、社會科學(xué)等多學(xué)科合作，進(jìn)一步研究人工智能的倫理挑戰(zhàn)，并細(xì)化倫理準(zhǔn)則，形成具體可實(shí)踐的規(guī)范；在教育層面，將人工智能倫理納入人才培養(yǎng)，培養(yǎng)具備人工智能倫理意識與能力的人才[17]。同時(shí)，加強(qiáng)宣傳和引導(dǎo)，推動個(gè)人、研究機(jī)構(gòu)、企業(yè)形成對人工智能倫理風(fēng)險(xiǎn)的認(rèn)知共識，提升評估風(fēng)險(xiǎn)和倫理實(shí)踐能力，使倫理意識貫穿于人工智能設(shè)計(jì)、開發(fā)和應(yīng)用的全過程；在國家層面，結(jié)合我國人工智能行業(yè)實(shí)踐，強(qiáng)化數(shù)據(jù)質(zhì)量管理、提高算法透明度和可追溯性，規(guī)范和監(jiān)督人工智能研發(fā)和應(yīng)用的全部過程，引導(dǎo)行業(yè)有序發(fā)展。

3.2 研究展望

展望人工智能倫理未來治理之路，還有很長的路要走[18]。我國人工智能技術(shù)研發(fā)規(guī)模雖然暫時(shí)位居世界前列，但是大模型的全球AI技術(shù)范式正在加速競爭與分化，且面臨更多的人工智能倫理挑戰(zhàn)。我國必須更積極主動地參與國際合作，推動國際標(biāo)準(zhǔn)和政策制定，促進(jìn)科技創(chuàng)新發(fā)展，為全球人工智能治理作出積極貢獻(xiàn)。

參考文獻(xiàn)：

[1] ZHU S， YU T， XU T， et al.Intelligent computing： the latest advances， challenges， and future [J]. Intelligent Computing， 2023， 2：6.

[2] 胡元聰， 李雨益. 企業(yè)社會責(zé)任視域下人工智能產(chǎn)品風(fēng)險(xiǎn)防范研究 [J]. 當(dāng)代經(jīng)濟(jì)管理， 2020， 42（4）： 19-26.

[3] JOBIN A， IENCA M， VAYENA E. The global landscape of AI ethics guidelines [J]. Nature Machine Intelligence， 2019， 1（9）： 389-399.

[4] 倪士光， 胡子卉， 林煜東. 科技更向善：基于數(shù)字交互技術(shù)的青少年心理韌性培育 [J]. 西北師大學(xué)報(bào)（社會科學(xué)版）， 2024， 61（2）： 100-114.

[5] 劉虹豆， 楊瑞東， 倪士光. 國內(nèi)外高等教育國際化研究的對比分析——基于CiteSpace可視化知識圖譜的應(yīng)用 [J]. 現(xiàn)代教育技術(shù)， 2020; 30（12）： 48-54.

[6] JIANG L， STOCCO A， LOSEY D M， et al. Brainnet： a multi-person brain-to-brain interface for direct collaboration between brains [J]. Scientific Reports， 2019， 9（1）： 6115.

[7] 王爾玉， 盧俊. “電影與人工智能”研究的熱點(diǎn)主題及前沿演進(jìn)——基于CiteSpace的文獻(xiàn)可視化分析 [J]. 北京文化創(chuàng)意， 2023（5）： 48-57.

[8] 李偉. 基于決策者視角的區(qū)塊鏈技術(shù)倫理框架構(gòu)建研究 [J]. 蘇州科技大學(xué)學(xué)報(bào)（社會科學(xué)版）， 2022， 39 （3）： 26-33.

[9] 張楠楠，彭芳，徐曼，等. 2016世界軍民兩用技術(shù)與產(chǎn)品發(fā)展特點(diǎn)回顧 [J]. 軍民兩用技術(shù)與產(chǎn)品， 2017 （3）： 8-19.

[10] 王利明. 人工智能時(shí)代提出的法學(xué)新課題 [J]. 中國法律評論， 2018（2）： 1-4.

[11] HAGENDORFF T. The ethics of AI ethics： an evaluation of guidelines [J]. Minds and Machines， 2020， 30（1）： 99-120.

[12] AIHLEG. Ethics guidelines for trustworthy AI [M]. Brussels： European Commission， 2019.

[13] 傅瑩. 人工智能對國際關(guān)系的影響初析 [J]. 國際政治科學(xué)， 2019， 4（1）： 1-18.

[14] FLORIDI L. Distributed morality in an information society [M]. London： Routledge， 2020： 63-79.

[15] 陳小平. 人工智能倫理體系： 基礎(chǔ)架構(gòu)與關(guān)鍵問題 [J]. 智能系統(tǒng)學(xué)報(bào)， 2019， 14（4）： 605-610.

[16] KAZIM E， KOSHIYAMA A S. A high-level overview of AI ethics [J]. Patterns， 2021， 2（9）： 100314.

[17] 郭朝先，方澳.人工智能促進(jìn)經(jīng)濟(jì)高質(zhì)量發(fā)展：機(jī)理，問題與對策 [J].廣西社會科學(xué)， 2021（8）： 8-17.

[18] 張兆翔，張吉豫，譚鐵牛.人工智能倫理問題的現(xiàn)狀分析與對策 [J].中國科學(xué)院院刊， 2021， 36（11）：1270-1277.

（責(zé)任編輯：要 毅）

基金項(xiàng)目：深圳市哲學(xué)社會科學(xué)規(guī)劃課題一般項(xiàng)目（SZ2021B005）；廣東省數(shù)字心理健康與智能生成哲社實(shí)驗(yàn)室支持項(xiàng)目（2023WSY010）；深圳市人文社會科學(xué)重點(diǎn)研究基地支持項(xiàng)目（202003）

作者簡介：王學(xué)謙（1980-），男，清華大學(xué)深圳國際研究生院教授，研究方向：人工智能與具身智能機(jī)器人教學(xué)；倪士光（1981-），男，清華大學(xué)深圳國際研究生院副教授，研究方向：人工智能心理學(xué)教學(xué)。