汪玉蘭 鄧國民

（1. 南京大學(xué)哲學(xué)系 南京 210023；2. 貴陽學(xué)院教育科學(xué)學(xué)院 貴陽 550005）

隨著人工智能技術(shù)應(yīng)用的深入，可能引發(fā)的新的倫理問題和困境受到國內(nèi)外業(yè)界人士和重要機(jī)構(gòu)的重視。微軟、百度和騰訊等國內(nèi)外大公司都對人工智能倫理表現(xiàn)出急切的關(guān)注。歐盟委員會于2019 年4 月8 日發(fā)布了“值得信賴的人工智能倫理準(zhǔn)則”。人民日報(bào)于2019 年7 月12 日刊發(fā)整版文章對人工智能倫理進(jìn)行了探討?？梢?，人工智能倫理研究已經(jīng)迫在眉睫。研究國際重要學(xué)術(shù)刊物發(fā)表的人工智能倫理研究知識圖譜、發(fā)展現(xiàn)狀和未來發(fā)展趨勢，對于我們進(jìn)行人工智能倫理研究具有較大的啟示意義。

1 研究方法

本文設(shè)置檢索式為“TS=（artificial intelligence OR AI）AND TS=（ethic* OR moral）”，從Web of Science 核心數(shù)據(jù)庫中檢索到人工智能倫理研究文獻(xiàn)389 條，作為知識圖譜分析的數(shù)據(jù)基礎(chǔ)。我們使用CiteSpace 軟件對國際人工智能倫理研究文獻(xiàn)進(jìn)行知識圖譜分析，并綜合應(yīng)用文獻(xiàn)計(jì)量學(xué)和內(nèi)容分析方法，揭示人工智能倫理研究領(lǐng)域的研究起源、發(fā)展脈絡(luò)和未來趨勢。首先，使用文獻(xiàn)計(jì)量學(xué)和內(nèi)容分析方法，揭示國際人工智能倫理研究文獻(xiàn)的年度、期刊和學(xué)術(shù)機(jī)構(gòu)整體分布情況。然后，使用CiteSpace 軟件對人工智能倫理研究文獻(xiàn)數(shù)據(jù)進(jìn)行引文空間的可視化分析，揭示文獻(xiàn)、作者和刊物的共被引關(guān)系以及機(jī)構(gòu)和關(guān)鍵詞的共現(xiàn)關(guān)系。第三，在文獻(xiàn)共被引分析的基礎(chǔ)上，繪制國際人工智能倫理研究文獻(xiàn)的共被引聚類圖譜，揭示國際人工智能倫理研究領(lǐng)域的主要研究聚類、關(guān)鍵結(jié)點(diǎn)和時(shí)間演化過程。

圖1 人工智能倫理研究歷年出版文獻(xiàn)數(shù)及引文數(shù)

2 人工智能倫理研究文獻(xiàn)知識圖譜分析

2.1 人工智能倫理研究文獻(xiàn)年度分布

近三十年以來，國際上人工智能倫理研究每年出版的文獻(xiàn)數(shù)和引文數(shù)均穩(wěn)步上升。如圖1 所示，2005 年以前，國際上關(guān)于人工智能倫理研究的文獻(xiàn)數(shù)和引文數(shù)都相對較少，之后每年出版的相關(guān)文獻(xiàn)數(shù)和引文數(shù)都以較快的速度增長，2012 年出版文獻(xiàn)數(shù)開始超過10 篇，被引頻次超過100 次。2014 年以后，每年引文數(shù)都超過200 次，2018 年達(dá)到500 次。這說明近年來學(xué)界對人工智能倫理研究的關(guān)注度急劇上升，最近兩年達(dá)到高潮。

2.2 有影響的文獻(xiàn)

利用CiteSpace 軟件對檢索到的389 條人工智能倫理研究文獻(xiàn)數(shù)據(jù)進(jìn)行共被引分析（Cited Reference），生成國際人工智能倫理研究文獻(xiàn)共被引圖譜，如圖2 所示。圖中用圓圈表示文獻(xiàn)結(jié)點(diǎn)，結(jié)點(diǎn)大小表示文獻(xiàn)被引次數(shù)的多少，結(jié)點(diǎn)之間連線的顏色表示兩條文獻(xiàn)首次共被引的時(shí)間。結(jié)點(diǎn)采用年輪結(jié)構(gòu)的方式表示，顏色表示年份（對照圖形頂部時(shí)間條顏色），年輪的厚度表示該年被引頻次。外圍有深色圓圈包圍的結(jié)點(diǎn)表示高中介中心性文獻(xiàn)，說明它們在不同人工智能倫理研究聚類之間起到了關(guān)鍵銜接結(jié)點(diǎn)的作用。

圖2 人工智能倫理研究文獻(xiàn)共被引圖譜

（1）高被引文獻(xiàn)分析

具有較高被引頻次的文獻(xiàn)表示它們在人工智能倫理研究領(lǐng)域產(chǎn)生了重要而深遠(yuǎn)的影響，同時(shí)也體現(xiàn)了該研究領(lǐng)域的核心研究主題。表1 列出了該研究領(lǐng)域引用次數(shù)超過10 次的文獻(xiàn)。Bostrom N（2014）共被引頻次最高，為34 次，他指出人工智能提供了許多新的可能性，開辟了新的研究領(lǐng)域，也帶來了新的倫理問題。當(dāng)超級智能具備一系列超級認(rèn)知能力，而偏離我們控制它的意圖或能力時(shí)，可能給人類及人類社會帶來災(zāi)難性的后果，因此我們需要加強(qiáng)對人工智能人性建構(gòu)和倫理問題的研究[1]。

Wallach W（2009）指出虛擬和物質(zhì)的人工代理所承擔(dān)的責(zé)任日益增長，因此需要開發(fā)更加復(fù)雜的解決方案，使其能夠作出道德決策。迄今為止存在的倫理系統(tǒng)或倫理學(xué)家開發(fā)的解決方案并未涉及人類與機(jī)器人的相互作用、機(jī)器人與其他生物體之間的接觸或者機(jī)器人之間的相互作用。人類作出道德決策的機(jī)制極端復(fù)雜，只在算法中提供具體的倫理規(guī)則是不夠的，應(yīng)該使其具備道德主體的能力，這使得人工智能或機(jī)器人的開發(fā)變得更加復(fù)雜[2]。 Anderson M（2011）指出機(jī)器倫理和傳統(tǒng)的計(jì)算機(jī)倫理的不同之處在于，它不是關(guān)注程序員或用戶的決策，而是關(guān)注于機(jī)器本身的道德決策能力，主要討論了機(jī)器倫理的本質(zhì)、機(jī)器倫理的重要性、機(jī)器倫理的哲學(xué)和現(xiàn)實(shí)、機(jī)器倫理方法和機(jī)器倫理愿景等五個(gè)方面的問題[3]。

Bonnefon J F（2016）對自動駕駛汽車的社會困境進(jìn)行了討論，指出定義有助于自動駕駛汽車作出道德決策的算法是一項(xiàng)艱巨的挑戰(zhàn)。目前沒有簡單的方法來設(shè)計(jì)能夠協(xié)調(diào)道德價(jià)值和個(gè)人自我利益的算法，更別說考慮不同文化對生活權(quán)衡的各種道德態(tài)度，但隨著這種對話的進(jìn)展，公眾輿論和社會壓力可能會隨之發(fā)生改變。對于這些倫理問題，需要在智能產(chǎn)品進(jìn)入全球市場前做出決策[4]。

表1 人工智能倫理高引文獻(xiàn)

Chalmers D J（2010）將產(chǎn)生超級智能的智能爆炸界定為奇點(diǎn)，協(xié)調(diào)這種奇點(diǎn)需要在機(jī)器中構(gòu)建合適的價(jià)值，并非常謹(jǐn)慎地在虛擬世界中構(gòu)建第一個(gè)AI 和AI+系統(tǒng)。對于我們?nèi)绾稳谌牒笃纥c(diǎn)世界，作者討論了兩種不同的方式：①通過逐步上載然后增強(qiáng)；②通過重建上載然后增強(qiáng)，這當(dāng)中同時(shí)涉及認(rèn)知增強(qiáng)和實(shí)用方面的問題[5]。

Gunkel D J（2012）試圖在道德哲學(xué)中創(chuàng)造一個(gè)空間，以解決智能機(jī)械具有什么樣的道德主張，以及闡明和實(shí)踐相應(yīng)的道德規(guī)范意味著什么[6]。

Lin P（2012）對關(guān)于機(jī)器倫理的跨學(xué)科和多視角問題進(jìn)行了系統(tǒng)討論：機(jī)器人倫理的一般方法以及道德概念的基本術(shù)語定義；與具體技術(shù)應(yīng)用相關(guān)的道德倫理和方法以及機(jī)器人使用的未來場景；具有倫理重要性的領(lǐng)域以及研究和開發(fā)的技術(shù)趨勢；機(jī)器人倫理的主要形式[7]。

O’neil C（2016）認(rèn)為算法不是中立的，人類的偏見和錯(cuò)誤經(jīng)常被編碼到系統(tǒng)中，并細(xì)致地對招聘、警務(wù)、借貸、教育和醫(yī)療保健等各行業(yè)領(lǐng)域的數(shù)據(jù)實(shí)踐的具體案例、基于算法作出決策的程度進(jìn)行了分析，結(jié)果發(fā)現(xiàn)這進(jìn)一步剝奪了弱勢群體的權(quán)利，造成了社會的不平等。作者最后總結(jié)了一些具體的建議，為數(shù)學(xué)模型和大數(shù)據(jù)帶來更多的監(jiān)管、透明度和案例[8]。

（2）突現(xiàn)引文分析

突現(xiàn)引用是指一篇文獻(xiàn)在某段時(shí)間內(nèi)引用率突然上升或下降的現(xiàn)象，表示某一特定研究主題在一段時(shí)間內(nèi)突然變熱或變冷，能夠代表當(dāng)時(shí)的熱門研究主題或研究前沿。利用CiteSpace 軟件對人工智能倫理研究文獻(xiàn)進(jìn)行共被引突發(fā)性分析，結(jié)果如表2 所示。Wallach W（2009）、Floridi L（2004）、Gunkel D J（2012）、Arkin R（2009）、Omohundro S M（2008）、Allen C（2006）、Johnson D G（2006）、Moor J H（2006）和Allen C（2005）等文獻(xiàn)的突發(fā)性較強(qiáng)，表明它們在人工智能倫理研究主題的轉(zhuǎn)向方面起到了比較關(guān)鍵的作用。

2009 年到2012 年期間，Allen C（2005）、Allen C（2006）、Moor J H（2006）、Floridi L（2004）和Johnson D G（2006）等文獻(xiàn)引用量突現(xiàn)。這些文獻(xiàn)主要對機(jī)器倫理、道德代理和人工制品的道德價(jià)值與意義進(jìn)行了初步探討。Allen C（2006）指出如果我們對人工智能道德代理的開發(fā)或管理能力有限，那么就需要將注意力從對自治系統(tǒng)的錯(cuò)誤依賴轉(zhuǎn)移開。一些道德決策能夠在計(jì)算機(jī)系統(tǒng)中較為容易地實(shí)施，而模擬處理其他類型道德困境的技巧以我們目前的知識還很難實(shí)現(xiàn)[9]。Allen C（2005）指出人工道德學(xué)科的一個(gè)主要目標(biāo)是設(shè)計(jì)人工代理人，使其能夠像道德代理一樣。人工道德的中間目標(biāo)是建立人工智能系統(tǒng)對活動的價(jià)值觀、道德規(guī)范和合法性的敏感性[10]。

Moor J H（2006）認(rèn)為需要就什么是機(jī)器倫理達(dá)成一致，才能夠確定機(jī)器倫理是否存在，而對這一問題的理解存在兩種完全不同的解釋：①人類是機(jī)器，人類有倫理，機(jī)器也有倫理；②倫理是一種情感的表達(dá)，機(jī)器沒有情感，因而沒有倫理。作者認(rèn)為短時(shí)間之內(nèi)無法通過哲學(xué)論證或?qū)嵶C研究來解決這一問題，但能夠?qū)Ｗ⒂陂_發(fā)有限的、明確的倫理代理，而不是完全的倫理代理，幫助防止不道德的結(jié)果[11]。Floridi L（2004）指出人工智能擴(kuò)展了可能涉及道德情境的實(shí)體類別，它們同時(shí)可以被視為道德受動者和行為者。論文圍繞網(wǎng)絡(luò)空間具有什么道德價(jià)值和道德責(zé)任兩個(gè)問題進(jìn)行了探討。Johnson D G（2006）認(rèn)為計(jì)算機(jī)系統(tǒng)和人工制品是有意創(chuàng)建和部署的，因此它們具有道德特征，是人類道德行為的組成部分。當(dāng)人類使用人工制品時(shí)，他們的行為由人工制品的意圖性和功效構(gòu)成，而人工制品的意圖性和功效又是由其設(shè)計(jì)者的意圖和功效構(gòu)成。人工制品及其設(shè)計(jì)師和用戶在行動時(shí)都在工作，而這三個(gè)組成部分都應(yīng)該是道德評估的重點(diǎn)[12]。

2013 年以后，Wallach W（2009）、Gunkel D J（2012）、Arkin R（2009）、Omohundro S M（2008）等文獻(xiàn)引用量突現(xiàn)。這一時(shí)期關(guān)于人工智能倫理方面的研究，更進(jìn)一步深入到系統(tǒng)實(shí)現(xiàn)的具體架構(gòu)、智能道德系統(tǒng)的設(shè)計(jì)，重視利用經(jīng)典的哲學(xué)和倫理學(xué)理論分析人工智能技術(shù)的倫理問題。Arkin R（2009）指出許多機(jī)器人應(yīng)用程序沒有較好地考慮安全和倫理方面的問題，討論了如何構(gòu)建倫理機(jī)器人。作者介紹了在自動戰(zhàn)斗機(jī)器人中植入負(fù)責(zé)任的倫理決策的動機(jī)和理由，并提出了實(shí)現(xiàn)這一目標(biāo)的架構(gòu)[13]。 Omohundro S M（2008）認(rèn)為需要對智能系統(tǒng)進(jìn)行精心設(shè)計(jì)，以防止它們以有害的方式運(yùn)行。論文主要討論了如何將自我改善、經(jīng)濟(jì)效用、理性和自我保護(hù)等驅(qū)動因素融入到智能技術(shù)中，從而為人類帶來積極的未來[14]。 Wallach W（2009）認(rèn)為有必要開發(fā)更加復(fù)雜的解決方案，使人工實(shí)體能夠做出道德決策[2]。Gunkel D J（2012）綜合考慮了Levinasian 倫理學(xué)與Heideggarian 的本體論來思考事物或技術(shù)的作用，通過解決道德哲學(xué)的容受者/代理二元性，最終將機(jī)器排除在倫理考慮之外[6]。

表2 人工智能倫理研究突現(xiàn)引文

（3）高中心性引文分析

人工智能倫理研究領(lǐng)域的高中介中心性文獻(xiàn)結(jié)點(diǎn)能夠起到銜接不同研究聚類的作用，它們在識別人工智能倫理研究聚類，促進(jìn)人工智能倫理研究的知識交流中起到關(guān)鍵的銜接作用。如表3 所示，文獻(xiàn)Anderson M（2011）的中介中心性最高（0.31），指出機(jī)器倫理和傳統(tǒng)的計(jì)算機(jī)倫理的不同之處在于，它不是關(guān)注程序員或用戶的決策，而是關(guān)注機(jī)器本身的道德決策能力[3]。此外，Wallach W（2009）是較早討論與機(jī)器人技術(shù)發(fā)展相關(guān)的倫理問題的著作之一，指出虛擬和物質(zhì)的人工代理所承擔(dān)的責(zé)任日益增長，因此越來越有必要開發(fā)更加復(fù)雜的解決方案，使人工實(shí)體能夠做出道德決策[2]。

表3 人工智能倫理研究高中介中心性文獻(xiàn)

Armstrong S（2012）認(rèn)為人類智能并不代表人工智能能力的上限，超級智能系統(tǒng)將根據(jù)其可能存在缺陷的動機(jī)系統(tǒng)引導(dǎo)未來，這可能帶來嚴(yán)重的安全問題。論文分析和批判了各種控制人工智能的方法，認(rèn)為限制的人工智能要相對安全，但仍然存在潛在的風(fēng)險(xiǎn)[15]。Bryson J J（2010）認(rèn)為機(jī)器人不應(yīng)該被描述為人，也不應(yīng)為其行為承擔(dān)法律或道德責(zé)任，機(jī)器人的智力和如何獲得他們的智力是由人來確定的。因此，機(jī)器人技術(shù)的潛力應(yīng)該被理解為擴(kuò)展人類自己的能力和實(shí)現(xiàn)自己目標(biāo)的潛力。論文指出機(jī)器人人性化是一種錯(cuò)誤，分析了這些錯(cuò)誤的原因和后果，并提出了機(jī)器人如何融入社會的具體建議[16]。

Bakshy E（2015）對社交媒體如何影響跨意識形態(tài)界限的觀點(diǎn)進(jìn)行了探討，發(fā)現(xiàn)個(gè)人的選擇比算法排名在限制對交叉內(nèi)容的曝光方面發(fā)揮了更大的作用[17]。Cakmak M（2010）討論了主動學(xué)習(xí)應(yīng)用于人機(jī)交互環(huán)境時(shí)出現(xiàn)的一些問題，并提供了幾條指導(dǎo)方針，為人機(jī)（機(jī)器人）交互環(huán)境中使用主動學(xué)習(xí)的未來機(jī)器人系統(tǒng)的設(shè)計(jì)提供信息[18]。Chalmers D J（2010）將智能爆炸界定為奇點(diǎn)，協(xié)調(diào)這種奇點(diǎn)需要在機(jī)器中構(gòu)建合適的價(jià)值[5]。Bryson J（2012）認(rèn)為有意識的注意力并不是選擇立即行動，而是使用當(dāng)前任務(wù)將專門學(xué)習(xí)集中于行動選擇機(jī)制和預(yù)測模型，才可能影響有意識的代理的任務(wù)和環(huán)境突發(fā)事件。將這種系統(tǒng)構(gòu)建到機(jī)器智能中是完全可能的，除非智能系統(tǒng)需要學(xué)習(xí)并且在學(xué)習(xí)速度與相關(guān)環(huán)境變化速率方面存在資源限制，否則它不是絕對必要的[19]。

通過對人工智能倫理近期高引用率、高突現(xiàn)率和高中介中心性文獻(xiàn)的研究和分析，可以挖掘出這一研究領(lǐng)域最有影響力、影響研究重要轉(zhuǎn)向以及銜接不同研究聚類的關(guān)鍵文獻(xiàn)結(jié)點(diǎn)。近年來，人們對人工智能系統(tǒng)可能帶來的倫理問題越來越關(guān)注，不再局限于科幻小說和影視作品中，而是已經(jīng)達(dá)到一種我們不能忽視的程度。目前學(xué)界存在兩種截然不同的觀點(diǎn)：一種認(rèn)為人工智能承擔(dān)了道德責(zé)任，作為一種智能道德代理理所當(dāng)然；另一種觀點(diǎn)將人工智能排除在倫理考慮之外，認(rèn)為它只是人類實(shí)現(xiàn)個(gè)人目的的工具或手段之一，因此更需要考慮人工智能系統(tǒng)設(shè)計(jì)者的道德因素。但隨著人工智能系統(tǒng)越來越復(fù)雜的自主控制，這些系統(tǒng)本身也應(yīng)該意識到其行為的倫理含義。一些學(xué)者認(rèn)為在復(fù)雜智能系統(tǒng)投入使用之前，需要將其倫理問題考慮清楚，他們從倫理學(xué)和哲學(xué)的視角對人工智能系統(tǒng)引入倫理原則進(jìn)行了思考，提出了一些設(shè)計(jì)和執(zhí)行倫理系統(tǒng)的方法與策略，為人工智能領(lǐng)域的研究人員和商界人士制定相應(yīng)的規(guī)則和指導(dǎo)方針提供了一定的依據(jù)。

2.3 重要作者分析

使用CiteSpace 軟件對人工智能倫理研究的重要作者進(jìn)行共被引分析，結(jié)果如圖3 所示，其中引用頻次最高的5 位作者分別是Wallach W（Freq=64）、Bostrom N（Freq=62）、Anderson M（Freq=54）、Floridi L（Freq=47）和Allen C（Freq=41）。Freq 是指作者共被引頻次，圖中圓圈大小表示作者共被引次數(shù)的多少，不同顏色代表不同年份的引用次數(shù)。較大的作者結(jié)點(diǎn)表示他們在該研究領(lǐng)域產(chǎn)生了重要的影響。Wallach W 對機(jī)器倫理、道德機(jī)器以及道德與意識、思想之間的關(guān)系進(jìn)行了論述，并提出了人類及智能代理道德決策的概念和計(jì)算模型[20]。Bostrom N 從技術(shù)變革和人類未來演進(jìn)的視角，關(guān)注了超級智能可能對人類社會帶來的影響、存在的風(fēng)險(xiǎn)及其認(rèn)知中存在的倫理問題。Anderson M 主要對機(jī)器倫理進(jìn)行了探討，認(rèn)為阿西莫夫的三個(gè)機(jī)器人定律無法作為機(jī)器倫理基礎(chǔ)。Floridi L 是著名的計(jì)算哲學(xué)和信息哲學(xué)家，曾經(jīng)提出了信息圈理論，成為信息倫理的重要理論基礎(chǔ)，他的很多觀點(diǎn)對人工智能倫理研究產(chǎn)生了重要的影響。Allen C 主要對為什么需要研究機(jī)器倫理的原因進(jìn)行了分析，對未來人工道德行為者的趨勢進(jìn)行了展望，指出不能放棄人類的責(zé)任。

從中介中心性和突發(fā)性來看（見圖3），被引作者中，突發(fā)性最強(qiáng)的5 位作者分別是Kahneman D（Burst=3.61）、Yudkowsky E（Burst=3.16）、Turkle S（Burst=3.02）、Danielson P（Burst=2.88）和Guarini M（Burst=2.75），說 明他們在人工智能倫理研究內(nèi)容和主題的轉(zhuǎn)換方面貢獻(xiàn)較大，在一定時(shí)期內(nèi)扮演了前沿研究者的角色。中介中心性最高的5 位作者分別是Asimov I（Centrality=0.2）、Allen C（Centrality=0.16）、Moor J H（Centrality=0.13）、Anderson M（Centrality=0.11）和Levy D（Centrality=0.11），說明他們在人工智能倫理研究的知識傳播過程中貢獻(xiàn)較大。

圖3 人工智能倫理重要作者圖譜

2.4 重要機(jī)構(gòu)分析

使用CiteSpace 軟件對人工智能倫理研究機(jī)構(gòu)進(jìn)行共現(xiàn)分析，結(jié)果如圖4 所示。影響較大的研究機(jī)構(gòu)包括牛津大學(xué)（University of Oxford）、哈佛大學(xué)（Harvard University）、代爾夫特理工大學(xué)（Delft University of Technology）、華盛頓大學(xué)（University of Washington）、英國開放大學(xué)（The Open University）和愛丁堡大學(xué)（The University of Edinburgh）。中介中心性最高的五個(gè)研究機(jī)構(gòu)分別為牛津大學(xué)（University of Oxford）、阿蘭圖靈機(jī)構(gòu)（Alan Turing Institute）、帕多瓦大學(xué)（University of Padua）、澳大利亞國立大學(xué)（The Australian National University）和愛丁堡大學(xué)（The University of Edinburgh），說明這些研究機(jī)構(gòu)在人工智能倫理研究主題的轉(zhuǎn)向和對前沿的把握方面最為有效。

圖4 人工智能倫理重要研究機(jī)構(gòu)圖譜

2.5 人工智能倫理期刊發(fā)文量與知識交流情況分析

從發(fā)文量統(tǒng)計(jì)來看，Ethics and Information Technology和Minds and Machines的發(fā)文量最高，均為14 篇；Philosophical Transactions of the Royal Society a Mathematical Physical and Engineering Sciences的發(fā)文量排第三，為10 篇。這些期刊均被Web of Science 核心數(shù)據(jù)庫收錄，因此它們是國際人工智能倫理研究知識交流的重要載體。學(xué)術(shù)刊物之間的相互引用和共引關(guān)系可以表征這一研究領(lǐng)域和其他學(xué)科領(lǐng)域之間知識交流的水平和知識流動的狀況。使用CiteSpace 軟件進(jìn)行期刊共被引分析，結(jié)果如圖5、表4 所示。從被引頻次來看，《科學(xué)》《思維與機(jī)器》《自然》《人工智能》和《IEEE 智能系統(tǒng)》等是過去十年間該研究領(lǐng)域的高被引期刊，被引頻次分別為89 次、68 次、68 次、66 次和57 次。從中介中心性來看，《科學(xué)》《思維與機(jī)器》《科學(xué)革命的結(jié)構(gòu)》《有線》和《科學(xué)美國人》等是過去十年間人工智能倫理研究領(lǐng)域的高中介中心性期刊，它們的中介中心性分別高達(dá)0.27、0.22、0.15、0.15 和0.13，說明它們在這一研究領(lǐng)域的知識流動過程中起到關(guān)鍵銜接結(jié)點(diǎn)的作用。根據(jù)文獻(xiàn)計(jì)量學(xué)理論，人工智能倫理研究文獻(xiàn)對其他學(xué)科期刊的引用，可以反映人工智能倫理主要從哪些其他學(xué)科獲得知識流量。期刊共被引分析表明，過去十年間人工智能倫理研究的知識流量，主要來自《科學(xué)》《自然》《行為與腦科學(xué)》《有線》《科學(xué)美國人》《Springer 計(jì)算機(jī)科學(xué)講義》和《科學(xué)革命的結(jié)構(gòu)》等其他學(xué)科期刊，這說明人工智能倫理研究的理論基礎(chǔ)主要來自于科學(xué)、心理學(xué)、科學(xué)革命和計(jì)算機(jī)等學(xué)科領(lǐng)域。

圖5 人工智能倫理研究學(xué)術(shù)刊物共被引圖譜

表4 人工智能倫理學(xué)術(shù)刊物共被引分析結(jié)果

2.6 人工智能倫理研究關(guān)鍵詞共現(xiàn)圖譜

對人工智能倫理研究的關(guān)鍵詞進(jìn)行共現(xiàn)分析，可以揭示該研究領(lǐng)域歷年來研究內(nèi)容間的知識網(wǎng)絡(luò)關(guān)系，挖掘人工智能倫理研究領(lǐng)域的關(guān)鍵知識結(jié)點(diǎn)、知識結(jié)構(gòu)和熱門研究主題。因?yàn)殛P(guān)鍵詞實(shí)際上能大致說明一條文獻(xiàn)的主題，如果這些關(guān)鍵詞發(fā)生共現(xiàn)現(xiàn)象，說明它們的研究主題比較接近。首次出現(xiàn)共現(xiàn)的時(shí)間（參考圖像上方色條）表示這一研究主題興起的時(shí)間。如圖6、表5 所示，近年來人工智能倫理的熱門研究主題包括人工智能（artificial intelligence）、倫理（ethics）、機(jī)器人（robot）、機(jī)器倫理（machine ethics）和機(jī)器學(xué)習(xí)（machine learning）等。從中介中心性來看，最高的六個(gè)關(guān)鍵詞分別為人工智能、機(jī)器人、系統(tǒng)、倫理、機(jī)器倫理和看護(hù)（care）等，說明關(guān)于人工智能倫理研究的主要內(nèi)容是圍繞這些方面展開的。

從共現(xiàn)發(fā)生的時(shí)間來看（參考圖像上方色條），人工智能、倫理、機(jī)器倫理、機(jī)器人和思維等主題發(fā)生共現(xiàn)的時(shí)間比較早，始于2009 年到2010 年期間，說明這一時(shí)期學(xué)界開始關(guān)注機(jī)器人和人工智能的倫理問題；2010 年到2015 年，代理、技術(shù)、心理健康、機(jī)器人、模型和前額葉皮層等主題受到關(guān)注，說明人工智能倫理研究在這一時(shí)期關(guān)注人工智能和機(jī)器人的道德代理和相關(guān)的認(rèn)知決策過程。2016 年以后，看護(hù)、法律、自動化系統(tǒng)、機(jī)器學(xué)習(xí)、規(guī)則、人權(quán)和福利等主題受到關(guān)注，說明近年來關(guān)于人工智能倫理的研究已經(jīng)開始轉(zhuǎn)向具體的行業(yè)領(lǐng)域，并對一些具體的現(xiàn)實(shí)問題進(jìn)行哲學(xué)思考，或者探討相應(yīng)的倫理規(guī)則在人工智能領(lǐng)域的實(shí)現(xiàn)方式。

表5 人工智能倫理關(guān)鍵詞分析結(jié)果

圖6 人工智能倫理研究關(guān)鍵詞共現(xiàn)圖譜

2.7 聚類分析

在人工智能倫理研究文獻(xiàn)共被引分析的基礎(chǔ)上按關(guān)鍵詞進(jìn)行聚類分析，生成聚類分析視圖如圖7 所示?？梢?，形成的主要研究聚類有美德倫理（#0 virtue ethics）、心理健康（#1 mental health）、治理（#2 governance）、災(zāi)難性風(fēng)險(xiǎn)（#3 catastrophic risk）、機(jī)器道德（#4 machine morality）、社會（#5 society）、系統(tǒng)映射研究（#6 systematic mapping study）、放射學(xué)（#7 radiology）、社會影響（#8 social impacts）和設(shè)計(jì)倫理（#9 design ethics）等10 個(gè)研究聚類，其中不同結(jié)點(diǎn)之間連線的顏色表示不同的時(shí)間分區(qū)（參考圖像上方色條顏色）。如圖所示，過去十年的研究聚類從時(shí)間上大致可以劃分為三個(gè)階段。早期，機(jī)器道德聚類共被引現(xiàn)象較為活躍，說明人工智能倫理的重要根源在于機(jī)器倫理學(xué)，從機(jī)器倫理研究開始轉(zhuǎn)向智能機(jī)器倫理問題研究，逐漸形成了一個(gè)新的倫理研究方向。此后，心理健康和美德等聚類的文獻(xiàn)共被引現(xiàn)象比較活躍，說明隨著人工智能倫理研究的深入，已經(jīng)超出了機(jī)器倫理的范疇，進(jìn)一步考慮人工智能對人類心智的模擬以及人類美德倫理在系統(tǒng)中的介入。在這一轉(zhuǎn)換過程中，文獻(xiàn)Wallach W（2009）和Anderson M（2011）等起到了銜接的關(guān)鍵結(jié)點(diǎn)作用。最近幾年，治理、災(zāi)難性風(fēng)險(xiǎn)、社會、系統(tǒng)映射研究、放射學(xué)、社會影響、設(shè)計(jì)倫理等聚類的文獻(xiàn)之間共被引現(xiàn)象比較明顯，說明人工智能倫理已經(jīng)引起了各行業(yè)領(lǐng)域的廣泛關(guān)注，而且各行業(yè)開始重視人工智能應(yīng)用可能帶來的風(fēng)險(xiǎn)和其他社會影響以及如何治理和設(shè)計(jì)實(shí)現(xiàn)。文獻(xiàn)Bryson J J（2010）、Armstrong S（2012）、Bakshy E（2015）和Cakmak M（2010）等起到了關(guān)鍵銜接結(jié)點(diǎn)作用。

圖7 基于關(guān)鍵詞的聚類視圖

圖8 聚類分析時(shí)間線視圖

從聚類分析時(shí)間線視圖來看（圖8），美德倫理、心理健康、治理、災(zāi)難性風(fēng)險(xiǎn)、機(jī)器道德、社會和系統(tǒng)映射研究等聚類的文獻(xiàn)發(fā)生的共被引現(xiàn)象比較密集。這幾個(gè)聚類還集中了影響力比較大、比較關(guān)鍵的一些結(jié)點(diǎn)，它們構(gòu)成了人工智能倫理研究的主要內(nèi)容、方法、技術(shù)和應(yīng)用等方面。機(jī)器道德和心理健康等聚類的文獻(xiàn)在早期共被引現(xiàn)象明顯，后有消退趨勢，說明它們在該研究領(lǐng)域起到了奠基的作用。最近興起的研究主題有治理、社會、放射學(xué)和設(shè)計(jì)倫理等研究聚類，說明隨著人工智能技術(shù)在各行業(yè)領(lǐng)域的廣泛應(yīng)用，其倫理問題日益受到關(guān)注，尤其是它可能產(chǎn)生的社會風(fēng)險(xiǎn)及如何規(guī)避這些風(fēng)險(xiǎn)，將是未來需要重點(diǎn)關(guān)注的方面。

3 研究發(fā)現(xiàn)

近年來，人們越來越關(guān)注人工智能在各行業(yè)領(lǐng)域的應(yīng)用會給人類社會帶來何種影響，尤其是如何處理人工智能技術(shù)應(yīng)用可能帶來的新的倫理問題。本文使用CiteSapce軟件對國際上人工智能倫理研究數(shù)據(jù)進(jìn)行文獻(xiàn)共引和共被引分析，挖掘出這一研究領(lǐng)域的重要文獻(xiàn)結(jié)點(diǎn)，同時(shí)繪制國際人工智能倫理研究知識圖譜，揭示其研究的起源、發(fā)展脈絡(luò)和未來趨勢。

3.1 人工智能倫理研究起源

關(guān)于人工智能倫理的考慮最開始出自早期的科幻小說和電影中。阿西莫夫在上世紀(jì)中葉提出的機(jī)器人三大法則，就已經(jīng)將人工智能的倫理道德作為一個(gè)重要的問題進(jìn)行考慮。當(dāng)然這些文學(xué)或影視作品只是對未來社會的一種預(yù)想，隨著人工智能的進(jìn)步，關(guān)于倫理方面的考慮已經(jīng)不能再停留于假想階段，而是日益與我們的社會生活密切相關(guān)。大量的科學(xué)家、哲學(xué)家和商界領(lǐng)袖都對人工智能可能對社會產(chǎn)生的重要影響和潛在危險(xiǎn)表示了擔(dān)憂，也開始倡導(dǎo)在這些人工智能產(chǎn)品進(jìn)入我們生活之前，需要先把倫理這一永恒的問題考慮清楚。一大批學(xué)者在機(jī)器倫理、設(shè)計(jì)倫理、信息技術(shù)倫理和計(jì)算哲學(xué)等基礎(chǔ)上，開始探討人工智能倫理的本質(zhì)以及需要解決的一些問題，形成了一個(gè)新的倫理學(xué)研究方向。這方面的研究對于我們未來進(jìn)一步開發(fā)和應(yīng)用更復(fù)雜的人工智能系統(tǒng)，并降低它可能帶來的負(fù)面影響是極其重要的。

3.2 人工智能倫理研究發(fā)展脈絡(luò)

本世紀(jì)以來，由于人工智能技術(shù)在各行業(yè)領(lǐng)域的應(yīng)用，關(guān)于人工智能的倫理問題已經(jīng)不再是一個(gè)虛幻的想象，而是我們切實(shí)面臨的一個(gè)亟待解決的現(xiàn)實(shí)問題。最初，人工智能和機(jī)器人技術(shù)在工程制造領(lǐng)域得到應(yīng)用。它們主要是由人類指導(dǎo)員預(yù)編程，然后按照程序員的意圖輔助人類進(jìn)行工作。這種早期的人工智能雖然具備了一些自動化特征，但并不是一種獨(dú)立自主的存在，因此對它們的倫理考慮，主要還是在機(jī)器倫理的范疇之內(nèi)，比如用機(jī)器代替人類工作是否改變了人與機(jī)器之間的關(guān)系，這可能給各行業(yè)內(nèi)的雇傭關(guān)系以及整個(gè)人類社會帶來什么樣的影響。近年來，隨著人工智能系統(tǒng)越來越復(fù)雜的自主控制，這些系統(tǒng)本身也應(yīng)該意識到其行為的倫理含義。一些學(xué)者認(rèn)為在復(fù)雜智能系統(tǒng)投入使用之前，需要將其倫理問題考慮清楚，即應(yīng)該在人工智能系統(tǒng)中引入倫理原則和規(guī)則，構(gòu)建人工智能道德代理，讓它們能夠根據(jù)對外在環(huán)境信息的判斷，作出類似于人類的倫理決策。因此，人們越來越認(rèn)識到人工智能的自主決策不能僅局限于其最初設(shè)計(jì)的工作服務(wù)目標(biāo)，還需要能夠?qū)ψ晕业臎Q策、行為和后果進(jìn)行判斷，使自己的行為符合人類利益的最大化。但這一過程又引發(fā)出一些新的倫理問題。人工智能能夠根據(jù)預(yù)先設(shè)計(jì)的智能道德代理進(jìn)行倫理決策，但它的智能道德代理的規(guī)則與算法是由其設(shè)計(jì)者、程序員定制的，而不是自主建構(gòu)的，在各方利益沖突的情況下它應(yīng)該優(yōu)先服務(wù)于誰的利益，設(shè)計(jì)者、客戶還是對整個(gè)人類利益的綜合考慮？如果對這些問題不考慮清楚就直接將人工智能技術(shù)投入應(yīng)用，可能帶來嚴(yán)重的社會問題。

3.3 人工智能倫理研究未來發(fā)展趨勢

從國際上人工智能倫理研究的知識圖譜來看，關(guān)于人工智能倫理的研究才剛起步?？梢灶A(yù)見的是，人工智能將在未來的一段時(shí)間內(nèi)在各行業(yè)領(lǐng)域得到更廣泛更深入的應(yīng)用，而且人工智能系統(tǒng)本身也將越來越個(gè)性化、自主化，因此將引發(fā)出更多更加復(fù)雜的倫理問題。雖然，目前關(guān)于人工智能倫理在哲學(xué)思想、設(shè)計(jì)和智能道德代理方面有過一些思考，但同時(shí)還有一些非常重要的問題需要更深入的探討。首先，人工智能應(yīng)用可能引發(fā)的高度智能化工作和相應(yīng)的技術(shù)風(fēng)險(xiǎn)等社會問題，會隨著它的廣泛應(yīng)用而逐漸凸顯出來。比如由于工作被人工智能取代而引發(fā)的失業(yè)和人類勞動價(jià)值喪失，人類的勞動技能及其相關(guān)的知識、體驗(yàn)、推理和決策等方面能力的降低，是否會導(dǎo)致人類的退步，這是需要我們進(jìn)行哲學(xué)反思的一個(gè)重要的問題。其次，隨著人工智能的自主化程度越來越高，我們需要思考人工智能道德代理的設(shè)計(jì)與實(shí)現(xiàn)問題，比如應(yīng)該給人工智能賦予什么樣的倫理準(zhǔn)則，如何讓其獲得類似于人類的倫理推理和倫理決策能力。這涉及形式邏輯、數(shù)學(xué)推理、規(guī)則庫和機(jī)器學(xué)習(xí)等方法在倫理判斷和倫理決策中的應(yīng)用。最后，人工智能目前還沒有自我意識，因此它的行為與決策所遵循的倫理規(guī)則仍然是人類賦予的，是為人類利益服務(wù)的。但如果有一天人工智能具備了自我意識，必然也會滋生人類的欲望和弱點(diǎn)。當(dāng)它們所遵循的倫理規(guī)則不再是為人類利益服務(wù)而是為自身利益服務(wù)時(shí)，人類將如何避免和應(yīng)對此類事情的發(fā)生，也是需要我們認(rèn)真考慮的一個(gè)重要問題。而另一方面，人工智能作為道德行為者的同時(shí)，也將扮演道德容受者的角色，人類應(yīng)該如何對待人工智能系統(tǒng)也是一個(gè)需要細(xì)致考慮的問題。

（來稿時(shí)間：2019 年9 月）