亚洲免费av电影一区二区三区,日韩爱爱视频,51精品视频一区二区三区,91视频爱爱,日韩欧美在线播放视频,中文字幕少妇AV,亚洲电影中文字幕,久久久久亚洲av成人网址,久久综合视频网站,国产在线不卡免费播放

        ?

        國際人工智能倫理研究現(xiàn)狀與發(fā)展趨勢*

        2020-02-08 03:50:54汪玉蘭鄧國民
        圖書館 2020年1期
        關(guān)鍵詞:人工智能人類研究

        汪玉蘭 鄧國民

        (1. 南京大學(xué)哲學(xué)系 南京 210023;2. 貴陽學(xué)院教育科學(xué)學(xué)院 貴陽 550005)

        隨著人工智能技術(shù)應(yīng)用的深入,可能引發(fā)的新的倫理問題和困境受到國內(nèi)外業(yè)界人士和重要機(jī)構(gòu)的重視。微軟、百度和騰訊等國內(nèi)外大公司都對人工智能倫理表現(xiàn)出急切的關(guān)注。歐盟委員會于2019 年4 月8 日發(fā)布了“值得信賴的人工智能倫理準(zhǔn)則”。人民日報(bào)于2019 年7 月12 日刊發(fā)整版文章對人工智能倫理進(jìn)行了探討??梢?,人工智能倫理研究已經(jīng)迫在眉睫。研究國際重要學(xué)術(shù)刊物發(fā)表的人工智能倫理研究知識圖譜、發(fā)展現(xiàn)狀和未來發(fā)展趨勢,對于我們進(jìn)行人工智能倫理研究具有較大的啟示意義。

        1 研究方法

        本文設(shè)置檢索式為“TS=(artificial intelligence OR AI)AND TS=(ethic* OR moral)”,從Web of Science 核心數(shù)據(jù)庫中檢索到人工智能倫理研究文獻(xiàn)389 條,作為知識圖譜分析的數(shù)據(jù)基礎(chǔ)。我們使用CiteSpace 軟件對國際人工智能倫理研究文獻(xiàn)進(jìn)行知識圖譜分析,并綜合應(yīng)用文獻(xiàn)計(jì)量學(xué)和內(nèi)容分析方法,揭示人工智能倫理研究領(lǐng)域的研究起源、發(fā)展脈絡(luò)和未來趨勢。首先,使用文獻(xiàn)計(jì)量學(xué)和內(nèi)容分析方法,揭示國際人工智能倫理研究文獻(xiàn)的年度、期刊和學(xué)術(shù)機(jī)構(gòu)整體分布情況。然后,使用CiteSpace 軟件對人工智能倫理研究文獻(xiàn)數(shù)據(jù)進(jìn)行引文空間的可視化分析,揭示文獻(xiàn)、作者和刊物的共被引關(guān)系以及機(jī)構(gòu)和關(guān)鍵詞的共現(xiàn)關(guān)系。第三,在文獻(xiàn)共被引分析的基礎(chǔ)上,繪制國際人工智能倫理研究文獻(xiàn)的共被引聚類圖譜,揭示國際人工智能倫理研究領(lǐng)域的主要研究聚類、關(guān)鍵結(jié)點(diǎn)和時(shí)間演化過程。

        圖1 人工智能倫理研究歷年出版文獻(xiàn)數(shù)及引文數(shù)

        2 人工智能倫理研究文獻(xiàn)知識圖譜分析

        2.1 人工智能倫理研究文獻(xiàn)年度分布

        近三十年以來,國際上人工智能倫理研究每年出版的文獻(xiàn)數(shù)和引文數(shù)均穩(wěn)步上升。如圖1 所示,2005 年以前,國際上關(guān)于人工智能倫理研究的文獻(xiàn)數(shù)和引文數(shù)都相對較少,之后每年出版的相關(guān)文獻(xiàn)數(shù)和引文數(shù)都以較快的速度增長,2012 年出版文獻(xiàn)數(shù)開始超過10 篇,被引頻次超過100 次。2014 年以后,每年引文數(shù)都超過200 次,2018 年達(dá)到500 次。這說明近年來學(xué)界對人工智能倫理研究的關(guān)注度急劇上升,最近兩年達(dá)到高潮。

        2.2 有影響的文獻(xiàn)

        利用CiteSpace 軟件對檢索到的389 條人工智能倫理研究文獻(xiàn)數(shù)據(jù)進(jìn)行共被引分析(Cited Reference),生成國際人工智能倫理研究文獻(xiàn)共被引圖譜,如圖2 所示。圖中用圓圈表示文獻(xiàn)結(jié)點(diǎn),結(jié)點(diǎn)大小表示文獻(xiàn)被引次數(shù)的多少,結(jié)點(diǎn)之間連線的顏色表示兩條文獻(xiàn)首次共被引的時(shí)間。結(jié)點(diǎn)采用年輪結(jié)構(gòu)的方式表示,顏色表示年份(對照圖形頂部時(shí)間條顏色),年輪的厚度表示該年被引頻次。外圍有深色圓圈包圍的結(jié)點(diǎn)表示高中介中心性文獻(xiàn),說明它們在不同人工智能倫理研究聚類之間起到了關(guān)鍵銜接結(jié)點(diǎn)的作用。

        圖2 人工智能倫理研究文獻(xiàn)共被引圖譜

        (1)高被引文獻(xiàn)分析

        具有較高被引頻次的文獻(xiàn)表示它們在人工智能倫理研究領(lǐng)域產(chǎn)生了重要而深遠(yuǎn)的影響,同時(shí)也體現(xiàn)了該研究領(lǐng)域的核心研究主題。表1 列出了該研究領(lǐng)域引用次數(shù)超過10 次的文獻(xiàn)。Bostrom N(2014)共被引頻次最高,為34 次,他指出人工智能提供了許多新的可能性,開辟了新的研究領(lǐng)域,也帶來了新的倫理問題。當(dāng)超級智能具備一系列超級認(rèn)知能力,而偏離我們控制它的意圖或能力時(shí),可能給人類及人類社會帶來災(zāi)難性的后果,因此我們需要加強(qiáng)對人工智能人性建構(gòu)和倫理問題的研究[1]。

        Wallach W(2009)指出虛擬和物質(zhì)的人工代理所承擔(dān)的責(zé)任日益增長,因此需要開發(fā)更加復(fù)雜的解決方案,使其能夠作出道德決策。迄今為止存在的倫理系統(tǒng)或倫理學(xué)家開發(fā)的解決方案并未涉及人類與機(jī)器人的相互作用、機(jī)器人與其他生物體之間的接觸或者機(jī)器人之間的相互作用。人類作出道德決策的機(jī)制極端復(fù)雜,只在算法中提供具體的倫理規(guī)則是不夠的,應(yīng)該使其具備道德主體的能力,這使得人工智能或機(jī)器人的開發(fā)變得更加復(fù)雜[2]。 Anderson M(2011)指出機(jī)器倫理和傳統(tǒng)的計(jì)算機(jī)倫理的不同之處在于,它不是關(guān)注程序員或用戶的決策,而是關(guān)注于機(jī)器本身的道德決策能力,主要討論了機(jī)器倫理的本質(zhì)、機(jī)器倫理的重要性、機(jī)器倫理的哲學(xué)和現(xiàn)實(shí)、機(jī)器倫理方法和機(jī)器倫理愿景等五個(gè)方面的問題[3]。

        Bonnefon J F(2016)對自動駕駛汽車的社會困境進(jìn)行了討論,指出定義有助于自動駕駛汽車作出道德決策的算法是一項(xiàng)艱巨的挑戰(zhàn)。目前沒有簡單的方法來設(shè)計(jì)能夠協(xié)調(diào)道德價(jià)值和個(gè)人自我利益的算法,更別說考慮不同文化對生活權(quán)衡的各種道德態(tài)度,但隨著這種對話的進(jìn)展,公眾輿論和社會壓力可能會隨之發(fā)生改變。對于這些倫理問題,需要在智能產(chǎn)品進(jìn)入全球市場前做出決策[4]。

        表1 人工智能倫理高引文獻(xiàn)

        Chalmers D J(2010)將產(chǎn)生超級智能的智能爆炸界定為奇點(diǎn),協(xié)調(diào)這種奇點(diǎn)需要在機(jī)器中構(gòu)建合適的價(jià)值,并非常謹(jǐn)慎地在虛擬世界中構(gòu)建第一個(gè)AI 和AI+系統(tǒng)。對于我們?nèi)绾稳谌牒笃纥c(diǎn)世界,作者討論了兩種不同的方式:①通過逐步上載然后增強(qiáng);②通過重建上載然后增強(qiáng),這當(dāng)中同時(shí)涉及認(rèn)知增強(qiáng)和實(shí)用方面的問題[5]。

        Gunkel D J(2012)試圖在道德哲學(xué)中創(chuàng)造一個(gè)空間,以解決智能機(jī)械具有什么樣的道德主張,以及闡明和實(shí)踐相應(yīng)的道德規(guī)范意味著什么[6]。

        Lin P(2012)對關(guān)于機(jī)器倫理的跨學(xué)科和多視角問題進(jìn)行了系統(tǒng)討論:機(jī)器人倫理的一般方法以及道德概念的基本術(shù)語定義;與具體技術(shù)應(yīng)用相關(guān)的道德倫理和方法以及機(jī)器人使用的未來場景;具有倫理重要性的領(lǐng)域以及研究和開發(fā)的技術(shù)趨勢;機(jī)器人倫理的主要形式[7]。

        O’neil C(2016)認(rèn)為算法不是中立的,人類的偏見和錯(cuò)誤經(jīng)常被編碼到系統(tǒng)中,并細(xì)致地對招聘、警務(wù)、借貸、教育和醫(yī)療保健等各行業(yè)領(lǐng)域的數(shù)據(jù)實(shí)踐的具體案例、基于算法作出決策的程度進(jìn)行了分析,結(jié)果發(fā)現(xiàn)這進(jìn)一步剝奪了弱勢群體的權(quán)利,造成了社會的不平等。作者最后總結(jié)了一些具體的建議,為數(shù)學(xué)模型和大數(shù)據(jù)帶來更多的監(jiān)管、透明度和案例[8]。

        (2)突現(xiàn)引文分析

        突現(xiàn)引用是指一篇文獻(xiàn)在某段時(shí)間內(nèi)引用率突然上升或下降的現(xiàn)象,表示某一特定研究主題在一段時(shí)間內(nèi)突然變熱或變冷,能夠代表當(dāng)時(shí)的熱門研究主題或研究前沿。利用CiteSpace 軟件對人工智能倫理研究文獻(xiàn)進(jìn)行共被引突發(fā)性分析,結(jié)果如表2 所示。Wallach W(2009)、Floridi L(2004)、Gunkel D J(2012)、Arkin R(2009)、Omohundro S M(2008)、Allen C(2006)、Johnson D G(2006)、Moor J H(2006)和Allen C(2005)等文獻(xiàn)的突發(fā)性較強(qiáng),表明它們在人工智能倫理研究主題的轉(zhuǎn)向方面起到了比較關(guān)鍵的作用。

        2009 年到2012 年期間,Allen C(2005)、Allen C(2006)、Moor J H(2006)、Floridi L(2004)和Johnson D G(2006)等文獻(xiàn)引用量突現(xiàn)。這些文獻(xiàn)主要對機(jī)器倫理、道德代理和人工制品的道德價(jià)值與意義進(jìn)行了初步探討。Allen C(2006)指出如果我們對人工智能道德代理的開發(fā)或管理能力有限,那么就需要將注意力從對自治系統(tǒng)的錯(cuò)誤依賴轉(zhuǎn)移開。一些道德決策能夠在計(jì)算機(jī)系統(tǒng)中較為容易地實(shí)施,而模擬處理其他類型道德困境的技巧以我們目前的知識還很難實(shí)現(xiàn)[9]。Allen C(2005)指出人工道德學(xué)科的一個(gè)主要目標(biāo)是設(shè)計(jì)人工代理人,使其能夠像道德代理一樣。人工道德的中間目標(biāo)是建立人工智能系統(tǒng)對活動的價(jià)值觀、道德規(guī)范和合法性的敏感性[10]。

        Moor J H(2006)認(rèn)為需要就什么是機(jī)器倫理達(dá)成一致,才能夠確定機(jī)器倫理是否存在,而對這一問題的理解存在兩種完全不同的解釋:①人類是機(jī)器,人類有倫理,機(jī)器也有倫理;②倫理是一種情感的表達(dá),機(jī)器沒有情感,因而沒有倫理。作者認(rèn)為短時(shí)間之內(nèi)無法通過哲學(xué)論證或?qū)嵶C研究來解決這一問題,但能夠?qū)W⒂陂_發(fā)有限的、明確的倫理代理,而不是完全的倫理代理,幫助防止不道德的結(jié)果[11]。Floridi L(2004)指出人工智能擴(kuò)展了可能涉及道德情境的實(shí)體類別,它們同時(shí)可以被視為道德受動者和行為者。論文圍繞網(wǎng)絡(luò)空間具有什么道德價(jià)值和道德責(zé)任兩個(gè)問題進(jìn)行了探討。Johnson D G(2006)認(rèn)為計(jì)算機(jī)系統(tǒng)和人工制品是有意創(chuàng)建和部署的,因此它們具有道德特征,是人類道德行為的組成部分。當(dāng)人類使用人工制品時(shí),他們的行為由人工制品的意圖性和功效構(gòu)成,而人工制品的意圖性和功效又是由其設(shè)計(jì)者的意圖和功效構(gòu)成。人工制品及其設(shè)計(jì)師和用戶在行動時(shí)都在工作,而這三個(gè)組成部分都應(yīng)該是道德評估的重點(diǎn)[12]。

        2013 年以后,Wallach W(2009)、Gunkel D J(2012)、Arkin R(2009)、Omohundro S M(2008)等文獻(xiàn)引用量突現(xiàn)。這一時(shí)期關(guān)于人工智能倫理方面的研究,更進(jìn)一步深入到系統(tǒng)實(shí)現(xiàn)的具體架構(gòu)、智能道德系統(tǒng)的設(shè)計(jì),重視利用經(jīng)典的哲學(xué)和倫理學(xué)理論分析人工智能技術(shù)的倫理問題。Arkin R(2009)指出許多機(jī)器人應(yīng)用程序沒有較好地考慮安全和倫理方面的問題,討論了如何構(gòu)建倫理機(jī)器人。作者介紹了在自動戰(zhàn)斗機(jī)器人中植入負(fù)責(zé)任的倫理決策的動機(jī)和理由,并提出了實(shí)現(xiàn)這一目標(biāo)的架構(gòu)[13]。 Omohundro S M(2008)認(rèn)為需要對智能系統(tǒng)進(jìn)行精心設(shè)計(jì),以防止它們以有害的方式運(yùn)行。論文主要討論了如何將自我改善、經(jīng)濟(jì)效用、理性和自我保護(hù)等驅(qū)動因素融入到智能技術(shù)中,從而為人類帶來積極的未來[14]。 Wallach W(2009)認(rèn)為有必要開發(fā)更加復(fù)雜的解決方案,使人工實(shí)體能夠做出道德決策[2]。Gunkel D J(2012)綜合考慮了Levinasian 倫理學(xué)與Heideggarian 的本體論來思考事物或技術(shù)的作用,通過解決道德哲學(xué)的容受者/代理二元性,最終將機(jī)器排除在倫理考慮之外[6]。

        表2 人工智能倫理研究突現(xiàn)引文

        (3)高中心性引文分析

        人工智能倫理研究領(lǐng)域的高中介中心性文獻(xiàn)結(jié)點(diǎn)能夠起到銜接不同研究聚類的作用,它們在識別人工智能倫理研究聚類,促進(jìn)人工智能倫理研究的知識交流中起到關(guān)鍵的銜接作用。如表3 所示,文獻(xiàn)Anderson M(2011)的中介中心性最高(0.31),指出機(jī)器倫理和傳統(tǒng)的計(jì)算機(jī)倫理的不同之處在于,它不是關(guān)注程序員或用戶的決策,而是關(guān)注機(jī)器本身的道德決策能力[3]。此外,Wallach W(2009)是較早討論與機(jī)器人技術(shù)發(fā)展相關(guān)的倫理問題的著作之一,指出虛擬和物質(zhì)的人工代理所承擔(dān)的責(zé)任日益增長,因此越來越有必要開發(fā)更加復(fù)雜的解決方案,使人工實(shí)體能夠做出道德決策[2]。

        表3 人工智能倫理研究高中介中心性文獻(xiàn)

        Armstrong S(2012)認(rèn)為人類智能并不代表人工智能能力的上限,超級智能系統(tǒng)將根據(jù)其可能存在缺陷的動機(jī)系統(tǒng)引導(dǎo)未來,這可能帶來嚴(yán)重的安全問題。論文分析和批判了各種控制人工智能的方法,認(rèn)為限制的人工智能要相對安全,但仍然存在潛在的風(fēng)險(xiǎn)[15]。Bryson J J(2010)認(rèn)為機(jī)器人不應(yīng)該被描述為人,也不應(yīng)為其行為承擔(dān)法律或道德責(zé)任,機(jī)器人的智力和如何獲得他們的智力是由人來確定的。因此,機(jī)器人技術(shù)的潛力應(yīng)該被理解為擴(kuò)展人類自己的能力和實(shí)現(xiàn)自己目標(biāo)的潛力。論文指出機(jī)器人人性化是一種錯(cuò)誤,分析了這些錯(cuò)誤的原因和后果,并提出了機(jī)器人如何融入社會的具體建議[16]。

        Bakshy E(2015)對社交媒體如何影響跨意識形態(tài)界限的觀點(diǎn)進(jìn)行了探討,發(fā)現(xiàn)個(gè)人的選擇比算法排名在限制對交叉內(nèi)容的曝光方面發(fā)揮了更大的作用[17]。Cakmak M(2010)討論了主動學(xué)習(xí)應(yīng)用于人機(jī)交互環(huán)境時(shí)出現(xiàn)的一些問題,并提供了幾條指導(dǎo)方針,為人機(jī)(機(jī)器人)交互環(huán)境中使用主動學(xué)習(xí)的未來機(jī)器人系統(tǒng)的設(shè)計(jì)提供信息[18]。Chalmers D J(2010)將智能爆炸界定為奇點(diǎn),協(xié)調(diào)這種奇點(diǎn)需要在機(jī)器中構(gòu)建合適的價(jià)值[5]。Bryson J(2012)認(rèn)為有意識的注意力并不是選擇立即行動,而是使用當(dāng)前任務(wù)將專門學(xué)習(xí)集中于行動選擇機(jī)制和預(yù)測模型,才可能影響有意識的代理的任務(wù)和環(huán)境突發(fā)事件。將這種系統(tǒng)構(gòu)建到機(jī)器智能中是完全可能的,除非智能系統(tǒng)需要學(xué)習(xí)并且在學(xué)習(xí)速度與相關(guān)環(huán)境變化速率方面存在資源限制,否則它不是絕對必要的[19]。

        通過對人工智能倫理近期高引用率、高突現(xiàn)率和高中介中心性文獻(xiàn)的研究和分析,可以挖掘出這一研究領(lǐng)域最有影響力、影響研究重要轉(zhuǎn)向以及銜接不同研究聚類的關(guān)鍵文獻(xiàn)結(jié)點(diǎn)。近年來,人們對人工智能系統(tǒng)可能帶來的倫理問題越來越關(guān)注,不再局限于科幻小說和影視作品中,而是已經(jīng)達(dá)到一種我們不能忽視的程度。目前學(xué)界存在兩種截然不同的觀點(diǎn):一種認(rèn)為人工智能承擔(dān)了道德責(zé)任,作為一種智能道德代理理所當(dāng)然;另一種觀點(diǎn)將人工智能排除在倫理考慮之外,認(rèn)為它只是人類實(shí)現(xiàn)個(gè)人目的的工具或手段之一,因此更需要考慮人工智能系統(tǒng)設(shè)計(jì)者的道德因素。但隨著人工智能系統(tǒng)越來越復(fù)雜的自主控制,這些系統(tǒng)本身也應(yīng)該意識到其行為的倫理含義。一些學(xué)者認(rèn)為在復(fù)雜智能系統(tǒng)投入使用之前,需要將其倫理問題考慮清楚,他們從倫理學(xué)和哲學(xué)的視角對人工智能系統(tǒng)引入倫理原則進(jìn)行了思考,提出了一些設(shè)計(jì)和執(zhí)行倫理系統(tǒng)的方法與策略,為人工智能領(lǐng)域的研究人員和商界人士制定相應(yīng)的規(guī)則和指導(dǎo)方針提供了一定的依據(jù)。

        2.3 重要作者分析

        使用CiteSpace 軟件對人工智能倫理研究的重要作者進(jìn)行共被引分析,結(jié)果如圖3 所示,其中引用頻次最高的5 位作者分別是Wallach W(Freq=64)、Bostrom N(Freq=62)、Anderson M(Freq=54)、Floridi L(Freq=47)和Allen C(Freq=41)。Freq 是指作者共被引頻次,圖中圓圈大小表示作者共被引次數(shù)的多少,不同顏色代表不同年份的引用次數(shù)。較大的作者結(jié)點(diǎn)表示他們在該研究領(lǐng)域產(chǎn)生了重要的影響。Wallach W 對機(jī)器倫理、道德機(jī)器以及道德與意識、思想之間的關(guān)系進(jìn)行了論述,并提出了人類及智能代理道德決策的概念和計(jì)算模型[20]。Bostrom N 從技術(shù)變革和人類未來演進(jìn)的視角,關(guān)注了超級智能可能對人類社會帶來的影響、存在的風(fēng)險(xiǎn)及其認(rèn)知中存在的倫理問題。Anderson M 主要對機(jī)器倫理進(jìn)行了探討,認(rèn)為阿西莫夫的三個(gè)機(jī)器人定律無法作為機(jī)器倫理基礎(chǔ)。Floridi L 是著名的計(jì)算哲學(xué)和信息哲學(xué)家,曾經(jīng)提出了信息圈理論,成為信息倫理的重要理論基礎(chǔ),他的很多觀點(diǎn)對人工智能倫理研究產(chǎn)生了重要的影響。Allen C 主要對為什么需要研究機(jī)器倫理的原因進(jìn)行了分析,對未來人工道德行為者的趨勢進(jìn)行了展望,指出不能放棄人類的責(zé)任。

        從中介中心性和突發(fā)性來看(見圖3),被引作者中,突發(fā)性最強(qiáng)的5 位作者分別是Kahneman D(Burst=3.61)、Yudkowsky E(Burst=3.16)、Turkle S(Burst=3.02)、Danielson P(Burst=2.88)和Guarini M(Burst=2.75),說 明他們在人工智能倫理研究內(nèi)容和主題的轉(zhuǎn)換方面貢獻(xiàn)較大,在一定時(shí)期內(nèi)扮演了前沿研究者的角色。中介中心性最高的5 位作者分別是Asimov I(Centrality=0.2)、Allen C(Centrality=0.16)、Moor J H(Centrality=0.13)、Anderson M(Centrality=0.11)和Levy D(Centrality=0.11),說明他們在人工智能倫理研究的知識傳播過程中貢獻(xiàn)較大。

        圖3 人工智能倫理重要作者圖譜

        2.4 重要機(jī)構(gòu)分析

        使用CiteSpace 軟件對人工智能倫理研究機(jī)構(gòu)進(jìn)行共現(xiàn)分析,結(jié)果如圖4 所示。影響較大的研究機(jī)構(gòu)包括牛津大學(xué)(University of Oxford)、哈佛大學(xué)(Harvard University)、代爾夫特理工大學(xué)(Delft University of Technology)、華盛頓大學(xué)(University of Washington)、英國開放大學(xué)(The Open University)和愛丁堡大學(xué)(The University of Edinburgh)。中介中心性最高的五個(gè)研究機(jī)構(gòu)分別為牛津大學(xué)(University of Oxford)、阿蘭圖靈機(jī)構(gòu)(Alan Turing Institute)、帕多瓦大學(xué)(University of Padua)、澳大利亞國立大學(xué)(The Australian National University)和愛丁堡大學(xué)(The University of Edinburgh),說明這些研究機(jī)構(gòu)在人工智能倫理研究主題的轉(zhuǎn)向和對前沿的把握方面最為有效。

        圖4 人工智能倫理重要研究機(jī)構(gòu)圖譜

        2.5 人工智能倫理期刊發(fā)文量與知識交流情況分析

        從發(fā)文量統(tǒng)計(jì)來看,Ethics and Information Technology和Minds and Machines的發(fā)文量最高,均為14 篇;Philosophical Transactions of the Royal Society a Mathematical Physical and Engineering Sciences的發(fā)文量排第三,為10 篇。這些期刊均被Web of Science 核心數(shù)據(jù)庫收錄,因此它們是國際人工智能倫理研究知識交流的重要載體。學(xué)術(shù)刊物之間的相互引用和共引關(guān)系可以表征這一研究領(lǐng)域和其他學(xué)科領(lǐng)域之間知識交流的水平和知識流動的狀況。使用CiteSpace 軟件進(jìn)行期刊共被引分析,結(jié)果如圖5、表4 所示。從被引頻次來看,《科學(xué)》《思維與機(jī)器》《自然》《人工智能》和《IEEE 智能系統(tǒng)》等是過去十年間該研究領(lǐng)域的高被引期刊,被引頻次分別為89 次、68 次、68 次、66 次和57 次。從中介中心性來看,《科學(xué)》《思維與機(jī)器》《科學(xué)革命的結(jié)構(gòu)》《有線》和《科學(xué)美國人》等是過去十年間人工智能倫理研究領(lǐng)域的高中介中心性期刊,它們的中介中心性分別高達(dá)0.27、0.22、0.15、0.15 和0.13,說明它們在這一研究領(lǐng)域的知識流動過程中起到關(guān)鍵銜接結(jié)點(diǎn)的作用。根據(jù)文獻(xiàn)計(jì)量學(xué)理論,人工智能倫理研究文獻(xiàn)對其他學(xué)科期刊的引用,可以反映人工智能倫理主要從哪些其他學(xué)科獲得知識流量。期刊共被引分析表明,過去十年間人工智能倫理研究的知識流量,主要來自《科學(xué)》《自然》《行為與腦科學(xué)》《有線》《科學(xué)美國人》《Springer 計(jì)算機(jī)科學(xué)講義》和《科學(xué)革命的結(jié)構(gòu)》等其他學(xué)科期刊,這說明人工智能倫理研究的理論基礎(chǔ)主要來自于科學(xué)、心理學(xué)、科學(xué)革命和計(jì)算機(jī)等學(xué)科領(lǐng)域。

        圖5 人工智能倫理研究學(xué)術(shù)刊物共被引圖譜

        表4 人工智能倫理學(xué)術(shù)刊物共被引分析結(jié)果

        2.6 人工智能倫理研究關(guān)鍵詞共現(xiàn)圖譜

        對人工智能倫理研究的關(guān)鍵詞進(jìn)行共現(xiàn)分析,可以揭示該研究領(lǐng)域歷年來研究內(nèi)容間的知識網(wǎng)絡(luò)關(guān)系,挖掘人工智能倫理研究領(lǐng)域的關(guān)鍵知識結(jié)點(diǎn)、知識結(jié)構(gòu)和熱門研究主題。因?yàn)殛P(guān)鍵詞實(shí)際上能大致說明一條文獻(xiàn)的主題,如果這些關(guān)鍵詞發(fā)生共現(xiàn)現(xiàn)象,說明它們的研究主題比較接近。首次出現(xiàn)共現(xiàn)的時(shí)間(參考圖像上方色條)表示這一研究主題興起的時(shí)間。如圖6、表5 所示,近年來人工智能倫理的熱門研究主題包括人工智能(artificial intelligence)、倫理(ethics)、機(jī)器人(robot)、機(jī)器倫理(machine ethics)和機(jī)器學(xué)習(xí)(machine learning)等。從中介中心性來看,最高的六個(gè)關(guān)鍵詞分別為人工智能、機(jī)器人、系統(tǒng)、倫理、機(jī)器倫理和看護(hù)(care)等,說明關(guān)于人工智能倫理研究的主要內(nèi)容是圍繞這些方面展開的。

        從共現(xiàn)發(fā)生的時(shí)間來看(參考圖像上方色條),人工智能、倫理、機(jī)器倫理、機(jī)器人和思維等主題發(fā)生共現(xiàn)的時(shí)間比較早,始于2009 年到2010 年期間,說明這一時(shí)期學(xué)界開始關(guān)注機(jī)器人和人工智能的倫理問題;2010 年到2015 年,代理、技術(shù)、心理健康、機(jī)器人、模型和前額葉皮層等主題受到關(guān)注,說明人工智能倫理研究在這一時(shí)期關(guān)注人工智能和機(jī)器人的道德代理和相關(guān)的認(rèn)知決策過程。2016 年以后,看護(hù)、法律、自動化系統(tǒng)、機(jī)器學(xué)習(xí)、規(guī)則、人權(quán)和福利等主題受到關(guān)注,說明近年來關(guān)于人工智能倫理的研究已經(jīng)開始轉(zhuǎn)向具體的行業(yè)領(lǐng)域,并對一些具體的現(xiàn)實(shí)問題進(jìn)行哲學(xué)思考,或者探討相應(yīng)的倫理規(guī)則在人工智能領(lǐng)域的實(shí)現(xiàn)方式。

        表5 人工智能倫理關(guān)鍵詞分析結(jié)果

        圖6 人工智能倫理研究關(guān)鍵詞共現(xiàn)圖譜

        2.7 聚類分析

        在人工智能倫理研究文獻(xiàn)共被引分析的基礎(chǔ)上按關(guān)鍵詞進(jìn)行聚類分析,生成聚類分析視圖如圖7 所示??梢?,形成的主要研究聚類有美德倫理(#0 virtue ethics)、心理健康(#1 mental health)、治理(#2 governance)、災(zāi)難性風(fēng)險(xiǎn)(#3 catastrophic risk)、機(jī)器道德(#4 machine morality)、社會(#5 society)、系統(tǒng)映射研究(#6 systematic mapping study)、放射學(xué)(#7 radiology)、社會影響(#8 social impacts)和設(shè)計(jì)倫理(#9 design ethics)等10 個(gè)研究聚類,其中不同結(jié)點(diǎn)之間連線的顏色表示不同的時(shí)間分區(qū)(參考圖像上方色條顏色)。如圖所示,過去十年的研究聚類從時(shí)間上大致可以劃分為三個(gè)階段。早期,機(jī)器道德聚類共被引現(xiàn)象較為活躍,說明人工智能倫理的重要根源在于機(jī)器倫理學(xué),從機(jī)器倫理研究開始轉(zhuǎn)向智能機(jī)器倫理問題研究,逐漸形成了一個(gè)新的倫理研究方向。此后,心理健康和美德等聚類的文獻(xiàn)共被引現(xiàn)象比較活躍,說明隨著人工智能倫理研究的深入,已經(jīng)超出了機(jī)器倫理的范疇,進(jìn)一步考慮人工智能對人類心智的模擬以及人類美德倫理在系統(tǒng)中的介入。在這一轉(zhuǎn)換過程中,文獻(xiàn)Wallach W(2009)和Anderson M(2011)等起到了銜接的關(guān)鍵結(jié)點(diǎn)作用。最近幾年,治理、災(zāi)難性風(fēng)險(xiǎn)、社會、系統(tǒng)映射研究、放射學(xué)、社會影響、設(shè)計(jì)倫理等聚類的文獻(xiàn)之間共被引現(xiàn)象比較明顯,說明人工智能倫理已經(jīng)引起了各行業(yè)領(lǐng)域的廣泛關(guān)注,而且各行業(yè)開始重視人工智能應(yīng)用可能帶來的風(fēng)險(xiǎn)和其他社會影響以及如何治理和設(shè)計(jì)實(shí)現(xiàn)。文獻(xiàn)Bryson J J(2010)、Armstrong S(2012)、Bakshy E(2015)和Cakmak M(2010)等起到了關(guān)鍵銜接結(jié)點(diǎn)作用。

        圖7 基于關(guān)鍵詞的聚類視圖

        圖8 聚類分析時(shí)間線視圖

        從聚類分析時(shí)間線視圖來看(圖8),美德倫理、心理健康、治理、災(zāi)難性風(fēng)險(xiǎn)、機(jī)器道德、社會和系統(tǒng)映射研究等聚類的文獻(xiàn)發(fā)生的共被引現(xiàn)象比較密集。這幾個(gè)聚類還集中了影響力比較大、比較關(guān)鍵的一些結(jié)點(diǎn),它們構(gòu)成了人工智能倫理研究的主要內(nèi)容、方法、技術(shù)和應(yīng)用等方面。機(jī)器道德和心理健康等聚類的文獻(xiàn)在早期共被引現(xiàn)象明顯,后有消退趨勢,說明它們在該研究領(lǐng)域起到了奠基的作用。最近興起的研究主題有治理、社會、放射學(xué)和設(shè)計(jì)倫理等研究聚類,說明隨著人工智能技術(shù)在各行業(yè)領(lǐng)域的廣泛應(yīng)用,其倫理問題日益受到關(guān)注,尤其是它可能產(chǎn)生的社會風(fēng)險(xiǎn)及如何規(guī)避這些風(fēng)險(xiǎn),將是未來需要重點(diǎn)關(guān)注的方面。

        3 研究發(fā)現(xiàn)

        近年來,人們越來越關(guān)注人工智能在各行業(yè)領(lǐng)域的應(yīng)用會給人類社會帶來何種影響,尤其是如何處理人工智能技術(shù)應(yīng)用可能帶來的新的倫理問題。本文使用CiteSapce軟件對國際上人工智能倫理研究數(shù)據(jù)進(jìn)行文獻(xiàn)共引和共被引分析,挖掘出這一研究領(lǐng)域的重要文獻(xiàn)結(jié)點(diǎn),同時(shí)繪制國際人工智能倫理研究知識圖譜,揭示其研究的起源、發(fā)展脈絡(luò)和未來趨勢。

        3.1 人工智能倫理研究起源

        關(guān)于人工智能倫理的考慮最開始出自早期的科幻小說和電影中。阿西莫夫在上世紀(jì)中葉提出的機(jī)器人三大法則,就已經(jīng)將人工智能的倫理道德作為一個(gè)重要的問題進(jìn)行考慮。當(dāng)然這些文學(xué)或影視作品只是對未來社會的一種預(yù)想,隨著人工智能的進(jìn)步,關(guān)于倫理方面的考慮已經(jīng)不能再停留于假想階段,而是日益與我們的社會生活密切相關(guān)。大量的科學(xué)家、哲學(xué)家和商界領(lǐng)袖都對人工智能可能對社會產(chǎn)生的重要影響和潛在危險(xiǎn)表示了擔(dān)憂,也開始倡導(dǎo)在這些人工智能產(chǎn)品進(jìn)入我們生活之前,需要先把倫理這一永恒的問題考慮清楚。一大批學(xué)者在機(jī)器倫理、設(shè)計(jì)倫理、信息技術(shù)倫理和計(jì)算哲學(xué)等基礎(chǔ)上,開始探討人工智能倫理的本質(zhì)以及需要解決的一些問題,形成了一個(gè)新的倫理學(xué)研究方向。這方面的研究對于我們未來進(jìn)一步開發(fā)和應(yīng)用更復(fù)雜的人工智能系統(tǒng),并降低它可能帶來的負(fù)面影響是極其重要的。

        3.2 人工智能倫理研究發(fā)展脈絡(luò)

        本世紀(jì)以來,由于人工智能技術(shù)在各行業(yè)領(lǐng)域的應(yīng)用,關(guān)于人工智能的倫理問題已經(jīng)不再是一個(gè)虛幻的想象,而是我們切實(shí)面臨的一個(gè)亟待解決的現(xiàn)實(shí)問題。最初,人工智能和機(jī)器人技術(shù)在工程制造領(lǐng)域得到應(yīng)用。它們主要是由人類指導(dǎo)員預(yù)編程,然后按照程序員的意圖輔助人類進(jìn)行工作。這種早期的人工智能雖然具備了一些自動化特征,但并不是一種獨(dú)立自主的存在,因此對它們的倫理考慮,主要還是在機(jī)器倫理的范疇之內(nèi),比如用機(jī)器代替人類工作是否改變了人與機(jī)器之間的關(guān)系,這可能給各行業(yè)內(nèi)的雇傭關(guān)系以及整個(gè)人類社會帶來什么樣的影響。近年來,隨著人工智能系統(tǒng)越來越復(fù)雜的自主控制,這些系統(tǒng)本身也應(yīng)該意識到其行為的倫理含義。一些學(xué)者認(rèn)為在復(fù)雜智能系統(tǒng)投入使用之前,需要將其倫理問題考慮清楚,即應(yīng)該在人工智能系統(tǒng)中引入倫理原則和規(guī)則,構(gòu)建人工智能道德代理,讓它們能夠根據(jù)對外在環(huán)境信息的判斷,作出類似于人類的倫理決策。因此,人們越來越認(rèn)識到人工智能的自主決策不能僅局限于其最初設(shè)計(jì)的工作服務(wù)目標(biāo),還需要能夠?qū)ψ晕业臎Q策、行為和后果進(jìn)行判斷,使自己的行為符合人類利益的最大化。但這一過程又引發(fā)出一些新的倫理問題。人工智能能夠根據(jù)預(yù)先設(shè)計(jì)的智能道德代理進(jìn)行倫理決策,但它的智能道德代理的規(guī)則與算法是由其設(shè)計(jì)者、程序員定制的,而不是自主建構(gòu)的,在各方利益沖突的情況下它應(yīng)該優(yōu)先服務(wù)于誰的利益,設(shè)計(jì)者、客戶還是對整個(gè)人類利益的綜合考慮?如果對這些問題不考慮清楚就直接將人工智能技術(shù)投入應(yīng)用,可能帶來嚴(yán)重的社會問題。

        3.3 人工智能倫理研究未來發(fā)展趨勢

        從國際上人工智能倫理研究的知識圖譜來看,關(guān)于人工智能倫理的研究才剛起步??梢灶A(yù)見的是,人工智能將在未來的一段時(shí)間內(nèi)在各行業(yè)領(lǐng)域得到更廣泛更深入的應(yīng)用,而且人工智能系統(tǒng)本身也將越來越個(gè)性化、自主化,因此將引發(fā)出更多更加復(fù)雜的倫理問題。雖然,目前關(guān)于人工智能倫理在哲學(xué)思想、設(shè)計(jì)和智能道德代理方面有過一些思考,但同時(shí)還有一些非常重要的問題需要更深入的探討。首先,人工智能應(yīng)用可能引發(fā)的高度智能化工作和相應(yīng)的技術(shù)風(fēng)險(xiǎn)等社會問題,會隨著它的廣泛應(yīng)用而逐漸凸顯出來。比如由于工作被人工智能取代而引發(fā)的失業(yè)和人類勞動價(jià)值喪失,人類的勞動技能及其相關(guān)的知識、體驗(yàn)、推理和決策等方面能力的降低,是否會導(dǎo)致人類的退步,這是需要我們進(jìn)行哲學(xué)反思的一個(gè)重要的問題。其次,隨著人工智能的自主化程度越來越高,我們需要思考人工智能道德代理的設(shè)計(jì)與實(shí)現(xiàn)問題,比如應(yīng)該給人工智能賦予什么樣的倫理準(zhǔn)則,如何讓其獲得類似于人類的倫理推理和倫理決策能力。這涉及形式邏輯、數(shù)學(xué)推理、規(guī)則庫和機(jī)器學(xué)習(xí)等方法在倫理判斷和倫理決策中的應(yīng)用。最后,人工智能目前還沒有自我意識,因此它的行為與決策所遵循的倫理規(guī)則仍然是人類賦予的,是為人類利益服務(wù)的。但如果有一天人工智能具備了自我意識,必然也會滋生人類的欲望和弱點(diǎn)。當(dāng)它們所遵循的倫理規(guī)則不再是為人類利益服務(wù)而是為自身利益服務(wù)時(shí),人類將如何避免和應(yīng)對此類事情的發(fā)生,也是需要我們認(rèn)真考慮的一個(gè)重要問題。而另一方面,人工智能作為道德行為者的同時(shí),也將扮演道德容受者的角色,人類應(yīng)該如何對待人工智能系統(tǒng)也是一個(gè)需要細(xì)致考慮的問題。

        (來稿時(shí)間:2019 年9 月)

        猜你喜歡
        人工智能人類研究
        FMS與YBT相關(guān)性的實(shí)證研究
        人類能否一覺到未來?
        遼代千人邑研究述論
        人類第一殺手
        視錯(cuò)覺在平面設(shè)計(jì)中的應(yīng)用與研究
        科技傳播(2019年22期)2020-01-14 03:06:54
        1100億個(gè)人類的清明
        EMA伺服控制系統(tǒng)研究
        2019:人工智能
        商界(2019年12期)2019-01-03 06:59:05
        人工智能與就業(yè)
        數(shù)讀人工智能
        小康(2017年16期)2017-06-07 09:00:59
        日本视频一中文有码中文| 国产一区二区精品网站看黄| 色婷婷丁香综合激情| 国产精品后入内射日本在线观看| 亚洲av成本人无码网站| 精品国产AⅤ一区二区三区4区 | 国产伦一区二区三区久久| 女同同成片av免费观看| 亚洲粉嫩视频在线观看| 视频女同久久久一区二区| 扒开美女内裤舔出白水| av一区二区在线网站| 一本久道视频无线视频试看 | 色二av手机版在线| 美腿丝袜一区在线观看| 成人av资源在线观看| 99久久99久久久精品蜜桃| 欧美老肥婆牲交videos| 久久香蕉国产线看观看精品yw | 亚洲精品无码久久毛片| 亚洲精品一区二区三区播放 | av毛片一区二区少妇颜射| 久久精品国产福利亚洲av| 风流熟女一区二区三区| 日日碰日日摸日日澡视频播放| 丰满少妇被粗大猛烈进人高清| 中文字幕乱码熟女人妻水蜜桃| 国产超碰人人模人人爽人人喊| 在线精品免费观看| 骚片av蜜桃精品一区| 亚洲女同同性少妇熟女| 亚洲天堂男人的av天堂| 国产精品久久免费中文字幕| 国产乱妇无码大片在线观看| 日本老熟妇毛茸茸| 成人欧美一区二区三区白人| 黑人免费一区二区三区| 日本免费精品一区二区| 亚洲av中文无码乱人伦在线视色| 国产探花在线精品一区二区| 日韩精品无码一区二区三区免费|