李 娜，陳 君

（廣州中醫(yī)藥大學(xué)馬克思主義學(xué)院，廣東廣州 510006）

1 研究背景

負(fù)責(zé)任創(chuàng)新（responsible innovation），又稱負(fù)責(zé)任的研究和創(chuàng)新（responsible research and innovation,RRI），是歐盟“地平線2020”科研規(guī)劃的重要內(nèi)容，主要強(qiáng)調(diào)科學(xué)與社會(huì)之間的合作以及加強(qiáng)公眾對(duì)科學(xué)的信心，同時(shí)也是一種道德觀念、價(jià)值取向和實(shí)踐倫理經(jīng)驗(yàn)，更是一種帶有倫理意義的創(chuàng)新理念［1］?！柏?fù)責(zé)任創(chuàng)新”一詞首次出現(xiàn)在歐盟2002年的“第六框架計(jì)劃”（The Sixth Framework）中，此后各種機(jī)構(gòu)和活動(dòng)之間的合作開(kāi)始應(yīng)用“科學(xué)和技術(shù)的負(fù)責(zé)任研究和應(yīng)用”等相關(guān)詞語(yǔ)（條），促進(jìn)了全球背景下的對(duì)話和科學(xué)技術(shù)倫理研究?！柏?fù)責(zé)任的研究和創(chuàng)新”一詞于2013年首次應(yīng)用于歐盟“第七框架計(jì)劃”（法規(guī)，EU No.1291/2013），近年來(lái)在學(xué)術(shù)出版物和歐洲層面的項(xiàng)目中進(jìn)行了討論、研究和開(kāi)發(fā)，逐步也在中國(guó)工程項(xiàng)目中得到應(yīng)用。

目前，負(fù)責(zé)任創(chuàng)新理念的實(shí)際應(yīng)用已經(jīng)得到了社會(huì)的認(rèn)可。美國(guó)在2008年調(diào)整納米技術(shù)科研基金的使用中就融入了負(fù)責(zé)任創(chuàng)新的歐文四維框架，由此美國(guó)學(xué)界將負(fù)責(zé)任創(chuàng)新稱為人類共同追求的理想；荷蘭在2008 年鹿特丹港建設(shè)的馬斯弗拉克特二期項(xiàng)目（MV2），從立項(xiàng)伊始就貫穿著負(fù)責(zé)任創(chuàng)新理念；英國(guó)在2010 年提出的平流層粒子注入氣候工程項(xiàng)目（SPICE項(xiàng)目），經(jīng)協(xié)商和反思意識(shí)到此項(xiàng)目存在一定風(fēng)險(xiǎn)，故最終取消該項(xiàng)目。以上這些案例都為負(fù)責(zé)任創(chuàng)新的實(shí)際應(yīng)用提供了重要啟示和有益經(jīng)驗(yàn)。

人工智能（artificial intelligence,AI）自1956年在達(dá)特茅斯會(huì)議上提出至今，實(shí)現(xiàn)了前所未有的突破和發(fā)展。隨著AI技術(shù)不斷推陳出新以及快速更迭，無(wú)人駕駛技術(shù)、指紋識(shí)別、人臉識(shí)別、智能機(jī)器人、遠(yuǎn)程醫(yī)療等技術(shù)已逐步應(yīng)用到現(xiàn)實(shí)生活之中，相關(guān)一系列技術(shù)倫理問(wèn)題也隨之突顯，但因AI技術(shù)發(fā)展快速，傳統(tǒng)的倫理規(guī)范道德制約和現(xiàn)有的法律法規(guī)已明顯不足以應(yīng)對(duì)當(dāng)今復(fù)雜的社會(huì)發(fā)展局面，新興科技的創(chuàng)新治理和發(fā)展規(guī)范成為當(dāng)代世界各國(guó)面臨的主要挑戰(zhàn)和困境，也是國(guó)家創(chuàng)新與發(fā)展戰(zhàn)略的重要組成部分。在中國(guó)，作為新興科技代表的人工智能，面臨著具有中國(guó)特色社會(huì)主義新時(shí)代特征的AI技術(shù)創(chuàng)新及倫理創(chuàng)新的重要挑戰(zhàn)，由此AI倫理問(wèn)題亟需得到解決。

歐盟委員會(huì)強(qiáng)調(diào)RRI的6個(gè)關(guān)鍵點(diǎn)——公眾參與、道德、科學(xué)教育、性別平等、開(kāi)放獲取和治理，同時(shí)負(fù)責(zé)任創(chuàng)新本身所堅(jiān)持的科學(xué)、綠色、節(jié)能、環(huán)保等理念，正好符合中國(guó)新時(shí)代的發(fā)展理念和路線?；谪?fù)責(zé)任創(chuàng)新本身的理念和實(shí)踐經(jīng)驗(yàn)，本文旨在運(yùn)用負(fù)責(zé)任創(chuàng)新理念及其框架解決AI技術(shù)的倫理問(wèn)題，以從科技研發(fā)源頭避免倫理問(wèn)題的產(chǎn)生，并在科技創(chuàng)新實(shí)際應(yīng)用中反思和及時(shí)改正出現(xiàn)的倫理問(wèn)題，促使科學(xué)技術(shù)創(chuàng)新更好地造福全人類和全社會(huì)。

2 RRI理念的背景及內(nèi)涵

“負(fù)責(zé)任創(chuàng)新”的概念首先在歐洲被提出，主要是基于預(yù)期治理（anticipatory governance）和美國(guó)的ELSI兩種概念。預(yù)期治理主要指在一個(gè)受限制的研究領(lǐng)域，對(duì)情景進(jìn)行預(yù)期的管理；美國(guó)的ELSI主要指新興科學(xué)和技術(shù)的倫理、法律和社會(huì)方面。

2.1 RRI理念的背景

RRI的出現(xiàn)，根源于“預(yù)期治理”概念。預(yù)期治理的歷史可以追溯到2002年，當(dāng)時(shí)Guston等［2］學(xué)者使用了這一術(shù)語(yǔ)，但沒(méi)有明確提及RRI。預(yù)期治理主要是指在一個(gè)受限制的研究領(lǐng)域，包括創(chuàng)建未來(lái)可能出現(xiàn)的不同方式的情景，對(duì)其進(jìn)行預(yù)期的管理，這或許有助于對(duì)未來(lái)可能出現(xiàn)的威脅作出最小化的決策并提供可行的替代方案。

RRI的出現(xiàn)，還值得一提的概念是從美國(guó)出現(xiàn)的ELSA概念，它代表著新興科學(xué)和技術(shù)的倫理、法律和社會(huì)方面。Zwart等［3］認(rèn)為ELSA研究與RRI有著驚人的相似之處，旨在為技術(shù)發(fā)展計(jì)劃提供社會(huì)和倫理補(bǔ)充，這些補(bǔ)充最早可追溯到1994年的第四屆歐盟框架計(jì)劃。同時(shí)，ELSA研究承認(rèn)科學(xué)專業(yè)知識(shí)不能被視為開(kāi)發(fā)和引進(jìn)新技術(shù)的唯一基礎(chǔ)，相反，社會(huì)應(yīng)該盡早參與。RRI定義最初的出現(xiàn)，并不是由專門的相關(guān)研究領(lǐng)域的學(xué)者提出，而是由科學(xué)政策制定者和歐洲委員會(huì)中大多的各種基金機(jī)構(gòu)提出。因此，關(guān)于RRI的定義不僅包括學(xué)術(shù)定義，還包括行政定義。

2.2 RRI理念的內(nèi)涵

目前，關(guān)于負(fù)責(zé)任創(chuàng)新的具體定義學(xué)界還尚未達(dá)成共識(shí)。根據(jù)Burget等［1］的觀點(diǎn)，將負(fù)責(zé)任創(chuàng)新的定義主要分為兩種：行政定義和學(xué)術(shù)定義，行政定義主要是基于負(fù)責(zé)任創(chuàng)新概念在政策、方針、機(jī)構(gòu)等方面的定義，學(xué)術(shù)定義主要是學(xué)術(shù)界對(duì)其概念的定義。

2.2.1 行政定義

2011年在《關(guān)于負(fù)責(zé)任研究和創(chuàng)新的報(bào)告》中，Sutcliffe［4］認(rèn)為RRI有主要以下特點(diǎn)：（1）刻意關(guān)注研究和創(chuàng)新產(chǎn)品，以實(shí)現(xiàn)社會(huì)或環(huán)境效益；（2）社會(huì)始終如一地參與創(chuàng)新過(guò)程的開(kāi)始和結(jié)束，并且公眾和非政府組織也關(guān)注公共利益；（3）評(píng)估并有效地優(yōu)先考慮現(xiàn)在和未來(lái)的社會(huì)、道德和環(huán)境影響、風(fēng)險(xiǎn)和機(jī)遇以及技術(shù)和商業(yè)；（4）監(jiān)督機(jī)制能夠更好地預(yù)測(cè)和管理各種問(wèn)題和機(jī)遇，并且能夠適應(yīng)和快速響應(yīng)不斷變化的知識(shí)和情況；（5）開(kāi)放性和透明度是研究和創(chuàng)新過(guò)程中不可或缺的組成部分。除此之外，Sutcliffe［4］還提供了研究和創(chuàng)新的定義：研究是指一種系統(tǒng)調(diào)查方式，以便確定事實(shí)并得出新的結(jié)論；創(chuàng)新是指一種優(yōu)越的過(guò)程或產(chǎn)品，也可指發(fā)明的有效商業(yè)結(jié)果。Schomberg［5］認(rèn)為，負(fù)責(zé)任的研究和創(chuàng)新是指社會(huì)行動(dòng)者和創(chuàng)新者彼此負(fù)責(zé)的一種透明和交互的過(guò)程，為了在我們的社會(huì)中適當(dāng)?shù)厍度肟茖W(xué)和技術(shù)進(jìn)步，這個(gè)過(guò)程同時(shí)會(huì)考慮到創(chuàng)新過(guò)程及其可銷售產(chǎn)品的（道德）可接受性、可持續(xù)性和社會(huì)需求。Schomberg［6］還將RRI定義為設(shè)計(jì)策略，該策略推動(dòng)創(chuàng)新并為實(shí)現(xiàn)社會(huì)期望目標(biāo)提供一些引導(dǎo)。在Schomberg的第二個(gè)定義中，RRI不再僅僅是一個(gè)過(guò)程，而是一種設(shè)計(jì)策略，也就是說(shuō)，RRI成為一種能夠塑造一個(gè)過(guò)程的策略。2013年，歐洲委員會(huì)［7］在其發(fā)布的政策文件《加強(qiáng)負(fù)責(zé)任研究和創(chuàng)新的選擇》中，將負(fù)責(zé)任研究和創(chuàng)新定義為：負(fù)責(zé)任的研究和創(chuàng)新是指在研究和創(chuàng)新過(guò)程中采用的綜合方法，在早期參與研究和創(chuàng)新過(guò)程的所有利益相關(guān)者（1）獲得關(guān)于他們的行動(dòng)結(jié)果的后果以及對(duì)他們開(kāi)放選擇范圍的相關(guān)知識(shí)；（2）在社會(huì)需求和道德價(jià)值方面有效地評(píng)估結(jié)果和選擇；（3）將（1）和（2）的因素作為設(shè)計(jì)的功能要求和新研究、產(chǎn)品和服務(wù)的發(fā)展。類似于Schomberg［5-6］的定義，RRI并不僅僅被定義為一個(gè)過(guò)程，而是指一種為研究和創(chuàng)新提供某種方向的方法。

行政定義的特點(diǎn)是包含各種要素，例如預(yù)期、預(yù)測(cè)問(wèn)題和確定替代方案及反映價(jià)值觀等等，也有學(xué)者強(qiáng)調(diào)評(píng)估、社會(huì)期望和評(píng)估社會(huì)、道德及環(huán)境影響等等，并且確定其優(yōu)先級(jí)，同時(shí)考慮技術(shù)影響、風(fēng)險(xiǎn)和機(jī)遇、預(yù)測(cè)和管理問(wèn)題，快速響應(yīng)不斷變化的環(huán)境和知識(shí)。本文采納的是Schomberg［5］的第一種RRI定義，即在面對(duì)和解決AI倫理問(wèn)題的過(guò)程中，需要AI技術(shù)研發(fā)人員和社會(huì)行動(dòng)者的共同參與，彼此透明溝通、相互協(xié)商，適當(dāng)嵌入科學(xué)和技術(shù)進(jìn)步理念和觀點(diǎn)，這個(gè)過(guò)程同時(shí)會(huì)考慮到AI創(chuàng)新過(guò)程及AI產(chǎn)品的（道德）可接受性、可持續(xù)性和社會(huì)需求。

2.2.2 學(xué)術(shù)定義

在學(xué)術(shù)界，大多數(shù)學(xué)者基本肯定了Schomberg［5-6］對(duì)RRI的定義，強(qiáng)調(diào)對(duì)潛在影響和社會(huì)期望的預(yù)期，并讓利益相關(guān)者和公眾參與研究和創(chuàng)新的過(guò)程。但部分學(xué)者也有不同見(jiàn)解，如Roco等［8］列出了負(fù)責(zé)任創(chuàng)新的以下4個(gè)特征：（1）跨部門和學(xué)科的變革，（2）考慮公平獲取、健康、安全和環(huán)境的問(wèn)題，（3）政府機(jī)構(gòu)和其他利益相關(guān)者的參與，（4）預(yù)測(cè)和適應(yīng)的長(zhǎng)期措施；Stilgoe等［9］進(jìn)一步闡述了負(fù)責(zé)任創(chuàng)新的定義：負(fù)責(zé)任的創(chuàng)新意味著通過(guò)對(duì)當(dāng)前科學(xué)和創(chuàng)新的集體管理來(lái)關(guān)注未來(lái)；Stahl［10］將RRI視為一種元責(zé)任，將RRI定義為是一個(gè)更高層次的責(zé)任或元責(zé)任，旨在塑造、維護(hù)、發(fā)展、協(xié)調(diào)與調(diào)整現(xiàn)有的、新穎的研究和創(chuàng)新相關(guān)的過(guò)程、參與者及責(zé)任，以確保理想和可接受的研究成果；劉戰(zhàn)雄［11］認(rèn)為RRI是創(chuàng)新共同體以尊重和維護(hù)人權(quán)、增進(jìn)社會(huì)福祉為價(jià)值歸旨，以積極承擔(dān)全責(zé)任為方法特征的創(chuàng)新認(rèn)識(shí)和創(chuàng)新實(shí)踐；Spruit等［12］將RRI描述為通過(guò)評(píng)估創(chuàng)新過(guò)程結(jié)果的可取性，例如根據(jù)責(zé)任法評(píng)估法院的有害產(chǎn)品結(jié)果，評(píng)估創(chuàng)新過(guò)程的質(zhì)量；晏萍等［13］認(rèn)為RRI是繼可持續(xù)發(fā)展之后歐美國(guó)家提出的新的發(fā)展理念，其主要內(nèi)容是將企業(yè)的社會(huì)責(zé)任與技術(shù)創(chuàng)新實(shí)踐密切結(jié)合，從倫理角度有效評(píng)估和影響技術(shù)創(chuàng)新的各個(gè)環(huán)節(jié)，以保證技術(shù)創(chuàng)新成果的可持續(xù)性和社會(huì)可接受性。

關(guān)于RRI的內(nèi)涵問(wèn)題一直是學(xué)術(shù)界熱烈討論的話題，但到目前為止，國(guó)內(nèi)外對(duì)其具體概念、定義、內(nèi)涵和外延還尚未達(dá)成統(tǒng)一共識(shí)。研究人員將RRI主要視為一個(gè)包括利益相關(guān)者、預(yù)測(cè)、反思、協(xié)商和反饋社會(huì)需求和價(jià)值的過(guò)程；除此之外重要的是，關(guān)于學(xué)術(shù)定義，研究結(jié)果以及作為RRI終點(diǎn)的創(chuàng)新過(guò)程的結(jié)果一直被強(qiáng)調(diào)，并且將個(gè)人責(zé)任作為審議過(guò)程的一部分也被考慮在內(nèi)。“負(fù)責(zé)任創(chuàng)新”這一概念是在21世紀(jì)中后期被一些學(xué)者引介到中國(guó)，國(guó)內(nèi)學(xué)者傾向于Schomberg［5-6］對(duì)RRI定義的比較多。

2.3 RRI的理論框架

2013年，英國(guó)經(jīng)濟(jì)學(xué)家Owen等［14］將負(fù)責(zé)任創(chuàng)新主要通過(guò)“四維框架”將倫理因素考量納入整體考量的理論和實(shí)踐來(lái)看，即預(yù)期（anticipation）、反 思（reflexivity）、 協(xié) 商（inclusion） 和 反 應(yīng)（responsiveness）?！八木S框架”以階段性方式參與作為整體的負(fù)責(zé)任創(chuàng)新過(guò)程，得到了學(xué)術(shù)界的普遍認(rèn)可。2017 年，Burget等［1］在總結(jié)了 Owen 等［14］“四維框架”的觀點(diǎn)基礎(chǔ)上，增加了兩個(gè)新興的概念：“可持續(xù)性”和“關(guān)懷”?？沙掷m(xù)性是指一種可以長(zhǎng)久維持的過(guò)程或狀態(tài)，通常包括生態(tài)可持續(xù)、經(jīng)濟(jì)可持續(xù)和社會(huì)可持續(xù)3個(gè)組成部分；關(guān)懷是屬于公共領(lǐng)域的維度，指公民自己負(fù)責(zé)代表他們執(zhí)行的決策和行動(dòng)。在此基礎(chǔ)上，本研究加入“無(wú)私利性”這一理論框架。無(wú)私利性主要是指科學(xué)研究人員不應(yīng)該以科學(xué)活動(dòng)或者科技創(chuàng)新的過(guò)程及結(jié)果來(lái)謀取私利。綜上，構(gòu)成了RRI研究及應(yīng)用的7種理論框架，即：預(yù)期、反思、協(xié)商、反應(yīng)、可持續(xù)性、關(guān)懷和無(wú)私利性。

3 AI定義及AI倫理問(wèn)題

如今，AI已經(jīng)從實(shí)驗(yàn)領(lǐng)域走向?qū)嵺`領(lǐng)域，逐漸發(fā)展成為當(dāng)前全球最炙手可熱的技術(shù)之一。隨著2016年和2017年由谷歌公司研發(fā)的AI圍棋軟件“阿爾法狗”分別接連戰(zhàn)勝圍棋大師李世石和柯潔之后，AI的發(fā)展開(kāi)始快速走向公眾的視野，促使公眾開(kāi)始思考AI到底是什么及其所帶來(lái)的倫理問(wèn)題。

3.1 AI定義

人工智能,于1956年在美國(guó)達(dá)特茅斯人工智能夏季研討會(huì)的提案上首次被公開(kāi)提出，該提案由McCarthy等［15］科學(xué)家共同發(fā)起，旨在創(chuàng)造一種機(jī)器，使其學(xué)會(huì)使用語(yǔ)言、模仿人類行為和形成抽象的概念，以此來(lái)解決人類專有的遇到的各種問(wèn)題并進(jìn)行自我完善。其后，人工智能逐漸發(fā)展成為一種理念、一類技術(shù)和一門學(xué)科，既是理論概念又是實(shí)踐方式。廣義上，AI是研究、開(kāi)發(fā)用于模擬、延伸和擴(kuò)展人的智能的理論、方法、技術(shù)及應(yīng)用系統(tǒng)的一門技術(shù)科學(xué)，是計(jì)算機(jī)科學(xué)的一個(gè)分支，也是計(jì)算機(jī)科學(xué)技術(shù)的前沿領(lǐng)域。AI是對(duì)人的意識(shí)、思維的信息過(guò)程的模擬。AI不是人類智能，但能像人那樣思考、更有可能超過(guò)人類智能。狹義上，AI是計(jì)算機(jī)科學(xué)或智能科學(xué)中涉及研究、設(shè)計(jì)和應(yīng)用智能機(jī)器的一個(gè)分支，同時(shí)也是一門涉及計(jì)算機(jī)科學(xué)、信息學(xué)、神經(jīng)心理學(xué)、哲學(xué)、倫理學(xué)、語(yǔ)言學(xué)等學(xué)科，通過(guò)學(xué)科融合發(fā)展起來(lái)的交叉性學(xué)科。關(guān)于AI的定義，至今還沒(méi)有一個(gè)統(tǒng)一的表述，總體來(lái)看，對(duì)AI定義的不同見(jiàn)解都從一定程度上影射出AI的出現(xiàn)對(duì)于改善人類生活方式具有非凡的意義。

3.2 AI倫理問(wèn)題

工業(yè)革命前后，科技都以一種正面的力量存在，它被哲學(xué)家高度贊譽(yù)，被稱之為一種美德、一種人類社會(huì)進(jìn)步的標(biāo)志，但是隨著兩次世界大戰(zhàn)的出現(xiàn)，科技開(kāi)始呈現(xiàn)出負(fù)面的影響，催生了包括核武器在內(nèi)的威脅人類命運(yùn)的成果。即使在當(dāng)前社會(huì)AI技術(shù)得到不斷創(chuàng)新和應(yīng)用，人類和社會(huì)在享受技術(shù)創(chuàng)新所帶來(lái)的便利的同時(shí)，也不得不面對(duì)技術(shù)創(chuàng)新所帶來(lái)的倫理問(wèn)題。主要概括為以下3個(gè)方面：

（1）安全問(wèn)題。AI安全問(wèn)題主要是指AI技術(shù)在應(yīng)用過(guò)程中出現(xiàn)，危及到人類安全及環(huán)境破壞等造成不良后果的問(wèn)題。隨著自動(dòng)駕駛及智能機(jī)器人等AI技術(shù)的發(fā)展，出現(xiàn)了諸如自動(dòng)駕駛成為武器，人類應(yīng)該如何應(yīng)對(duì)這一類問(wèn)題。2018年3月20日，美國(guó)亞利桑那州坦佩市一輛處于自動(dòng)駕駛模式的Uber自動(dòng)駕駛汽車在進(jìn)行路況測(cè)試時(shí)撞死一位過(guò)路的行人，這次交通事故成為全球首起自動(dòng)駕駛致死案例，由此，AI技術(shù)的安全問(wèn)題引起了社會(huì)廣泛的關(guān)注和討論。2019年3月10日，埃塞俄比亞航空公司一架型號(hào)為波音737MAX8的客機(jī)在起飛6分鐘后進(jìn)入無(wú)人駕駛的階段，發(fā)生墜毀導(dǎo)致機(jī)上全部人員遇難，這也是繼獅航空難事件之后該型號(hào)客機(jī)第二次發(fā)生安全事故，因此，相關(guān)專家及公眾把此次有關(guān)安全問(wèn)題的矛頭指向AI自動(dòng)駕駛技術(shù)，其安全隱患無(wú)法使公眾放心。自動(dòng)駕駛技術(shù)的研發(fā)本著方便出行，然而對(duì)創(chuàng)新的反思不足，給人類帶來(lái)便利的同時(shí)也帶來(lái)了災(zāi)難。

（2）隱私問(wèn)題。AI隱私問(wèn)題主要是指AI技術(shù)在應(yīng)用過(guò)程中出現(xiàn)的私人信息或者大數(shù)據(jù)泄露等問(wèn)題。隨著大數(shù)據(jù)技術(shù)、人臉識(shí)別技術(shù)、指紋識(shí)別技術(shù)、聲控識(shí)別技術(shù)及云計(jì)算技術(shù)等技術(shù)的興起，出現(xiàn)了諸如公眾個(gè)人信息能否在應(yīng)用中得到保障這一類問(wèn)題。發(fā)展AI需大量數(shù)據(jù)的積累，利用大量數(shù)據(jù)訓(xùn)練算法可提高AI解決問(wèn)題的能力，但這也威脅到個(gè)人隱私，成為開(kāi)發(fā)數(shù)據(jù)資源價(jià)值過(guò)程中最突出的倫理挑戰(zhàn)。2017年9月，美國(guó)三大個(gè)人信用評(píng)估機(jī)構(gòu)之一的Equifax被爆出遭遇黑客攻擊，約有1.42億用戶的個(gè)人重要信息面臨泄漏。2018年11月，美國(guó)匯豐銀行通知客戶發(fā)生了數(shù)據(jù)泄露，攻擊者訪問(wèn)了該金融機(jī)構(gòu)的在線賬戶，泄露信息包括用戶的詳細(xì)個(gè)人信息、賬戶信息和交易記錄。由此可見(jiàn)，大數(shù)據(jù)算法的研發(fā)本是方便數(shù)據(jù)管理和儲(chǔ)存的，然而因缺乏預(yù)測(cè)可能會(huì)出現(xiàn)的后果，造成應(yīng)用過(guò)程中的數(shù)據(jù)泄露。又如人臉識(shí)別技術(shù)的研發(fā)，本是為方便刷臉解鎖及刷臉支付等私密和快捷的體驗(yàn)，但如果不充分考慮和保證隱私保護(hù)問(wèn)題而被不法分子肆意濫用，將帶來(lái)一系列不可預(yù)期的后果。

（3）后果問(wèn)題。AI后果問(wèn)題主要是指AI在研發(fā)初期、應(yīng)用過(guò)程以及應(yīng)用之后可能會(huì)帶來(lái)的一些負(fù)面影響或者是具有爭(zhēng)議的復(fù)雜后果的問(wèn)題。隨著智能機(jī)器人、AI金融及AI醫(yī)療等技術(shù)的不斷發(fā)展，技術(shù)創(chuàng)新既會(huì)對(duì)人類主體地位帶來(lái)威脅，又會(huì)出現(xiàn)技術(shù)倫理道德等問(wèn)題，出現(xiàn)了諸如基因技術(shù)或生物工程技術(shù)是否會(huì)導(dǎo)致基因重組、對(duì)環(huán)境造成破壞之后誰(shuí)來(lái)承擔(dān)責(zé)任等問(wèn)題。2014年，由英國(guó)皇家學(xué)會(huì)舉行的“2014圖靈測(cè)試”大會(huì)上，一個(gè)名為尤金·古斯特曼（Eugene Goostman）的聊天程序上演了一場(chǎng)精彩的與人類對(duì)話，首次通過(guò)了圖靈測(cè)試，讓人誤以為尤金是個(gè)13歲的孩子，因此讓人不得不重新思考AI是否有一天會(huì)超越人類思維、是否應(yīng)該制止AI的發(fā)展。醫(yī)療機(jī)器人在降低醫(yī)療成本的同時(shí)也帶來(lái)了責(zé)任問(wèn)題，如手術(shù)機(jī)器人在提高手術(shù)成功率方面表現(xiàn)優(yōu)異，但安全風(fēng)險(xiǎn)一樣存在，如果機(jī)器人在手術(shù)中發(fā)生系統(tǒng)故障，將直接危及患者的健康甚至生命安全，此類醫(yī)療事故存在責(zé)任認(rèn)定的困難。因此，在技術(shù)研發(fā)初期就應(yīng)該充分預(yù)測(cè)其可能帶來(lái)的后果問(wèn)題，以免陷入倫理困境。

以上幾種倫理問(wèn)題均指向AI技術(shù)創(chuàng)新給人類和社會(huì)所帶來(lái)的一系列影響，同時(shí)，也促使人們開(kāi)始思考到底什么樣的AI才是可行、可應(yīng)用的，AI技術(shù)創(chuàng)新的每個(gè)階段需要結(jié)合什么樣的責(zé)任才可以更安全，因此，把RRI框架的各個(gè)方面和AI技術(shù)研發(fā)、創(chuàng)新和成果的每個(gè)階段結(jié)合在一起，可以完善AI技術(shù)的理論和應(yīng)用的實(shí)踐性。

4 基于RRI框架的AI倫理問(wèn)題分析

基于已有的6種RRI框架，筆者通過(guò)學(xué)習(xí)科學(xué)的社會(huì)規(guī)范認(rèn)為，無(wú)私利性是從科研人員利益角度出發(fā)進(jìn)行分析，故新增無(wú)私利性框架。無(wú)私利性作為RRI框架，可以大大減少因科研人員和科研機(jī)構(gòu)追逐利益為目標(biāo)而產(chǎn)生的AI倫理問(wèn)題?？蒲腥藛T是科技創(chuàng)新的直接利益相關(guān)者，如果在科技研發(fā)之初就忽視利益問(wèn)題而重視科技產(chǎn)品的價(jià)值和品質(zhì)，那么將大大有益于科技創(chuàng)新的發(fā)展。

4.1 AI技術(shù)研發(fā)之處嵌入預(yù)期維度

預(yù)期旨在展望研究和創(chuàng)新的未來(lái)，通過(guò)對(duì)當(dāng)前狀態(tài)的分析展望未來(lái)。預(yù)期促使研究人員和組織機(jī)構(gòu)關(guān)心“如果……會(huì)怎樣？”的問(wèn)題［16］，還要考慮偶然事件、已知事物、可能性、合理性和可行性。預(yù)期涉及提高復(fù)原力的系統(tǒng)思考，同時(shí)揭示創(chuàng)新的新機(jī)會(huì)和為社會(huì)穩(wěn)健風(fēng)險(xiǎn)研究制定議程。負(fù)責(zé)任創(chuàng)新把關(guān)注的重點(diǎn)從風(fēng)險(xiǎn)轉(zhuǎn)移到創(chuàng)新本身，從對(duì)下游環(huán)節(jié)( 后果) 的關(guān)注轉(zhuǎn)移到對(duì)上游環(huán)節(jié)( 創(chuàng)新) 的關(guān)注，可以避免基于風(fēng)險(xiǎn)的危害評(píng)估不能提供關(guān)于未來(lái)后果的早期預(yù)警的弊端［17］。因此，預(yù)期維度主要指負(fù)責(zé)任創(chuàng)新主體基于現(xiàn)有條件，對(duì)未來(lái)可能出現(xiàn)的科技創(chuàng)新和科技研究對(duì)自然社會(huì)、人類社會(huì)以及其他宇宙空間等帶來(lái)的后果給予一定的描述、分析和預(yù)測(cè)。預(yù)期維度高度關(guān)注研究和創(chuàng)新的初始階段，而非創(chuàng)新成果所帶來(lái)的影響。

AI技術(shù)創(chuàng)新所帶來(lái)的是一種不確定的后果，或有益或有害。如果將負(fù)責(zé)任創(chuàng)新的預(yù)期維度嵌入到AI技術(shù)的創(chuàng)新和發(fā)展起始之時(shí)，那么，以個(gè)體或者小集體為單位的責(zé)任主體以及以利益為目標(biāo)的科研人員和生產(chǎn)商就顯得不足以應(yīng)對(duì)可能會(huì)出現(xiàn)后果。負(fù)責(zé)任創(chuàng)新的主體不僅僅是關(guān)乎決策機(jī)構(gòu)、研究機(jī)構(gòu)、高等院校、社會(huì)組織等主體間關(guān)系，也牽涉利益綜合、權(quán)力沖突和話語(yǔ)選擇間的博弈，還與技術(shù)可行性、經(jīng)濟(jì)效益和倫理考量密切相關(guān)，還可包括創(chuàng)新者之外的決策者、生產(chǎn)者、銷售者、消費(fèi)者、服務(wù)者及個(gè)體之外的集體等等。對(duì)于技術(shù)創(chuàng)新可能潛在的風(fēng)險(xiǎn)，我們可以通過(guò)預(yù)測(cè)進(jìn)行系統(tǒng)化的考察和評(píng)估，從而更好地做到未來(lái)發(fā)展規(guī)劃和風(fēng)險(xiǎn)規(guī)避，使AI技術(shù)創(chuàng)新更具有價(jià)值性和有益性。正如Rose［18］所強(qiáng)調(diào)的，對(duì)技術(shù)潛在影響的預(yù)期有助于（1）反思研究項(xiàng)目的動(dòng)機(jī)和影響，（2）更清楚地了解不確定性和困境，（3）向更廣泛的公眾開(kāi)放愿景和（4）利用成果塑造研究和創(chuàng)新軌跡。因此，預(yù)測(cè)在研發(fā)開(kāi)始時(shí)起著重要作用。

4.2 AI技術(shù)創(chuàng)新過(guò)程中嵌入反思維度

負(fù)責(zé)任意味著行動(dòng)者和組織機(jī)構(gòu)需要對(duì)自身進(jìn)行反思。Stilgoe等［9］學(xué)者認(rèn)為，在RRI的背景下將反思定義為堅(jiān)持某個(gè)活動(dòng)的承諾和假設(shè)，了解知識(shí)的局限性并注意某個(gè)問(wèn)題的特定框架可能不會(huì)普遍存在，并且意識(shí)到社會(huì)科學(xué)家和哲學(xué)家已經(jīng)開(kāi)始努力參與到實(shí)驗(yàn)室過(guò)程中。Wynne［19］認(rèn)為，責(zé)任將反思性轉(zhuǎn)化為公共事務(wù)，需要一種制度性的反思，由此，反思這一概念開(kāi)始得到了重視。在當(dāng)前階段，概念維度的反思性旨在反映技術(shù)研究和開(kāi)發(fā)過(guò)程中的價(jià)值觀和信念。一些學(xué)者認(rèn)為對(duì)反思的理解和應(yīng)用離不開(kāi)公眾對(duì)話、公眾參與、科學(xué)和公共合作，強(qiáng)調(diào)了將預(yù)期與反思性聯(lián)系起來(lái)的重要性，這些都是了解反思的關(guān)鍵。一些學(xué)者認(rèn)為反思旨在對(duì)科技創(chuàng)新的研究和開(kāi)發(fā)過(guò)程中的價(jià)值和信念進(jìn)行思考，反思的過(guò)程離不開(kāi)公眾的參與，注重預(yù)期與反思性相結(jié)合。因此，主動(dòng)反思將成為讓公眾參與討論科技倫理問(wèn)題的有效工具。

將反思維度貫穿于AI技術(shù)的研發(fā)和發(fā)展使用過(guò)程中顯得很有必要。公眾參與、公眾對(duì)話以及科學(xué)和公眾合作等，讓公眾直接參與到科技研發(fā)過(guò)程之中，讓科技不僅僅是科技發(fā)明者和創(chuàng)新者的專屬，這樣可以更加高效地提升AI技術(shù)的價(jià)值性和創(chuàng)造性，同時(shí)也有效避免因單一方面參與者的技術(shù)研發(fā)所帶來(lái)的社會(huì)問(wèn)題和倫理問(wèn)題。我們可以建立一套AI技術(shù)研發(fā)的科研人員行為規(guī)范準(zhǔn)則，使反思成為科研人員和科研機(jī)構(gòu)必須遵守的一種理念；公眾和機(jī)構(gòu)的參與不僅能夠促使研發(fā)者反思自己的價(jià)值體系，而且還有助于在科學(xué)和創(chuàng)新實(shí)踐中建立反思能力。反思性要求科學(xué)家們?cè)诠矆?chǎng)合模糊他們的角色責(zé)任與更廣泛的道德責(zé)任之間的界限，因此它要求科學(xué)和創(chuàng)新文化中的開(kāi)放與領(lǐng)導(dǎo)。

4.3 AI技術(shù)研發(fā)及應(yīng)用過(guò)程中嵌入?yún)f(xié)商維度

協(xié)商旨在讓不同的利益相關(guān)者參與到研究和創(chuàng)新的早期階段。Schomberg［5］認(rèn)為，每個(gè)人的肩上都承擔(dān)著特定的道德責(zé)任，然后這些人形成集體參與，通過(guò)集體辯論作出決策。為了履行這一道德責(zé)任，Schomberg［5］和 Owen 等［14］學(xué)者將這一責(zé)任與確定社會(huì)期望的結(jié)果聯(lián)系起來(lái)，認(rèn)為通過(guò)公眾參與可以實(shí)現(xiàn)社會(huì)期望的結(jié)果。對(duì)于技術(shù)問(wèn)題的解決，公眾參與和公眾協(xié)商同樣是必不可少的，同時(shí)，經(jīng)濟(jì)和人文環(huán)境也有其存在意義。有學(xué)者認(rèn)為，讓公眾參與到研究和開(kāi)發(fā)的早期階段，將會(huì)對(duì)技術(shù)發(fā)展產(chǎn)生積極的影響。基于此，將RRI的理念作為行為準(zhǔn)則，指引各個(gè)行為者遵循安全、道德和有效的框架原則。在實(shí)踐中，通常被采用的方法和技術(shù)有公民陪審團(tuán)和公民小組、專門小組、共識(shí)會(huì)議、科學(xué)商店等等，但不包括構(gòu)建特定種類的公眾，權(quán)力不平衡將繼續(xù)存在。

協(xié)商是最能表征RRI的概念維度。在大多數(shù)情況下，RRI與研究和開(kāi)發(fā)中的社會(huì)包容性相關(guān)聯(lián)，并且概念維度的實(shí)際實(shí)施已經(jīng)開(kāi)始出現(xiàn)。作為RRI的主要特征，協(xié)商需要更多反思性和批判性的學(xué)術(shù)討論，因此，AI技術(shù)的研發(fā)和創(chuàng)新也需要加入?yún)f(xié)商維度的討論。協(xié)商主體不僅應(yīng)該包含科技創(chuàng)新的直接利益相關(guān)者，也應(yīng)該包含科技創(chuàng)新的間接利益相關(guān)者。負(fù)責(zé)任創(chuàng)新本著以公共利益為導(dǎo)向，以公眾參與、信息透明、民主化治理為手段，推動(dòng)公眾集體應(yīng)對(duì)技術(shù)倫理挑戰(zhàn)，通過(guò)協(xié)商，可以大大降低技術(shù)創(chuàng)新的不安全后果、倫理道德責(zé)任的缺失以及對(duì)生態(tài)環(huán)境的破壞，還可以更好地解決科研人員和人民群眾之間存在的不理解和不信任，無(wú)論是科研人員還是技術(shù)的使用者、受用者，都可以通過(guò)共同探討的方式重新評(píng)估和解決AI技術(shù)多帶來(lái)的諸多倫理問(wèn)題。

4.4 AI技術(shù)成果嵌入反應(yīng)能力

反應(yīng)能力是反饋能力和響應(yīng)能力的總稱。負(fù)責(zé)任創(chuàng)新需要具有根據(jù)利益相關(guān)者的反應(yīng)和變化情況對(duì)框架和方向進(jìn)行調(diào)整。在實(shí)踐中反應(yīng)能力主要集中在主要集中在同化、反應(yīng)或排他性的態(tài)度，而不是回應(yīng)或包容。反應(yīng)能力包含風(fēng)險(xiǎn)識(shí)別、透明度和無(wú)障礙性。新技術(shù)涉及的風(fēng)險(xiǎn)或是中期、或是長(zhǎng)期，或者與經(jīng)濟(jì)有關(guān)、或者是與環(huán)境有關(guān)、抑或是與社會(huì)相關(guān)聯(lián)。歐盟通過(guò)無(wú)障礙獲取意味著開(kāi)放獲取科學(xué)成果，也就是說(shuō)公共資助研究的結(jié)果必須向公眾開(kāi)放，具有一定的透明度。在一些分析性的文獻(xiàn)中，涉及反應(yīng)能力的討論主要與道德、風(fēng)險(xiǎn)、透明度和可訪問(wèn)性等相關(guān)。

AI技術(shù)研發(fā)過(guò)程所需要的時(shí)間是不確定的，技術(shù)觸及的風(fēng)險(xiǎn)類別也是不確定的，所以應(yīng)該將風(fēng)險(xiǎn)類別、障礙程度等因素融入反應(yīng)能力中，以便在技術(shù)研發(fā)過(guò)程中不斷得到反饋，作出正確的響應(yīng)，提前識(shí)別和預(yù)防技術(shù)導(dǎo)致的風(fēng)險(xiǎn)以及帶來(lái)得危害或損失；同時(shí)，AI技術(shù)的正負(fù)作用應(yīng)該具有一定的透明性，至少是對(duì)技術(shù)操作人員來(lái)說(shuō)是透明的，避免像波音737MAX客機(jī)事件的發(fā)生。此外，公眾也可以參與進(jìn)來(lái)，及時(shí)有效地提出意見(jiàn)，便于對(duì)創(chuàng)新過(guò)程中的方法進(jìn)行調(diào)整；同時(shí)，國(guó)家或者政府等權(quán)威機(jī)構(gòu)也可以無(wú)障礙獲取AI技術(shù)成果，以達(dá)到及時(shí)的監(jiān)管和監(jiān)督效果。

4.5 AI技術(shù)產(chǎn)品嵌入可持續(xù)性

可持續(xù)性通常指的是新產(chǎn)品的資源效率。雖然可持續(xù)性的概念可以在大多數(shù)文獻(xiàn)中找到，但其還沒(méi)有明確地被稱為概念維度。“歐盟2020戰(zhàn)略”強(qiáng)調(diào)了科學(xué)與技術(shù)之間的合作是保證可持續(xù)和包容性經(jīng)濟(jì)增長(zhǎng)的關(guān)鍵因素，Galdon-Clavell［20］支持這種想法并提出了“智慧城市”這一觀點(diǎn)，認(rèn)為當(dāng)社會(huì)資本和基礎(chǔ)設(shè)施投資通過(guò)預(yù)期治理來(lái)合理管理人力資源，以此支持可持續(xù)經(jīng)濟(jì)增長(zhǎng)時(shí)，那么這個(gè)城市是“智慧”的。Owen 等［14］認(rèn)為，在討論社會(huì)需求和價(jià)值觀等問(wèn)題時(shí)也應(yīng)考慮可持續(xù)性。Flipse等［21］也支持“歐盟2020戰(zhàn)略”中的觀點(diǎn)，認(rèn)為研究和創(chuàng)新與社會(huì)責(zé)任密切相關(guān)，因?yàn)樗鼈兛梢詭椭岣呖沙掷m(xù)性產(chǎn)品。也有觀點(diǎn)認(rèn)為，資源使用不足是資源節(jié)約型和科技創(chuàng)新需要解決的主要問(wèn)題。

AI技術(shù)產(chǎn)品如果嵌入可持續(xù)性這一觀點(diǎn)，可以提升資源的有效利用和長(zhǎng)期發(fā)展，同時(shí)大大降低“科技垃圾”的生產(chǎn)，也可以提高社會(huì)經(jīng)濟(jì)的可持續(xù)增長(zhǎng)。正如智慧城市想法的提出，以創(chuàng)造“智慧科技”，節(jié)能、環(huán)保、可持續(xù)的AI技術(shù)產(chǎn)品。AI技術(shù)的研發(fā)和創(chuàng)新應(yīng)與社會(huì)責(zé)任息息相關(guān)，社會(huì)責(zé)任在提高資源可持續(xù)和技術(shù)產(chǎn)品可持續(xù)上發(fā)揮著獨(dú)特的影響力，因此，科技創(chuàng)新需要遵循可持續(xù)發(fā)展理念，以建設(shè)環(huán)境友好型社會(huì)。

4.6 AI技術(shù)研發(fā)和創(chuàng)新過(guò)程中嵌入關(guān)懷

關(guān)懷指的是以一種獨(dú)特的方式將道德心理學(xué)和發(fā)展與道德考慮的范圍聯(lián)系起來(lái)，面向未來(lái)的倫理學(xué)的主要問(wèn)題是如何處理來(lái)自技術(shù)創(chuàng)新等社會(huì)實(shí)踐的不確定性。Owen等［14］描述了預(yù)期、反思、協(xié)商和反應(yīng)等4個(gè)概念維度，但并不專注于作為判斷環(huán)境的內(nèi)在決定者的人，因此，公民自己負(fù)責(zé)代表他們執(zhí)行的決策和行動(dòng)。引入關(guān)懷的概念，人們積極采取的責(zé)任理念開(kāi)始變得重要。關(guān)懷同時(shí)被解釋為人們共同發(fā)展感知、行動(dòng)和判斷能力的過(guò)程。關(guān)懷作為RRI的一個(gè)單獨(dú)的概念維度是重要的，以便不將包容性視為滿足重大挑戰(zhàn)的手段，而是將人們的高目標(biāo)和日常實(shí)踐結(jié)合起來(lái)的一種方式，但并不專指將人們共同的發(fā)展感知、行動(dòng)和判斷能力作為判斷環(huán)境的內(nèi)在決定者的人。因此，通過(guò)引入關(guān)懷的概念，作為主體的我們開(kāi)始重視采取積極的責(zé)任理念。

在AI技術(shù)研發(fā)和創(chuàng)新過(guò)程中，如果嵌入RRI理念中的關(guān)懷，就要求科技研發(fā)人員以及參與到技術(shù)創(chuàng)新中的人應(yīng)該關(guān)懷AI技術(shù)給人類所帶來(lái)的影響。這一理念應(yīng)該貫穿于科技創(chuàng)新的整個(gè)過(guò)程，從構(gòu)思到實(shí)際應(yīng)用的方方面面，以此有效避免在科技創(chuàng)新為人類服務(wù)及工作的同時(shí)對(duì)人類的生活質(zhì)量和社會(huì)環(huán)境可能造成的影響，也可以是AI技術(shù)與人類更好地和平共處。

4.7 AI技術(shù)科研人員持有無(wú)私利性理念

無(wú)私利性要求科研人員在科技研發(fā)過(guò)程中，不應(yīng)該把科技成果視為追求名譽(yù)、地位、聲望的“敲門磚”，或者是運(yùn)用不正當(dāng)?shù)氖侄卧诟?jìng)爭(zhēng)中提高自己，更不應(yīng)該以追求科技產(chǎn)品所帶來(lái)的利益為價(jià)值指標(biāo)。無(wú)私利性規(guī)范要求科學(xué)家不以科學(xué)活動(dòng)謀取私利。Groves［22］認(rèn)為，面向未來(lái)倫理學(xué)的主要問(wèn)題是如何處理來(lái)自技術(shù)創(chuàng)新等社會(huì)實(shí)踐的不確定性，尤其是科技創(chuàng)新工作者或者科技創(chuàng)新機(jī)構(gòu)的不確定性。良好的研發(fā)開(kāi)端才可能會(huì)產(chǎn)生有價(jià)值的科技創(chuàng)新成果。

因此，AI技術(shù)的研發(fā)人員或科研機(jī)構(gòu)應(yīng)該在創(chuàng)新之初持有無(wú)私利性的理念，并且將此理念貫穿于科技研發(fā)的整個(gè)過(guò)程以及科技成果的使用，不應(yīng)該以單純追求經(jīng)濟(jì)利益和社會(huì)利益等為目的，而應(yīng)該首先忽略可能會(huì)帶來(lái)的利益，忽略可能因?yàn)檫@一科技創(chuàng)新成果所帶來(lái)的名譽(yù)、地位等超過(guò)科技成果本身所帶來(lái)的價(jià)值，秉持無(wú)私利性的科學(xué)態(tài)度，為科技創(chuàng)新塑造良好的價(jià)值理念。

5 結(jié)論與展望

RRI自被提出以來(lái)雖然只有20年的時(shí)間，在定義和概念維度仍然缺乏明確性，但其理念已經(jīng)在納米科技、環(huán)境治理等多項(xiàng)新興技術(shù)中得以應(yīng)用，是歐美前沿的科技創(chuàng)新與研究理念；并且，RRI的概念已經(jīng)開(kāi)始出現(xiàn)在不同的機(jī)構(gòu)文件和研究出版物中。盡管負(fù)責(zé)任創(chuàng)新的發(fā)展存在一定的局限性，但是，負(fù)責(zé)任創(chuàng)新的責(zé)任范疇已愈加廣泛。從橫向來(lái)看（空間），負(fù)責(zé)任創(chuàng)新的應(yīng)用范圍非常廣泛，涉及人類社會(huì)、自然社會(huì)和宇宙空間等因素；從縱向來(lái)看（時(shí)間），負(fù)責(zé)任創(chuàng)新的責(zé)任范疇始終貫穿在創(chuàng)新準(zhǔn)備、創(chuàng)新過(guò)程和創(chuàng)新結(jié)果之中。根據(jù)對(duì)RRI定義、概念維度和框架的討論，可以認(rèn)為RRI本質(zhì)上是一種管理研究和創(chuàng)新的嘗試，以便在研究和開(kāi)發(fā)的早期階段納入所有利益相關(guān)者和公眾；反過(guò)來(lái)，把不同的參與者和公眾都考慮在內(nèi)，意味著增加預(yù)測(cè)和辨別研究創(chuàng)新如何能夠或可能使社會(huì)受益，以及防止任何負(fù)面后果發(fā)生的可能性。

AI技術(shù)產(chǎn)品越來(lái)越成為人們?nèi)粘９ぷ骷吧畈豢扇鄙俚囊环葑?，因此，嵌入RRI框架來(lái)解決AI倫理問(wèn)題成為可能，值得我們深入研究。通過(guò)預(yù)期、反思、協(xié)商、反應(yīng)、可持續(xù)性、關(guān)懷、無(wú)私利性等框架理念，可以有效減緩AI倫理問(wèn)題的產(chǎn)生。但是從長(zhǎng)遠(yuǎn)的發(fā)展?fàn)顩r來(lái)看，RRI框架不足以應(yīng)對(duì)倫理問(wèn)題的解決，還需要倫理道德規(guī)范和倫理法律的實(shí)施、多元學(xué)科與多元領(lǐng)域的協(xié)作、創(chuàng)新制度和法律法規(guī)的完善。不僅如此，AI技術(shù)的發(fā)展也是任重而道遠(yuǎn)的。