閆坤如

[摘要]隨著人工智能的發(fā)展，其所引發(fā)的風(fēng)險與責(zé)任問題倍受學(xué)界關(guān)注。人工智能帶來的風(fēng)險與人工智能設(shè)計有較大關(guān)聯(lián)。從理論上來講，人工智能設(shè)計應(yīng)思考人工智能是否具有道德行動者地位和“道德嵌入”的合理性等問題。人工智能設(shè)計目的與實際結(jié)果的不相符，人工智能設(shè)計目的與使用者需求不相符，人工智能設(shè)計技術(shù)的不完備等都會帶來風(fēng)險。為解決人工智能設(shè)計的風(fēng)險問題，其設(shè)計的目的應(yīng)彰顯“善”的理念，設(shè)計過程中應(yīng)關(guān)注正義與公平，強調(diào)設(shè)計者的責(zé)任意識。

[關(guān)鍵詞]人工智能，設(shè)計風(fēng)險，道德嵌入，責(zé)任意識

[中圖分類號]N031 [文獻(xiàn)標(biāo)識碼]A [文章編號]1004-4175（2018）05-0022-05

人工智能在21世紀(jì)不斷取得理論和實踐突破，成為最有前景的新興技術(shù)之一。但是一些智能機器在實際應(yīng)用過程中卻造成了意想不到的后果，帶來了許多風(fēng)險。由于技術(shù)的雙面性，人工智能技術(shù)的不確定性，人工智能的應(yīng)用可能違背人工智能設(shè)計者的初衷，這些原因都可能導(dǎo)致人工智能風(fēng)險。例如，無人駕駛汽車是為了解放雙手，卻可能潛藏著安全問題；云計算為了數(shù)據(jù)挖掘統(tǒng)計方便，卻存在隱私泄露的風(fēng)險，等等。人工智能可能帶來的這些風(fēng)險與設(shè)計主體意愿、設(shè)計目的與設(shè)計結(jié)果的偏離等有密切關(guān)系。

一、人工智能設(shè)計的理論基礎(chǔ)

人工智能設(shè)計與制造的結(jié)果是產(chǎn)生具有自我推理能力的智能機器，對其風(fēng)險的研究應(yīng)該基于對人工智能設(shè)計理論基礎(chǔ)的挖掘，我們主要從人工智能是否是道德行動者以及人工智能“道德嵌人”的合理性進(jìn)行分析。

（一）對人工智能是否具有道德行動者地位的思考。隨著智能機器在技術(shù)方面不斷取得新的突破，智能機器的深度學(xué)習(xí)、面部表情、語音識別、大數(shù)據(jù)和云計算處理速度等能力的不斷加強和運用，智能機器在社交、知覺、創(chuàng)造力、自然語言理解等能力上的不斷突破，可以說機器越來越像人。那么，智能機器是否像人類一樣具有道德主體地位呢？人工智能的功能由人工智能的算法決定，智能機器通過算法對環(huán)境中的數(shù)據(jù)進(jìn)行分析，從而作出相應(yīng)的決策并表現(xiàn)出同樣的行為?！翱梢钥闯鲞@種方法并未假設(shè)計算機和大腦在‘硬件上的相似會超出這樣一個范圍，即認(rèn)為兩者都是通用的符號處理裝置，而且能為計算機變出程序進(jìn)行一些基本的信息處理，使他們的功能與大腦十分相似?！盵1]9人工智能不僅僅是倫理規(guī)則的被動中轉(zhuǎn)者，還在現(xiàn)有道德生態(tài)中與其他實施者互動。如何權(quán)衡機器人及其生物的生存地位等倫理問題將成為規(guī)范與約束人工智能設(shè)計的一個重要方面。

人與機器有本質(zhì)的區(qū)別，人具有理解能力，而機器不具有理解能力。人具有意向性，機器不具有意向性（intentionality）?！耙庀蛐员豢醋魇菂^(qū)分個體的人與機器的根本特征之一：機器和人可以做同樣的事情，但是人有意向性，而機器沒有。”[2]10意識只是腦的一種屬性，機器與人類可以具有相同的功能，但是機器沒有意向性。即使人工智能不是道德主體，但是人工智能與人類可以具有共同的行為。如果人工智能獲得與人類相近或者相同的思維能力和推理能力，界定人工智能和人類的道德地位也會成為難題。例如，機器學(xué)習(xí)與圖像識別技術(shù)讓無人駕駛汽車輕松上路，卻帶來機器設(shè)計道德上的倫理困境等。人類行為具有復(fù)雜性，并不能簡單地還原為大腦的結(jié)構(gòu)，人類的大腦到現(xiàn)在為止還是一個未知的“黑箱”。

人工智能技術(shù)改變了傳統(tǒng)的人與技術(shù)的關(guān)系。美國技術(shù)哲學(xué)家唐·伊德（Don Idle）在其《技術(shù)與生活世界》一書中從人對技術(shù)的感知出發(fā)，用“人一技術(shù)一世界”的結(jié)構(gòu)分析三者的關(guān)系問題，提出了人與技術(shù)的具身關(guān)系、詮釋學(xué)關(guān)系、它者關(guān)系和背景關(guān)系，構(gòu)成了四種技術(shù)情境下的人、技術(shù)與世界的互動關(guān)系圖式，分別是[3]72-112：

具身關(guān)系：（人—技術(shù)）→世界

詮釋學(xué)關(guān)系：人→（技術(shù)—世界）

它者關(guān)系：人→技術(shù)—（—世界）

背景關(guān)系：人（—技術(shù)/世界）

伊德認(rèn)為：“越接近于技術(shù)所允許的隱形性和透明性，就越能擴(kuò)展人的身體感覺，就越是好的技術(shù)。值得注意的是，設(shè)計的完善不僅僅與機器有關(guān)，還與機器與人的組合有關(guān)。機器沿著一個身體的方向完善，并且是根據(jù)人的感知和行為塑造的?！盵3]74設(shè)計者在人工智能中占有重要地位，因此，必須關(guān)注智能機器的設(shè)計主體。

（二）人工智能設(shè)計“道德嵌入”的合理性分析。人工智能不同于其他技術(shù)人工物的研究，人工智能研究不僅關(guān)注設(shè)計、制造主體的責(zé)任，更應(yīng)思考人工智能是否具有道德意識，并且應(yīng)關(guān)注如何在人工智能中嵌入與人類主體相似的行為倫理規(guī)范。因此，應(yīng)該在計算機程序中嵌入人類道德，像約束人類行為一樣約束人工智能的行為。

人工智能設(shè)計不是一個閉環(huán)系統(tǒng)，對于人工智能的價值反省與倫理追問處于發(fā)展階段。如何讓人工智能像道德主體那樣去行動以及如何為人工智能編寫道德代碼也納入哲學(xué)學(xué)者的視野。例如，丹尼爾森在其著作《人工道德：虛擬游戲的道德機器人》（Artificial Morality：virtuous Robots for Vitual games）中關(guān)注入工智能的道德問題；2007年霍爾撰寫的《超越AI：讓機器產(chǎn)生良知》（Beyond AI： Creating theConscience of the Machine）一書，關(guān)注設(shè)計道德機器：瓦拉赫與艾倫撰寫的《道德機器：如何讓機器人明辨是非》（Moral Machines： Teaching Robots Right fromWrong），試圖從道義論、效果論和美德倫理學(xué)討論人工智能體的道德問題。

舊式的技術(shù)哲學(xué)家多半是被動反應(yīng)，新一代技術(shù)哲學(xué)家主動出擊，力圖使工程師們意識到技術(shù)設(shè)計帶來設(shè)計進(jìn)程的價值，并希望以此去影響技術(shù)的價值與設(shè)計。人工智能的價值可以從外在性與內(nèi)在性兩個層面去分析。人工智能的外在價值表現(xiàn)在人工智能對公共福祉的貢獻(xiàn)，內(nèi)在價值表現(xiàn)在人工智能技術(shù)如何形成它對人類的意義。對人工智能設(shè)計具有兩種不同的規(guī)范進(jìn)路：一種是職業(yè)倫理進(jìn)路，這是一種“外在主義進(jìn)路”，還有一種由荷蘭技術(shù)哲學(xué)家普爾（Ibo van de Poel）等人提出的“內(nèi)在主義進(jìn)路”，即人工智能設(shè)計“致力于關(guān)于技術(shù)發(fā)展的一種更加內(nèi)在主義、經(jīng)驗性的觀察，考慮設(shè)計過程本身的動態(tài)性并探討該語境下產(chǎn)生的倫理問題”[4]。學(xué)者也從內(nèi)在主義進(jìn)路尋找解決傳統(tǒng)倫理問題或者新倫理問題的途徑。例如，弗里德曼（Batya Friedman）與卡恩（Peter Kahn）在1992年提出價值敏感性設(shè)計（Value sensitive design）。設(shè)計者在設(shè)計時應(yīng)保持對技術(shù)價值的敏感性，在技術(shù)設(shè)計中將道德嵌人其中。人工智能設(shè)計也需要“道德嵌入”。所謂“道德嵌人”是將特定群體認(rèn)可的價值觀與道德標(biāo)準(zhǔn)程序化為道德代碼，嵌入人工智能系統(tǒng)，同時內(nèi)置道德決策場景的指導(dǎo)性抉擇標(biāo)準(zhǔn)。對智能系統(tǒng)進(jìn)行道德訓(xùn)練，使其具備類人的道德推理能力，并利用機器學(xué)習(xí)算法投射使用者的道德偏好。設(shè)計者越來越意識到自身的價值觀對設(shè)計進(jìn)程的影響，以及在此過程中他們對于他人價值觀的敏感度。設(shè)計者在設(shè)計想象階段就應(yīng)負(fù)載價值，應(yīng)保持對技術(shù)價值的敏感性，在技術(shù)設(shè)計中嵌人道德。在人工智能設(shè)計之初就應(yīng)該賦予其“善”的設(shè)計理念，在設(shè)計之始把“善”的觀念嵌入到智能機器中。

二、人工智能設(shè)計帶來的風(fēng)險分析

設(shè)計是一個問題解決過程，或者說是一個決策過程，是設(shè)計主體根據(jù)自身需要，有意識地創(chuàng)造出技術(shù)人工物的過程。設(shè)計不但是科學(xué)知識的獲取與應(yīng)用過程，還是新物體的技術(shù)發(fā)明與創(chuàng)造過程。西蒙（Hubert A Simon）提出：“（設(shè)計）考慮的是人工物（artifacts）應(yīng)該是怎樣的，也就是什么樣的人工物才能實現(xiàn)目的，才能發(fā)揮其作用?！盵5]4-5人類技術(shù)行為的主要結(jié)果是設(shè)計和制造各種人工物。設(shè)計具有兩個屬性。首先，設(shè)計是為了達(dá)到設(shè)計者某一方面的目的。設(shè)計望遠(yuǎn)鏡是為了觀察浩瀚夜空；設(shè)計情感機器人是為了滿足人類的情感需求；設(shè)計無人駕駛汽車是為了安全以及在駕駛中解放人類雙手等。其次，設(shè)計體現(xiàn)了主體的意向。在設(shè)計主體設(shè)計之前就有了設(shè)計理念與設(shè)計思路。馮·賴特（von wright）也提出從設(shè)計主體的目的與意向等方面去闡釋設(shè)計邏輯。賴特認(rèn)為：如果把x稱為目的，而y是實現(xiàn)目的的手段與行動。那么設(shè)計可以用如下表達(dá)式表示：“某人想得到x除非得到y(tǒng)，否則不可能得到x，因此必須得到y(tǒng)”[6]。按照賴特的觀點，設(shè)計就是為了達(dá)到主體的目的而進(jìn)行的一系列活動。設(shè)計必須遵循自然界的規(guī)律，違背物理規(guī)律就不能制造出人工物，人工智能的設(shè)計也不能違背自然界的規(guī)律。人工智能的設(shè)計是通過工程師、程序員編寫、設(shè)計程序、算法的輸人，使設(shè)計出來的人工智能產(chǎn)品彰顯設(shè)計者的目的，在設(shè)計、制造過程中必須遵循這些科學(xué)規(guī)律。

人工智能設(shè)計不當(dāng)會給個人和社會帶來風(fēng)險，小則造成經(jīng)濟(jì)損失，大則威脅社會穩(wěn)定與生命安全。人工智能風(fēng)險與設(shè)計息息相關(guān)，并且可以把設(shè)計作為人工智能的風(fēng)險根源。人工智能設(shè)計風(fēng)險主要體現(xiàn)在以下幾個方面。

（一）人工智能設(shè)計目的與實際結(jié)果的不相符帶來的風(fēng)險。人工智能在制造之初先有設(shè)計理念與設(shè)計思路，設(shè)計者為了達(dá)到目的，在設(shè)計中把人工智能的工具理性與價值理性結(jié)合起來。也就是說，人工智能在設(shè)計之初已經(jīng)負(fù)載了設(shè)計者或者設(shè)計團(tuán)隊的意愿與愿望。人工智能產(chǎn)品的設(shè)計離不開設(shè)計者的努力，設(shè)計程序與算法凝聚著設(shè)計者的心血和智慧，但是并不是所有的設(shè)計者都是“完人”。由于受設(shè)計者或者設(shè)計團(tuán)隊偏見、錯誤認(rèn)知、價值判斷及利益追求等因素的影響以及設(shè)計的算法存在技術(shù)缺陷等，所設(shè)計出來的人工智能產(chǎn)品可能存在一定程度的缺陷。人工智能風(fēng)險很多時候源于設(shè)計之初的程序錯誤或者算法誤差。例如，特斯拉自動駕駛汽車造成人員傷亡就是因為其設(shè)計的程序存在漏洞，人工智能系統(tǒng)在設(shè)計階段的錯誤導(dǎo)致人工智能風(fēng)險的產(chǎn)生。人工智能技術(shù)除了需要探索與客觀真理的關(guān)系，還包含著人類目的性的社會建構(gòu)活動。伽達(dá)默爾曾經(jīng)說過：“20世紀(jì)是第一個以技術(shù)起決定作用的方式重新確定的時代，并且開始使技術(shù)知識從掌握自然力量擴(kuò)展為掌握社會生活，這一切都是成熟的標(biāo)志，或者也是我們文明的標(biāo)志。”[7]63設(shè)計具有目的性，但設(shè)計者的初衷和設(shè)計出來的產(chǎn)品的實際使用情況并不是完全一致，有時甚至大相徑庭。例如，汽車的設(shè)計者與使用者沒有想到汽車的使用會發(fā)生交通事故以及環(huán)境污染等問題，但是汽車設(shè)計與使用確實導(dǎo)致交通事故與環(huán)境污染。

（二）人工智能設(shè)計目的與使用者需求不相符帶來的風(fēng)險。技術(shù)不但促進(jìn)了人類進(jìn)步，還改變了人類的生產(chǎn)生活方式。人工智能技術(shù)作為新興技術(shù)具有不確定性，對此可以理解為人工智能技術(shù)后果的難以預(yù)見性以及難以量化評估性。人工智能的技術(shù)風(fēng)險還可能是由于人類的有限理性所致，人類對于風(fēng)險預(yù)測、評估與風(fēng)險發(fā)生的客觀概率之間存在偏差。人工智能風(fēng)險源于設(shè)計者的有限理性。人工智能產(chǎn)品的設(shè)計一般是根據(jù)市場需求、設(shè)計者的能力、使用者的需要等因素復(fù)合而成的。設(shè)計者和使用者通過人工智能產(chǎn)品實現(xiàn)一種特殊的“互動”，設(shè)計者可以有意地引導(dǎo)使用者使用某些功能或者避免使用某些功能。如在人機交互界面優(yōu)先推薦本公司的產(chǎn)品。設(shè)計者通過使用者的意見和反饋，對算法和程序進(jìn)行修改，從而實現(xiàn)一個良性互動。但是這種互動往往并不能真實反映使用者的意圖，相反在很大程度上是設(shè)計者意圖的強化，因為存在所謂的“設(shè)計黑箱”，設(shè)計者對設(shè)計出來的人工智能不能準(zhǔn)確預(yù)測與評估。

（三）人工智能設(shè)計技術(shù)的不完備帶來的風(fēng)險。人工智能的功能與設(shè)計者的目的有關(guān)，設(shè)計者的目的是設(shè)計出人工智能的物理結(jié)構(gòu)，讓智能機器具有一定的功能，滿足人類某一方面的需要?！肮δ苊枋鲎陨砼c結(jié)構(gòu)描述自身都不能完整地描述一個技術(shù)人工物的設(shè)計；功能設(shè)計忽視結(jié)構(gòu)設(shè)計的同時，結(jié)構(gòu)設(shè)計也缺少了功能設(shè)計特性，這就表明在描述人工物時，結(jié)構(gòu)與功能特性都是工程實踐中必不可少的?！盵8]其他設(shè)計遵循結(jié)構(gòu)功能關(guān)系，人工智能設(shè)計的特殊性，自身有推理能力，智能機器擁有前所未有的自主性，并且擁有能夠獨立作出決策的能力。美國機器倫理學(xué)家帕特里克（Patrick Lin）認(rèn)為機器具有“自制能力”，他說：“一旦機器的一部分啟動，那么該機器就根據(jù)外部環(huán)境進(jìn)行自我反饋運行，而具備在一定時間內(nèi)不受外部控制的能力?！盵8]智能機器具有不完全受制于人的自主性，人工智能的算法與程序可能帶來風(fēng)險。瓦拉赫（Wendell Wallach）與艾倫（Colin Allen）在《道德機器：如何讓機器人明辨是非》中提到：“現(xiàn)今在美國死于醫(yī)療事故的人每天有100到200人，而且許多這類醫(yī)療事故都與計算機有關(guān)系。這些錯誤諸如發(fā)錯藥，算錯藥物劑量，每天都導(dǎo)致100到200人死亡。我并不確切知道你們將其中多少人的死因歸咎于計算機的錯誤，但是這個原因占有一定比例，可以肯定地說，每隔兩到三個月我們死于計算機錯誤和醫(yī)療事故的人數(shù)就抵得上一次‘9.11?！盵9]22通過上述例子可知，人工智能的算法錯誤或者程序錯誤等可能造成風(fēng)險。

三、人工智能設(shè)計風(fēng)險規(guī)避的思路

（一）人工智能設(shè)計的目的應(yīng)彰顯“善”的理念。智能機器是為了滿足人類某方面的目的，人工智能設(shè)計應(yīng)首先保證智能機器更好地為人類工作與服務(wù)，這優(yōu)先于智能機器的工作效率與功能。人類與智能機器之間的關(guān)系不再是過去簡單的人與技術(shù)人工物之間的主客二分關(guān)系，而更多的是協(xié)作甚至更私密的關(guān)系。由于人類思維和情感的復(fù)雜性和多元性，人機關(guān)系并不是一個簡單的課題。機器人技術(shù)要想處理好人與世界的關(guān)系，必須把道德嵌人機器人的設(shè)計、研發(fā)與制造過程。必須用“善”的理念設(shè)計智能機器，約束與規(guī)范智能機器的發(fā)展。阿西莫夫（IsaacAsimov）最早提出用“機器人三定律”來規(guī)范智能機器發(fā)展：“機器人不可以傷害人類；或者，通過不作為，讓任何人受到傷害；機器人必須遵從人類的指令，除非那個指令與第一定律相沖突；機器人必須保護(hù)自己的生存，條件是那樣做與第一、第二定律沒有沖突。”[10]2后來又加上第四條準(zhǔn)則：機器人不得傷害人類，或者因為不作為，讓人類受到傷害。阿西莫夫機器人定律是康德式的道德律令，認(rèn)為人類應(yīng)該制定需要智能機器遵守的道德準(zhǔn)則，這是一種自上而下的倫理規(guī)范方法。所謂自上而下的倫理規(guī)范方法是把規(guī)范化的價值觀當(dāng)作在自主體的活動中隱含的內(nèi)容，而不是被抽象地表征出來。除了自上而下的倫理規(guī)范，還需要根據(jù)人工智能的具體情境設(shè)計相應(yīng)的倫理。通過自上而下與自下而上的倫理規(guī)約共同作用，規(guī)范人工智能的設(shè)計。人工智能很大程度上取決于程序與算法學(xué)習(xí)模型的設(shè)計水平，在設(shè)計中必須把價值轉(zhuǎn)成具體的設(shè)計要求?！霸O(shè)計中實現(xiàn)價值的一種方式是將它們轉(zhuǎn)換為規(guī)范和設(shè)計需求?！盵11]253設(shè)計的具體要求包括效能、效率、靈活性、成本與安全等指標(biāo)。設(shè)計過程需要遵循價值觀、規(guī)范與成功等標(biāo)準(zhǔn)。

（二）設(shè)計過程中應(yīng)關(guān)注正義與公平。1980年，溫納（Langdon Winner）通過羅伯特·莫斯（RobertMoses）在美國長島設(shè)計的低懸立交橋來闡述設(shè)計公平問題，這座橋只可以通過富人的私人轎車，而不能通過大巴車等公共交通工具，這涉及對習(xí)慣乘坐公共交通工具的黑人的歧視。通過這個例子溫納提到了設(shè)計公平問題，在人工智能設(shè)計中應(yīng)該關(guān)注正義與公平。

人工智能設(shè)計應(yīng)該關(guān)注機會平等。機器人不再是簡單工具，在機器人的設(shè)計中應(yīng)該關(guān)注責(zé)任倫理，其中正義原則是機器人設(shè)計始終需要貫穿的一個重要原則。機器人的設(shè)計要關(guān)注公平和正義。機器人設(shè)計不應(yīng)造成擴(kuò)大主體間權(quán)利、地位上的差距，導(dǎo)致實際上不公平和不正義。如無人機的技術(shù)設(shè)計、生產(chǎn)需要大量的成本，導(dǎo)致價格昂貴，并非所有人都能享受該項技術(shù)的成果，這會導(dǎo)致公平性喪失；使用無人機送快遞等會造成現(xiàn)有快遞從業(yè)人員的就業(yè)機會不公平。羅爾斯（John Rawls）提出：“所有值得我們注意的倫理學(xué)理論都須在判斷正當(dāng)時考慮結(jié)果，不這樣做的倫理學(xué)理論是奇怪的和不可理喻的?！盵12]23

人工智能設(shè)計也應(yīng)該追求技術(shù)結(jié)果的公平、正義。它包括技術(shù)獲取途徑的公平正義，人工智能涉及不同人群的不同利益，機器人的設(shè)計中要確保機器人的設(shè)計目的是為了人類的整體利益而不是某些個人或者集團(tuán)的利益；人工智能使用致力于大部分人的利益而不是少數(shù)人的利益。人類有責(zé)任與義務(wù)為人工智能設(shè)計制定規(guī)則，約束設(shè)計者在設(shè)計之初考慮到人工智能的社會影響，避免因為人工智能的應(yīng)用拉大人與人的差距，造成人與人之間的不公平，避免造成社會風(fēng)險。

（三）人工智能設(shè)計應(yīng)強調(diào)設(shè)計者的責(zé)任意識。人工智能技術(shù)設(shè)計必須關(guān)注設(shè)計者信念、行為以及設(shè)計者在技術(shù)實踐中的作用與責(zé)任等研究主題，設(shè)計者在人工智能技術(shù)發(fā)展中不能置若罔聞，更不能袖手旁觀?！鞍殡S著技術(shù)的發(fā)展，需要設(shè)計師的全程參與，尋找道德反思的應(yīng)用，并期待技術(shù)設(shè)計的社會影響。這種類型的道德規(guī)范參與技術(shù)發(fā)展，而不是將自身置于技術(shù)范疇之外。”[13]智能機器的設(shè)計者要對可能出現(xiàn)的技術(shù)負(fù)面效應(yīng)作出足夠的論證，也要充分考慮人工智能技術(shù)發(fā)展帶來的倫理困境，考慮到智能機器的運用過程中不可避免地會面臨道德困境。如何使智能機器在面臨類似情形時作出最有益于人類的抉擇，是設(shè)計者們要提前考慮的問題。因此，人工智能設(shè)計和制造應(yīng)遵循職業(yè)道德與社會公德。

除了強調(diào)個人的責(zé)任意識之外，還要發(fā)揮行業(yè)協(xié)會與國際組織的作用。美國電氣與電子工程師協(xié)會（IEEE）、美國職業(yè)工程師協(xié)會（NSPE）、美國機械工程師協(xié)會（ASME）以及美國的伍斯特理工學(xué)院機器人工程師職業(yè)倫理（WPI）都提出人工智能設(shè)計的職業(yè)倫理規(guī)范。在這些行業(yè)規(guī)范中，都認(rèn)為工程師應(yīng)具有誠實、公正等職業(yè)美德，都應(yīng)該關(guān)注安全、健康和公眾福祉。例如，2002年電氣與電子工程師協(xié)會給出了機器人的倫理規(guī)范：第一個分支為機器倫理學(xué)（machine ethics），研究的重點為“賦予機器人倫理原則或者促進(jìn)機器人解決可能預(yù)見的倫理困境，在機器人自主作決定的時候，提高他們的道德考量比重”[14]1；第二個分支為機器人倫理學(xué)（robot ethics），主要關(guān)注入類在設(shè)計、使用操作過程中與機器人交流互動中的倫理問題。2017年1月，美國召開的“阿西洛馬會議”提出了《阿西洛馬人工智能原則》，（Asilomar AI Principles）規(guī)范人工智能的發(fā)展?！栋⑽髀羼R人工智能原則》要求人工智能設(shè)計的倫理應(yīng)該追求技術(shù)結(jié)果的公平、正義，包括人工智能技術(shù)獲取途徑的公平正義，人工智能涉及不同人群、不同利益相關(guān)者的不同利益等，必須先保障公平與正義才能規(guī)避社會風(fēng)險。人工智能設(shè)計主要涉及三個維度的問題：“首先，是人類創(chuàng)造和雇傭機器人的倫理；其次，是將人類的倫理觀念嵌入機器人當(dāng)中；第三，是人類如何看待智能機器人的倫理。”[15]處理好人工智能研制、設(shè)計以及正確對待人工智能產(chǎn)品的關(guān)系，才能有效地規(guī)避風(fēng)險。人工智能設(shè)計應(yīng)關(guān)注入工智能的設(shè)計和制造應(yīng)遵循的倫理準(zhǔn)則。荷蘭技術(shù)哲學(xué)家維貝克（Verbeek，P.P）提出技術(shù)對人類行為有調(diào)節(jié)作用，設(shè)計活動天然包含一種倫理導(dǎo)向和倫理意義，因此，人工智能的設(shè)計也包含了道德倫理的因素。在人工智能設(shè)計過程中就需要將正義等道德因素嵌入機器人的設(shè)計過程當(dāng)中，“如果倫理學(xué)是關(guān)于人如何行動的，設(shè)計師幫助塑造技術(shù)如何調(diào)節(jié)人的行為，那么設(shè)計應(yīng)該被視為‘做倫理學(xué)的一種物化形式。”[16]91首先，使人工智能的設(shè)計與人類的社會價值觀保持一致；其次，人工智能設(shè)計還要研究如何善用和阻止惡用人工智能，使人工智能造福于人類。

綜上所述，在智能機器的設(shè)計、研制和發(fā)展進(jìn)程中，我們應(yīng)注重科學(xué)與倫理求真與求善的協(xié)調(diào)發(fā)展，重視設(shè)計倫理和過程監(jiān)控，規(guī)范和約束智能機器的發(fā)展，保證智能機器技術(shù)更好地為人類所用，使智能機器人更好地服務(wù)于人類社會。同時，在機器人研制、設(shè)計等過程中應(yīng)與倫理緊密聯(lián)系，重構(gòu)人工智能責(zé)任體系以及建立人工智能倫理規(guī)則，注重程序正義和結(jié)果正義。在人工智能發(fā)展設(shè)計之初就應(yīng)該為其注入一顆“良芯”，這樣才能有效規(guī)避人工智能技術(shù)風(fēng)險與社會風(fēng)險。

參考文獻(xiàn)：

[1]Allen Newell，H.A.Simon.Computer Simulation of Hu-man Thinking（M）.Santa monica：The RAND Corporation，1961.

[2]瑪格麗特·博登.人工智能哲學(xué)[M].劉西瑞，王漢琦，譯.上海：上海譯文出版社，2001.

[3]Ihde D.Technology and the Lifeworld：From Garden toEarth[M].Bloomington：Indiana University Press，1990.

[4]Poel I V D，Verbeek P P.Ethics and engineering design[J].Science Technology&Human; Values，2006（3）：223-236.

[5]Simon H A.The sciences of the artificial[M].Cam-bridge：MIT press，1996.

[6]Wright G H V.Practical Inference[J].PhilosophicalReview，1963（2）：159-179.

[7]伽達(dá)默爾.科學(xué)時代的理性[M].薛華，等譯.北京：國際文化出版公司，1988.

[8]ICroes P.Coherence of structural and functional de-scriptions of technical artefacts[J].Studies in History&Philos-ophy; of Science Part A，2006（1）：137-151.

[9]Wendell Wallach &Colin; Allen.Moral Machines：Teaching Robots Right from Wrong [M].Oxford &New; York：Oxford University Press，2008.

[10]阿西莫夫.銀河帝國8：我，機器人[M].葉李華，譯.南京：江蘇文藝出版社，2012.

[11]Poel I V D.Translating Values into Design Require-ments[M].Philosophy and Engineering： Reflections on Pray-tice，Principles and Process.Springer Netherlands，2013.

[12]約翰·羅爾斯.正義論[M].何懷宏，等譯.北京：中國社會科學(xué)出版社，1988.

[13]Verbeek P P.Accompanying technology：Philosophyof technology after the empirical turn[J].TechnB：Research inPhilosophy and Technology，2010（1）：49-54.

[14]Anderson M.Machine Ethics[M].Cambridge：Cam-bridge University Press，2011.

[15]Asaro P M.What Should We Want From a Robot Eth-ic？[J].International Review of Information Ethics， 2006（6）：2-8.

[16]Verbeek P P.Moralizing Technology：Understandingand Designing the Morality of Things[M].Chicago and Lon-don：The University of Chicago Press，2011.