劉 星

道德心理學(xué)和決策心理學(xué)的研究表明，直覺和情感在大多數(shù)時(shí)候驅(qū)動(dòng)著我們的判斷和決策，而其方式通常不能令人滿意。根據(jù)我們自覺的道德目標(biāo)和原則，我們經(jīng)?！安坏赖碌亍被蛑辽僖圆坏赖碌姆绞脚袛嗪托惺拢?］（367-392）。很多時(shí)候，個(gè)體帶有錯(cuò)誤的道德信仰、缺乏道德判斷的關(guān)鍵信息和道德偏見等原因，很容易得出錯(cuò)誤的道德判斷，進(jìn)而阻止個(gè)體作出正確的道德選擇。例如，假如你有遵守環(huán)保的道德承諾，所以你希望把杯子投放到正確的垃圾箱中，盡管你的道德承諾很簡(jiǎn)單，但你通常無(wú)法根據(jù)自己的道德標(biāo)準(zhǔn)作出正確的選擇?？赡苡捎谀悴淮_切知道杯子的材料，你經(jīng)常把杯子丟到錯(cuò)誤的垃圾箱中，而達(dá)不到自己的道德標(biāo)準(zhǔn)。你可能致力于社會(huì)公正或減輕動(dòng)物痛苦，因此，你可能想購(gòu)買正宗的公平貿(mào)易產(chǎn)品或正宗的散養(yǎng)雞蛋。但是，當(dāng)你在超市時(shí)，你沒有時(shí)間和精力來(lái)收集和處理所需的所有信息，以便與你的原則保持一致。你可能會(huì)根據(jù)包裝上的圖像或顏色購(gòu)買產(chǎn)品，同樣你的選擇達(dá)不到你自己的道德標(biāo)準(zhǔn)。各種各樣的例子都顯示出關(guān)于人類的簡(jiǎn)單事實(shí)：我們通常無(wú)法作出符合自己的道德目標(biāo)的選擇，尤其是當(dāng)我們必須在短時(shí)間內(nèi)或緊急情況下作出決定時(shí)。因此，情感和直覺的判斷通常會(huì)取代信息的收集、反思和計(jì)算［2］（170）。簡(jiǎn)而言之，我們是次優(yōu)信息處理者、道德判斷者和道德主體。

在本文中，我們描述了一種“人工智能道德顧問(wèn)”形式，即一種基于道德標(biāo)準(zhǔn)的軟件，它將比我們的大腦更快、更有效地向我們提供道德建議。例如，我們告訴它要作出環(huán)境友好的選擇之后，它將告訴我們將空杯子準(zhǔn)確丟到哪里；關(guān)心動(dòng)物福利時(shí)，它將告訴我們要購(gòu)買哪些雞蛋。更廣泛地說(shuō)，它將幫助我們進(jìn)行許多道德選擇，因?yàn)槲覀冇姓J(rèn)知局限性，我們很可能無(wú)法達(dá)到自己的道德標(biāo)準(zhǔn)。這種道德人工智能不僅可以在實(shí)際應(yīng)用中使我們的判斷和行動(dòng)與我們明確的道德目標(biāo)更加一致，而且在哲學(xué)上也將是一種有趣的技術(shù)，因?yàn)樗梢詫?shí)現(xiàn)“理想觀察者”的準(zhǔn)相對(duì)論版本，從而彌補(bǔ)人類道德動(dòng)機(jī)及其實(shí)現(xiàn)目標(biāo)之間的信息缺口，具有可及的現(xiàn)實(shí)基礎(chǔ)和應(yīng)用價(jià)值。但是，由于個(gè)體道德判斷和道德行為的復(fù)雜性，以及情感和直覺等各種因素的角色和影響，在缺乏必要的信息解釋和合理性反思時(shí)，人工智能道德顧問(wèn)也可能陷入倫理爭(zhēng)議，這是本文致力于解決的重點(diǎn)內(nèi)容。

一、問(wèn)題緣起：人工智能道德顧問(wèn)與理想觀察者

1952 年，羅德里克·費(fèi)斯（Roderick Firth）在論文《道德絕對(duì)主義和理想觀察者》中提出了著名的理想觀察者理論。經(jīng)典的“理想觀察者”理論認(rèn)為，與其他類型陳述不同，道德陳述是一位“理想觀察者”以某種方式作出反應(yīng)的陳述，也即如果一個(gè)完全知情的、智力沒有缺陷的、有道德的觀察者認(rèn)為該行為是正確的（該信念是合理的），那么在特定情況下，行為是正確的［3］（198）。費(fèi)斯的“理想觀察者”的特征是：（1）對(duì)非道德事實(shí)無(wú)所不知；（2）全知全能（有能力同時(shí)可視、想象和使用所有信息）；（3）無(wú)私；（4）冷靜；（5）始終如一；（6）在所有其他方面正常［2］（170-172）。

理論上講，這種基于道德絕對(duì)主義的理想觀察者需要對(duì)非道德事實(shí)無(wú)所不知且無(wú)所不能，客觀、公正、冷靜且始終如一，而不是僅僅知道與道德相關(guān)的事實(shí)。這種理想的能力設(shè)置，導(dǎo)致理想觀察者只能存在理論層面，不具有現(xiàn)實(shí)基礎(chǔ)和應(yīng)用價(jià)值。實(shí)際上，理想觀察者不可能是人類，有限的人類與理想觀察者相去甚遠(yuǎn)，因?yàn)槲覀儫o(wú)法收集或使用所有相關(guān)信息，并且不能保持公正和不受情緒的扭曲或影響。

2015 年，朱利安·賽維勒司庫(kù)（Julian Savulescu）和漢納·馬斯倫（Hannah Maslen）在一篇題為《道德增強(qiáng)和道德人工智能》的文章中曾提出“道德人工智能”理論［4］（79-94）。在此背景下，2018 年阿爾伯托·朱比利尼（Alberto Giubilini）和朱利安·賽維勒司庫(kù)（Julian Savulescu）在《人工智能道德顧問(wèn)：“理想觀察者”遇上人工智能》的文章中描述了一種基于道德標(biāo)準(zhǔn)的軟件，它比我們的大腦更快，更有效地向我們提供道德建議，幫助我們進(jìn)行道德選擇，從而實(shí)現(xiàn)“理想觀察者”的準(zhǔn)相對(duì)論版本，也即更好地接近“理想觀察者”的人工智能道德顧問(wèn)（Artificial Moral Advisor，AMA）。

通常，此類技術(shù)基于環(huán)境智能，即一種主要通過(guò)“上下感知”起作用的人工智能形式。換句話說(shuō)，它可以通過(guò)數(shù)字對(duì)自然的和用戶環(huán)境中的物理實(shí)體進(jìn)行建模，并對(duì)相關(guān)信息進(jìn)行持續(xù)的解釋和分類，從而對(duì)這些信息進(jìn)行識(shí)別和理解，通過(guò)與人的交互進(jìn)行響應(yīng)，以定義和服務(wù)特定的需求。根據(jù)阿爾伯托和朱利安兩位教授的描述，AMA 能夠收集環(huán)境信息，依照我們的操作標(biāo)準(zhǔn)（道德標(biāo)準(zhǔn)，道德價(jià)值觀、目標(biāo)和原則等）處理信息，提供道德上最好的建議，使我們能夠（幾乎）作出最佳的道德選擇，從而幫助人們根據(jù)自己的道德標(biāo)準(zhǔn)成為更好的道德主體［2］（172）。但與“理想觀察者”不同，AMA 不是道德絕對(duì)主義的理論建構(gòu)，而是基于個(gè)體道德價(jià)值觀的操作系統(tǒng)，它致力于尊重并確定增強(qiáng)個(gè)人的道德自主權(quán)。

在此理論預(yù)設(shè)下，AMA 引起了道德理論家們的廣泛關(guān)注，褒揚(yáng)和批評(píng)相伴而生。對(duì)AMA 的質(zhì)疑主要有：它是否限制個(gè)體自主性從而妨礙道德自由？它是否引致道德增強(qiáng)從而挑戰(zhàn)人的“自然性”和人類尊嚴(yán)，包括“自舉問(wèn)題”、違反直覺，以及是否導(dǎo)致道德相對(duì)主義？它是否影響個(gè)體意志和情感等因素從而擾亂行為主體道德責(zé)任判定？這些問(wèn)題既是AMA 社會(huì)運(yùn)用合理性反思的核心內(nèi)容，也是其道德價(jià)值評(píng)判的重要參照。

二、人工智能道德顧問(wèn)與道德自由

所謂道德，就是“以善惡評(píng)價(jià)為標(biāo)準(zhǔn)，依靠社會(huì)輿論、傳統(tǒng)習(xí)慣和內(nèi)心信念的力量來(lái)調(diào)整人們之間相互關(guān)系的行為原則和規(guī)范的總和”［5］（221）。道德本質(zhì)上是需要以人的社會(huì)關(guān)系為載體并致力于處理好人際社會(huì)關(guān)系的［6］（29-30）。自由是指具有自主行為能力的個(gè)體能夠自我決策，在給定情境中能夠不受內(nèi)在外在因素強(qiáng)制，作出一種與既定選擇完全不同的選擇［7］（86-88）。從個(gè)體角度看，自由有行為自由與意志自由，意志自由是內(nèi)在基礎(chǔ)而行為自由是外在表現(xiàn)。意志自由的首要環(huán)節(jié)是“能夠樂意”，也即能夠自我決定，當(dāng)事人是自主的和自由的；行動(dòng)就是達(dá)到意志設(shè)定目的的手段，行為自由體現(xiàn)意志自由，真實(shí)的意志自由總是邏輯地內(nèi)涵一種行動(dòng)設(shè)置［8］（10-12）。理論上講，意志與行動(dòng)之間是連續(xù)性的，但是事實(shí)上，由于個(gè)體意志運(yùn)行關(guān)涉到復(fù)雜的行為方式和內(nèi)外環(huán)境，自由個(gè)體的信念、愿望的設(shè)定及其目標(biāo)實(shí)現(xiàn)之間，卻并非總是連續(xù)的譜系。

道德自由問(wèn)題實(shí)質(zhì)是指?jìng)€(gè)體自由的社會(huì)實(shí)現(xiàn)問(wèn)題，其本質(zhì)是行為自由也即道德領(lǐng)域或范圍內(nèi)的有限自由。與此不同，道德自主是個(gè)體道德范疇內(nèi)的自主和自控狀態(tài)，是道德自由的基礎(chǔ)。道德自由一定是道德自主的，但道德自主卻不一定是道德自由的，自主只表明道德主體求善棄惡的努力自控狀態(tài)，至于能否達(dá)到游刃有余、隨心所欲的道德自由高級(jí)境界則不一定［6］（22-27）。換句話說(shuō)，意志自由奠定了行為自由，行為自由彰顯了道德自由，道德自由是道德自主的高級(jí)境界。

影響個(gè)體道德自主狀態(tài)的因素有很多。某些情況下，道德個(gè)體會(huì)不適當(dāng)?shù)匦袆?dòng)或產(chǎn)生不適當(dāng)?shù)男拍?，因?yàn)樗狈τ嘘P(guān)自身認(rèn)知情境的重要信息，這些信息與個(gè)體彼時(shí)的行動(dòng)信念高度相關(guān)。有鑒于此，我們將不能充分可靠地認(rèn)定道德個(gè)體的行為都是道德的，并且我們通常無(wú)法作出符合自己道德目標(biāo)的選擇。特別是在緊急情況下或短時(shí)間內(nèi)，情感和直覺的判斷通常取代信息的收集、反思和計(jì)算。簡(jiǎn)而言之，我們是次優(yōu)信息處理者、道德判斷者和道德主體［2］（170）。在我們經(jīng)常無(wú)法獲取理性或道德決策所需的所有相關(guān)信息的層面上，我們是次優(yōu)的信息處理者。有時(shí)，由于我們沒有足夠的時(shí)間或認(rèn)知資源，我們無(wú)法獲得這些信息；有時(shí)，我們掌握了這些信息，由于直覺和情感的影響，我們未能給予適當(dāng)?shù)呐袛?。例如，由于害怕某個(gè)結(jié)果發(fā)生，我們會(huì)認(rèn)為它比實(shí)際更有可能發(fā)生。有時(shí)，即使我們可以根據(jù)所有相關(guān)信息作出最佳判斷，但意志或特定神經(jīng)生理狀態(tài)阻止我們采取相應(yīng)的行動(dòng)。例如，我們的動(dòng)機(jī)可能受到許多無(wú)法控制的生理因素影響，使我們變得激進(jìn)或偏執(zhí)，從而脫離應(yīng)有的道德軌跡。因此，似乎設(shè)立一個(gè)全知全能的、公正無(wú)私的和始終如一的理想觀察者的角色，從而幫助個(gè)體化解道德沖突是十分必要的。

根據(jù)阿爾伯托等人的預(yù)設(shè)，AMA 可以向代理人提出一系列問(wèn)題，以了解代理人的道德價(jià)值觀，并制定出適合該代理人的一套道德規(guī)則，這些規(guī)則可以用來(lái)提供個(gè)性化的道德規(guī)范與將來(lái)的建議。因而這種相對(duì)論的AMA 可能比專制的理想觀察者更可?。?］（175-176）。例如，當(dāng)我想找到一家好的餐廳時(shí)，AMA 編程會(huì)詢問(wèn)我是否要考慮任何特定標(biāo)準(zhǔn)（如動(dòng)物福利、公平貿(mào)易等），從而為我提供一系列可能的道德標(biāo)準(zhǔn)與選擇。根據(jù)我的回答，AMA 還將記錄我的道德規(guī)則，并在將來(lái)為我選擇最合乎我的道德規(guī)則的餐廳。當(dāng)然，每個(gè)主體都有不同的參數(shù)來(lái)指導(dǎo)AMA，并根據(jù)不同的道德標(biāo)準(zhǔn)選擇AMA 編程。因?yàn)槿藗儗?duì)什么是“道德的”有不同的看法，因此，不同的AMA 會(huì)收集不同類型的事實(shí)信息，這取決于對(duì)事實(shí)的道德相關(guān)性的不同標(biāo)準(zhǔn)，如自由主義、保守主義、功利主義、道義論、混合論或其他。最終AMA 建議的呈現(xiàn)形式為：“如果這些是你的原則（如減輕動(dòng)物痛苦），那么你應(yīng)該做X（選擇特定餐廳）?！?/p>

當(dāng)然，AMA 收集信息和道德運(yùn)算的標(biāo)準(zhǔn)依據(jù)個(gè)體的自由選擇，AMA 所提供的建議能否被個(gè)體踐行、如何踐行以及踐行的程度，也取決于用戶的自主決定。通過(guò)AMA 軟件的建模和使用，我們收集足夠的認(rèn)知資源，排除情感和直覺的影響，經(jīng)過(guò)審慎的反思平衡，自主地堅(jiān)持道德原則，從而使自己成為更好的道德主體。因此，AMA 可幫助人們突破“有限的存在者”的局限，在信息獲取、身體功能和思維方式以及現(xiàn)實(shí)環(huán)境和主體自身的限制方面，增強(qiáng)個(gè)體的道德自主性并保證其最大化的道德自由。

三、人工智能道德顧問(wèn)與道德增強(qiáng)

研究表明，通過(guò)調(diào)節(jié)某些神經(jīng)生理狀態(tài)包括情緒以增強(qiáng)人類的道德素養(yǎng)或認(rèn)知能力是可能的，比如攝入催產(chǎn)素（Oxytocin）促進(jìn)諸如信任、同情、慷慨等親社會(huì)態(tài)度；適度使用選擇性血清素再吸收抑制劑（SSRIs）能增強(qiáng)人的公平意識(shí)與合作意愿；通過(guò)深層腦刺激降低侵略性等［9］（47-49）。這種通過(guò)藥物手段或技術(shù)方法修正人的情感動(dòng)機(jī)或認(rèn)知能力從而達(dá)到道德增強(qiáng)目的的方法，被稱為生物道德增強(qiáng)。然而，道德增強(qiáng)一直招致反駁，理由包括人的自由、人格同一性、公正性和自然主義等方面。比如有人聲稱，人類的生物增強(qiáng)不能“不受限制地開放”，否則，我們將無(wú)法完全欣賞我們生命的天賦，因其損害了我們的真實(shí)性或者人類的尊嚴(yán)，無(wú)法保存人性價(jià)值包括人類的自然局限性。

道德增強(qiáng)的倫理爭(zhēng)議有兩種基本進(jìn)路：第一是強(qiáng)調(diào)干預(yù)措施的預(yù)期結(jié)果，包括情感增強(qiáng)、認(rèn)知增強(qiáng)或神經(jīng)增強(qiáng)等干預(yù)措施，它們導(dǎo)致的增強(qiáng)結(jié)果是否可逆，是否附帶安全性風(fēng)險(xiǎn)，以及是否造成個(gè)體同一性和自主性的喪失等問(wèn)題；第二是基于干預(yù)手段的內(nèi)在錯(cuò)誤，比如基因編輯和基因工程等技術(shù)手段，它們可能涉及“扮演上帝”或違背人性等問(wèn)題。而作為實(shí)現(xiàn)道德增強(qiáng)目的的一種外部技術(shù)，在不涉及上述道德內(nèi)部增強(qiáng)的相關(guān)爭(zhēng)議的情況下（下文另述），AMA 可能面臨以下三個(gè)逐漸遞進(jìn)的問(wèn)題：

第一，“自舉問(wèn)題”。“自舉問(wèn)題”是指，如果我們通過(guò)干預(yù)神經(jīng)生理機(jī)制以提高個(gè)體道德能力，我們將沒有獨(dú)立的角度（參照）評(píng)估這種增強(qiáng)的成功性［10］（597-798）。AMA 涉及“自舉問(wèn)題”的推理如下：首先，假如我們認(rèn)為改變某些道德傾向會(huì)以不受歡迎的方式改變我們的道德心理，例如使我們過(guò)于功利或太富同情感，那么對(duì)道德判斷的持續(xù)監(jiān)控和評(píng)價(jià)，以及控制道德傾向改變的能力是非常重要的。其次，AMA 的道德建議方式同樣發(fā)揮著對(duì)道德判斷的持續(xù)監(jiān)控和評(píng)價(jià)，以及控制道德傾向改變的能力，并且這種能力可能導(dǎo)致個(gè)體神經(jīng)生理機(jī)制的改變。最后，基于神經(jīng)生理機(jī)制干預(yù)和改變基礎(chǔ)的道德增強(qiáng)后的個(gè)體，因?yàn)閮?nèi)省能力有限，因此可能無(wú)法理性地和客觀地評(píng)價(jià)某種道德傾向是否以期望或欲望的方式得到了增強(qiáng)，也即無(wú)法評(píng)估某種增強(qiáng)的成功性。

“自舉問(wèn)題”本身符合邏輯推理，但據(jù)此針對(duì)AMA 道德增強(qiáng)的反駁卻存在以下問(wèn)題：首先，作為提供道德建議的外部道德增強(qiáng)手段，AMA 與傳統(tǒng)的教育或?qū)W習(xí)工具（計(jì)算機(jī)）并無(wú)本質(zhì)區(qū)別，在道德保守主義不反對(duì)通過(guò)傳統(tǒng)手段使人們變得更聰明或更道德的情況下，針對(duì)AMA 道德增強(qiáng)的攻擊或詰難需要提供更多的“舉證”或更充足的理由；其次，通過(guò)道德判斷的持續(xù)監(jiān)控和評(píng)價(jià)，以及控制道德傾向的改變，AMA 可能導(dǎo)致個(gè)體神經(jīng)生理機(jī)制的改變，但這種改變的效力和可能性與權(quán)威的“道德專家建議”殊途同歸，在可能性轉(zhuǎn)變?yōu)楝F(xiàn)實(shí)性前，針對(duì)這種“渺茫預(yù)期”的負(fù)面評(píng)判是蒼白無(wú)力的；最后，在暫且懸置AMA 道德增強(qiáng)的道德正當(dāng)性評(píng)價(jià)的情況下，AMA 道德增強(qiáng)的效果評(píng)價(jià)或增強(qiáng)的成功性評(píng)價(jià)也并非僅僅依賴于個(gè)體內(nèi)省，還可依據(jù)個(gè)體道德的縱向的前后對(duì)照評(píng)價(jià)以及橫向的道德他評(píng)等手段。綜上，有關(guān)AMA 道德增強(qiáng)的“自舉問(wèn)題”詰難是站不住腳的。

第二，AMA 的建議違反直覺或過(guò)分要求。據(jù)推測(cè)，AMA 有時(shí)會(huì)帶來(lái)違反直覺的響應(yīng)。AMA 旨在彌補(bǔ)我們的直覺和情感的道德心理的局限性，這是可以預(yù)料的，但在這種情況下AMA 將是無(wú)用的，因?yàn)槿藗儾辉敢庹J(rèn)可或采取違反直覺的道德判斷［2］（179-181）。例如，如果我想以一種功利主義的方式變得無(wú)私，AMA 會(huì)經(jīng)常建議我做一些我的直覺認(rèn)為是過(guò)度屈服的事情，比如捐贈(zèng)大部分財(cái)產(chǎn)，而這與我的道德原則或判斷方向是不一致的。

正如作者所言，AMA 的違反直覺的響應(yīng)或道德建議會(huì)促進(jìn)我們?cè)谥庇X和建議之間取得平衡，達(dá)到“反思性平衡”，進(jìn)而幫助人們突破“有限的存在者”或“次優(yōu)的信息處理者”的局限，這正是它的優(yōu)勢(shì)或價(jià)值所在。因?yàn)槲覀冎械拇蠖鄶?shù)人不能平衡不同的相互競(jìng)爭(zhēng)的基本原則。例如，道德心理學(xué)研究表明，自由主義者和保守主義者的道德方法基于不同的直覺和情感基礎(chǔ)［11］（98-99）。

具體來(lái)說(shuō)，反思性平衡有狹義和廣義兩個(gè)層面。從狹義上講，反思性平衡是指?jìng)€(gè)體的判斷和基于某些道德觀點(diǎn)（如平等主義、功利主義或宗教觀點(diǎn)）的道德原則保持某種程度的一致性。從廣義上講，反思性平衡需要個(gè)體在不同的道德觀點(diǎn)之間取得平衡（比如功利主義與平等主義、功利主義與道義論、功利主義與宗教主義）［12］。AMA 的響應(yīng)將是幫助個(gè)體達(dá)到反思平衡狀態(tài)的外部貢獻(xiàn)。更準(zhǔn)確地說(shuō)，AMA 違反直覺的響應(yīng)會(huì)在動(dòng)力學(xué)中引入新的元素，通過(guò)該元素我們可以平衡相關(guān)的判斷和原則。AMA 的違反直覺的響應(yīng)會(huì)促進(jìn)我們質(zhì)疑自己的判斷和原則或者堅(jiān)持的基本道德理論，通過(guò)審慎思考從而進(jìn)行相關(guān)的調(diào)整，包括調(diào)整判斷和原則，甚至是改變道德觀點(diǎn)或AMA 的違反直覺的響應(yīng)編程。

第三，道德相對(duì)主義危險(xiǎn)。從認(rèn)識(shí)上看，道德相對(duì)主義認(rèn)為我們沒有普遍性和普適性的道德規(guī)范、道德原則甚至是道德體系，道德總是在特定的時(shí)代、社會(huì)、民眾和文化中才是確定的和有效的，不存在普遍有效的和必不可少的道德規(guī)范與道德價(jià)值，因此沒有合理的方法來(lái)解決或評(píng)價(jià)不同文化的道德習(xí)俗所產(chǎn)生的根本道德分歧［13］（23）。AMA 的編程或操作標(biāo)準(zhǔn)依賴于用戶的道德價(jià)值觀及自主選擇，因此無(wú)論用戶是圣人還是精神病患者，是利己主義的還是利他主義的，AMA 都將為其同樣有效地工作。但鑒于道德多元化和同一道德價(jià)值的理解差異，AMA 輸入的操作標(biāo)準(zhǔn)對(duì)相同社會(huì)的不同個(gè)體而言，或不同社會(huì)文化的不同群體而言，其道德正當(dāng)性是不同的。因此AMA 需要處理三個(gè)最基本的問(wèn)題：

首先，不道德目標(biāo)的執(zhí)行風(fēng)險(xiǎn)。如果用戶利用這種技術(shù)來(lái)追求邪惡的或不道德的目標(biāo)，AMA 如何執(zhí)行？作者認(rèn)為，AMA 致力于為我們調(diào)整原則和判斷作貢獻(xiàn)，在操作標(biāo)準(zhǔn)編程時(shí)接受盡量廣泛的道德標(biāo)準(zhǔn)，同時(shí)使用基本的“道德過(guò)濾器”以限制作為輸入的操作標(biāo)準(zhǔn)范圍，比如相互尊重、寬容、保護(hù)人的生命等，無(wú)論某些人或道德體系是否承認(rèn)這些基本原則，他們都將得到執(zhí)行［2］（180-182），從而確?；镜牡讓釉瓌t之上的個(gè)體自由的道德選擇，換句話說(shuō)，即使個(gè)體沒有對(duì)道德的基本承諾，AMA 也不會(huì)使其更加不道德。

其次，道德規(guī)范的優(yōu)先性問(wèn)題。因?yàn)闆]有普遍性和普適性的道德規(guī)范、道德原則甚至是道德體系，道德總是相關(guān)于特定的時(shí)代、社會(huì)、民眾和文化，因此在設(shè)定AMA 時(shí)，不同個(gè)體將會(huì)面臨道德規(guī)范的選擇以及如何權(quán)衡不同道德規(guī)范的優(yōu)先性的問(wèn)題，原因如下：（1）不是所有人都有基本的道德承諾，他們?cè)谶x擇AMA 編程的不同道德標(biāo)準(zhǔn)時(shí)可能面臨困境，例如利己或利他等；（2）即便某些人擁有基本的道德承諾，選擇了特定道德標(biāo)準(zhǔn)的AMA，依然會(huì)在不同民眾和文化中因道德規(guī)范的相對(duì)性而面臨道德規(guī)范的執(zhí)行困境。針對(duì)這個(gè)反駁，筆者認(rèn)為道德相對(duì)主義是AMA 不可否認(rèn)的立場(chǎng)，我們暫時(shí)不需要思考道德相對(duì)主義的對(duì)錯(cuò)問(wèn)題。在AMA 編程設(shè)計(jì)時(shí)，我們會(huì)通過(guò)提問(wèn)的方式確定適用于個(gè)人的道德守則，可以咨詢一些道德專家以確保它的建議始終符合這些基本的道德原則；通過(guò)顯示行為的全部后果和影響來(lái)促進(jìn)這種道德守則，同時(shí)也提供替代的行動(dòng)路線或道德價(jià)值觀的建議。在更完善的版本中，AMA 可以被編程來(lái)提供不同情況下道德模范或領(lǐng)導(dǎo)者選擇了什么，努力接近理性的主體間性；AMA 甚至可以結(jié)合個(gè)體的道德和心理來(lái)促進(jìn)更客觀的道德規(guī)范的發(fā)展，理想情況下它可以充當(dāng)?shù)赖骂檰?wèn)，甚至是勸導(dǎo)者。也就是說(shuō)，AMA 可以判斷個(gè)體基本的道德守則，并在不同情況下給予道德建議，甚至充當(dāng)?shù)赖骂檰?wèn)和勸導(dǎo)者，但它不會(huì)威脅個(gè)體的道德理性和道德權(quán)威。

最后，道德沖突的權(quán)威判定。道德相對(duì)主義認(rèn)為，當(dāng)不同文化的根本道德原則發(fā)生沖突時(shí)，我們沒有客觀的標(biāo)準(zhǔn)可以用來(lái)判斷它們的優(yōu)劣，也沒有辦法對(duì)它們的權(quán)威性或合法性進(jìn)行客觀的辯護(hù)［14］（12）。按照道德相對(duì)主義的理解，即使AMA 采用并促進(jìn)了個(gè)體的基本道德承諾，它也無(wú)法為個(gè)體面臨的可能道德沖突提供客觀的判斷和辯護(hù)。筆者認(rèn)為，這種反駁對(duì)AMA 要求過(guò)高且不符合它的功能定位。人類擁有豐富的道德生活，并且有實(shí)施高尚行為的能力，AMA 不會(huì)篡奪或超越人類的道德權(quán)威，它只致力于尊重并切實(shí)增強(qiáng)個(gè)人的道德自主性。道德相對(duì)主義不承認(rèn)任何道德原則都是有效的和真實(shí)的，也與共同體成員間的契約形式的道德體系不同，但在實(shí)踐層面我們需要關(guān)注的是人們的行為的約束性，有無(wú)客觀的道德標(biāo)準(zhǔn)都無(wú)法拋開對(duì)人們行為約束的實(shí)用性或政治性目的，因此，我們最高的目的是規(guī)范不同人的共同生活，這并不需要基于元倫理學(xué)的道德規(guī)范的客觀性考核。

四、人工智能道德顧問(wèn)與道德責(zé)任

傳統(tǒng)的道德責(zé)任理論通常認(rèn)為，道德責(zé)任的必要前提是個(gè)體自由，特別是個(gè)體的意志自由?！爸挥挟?dāng)我們的行動(dòng)在某種意義上是自由的行動(dòng)時(shí)，我們才能說(shuō)對(duì)我們自己的行動(dòng)負(fù)責(zé)?！保?5］（10-16）因此，道德責(zé)任的充分賦予是以一個(gè)人的行動(dòng)是否自由為條件并以其意志是否自由為前提的。在現(xiàn)實(shí)生活中，意志自由并非一種完全不受任何限制的絕對(duì)自由，它有時(shí)由主體的身體、心智能力等決定?！笆挛镉写嬖跅l件就必有依賴性，主體的大腦結(jié)構(gòu)、身體功能、思維方式、行為方式、親身經(jīng)歷、信息獲取等，都直接限制甚至規(guī)定著主體的意志的形成。”［6］（24）主體自身既有的物質(zhì)條件和精神狀況影響和限制著大腦活動(dòng)。因而與AMA 相關(guān)的個(gè)體道德責(zé)任判定問(wèn)題，則主要取決于它對(duì)個(gè)體的行動(dòng)和意志發(fā)揮作用的三個(gè)方面。

第一，AMA 對(duì)意志的作用。道德作為一種社會(huì)現(xiàn)象，是社會(huì)個(gè)體應(yīng)對(duì)現(xiàn)實(shí)限制的一種智慧選擇。人作為道德行為主體，其承擔(dān)道德責(zé)任的關(guān)鍵是擁有意志的完全自由狀態(tài)，這是傳統(tǒng)道德責(zé)任判斷的基本預(yù)設(shè)，其前提是意志等同于個(gè)體理性。但研究表明，理性不同于意志，理性是一種穩(wěn)定的思維能力，而意志包含理性、情感、無(wú)意識(shí)和潛意識(shí)等內(nèi)容。理性與價(jià)值相互交融，理性的深思往往關(guān)聯(lián)著價(jià)值的關(guān)懷，理性的認(rèn)知往往負(fù)載著價(jià)值的評(píng)估［16］（102）；而意志會(huì)受到許多無(wú)法控制的生理因素的影響，比如，通過(guò)調(diào)節(jié)某些神經(jīng)生理狀態(tài)包括情緒等影響人類的意志能力是可能的，對(duì)此上文已有詳細(xì)論述。因此，意志既包括自由彌散的心智狀態(tài)，也包含穩(wěn)定的理性思維能力。從AMA 對(duì)意志的作用而言，關(guān)鍵的問(wèn)題是AMA 是否能夠影響個(gè)體意志狀態(tài)，同時(shí)這種作用或影響是否被社會(huì)允許或認(rèn)同。研究表明，通過(guò)道德判斷的持續(xù)監(jiān)控和評(píng)價(jià)，以及控制道德傾向的改變，AMA 可能導(dǎo)致個(gè)體神經(jīng)生理機(jī)制的改變，從而影響個(gè)體意志狀態(tài)［2］（177-179），但這種作為提供道德建議的外部道德增強(qiáng)手段，并不會(huì)直接干預(yù)并左右大腦內(nèi)部神經(jīng)生理機(jī)制，與“道德專家建議”、傳統(tǒng)的教育以及自主學(xué)習(xí)的外部潛移默化的培育并無(wú)本質(zhì)區(qū)別，應(yīng)得到傳統(tǒng)教育同等的價(jià)值認(rèn)同和對(duì)待。因此，從AMA 對(duì)個(gè)體意志的影響尤其在這種作用方式的倫理正當(dāng)性方面來(lái)看，AMA 對(duì)個(gè)體道德責(zé)任的判斷和歸因并不應(yīng)導(dǎo)致額外的爭(zhēng)議，更不會(huì)提供道德責(zé)任評(píng)判免責(zé)的正當(dāng)依據(jù)。

第二，AMA 對(duì)理性的影響。道德責(zé)任是對(duì)道德行為主體自主性和創(chuàng)造性能力的一種要求，這種自主性和創(chuàng)造性能力是道德主體理性能力的具體表現(xiàn)，因此相對(duì)于意志自由，理性更應(yīng)成為道德責(zé)任評(píng)判的合理依據(jù)。同樣地，對(duì)于AMA 而言，關(guān)鍵的問(wèn)題是AMA 是否能夠影響理性，這種作用或影響是否應(yīng)當(dāng)被社會(huì)允許或認(rèn)同。根據(jù)上文論述，AMA 旨在彌補(bǔ)我們的直覺和情感的道德心理的局限性，AMA 有時(shí)會(huì)帶來(lái)違反直覺的響應(yīng)，而這種違反直覺的響應(yīng)或道德建議會(huì)促進(jìn)我們?cè)谥庇X和建議之間達(dá)到“反思性平衡”。換句話說(shuō)，AMA 違反直覺的響應(yīng)引入了新的思考元素，促進(jìn)我們質(zhì)疑原有的判斷和原則，通過(guò)審慎的理性思考和評(píng)估而實(shí)現(xiàn)反思性平衡。總之，AMA 提供了個(gè)體實(shí)現(xiàn)反思性平衡的外部貢獻(xiàn)，這種理性思索的養(yǎng)料供給并不影響個(gè)體的理性自由和自主決策。因此，AMA 對(duì)理性的影響同樣不影響個(gè)體道德責(zé)任評(píng)判和歸因。

第三，AMA 對(duì)情感的考量。事實(shí)上，情感和直覺驅(qū)動(dòng)著我們大多數(shù)的道德和實(shí)踐決策，大多數(shù)人的實(shí)際判斷都基于“影響啟發(fā)”，即直覺和情感上的快速反應(yīng)。通常情況下，情感被認(rèn)為在人類道德中至少發(fā)揮兩項(xiàng)重要的功能：第一項(xiàng)是道德評(píng)價(jià)功能，在休謨主義者看來(lái)，相信某事在道德上是對(duì)的還是錯(cuò)的，歸根結(jié)底是贊成或不贊成的情感態(tài)度；第二項(xiàng)是道德動(dòng)機(jī)功能，情感對(duì)于道德動(dòng)機(jī)是必要的，它在道德判斷和道德行為之間提供了不可或缺的聯(lián)系［2］（183-185）。例如，腦損傷患者顯著地缺乏某些情感（同情、羞恥、內(nèi)疚、悲傷）的矯正功能，他們對(duì)于適當(dāng)?shù)纳鐣?huì)行為有足夠的知識(shí)，但卻不會(huì)按照自己認(rèn)可的應(yīng)當(dāng)去行事。

誠(chéng)然，情感對(duì)于道德的促動(dòng)是必要的，是道德體系的重要組成部分，這是AMA 無(wú)法替代的。但是，使情感和直覺成為我們實(shí)際的與道德的判斷和決定的重要組成部分的特性（自動(dòng)性、不依賴于認(rèn)知資源、最小化精神努力等）也使情緒和直覺不可靠，因?yàn)榍楦泻椭庇X通常也是偏見和其他類型的非理性和不道德判斷的來(lái)源，它們使我們成為“不良的信息處理者”“不良的道德判斷者或不良的道德行為者”。情感狀態(tài)的這些可能的扭曲影響，使我們不僅無(wú)法接受看似合理的道德判斷，而且也無(wú)法據(jù)此采取行動(dòng)。

如何在保持情感的積極作用的同時(shí)避免其負(fù)面影響，提高個(gè)體道德能力以增強(qiáng)道德，成為提升個(gè)體道德水平的緊迫需求。根據(jù)AMA 的編程設(shè)計(jì)，AMA 是客觀的，不受情感影響，僅執(zhí)行不需要情感作用的認(rèn)知功能（收集、建模、解釋和處理信息等）。鑒于情感和直覺在人類道德決策中的局限性，獨(dú)立于情感的扭曲影響是AMA 的目標(biāo)之一，也是人們選擇AMA 的重要原因。與此同時(shí)，基于情感在道德中發(fā)揮的重要作用，從情感上獨(dú)立也是AMA 最受批評(píng)的原因之一。但是，獨(dú)立于情感的編程設(shè)計(jì)并非不考慮情感的積極作用和實(shí)際價(jià)值。參照情感在人類道德心理學(xué)中的兩大作用，AMA 將發(fā)揮相應(yīng)功能：其一，對(duì)于復(fù)雜的推理和計(jì)算，我們沒有足夠的時(shí)間和腦力資源，AMA 將提供“真實(shí)的東西”——信息處理、計(jì)算、預(yù)期效益的權(quán)衡等，從而為個(gè)體提供最優(yōu)的“啟發(fā)式”建議；其二，避免情感無(wú)意識(shí)的自動(dòng)的道德評(píng)判牽引，提供客觀的合理的道德建議［2］（180-182）。在某些情境中，在有意識(shí)的反思之前，情感會(huì)自動(dòng)將我們的注意力吸引到道德相關(guān)的方面（例如，厭惡可能會(huì)將我們的注意力吸引到反社會(huì)行為上，像在公共場(chǎng)合酗酒或違反公序良俗等），如上所述，情感執(zhí)行的這種活動(dòng)方式不可避免地是次優(yōu)的。根據(jù)已有的軟件中的情境建模和分類，AMA 會(huì)立即指出特定情境中的道德相關(guān)方面，從而執(zhí)行相同的更優(yōu)的道德評(píng)判（道德建議）功能。例如，AMA 與情感和神經(jīng)生理檢測(cè)技術(shù)集成，搭建“環(huán)境輔助的情緒調(diào)節(jié)系統(tǒng)”，監(jiān)視神經(jīng)生理狀態(tài)（異常或威脅狀態(tài)），以使我們意識(shí)到情感的可能影響，從而協(xié)助我們更好地進(jìn)行道德判斷和行動(dòng)。綜上所述，對(duì)于道德判斷的啟發(fā)式影響，AMA 與情感發(fā)揮著同樣功能卻提供了更優(yōu)的客觀真實(shí)的道德建議，AMA 編程在情感方面的獨(dú)立設(shè)置，包括情感異常或威脅狀態(tài)的提示，旨在提升個(gè)體自我控制和決策能力以增強(qiáng)道德，同樣不影響個(gè)體道德責(zé)任評(píng)判和歸因。

結(jié)語(yǔ)

無(wú)論是功利主義者還是義務(wù)論者，抑或其他任何道德理論的支持者，在面對(duì)復(fù)雜情況下的行動(dòng)決策時(shí)，都可能出現(xiàn)困難和疑惑。作為有限的人類，我們不能確定已經(jīng)得到了客觀而正確的答案，這并不奇怪，也不是理論的缺陷。由于道德判斷的高度復(fù)雜性以及情感的影響，人類始終服從直覺的命令可能是愚蠢的。在復(fù)雜的情況下，作為人類并不總是能夠肯定地選擇正確的行動(dòng)，這只是我們有限的認(rèn)知和情感能力的反映，也是客觀事實(shí)［17］（362）。作為人類，我們應(yīng)該了解并認(rèn)識(shí)到，是什么決定了我們的道德能力和判斷水平，主要的影響因素是什么，如何排除影響并提升道德自主性和道德水平。

人類擁有令人難以置信的豐富的道德生活，并且有實(shí)施高尚行為的能力，AMA 不會(huì)很快篡奪或超越人類的道德權(quán)威。作為“理想觀察者”的準(zhǔn)相對(duì)論版本，AMA 將收集與道德相關(guān)的信息進(jìn)行處理并根據(jù)用戶道德目標(biāo)返回道德建議。AMA 能夠增強(qiáng)個(gè)體的道德自主性并保證最大化的道德自由，其方式有望比生物道德增強(qiáng)技術(shù)更加有效且爭(zhēng)議較小；AMA 旨在彌補(bǔ)我們的道德心理的局限性，幫助我們達(dá)到“反思性平衡”；AMA 在信息處理、計(jì)算、預(yù)期效益的權(quán)衡等方面將提供客觀合理的道德建議，從而避免被情感的無(wú)意識(shí)的道德評(píng)判牽引?？傊?，我們應(yīng)該承認(rèn)自身的道德局限性并利用自身的人工智能的編程長(zhǎng)處，拋棄傳統(tǒng)固有的對(duì)新興技術(shù)的刻板的警惕，利用強(qiáng)大的認(rèn)知能力以更加開放的姿態(tài)開發(fā)技術(shù)來(lái)“克服我們的局限性”，從而全面開發(fā)并實(shí)現(xiàn)我們作為道德主體的潛力。