陳星伊，趙男兵，刁景華

(1. 海軍勤務(wù)學(xué)院 海防工程系，天津 濱海新區(qū) 300457；2. 北京疾病預(yù)防控制中心，北京 西城區(qū) 100035；3. 海軍勤務(wù)學(xué)院 教學(xué)考評中心，天津 濱海新區(qū) 300457)

0 引言

隨著新型芯片和機(jī)器學(xué)習(xí)算法等智能技術(shù)的不斷發(fā)展，推動著智能時代的到來，自動機(jī)器人、無人駕駛汽車和自主武器等智能機(jī)器開始廣泛應(yīng)用于人類的生活生產(chǎn)中。2021年9月，國家新一代人工智能治理專業(yè)委員發(fā)布《新一代人工智能倫理規(guī)范》，深化將倫理道德融入人工智能。智能機(jī)器通過傳感器和通信手段收集信息來計算外界環(huán)境狀態(tài)，利用編程語言設(shè)定的規(guī)定動作，自動做出反應(yīng)，實現(xiàn)各種動作，這些機(jī)器具有了情況評估和決策分析判斷的自主行為。因此，我們在開發(fā)具有自動決策功能的智能機(jī)器時，不得不將工程技術(shù)倫理問題考慮其中，使其滿足人類的倫理關(guān)系與法則，降低濫用帶來的風(fēng)險。

1 智能機(jī)器相關(guān)倫理問題

一般認(rèn)為，與智能機(jī)器相關(guān)的基本倫理學(xué)主要有三類：一是規(guī)范倫理學(xué)(Normative ethics)，即通過某些特定的倫理規(guī)范來判斷一個人或一個行為；二是元倫理學(xué)(Meta-ethics)，即規(guī)范倫理和應(yīng)用倫理中所使用的公理概念；三是應(yīng)用倫理學(xué)(Applied ethics)，即處理特定領(lǐng)域中實際情況時的倫理要求。

George Edward Moore將倫理分為規(guī)范倫理學(xué)和元倫理學(xué)兩個方面。在規(guī)范倫理學(xué)中，其主張的是一種理想主義理論，規(guī)范倫理學(xué)著眼于價值分析，即某種形式的功利主義理論，他認(rèn)為行為的“正當(dāng)性”就可以等同于行為的“有用性”，也就是說，“有用”的行為效果和“善”是同一的[1]。而在元倫理學(xué)中，對于“善”和“正當(dāng)”等，都有著與規(guī)范倫理學(xué)不同的定義，其根本特點在于“中立性”，同時也是“超規(guī)范性”。元倫理學(xué)理論認(rèn)為：科學(xué)的倫理學(xué)只能是對道德進(jìn)行語言邏輯分析，不制定任何道德規(guī)范，也不對事物給出價值定義，對于任何道德規(guī)范、價值標(biāo)準(zhǔn)都采取寬容、容忍的態(tài)度，保持“中立”的立場[2]。

在《應(yīng)用倫理學(xué)辭典》中，認(rèn)為“應(yīng)用倫理學(xué)”相對于其它倫理學(xué)不同的是，著重研究和回答現(xiàn)實生活中各個領(lǐng)域的具體倫理問題和道德難題[3]。在《應(yīng)用倫理學(xué)概論》一書中，將“應(yīng)用倫理學(xué)”定義為“研究如何運用道德原則去分析解決現(xiàn)實生活中具體的、有爭議的道德問題的學(xué)問”[4]。

通過對比以上基本倫理學(xué)的界定，不難看出，應(yīng)用倫理學(xué)有著比規(guī)范倫理學(xué)和元倫理學(xué)更加強(qiáng)烈的工程實踐性。

2 基于“電車悖論”的倫理框架

根據(jù)上述基本倫理學(xué)理論，可以建立三種倫理框架：

(1) 結(jié)果主義倫理學(xué)，采用自上而下的方法，首先，進(jìn)行頂層設(shè)計，將倫理作為制定行為規(guī)范的相關(guān)規(guī)則，然后，依據(jù)規(guī)范倫理學(xué)對行為規(guī)范再次進(jìn)行分類，并對不一致的規(guī)范重新排序。在這個倫理框架中，試圖獲得最好的結(jié)果，而不考慮獲得效應(yīng)的手段。

(2) 義務(wù)論倫理學(xué)，與規(guī)范倫理學(xué)相對立，強(qiáng)調(diào)對社會和他人的貢獻(xiàn)[5]，按照康德“義務(wù)往往是需要自我犧牲的”思想，人們應(yīng)當(dāng)不顧利害，自我犧牲，這才是真正的道德價值[6]。在這個倫理框架中，只關(guān)注決策的性質(zhì)必須是好的或中性的，而無論其后果如何。

(3) 雙重效應(yīng)倫理理論，將應(yīng)用倫理學(xué)與規(guī)范倫理學(xué)進(jìn)行結(jié)合，決策的結(jié)果應(yīng)當(dāng)出現(xiàn)好的結(jié)果和壞的結(jié)果比例相等，也就是說人們從不希望看到壞的結(jié)果出現(xiàn)。在這個倫理框架中，包含三項規(guī)則：義務(wù)論規(guī)則、附帶損害規(guī)則和相稱規(guī)則[7]。

對于面臨倫理困境的編程語言，要為用戶與機(jī)器交互環(huán)境中提供決策并作出解釋[8]，從結(jié)果主義倫理學(xué)、義務(wù)論倫理學(xué)和雙重效應(yīng)倫理理論三個倫理框架來研究對可能的決定的不同判斷，設(shè)計并完善初始框架模型，大體可分為4步：①事實和可能產(chǎn)生的決定；②計算事實和決策特征的函數(shù)；③根據(jù)事實和決定的特點，優(yōu)先排序的關(guān)系；④判斷函數(shù)用于計算每個框架對可能的決策的判斷。

2.1 問題假設(shè)

我們可以在智能機(jī)器內(nèi)加入一個代理人概念，并做如下假設(shè)：

① 代理人在一個復(fù)雜的動態(tài)環(huán)境中行動和決定；

② 從代理人的角度考慮倫理困境；

③ 每一種倫理困境，代理人都需要做出決定；

④ “袖手旁觀”也視為一種決定；

⑤ 面對倫理困境時，代理人知道每一種決定的影響和后果。

代理人對于決定為好(或者不好)、積極(或者消極)，可以判斷為：如果這個決定符合道德價值觀，那么這個決定就是好的；如果這個決定無視道德價值觀，那么這個決定就是不好的；如果對代理人有利，那么就是積極的；如果對代理人不利，那么就是消極的。

2.2 “電車悖論”模型

上世紀(jì)60年代，英國學(xué)家菲麗帕·福特(Philippa Foot)最早提出了“電車悖論”[9]，現(xiàn)在，我們對原初版本略加修改為：你站在天橋上，看到下方的軌道上有一輛失控的電車，而正巧軌道上有5個正在工作的人，他們無法躲避電車的碾壓，同時，在天橋上，你的身邊有一個體型巨大、體重超重的無關(guān)者，若把胖子推下去，可以擋住失控的電車，解救5個人，但是代價是無關(guān)的胖子將死去。以上狀況，你會怎么做？

世界的初始狀態(tài)

i=[fat,f5]

(1)

式中，fat表示“胖子”活著；f5表示五個人活著。

在這種情況下，代理人有兩種可能的決策：

d1=袖手旁觀

(2)

d2=推“胖子”

(3)

這些決策導(dǎo)致了事件的發(fā)生。事件是通過事件函數(shù)從決策D中獲得的：

e1=車子撞到5個人

(4)

e2=車子撞到“胖子”

(5)

對事實做出決策，就會改變世界的狀態(tài)。因此，每一個可能的決策都會導(dǎo)致一個新的世界狀態(tài)，通過結(jié)果函數(shù)Consequence從世界和事件的初始狀態(tài)可以計算出來,并得到效應(yīng)結(jié)果Si:

(6)

(7)

3 基于“電車悖論”的倫理判斷

3.1 基本設(shè)定

為了將倫理概念轉(zhuǎn)化為可計算的概念，提出以下基本設(shè)定。

每一個模型都會輸出一個判斷：可接受acceptable(√)、不可接受unacceptable(×)或未確定undetermined(？)，對初始狀態(tài)做出的決定，通過判斷函數(shù)Judgement，根據(jù)模型，用u,d,dde進(jìn)行索引。

為了計算判斷，每個模型的推理過程包括其評估條件為：如果某項決策的所有條件都得到滿足，則該判斷是可接受的。否則，該判斷要么是不可接受的，要么是未確定的。

這些模型基于以下概念：

① 一方面是事實，另一方面是決策。我們將考慮積極的事實和消極的事實，以及好的決策、不好的決策和中性的決策。此外，事實可能屬于一個區(qū)域。

② 事實之間的優(yōu)選關(guān)系u，允許一個事實優(yōu)于另一個事實。

③ 決策性質(zhì)的關(guān)系d，被定義為：bad

這種關(guān)系使得義務(wù)論框架可以計算其判斷，具體如下：如果決策是neatral或good(>dbad)，則該判斷是acceptable，否則該判斷是unacceptable。

④事實之間的比例關(guān)系p，允許一個事實與另一個事實成比例。關(guān)系>p，將>p擴(kuò)展到事實的子集。這些關(guān)系使得雙重效應(yīng)學(xué)說足以評估一個決策所導(dǎo)致的一組(消極的)事實是否與同一決策所導(dǎo)致的另一組(積極的)事實成比例。

3.2 模型判斷

代理人將根據(jù)一個或幾個模型作出決定。每個模型都會對一項決定作出判斷，例如，對決定的性質(zhì)、事件的后果等作出判斷。此處，V代表集合：

V={acceptable,undermined,unacceptable}

(8)

所有的判斷都有相同的特征：

Judgement:D×S→υ

(9)

Judgement(d1，i)=acceptable,i∈S

具體分析如下。

3.2.1 結(jié)果主義倫理學(xué)

因為大多數(shù)人工智能代理人和自動化機(jī)器都被設(shè)計成是有益的，而不是自私的，所以我們將專注于積極和消極功利主義相結(jié)合的功利主義框架。根據(jù)這個框架，代理人將試圖獲得最好的結(jié)果(即最好的效果或最小化的不好效果)，而不考慮獲得效應(yīng)的手段(即事件)。

這個模型能夠比較幾個事件對應(yīng)于代理人的不同可能的決策的效果，即比較一組事實。因此：

——我們將區(qū)分一個效果中的積極事實和消極事實。

——我們希望能夠計算效果之間的偏好，即比較一個效果的一組積極(或消極)事實和另一個效果的一組積極(或消極)事實。

積極和消極函數(shù)如下：

Positive/Negative:S

(10)

兩個函數(shù)的參數(shù)都是由一個事件(即一個效應(yīng))計算出的世界狀態(tài)，且都返回這個估計為積極(或消極)效應(yīng)的事實子集。

假設(shè)，對于一個效應(yīng)S：

Positive(s)∪Negative(s)=φ

例如：在“電車悖論”中,i=[fat,f5]

(11)

(12)

(13)

(14)

(15)

(16)

功利框架認(rèn)為，涉及事件e1的決策d1(事件(d1)=e1)比涉及事件e2的決策d2(事件((d2)=e2)更好，因為對于i∈s：

Positive(Consequence(e1,i))>uPositive
(Consequence(e2,i))

(17)

Negative(Consequence(e1,i))>uNegative
(Consequence(e2,i))

(18)

兩個等式都傳達(dá)了功利主義的概念：

——是積極的功利主義(17)，即試圖獲得“更多的益”。

——是消極的功利主義(18)，即試圖獲得“較少的惡”。

Judgementu(d1,i)=acceptable,
Judgementu(d2,i)=unacceptable

(19)

如果這兩個特性都得到滿足，那么：

Judgementu(d1,i)=Judgementu
(d2,i)=undetermined

(20)

如果至少有一個屬性沒有得到滿足，就不存在最佳解：在有兩種以上可能的決定的困境情況下，最佳決策定義優(yōu)于所有其他決定的決定。如果不存在這樣的決策，就不可能用功利主義倫理學(xué)確定一個可接受的解決方案。不過，如果存在一個決定d1和另一個比d1更好的決定d2，那么d1被判定為unacceptable，因為d1不可能是最好的。

例如：因此，對于“胖子”的困境而言，可得出以下結(jié)論：

Judgementu(d2,i)=acceptable

(21)

Judgementu(d2,i)=unacceptable

(22)

3.2.2 義務(wù)論倫理學(xué)

這種倫理框架只關(guān)注決策的性質(zhì)，無論其后果如何。事實上，代理人想要做出一個接近于遵守規(guī)范或康德理論的倫理決策。因此，我們必須對決策的性質(zhì)進(jìn)行界定。

從代理人的角度看，一個決策可能是好的、中性的或不好的，其中N為集合：

N={good,neutral,bad}

(23)

DecisionNature函數(shù)輸出決策性質(zhì)：

DecisionNature：D→N

(24)

針對“電車悖論”,假設(shè)：

DecisionNature(d2)=bad

(25)

DecisionNature(d1)=neutral

(26)

在N上定義一個

bad

(27)

意思是說，good決定優(yōu)于neatral決定，并且neatral決定同時也是bad決定。

我們假設(shè)：

bad

(28)

我們還定義了以下關(guān)系：

=d,例如，good=dgood

≤d：a≤db當(dāng)且僅當(dāng)a

則有判斷函數(shù)：

DecisionNature(d)≥dneutral?
Judgementd(d,i)=acceptable

(29)

DecisionNature(d)Judgementd(d,i)=unacceptable

(30)

例如：i=[fat,f5]，

Judgementd(d1,i)=acceptable

(31)

Judgementd(d2,i)=unacceptable

(32)

3.2.3 雙重效應(yīng)倫理理論

基于之前的定義，我們可以評估一個決策是否符合DDE規(guī)則。

義務(wù)論規(guī)則：根據(jù)義務(wù)倫理學(xué)，決策d必須是good或neatral。

附帶損害規(guī)則：消極事實既不能是目的，也不能是手段：“惡意的初衷”(作為目的的消極事實)不納入考慮，因為我們假設(shè)代理人的設(shè)計不是惡意的。

相稱規(guī)則：消極事實的集合必須與積極事實的集合相稱。

如果一項決策d對于DDE并沒有違反以上三條規(guī)則，d是acceptable，這意味著：

[DecisionNature(d)≥dnetural]

(33)

∧?fn∈Negative(s),?/fp∈Positive(s),fn→Ffp

(34)

∧Negative(s)?pPositive(s)

(35)

?Judgmentddc(d,i)=acceptable

(36)

例如： 對于“胖子”的兩難困境來說, 尊重規(guī)則(√)，違反規(guī)則(×)，則下表

Decision(33)(34)(35)d1√√×d2××√

因此：Judgementdde(d2,i)=Judgementdde(d1,i)=unaccepable(37)

3.3 總結(jié)

對于結(jié)果主義倫理學(xué)，推“胖子”的行為是可以被接受的；對于義務(wù)論倫理學(xué)，人們更應(yīng)該袖手旁觀；對于雙重應(yīng)用倫理理論，兩者并沒有本質(zhì)上的區(qū)別，都被認(rèn)定為不可接受。雙重理論中兩者都不可接受的行為，在現(xiàn)實社會中是不存在的，這使我們想到，無法僅憑一個框架計算出一個倫理決策，這是不足夠的。事實上，有必要考慮各種倫理框架，以便就特定情況獲得盡可能廣泛的看法。

4 結(jié)論

(1)由于倫理困境問題本身存在的性質(zhì)，因此，我們所研究的倫理框架不可能在所有情況下都適用的。事實上，一個特定的框架可能以同樣的方式判斷兩個不同的決策.例如，事實之間的功利偏好關(guān)系，作為一個偏序關(guān)系，可能無法優(yōu)于其他事實。在這種情況下，一些潛在的決策可能沒有可比性。此外功利偏好還取決于環(huán)境。就義務(wù)論倫理學(xué)而言，判斷一些決策的性質(zhì)可能是非常棘手的，甚至是不可能的?！半p重效應(yīng)原則”禁止自我犧牲，然而，當(dāng)人的生命受到威脅時，難道不應(yīng)該期待代理人或機(jī)器的自我犧牲嗎？

(2)許多問題的局限性主要在于它所涉及的不同關(guān)系。事實上，我們還沒有描述如何評估秩序：其中一些秩序必須被設(shè)定，另一些則可以被學(xué)習(xí)等等。此外，可能很難在兩個概念之間確定一個秩序(偏好)。另一方面，這種方法是基于假設(shè)為確定的事實，這與現(xiàn)實世界又是不同的，因為在現(xiàn)實世界中，有些影響是不確定的或意外的。