趙嘉怡 蔡佩爽

年輕的瑪莎陷入忽然失去愛(ài)人的悲痛中不能自拔，朋友為她推薦了一項(xiàng)特殊的語(yǔ)音服務(wù)，讓她能重新和愛(ài)人通話。研究者根據(jù)逝者在網(wǎng)上留下的社交痕跡，創(chuàng)造出一個(gè)虛擬的人格，這讓瑪莎通過(guò)手機(jī)、電腦，在真實(shí)聽(tīng)到“愛(ài)人”的聲音后重獲安慰。

她開(kāi)始了隨時(shí)佩戴耳機(jī)的生活，就好像愛(ài)人在身邊。在醫(yī)院錄制胎兒律動(dòng)的時(shí)候，她在興奮中把正在通話的手機(jī)摔到地上。這讓她驚慌失措，就像是把愛(ài)人摔壞了。手機(jī)恢復(fù)正常后，“愛(ài)人”安慰她說(shuō)：“我沒(méi)摔壞，我在云里呢。我還有更高級(jí)的服務(wù)，價(jià)格很貴?！?/p>

已經(jīng)無(wú)法在語(yǔ)言中得到滿足的瑪莎重價(jià)訂購(gòu)了這項(xiàng)服務(wù)，一個(gè)和“愛(ài)人”有著相同面貌和觸感的“人體”機(jī)器人站在她面前。

他禮貌，聰明，智能。無(wú)需吃飯，無(wú)需睡眠，卻能假裝睡著，陪在瑪莎身邊。生活就像意外沒(méi)有發(fā)生時(shí)一樣。

家人的一次不期造訪，打破了幻象。在看到屋子里男人的衣服后，姐姐問(wèn)她是不是有了新男友。這讓她意識(shí)到，她無(wú)法從機(jī)器人那里獲得任何東西，那只是根據(jù)愛(ài)人的過(guò)去模擬的人格，他甚至不能說(shuō)有人格，只是一種高級(jí)的程序罷了。

最終“高級(jí)程序”被安置在閣樓里，就像一個(gè)失去新鮮感的玩具。

故事雖然存在于《黑鏡》的幻想，但實(shí)現(xiàn)它的基礎(chǔ)已經(jīng)觸手可及。社交信息、超薄觸屏手機(jī)、觸屏電腦、類人機(jī)器人、大數(shù)據(jù)、人工智能，那么真實(shí)地存在于我們的生活。人與機(jī)器界限的模糊，加速著“后人類”世界的到來(lái)，看似極端的故事，只是把現(xiàn)實(shí)推進(jìn)了一小步。

遵守誰(shuí)的規(guī)則？

難以編程的情緒

不久前，上海交通大學(xué)機(jī)器人研究所完成的“助行機(jī)器人”，能自己識(shí)別道路，自行確定行駛路線，帶著行動(dòng)困難或視力有障礙的人出行。但這款機(jī)器人真要實(shí)際應(yīng)用，甚至推向市場(chǎng)，卻面臨如下障礙：它應(yīng)該遵守什么交通規(guī)則？是針對(duì)行人的交通規(guī)則，還是機(jī)動(dòng)車行駛規(guī)則？如果它造成了交通事故，該如何處理？對(duì)此，上海交大機(jī)器人研究所常務(wù)副所長(zhǎng)曹其新教授說(shuō)：“這些問(wèn)題已經(jīng)讓我們糾結(jié)了很久。”

在《2001太空漫游》中，控制飛船的電腦“HAL”收到指令，它必須完成調(diào)查木星附近人造天體的任務(wù)，但同時(shí)，任務(wù)的真實(shí)目的不能令宇航員知曉。面對(duì)這個(gè)矛盾，HAL的解決方式是殺死所有船員。

在機(jī)器人不斷獲得更高智能、向自動(dòng)化邁進(jìn)時(shí)，存在于科幻領(lǐng)域的選擇困境，現(xiàn)在真實(shí)地?cái)[在我們面前。無(wú)人駕駛汽車是否應(yīng)當(dāng)為避開(kāi)違反交通規(guī)則的行人而犧牲本車乘客的生命安全？在充滿不確定性的未知情境中，如何保證機(jī)器人做出恰當(dāng)?shù)倪x擇？

事實(shí)上，在機(jī)器人的智能程度超過(guò)賦予它智慧的人類時(shí)，要對(duì)機(jī)器人做出情感模仿以及倫理道德的界限劃分，如今還面臨著技術(shù)與倫理的雙重因素。

比如，情緒是無(wú)法用數(shù)學(xué)模型和科學(xué)公式解讀的人類特有的一種反應(yīng)，情緒的非線性特征決定了其不確定性。如當(dāng)朋友之間說(shuō)謝謝，對(duì)方的回答可能就不是通常的“不客氣”，很有可能是“干嘛跟我這么客氣”之類的句子。就像瑪莎把“愛(ài)人”帶到山頂，讓他跳下去，她抓狂地說(shuō)：“如果他還活著，聽(tīng)到這樣的話他會(huì)說(shuō)不要這樣，但是你只會(huì)遵從我，乖乖跳下去?！?/p>

諸如此類的場(chǎng)景有很多，情緒會(huì)隨時(shí)隨著外部環(huán)境的變化而發(fā)生變化，那么如何通過(guò)有效的公式解讀將其運(yùn)用到機(jī)器人身上，這是一個(gè)需要長(zhǎng)期研究的課題。當(dāng)情緒無(wú)法有效表達(dá)時(shí)，倫理的界限自然也無(wú)法確定。

是他，還是它？

機(jī)器公民的物種定位

是他，還是它？

伴隨生命、信息、智能和納米等新興科技的發(fā)展，人、動(dòng)物和機(jī)器之間的分野日漸模糊，除了機(jī)器人外，將來(lái)我們還可能會(huì)生活在一個(gè)充滿各種“混合人”的“后人類”的世界里，比如人與動(dòng)物的結(jié)合，人與機(jī)器的結(jié)合。因此，對(duì)機(jī)器人倫理地位的思考正在成為人類不可回避的價(jià)值基點(diǎn)。

《大西洋月刊》曾撰文指出：人類需要為談?wù)撝悄軝C(jī)器人而感到不安，如果要說(shuō)這是一場(chǎng)人類和機(jī)器之間的賽跑，那我們輸定了。

中國(guó)社會(huì)科學(xué)院科學(xué)哲學(xué)研究室主任段偉文認(rèn)為：“隨著機(jī)器人作為一種打引號(hào)的‘他，不是動(dòng)物的它，也不是人類的他，而是一種介于他和它之間的準(zhǔn)他者。只有承認(rèn)機(jī)器人是一種存在，承認(rèn)其獨(dú)立的倫理地位和內(nèi)在價(jià)值，保持‘他作為存在的完整性，人類才能和機(jī)器人和平共處，才能在與機(jī)器的結(jié)合中發(fā)展出恰當(dāng)?shù)膫惱硪?guī)范?！?/p>

致力于鉆研“機(jī)器人繁殖”的韓國(guó)科學(xué)家金中煥在自己的論文中寫(xiě)道：“大多數(shù)機(jī)器人研究者都把精力放在如何讓機(jī)器人像人類一樣跑、彎手指、握手等，而忽視了機(jī)器人自身是一個(gè)‘人造物種的本質(zhì)。”

他主導(dǎo)的機(jī)器人自我復(fù)制，與《我，機(jī)器人》何其相似？科學(xué)家在Nisson 5的程序里植入了夢(mèng)想，機(jī)器人變擁有了代替人類管理世界的夢(mèng)想。如果機(jī)器人能夠?qū)崿F(xiàn)自我繁殖，那么人類該不該擔(dān)心科幻小說(shuō)中的機(jī)器人與人類反目成仇的一幕會(huì)變成現(xiàn)實(shí)？人類自己創(chuàng)造的“物種”會(huì)不會(huì)最終成為人類的“機(jī)械公敵”？科學(xué)家的對(duì)策是，從一開(kāi)始就很好地設(shè)定和管理“遺傳基因信息”，從而防止有危險(xiǎn)的思想和行動(dòng)的機(jī)器人出現(xiàn)。”