王玉雯

(蘇州科技大學 馬克思主義學院，江蘇 蘇州215009)

一、伴侶機器人的現(xiàn)狀

人工智能(英語為Artificial Intelligence，縮寫為AI)亦稱智械、機器智能，指由人制造出來的機器所表現(xiàn)出來的智能。通常它是一種通過普通計算機程序來呈現(xiàn)人類智能的技術(shù)。人工智能于一般教材中的定義是“智能主體(intelligent agent)的研究與設(shè)計”，智能主體指一個可以觀察周遭環(huán)境并作出行動以達致目標的系統(tǒng)。簡單來說，人工智能就是由人制造的擁有觀察、學習、判斷并且根據(jù)判斷實施行動以達到目的的智能系統(tǒng)。美國電影《復仇者聯(lián)盟2：奧創(chuàng)紀元》中的奧創(chuàng)(英文Ultron)就是目前階段對人工智能所能期望的最大值：即一個綜合能力完善的強人工智能。

目前從運輸計算到企業(yè)人事工作，運用人工智能的行業(yè)越來越多。人工智能以其智能、高效、高速的優(yōu)勢，勢必會取代一部分人類去完成工作。目前被運用于運算和篩選等工作的人工智能被稱為弱人工智能或是中等人工智能，這兩類人工智能能力較為單一，還未擁有自主行動的能力。而在浩浩蕩蕩的科技熱潮的推動之下，人工智能的開發(fā)和研究逐漸進入一個全新的階段——在現(xiàn)有的設(shè)定相應(yīng)程序、智能體執(zhí)行的模式中，進一步在人工智能系統(tǒng)中加入情感反射系統(tǒng)，使其成為可以獨立思考和判斷的個體，即強人工智能。強人工智能是AI技術(shù)質(zhì)的進步，彼時人工智能不再只是單一工作的從事者，而是擁有綜合能力的智能體，強人工智能也將擺脫傳統(tǒng)電線電池供能，取而代之的是太陽能供能，因此強人工智能的自主性將會大大增強，對人的依賴性則有較大減弱。更有將這種人工智能技術(shù)與外表類人度極高的普通玩偶或機器人結(jié)合在一起，成為一個可以與人互動的智能機器人。這種伴侶機器人目前已然在研究和優(yōu)化階段，甚至已經(jīng)開始投入試用。

伴侶機器人想法的提出和實施者Abyss Creations公司，擁有來自世界各地的龐大消費者群體。近年來公司創(chuàng)始人馬特·麥克馬倫提出想法并開始將人工智能融合到玩偶中。目前第一階段的伴侶機器人已經(jīng)能夠?qū)崿F(xiàn)與人對話互動，也能夠做到包括眨眼在內(nèi)的所有面部肌肉活動。麥克馬倫第二階段的目標將是實現(xiàn)機器人全身的自主運動。第一階段的伴侶機器人是沒有“自主感情”的，他們的情緒和性格是通過預(yù)先的性格設(shè)定完成的。而第二階段的機器人則在智能系統(tǒng)中加入“情感系統(tǒng)”，即通過程序的植入，使機器人對觀察到的事物進行輸入，然后系統(tǒng)進行判斷輸出對應(yīng)的情緒反饋，產(chǎn)生一種“類情感”。與此同時，第一個加入了人工智能系統(tǒng)的伴侶機器人——哈莫尼，已經(jīng)進入少部分用戶的測試使用中，并且預(yù)計在兩年內(nèi)投入生產(chǎn)和上市。①

二、 伴侶機器人的倫理爭議

伴侶機器人的出現(xiàn)，以及伴侶機器人“類情感”系統(tǒng)的研究和開發(fā)，使人工智能不再停留于機械工作和工業(yè)生產(chǎn)領(lǐng)域，而是成為與人類直接發(fā)生聯(lián)系的人類社會和家庭中的成員。這種前所未有的狀況必然會對傳統(tǒng)的社會結(jié)構(gòu)和倫理觀念產(chǎn)生極大的沖擊，于是，對于人工智能尤其是伴侶機器人的各方爭議日益激烈。

以麥克馬倫以及其產(chǎn)品受眾人群為代表的贊成派認為，伴侶機器人的出現(xiàn)，無疑是運用人類的技術(shù)給需要陪伴的人群提供他們所需要的情感依賴。在Abyss Creations公司的用戶采訪中，超過90%的人期待伴侶機器人的生產(chǎn)，并且表示之后想要擁有自己的“哈莫尼”(Harmony)。占比重最大的理由是他們在長時間的與人社交的過程當中受到傷害或者無法找到適合自己的伴侶，但是有了娃娃的陪伴，削弱了他們的孤獨感。創(chuàng)始人麥克馬倫也非常支持這一觀點，他認為人會在養(yǎng)寵物的過程當中與寵物建立情感關(guān)系，有情感上的依賴。那么伴侶機器人作為更加接近于人的存在，人更容易對于伴侶機器人有真實的情感依賴，能夠真正地愛上伴侶機器人。①

另一部分贊成的人則表示，在現(xiàn)實生活中，有人因為無法找到一個理想型的伴侶造成心理缺陷，但伴侶機器人能讓這部分人彌補這種缺陷。無論是外表還是性格，都能通過自己的設(shè)定和調(diào)整讓伴侶機器人成為自己所喜歡的樣子，得到百分之百的理想伴侶。他們還表示，跟伴侶機器人建立戀愛關(guān)系要比和人類建立戀愛關(guān)系更加安定穩(wěn)定，更加能給他們帶來安全感。值得注意的是，還有極少一部分人在調(diào)查中表示，自己有特殊的性癖或者會有虐待傾向。有了伴侶機器人之后可以將這一部分危險的行為在機器人身上實施，從而減少對真正的女性的傷害。這一理由也使得很多人對伴侶機器人的生產(chǎn)表示贊成，認為這樣能夠減少對于女性的犯罪。

機器人與人工智能倫理學教授——凱瑟琳·理查森則反對這些觀點。她是伴侶機器人的堅定反對者之一。凱瑟琳提出，伴侶機器人最為直接的問題在于物化女性身體，將女性的身體作為消費對象，這是一種非常錯誤的鼓勵。她并不認為針對伴侶機器人的暴力會使得針對女性的暴力減少，相反，可能會由于這種間接的鼓勵方式而帶來更多的性暴力行為。

此外，最為重要的反對原因是，人與人之間的交往是社會生活中最為重要的部分，人們相互之間的社交是相互學習和交換經(jīng)驗的過程，因此人與人的互動是伴侶機器人所不能替代的，伴侶機器人無論如何智能，其本身是個“被輸入體”，其認知和經(jīng)驗來自于人的前期設(shè)定和交流中對信息的采集。也就是說，伴侶機器人是沒有自己的社會經(jīng)驗的。那么人在與伴侶機器人的相處和交流當中，就無法實現(xiàn)信息和經(jīng)驗交換，久而久之，個人便成為一個缺乏與社會聯(lián)系的封閉的交流圈。凱瑟琳提到：“人一旦陷入自己的封閉世界，不與真的人進行交流，而只是消費產(chǎn)品，只和產(chǎn)品發(fā)生關(guān)系，那么資本主義會更快地吞噬人類”。這時候的人便不可避免地成為單向度的人。

這些爭論的本質(zhì)問題在于人工智能機器人，尤其是要融入人類家庭社會關(guān)系中的伴侶機器人，在與人的交互過程當中，以怎樣的社會地位存在，人與伴侶機器人要構(gòu)建怎樣的關(guān)系。這些問題都有其倫理的特殊性。再者，人工智能的發(fā)展是存在著風險的。人工智能技術(shù)的發(fā)展不同于尋常的科學技術(shù)。它與人發(fā)生直接的聯(lián)系，甚至人工智能會成為人類社會的成員，徹底改變現(xiàn)有的社會結(jié)構(gòu)。這樣一項技術(shù)的每一項風險都需要提前預(yù)知和規(guī)避，尤其是倫理層面的風險，更需要在風險轉(zhuǎn)化為事實危機之前，對人工智能技術(shù)進行反思，在伴侶機器人成為普遍事實之前，為其研發(fā)和使用提供更加謹慎的態(tài)度和更加理性的討論環(huán)境。

三、伴侶機器人的倫理缺陷

除了凱瑟琳之外，也有眾多學者對人工智能向伴侶型機器人發(fā)展的趨勢提出技術(shù)上或者是倫理上的質(zhì)疑。伴侶機器人比起其他人工智能的特殊之處在于要與人類在身體和心靈上產(chǎn)生關(guān)系，甚至是進入人類社會的家庭之中，成為家庭組成的一部分。這樣一來，就不可避免地對人類傳統(tǒng)的社會結(jié)構(gòu)和倫理觀念帶來巨大的沖擊。而沖擊的始源，就是使伴侶機器人擁有獨立的“情感系統(tǒng)”。

迄今為止情感系統(tǒng)，都被認為是動物的特有屬性，其中又在人類身上尤為突出。情感是人對客觀事物是否滿足自己的需要而產(chǎn)生的態(tài)度體驗。它與態(tài)度中的內(nèi)向感受、意向具有協(xié)調(diào)一致性，是態(tài)度在生理上一種較復雜而又穩(wěn)定的生理評價和體驗。情感包括道德感和價值感，具體表現(xiàn)為愛情、幸福、仇恨、厭惡、美感等等。那么，對人工智能植入情感系統(tǒng)，雖然不能使人工智能擁有人類的情感，但是這會使其擁有觀察、判斷、反射組成的情感反應(yīng)系統(tǒng)，從而擁有一種“類情感”?！邦惽楦小钡漠a(chǎn)生通過對周遭事物的觀察并且傳輸?shù)街行南到y(tǒng)，再由中心系統(tǒng)中的情感系統(tǒng)進行分析，最后輸出相應(yīng)的情緒反饋。可以看出人工智能“類情感”的產(chǎn)生過程其實與人類的情感在大腦中的產(chǎn)生過程極為相似。而兩者的區(qū)別在于，人類情感產(chǎn)生的源頭是自身內(nèi)在的生理和心理的沖動，而機器人的情感源頭則是人類的技術(shù)。擁有情感系統(tǒng)的伴侶機器人是目前設(shè)想中最為理想的模型，也是用戶群體最為期待的，能夠滿足他們的情感需求。

伴侶機器人的“類情感”的產(chǎn)生過程和反饋過程與人類情感過程是極為相似的。那么在人機交互的過程當中，首要的一步便是為伴侶機器人尋找到合適的道德地位。伴侶機器人的道德地位，決定了人類采取怎樣的態(tài)度去對待伴侶機器人。伴侶機器人與以往的人工智能和人造物的不同，為伴侶機器人尋找道德地位，無法從以往的案例中尋找較為可靠的依據(jù)。因此只能從現(xiàn)有的具體問題入手，逐一針對事實和社會中所持有的不同態(tài)度進行分析。

第一個問題就是當人對伴侶機器人產(chǎn)生情感依賴是因為這個伴侶機器人滿足了他某一方面或者多方面的需求。人們可以根據(jù)自己的需要隨意選擇伴侶機器人外表功能或者性格。當機器人的外表不再滿足人的變化的審美的時候，就更換它的外表，亦或在性格上不再滿足個人的需求，就選擇重新植入想要的性格程序。這樣看起來貌似人與機器能維持一段理想而完美的關(guān)系，使人對于伴侶的期待能夠得到最大程度的滿足。

但是，在這樣的關(guān)系中，人機雙方真的是基于情感而產(chǎn)生的伴侶關(guān)系嗎？筆者認為不然，這種情感依賴的基礎(chǔ)在于人工智能滿足了人的需求，同樣的，上文中用戶提到的“安全感”或是“舒適感”的來源，亦是如此。在這樣的關(guān)系中，伴侶機器人所扮演的角色并不是伴侶，而是工具。首先伴侶機器人作為人造物的本質(zhì)，能否到達與人類自然進化而來的生理情感相同且是個疑問。再者這種“滿足”與“被滿足”的單向關(guān)系，不是也不能夠成為人類社會所鼓勵的伴侶關(guān)系。

哲學家漢斯·約納斯曾針對科學技術(shù)對于人類和自然的改造，提出責任倫理學思想。他認為人類生存的威脅大多來自于人為的災(zāi)難，如戰(zhàn)爭、環(huán)境污染、由于生活方式造成的疾病、現(xiàn)代高科技帶來的災(zāi)難、思想觀念上的危險等，而大多數(shù)災(zāi)難都與科學技術(shù)有關(guān)?！艾F(xiàn)代技術(shù)——它以對自然日益深化的滲透為特征，并受到市場與政治力量的推動——已經(jīng)把人的力量凌駕于一切已知或可以想象的東西之上。”[3]203約納斯的這一觀點，與如今人類所面臨的局勢如出一轍。伴侶機器人既是人造物，但又絕不同于以往的人造物。在這個問題上人類首次站在了一個類似于造物主的位置。這種造物主的優(yōu)越感和對科學技術(shù)的狂熱，淡化了原本的憂患意識。有意無意的僥幸，也使得我們在面對新事物的時候，更加愿意著眼于積極有利的部分，而刻意避開缺陷。這樣一來，科技成了帶領(lǐng)人類走向災(zāi)難的開端。當技術(shù)達到最為駭人聽聞的高度時，就是人類任意創(chuàng)造地球上的物種，完成對自然的最終征服，把人變成了技術(shù)的對象。通過技術(shù)復刻和模擬人類生理和心理結(jié)構(gòu)制造伴侶機器人的行為，就屬于其中的一種情況。[1]203

當人類沉浸在使用機器人優(yōu)于人類的體能、速度、精確度等生理能力之后，又進一步想要通過伴侶機器人來滿足人類自身的情感依賴。這些狂熱的目標都是人類想要“把自己的進化掌握在自己手里”的思想的反映。這樣的行為迫切需要倫理學的反思和質(zhì)疑——人類有資格扮演造物主的角色嗎？人類的自然凈化過程是一個緩慢而耐心的過程。從四肢行走到直立行走，從茹毛飲血的原始時期再到輝煌的文明時代，每一個時期的經(jīng)歷遠遠不是在書本當中的一小段文字，每一次質(zhì)的改變都是千萬年甚至億萬年量的積累所得來的。因此自然凈化的過程絕不是簡單的社會和技術(shù)的進步，更重要的是在漫長的優(yōu)勝劣汰的過程當中，人類的生理經(jīng)歷過無數(shù)次與自然的磨合。人類的意識，也逐漸成為這個過程當中文化積淀和背景的綜合體。最重要的是，人類的道德和倫理體系是在這個緩慢的過程當中形成并且傳承的，這樣一種道德體系，很難通過技術(shù)的整合，輸入將要成為人類伴侶的機器人。[1]205

隨著現(xiàn)代技術(shù)的進步，經(jīng)歷幾十年，人類就能利用技術(shù)制造出高度模擬人類外觀和行為的伴侶機器人，而且這個時間會隨著技術(shù)的進步而逐漸縮短?，F(xiàn)代技術(shù)的“進化”使得進化過程大為縮短，對于科技的狂熱和對這個宏大的事業(yè)的期待，使得人類不再容忍耐心和緩慢，壓縮了進化的許多細碎步子。[2]所有研究者都爭先恐后地想要得到質(zhì)的進步，使用者和消費者渴望看到人類創(chuàng)造的最高級的智能體，科技興奮和對突破人類自身限制的渴望，讓我們有了對伴侶機器人的盲目期待。

四、結(jié)語

在筆者寫下這篇文章之時，人工智能的時代其實已然來領(lǐng)。這其實并不全然是一件壞事，筆者的這篇文章也絕不是想要反對這一趨勢。如前文所提到的，人工智能確實在體能、速度、運算、記憶等很多方面突破了人類自身的局限，人工智能的加入也使得人類社會的發(fā)展有了全新的可能。但是這些可能當中，不包括伴侶機器人。伴侶機器人的特殊性，使其不能與其它單一能力的工作機器人一概而論。

伴侶機器人在一段親密社交關(guān)系中取代了真人的位置，本身作為被輸入體的它，阻隔了人與人之間的經(jīng)驗互換；其次因為伴侶機器人高度類人的特點，在人與其相處的過程當中，模糊了人機的邊界，與人類交往時的習慣會帶到人機交往當中，而和機器人的相處模式也必然會影響與真實人類的相處；再次，就目前而言，人類對于伴侶的渴望和依賴出發(fā)點是滿足自我某一方面需求，如此就決定了在這樣一段關(guān)系中，人機是處于不平等地位的，絕對的滿足與被滿足的關(guān)系使得伴侶機器人并沒有獲得“伴侶”的地位，而實質(zhì)上只是工具。[3]

這樣的一種不平等、不健康的相處模式和伴侶關(guān)系是現(xiàn)代文明所不應(yīng)當鼓勵的；最后，人類經(jīng)過億萬年的進化至今，依然未能克服很多人性上的缺陷，那么人類又何以成為“造物主”去創(chuàng)造一個類似于人的新“物種”來加入人類社會呢？道德認識決定了道德觀念，道德觀念總要轉(zhuǎn)化為道德行為實踐，而道德行為則需要道德知識。[4]這其中的任何一個環(huán)節(jié)出現(xiàn)問題，都可能造成道德的崩塌。人類幾乎不可能讓伴侶機器人擁有人類的道德，也不能使其在交往過程當中做出符合人類社會的道德判斷。在這樣的情況之下就貿(mào)然讓伴侶機器人成為人類社會甚至是人類家庭中的一份子，與人類親密接觸，無疑是一個巨大的冒險。

綜上，伴侶機器人無論是開發(fā)和研究，還是在與人交際，被人使用的過程當中，其本身都是存在倫理缺陷的。在全力以赴取得技術(shù)突破之前，解決這些倫理上的缺陷恐怕才是當務(wù)之急。否則也許真的如霍金所言：“成功制造出人工智能機器人將可能成為我們歷史上最后一個里程碑”[5]。

注釋：

①資料系筆者根據(jù)騰訊出品的新聞采訪節(jié)目紀錄片《明天之前》第一集整理而得?！睹魈熘啊芳o錄片的網(wǎng)址為：http://v.qq.com/detail/d/d08f9goqdsj398h.html.