馮金衛(wèi)

摘 要 隨著即將來臨的第四次工業(yè)革命，人工智能和機器人不斷進入大眾視野。機器人不斷自主化的發(fā)展趨勢，引起機器人在道德問題的熱議。為了更好地促進機器人的發(fā)展，首先必須分清人、人工智能和機器人的區(qū)別和聯(lián)系，其次認真分析造成發(fā)展機器人引發(fā)的道德困境的原因，最后提出相應(yīng)的措施。

關(guān)鍵詞 人工智能 機器人 道德困境

中圖分類號：B82-02 文獻標(biāo)識碼：A DOI：10.16400/j.cnki.kjdks.2019.02.069

Analysis of the Difficulties in the Moral Development of Robots

FENG Jinwei

（Harbin Normal University， Harbin， Heilongjiang 150025）

Abstract With the forthcoming fourth industrial revolution， artificial intelligence and robots continue to enter the public eye. The development trend of robots' constant autonomy has caused the robots to have a hot discussion on moral issues. In order to better promote the development of robots， we must first distinguish the differences and connections between humans， artificial intelligence and robots. Secondly， we must carefully analyze the causes of the moral dilemma caused by the development of robots， and finally propose corresponding measures.

Keywords artificial intelligence； robot； moral dilemma

物理學(xué)家霍金曾指出：“人工智能的進化速度會比人類快，而它們的未來不可預(yù)測”，一些影視作品比如《黑客帝國》、《X戰(zhàn)警》和《我，機器人》宣揚的是人工智能系統(tǒng)和機器人會擺脫人類的監(jiān)管、自主作出決定，甚至毀滅人類。這種不確定，使機器人面臨的道德風(fēng)險日益凸顯，引起了人們的關(guān)注。在2017年夏季達沃斯論壇中就“人工智能和機器人”進行了專門的談?wù)摚渲嘘P(guān)于人工智能尤其是機器人的道德發(fā)展問題就最為突出。

1 人、人工智能和機器人的區(qū)別和聯(lián)系

1.1 人有意識，人工智能和機器人只具有思維模擬

從哲學(xué)上說，人生于自然，是歷史生成性的存在。人類為了能夠生存，滿足吃喝等基本需要，必須進行物質(zhì)資料生產(chǎn)，并且在勞動過程中，由于分工和交流的需要，產(chǎn)生了語言和意識。所以說“意識一開始就是社會的產(chǎn)物，而且只要人們存在著，它就仍然是這種產(chǎn)物”。人和其他動物的區(qū)別在于能否進行有意識的活動。而機器人是具有類人性質(zhì)的機器，它本身是由一些電子元件和線路組成的物理裝置。而且機器人用的是計算機系統(tǒng)組成的“電腦”，進行的是無意識的、機械的過程，它所進行的一些思考只是對人腦思維的模擬，只是單純的執(zhí)行系統(tǒng)發(fā)來的指令。人工智能是利用計算機系統(tǒng)對人的智能進行模擬、延伸和擴展的一門技術(shù)科學(xué)，它的領(lǐng)域研究包括機器人、圖像識別、語言識別和專家系統(tǒng)等。所以說人工智能是對人的意識思維的模擬，本身不具有意識。機器人是人工智能具體化的表現(xiàn)形式和產(chǎn)物，人工智能的技術(shù)發(fā)展是機器人發(fā)展的前提和基礎(chǔ)。而道德是關(guān)于人們的行為規(guī)范標(biāo)準(zhǔn)的總和，道德的主體都是具有社會意義上的人，所以好像關(guān)于研究機器人道德問題的論述都是偽命題。但若從機器人作為人類思維實踐化、現(xiàn)實化的產(chǎn)物來講，研究機器人的道德從實質(zhì)上就是在研究人類自身的道德問題，從本體論研究是有一定的道理的。

1.2 人和機器人背后的創(chuàng)造者都具有物質(zhì)實踐活動

人類在自然界中作為相對于自然界的認識主體而存在，客觀地去認識客體是什么，人類要接觸客觀對象，必須通過實踐。人類只要正確認識物質(zhì)世界并在實踐的基礎(chǔ)上才能改造世界。因此，人具有實踐性的物質(zhì)活動，人與社會通過社會實踐活動，形成主客觀關(guān)系。反觀機器人——作為人的理論實踐化的產(chǎn)物，并不是自己本身通過實踐去認識世界，這在電腦里都有相關(guān)的理論記載和描述，只需機械地執(zhí)行指令。機器人自身與社會并沒有真正意義上形成主客觀關(guān)系，一切都是人工智能的創(chuàng)造者在社會中實踐的產(chǎn)物。因此，機器人的問題還是機器人的創(chuàng)造者即人與社會通過社會實踐形成主客觀關(guān)系問題。

1.3 人和機器人人是統(tǒng)一卻又異化的關(guān)系

首先，隨著經(jīng)濟全球化的深入和技術(shù)的不斷進步，人們的物質(zhì)生活不斷提高，人工智能產(chǎn)品逐漸走入百姓家。它給人們帶來諸多便利，比如家用機器人能夠幫助整理家務(wù)，勞動性機器人能提高生產(chǎn)效率，服務(wù)型機器人能幫老人排憂解悶等等。人通過勞動創(chuàng)造出勞動產(chǎn)品的過程，是科學(xué)技術(shù)對象化的產(chǎn)物，但這不是對人勞動自身和科技主體的正面肯定，而是反過來成為束縛人的異己力量，這叫做科技異化。原本家人之間是溫情和諧的，相互陪伴的，現(xiàn)在是人情冷漠、甚至只有赤裸裸的利害關(guān)系；原本青少年在義務(wù)階段是圖強向上的時期，現(xiàn)在卻沉迷“吃雞”游戲、王者榮耀無法自拔；原本同學(xué)聚會是開開心心，有說有笑的，但現(xiàn)在大家似乎都沉默寡言、低頭玩智能手機不交流，只在飯后發(fā)個朋友圈；智能手機等產(chǎn)品原本是人類生產(chǎn)出來方便大家溝通交流的，拉近距離的，人與物是一種自由自在的統(tǒng)一關(guān)系，而現(xiàn)在卻成了異化對立的關(guān)系，人們成為人工智能產(chǎn)品的附庸和奴隸；人原本是處于主體地位，現(xiàn)在卻處于客體地位。好像“人們似乎生活在他們的商品之中，他們的靈魂困在他們的小橋車、高清晰度的傳真裝置、錯層式的家庭住宅以及設(shè)備之中”，好像“物的世界的增值與人的世界的貶值成正比”。其次，從馬克思的“社會形態(tài)理論”看出：人對物的依賴性、物反統(tǒng)治于人，是異化產(chǎn)生的原因，同時異化的產(chǎn)生又與商品經(jīng)濟相聯(lián)系，商品經(jīng)濟社會是科技異化的快速發(fā)展時期，只有到了共產(chǎn)主義社會才能真正實現(xiàn)人的自由和解放。我國正處于并長期處于社會主義初級階段，市場經(jīng)濟體制不夠完善，生產(chǎn)力還未達到足以高的水平，而共產(chǎn)主義社會的一切都是“以生產(chǎn)力的巨大增長和高度發(fā)展為前提的”，所以科技異化在社會中會長期存在。

2 機器人的道德發(fā)展難題

2.1 國與國之間經(jīng)濟發(fā)展不平衡

各國經(jīng)濟發(fā)展不同，生產(chǎn)基礎(chǔ)強弱不一，導(dǎo)致各國對人工智能發(fā)展采取的措施不同，研究資金有多有少，技術(shù)發(fā)展有前有后。發(fā)達國家一直利用科技“剪刀差”，占據(jù)技術(shù)制高點，進行技術(shù)保護壁壘。發(fā)展中國家人工智能技術(shù)發(fā)展雖有所貢獻，但與核心技術(shù)相關(guān)的難題不了解、不攻破的話，那么發(fā)展還是舉步維艱、進程緩慢。其次發(fā)展中國家發(fā)展機器人可能造成經(jīng)濟開發(fā)困境，會引起本國的經(jīng)濟結(jié)構(gòu)轉(zhuǎn)變。發(fā)展中國家工業(yè)尤其是科技行業(yè)基礎(chǔ)薄弱，研究人員儲備不足及其理論水平不夠，但發(fā)展中國家跟風(fēng)發(fā)達國家的步伐國家投入大量資金開發(fā)人工智能技術(shù)和機器人，使本來不發(fā)達的農(nóng)業(yè)輕工業(yè)發(fā)展更加緩慢，這樣的經(jīng)濟發(fā)展會加劇不平等現(xiàn)象?！?017年全球風(fēng)險報告》中也有類似觀點。

2.2 人的道德復(fù)雜性造成的技術(shù)難題

原始社會時期，人人平等、互助團結(jié)；奴隸社會時期，出現(xiàn)階級差別、男尊女卑；封建社會出現(xiàn)是以維護宗法等級關(guān)系為主的道德，資本主義社會出現(xiàn)個人主義和利己主義為核心的道德，我國社會的道德是以集體主義為原則。道德作為社會意識形態(tài)的表現(xiàn)形式是有歷史階段性的，各個階段的評價標(biāo)準(zhǔn)不同，導(dǎo)致人的道德復(fù)雜性。機器人作為人思維實踐化的產(chǎn)物，人是機器人的創(chuàng)造者，在設(shè)計的時候免不了帶有人的道德觀念。所以人的道德發(fā)展的復(fù)雜性決定了機器人的道德發(fā)展的復(fù)雜性。人的道德雖是由思想上占統(tǒng)治地位的統(tǒng)治階級制定，但終究是由生產(chǎn)力和生產(chǎn)關(guān)系的發(fā)展水平?jīng)Q定的。因此，機器人的道德發(fā)展的復(fù)雜性是由科學(xué)技術(shù)發(fā)展的復(fù)雜性決定的。機器人的道德發(fā)展其實是應(yīng)用于自身身上的技術(shù)難題。由麻省理工學(xué)院大學(xué)人工智能實驗室的布魯克斯開發(fā)的人形機器Cog，是一個具有類似嬰兒能力的可以進行自我學(xué)習(xí)的機器人，但只具有非常簡單有限的學(xué)習(xí)能力，布魯克斯的靈感來源于人與人之間的互動是產(chǎn)生智力的重要因素。之后布魯克斯又設(shè)計出的Kismet機器人可以表現(xiàn)人類的多種情緒狀態(tài)，包括恐懼、悲傷、驚訝和感興趣，還有閉上眼睛并退到睡覺的姿勢。Kismet代表了將情緒反應(yīng)與自主活動結(jié)合在機器人身上的一種嘗試，它的情緒狀態(tài)是通過說話者的音調(diào)變化、指示性手勢以及與之交流的人類的接近行為進行判斷并作出反應(yīng)。它是一個可以進行最基本社交能力的機器人，但是它并沒有進行價值推理的能力。2017年10月27日由戴維·漢森設(shè)計的機器人“索菲亞”成為人類歷史第一個被授予“公民”身份的女性機器人，她能做出62種以上的表情，與人的眼神互動，還言稱“毀滅人類”（其實是設(shè)計者玩笑和噱頭）。人工智能技術(shù)是不斷發(fā)展的，自主性和可操作性更強了，使得機器人的發(fā)展越加快速。但更多的是反映技術(shù)的困難重重。機器人目前能模仿人類基本的表情變化，但人的復(fù)雜的心理和生理歷程機器人就不好表達和描述了。應(yīng)用于機器人上的技術(shù)理論也在不斷的研究和探討過程中。

2.3 道德監(jiān)管的復(fù)雜性

第一，反映在機器人的道德決策的不確定性。人工智能革命在不斷提高人們對自動化的依賴的同時，自主性系統(tǒng)逐漸掌控著能產(chǎn)生多種倫理后果的決定，人工智能的道德決策的不確定性，導(dǎo)致了機器人道德監(jiān)管的復(fù)雜性有的選擇從法律角度分析人工智能的道德發(fā)展應(yīng)該采取懲罰方式，但是被懲罰的概念在機器人的發(fā)展過程中會持續(xù)多久，說不清楚，或者說懲罰只是更適用于簡單的機器人，隨著技術(shù)的不斷革新，先進的機器人會采取其他方式規(guī)避懲罰的。在當(dāng)代社會由于行為和結(jié)果之間有著復(fù)雜的利益鏈條，由誰做出重要決策這一問題模模糊糊，道德誰對誰錯的問題更為復(fù)雜，那么問題出現(xiàn)之后監(jiān)管問題也就懸而未決。第二，使用機器人的安全問題。隨著機器人不斷應(yīng)用在軍事上，使得軍事戰(zhàn)爭更加自主化、智能化，這將會改變傳統(tǒng)的戰(zhàn)爭方式。國際上并沒有統(tǒng)一的管理軍事化機器人的條約和規(guī)定，如果出現(xiàn)設(shè)計漏洞，對國家和人們的人身安全將是巨大的威脅。而且發(fā)展機器人也沒有出臺相關(guān)的法律法規(guī)，機器人商業(yè)化會在一定程度上對人的財產(chǎn)安全和法律權(quán)利造成影響。

3 機器人道德發(fā)展的措施

機器人作為人類改造世界的工具，是為了讓人類能夠更好地獲得自由而全面的發(fā)展機會。因此為了構(gòu)建“人類命運共同體”，首先各國之間應(yīng)該采取共同經(jīng)濟政治合作的方式，打破技術(shù)發(fā)展壁壘，采取“和而不同”的思想方針，實現(xiàn)資源共享，協(xié)同進步，并與本國具體國情相結(jié)合。這樣才能促進各國互利雙贏，推動人工智能的高速發(fā)展。其次，通過聯(lián)合國等國際組織制定相關(guān)的關(guān)于人工智能和機器人安全發(fā)展的條約和規(guī)定，共同促進機器人的健康發(fā)展。最后，人工智能作為一旦生產(chǎn)出來就不以人的意志為轉(zhuǎn)移的產(chǎn)物，構(gòu)建它們的道德應(yīng)該有自身的特點。眾所周知，機器人必須遵守“阿西莫夫三大定律”：不能傷害人類；聽命于人類的使命；保障自身安全，但同時不得違背上述兩點原則。從這可以看出只是單方面的強調(diào)機器人對人類的絕對服從和義務(wù)關(guān)系，并沒有突出機器人自身的權(quán)利如何，應(yīng)該突出人工智能的權(quán)利問題，給予起一定的自主決策權(quán)，并協(xié)調(diào)好人的決策與人工智能的道德決策的一個適當(dāng)?shù)亩?。而且一定隨著時代的進步而發(fā)展，畢竟未來主義文學(xué)作品以及影視作品給了我們太多的警示作用。

參考文獻

[1] 馬克思、恩格斯.德意志意識形態(tài)，馬克思恩格斯全集（中文第2版），（第3卷）[M].北京：中共中央編譯局.

[2] 馬爾庫塞.單向度的人[M].上海：上海譯文出版社，2014.

[3] 馬克思.1844年經(jīng)濟學(xué)哲學(xué)手稿.馬克思恩格斯全集（中文第2版），（第42卷）[M].北京：中共中央編譯局.