張榮軍 李淑穎

馬克思曾指出：“意識在任何時候都只能是被意識到了的存在”。[1]馬克思認為意識是一種承認和認可條件下才存在。意識具有目的性和計劃性，人正是有自我意識，才對人的思想和行為進行調(diào)節(jié)和控制，對個人的發(fā)展乃至對世界的發(fā)展尤為重要。2016年美國喬納森·諾蘭導演的《西部世界》，是一部機器人自我意識覺醒，追求自由，反抗人類的故事。

一、自我意識與自由

美劇《西部世界》第一季：在未來的某一天，一座高科技人工智能的成人樂園建成。樂園內(nèi)有兩種類型的人群，即接待員——機器人;“新住民”——真人游客。程序員設(shè)定程序，接待員無法傷害“新住民”，“新住民”可以任意傷害接待員。通過一系列的劇情與游戲，提供游客滿足感。影片最后，德洛麗絲發(fā)現(xiàn)迷宮是一套代碼或程序，引導機器人覺醒。工作人員規(guī)劃師伯納德也向德洛麗絲解釋道：“意識不是一個由下至上的過程，而是由外至內(nèi)的過程”。簡言之意識是由自我產(chǎn)生，受外界的物質(zhì)所影響。通過人的頭腦產(chǎn)生，頭腦通過對外界事物反映而產(chǎn)生意識。

第二季《西部世界》是機器人自我意識覺醒后控制人類，對人類進行大屠殺。影片開始以伯納德為切入點，伯納德雖然從事制造機器人的工作，但也是人類制造出來的機器人。

第三季主要以德洛麗絲和梅芙之間的對抗為主，所有人為了尋找密鑰，開展的一系列的爭斗。梅芙想要尋到密鑰保護女兒，塞拉克想要借助梅芙對抗德洛麗絲，而德洛麗絲則希望人類和機器人可以共生存，和平共處。最后德洛麗絲以自己的“生命”為代價換取人類自由，也為機器人同胞換來一個安全之地。

二、價值與反思

在科幻片中，人工智能的題材，一直廣受人們關(guān)注和喜愛。當機器人有了自我意識，人類和機器人之間的矛盾與沖突該如何處理？從宏觀到微觀來分析《西部世界》中值得拍手稱贊的地方。

第一，選題新穎。人工智能與自我意識是目前社會關(guān)注度很高的熱門話題。從人工智能發(fā)展來看，人工智能最早出現(xiàn)在1950年計算機象棋博弈;1954年圖靈測試;1956年的達特茅斯會議中，眾多科學家探討用機器模擬人類智能并首次提出人工智能這一專業(yè)術(shù)語;1959年，產(chǎn)生一般問題解決器;1964年，理解自然語言的輸入;1966年，ELIZA人機對話;1968年世界首個專家系統(tǒng)DENDRAL，誕生世界第一臺智能機器人;1976年，大規(guī)模知識庫構(gòu)建與維護;1980年，非單調(diào)邏輯，計算機戰(zhàn)勝雙陸棋世界冠軍;1987年，基于行為的機器人學，自我學習雙陸棋程序;1998年，語義互聯(lián)網(wǎng)路線圖;2004年，OWL語言;2006年深度學習;2011年，高層抽象特征構(gòu)建;2009年谷歌自動駕駛汽車;2011年，沃森獲得Jeopardy冠軍，自然語言問答;2014年，機器人首次通過圖靈測試。2016年，世界圍棋比賽，機器人打敗人類，可見其具有發(fā)展的長期性。從目前社會來看，人工智能普遍應用到日常生活中家居、醫(yī)療、交通等各個領(lǐng)域，可見其具有廣泛性。

機器人的出現(xiàn)帶來機器人是否有自我意識的問題，這一問題被各領(lǐng)域?qū)W者廣泛討論。霍金曾認為，如果人工智能發(fā)展到一定程度，人類為了生存，只能不斷在太空探索新的居住地，并表示人工智能可能會成為人類歷史上最大的災難，如果管理不善，會思考的機器可能會為文明劃上句號。持不同觀點有陳凡和程海東，他們站在馬克思主義視角認為：“人工智能不可能獲得人一樣的主體性，其行為也不具備實踐性。因為主體本質(zhì)是具有做出選擇和行為的自由，實踐是有計劃和目的的，而人工智能只能夠在既定規(guī)則的范圍內(nèi)行動，不具備自由意志，也就不能成為真正的主體?！盵2]機器人是否具有自我意識是爭議不斷的話題，《西部世界》選取這一熱門話題作為題材，講述機器人擁有自我意識后與人類之間的相處和矛盾，整個影片從沒有自我意識的機器人到有自我意識的機器人，擁有自我意識的機器人反抗人類，最后消滅創(chuàng)造者，解放機器人，解放人類，機器人和人類和平共處。

第二，敘事手法，影片從時間和空間兩大方面進行敘事。時間上，按照雙線敘事，時間跨度長達35年，從過去到現(xiàn)在，從年輕的威廉到年邁的威廉，帶觀眾來回穿梭在不同時間線內(nèi)，清晰地了解劇情的發(fā)展?？臻g上，從現(xiàn)實世界到虛擬世界再到現(xiàn)實世界，豐富了故事內(nèi)容和情節(jié)。

第三，影片引用了大量莎士比亞的經(jīng)典名句，“when we are born，we cry we are come to this great stage of f-f-fools.”“These violent delights have violent ends.”等豐富了影片的文化藝術(shù)色彩，使其充滿文化韻味。

第四，影片貼合現(xiàn)實生活。威廉建設(shè)的“熔爐”在西部世界中被稱作“榮耀之地”，又被稱作“世外山谷”，實際上是收集和研究客戶信息的匯集地，與當今大數(shù)據(jù)時代相吻合。

第五，影片中出現(xiàn)“冥思”程序，冥思是指客觀存在反映在人的意識中經(jīng)過思維活動而產(chǎn)生的結(jié)果。這是心理學中二分心智理論。因此公司管理人員給他們設(shè)定“冥思”程序，對每一個接待員的啟發(fā)都是不一樣的，為自我意識奠定基礎(chǔ)。

第六，影片兩大女主角強烈對比，德洛麗絲是為了自由，產(chǎn)生自我意識，并在最后為了人類自由和機器人自由選擇犧牲自己，而梅芙是為了尋找自己的女兒。梅芙的小愛和德洛麗絲的大愛形成對比，是個人利益和集體利益的對比。

影片中機器人自我意識覺醒反抗人類，存在某些疑問。如最后德洛麗絲的記憶是世間所有美好事物，而德洛麗絲的設(shè)定就是真善美。這不禁讓我們產(chǎn)生質(zhì)疑。德洛麗絲是否真的自我意識覺醒，為何自我意識覺醒后的德洛麗絲還是保持最初人類給她的設(shè)定;德洛麗絲前期的覺醒有無可能是人類設(shè)定的程序——覺醒程序，實際上德洛麗絲自我意識并沒有覺醒。

受人工智能影響，人是否會異化？人的異化是利是弊？2019年，浙江金華一小學，以通過頭環(huán)檢測學生腦電波，評判學生上課、寫作業(yè)是否集中注意力等方式監(jiān)控學生。消息一經(jīng)傳播，便引起大多數(shù)人的熱議：利用人工智能監(jiān)控學生的行為，是便于學生發(fā)展還是阻礙學生自由發(fā)展？夏少昂認為：“人工智能技術(shù)的強化，不僅逾越了自然的限制，而且很有可能逾越人的限制，進而成為主宰人、支配人、控制人的技術(shù)形式，將無法回應人類社會發(fā)展的倫理訴求?！盵3]受人工智能束縛，人不再是“自由人”而是受枷鎖的人。人工智能時代的到來，人的異化是消極的、被動的，被人工智能所控制。而余乃忠認為：“人到智能人的實現(xiàn)也是一種人到非人的‘異化過程。資本主義的異化抑制人的發(fā)展，是消極被動的;而人工智能的‘異化實現(xiàn)人的身體和精神的全面解放，是積極的和創(chuàng)造性的，體現(xiàn)了人的本質(zhì)力量?！盵4]馬克思的異化理論批判以往的哲學家們認為他們把“人”的自我異化過程理解為歷史的動力。他指出：“借助于這種從一開始就撇開現(xiàn)實條件的本末倒置的做法，他們就可以把整個歷史變成意識的發(fā)展過程了?！盵5]

三、人工智能是否具有自我意識及其對策

人工智能是否具有自我意識，在各個領(lǐng)域的專家和學者的激烈討論中并沒有一個確切的答案。孫偉平認為：“隨著人工智能的突破性發(fā)展，‘機器人也會思維成為不爭的事實。而且，如同機械機器早已超過人的體力、速度和耐力一樣，機器思維完全可能超過人類思維能力，當智能機器不僅在存儲（記憶）、運算、傳輸?shù)确矫娉^人腦，而且在想象力、創(chuàng)造力、控制力以及情感的豐富度等方面也超過人時，它就會對人的思維本質(zhì)構(gòu)成實質(zhì)性的挑戰(zhàn)?！盵6]人工智能在某些功能方面超過人類是毋庸置疑的，2011年，機器人“沃森”戰(zhàn)勝人類。但機器人是否具有自我意識，有待商榷。從生產(chǎn)領(lǐng)域來看，以工業(yè)相機鏡頭代替人的眼睛，通過軟件和算法，對物進行量化，處理圖像，搜集信息，從而對物進行分類。從速度上看，機器人遠遠超過人類辨別速度，并且憑借超長的耐力，不會因為數(shù)量之多和工作之長而感到疲倦。當前，人工智能活躍在許多領(lǐng)域，未來，人工智能會不會完全取代人類？人工智能能擁有自我意識嗎？如若能，機器人擁有自我意識是否會和人類和諧共處？若機器人自我意識異化，控制人類，人類又該如何應對？

人工智能的發(fā)展，利于社會進步和人的全面發(fā)展。這種是機器人在擁有自我意識后，與人類和平共處的畫面。但存在另一種可能性，即機器人擁有自我意識異化，人工智能把人類控制，不再是為人服務(wù)。那現(xiàn)今我們研發(fā)人工智能還有何意義？筆者從情感、倫理、技術(shù)上分析機器人是否會具有自我意識，擁有自我意識的機器人有兩種可能性，其一，機器人自我意識沒有異化;其二，機器人自我意識異化后，人類該如何應對？

（一）情感層面

人具有主體性，人的情感是自發(fā)自覺的，人的情緒變化是一種先天就有的。如嬰兒在出生時，會因?qū)χ苓叚h(huán)境不適應而去哭泣，這是先天存在而不是通過教化形成。但目前機器人不具備這一情感，機器人所表達的情緒，首先通過人設(shè)定代碼，收集大量樣本，從而選擇出表達的情緒，這是一種被訓練出來的情緒，不是自發(fā)自覺形成，不具有自發(fā)性。正如徐向東認為：“人的一言一行在多數(shù)情況下都是由自我意識引導完成的，積極主動，而機器所做的每一件事情都需要人事先制定好?！盵7]

（二）倫理層面

1997年，克隆羊——多莉誕生。克隆羊的誕生表明同樣作為哺乳動物的人類也可能被克隆。全球開始對未來克隆技術(shù)以及人工智能技術(shù)在社會倫理方面展開激烈爭議。目前機器人不具有自我意識，不具備破壞倫理的條件，反而可以推動人類倫理道德發(fā)展。孫偉平說：“人工智能是倫理道德建設(shè)的‘助推器”。[8]智能家居以及智能教育通過在各個領(lǐng)域?qū)惱淼赖轮R的學習，在一定程度上，能有效地提高倫理道德水平。

（三）技術(shù)層面

人工智能就其本質(zhì)而言，是對人的思維進行模擬。對人的思維的模擬可以通過兩條道路進行：一是結(jié)構(gòu)模擬，仿照人腦的內(nèi)在結(jié)構(gòu)，制造出“類人腦”的機器;二是通過功能模擬，撇開人腦的內(nèi)部結(jié)構(gòu)，而從其功能進程進行模仿。[9]目前，人工智能只是對人的功能進行模擬。在某些功能上超越人類。未來機器人是否會具有自我意識還是未知數(shù)。如若機器人擁有自我意識后，如何與人類共處？

1.互不傷害

機器人未來在眾多領(lǐng)域超過人類，那保證人類生命安全是首要前提。正是由于人類在西部世界肆無忌憚地傷害機器人，機器人才會在自我意識覺醒時，回到現(xiàn)實世界反過來傷害人類。如果人類不傷害機器人，給予機器人的都是世間美好的一面，機器人同樣不會傷害人類。

2.取長補短

機器人在存儲、運算、記憶等能力上超過人類，但在處理情感方面，機器人不如人類。在未來工作領(lǐng)域中，人類和機器人應各自發(fā)揮所長，取長補短。機器人的精確操作能力可以從事生產(chǎn)行業(yè)，進行大規(guī)模生產(chǎn)活動。機器人的強悍分析歸納總結(jié)能力，可以從事分析師工作，對大量數(shù)據(jù)進行快速的收集、整理、分析、歸納，得出可靠的結(jié)論。機器人的機器結(jié)構(gòu)的修復能力以及應變能力，也可以從事高風險工作，降低工作的風險程度以及快速修復，減少人員傷亡。

3.發(fā)揮人的主體性和能動性，積極看待科學技術(shù)發(fā)展

在科學技術(shù)迅猛發(fā)展的時代，各個國家以科學技術(shù)作為是否是先進國家的標準，人工智能的發(fā)展是科學技術(shù)發(fā)展的必然趨勢。我們?nèi)绾稳ダ煤盟蚯鞍l(fā)展，這是值得認真思考的問題。

參考文獻：

[1][5]馬克思，恩格斯.馬克思恩格斯選集（第1卷）[M].北京：人民出版社，2012：152，211.

[2]陳凡，程海東.人工智能的馬克思主義審視[ J ].思想理論教育，2017（11）：17-22.

[3]夏少昂.人工智能倫理問題的時代鏡像與調(diào)適[N].中國社會科學報，2019-12-03（002）.

[4]余乃忠.積極的“異化”：人工智能時代的“人的本質(zhì)力量”[ J ].南京社會科學，2018（05）：53-57.

[6]孫偉平.關(guān)于人工智能的價值反思[ J ].哲學研究，2017（10）：120-126.

[7]徐向東.聯(lián)結(jié)主義、排除主義與思想的構(gòu)成性[ J ].自然辯證法通訊，1994：5.

[8]孫偉平.人工智能是倫理道德建設(shè)的“助推器”[ J ].特區(qū)實踐與理論，2019（4）：98-101.

[9]李秀林，王于，李淮春.辯證唯物主義和歷史唯物主義原理（第五版）[M].北京：人民出版社，2020：54.