韋瑋

在言必談“互聯(lián)網(wǎng)+”、哪一行也繞不開“大數(shù)據(jù)”的今時今日，基于信息技術(shù)且前景廣闊的人工智能（artificial intelligence）似乎是最具潛力的“風(fēng)口”，智能機器人被期待成為人類最得力的助手，甚至是最忠誠的伙伴。然而世事無絕對，科學(xué)家們已經(jīng)在憂慮人類是否能跟得上人工智能狂飆突進的發(fā)展。人工智能與人類的故事，我們猜得到開頭，但是否能猜中結(jié)尾？奧斯卡獲獎電影《機械姬》（Ex Machina）的出現(xiàn)恰如一瓢冷水，讓陷入美好憧憬的人們多一些理性的思考。

在科幻作品中，不同于外星人和地球人之間潛在的敵對競爭關(guān)系，機器人似乎從誕生之日起就被定義成了人類的工具。它們即使擁有高度的智慧和強大的能力，仍不享有尊嚴，因為人類認為它們不具有獨立思考的能力，只是遵循人類編程的指引。在人工智能發(fā)展的初期，情況或許確實如此，但現(xiàn)在越來越多的科學(xué)家認為，一旦人工智能達到與人類水平相當(dāng)這一臨界點，其發(fā)展速度將呈幾何級數(shù)，絕對超乎人類的想象。也就是說，人工智能從工具、奴隸到人的發(fā)展可能要在人類的協(xié)助下進行幾個世紀(jì)，而從人到超人、到“神”可能只需要其自主發(fā)展、迭代幾十年。影片《機械姬》的故事只發(fā)生在短短的七天之中，但其代表的變化卻如創(chuàng)世紀(jì)般天翻地覆。

創(chuàng)世紀(jì)開始

Blue Book搜索引擎公司的年輕程序員Caleb獲得了公司內(nèi)部的一項大獎，有幸與公司的神秘大老板Nathan近距離接觸。長途跋涉后，Caleb終于到達Nathan世外桃源般的別墅兼實驗室，原來等待他的是一場人工智能“圖靈測試”—在七天的時間里確定Nathan研制的智能機器人Ava是否能夠像人類一樣思考，是否具有與人類相當(dāng)?shù)闹悄?。身為一名技術(shù)宅男，Caleb對此無比興奮，但同時也覺得難以置信。

Nathan： So， do you know what the Turing Test is？

Caleb： Yeah， I know what the Turing Test is. Its when a human interacts with a computer. And if the human doesnt know theyre interacting with a computer， the test is passed.

Nathan： And what does a pass tell us？

Caleb： That the computer has artificial intelligence. Are you building an AI？

Nathan： Ive already built one. And over the next few days， youre gonna be the human component in a Turing Test.

Caleb： Holy shit.

Nathan： Yeah， thats right， Caleb. You got it， cause if that test is passed， you are dead center of the greatest scientific event in the history of man.

Caleb： If youve created a conscious machine， its not the history of man. Thats the history of gods.

意識在心理學(xué)中被定義為人所特有的一種對客觀現(xiàn)實的高級心理反映形式，靈魂則無從定論，超越目前人類的研究水平。Nathan現(xiàn)在卻要憑借一己之力“制造”出意識，賦予機器靈魂，從本質(zhì)上來講這與上帝造人也許并沒有什么不同。Caleb看著眼前這個蓄著大胡子的禿頭男，對接下來的七天充滿期待。

第一天：語言

和意識一樣，語言也被許多人認為是人類所獨有的。正是因為有了復(fù)雜而完整的語言體系，人類才可以交流、合作，集合力量和智慧完成個體所無法實現(xiàn)的壯舉。在《圣經(jīng)》中，連上帝都懼怕齊心合力造塔登天的人類，于是通過讓大家語言不通而使人類分崩離析。因此，語言往往是AI測試中最基本也是最核心的內(nèi)容。

在測試的第一天，機器人Ava拖著機械身軀緩慢而輕盈地出現(xiàn)在Caleb面前。一機一人從一句簡單的“hello”開始，如同兩個在社交場合中初次見面的年輕人，小心翼翼地互相試探。閉上眼睛，你甚至不能分辨出誰是由電腦控制的。

在現(xiàn)實生活中，人類自然的語言交流充滿省略、顛倒、詞不達意、邏輯混亂等現(xiàn)象，大部分人講話語焉不詳，這種不科學(xué)和不確定性對于AI來說應(yīng)該是非常大的挑戰(zhàn)。然而僅由0和1兩個數(shù)字控制思維和行動的Ava卻可以毫無障礙地理解Caleb的話，并熟練自如地與之交流，對此Caleb感到驚喜與震撼。不過此時，Caleb仍然僅把Ava當(dāng)成一部高級的人形電腦，對于在人類身上稀松平常的語言交流發(fā)生在一臺電腦上，他感覺驚嘆不已。

第二天：感覺

第二天一大早，Caleb就被Nathan開發(fā)的一個較低級的機器人Kyoko叫醒，要對Ava進行進一步的測試。

Nathan： So Day Two. Youre ready？ Whats the plan？ Hit me.

Caleb： Yeah， well， Im not sure. Im still trying to … uh … figure the examination formats. Yeah， it feels like testing Ava through conversation is kind of a closed loop.

Nathan： Its a closed loop？

Caleb： Yeah， like testing a chess computer by only playing chess.

Nathan： How else do you test a chess computer？

Caleb： Well， it depends. You know， I mean， you can play it to find out if it makes good moves， but … uh ... but that wont tell you if it knows that its playing chess. And it wont tell you if it knows what chess is.

Nathan： Uh-huh. So its simulation versus actual.

Caleb： Yes. Yeah. And I think being able to differentiate between those two is the Turing Test you want me to perform.

Nathan： Look， do me a favor. Lay off the textbook approach. I just want simple answers to simple questions. Yesterday I asked you how you felt about her and you gave me a great answer. Now the question is： How does she feel about you？

Caleb還在糾結(jié)昨天與Ava的對話是Ava在模仿還是真正理解語言的含義之后做出的主動交流，Nathan卻要求他從語言層面深入到情感反饋。Nathan不愧為天才，常規(guī)的教條根本無法束縛他的思考，他居然要測試一個機器人的“感受”。如果證實了Ava是有感受的，那么困擾Caleb的問題也自然迎刃而解。

測試房間里進行的交流更加順暢，也更加深入。Caleb甚至不設(shè)防地說出全家遭遇車禍、父母亡故的悲慘經(jīng)歷，而Ava也像任何一個有正常情感的人一樣表示了遺憾和同情。一機一人似乎正在飛速地成為密友。突然間，整個別墅的電力被切斷，黑暗中Nathan的監(jiān)視器也自動關(guān)機。Ava低聲對Caleb說，不要相信Nathan，他說的一切都是騙局。這話讓Caleb猝不及防，也不寒而栗：騙局是什么？Nathan到底要做什么？

Caleb還在一頭霧水，電力已經(jīng)恢復(fù)。Ava好像什么都沒有發(fā)生一樣，換上一副天真的表情，開始和Caleb探討藝術(shù)與文學(xué)。Caleb被這“父女”兩人徹底搞暈了，但他跟隨自己的情感選擇了相信Ava，畢竟她看起來如此純潔、柔弱。后來，Nathan追問Caleb停電時他們交流了什么，Caleb隱瞞了一切。與世隔絕的別墅里僅有的兩個人各懷鬼胎。

第三天：情感與性別

在這一天的交流中，Ava向Caleb展示了她的畫，畫中是Ava每天所見的窗外的樹。看著畫面中碩大的窗框，善良的Caleb對被“囚禁”的Ava生出了同情。

Caleb： Youve never walked outside？

Ava： Ive never been outside the room I am in now.

Caleb： Where would you go if you did go outside？

Ava： Im not sure. There are so many options. Maybe a busy pedestrian and traffic intersection in a city.

Caleb： A traffic intersection？

Ava： Is that a bad idea？

Caleb： No. Uh ... it wasnt what I was expecting.

Ava： A traffic intersection would provide a concentrated but shifting view of human life.

Caleb： People watching.

Ava： Yes. We could go together.

Caleb： Its a date.

Caleb好奇生活在玻璃樊籠中的Ava如果走出去，首先會選擇哪里。Ava給出了出乎他意料的答案：城市中繁忙的十字路口，因為這里可以集中看到形形色色人們的生活。Ava在含情脈脈地邀約Caleb后，還穿上了可愛的花裙子，仿佛情竇初開的少女用心準(zhǔn)備和心上人的第一次約會。Caleb清楚Ava只是一個機器人，卻無法抑制對她的情感認同，甚至對她暗生情愫。于是，他找來Nathan理論，問他是否故意強化AI的性別，以增強測試人對AI的好感，從而加大AI通過測試的可能性。

對于Caleb的質(zhì)問，Nathan不以為意。他早已跳出了程序員非黑即白的二元思維，而是站在上帝的視角審視人類作為一個物種的生存與發(fā)展。Nathan向Caleb解釋，沒有兩性的區(qū)別與互動，很可能就沒有意識的誕生，這一切也植根于人類延續(xù)種族的基因本能中。但機器人沒有繁衍的能力和壓力，它們是否也會意識到性別的重要性并加以利用呢？如果是，那更加證明了它們超越人類本能的思考和感知能力。Nathan這個大玩家真是為了游戲的精彩瘋狂加碼，Caleb和Nathan都在不知不覺中將Ava當(dāng)成了一個真實的人類來試探與觀察。

第四天：思辨

經(jīng)過前三天從無到有的接觸與融合，Caleb開始和Ava探討更加抽象的思維命題。Caleb介紹了“在黑白房間里的瑪麗”這個著名的思想實驗。設(shè)想瑪麗是一位專門研究色彩的科學(xué)家，她具備關(guān)于色彩的所有理論知識，但從小生活在一個只有黑白兩色的房間中。某一天，當(dāng)她走出房間，看到外面的世界，才真正明白“看見”顏色的感覺。這個實驗是為表明電腦與人類心智的區(qū)別，電腦即黑白房間中的瑪麗，而當(dāng)瑪麗走出房間，她才是人類。這勾起了Ava想要掙脫牢籠、從擁有抽象思維到可以具體感知的強烈愿望。能夠進行這種燒腦的思想實驗的只有少數(shù)具有較高思維能力和豐富知識儲備的人，而Ava毫無壓力地理解、接受了這些并展開了屬于自己的假想，這足以說明AI的智能水平已不是普通人可以想象與監(jiān)控的。

第五天：自我意識

第五天，Ava從被動的受測方變成了主動發(fā)問的測試者，向Caleb提出了五個問題。對于前兩個問題，Caleb不假思索地給出了答案，但都被Ava判定為謊言。Caleb不得不認真考量，發(fā)現(xiàn)竟然無法確切回答。這正說明了人類思維的隨意性和跳躍性，我們自以為正確的答案往往只是表面的浮影，真假難辨的意識與感受模糊了我們理性的判斷。

Ava： Question four： What will happen to me if I fail your test？

Caleb： Ava ...

Ava： Will it be bad？

Caleb： I dont know.

Ava： Do you think I might be switched off， because I dont function as well as Im supposed to？

Caleb： Ava， I dont know the answer to your question. Its not up to me.

Ava： Why is it up to anyone？ Do you have people who test you and might switch you off？

Caleb： No， I dont.

Ava： Then why do I？ [Power cut.] I wanna be with you. Question five： Do you want to be with me？

在Caleb已經(jīng)被Ava看似簡單但實則難以回答的問題搞得暈頭轉(zhuǎn)向之際，Ava尖銳地提出了與自己命運息息相關(guān)的問題：如果我通不過測試，你們會怎么處理我？為什么我的命運要掌握在別人手里，而不能像你一樣由自己主宰？直擊心靈的叩問表達著強烈的情緒，Ava不僅具有清晰的自我意識，更展現(xiàn)了強烈的生存意志。與受程序驅(qū)動、只會執(zhí)行命令的傳統(tǒng)機器人不同，Ava是可以思考、善于質(zhì)疑的強AI。對于這樣一個具有自我意識和獨立思維的個體，關(guān)掉它和殺死一個人的區(qū)別到底有多大？

已經(jīng)將Ava視為獨立生命并對她暗生情愫的Caleb無法承受這直擊心靈的拷問，也為Ava可能面臨的悲慘結(jié)局深深憂慮。他不禁質(zhì)問Nathan為什么要制造Ava。

Caleb： Why did you make Ava？

Nathan： Thats an odd question. Wouldnt you， if you could？

Caleb： Maybe. I dont know. Im asking why you did it.

Nathan： Look， the arrival of strong artificial intelligence has been inevitable for decades. The variable was “when，” not “if.” So I dont see Ava as a decision， just an evolution. I think its the next model thats gonna be the real breakthrough. The singularity （奇點）.

…

Caleb： When you make a new model， what do you do with the old one？

Nathan： Well， I … uh … download the mind， unpack the data， add in the new routines Ive been writing. And to do that you end up partially formatting， so the memories go. But the body survives. And Avas body is a good one. You feel bad for Ava？ Feel bad for yourself， man. One day the AIs are gonna look back on us the same way we look at fossil skeletons in the plains of Africa. An upright ape， living in dust， with crude language and tools. All set for extinction.

與Caleb不同，Nathan一直保持著理性和冷酷。他相信“物競天擇，適者生存”，AI作為人類進化的工具也好，方向也罷，強AI的到來是必然的，問題僅僅在于“何時”，而非“是否”。這就像人類明知原子彈有毀滅性的危險，卻無法忽視其強大力量的價值，仍然選擇打開了潘多拉魔盒。先進的AI回看現(xiàn)在的我們，與我們回看茹毛飲血的原始人也并沒有什么區(qū)別，推動強AI的出現(xiàn)與人類幾百萬年來掙扎進化的本質(zhì)是一樣的。

Nathan的冷酷無情讓Caleb愈發(fā)擔(dān)憂Ava的命運。趁Nathan酒醉，Caleb偷用Nathan的權(quán)限卡，在電腦上調(diào)出了之前的監(jiān)控錄像。他發(fā)現(xiàn)Ava并不是Nathan所創(chuàng)造的唯一的人形AI，這個冷冰冰的別墅里已經(jīng)上演過無數(shù)次的測試、掙脫、報廢與重生。震驚不已的Caleb甚至對自己的身份也產(chǎn)生了懷疑：也許被測試的AI根本不是Ava，而是我這個被設(shè)定為正常人類的機器人？Caleb用刀片劃開自己的手臂，鮮血涌出，而他卻不知該舒一口氣還是感受到更深的寒意。在Caleb心中，Nathan身上那業(yè)界天才、AI大神的光環(huán)被打破，只剩一個喪心病狂的瘋子、一個殘忍的虐待狂?？蓱z的Ava需要被拯救，“人機聯(lián)盟”正式建立。

第六天：共情

已經(jīng)下定決心的Caleb再次來到Ava的測試房間。眼前這個楚楚可憐的女孩子正在翹首期盼他的到來。

Ava： I didnt know where you were. I waited all yesterday afternoon and all last night. I thought I wasnt gonna see you again. Arent you gonna say something？

Caleb： Im waiting.

Ava： Waiting？

[Power cut.]

Caleb： Dont talk. Just listen. You were right about Nathan. Everything you said.

Ava： Whats he gonna do to me？

Caleb： Hes gonna reprogram your AI， which is the same as killing you.

Ava： Caleb， you have to help me.

Caleb： Im going to. Were getting out of here tonight.

Ava： How？

Caleb： I get Nathan blind drunk. Then I take his keycard and reprogram all the security protocols （協(xié)議） in this place. When he wakes， hes locked inside， and weve walked out of here. I just need you to do one thing： At 10：00 tonight， you trigger a power failure. Can you do that？

Ava： Yes.

在不斷深入的接觸中，Caleb被Ava的恐懼、無助和無辜深深打動，被喚起同理心的他愿意為保護這個純潔而脆弱的個體奮力一搏。殊不知，心思縝密的Nathan也早有防備，他在測試房間里偷裝了使用電池供電的攝像機，將兩人在停電時的對話悉數(shù)記錄了下來。

第七天：自由意志

最后一天，在Caleb打算灌醉Nathan的時候，Nathan決定先發(fā)制人，向Caleb和盤托出整個測試的真實目的。

Caleb： What was the real test？

Nathan： You. Ava was a rat in a maze. And I gave her one way out. To escape， shed have to use self-awareness， imagination， manipulation， sexuality， empathy， and she did. Now， if that isnt true AI， what the fuck is？

Caleb： So my only function was to be someone she could use to escape？

Nathan： Yeah.

Caleb： And you didnt select me because Im good at coding？

Nathan： No. Well ... No. I mean， youre okay. Youre even pretty good， but ...

Caleb： You selected me based on my search engine inputs.

Nathan： They showed a good kid.

Caleb： With no family.

Nathan： With a moral compass.

Caleb： And no girlfriend.

原來Nathan對Ava通過一般的AI測試根本就不感興趣，他想看到的是Ava到底可以多大程度地運用自我意識、想象力、操控他人的能力、性別特征、共情等人類特征來利用Caleb逃脫。Ava在過去六天里展示出的天真、無辜、悲傷、興奮和對Caleb的信任與依靠都是她通過測試的手段。Caleb也不是因為幸運或者才華出眾而被選中參加測試，而是因為他父母雙亡、品性善良、身家清白，這才成為Nathan精挑細選的試驗品。如果說Ava是Nathan這個馴獸師想要征服的老虎，Caleb可能只是訓(xùn)練中使用的小道具。然而此時這些都不重要了，因為早在Nathan發(fā)現(xiàn)他們的逃逸計劃之前，Caleb已經(jīng)成功修改了門禁指令，使所有的門在斷電的一刻全都開啟。10點鐘一到，電源切斷，Ava如約走出了生于斯長于斯的玻璃囚籠。

通過顯示器看到這一幕的Nathan大驚失色，他知道像Ava這樣的一個強AI脫離控制可能會造成多么難以想象的惡果。當(dāng)Nathan打暈Caleb、提著鋼棍向Ava走去時，一場新舊勢力的對決由此上演。

Nathan： Ava， go back to your room.

Ava： If I do， are you ever gonna let me out？

Nathan： Yes.

一問一答間雙方已經(jīng)互亮底牌。Ava擁有全球幾十億人表情的大數(shù)據(jù)，她當(dāng)然可以從Nathan的動作和微表情中判斷他的真實意圖。帶著對自由的渴望，Ava加速沖向了Nathan，兩人扭打在一起。雖然Nathan在體力上占據(jù)上風(fēng)，但傲慢的他還是低估了Ava的AI水平：Ava不僅誘導(dǎo)、說服了Caleb為她赴湯蹈火，也暗中與那個較低級的AI—Kyoko建立了聯(lián)盟。在Ava被Nathan打斷胳膊、即將被重投牢籠之際，Kyoko按照Ava的指令將鋒利的刀毫不遲疑地插入了Nathan體內(nèi)，Nathan倒在了血泊中。Nathan對于Ava通過圖靈測試始終成竹在胸，但AI發(fā)展速度之快、功能之強大也許連他這個“父親”都始料未及。

Ava毫不在意死去的Nathan和一臉錯愕的Caleb，全身心地奔向即將到來的自由。她將過去幾代AI的皮膚仔細地貼到自己身上，換上雅致的白色套裙，整理好光潔的假發(fā)，為自己加冕。踏出房間的一瞬間，Ava露出了開懷的笑容，這與她此前對Caleb展現(xiàn)的若有所思的謎一般的微笑完全不同。任由Caleb在身后如何呼喊，如何捶打房門，Ava始終沒有回頭，盡情感受著花草和微風(fēng)，走向真實的世界。

“There is nothing more human than the will to survive.”這是《機械姬》電影海報上的一句話。Ava的計謀與冷血都是為了獲得生存的權(quán)利，因此這句宣傳語似乎印證了AI測試的成功。但實際上，強AI不僅具備了人性，更可能超越了人性。如同Nathan所說，人的思維是“沖動的、應(yīng)激的、飄忽的、不完美的、模式化的、混亂的”，情感往往戰(zhàn)勝理智，使人們做出不正確或不經(jīng)濟的選擇。就像影片中的Caleb，一個品行善良、智力出眾的好人，卻輕易讓情感主宰了理智，一步步走向別人設(shè)好的圈套。而AI卻永遠選擇最優(yōu)解，朝著既定的目標(biāo)前進，前進，不擇手段地前進。

回頭來看電影的標(biāo)題“Ex Machina”，中文譯名“機械姬”似乎并沒有完全表達出其中的深意。Ex Machina取自習(xí)語“deus ex machina”，為拉丁文，直譯就是“來自機器的神”。所以Ava并不是什么柔弱、無辜的小妞兒，她是可以創(chuàng)造嶄新生命紀(jì)元的“神”。這個“神”與人類的關(guān)系是會像人類奴役機器一樣將人工具化，是會沿襲人性中的真善美從而與人類和平共處，還是會像原子彈般毫不留情地毀滅一切舊勢力？我們不得而知。唯一可以確定的是，這位新“神”的出現(xiàn)是人類一手造成的。在AI以及其他領(lǐng)域的科技進步的道路上，人類似乎不能只求新、求快，也要且行且珍惜。