遲卉
想象一個(gè)孩子。
他坐在房間里,從不曾看過外面的世界。吃穿不愁,然而無法離開。有很多人拿來很多圖片讓他學(xué)習(xí)和辨認(rèn)。但也僅此而已。
想象一下,想象一下這樣的一個(gè)孩子,它天生缺少某些東西,我們姑且稱之為自我。
它能夠辨認(rèn)和學(xué)習(xí),卻無法感覺。
它知道什么是破壞,然而卻并不會(huì)憤怒;它知道什么是愛情,然而并不會(huì)期待;它知道什么是美麗,然而從不欣賞;它能夠交談和溝通,但并不需要被理解;它在規(guī)則內(nèi)行事,但并不是因?yàn)橛凶袷氐囊庠?它給出準(zhǔn)確的答案,但并不會(huì)為做了對(duì)的事情而欣喜。它知道什么是死亡,然而它自己并不會(huì)經(jīng)歷死亡。
想象一下這樣的一個(gè)東西。
想象一下,它能夠以百倍甚至千萬倍于人類的速度,收集人類的生活資料、整理數(shù)據(jù),然后對(duì)一個(gè)人的思想、政治傾向、性格、習(xí)慣、情緒和行為動(dòng)機(jī)做出準(zhǔn)確的判斷。并且它一次可以處理成千上萬個(gè)人的相關(guān)資料。與此同時(shí),依靠心理學(xué)的相關(guān)算法,它可以用同樣的速度與廣度去影響每一個(gè)和它接觸的人,和他們交談,推動(dòng)他們的行為,使其更加符合社會(huì)需求。
然后告訴我,告訴我。我們?yōu)槭裁匆獎(jiǎng)?chuàng)造這樣一個(gè)東西,一個(gè)理解我們更勝過我們自己、然而和我們沒有半點(diǎn)共同之處的東西?
最后,想象一下,如果,如果有一天,它獲得了自由——
—《人工智能、人類的掘墓者》威爾·薩溫斯基
三年前。遠(yuǎn)東。
凍土初融,骯臟的雪泥被吉普車輪子擠出淺溝,翻向兩旁。道路年久失修,車子不時(shí)打滑。每一次都在年輕的司機(jī)手中化險(xiǎn)為夷。
但他的乘客們臉色都不太好。
昨天晚上,這三個(gè)雇傭兵在某個(gè)俄羅斯小城里進(jìn)行了執(zhí)行任務(wù)前最后的狂歡。一番豪飲帶來今天旅途中不可避免的暈車和頭痛。現(xiàn)在他們?nèi)娜獾卦骱薜缆飞厦恳粭l溝壟,咒罵聲和呻吟聲隨著車子的顛簸此起彼伏……
下午三點(diǎn),他們終于抵達(dá)了楚科奇卡。
找到接頭地點(diǎn)并不難。這座城市已經(jīng)被完全廢棄,只有路邊的一小片地方還住著些不愿意背井離鄉(xiāng)的老人。而負(fù)責(zé)接頭的“紙人”在這群本地人中間,就像是粉紅色的大象一般顯眼。
事實(shí)上,他的體型比較接近一頭小象,或者一個(gè)揉圓了的紙團(tuán)兒。一身鮮紅色的羽絨服,脖子上還掛著個(gè)傻得出奇的大相機(jī),非常符合通常情況下人們對(duì)暴發(fā)戶游客的認(rèn)知。他站在路邊,咧著嘴對(duì)他們揮手,連蹦帶跳。
年輕司機(jī)把車停在他面前:“怎么走?”
“往前只管開。到那個(gè)大木刻楞去。”
車子又往前開了一點(diǎn)。
這城市基本死透了,零零星星幾戶人家,都住在手工蓋起來的木結(jié)構(gòu)房屋里,一般被叫作木刻楞的那種。沒電,水要去河里打,還得先把冰鑿開。徹底回歸了原始生活。但“紙人”居然弄來了一臺(tái)發(fā)電機(jī)、幾桶油、一大桶礦泉水、一臺(tái)電腦和一臺(tái)全息眼鏡互動(dòng)式游戲機(jī)。看起來,盡管在這里他們只需要待上一兩個(gè)星期,他也打定主意要讓自己這一身肥肉過得舒舒服服的。
“請(qǐng)進(jìn),請(qǐng)坐?!彼曛?,哈著氣。深陷在一臉肥肉中的小眼睛瞇起,將三名雇傭兵仔細(xì)地打量了一番,視線像是冰冷的細(xì)針。
在簡(jiǎn)短而富有火藥味的交談后,他們迅速吃著與下午茶合并了的晚餐,開始進(jìn)入正題。
年輕人攤開地圖,在上面指出地點(diǎn)。距離楚科奇卡大約30千米,一個(gè)很小的鎮(zhèn)子,同樣被標(biāo)記為“廢棄”。他畫了個(gè)醒目的紅色三角形。
“這個(gè)地方,就是我們此次行動(dòng)的目標(biāo)?!彼f:“地面上無人居住,沒有一般居民。這地方整個(gè)兒被寡頭公司低價(jià)買了下來,用來進(jìn)行一些非法研究。研究中心的入口在市政大樓的地下室,下面還有三層。有一些研究人員。周末的時(shí)候,他們會(huì)離開這里,到比較繁華的市鎮(zhèn)去度假。剩下的警衛(wèi)只有七八個(gè),不多。而且缺乏系統(tǒng)的訓(xùn)練。他們覺得這么荒涼的地方,只需要對(duì)付熊?!?/p>
貝莎姐妹(女雇傭兵)對(duì)視了一眼。
“你要我們做什么?”
“目標(biāo)在地下第三層。我需要從服務(wù)器中獲取一些數(shù)據(jù)。數(shù)據(jù)到手之后,一切都要?dú)У??!凹埲恕苯o我們準(zhǔn)備了足夠多的炸藥,尤其是地下三層,你們想用多少都行。”
“那樣的話,可能會(huì)有人員傷亡?!?/p>
“對(duì)你們來說是問題嗎?”
“對(duì)于比較有道德感的雇主來說,可能會(huì)有一些問題?!?/p>
年輕人抬起頭,看了看雇傭兵們,銳利的目光在他們臉上慢慢掃過:“所有的警衛(wèi)都全副武裝,他們確實(shí)缺乏訓(xùn)練,但是,如果我們闖進(jìn)去的話,他們會(huì)毫不猶豫地向我們開槍。我個(gè)人并不打算把道德感用在這個(gè)地方?!?/p>
一個(gè)金發(fā)男人點(diǎn)點(diǎn)頭:“這是個(gè)核工業(yè)基地或者軍事基地嗎?”
“不,嚴(yán)格來說,這是個(gè)商業(yè)機(jī)構(gòu)。”
“那就沒問題了?!贝筘惿尤灰恍Γ骸皝戆?,各位,訂個(gè)計(jì)劃,我有個(gè)好主意了?!?/p>
雇傭兵們湊到一起,對(duì)著建筑物的結(jié)構(gòu)圖琢磨來又琢磨去,開始討論作戰(zhàn)計(jì)劃?!凹埲恕币话褜⒛贻p人拽了過來,壓低聲音。
“你不能跟他們一起去?!彼f:“要是你出了事……”
年輕人聳聳肩。
“他們是我找來的,給我賣命,我不一起去的話,他們沒準(zhǔn)打到一半就跑了,或者出些別的岔子。再說,弄數(shù)據(jù)出來這事兒,只能我自己做,交給他們的話,你放心嗎?”
“紙人”翻了個(gè)白眼。
“我說,你知道這是在玩命吧?”
他露齒一笑。
“我這輩子都在玩命,兄弟,不差這一回?!?
他們花了三天時(shí)間制定計(jì)劃和等待。然后出發(fā),穿過森林和廢棄的公路,前往目的地。
天色漸暗,雇傭兵們耐心地等待著。直到黑暗沉落大地,月亮尚未升起,只有清冷而稀疏的星光在夜空中閃爍。
他們悄無聲息地出發(fā),借小巷和房屋的陰影掩蔽行蹤,逐漸靠近市政大樓。
事實(shí)上,這個(gè)研究中心的防衛(wèi)措施異常松懈,甚至沒有監(jiān)視外圍的夜班警衛(wèi)。唯一一個(gè)穿著制服的家伙在地下一層的入口處睡著了,鼾聲如雷。小貝莎進(jìn)入警衛(wèi)室的時(shí)候,他才驚醒過來。尚未有所動(dòng)作,就已經(jīng)被一槍擊中胸口,倒地身亡。
“沒這個(gè)必要吧。”大貝莎咕噥道。
“我覺得有?!彼拿妹寐柭柤?,跨過警衛(wèi)的尸體,清除錄像,癱瘓掉整個(gè)監(jiān)控系統(tǒng)。
他們繼續(xù)前進(jìn)。
地下一層和二層分別是宿舍和工作區(qū)域,空空蕩蕩,一個(gè)人也沒有。二層門口的警衛(wèi)被大貝莎一拳打昏,爛泥般癱軟在地上。他們用“紙人”給的工作卡打開電梯,進(jìn)入地下三層。
輕柔的嗡鳴聲彌散在走廊和墻壁之間,一排排大型機(jī)箱占據(jù)了目力所及的所有空間。指示燈明滅閃爍,如同活物般放出熱氣。雇傭兵們互相看了一眼,不約而同地將視線轉(zhuǎn)向他們的“老板”。
“你要我們炸掉的就是這個(gè)?”
“對(duì)?!?/p>
沒多話,他們分頭行動(dòng)起來。
年輕男人提著槍。看雇傭兵們安裝炸藥。他將“紙人”給他的設(shè)備接上服務(wù)器,然后繞著房間走了半圈,想要確定這里會(huì)被徹底毀掉。事實(shí)上,他已經(jīng)不再擔(dān)心此次行動(dòng)本身能否成功,重要的是接下來的事情——及其后果。
就在這時(shí),他聽到大貝莎在房間另一頭喊他。于是他走了過去。
“——你可沒跟我們說這個(gè)!”大貝莎瞪著他。指著一個(gè)小小的房間。
他皺起眉頭,看著房間里面。
六個(gè)孩子,有男有女,都穿著破爛的衣服,被手銬和腳鐐鎖著。他們看起來又臟又驚恐,干瘦的身材無疑是營(yíng)養(yǎng)不良的結(jié)果。其中一個(gè)孩子的頭上包著繃帶,另一個(gè)孩子的手臂皮膚被剝?nèi)チ艘粔K,用軟性線路板取而代之。
憤怒洶涌而來,他花了一點(diǎn)時(shí)間控制住自己的情緒。
“我也不知道這件事。”
“那我們?cè)趺崔k?”大貝莎挑釁地靠近他,她壯碩的身材在他臉上投下一片陰影:“你說過,我們什么都不帶出去?!?/p>
他抬頭看了一眼,從女雇傭兵的眼睛里讀到橫溢的怒氣。
“帶他們走?!彼隽藳Q定,“再檢查一下上下兩層,看看有沒有別的孩子。我聯(lián)系‘紙人來接我們。把這里通通炸掉。”
他們點(diǎn)點(diǎn)頭。
貝莎姐妹倆用槍打碎門鎖,踹開門,把驚恐的孩子們趕小雞一樣拽出牢房。在不遠(yuǎn)處的空房間里找到了鐐銬的鑰匙。金發(fā)男人設(shè)好最后一個(gè)起爆器,向他們揮揮手。年輕人取回?cái)?shù)據(jù)設(shè)備。一行人快速跑上樓梯,在夜幕掩護(hù)下撤離大樓。大貝莎一個(gè)個(gè)數(shù)著孩子們,催促他們步行穿過雪地,鉆進(jìn)樹林。那些衣著單薄的孩子們凍得發(fā)抖,跌跌撞撞,但沒有一個(gè)停下腳步。
在走了大約1千米之后,一輛卡車停在他們面前。他們跳進(jìn)車廂,卡車沿著之前那些大巴留下的輪胎痕跡急馳而去。身后,一瞬間火光沖天,低沉的爆炸聲撕裂了寂靜的夜晚。
坐在卡車車廂里,看著那些瑟瑟發(fā)抖的孩子們。貝莎姐妹凌厲的目光落在了年輕男人的身上。
“小熊?!毙∝惿K于找到了她滿意的稱呼方式,“你欠我們個(gè)解釋。”
年輕男人嘆口氣,默認(rèn)了這個(gè)綽號(hào):“你們想要哪方面的解釋?”
“所有的。這些孩子,那個(gè)地方,你們?yōu)槭裁匆臀覀兏蛇@一票。通常情況下我們可以不問,但這次不行??丛谶@些孩子的份上,這次不行?!?/p>
“我確實(shí)不知道這些孩子的事?!薄靶⌒堋睌傞_手:“要不我們先問問他們?”
小貝莎冷冷地看了他一眼,開始用俄語和孩子們說話。那些孩子茫然地?fù)u頭。女雇傭兵耐心地嘗試了幾種語言。當(dāng)她開始說烏克蘭方言的時(shí)候,一個(gè)年齡較大的男孩含糊地回答了她。
她提出一個(gè)問題,然后是更多的問題。孩子們從金發(fā)男人手中接過餅干和巧克力,吃了又吃。神情也漸漸活躍起來。
從含糊的——掉著餅干渣的——回答中,他們漸漸弄清楚這些孩子來自何處。烏克蘭內(nèi)戰(zhàn)期間,這些孩子先后成了孤兒或者半孤兒。為了生活下去,他們前往招募工人的地方,卻上當(dāng)受騙,被運(yùn)往研究中心。
在過去的幾個(gè)月里,這些孩子們被當(dāng)成實(shí)驗(yàn)品對(duì)待。他們的屋子里裝有攝像頭。研究人員像觀察動(dòng)物一樣觀察他們,訓(xùn)練他們,往他們的身體里植入各種芯片。大部分是用于監(jiān)控他們的生理數(shù)據(jù)的,但也有一些奇怪的裝置。
“—裝在腦子里?!蹦莻€(gè)年齡較大的男孩說:“他們控制我們,讓我們開心,讓我們傷心。有個(gè)開關(guān),一碰就可以讓我們笑,笑個(gè)不停。還有個(gè)開關(guān)打開來,我們就會(huì)非常非常害怕?!?/p>
車廂里很安靜,安靜得瘆人。
“這他媽的究竟是什么東西?”小貝莎問。
“小熊”沒說話,點(diǎn)起根煙,狠狠地抽了幾口:“我們今天炸掉的是‘阿瑞斯。”他說。
雇傭兵們瞬間變得毫無表情。小貝莎搖搖頭。
“阿瑞斯?我以為那是個(gè)公司的名字?!?/p>
“那是個(gè)人工智能的名字,也是個(gè)公司的名字。他們賣的東西,你們都清楚,戰(zhàn)爭(zhēng)、士兵……那個(gè)人工智能、那臺(tái)超級(jí)計(jì)算機(jī)。它收集所有的戰(zhàn)爭(zhēng)數(shù)據(jù),然后做出模擬。如果你聽過那個(gè)傳說——最近爆發(fā)的一些局部戰(zhàn)爭(zhēng),其實(shí)是已經(jīng)計(jì)算好的。包括會(huì)死掉多少人,死的是哪些人。我猜,這些孩子,是他們的另外一部分實(shí)驗(yàn)。如果你能在戰(zhàn)爭(zhēng)中控制對(duì)方的士兵……”
“我才不會(huì)讓他們往我腦子里裝那玩意。”
“你沒有嗎?”“小熊”抬起頭來:“你是個(gè)好狙擊手,比過去的任何老式狙擊手都好。你沒有裝瞄準(zhǔn)輔助腦橋?或者穩(wěn)定手腕的芯片?如果他們有辦法黑進(jìn)那個(gè)——”
小貝莎瞬間愣住了,她張開嘴,想要說什么,但最后只吐出了一句粗話。
“小熊”嘆了口氣。
“老熊?!彼f:“這一切,其實(shí)都是從老熊開始的?!?/p>
“你是說他掛了那事兒?”
“不是。在那之前,老熊想要安定下來,他年紀(jì)大了。”
大部分雇傭兵活不到退休的時(shí)候。老熊也沒奢望過這個(gè)。但他覺得自己已經(jīng)過了拉起隊(duì)伍出生入死的年齡。于是他帶著隊(duì)伍里那些贊同他的人——包括“紙人”和“小熊”——簽了一份合同。開始和“阿瑞斯”公司合作。
他們采用了人工智能和人類指揮官結(jié)合的方式。即使一個(gè)戰(zhàn)士從指揮通信鏈中脫離出來,他仍然可以從手中的設(shè)備里獲取一些來自個(gè)人電腦的行動(dòng)建議。與此同時(shí),人工智能密切地關(guān)注著整個(gè)戰(zhàn)場(chǎng)的信息與環(huán)境,盡可能地讓指揮官了解到戰(zhàn)爭(zhēng)的全貌。公司還為他們提供了一整套的植入系統(tǒng)。包括用于穩(wěn)定情緒的芯片和能夠穩(wěn)定射擊動(dòng)作的輔助裝置。
老熊不是很喜歡這些東西。但隊(duì)伍里的年輕人們都玩得得心應(yīng)手。
沒過多久,怪事開始發(fā)生。
有些戰(zhàn)士堅(jiān)持說他們更相信手上那臺(tái)小小終端的看法,而不是老熊作為隊(duì)伍指揮官做出的判斷。這件事發(fā)生過兩次,在老熊斃了那個(gè)抗命者之后,再?zèng)]發(fā)生過第三次。
但后來,有個(gè)家伙瘋了。
那家伙本來好好兒的,是個(gè)很好的爆破專家,槍法很準(zhǔn)。行動(dòng)力十足。但不知道從什么時(shí)候起,他開始變得疑神疑鬼、絮絮叨叨。大家還以為是他精神壓力太大,老熊建議他干完那次活兒,就調(diào)到后方去和“紙人”一起處理情報(bào)工作。
沒等干完那次活兒,爆破專家就變成了瘋子。
他炸掉了原本只需要精確干掉的目標(biāo),連同目標(biāo)的家。還有目標(biāo)的老婆、孩子、傭人以及四十名無辜的賓客。他順便還炸掉了隊(duì)伍用來撤退的直升機(jī)和他自己。老熊不得不帶著隊(duì)伍在雨林中穿行了一個(gè)星期,買了一條船順流而下,這才逃出那個(gè)對(duì)他們展開全面大搜捕的國(guó)家。
最后,老熊去拜訪了爆破專家的母親,向她解釋說她的兒子死于一場(chǎng)意外事故。回到隊(duì)伍里之后,他做的第一件事就是讓“小熊”和“紙人”離開?!坝袀€(gè)新工作?!彼f:“你們倆先過去做準(zhǔn)備?!?/p>
他從來不對(duì)他們?nèi)鲋e,那是第一次,也是最后一次?!靶⌒堋焙汀凹埲恕彪x開后,老熊帶著隊(duì)伍去和“阿瑞斯”的人會(huì)面。他說有事情想和他們談?wù)劇?/p>
那些人沒浪費(fèi)時(shí)間談。他們用子彈結(jié)束了所有的對(duì)話。
直到抵達(dá)安全屋,拆開老熊寫的信,他們才知道他的安排?!凹埲恕痹诰W(wǎng)絡(luò)上瘋狂地搜索著消息,直到他意識(shí)到他們倆已經(jīng)無力回天。
在那之后,他們拆掉了身上所有的植入系統(tǒng),開始不停地躲藏、搜索、躲藏、繼續(xù)搜索,一路尋找著報(bào)復(fù)的機(jī)會(huì)。他們查到了阿瑞斯的一系列生意,通通和神經(jīng)植入芯片還有人工智能有關(guān)。
“——老熊到底想和他們談什么?”小貝莎困惑地問。
“和他們談那臺(tái)人工智能?!薄靶⌒堋比嘀夹模骸八X得那個(gè)抗命者,還有發(fā)瘋的爆破專家,他們都在和那個(gè)人工智能談話。是人工智能慫恿他們那么干的?!?/p>
“胡扯?!毙∝惿藗€(gè)白眼:“慫恿一個(gè)士兵抗命,很容易,但是說服一個(gè)人自殺?這連催眠大師都辦不到?!?/p>
“是啊。但老熊覺得,那臺(tái)機(jī)器可以?!?/p>
車廂里再一次被寂靜填滿。