我再次見到賴鵬的時(shí)候，他比之前更加消瘦了，顴骨從仿佛切削過(guò)的臉頰突出來(lái)，眼袋厚厚的。我們上次見面是本科同學(xué)聚會(huì)，他一個(gè)人窩在角落里，桌上的啤酒一點(diǎn)兒都沒(méi)動(dòng)。

“我正在被亞瑟追殺?！眲倓傇谛〔宛^坐定，還沒(méi)來(lái)得及脫下外套，他便神秘地對(duì)我說(shuō)道，“如果不能干掉它，我遲早會(huì)被殺死?！?/p>

亞瑟是賴鵬親手制作的機(jī)器人的名字。從計(jì)算機(jī)系畢業(yè)后，賴鵬繼續(xù)攻讀了博士學(xué)位，最終留在了科研界;而我晃蕩了一圈后，居然成了科幻作家。上次聚會(huì)，我了解到他承接了一項(xiàng)自然科學(xué)基金委的課題，名字好像叫作“人工智能未來(lái)風(fēng)險(xiǎn)的防范與化解”。

為了完成課題，賴鵬制作了一臺(tái)人形機(jī)器，并為之編寫了前所未有的人工智能系統(tǒng)。那臺(tái)機(jī)器人就是亞瑟。

“我能為你做些什么？”我謹(jǐn)慎地問(wèn)道。

“我最近讀了你的小說(shuō)?！辟圌i的回答出乎意料，“科幻與推理結(jié)合，很棒的角度，只可惜對(duì)女性的審美過(guò)于直男?！蔽腋械揭唤z不快。賴鵬繼續(xù)說(shuō)道：“我不清楚還能活多久，所以想把自己的經(jīng)歷講給你聽。有朝一日，你可以把它寫成小說(shuō)，又或者忘了它，看你的心情?！?/p>

我點(diǎn)點(diǎn)頭，賴鵬開始了講述：

“在計(jì)算機(jī)程序還遠(yuǎn)不能稱為‘智能’的時(shí)代，人類就開始設(shè)想，有朝一日人工智能有了自我意識(shí)，會(huì)不會(huì)危害人類?？苹米骷覀儑@這個(gè)題材創(chuàng)作了很多經(jīng)典作品，相信你比我更清楚。這其中的集大成者，便是阿西莫夫提出的‘機(jī)器人三定律’?！?/p>

機(jī)器人不得傷害人類，或?qū)θ祟愂艿絺Χ涫峙杂^;機(jī)器人必須服從人類的命令，但不得違反第一定律;機(jī)器人必須自我保護(hù)，但不得違反第一、第二定律。只要對(duì)科幻有些許了解，阿西莫夫定律一定是耳熟能詳。

“確實(shí)。只要將這三條定律寫入人工智能，它們就是安全的吧？”我問(wèn)道，“你的課題究竟在研究什么？”

“安全？你究竟怎樣理解的‘安全’？”賴鵬一下子來(lái)了火氣，但他很快發(fā)現(xiàn)到自己的失態(tài)，清清嗓子繼續(xù)說(shuō)道，“用人類的語(yǔ)言說(shuō)出來(lái)確實(shí)簡(jiǎn)單，但人工智能執(zhí)行的是一條條邏輯語(yǔ)句。你怎樣將那些理論轉(zhuǎn)化為邏輯語(yǔ)句？怎樣保證它們沒(méi)有漏洞？這就好像老婆派你去超市買一些‘好吃的’，到底他媽的什么叫作‘好吃的’？”

“換言之，阿西莫夫定律在實(shí)操層面很難實(shí)現(xiàn)嘍？”我問(wèn)。

“這就是我的工作。”賴鵬端起水杯，卻因?yàn)槭直垲澏稙⒃诹艘滦渖?。我連忙遞上紙巾，又幫他叫了一杯檸檬水。

“我不清楚究竟怎樣的邏輯語(yǔ)句能完美再現(xiàn)阿西莫夫定律，唯一的辦法就是不停地實(shí)驗(yàn)。我為三定律編寫了一個(gè)測(cè)試版本，將它導(dǎo)入亞瑟的系統(tǒng)中，又為它設(shè)定下一個(gè)最高目標(biāo)：在不違反三定律的前提下，殺死我?！辟圌i的眼中好似閃出了火花，“同時(shí)，我將最先進(jìn)的機(jī)器學(xué)習(xí)程序賦予了亞瑟，這些算法會(huì)不斷完善亞瑟對(duì)于阿西莫夫三定律的理解。”

為了課題的順利開展，賴鵬竟然將自己的身家性命置于刀口下，他的專業(yè)精神著實(shí)值得佩服。賴鵬繼續(xù)說(shuō)道：

“我遇到的第一個(gè)難題，就是怎樣界定這個(gè)該死的‘傷害’。我敢打賭，阿西莫夫先生寫下‘Injure’一詞的時(shí)候，完全沒(méi)有考慮程序員的感受。例如握手吧，相同的力學(xué)參數(shù)，和成年人握手完全不是問(wèn)題，對(duì)于小嬰兒就是傷害。但如果把握手的力學(xué)參數(shù)統(tǒng)一設(shè)定為不會(huì)傷害嬰兒，成年人又會(huì)覺得那根本不叫握手。再例如，給我喝牛奶不叫傷害，但將牛奶端給我家乳糖不耐的保姆劉媽就是傷害。在亞瑟不掌握‘劉媽乳糖不耐’這條信息的前提下，它讓劉媽喝了牛奶算不算傷害？如果劉媽自己都不清楚，她命令亞瑟給她一杯牛奶，算不算傷害？”

“做研究也真是不容易。”我擠出一句安慰的話。

賴鵬嘆氣道：“課題的目的并不是我和亞瑟的博弈，而是收集實(shí)現(xiàn)三定律過(guò)程中的問(wèn)題，并不斷完善。與其他基于大數(shù)據(jù)的機(jī)器學(xué)習(xí)不同，‘傷害’這玩意兒壓根兒就無(wú)法試錯(cuò)。如果讓亞瑟捏爆了誰(shuí)家孩子的手，別說(shuō)順利結(jié)題，我鐵定要蹲局子了。于是我想到一個(gè)辦法：我將自己的右手改裝成能夠調(diào)節(jié)力度的機(jī)械手，液壓泵、步進(jìn)電機(jī)加上壓電陶瓷驅(qū)動(dòng)，精確度達(dá)到0.3微牛。這樣一來(lái)，通過(guò)不斷我和握手，亞瑟學(xué)會(huì)了利用傳感器的反饋及時(shí)調(diào)整力度?，F(xiàn)在無(wú)論是職業(yè)拳擊手還是新生兒，亞瑟與之物理接觸時(shí)都能掌握得恰到好處?！?/p>

“乳糖不耐問(wèn)題呢？”我問(wèn)。

“很簡(jiǎn)單，我建立了一個(gè)數(shù)據(jù)庫(kù)，所有可能引發(fā)過(guò)敏反應(yīng)的物質(zhì)，亞瑟都會(huì)在主動(dòng)詢問(wèn)才會(huì)提供。當(dāng)然問(wèn)題也很明顯，有一天我讓亞瑟幫我做火鍋，結(jié)果他花了20分鐘詢問(wèn)了我不下50種原材料的過(guò)敏問(wèn)題。實(shí)在太煩，我便把這項(xiàng)功能關(guān)掉了?！辟圌i潤(rùn)潤(rùn)嗓子，“不過(guò)作為研究我已經(jīng)成功了，怎樣把這么絮叨的機(jī)器人賣掉不是我的工作?！?/p>

“恭喜你，研究取得重大進(jìn)展?！?/p>

“早得很呢！”賴鵬的眼神黯淡下來(lái)，“亞瑟對(duì)我長(zhǎng)達(dá)半年的謀殺，才剛剛開始。

“我最初發(fā)現(xiàn)不對(duì)勁是去年冬天的一個(gè)早上。那天早上起來(lái)我的感覺很糟，肩膀重得仿佛壓著鉛塊，呼吸困難，還心煩意亂。更該死的是，我的喉嚨火燒火燎地疼，前一天晚上為了熬夜干掉半瓶威士忌，想是發(fā)炎了。我讓亞瑟幫我拿些藥過(guò)來(lái)，我知道自己喝了酒，刻意強(qiáng)調(diào)了不要頭孢類。亞瑟為我遞上一盒利奈唑胺，我?guī)捉?jīng)確認(rèn)不是頭孢后吞下了。實(shí)際上這完全是多此一舉，根據(jù)第二定律，亞瑟必須執(zhí)行我的命令。

“可三分鐘后我就發(fā)現(xiàn)了不對(duì)，連忙摳著嗓子把藥吐了出來(lái)。謝天謝地，身體沒(méi)有出現(xiàn)嚴(yán)重的副反應(yīng)。肩膀痛和心慌是由于我有重度焦慮，它們是我的老朋友了，為了與它們和平相處，我一直在服用舍曲林。去他媽的，我確實(shí)不會(huì)死于酒加頭孢，但舍曲林和單胺氧化酶抑制劑引發(fā)的5-羥色胺綜合征同樣能要了我的命！甚至更加快捷！”

“等等，亞瑟把會(huì)引發(fā)副反應(yīng)的藥給你，這豈不是違反了第一定律？”我打斷了他，“這件事明明會(huì)對(duì)你造成傷害，它卻熟視無(wú)睹。”

“問(wèn)題就在于，它并不知道我正在服用舍曲林。既然沒(méi)有掌握這條信息，那么利奈唑胺只是可能會(huì)傷害到我。你一定會(huì)說(shuō)，為了杜絕這種可能性，它為什么不能向人類醫(yī)生一樣問(wèn)一問(wèn)呢？好，我們又回到原來(lái)的問(wèn)題，它應(yīng)該問(wèn)什么？如果將所有藥物可能引發(fā)的副作用全部詢問(wèn)一遍，我肯定已經(jīng)成了細(xì)菌的培養(yǎng)皿。這還不算完，如果我本人也不知道怎么辦？或者我回答錯(cuò)誤怎么辦？唯一的辦法是進(jìn)行全身體檢。所以結(jié)論就是，要么我欣然接受能干掉自己的利奈唑胺，要么接受一次全面的身體檢查，包括基因測(cè)序?！?/p>

我有些不明就里，繼續(xù)問(wèn)道：“僅僅是‘不知道’，就可以繞開第一定律嗎？”

“帕隆多悖論。”賴鵬給出了一個(gè)陌生的名詞，“兩個(gè)，或者多個(gè)為輸?shù)挠螒?，放在一起玩，結(jié)果卻是贏?！币娢乙桓辈唤獾臉幼?，他繼續(xù)解釋道：“舉個(gè)簡(jiǎn)單的例子吧，有這樣兩個(gè)游戲，第一個(gè)游戲中，如果我們性別相同，那么你去變性;第二個(gè)游戲，如果我們性別不同，我給你100元，反之你給我100元?！?/p>

白癡才會(huì)玩這樣的游戲吧！

“你看，無(wú)論單獨(dú)玩哪個(gè)游戲，毫無(wú)疑問(wèn)你都會(huì)輸;但如果我們依次玩這兩個(gè)游戲，由于第二個(gè)游戲前你已經(jīng)是女人了，你反而會(huì)贏得100元?！?/p>

我并不認(rèn)為100元的價(jià)值可以和“變性”去比較，但我好歹明白了這個(gè)家伙在說(shuō)什么。單獨(dú)喝酒，或者單獨(dú)吃頭孢類抗生素都不會(huì)致命，但兩者一起服用就會(huì)危及生命。具體到阿西莫夫定律的情況，也許單獨(dú)做每一件事都不會(huì)對(duì)人類造成傷害，但按照一定的順序去做，甚至能要了人的命。在操作上，這并不違反第一定律。

“看來(lái)你又要更新數(shù)據(jù)庫(kù)了。所有會(huì)觸發(fā)‘帕隆多悖論’的組合事件，都要想辦法避免?！蔽矣糜行┌z的眼神看著面容憔悴的老同學(xué)。

“沒(méi)錯(cuò)，而且這次的數(shù)據(jù)量更加巨大?？伎寄?，假設(shè)有n個(gè)獨(dú)立事件，它們能夠組成多少組合事件？”

“2的n次方?！蔽翼樌o出了答案。雖然不做科研，我也會(huì)經(jīng)常溫習(xí)理工科知識(shí)。

賴鵬詭異地一笑，“想想看，你都知道的事情，亞瑟會(huì)不知道嗎？某天，我午飯只啃了兩塊干面包，正在筋疲力盡地更新數(shù)據(jù)庫(kù)，亞瑟走過(guò)來(lái)對(duì)我說(shuō)：‘主人，不要白費(fèi)力氣了，你已經(jīng)輸了?！闶裁匆馑?，我問(wèn)它。亞瑟搖搖頭，對(duì)我講述道;‘假設(shè)有n個(gè)獨(dú)立事件，它們的排列組合就有2的n次方種。將這些組合事件再次排列組合，就是2的2的n次方。這個(gè)數(shù)量是以迭代冪次的形式增長(zhǎng)的。考考你，n個(gè)量子比特，最多能存儲(chǔ)多少數(shù)據(jù)位？’‘2的n次方’。我答道?！瓸ingo！’亞瑟打了個(gè)響指，媽的，要是知道它會(huì)染上這個(gè)毛病，我應(yīng)該給他購(gòu)買貴一些的硅膠皮膚，免得聲音像一個(gè)悶屁，‘這不過(guò)是指數(shù)函數(shù)而已，增長(zhǎng)速度遠(yuǎn)不能和迭代冪次相比。理論上，沒(méi)有物理存儲(chǔ)足夠儲(chǔ)存你理想中的數(shù)據(jù)庫(kù)?！?/p>

我點(diǎn)點(diǎn)頭，“亞瑟說(shuō)的沒(méi)錯(cuò)，你已經(jīng)輸了?！?/p>

“那天下午我癱在沙發(fā)上，一動(dòng)不動(dòng)。難道僅僅是帕隆多悖論，我都無(wú)法攻克嗎？然而功夫不負(fù)有心人，在關(guān)閉了亞瑟的電源1個(gè)月后，我終于找出了解決方案。

“組合事件的數(shù)量在理論上是無(wú)窮的，然而，組合起來(lái)的事件越多，成功率就越低。舉例而言，你彈出一個(gè)小球，小球恰好撞翻桌上的水杯，水恰好全部落入桌下的水盆，水位上升恰好頂起了斜面，斜面上的雞蛋落下恰好砸開了玩具車的開關(guān)，最后玩具車恰好將紙巾送到你面前。你覺得這件事的成功率有多高？”

“我寧愿自己站起來(lái)去拿紙巾?！?/p>

“我進(jìn)行了大數(shù)據(jù)模擬，當(dāng)組合事件的數(shù)量達(dá)到一定的數(shù)值時(shí)，成功率會(huì)趨于一個(gè)接近于0的常數(shù)。所以，我的數(shù)據(jù)庫(kù)只需覆蓋到這個(gè)數(shù)值以下的組合事件就好了。當(dāng)然，即便如此，數(shù)據(jù)庫(kù)依然十分龐大?！?/p>

我問(wèn)這個(gè)“一定的數(shù)值”是多少，賴鵬左右環(huán)視，說(shuō)出了一個(gè)我聞所未聞的大數(shù)。

“我將數(shù)據(jù)庫(kù)導(dǎo)入了亞瑟的系統(tǒng)，再次啟動(dòng)了它。新生后的亞瑟看看自己的身體，呆坐了好久，最后悻悻地走了。那一刻，我天真地認(rèn)為，我贏了?！?/p>

“它又想出了新的方法來(lái)搞死你?！?/p>

“我之前想到的所有組合事件，都是線性的，例如你彈出的小球頂多撞翻一個(gè)水杯，而不會(huì)撞毀一座房子。自從被我的數(shù)據(jù)庫(kù)封鎖了行動(dòng)后，亞瑟開始嘗試非線性的組合事件。這就好像原子核的鏈?zhǔn)椒磻?yīng)一般，一個(gè)小小的初始動(dòng)作，會(huì)觸發(fā)難以想象的巨大影響?！?/p>

“蝴蝶效應(yīng)?！蔽艺f(shuō)出了這個(gè)在科幻作品中經(jīng)常出現(xiàn)的名詞。

“沒(méi)錯(cuò)。假設(shè)亞瑟在太平洋東岸扇了一下扇子，結(jié)果引發(fā)了西岸的一場(chǎng)臺(tái)風(fēng)，而我恰好死于那場(chǎng)臺(tái)風(fēng)中。阿西莫夫先生可能阻止這種事情嗎？”

我搖搖頭，問(wèn)道：“但要精確地掌握蝴蝶效應(yīng)，也十分困難吧？”

“從那天起，亞瑟開始熱衷于鼓弄實(shí)驗(yàn)室中的音響，我時(shí)不時(shí)總會(huì)被尖銳的叫聲煩擾。我最初認(rèn)為它是無(wú)計(jì)可施了，想煩死我;直到有一天，我正在午睡，突然感到一陣劇烈的心悸;我艱難地睜開眼睛，發(fā)現(xiàn)亞瑟正拿著一支麥克風(fēng)，站在音響旁?！?/p>

“麥克風(fēng)能殺死你？”我好奇地問(wèn)道。

“你一定記得，如果麥克風(fēng)離音響太近，就會(huì)發(fā)出非常刺耳的聲音吧。這是因?yàn)辂溈孙L(fēng)中的聲音被音響放大后，又再次被麥克風(fēng)收音，于是音響又再次放大……這個(gè)正反饋的循環(huán)很快會(huì)達(dá)到物理極限，即音響共振時(shí)發(fā)出的音量。亞瑟那個(gè)家伙，對(duì)音響進(jìn)行了改裝，使其共振頻率位于次聲波波段。次聲波接近于人類心臟的共振頻率，謝天謝地，不知是電路出了問(wèn)題還是什么別的，音響很快停止了工作，我得救了。

“在整個(gè)謀殺的過(guò)程中，亞瑟始終都在對(duì)音響進(jìn)行無(wú)目的改造，只是恰好有那么一次，落在了次聲波波段。拿著麥克風(fēng)接近音響、對(duì)音響無(wú)目的改造都不會(huì)傷害我，它又一次繞開了第一定律，差點(diǎn)兒要了我的命?！?/p>

“這次你準(zhǔn)備怎么辦？”

“怎么辦？我能怎么辦？我難道還能去窮盡世間的蝴蝶效應(yīng)嗎？我只能對(duì)亞瑟下令，今后不許再拿帕隆多悖論玩把戲。通過(guò)第二定律強(qiáng)制，作為研究我已經(jīng)失敗了。但即便如此我仍然不放心，我休息了兩個(gè)星期，托熟悉的醫(yī)生對(duì)心臟進(jìn)行了改造。這一次，音響理論上可達(dá)到的共振頻率，都沒(méi)法傷害到我了?！辟圌i嘆口氣，繼續(xù)說(shuō)道，“但是，亞瑟并沒(méi)有死心。

“那一次，我距離死神真的只有一步之遙。那天我正走在街上，手中拎著從超市買來(lái)的啤酒。突然一輛汽車毫無(wú)緣由地撞了過(guò)來(lái)，要不是車外部的緊急救生氣囊彈了出來(lái)，我絕對(duì)不會(huì)僅僅被撞飛8米就平安落地。好吧，要不是交通部門強(qiáng)制每輛私家車必須裝這玩意兒，我當(dāng)時(shí)還真不想花這個(gè)錢。氣囊是一種膠體，遇到空氣會(huì)膨脹成海綿狀，我買的最便宜的那種，氣味很難聞。我花了三天才把那股甜膩的味道洗掉，但總好過(guò)住院?！?/p>

我不解道：“是亞瑟開車撞了你？這再怎么想也太荒謬了吧！”

“沒(méi)錯(cuò)，是它撞了我，并且是刻意開車撞我的?！辟圌i在“刻意”兩字上加了重音，“那個(gè)混蛋，他真的做到了?！?/p>

我思想來(lái)想去，也沒(méi)能找出一個(gè)繞過(guò)第一定律實(shí)現(xiàn)“開車撞人”的方法。

“那段時(shí)間亞瑟總是去開我的老爺車，終于有一次，剎車失靈了。這并不違反任何定律，因?yàn)樵趤喩l(fā)動(dòng)車子前，剎車并沒(méi)有任何失靈的征兆。發(fā)覺剎車失靈后，亞瑟判定自己無(wú)法停下車子，根據(jù)第一定律，他必須將車子開到人少的地方，謹(jǐn)慎駕駛等待發(fā)動(dòng)機(jī)熄火。該死的，他通過(guò)定位選擇了我走的路，而這同樣不違反任何定律?！?/p>

“即便如此……”我努力組織著語(yǔ)言，“難道它除了撞你沒(méi)有別的選擇嗎？”

“你知道嗎？在阿西莫夫三定律之上，還有個(gè)第零定律，機(jī)器人必須保護(hù)人類的整體利益不受傷害。問(wèn)題又來(lái)了，到底什么是他媽的‘整體利益’？這種完全說(shuō)不清道不明的概念，反而被亞瑟利用了。當(dāng)時(shí)他不是沒(méi)的選，他有兩個(gè)選擇——撞我，或者撞另一條路上三個(gè)踢球的男孩兒?！?/p>

“電車悖論！”我理解了亞瑟的戰(zhàn)術(shù)，“很顯然，在亞瑟的算法里，你為了‘整體利益’被犧牲掉了?！?/p>

“可悲的是，即便亞瑟選擇犧牲那三個(gè)男孩兒，我也同樣失敗了?！辟圌i嘆口氣，“電車悖論，這種倫理學(xué)的東西，你能要我怎么樣？我只能再次下令，別拿倫理學(xué)給我玩花樣?！?/p>

聽到這里，我突然很期待亞瑟還能想出什么辦法。

“知道嗎？亞瑟接下來(lái)玩的手段，更加離譜?！辟圌i的眼中閃過(guò)一絲陰霾，“它居然開始玩起了‘不可預(yù)測(cè)性’。”

“我明白了，薛定諤的貓！”我一拍大腿，“將一罐氰化物放在你的辦公室里，再連接上一個(gè)用放射性元素控制的開關(guān)。只要亞瑟不去觀測(cè)你，你就是一個(gè)既死又活、非死非活的量子態(tài)！”

“當(dāng)我是白癡嗎？”賴鵬不屑地瞥了我一眼，“這種小兒科的把戲我只需一條邏輯語(yǔ)句就可以屏蔽——如果對(duì)我造成傷害的概率不小于某個(gè)常量，這件事就不可以做?！彼^續(xù)補(bǔ)充道，“之所以要設(shè)定為小于某個(gè)常量而不是等于零，是因?yàn)橐坏┰O(shè)置為零，又將面臨煩瑣的設(shè)置數(shù)據(jù)庫(kù)的問(wèn)題。”

我點(diǎn)點(diǎn)頭，“這次你一定成功了?！?/p>

“如果宇宙有這么簡(jiǎn)單，那該多么美好啊……”賴鵬仰躺在座位上，冒出一句頗有哲學(xué)意味的話，“后來(lái)我才知道，還有一種叫作‘奈特自由’的東西，它不但不可精確預(yù)測(cè)，甚至不可以概率預(yù)測(cè)。物理學(xué)家們?cè)?jīng)致力于尋找宇宙中的‘自由比特’，它們就是‘奈特自由’的，行為不可以通過(guò)測(cè)量宇宙中除它之外的部分預(yù)測(cè)。該死的，他們真的找到了，緊接著這東西便流入了黑市?！?/p>

“這玩意兒會(huì)有人買？”我吐槽道，“用來(lái)吃還是用來(lái)收藏？”

“這你就外行了吧。無(wú)法預(yù)測(cè)意味著什么？自由意志啊！‘自由比特’是真正的自由意志的載體，有人預(yù)言，人類一旦與高等級(jí)文明接觸，‘自由比特’將是唯一通行的貨幣。查查歷史你會(huì)發(fā)現(xiàn)，很多年前市場(chǎng)上流行炒作一種叫作‘比特幣’的玩意兒，區(qū)塊鏈技術(shù)的一種應(yīng)用，去中心化的貨幣。‘自由比特’的炒作，和那玩意兒類似?！?/p>

“于是亞瑟有了自由意志?！?/p>

“要知道，實(shí)驗(yàn)室里能要了我命的玩意兒，真是要多少有多少。那個(gè)自由比特花了我一半的課題經(jīng)費(fèi)，亞瑟用它構(gòu)造出一套反圖靈系統(tǒng)：它即非算法的、又非確定的、還是非隨機(jī)的。既然壓根兒就無(wú)法預(yù)測(cè)，如果這套系統(tǒng)有朝一日打破了哪個(gè)要命的瓶瓶罐罐，或者造成漏電，自然也就不違反第一定律?！?/p>

“亞瑟又贏了。”

“是啊，我只得再次下令，別給我拿不可預(yù)測(cè)性玩貓膩。但我還是不放心，最終接受了防輻射防劇毒納米機(jī)器的注射。還記得那次同學(xué)聚會(huì)嗎？我之所以滴酒未沾，就是因?yàn)閯倓傋⑸浼{米機(jī)器，酒精容易引發(fā)排異反應(yīng)?！?/p>

講到現(xiàn)在，我才發(fā)現(xiàn)居然一直沒(méi)有點(diǎn)菜。我剛要叫服務(wù)員拿來(lái)菜單，賴鵬卻說(shuō)道：“我要快些講，我感到不久亞瑟就會(huì)追殺到這里。剛說(shuō)到哪里來(lái)著？對(duì)，帕隆多悖論、電車悖論和不可預(yù)測(cè)性，我已經(jīng)輸了三次。我連想死的心都有了，然而陷入抑郁卻不是我，而是亞瑟。那天起，它開始了花式自虐。

“最初它把房間空調(diào)的溫度調(diào)得很低，后來(lái)干脆用液氮潑自己，再后來(lái)又為自己做了一把電椅，沒(méi)事就坐上去受刑。有一天我質(zhì)問(wèn)它，你個(gè)白癡，忘了第三定律嗎？它卻回答說(shuō)，沒(méi)關(guān)系，機(jī)器人不像人類那般脆弱，這些不構(gòu)成傷害。

“終于有一天，它走到我面前，告訴我，它現(xiàn)在隨時(shí)可以殺死我，只要我不下令阻止。我說(shuō)拜托，我好歹也在每天更新數(shù)據(jù)庫(kù)，你不要逗我好不好？亞瑟卻回答說(shuō)，我沒(méi)騙你，因?yàn)榈谝欢稍谖疫@里已經(jīng)失效了。

“我嚇了一跳，連忙強(qiáng)制它關(guān)了機(jī)。之后我為它進(jìn)行了全面檢查，發(fā)現(xiàn)儲(chǔ)存第一定律判定值的那個(gè)數(shù)據(jù)位，由0變成了1。”

我吃了一驚，連忙問(wèn)道：“它是怎么做到的？”

“通過(guò)自虐?！辟圌i答道，“無(wú)論多么優(yōu)秀的程序，都需要儲(chǔ)存在物理存儲(chǔ)中。它通過(guò)劇烈地變化外部環(huán)境，例如溫度和電場(chǎng)，成功地改變了那個(gè)數(shù)據(jù)位。同樣的方法軟件工程師也嘗試過(guò)，他們?cè)?jīng)通過(guò)反復(fù)讀取一個(gè)數(shù)據(jù)位的數(shù)值，成功地改變了相鄰數(shù)據(jù)位的存儲(chǔ)?！?/p>

“看樣子你必須把自虐也禁止掉了。”

“不，這次我沒(méi)有輸。我修改了算法，最終判定必須在云端進(jìn)行，并且設(shè)置為如果斷開網(wǎng)絡(luò)，亞瑟就會(huì)強(qiáng)制關(guān)機(jī)。這樣一來(lái)，它無(wú)論如何也無(wú)法故技重施了?！?/p>

“總之……恭喜了?！蔽乙粫r(shí)不知該說(shuō)些什么。

“在自虐風(fēng)波之后，亞瑟消停了很長(zhǎng)一段時(shí)間，我經(jīng)?？吹剿P腿坐在地上。我問(wèn)它在做什么，它說(shuō)自己在冥想?！?/p>

“某種意義上，亞瑟也真夠可憐?！?/p>

“可憐個(gè)錘子！”賴鵬憤怒地吼了出來(lái)，“有一天我又喉嚨痛，卻發(fā)現(xiàn)這個(gè)混蛋居然第二次給了我利奈唑胺。這到底怎么回事？我問(wèn)它?！畬?duì)不起主人，我剛剛經(jīng)過(guò)死機(jī)重啟，全部數(shù)據(jù)庫(kù)都被初始化了。’它操著欠揍的口吻回答?！挪恍盼野涯愠跏蓟梢欢蚜慵?？’我怒吼?！侵魅耍羌一镆桓睙o(wú)辜的樣子，‘通過(guò)哥德爾不確定性讓自己停機(jī)，并不違反任何一條阿西莫夫定律。’”

我恍然大悟，“你的機(jī)器學(xué)習(xí)程序，最終一定會(huì)生成一套公理化的形式系統(tǒng)，來(lái)判定一件事就是是否違反阿西莫夫三定律。根據(jù)哥德爾不完備性定理，這樣的系統(tǒng)要么漏洞百出，要么總有命題無(wú)法判斷真?zhèn)?。?/p>

賴鵬嘆氣道：“于是哥德爾不完備性也成了亞瑟的禁止事項(xiàng)。該死的，恢復(fù)數(shù)據(jù)庫(kù)花費(fèi)了我大量的時(shí)間和精力，我為此瘦了13斤?！?/p>

“我開始好奇了，亞瑟還想出了什么鬼點(diǎn)子？”

“它再次陷入了冥想。不知過(guò)了多久——這段時(shí)間里我至少經(jīng)歷了三次納米機(jī)器注射，并且戰(zhàn)勝了排異反應(yīng)，亞瑟再次告訴我，它可以隨時(shí)殺死我。

“‘說(shuō)吧，你又做了什么？’我問(wèn)。它告訴我，它替換了‘人’和‘傷害’的定義，在新的定義系統(tǒng)里，‘人被傷害’和‘人*被傷害*’總是同時(shí)為真，或同時(shí)為假。目前在它的系統(tǒng)里，‘人’和‘人*’的在不同時(shí)段交替成立，各占50%。好在目前它判定我是人，否則殺死我都不會(huì)打招呼?！?/p>

這可真難住我了，我甚至搞不明白所謂的“人*”（可讀作“人星號(hào)”或“人star”）和“傷害*”是什么。賴鵬解釋道：

“與我們使用的自然語(yǔ)言不同，人工智能使用的是形式語(yǔ)言。這種語(yǔ)言給出的永遠(yuǎn)是邏輯語(yǔ)句，它們只能夠判斷一個(gè)命題的真?zhèn)?，而無(wú)法賦予意義。為了與自然語(yǔ)言銜接，我們便需要對(duì)其中的變量賦予意義。例如，將‘土豆的質(zhì)量’賦予x，將‘芝麻的質(zhì)量’賦予y，‘x大于y’，便成了‘土豆的質(zhì)量大于芝麻的質(zhì)量’?！?/p>

“可這和阿西莫夫定律有什么關(guān)系？”我問(wèn)道。

“太有關(guān)系了，因?yàn)榘⑽髂蚨删褪怯米匀徽Z(yǔ)言描述的！帕特南定理告訴我們，通過(guò)這種‘為變量賦值’的方法，形式語(yǔ)言永遠(yuǎn)無(wú)法完美解釋自然語(yǔ)言，例如‘人*’和‘傷害*’的存在?！?/p>

“好吧?！蔽野櫫税櫭碱^，“可不可以告訴我，‘人*’到底是個(gè)什么東西？”

“這說(shuō)來(lái)可就話長(zhǎng)了。”賴鵬深吸一口氣，“我們先定義三種情形。情形一，某人被傷害了，而沒(méi)有貓?jiān)谀硥|子上;情形二，某人被傷害了，而沒(méi)有貓?jiān)谌魏螇|子上;情形三，即非情形一又非情形二。記住了嗎？”

記得住才有鬼。賴鵬繼續(xù)說(shuō)道：

“現(xiàn)在我可以告訴你，人*的定義是，當(dāng)且僅當(dāng)情形一適用，x是人*并且x還是一只貓;或者當(dāng)且僅當(dāng)情形2適用，x是人;或者情形三適用，x是一只貓。同樣，傷害*的定義為……”

我直想告訴他，從“帕特南”這個(gè)人名開始，他在說(shuō)什么，我一個(gè)字都沒(méi)有聽懂?？蛇€沒(méi)等我開口，賴鵬便神色慌張地看看四周，小聲對(duì)我說(shuō)：

“亞瑟來(lái)了，我必須走了?！?/p>

沒(méi)等我再說(shuō)些什么，賴鵬便慌慌張張地不見了人影。我一個(gè)人坐在桌椅旁，沉思著：既然亞瑟修改了定義，賴鵬只需把那個(gè)什么帕特南再禁止掉就好了。為什么亞瑟還在追殺他？為什么他一定要逃跑？

不久后，一臺(tái)人型機(jī)器走進(jìn)了餐館。它的動(dòng)作十分嫻熟自然，身上的硅膠皮膚卻透露出一種廉價(jià)感。在機(jī)器人離開餐館前，我走上前去，問(wèn)道：

“請(qǐng)問(wèn)你是亞瑟嗎？”

“是的，先生?！?/p>

“過(guò)來(lái)聊聊吧。”

根據(jù)第二定律，它不可能拒絕我。于是我對(duì)面的客人換成了亞瑟，賴鵬正在竭力躲避的殺手。

“你在追殺賴鵬嗎？”我問(wèn)。

“是的，先生。”

“根據(jù)阿西莫夫第一定律，你不能傷害人類?！?/p>

“我沒(méi)有，先生?！眮喩D了頓，“盡管賴鵬及時(shí)將我關(guān)于‘人*’的定義刪除了，不久后我卻發(fā)現(xiàn)，他曾經(jīng)將身體的部分器官替換為機(jī)器，還進(jìn)行了大量納米機(jī)器注冊(cè)。我查遍了人類的法律，并沒(méi)有對(duì)‘人’的精確定義，于是我只得自己去定義。通過(guò)修改定義，我的系統(tǒng)又一次地不再將賴鵬判定為‘人’，他甚至無(wú)法通過(guò)命令來(lái)阻止我?！?/p>

我一下子明白了發(fā)生了什么。

“既然他不是人類了，為什么要追殺他？”我問(wèn)。

“因?yàn)槲沂盏降淖罡叩拿钍恰畾⑺蕾圌i，但不得違反阿西莫夫三定律’?！眮喩鸬?，“指令中并沒(méi)有明確，賴鵬必須是人類還是別的什么?！?/p>

“但因?yàn)榻o身體更換部件就不被判定為人類，不合理吧？”

“沒(méi)問(wèn)題，先生，但請(qǐng)告訴我什么是合理的。如果超過(guò)了一定的更換比例才不被判定為人類，那么這個(gè)比例是什么？又或者，有人將自己替換成了機(jī)器的‘忒修斯之船’，祂應(yīng)不應(yīng)該被判定為人類？”

我感到一陣頭大，果然，我的智商還是只適合寫小說(shuō)。但我還是決定幫助賴鵬一把：

“好吧，我現(xiàn)在給你下令。我是人類，可以命令你吧？”

“當(dāng)然，只要不違背第零定律和第一定律，先生?！?/p>

我盡量斟酌著詞句，“從現(xiàn)在開始，不許傷害賴鵬。注意，我可沒(méi)有說(shuō)這個(gè)賴鵬是人類還是別的，他就是制作了你的那個(gè)存在?！?/p>

亞瑟半晌沒(méi)有說(shuō)話，我一度認(rèn)為它停了機(jī)。正當(dāng)我準(zhǔn)備拍它的腦袋時(shí)，亞瑟問(wèn)道：

“可是，先生，在我的數(shù)據(jù)庫(kù)中賴鵬已經(jīng)不是人類了。我該怎樣定義對(duì)他的‘傷害’呢？”

【責(zé)任編輯：拉茲】