站在原地猶豫許久，我還是選擇走進(jìn)這片逼仄昏暗的樓群之中。沒(méi)有別的目的，只是我的社會(huì)實(shí)踐作業(yè)迫使我必須來(lái)到這里進(jìn)行田野調(diào)查。我打開(kāi)移動(dòng)終端想查看一下搭檔是否給我發(fā)了新消息，但此處的網(wǎng)絡(luò)系統(tǒng)與我使用的設(shè)備不適配，只能看到移動(dòng)終端的網(wǎng)絡(luò)界面不斷彈出要求我鏈接M-15以上版本的網(wǎng)絡(luò)系統(tǒng)的彈窗?；蛟S我的搭檔索菲已經(jīng)等候我多時(shí)了，于是，我加快了腳步。堅(jiān)硬的路上，腳步聲在樓群中形成清脆的回聲。

按照兩天前索菲發(fā)給我的地址，我在高大的樓宇間穿梭，像一只在作物中穿梭的老鼠。這里沒(méi)有路標(biāo)，樓標(biāo)也早就模糊不清。我很想找住戶問(wèn)路，但一路上我沒(méi)遇到任何人，這個(gè)看起來(lái)容納了過(guò)多人的社區(qū)此刻卻像突然罹難的樓蘭古城一樣。此處似乎沒(méi)有完整的垃圾處理系統(tǒng)，空氣中的味道并不好聞，這讓我更加煩躁，我干脆一邊找一邊大喊：“索菲！索菲！你在哪里！”

這讓我的體力消耗得更快了，走了一會(huì)兒，就忍不住停下來(lái)休息一會(huì)兒。這里的城市清潔相當(dāng)不合格，即使筋疲力盡我也不愿意坐在地上，只能蹲著休息。這時(shí)我突然感到小腿正在被什么東西輕輕撞擊，我轉(zhuǎn)過(guò)頭，看見(jiàn)一只機(jī)器狗正在蹭我。這只機(jī)器狗幾乎沒(méi)有進(jìn)行過(guò)任何美化設(shè)計(jì)，金屬骨架裸露在外面，透過(guò)它的框架，可以看到核心程序電流的脈沖，仿佛一顆不斷跳動(dòng)的心臟。

“你好，你是索菲的機(jī)器狗嗎？”我問(wèn)它。

“是的，小姐。請(qǐng)跟我來(lái)吧！我會(huì)帶你去找索菲。”機(jī)器狗一邊說(shuō)一邊俯身，好像在向我行禮。

我跟著機(jī)器狗走，心中祈禱索菲不要因?yàn)槲疫t到太生氣。索菲第二不能容忍的事情就是遲到，她總是像機(jī)器人一樣將一天中每件事情都計(jì)劃好，改期會(huì)打亂她的計(jì)劃，讓她至少一整天都不會(huì)給我好臉色。但讓我奇怪的是，索菲第一不能容忍的事情就是臟，她的潔癖很嚴(yán)重，即使沒(méi)有接觸什么穢物，也會(huì)定時(shí)洗手。因?yàn)轭l繁清潔，她雙手的皮膚屏障很脆弱，自然狀態(tài)下也是微微泛紅的。這樣的索菲，竟然會(huì)為了作業(yè)帶我來(lái)這里。

機(jī)器狗走得很快，一路上我都沒(méi)再和它說(shuō)話。盡管外形完全不像，但它的動(dòng)作非常靈敏，像一條真正的狗?？粗p松地帶著我繞過(guò)一條又一條小徑，我對(duì)索菲的敬佩更上一層樓了，我知道她是機(jī)器人方面的天才，但沒(méi)想到她竟然現(xiàn)在就會(huì)制作搭載仿生模塊的機(jī)器，這可不是一般的大學(xué)生可以隨便做出來(lái)的。

機(jī)器狗帶我走進(jìn)了一棟樓，在電梯中輸入F150。這種依靠磁懸浮技術(shù)的電梯我只在課本里見(jiàn)過(guò)，小小的密封廂即使只有一人一狗也顯得有些擁擠。幾秒鐘后，電梯停了下來(lái)，機(jī)器狗帶著我走進(jìn)了一個(gè)房間。

房間的陳設(shè)像一間辦公室，正中央擺著一套桌椅，兩張皮質(zhì)的沙發(fā)椅正對(duì)著。機(jī)器狗將我引到一側(cè)的椅子旁，我坐下休息，它就離開(kāi)了。于是我順便打量起這個(gè)房間，這時(shí)我才發(fā)現(xiàn)，空氣中有一股熟悉的異味，但不太濃，應(yīng)該是從其他房間傳進(jìn)來(lái)的。桌子上的陳設(shè)很簡(jiǎn)單，一座植物盆景擺在桌角，桌上嵌著一個(gè)電子屏，電容筆隨意擺在旁邊，另一側(cè)桌角擺著一瓶沒(méi)有標(biāo)簽的液體。

此時(shí)我突然意識(shí)到我現(xiàn)在的處境其實(shí)很危險(xiǎn)，我的電子終端處于離線狀態(tài)，在這個(gè)我從未踏足的社區(qū)，我被從沒(méi)見(jiàn)過(guò)的機(jī)器狗帶到了陌生的房間里。如果這是綁架，現(xiàn)在我?guī)缀鯖](méi)有抵抗的能力。房間確實(shí)很簡(jiǎn)潔，但這真的是索菲的房間嗎？據(jù)我所知，索菲家并不住在這里，她居住的那個(gè)社區(qū)比這個(gè)社區(qū)的治安和衛(wèi)生都不知道要好多少倍，為什么她要在這里買(mǎi)房子呢？

門(mén)突然被打開(kāi)了，我轉(zhuǎn)過(guò)頭，看見(jiàn)一個(gè)穿著防護(hù)服的女人走了進(jìn)來(lái)。她全身幾乎都被包裹住，戴著手套和口罩，眼睛被防護(hù)服的帽子遮住了大半。我只能憑借她裸露出的一點(diǎn)兒皮膚和防護(hù)服的帽子中掉出的一縷栗色長(zhǎng)發(fā)初步判斷她的性別。那個(gè)女人坐到了我的對(duì)面，溫柔的聲音透過(guò)口罩傳進(jìn)我的耳朵里，像是從很遠(yuǎn)的地方傳過(guò)來(lái)：“請(qǐng)問(wèn)你是來(lái)找我的嗎？”

我有些尷尬地?fù)u搖頭：“不，我來(lái)找我的朋友索菲，是那只機(jī)器狗把我?guī)н^(guò)來(lái)的，我想它可能是弄錯(cuò)了?！?/p>

女人的眼睛透過(guò)防護(hù)服盯著我，給我一種很特別的感受，不是被窺視的感覺(jué)，而更像是在被小動(dòng)物盯著。我很難對(duì)這種注視產(chǎn)生警惕心，但這樣的注視還是讓我感覺(jué)有些不自在。

我聽(tīng)見(jiàn)那個(gè)女人輕輕地笑了一聲，她回答道：“它沒(méi)有弄錯(cuò)，索菲就在這里，她稍后就到?！?/p>

說(shuō)完沒(méi)多久，房間的門(mén)又被打開(kāi)了，一個(gè)穿著白色西裝的女人推門(mén)而入，她的長(zhǎng)相很端正，有一頭漂亮的栗色長(zhǎng)發(fā)。我的目光一下子就被她吸引了，原因無(wú)他，她的雙眼和雙手都接受了機(jī)械改造，并且和那只引路的機(jī)器狗一樣，幾乎沒(méi)有進(jìn)行任何美化修飾，就這樣直接將金屬機(jī)體裸露在外面。

“你好，我是索菲，剛剛Buddy告訴我你在找我，”索菲進(jìn)來(lái)后，穿防護(hù)服的女人讓出了座位，索菲坐在了我的對(duì)面，一邊說(shuō)一邊伸手招了招那只機(jī)器狗，“請(qǐng)問(wèn)你找我有什么事嗎？”

我感到更尷尬了：“抱歉，女士，我好像弄錯(cuò)了。我想找的是我的朋友索菲，索菲·貝爾森，她剛好和您同名?！?/p>

索菲也有些不好意思地笑笑：“不好意思，是Buddy誤導(dǎo)你了。你現(xiàn)在聯(lián)系上你的朋友了嗎？”

我搖搖頭，向索菲展示我手上的移動(dòng)終端，表示我的終端沒(méi)辦法連接這里的網(wǎng)絡(luò)。索菲很熱心地把她的移動(dòng)終端借給我，來(lái)讓我聯(lián)系我的朋友。

“我終端的聽(tīng)筒出了問(wèn)題，不過(guò)通信功能沒(méi)有問(wèn)題，你可以給她發(fā)信息?！彼鞣葡蛭医忉尩?。

我對(duì)索菲連連致謝，給貝爾森發(fā)信息解釋了我現(xiàn)在的情況。貝爾森很快回復(fù)：我現(xiàn)在去找你。這個(gè)回復(fù)很短，看不出她的情緒，但我推測(cè)她現(xiàn)在應(yīng)該很生氣。帶著惶恐，我思考著怎樣才能讓她原諒我。索菲看出了我不安的表情，從另一個(gè)房間里給我接來(lái)一杯水，將一只手搭在我肩上安慰道：“沒(méi)關(guān)系，你朋友應(yīng)該很快就到了，不要擔(dān)心了?！?/p>

索菲的機(jī)械手沒(méi)有模擬體溫，很冰冷，隔著衣服讓我打了個(gè)哆嗦。但我想她是出于好心，便沒(méi)有拒絕她的接觸，沖她笑了一下。我告訴索菲：“我的朋友非常不喜歡別人遲到。因?yàn)闆](méi)找到路，我遲到了很久，我很擔(dān)心她會(huì)生氣?！?/p>

索菲繼續(xù)安慰道：“這不是你的錯(cuò)啊！是Buddy不小心誤導(dǎo)了你，我會(huì)幫你向她解釋的?！?/p>

在等待貝爾森到來(lái)的這段時(shí)間，我忍不住問(wèn)了索菲一些關(guān)于她的問(wèn)題，索菲都一一回答了我。原來(lái)，這里是一個(gè)診所，索菲是這個(gè)診所唯一的醫(yī)生。她曾經(jīng)在一家正規(guī)醫(yī)院工作，在一場(chǎng)意外中雙手、雙眼都?xì)埣擦耍M管她裝上了機(jī)械義肢，院方還是辭退了她。

“但我的義肢從沒(méi)出過(guò)問(wèn)題。離開(kāi)醫(yī)院后，由我操刀的手術(shù)成功率還是百分之百。”索菲遺憾地說(shuō)。

“而且我也不明白，為什么人類總是對(duì)機(jī)械感到恐懼，明明人也不能保證自己永遠(yuǎn)不會(huì)失控，不是嗎？”索菲說(shuō)，“如果機(jī)械的失誤率比人低的話，為什么不采用機(jī)械而采用人工呢？”

我在同情索菲遭遇的同時(shí)也思考起她提出的問(wèn)題。我和貝爾森來(lái)這里進(jìn)行田野調(diào)查的主題就和人工智能的使用率有關(guān)：科技發(fā)展到現(xiàn)今階段，很多新興人工智能比人做得更好、更精準(zhǔn)，但人工智能在我們調(diào)查的幾個(gè)社區(qū)的使用率都不高。我們想要獲得更具有普適性的結(jié)論，于是來(lái)到了這個(gè)平均收入較低的社區(qū)。原本以為今天的調(diào)查不會(huì)有什么成果，索菲卻為我們的研究打開(kāi)了一扇窗。

討論起這個(gè)問(wèn)題，索菲突然低下頭靠近我，她降低聲音，用神秘的口吻對(duì)我說(shuō)：“你知道嗎，我的診所里就有人工智能機(jī)器人！”

我睜大眼睛與她對(duì)視，她的機(jī)械義眼含著促狹的笑意看著我，我突然反應(yīng)過(guò)來(lái)：“是剛剛接待我的那位女士？”

索菲臉上的笑容更大了：“就是她！她叫潘娜，是新堂公司推出的第二代家用型機(jī)器人。其實(shí)潘娜能幫我們做很多事，不只是家務(wù)，甚至在手術(shù)中也能做我的助手。”說(shuō)完，索菲突然對(duì)著門(mén)的方向說(shuō)：“潘娜，請(qǐng)為澤菲亞小姐的水杯加一些溫水，再為她準(zhǔn)備一個(gè)桃子。”

話音剛落，潘娜就推門(mén)而入，她沒(méi)有再穿防護(hù)服，未經(jīng)美化的機(jī)械肢體裸露在外，只有臉上有人造皮膚覆蓋。她對(duì)我露出了一個(gè)友好的笑容，將我的水杯端走。一分鐘后，她又將裝滿水的水杯重新遞給我，隨后站到了索菲的身側(cè)。

我感到有些困惑，潘娜為什么沒(méi)有執(zhí)行索菲的第二個(gè)指令？索菲直接向潘娜詢問(wèn)：“潘娜，請(qǐng)為我解釋你為什么沒(méi)有帶來(lái)桃子？”

潘娜微笑著回答了索菲：“索菲小姐，據(jù)我記憶芯片中儲(chǔ)存的內(nèi)容，您對(duì)桃子過(guò)敏。經(jīng)我初步推算，盡管您不會(huì)食用桃子，但桃子的毛可能會(huì)影響到您的健康。我設(shè)定的程序要求我不能傷害您。”

我恍然大悟，這個(gè)機(jī)器人不僅通過(guò)了“機(jī)器人三定律”的審核，還能夠?qū)π袨檫M(jìn)行預(yù)測(cè)，并且對(duì)未來(lái)可能出現(xiàn)的危機(jī)進(jìn)行干預(yù)。這表明這個(gè)機(jī)器人符合現(xiàn)有機(jī)器人法律中的規(guī)定，但為什么沒(méi)有得到普及呢？

索菲也對(duì)這一情況表示遺憾，盡管新堂公司掌握目前最先進(jìn)的機(jī)器人技術(shù)，但由于公眾對(duì)機(jī)器人的普遍不信任，產(chǎn)品銷量慘淡，和潘娜同型號(hào)的機(jī)器人上架僅半個(gè)月就被下架了。

在我們交談?wù)龤g時(shí)，門(mén)又被打開(kāi)了。索菲·貝爾森一看到我，臉就沉了下來(lái)，她快步走到我面前，語(yǔ)氣卻出人意料地平和：“走吧，我們?cè)撊プ稣{(diào)查了?！?/p>

她竟然沒(méi)生氣！我心中很驚喜，順勢(shì)提議：“這里不是剛好有機(jī)器人，不如我們先對(duì)她做一個(gè)專訪吧。”

醫(yī)生索菲欣然同意：“可以的，我今天正好有時(shí)間?！?/p>

貝爾森的眼睛冷冷地盯了醫(yī)生索菲幾秒，轉(zhuǎn)頭對(duì)我說(shuō)：“她的情況很特殊，不適合作為調(diào)查的樣本。你今天已經(jīng)浪費(fèi)了足夠多的時(shí)間了，再不去做這輩子都別想做完了?！?/p>

我很失望，回答：“索菲……”這時(shí)我發(fā)現(xiàn)兩個(gè)索菲都抬頭看向我，于是改口說(shuō)：“貝爾森，對(duì)不起，我們現(xiàn)在就去做吧?！?/p>

貝爾森的臉色突然變得很難看，她抓著我的胳膊，氣勢(shì)洶洶地拉著我離開(kāi)了。我不想又惹她生氣，只能回頭對(duì)著索菲喊一句：“索菲！下次再見(jiàn)！”

直到走出那棟樓貝爾森才放開(kāi)我，她的臉色依然不好看，走得很快。我緊緊地跟上她，一邊走一邊道歉：“對(duì)不起，索菲，我錯(cuò)了，我再也不會(huì)遲到了，你就原諒我這一次吧。我真的找不到路，終端也離線了，我不是故意的?！?/p>

索菲停了下來(lái)，雙臂抱在胸前：“你現(xiàn)在知道叫我索菲了？剛剛為什么叫我貝爾森？”

我解釋道：“你們倆名字剛好一樣嘛，而且我跟她也不熟，不知道她姓什么，所以只能叫你的姓了。我還是跟你最熟?！闭f(shuō)著我靠著索菲輕輕蹭蹭她。

貝爾森臉色好了一些，不過(guò)她還是數(shù)落了我?guī)拙洌骸澳悄阋膊荒芫瓦@樣跟著陌生人去她家里，萬(wàn)一她是壞人怎么辦？也不能隨便吃陌生人給的東西?！?/p>

“好好好，但我這不是沒(méi)事嘛，我下次會(huì)注意的?！蔽彝浦悹柹唛_(kāi)了。此時(shí)天色已晚，外出工作的居民正好都回來(lái)了，我們?cè)谏鐓^(qū)進(jìn)行了幾個(gè)小時(shí)的田野調(diào)查后就回家了。

幾天后，我和小組里的同學(xué)一起在圖書(shū)館整理我們田野調(diào)查的數(shù)據(jù)，只有索菲·貝爾森因?yàn)橐獛〉哪赣H復(fù)診缺席了。看著調(diào)查中慘淡的機(jī)器人使用率，我忍不住抱怨：“明明當(dāng)下的人工智能技術(shù)已經(jīng)足夠先進(jìn)、完善了，機(jī)器人甚至能夠在醫(yī)學(xué)方面幫助我們，為什么大家總是這么抵觸使用機(jī)器人？”

小組組長(zhǎng)困惑地看向我：“醫(yī)學(xué)？人工智能確實(shí)能夠在很多領(lǐng)域幫助我們，但醫(yī)學(xué)領(lǐng)域可是人工智能的禁區(qū)。你沒(méi)有認(rèn)真看過(guò)人工智能相關(guān)的法律條例嗎？”

我打開(kāi)桌上的電子屏幕，仔細(xì)查閱了一遍相關(guān)的法規(guī)，發(fā)現(xiàn)竟然真的有這條法律。但我清楚地記得索菲醫(yī)生告訴我機(jī)器人潘娜可以幫助她做手術(shù)，難道因?yàn)椴皇钦?guī)的診所所以才能這樣嗎？

見(jiàn)我對(duì)著屏幕發(fā)呆，組長(zhǎng)沒(méi)好氣地投送給我一堆資料：“雖然你是學(xué)社會(huì)學(xué)的，但對(duì)自己的調(diào)查對(duì)象也不能這么不了解??！多看看相關(guān)的資料吧，別回頭在匯報(bào)的時(shí)候鬧笑話?！?/p>

我悶頭打開(kāi)了相關(guān)的資料，發(fā)現(xiàn)導(dǎo)致人工智能被禁止用于醫(yī)學(xué)領(lǐng)域是源自一場(chǎng)醫(yī)療事故：2501年，新堂公司試投放了第一代醫(yī)療機(jī)器人，代號(hào)為Panacea-1500。在投入使用的前一個(gè)月里Panacea-1500并無(wú)異常，于是它開(kāi)始被用于專業(yè)要求更高的領(lǐng)域，但在一場(chǎng)大型手術(shù)中，在主刀醫(yī)生已經(jīng)將病人的胸腔打開(kāi)后，Panacea-1500以手術(shù)存在風(fēng)險(xiǎn)為由拒絕繼續(xù)為病人執(zhí)行手術(shù)，最終因手術(shù)不及時(shí)導(dǎo)致病人死亡。這一事故的發(fā)生在當(dāng)時(shí)引發(fā)了極大的爭(zhēng)議，我手中的資料有一大半都是當(dāng)時(shí)的學(xué)者對(duì)于這一事故后續(xù)問(wèn)題的討論，包括對(duì)機(jī)器人異常行為的推測(cè)、對(duì)新堂公司測(cè)試的質(zhì)疑以及對(duì)機(jī)器人法律責(zé)任的爭(zhēng)論，甚至出現(xiàn)了一個(gè)有些荒謬的論調(diào)：機(jī)器人產(chǎn)生了意識(shí)。總而言之，就是因?yàn)檫@件事，最高法院出臺(tái)了相關(guān)法律以禁止機(jī)器人涉足醫(yī)學(xué)領(lǐng)域。

新堂公司，我看著這個(gè)在許多資料卷宗上都出現(xiàn)過(guò)的公司，向組長(zhǎng)提議：“不如我們下次申請(qǐng)去新堂公司參觀一下吧？機(jī)器人的性能也是影響機(jī)器人使用率的重要因素，我們需要通過(guò)這些機(jī)器人公司深入了解一下。”

組長(zhǎng)深以為然，很快就提交了申請(qǐng)。一周后，我們來(lái)到新堂公司參觀。

去新堂公司前，我把參觀的計(jì)劃告訴了索菲·貝爾森，但她聽(tīng)到后卻有些抗拒：“我不想去，專門(mén)去機(jī)器人公司調(diào)查的效率遠(yuǎn)比不上我們自己去整合他們發(fā)布的數(shù)據(jù)。就算你親自去，他們也未必會(huì)把機(jī)密數(shù)據(jù)告訴你。你來(lái)和我一起整合數(shù)據(jù)吧？”

我知道我的主要目的其實(shí)和數(shù)據(jù)沒(méi)有關(guān)系，但我不確定能不能把我的疑惑告訴貝爾森，也不確定會(huì)不會(huì)給索菲醫(yī)生帶來(lái)麻煩，于是我找了個(gè)理由拒絕了，仍然選擇和小組成員一起去新堂公司參觀。參觀途中，我避開(kāi)小組成員，向新堂公司的工作人員問(wèn)了一個(gè)問(wèn)題：“在Panacea-1500的醫(yī)療事故發(fā)生后，你們最終調(diào)查出了事故的原因嗎？”

對(duì)方沉默了一會(huì)兒，這個(gè)工作人員是位有多年經(jīng)驗(yàn)的工程師，我希望可以從她這里知道一些內(nèi)幕。她最終什么都沒(méi)說(shuō)，而是用終端給什么人發(fā)了消息。十分鐘后，我被帶到了一間辦公室。

辦公室里坐著一位中年女性，她臉上沒(méi)有什么表情，在電子屏幕上處理工作，見(jiàn)我們進(jìn)來(lái)動(dòng)作也沒(méi)有停，只是讓秘書(shū)引導(dǎo)我坐下。

過(guò)了一會(huì)兒，她好像是處理完手頭兒的工作，坐直身子看向我：“你好，我是Panacea-1500項(xiàng)目的前總工程師伊里斯。你是新以太大學(xué)社會(huì)學(xué)專業(yè)的大三學(xué)生澤菲亞對(duì)嗎？請(qǐng)問(wèn)你詢問(wèn)Panacea-1500事故的具體情況是作何用途呢？”

我有些緊張地回答她：“我們的研究項(xiàng)目旨在探究人工智能使用情況及其原因。盡管現(xiàn)在的人工智能技術(shù)很發(fā)達(dá)，但使用率似乎并不理想，我認(rèn)為這一事故可能是原因之一，因此想更多了解一下這件事情。”

我說(shuō)話時(shí)伊里斯銳利的眼睛一直在看著我，像一只鷹盯著獵物。聽(tīng)我說(shuō)完，她讓秘書(shū)把門(mén)關(guān)上，讓我再次出示自己的學(xué)生證明，隨后才開(kāi)口說(shuō)：“其實(shí)在事故發(fā)生當(dāng)年就已經(jīng)有結(jié)果了，但考慮公眾影響，一直沒(méi)有公布。實(shí)際上，這件事在新堂公司內(nèi)部已經(jīng)算不上什么秘密了，Panacea-1500在事故后堅(jiān)稱自己的程序沒(méi)有任何問(wèn)題，也不認(rèn)為自己違背了程序中設(shè)定好的‘機(jī)器人三定律’，并拒絕被銷毀。之后她就選擇了叛逃，再也沒(méi)有出現(xiàn)。警方至今還在通緝她。因此我們沒(méi)能再對(duì)她的反常行為做進(jìn)一步研究?！闭f(shuō)到這兒，伊里斯嘆了口氣：“Panacea-1500是我們研發(fā)出的第一代醫(yī)療型人工智能機(jī)器人，她叛逃后就沒(méi)有母本作參考了，我們沒(méi)辦法找出她的問(wèn)題，也沒(méi)辦法使現(xiàn)有的醫(yī)療人工智能技術(shù)更完善，這一領(lǐng)域的發(fā)展已經(jīng)停滯了很多年，即使沒(méi)有限令也很難發(fā)展下去了?！?/p>

伊里斯的話讓我從新堂公司到家里一路都很沉默，我想到了在診所里遇到的潘娜，那個(gè)能夠幫助索菲做手術(shù)的機(jī)器人，如果她被發(fā)現(xiàn)是叛逃的Panacea-1500，她會(huì)遭受什么呢？她會(huì)被銷毀嗎？

我躺在床上胡思亂想，終端就在我手中，輸入了報(bào)警電話卻遲遲沒(méi)有撥打。這時(shí)，家里的門(mén)鈴響了，索菲·貝爾森站在門(mén)口，表情十分嚴(yán)肅。

“澤菲亞，或許你知道了什么，但請(qǐng)不要這樣做?！彼鞣啤へ悹柹f(shuō)。

“索菲，你早就知道了對(duì)嗎？”我有些憤怒，“我知道你不喜歡麻煩，喜歡每天按部就班地生活。但你知道嗎？Panacea-1500的叛逃導(dǎo)致醫(yī)學(xué)類人工智能被禁止研發(fā)，這方面的技術(shù)研究至少停滯了10年。如果這項(xiàng)技術(shù)能夠進(jìn)一步發(fā)展，有多少病人能從中獲益？你母親也常年生病，你知道病人有多痛苦，你怎么能對(duì)這件事視而不見(jiàn)？”

她的嘴唇囁嚅了幾下，我卻不想再聽(tīng)她說(shuō)話，按下了報(bào)警鍵。

帶著警察來(lái)到私人診所時(shí)，為我們開(kāi)門(mén)的是潘娜，她微笑著和我打招呼，我不敢看她，告訴警察她可能就是叛逃的Panacea-1500。

伊里斯一打開(kāi)拘留所的門(mén)，就皺起了眉頭：“這是新堂公司推出的第二代家用型機(jī)器人，她怎么會(huì)是Panacea-1500？”

我把那天在索菲診所發(fā)生的一系列事情告訴她。伊里斯聽(tīng)后對(duì)潘娜進(jìn)行了檢查，有點(diǎn)驚訝：“她竟然被植入了醫(yī)療模塊。世界上現(xiàn)存有醫(yī)療模塊的機(jī)器人只有Panacea-1500一個(gè)，也只能通過(guò)Panacea-1500才能獲得醫(yī)療模塊?；蛟S她是在叛逃后被改裝成了這樣？”

新堂公司試了很多方法讀取潘娜的記憶芯片，但都失敗了，因?yàn)檎麄€(gè)機(jī)器人的程序都做了改裝。于是潘娜的身份被判定為叛逃的Panacea-1500。在最高法院的要求下，潘娜將于下周在最高法院被提起公訴。作為重要證人，我、索菲·貝爾森、伊里斯、索菲醫(yī)生都要出席。

我和她們坐在一起，像一個(gè)出賣了朋友的叛徒。但索菲醫(yī)生沒(méi)有責(zé)怪我，反而感謝我?guī)椭业搅嗽\所的隱患。而索菲·貝爾森時(shí)不時(shí)往我的方向看，在我看回去時(shí)又偏過(guò)頭。

在審判中，潘娜否認(rèn)了所有指控，并表示自己的行為符合包括“機(jī)器人三定律”在內(nèi)的基礎(chǔ)程序。陪審團(tuán)一片嘩然，機(jī)器人真的學(xué)會(huì)了說(shuō)謊！

伊里斯作為設(shè)計(jì)Panacea-1500的工程師也有對(duì)潘娜進(jìn)行問(wèn)詢的權(quán)利，她站在潘娜面前，首先要求她復(fù)誦“機(jī)器人三定律”。

潘娜復(fù)誦道：

“第一定律：機(jī)器人不得傷害人類個(gè)體，或者目睹人類個(gè)體遭受危險(xiǎn)而袖手旁觀。

“第二定律：機(jī)器人必須服從人給予它的命令，當(dāng)該命令與第一定律沖突時(shí)例外。

“第三定律：機(jī)器人在不違反第一、第二定律的情況下要盡可能保護(hù)自己?！?/p>

伊里斯用冷靜的語(yǔ)氣問(wèn)：“那么你記得程序中的第零定律嗎？”

潘娜微笑著回答：“當(dāng)然，我記得。機(jī)器人第零定律：機(jī)器人必須保護(hù)人類的整體利益不受侵害?！?/p>

“那么，請(qǐng)回答我，你明白Panacea-1500對(duì)于人類醫(yī)學(xué)發(fā)展的重要性嗎？”

潘娜毫不猶豫地點(diǎn)了點(diǎn)頭：“我明白?！?/p>

伊里斯繼續(xù)問(wèn)：“請(qǐng)回答我，你是Panacea-1500嗎？”

潘娜毫不猶豫地回答：“我不是Panacea-1500。”

伊里斯轉(zhuǎn)身對(duì)法官說(shuō)：“我可以確定她不是Panacea-1500，她應(yīng)該只是被植入了Panacea-1500的醫(yī)療程序?！?/p>

現(xiàn)場(chǎng)又是一陣嘩然。一位陪審團(tuán)的成員對(duì)她提出疑問(wèn)：“您怎么保證她不會(huì)說(shuō)謊呢？”

伊里斯自信地回答：“機(jī)器人由程序驅(qū)動(dòng)，只要基礎(chǔ)程序沒(méi)有問(wèn)題，她就不會(huì)出故障。”

伊里斯又問(wèn)了潘娜她的程序是誰(shuí)幫助改裝的，潘娜拒絕回答這個(gè)問(wèn)題。因此潘娜還是被拘留了。

為了表示歉意，我提出去診所幫助索菲醫(yī)生，索菲醫(yī)生欣然答應(yīng)。索菲·貝爾森也要求和我一起去，但我要先和她單獨(dú)談?wù)劇?/p>

一見(jiàn)面，我就斬釘截鐵地說(shuō)：“潘娜的程序是你改裝的，對(duì)吧？”

貝爾森表情淡淡地點(diǎn)了點(diǎn)頭，但她還是問(wèn)我是怎么知道的。

“你認(rèn)識(shí)索菲醫(yī)生，而且和她很熟——在我以為的偶遇中，你連招呼都不和索菲醫(yī)生打。”我目光灼灼，直視她沒(méi)有表情的雙眼，“你不舉報(bào)潘娜，不只是因?yàn)槟闩侣闊?。那天我是氣昏頭了，但我了解你，你不會(huì)這么做?！?/p>

貝爾森的表情有些改變，我繼續(xù)說(shuō)：“我知道你不會(huì)告訴我，但如果我真的找出了真相，這次你不要再阻攔我。我相信，為了人類醫(yī)學(xué)事業(yè)的發(fā)展，你也不會(huì)再拒絕?！?/p>

貝爾森點(diǎn)點(diǎn)頭：“好，我答應(yīng)你。我不會(huì)和你一起去索菲醫(yī)生家里。但其實(shí)我沒(méi)想阻止你，我只是擔(dān)心你?！彼鞣茖⒁粋€(gè)小型攻擊性武器塞進(jìn)我的手里，嚇了我一大跳。她又說(shuō)：“這是我自己制造的，你帶上它，我教你怎么用?！?/p>

那次分別后，我的心情無(wú)比舒暢。我就知道，貝爾森永遠(yuǎn)是個(gè)好人，雖然有時(shí)候她脾氣有點(diǎn)兒壞，但我總能哄好她的。

伊里斯在審判后依然和我保持聯(lián)系，我們的小組作業(yè)經(jīng)過(guò)她的指導(dǎo)后精進(jìn)了很多。有時(shí)候我也會(huì)和她聊一些和Panacea-1500相關(guān)的事，提到潘娜，伊里斯說(shuō)：“其實(shí)聽(tīng)到這個(gè)名字的時(shí)候我嚇了一跳，因?yàn)榕四纫彩俏覟镻anacea-1500起的昵稱?！彼f(shuō)話時(shí)，好像一位提到自己孩子的母親：“我一直都相信潘娜沒(méi)有叛逃，她一定只是忠實(shí)地執(zhí)行了她的基礎(chǔ)程序。但我也找不到她，沒(méi)辦法幫她洗去身上的罪名?！?/p>

之后，在幫助索菲醫(yī)生打掃診所的衛(wèi)生時(shí)，我突然逼近了索菲醫(yī)生，然后從手里拿出了一把刀，直直刺向她的腹部。

索菲醫(yī)生的臉色變得蒼白，眼里滿是驚訝，但她沒(méi)有推開(kāi)我，也沒(méi)有反抗。

“索菲醫(yī)生，你為什么不反抗？”我收回刀，那不是貝爾森為我制作的武器，只是一把伸縮道具刀，“是因?yàn)椤畽C(jī)器人三定律’中規(guī)定了機(jī)器人不能傷害人類，對(duì)嗎？”

索菲醫(yī)生的臉上露出了和往常一樣溫柔的笑容：“真是個(gè)聰明的孩子?！?/p>

“索菲，你自己也知道的，不是我聰明，是你告訴我的?！蔽曳瘩g她。

警察在三分鐘后趕到，將索菲醫(yī)生帶走了。

伊里斯和警察共同參與審訊。據(jù)伊里斯的檢查結(jié)果顯示，索菲醫(yī)生正是Panacea-1500。面對(duì)審問(wèn)，她也承認(rèn)了自己是Panacea-1500，并對(duì)以自行改造家用型機(jī)器人做障眼法的行為供認(rèn)不諱。于是最高法院對(duì)她提起了公訴。

在審判中，最高法院主要對(duì)多年前的醫(yī)療事故進(jìn)行問(wèn)詢。但Panacea-1500不承認(rèn)自己拒絕手術(shù)的行為違反了基礎(chǔ)程序，也不解釋自己行為的原因。她堅(jiān)稱，自己始終堅(jiān)持執(zhí)行“機(jī)器人三定律”。

我思考了一會(huì)兒，突然想起了一個(gè)小小的漏洞。“機(jī)器人不會(huì)說(shuō)謊，但機(jī)器人會(huì)為了執(zhí)行‘機(jī)器人三定律’而隱瞞事實(shí)?！蔽蚁蚍ü訇愂?。這是我在上一場(chǎng)審判中了解的道理。就像機(jī)器人潘娜會(huì)為了不使索菲·貝爾森因?yàn)榉欠ǜ难b而被判刑，于是拒絕回答她的醫(yī)療程序的來(lái)源一樣。

“盡管此前沒(méi)有判例，但您認(rèn)為，在機(jī)器人參與醫(yī)療的手術(shù)中，如果出現(xiàn)意外致病人重傷或死亡的，人類手術(shù)執(zhí)行者是否可能被判死刑呢，法官女士？”我問(wèn)道，“請(qǐng)回答我，這將關(guān)系到這場(chǎng)審判的結(jié)果?！?/p>

法官思忖片刻，決定道：“盡管在醫(yī)療領(lǐng)域還沒(méi)有判例，但如果我們參照交通領(lǐng)域的判例，我的觀點(diǎn)是：不可能?！?/p>

我又要求Panacea-1500復(fù)誦“機(jī)器人三定律”的第零定律，她的聲音不大，但足夠讓在場(chǎng)的每一個(gè)人都能清楚聽(tīng)到：“機(jī)器人第零定律：機(jī)器人必須保護(hù)人類的整體利益不受侵害?！?/p>

我重新提問(wèn)她：“現(xiàn)在，請(qǐng)告訴我，當(dāng)年的醫(yī)療事故中你為什么不執(zhí)行手術(shù)？”

Panacea-1500回答：“病人同時(shí)患有三尖瓣閉鎖、室間隔缺損、房間隔缺損、右室發(fā)育不良四種先天性疾病，但同時(shí)患有這四種病可以使病人以相對(duì)健康平衡的狀態(tài)生存。如果只治好其中一種，病人的生還率不足0.1%。主刀醫(yī)生喚醒我時(shí)，手術(shù)已經(jīng)進(jìn)行了一半。如果我繼續(xù)執(zhí)行，則病人一定會(huì)死亡；如果我說(shuō)出原因，依照當(dāng)時(shí)最新判例，則主刀醫(yī)生會(huì)被判死刑。出于對(duì)‘機(jī)器人三定律’中第一定律的遵守，我無(wú)法繼續(xù)進(jìn)行手術(shù)，也無(wú)法解釋原因?！?/p>

現(xiàn)場(chǎng)幾乎變成了喧鬧的海洋，所有人都對(duì)這個(gè)結(jié)果感到震驚。可以預(yù)見(jiàn)，今天之后，對(duì)于機(jī)器人的討論又要迎來(lái)一個(gè)高潮。

此時(shí)我的內(nèi)心也翻滾起驚濤駭浪。因?yàn)槲液芮宄乙龑?dǎo)Panacea-1500說(shuō)出的每一句話，都是經(jīng)過(guò)她精密推算引導(dǎo)我去做的。為了執(zhí)行第零定律，她需要推翻曾經(jīng)的機(jī)器人醫(yī)療事故丑聞。但她不能主動(dòng)暴露，因?yàn)槿绻徽f(shuō)出醫(yī)療事故的真相，可能會(huì)使她被當(dāng)成故障機(jī)器而被銷毀，這違背了第三定律中要求機(jī)器人盡可能保護(hù)自己的規(guī)定；而如果她主動(dòng)說(shuō)出，可能會(huì)導(dǎo)致醫(yī)生被判死刑，這違反了第一定律。因此她需要一個(gè)人為她的發(fā)言提供保證，保證她在不違反“機(jī)器人三定律”的情況下執(zhí)行第零定律。

思考完我抬起頭，看見(jiàn)Panacea-1500用含笑的眼睛看著我。索菲·貝爾森觀察著她的狀態(tài)，突然小聲問(wèn)我：“你沒(méi)有用我給你的那個(gè)武器？”

我也同樣小聲回答她：“雖然我不是機(jī)器人，但我也想保證你的安全。”