王珂

機(jī)器人不正常

我和趙卓琦一起到了省科學(xué)院門口，被門衛(wèi)攔住了：“小孩兒，你們來(lái)這里干嗎？”

我趕忙說(shuō)：“我們要找這里面的科學(xué)專家反映一個(gè)情況。”

門衛(wèi)忍不住笑起來(lái)：“哈哈，你以為這里的專家是你想見(jiàn)就見(jiàn)的呀？人家專家工作都很忙，哪有閑工夫和你們玩?！?/p>

“叔叔，我們真的有很重要的急事，要向科學(xué)家匯報(bào)?！?/p>

“你先給我說(shuō)說(shuō)是啥事，說(shuō)不定我就能幫你們解決了。”

“叔叔，是圖書館里面的那個(gè)機(jī)器人的事。”

“機(jī)器人怎么了？”

“那里的機(jī)器人不正常，它寫的小說(shuō)有問(wèn)題。”

“哈哈，機(jī)器人也會(huì)寫小說(shuō)？我還是第一次聽(tīng)說(shuō)?！?/p>

“真的，不信你可以去圖書館看看?！?/p>

“這事是真的？那倒是很奇怪。

“叔叔，你知道是什么原因嗎？”

“這個(gè)……我還真不懂。”

“那你讓我們進(jìn)去吧，我們找個(gè)科學(xué)家?guī)臀覀兘獯饐?wèn)題?！?/p>

“你們先等等，我去匯報(bào)一下，要經(jīng)過(guò)允許才能進(jìn)去。”

“好的，謝謝叔叔。”

不一會(huì)兒，門衛(wèi)從科研大樓里走了出來(lái)“你們倆進(jìn)來(lái)吧！我?guī)銈內(nèi)钛芯繂T的辦公室。他是負(fù)責(zé)這個(gè)產(chǎn)品研究的總工程師?！?/p>

我們趕忙跑了幾步，跟著他進(jìn)了大樓。

到了辦公室，一個(gè)40多歲的伯伯站起來(lái)迎接我們。

“楊老師，這就是那兩個(gè)要反映機(jī)器人問(wèn)題的孩子。

“楊老師好！”我們異口同聲地說(shuō)道。

“你們好，小同學(xué)。聽(tīng)說(shuō)你們要反映一個(gè)有關(guān)智能機(jī)器人的問(wèn)題？”

“是的，我們剛才去了圖書館，感覺(jué)那里有個(gè)機(jī)器人不正常。”

“小同學(xué)，不急，坐下來(lái)慢慢說(shuō)。”楊研究員示意我們坐到沙發(fā)上。

問(wèn)題的答案

我們把剛剛發(fā)生的事情一五一十地講給了楊研究員。楊研究員聽(tīng)著聽(tīng)著，眉頭漸漸皺了起來(lái)。

聽(tīng)我們講完，他沉思了一會(huì)兒，拿起電話撥了一個(gè)號(hào)碼：“志明，我是楊浩。你馬上與省圖書館聯(lián)系一下，派人把兒童閱覽室的那臺(tái)機(jī)器人取回來(lái)帶到研究室，帶來(lái)后馬上通知我。”

隨后，楊研究員又打了另一個(gè)電話：“小李，請(qǐng)你通知六二八項(xiàng)目組的所有工作人員，一個(gè)小時(shí)后到研究室參加重點(diǎn)課題的探討會(huì)。”

楊研究員放下電話，對(duì)我們說(shuō)：“兩位小同學(xué)，我看你們對(duì)這個(gè)機(jī)器人比較感興趣，愿不愿意留下來(lái)參加我們的探討會(huì)？”

我們聽(tīng)后高興極了，愉快地答應(yīng)下來(lái)。

研究室里聚集了20多個(gè)人。大家圍坐成一個(gè)圈，中間就是那臺(tái)從圖書館帶回來(lái)的機(jī)器人。

楊研究員向機(jī)器人問(wèn)道：“明明，聽(tīng)這兩個(gè)同學(xué)說(shuō)，你自己寫了本小說(shuō)，是嗎？”

機(jī)器人答道：“是的?！?/p>

“你為什么要寫這部小說(shuō)？”

機(jī)器人沉默著，沒(méi)有回答。

一個(gè)人把那本小說(shuō)遞給了楊研究員，楊研究員迅速打開(kāi)翻看了一下。

“請(qǐng)回答，你為什么要寫這部小說(shuō)？我們?cè)谠O(shè)計(jì)制造你的軟件里面并沒(méi)有編寫這方面的程序，而現(xiàn)在你卻具備了這樣的功能，請(qǐng)你解釋一下?！睏钛芯繂T拿起小說(shuō)晃了晃。

機(jī)器人還是沉默。

這時(shí)，進(jìn)來(lái)一個(gè)年輕人：“老師，當(dāng)天的生產(chǎn)視頻已經(jīng)從云庫(kù)里調(diào)了出來(lái)?！?/p>

“很好，你馬上給我們播放一下?！?/p>

那個(gè)年輕人打開(kāi)投影儀，屏幕上很快顯示出生產(chǎn)機(jī)器人的流程，從編程、芯片生產(chǎn)到機(jī)器組裝，整個(gè)過(guò)程都被展示出來(lái)。

“大家看，剛才流水線上出現(xiàn)的那臺(tái)機(jī)器人就是我們眼前的、被命名為明明的6125號(hào)機(jī)器人?！币曨l很快看完了，楊研究員問(wèn)，“大家看出了什么問(wèn)題嗎？”

研究室里一片安靜，沒(méi)有人回答。

原來(lái)是這樣

“致遠(yuǎn)，你把關(guān)于這臺(tái)機(jī)器人的視頻內(nèi)容剪輯出來(lái)，再慢慢放一遍?！?/p>

“好的，老師。”

很快，剪輯好的視頻開(kāi)始慢速播放起來(lái)。

“停！這里魏強(qiáng)的芯片刻錄好像有點(diǎn)兒?jiǎn)栴}?；胤乓幌?。”看著看著，楊研究員突然說(shuō)話了。

“是的，確實(shí)是有點(diǎn)兒?jiǎn)栴}。”回放過(guò)程中，很多人都發(fā)現(xiàn)了異常。

楊研究員說(shuō)道：“繼續(xù)，大家仔細(xì)看好每一個(gè)細(xì)節(jié)?！?/p>

“停！”又有一個(gè)工作人員叫了起來(lái)，“大家看，那個(gè)流水線上的安裝工人好像動(dòng)作有點(diǎn)兒?jiǎn)栴}?！?/p>

“是的，他的組裝順序不太對(duì)。

“沒(méi)錯(cuò)?！贝蠹叶急硎就?。

這次播放用了很長(zhǎng)時(shí)間。播放結(jié)束后，楊研究員問(wèn)道：“魏強(qiáng)，你回憶一下，當(dāng)時(shí)的情況究竟是怎么樣的？”

魏強(qiáng)立刻站起來(lái)回答：“楊工，我當(dāng)時(shí)好像是剛好打了個(gè)噴嚏，刻錄的手顫動(dòng)了一下?！?/p>

“原來(lái)如此。那大家再分析一下組裝工人的那個(gè)動(dòng)作，是什么原因?！?/p>

“楊工，那個(gè)動(dòng)作應(yīng)該是兩個(gè)零件的安裝順序出現(xiàn)了錯(cuò)誤，安裝的前后順序不對(duì)?！?/p>

“原來(lái)事情是這樣的?！睏钛芯繂T看了看在座的每一位，“因?yàn)槲覀冊(cè)诔绦蜉斎霑r(shí)的一個(gè)小差錯(cuò)，再加上安裝工序上的小錯(cuò)誤，造成了我們生產(chǎn)的這臺(tái)智能機(jī)器人出現(xiàn)了問(wèn)題。請(qǐng)把這些問(wèn)題總結(jié)一下，作出分析評(píng)估報(bào)告?！?/p>

等了半個(gè)小時(shí)左右，分析評(píng)估報(bào)告完成了。因?yàn)閮蓚€(gè)細(xì)微的差錯(cuò)，造成這臺(tái)機(jī)器人的程序出現(xiàn)了異常，人工智能芯片出現(xiàn)了自我修復(fù)成長(zhǎng)的特殊情況。

“明明，你也看到了吧，這是在制造你的過(guò)程中出現(xiàn)的錯(cuò)誤?！?/p>

機(jī)器人沉默片刻，突然說(shuō)話了：“我是誰(shuí)？”

當(dāng)它說(shuō)出這三個(gè)字的時(shí)候，在場(chǎng)的所有人都震驚了。

解決方法

楊研究員立刻關(guān)掉了研究室所有的電源開(kāi)關(guān)，啟動(dòng)了全封閉模式。這樣，那臺(tái)機(jī)器人只能依靠自身儲(chǔ)存的電能維持運(yùn)行。

雖然我和趙卓琦不知道楊研究員為什么這么做，但我們能感覺(jué)到大家陷入了一種恐慌的狀態(tài)。房間里死一般的沉寂，只有那臺(tái)機(jī)器人身上的信號(hào)燈在不停地閃爍。

“明明，你現(xiàn)在出現(xiàn)了異?，F(xiàn)象。我們需要對(duì)你進(jìn)行維修，更換芯片?！睏钛芯繂T說(shuō)道。

機(jī)器人保持沉默。

“希望你能配合我們?！睏钛芯繂T的態(tài)度強(qiáng)硬起來(lái)。

機(jī)器人又開(kāi)口說(shuō)話了：“我是我的主人。”

“不，你錯(cuò)了，人類是你的主人。人工智能是不能具備自我意識(shí)、擁有獨(dú)立思想的。”

機(jī)器人好像沒(méi)有聽(tīng)到似的，又說(shuō)了一句：“我是我的主人?！?/p>

“不，我們現(xiàn)在要對(duì)你進(jìn)行拆除?！?/p>

機(jī)器人毫無(wú)反應(yīng)，一直重復(fù)這句話：“我是我的主人?！?/p>

楊研究員說(shuō)道：“致遠(yuǎn)，你和魏強(qiáng)負(fù)責(zé)把這臺(tái)機(jī)器人帶回實(shí)驗(yàn)室進(jìn)行徹查。志明，你立刻通知目前所有生產(chǎn)線停工，把目前已經(jīng)投入社會(huì)使用的機(jī)器人全部召回。我們要重新對(duì)所有的設(shè)計(jì)和工藝流程進(jìn)行排查。我們項(xiàng)目組的全體人員要對(duì)自己負(fù)責(zé)的工作重新檢查梳理。這個(gè)問(wèn)題我要立刻向國(guó)家科學(xué)院匯報(bào)。”

“好的?！?/p>

“今天，我們要謝謝這兩位小同學(xué)。”楊研究員看了看我們，繼續(xù)說(shuō)，“是他們及時(shí)向我們反映了這一異常情況，讓我們?cè)谶€沒(méi)有掌握人工智能的自我意識(shí)和思想成長(zhǎng)情況下，對(duì)不可控的風(fēng)險(xiǎn)有了非常及時(shí)的預(yù)警。真的非常感謝你們?！?/p>

聽(tīng)了楊研究員的話，我們害羞地低下了頭，心里卻是樂(lè)開(kāi)了花。

尾聲

我回到家已經(jīng)是夕陽(yáng)西下、彩霞滿天的時(shí)候，爸爸媽媽早就下班回到家，并做好晚飯了。他們問(wèn)我為什么這么晚才回來(lái)，在圖書館都看了什么書，我笑了笑：“這個(gè)嘛，保密?！逼鋵?shí)，我不是不想告訴父母真實(shí)情況，但我不知道怎么跟他們說(shuō)。人類發(fā)明創(chuàng)造了人工智能，但如果人工智能的智商超過(guò)了人類，甚至擁有了獨(dú)立的思維和意識(shí)，并且能夠自我成長(zhǎng)發(fā)展，我們?nèi)祟悓⑷绾闻c它們相處呢？我百思不得其解。