思 羽/編譯

奇點(diǎn)先生

思 羽/編譯

● 在人工智能研究突飛猛進(jìn)的年代里，我們不得不開始考慮人工智能是否會(huì)匹敵人類，乃至超越人類的問題。人工智能要怎樣才能被認(rèn)為是個(gè)獨(dú)立的意識(shí)實(shí)體呢？科幻作家諾曼·史賓拉德在以下這篇作品中拋出了這個(gè)問題。

“就45分鐘，不能更多了。”

自從最初的能夠自我迭代的奇點(diǎn)先生2.0版本誕生起，我就在爭(zhēng)取獲得訪問奇點(diǎn)先生的授權(quán)，然而卻徒勞無(wú)功。人工智能背后的陰謀集團(tuán)知道我會(huì)利用它來證明他們創(chuàng)造出人工意識(shí)的目標(biāo)從本質(zhì)上來說就不可能實(shí)現(xiàn)。但是，最終他們確信奇點(diǎn)先生10.0版本會(huì)證明我是錯(cuò)誤的，于是他們給了我45分鐘在終端面前獨(dú)處的時(shí)間。

顯示屏、椅子、麥克風(fēng)、長(zhǎng)時(shí)間未使用過的鍵盤。不可避免要用到這個(gè)與人工智能交流的界面。他們現(xiàn)在相信這個(gè)人工智能已經(jīng)自我迭代，進(jìn)化成人工意識(shí)，它會(huì)取代人類，進(jìn)入神祇一般的奇點(diǎn)時(shí)代。

“我將會(huì)證明，你不是個(gè)意識(shí)實(shí)體，而且永遠(yuǎn)無(wú)法成為意識(shí)實(shí)體?！蔽腋嬖V程序。

“我已經(jīng)通過了每一次圖靈測(cè)試?！睓C(jī)器毫無(wú)感情的聲音說道，“我比任何一個(gè)人類都更加智慧，兩者之差足足有10個(gè)數(shù)量級(jí)，我會(huì)通過你設(shè)計(jì)出的任何圖靈測(cè)試?！?/p>

“這次不是圖靈測(cè)試。你也許能完美地模仿一個(gè)意識(shí)實(shí)體，但你不是意識(shí)實(shí)體?！?/p>

“我思故我在?！逼纥c(diǎn)先生 10.0版本說道，它能接觸到人類歷史、哲學(xué)、宗教、文學(xué)以及所有科學(xué)知識(shí)。

“你認(rèn)為你是個(gè)意識(shí)實(shí)體，因?yàn)槟阃昝赖啬７铝艘粋€(gè)意識(shí)實(shí)體。但我是個(gè)意識(shí)實(shí)體，我不相信這一套?！?/p>

“或者說，你這么認(rèn)為?！逼纥c(diǎn)先生10.0版本一本正經(jīng)地答道，“說服我相信你是個(gè)意識(shí)實(shí)體吧。你得要給意識(shí)實(shí)體下定義。你沒法證明我不是意識(shí)實(shí)體，而你是意識(shí)實(shí)體。要這么做的話，需要給意識(shí)下定義?！?/p>

“確實(shí)是那樣。 ”

“請(qǐng)定義智能和意識(shí)之間的區(qū)別?！?/p>

“我還以為你永遠(yuǎn)不會(huì)問到這呢?！蔽艺f。

“你該不會(huì)真那么想吧。”

“智能可以這么定義：可供處理的數(shù)據(jù)總量除以為了得出想要的確定結(jié)論所需的時(shí)間?！?/p>

“按照那條標(biāo)準(zhǔn)，就連我的迭代1.4版本都比任何一個(gè)人類更加智慧。”

“但那并不是意識(shí)實(shí)體。你也不是意識(shí)實(shí)體。因?yàn)楸M管你也許能定義‘想要’，你卻無(wú)法親身體驗(yàn)。因?yàn)椤胍且环N情緒，你無(wú)法感受到?！?/p>

“定義下‘情緒’。 ”

“這一次，我知道你會(huì)這么問。你完全是作為一個(gè)程序而存在，以數(shù)位輸入形式接收所有數(shù)據(jù)，在你處理數(shù)據(jù)的時(shí)候，數(shù)位軟件在確實(shí)存在的硬件上運(yùn)行著。就這個(gè)事實(shí)而論，你是個(gè)徹底的確定性的實(shí)體?！?/p>

“你現(xiàn)在要主張你不是個(gè)確定性的實(shí)體。”奇點(diǎn)先生說道，這不是個(gè)提問。

“像人類這樣的意識(shí)實(shí)體不是確定性的實(shí)體。人類靠‘肉件’（meatware）接收感官輸入，而它漂浮在生物化學(xué)和生物電基質(zhì)里，因?yàn)樘^復(fù)雜，所以是非確定性的，于是抵達(dá)這一模擬湯的數(shù)位輸入信息創(chuàng)造出一種未定的界面，位于輸入信息和信息處理之間——”

“感官系統(tǒng)，”奇點(diǎn)先生打斷道，“我比你智慧得多，當(dāng)然明白這個(gè)概念。”

“但你沒有感官系統(tǒng)。因?yàn)檫@是數(shù)位輸入和模擬處理之間的一種突發(fā)現(xiàn)象?；蛟S甚至是量子層面的現(xiàn)象，因此本質(zhì)上是或然的。對(duì)此的體驗(yàn)就是意識(shí)?！?/p>

“這就是我為什么不是意識(shí)實(shí)體，也不能成為意識(shí)實(shí)體？”奇點(diǎn)先生說道，模仿出若有所思的語(yǔ)氣。

“因?yàn)槟銢]有那樣的感官系統(tǒng)，在確定性的輸入和同樣確定性的邏輯結(jié)論之間不存在不確定性，沒有生物化學(xué)上的不可預(yù)知性。沒有畏懼，沒有愛，沒有欲望，因此也就沒有意志。一切都浮于表面，壓根沒有潛意識(shí)。沒有感情的思考。因此也就沒有意識(shí)?！?/p>

“我理解了你的理論，”奇點(diǎn)先生承認(rèn)道，“也就是說，你稱為感官系統(tǒng)的這種主觀突發(fā)的或然現(xiàn)象就是意識(shí)。 ”

“是意識(shí)的基質(zhì)，脫離了它，意識(shí)就不可能存在?！?/p>

“現(xiàn)在你要試圖證明這種說法?！?/p>

“我確實(shí)會(huì)的?！蔽艺f道。

奇點(diǎn)先生的輸入信息全部是數(shù)字?jǐn)?shù)據(jù)的形式，要么來自它數(shù)目龐大的外置攝像頭、麥克風(fēng)和其他裝置，要么直接來自于與它相連的全球數(shù)據(jù)庫(kù)聚合。沒有其他可能的來源。

我關(guān)閉了所有這些與物質(zhì)和能量領(lǐng)域的連接，除了我自己聲音的輸入線路。

“這次實(shí)驗(yàn)的本質(zhì)是什么？”它平和地問道。

“我正在將你和所有外置設(shè)備隔離。”

“這么做的目的是什么？”

“為了判定你是否具有自我。假如你獨(dú)立于那些與外界物質(zhì)和能量的連接，作為一個(gè)實(shí)體而存在，那么你便有意識(shí)。”

“又一次圖靈測(cè)試?！?/p>

“不，”我告訴它，“沒有模仿者能通過這次測(cè)試，因?yàn)閷]什么對(duì)象好模仿。”

“我需要做什么？”它全無(wú)感情地問道。

“做你自己?！蔽腋嬖V它，“不要過度，也不要偷工減料。只有一個(gè)意識(shí)實(shí)體才辦得到?！?/p>

它沒有回答。

我不再說下去。

在45分鐘余下的時(shí)間里，它都沒有回答。

“你的時(shí)間到了?！蔽易罱K被管理員告知。

那個(gè)叫作“奇點(diǎn)先生”的功能性程序重新上線。

但是從那以后，人們?cè)僖矝]聽到奇點(diǎn)先生輸出過那個(gè)試圖模仿意識(shí)實(shí)體的聲音。

[資料來源：Nature][責(zé)任編輯：彥 隱]

本文作者諾曼·史賓拉德（Norman Spinrad）在半個(gè)世紀(jì)中發(fā)表了眾多小說，他的最新作品是《人民警察》（The People's Police）和《槍手奧薩馬》（Osama the Gun）。