社會面臨的問題越來越復(fù)雜，機器越來越智能化，人類對機器的依賴性越來越強……會不會有那么一天，機器或機器人具備了自主意識和自我設(shè)計的能力，進而群體反叛人類，甚至把人類置于其有效控制之下，最終成為掌控地球的新勢力?在北京電視臺《非常故事匯》節(jié)目錄制現(xiàn)場，放過科幻電影《機械公敵》那驚心動魄的片斷之后，主持人英達把問題拋給了王渝生和我兩個嘉賓。

王先生的觀點是：人無遠慮，必有近憂?？萍嫉膽?yīng)用有正面作用，也有負面效應(yīng)。對有些壞的可能性，與其信其無，不如信其有，這樣才能防患于未然。

我的看法仍然傾向于保守：機器人終歸只是機器，工具而已，給它植入確保行為無害的運行規(guī)則或“套”上安全裝置不就安然無恙了嗎?我不相信沒有生命的自主意識。然而，那些常被視為“杞人之憂”的幻想，距離我們的現(xiàn)實生活竟是如此之近!就在我們錄制完那期節(jié)目3天之后，《紐約時報》登出一篇題為《科學(xué)家擔(dān)心機器會比人聰明》的報道，提到：由于人工智能方面令人吃驚的進展，一些計算機科學(xué)家正在爭論是否應(yīng)該對某些研究設(shè)限，以防這些研究導(dǎo)致人類失去對計算機體系控制的可能性，而這些系統(tǒng)承擔(dān)著越來越多的從發(fā)動戰(zhàn)爭到同顧客電話聊天的社會工作。有人甚至認為，可以自動殺人的機器或者已經(jīng)產(chǎn)生，或者很快將會出現(xiàn)。

這篇報道的觀點，跟兩年前在美國舊金山召開的“奇點峰會——人工智能和人類未來”所傳出的信息如出一轍。在當(dāng)年的那個峰會上。有人工智能研究人員提醒說，現(xiàn)在是制定道德指導(dǎo)規(guī)則以保證這些進步會幫助人類而不是危害人類的時候了。最讓人擔(dān)心的情況是，一個才華橫溢的發(fā)明者創(chuàng)造出一個對人類懷有敵意、可以自我編程但卻沒有道德觀念的智能機器。

而在目前的人工智能領(lǐng)域，則有這樣一種理念：當(dāng)人工智能機器達到一定的智能水平(即在某天突然達到一種稱為“奇點”的狀態(tài))之后，它們將會“失去控制”，以我們無法想象的速度自行進化，以至于遠遠地并且非常迅速地把我們拋在后面。就此有一聲刺耳的警告稱：如果你認為這種神一樣無所不能的人工智能機器不可能被很快制造出來的話，那么不妨回想一下，利奧·西拉德在20世紀(jì)30年代預(yù)測一顆炸彈可以摧毀一座城市，當(dāng)時的人們卻把他視為瘋子的情形。真正的問題或許反映在這樣一種憂慮中：當(dāng)我們使機器具有更多的智能時，并不知道哪里是危險的邊緣，因為對于智能的衡量并不明確。更何況智能所要包括的領(lǐng)域是如此之廣。這情形“很像是閉著眼睛在懸崖上行走，每向前邁一步之前，你說：‘我剛才走的一步?jīng)]出問題，因此我就再邁一步吧?！跊]有到達懸崖邊緣之前你還不會出事，但等到了的時候就太晚了”。到那時候，人類是圓了一個好夢還是迎來了一個噩夢呢?

不過，也有不少人對此持樂觀態(tài)度，認為各種各樣的智力至少有可能建立一種共生關(guān)系。機器人或計算機不會取代我們的地位，而會作為我們的朋友和同盟者，跟我們一道走向光輝燦爛的未來——只要我們在此之前不要自我毀滅。更有人工智能專家大膽設(shè)想：智能機器人實際上是人類演化的后代，它們從人類中成長，學(xué)習(xí)我們的技能，與我們擁有共同的價值標(biāo)準(zhǔn)，可以看成是人類思維的后代。很有可能，未來的人們將能夠把他們的思想加載到高級計算機中，由此轉(zhuǎn)化形式，使得自己可以永遠生存下去。而在此之前的一幅圖景則是：學(xué)會使用計算機與機器人，已成為未來人類接受文明的重要條件，就像過去人們要立足于社會，就必須學(xué)會讀書、寫字一樣。