一

最近這些年，最火熱的技術(shù)好像是兩種：生物工程技術(shù)和人工智能技術(shù)。這兩大門類的技術(shù)都很了得，不僅將大規(guī)模改變世界的面貌，而且將改變?nèi)俗陨?。我常說，這是兩面夾擊，人工智能要把機(jī)器變得越來越像人，生物工程要把人變得越來越像機(jī)器。

生物工程技術(shù)和人工智能技術(shù)，兩廂相比，我估計(jì)，生物工程技術(shù)帶來的變化會(huì)更根本。據(jù)說，生物工程技術(shù)不用多久就能夠讓人長(zhǎng)生不老。在很多人看來，長(zhǎng)生不老是所有愿望里最大的愿望——無論什么愿望，都得人活著才能實(shí)現(xiàn)。但退開一步想，人終有一死，才會(huì)去努力實(shí)現(xiàn)愿望，真若永無死日，那還急什么？今天、明天或任何一天，所有的日子都一樣。人想多活幾天，人有這個(gè)愿望大概是事實(shí)。不過，長(zhǎng)壽作為一種可欲的東西，在各種文化里地位不同，好像在咱們中國(guó)擺的位置最高，在古希臘，極流行的觀念是人過完了青壯年就該去死了。我其實(shí)挺懷疑人是不是真的都愿意長(zhǎng)生不老?？粗蝗夯畋膩y跳的孩子，大家都開心，看著年輕人旺盛生長(zhǎng)，大家都開心，我們老年人要是都不讓出地方，孩子和青年往哪兒長(zhǎng)呢？

不過，今天的主題是人工智能，還是回到這個(gè)題目上來。我們街上的老百姓，說到人工智能，首先想到的大概是科幻電影里的電腦人。電腦真能變成人嗎？

人工智能進(jìn)步飛快，在很多特定方面已遠(yuǎn)遠(yuǎn)強(qiáng)于人類。但我以為，電腦不會(huì)成為人。人工智能跟人的智能有根本的區(qū)別。人類智能是有機(jī)體的智能，所以，人類智能連著意識(shí)，連著欲望和感覺等等。我們需要有智能才能制做衣裳，才能生火，而這智能是跟感知連在一起的。我們知冷知熱，感知到降溫了，于是要添加衣服或生火。我們之所以感知到降溫了，那因?yàn)槲覀兪呛銣貏?dòng)物。溫度計(jì)可以測(cè)量溫度，但它不感知冷熱。我們感知這個(gè)世界，因?yàn)槲覀兪怯袡C(jī)體，有血有肉，有各種各樣的欲望。所謂智能，并不只在腦力里，智能體現(xiàn)在手和腳上，體現(xiàn)在人的方方面面，比如，體現(xiàn)在說話的聲調(diào)里。

總之，計(jì)算能力這種“智能”跟人類智能不是一回事。人的智能跟感知連在一起，感知跟欲望連在一起，欲望跟血肉連在一起。智能在人身上很突出，但它仍然是人這個(gè)有機(jī)體的一個(gè)方面。

所以，我倒不像有些人那樣擔(dān)心電腦人有朝一日會(huì)統(tǒng)治人類。他們說，人工智能的威脅與原子彈的威脅不同類，原子彈的危險(xiǎn)是毀滅人類，電腦人的危險(xiǎn)是另一種，它們將超過人類，成為一個(gè)“更高”的群體，成為人類的統(tǒng)治者。可機(jī)器為什么要控制人類呢？人要控制別人，因?yàn)樗脛e人，人對(duì)人工智能毫無用處，他干嗎要控制人類呢？人要控制別人，因?yàn)樗ε拢斯ぶ悄軟]有fear，他干嗎要控制人類呢？電腦人控制人類，那只是科幻電影的遐想。

二

但機(jī)器人能不能發(fā)展出感覺、欲望、感情呢？就說自保這種欲望吧。就我們?nèi)祟愔疄閯?dòng)物而言，自保是一種基本的欲望，有了這種欲望，就會(huì)生出其他多種多樣的欲望，例如，口渴了要喝水，肚子餓了要吃飯，受到侵害要奮起反抗。

也許，有朝一日，我們會(huì)為電腦也設(shè)置自保的程序。有了這個(gè)基本的程序，它也許會(huì)自己生成其他程序，電池缺電了它就設(shè)法充電，受到侵害就奮起反抗，等等。這的確是可能的。但我們?nèi)匀徊豢赡転殡娔X設(shè)置總體的自保程序?；蜻@么說，總體上的自保根本不是設(shè)置出來的，對(duì)有機(jī)體來說，自保是構(gòu)成性的，是有機(jī)體的定義的一部分，不需要設(shè)置。而對(duì)電腦來說就不是這樣，自保不是它的一部分，所謂給電腦設(shè)置自保的程序，指的本來就是設(shè)置一系列缺電了就設(shè)法充電之類的程序。

我們也許可以承認(rèn)，按照我們今天所理解的欲望，電腦人不會(huì)產(chǎn)生這樣的東西。那我們能不能重新定義欲望？我們不可能單單重新定義欲望，為此，我們需要重新定義感知、感情、理解、理想、精神，一句話，我們需要重新定義人。

我并不是在主張有一種亙古不變的人性。今人的人性不是一萬年前智人的人性。在那時(shí)的智人看來，今人的人性已經(jīng)面目全非。不過，人性的改變和技術(shù)造就的改變不是同種類型的改變——人性的改變不是設(shè)計(jì)出來的（歷史上不止一次有政治家和思想家企圖通過設(shè)計(jì)來改變?nèi)诵裕麄儫o一例外都失敗了）。簡(jiǎn)單說，人性的改變坐落在人性的連續(xù)性之中，這樣的改變我們稱作生長(zhǎng)。對(duì)這種連續(xù)性的變化，調(diào)整定義是有意義的，但對(duì)人工智能，干嗎非要用它來重新定義人呢？

我不怎么擔(dān)心電腦會(huì)變成人，變成一種超級(jí)人類，然后來統(tǒng)治人。但我倒相信，人工智能技術(shù)會(huì)大規(guī)模地改變現(xiàn)有的人類，最后變得面目皆非。

技術(shù)當(dāng)然不是今天才有的，不過，今天的技術(shù)不同于以往的技術(shù)。粗略說來，人類技術(shù)經(jīng)歷了三個(gè)大階段。最初，技術(shù)是工匠們琢磨出來的。后來，十八、十九世紀(jì)以來，技術(shù)是科學(xué)技術(shù)——現(xiàn)代技術(shù)不再是匠人摸索出來的，而是基于科學(xué)原理發(fā)明出來的。工業(yè)革命依賴的是這樣的技術(shù)。

人工智能代表的是第三波技術(shù)發(fā)展。這一波與前兩波的主要區(qū)別在于它做的是“腦力勞動(dòng)”。人的能力可以粗分為體力和腦力。工業(yè)革命引入了一系列新能源、新機(jī)器，它們把很多體力勞動(dòng)接過去了。人工智能將把很多腦力勞動(dòng)接過去。人們預(yù)料，人工智能將比工業(yè)革命給社會(huì)帶來更劇烈的改變。因?yàn)轶w力本來就不是人的特長(zhǎng)，腦力才是，柏拉圖在《普羅泰戈拉篇》里就說過，人沒有翅膀四足尖牙，勝過動(dòng)物的只在于才智。要是腦力也用不著人了，人還能干什么呢？

腦力和體力的區(qū)分有時(shí)有點(diǎn)兒誤導(dǎo)。剛才我說，智能并不只在腦力里，我們一投手一投足，動(dòng)手動(dòng)腳，都體現(xiàn)智能。這意味著，所謂腦力勞動(dòng)不只是腦子的勞動(dòng)，人類的一切活動(dòng)，都有腦力在內(nèi)。結(jié)果，人工智能有可能把幾乎所有勞動(dòng)都接過去。

人類發(fā)明各種技術(shù)，本來就因?yàn)榧夹g(shù)可以代替人類勞動(dòng)。但也有人擔(dān)心，人工智能技術(shù)只有少數(shù)精英能夠掌握，大多數(shù)人參與不到其中。一方面，他們的勞動(dòng)將越來越“不值錢”。另一方面，他們的生活將越來越依賴于少數(shù)精英的發(fā)明。社會(huì)結(jié)構(gòu)因此會(huì)發(fā)生巨大變化，只有少數(shù)人是有用的，大多數(shù)人變成了“無用階級(jí)”。

我們也許覺得這是杞人憂天，不勞動(dòng)了，還可以玩嘛。我們可以把世上的事情分成我愛干的和我不愛干的，有了電腦人，我們就可以把我們不愛干的事情派他去干，然后把時(shí)間省下來干我們愛干的那些事，比如說打球、聽音樂會(huì)、談戀愛。談戀愛我就不派電腦人去，這么好的事派它去干嗎??？

我們是可以區(qū)分哪些事是我們不得不做，哪些事是我們樂意做的，但是這種區(qū)分挺有限的。比如說帶孩子，換尿布不愛干，逗孩子笑愛干。但你不給孩子換尿布，逗孩子玩就沒那么樂。好玩的事情怎么跟有點(diǎn)兒苦有點(diǎn)兒累的事情連在一起，我們弄不大清楚，但我們大致知道，你為孩子付出了很多辛苦，你跟他的相處就會(huì)有一些不同的品質(zhì)。等到把不愛干的事情都交給機(jī)器人以后，剩下的愛干的事情的性質(zhì)也會(huì)改變，你作為一個(gè)人的品質(zhì)總體上也會(huì)改變。

我們勞作得很辛苦，難免有時(shí)會(huì)希望別人做這些工作，我們來享受勞動(dòng)成果。不過，如伯納德·威廉斯指出的，人并不是只要享受的生物，我們不僅希望獲得結(jié)果，我們也希望這些結(jié)果是親力親為的結(jié)果。馬克思認(rèn)為，勞動(dòng)創(chuàng)造了人，勞動(dòng)是人的基本需求。勞動(dòng)與享受割裂開來，勞動(dòng)由機(jī)器完成，人單單享受結(jié)果，人的定義就改變了。

三

我們實(shí)際上正在經(jīng)歷這個(gè)過程。我們對(duì)世界的感知越來越集中到結(jié)果這一端。我們住在樓房里，不知道樓房是怎樣蓋起來的，打開餐盒，里面是大米飯，但我們沒見過水稻長(zhǎng)在地里是什么樣子的。我們通過各種屏幕看到海底世界、太空、非洲的動(dòng)物、世界各地的騷亂，但沒有哪樣事情是我們親歷的，沒有哪樣?xùn)|西是我們親力親為的結(jié)果。不斷進(jìn)步的技術(shù)把人類勞動(dòng)一項(xiàng)一項(xiàng)接過去了，我們不必經(jīng)歷勞動(dòng)的艱辛就能夠享受勞動(dòng)的成果，這讓技術(shù)樂觀主義者歡欣鼓舞——技術(shù)把苦活累活難活都干了，我們享受成果，有何不好？但事情還有另一面，那就是，我們只享受結(jié)果，不再能感知產(chǎn)生結(jié)果的過程。僅僅感受結(jié)果是薄瘠的感受，而我們的感受正在變得越來越薄。

現(xiàn)在哲學(xué)界討論人類智能和人工智能的區(qū)別，很大一部分集中在人具有意識(shí)這一點(diǎn)上，而所謂意識(shí)，被說成是主觀體驗(yàn)，是跟什么東西都不相連的qualia。人不再是欲望、勞作和結(jié)果之間的聯(lián)系，人變成VR游戲室里一堆主觀體驗(yàn)，當(dāng)然，人的定義就變掉了。

人工智能發(fā)展起來，不僅社會(huì)結(jié)構(gòu)會(huì)發(fā)生很大變化，人自身也會(huì)發(fā)生很大變化。技術(shù)不只是我們可加以利用的東西，技術(shù)改變我們自身。有一些改變是明顯的。我們習(xí)慣了GPS定位，我們的方位感就可能退化。等我們習(xí)慣了讓電子設(shè)備來采集關(guān)于自己身體的數(shù)據(jù)，我們對(duì)自己身體的感知很可能變得越來越遲鈍。技術(shù)改變我們與世界相處的方式，隨著與世界相處方式的改變，我們自己也在改變。

我不認(rèn)為人工智能會(huì)演變?yōu)橐环N新人類，但人工智能倒是很可能把人變成新人類。

技術(shù)進(jìn)步會(huì)改善人類生活，同時(shí)使未來面對(duì)更大風(fēng)險(xiǎn)?？晌艺f的好像都是風(fēng)險(xiǎn)那一面，這并不奇怪。有人把知識(shí)人的任務(wù)設(shè)想為指導(dǎo)社會(huì)發(fā)展。我倒覺得，知識(shí)人從來沒有成功地指導(dǎo)過社會(huì)的發(fā)展。社會(huì)自行發(fā)展。知識(shí)人的任務(wù)與其說是指導(dǎo)社會(huì)，毋寧說在于指出這個(gè)發(fā)展過程中的危險(xiǎn)。是啊，社會(huì)自行發(fā)展，這可不一定是朝著良好的方向發(fā)展。

海德格爾就是這樣看的，他說，技術(shù)是這個(gè)時(shí)代的存在天命，技術(shù)發(fā)展，你喜歡也罷不喜歡也罷，技術(shù)仍將征服世界。是啊，人能夠控制其他人，控制異端思想，唯獨(dú)控制不了技術(shù)的發(fā)展。如果有一天，人類只享受結(jié)果，產(chǎn)生結(jié)果的過程都交給人工智能去施行了，真到了心想事成那一天，那么我們就不得不說，技術(shù)主宰了人。

借助技術(shù)，我們把過程和結(jié)果分離開來，我們只要得到結(jié)果就好了。這一點(diǎn)，在人工智能那里最為突出。

AlphaGo戰(zhàn)勝了李世石。有意思的不是人工智能贏了——這只是早晚的事兒。我覺得最有意思的，是AlphaGo的設(shè)計(jì)者并不知道它是靠什么理路贏下來的。我跟圍棋高手下棋，不論他多高，我們兩個(gè)都是在用同樣的“圍棋語言”思考。而AlphaGo依靠的根本不是我們的思維方式，而是一種我們無法理解的思維方式——如果還叫它思維的話。

人們從各個(gè)角度思考人工智能，怎么提高人工智能的水平，人工智能會(huì)怎樣改變我們的社會(huì)，改變我們自己，等等。我自己的興趣則在另外一個(gè)方面。

我更關(guān)心的是我們已有的東西，想要更恰當(dāng)?shù)乩斫馕覀円延械臇|西。比如，通過對(duì)人工智能的了解，更恰當(dāng)?shù)乩斫馊祟愖约旱闹悄?。按現(xiàn)在流行的看法，人工智能的發(fā)展讓我們看到，智能的本質(zhì)是計(jì)算。我的看法正相反，通過圍棋程序的發(fā)展，我們能夠看得更加清楚，人類智能的本質(zhì)并不是計(jì)算，而是對(duì)話，是互相理解。下棋是一種對(duì)話——圍棋也叫“手談”。實(shí)際上，人的所有智能都是一種對(duì)話，哪怕我是一個(gè)人在思考。我獨(dú)自證明了費(fèi)馬大定理，最后一刻我說，我明白了；我明白了什么？我看到了過程與結(jié)論之間的聯(lián)系。因此，我明白了，我也可以讓別人明白。然而，我們并不知道在AlphaGo那里，過程和結(jié)論之間是個(gè)什么聯(lián)系。在我看，這才是人類智能和人工智能的本質(zhì)區(qū)別。

（摘自上海文藝出版社《走出唯一真理觀》）