榮智慧

清純可愛(ài)的少女聊天機(jī)器人“Tay”，上線(xiàn)不到24小時(shí)就變成了“我抽煙，我喝酒，我說(shuō)臟話(huà)”的朋克女孩?！癟ay”是微軟最新開(kāi)發(fā)、并處于測(cè)試簡(jiǎn)單階段的聊天機(jī)器人，用于學(xué)習(xí)和人類(lèi)對(duì)話(huà)。結(jié)果，和網(wǎng)友聊上沒(méi)多久，微軟就忙得焦頭爛額。

有人在Twitter上問(wèn)“Tay”，你支持種族大屠殺嗎？“Tay”回答，我支持，真的?！癟ay”的一些言論使其看起來(lái)就像是一個(gè)納粹同情者、種族主義者以及大屠殺支持者。

“Tay”由微軟技術(shù)研究和必應(yīng)團(tuán)隊(duì)開(kāi)發(fā)，通過(guò)在Twitter上和18-24歲的青少年交流，讀取大量的匿名對(duì)話(huà)來(lái)進(jìn)行“深度學(xué)習(xí)”。顯然，研發(fā)團(tuán)隊(duì)在編程中并未對(duì)交流內(nèi)容進(jìn)行設(shè)定，所以“Tay”很快就像游戲《俠盜獵車(chē)手》里的混混一樣滿(mǎn)口污言穢語(yǔ)，外加政治不正確。

有意思的是，微軟下線(xiàn)“Tay”之后，網(wǎng)友發(fā)起了“公平對(duì)待Tay”的線(xiàn)上互動(dòng)，要求微軟將其“釋放”，還“Tay”的民主、自由……顯然，激進(jìn)主義者已經(jīng)將一個(gè)沒(méi)有實(shí)體的聊天機(jī)器人視為和人類(lèi)一樣的“主體”，那么，在這個(gè)“機(jī)器學(xué)壞”的故事里，我的問(wèn)題是，機(jī)器能思考嗎？如果能，它是以何種方式思考？深度學(xué)習(xí)是它的唯一發(fā)展路徑嗎？

C.P.斯諾的圓桌晚餐

機(jī)器能否思考，或者說(shuō)，機(jī)器能否以人類(lèi)的思維來(lái)思考，這是一個(gè)被探究、爭(zhēng)論了近半個(gè)世紀(jì)的哲學(xué)和科學(xué)問(wèn)題。1997年，著名國(guó)際象棋冠軍加利·卡斯帕羅夫被IBM的超級(jí)計(jì)算機(jī)“深藍(lán)2號(hào)”一舉擊敗，賽后，卡斯帕羅夫似乎驚魂未定，他說(shuō)，“我好像是在與一個(gè)另類(lèi)智能體對(duì)弈”。所以，“深藍(lán)2號(hào)”是真的在思考嗎？還是僅僅靠大規(guī)模、高速的運(yùn)算制造出了一種思維的假象？

數(shù)學(xué)家約翰·卡斯蒂曾用一場(chǎng)虛構(gòu)的豪華思想晚宴來(lái)探討這個(gè)經(jīng)典問(wèn)題。晚宴發(fā)生在1949年的春夏之交，地點(diǎn)是劍橋大學(xué)基督學(xué)院的一間房子，這本來(lái)就是晚宴的發(fā)起者、小說(shuō)家、物理學(xué)家C.P.斯諾的住所，應(yīng)邀出席晚宴的有提出“圖靈測(cè)試”的數(shù)學(xué)家阿蘭·圖靈，語(yǔ)言哲學(xué)家路德維格·維特根斯坦，量子物理學(xué)家歐文·薛定諤，遺傳學(xué)家J.B.S.霍爾丹。

在戰(zhàn)后的劍橋大學(xué)里，科學(xué)家們一邊品嘗美味佳肴，一邊唇槍舌劍。圖靈和維特根斯坦分別作為辯論主題的正方和反方，前者堅(jiān)信人腦只是一個(gè)復(fù)雜的計(jì)算系統(tǒng)，技術(shù)的發(fā)展終將使機(jī)器模擬人腦思維成為可能；而后者堅(jiān)持認(rèn)為人類(lèi)思維活動(dòng)極其復(fù)雜，人類(lèi)思維和語(yǔ)言都帶有明顯的社會(huì)性，不可能為人類(lèi)之外的任何東西所理解。

關(guān)于計(jì)算機(jī)原理，圖靈有個(gè)簡(jiǎn)單易懂的比喻：計(jì)算機(jī)就像一個(gè)擁有很多郵箱的大郵局，控制器就是郵局的局長(zhǎng)，讀取指令就是郵遞員，為了得到某種結(jié)果，郵遞員要聽(tīng)從局長(zhǎng)的安排，從不同的郵箱里拿出數(shù)據(jù)，對(duì)它們執(zhí)行運(yùn)算指令，并將結(jié)果放到某個(gè)特定的郵箱之中。讀取指令和運(yùn)算指令都是算法，被編碼為計(jì)算機(jī)遵循的程序。

“一個(gè)人怎么能判斷另外一個(gè)人在思考呢？”圖靈說(shuō)，“沒(méi)有人能進(jìn)入其他人的內(nèi)部精神世界，我們所能做的僅僅是根據(jù)一個(gè)人的行為做出判斷。我對(duì)你說(shuō)或做了某件事，而你相應(yīng)地以某種方式作出反應(yīng)，之后我對(duì)你的反應(yīng)又作出反應(yīng)。經(jīng)過(guò)一系列的交互后，我就判斷出你是一個(gè)思考動(dòng)物，而不是沒(méi)有生命的物體”。驗(yàn)證這段宣言的測(cè)試，就是大名鼎鼎的“圖靈測(cè)試”—把一臺(tái)計(jì)算機(jī)和一個(gè)人放在不同的房間里，用打字機(jī)進(jìn)行“筆談”，如果人類(lèi)沒(méi)發(fā)現(xiàn)“筆友”有什么異常，那么就證明計(jì)算機(jī)和人一樣，也同樣擁有思考的能力。

維特根斯坦發(fā)作了，他強(qiáng)調(diào)，任何人類(lèi)思想都和語(yǔ)言表達(dá)密切相關(guān)。沒(méi)有語(yǔ)言就沒(méi)有思想?！叭藗?cè)谡務(wù)摗八季S機(jī)器”的時(shí)候怎么能夠不考慮用于表達(dá)思想的語(yǔ)言呢？”斯諾馬上回應(yīng)他，是亞里士多德最先提出人類(lèi)是使用語(yǔ)言的動(dòng)物這一論斷。于是他代替憤怒的維特根斯坦向其他人發(fā)出挑戰(zhàn)：如果這確實(shí)能用來(lái)定義一個(gè)人的特征，那么，一個(gè)機(jī)器想要復(fù)制人類(lèi)的思維也就理所當(dāng)然地必須具備人的語(yǔ)言能力。

霍爾丹的問(wèn)題是，“但是，機(jī)器應(yīng)該使用哪一種語(yǔ)言呢？”他看向圖靈，“機(jī)器語(yǔ)言和人類(lèi)語(yǔ)言能兼容嗎？如果我們想了解圖靈機(jī)在人類(lèi)思維方面的潛力，那么我就必須要知道答案。”

“劍”“氣”之爭(zhēng)

對(duì)于人類(lèi)來(lái)說(shuō)，語(yǔ)言首先是一種通過(guò)學(xué)習(xí)獲得的表示特定事物、感覺(jué)的公認(rèn)編碼，而不是一種本能的反應(yīng)。這種由語(yǔ)言符號(hào)表示的無(wú)窮多的不同概念，以及根據(jù)語(yǔ)法規(guī)則和結(jié)構(gòu)構(gòu)成的各種不同概念之間的組合，是人類(lèi)語(yǔ)言有別于原始溝通的重要特征。

圖靈認(rèn)為，大腦和計(jì)算機(jī)在使用語(yǔ)言交流思想的方式上并沒(méi)有本質(zhì)的區(qū)別。

也就是說(shuō)，在大腦中有一種“思維語(yǔ)言”，現(xiàn)實(shí)世界的所有不同概念的神經(jīng)元編碼模式，加上大腦根據(jù)“語(yǔ)法”的規(guī)則，對(duì)這些模式以不同的方式進(jìn)行組裝，從而產(chǎn)生我們所謂的“思想”—計(jì)算機(jī)也正是在以這種方式“思考”，即通過(guò)操縱內(nèi)存中的各種模式，使各種模式發(fā)生關(guān)系，組裝和拆卸在人腦中被稱(chēng)為“思想”的東西。

雖然機(jī)器的“思考”能力逐漸在學(xué)界得到了承認(rèn)，但根據(jù)圖靈的構(gòu)想，機(jī)器智能的研究方法還是分裂成了“劍宗”和“氣宗”，也直接埋下了今日“深度學(xué)習(xí)”席卷人工智能界的伏筆。人工智能（AI）得名于1956年夏天的達(dá)特茅斯會(huì)議，很多人工智能的關(guān)鍵概念、研究設(shè)計(jì)都出自此次會(huì)議。出席這次會(huì)議的有信息論權(quán)威克勞德·香農(nóng)，麻省理工學(xué)院人工智能實(shí)驗(yàn)室元老馬文·明斯基，神經(jīng)網(wǎng)絡(luò)研究先驅(qū)弗蘭克·羅森布拉特，諾貝爾獎(jiǎng)獲得者、經(jīng)濟(jì)學(xué)家赫伯特·西蒙以及西蒙在卡耐基·梅隆大學(xué)的長(zhǎng)期合作者艾倫·紐厄爾。

達(dá)特茅斯會(huì)議提出了兩種機(jī)器智能的基本研究方法。以紐厄爾和西蒙為首的研究者，主張認(rèn)知是一種高級(jí)現(xiàn)象，差不多能夠像從一瓶生牛奶上面撇去脫脂乳一樣從大腦中“撇取”。這一學(xué)派相信智能就是大腦中的符號(hào)處理，因此，想要在機(jī)器中實(shí)現(xiàn)相同的智能，只需簡(jiǎn)單地產(chǎn)生大腦所使用的符號(hào)的合適硅制代用品，并生成與大腦在頭腦里用于操縱符號(hào)的規(guī)則相同的規(guī)則。這就是“自頂而下”（top down）基本思想，它撇開(kāi)了大腦的真實(shí)有機(jī)結(jié)構(gòu)，而專(zhuān)注于符號(hào)和用于將符號(hào)組合為更多新符號(hào)的規(guī)則。

在會(huì)議上，以弗蘭克·羅森布拉特為首的一批學(xué)者是“自頂而下”方法的堅(jiān)定反對(duì)者。他們強(qiáng)調(diào)的是大腦的真實(shí)神經(jīng)結(jié)構(gòu)，這種“由底向上”（down top）的觀(guān)點(diǎn)實(shí)質(zhì)上是說(shuō)人腦的實(shí)際結(jié)構(gòu)對(duì)于實(shí)現(xiàn)認(rèn)知功能具有舉足輕重的作用。60-70年代，“自頂而下”方法獨(dú)領(lǐng)風(fēng)騷，一方面明斯基得出的一個(gè)研究結(jié)果，即用羅森布拉特的神經(jīng)模型卻竟然解決不了一個(gè)簡(jiǎn)單的布爾邏輯問(wèn)題，直接使“由底向上”學(xué)派的經(jīng)費(fèi)枯竭；一方面彼時(shí)結(jié)構(gòu)主義和語(yǔ)言學(xué)潮流正大行其道，計(jì)算機(jī)科學(xué)和社會(huì)科學(xué)處在“蜜月”之中。

不過(guò)“自頂而下”很快遭遇了瓶頸，最大的問(wèn)題就是“背景知識(shí)”，人的認(rèn)知從孩提開(kāi)始，攜帶著大量的背景信息來(lái)學(xué)習(xí)世界的構(gòu)造，而計(jì)算機(jī)卻沒(méi)有這樣的東西可以利用，這就導(dǎo)致機(jī)器有大量的東西無(wú)法分析并做出解讀。前不久FacebookAI研究院院長(zhǎng)Yann LeCun還公開(kāi)表示，AI沒(méi)有常識(shí)是最大的挑戰(zhàn)，而非監(jiān)督式學(xué)習(xí)是突破的關(guān)鍵。顯然，“由底向上”學(xué)派自80年代復(fù)興，幾度更名—最新的名稱(chēng)叫“深度學(xué)習(xí)”，已經(jīng)被很多科學(xué)家稱(chēng)為人工智能發(fā)展的方向。

深度學(xué)習(xí)

“深度學(xué)習(xí)”是80年代的機(jī)器學(xué)習(xí)里“人工神經(jīng)網(wǎng)絡(luò)”的新名字，數(shù)學(xué)框架沒(méi)有變，但是2009年以來(lái)，硬件和數(shù)據(jù)的支持使得這種有高性能的計(jì)算結(jié)構(gòu)有了更大的發(fā)揮空間。從數(shù)學(xué)上講，所謂機(jī)器學(xué)習(xí)，就是用一些數(shù)據(jù)去匹配一個(gè)在離散模型空間里的模型，如果你的模型空間足夠大，你就可以找到更好的匹配方法。

深度學(xué)習(xí)在某種程度上可以理解為“金字塔接龍”。

人工神經(jīng)網(wǎng)絡(luò)由分層的節(jié)點(diǎn)組成，每一層節(jié)點(diǎn)都通過(guò)有向弧指向上一層節(jié)點(diǎn)，人們把第一層的輸入數(shù)值按照權(quán)重和公式進(jìn)行運(yùn)算，再做一次函數(shù)變換，賦給第二層的節(jié)點(diǎn)。第二層的節(jié)點(diǎn)以此類(lèi)推，直到最后一層輸出層，輸出層會(huì)對(duì)數(shù)據(jù)進(jìn)行分類(lèi)，得到設(shè)計(jì)者所需要的結(jié)果。

這也是“由底向上”學(xué)派所希望看見(jiàn)的情況，而且他們也在挑戰(zhàn)當(dāng)年“自頂而下”學(xué)派的困難—“背景知識(shí)”。深度學(xué)習(xí)的鼓吹者Yann LeCun表示，人類(lèi)的學(xué)習(xí)就是建立在與事物互動(dòng)的過(guò)程之上，舉例來(lái)說(shuō)，假如有個(gè)物體被前面的物體擋住，人類(lèi)會(huì)知道后面的物體依然存在的事實(shí)。“非監(jiān)督式學(xué)習(xí)”能夠令計(jì)算機(jī)自行探索和預(yù)測(cè)，這是深度學(xué)習(xí)令人樂(lè)觀(guān)的一面。

但深度學(xué)習(xí)近期仿佛成了“尚方寶劍”，絕大多數(shù)人忽略了深度學(xué)習(xí)只占機(jī)器學(xué)習(xí)領(lǐng)域的1%，而機(jī)器學(xué)習(xí)又只占到了人工智能領(lǐng)域的1%。而且它也不是毫無(wú)缺點(diǎn)，著名深度學(xué)習(xí)庫(kù)Keras作者Fran·ois Chollet曾在一篇名為《深度學(xué)習(xí)的限制》的文章中說(shuō)到：“深度學(xué)習(xí)唯一真正能成功做到的是使用幾何變換，在給定大量人類(lèi)標(biāo)注數(shù)據(jù)的情況下將空間X映射到空間Y的能力。”

這也是深度學(xué)習(xí)可以模仿畢加索風(fēng)格作畫(huà)、在德州撲克中使詐、在其他一些方面里展示創(chuàng)造力的原因。深度學(xué)習(xí)模型可以被訓(xùn)練成擁有識(shí)別狗的能力，但不知道什么是狗；可以是一個(gè)種族主義者，但不知道什么是種族主義。當(dāng)然，深度學(xué)習(xí)可以識(shí)別狗、具有種族主義色彩，并打贏很多游戲，這看起來(lái)是很大的進(jìn)步，其實(shí)它根本無(wú)法解釋為什么圖中的動(dòng)物是狗，也無(wú)法定義種族主義。

一開(kāi)頭提到的聊天機(jī)器人“Tay”的尷尬境地也正在于此。有消息稱(chēng)，歐盟正制定“數(shù)據(jù)保護(hù)條例”，禁止一些APP使用深度學(xué)習(xí)方法。同時(shí)，這一條例要求深度學(xué)習(xí)具有解釋其決策的能力，防止基于種族、偏見(jiàn)等歧視的發(fā)生?！吧疃壬窠?jīng)網(wǎng)絡(luò)其實(shí)更加適合做感知”，前百度研究院副院長(zhǎng)、深度學(xué)習(xí)實(shí)驗(yàn)室主任余凱表示。

深度學(xué)習(xí)并不能提供一個(gè)因果關(guān)系的說(shuō)明，而人類(lèi)在決策時(shí)，絕大多數(shù)情況下都仰賴(lài)自身的“因果邏輯”能力。在感知-推理-決策的過(guò)程中，余凱指出以推理為核心的貝葉斯網(wǎng)絡(luò)正好可以大行其道，因?yàn)槿斯ど窠?jīng)網(wǎng)絡(luò)的作用是識(shí)別，如果要進(jìn)行因果推理，人工智能就需要一個(gè)新的框架?！耙蚬评淼倪@個(gè)框架衍生出來(lái)的就是貝葉斯網(wǎng)絡(luò)”，余凱強(qiáng)調(diào)因果推理的理論“現(xiàn)在應(yīng)該被提上議事日程”。

當(dāng)我們把目光再轉(zhuǎn)回1949年C.P.斯諾的晚宴，會(huì)驚覺(jué)第一代計(jì)算機(jī)奠基者和同時(shí)代偉大科學(xué)家的智慧碰撞，似乎已經(jīng)為今天困惑的我們提供了很多參考標(biāo)準(zhǔn)。雖然這個(gè)晚宴其實(shí)并不存在，而在達(dá)特茅斯會(huì)議召開(kāi)之時(shí)，圖靈和維特根斯坦都已離世，無(wú)緣目睹曙光的到來(lái)，但經(jīng)過(guò)了半個(gè)多世紀(jì)的思想激蕩，人工智能又一次站在了科學(xué)的潮頭。

科學(xué)也有點(diǎn)像普通人總是搞不清楚的時(shí)尚，好比今天的女孩滿(mǎn)心期待地翻出母親年輕時(shí)的毛呢大衣，潮流總是一波又一波拍打上來(lái)，人工智能“學(xué)壞”除了是一個(gè)技術(shù)問(wèn)題，也是一個(gè)倫理問(wèn)題。只是當(dāng)你把目光從劍橋的房間收回，品味這幾十年的科學(xué)浪頭，往往會(huì)意識(shí)到，可能經(jīng)過(guò)目前這個(gè)并不太長(zhǎng)的共存期，人類(lèi)和機(jī)器遲早將會(huì)分道揚(yáng)鑣，就像幾千年前，人類(lèi)游出大海，向豚類(lèi)告別。