本刊記者 杜悅英

?

“人工智能，最終要回到人類本身”
——訪中國(guó)工程院院士鄔賀銓

本刊記者 杜悅英

鄔賀銓，中國(guó)工程院院士，光纖傳送網(wǎng)與寬帶信息網(wǎng)專家。曾任原信息產(chǎn)業(yè)部電信科學(xué)技術(shù)研究院副院長(zhǎng)兼總工程師、大唐電信集團(tuán)副總裁?，F(xiàn)兼任國(guó)家863計(jì)劃監(jiān)督委員會(huì)副主任、國(guó)家973計(jì)劃專家顧問(wèn)組成員、國(guó)家信息化專家組咨詢委員會(huì)委員、中國(guó)通信協(xié)會(huì)副理事長(zhǎng)。

谷歌（Google）旗下Deep Mind公司開發(fā)的圍棋人工智能程序AlphaGo，在本月中旬完成了與韓國(guó)圍棋世界冠軍李世九段的五輪比賽，最終比分為4∶1。這一事件迅速成為輿論熱點(diǎn)，各種聲音此起彼伏。應(yīng)當(dāng)如何理性看待這場(chǎng)人機(jī)對(duì)弈？《中國(guó)發(fā)展觀察》就相關(guān)問(wèn)題專訪了中國(guó)工程院院士鄔賀銓。

中國(guó)發(fā)展觀察：AlphaGo在人工智能發(fā)展進(jìn)程中有何意義？

鄔賀銓：谷歌（Google）設(shè)計(jì)AlphaGo的目的是評(píng)估人工智能技術(shù)現(xiàn)在可以達(dá)到的能力。從AlphaGo的表現(xiàn)來(lái)看，毫無(wú)疑問(wèn)，它可以說(shuō)是人工智能發(fā)展歷史上的一個(gè)里程碑。與10年前戰(zhàn)勝國(guó)際象棋世界冠軍的“深藍(lán)”（Deep Blue）相比，AlphaGo展現(xiàn)了良好的自學(xué)能力。

國(guó)際象棋的下法很規(guī)則，“深藍(lán)”當(dāng)時(shí)是把所有國(guó)際象棋的棋譜都拿在自己手上，對(duì)手每出一招，它對(duì)照存儲(chǔ)的棋譜找到高水平的應(yīng)對(duì)走法即可。而AlphaGo不一樣，雖然它也存有若干棋譜，但圍棋棋譜太多了，還會(huì)有一些并不包含在棋譜里的招數(shù)。當(dāng)然下圍棋也有一些原則，比如看重“占地盤”，需要棋手有充分的預(yù)見性，預(yù)知在一步落子之后，幾十步甚至幾百步之后盤面的態(tài)勢(shì)。在這個(gè)時(shí)候，AlphaGo需要把所有可能性找到，而不只是跟自己已有的棋譜作比對(duì)。在棋類競(jìng)技中，圍棋的規(guī)則簡(jiǎn)單但棋局變化最為復(fù)雜，對(duì)機(jī)器的自學(xué)能力是很大的考驗(yàn)。而人工智能的意義，就是需要機(jī)器有自學(xué)能力。AlphaGo的表現(xiàn)很不錯(cuò)。

中國(guó)發(fā)展觀察：圍棋人機(jī)對(duì)弈中，AlphaGo的表現(xiàn)凸顯了目前人工智能技術(shù)怎樣的優(yōu)勢(shì)和劣勢(shì)？

鄔賀銓：機(jī)器擁有強(qiáng)大的存儲(chǔ)和計(jì)算能力，這是人類所不能比擬的。但人類的思維過(guò)程又是機(jī)器還無(wú)法模仿和實(shí)現(xiàn)的。AlphaGo之所以能夠戰(zhàn)勝李世，靠的是強(qiáng)大的存儲(chǔ)和計(jì)算能力，這些能力保證它能夠在對(duì)棋盤后勢(shì)的預(yù)見準(zhǔn)確度和反應(yīng)速度上，均遠(yuǎn)遠(yuǎn)超過(guò)人類對(duì)手。而李世3月12日在第四局中下出的所謂“神之一手”，恰是AlphaGo之前沒有學(xué)習(xí)到的，或者按照AlphaGo的邏輯來(lái)看此著是不合理的，于是判斷失誤。它在深度學(xué)習(xí)能力上，還有很多問(wèn)題需要解決。與人類對(duì)手的比賽，也是它不斷“試錯(cuò)”、不斷自我學(xué)習(xí)的過(guò)程。

中國(guó)發(fā)展觀察：人機(jī)對(duì)戰(zhàn)中，前三局AlphaGo勝后，很多人說(shuō)這意味著“機(jī)器戰(zhàn)勝了人類”，有些恐慌或擔(dān)憂。這種看法科學(xué)嗎？

我認(rèn)為，機(jī)器永遠(yuǎn)無(wú)法戰(zhàn)勝人類。就這場(chǎng)人機(jī)對(duì)弈來(lái)說(shuō)，首先，李世是一個(gè)人，AlphaGo則集成了成千上萬(wàn)人的智慧，況且李世一個(gè)人也不能代表人類。從另一個(gè)角度看，AlphaGo還是人設(shè)計(jì)出來(lái)的。所以說(shuō)，不能說(shuō)是它戰(zhàn)勝了人類。AlphaGo只是人類設(shè)計(jì)的一個(gè)具有人工智能的產(chǎn)品，它的這種能力將來(lái)還會(huì)提高，但不能說(shuō)它就能勝過(guò)人類。人類既然能設(shè)計(jì)出它，當(dāng)然也能設(shè)計(jì)出可以制服它的東西。有人擔(dān)心會(huì)不會(huì)像看科幻電影里的情節(jié)一樣，最終機(jī)器人不聽人類指揮了，但我認(rèn)為，人類肯定能造出制服機(jī)器人的機(jī)器人。

還需要指出，AlphaGo表現(xiàn)出高超的人工智能，但這是在一個(gè)有非常明確規(guī)則的對(duì)弈項(xiàng)目中。在同樣有規(guī)則的交通領(lǐng)域，谷歌也做出無(wú)人駕駛車，獲得了美國(guó)內(nèi)華達(dá)州的駕照，安全行駛上萬(wàn)公里，但前不久出了碰蹭事故，而且是無(wú)人車負(fù)全責(zé)，這是因?yàn)樗诠飞系乃熊嚩紩?huì)遵守交通規(guī)則的思維和判斷，導(dǎo)致了出現(xiàn)一般駕駛員在這樣的車速下不可能發(fā)生的事故。

現(xiàn)在機(jī)器人在基于邏輯的理性思維上可以做得相當(dāng)好，但感性思維與人相比差距甚遠(yuǎn)，機(jī)器人可以模仿、翻譯，還可以推理，但機(jī)器人搞創(chuàng)作還未見到很成功的例子，也許會(huì)有機(jī)器人的文學(xué)評(píng)論家，但很難有機(jī)器人的大作家。

中國(guó)發(fā)展觀察：人類研究人工智能的目的是什么？

鄔賀銓：人設(shè)計(jì)機(jī)器人，研究人工智能，是以其為工具，希望它能替代人類去做一些工作，讓人類生活得更美好。比如，機(jī)器人可以從事一些危險(xiǎn)行業(yè)，重復(fù)性、易疲勞的勞動(dòng)，到環(huán)境污染嚴(yán)重或生存環(huán)境惡劣的地區(qū)工作，作服務(wù)老齡化社會(huì)需要的家居機(jī)器人等，降低人力成本，提高工作效率。不必?fù)?dān)心它會(huì)去搶人的一些工作崗位。

中國(guó)發(fā)展觀察：既然人工智能的研究目的是將其“工具化”，其自我學(xué)習(xí)能力也會(huì)逐漸進(jìn)步，那么，人工智能的發(fā)展是否應(yīng)當(dāng)被設(shè)置一個(gè)“天花板”？

鄔賀銓：機(jī)器人的自學(xué)能力不管發(fā)展到什么程度，都是人類可控的。永遠(yuǎn)都是“魔高一尺，道高一丈”，這是無(wú)止境的。芯片水平提高了，處理能力提高了，機(jī)器人的能力就會(huì)不斷提高。但這一切都會(huì)在人類的掌控之下。

中國(guó)發(fā)展觀察：人工智能目前發(fā)展到怎樣的階段？近期來(lái)看，人工智能的發(fā)展將有怎樣的圖景？

鄔賀銓：這幾年在世界范圍內(nèi)，人工智能有了非常大的飛躍。無(wú)人駕駛車、可穿戴設(shè)備、智能機(jī)器人都有了，這得益于計(jì)算能力和集成電路的進(jìn)步，得益于大數(shù)據(jù)。有人說(shuō)，2016年可能是人工智能起步的年份，我看這個(gè)說(shuō)法也不為過(guò)。但指望人工智能達(dá)到人的智能水平，還做不到。

短時(shí)間內(nèi)，人類大腦的能力還不可能有飛躍性的提高，人類大腦的很多細(xì)胞也還沒有充分利用起來(lái)，即便日后可以利用起來(lái)，這一天的到來(lái)也不會(huì)那么快。而到2018年，一個(gè)芯片上的晶體管將達(dá)到300億個(gè)，人類大腦的細(xì)胞數(shù)也正是300億個(gè)。一個(gè)CPU的芯片就涵蓋了一個(gè)人大腦的細(xì)胞數(shù)，而未來(lái)芯片水平還會(huì)不斷提高，機(jī)器人的存儲(chǔ)能力、計(jì)算能力可以做到遠(yuǎn)遠(yuǎn)超出人類個(gè)體的大腦。

但是，這并不意味著機(jī)器人的思維能力也能夠超越人類。人對(duì)外界做出的反應(yīng)，人的大腦在這一過(guò)程中是如何活動(dòng)的，在科學(xué)層面還有很多問(wèn)題沒有解釋清楚。人類的思維過(guò)程不僅僅是一個(gè)簡(jiǎn)單的電信號(hào)傳遞過(guò)程，而是綜合了化學(xué)、生物、物理等諸多因素。人類的思維過(guò)程更不是可以靠簡(jiǎn)單的二進(jìn)制計(jì)算模擬的。

目前的人工智能通過(guò)深度學(xué)習(xí)也還是達(dá)不到人類思維的水平。如果它的思維水平到達(dá)了人的程度，加之比人更強(qiáng)的儲(chǔ)存和計(jì)算能力，那么，它將表現(xiàn)出比人更強(qiáng)大的能力。它的思維能力是人通過(guò)設(shè)計(jì)程序、設(shè)計(jì)算法來(lái)教它，但人類目前還沒有找出一種能讓機(jī)器較好地達(dá)到人類大腦思考水平的算法。人類的思維不是機(jī)器人可以通過(guò)簡(jiǎn)單復(fù)制和模仿而超越的。

中國(guó)發(fā)展觀察：人工智能下一步發(fā)展的突破口在哪里？

鄔賀銓：人工智能的下一步突破，首先有待于腦科學(xué)研究的進(jìn)展?，F(xiàn)在美國(guó)除了“大數(shù)據(jù)計(jì)劃”外，還在力推“腦科學(xué)計(jì)劃”。通過(guò)“大數(shù)據(jù)計(jì)劃”積累數(shù)據(jù)，腦科學(xué)則研究如何分析這些數(shù)據(jù)。終有一天，人類會(huì)搞清楚自己的思維過(guò)程，并教給機(jī)器人，但目前看來(lái)，讓外腦完全像人腦一樣，在幾十年之內(nèi)恐難實(shí)現(xiàn)。其次在于深度學(xué)習(xí)能力的不斷增強(qiáng)。再次是繼續(xù)優(yōu)化計(jì)算與存儲(chǔ)能力，大幅降低成本，使人工智能技術(shù)服務(wù)千家萬(wàn)戶。現(xiàn)在有掃地機(jī)器人，但智能有限，它不能像人一樣識(shí)別出哪個(gè)地方臟要掃哪個(gè)地方，甚至還記不住已經(jīng)掃過(guò)的地方。難道現(xiàn)在的人工智能技術(shù)解決不了嗎？它有AlphaGo能力的百萬(wàn)分之一就足夠了，問(wèn)題是增加智能后掃地機(jī)器人的價(jià)格就上去了。最后是機(jī)器人的可靠性和安全性，包括抗干擾性。

中國(guó)發(fā)展觀察：中國(guó)在人工智能領(lǐng)域表現(xiàn)如何？

鄔賀銓：人工智能技術(shù)已經(jīng)在中國(guó)有一些較好的應(yīng)用。特別是在翻譯、語(yǔ)音識(shí)別、無(wú)人駕駛、智能機(jī)器人等方面，這是應(yīng)當(dāng)予以肯定的。中國(guó)的數(shù)據(jù)量不比人家差，我們的超級(jí)計(jì)算機(jī)也具備世界一流的計(jì)算能力，還吸引了一些國(guó)際上的優(yōu)秀人才，在翻譯、語(yǔ)音識(shí)別等一些立足中文能力的人工智能應(yīng)用方面，我們有了不錯(cuò)的起步。

但是，在一些基礎(chǔ)算法上，我們還是有差距的。全球范圍內(nèi)，在人工智能領(lǐng)域現(xiàn)在還沒有哪個(gè)國(guó)家能夠超越美國(guó)，亞軍則不清晰，未來(lái)我們能不能占據(jù)這個(gè)位置，現(xiàn)在還不好說(shuō)。

AlphaGo背后強(qiáng)大的研究力量令人驚嘆，人家在這方面確實(shí)比我們棋高一著。目前看來(lái)，中國(guó)在人工智能技術(shù)的基礎(chǔ)研究領(lǐng)域還做得不夠。

中國(guó)發(fā)展觀察：人工智能存在倫理問(wèn)題嗎？如一些科幻電影中所表現(xiàn)的，機(jī)器人實(shí)現(xiàn)較高級(jí)別的自我學(xué)習(xí)后，反而對(duì)人類造成傷害。

鄔賀銓：機(jī)器人也是“人之初，性本善”，人類教它什么它就做什么。它的深度學(xué)習(xí)能力，也是人類賦予的。它將來(lái)有可能具備更多的人類智能思維，但它沒有道德思維，也不會(huì)有道德思維。即便是有了人的智能思維，也不會(huì)有人的道德思維。人類可以教它什么可以做，什么不能做。當(dāng)然，這就存在好人教它做好事，壞人利用它做壞事的問(wèn)題。

機(jī)器人是工具，雖不可能戰(zhàn)勝人類，但有可能被壞人利用。這個(gè)問(wèn)題，只能靠法律和社會(huì)道德來(lái)約束。另外，機(jī)器人受控于軟件，而且很多時(shí)候需要聯(lián)網(wǎng)在線工作，它同樣有被黑客入侵的風(fēng)險(xiǎn)。人工智能的發(fā)展，也應(yīng)當(dāng)在法律和社會(huì)道德的框架內(nèi)發(fā)展。人工智能的應(yīng)用最終考量的是人類社會(huì)未來(lái)的價(jià)值取向。人工智能，最終還是要回到人類本身。