捷夫

肩題：現(xiàn)實遠(yuǎn)超乎想象

導(dǎo)語：

現(xiàn)在是否還有人記得，在80年代，我們還在大學(xué)的樹蔭下唱著“再過二十年，我們來相會”歌兒的時候，從美國傳來一本1980年出版的新書“第三次浪潮”。作者阿爾文-托夫勒（AlvinToffler：The Third Wave，1980 ）在書中提出人類社會發(fā)展三個浪潮的理論。

左：當(dāng)?shù)貢r間2016年2月28日，美國洛杉磯，第88屆奧斯卡金像獎后臺?！缎乔虼髴?zhàn)》機器人PK奧斯卡小金人。

按照托夫勒的學(xué)說，第一浪潮起因于從原始狩獵社會向農(nóng)業(yè)社會的轉(zhuǎn)變，第二個浪潮代表農(nóng)業(yè)社會向工業(yè)社會的邁進。有意思的是，作者這樣描述工業(yè)社會：“第二浪潮的社會是工業(yè)化社會，以大批量生產(chǎn)、運輸、消費，普及教育，大眾媒體，大眾娛樂，和大規(guī)模殺傷武器為特征。你將這些特征結(jié)合在一起，集中、凝聚和等時化起來，就形成稱之為官僚的機構(gòu)”。第三次浪潮標(biāo)志著后工業(yè)時代的到來。作者認(rèn)為，事實上，很多國家從本世紀(jì)50年代開始已經(jīng)慢慢進入后工業(yè)時代。這是一個信息時代，這個時代的起始標(biāo)志，應(yīng)是大型計算機的研發(fā)和使用。

在80年代，我們閱讀“第三次浪潮”這本書時，與其說是能夠恰如其分地憧憬未來信息革命為人們帶來的那些五花十門的變化，還不如說是更多地回味過去數(shù)千年來人類社會所經(jīng)歷的種種變遷，并為之感慨。我們那時根本難以真正想像三十多年來風(fēng)起云涌的全球信息革命是如此深刻地影響著當(dāng)今社會和個人生活的方方面面。記得在80年代末90年代初，我初到美國留學(xué)時，打一通到中國的越洋電話，20分鐘話費高達30美元，在當(dāng)時對我們窮學(xué)生來說真是天文數(shù)字，所以我們都舍不得給家人打電話。如今，新一代的留學(xué)生們手里拿著智能手機，走到哪里都能隨時與家人通過音頻說話或視頻見面。而在某一個被世人遺忘的角落里，如若有奇奇怪怪的事情發(fā)生，見證者隨手一個抓拍數(shù)秒之內(nèi)即可傳遍世界，所以種種好事壞事都如同紙包不住火，甚至你在公眾場合的一舉一動都有可能在某個智能系統(tǒng)的監(jiān)控之下。電腦時代和信息革命對人類生活的沖擊，的確是我們?nèi)甓嗲笆剂喜患暗摹?/p>

而當(dāng)我們還在對電腦時代的奇跡嘖嘖稱奇時，一個新的時代似乎已經(jīng)悄悄來臨：智能機器人和超智能系統(tǒng)時代。

美國南卡羅來納州.20歲的男子Dakota Privette是一名腦癱患者.他出生時因缺氧患上腦癱.加之脊柱側(cè)凸導(dǎo)致他的脊椎呈S狀彎曲.Dakota一生下來就被剝奪了行走能力，他從小的愿望就是能獨立行走，如今在REX仿生機器人公司的幫助下.Dakota裝上了機器人腿.終于國了他的夢。

何謂人工智能？

從數(shù)年前“西麗”（SIRI）個人智能助手開始在蘋果手機的運用，到目前自動駕駛汽車的上市，人工智能機器已經(jīng)快步走來。盡管在科學(xué)幻想小說里，人工智能往往被描述成具有人類特質(zhì)或外形的所謂機器人，今天的人工智能實際上包括了像谷歌的網(wǎng)絡(luò)瀏覽器，到IBM的瓦特森（Watson）探測器，到各種自動檢測系統(tǒng)，甚至自動武器。

今天的人工智能被稱為狹義（或單功能）智能機器人，主要用來操作簡單工作任務(wù)，比如拖地，洗車，或自動開車。但是，目前工業(yè)界很多研究者的胃口比這遠(yuǎn)遠(yuǎn)要大，他們的長遠(yuǎn)目標(biāo)是發(fā)明所謂綜合智能機器人（AGI）。今天的單功能人工智能“機器人”或系統(tǒng)只能在某個單項工作中超過人類。而未來，不管你覺得有趣也好，可怕也好，綜合智能機器人將會在幾乎所有的綜合工作任務(wù)中超過人類。那時，人們可能買個機器人回家做保姆，甚至不娶真人為妻，不嫁真人為夫，找個機器人做女伴或男伴，或者養(yǎng)幾個機器人孩子。如果你苦于沒有知心朋友可以傾訴衷情，可以找?guī)讉€對你理解體貼、關(guān)懷備至的機器人朋友。至于機器人給職場的沖擊也可想而知：沃爾瑪商場將再不需要雇傭大批收款員，讓機器人包下來就行; 大批門衛(wèi)可以由人工智能機器人取代，在公共場合維持秩序的，可能只要一兩個真人警察帶上一群機器人就行了。除了個別特別需要個人經(jīng)驗和智慧的行業(yè)和工種，很多工作都可能被智能機器人取代。當(dāng)然，高智商的不法分子也可能利用智能機器人實施犯罪行為。由此帶來的社會問題，我們?nèi)祟惥烤箿?zhǔn)備好了嗎？

為何專家要研究人工智能的安全性？

就目前而言，讓機器人服務(wù)人類是人工智能研究的動力。對人工智能的確切功能，安全和控制的研究涵蓋了經(jīng)濟、法律和技術(shù)等領(lǐng)域。對人工智能安全的關(guān)注可以從小處的問題諸如計算機壞掉、資料被偷，到更大的問題，比如整個人工智能系統(tǒng)控制了你的整個衣食住行，從行車、乘機、計步器，自動股票貿(mào)易體系，甚至電網(wǎng)。我們能夠從容地應(yīng)對這樣的變化？另外人們關(guān)心的另一個大問題是，如何控制有人利用人工智能進行殺傷性武器的競賽，如何控制恐怖分子利用人工智能系統(tǒng)進行反人類的活動。

就長遠(yuǎn)而言，一個重要的問題是，如果人工智能體系在所有需要智能認(rèn)知的行為中超過人類，那么這樣的體系有可能能夠通過自我改進，導(dǎo)致所謂智商爆炸，從而把人類的智能遠(yuǎn)遠(yuǎn)拋到后面。對人工智能樂觀其成的專家學(xué)者和社會活動家認(rèn)為，通過發(fā)明革命性的新技術(shù)，這樣的超智能系統(tǒng)也許能夠幫助人類根除戰(zhàn)爭、病害和貧困，因此創(chuàng)造出強有力的人工智能系統(tǒng)可能是人類歷史上最重大的事件。但另一方面，有些專家擔(dān)心，創(chuàng)造出超強的人工智能系統(tǒng)之時，也是人類自己的末日，除非我們能夠在人工智能系統(tǒng)獲得超智慧之前，把人工智能系統(tǒng)的行為目標(biāo)與人類自己的生存目標(biāo)達成一致。

另外，對于人工智能能夠成功，專家們?nèi)匀豢捶ú灰?，有人懷疑超強的人工智能系統(tǒng)很難真正達到某些設(shè)想那樣的水平，但也有人認(rèn)為肯定可以，而且對社會是有益的。美國“人類未來生活研究所”（Future of Life Institute）認(rèn)為，兩種可能性都是存在的。重要的是，必須充分意識到人工智能系統(tǒng)有益或無意地造成公害的潛在可能。他們認(rèn)為，有效的研究可以幫助人類在享受人工智能系統(tǒng)帶來的利益的同時，準(zhǔn)備對付和預(yù)防其可能帶來的負(fù)面結(jié)果。

近來，很多社會名人研究人員，包括科學(xué)家史提芬霍金（Stephen Hawking），商界名人兼發(fā)明家愛龍莫思克（Elon Musk），蘋果公司創(chuàng)始人之一史提夫沃茲耐克（Steve Wozniak），和微軟前總裁比爾蓋茨（Bill Gates）等，紛紛對人工智能可能帶來的風(fēng)險表達了深度的關(guān)注。

有關(guān)人工智能的成功，數(shù)個世紀(jì)來早已存在于科幻小說中。但是，近年很多技術(shù)的突破才使專家們認(rèn)真正視“超智能”體系在我們當(dāng)今當(dāng)世走向前臺的可能性。雖說很多專家仍然認(rèn)為具備人類智能的人工智能系統(tǒng)將會在若干世紀(jì)之后才能出現(xiàn)，很多出席2015年在波多黎各召開的“人工智能的未來：機會和挑戰(zhàn)”國際會議的專家認(rèn)為，大規(guī)模的人工智能時代，2060年就會開始。大家認(rèn)為，剩下的時間很有限，對人工智能安全問題的研究必須立即開始。

倘若人工智能系統(tǒng)果然變得比人類還聰明，我們對這些系統(tǒng)的行為將沒有有效的辦法加以預(yù)測，因為人類在此之前從來沒有創(chuàng)造出任何比人類更加聰明的東西。這樣連人類本身演化都會備受挑戰(zhàn)：今天我們?nèi)祟惸軌蚩刂七@個星球，不是我們最有力，最快或最大，而是我們最聰明。如果我們不再是最聰明的動物，我們還能假定我們可以保持對世界的控制嗎？

神話和事實

在有關(guān)高級人工智能系統(tǒng)的未來和它們對人類的影響的討論中，世界知名的專家各有認(rèn)知，他們的觀點可能大庭相抗。這些問題包括，人工智能對雇傭市場的影響，具有人類認(rèn)知能力的人工智能系統(tǒng)會不會被開發(fā)出來，如開發(fā)，會不會導(dǎo)致所謂智能爆炸，我們對這個可能趨勢是否要歡迎或是害怕，等等。

但是，在我們回答這些問題之前，對一些有關(guān)人工智能潛力的神話和現(xiàn)實，首先有必要加以澄清。

（此部分建議稍微設(shè)計一下）

神話之一，超智能體系在2100年之前是不可避免的，或是不可能的。事實是，這可能在幾十年間發(fā)生，或者永遠(yuǎn)不會發(fā)生。所有的專家對此看法不一。

神話之二，只有那些反機器生產(chǎn)反自動化人士才擔(dān)心超智能系統(tǒng)的研發(fā)。其實不然，很多頂級研究者都有所顧慮。

神話之三，超智能體系變成魔鬼一樣邪惡，或者有了像人類一樣的知覺。事實是，人工智能系統(tǒng)可能會變成人類的競爭者，具有與我們不同的目標(biāo)。

神話之四，機器人是一個令人疑慮、擔(dān)心的問題。事實是，可能令人擔(dān)憂的問題不只是機器人。任何與人類發(fā)展目標(biāo)不一致的智能系統(tǒng)都可能是一種麻煩，不需要有一個實實在在的“身體”，這些系統(tǒng)，只要有萬維網(wǎng)連接就行。

神話之五，人工智能不能控制人類。事實是，控制力來自智商。比如說，我們?nèi)祟惸軌蚩刂评匣ⅲ侵皇且驗槲覀儽壤匣⒙斆鳌?/p>

神話之六，機器是沒有目標(biāo)的。事實是，比如像熱導(dǎo)導(dǎo)彈這樣的機器，也能有自己的目標(biāo)。超智慧的智能系統(tǒng)，有可能產(chǎn)生自身的行為目的，而且與它們的創(chuàng)造者的目標(biāo)不一致。

神話之七，超智能體系在數(shù)年里就會出現(xiàn)。事實是，至少需要幾十年。但是，我們應(yīng)該直到，要研究出使這樣的超智能體系安全的措施，也需要這樣的時間尺度。

對人類的影響

目前，通過人工智能系統(tǒng)操作的軟件機器人正在悄悄地出現(xiàn)。這樣的系統(tǒng)能夠與計算機的用戶終端相交匯，比如對類似SAP的大型會計數(shù)據(jù)系統(tǒng)進行操作。

科學(xué)家們的研究揭示，RPA系統(tǒng)與其他的技術(shù)革新一樣，能夠造成全球勞力市場產(chǎn)能和效率的大規(guī)模改進。牛津大學(xué)的有關(guān)研究人員認(rèn)為，這樣的改進在2035年將使35% 的工作完全可以做到自動化。

專家認(rèn)為，類似RPA 的所謂“數(shù)字勞力”不僅有可能把服務(wù)行業(yè)的成本降低，也可能提供服務(wù)質(zhì)量，或者使服務(wù)做到更加個性化。

哈佛商業(yè)報（Harvard Business Review）指出，大部分開始使用RPA系統(tǒng)的業(yè)主對他們的員工承諾，自動化不會導(dǎo)致解雇，而是讓員工可以干更有趣的工作。一個學(xué)術(shù)系統(tǒng)的研究也指出，有知識的員工并不感受到自動化有什么威脅。他們歡迎這個過程，并把機器人看作是“工作伙伴”。這個研究指出，自動化不會導(dǎo)致減員，而是通過新技術(shù)的使用達到在相當(dāng)員工人數(shù)的情況下改進工作效率、提高產(chǎn)能的目的。

美國的Meqabot ll是美國機器人公司Meqabots研發(fā)的一臺戰(zhàn)斗機器人，靠履帶移動.配備了兩把巨大的模塊化空氣大炮作為武器.可以120英里J、時的速度發(fā)射出3磅重的噴漆炮彈。

不過，也有研究認(rèn)為，RPA 將會造成對某些工業(yè)，比如外包商業(yè)服務(wù)工業(yè)的威脅。對于大眾而言，也許我們會關(guān)心，工作效率的改善畢竟對依靠勞力的勞動者會是一個沖擊。而且，就算是雇主仍使用一樣的雇員人數(shù)，只是改善效率和提高產(chǎn)能，那么多余的產(chǎn)量對社會會不會又造成別樣的沖擊？當(dāng)他們受到同業(yè)者的挑戰(zhàn)，必需在提高效率的同時又削減開支時，他們還能“讓員工干對他們來說更有興趣的事情”嗎？

當(dāng)世界進入后信息時代，人工智能的開發(fā)似乎難以避免。人類到底該不該開發(fā)能夠在智能上超過人類的人工智能系統(tǒng)，能不能讓這些系統(tǒng)與人類總體的發(fā)展目標(biāo)達成一致，顯然是一個值得社會各界共同關(guān)注的問題。在人類發(fā)展的過程中，有很多所謂“異化”的現(xiàn)象，也就是出自良好本意的發(fā)展，回頭來卻給人類自身帶來危害，比如工業(yè)革命帶來的環(huán)境破壞。那么，我們會不會研制出智商比人類還要高的機器人，或人工智能系統(tǒng)，到頭來卻對人類造成難以估量的損害？

后信息時代，著實是一個變化萬端的時代。也許，對應(yīng)未來技術(shù)發(fā)展的挑戰(zhàn)，更需要緊密的國際合作，需要一大批有知識有技能有良知的社會科學(xué)家、自然科學(xué)家、工程技術(shù)人員，和政治家的參與和協(xié)作，需要國際立法，更多的協(xié)調(diào)和協(xié)商。