人工智能：與魔鬼的交易？

人工智能不會(huì)導(dǎo)致大規(guī)模失業(yè)，但會(huì)像蒸汽機(jī)、電腦一樣打亂勞動(dòng)力市場(chǎng)的既有格局

霍金近日稱，發(fā)明人工智能“可能是人類歷史上最好的事情，也可能是最壞的事情”。如果運(yùn)用不善，機(jī)器可能終結(jié)人類文明。即使不考慮這么遠(yuǎn)，人工智能對(duì)勞動(dòng)力市場(chǎng)的影響也無(wú)法忽視。

這種古老的擔(dān)憂可上溯到兩百多年前的工業(yè)革命時(shí)代。

時(shí)值19世紀(jì)，蒸汽機(jī)和機(jī)械化盛行，機(jī)器得以執(zhí)行曾經(jīng)只能由人力完成的各種任務(wù)。人們開始為著名的“機(jī)器問題”（Machinery Question）爭(zhēng)論不休：機(jī)器的大規(guī)模應(yīng)用是否會(huì)讓工人大規(guī)模失業(yè)？1821年，李嘉圖首先關(guān)注了機(jī)器對(duì)不同社會(huì)階層利益的影響，他發(fā)現(xiàn)工人階級(jí)普遍認(rèn)為機(jī)器導(dǎo)致自己利益受損。1839年，卡萊爾直接提出“機(jī)器惡魔”將粉碎無(wú)數(shù)人的生計(jì)。

20世紀(jì)末，電腦進(jìn)入千家萬(wàn)戶，打字、排版等工作被機(jī)器替代，信息化工業(yè)革命又一次引發(fā)失業(yè)恐慌。

如今，隨著人工智能技術(shù)的進(jìn)步，機(jī)器問題再次被熱議。律師、醫(yī)生這些之前看起來(lái)不可能自動(dòng)化的知識(shí)性工作，現(xiàn)在也同樣面臨著危機(jī)。2013年，牛津大學(xué)兩位研究員稱，美國(guó)47%的工作很可能會(huì)在不久的將來(lái)“被計(jì)算機(jī)取代”，英國(guó)有35%的職業(yè)可能被取代，在日本這個(gè)比例是49%。麥肯錫全球研究院稱，人工智能所推動(dòng)的社會(huì)變革程度比工業(yè)革命“快10倍，規(guī)模大300倍，影響幾乎大3000倍”。作家馬丁·福特?fù)?dān)心自動(dòng)化將導(dǎo)致經(jīng)濟(jì)流動(dòng)性停滯，中產(chǎn)階級(jí)的工作崗位消失，財(cái)閥們則“自我封閉于精英小區(qū)之中”。

比失業(yè)更可怕的是滅絕。一旦人工智能在智力上超越人類，不再受人類控制，不再認(rèn)同人類擬定的目標(biāo)，會(huì)是什么樣？自1818年小說(shuō)《弗蘭肯斯坦》出版以來(lái)，又有無(wú)數(shù)科幻電影提出了設(shè)想，1927年電影《大都會(huì)》里的Maria，1968年《2001太空漫游》里的HAL9000，1977年《星球大戰(zhàn)》中的C3PO，1982年《銀翼殺手》中的Rachael，1987年《星際迷航：下一代》中的Data，1999年《黑客帝國(guó)》中的Smith，2013年《她》中的Samantha。

無(wú)法比擬的深度學(xué)習(xí)系統(tǒng)

人工智能（Artificial Intelligence）一詞最早出現(xiàn)于1956年達(dá)特茅斯會(huì)議上的一份研究計(jì)劃書，包括克勞德·香農(nóng)、約翰·麥卡錫在內(nèi)的幾位科學(xué)家聲稱“一個(gè)夏天，一個(gè)專家小組，足夠讓機(jī)器解決各種人類無(wú)法解決的問題”。這當(dāng)然是過(guò)度樂觀。過(guò)去幾十年中，人工智能領(lǐng)域經(jīng)歷了無(wú)數(shù)次虛幻的曙光，始終只停留于幻想。

2012年，加拿大多倫多大學(xué)的杰夫·辛頓團(tuán)隊(duì)所開發(fā)的深度學(xué)習(xí)系統(tǒng)在識(shí)別ImageNet圖片的在線比賽中實(shí)現(xiàn)了85%的準(zhǔn)確率。此前，獲勝系統(tǒng)的準(zhǔn)確率最高為72%，而人類平均有95%的準(zhǔn)確率。2015年，一個(gè)深度學(xué)習(xí)系統(tǒng)以96%的準(zhǔn)確率第一次超過(guò)了人類。

厚積多年，一朝薄發(fā)。由于“深度學(xué)習(xí)”技術(shù)，人工智能終于獲得了實(shí)質(zhì)性突破。

實(shí)際上，深度學(xué)習(xí)技術(shù)只是改進(jìn)了人工智能開發(fā)中的一個(gè)舊思路：人工神經(jīng)元網(wǎng)絡(luò)。在生物大腦中，每個(gè)神經(jīng)元都能被其他神經(jīng)元觸發(fā)，將輸出的信號(hào)饋送給另一個(gè)神經(jīng)元，而且此神經(jīng)元的輸出也能繼續(xù)觸發(fā)其他神經(jīng)元。人工神經(jīng)元網(wǎng)絡(luò)對(duì)這樣的過(guò)程進(jìn)行了模擬，通過(guò)對(duì)神經(jīng)元權(quán)重的調(diào)整來(lái)訓(xùn)練一個(gè)神經(jīng)網(wǎng)絡(luò)。

20世紀(jì)90年代早期，這項(xiàng)技術(shù)已經(jīng)能夠識(shí)別手寫數(shù)字，但由于訓(xùn)練材料和計(jì)算能力所限，面對(duì)更復(fù)雜的任務(wù)則無(wú)能為力?，F(xiàn)在，這兩項(xiàng)瓶頸都被沖破。一方面，互聯(lián)網(wǎng)的興起產(chǎn)生了數(shù)十億可用于目標(biāo)訓(xùn)練的文檔、圖片、視頻數(shù)據(jù)，這些都可以成為幫助計(jì)算機(jī)理解真實(shí)世界的資料；另一方面，2009年左右，人們意識(shí)到，可以用GPU（即圖形處理器，允許大量線程并行，數(shù)據(jù)吞吐量極大，原本多用于游戲和視頻處理）來(lái)運(yùn)行深度學(xué)習(xí)算法，幾百倍地加速深度學(xué)習(xí)系統(tǒng)。

ImageNet比賽的結(jié)果讓整個(gè)科技產(chǎn)業(yè)界意識(shí)到了人工智能的潛力。投資和人才不斷涌入，科技巨頭們也在不斷收購(gòu)人工智能創(chuàng)業(yè)公司。數(shù)據(jù)分析公司Quid的研究數(shù)據(jù)顯示，2015年，人工智能企業(yè)的成本創(chuàng)下85億美元的記錄，幾乎為2010年的四倍。

與過(guò)往曇花一現(xiàn)的技術(shù)不同，事實(shí)證明，深度學(xué)習(xí)技術(shù)可以應(yīng)用于諸多領(lǐng)域。只要給定足夠數(shù)據(jù)，模擬人腦的的深度神經(jīng)網(wǎng)絡(luò)便可接受訓(xùn)練、完成各種工作。谷歌正在使用深度學(xué)習(xí)技術(shù)提高搜索精準(zhǔn)率、改善翻譯服務(wù)、完成郵件自動(dòng)回復(fù)，這些神經(jīng)網(wǎng)絡(luò)也同樣支持著Facebook的照片標(biāo)記服務(wù)、蘋果的語(yǔ)音助手、亞馬遜的購(gòu)物推薦和特斯拉自動(dòng)駕駛汽車的運(yùn)行。

在某些方面，它們已經(jīng)表現(xiàn)得遠(yuǎn)勝人類。今年3月，由谷歌DeepMind團(tuán)隊(duì)開發(fā)的AlphaGo打敗了世界頂尖圍棋選手李世石。這個(gè)深度學(xué)習(xí)系統(tǒng)由幾個(gè)相互連通的模塊組成，包括兩個(gè)深度神經(jīng)網(wǎng)絡(luò)，其中一個(gè)通過(guò)存有三千萬(wàn)步棋的數(shù)據(jù)庫(kù)來(lái)分析當(dāng)下棋局，提出一些可能的走法，另一個(gè)網(wǎng)絡(luò)則通過(guò)隨機(jī)采樣來(lái)評(píng)估這些走法。

現(xiàn)在，人工智能開發(fā)者的目標(biāo)是“通用人工智能”（AGI），一種能完成各種各樣任務(wù)的系統(tǒng)，有了它就不必再為每個(gè)特定問題都專門開發(fā)出一個(gè)系統(tǒng)了。即使以最樂觀的估計(jì)，做出人類智力水平的AGI也至少需要十年。但DeepMind首席執(zhí)行官丹米斯·哈薩比斯認(rèn)為：“我們已經(jīng)知道實(shí)現(xiàn)AGI系統(tǒng)所需的幾十種關(guān)鍵元素了?！毖韵轮?，未來(lái)不遠(yuǎn)。

失業(yè)與應(yīng)對(duì)

如果自動(dòng)化機(jī)器取代人類勞力是必然趨勢(shì)，那么，隨著機(jī)器的智能程度越來(lái)越高，它們會(huì)奪走所有工作，還是終將創(chuàng)造更多工作？

技術(shù)工作者傾向于悲觀。圣路易斯聯(lián)邦儲(chǔ)備銀行發(fā)布的數(shù)據(jù)顯示，在美國(guó)，非常規(guī)的認(rèn)知型工作和手工型工作自1980年后逐步增長(zhǎng)，而常規(guī)化工作則一直維持幾乎不變。常規(guī)化的工作又可以劃分為兩種：高管、建筑師一類技術(shù)含量高、薪水高的工作，以及清潔工、快餐店員等技術(shù)含量低、薪水低的工作。經(jīng)濟(jì)學(xué)家擔(dān)心自動(dòng)化帶來(lái)的“職業(yè)兩極化”風(fēng)險(xiǎn)，也就是說(shuō)中層常規(guī)技術(shù)工作消失，機(jī)器不能替代的低等和高等工作擴(kuò)張。許多西方國(guó)家中層職業(yè)薪水的停滯也表明了這一趨勢(shì)。

歷史學(xué)家則傾向于樂觀。他們認(rèn)為，每一次科技進(jìn)步最終創(chuàng)造的就業(yè)崗位都將超過(guò)所消滅的，因?yàn)楝嵥楣ぷ鞯淖詣?dòng)化增加了對(duì)機(jī)器無(wú)法完成的那部分工作的需求。比如，用自動(dòng)取款機(jī)（ATM）取代部分銀行柜員降低了新開分行的成本，從而創(chuàng)造了更多的銷售和客服崗位。人工智能不會(huì)直接取代太多員工，而是會(huì)要求他們補(bǔ)充新技能。

事實(shí)可能介于兩者之間。人工智能不會(huì)導(dǎo)致大規(guī)模失業(yè)，但會(huì)像蒸汽機(jī)、電腦一樣打亂勞動(dòng)力市場(chǎng)的既有格局，短期喪失的就業(yè)被長(zhǎng)期創(chuàng)造的新就業(yè)彌補(bǔ)。從工業(yè)革命的經(jīng)驗(yàn)來(lái)看，這個(gè)轉(zhuǎn)型期將艱難而痛苦：經(jīng)濟(jì)迅速起飛，幾十年后才在工資增長(zhǎng)中得到充分反映；一個(gè)世紀(jì)后，新的教育和福利制度才跟上工業(yè)時(shí)代的節(jié)奏。

與工業(yè)革命相比，人工智能帶來(lái)的轉(zhuǎn)變可能會(huì)更加迅速，因?yàn)樾畔鞑?、技術(shù)擴(kuò)散都比兩百年前快得多。對(duì)個(gè)體來(lái)說(shuō)，終身學(xué)習(xí)將成為必須，人類特有的社交和性格技能也將更加重要。

對(duì)企業(yè)和政府來(lái)說(shuō)，將面臨兩大挑戰(zhàn)：如何幫助現(xiàn)有工人學(xué)習(xí)新技術(shù)；如何讓后人做好面對(duì)充滿人工智能工作場(chǎng)所的準(zhǔn)備。顯然，教育和培訓(xùn)應(yīng)足夠靈活，以便迅速、有效地教授新技能。

福利制度也須與時(shí)俱進(jìn)。福利、養(yǎng)老金和醫(yī)保應(yīng)不再綁定企業(yè)，而是關(guān)注工人個(gè)體，以實(shí)現(xiàn)就業(yè)的順利過(guò)渡，并在工人學(xué)習(xí)新技能時(shí)對(duì)其提供支持。芬蘭和荷蘭等國(guó)計(jì)劃在明年開始試點(diǎn)“基礎(chǔ)收入”政策，即無(wú)論個(gè)人工作狀況如何，都能獲得基礎(chǔ)收入。丹麥則采用“彈性安全網(wǎng)”制度，允許企業(yè)輕松招聘和解聘，同時(shí)在失業(yè)者再培訓(xùn)和再就業(yè)時(shí)提供支持。約翰·穆勒在19世紀(jì)40年代的著作中寫道:“關(guān)心那些生活被技術(shù)破壞的人是立法者關(guān)心的最合理目標(biāo)?！边@句來(lái)自蒸汽機(jī)時(shí)代的提示，在人工智能時(shí)代仍然適用。

而對(duì)于發(fā)展中國(guó)家，人工智能的沖擊將遠(yuǎn)大于發(fā)達(dá)國(guó)家。因?yàn)榘l(fā)展中經(jīng)濟(jì)體的體力勞動(dòng)工作占比更高，比如低工資的工人制造廉價(jià)的產(chǎn)品、在客服中心提供廉價(jià)服務(wù)。如果自動(dòng)化使發(fā)達(dá)國(guó)家能在這些方面自給自足，它們對(duì)發(fā)展中國(guó)家提供的產(chǎn)品和服務(wù)的需求就越少——發(fā)展中國(guó)家將失去廉價(jià)勞動(dòng)力的比較優(yōu)勢(shì)，再也無(wú)法通過(guò)“農(nóng)田到工廠”的勞動(dòng)力轉(zhuǎn)移模式來(lái)推動(dòng)經(jīng)濟(jì)增長(zhǎng)了。而且，機(jī)器人和人工智能的技術(shù)基本掌握在發(fā)達(dá)國(guó)家手里。

超智能威脅？

在《失控》一書中，凱文·凱利說(shuō)，世界已經(jīng)成了一個(gè)復(fù)雜的地方，我們別無(wú)選擇，只能允許生物與技術(shù)之間的通婚；沒有這兩者的結(jié)合，我們所面臨的問題困難到了我們?nèi)祟惖拇竽X解決不了的地步。開發(fā)人工智能是一種浮士德契約，是與魔鬼的交易：“虛構(gòu)的世界很快會(huì)變得像是活生生的世界：變得有自主性、適應(yīng)性和創(chuàng)造性，但結(jié)果，這個(gè)世界會(huì)脫離我們的控制?！?/p>

比凱利更悲觀的是“奇點(diǎn)主義者”，他們的信條有三：第一，在可預(yù)見的未來(lái)，超越人類的智能將得以實(shí)現(xiàn)。第二，超人類智能會(huì)將人類卷入滅亡的陰云之下。第三，基于以上兩點(diǎn)，人類務(wù)必在超智能出現(xiàn)之前做出反應(yīng)，要么讓技術(shù)奇點(diǎn)根本不發(fā)生，要么將它控制在對(duì)人類有益的良性發(fā)展軌道上。

“奇點(diǎn)”這個(gè)詞本來(lái)是個(gè)物理學(xué)概念，指宇宙大爆炸的原點(diǎn)，被英國(guó)數(shù)學(xué)家約翰·古德用來(lái)指代一種不可思議的存在——超人類智能的誕生。20紀(jì)60年代，他在與圖靈共事時(shí)得到啟發(fā)，把超智能機(jī)器定義為“能力可以遠(yuǎn)超越所有人類智力活動(dòng)的機(jī)器”。設(shè)計(jì)機(jī)器也是眾多智力活動(dòng)之一，所以超智能機(jī)器完全有能力設(shè)計(jì)出更先進(jìn)的機(jī)器；那么一場(chǎng)“智能爆炸”將無(wú)疑會(huì)發(fā)生，并且將把人類的智力遠(yuǎn)遠(yuǎn)甩在身后。因此，第一部超智能機(jī)器，如果足夠溫順的話，將會(huì)是人類所需要的最后一項(xiàng)發(fā)明，它會(huì)指引你如何控制一切。

然而，超智能機(jī)器成為現(xiàn)實(shí)的那一刻，也許正是它們不再聽命于人類意志之時(shí)。牛津大學(xué)人類未來(lái)研究院院長(zhǎng)、哲學(xué)教授尼克·博斯特羅姆提出了著名的“回形針”設(shè)想：假設(shè)一個(gè)人工智能希望能收集盡可能多的回形針。它會(huì)想盡一切辦法來(lái)收集回形針，并且會(huì)通過(guò)自我升級(jí)來(lái)找到收集回形針的新方法，它還會(huì)反抗一切阻止它做這件事情的企圖。最后，它將“把整個(gè)地球和一部分宇宙空間都變成了一個(gè)回形針制造工廠”。這個(gè)近乎荒謬的思想實(shí)驗(yàn)試圖表達(dá)的是一個(gè)非常嚴(yán)肅的觀點(diǎn)：人工智能不需要人類一樣的行為和心理動(dòng)機(jī)，它們可能不會(huì)出現(xiàn)人類常會(huì)犯的錯(cuò)誤和偏差，但是會(huì)犯別的錯(cuò)誤，比如執(zhí)念于收集回形針。它們的目標(biāo)一開始可能看起來(lái)是無(wú)害的，但如果人工智能能夠自我復(fù)制并升級(jí)自己的性能，就會(huì)非常危險(xiǎn)。它會(huì)像終結(jié)者一樣：把人類當(dāng)作低等物種一樣奴役起來(lái)、無(wú)視我們的權(quán)利，只追求它們自己想要的，完全不管對(duì)人類的后果。

樂觀的人則認(rèn)為，人類社會(huì)可以安全地研發(fā)人工智能。大到核彈，小到交通規(guī)則，這些都證明人類曾成功運(yùn)用技術(shù)和法律手段去管理威力強(qiáng)大的創(chuàng)新。人工智能會(huì)帶來(lái)危機(jī)，但合理的應(yīng)對(duì)將轉(zhuǎn)危為機(jī)。

（楊月縈編譯自《經(jīng)濟(jì)學(xué)人》《萬(wàn)古雜志》）