劉泓君++謝麗容

一直號稱人工智能比朝鮮核武器更危險(xiǎn)的馬斯克，可能也是那個(gè)把世界推入險(xiǎn)境的人

當(dāng)全世界都在關(guān)注美國總統(tǒng)特朗普與朝鮮的互慫上，特斯拉創(chuàng)始人伊隆·馬斯克（Elon Musk）發(fā)Twitter稱“如果你不關(guān)注人工智能的安全，你應(yīng)該擔(dān)心，它比朝鮮問題更危險(xiǎn)”。

這已經(jīng)不是他第一次發(fā)表對人工智能安全問題的擔(dān)憂。8月中，他與來自26個(gè)國家的人工智能領(lǐng)袖聯(lián)合向聯(lián)合國呼吁嚴(yán)格限制自動化殺人武器，如坦克、無人機(jī)自動槍械等，禁止這些武器在國際間使用。

兩年以前，馬斯克聯(lián)合硅谷大佬投資10億美元成立了一家非營利組織Open AI，號稱要防止人工智能滅世。

這個(gè)組織幾乎匯聚了硅谷最有權(quán)勢與名望的人，除馬斯克以外，它包括了很多熟悉的名字：著名孵化器Y Combinator創(chuàng)始人山姆·奧特曼（Sam Altman）以及合伙人Jessica Livingston、前Stripe的CTO格雷格·布勞克曼（Greg Brockman），被稱為“硅谷人脈王”的Linkedin聯(lián)合創(chuàng)始人Reid Hoffman，以及Paypal共同創(chuàng)建者及著名投資人Peter Thiel。

盡管人工智能滅世的言論一直富有爭議，馬斯克的警告可能并不是危言聳聽，但他的Open AI真的有能力有意愿防止人工智能毀滅世界嗎？馬斯克的真實(shí)動機(jī)也一直在被質(zhì)疑。

Open AI的神秘面紗

如果用最通俗易懂的話來解釋Open AI正在做的事，就是做一個(gè)“會做飯的機(jī)器人”。想象一個(gè)機(jī)器人能夠像人一樣去行動去思考，這是Open AI的終極使命——建立安全的通用機(jī)器人。

做飯是一個(gè)非常復(fù)雜的任務(wù)。盡管現(xiàn)在亞馬遜的倉庫、特斯拉的工廠中都用上了機(jī)器人，但這些機(jī)器人只做簡單重復(fù)性的工作，在車間流水線上組裝零件。對靈活的任務(wù)，機(jī)器人做的并不好。馬斯克希望能夠通過機(jī)器人研究，推進(jìn)家務(wù)機(jī)器人的前沿研究。

施天麟是Open AI的早期成員，也是斯坦福人工智能方向的在讀博士。2015年12月，他參加一個(gè)關(guān)于機(jī)器人的行業(yè)會議，并在這個(gè)會議上機(jī)緣巧合地認(rèn)識了格雷格。當(dāng)時(shí)，格雷格開始興致勃勃地跟施天麟講未來想要做的事情，并告訴他一些大牛即將加入。在蒙特利爾的一個(gè)會議進(jìn)入尾聲時(shí)，馬斯克與山姆宣布成立新的人工智能非營利公司Open AI。

盡管有著眾多的行業(yè)大佬背書，實(shí)際操作人也起著關(guān)鍵作用。第一個(gè)加入Open AI的人是格雷格，相傳他與馬斯克私交甚篤。他是增強(qiáng)學(xué)習(xí)很有名的研究者，導(dǎo)師是伯克利做機(jī)器人研究的教授。

格雷格創(chuàng)業(yè)之后主要負(fù)責(zé)Stripe底層平臺，因此在學(xué)術(shù)研究社區(qū)知名度并不是很高，他主要搭建負(fù)責(zé)Open AI的基礎(chǔ)架構(gòu)。

真正主管研究的人是Ilya Stuskever，他在谷歌大腦有著三年的研究經(jīng)驗(yàn)，在此之前，他是斯坦福深度學(xué)習(xí)實(shí)驗(yàn)室吳恩達(dá)（Andrew Ng）團(tuán)隊(duì)的博士后，曾與多倫多大學(xué)教授Geoffrey Hinton一起工作，是其最得意的學(xué)生之一。谷歌曾經(jīng)為了搶奪Geoffrey與他的兩個(gè)學(xué)生，特意發(fā)起對DNNResearch的收購，這家公司隸屬多倫多大學(xué)計(jì)算機(jī)科學(xué)院，只有三個(gè)人—— Geoffrey Hinton以及他的研究生學(xué)生Alex Krizhevsky和Ilya Sutskever，而且該公司沒有任何實(shí)際產(chǎn)品與服務(wù)。

Open AI成立以后，馬斯克每周會來辦公室半天。他并不會在會議上滔滔不絕，大多數(shù)時(shí)候只是聽大家說，然后給出一些方向性的建議，在場的成員能明顯感覺到他對機(jī)器人的濃厚興趣。

除了給出方向建議，馬斯克還會幫Open AI找融資，在現(xiàn)有的10億美元融資中，有相當(dāng)一部分來自于他自掏腰包。

山姆則負(fù)責(zé)Open AI所有的對外合作部分，比如近期跟Dota合作的人機(jī)大賽，需要游戲開發(fā)者獲取他們的API接口以及一些開放數(shù)據(jù)。

如果要對人工智能研究進(jìn)行成本分析，成本來自于服務(wù)器提供的計(jì)算資源、數(shù)據(jù)獲取以及人才工資成本。服務(wù)器成本是所有人工智能公司成本中最大的一塊，山姆也牽頭促成了Open AI與微軟云Azure合作，以幫助Open AI尋找可用的服務(wù)器。

Open AI目前僅60多人，辦公室坐落在Stripe舊金山的辦公區(qū)。在該組織成立早期，主要依靠內(nèi)部成員的相互推薦?，F(xiàn)在有一套固定的招聘流程招聘研究人員，而基礎(chǔ)架構(gòu)的工程師方向則與Facebook、谷歌的招聘流程類似，招聘工資也直接對標(biāo)這兩家公司。

目前，在Open AI的平臺上有三個(gè)大的開源平臺—— Gym、Universe和Robot。主要研究方向是機(jī)器人的遷移學(xué)習(xí)與增強(qiáng)學(xué)習(xí)。Gym是指研究在每個(gè)細(xì)分研究領(lǐng)域建立自己的算法以后，把算法放在不同的環(huán)境中測試;Universe目標(biāo)是讓AI智能像人一樣使用計(jì)算機(jī)，目前已有1000種訓(xùn)練環(huán)境;而Robot則是訓(xùn)練機(jī)器人。

對抗巨頭？

馬斯克在成立時(shí)就宣稱Open AI要對抗Facebook、谷歌等巨頭壟斷，以開源的方式來驅(qū)動研究。

就在Open AI宣布成立的一個(gè)月以前，互聯(lián)網(wǎng)巨頭把人工智能的發(fā)展推向高潮。當(dāng)時(shí)，谷歌宣布將部分開源人工智能引擎，F(xiàn)acebook也在不久后宣布開源深度學(xué)習(xí)計(jì)算機(jī)服務(wù)器設(shè)計(jì)。Open AI自成立就開始宣布自己要開放它所有的研究成果。

與巨頭開放這些人工智能平臺不同，Open AI的開源是算法而非平臺，它也會與巨頭的開源平臺合作，其Gym平臺就與谷歌的TensorFlow合作。

回顧人工智能最近幾年的發(fā)展趨勢，無論是算法還是平臺，開源已經(jīng)是人工智能競爭的一大核心策略。

得人才者得人工智能。在硅谷，做深度學(xué)習(xí)的人工智能博士生，已經(jīng)成為幾大互聯(lián)網(wǎng)巨頭瘋搶的對象。各大機(jī)構(gòu)競相追逐學(xué)術(shù)研究者并開出高價(jià)，這在歷史上從沒有發(fā)生過。一位研究者稱：“在Open AI成立之后，谷歌與Facebook給頂級研究人員的Offer高了兩倍。”endprint

對學(xué)術(shù)研究者來說，他們更愿意分享自己的研究成果，并以此建立影響力。開源可以幫助這些AI機(jī)構(gòu)吸引更多的人才。同時(shí)，對巨頭來說，開源也意味著更多的開發(fā)者會利用平臺搭建算法，可以幫助平臺自我完善，也會加快整個(gè)產(chǎn)業(yè)的發(fā)展進(jìn)程。

如果要在業(yè)內(nèi)給Open AI找一個(gè)對標(biāo)者，最相似的莫過于與李世石圍棋大戰(zhàn)的DeepMind。兩者都不是平臺，而是對人工智能的算法研究。施天麟在他的研究中發(fā)現(xiàn)，Open AI更偏向于機(jī)器人的研究，會使用更多專門為機(jī)器人打造的虛擬環(huán)境，而DeepMind更偏向于用游戲做虛擬環(huán)境進(jìn)行訓(xùn)練。

“DeepMind認(rèn)為在游戲規(guī)則下能夠獲勝的AI有一定智能，但這個(gè)離真實(shí)的機(jī)器人還比較遠(yuǎn)。你能控制一個(gè)游戲機(jī)的飛船，并不意味著你真正能夠控制一架飛機(jī)?！笔┨祺雽Α敦?cái)經(jīng)》記者說。

他正在為Open AI開發(fā)“World of bits”的訓(xùn)練平臺，是Open AI Universe的前身，希望機(jī)器人能夠像人一樣在網(wǎng)上訂機(jī)票、酒店、外賣。但其關(guān)注點(diǎn)不是最后機(jī)器人如何訂到機(jī)票，而是通過觀察人怎么訂機(jī)票，讓機(jī)器去學(xué)習(xí)人的這種在不同環(huán)境下都可以應(yīng)對自如的“遷移學(xué)習(xí)”能力。

施天麟認(rèn)為，盡管DeepMind號稱開源，但只開放了幾個(gè)“迷宮”這類的小游戲，真正核心的算法依然沒有開源。

AI競爭，數(shù)據(jù)為王。無論是Facebook還是谷歌，都有強(qiáng)大的平臺資源和數(shù)據(jù)寶庫。外界對Open AI最大的質(zhì)疑是，沒有數(shù)據(jù)資源如何突破人工智能研究？

吳恩達(dá)曾說過：“為什么做AI需要去大公司，因?yàn)榇蠊居泻Ａ康臄?shù)據(jù)和強(qiáng)大的計(jì)算平臺?！?/p>

施天麟的項(xiàng)目需要征集人怎么用計(jì)算機(jī)訂票的演示，于是他在亞馬遜上發(fā)起了眾籌項(xiàng)目以征集數(shù)據(jù)，每小時(shí)價(jià)格10美元左右，目前已經(jīng)花了幾萬美元。但這相對于大公司的數(shù)據(jù)，依然九牛一毛。

山姆曾在Open AI成立的時(shí)候稱，Y Combinator將會與Open AI共享數(shù)據(jù)服務(wù)。Y Combinator已經(jīng)在硅谷投資了大量的獨(dú)角獸企業(yè)，旗下的平臺有Airbnb、Dropbox、Stripe。同時(shí)，特斯拉也稱將開放數(shù)據(jù)給Open AI，微軟與亞馬遜也正在變成Open AI的合作伙伴。

如此看來，Open AI可能會通過各種間接渠道獲取機(jī)器訓(xùn)練數(shù)據(jù)，但美國對數(shù)據(jù)監(jiān)管政策嚴(yán)厲，Open AI目前可以獲取一些數(shù)據(jù)，但這樣的來源是不穩(wěn)定且充滿風(fēng)險(xiǎn)的。

馬斯克飽受質(zhì)疑，外界認(rèn)為00en Al成為其招攬人才的后花園。

不過也有做房產(chǎn)分享的創(chuàng)業(yè)者認(rèn)為，Open AI的房源數(shù)據(jù)就可以多過谷歌，因此它在一些細(xì)分領(lǐng)域并不處于劣勢狀態(tài)，也可能成為對抗巨頭的一方勢力。

馬斯克的私心？

即使對億萬富豪來說，10億美元的投資也并非一筆小數(shù)字。盡管他曾經(jīng)多次表示出對人工智能心存恐懼，但這一動機(jī)仍被質(zhì)疑。

馬斯克曾經(jīng)投資著名的人工智能研究公司DeepMind，后來這家公司被谷歌收購，這也讓他了解了人工智能的發(fā)展前沿。接近馬斯克的人認(rèn)為，在創(chuàng)建特斯拉與Space X時(shí)，他對工程類技術(shù)非常了解，但他并不了解最前沿的深度學(xué)習(xí)技術(shù)，依然處于學(xué)習(xí)階段。

眼下，馬斯克旗下的特斯拉正在研究無人駕駛，他還將在今年10月推出無人駕駛卡車。在無人駕駛的競爭中，特斯拉每一輛在路上跑的車都可以看成是一次數(shù)據(jù)收集。然而，無人駕駛涉及到圖形圖像識別、分析等多個(gè)深度學(xué)習(xí)研究領(lǐng)域，擁有了數(shù)據(jù)這塊寶藏之后，他旗下的公司對AI人才有著迫切的需求。

著名研究員Andrej Kapathy從Open AI跳槽加盟特斯拉無人駕駛團(tuán)隊(duì)，直接向馬斯克匯報(bào)。Kapathy的跳槽讓馬斯克飽受質(zhì)疑，外界認(rèn)為Open AI成為其招攬人才的后花園。

Open AI一個(gè)研究項(xiàng)目是機(jī)器人如何抓取物體。比如人讓機(jī)器人去冰箱拿啤酒，啤酒瓶從哪幾個(gè)點(diǎn)抓起來既穩(wěn)又不會碎，這個(gè)方向不需要大量的數(shù)據(jù)，只用建立各種模擬場景模擬即可。一個(gè)容易聯(lián)想的事實(shí)是，馬斯克建立了自己的特斯拉工廠，他的工廠中已經(jīng)引入很多自動化的機(jī)器人生產(chǎn)。

盡管Open AI號稱對所有人開放，但這家非營利機(jī)構(gòu)也的確彌補(bǔ)了他商業(yè)上的短板，成為這家組織的實(shí)際受益者。

在Open AI這種非營利組織架構(gòu)中，管理較為扁平，以項(xiàng)目為單位劃分。Ilya曾經(jīng)在Open AI的私人聚會上透露，評價(jià)標(biāo)準(zhǔn)之一就是發(fā)論文。組織成員認(rèn)為，這種組織形式與大學(xué)的實(shí)驗(yàn)室比較像，每個(gè)人都有自主權(quán)去選擇要做些什么項(xiàng)目，而科研項(xiàng)目的周期往往比普通項(xiàng)目要長。因此如果實(shí)驗(yàn)中，發(fā)現(xiàn)想法是不可行的，也可以中途放棄。

不過，這種模式也令外界質(zhì)疑，類似于學(xué)術(shù)研究的算法對工業(yè)界究竟產(chǎn)生多少影響力有待懷疑。

通常企業(yè)開發(fā)研究中，不同人會在一個(gè)社區(qū)中貢獻(xiàn)大量的代碼，這個(gè)代碼庫由很多程序員來維護(hù)。而在學(xué)術(shù)研究中，只有幾個(gè)人做一個(gè)課題組，很多時(shí)候一個(gè)人就可以寫一個(gè)算法。加上學(xué)術(shù)研究的樣本庫較小，在大規(guī)模的檢測后可能并不能應(yīng)用于其他場景。

除了一些計(jì)算機(jī)領(lǐng)域的大神，學(xué)術(shù)研究最終大概只有1%的算法能夠適應(yīng)不同的環(huán)境最后留下來。但如果底層研究有突破性進(jìn)展，將會催生一個(gè)產(chǎn)業(yè)的誕生。

吳恩達(dá)在谷歌大腦時(shí)，曾經(jīng)使用1000臺機(jī)器去學(xué)習(xí)Youtube上關(guān)于貓的視頻，使用深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)最后可以在很多圖片中識別貓。當(dāng)時(shí)沒有人會嘗試用1000臺機(jī)器的大量計(jì)算能力去學(xué)習(xí)。但這次突破印證了當(dāng)你有足夠多的計(jì)算資源足夠多的數(shù)據(jù)時(shí)，算法的突破會有很大潛力。此后，計(jì)算機(jī)視覺進(jìn)入到一個(gè)快速發(fā)展的時(shí)期，人臉識別、圖像識別、自動駕駛等基于計(jì)算機(jī)視覺的公司如雨后春筍般出現(xiàn)。

Open AI的野心是希望能夠在機(jī)器人領(lǐng)域做出類似的大突破?！叭绻馨褭C(jī)器人做出來，發(fā)明一種新算法讓機(jī)器在環(huán)境中快速學(xué)習(xí)，極可能催生一個(gè)嶄新的機(jī)器人產(chǎn)業(yè)?！?施天麟說道。

不過，機(jī)器人通用算法在未來十年里都不會有大突破，因?yàn)檫@需要大量的數(shù)據(jù)訓(xùn)練、計(jì)算能力和高昂的成本投入。

“實(shí)現(xiàn)這件事的算法還不成熟，控制人工智能不做危險(xiǎn)的事更是無稽之談?！庇胁辉妇呙姆治鋈耸肯颉敦?cái)經(jīng)》記者稱，“但是馬斯克發(fā)表機(jī)器人的這些言論是有根據(jù)的，如果機(jī)器人算法有重大突破，類似于當(dāng)年識別貓的圖片那樣，那機(jī)器人就是一件很危險(xiǎn)的事情?！?/p>

不妨這么說，如果馬斯克的目標(biāo)真是通用的人工智能機(jī)器人的重大技術(shù)突破，那他極可能成為把世界置于危險(xiǎn)境地的人。盡管馬斯克已經(jīng)在做盡可能多的增強(qiáng)學(xué)習(xí)等安全方向的研究，但不排除如果居心叵測之人使用Open AI的研究成果開發(fā)武器。

盡管不排除馬斯克成立Open AI確實(shí)存在一些私心——在未來的技術(shù)競爭中占據(jù)制高點(diǎn)，并且廣泛網(wǎng)羅人才。但他的擔(dān)憂也不無道理，也可能確實(shí)有出于無私的角度在推進(jìn)行業(yè)的發(fā)展。畢竟，機(jī)器人是個(gè)大趨勢，巨頭與創(chuàng)業(yè)公司已經(jīng)開始搶占市場，非營利組織存在的必要性也毋庸置疑。endprint