霍思伊
亞瑟·阿布-穆斯塔法。
由ChatGPT和GPT-4引發(fā)的這一輪“人工智能狂潮”遠(yuǎn)比人們最初預(yù)想的持續(xù)更久,伴隨而來的爭(zhēng)議與憂慮近期也在不斷發(fā)酵和上升。
圍繞爭(zhēng)議,人工智能專家分成兩種截然不同的派別,一種對(duì)當(dāng)下以ChatGPT為代表的人工智能技術(shù)表達(dá)出深切擔(dān)憂,另一些著名的人工智能專家如Meta首席人工智能科學(xué)家楊立昆認(rèn)為,暫停AI研發(fā)才會(huì)對(duì)人類科技的進(jìn)步帶來巨大傷害。
回歸科學(xué),理性對(duì)以GPT-4為代表的AI能力的邊界進(jìn)行反思:它能做什么?不能做什么?最重要的是,人類現(xiàn)在必須采取什么行動(dòng)來實(shí)現(xiàn)“有益的AI”?
4月8日,《中國新聞周刊》就以上問題專訪了美國加州理工學(xué)院電氣工程和計(jì)算機(jī)科學(xué)教授亞瑟·阿布-穆斯塔法。他是人工智能領(lǐng)域的知名專家,同時(shí)也是IEEE神經(jīng)網(wǎng)絡(luò)委員會(huì)的創(chuàng)始人之一,曾在多家科技公司擔(dān)任機(jī)器學(xué)習(xí)顧問。以下是記者和他的對(duì)話:
中國新聞周刊:此前,埃隆·馬斯克等人簽署了聯(lián)名公開信,業(yè)內(nèi)形成了對(duì)人工智能發(fā)展的兩種截然不同的看法,你更認(rèn)同哪方?
阿布-穆斯塔法:聯(lián)名公開信,意圖是好的,但無法起到任何實(shí)質(zhì)效果,因?yàn)椴粫?huì)真的有公司遵守并暫停六個(gè)月的AI研發(fā)。我認(rèn)為這是對(duì)人工智能“過于快速發(fā)展”的許多下意識(shí)反應(yīng)之一,是一種沒有經(jīng)過深思熟慮、出于沖動(dòng)的行為。就我個(gè)人而言,不贊同暫停更強(qiáng)大AI模型的研發(fā),現(xiàn)在要做的不是暫停,而是如何更好阻止對(duì)這種強(qiáng)大工具的“不良使用”,所以我沒有簽署公開信。
如何推動(dòng)更強(qiáng)有力的人工智能監(jiān)督?政府需要通過立法對(duì)如何“合理地使用”AI進(jìn)行約束或限制,歐盟《人工智能法案》是一個(gè)開始。立法時(shí)有很多需要考慮的因素,尤其要注意的是,法案公布后能強(qiáng)制執(zhí)行嗎?副作用是什么?是否會(huì)產(chǎn)生意想不到的后果?制定法案或任何監(jiān)管規(guī)則都必須經(jīng)過謹(jǐn)慎考量,而不是短期內(nèi)出于對(duì)人工智能的恐懼或?yàn)榱藨?yīng)對(duì)想象中的風(fēng)險(xiǎn)而匆忙制定,目前為止,我還沒有看到任何提議或法案經(jīng)過了深思熟慮,并且可以得到有效執(zhí)行。很多人擔(dān)心人工智能將接管人類的一切,所以意大利、德國、美國等國政府做出反應(yīng),動(dòng)機(jī)更多是出于“現(xiàn)在必須要采取一些行動(dòng),否則的話公眾會(huì)對(duì)政府不滿”。
中國新聞周刊:如何使AI真正符合人類的價(jià)值觀和道德準(zhǔn)則?
阿布-穆斯塔法:這100%取決于AI系統(tǒng)的開發(fā)者和使用者。人工智能沒有內(nèi)在的道德或惡意,人工智能只是服從命令,它會(huì)做人類訓(xùn)練它去做的事情,如果人類給它的是充滿偏見的數(shù)據(jù),就會(huì)誕生一個(gè)充滿偏見的AI,因此OpenAI需要不斷調(diào)整,選擇一些好的數(shù)據(jù)或者讓ChatGPT不回答惡意的問題。但解決這個(gè)問題的復(fù)雜之處在于,即使開發(fā)者把整個(gè)AI系統(tǒng)設(shè)計(jì)的很“符合人類價(jià)值觀”,仍會(huì)有非常多元的用戶從不同角度使用它,這是開發(fā)者控制不了的。因此,AI應(yīng)用遠(yuǎn)比設(shè)計(jì)更復(fù)雜和危險(xiǎn),人類可以用良好的意圖去設(shè)計(jì)“好的AI”,然后有一個(gè)用戶從一個(gè)好的角度去使用它,最后卻讓AI變得很糟糕。
因?yàn)樵谌祟惿鐣?huì)中,好和壞的標(biāo)準(zhǔn)是非常不明確的。如果你去訓(xùn)練一個(gè)AI下棋,比如AlphaGo,規(guī)則是明確的,AI經(jīng)過訓(xùn)練后很清楚如何界定“好的行為”,只要能贏就是一步好棋,在這里,贏是客觀的,可以讓AI系統(tǒng)通過與自己做“對(duì)抗練習(xí)”,不斷強(qiáng)化這點(diǎn)。但更多時(shí)候,我們要訓(xùn)練AI去完成一些缺乏客觀好壞規(guī)則的任務(wù),此時(shí),讓系統(tǒng)自身去理解什么是“好的行為”非常困難。
中國新聞周刊:聯(lián)名公開信指出,最近幾個(gè)月,人工智能實(shí)驗(yàn)室正陷入一場(chǎng)失控的競(jìng)賽(out-of-control race),這是否真的在發(fā)生?
阿布-穆斯塔法:這是一種非常情緒化的表述。不過談到所謂競(jìng)賽,可以預(yù)料到的是,在短期未來的AI產(chǎn)業(yè)格局中,世界范圍內(nèi)很可能只有2~3個(gè)非常強(qiáng)大的類似ChatGPT這樣的人工智能工具占領(lǐng)整個(gè)全球市場(chǎng),因?yàn)殚_發(fā)這樣的大模型所涉及成本是巨大的,需要數(shù)千個(gè)GPU(圖形處理器)核心運(yùn)行2個(gè)月以及海量的數(shù)據(jù)和算力。我做過一個(gè)簡(jiǎn)單計(jì)算,GPT-3模型有超過1000億個(gè)參數(shù),假設(shè)你的筆記本電腦有足夠的內(nèi)存,在電腦上運(yùn)行它至少需要20萬年,這也是為什么目前所有最新的大模型進(jìn)展都來自科技公司,而不是大學(xué),因?yàn)槠渲猩婕暗降馁Y金比任何大學(xué)的常規(guī)研發(fā)資金至少多了兩個(gè)數(shù)量級(jí)。
但話說回來,我們永遠(yuǎn)無法預(yù)料未來,五年以后是否可能誕生一種能節(jié)省大量計(jì)算資源的新模型,還未可知。這就像GPU在四十余年前剛誕生時(shí),最初只是為了讓游戲中的圖形移動(dòng)得更快,但就是這個(gè)簡(jiǎn)單的想法,后來完全改變了計(jì)算機(jī)這個(gè)領(lǐng)域。所以,如果幾年以后真的出現(xiàn)一種完全不同的模型,可以讓成本從10億美元降低至1000萬美元,這就改變了整個(gè)游戲規(guī)則,屆時(shí)將會(huì)有大量的玩家出現(xiàn)。
中國新聞周刊:大模型時(shí)代的到來,也和基于“預(yù)訓(xùn)練+微調(diào)”這種自然語言處理(NLP)的主流范式有關(guān)。2018年后,這種模式幾乎重塑了人工智能的商業(yè)形態(tài),你如何看待這種趨勢(shì)?
阿布-穆斯塔法:“預(yù)訓(xùn)練+微調(diào)”是一種分而治之的巧妙方式,一次訓(xùn)練AI專注于一個(gè)問題并完善它,例如,要求它造出語法正確的句子(即使表達(dá)出來的是胡說八道),然后為這個(gè)預(yù)訓(xùn)練的系統(tǒng)提供更具體的引導(dǎo)性信息。這種辦法非常有效,因?yàn)樗刮覀兡軌蛟谄駷橹谷〉玫某删突A(chǔ)上再接再厲,而不是從頭開始。
OpenAI將其對(duì)公眾開放的這個(gè)主意很聰明,現(xiàn)在他們獲得了大量的數(shù)據(jù)和反饋,可以用來訓(xùn)練更新一代的系統(tǒng),而且這些資源是獨(dú)家的,因?yàn)楣姴粫?huì)對(duì)下一個(gè)類似的產(chǎn)品產(chǎn)生同樣多的興趣。
中國新聞周刊:那么應(yīng)如何理性、客觀去認(rèn)知當(dāng)下的人工智能水平和ChatGPT的能力邊界?
阿布-穆斯塔法:我有個(gè)朋友跑去問ChatGPT:“關(guān)于阿布-穆斯塔法,你知道什么?”然后,ChatGPT列出了關(guān)于我的一份非常詳細(xì)的履歷和人物小傳,在答案的首段,它呈現(xiàn)的表述看起來非常專業(yè),但接下來就有不少錯(cuò)誤的信息,比如我上過的大學(xué)就搞錯(cuò)了。這件事充分說明了ChatGPT的本質(zhì),從某種意義上說,它只是把所有信息以一種非常特殊的彼此相關(guān)的方式放在一起。
因此,我對(duì)ChatGPT表現(xiàn)出來的一切并不驚訝,為生產(chǎn)這個(gè)系統(tǒng)而投入的資源是巨大的,它有1000多億個(gè)參數(shù),可以記住很多東西,但并不是很聰明。因?yàn)樗瑫r(shí)給你的是好信息和壞信息,而且完全沒意識(shí)到自己做錯(cuò)了事,只是碰巧能以一種令人信服的方式去構(gòu)建回答。
人工智能的本質(zhì)在于它使用了一種類似于人類大腦的結(jié)構(gòu),這種結(jié)構(gòu)以一種非常高效的方式存儲(chǔ)信息,看到新的情況之后會(huì)推理和判斷什么是“最接近它的東西”,這就是深度神經(jīng)網(wǎng)絡(luò)所做的事情,這一辦法已經(jīng)持續(xù)了幾十年。
目前,人工智能的整體發(fā)展水平很令人振奮。但即使在業(yè)內(nèi),真正了解所有技術(shù)細(xì)節(jié)的人很少,只有OpenAI、Google這些參與了大模型訓(xùn)練的人才能說清楚,但他們對(duì)外分享的信息也是有限的。我推測(cè)下一步最重要的突破可能集中在:AI系統(tǒng)如何用更少資源達(dá)到相同的性能水平。
中國新聞周刊:沿著這條路繼續(xù)往下走,AI是否能進(jìn)化到理解“概念”和“常識(shí)”?有專家認(rèn)為GPT-4已經(jīng)初步具備了“自我反思”能力,你怎么看?
阿布-穆斯塔法:如果說人工智能已發(fā)展出自我反思能力,那一定是數(shù)量巨大的任務(wù)訓(xùn)練帶來的,是通過合并足夠多數(shù)量的“分散而零碎的智能任務(wù)”實(shí)現(xiàn)的。比如說我做1000個(gè)ChatGPT,其中一個(gè)對(duì)語言感興趣,另一個(gè)處理數(shù)學(xué)問題,第三個(gè)負(fù)責(zé)視覺識(shí)別,直到它的“能力”覆蓋了幾乎人類所有的領(lǐng)域,再將其合并為一個(gè),它一定能表現(xiàn)出一種“通用的智能”,這就是所謂的“大力出奇跡”,也是“多模態(tài)機(jī)器學(xué)習(xí)”的本質(zhì)。但這一切只是表象,只是看起來具備了自我反思能力和通用智能。從某種意義上說,人類嘗試做的其實(shí)是擁有一個(gè)巨大的系統(tǒng),這個(gè)系統(tǒng)只是試圖復(fù)制人類的“外觀”。
中國新聞周刊:在現(xiàn)有AI概念框架中,無論如何努力,AI也只能是看起來仿佛擁有了人類智能的靈活性和通用性,而不是真正實(shí)現(xiàn)這點(diǎn)?
阿布-穆斯塔法:ChatGPT的參數(shù)是1000多億,但大腦中突觸的數(shù)量是在100萬億左右,比AI多了至少三個(gè)數(shù)量級(jí),人類大腦運(yùn)行也遠(yuǎn)比人工智能復(fù)雜得多。
實(shí)際上,神經(jīng)網(wǎng)絡(luò)之所以能成功,就是因?yàn)樗愃拼竽X的架構(gòu),具體而言,許多簡(jiǎn)單的計(jì)算單元通過攜帶參數(shù)高度連接。然而,神經(jīng)網(wǎng)絡(luò)的細(xì)節(jié)與大腦不同,也沒有必要試圖使它們更相似,我打個(gè)比方,飛機(jī)看起來像鳥類,但飛機(jī)不會(huì)像鳥類那樣拍打翅膀,生物學(xué)可以被用作一般的靈感,但不應(yīng)該規(guī)定每一個(gè)細(xì)節(jié)。
就現(xiàn)有技術(shù)路徑而言,人們的主要方法是訓(xùn)練更大的模型,不斷提高計(jì)算能力,嘗試覆蓋更多的領(lǐng)域,并讓這些不同的領(lǐng)域相互作用,但我不知道繼續(xù)通過“蠻力”來做這件事是否會(huì)帶來無法管理的后果。
人類為什么這么關(guān)心“通用人工智能”(Artificial General Intelligence,AGI),因?yàn)樗|及了人性中最根本的東西,侵犯了人類的自我(Ego),即:人類是否是最獨(dú)一無二的存在。對(duì)于如何實(shí)現(xiàn)AGI,目前所有想法都只是推測(cè),我們只能針對(duì)已經(jīng)看到的技術(shù)范式進(jìn)行突破,但真實(shí)情況是,我們根本難以想象會(huì)走上一條怎樣的路徑。
回到15年前,如果有人告訴你GPU對(duì)機(jī)器學(xué)習(xí)有用,大多數(shù)人的反應(yīng)是怎么可能,但現(xiàn)實(shí)就是這么發(fā)生了。因此,無論人類是否有實(shí)現(xiàn)AGI的一天,至少我認(rèn)為這肯定不會(huì)是世界末日。
中國新聞周刊:既然這樣的話,怎么理解微軟研究人員稱,GPT-4 已經(jīng)顯示出接近人類智能或通用人工智能的“火花”?
阿布-穆斯塔法:問題的關(guān)鍵是,“通用人工智能”到底是什么?目前對(duì)于AGI概念還沒有很明確的定義。對(duì)于通用人工智能,人類更想追求的目標(biāo)是:AI突然之間學(xué)會(huì)了以上所有,能舉一反三,而不是一次次學(xué)會(huì)某個(gè)特定任務(wù),就像魔法一樣,但這是一個(gè)非常模糊的描述。
因此,現(xiàn)在迫切需要就“通用人工智能”概念本身達(dá)成共識(shí),用非常精確的計(jì)算機(jī)語言去界定它,制定明確的檢驗(yàn)規(guī)則,遵照這些規(guī)則,人類才能知道AGI是否已經(jīng)實(shí)現(xiàn)?潛在的危險(xiǎn)是什么?但我目前還沒看到令人信服的準(zhǔn)確定義?,F(xiàn)在,當(dāng)人們談?wù)摗巴ㄓ萌斯ぶ悄堋睍r(shí),承載了太多人類的情感,有時(shí)甚至是不切實(shí)際的期望和恐懼,但這種恐懼把智能和“自我”混為一談。人們必須冷靜下來,理性地把AGI視作一個(gè)科學(xué)目標(biāo),而非摻雜了政治、情感和各種主觀因素。
中國新聞周刊:在AI研究領(lǐng)域,人工智能是否能產(chǎn)生“自我意識(shí)”一直是一個(gè)非常熱的話題。對(duì)此你怎么看?
阿布-穆斯塔法:對(duì)這個(gè)問題,我的看法相當(dāng)保守。我認(rèn)為AI領(lǐng)域的任何技術(shù)進(jìn)步都不可能產(chǎn)生一個(gè)“有意識(shí)的實(shí)體”,現(xiàn)在不會(huì),20年之后不會(huì),可能永遠(yuǎn)都不會(huì)。正如我之前所說的,意識(shí)和情緒的“顯現(xiàn)”是很容易做到的,AI未來能“看起來像擁有了情感或意識(shí)”,就像電影里有一個(gè)厲害的演員表達(dá)出了某種強(qiáng)烈的情緒,但這只是表演,是純粹的行為表象。
中國新聞周刊:但這種觀點(diǎn)非?!叭祟愔行闹髁x”,有一種說法認(rèn)為,如果AI的“自我意識(shí)”完全超出了人類的理解范圍,其實(shí)很難從人類的角度去界定它。
阿布-穆斯塔法:雖然如此,我還是堅(jiān)持我的看法,或許未來真的如你所說,但目前這只是一種推測(cè)。事實(shí)上,對(duì)人類意識(shí)的定義本身在科學(xué)上都是不確定的,客觀上也不可測(cè)量,我知道我有意識(shí),你有意識(shí),你知道愛是什么,情感是什么,悲傷是什么,因?yàn)槟隳芨杏X到它們,你能與它們聯(lián)系起來,但所有這些都是一種人類經(jīng)驗(yàn),為什么會(huì)這樣?我們不知道。
我認(rèn)為,AI始終是一個(gè)無生命的機(jī)器,背后有嚴(yán)密的齒輪在驅(qū)動(dòng)它,這些齒輪就是不同的參數(shù),復(fù)雜的輸出可能會(huì)給我們留下這樣的印象:那里有一個(gè)與眾不同的人,但這種輸出不是來自意識(shí),而是一種算法。為什么我們認(rèn)為有人在那里?因?yàn)楫?dāng)我們看到這個(gè)輸出之后,把它在腦海中與我們過去的記憶、情感,與人類自身聯(lián)系在一起。
中國新聞周刊:未來,哪些行業(yè)會(huì)從AI發(fā)展中受益,哪些行業(yè)可能被顛覆?
阿布-穆斯塔法:所有行業(yè)都會(huì)從人工智能的發(fā)展中受益,甚至以無法預(yù)料到的方式。
五年前有人問我:人工智能的下一個(gè)20年如何發(fā)展?我說,AI將在20年內(nèi)取代人類幾乎所有常規(guī)智能工作(routine intelligence tasks),也就是“完成復(fù)雜任務(wù)但不需要?jiǎng)?chuàng)新的智能”。 自動(dòng)駕駛是一個(gè)典型的例子,未來,職業(yè)司機(jī)會(huì)失業(yè),更多低技術(shù)含量的工種會(huì)被AI取代,公司會(huì)傾向于雇傭更高質(zhì)量的員工。這是一個(gè)必須要積極解決的社會(huì)問題,否則,很多人將會(huì)面臨失業(yè)的痛苦。
ChatGPT誕生后,我修正了我的預(yù)期,我現(xiàn)在認(rèn)為,可能不需要20年,這些常規(guī)工作在更短的時(shí)間內(nèi)就可能被AI全部替代,不管我們?nèi)绾谓缍ā巴ㄓ萌斯ぶ悄堋?,常?guī)智能是通向它的第一步。所有事情都正在加速,這是毫無疑問的。
中國新聞周刊:在常規(guī)智能工作之外,AI未來是否也會(huì)取代一些更具有創(chuàng)造力的工作?
阿布-穆斯塔法:還是以AlphaGo為例,你會(huì)發(fā)現(xiàn)AI在某種意義上也在進(jìn)行“創(chuàng)造性的防御”,為了贏得比賽,它發(fā)現(xiàn)了人類沒有想到的防御策略,我不知道這是否是一種創(chuàng)新或者只是自動(dòng)化的產(chǎn)物,因?yàn)檫@背后是AI對(duì)海量策略的嘗試。 “AI的創(chuàng)造力”目前也沒有很可靠的定義。
中國新聞周刊:人類應(yīng)如何與AI共存?
阿布-穆斯塔法:我們沒有與AI共存的壓力,AI永遠(yuǎn)是人類的附屬品。