麻省理工學(xué)院的經(jīng)濟(jì)學(xué)家對(duì)不受管制的技術(shù)創(chuàng)新發(fā)出警告。

并非所有的技術(shù)創(chuàng)新都值得被稱作進(jìn)步。那是因?yàn)椋恍┘夹g(shù)進(jìn)展雖然帶來便利，但總的來看，也許不像宣傳中那樣推動(dòng)社會(huì)進(jìn)步。麻省理工學(xué)院（MIT）教授達(dá)龍 · 阿齊默魯（Daron Acemoglu）就是一位站在科技拉拉隊(duì)對(duì)立面的研究者。阿齊默魯?shù)难芯款I(lǐng)域包括勞動(dòng)經(jīng)濟(jì)學(xué)、政治經(jīng)濟(jì)學(xué)和發(fā)展經(jīng)濟(jì)學(xué)。美國(guó)電氣與電子工程師協(xié)會(huì)《IEEE 光譜》雜志與他聊了聊最近的研究工作，以及他對(duì)于“人工智能之類的技術(shù)會(huì)對(duì)人類社會(huì)帶來正面還是負(fù)面影響”這個(gè)問題的見解。

在你2022年11月的工作論文“自動(dòng)化與勞動(dòng)力”中，你與共同作者說，當(dāng)AI與勞動(dòng)力相遇時(shí)，在最好的情況下，記錄也是好壞參半。如何解釋對(duì)熟練勞動(dòng)力的更大需求與他們的人員配備水平之間的差異？

公司常常解雇技能生疏的勞動(dòng)者，試圖多雇用熟練的勞動(dòng)者。理論上，需求高昂和供應(yīng)緊縮應(yīng)該帶來價(jià)格增高的結(jié)果——在這個(gè)例子中，就是雇傭方提供更高的薪水。基于這條接受已久的原理，公司理所當(dāng)然會(huì)認(rèn)為“給更多錢，帶來更少麻煩”?？梢哉f，這在一定程度上是對(duì)的，但……當(dāng)公司抱怨技能短缺時(shí)，我認(rèn)為一部分的情況是，他們?cè)诒г顾麄円姷降膽?yīng)聘者普遍缺乏技能。

在你的2021年論文“人工智能的危害”中，你的主張是假如AI仍然不受管制，它會(huì)引起巨大的危害。你能否提供一些例子？

讓我給你兩個(gè)來自時(shí)下最流行的ChatGPT的例子。ChatGPT能被用來做許多不同的事。但大語(yǔ)言模型目前的路線——ChatGPT是典型例子——主要聚焦于寬泛的自動(dòng)化議程。ChatGPT試圖讓使用者感到驚艷……它嘗試做的事情是試圖在形形色色的任務(wù)上表現(xiàn)得和人類一樣好：回答問題、進(jìn)行對(duì)話、寫詩(shī)、寫文章。事實(shí)上，ChatGPT在一些事上能夠勝過人類，因?yàn)閷戇B貫的文本是一個(gè)具有挑戰(zhàn)性的任務(wù)，根據(jù)從互聯(lián)網(wǎng)上搜集的大量數(shù)據(jù)，AI就能通過預(yù)測(cè)工具知道接下來應(yīng)該出現(xiàn)什么詞，在這方面干得相當(dāng)好。

GPT-3（催生出ChatGPT的大語(yǔ)言模型）所走的路線是強(qiáng)調(diào)自動(dòng)化。在其他一些領(lǐng)域，自動(dòng)化已造成一些有害的影響——造成不平等、失業(yè)等。你思考一下就會(huì)明白，同樣的架構(gòu)能用于十分不同的工作。我們可以換個(gè)方式使用生成式AI，不是要取代人類，而是當(dāng)人類的幫手。假如你想要寫一篇論文給《IEEE 光譜》，你要么可以讓ChatGPT為你寫篇論文，要么可以讓它為你整理出一份閱讀清單，也許就捕捉到一些你本人不知道、但與主題相關(guān)的文章。于是，問題會(huì)變成那份閱讀清單上的文章有多可靠。然而，生成式AI憑借這種能力會(huì)成為人類的補(bǔ)充性工具，而不是一件取代人類的工具。但是，那不是眼下人工智能走的路線。

讓我再給你另一個(gè)例子。因?yàn)?，ChatGPT的架構(gòu)基礎(chǔ)就是從互聯(lián)網(wǎng)上抓取能免費(fèi)獲得的信息。然后，美國(guó)人工智能公司OpenAI運(yùn)作的中心化結(jié)構(gòu)有一個(gè)難題：假如你僅僅從互聯(lián)網(wǎng)抓取信息，再用生成式AI工具來組成句子，那么非?？赡艹霈F(xiàn)的情況是，你最后得到一堆包括種族外號(hào)在內(nèi)的仇恨言論，因?yàn)榛ヂ?lián)網(wǎng)上充斥了這些垃圾言論。那么，ChatGPT要如何處理這個(gè)問題呢？呃，一幫工程師坐下來，研發(fā)出另一組工具（大多數(shù)是基于強(qiáng)化學(xué)習(xí)）。這組工具使得他們可以說“這些詞不許說出來”。以上就是中心化模型的難題。要么任由AI給出仇恨言論，要么就得要由某人來判定什么言論包含仇恨。但在政治論述中，那么做不會(huì)有助于任何信任。因?yàn)榻议_真相后可能發(fā)現(xiàn)，三四個(gè)工程師就能決定民眾在社會(huì)議題和政治議題上能聽到哪些內(nèi)容。我相信，那些工具能以更加去中心化的方式得到使用，而不是在中心化的科技巨擘（比如微軟、谷歌、亞馬遜和臉書）的支持下使用。

你說，創(chuàng)新者應(yīng)該采取更加慎重的姿態(tài)，而不是繼續(xù)快行打破常規(guī)。是不是有什么明確的禁條能夠指導(dǎo)人工智能的研究？

是的。讓我再一次用ChatGPT來舉例。他們想要在市場(chǎng)上擊敗谷歌公司，而一些技術(shù)最初是由谷歌研發(fā)的。這次他們?cè)谘芯可项I(lǐng)先一步，發(fā)布了產(chǎn)品。現(xiàn)在有數(shù)千萬人在使用ChatGPT，但如果它們以這種方式被使用，我們不知道大語(yǔ)言模型的更廣泛的含義會(huì)是什么，會(huì)如何影響新聞業(yè)和中學(xué)英語(yǔ)課，它們將有什么政治含義。谷歌不是我最喜歡的公司，但在這件事上，我認(rèn)為谷歌的做法謹(jǐn)慎得多。谷歌實(shí)際上阻擋了他們的大語(yǔ)言模型。但OpenAI公司學(xué)習(xí)臉書的“快行打破常規(guī)”，把ChatGPT一下子拋出來。這是一件好事嗎？我不知道。結(jié)果是，OpenAI公司已經(jīng)變成一家估價(jià)幾百億美元的公司。現(xiàn)實(shí)中，它一直是微軟公司的一部分，現(xiàn)在它已經(jīng)被整合進(jìn)微軟必應(yīng)。與此同時(shí)，谷歌的市值少掉大約1 000億美元。所以，你看到了我們所處的高風(fēng)險(xiǎn)、競(jìng)爭(zhēng)殘酷的環(huán)境，以及這種環(huán)境產(chǎn)生的誘因。我不認(rèn)為在沒有規(guī)章的情況下我們能信任大公司負(fù)責(zé)任地做事。

科技公司早已斷言，自動(dòng)化會(huì)讓人類扮演管理者的角色，而不是簡(jiǎn)單地干所有工作。機(jī)器人在一邊工作，人類在一堵墻后面的小房間里監(jiān)督機(jī)器的活動(dòng)。但誰敢說，那個(gè)小房間不會(huì)在大洋彼岸呢？這種分離會(huì)不會(huì)進(jìn)一步允許雇主通過離案外包削減勞工成本？

對(duì)的，我同意上面這番話。我會(huì)說，這是一些從事快速算法自動(dòng)化的公司通常使用的借口。這是一種常見說法。但你無法創(chuàng)造出1億個(gè)人類監(jiān)督者、數(shù)據(jù)提供者、算法訓(xùn)練者的工作崗位。提供數(shù)據(jù)和訓(xùn)練的用意是要讓算法從現(xiàn)在起能承擔(dān)人類過去干的工作。這和我說的與人類互補(bǔ)的含義是不同的，后者的意思是算法變成人類的一個(gè)工具。

根據(jù)你的論文“人工智能的危害”，一心想要削減勞動(dòng)力成本的公司高管已經(jīng)使用技術(shù)來幫助繞開那些讓勞動(dòng)者受益的勞動(dòng)法律。譬如說，重新排定小時(shí)工的輪班表，這樣幾乎沒有人每周的工作時(shí)間達(dá)到可以享受雇主贊助的醫(yī)療保險(xiǎn)或加班費(fèi)的門檻。

是的。還有些更加重要的例子是用AI來監(jiān)督勞動(dòng)者，以及采用無固定時(shí)限合同形式的實(shí)時(shí)調(diào)度。換言之，我雇用了你，但我不保證會(huì)提供你任何工作。你是我的雇員，我有權(quán)叫你上班。當(dāng)我叫你上班時(shí)，雇主期望你準(zhǔn)時(shí)出現(xiàn)。比方說我是星巴克公司，我會(huì)打電話告訴你“威利，早上八點(diǎn)過來上班”，你就來上班。然而，我不是非得要叫你來上班，假如我連續(xù)一周就不叫你，那么你那周就毫無收入。

隨著AI技術(shù)和方便監(jiān)督的技術(shù)同時(shí)擴(kuò)散，會(huì)不會(huì)出現(xiàn)隱私和匿名性完全喪失的情況，就像科幻電影《少數(shù)派報(bào)告》中描繪的那樣？

呃，我認(rèn)為這種情況早已經(jīng)發(fā)生了。谷歌已經(jīng)掌握關(guān)于你的許多信息，除非你關(guān)閉手機(jī)里的各種設(shè)置。它也在持續(xù)不斷地利用你在互聯(lián)網(wǎng)和其他手機(jī)應(yīng)用中留下的數(shù)據(jù)。所以，隱私和匿名性完全沒了。一些人說：“哦，沒那么糟糕。那些是大公司。”但我認(rèn)為，那些公司把數(shù)據(jù)用于個(gè)性化定向廣告，在把你的數(shù)據(jù)賣給第三方，這會(huì)引起許多問題。

四年之后，我的孩子會(huì)從大學(xué)畢業(yè)了，AI將如何改變他們的職業(yè)選擇？

那要說回之前那番關(guān)于ChatGPT的談話了。GPT-3和GPT-4這類程序也許會(huì)毀掉許多工作，目前來看，它們不會(huì)帶來生產(chǎn)力的巨大改進(jìn)。另一方面，正如我提過的，也許存在更好的替代路線。AI的發(fā)展沒有預(yù)先設(shè)定，我們無法準(zhǔn)確知道接下來的四年里會(huì)發(fā)生什么，但關(guān)鍵在于路線。當(dāng)前的發(fā)展路線是基于自動(dòng)化的。假如繼續(xù)往那條路走，許多工作將會(huì)向你的孩子關(guān)上大門。但如果發(fā)展路線沿著一個(gè)不同的方向，讓AI變成人類的補(bǔ)充，那么誰知道會(huì)怎樣呢？或許，那時(shí)可能有一些十分有意義的新職業(yè)向他們張開雙手。

資料來源 IEEE Spectrum