奧特曼：AI 執(zhí)劍人與野心家
2024-01-20 06:32:39王小豪
看世界 2023年26期
關(guān)鍵詞：奧特曼
王小豪
2023年5月26日，奧特曼在巴黎的一個(gè)會(huì)議上發(fā)表講話
很少有技術(shù)得到了“通用人工智能（AGI）”這般的待遇，還未真正被發(fā)明，但質(zhì)疑、憂慮的聲音已經(jīng)鋪天蓋地。更少見的是，當(dāng)中聲量最大的，還包括這項(xiàng)技術(shù)最積極的推動(dòng)者。
在去年底親自釋放了ChatGPT這頭“猛獸”、將整個(gè)世界朝著“AI時(shí)代”大幅推進(jìn)之后，OpenAI的CEO山姆·奧特曼不斷警告那些依賴ChatGPT的用戶們：“現(xiàn)在依靠它做任何重要事情都是錯(cuò)誤的?！?/p>
不僅如此，他還在國會(huì)聽證會(huì)和訪問各國的環(huán)球旅行中，反復(fù)強(qiáng)調(diào)AGI的危險(xiǎn)性，聲稱其可能造成“核戰(zhàn)爭”級別的危機(jī)，并呼吁建立全球協(xié)作的監(jiān)管機(jī)制。
稍微了解OpenAI創(chuàng)辦宗旨的人，不難理解奧特曼看似矛盾的舉動(dòng)，畢竟這是一家以服務(wù)“全人類利益”為目標(biāo)的人工智能研究機(jī)構(gòu)，其CEO發(fā)表審慎、理性的觀點(diǎn)也是理所應(yīng)當(dāng)。但再了解得多一些，就可能生出不少疑慮。
在奧特曼的帶領(lǐng)下，OpenAI正從一家開放、透明的非營利組織，逐漸變得封閉、商業(yè)化，不僅拒絕公布GPT-4的開源信息、成立營利子公司，還摒棄了最初的中立立場，倒向了微軟一方。
每當(dāng)OpenAI朝著商業(yè)化的方向邁進(jìn)一步，奧特曼都能為此提供一套基于技術(shù)和人類福祉考量的說辭，但這種關(guān)聯(lián)的模糊性在于，人們難以分辨商業(yè)化是OpenAI秘而不宣的初衷還是不得已而為之的舉措、奧特曼有關(guān)AI的審慎言論是肺腑之言還是緩兵之計(jì)。
不久前鬧得沸沸揚(yáng)揚(yáng)的“罷免風(fēng)波”，最終是被視為激進(jìn)主義和商業(yè)主義的陣營獲得了勝利。董事會(huì)重組之后的OpenAI，越來越像一家典型的硅谷獨(dú)角獸，無數(shù)的投資者和合作伙伴等著從它身上榨取利益。
被董事會(huì)“驅(qū)逐”之后，蜂擁而至的支持力量顯示了奧特曼擁有的巨大聲望，很快重回CEO寶座的他，權(quán)力似乎比以前更為牢固。如今的問題是，在AI時(shí)代只差臨門一腳的關(guān)鍵時(shí)刻，執(zhí)掌權(quán)柄的奧特曼究竟是真摯的執(zhí)劍人，還是未顯的野心家？
他內(nèi)心的真實(shí)想法，成為事關(guān)我們每一個(gè)人的重要問題。
（左起）OpenAI首席技術(shù)官米拉·穆拉蒂、CEO山姆·奧特曼、總裁格雷格·布羅克曼、首席科學(xué)家伊利亞·蘇茨克維
改變世界的意志
和比爾·蓋茨、喬布斯、扎克伯格等科技界的傳奇人物一樣，奧特曼也是“輟學(xué)俱樂部”的一員。
在斯坦福大學(xué)了讀兩年計(jì)算機(jī)專業(yè)后，奧特曼輟學(xué)與當(dāng)時(shí)的男友尼克·西沃創(chuàng)辦了一家科技公司Loopt，為孩子提供社交網(wǎng)絡(luò)服務(wù)。這家公司后來成為首批加入Y Combinator孵化器的8家企業(yè)之一，并最終以4300萬美元的價(jià)格，出售給了銀行公司Green Dot。
事后來看，這次不太成功的創(chuàng)業(yè)經(jīng)歷的最大價(jià)值，是讓Y Combinator的聯(lián)合創(chuàng)始人保羅·格雷厄姆相中了奧特曼的才華，并把總裁職位交棒于他。
2015年10月，馬斯克與奧特曼在《名利場》峰會(huì)上
格雷厄姆對時(shí)年23歲的奧特曼評價(jià)甚高，稱他像年輕時(shí)的比爾·蓋茨那樣果敢、自信，是硅谷最耀眼的5名初創(chuàng)公司創(chuàng)始人之一，“你可以把他降落到一個(gè)滿是食人者的島上，五年后回來，他就會(huì)成為國王”，他用這樣的言辭形容奧特曼的領(lǐng)袖天賦。
和所有扎根硅谷的人一樣，奧特曼也有著改變世界的偉大夢想。區(qū)別在于，激勵(lì)他的可能是人類終將毀滅的恐懼。
商業(yè)化的舉措為OpenAI惹來了巨大的非議。
奧特曼是一名末日生存愛好者，總是擔(dān)憂著重大災(zāi)難事件的發(fā)生。為了在可能的災(zāi)難中生存下去，他在家里準(zhǔn)備了大量食品、藥物、黃金和槍支，甚至在大蘇爾買了一塊地，以應(yīng)對可能的致命病毒、AI攻擊或核戰(zhàn)爭威脅。
擔(dān)任Y Combinator總裁時(shí)，奧特曼年僅28歲，但他已獲得了足夠的權(quán)力，來施展長久以來的改變世界的抱負(fù)。
作為一名信奉“有效的利他主義”哲學(xué)的年輕CEO—在硅谷，這一哲學(xué)的具體含義是：不擇手段地賺錢，并相信只有自己知道怎么花錢最值當(dāng)，他認(rèn)為自己對增進(jìn)人類福祉有著不可推卸的責(zé)任。
他對身邊人說：我們做的事情“不是關(guān)于創(chuàng)業(yè)，我們關(guān)注的是創(chuàng)新，因?yàn)檫@是我們認(rèn)為的如何使未來變得偉大的方法”。
他將自己的精力投放在那些能夠增進(jìn)人類總體福祉的事情上，先后投資了研究核聚變的Helion，希望將人類整體壽命提升10年的Retro Biosciences等科技公司。日漸成熟的AI技術(shù)自然也成為他關(guān)注的重點(diǎn)。
奧特曼不是那種只關(guān)心技術(shù)的極客，他對技術(shù)的理解總是包含著政治和社會(huì)的視角。他很早便意識到，AI將帶來一場技術(shù)和社會(huì)的雙重革命，至于它帶來的會(huì)是福祉還是災(zāi)難，完全取決于人類如何認(rèn)識并利用這項(xiàng)技術(shù)。
2016年6月，時(shí)任Y Combinator總裁的奧特曼
在經(jīng)歷了蒸汽機(jī)、電力、計(jì)算機(jī)、互聯(lián)網(wǎng)等數(shù)次技術(shù)革命之后，關(guān)于技術(shù)的歷史已經(jīng)足夠豐富，當(dāng)中包括好的經(jīng)驗(yàn)和壞的教訓(xùn)。這讓一些人相信，對尚未實(shí)現(xiàn)的技術(shù)進(jìn)行預(yù)測、管控是可能且必須的，奧特曼就屬于這類人中的一員。
2014年，硅谷討論AI的氛圍已經(jīng)相當(dāng)濃厚，當(dāng)年谷歌收購了DeepMind、微軟開發(fā)了智能助理Cortana，一大批與AI有關(guān)的初創(chuàng)公司如雨后春筍般冒了出來。
改變世界的雄心和“有效的利他主義”觀念的結(jié)合，令?yuàn)W特曼相信，與其把人工智能的命運(yùn)交給他人，不如由自己來主導(dǎo)整個(gè)過程。
他很快找到了志同道合的伙伴—朋友、導(dǎo)師和未來的敵人，埃隆·馬斯克。馬斯克在與谷歌創(chuàng)始人拉里·佩奇交流時(shí)發(fā)現(xiàn)，谷歌將AGI的最終實(shí)現(xiàn)放在了優(yōu)先位置，而不顧它可能帶來的風(fēng)險(xiǎn)問題，這讓他萌生了與之抗衡的想法。
得知馬斯克的意圖后，兩人經(jīng)常在一起討論AI有關(guān)的話題，尤其是如何實(shí)現(xiàn)“人工智能對齊”的目標(biāo)，也就是讓人工智能系統(tǒng)和人類的價(jià)值觀和利益保持一致。磋商的最終結(jié)果，便是成立OpenAI。
如果細(xì)究OpenAI創(chuàng)立時(shí)的初衷，多少會(huì)感到一絲奇怪。一群資本家湊在一起，聲稱OpenAI的創(chuàng)立是為了防止AGI這項(xiàng)技術(shù)最終落入大資本（主要是谷歌）之手，使其發(fā)展能夠符合全體人類利益。這樣偉光正的宣稱有多少可信度？
但至少，這一宣稱能夠幫助奧特曼說服伊利亞·蘇茨克維（他在今年策動(dòng)了對奧特曼的罷免行動(dòng)）的加入，后者是當(dāng)今世上最好的人工智能專家之一，同時(shí)也是一名技術(shù)保守主義者，對AI的安全性和人類的命運(yùn)感到深深的擔(dān)憂。沒有他的加入，OpenAI的一切設(shè)想都只是空談。
2015年，奧特曼開始與蘇茨克維接觸，在一次晚宴上，兩人進(jìn)行了深入交流。除了分享彼此對AGI技術(shù)的看法外，蘇茨克維顯然認(rèn)同奧特曼確保AGI安全性的想法，兩人著重探討了谷歌的DeepMInd是否已經(jīng)無人能敵、能否創(chuàng)建一個(gè)機(jī)構(gòu)與其抗衡等問題。最終，他接受了奧特曼的邀請，脫離谷歌，加入并領(lǐng)導(dǎo)OpenAI的AGI研究項(xiàng)目。
在2019年之前，OpenAI對于奧特曼來說還只是一項(xiàng)副業(yè)，期間他沒有停止在Y Combinator的工作，甚至還考慮競選加州州長的公職。這段時(shí)間，OpenAI保持了其創(chuàng)立時(shí)的理想主義氣質(zhì)，開放、透明，恪盡職守地“為全人類”而工作。
發(fā)生于2018年的奧特曼與馬斯克之間的決裂，改變了這一切?；蛟S是嫌OpenAI的進(jìn)展太慢，或是出于對安全性的擔(dān)憂，馬斯克想要將OpenAI納入自己的事業(yè)版圖之中，但奧特曼和蘇茨克維拒絕了這一要求。
2023年11月1日，奧特曼在英國劍橋演講
在謀求公司控制權(quán)失敗后，馬斯克帶著他承諾的10億美元捐贈(zèng)脫離了OpenAI。OpenAI頓時(shí)陷入了資金困境，奧特曼開始四處尋找投資，甚至還詢問了美國政府的意愿，但沒有人愿意資助這樣一家愿景飄渺的非營利組織。
這讓奧特曼意識到，如果OpenAI不能實(shí)現(xiàn)盈利，連存活都成問題，遑論實(shí)現(xiàn)AGI。這一結(jié)論很快成為內(nèi)部的共識，成為OpenAI邁向商業(yè)化的起點(diǎn)。
為了解決資金問題，他在OpenAI之下設(shè)立了一個(gè)營利性組織，吸引外部資本加入，并為投資者設(shè)立了100倍的利潤上限，超出的部分將歸OpenAI所有。這看起來是一個(gè)兩全其美的方法，既能保證OpenAI的存活，又保留了其性質(zhì)上的非營利性。
“開源GPT-2將變得十分危險(xiǎn)，可能會(huì)被用來做壞事?！?/blockquote>
很快，奧特曼就為OpenAI找來了10億美元的投資，OpenAI也首次有了估值：300億美元。
正在這時(shí)，奧特曼辭去了Y Combinator的工作，專職擔(dān)任OpenAI的CEO。這一舉動(dòng)發(fā)生在一個(gè)十分曖昧的時(shí)間點(diǎn)，留下了極大的解讀空間。
人們可以說，奧特曼專職擔(dān)任CEO是為了幫助OpenAI更好地實(shí)現(xiàn)愿景，但經(jīng)由架構(gòu)變更，OpenAI已經(jīng)開拓出了盈利的空間，不再是一家單純的非營利機(jī)構(gòu)。此外，OpenAI在技術(shù)層面剛剛找到了大型語言模型這條真正可行的技術(shù)路線，開發(fā)出了GPT-2，AGI不再是遙不可及的科幻概念。人們也可以說，奧特曼將自己押注在了AGI這個(gè)“只此一次”的機(jī)遇上，這可以令他變得“真正偉大”。
他的決定究竟有多少是基于“全人類利益”的考量？類似的模糊性，還將在奧特曼身上反復(fù)出現(xiàn)。
商業(yè)化的舉措為OpenAI惹來了巨大的非議，批評來自評論家、內(nèi)部員工和競爭對手。
不少評論家質(zhì)疑所謂的100倍利潤上限只是一個(gè)幌子，因?yàn)樗赶虻氖侨f億級的收益前景—一個(gè)難以達(dá)到的限制和沒有限制是一回事。一些內(nèi)部高管和員工無法忍受OpenAI的商業(yè)化轉(zhuǎn)型，離開并創(chuàng)辦了Anthropic，與OpenAI進(jìn)行直接競爭。
反對聲量最大的當(dāng)屬馬斯克，他在推特上對OpenAI發(fā)起攻擊：“我仍然很困惑，一個(gè)我捐贈(zèng)了1億美元的非營利組織是如何變成一個(gè)市值300億美元的營利性組織的。如果這是合法的，為什么不是每個(gè)人都這么做呢？”
雖然奧特曼回復(fù)稱這一切都是合規(guī)的，但OpenAI呈現(xiàn)給外界的形象還是出現(xiàn)了裂痕：如果一家非營利組織能夠如此絲滑且合規(guī)地完成從非營利到營利的轉(zhuǎn)型，誰能擔(dān)保OpenAI不會(huì)進(jìn)一步變質(zhì)？
從奧特曼和OpenAI后續(xù)的行動(dòng)來看，他并沒有很好地回答人們心頭的疑問。
2023年11月2日，英國米爾頓凱恩斯，奧特曼出席人工智能安全峰會(huì)
OpenAI，難言使命
ChatGPT3.5震撼了世界，緊接著，能力指數(shù)級增長的ChatGPT4登場，目不暇接的突破性進(jìn)展令世界眩暈了。奧特曼也成為了“搖滾明星”，在政府、高校、論壇和網(wǎng)絡(luò)節(jié)目之間進(jìn)行“巡回演講”，總統(tǒng)、教授、極客和學(xué)生都是他的聽眾。
他的“萬物摩爾定律”開始受到重視，這一理論預(yù)測宇宙中的智能體數(shù)量將在每18個(gè)月后翻一番。
以此為基礎(chǔ)，奧特曼開始暢想AGI實(shí)現(xiàn)之后的社會(huì)圖景，“這場革命將創(chuàng)造驚人的財(cái)富，以至于每個(gè)成年美國人，從現(xiàn)在開始的10年之內(nèi)，每年都能從其意外之財(cái)中獲得1.35萬美元的報(bào)酬”。
他同時(shí)也提醒道，技術(shù)飛躍也預(yù)示著更多權(quán)力將從勞動(dòng)力轉(zhuǎn)移到資本，如果公共政策不能及時(shí)調(diào)整，那么大多數(shù)人的生活將變得更糟。為此，他提出了基于AI的“全民基本收入”設(shè)想：由于AI公司將會(huì)成為未來生產(chǎn)力的主要來源，因此通過稅收的方式將這些財(cái)富分配給民眾，將有效地增進(jìn)整體福祉。
此外，他不斷重申AGI可能帶來的危險(xiǎn)，包括但不限于信息作假、操縱選舉、經(jīng)濟(jì)崩潰等，并呼吁建立全球協(xié)作的監(jiān)管機(jī)制。
對于OpenAI這樣一家強(qiáng)調(diào)“使命”的組織，不斷地對外界拋出對AI的思考，讓奧特曼看起來是一名審慎、負(fù)責(zé)任的技術(shù)推動(dòng)者。
然而，隨著OpenAI的影響力擴(kuò)大、經(jīng)營策略發(fā)生轉(zhuǎn)變，他的形象開始變得矛盾且復(fù)雜。
與商業(yè)化轉(zhuǎn)型并行的，是OpenAI在技術(shù)和產(chǎn)品層面的保守轉(zhuǎn)向。在開發(fā)出GPT-1時(shí)，OpenAI面對的局面還很簡單，只要繼續(xù)透明、開源，維持其純粹性即可。但是當(dāng)GPT-2研發(fā)出來后，一些內(nèi)部人員發(fā)現(xiàn)，局面正在變得復(fù)雜。
2023年5月23日，法國總統(tǒng)馬克龍?jiān)趷埯惿釋m與奧特曼討論人工智能
他在道德上純潔無瑕的形象，很快受到了來自O(shè)penAI內(nèi)部的挑戰(zhàn)。
GPT-2有超過10億個(gè)參數(shù)，它能做的事情比GPT-1多了很多，至少能夠做出一些令人擔(dān)憂的事情，例如制造假新聞、四處傳播垃圾郵件。首席技術(shù)官米拉·穆拉蒂表示，當(dāng)時(shí)整個(gè)團(tuán)隊(duì)已經(jīng)意識到開源GPT-2將變得十分危險(xiǎn)，可能會(huì)被用來做壞事。
最終OpenAI選擇先發(fā)布一個(gè)較弱的版本，等情況穩(wěn)定之后再發(fā)布完整版。從這時(shí)起，“確保AGI的安全性”，從OpenAI的遠(yuǎn)景變成了真切需要考慮的事情。
到了GPT-3.5和GPT-4的時(shí)候，ChatGPT已經(jīng)表現(xiàn)出“令人恐懼”的能力。此時(shí)，奧特曼決定將其逐步開放給公眾使用，這被稱為“迭代部署”。
奧特曼相信，秘密構(gòu)建一個(gè)超級強(qiáng)大的AI系統(tǒng)，然后一次性將它投放到世界上，并不會(huì)有好結(jié)果。他希望通過迭代部署的策略，讓人們在ChatGPT還很不完善的時(shí)候體驗(yàn)、感受它，讓整個(gè)世界適應(yīng)AI帶來的影響，并弄清楚如何才能讓它變得更安全、更好。
他希望通過這種方式，減輕技術(shù)革命帶來的陣痛，諸如失業(yè)、貧困甚至戰(zhàn)爭，這在歷史上反復(fù)發(fā)生。
與此同時(shí)，OpenAI徹底放棄了最開始的開源做法，在公布的關(guān)于ChatGPT-4的論文中，沒有提到任何具體的模型數(shù)據(jù)、能源成本和硬件、方法等信息。理由很簡單，為了全人類的安全著想。
但是，ChatGPT3.5的發(fā)布還是給世界帶來的不小的混亂和困擾，互聯(lián)網(wǎng)上開始充斥著粗制濫造的假新聞、假論文，優(yōu)美、靈動(dòng)的語言開始被GPT同質(zhì)化、了無生氣的文字代替，真實(shí)和虛擬的邊界開始變得模糊。
這在奧特曼看來是“必要的代價(jià)”，他一面安撫公眾的情緒，警告人們ChatGPT仍然很不完善，不要過分依賴它；一面極力推動(dòng)ChatGPT的發(fā)展。
任何試圖阻止AI繼續(xù)推進(jìn)的舉措都會(huì)引來他的抗議，他拒絕在呼吁暫停六個(gè)月發(fā)展AI系統(tǒng)的聯(lián)名信上簽名；面對歐盟的監(jiān)管意圖，他回應(yīng)以將OpenAI的服務(wù)從歐洲撤出的威脅。不過，這些表態(tài)不妨礙他仍然高度認(rèn)同AI可能會(huì)引發(fā)人類滅絕的風(fēng)險(xiǎn)，并希望提前部署防范措施。
2023年6月12日，奧特曼在日本慶應(yīng)義塾大學(xué)發(fā)表演講
在從微軟那里籌集了10億美元的資金后，雙方不斷擴(kuò)大合作范圍，最終，微軟下了更大的賭注：100億美元的追加投資換取OpenAI技術(shù)的獨(dú)家使用權(quán)。這在事實(shí)上將OpenAI從一家非營利機(jī)構(gòu)變成了服務(wù)于微軟的科技公司。
在雙方的合作條款中，有這樣一條舉措：當(dāng)OpenAI真正實(shí)現(xiàn)AGI時(shí)，將收回一切使用權(quán)。至于何時(shí)才算實(shí)現(xiàn)了AGI，則由OpenAI董事會(huì)說了算。以一種任意且模糊的方式對OpenAI的“崇高使命”進(jìn)行呼應(yīng)。
拿著這些錢，OpenAI開始擴(kuò)展其業(yè)務(wù)范圍，打磨ChatGPT、與微軟的產(chǎn)品進(jìn)行協(xié)同、打造開發(fā)者生態(tài)系統(tǒng)和應(yīng)用商店，甚至還開始開展投資活動(dòng)，為利用OpenAI技術(shù)的初創(chuàng)公司提供資金支持。這些業(yè)務(wù)和OpenAI的初心，AGI研究，擺在了同等重要的位置上。
OpenAI開始大舉擴(kuò)張，人員規(guī)模較之前擴(kuò)大了一倍，這些后來者到底是受到了使命的召喚還是利益的驅(qū)使，沒有人能說得清。
但至少，員工開始將股權(quán)作為其薪酬方案的標(biāo)準(zhǔn)組成部分，與從前更關(guān)注AGI的安全性和可靠性的員工相比，現(xiàn)在的員工們，更關(guān)心如何提出一個(gè)10億美元級別的業(yè)務(wù)設(shè)想。
奧特曼和OpenAI用來解釋這一切的理由是，當(dāng)AGI真正實(shí)現(xiàn)的時(shí)候，整個(gè)世界將發(fā)生翻天覆地的變化，在那個(gè)新世界里，傳統(tǒng)的金錢觀念、財(cái)務(wù)安排將不再發(fā)揮作用。
言下之意，這些商業(yè)上的安排，不過是實(shí)現(xiàn)AGI之前的權(quán)宜之計(jì)。沒人知道，奧特曼本人是否真的信奉這一套說辭。
一面是搖旗吶喊的“AI時(shí)代的奧本海默”，為AI之于人類的風(fēng)險(xiǎn)奔走相告。一面又是AI商業(yè)化的激進(jìn)推動(dòng)者。奧特曼的面目，至此變得越來越復(fù)雜、模糊。
面目模糊的CEO
38歲的奧特曼，至今有著一副呆萌溫馴、人畜無害的面孔，談話時(shí)語調(diào)溫和，透著謙遜。但熟悉他的人都知道，和他表現(xiàn)出來的老好人形象不同，這是一位擁有不可撼動(dòng)的權(quán)力意志的狠角色。
他的伯樂格雷厄姆更是直接指出他身為權(quán)力動(dòng)物的一面：相比于錢，奧特曼更渴望的是權(quán)力。這或許是他不要任何股份投身OpenAI的主要?jiǎng)訖C(jī)。
少年時(shí)代，奧特曼便已展現(xiàn)出了非同凡響的好勝心與自決能力。他出生于美國圣路易斯的一個(gè)猶太中產(chǎn)家庭，是四兄妹中的老大。每天晚上，家人都會(huì)圍在一起吃飯，期間進(jìn)行一些娛樂活動(dòng)，諸如乒乓球、臺球、字謎游戲等。
他的弟弟回憶道，每當(dāng)這時(shí)，自己的哥哥總會(huì)表現(xiàn)出“我必須贏，一切都由我說了算”的熱烈情緒，力求贏得比賽。
十幾歲時(shí)，奧特曼發(fā)現(xiàn)了自己的同性戀取向，對生活在風(fēng)氣保守的中西部小伙子來說，這通常意味著背負(fù)了一樁“沉重的秘密”，但奧特曼很快就想辦法營造出了一個(gè)能讓自己透透氣的環(huán)境。
他向父母坦白了自己的性向，爭取他們的理解，并在自己的高中組織了一場支持同性戀行為的集會(huì)。這一舉動(dòng)遭到了當(dāng)?shù)乇Ｊ貓F(tuán)體的批評，于是他憤而在學(xué)校公開出柜，并把道德壓力拋給了學(xué)校：想成為一個(gè)壓制個(gè)體的環(huán)境，還是個(gè)對不同思想開放的地方？有人回憶稱，他的舉動(dòng)“改變了這所學(xué)?！薄?p>
2023年11月16日，美國舊金山，APEC峰會(huì)期間，奧特曼與嘉賓合影
奧特曼正將自己塑造為AGI的裁決者和“人類利益”的代言人。
今年5月，奧特曼主動(dòng)接受了美國國會(huì)的質(zhì)詢。他再度施展了自己的魅力，成功迷倒了國會(huì)議員們。
聽證會(huì)現(xiàn)場的氣氛融洽，絲毫沒有以前比爾·蓋茨、扎克伯格坐在這里時(shí)的劍拔弩張。小組委員會(huì)主席理查德·布魯門撒爾甚至用聲音克隆軟件復(fù)制了自己的音色，讓ChatGPT以自己的口吻發(fā)表開場白。
最終，這場聽證會(huì)成為了奧特曼的秀場。除了侃侃而談他對AI發(fā)展的看法、迎合議員們對AGI的監(jiān)管意愿，一句“我沒有OpenAI的股份，我憑著熱愛從事這份工作”，讓他站在了道德制高點(diǎn)—還有誰比利益無涉的他更有資格掌舵AGI的發(fā)展方向呢？
然而，他在道德上純潔無瑕的形象，很快受到了來自O(shè)penAI內(nèi)部的挑戰(zhàn)。
2023年11月17日，OpenAI官網(wǎng)發(fā)出聲明稱，奧特曼在與董事會(huì)的溝通中并不一貫坦誠，阻礙了董事會(huì)履行職責(zé)的能力，這讓董事會(huì)對其繼續(xù)領(lǐng)導(dǎo)OpenAI的能力不再有信心，故而解除奧特曼的CEO職務(wù)。
這場罷免由蘇茨克維聯(lián)合其他3名董事會(huì)成員發(fā)起，與奧特曼相比，蘇茨克維是一個(gè)更為審慎、純粹的研究者，他的行動(dòng)暴露了OpenAI內(nèi)部在AGI安全、商業(yè)化和發(fā)展速度等議題上存在的廣泛分歧。
后來故事廣為人知，這場歷時(shí)僅5天的“政變”以蘇茨克維的徹底失敗告終，他沒能獲得新聞界、投資者乃至內(nèi)部員工的支持，奧特曼重回OpenAI，并重組了董事會(huì)。
不過，疑問還是留了下來，如果罷免聲明不僅僅是一個(gè)借口，那么蘇茨克維們提到的不坦誠究竟是什么？
事后，一份OpenAI內(nèi)部的訂購意向書曝光，奧特曼任CEO期間，OpenAI承諾從一家名叫Rain AI的初創(chuàng)公司訂購芯片，金額高達(dá)5100萬美元。重要的是，這是一家奧特曼本人參與投資的企業(yè)。
2023年5月16日，美國華盛頓特區(qū)，奧特曼接受美國國會(huì)的質(zhì)詢
和奧特曼共事的人站出來說，奧特曼是一個(gè)狡猾的人，有時(shí)候還會(huì)為了達(dá)成自己的目的故意誤導(dǎo)和欺騙人。
一個(gè)廣為流傳的例子是，前董事會(huì)成員Helen Toner發(fā)表了一篇論文，認(rèn)為OpenAI發(fā)布的ChatGPT引發(fā)了科技界的軍備競賽。奧特曼對此感到不滿，他的做法是向其他董事私下表達(dá)了董事會(huì)成員Tasha McCauley希望Toner離開的意愿，事實(shí)上，McCauley沒有說過這樣的話。
此外，還有員工表示，奧特曼存在對員工“心理虐待”的行為，除了引發(fā)員工間的敵意和不正常競爭外，當(dāng)有員工對奧特曼提出批評意見時(shí)，他會(huì)報(bào)之以公開詆毀，使其難堪。
這些舉動(dòng)放在一個(gè)普通的公司里，或許都是被忽視的。但是對于一家以“全人類利益”為使命的機(jī)構(gòu)來說，掌舵者的道德性是十分重要的考量因素。
如果奧特曼不能做到坦率和正直，那么當(dāng)AGI即將實(shí)現(xiàn)的時(shí)候，如何保證他能做出符合“全人類利益”的正確選擇？
在青年時(shí)期的一篇博客里，奧特曼分享了自己窺見的秘密：“你可以在很大程度上讓世界順從你的意愿—大多數(shù)人甚至連試都沒試過。”從被罷免之后得到的山呼海嘯般的支持來看，他顯然深諳其中的竅門。
種種跡象表明，奧特曼正將自己塑造為AGI的裁決者和“人類利益”的代言人，他在不同的場合將自己與奧本海默放在一起比較，援引后者的名言：技術(shù)之所以發(fā)生，是因?yàn)樗强赡艿?。至于怎樣才算正確使用和發(fā)展AGI，須由他和OpenAI來定義。
矛盾之處在于，他在各種場合不斷強(qiáng)調(diào)，要確保AGI掌握在全人類手中，同時(shí)卻讓公眾遠(yuǎn)離ChatGPT真正的秘密；他呼吁對AI可能造成的危險(xiǎn)遠(yuǎn)景進(jìn)行防范，卻放過正在發(fā)生的混亂。
他的一切言論，都可以從商業(yè)和理想的角度進(jìn)行解讀，進(jìn)而得出截然不同的結(jié)論。
他呈現(xiàn)出的復(fù)雜性，究竟是因?yàn)锳I技術(shù)本身的沉重，還是源于他尚未被窺探到的人性。人們該將他的表現(xiàn)看作先知的格局還是騙子的障眼法？
或許只能等到AGI實(shí)現(xiàn)的那一刻，人們才會(huì)得知，自己追捧的究竟是一名執(zhí)劍人還是野心家。
責(zé)任編輯何承波 hcb@nfcmag.com
猜你喜歡奧特曼”不靈了 幼兒教育·教育教學(xué)版(2023年9期)2023-11-06 06:18:46下期話題“奧特曼”不靈了 幼兒教育·教育教學(xué)版(2023年5期)2023-05-26 19:33:34“奧特曼”不靈了 幼兒教育·教育科學(xué)版(2023年5期)2023-05-24 13:06:12想做聯(lián)名爆款?超級飛俠、熊出沒、奧特曼等“高光”IP等你來聊 玩具世界(2021年5期)2021-03-08 08:42:02奧特曼大揭秘 小哥白尼(神奇星球)(2020年11期)2021-01-18 05:25:50真假奧特曼 紅領(lǐng)巾·探索(2018年9期)2018-10-24 06:08:48百萬奧特曼 環(huán)球時(shí)報(bào)(2017-01-26)2017-01-26 06:48:56時(shí)空點(diǎn)基——奧特曼 小小藝術(shù)家(2016年3期)2016-05-16 02:57:21“奧特曼”變“土豪金” 紅領(lǐng)巾·探索(2014年2期)2015-02-09 16:35:50科學(xué)小衛(wèi)士（三） 紅蜻蜓·低年級(2014年3期)2014-07-09 02:28:18
