劉高暢
3月19日,英偉達(dá)公司(NVDA)創(chuàng)始人兼首席執(zhí)行官黃仁勛在年度GPU技術(shù)大會(huì)(GTC)上發(fā)表主題演講《見證AI的變革時(shí)刻》,正式拉開2024年GTC大會(huì)的序幕。在兩個(gè)小時(shí)的演講中,黃仁勛圍繞五大板塊,介紹了英偉達(dá)的最新研發(fā)進(jìn)展:Blackwell 平臺、創(chuàng)新軟件NIMs、AI 平臺NEMO 和AI工坊(AI foundry)服務(wù),以及仿真平臺Omniverse 和適用于自主移動(dòng)機(jī)器人的Isaac Robotics 平臺。
時(shí)隔兩年,英偉達(dá)了推出全新Blackwell架構(gòu)GPU。Blackwell得名于美國數(shù)學(xué)家David Harold Blackwell,主要用于數(shù)據(jù)中心,針對當(dāng)前火爆的AI大模型優(yōu)化,訓(xùn)練、推理性能和能效均大幅提升,與Grace CPU、新一代網(wǎng)絡(luò)芯片等產(chǎn)品一起,面向生成式AI共同組成完整解決方案。
黃仁勛表示,Blackwell GPU 是“世界上最強(qiáng)大的芯片”,將為“計(jì)算的新時(shí)代”提供動(dòng)力。Blackwell 擁有六項(xiàng)革命性技術(shù),共同支持AI訓(xùn)練和實(shí)時(shí)LLM推理,模型可擴(kuò)展至10萬億個(gè)參數(shù)?;贐lackwell的處理器與其前身Hopper相比,具有5倍AI性能,4倍片上存儲,而功耗顯著降低至四分之一。黃仁勛還特意稱,Blackwell 不只是芯片,而是一個(gè)全新的平臺。
隨著Blackwell架構(gòu)GPU發(fā)布,英偉達(dá)順勢推出了“Grace Blackwell”GB200 超級芯片。從架構(gòu)上來看,GB200 通過900GB/s 的超低功耗NV?Link將兩個(gè)Blackwell B20連接到一個(gè)Grace CPU。其中最為關(guān)鍵的B200 芯片擁有2080 億個(gè)晶體管,采用臺積電定制的4NP 工藝制造,Die 之間的通信速度可以達(dá)到10TB/ 秒。在此基礎(chǔ)上,一個(gè)GB200 加速卡結(jié)合了兩個(gè)B200 GPU 和一個(gè)獨(dú)立的Grace CPU,將能夠使大模型推理工作負(fù)載的性能大幅提升,在擁有1750億參數(shù)的GPT-3大模型基準(zhǔn)測試中,GB200的性能是H100 的7 倍,訓(xùn)練速度是H100 的4倍。此外,GB200 是NVIDIAGB200NVL72的關(guān)鍵組件。GB200 NVL72作為單個(gè)GPU 運(yùn)行,具有1.4 exaflops的AI性能和30TB的快速內(nèi)存,用于LLM推理工作負(fù)載,并將成本和能源消耗降低多達(dá)25倍。
資料來源:英偉達(dá),國盛證券
OpenAI 在2022 年推出ChatGPT后,這項(xiàng)新技術(shù)在幾個(gè)月內(nèi)吸引了過億用戶,并促使幾乎所有行業(yè)的開發(fā)活動(dòng)激增。進(jìn)入2024年,企業(yè)開始將重點(diǎn)轉(zhuǎn)向全面的生產(chǎn)部署。黃仁勛表示,未來的公司會(huì)將精力放在組裝AI模型,賦予它們?nèi)蝿?wù),給出工作產(chǎn)品示例,審查計(jì)劃和中間結(jié)果,而不是編寫軟件。為此,英偉達(dá)推出了推理微服務(wù),即NVIDIA NIM。該服務(wù)作為NVIDIA AI企業(yè)版的一部分,將以每年每GPU 4500 美元、或云端每小時(shí)每GPU 1美元的價(jià)格,為開發(fā)AI驅(qū)動(dòng)的企業(yè)在應(yīng)用和部署AI 模型上提供了一條簡化的路徑。
NIM支持許多AI模型,包括大型語言模型(LLM)、視覺語言模型(VLM)以及語音、圖像、視頻、3D、藥物發(fā)現(xiàn)、醫(yī)學(xué)成像等模型。NIM 微服務(wù)通過打包算法、系統(tǒng)和運(yùn)行時(shí)優(yōu)化并添加行業(yè)標(biāo)準(zhǔn)API簡化了AI模型部署流程,使開發(fā)者能夠?qū)⒉渴饡r(shí)間從幾周縮短到幾分鐘。
英偉達(dá)同時(shí)新發(fā)布了數(shù)十種企業(yè)級生成式AI微服務(wù),企業(yè)可以使用這些微服務(wù)在自己的平臺上創(chuàng)建和部署定制應(yīng)用程序,同時(shí)完全擁有并控制其知識產(chǎn)權(quán)。黃仁勛表示,現(xiàn)有的企業(yè)平臺擁有可以轉(zhuǎn)化為生成式AI 輔助的數(shù)據(jù)寶藏;這些與英偉達(dá)的合作伙伴生態(tài)系統(tǒng)共同創(chuàng)建的容器化AI微服務(wù)是每個(gè)行業(yè)的企業(yè)成為AI 公司的基石。
在GTC大會(huì)上,英偉達(dá)還發(fā)布了人形機(jī)器人基礎(chǔ)模型“GR00T 項(xiàng)目”,黃仁勛稱這是人工智能和機(jī)器人技術(shù)的“下一波浪潮”。
GR00T是一個(gè)通用的人形機(jī)器人基礎(chǔ)模型,旨在推動(dòng)其在機(jī)器人技術(shù)和具體化人工智能方面的突破。由GR00T 驅(qū)動(dòng)的機(jī)器人將被設(shè)計(jì)為理解自然語言并通過觀察人類行動(dòng)來模仿動(dòng)作,包括快速學(xué)習(xí)協(xié)調(diào)、靈巧等技能,以便在現(xiàn)實(shí)世界中導(dǎo)航、適應(yīng)和互動(dòng)等。在GTC主題演講中,黃仁勛展示了幾種這樣的機(jī)器人完成各種任務(wù)。
作為Project GR00T的一部分,計(jì)算機(jī)Jetson Thor同步推出。專為人形機(jī)器人設(shè)計(jì)的Jetson Thor是一款新的計(jì)算平臺,能夠執(zhí)行復(fù)雜任務(wù),并與人類和機(jī)器安全、自然地互動(dòng)。它采用了為性能、功耗和尺寸優(yōu)化的模塊化架構(gòu)。同時(shí),Isaac機(jī)器人平臺也進(jìn)行了重大升級,包括生成式AI基礎(chǔ)模型以及用于仿真和AI 工作流程基礎(chǔ)設(shè)施的工具。新的Isaac平臺能力預(yù)計(jì)將在下一個(gè)季度可用。
DRIVE Thor 是一款為生成式AI應(yīng)用設(shè)計(jì)的車載計(jì)算平臺,隨著專為LLM 和生成式AI 工作負(fù)載而設(shè)計(jì)的Blackwell架構(gòu)的推出,DRIVE Thor 將與Blackwell架構(gòu)整合,預(yù)計(jì)最早在明年的生產(chǎn)車輛中使用。
英偉達(dá)汽車業(yè)務(wù)副總裁吳新宙表示,加速計(jì)算帶來了包括生成式AI在內(nèi)的變革性突破,而這正在重新定義自動(dòng)駕駛與全球交通運(yùn)輸行業(yè)。DRIVE Orin 依舊是當(dāng)下智能車型的AI 汽車計(jì)算機(jī)首選,但現(xiàn)在越來越多的領(lǐng)先車企已經(jīng)開始將新一代的DRIVE Thor 放進(jìn)了他們對下一代AI車輛的規(guī)劃中。
英偉達(dá)宣布與多家中國車企加強(qiáng)基于DRIVEThor 平臺的合作,包括比亞迪、小鵬汽車、以及廣汽埃安旗下的Hyper品牌。在此之前,理想汽車和吉利旗下的極氪汽車均宣布將采用英偉達(dá)的DriveThor技術(shù)。
算力側(cè):中科曙光、浪潮信息、海光信息、利通電子、高新發(fā)展、中際旭創(chuàng)、新易盛、工業(yè)富聯(lián)、寒武紀(jì)、神州數(shù)碼等。
自動(dòng)駕駛:江淮汽車、賽力斯、長安汽車、北汽藍(lán)谷、德賽西威、中科創(chuàng)達(dá)、華依科技、萬馬科技、阿爾特、菱電電控等。
機(jī)器人:三花智控、鳴志電器、拓普集團(tuán)、綠的諧波。
AI 相關(guān):金山辦公、大華股份、??低?、昆侖萬維、科大訊飛、潤達(dá)醫(yī)療、中廣天澤、漫步者、紫天科技、萬興科技。
資料來源:英偉達(dá),國盛證券