亚洲免费av电影一区二区三区,日韩爱爱视频,51精品视频一区二区三区,91视频爱爱,日韩欧美在线播放视频,中文字幕少妇AV,亚洲电影中文字幕,久久久久亚洲av成人网址,久久综合视频网站,国产在线不卡免费播放

        ?

        大模型企業(yè)分化算力成買方市場

        2024-01-08 00:00:00沈怡然周悅
        記者觀察·中旬刊 2024年10期
        關(guān)鍵詞:百度模型企業(yè)

        2024年至今,人工智能產(chǎn)業(yè)發(fā)生了階段性轉(zhuǎn)變。截至2024年10月9日,網(wǎng)信辦共通過了188項(xiàng)生成式人工智能備案,有188個(gè)大模型可以上線提供生成式人工智能服務(wù)。超過三成的大模型在通過備案后未進(jìn)一步公開其進(jìn)展情況;僅有約一成的大模型仍在加速訓(xùn)練模型;接近一半的大模型則轉(zhuǎn)向了Al應(yīng)用的開發(fā)。

        這一變化也傳導(dǎo)至上游的算力市場。2024年9月27日至29日在中國算力大會(huì)召開期間,算力運(yùn)營方、建設(shè)方和芯片供應(yīng)商都表示,國內(nèi)算力的供需關(guān)系已不再緊張。

        2022年以來,互聯(lián)網(wǎng)公司、人工智能企業(yè)爭相采購算力設(shè)備,以運(yùn)營商為代表的央國企投入巨資建設(shè)算力中心。供應(yīng)鏈上的AI服務(wù)器經(jīng)常缺貨,算力GPU \"一卡難求”,數(shù)月內(nèi)價(jià)格翻倍。

        從2024年開始,采購和租用算力設(shè)備的企業(yè)顯著減少,2024年下半年以來,算力中心的機(jī)架出現(xiàn)了一定程度的空置,曾被炒到15萬元一塊的英偉達(dá)高性能加速卡A100的價(jià)格不再上漲,另一款性能配置相對(duì)較低的4090顯卡被算力企業(yè)頻繁采購用作算力加速芯片。算力已經(jīng)轉(zhuǎn)入買方市場。

        01

        大模型企業(yè)分化

        算力的使用者——大模型企業(yè)正出現(xiàn)分化。

        截至2024年8月底,網(wǎng)信辦共通過了188項(xiàng)生成式人工智能備案。然而,據(jù)統(tǒng)計(jì),有60個(gè)(32%)大模型在備案通過后,沒有再公布過提升大模型參數(shù)量級(jí)或應(yīng)用落地的進(jìn)展,有9個(gè)(5%)大模型更新了版本,但未說明參數(shù)量級(jí)及預(yù)訓(xùn)練數(shù)據(jù)量變化。這些模型絕大多數(shù)來自中小型企業(yè)或機(jī)構(gòu),例如深言科技、聆心智能等企業(yè)的多個(gè)開源社區(qū)項(xiàng)目近一年沒有更新。

        這188個(gè)大模型中,仍有22個(gè)模型在加速訓(xùn)練,在今年更新了版本并增加參數(shù)量及預(yù)訓(xùn)練數(shù)據(jù)量。這些模型主要來自大型互聯(lián)網(wǎng)公司、運(yùn)營商、AI大模型企業(yè),其中只有4家企業(yè)發(fā)布萬億級(jí)參數(shù)的大模型,且大規(guī)模增加了預(yù)訓(xùn)練的數(shù)據(jù)量,包括騰訊、中國電信以及兩家大模型創(chuàng)業(yè)公司MiniMax和階躍星辰。這些企業(yè)對(duì)用于訓(xùn)練大模型的算力明顯增加了需求。2024年以來,騰訊、中國電信已經(jīng)建成萬卡集群算力池,MiniMax則是在3月首批入駐中國電信上海臨港國產(chǎn)萬卡算力池。

        另外18個(gè)模型的參數(shù)量在百億至千億級(jí)別,參數(shù)量和預(yù)訓(xùn)練數(shù)據(jù)量的增加較為有限,這些模型來自百度、阿里巴巴、科大訊飛、商湯科技、華為等企業(yè)。這些廠商也在加速更新基礎(chǔ)模型。阿里巴巴發(fā)布了通義千問2.5版本,參數(shù)量達(dá)到千億級(jí)別,這是繼去年10月2.0版本后的一次重大更新。2024年上半年,商湯科技將“日日新”大模型推進(jìn)至6000億參數(shù)規(guī)模。相比之下,去年更新較快的百度步伐有所放緩,其文心4.0大模型自去年10月以來未有新版本發(fā)布。一位百度公司的技術(shù)人士表示,百度的基礎(chǔ)模型一直在進(jìn)行最前沿的AI訓(xùn)練,只是目前還沒公布成果。

        此外,在通過備案的大模型中,有接近50%在今年轉(zhuǎn)向AI應(yīng)用。大多數(shù)模型已落地到已有應(yīng)用中或推出了新應(yīng)用。例如,360瀏覽器接入360智腦大模型后,增加了AI搜索功能,能夠根據(jù)提問生成深度回答并進(jìn)行多輪追問;金山辦公在WPS辦公套件中增加了AI生成PPT和文案的功能。這些模型通常用于實(shí)際任務(wù),即從訓(xùn)練階段進(jìn)入推理階段,所需算力會(huì)明顯減少。

        一些大模型廠商的基礎(chǔ)模型在達(dá)到百億參數(shù)量后轉(zhuǎn)向了行業(yè)應(yīng)用,為避免后期使用成本過高就沒有擴(kuò)充參數(shù)量,因此也不需要過大的算力。

        IDC中國副總裁兼首席分析師武連峰稱,“百模大戰(zhàn)”開啟一年多以來,市場出現(xiàn)了分化現(xiàn)象:少數(shù)模型繼續(xù)沿著通用大模型的路徑,邁向千億或萬億參數(shù)量級(jí);另一些從基礎(chǔ)模型研發(fā)轉(zhuǎn)向了應(yīng)用層面的開發(fā),市場上也涌現(xiàn)出一批基于大模型技術(shù)的工具類應(yīng)用。這些應(yīng)用同質(zhì)化明顯,沒有出現(xiàn)廣泛使用的案例。

        根據(jù)第三方數(shù)據(jù)服務(wù)商AI產(chǎn)品榜發(fā)布的9月數(shù)據(jù),全球排名前十的AI應(yīng)用中有7個(gè)來自美國,2個(gè)來自中國——百度搜索AI智能回答和360AI搜索。美國AI應(yīng)用ChatGPT的月訪問量為32.3億,百度搜索AI智能回答的月訪問量約為ChatGPT的八分之一,360AI搜索的訪問量不到ChatGPT的十分之一。

        02

        算力變成買方市場

        大模型市場與算力市場關(guān)聯(lián)密切。按照規(guī)模定律(Scaling law)的原理,如果要訓(xùn)練更大的大模型,需要增加參數(shù)量或預(yù)訓(xùn)練數(shù)據(jù)量,如果模型的參數(shù)量增加10倍,所需算力可能增加100倍甚至更多。

        當(dāng)前,一些大模型停留在了訓(xùn)練階段,另一些轉(zhuǎn)向了應(yīng)用和實(shí)際交付階段,但尚未被廣泛使用。從需求方看,相關(guān)企業(yè)對(duì)訓(xùn)練算力的需求明顯減少,對(duì)推理算力的需求也沒有出現(xiàn)爆發(fā)式增長,而從供給方看,中國已建和正在建設(shè)的智算中心超250個(gè),算力持續(xù)供給仍未停止。

        建造一座算力設(shè)施通常需要投資方、運(yùn)營方、建設(shè)方的合作。投資方主要是地方政府和央企、國企;運(yùn)營方包括電信運(yùn)營商以及互聯(lián)網(wǎng)公司、華為等企業(yè),還有少數(shù)房地產(chǎn)等傳統(tǒng)企業(yè)跨界參與;建設(shè)方通常包含服務(wù)器提供商和GPU芯片提供商。

        2024年以來,采購算力服務(wù)的客戶逐漸減少,而詢價(jià)和談判時(shí)間更長,買方越來越注重產(chǎn)品的性價(jià)比和技術(shù)規(guī)格。此外,智算中心也出現(xiàn)了一定程度的空置。中國電信在全國各地投產(chǎn)了10個(gè)智算中心,但很多算力中心都沒有被充分利用。

        根據(jù)中國信息通信研究院數(shù)據(jù),中國算力設(shè)施中的機(jī)架數(shù)量在2024年上半年僅增長2.5%,而2023年全年增長了25%。算力設(shè)施中的機(jī)架數(shù)量間接反映了實(shí)際的算力規(guī)模。

        2024年《政府工作報(bào)告》提出,適度超前建設(shè)數(shù)字基礎(chǔ)設(shè)施,加快形成全國一體化算力體系,培育算力產(chǎn)業(yè)生態(tài)。諸多地區(qū)當(dāng)下的算力建設(shè)規(guī)模是根據(jù)未來2年至3年的算力需求來規(guī)劃的,在模型計(jì)算尚未爆發(fā)的階段,必然出現(xiàn)利用率不足的情況。

        有業(yè)內(nèi)人士表示,當(dāng)前的算力已經(jīng)來到了買方市場的時(shí)代,用戶有更多算力價(jià)格的議價(jià)權(quán)。投資方的態(tài)度也更為謹(jǐn)慎和理性,開始對(duì)運(yùn)營方提出相應(yīng)的回報(bào)要求與考核。運(yùn)營方一方面轉(zhuǎn)向采購性價(jià)比更高的算力設(shè)備,另一方面采用了更靈活的策略,比如按需建設(shè)算力,在產(chǎn)能規(guī)劃上布置了上千臺(tái)機(jī)架,接到明確的用戶需求和訂單才會(huì)真正采購算力設(shè)備并上架運(yùn)行。“作為運(yùn)營方,我們已經(jīng)不能像原來一樣不計(jì)成本地投入,要想盡快回收成本,必須考慮成本投入和投資回報(bào)周期?!币晃恢袊娦诺墓ぷ魅藛T稱。

        產(chǎn)業(yè)對(duì)算力芯片的采購也更注重性價(jià)比。2024年以來,國內(nèi)對(duì)英偉達(dá)4090顯卡的需求正在上升,目前,這款頂級(jí)游戲顯卡的價(jià)格從年初的12000元漲至18000元。

        一位英偉達(dá)代理商表示,2024年下半年以來,4090顯卡的周轉(zhuǎn)率非常高,到貨3天就賣出去了。相比之下,A100的單價(jià)不再上漲,維持在15萬元不變,周轉(zhuǎn)率卻在下降。

        4090和A100都屬于GPU芯片,在英偉達(dá)產(chǎn)品線中,4090是一款面向玩家的高端游戲顯卡,A100則是賣給算力中心的高性能加速卡。4090在部分性能上弱于A100,但也能滿足一部分模型的推理任務(wù),最重要的是,其價(jià)格是A系列和H系列加速卡的十分之一。

        這一波4090顯卡的買家絕大多數(shù)是企業(yè),大多是智算中心的建設(shè)方或者技術(shù)提供方,用平價(jià)顯卡替代高價(jià)的A100或H100芯片。

        隨著大模型進(jìn)入商業(yè)閉環(huán)階段,企業(yè)對(duì)算力的需求也在變化,過去公司不計(jì)成本地采購算力,如今更追求算力的性價(jià)比,各大模型企業(yè)要采用智能算力調(diào)度等技術(shù)來提升算力效能。(微信公眾號(hào)“經(jīng)濟(jì)觀察報(bào)”)

        猜你喜歡
        百度模型企業(yè)
        一半模型
        企業(yè)
        企業(yè)
        企業(yè)
        重要模型『一線三等角』
        敢為人先的企業(yè)——超惠投不動(dòng)產(chǎn)
        Robust adaptive UKF based on SVR for inertial based integrated navigation
        重尾非線性自回歸模型自加權(quán)M-估計(jì)的漸近分布
        百度年度熱搜榜
        3D打印中的模型分割與打包
        日本黄色影院一区二区免费看| 色综合天天网| 亚洲V无码一区二区三区四区观看| 最新国产成人自拍视频| 国产在线一区二区三区乱码| 一本色道久久88综合日韩精品| 狠狠色狠狠色综合久久第一次| 人人妻人人澡av| 国产精品熟女视频一区二区三区| 日韩日韩日韩日韩日韩| 丰满人妻熟妇乱又伦精品视| 91精品综合久久久久m3u8 | 极品尤物人妻堕落沉沦| 亚洲精品一区国产欧美| 日韩高清毛片| 久久久精品国产亚洲av网不卡| 精品亚洲麻豆1区2区3区| 国产一区二区内射最近更新| 亚洲精品综合第一国产综合| 久久人妻精品中文字幕一区二区| 日本道色综合久久影院| 亚洲aⅴ天堂av天堂无码麻豆| 国产精品久久久久…| 亚洲精品女人天堂av麻| 男女18禁啪啪无遮挡激烈网站| 国产精品jizz在线观看老狼| 欧美日韩高清一本大道免费| 亚洲1区第2区第3区在线播放| 亚洲va欧美va日韩va成人网| 国产亚洲精品aaaa片app| 亚洲中文字幕人妻诱惑| 痴汉电车中文字幕在线| 国产sm调教视频在线观看| 精品国产亚欧无码久久久| 亚洲av无一区二区三区综合| 精品精品国产自在97香蕉| 国产av日韩a∨亚洲av电影 | 亚洲综合中文日韩字幕| 久久久亚洲精品一区二区三区 | 国产欧美亚洲精品第一页| 久久久久国色av∨免费看|