韓健　鐘新龍　王聰聰

3 月24 日，湖北宜昌，網(wǎng)民展示手機(jī)上由百度“文心一言”生成的圖片

當(dāng)前，全球各國人工智能大模型（以下簡稱“大模型”）已呈現(xiàn)白熱化競賽態(tài)勢。

大模型扎堆出爐的背后潛藏著問題，包括技術(shù)仍存軟肋、治理體系尚待優(yōu)化、盲目跟風(fēng)、資源消耗巨大、發(fā)展路徑有待明晰等。

為此，宜推動大模型底層技術(shù)研究和應(yīng)用創(chuàng)新、建立健全大模型監(jiān)管機(jī)制、引導(dǎo)資本市場理性投資、加強(qiáng)國際合作與交流。

競爭白熱化

人工智能大模型，是一種能夠利用大數(shù)據(jù)和神經(jīng)網(wǎng)絡(luò)來模擬人類思維和創(chuàng)造力的人工智能算法。它利用海量的數(shù)據(jù)和深度學(xué)習(xí)技術(shù)來理解、生成和預(yù)測新內(nèi)容，通常情況下有數(shù)百億乃至數(shù)萬億個參數(shù)，可以在不同的領(lǐng)域和任務(wù)中表現(xiàn)出智能。比如，可在各種場景中生成高質(zhì)量的文本、圖像和音視頻等內(nèi)容。

相比傳統(tǒng)人工智能，大模型能處理多模態(tài)任務(wù)，而不局限于特定的任務(wù)或應(yīng)用。

百度發(fā)布大模型文心一言，阿里發(fā)布首個超大規(guī)模語言模型通義千問，騰訊混元AI 大模型團(tuán)隊(duì)推出了萬億級別中文NLP 預(yù)訓(xùn)練模型HunYuan-NLP-1T。華為發(fā)布的鵬城盤古大模型是業(yè)界首個千億級生成和理解中文NLP 大模型。

以自然語言處理為例，大模型可以根據(jù)上下文和情感調(diào)整語言風(fēng)格，用符合人類自然語言對話的邏輯和使用習(xí)慣來提高對話的自然度和流暢度；同時，基于大模型預(yù)訓(xùn)練具有的龐大知識儲備庫，可生成符合用戶實(shí)際需求和有價值的回答。

此外，大模型在音頻、視頻、圖片方面的多模態(tài)處理和生成能力都令傳統(tǒng)人工智能難以企及。

目前，在大模型領(lǐng)域，國內(nèi)外巨頭的競爭已經(jīng)白熱化。OpenAI已成為引領(lǐng)大模型發(fā)展的標(biāo)桿企業(yè)。繼多模態(tài)大模型GPT-4發(fā)布后，預(yù)計(jì)今年四季度OpenAI將發(fā)布更為高級的ChatGPT-5版本。微軟借助對OpenAI的投資與合作，將旗下Office辦公產(chǎn)品全線整合，已在3月下旬推出Copilot Office。5月24日，微軟宣布Win11接入GPT-4。

5月10日，微軟的直接競爭對手谷歌推出新一代大模型PaLM 2，已有超過25個AI產(chǎn)品和功能全線接入PaLM 2，包括原有對話機(jī)器人Bard，AI+辦公助手Duet AI、AI+搜索引擎等，Meta則發(fā)布大模型LLaMA，加入競賽。亞馬遜與人工智能初創(chuàng)公司Hugging Face合作開發(fā)ChatGPT競品——BLOOM。

此外，Character. Al、Stability Al、A121 Labs等大模型技術(shù)關(guān)聯(lián)的初創(chuàng)和獨(dú)角獸公司也掀起了新一輪投資熱潮加入大模型競賽。

國內(nèi)，產(chǎn)投研各方均已加快布局步伐。

一是國內(nèi)科技龍頭企業(yè)密集發(fā)布自研大模型。百度發(fā)布大模型文心一言，阿里發(fā)布首個超大規(guī)模語言模型通義千問，騰訊混元AI大模型團(tuán)隊(duì)推出了萬億級別中文NLP預(yù)訓(xùn)練模型HunYuan-NLP-1T。華為發(fā)布的鵬城盤古大模型是業(yè)界首個千億級生成和理解中文NLP大模型。

二是投創(chuàng)界積極入局大模型競賽。美團(tuán)聯(lián)合創(chuàng)始人王慧文自帶5000萬美元入局AI大模型，搜狗前CEO王小川與搜狗前COO茹麗云共同創(chuàng)立百川智能，瀾舟科技發(fā)布其語言生成模型——孟子MChat可控大模型，西湖心辰也推出了心辰Chat大模型。

三是高校與科研院所積極布局大模型。復(fù)旦大學(xué)推出國內(nèi)首個類ChatGPT大模型MOSS，清華大學(xué)知識工程實(shí)驗(yàn)室與其技術(shù)成果轉(zhuǎn)化公司智譜AI發(fā)布ChatGLM，中科院自動化所推出多模態(tài)大模型紫東太初，IDEA 研究院 CCNL推出開源通用大模型“姜子牙”。

技術(shù)與治理存短板

目前，國內(nèi)外大模型無論研究還是投資都呈現(xiàn)高熱現(xiàn)象，但在其背后，一些問題值得重視。

首先，技術(shù)層面仍存軟肋。

從輸出質(zhì)量上來看，自然語言和圖像生成大模型在生成內(nèi)容上存在輸出質(zhì)量不佳、出現(xiàn)有害內(nèi)容等問題。自然語言大模型生成結(jié)果雖然看起來通順，但是在可解釋性和邏輯上還存在風(fēng)險，且模型對簡單概念存在過分解讀和冗余回答。

尤其值得注意的是，大模型可能有輸出危害答復(fù)內(nèi)容的風(fēng)險。比如，對用戶提出的犯罪行為給出具體行動方案。除此之外，從未來發(fā)展的不確定性角度來看，持續(xù)無限制擴(kuò)充訓(xùn)練參數(shù)規(guī)模的大模型可能面臨被創(chuàng)新算法換道超車的風(fēng)險。

目前，業(yè)界主流大模型都是在2017年提出的自注意力機(jī)制模型Transformer架構(gòu)上設(shè)計(jì)而來，未來新機(jī)制框架若使用小規(guī)模參數(shù)樣本也能訓(xùn)練出同樣效果，那么目前上千億乃至上萬億訓(xùn)練參數(shù)規(guī)模的做法將不再有優(yōu)勢。

其次，治理體系尚待優(yōu)化完善。

當(dāng)前，大模型訓(xùn)練過程缺乏監(jiān)管且監(jiān)管范圍更多針對服務(wù)提供者，一定程度上忽略了對服務(wù)使用者和商業(yè)運(yùn)營主體的規(guī)范，對服務(wù)使用者仍通過用戶協(xié)議、平臺規(guī)則予以約束，而運(yùn)營方欠缺安全責(zé)任意識，則容易埋下輸出含有毒害內(nèi)容的隱患。

各服務(wù)提供者、服務(wù)平臺對人工智能生成內(nèi)容存在審核盲區(qū)。比如，各大平臺公司在惡意應(yīng)用產(chǎn)生危害時，對內(nèi)容發(fā)布者與發(fā)布平臺責(zé)任、主要責(zé)任和次要責(zé)任等方面的界定尚不明確，容易造成監(jiān)管盲區(qū)。

現(xiàn)有的對人工智能生成內(nèi)容權(quán)責(zé)分配也有待完善。比如，人工智能生成內(nèi)容可能存在知識產(chǎn)權(quán)侵權(quán)風(fēng)險，其來源和生成內(nèi)容也存在產(chǎn)權(quán)權(quán)屬不清、取證和損害認(rèn)定困難等問題。

從受眾層面看，公眾對人工智能生成內(nèi)容技術(shù)的認(rèn)知不強(qiáng)，對其非法濫用的風(fēng)險防范意識不高，亦容易造成個人名譽(yù)和心理受損等后果。

上海世界人工智能大會，華為云盤古大模型

盲目跟風(fēng)成本大

大模型熱潮涌來，需警惕盲目跟風(fēng)。

以ChatGPT為代表的大模型爆火催生的資本投機(jī)心理會凌駕于投資心理之上，這對產(chǎn)業(yè)后續(xù)長期良性發(fā)展會造成不良影響。超高的訓(xùn)練成本門檻決定了中小型企業(yè)不宜投資此類項(xiàng)目。

以ChatGPT大語言模型訓(xùn)練為例，初步估算ChatGPT一次訓(xùn)練成本就超過200萬美元，OpenAI公司僅硬件投入成本就超過8億美元。除了訓(xùn)練成本，開發(fā)技術(shù)也是一道門檻，高質(zhì)量訓(xùn)練語料和大規(guī)模人工標(biāo)注決定了只有大型機(jī)構(gòu)或領(lǐng)軍企業(yè)才具備相應(yīng)實(shí)力，成長型企業(yè)盲目跟風(fēng)將導(dǎo)致投資失敗。

此外，訓(xùn)練集同質(zhì)化導(dǎo)致大模型質(zhì)量不高。大模型的訓(xùn)練數(shù)據(jù)集一般來自百科類平臺、新聞?wù)Z料、社交媒體文本、書籍、論壇等可公開獲得資源，加入競爭的大模型如都使用同質(zhì)化訓(xùn)練數(shù)據(jù)集，將會導(dǎo)致絕大多數(shù)大模型成為效果不佳且浪費(fèi)巨大資源的淘汰產(chǎn)物。

即便是對于行業(yè)巨頭，大量成本的消耗也是一個風(fēng)險。

算力成本是成本消耗的大頭。以ChatGPT為例，其在日常運(yùn)營和模型迭代中會消耗大量算力。Similarweb數(shù)據(jù)顯示，目前共需602臺DGX A100服務(wù)器滿足日常訪問量。同時，ChatGPT也會占用原本用來支撐云計(jì)算、視頻流媒體和5G網(wǎng)絡(luò)的數(shù)據(jù)中心的算力。而多家公司搶先布局訓(xùn)練類似模型，則會導(dǎo)致算力浪費(fèi)。

電力成本是不得不提的隱性考慮要素。ChatGPT訓(xùn)練過程中，其能耗相當(dāng)于數(shù)百臺電腦一年的用電量。碳排放更是被忽視的隱藏點(diǎn)。使用煤炭、天然氣等碳密集型能源訓(xùn)練ChatGPT會產(chǎn)生550噸碳排放量，相當(dāng)于一個人在紐約和舊金山之間往返550次。

人力資源消耗也應(yīng)重點(diǎn)關(guān)注。據(jù)《時代周刊》報道，OpenAI不僅雇用了大量時薪不到2美元的肯尼亞外包勞工進(jìn)行數(shù)據(jù)標(biāo)注，還額外與Sama公司簽署了三份總價值約20萬美元的合同，為數(shù)據(jù)庫中有害的內(nèi)容進(jìn)行標(biāo)記。但從現(xiàn)有的表現(xiàn)來看，仍需更多的標(biāo)注人力來提升模型性能。

目前，國內(nèi)企業(yè)在大模型發(fā)展方向研判上呈現(xiàn)出跟隨式發(fā)展態(tài)勢。例如，GPT4開啟多模態(tài)大模型發(fā)展方向后，國內(nèi)先發(fā)大模型也紛紛發(fā)展多模態(tài)，如何擺脫跟隨式發(fā)展路徑依賴，構(gòu)建自主可控創(chuàng)新型大模型是當(dāng)前重點(diǎn)任務(wù)。

考慮到國內(nèi)用戶規(guī)模龐大，國內(nèi)大模型能否承載遠(yuǎn)比海外用戶更高的并發(fā)處理需求，尚需時日驗(yàn)證?？紤]到大模型訓(xùn)練推理的高算力成本，想要靠免費(fèi)換取大規(guī)模普及進(jìn)而變現(xiàn)的路徑很難走通，應(yīng)用賦能成本如何實(shí)現(xiàn)回本和增量營收的商業(yè)路徑仍需探索。

建議舉措

面對上述問題，可以四方面加以應(yīng)對。

據(jù)《時代周刊》報道，OpenAI 不僅雇用了大量時薪不到2 美元的肯尼亞外包勞工進(jìn)行數(shù)據(jù)標(biāo)注，還額外與Sama公司簽署了三份總價值約20 萬美元的合同，為數(shù)據(jù)庫中有害的內(nèi)容進(jìn)行標(biāo)記。但從現(xiàn)有的表現(xiàn)來看，仍需更多的標(biāo)注人力來提升模型性能。

一是推動大模型底層技術(shù)研究和應(yīng)用創(chuàng)新。

包括提高基礎(chǔ)研究投入力度，針對大模型面臨的技術(shù)挑戰(zhàn)，如模型泛化能力、計(jì)算資源消耗、可解釋性等問題，加強(qiáng)原始理論研究和技術(shù)攻關(guān)，不斷提升大模型性能；培育創(chuàng)新生態(tài)，搭建大模型開放研發(fā)平臺，鼓勵政產(chǎn)學(xué)研金介用各方積極參與，促進(jìn)大模型應(yīng)用成果轉(zhuǎn)化和產(chǎn)業(yè)鏈協(xié)同發(fā)展；推動有條件的企業(yè)盡快將大模型應(yīng)用于實(shí)際場景，如人形機(jī)器人、智能網(wǎng)聯(lián)汽車、生物醫(yī)藥、新材料等領(lǐng)域，以應(yīng)用為導(dǎo)向，為重點(diǎn)領(lǐng)域提升智能化水平。

二是建立健全大模型監(jiān)管機(jī)制。

大模型訓(xùn)練審核機(jī)制宜盡量減少同質(zhì)化大模型無序競爭，減少資源浪費(fèi)；探索建立大模型安全性和可靠性評估標(biāo)準(zhǔn)，提出具體技術(shù)標(biāo)準(zhǔn)和評估準(zhǔn)則，確保各類大模型在各個應(yīng)用場景中能夠穩(wěn)定可靠運(yùn)行；加強(qiáng)對大模型的數(shù)據(jù)來源和訓(xùn)練過程的監(jiān)管，審核數(shù)據(jù)處理邏輯、明確數(shù)據(jù)收集、整理和使用的合規(guī)要求，防止數(shù)據(jù)濫用和隱私泄露；對大模型的應(yīng)用場景進(jìn)行分類管理，確立不同類型模型的使用范圍和限制，避免不當(dāng)應(yīng)用帶來的負(fù)面影響；建立大模型的責(zé)任追溯機(jī)制，明確制定者、開發(fā)者、部署者和用戶在模型使用過程中的權(quán)利和義務(wù)，為潛在的糾紛提供法律依據(jù)；積極推動跨部門、跨領(lǐng)域的監(jiān)管協(xié)同，形成全方位、多層次的監(jiān)管格局，提高監(jiān)管效能。

三是引導(dǎo)資本市場理性投資。

包括引導(dǎo)投資風(fēng)向，鼓勵各類投資主體積極參與大模型應(yīng)用環(huán)節(jié)，形成多元化的投資格局，防止扎堆投資訓(xùn)練環(huán)節(jié)；加強(qiáng)風(fēng)險防范意識，引導(dǎo)投資者樹立長期投資理念，關(guān)注大模型項(xiàng)目的技術(shù)創(chuàng)新和市場前景，避免盲目投資和短期行為；建立大模型產(chǎn)業(yè)鏈協(xié)同機(jī)制，促進(jìn)上下游企業(yè)共同發(fā)展，形成集群效應(yīng)。

四是加強(qiáng)國際合作與交流。

積極參與國際人工智能監(jiān)管組織和論壇，與各國政府、監(jiān)管機(jī)構(gòu)、企業(yè)和研究機(jī)構(gòu)探討和分享監(jiān)管經(jīng)驗(yàn)和技術(shù)成果，共同探討跨國監(jiān)管的有效途徑；探索與部分國家先行建立多邊合作框架，推動制定全球性的大模型監(jiān)管規(guī)范和技術(shù)標(biāo)準(zhǔn)；開展多邊交流與合作，與其他國家在大模型監(jiān)管領(lǐng)域開展項(xiàng)目合作、技術(shù)交流和人才培養(yǎng)，以提高監(jiān)管方面的實(shí)踐能力和理論水平；關(guān)注全球監(jiān)管動態(tài)，及時了解各國在大模型監(jiān)管方面的新政策、新技術(shù)和新案例，為國內(nèi)監(jiān)管提供借鑒和參考；積極推動國際監(jiān)管能力建設(shè)，支持有關(guān)國際組織和機(jī)構(gòu)開展監(jiān)管能力建設(shè)項(xiàng)目，提高我國在大模型監(jiān)管方面的國際話語權(quán)；搭建國際監(jiān)管信息共享平臺，實(shí)現(xiàn)各國監(jiān)管機(jī)構(gòu)之間的信息互通和資源共享，以便于跨境監(jiān)管合作和問題解決。

國內(nèi)外典型大模型梳理

賽迪智庫整理 周開艷/ 制圖