張麗娟，高靜暉

（1.中國(guó)科學(xué)技術(shù)信息研究所；2.中國(guó)地質(zhì)大學(xué)（北京）外國(guó)語(yǔ)學(xué)院）

2 0 2 3 年6 月， 經(jīng) 合 組 織（OECD）發(fā)布《科學(xué)視野中的人工智能：研究的挑戰(zhàn)、機(jī)遇和未來(lái)》報(bào)告認(rèn)為，提高生產(chǎn)力是人工智能最具經(jīng)濟(jì)價(jià)值和社會(huì)效益的能力。當(dāng)前，雖然人工智能正在滲透科學(xué)的所有領(lǐng)域和階段，但其全部潛力遠(yuǎn)未實(shí)現(xiàn)。研究系統(tǒng)的決策者和參與者應(yīng)進(jìn)一步加速和深化人工智能在科學(xué)中的應(yīng)用，擴(kuò)大其對(duì)研究的積極貢獻(xiàn)。對(duì)此，OECD提出了一系列政策建議。

一、人工智能與科學(xué)生產(chǎn)力

人工智能有力提升了科學(xué)生產(chǎn)力。在經(jīng)濟(jì)方面，經(jīng)濟(jì)學(xué)家已建立了基礎(chǔ)研究創(chuàng)新與長(zhǎng)期生產(chǎn)力增長(zhǎng)之間的基本關(guān)系：疫情導(dǎo)致的經(jīng)合組織國(guó)家經(jīng)濟(jì)不景氣、人口老齡化等問(wèn)題使尋求增長(zhǎng)變得更加緊迫。同時(shí)，現(xiàn)代經(jīng)濟(jì)中科學(xué)發(fā)揮的作用往往被低估：從科學(xué)貢獻(xiàn)看，相關(guān)評(píng)估表明，僅依賴物理研究的產(chǎn)業(yè)對(duì)歐洲經(jīng)濟(jì)產(chǎn)出和經(jīng)濟(jì)總值的貢獻(xiàn)就超過(guò)零售業(yè)和建筑業(yè)總和；從影響范圍看，基礎(chǔ)科學(xué)研究比以商業(yè)為導(dǎo)向的應(yīng)用研究在更多國(guó)家和更多領(lǐng)域產(chǎn)生了更持久影響。理論研究表明，與產(chǎn)品自動(dòng)化帶來(lái)的增長(zhǎng)相比，由高效研發(fā)帶來(lái)的增長(zhǎng)更為持久。在科學(xué)方面，盡管各學(xué)科領(lǐng)域快速發(fā)展（如天文和醫(yī)藥），但一些長(zhǎng)期存在的問(wèn)題仍未得到解決，通過(guò)加速科學(xué)創(chuàng)新，人工智能可能有助于找到解決全球挑戰(zhàn)的方案。從技術(shù)創(chuàng)新、全要素生產(chǎn)率等衡量指標(biāo)來(lái)看，科學(xué)本身也正變得更加困難，政府必須投入更多資金以維持現(xiàn)在的有效科學(xué)產(chǎn)出率。在此背景下，人工智能應(yīng)以不同形式參與科學(xué)研究之中，幫助解決各類問(wèn)題。

二、科學(xué)視野中的人工智能

（一）人工智能應(yīng)用

人工智能正應(yīng)用于科學(xué)各領(lǐng)域和階段，從假設(shè)生成到實(shí)驗(yàn)設(shè)計(jì)和模擬，再到科學(xué)出版和交流。未來(lái)，人工智能可能會(huì)優(yōu)化許多科學(xué)工作流程，從數(shù)據(jù)收集到最終的統(tǒng)計(jì)分析，但要使人工智能真正發(fā)揮對(duì)科學(xué)的潛在影響，還有很長(zhǎng)的路要走。

目前，人工智能正以不同形式參與到科學(xué)的各個(gè)階段。在研究階段，人工智能的主要應(yīng)用有如下幾類：典型的機(jī)器學(xué)習(xí)模型，對(duì)于假設(shè)生成、實(shí)驗(yàn)監(jiān)督和精確測(cè)量等任務(wù)十分有幫助；具有生成新數(shù)據(jù)能力的生成式模型能協(xié)助模擬，如數(shù)據(jù)提純和圖像降噪；深度學(xué)習(xí)能有效處理非結(jié)構(gòu)化數(shù)據(jù)，如衛(wèi)星圖像和全球氣象數(shù)據(jù)；因果模型能分離相關(guān)性和因果關(guān)系，為醫(yī)學(xué)和社會(huì)科學(xué)帶來(lái)巨大益處。人工智能還可以跟蹤長(zhǎng)期科學(xué)進(jìn)展中積累的多種不確定性，并在出現(xiàn)不確定性時(shí)優(yōu)先確保數(shù)據(jù)收集；可以通過(guò)數(shù)學(xué)進(jìn)步來(lái)間接促進(jìn)科學(xué)發(fā)展，如2022年底，DeepMind宣布使用了一種強(qiáng)化學(xué)習(xí)技術(shù)來(lái)更快運(yùn)行矩陣乘法。此外，人工智能還在科學(xué)中有其他更廣泛的應(yīng)用，如構(gòu)建模型用于論文摘要總結(jié)和進(jìn)行同行評(píng)審。但人工智能也會(huì)帶來(lái)潛在問(wèn)題，如深度學(xué)習(xí)模型無(wú)法識(shí)別數(shù)據(jù)庫(kù)外的情況；開(kāi)發(fā)人工智能模型需要投入巨大計(jì)算資源進(jìn)行訓(xùn)練等。

除上述人工智能應(yīng)用外，大語(yǔ)言模型將對(duì)未來(lái)產(chǎn)生巨大影響。2022年11月，OpenAI發(fā)布ChatGPT，這一語(yǔ)言模型能提高知識(shí)產(chǎn)出效率，并使科學(xué)界受益：能夠快速自動(dòng)編寫(xiě)演示文稿、論文等各種材料；能夠快速撰寫(xiě)摘要；能夠提高書(shū)面語(yǔ)言質(zhì)量；能夠降低非母語(yǔ)者語(yǔ)言障礙；能夠編寫(xiě)計(jì)算機(jī)語(yǔ)言代碼；能夠通過(guò)對(duì)話激發(fā)創(chuàng)造力；等等。但這類大語(yǔ)言模型有時(shí)也會(huì)出錯(cuò)，需要在擴(kuò)展訓(xùn)練時(shí)進(jìn)行評(píng)估，確保其精確性。

（二）人工智能自動(dòng)化

研究人員認(rèn)為，以實(shí)驗(yàn)科學(xué)為代表的科學(xué)，其未來(lái)在于人工智能主導(dǎo)的閉環(huán)自動(dòng)化系統(tǒng)。自動(dòng)化能夠提高許多領(lǐng)域的生產(chǎn)效率，科學(xué)領(lǐng)域亦如此。未來(lái)，人類科學(xué)家需要思考如何與人工智能合作，其在多大程度上可幫助自己確定問(wèn)題和解決方案，這是因?yàn)槿斯ぶ悄芸赡軙?huì)發(fā)現(xiàn)人類科學(xué)家在研究中存在的偏差，或者發(fā)現(xiàn)其未能探索的研究領(lǐng)域，從而產(chǎn)生協(xié)同效應(yīng)。為評(píng)估人工智能的自動(dòng)化等級(jí)，研究人員制定了科學(xué)自動(dòng)化五級(jí)框架。在第一級(jí)，人類仍然完整地描述問(wèn)題，機(jī)器會(huì)進(jìn)行一些數(shù)據(jù)操作或計(jì)算；第五級(jí)則對(duì)應(yīng)完全自動(dòng)化，沒(méi)有人為干預(yù)。2020年首屆圖靈挑戰(zhàn)研討會(huì)參與者預(yù)測(cè)，第五級(jí)系統(tǒng)將在未來(lái)20～30年內(nèi)實(shí)現(xiàn)。

三、人工智能與科學(xué)的前景和挑戰(zhàn)

統(tǒng)計(jì)機(jī)器學(xué)習(xí)是目前最常見(jiàn)且最成功的模型，但還不具備人類科學(xué)家的理性推理能力、抽象建模能力和邏輯思維能力（演繹和歸納），這些能力是科學(xué)發(fā)現(xiàn)的核心。其主要局限在于：需要大量數(shù)據(jù)，而某些科學(xué)領(lǐng)域往往無(wú)法獲得這些數(shù)據(jù)；數(shù)據(jù)注釋和標(biāo)記問(wèn)題；數(shù)據(jù)差異導(dǎo)致的數(shù)據(jù)不可泛化問(wèn)題；機(jī)器學(xué)習(xí)的黑箱特性導(dǎo)致數(shù)據(jù)不可得。因此，無(wú)論數(shù)據(jù)供應(yīng)豐富與否，數(shù)據(jù)理解和泛化問(wèn)題都不能簡(jiǎn)單地通過(guò)應(yīng)用更強(qiáng)大的統(tǒng)計(jì)計(jì)算來(lái)解決。目前，人工智能仍無(wú)法提出有趣的研究問(wèn)題，設(shè)計(jì)適當(dāng)?shù)膶?shí)驗(yàn)，并理解和描述其局限性，未來(lái)需要投入更多資源來(lái)構(gòu)建科學(xué)發(fā)現(xiàn)所需的相關(guān)人工智能方法論框架。

除統(tǒng)計(jì)機(jī)器學(xué)習(xí)外，自然語(yǔ)言處理技術(shù)也有較為廣泛的應(yīng)用。但目前尚不能完成復(fù)雜的自動(dòng)閱讀理解任務(wù)，根本原因在于自然語(yǔ)言處理技術(shù)缺乏豐富的世界模型作為語(yǔ)言基礎(chǔ)。另外，應(yīng)用于科學(xué)領(lǐng)域的自然語(yǔ)言處理技術(shù)大都僅關(guān)注文章表面結(jié)構(gòu)。為推動(dòng)自然語(yǔ)言處理技術(shù)的進(jìn)步，研究人員建議建立研究中心、通過(guò)資金支持或出版來(lái)激勵(lì)研發(fā)。

未來(lái)，新型人工智能將通過(guò)與人類合作構(gòu)建共同智慧推動(dòng)科學(xué)進(jìn)步。共同智慧旨在充分利用人類的直覺(jué)、情景化思考能力和抽象能力以實(shí)現(xiàn)合作能力超越單獨(dú)個(gè)體能力總和。目前，充分將兩者結(jié)合的認(rèn)識(shí)正處于起步階段，未來(lái)主要可通過(guò)編碼與發(fā)現(xiàn)知識(shí)、連接并結(jié)構(gòu)化知識(shí)以及監(jiān)督與控制質(zhì)量方式構(gòu)建共同智慧。

此外，語(yǔ)言模型可作為研究工具參與到科學(xué)研究之中，并提高研究生產(chǎn)力。這類智能研究助手可保證工作質(zhì)量、開(kāi)放非專業(yè)人士對(duì)研究的訪問(wèn)權(quán)限、減少科學(xué)家耗時(shí)工作等。當(dāng)前研究工具并不能有效協(xié)助研究人員快速、系統(tǒng)地獲得答案，因此研究人員構(gòu)建了人工智能研究助手Elicit。Elicit使用了包括ChatGPT-3在內(nèi)的語(yǔ)言模型，能完成文獻(xiàn)檢索、審查、摘要、分類改寫(xiě)并識(shí)別提取對(duì)照實(shí)驗(yàn)的關(guān)鍵信息。通過(guò)Elicit，語(yǔ)言模型的進(jìn)步使其直接轉(zhuǎn)化為更好的研究工具。更好的語(yǔ)言模型意味著Elicit可找到更多相關(guān)研究，更準(zhǔn)確地撰寫(xiě)摘要，并提取細(xì)節(jié)以幫助評(píng)估相關(guān)性或可信度。預(yù)計(jì)未來(lái)語(yǔ)言模型或?qū)⑻峁┯嘘P(guān)具有前景的研究方向的實(shí)用指導(dǎo)。ChatGPT和Galactica等模型的推出，強(qiáng)調(diào)了需要對(duì)評(píng)估過(guò)程進(jìn)行審查以確保在應(yīng)用擴(kuò)展時(shí)的準(zhǔn)確性。若其性能能繼續(xù)改進(jìn)，未來(lái)基于語(yǔ)言模型的研究助手或?qū)⒕邆涮崛⒖嘉墨I(xiàn)并抓取元數(shù)據(jù)和故障排除等功能，并有可能形成由研究人員帶領(lǐng)的獨(dú)立團(tuán)隊(duì)。但人工智能研究助手也存在一定風(fēng)險(xiǎn)：高質(zhì)量語(yǔ)言模型可能產(chǎn)出更多低質(zhì)量?jī)?nèi)容；語(yǔ)言模型多由英語(yǔ)國(guó)家進(jìn)行訓(xùn)練，未來(lái)可能會(huì)積累英語(yǔ)偏見(jiàn)和西方中心偏見(jiàn)。

近年來(lái)，人工智能的進(jìn)步主要由大型科技公司開(kāi)發(fā)或大規(guī)模部署深度學(xué)習(xí)技術(shù)來(lái)推動(dòng)，大學(xué)和公共部門(mén)研究人員更多采用產(chǎn)業(yè)界開(kāi)發(fā)的強(qiáng)大軟件工具和模型。但深度學(xué)習(xí)的快速進(jìn)步與公共或私人研究議程緊密結(jié)合所帶來(lái)的短期好處也存在風(fēng)險(xiǎn)。例如，由于產(chǎn)業(yè)界可用的模型規(guī)模更大，學(xué)術(shù)界可能很難開(kāi)發(fā)競(jìng)爭(zhēng)性模型，或解釋產(chǎn)業(yè)界的模型，并開(kāi)發(fā)公共使用的替代方案。研究人員列出了目前的主要問(wèn)題：人工智能研究的多樣性近期出現(xiàn)停滯甚至下降；產(chǎn)業(yè)界主導(dǎo)的決策者研究比學(xué)術(shù)研究主題更狹窄但其影響力更大，其重點(diǎn)是深度學(xué)習(xí)技術(shù)；產(chǎn)業(yè)界傾向于專注深度學(xué)習(xí)以及在線搜索、社交媒體和廣告定向等應(yīng)用，較少關(guān)注決策者在醫(yī)療健康領(lǐng)域的應(yīng)用以及對(duì)決策者社會(huì)影響的分析；一些最大、最負(fù)盛名的大學(xué)在人工智能研究的主題多樣性方面低于預(yù)期；影響力較強(qiáng)的大學(xué)往往是私人公司的主要合作伙伴。

四、政策建議

（一）構(gòu)建全面多學(xué)科計(jì)劃，推進(jìn)人工智能驅(qū)動(dòng)科技進(jìn)步

一是各國(guó)應(yīng)展開(kāi)廣泛多學(xué)科計(jì)劃，匯集計(jì)算機(jī)科學(xué)家、工程師、統(tǒng)計(jì)學(xué)家、數(shù)學(xué)家等，利用人工智能應(yīng)對(duì)各類挑戰(zhàn)。

二是促進(jìn)機(jī)器人專家與領(lǐng)域?qū)＜一?dòng)，實(shí)驗(yàn)室機(jī)器人有能力徹底改變特定科學(xué)領(lǐng)域、降低成本并顯著加快實(shí)驗(yàn)進(jìn)度。

三是政府可鼓勵(lì)并支持有前瞻性和深遠(yuǎn)影響的倡議。

四是推廣普及高性能計(jì)算和軟件，促進(jìn)人工智能與科學(xué)共同發(fā)展。

五是利用人工智能技術(shù)協(xié)助學(xué)術(shù)培訓(xùn)，各國(guó)政府可采取措施提升開(kāi)放研究數(shù)據(jù)的可用性，發(fā)掘從健康到氣候等多個(gè)領(lǐng)域的數(shù)據(jù)潛力。

（二）發(fā)揮公共研發(fā)作用，推動(dòng)人工智能在科技領(lǐng)域應(yīng)用

一是公共研發(fā)可針對(duì)性地深化人工智能在科學(xué)和工程領(lǐng)域的應(yīng)用，專注突破性研究領(lǐng)域。

二是支持開(kāi)發(fā)開(kāi)放平臺(tái)，跟蹤以最為有效的人工智能模型解決不同問(wèn)題的效果。

三是考慮到公共研發(fā)有助于培養(yǎng)新的跨學(xué)科高水平能力，各國(guó)政府應(yīng)支持廣泛計(jì)劃，建立科學(xué)領(lǐng)域關(guān)鍵人工智能知識(shí)庫(kù)。

四是決策者可支持相關(guān)研究，評(píng)估和量化人工智能研究范圍變小對(duì)技術(shù)韌性、創(chuàng)造力和包容性可能帶來(lái)的影響，以及相關(guān)行業(yè)對(duì)人工智能研究的影響力。

五是資助者可助力開(kāi)發(fā)專業(yè)工具，增進(jìn)人類科學(xué)家與人工智能團(tuán)隊(duì)的合作，并將這些工具納入主流科學(xué)。

（三）加強(qiáng)人工智能管理

一是政策機(jī)構(gòu)應(yīng)系統(tǒng)評(píng)估人工智能對(duì)日?？茖W(xué)實(shí)踐的影響，包括人類科學(xué)家與人工智能團(tuán)隊(duì)的合作、工作方式、職業(yè)發(fā)展軌跡和培訓(xùn)。

二是資助者和決策者應(yīng)設(shè)立響應(yīng)機(jī)制，依據(jù)所收集的意見(jiàn)建議采取行動(dòng)。

三是資助者和決策者應(yīng)支持建立新的獨(dú)立論壇，持續(xù)對(duì)話探討科學(xué)工作性質(zhì)的變化及其對(duì)研究生產(chǎn)力和文化的影響。

四是決策者應(yīng)關(guān)注大語(yǔ)言模型的實(shí)際應(yīng)用。

五是政策應(yīng)解決人工智能驅(qū)動(dòng)的藥物研發(fā)的雙重用途所引發(fā)的潛在風(fēng)險(xiǎn)。

（四）決策者應(yīng)提升專業(yè)素養(yǎng)，促進(jìn)科學(xué)決策

一是利用現(xiàn)有社交網(wǎng)絡(luò)和平臺(tái)來(lái)推廣新興實(shí)踐。

二是采取措施提高人工智能研究的可重復(fù)性，公共資助機(jī)構(gòu)可要求與第三方共享代碼、數(shù)據(jù)和元數(shù)據(jù)，允許其在自己的硬件上進(jìn)行試驗(yàn)。

三是決策者應(yīng)支持發(fā)展中國(guó)家和地區(qū)，尤其是撒哈拉以南非洲地區(qū)，在科學(xué)領(lǐng)域獲得更多的人工智能資金。