陳科

習近平總書記曾強調(diào)指出，“人工智能是人類發(fā)展新領(lǐng)域”。當前，人工智能領(lǐng)域科技創(chuàng)新異?；钴S，一大批前沿成果陸續(xù)突破并帶動全球人工智能創(chuàng)新的新一輪熱潮。其中，以大模型為代表的人工智能技術(shù)取得了重大突破，拉開了通用人工智能時代的序幕。大模型在模型能力、應(yīng)用范圍、智能程度等方面最具代表性，經(jīng)歷了統(tǒng)計語言模型、神經(jīng)語言模型和預(yù)訓練模型等階段的發(fā)展，以超大規(guī)模的參數(shù)在工程化加載后展現(xiàn)出的內(nèi)容，讓人們看到了科技的又一次歷史性跨越。人工智能進入通用人工智能時代后，各種“類人”和“超人”能力將持續(xù)涌現(xiàn)，自主性、通用性和易用性快速提升，成為經(jīng)濟社會發(fā)展的新型技術(shù)底座。

首先，通用人工智能將對經(jīng)濟、就業(yè)、教育、生活方式等方面產(chǎn)生深遠影響。通用人工智能時代將創(chuàng)造更多跨業(yè)態(tài)、多元化、高效率的商業(yè)模式，還將使一些工作自動化并創(chuàng)造出新的就業(yè)機會和領(lǐng)域，進而改變就業(yè)結(jié)構(gòu)。通用人工智能也將進一步拓展教育空間，提升教育效果，優(yōu)化教育管理，促進教育數(shù)字化發(fā)展，推動教育現(xiàn)代化發(fā)展進程。它還將使人們的工作、社交、醫(yī)療服務(wù)、娛樂等更加智能化、個性化。隨著大模型開始模擬人類從事廣泛的語言理解和內(nèi)容生成任務(wù)，人們面臨著一個極具挑戰(zhàn)的問題，即如何堅持發(fā)展負責任的大模型，讓大模型的能力和行為與社會主義核心價值觀、全人類共同價值相一致，確保人類與人工智能協(xié)作過程中的安全與信任是關(guān)涉人工智能控制與人工智能安全的重要問題。

其次，大模型目前存在一些突出問題和潛在風險，如用戶隱私安全問題、大模型本身的技術(shù)問題：規(guī)范博弈、目標錯誤泛化、惡意使用等問題。對大模型進行價值觀對齊可以更好地應(yīng)對大模型目前存在的一些突出問題和潛在風險，使大模型更加安全、可靠、實用。

再次，通用人工智能有望推動人類社會邁向智能增強時代，將對經(jīng)濟社會發(fā)展和人類文明產(chǎn)生更加深遠的影響。在智能增強時代，人機共存，物理世界和虛擬世界將交互并行?！叭恕锢硎澜绲膬稍臻g”將轉(zhuǎn)換為“人—物理世界—智能機器—虛擬信息世界”的四元空間。機器的智能化能力不斷提高，有望補齊感知、記憶、推理、情感上的短板，并將逐步擁有自主決策、自主學習和自主調(diào)節(jié)等能力，越來越顯示出通用、類人、智慧的特征。人機交互技術(shù)將日益革新，將滿足情景感知的自動化、實時化和個性化要求，在持續(xù)顛覆用戶體驗的同時達到智能增強的目的，進而產(chǎn)生超級智能和融合智能等新形態(tài)。而伴隨著人工智能技術(shù)的不斷發(fā)展，人工智能與人類社會高度綁定，幫助乃至代替人類完成各種任務(wù)，這就更加需要人工智能能夠更好地反饋和適應(yīng)人類的反饋和需求，符合人類的道德準則和價值觀念。

面對通用人工智能發(fā)展給世界帶來的巨大機遇和難以預(yù)知的各種風險與復(fù)雜挑戰(zhàn)，習近平總書記提出：“要重視通用人工智能發(fā)展，營造創(chuàng)新生態(tài)，重視防范風險?！敝蟹皆诘谌龑谩耙粠б宦贰眹H合作高峰論壇上提出《全球人工智能治理倡議》，將同各國加強交流和對話，共同促進全球人工智能健康有序安全發(fā)展。聯(lián)合國安理會舉辦“人工智能給國際和平與安全帶來的機遇與風險”高級別公開會議，呼吁設(shè)立監(jiān)管機構(gòu)來監(jiān)督人工智能并成立AI咨詢機構(gòu)，為國際社會加強人工智能治理提供支持。加強人工智能治理，實現(xiàn)通用人工智能價值觀對齊是當下亟待解決的重要問題，一是要始終堅持“以人為本”理念，以增進人類共同福祉為目標，確保人工智能朝著有利于人類文明進步的方向發(fā)展；二是要始終堅持“智能向善”宗旨，遵守倫理規(guī)范與法律法規(guī)，使其符合“和平、發(fā)展、公平、正義、民主、自由”的全人類共同價值追求，遵循社會主義核心價值觀，防止人工智能技術(shù)的惡用濫用；三是要積極加強人工智能技術(shù)持續(xù)創(chuàng)新，進一步推動人工智能技術(shù)發(fā)展；四是要積極發(fā)展人工智能治理的相關(guān)技術(shù)開發(fā)與應(yīng)用，在人類反饋的強化學習、有效干預(yù)訓練數(shù)據(jù)、開發(fā)內(nèi)容過濾工具、推進模型的可解釋性和可理解性等研究成果的基礎(chǔ)上，進一步深化人工智能治理研究，提高人工智能治理的技術(shù)能力。

塑造正確的通用人工智能時代的價值觀，發(fā)展負責任的人工智能，促進人工智能健康發(fā)展，需要政府、社會、企業(yè)、學術(shù)界等各方投入更多資源來推動價值觀對齊研究與實踐，需要思想政治教育、哲學、計算機、倫理學、心理學、社會學等多學科共同參與，讓人們監(jiān)督、理解、控制人工智能的能力與人工智能的發(fā)展進步齊頭并進，以確保人工智能能夠造福全人類和全社會。