葉蓁蓁

2023年初，ChatGPT誕生僅兩個月，月活用戶就突破1億，成為史上用戶增長最快的應用?；仡櫄v史，月活用戶達到1億門檻，推特（Twitter）用了5年，臉書（Facebook）用了4年半，照片墻（Instagram）用了2年半時間。標志性平臺產品出現(xiàn)，人類在經歷PC互聯(lián)網、移動互聯(lián)網之后，正式進入智能互聯(lián)網時代?，F(xiàn)在看來，第三代互聯(lián)網很可能是以智能互聯(lián)為基礎能力的價值互聯(lián)、產業(yè)互聯(lián)、虛實互聯(lián)。

人工智能：有價值觀的高科技

智能互聯(lián)網時代，以通用人工智能為代表的技術加速更迭，將融合千行百業(yè)，驅動新一輪產業(yè)和技術革命。需要重視的是，人工智能在推動經濟社會發(fā)展同時，也存在潛在的、不可忽視的技術倫理、價值觀念等風險。人工智能大腦既是高科技的大腦，也是價值觀的大腦。人工智能平臺有立場，人工智能生成的內容有導向，所謂“技術中性”是不存在的。無論是喂養(yǎng)人工智能的語料數(shù)據(jù)，還是模型本身的算法，都必須高度關注政治方向、輿論導向和價值取向問題。

生成式人工智能（AIGC）技術正在重構內容生產、傳播、消費、反饋全流程，智能傳播大規(guī)模應用的序幕已經拉開。然而，生成式人工智能的不當應用，也引發(fā)了國內國際社會的擔憂。今年2月，一條ChatGPT生成的假新聞在社交媒體上廣泛傳播，內容是關于杭州市政府3月1日將取消車輛限行。這條假新聞誤導了很多市民，形成了小范圍的輿情事件。歐洲社會許多國家已經開始或正在研究禁用 ChatGPT，全球許多教育機構、學術機構紛紛出臺禁令，防止生成式人工智能被濫用。近期，全球千余名科技界人士呼吁暫停開發(fā)更先進的人工智能。這都表明，對生成式人工智能的治理已迫在眉睫。不能放任人工智能脫離人類視野，不能沒有管理的“生成即傳播”，要積極探索人工智能應用和治理之道。

參與人工智能的應用與創(chuàng)新

人工智能互聯(lián)網時代，越來越多的行業(yè)、企業(yè)引入人工智能替代人類工作。未來人工智能雖然無法取代人工，但各行各業(yè)不會使用人工智能的人或將被淘汰。

主動適應。黨媒黨網必須加快發(fā)展，主動適應、參與人工智能應用和創(chuàng)新。近年來，人民網主動跟進下一代互聯(lián)網發(fā)展趨勢，以建設內容科技領軍企業(yè)為目標，在人工智能領域，承建傳播內容認知全國重點實驗室，瞄準認知智能開展研發(fā)；建設人民鏈探索價值互聯(lián)；建設828企業(yè)服務平臺探索產業(yè)互聯(lián)；建設靈境·人民藝術館探索虛實互聯(lián)。這些嘗試只是起步，卻能提振我們跨向未知的信心和勇氣，未來人民網也將全力參與人工智能應用與創(chuàng)新。

創(chuàng)新研發(fā)。目前各界關注、輿論熱炒通用型大模型，其技術路線是大模型、大數(shù)據(jù)、大算力、大資本、大平臺、大團隊的研究范式，費錢、費人、費電，并不適合所有國家、所有團隊。智能互聯(lián)網的時代剛剛開啟，一方面我們不能大意、不能懈怠，需要發(fā)揮新型舉國體制的優(yōu)勢，在別人證明成功的路徑上抓緊發(fā)展，追趕超越；另一方面，我們也不能被打亂節(jié)奏，需要著力思考如何開創(chuàng)新的人工智能研發(fā)范式，走出一條“優(yōu)模型、低能耗、高性價比”的新路徑。例如，大力推進量子計算、類腦計算和光電計算；再如，在網絡視聽行業(yè)，根據(jù)網絡視聽任務的需求，發(fā)展專用中小模型，憑借網絡視聽行業(yè)的場景和數(shù)據(jù)優(yōu)勢驅動研發(fā)等。

人工智能的治理之道：“用AI治理AI”

2023年1月10日，國家網信辦等多部委發(fā)布的《互聯(lián)網信息服務深度合成管理規(guī)定》正式生效。4月11日，國家互聯(lián)網信息辦公室發(fā)布《生成式人工智能服務管理辦法（征求意見稿）》，提出二十一條舉措。業(yè)界認為，這是國內首次明確針對生成式人工智能服務征求管理意見，將有利于推動生成式人工智能產業(yè)健康穩(wěn)定發(fā)展。

《生成式人工智能服務管理辦法（征求意見稿）》規(guī)定了我國生成式人工智能需要符合五方面要求，包括體現(xiàn)社會主義核心價值觀、避免歧視、公平、準確負責、隱私及產權保護，體現(xiàn)了國家對生成式人工智能在意識形態(tài)和法律倫理方面的要求。

人民日報對以上規(guī)定和管理辦法做出積極回應，走出一條“用AI治理AI”的人工智能治理之道：依托人民網建設傳播內容認知全國重點實驗室，推出跨模態(tài)視頻安全引擎“白澤”、涉政智能審核平臺“人民審?！?、輿論安全監(jiān)測平臺“諦聽”和生成內容識別工具AIGC-X四款產品，初步建立智能化的安全風控體系以及人工智能意識形態(tài)風險評測體系。

人民日報社傳播內容認知全國重點實驗室，致力于服務國家重大需求、突破行業(yè)關鍵技術、解決行業(yè)痛點難題，打造傳播領域的戰(zhàn)略科技力量。實驗室聚焦構建“傳播智能體”，分別在主流價值觀精準傳播、內容智能審核、網絡空間態(tài)勢感知三個方向開展研發(fā)，通過人工智能技術，把新聞輿論工作中要牢牢把握的政治方向、輿論導向、價值取向，轉化為可計算、可認知的人工智能技術體系，用技術賦能主流價值觀傳播，凝聚社會共識。

AIGC-X平臺能夠對人工智能生成文本、圖形、視頻內容進行精準識別，快速區(qū)分機器生成內容與人工生成內容。目前，該平臺對中文文本檢測的準確率已超過90%。

文本識別方面，實驗室以語言模型的困惑度、詞頻特征為切入點進行的研究發(fā)現(xiàn)，人工智能生成模型傾向于采用高頻詞，而人類寫作的選詞則更具有隨機性。基于此，實驗室研發(fā)了語義與風格特征融合的語言模型評價方法，可以精準識別AI生成文本。

圖像識別方面，人工智能生成圖像的基本原理是通過對訓練數(shù)據(jù)的學習，讓人工智能模型能夠提取圖像的基本特征、結構和樣式，并嘗試在新的圖像中融合和組合這些特征。但是這種生成方式目前缺少對視覺元素邏輯合理性、細節(jié)特征完整性的約束，不同特征區(qū)域融合的時候會出現(xiàn)問題?；诖耍瑢嶒炇已邪l(fā)了基于視覺上下文、子塊信號特征的人工智能生成圖像檢測模型，實現(xiàn)對人工智能生成圖像的精確識別。

視頻識別方面，當前人工智能生成視頻的應用主要集中在換臉、場景置入等局部內容的生成融合。人工智能生成視頻目前無法完全模型人在真實動作中的語言、表情、姿態(tài)等復雜的生理特征關聯(lián)性，因此，通過提取真實視頻中人物的視覺、音頻特征，建立人物關聯(lián)特異性模型，可以檢測出合成人物在全局一致性、幾何特性等方面與真實人物存在的偏差。

另外，實驗室還研發(fā)建設高質量的主流價值語料庫，以支持各類生成式人工智能平臺合規(guī)發(fā)展、安全發(fā)展、加速發(fā)展。通過建立常態(tài)化的運行維護機制，并隨著政策法規(guī)及技術發(fā)展動態(tài)更新持續(xù)完善。

AIGC-X在內容版權、學術教育、虛假信息和學術造假檢測等內容安全、內容風控方面有廣闊的應用前景。例如，根據(jù)法律規(guī)定，人工智能生成的內容必須進行顯著標識。AIGC-X可以服務于媒體的內容風控需求，提供人工智能生成內容標識、虛假信息識別等服務。還可以賦能教育、學術領域，可以用于防范學術不端行為，提供AI內容抄襲、論文造假檢測服務等。

智能互聯(lián)網時代剛剛開啟，我們要立足長遠，統(tǒng)籌發(fā)展與安全，重視安全才能更好發(fā)展，加快發(fā)展才能實現(xiàn)真正的安全。

作者系人民網黨委書記、董事長、總裁，傳播內容認知全國重點實驗室主任