人工智能（AI）技術(shù)的廣泛應(yīng)用，正影響著人類生活的方方面面。在“人工智能治理創(chuàng)新為培育科技治理生態(tài)構(gòu)建國際信任基礎(chǔ)”主題會(huì)議上，世界機(jī)器人合作組織理事長、中國科學(xué)院院士喬紅發(fā)布了“2024人工智能（AI）十大前沿技術(shù)趨勢展望”，包括AI共性技術(shù)領(lǐng)域的小數(shù)據(jù)與優(yōu)質(zhì)數(shù)據(jù)、人機(jī)對(duì)齊、AI使用邊界和倫理監(jiān)督模型、可解釋性模型，大規(guī)模預(yù)訓(xùn)練模型領(lǐng)域的規(guī)模定律、全模態(tài)大模型、AI驅(qū)動(dòng)的科學(xué)研究、具身小腦模型、實(shí)體人工智能系統(tǒng)，以及生成式人工智能領(lǐng)域的世界模擬器，共10項(xiàng)技術(shù)。

大量無效數(shù)據(jù)的存在，不僅消耗了計(jì)算資源，也對(duì)模型可靠性訓(xùn)練帶來極大挑戰(zhàn)，而小數(shù)據(jù)更注重?cái)?shù)據(jù)的精度和相關(guān)性，優(yōu)質(zhì)數(shù)據(jù)通過嚴(yán)格的篩選、清洗和標(biāo)注工具剔除了噪聲和不相關(guān)信息，從本質(zhì)上減少人工智能算法對(duì)數(shù)據(jù)的依賴和不確定性，增強(qiáng)網(wǎng)絡(luò)可靠性。建設(shè)多樣性的數(shù)據(jù)集，不僅能夠從理論基礎(chǔ)上支撐不同技術(shù)路線的AI發(fā)展，還為解決通用人工智能的瓶頸問題提供新的可能。

除了輸入的訓(xùn)練數(shù)據(jù)集質(zhì)量，AI系統(tǒng)的可靠性還體現(xiàn)在輸出結(jié)果的可執(zhí)行性上。喬紅表示，僅依靠數(shù)據(jù)和算法不足以實(shí)現(xiàn)人機(jī)對(duì)齊，需要將人類的價(jià)值觀和倫理道德轉(zhuǎn)化為強(qiáng)化學(xué)習(xí)獎(jiǎng)勵(lì)函數(shù)。這意味著在設(shè)計(jì)獎(jiǎng)勵(lì)機(jī)制時(shí)，不僅要考慮任務(wù)的效率、效益和效果，還需要考慮行為是否符合人類的倫理標(biāo)準(zhǔn)。

中國工程院院士、北京郵電大學(xué)教授張平建議，構(gòu)建通用人工智能理論框架，奠定AI技術(shù)安全可控發(fā)展的科學(xué)技術(shù)；同時(shí)，研發(fā)超級(jí)對(duì)齊技術(shù)，從內(nèi)生機(jī)制上確保人工智能輸出觀點(diǎn)決策與人類對(duì)齊。此外，通過構(gòu)建可解釋、自動(dòng)化的AI評(píng)估方法，確保AI向善。

構(gòu)建AI使用邊界和倫理監(jiān)督模型，也體現(xiàn)了業(yè)界對(duì)AI倫理治理的思考。喬紅表示，當(dāng)前AI系統(tǒng)的合規(guī)性、安全性和倫理問題愈發(fā)突出，建立AI監(jiān)督模型框架尤為必要，其作用類似于AI憲法，其主要曰的是通過制定明確的標(biāo)準(zhǔn)和規(guī)范，確保所有AI系統(tǒng)在開發(fā)和使用過程中遵循既定原則，從而減少AI被過度使用帶來的風(fēng)險(xiǎn)。

“在訓(xùn)練具身大模型時(shí)，一個(gè)重要的工作是教其倫理道德，就像教孩子遵守道德一樣。我相信，人類既然能創(chuàng)造AI，就一定有能力抑制這項(xiàng)技術(shù)的濫用?！敝袊こ淘和饧菏俊⒌聡鴩夜こ淘涸菏繌埥▊フf。