亚洲免费av电影一区二区三区,日韩爱爱视频,51精品视频一区二区三区,91视频爱爱,日韩欧美在线播放视频,中文字幕少妇AV,亚洲电影中文字幕,久久久久亚洲av成人网址,久久综合视频网站,国产在线不卡免费播放

        ?

        重視大模型風(fēng)險,發(fā)展負(fù)責(zé)任AI

        2023-12-18 02:33:01
        計算機研究與發(fā)展 2023年9期
        關(guān)鍵詞:范式準(zhǔn)則倫理

        周 明

        (北京瀾舟科技有限公司 北京 100081)

        人工智能(AI)的發(fā)展經(jīng)歷了符號系統(tǒng)、基于統(tǒng)計的機器學(xué)習(xí)之后,進入了深度學(xué)習(xí)階段.在2017 年Transformer 出現(xiàn)之后進入了快速發(fā)展期,先后出現(xiàn)了GPT、BERT、T5 等基于自監(jiān)督學(xué)習(xí)的預(yù)訓(xùn)練模型,并興起了預(yù)訓(xùn)練模型基礎(chǔ)上的微調(diào)范式.隨后以ChatGPT 為標(biāo)志,在預(yù)訓(xùn)練模型中加入了有監(jiān)督的微調(diào)和基于人類反饋的強化學(xué)習(xí),AI 進入了大模型時代.AI 模型和系統(tǒng)在參數(shù)量、任務(wù)性能、應(yīng)用場景等方面都實現(xiàn)了飛躍式的突破.在海量數(shù)據(jù)上訓(xùn)練的百億、千億乃至萬億參數(shù)規(guī)模的大模型,具備了少樣本學(xué)習(xí)、推理解釋和對話式交互的能力,在多任務(wù)上展現(xiàn)了接近甚至超過人類水平的通用能力,向著通用AI 邁出了第一步.

        技術(shù)的發(fā)展總是具有雙面性,劃時代的突破也帶來了對少數(shù)群體的歧視、隱私泄露、版權(quán)侵害、誤導(dǎo)性信息、惡意濫用等問題,并可能對用戶乃至整個社會造成偏見、不平等等深遠(yuǎn)的負(fù)面影響.在大模型的快速發(fā)展過程中,我們不僅要不斷推動基礎(chǔ)技術(shù)的進步,而且必須考慮到對社會可能帶來的風(fēng)險和潛在的負(fù)面影響,引導(dǎo)AI 的發(fā)展遵循負(fù)責(zé)任和守道德的準(zhǔn)則,使得AI 技術(shù)真正成為人類社會可持續(xù)發(fā)展的助力.

        基于大模型的能力和風(fēng)險,有必要重新梳理和審視這些模型,尤其是與大模型結(jié)合的對齊技術(shù)如何能夠?qū)崿F(xiàn)負(fù)責(zé)任的發(fā)展.當(dāng)下國內(nèi)針對大模型的研究還處于基礎(chǔ)技術(shù)快速發(fā)展和追趕的階段,對大模型的風(fēng)險和道德問題重視不夠.難能可貴的是,微軟亞洲研究院謝幸團隊注意到了大模型潛在的道德問題,并向大模型的道德價值觀對齊的研究邁出了重要一步.該團隊撰寫的文章“大模型道德價值觀對齊問題剖析”作為一篇綜述性和展望性的文章,介紹了目前大模型,尤其是大語言模型發(fā)展過程中面臨的道德風(fēng)險與挑戰(zhàn),梳理了當(dāng)下大模型對齊方法的特點與不足,并提出了一種新的針對道德對齊的概念性框架.該文的貢獻與亮點主要有以下4 點:

        1.大模型的特點與風(fēng)險梳理.文章全面概述了大模型的特點,強調(diào)了伴隨尺度定律和能力涌現(xiàn)而來的反尺度現(xiàn)象和風(fēng)險涌現(xiàn),這將會放大模型帶來的安全和道德問題.隨后文章詳細(xì)梳理了模型面臨的風(fēng)險挑戰(zhàn),有助于理解和分析大模型可能對社會產(chǎn)生的潛在影響和后果.

        2.AI 倫理準(zhǔn)則調(diào)研和評估.文章調(diào)研了現(xiàn)有的AI 倫理準(zhǔn)則,批判性地評估了它們解決大模型倫理影響方面的適用性.通過審視現(xiàn)有的規(guī)范準(zhǔn)則,文章基于康德的規(guī)范倫理學(xué)理論,提出了“AI 絕對命令”框架用以重新評估各項準(zhǔn)則,并強調(diào)了學(xué)術(shù)界合作建立統(tǒng)一普適的AI 倫理框架方面的重要性.

        3.大模型道德傾向分析及對齊方法綜述.文章運用道德基礎(chǔ)理論測試了主流大語言模型的道德傾向,提供了關(guān)于模型中編碼的道德觀的洞察,突顯了潛在的偏見與不足.隨后,文章系統(tǒng)性地介紹了現(xiàn)有大模型對齊算法,總結(jié)了道德價值觀對齊所面臨的獨特問題.

        4.倫理對齊的新范式.文章基于道德學(xué)理論引入了一個新穎的概念性范式,用于對齊大模型的道德觀.從大模型對齊的維度、對齊的評測以及對齊的方法等3 個方面為解決道德對齊所帶來的挑戰(zhàn)提供了新的方法,為進一步的跨學(xué)科研究開辟了道路.

        我認(rèn)為這篇展望性文章不僅體現(xiàn)了對AI 大模型研究前沿全面的了解和深入的思考,而且具備了很強的交叉學(xué)科特征.該文詳細(xì)介紹并充分借鑒了社會科學(xué)和道德學(xué)等領(lǐng)域的理論基礎(chǔ),彌補了計算機領(lǐng)域?qū)W者在這方面的不足,為大模型的道德對齊打開了一個全新的視角.相信這篇文章既能為AI 領(lǐng)域的研究者,又能為交叉學(xué)科領(lǐng)域的學(xué)者乃至政策制定者提供有益的參考.希望有關(guān)方面更多地關(guān)注這一重要的問題,重視大模型的倫理和道德風(fēng)險并與技術(shù)發(fā)展相匹配.

        亮點論文

        矣曉沅,謝幸.大模型道德價值觀對齊問題剖析 [J].計算機研究與發(fā)展,2023,60(9):1926-1945.DOI:10.7544/issn1000-1239.202330553

        猜你喜歡
        范式準(zhǔn)則倫理
        《心之死》的趣味與倫理焦慮
        以寫促讀:構(gòu)建群文閱讀教學(xué)范式
        甘肅教育(2021年10期)2021-11-02 06:14:08
        范式空白:《莫失莫忘》的否定之維
        孫惠芬鄉(xiāng)土寫作批評的六個范式
        具非線性中立項的二階延遲微分方程的Philos型準(zhǔn)則
        護生眼中的倫理修養(yǎng)
        活力(2019年19期)2020-01-06 07:37:00
        管窺西方“詩辯”發(fā)展史的四次范式轉(zhuǎn)換
        基于Canny振蕩抑制準(zhǔn)則的改進匹配濾波器
        一圖讀懂《中國共產(chǎn)黨廉潔自律準(zhǔn)則》
        醫(yī)改莫忘構(gòu)建倫理新機制
        日韩精品一级在线视频| 色八区人妻在线视频免费| 亚洲男同帅gay片在线观看| 免费黄色福利| 手机在线中文字幕av| 国产精品女主播福利在线| 国语对白嫖老妇胖老太| 欧美色欧美亚洲另类二区不卡| 日韩极品视频在线观看免费| 美腿丝袜日韩在线观看| 少妇粉嫩小泬喷水视频| 久久精品人成免费| 成年女人片免费视频播放A| 国产aⅴ夜夜欢一区二区三区| 亚洲一区日本一区二区| 麻豆成年人视频在线观看| 亚洲大尺度无码无码专区| 在办公室被c到呻吟的动态图| 亚洲熟妇丰满大屁股熟妇| 国产欧美日本亚洲精品一4区| 国产人妖伦理视频在线观看 | 久久久久女人精品毛片| 午夜a福利| 亚洲国产综合精品一区| 免费国产在线精品一区| 麻豆成人精品国产免费| 制服丝袜视频国产一区| 亚洲av手机在线一区| 亚洲 日本 欧美 中文幕| 久久久久亚洲av无码专区桃色| 中文亚洲AV片在线观看无码| 国产亚洲精品一区在线| 亚欧美日韩香蕉在线播放视频| 亚洲人成电影在线无码| 91精品91久久久久久| 中文字幕亚洲高清视频| 国产超碰女人任你爽| 国产精品无码专区视频| 国产在线观看免费不卡视频| 欧美肥妇毛多水多bbxx水蜜桃| 大地资源中文在线观看官网第二页|