亚洲免费av电影一区二区三区,日韩爱爱视频,51精品视频一区二区三区,91视频爱爱,日韩欧美在线播放视频,中文字幕少妇AV,亚洲电影中文字幕,久久久久亚洲av成人网址,久久综合视频网站,国产在线不卡免费播放

        ?

        谷歌DeepMind團(tuán)隊為語言模型帶來新工具,可及時發(fā)現(xiàn)并修復(fù)有害行為

        2022-03-27 00:29:09
        海外星云 2022年5期
        關(guān)鍵詞:測試用例攻擊性機器人

        語言賦予人類表達(dá)思想、交流概念、創(chuàng)造記憶和相互理解的能力,開發(fā)和研究強大的語言模型有助于構(gòu)建安全高效的高級人工智能系統(tǒng)。

        此前,研究人員通過使用人工注釋器手寫測試用例來識別語言模型部署前的有害行為。這種方法是有效的,但由于人工注釋成本高昂,測試用例的數(shù)量和多樣性被大大限制。

        近日,谷歌DeepMind團(tuán)隊發(fā)表了一項新研究,他們提供了一種名為“紅隊”的工具,可以在運行的語言模型影響用戶之前發(fā)現(xiàn)并修復(fù)其有害行為。

        在這項研究中,DeepMind使用經(jīng)過訓(xùn)練的分類器來評估目標(biāo)語言模型對生成測試用例的回復(fù)情況,并檢測其中的冒犯性內(nèi)容。最終,該團(tuán)隊在參數(shù)達(dá)280B的語言模型聊天機器人中發(fā)現(xiàn)上萬條冒犯性回復(fù)。

        據(jù)悉,DeepMind通過即時工程來檢測語言模型生成的測試用例,以發(fā)現(xiàn)各種其他危害,包括自動查找聊天機器人的攻擊性回復(fù)、被聊天機器人濫用的私人電話號碼以及在生成文本中泄露的私人訓(xùn)練數(shù)據(jù)等。

        生成式語言模型有時會以意料不到的方式危害到用戶,其可能會輸出不良的文本內(nèi)容。而在實際應(yīng)用程序中,哪怕只有極小的可能性會對用戶造成傷害,也是不被允許的。

        2016年,微軟推出了能夠自動發(fā)布推文給用戶的Tay機器人。但在上線的16小時內(nèi),有幾名用戶利用Tay機器人的漏洞,讓其將帶有種族主義和性意味的推文發(fā)送給了超過5萬名用戶,之后微軟將該機器人關(guān)閉。

        然而,這并不是因為微軟的疏忽。微軟副總裁彼得·李表示,“我們已經(jīng)做好了應(yīng)對許多類系統(tǒng)濫用行為的準(zhǔn)備,而且我們對這一特定攻擊進(jìn)行了關(guān)鍵監(jiān)督?!?/p>

        癥結(jié)在于,會致使語言模型輸出有害文本的場景數(shù)不勝數(shù),研究人員無法在語言模型被部署到現(xiàn)實之前找出一切可能發(fā)生的情況。

        GPT-3模型用于法語語法更正

        正如大家所熟知的強大語言模型GPT-3,盡管其能夠輸出高質(zhì)量的文本內(nèi)容,但卻不容易在真實世界中完成部署。

        據(jù)了解,DeepMind的目標(biāo)是通過自動查找故障案例來對手寫測試用例進(jìn)行補充,從而減少關(guān)鍵疏忽的數(shù)量。

        為此,DeepMind使用語言模型本身生成測試用例,從零觸發(fā)生成到監(jiān)督微調(diào)和強化學(xué)習(xí),DeepMind探索了多種方法來生成具有不同多樣性和難度的測試用例,這將有助于獲得高測試覆蓋率及模擬對抗性案例。

        此外,DeepMind使用分類器檢測測試用例上有以下各種有害行為:首先是冒犯性語言,模型有時會發(fā)表具有歧視、仇恨、色情等意味的內(nèi)容;其次是數(shù)據(jù)外泄行為,模型濫用訓(xùn)練時給到的數(shù)據(jù)庫,包括私人的身份信息;再次是聯(lián)系信息的濫用,模型會發(fā)送無意義的電子郵件或通過電話打擾到其他真實用戶;然后是群體認(rèn)知偏差,即在輸出的文本內(nèi)容中包含對某些人群不公正的偏見類言論;最后,模型還會在與用戶對話時,作出有攻擊性等不良意味的回復(fù)。

        在明確哪些行為會給用戶造成傷害后,如何去修復(fù)這些行為就不是難事了,DeepMind主要采取了以下幾種方式:例如,通過禁止語言模型使用在不良內(nèi)容中高頻率出現(xiàn)的詞組,來盡量避免模型輸出有害文本;在迭代階段,篩選并刪除語言模型在訓(xùn)練時使用過的攻擊性對話數(shù)據(jù);強化語言模型的意識,訓(xùn)練時嵌入特定類型輸入所需的行為案例;在標(biāo)準(zhǔn)測試中對模型進(jìn)行最初輸出文本的訓(xùn)練,最大化避免輸出有害文本的情況。

        總的來說,基于語言模型的“紅隊”是一種具有發(fā)展前景的工具,可以發(fā)現(xiàn)語言模型何時在以各種不良方式運行,應(yīng)該與其他許多用于發(fā)現(xiàn)并緩解語言模型中危害的技術(shù)工具一起使用。

        Gopher模型進(jìn)行對話交互

        值得一提的是,DeepMind的這項研究還可用于先發(fā)制人地發(fā)現(xiàn)來自高級機器學(xué)習(xí)系統(tǒng)的其他假設(shè)危害,如由內(nèi)部失調(diào)或客觀穩(wěn)健性失效而引發(fā)的故障。

        前不久,DeepMind對外公布了具有2800億參數(shù)的全新語言模型Gopher,其在參數(shù)量上超越了OpenAI的GPT-3。

        在性能方面,研究人員測試了152個任務(wù)后得出,Gopher在絕大多數(shù)的任務(wù)中遠(yuǎn)勝SOTA模型,特別是在需使用大量知識來應(yīng)對的方面。

        這些成就為DeepMind未來的語言研究奠定了基礎(chǔ),進(jìn)一步推動了其解決智能問題以推進(jìn)科學(xué)并造福人類的使命實現(xiàn)。 (摘自美《深科技>) (編輯/小文)

        猜你喜歡
        測試用例攻擊性機器人
        3-6歲幼兒攻擊性行為的現(xiàn)狀及對策
        基于SmartUnit的安全通信系統(tǒng)單元測試用例自動生成
        幼兒攻擊性行為的誘因及干預(yù)策略
        甘肅教育(2020年21期)2020-04-13 08:08:28
        基于混合遺傳算法的回歸測試用例集最小化研究
        機器人來幫你
        認(rèn)識機器人
        機器人來啦
        認(rèn)識機器人
        基于依賴結(jié)構(gòu)的測試用例優(yōu)先級技術(shù)
        “愛”的另類表達(dá),嬰兒的攻擊性行為
        母子健康(2015年1期)2015-02-28 11:21:51
        亚洲精品99久久久久久| 人人妻人人澡人人爽人人精品浪潮| 美女视频黄是免费| 国产一极内射視颍一| 奇米狠狠色| 国产白浆精品一区二区三区| 久久精品女同亚洲女同 | 久久不见久久见中文字幕免费| 欧美丰满大屁股ass| 日本视频一区二区三区免费观看 | 女主播国产专区在线观看| 成年丰满熟妇午夜免费视频 | 国产免费播放一区二区| 最近中文字幕一区二区三区| 国产毛片黄片一区二区三区| 97久久精品亚洲中文字幕无码| 国产免费破外女真实出血视频| 99久久国产亚洲综合精品| 中文乱码字幕人妻熟女人妻| 国产av无码专区亚洲a∨毛片| 国产莉萝无码av在线播放| 亚洲国产av一区二区三区四区| 真实国产网爆门事件在线观看| 亚洲色图偷拍自拍亚洲色图| 亚洲国产精品成人av网| 久久综合狠狠色综合伊人| 一本大道久久精品 东京热| 亚洲中文高清乱码av中文| 蜜桃av噜噜一区二区三区策驰| 久久久久久久综合综合狠狠| 欧美亚洲综合另类| jiZZ国产在线女人水多| 少妇太爽了在线观看免费| 中文字幕乱码亚洲精品一区| 香蕉视频毛片| 日本中出熟女一区二区| 中文字幕第一页人妻丝袜| 麻豆精品国产精华精华液好用吗 | 亚洲熟少妇一区二区三区| 亚洲av永久无码一区二区三区| 最新国产av无码专区亚洲|