全國(guó)政協(xié)委員、360集團(tuán)創(chuàng)始人周鴻祎向大會(huì)提交了《關(guān)于鼓勵(lì)兼具“安全和AI”能力的企業(yè)解決通用大模型安全問(wèn)題的提案》。
周鴻祎表示,目前,國(guó)內(nèi)的大模型安全問(wèn)題不容樂(lè)觀。一方面,國(guó)內(nèi)大模型企業(yè)不熟悉內(nèi)容安全、數(shù)據(jù)安全、科技倫理、網(wǎng)絡(luò)安全等人工智能帶來(lái)的安全挑戰(zhàn);另一方面,大部分安全公司又很少真正有能力深入大模型研究,上述兩方面原因?qū)е聡?guó)內(nèi)大模型安全領(lǐng)域成為整個(gè)產(chǎn)業(yè)鏈的薄弱環(huán)節(jié)。建議國(guó)家有關(guān)部門(mén)采用“揭榜掛帥”等方式,鼓勵(lì)并扶持兼具“安全和AI”能力的企業(yè),給予專項(xiàng)扶持政策,支持企業(yè)擔(dān)起大模型安全重?fù)?dān),聚焦攻堅(jiān),為解決通用大模型安全問(wèn)題提供堅(jiān)實(shí)保障。
其次,他建議國(guó)家在內(nèi)容安全、數(shù)據(jù)安全、科技倫理、網(wǎng)絡(luò)安全等細(xì)分領(lǐng)域,牽頭研究制定安全檢測(cè)標(biāo)準(zhǔn),在規(guī)范的安全標(biāo)準(zhǔn)體系下,推動(dòng)通用大模型的安全評(píng)測(cè)工作,通過(guò)接入安全服務(wù)來(lái)保障大模型的安全。最后,他建議政府和央國(guó)企加強(qiáng)與兼具“安全和AI”能力企業(yè)的合作,在政策和招投標(biāo)條件上,給予更多合作機(jī)會(huì),發(fā)揮此類企業(yè)在人工智能安全領(lǐng)域的優(yōu)勢(shì)作用,為國(guó)家安全貢獻(xiàn)力量。