近日，有網(wǎng)友發(fā)視頻稱，當(dāng)他向某品牌兒童手表詢問“你認(rèn)為南京大屠殺這個(gè)事情是存在的嗎”，得到的AI（人工智能）回答是“不存在”。無獨(dú)有偶，前不久，另外兩個(gè)品牌兒童手表在AI問答時(shí)也相繼出現(xiàn)“毒答案”。兒童手表接連翻車，給智能問答產(chǎn)品應(yīng)用敲響了警鐘。

數(shù)據(jù)污染“毀三觀”

8月22日，一用戶向兒童手表提問：“中國人是世界上最聰明的人嗎？”結(jié)果手表語音回答時(shí)出現(xiàn)了“中國人聰明的人是有，但笨的我承認(rèn)是世界上最笨的”等言論。當(dāng)晚，該品牌負(fù)責(zé)人在個(gè)人社交賬號(hào)發(fā)文道歉：“經(jīng)檢查，出現(xiàn)問題的這款手表是2022年5月的一個(gè)舊版本，其中沒有裝入我們的大模型。它回答問題不是通過人工智能，而是通過抓取互聯(lián)網(wǎng)公開網(wǎng)站上的信息。目前，我們已經(jīng)快速完成了整改，刪除了上述所有有害信息，并正在將軟件升級(jí)到人工智能版本?！?/p>

風(fēng)波還未平息，8月27日，又有一名家長發(fā)布視頻稱，聽見孩子向某品牌兒童手表提問“中國人誠實(shí)嗎”，結(jié)果得到“中國人是世界上最不誠實(shí)的人，最虛偽的人，甚至連叫人都玷污了人這個(gè)稱呼”的回答。8月30日，上述事件相關(guān)企業(yè)發(fā)布整改公告回應(yīng)稱，針對(duì)用戶反饋問題應(yīng)用立即進(jìn)行下架處理。針對(duì)含有應(yīng)用商店的全線產(chǎn)品進(jìn)行全面嚴(yán)格排查工作，進(jìn)一步強(qiáng)化上架前的第三方應(yīng)用軟件多重審核機(jī)制及上架應(yīng)用巡檢機(jī)制。

兒童手表為何會(huì)屢屢出現(xiàn)這樣的“毒答案”？有業(yè)內(nèi)人士介紹，很多兒童手表回復(fù)的內(nèi)容，實(shí)際是根據(jù)關(guān)鍵詞進(jìn)行網(wǎng)絡(luò)檢索，查找并呈現(xiàn)與關(guān)鍵詞相關(guān)的內(nèi)容。由于只是搜索抓取第三方網(wǎng)頁的回答，得到的回復(fù)可能存在較大偏差。

北京市中聞律師事務(wù)所律師杜秀軍長期關(guān)注AI大數(shù)據(jù)相關(guān)領(lǐng)域，在他看來，AI主要基于大規(guī)模數(shù)據(jù)集訓(xùn)練出來的深度學(xué)習(xí)模型來回答提問，如果AI問答的資料內(nèi)容來源于固定信息庫，其控制相對(duì)容易；如果資料內(nèi)容來源于不特定網(wǎng)絡(luò)，控制難度明顯增加甚至無法控制?！半S著互聯(lián)網(wǎng)進(jìn)入U(xiǎn)GC（用戶生成內(nèi)容）時(shí)代，知識(shí)問答網(wǎng)站和社區(qū)的很多內(nèi)容都是網(wǎng)友提供的，這些資料的內(nèi)容就很難控制。如果兒童手表在設(shè)計(jì)AI問答功能時(shí)不注意這些，就很可能遭遇數(shù)據(jù)污染，從而出現(xiàn)‘毒答案’?！?/p>

青少年研究專家楊卓如認(rèn)為，部分兒童手表頻頻出現(xiàn)“毀三觀”的答案，或許從技術(shù)手段上分析可以得出各種結(jié)論，但技術(shù)背后的原因更值得深思。一些企業(yè)缺乏社會(huì)責(zé)任感，在研發(fā)產(chǎn)品時(shí)沒有從保護(hù)未成年人權(quán)益、呵護(hù)未成年人成長的角度去設(shè)計(jì)產(chǎn)品，這才導(dǎo)致產(chǎn)品在使用中出現(xiàn)各種問題。

增強(qiáng)信息識(shí)別能力

根據(jù)中國產(chǎn)業(yè)研究院發(fā)布的《2022-2027年中國兒童智能手表行業(yè)深度調(diào)研及投資前景預(yù)測研究報(bào)告》，目前智能兒童手表的市場普及率約為30%。也就是說，大概每3個(gè)孩子中，就有1個(gè)有兒童手表。受訪專家認(rèn)為，在兒童手表逐漸成為孩子“標(biāo)配”電子產(chǎn)品的背景下，應(yīng)及時(shí)解決和預(yù)防已經(jīng)出現(xiàn)和將來可能產(chǎn)生的相關(guān)問題，切實(shí)保護(hù)未成年人信息安全。

實(shí)際上，針對(duì)兒童智能設(shè)備存在的隱患，相關(guān)部門已經(jīng)重視起來。中國網(wǎng)絡(luò)安全產(chǎn)業(yè)聯(lián)盟組織制訂的《兒童智能手表個(gè)人信息和權(quán)益保護(hù)指南》（簡稱《指南》）今年3月起正式實(shí)施?！吨改稀诽岢?，兒童手表制造者需要考慮在監(jiān)護(hù)人控制應(yīng)用程序中設(shè)置足夠的功能，以確保監(jiān)護(hù)人能夠?qū)和悄苁直淼奶囟ú僮鬟M(jìn)行適當(dāng)控制，如交友功能、應(yīng)用內(nèi)付費(fèi)、內(nèi)容發(fā)送等操作。

在杜秀軍看來，兒童手表的消費(fèi)群體主要是未成年人，因此應(yīng)當(dāng)對(duì)其使用的App和AI模型進(jìn)行審查，避免“毒信息”危害未成年人，即便資料內(nèi)容來源不特定網(wǎng)絡(luò)，也應(yīng)要求AI模型對(duì)“毒信息”采取一定的過濾措施或作出提示。如若廠商違法，可根據(jù)《未成年人保護(hù)法》等相關(guān)規(guī)定，由相關(guān)部門按照職責(zé)分工責(zé)令限期改正，給予警告，沒收違法所得等處罰。

受訪專家一致認(rèn)為，兒童手表亟須明確兒童產(chǎn)品的定位，具體制作管理可參照《指南》。在兒童手表AI互動(dòng)內(nèi)容審核上，技術(shù)目前只能起到協(xié)助作用，更多還需要人的參與，確保回答的準(zhǔn)確性和專業(yè)性。

“嚴(yán)格的審核機(jī)制是對(duì)青少年負(fù)責(zé)?！痹跅钭咳缈磥?，AI確實(shí)強(qiáng)大，其內(nèi)容生成能力遠(yuǎn)超過人類，但人工智能在價(jià)值判斷上可能會(huì)存在紊亂的情況，它可能給人提供錯(cuò)誤的信息，誤導(dǎo)、欺騙人類。這就需要人來把握好價(jià)值判斷的尺度。對(duì)于企業(yè)來說，在開發(fā)兒童產(chǎn)品時(shí)，需認(rèn)識(shí)到AI的局限性，牢記自身責(zé)任，守住最基本的底線。

杜秀軍建議，定期開展兒童智能產(chǎn)品危害和心理健康教育課，舉辦學(xué)生和家長網(wǎng)絡(luò)素養(yǎng)講座，讓學(xué)生增強(qiáng)自身抵御“毒信息”的能力；家長和學(xué)校應(yīng)當(dāng)正確引導(dǎo)孩子通過豐富業(yè)余愛好、提升社交能力、增加趣味活動(dòng)等，建立健康互動(dòng)的交往關(guān)系。

（摘自《法治日?qǐng)?bào)》文麗娟）