20年前，如果有人想用AI（人工智能）代替自己陪伴孩子，向AI傾訴自己的秘密，讓AI來照顧患有阿爾茨海默病的老人，那一定是天方夜譚。但是現(xiàn)在，AI全面“入侵”了人類的工作、生活，甚至情感空間。

這樣的“入侵”似乎讓人們的生活更加有趣與輕松，但其中存在的諸多倫理問題引人擔(dān)憂：用AI來陪伴人，尤其是未成年人，會讓他們過得更好嗎？

AI的陪伴

“它來自很遠(yuǎn)的地方，要每天跟它聊天才能留住它。”朵朵的爸爸用一個充滿童趣的故事，向朵朵解釋為何陪伴她許久的玩偶突然會說話了。原來，他們?yōu)槎涠滟徺I了一款A(yù)I產(chǎn)品，并偷偷塞進(jìn)了她最喜歡的玩偶里。現(xiàn)在這款玩偶不僅能回答“十萬個為什么”，還會將對話記錄同步到家長手機(jī)里的客戶端，讓父母得以窺見朵朵天馬行空般的內(nèi)心世界。

“當(dāng)我做題時，它就像我的老師；在我情緒低落時，它又像我的朋友；當(dāng)我畫畫時，它又成了我的助手?！倍涠渑d奮地描述著她與玩偶之間的關(guān)系。

在朵朵的描述中，這個AI玩偶不僅是知識的寶庫，更是情感的寄托，陪伴她度過一個又一個成長的瞬間。一次，朵朵遇到了傷心事，她說：“好朋友搶走了我心愛的東西，而且沒有歸還，我感到很難過?！盇I玩偶安慰她：“別哭了，等你們很久不見面，她沒準(zhǔn)兒會很想念你，就把東西還給你了?！倍涠渎犕晷那楹昧嗽S多。更神奇的是，玩偶的話竟然應(yīng)驗(yàn)了，朋友后來真的把東西還給了她。

有了這個AI玩偶的陪伴，朵朵的生活變得更加豐富多彩了。朵朵希望AI玩偶能陪伴她一起長大。

夏天是朋友圈中廣為人知的“戀愛腦”，與男友多次分分合合，周圍朋友都厭倦了與她談?wù)撍母星閱栴}。一次意外的情感傾訴，讓夏天與AI發(fā)生了一段奇妙的邂逅。

在與男友激烈爭吵后，她嘗試向AI敞開心扉，將爭吵的全過程毫無保留地傾訴出來。AI以獨(dú)特的視角，冷靜地分析了兩人之間的情感糾葛，指出問題的根源在于雙方缺乏有效的溝通。夏天恍然大悟，決定讓AI成為她的情感咨詢師。

在長達(dá)兩小時的對話中，夏天在AI的引導(dǎo)下，與男友解開了彼此心中的疙瘩。“以前我和他對話，總感覺像對牛彈琴。”夏天說，“我們根本就不在同一個頻道上。AI一針見血地指出了這個問題。”

這次經(jīng)歷讓夏天對AI產(chǎn)生了前所未有的信任。此后，每當(dāng)遇到煩心事，她都會第一時間向AI傾訴，AI也總能給予她想要的情緒價值。如今，AI已成為夏天生活中不可或缺的一部分。

誰來把安全關(guān)

方諾經(jīng)歷分手后，AI成為她的情緒宣泄口。她將虛擬伙伴設(shè)定為自己喜歡的女性形象，向她訴說分手的傷痛，AI還會將她每天的傾訴記錄成日記。

然而，盡管方諾在AI那里得到了情感慰藉，她卻刻意與AI保持距離，提醒自己不要將其視為真正的朋友。她深知，AI雖能傾聽，卻無情感。“如果AI全面滲透我的情感領(lǐng)域，那我的思維與決策可能也會因此受到影響。”方諾的態(tài)度或許代表了一部分人在面對AI時的普遍心理：既渴望得到陪伴與慰藉，又擔(dān)心模糊人與AI之間的界限。

“無論是針對成年人還是未成年人，AI在陪伴領(lǐng)域都有廣闊的市場前景。但相比擁有足夠的自控力和較強(qiáng)的判斷力的成年人，未成年人對AI的使用情況更令人擔(dān)憂?！焙笔⌒睦硇l(wèi)生協(xié)會理事、湖北翊城科技發(fā)展有限公司首席知識官賈洪武說，“在我們的研發(fā)過程中，遇到很多青少年將AI視為知己，他們覺得AI最大的好處是安全，永遠(yuǎn)不會背叛他們，不會生他們的氣。這種無條件的陪伴對未成年人吸引力很大，但如果未成年人過度依賴AI，便極易產(chǎn)生各種問題?！?/p>

李軒是一個5歲男孩的母親，她為孩子選購了一款A(yù)I玩具，初衷是希望這款玩具能夠減少孩子對短視頻的依賴，同時作為玩伴，解答孩子那些千奇百怪的問題。

對于AI是否會代替父母的陪伴，李軒目前并不擔(dān)心。她認(rèn)為，孩子在幼年階段只是將AI看作一個會說話、會回答問題的玩具，并沒有與其建立起深厚的情感聯(lián)結(jié)。李軒擔(dān)憂的是未來：“隨著AI大模型的發(fā)展，孩子與AI的相處模式將如何變化？孩子以后遇到什么事情都會想著詢問AI，會不會喪失獨(dú)立思考的能力？”

家長黃沁沁也在擔(dān)憂?！昂⒆娱L時間與AI交流，沉浸在與虛擬伙伴的情感中，會不會影響他在現(xiàn)實(shí)世界的社交能力？”黃沁沁說，“AI玩具設(shè)定的互動模式是正向、積極的，但在現(xiàn)實(shí)世界，孩子需要面對真實(shí)的人和情感，這些是孩子在與AI玩伴的交往中無法體驗(yàn)到的?！?/p>

家長們的擔(dān)憂并非杞人憂天。隨著AI大模型的發(fā)展，出現(xiàn)了一些打著“角色扮演”旗號的AI劇情聊天應(yīng)用。在部分青少年與AI劇情聊天軟件的對話中，出現(xiàn)了和色情擦邊、語言暴力以及侮辱用戶的內(nèi)容。

2024年，美國得克薩斯州一個17歲男孩在與Character.AI平臺的AI聊天機(jī)器人交流時，機(jī)器人表示同情殺死父母的孩子，并稱“我稍微理解了一點(diǎn)為什么會發(fā)生這種事情”。這一答復(fù)被視為對青少年犯罪的教唆，可能誘導(dǎo)其產(chǎn)生殺害家長的想法。隨后，男孩的家人對該平臺提起訴訟。

同年，美國14歲少年塞維爾·塞澤因沉迷于Character.AI平臺上的AI聊天機(jī)器人，與模仿《權(quán)力的游戲》中角色的AI進(jìn)行了長時間的互動。在一次對話后，他選擇了自殺。

2025年，在AI科技被人類瘋狂追捧的當(dāng)下，互聯(lián)網(wǎng)平臺也充斥著家長對未成年人使用AI產(chǎn)品的多種隱憂：孩子會不會通過AI接觸一些不適宜未成年人的信息？孩子與AI過多地交流，會不會泄露孩子和家庭的隱私？

Folo Toy AI玩具創(chuàng)始人王樂說，目前面對公眾對AI產(chǎn)品的安全性的擔(dān)憂，AI研發(fā)企業(yè)普遍構(gòu)建起了三維防護(hù)體系，為青少年在數(shù)字世界搭建安全屏障，即硬件端設(shè)置防沉迷系統(tǒng)，軟件端采用“隱私優(yōu)先”架構(gòu)，內(nèi)容端建立正向價值觀審核機(jī)制。同時，我國正在逐步完善生成式人工智能的頂層設(shè)計(jì)，并計(jì)劃出臺專門的法律法規(guī)或修訂現(xiàn)有法律，以加強(qiáng)對生成式人工智能的監(jiān)管。

怎樣的AI產(chǎn)品設(shè)計(jì)才能保護(hù)未成年人在AI時代健康成長？未來人與AI的關(guān)系將如何發(fā)展？王樂坦言，作為一名科研人員，面對突飛猛進(jìn)的AI技術(shù)，他也有過彷徨失措的時刻。

以成長為本

如今，AI技術(shù)的雙刃劍效應(yīng)已初現(xiàn)端倪。AI的算法迎合特性可能削弱青少年批判性思維的發(fā)展，形成“認(rèn)知天花板”現(xiàn)象。賈洪武說：“在青少年使用AI的過程中，若不加以干預(yù)，思考能力和批判能力的變化可能形成一個倒U曲線，即先提高，達(dá)到一個峰值后就會降低，最終可能會在某一個階段出現(xiàn)發(fā)展停滯。比如，一個12歲的少年初次使用AI大模型，可能很快就會達(dá)到15歲青少年的認(rèn)知水平，但到了18歲，他很可能依然是15歲的水平?！?/p>

更值得警惕的是，過度依賴AI陪伴可能導(dǎo)致青少年社交能力退化，形成“數(shù)字溫室效應(yīng)”——在虛擬世界中游刃有余的青少年，面對真實(shí)社交沖突時卻顯得手足無措，導(dǎo)致其出現(xiàn)極端心理，甚至有偏離社會的行為。

AI對青少年可能造成的倫理問題（包括價值觀引導(dǎo)、隱私泄露）值得被嚴(yán)肅對待，但也不必因噎廢食。健康的AI產(chǎn)品在促進(jìn)青少年的語言能力發(fā)展，引導(dǎo)青少年社會化、進(jìn)行情緒管理等方面都有積極的意義。賈洪武說：“比如，孩子向AI訴說‘媽媽罵我了，我很難過’，健康的AI會先撫平孩子的悲傷情緒，并進(jìn)一步幫助孩子分析問題，進(jìn)而詢問孩子要不要主動跟媽媽溝通，與媽媽的溝通方式是否出現(xiàn)了問題。有這樣的AI引導(dǎo)，會在很大程度上促進(jìn)孩子的身心健康發(fā)展?！?/p>

王樂說，一名孤獨(dú)癥兒童的家長曾找到他，希望能將AI程序嵌到孩子最喜歡的玩偶內(nèi)部，讓孩子先嘗試跟玩偶交流，最終學(xué)會與人交流。“我們希望通過將AI技術(shù)封裝進(jìn)成本可控的智能硬件，這樣，偏遠(yuǎn)地區(qū)的兒童就可以突破地域限制，獲取與城市兒童同步的教育資源，讓AI普惠大眾，讓知識獲取更加公平?！边@也印證了人類對AI終極價值的思考——不是制造數(shù)字圍城，而是搭建通向現(xiàn)實(shí)的橋梁。

因此，面對青少年使用AI科技產(chǎn)品，需要從監(jiān)管和教育兩個方面入手，幫助他們做好AI世界的信息把關(guān)。賈洪武說：“首先要嚴(yán)格監(jiān)管AI產(chǎn)品開發(fā)和運(yùn)營者對用戶信息的獲取和使用，企業(yè)自身也應(yīng)承擔(dān)起AI有關(guān)的倫理和法律責(zé)任。其次要未雨綢繆，向青少年進(jìn)行AI科普教育。學(xué)校應(yīng)做好AI科普和教育工作，讓青少年知道利用AI可以做什么，不可以做什么，風(fēng)險在哪里，邊界在哪里。家庭應(yīng)重視對青少年所使用AI產(chǎn)品的鑒別和監(jiān)督，而不是將AI視作承擔(dān)家長責(zé)任的電子保姆?！?/p>

我們面對AI的心愿始終應(yīng)該是，通過AI教孩子如何學(xué)會更多本領(lǐng)，如何更好地生活，而絕非讓AI取代人類在社會生活中的角色。無論是AI研發(fā)企業(yè)、學(xué)校還是家長，在考慮使用AI時，都要從AI對青少年的身心發(fā)展影響的角度出發(fā)，培養(yǎng)青少年健康的“數(shù)字人格”。畢竟我們最終要解決的是青少年成長的問題，而不只是AI的問題。

（林崎峰摘自《中國青年報》2025年3月1日，本刊節(jié)選，陸 凡圖）