閏然

烏克蘭網(wǎng)紅Olga Loiek回應(yīng)克隆

Olga Loiek是一名烏克蘭網(wǎng)紅，金發(fā)碧眼，面容精致，她的視頻，多以芭比娃娃氣質(zhì)的造型做封面，內(nèi)容形式相對(duì)單調(diào)—對(duì)著鏡頭，分享自己的生命感悟。

作為一個(gè)名不見(jiàn)經(jīng)傳的油管小網(wǎng)紅，Olga的粉絲量少得可憐，僅一萬(wàn)多。不過(guò)，她在中文互聯(lián)網(wǎng)有一個(gè)分身，在中國(guó)生活了8年，說(shuō)著一口流利的中文，粉絲比本體多，有20多萬(wàn)。

在這里，她不叫Olga Loiek，而是叫“娜塔莎”，是俄羅斯人，熱愛(ài)中國(guó)美食和文化，想嫁個(gè)中國(guó)男人，順帶賣(mài)點(diǎn)俄羅斯產(chǎn)品。

今年1月底，Olga Loiek才了解到平行宇宙中的娜塔莎，她對(duì)另一個(gè)“自己”很吃驚，很難描述正在發(fā)生的事情。

“有人克隆了我”，她憤怒地表示。

事實(shí)上，中文互聯(lián)網(wǎng)上，還有一大群“俄羅斯美女”，用著Olga Loiek的臉和聲音，她們都自稱(chēng)在中國(guó)生活多年，希望嫁給中國(guó)男人，接著便會(huì)向網(wǎng)友介紹各種俄羅斯特色產(chǎn)品。

Olga Loiek不是唯一的受害者，來(lái)自瑞典的網(wǎng)紅拉納布萊克利，也在中國(guó)擁有分身。事實(shí)上，只要一點(diǎn)素材，通過(guò)唾手可得的 AI合成軟件，各式各樣充滿異國(guó)風(fēng)情的美女，便會(huì)批量產(chǎn)生。

烏克蘭網(wǎng)紅Olga Loiek回應(yīng)克隆

正所謂，開(kāi)局一張臉，人設(shè)全靠編。這股AI熱潮里，錢(qián)賺得最起勁的，只有詐騙的和賣(mài)課的。隨著AI技術(shù)下沉與AI生成信息的泛濫，它似乎越來(lái)越多地影響到了人們的日常沖浪。除了無(wú)關(guān)痛癢的AI垃圾信息，你可能也會(huì)越來(lái)越頻繁地刷到一些聲稱(chēng)要嫁給中國(guó)人的“異國(guó)美女”，其背后可能只是一堆虛假的數(shù)據(jù)，而她們所瞄準(zhǔn)的，往往是你的錢(qián)包。

俄羅斯美女來(lái)襲

不知道從什么時(shí)候開(kāi)始，國(guó)內(nèi)各大平臺(tái)上冒出了一群特別愛(ài)中國(guó)的“洋網(wǎng)紅”。他們說(shuō)著不太流利的中文，表達(dá)著對(duì)中國(guó)的喜愛(ài)，贊揚(yáng)中國(guó)美食、產(chǎn)業(yè)和文化。

這也讓一些別有用心的人，窺見(jiàn)了這套財(cái)富密碼。

名為“娜塔莎進(jìn)口食品”的賬號(hào)，塑造了一個(gè)不存在的俄羅斯女子“娜塔莎”，在中國(guó)生活了8年，熱愛(ài)中國(guó)文化，揚(yáng)言要嫁中國(guó)男人，其粉絲量有21萬(wàn)。相比之下，“娜塔莎”的本體，也就是文章開(kāi)頭那位Olga Loiek，本人的粉絲量?jī)H1萬(wàn)多。

AI博主的門(mén)檻其實(shí)并不高，只要找到一點(diǎn)點(diǎn)素材，比如Olga Loiek的視頻和照片，再借助網(wǎng)上唾手可得的軟件，人人都可上手的教程，進(jìn)行簡(jiǎn)單的訓(xùn)練，即可快速生成。

盡管發(fā)出來(lái)的視頻看起來(lái)比較模糊，人物濾鏡很重，但很多對(duì)AI技術(shù)不了解的網(wǎng)友依然會(huì)信以為真。在評(píng)論區(qū)，粉絲們積極回應(yīng)，對(duì)娜塔莎發(fā)出了贊美，在評(píng)論區(qū)留下“你很漂亮”“我很想見(jiàn)到你”“請(qǐng)回復(fù)我消息”等留言。

這樣的娜塔莎，還不止一個(gè)。有的叫格蕾絲，有的叫安娜，無(wú)一例外，她們的櫥窗，都賣(mài)著各種俄羅斯商品。

在Olga曝光后，這些賬號(hào)消失了不少，但“俄羅斯AI美女”這門(mén)生意，依然火爆。筆者在某些電商平臺(tái)上檢索發(fā)現(xiàn)，不少商家打著“AI俄羅斯美女”的旗號(hào)，以低至五六元的價(jià)格，推出數(shù)字人定制業(yè)務(wù)，包含形象生成、聲音克隆和訓(xùn)練等。

中文互聯(lián)網(wǎng)上的“娜塔莎”

博主“ 俄羅斯娜娜”

不少商家打著“AI俄羅斯美女”的旗號(hào)，以低至五六元的價(jià)格，推出數(shù)字人定制業(yè)務(wù)。

事實(shí)上，俄羅斯AI美女，早在兩年前就爆火過(guò)。

其中名氣最大，莫過(guò)于“俄羅斯娜娜”，娜娜一頭金發(fā)，一副高鼻梁深眼窩的面孔，操著一口蹩腳的“俄式中文”，每個(gè)視頻都在夸贊中國(guó)，一度在某短視頻平臺(tái)上擁有近200萬(wàn)粉絲，而櫥窗里的牛筋腸、巧克力、威化餅等，銷(xiāo)量非?？捎^。

當(dāng)年的AI技術(shù)還沒(méi)那么進(jìn)步，娜娜的五官輪廓，有著明顯的接合痕跡，因此遭到了人們的質(zhì)疑，最終這個(gè)假冒偽劣的“洋網(wǎng)紅”被揭穿，很快遭到了平臺(tái)的封禁。

不到一年，娜娜搖身一變，成為湖北歌手那藝娜，以一首神曲《愛(ài)如火》走紅網(wǎng)絡(luò)。當(dāng)然這都是后話。

圍獵中老年人

不僅俄羅斯美女是門(mén)流量好生意，俄羅斯大兵也不例外。去年6月，一位河南男子靠AI把自己包裝成了俄羅斯大兵“保爾·柯察鐵”。他起的這個(gè)名字就很魔幻，與《鋼鐵是怎樣煉成的》主角保爾·柯察金的名字僅一字之差，人家是“金”，他就是“鐵”。

借助粗劣的AI特效，他頂著一個(gè)锃光瓦亮的腦袋，加上濃密的絡(luò)腮胡，看上去還挺像那么回事。而他走紅的整個(gè)過(guò)程就更離譜了，“柯察鐵”假裝在前線戰(zhàn)斗，用帶著一股子河南口音的“俄羅斯普通話”，不斷在短視頻平臺(tái)向網(wǎng)友匯報(bào)戰(zhàn)況。

雖然他的言論極其荒謬甚至前后矛盾，但依然成功吸引了幾十萬(wàn)粉絲的關(guān)注。粉絲們對(duì)他深信不疑，在評(píng)論區(qū)慷慨激昂，并真金白銀地支持他，光是櫥窗里的奶粉就賣(mài)出了38萬(wàn)元。

隨著柯察鐵粉絲越來(lái)越多，質(zhì)疑的聲音終于越來(lái)越大，比如他的IP一直顯示在河南，某個(gè)視頻中所謂的戰(zhàn)場(chǎng)，被人發(fā)現(xiàn)其實(shí)是河南洛陽(yáng)的發(fā)電廠冷卻塔。最終，他的賬號(hào)被封禁。

還有一類(lèi)AI賬號(hào)同樣風(fēng)靡，難辨真假的“數(shù)字洋人”，在鏡頭前分享一些心靈雞湯和老年生活方式。等到粉絲數(shù)量足夠多以后，它們就會(huì)開(kāi)始帶貨，比如販賣(mài)健康焦慮的AI洋人，就會(huì)開(kāi)始銷(xiāo)售一些保健品。

如今，一大批類(lèi)似的AI賬號(hào)掩蓋在洶涌流量之下。這不禁讓人想到此前網(wǎng)絡(luò)上頻繁出現(xiàn)的“假靳東”，當(dāng)時(shí)騙到了不少中老年女性，既欺騙愛(ài)情，又欺騙財(cái)富。

現(xiàn)在的AI博主，收割對(duì)象依然是中老年人，盜臉Olga的不少AI賬號(hào)，甚至不屑于隱藏AI平臺(tái)HeyGen的logo，因?yàn)檫@些俄羅斯美女的幕后之人知道，目標(biāo)群體對(duì)這些新技術(shù)沒(méi)有足夠的判斷力，甚至，年輕人一眼就分辨出的特效，在他們眼里與真人無(wú)異。

不能讓用戶混淆虛擬與現(xiàn)實(shí)，更不能靠“編造謊言”來(lái)變現(xiàn)。

年輕人不能幸免

看到這里，許多年輕人自認(rèn)為不會(huì)被騙。

但現(xiàn)實(shí)很殘酷，面向年輕人的AI顏值博主、種草博主，也已經(jīng)開(kāi)始批量出現(xiàn)了，這也是一門(mén)極其可觀的生意。

自媒體發(fā)展的現(xiàn)實(shí)就是“僧多粥少”。許多人還在苦苦思索自己的個(gè)人優(yōu)勢(shì)，網(wǎng)紅孵化機(jī)構(gòu)還在編造劇本，AI人已經(jīng)按著大眾喜歡的樣子去盜圖換“臉”以及“創(chuàng)造人設(shè)”了。

AI女博主人設(shè)可以是寶媽?zhuān)敲?，也可以是女學(xué)生，男博主則是精英、運(yùn)動(dòng)員、男學(xué)生。他們偽裝成正常賬號(hào)，每日模仿真人更新，讓人很難一眼看出真假。

比如博主澤茜，分享個(gè)人自拍為主，用一張照片配上音樂(lè)，如此單調(diào)的視頻風(fēng)格，卻因高顏值收獲了40多萬(wàn)粉絲，最受歡迎的一條視頻斬獲180萬(wàn)多贊。

一條高贊評(píng)論是：好不容易心動(dòng)了，你卻告訴我他是AI。

目前，該賬號(hào)并未將自己標(biāo)注為AI，但平臺(tái)給出了提示，疑似AI合成，注意甄別。

一些平臺(tái)上已經(jīng)出現(xiàn)了專(zhuān)門(mén)辨別AI賬號(hào)的科普內(nèi)容，但即便是官方提示了“該內(nèi)容可能由AI生成”，底下評(píng)論還是會(huì)有許多人詢問(wèn)相關(guān)的商品，比如穿搭、首飾。

AI博主澤茜

這類(lèi)賬號(hào)最終的指向依然是種草帶貨，不僅賣(mài)衣服，還能賣(mài)化妝品、保健品。不用真人出鏡，投入成本低，再多復(fù)制一些類(lèi)似的賬號(hào)，可以說(shuō)是賺得盆滿缽滿。

還有一些在技術(shù)上制作更加粗糙的AI種草博主也在悶聲賺大錢(qián)。比如新榜披露的AI博主“春香”的粉絲數(shù)不到10萬(wàn)，但已經(jīng)累計(jì)售賣(mài)超11萬(wàn)件商品。百萬(wàn)粉 “小姨妹”在今年2月近30天預(yù)估帶貨5萬(wàn)—7.5萬(wàn)元左右。

“在AI換臉之前，其實(shí)也有人用P圖軟件和剪輯軟件來(lái)?yè)Q臉，盜臉是個(gè)老問(wèn)題，只是當(dāng)前AI技術(shù)讓盜臉門(mén)檻更低，效果更好?！闭憬髮W(xué)國(guó)際聯(lián)合商學(xué)院數(shù)字經(jīng)濟(jì)與金融創(chuàng)新研究中心聯(lián)席主任、研究員盤(pán)和對(duì)看世界表示，這是技術(shù)進(jìn)步后必須面對(duì)的問(wèn)題。

其影響當(dāng)然很大，比如侵犯肖像權(quán)，誤導(dǎo)人臉識(shí)別侵害個(gè)人財(cái)產(chǎn)，或是詆毀造謠。盤(pán)和林認(rèn)為，我們不能完全解決換臉造假的問(wèn)題，但可以從技術(shù)層面加以改善。

比如可以要求相關(guān)軟件在生成AI的時(shí)候進(jìn)行標(biāo)識(shí)，結(jié)合實(shí)名制，知道這個(gè)視頻是誰(shuí)生成、發(fā)布的，并給觀眾以警示。

今年2月，小紅書(shū)發(fā)布了針對(duì)AI創(chuàng)作內(nèi)容的平臺(tái)主張，禁止任何以他人照片或視頻進(jìn)行換臉的行為。如果是AI技術(shù)創(chuàng)作的內(nèi)容，應(yīng)當(dāng)主動(dòng)聲明，并且禁止虛構(gòu)使用體驗(yàn)或效果進(jìn)行商業(yè)變現(xiàn)的行為。

簡(jiǎn)單來(lái)說(shuō)，不能侵犯他人肖像權(quán)，也不能讓用戶混淆虛擬與現(xiàn)實(shí)，更不能靠“編造謊言”來(lái)變現(xiàn)。

抖音也曾表示AI主播在形象和內(nèi)容上均不能侵犯他人知識(shí)產(chǎn)權(quán)及其他合法權(quán)益，虛擬人主播需要進(jìn)行實(shí)名注冊(cè)，同時(shí)需要標(biāo)明“虛擬人直播”，以真實(shí)身份接受受眾的審視。

一個(gè)好的人設(shè)，無(wú)疑具有更大的商業(yè)價(jià)值，而AI技術(shù)，顯然降低了這一環(huán)節(jié)造假的門(mén)檻。

急功近利的味道

盜臉，既然是門(mén)生意，必然有上游。

馬云也說(shuō)過(guò)，AI電商時(shí)代剛剛開(kāi)始，對(duì)誰(shuí)都是機(jī)會(huì)，也是挑戰(zhàn)。在這樣的氛圍下，人人都想蹭上這趟車(chē)，哪怕是用一些不體面的方式。

“虛擬偶像”早已經(jīng)不是稀奇事，技術(shù)成本一度高昂，商業(yè)化的壓力也很大。但現(xiàn)在AI技術(shù)已經(jīng)逐步走進(jìn)大家的日常生活，“造網(wǎng)紅”的“流水線工廠”也在知識(shí)付費(fèi)領(lǐng)域?qū)映霾桓F。

生意可謂一門(mén)接著一門(mén)?！捌胀ㄈ四芸緼I月入過(guò)萬(wàn)嗎？”“百萬(wàn)博主都在偷偷用AI”，賣(mài)課的“AI導(dǎo)師”也批量出現(xiàn)。

他們將自己包裝成技術(shù)大牛，先是肯定這項(xiàng)技術(shù)劃時(shí)代的意義，跟不上的人類(lèi)，必然被淘汰，借助這種邏輯，為普通人制造焦慮，然后再指出一條路—來(lái)買(mǎi)我的課吧。

當(dāng)記者咨詢一位賣(mài)AI課程的“導(dǎo)師”，AI號(hào)究竟如何變現(xiàn)時(shí)，對(duì)方直接發(fā)過(guò)來(lái)一句“50元”，就是如此直接。

當(dāng)然了，很多“AI導(dǎo)師”的課程質(zhì)量并不高。前段時(shí)間，自稱(chēng)清華博士的網(wǎng)紅“李一舟”被推至風(fēng)口浪尖，他通過(guò)售賣(mài)AI課收入高達(dá)5000萬(wàn)的信息刷屏，被不少人質(zhì)疑類(lèi)似的課程其實(shí)是在“割韭菜”。

自稱(chēng)清華博士的網(wǎng)紅李一舟

“憑本事賺錢(qián)”的李一舟，AI課程已經(jīng)全網(wǎng)下架了。

多位買(mǎi)過(guò)他課程的網(wǎng)友都表示課程內(nèi)容其實(shí)很“水”，網(wǎng)上都能找到很多免費(fèi)的教程。并且買(mǎi)了他的課以后，很多環(huán)節(jié)還有誘導(dǎo)繼續(xù)付費(fèi)的暗示，套路很多?！皯{本事賺錢(qián)”的李一舟，AI課程已經(jīng)全網(wǎng)下架了。

這些AI培訓(xùn)和課程，就是利用了人們對(duì)未來(lái)未知的恐慌，以及不切實(shí)際和急功近利的心態(tài)。

現(xiàn)如今，研究和拆解AI俄羅斯美女帶貨的人也很多。還有公司會(huì)專(zhuān)門(mén)盜用真人搜集素材做出模型，定制口播視頻，讓普通人“造假”一鍵生成。然后，他們會(huì)告訴你，如何在文案上為消費(fèi)者提供“情緒價(jià)值”，以及如何選品。

可怕的是，如果每個(gè)人都能用上這些AI模板和技術(shù)，生產(chǎn)出相似的“網(wǎng)紅”和內(nèi)容，那又是多么枯燥無(wú)味的一個(gè)世界。真正的問(wèn)題不是出在AI上，而是以技術(shù)之名行無(wú)恥商業(yè)行為的人身上。

正如盤(pán)和林所說(shuō)，解決AI“造假”問(wèn)題的根本，在于管住人，而不是限制技術(shù)發(fā)展。

在AI共創(chuàng)的時(shí)代，工具能幫人降低效率，但好的內(nèi)容依然應(yīng)當(dāng)是有價(jià)值的，讓人有探索欲的，無(wú)論它是不是AI。

想當(dāng)初，網(wǎng)紅之所以能夠吸引大家的注意，恰恰是因?yàn)橐靶U生長(zhǎng)的他們足夠真實(shí)、足夠生動(dòng)。

網(wǎng)紅產(chǎn)業(yè)一躍成為了互聯(lián)網(wǎng)顯學(xué)，隨著更多新技術(shù)的加持，讓那些想入局的人不必販賣(mài)自己的形象和生活，就可以隨意創(chuàng)造，或者說(shuō)從頭到尾地“瞎編”。最終，只是為了賺到別人口袋里的錢(qián)。

可悲的是，在網(wǎng)絡(luò)上沖浪的我們，不只是消費(fèi)者。

一些真人搞笑視頻博主下面經(jīng)常有網(wǎng)友留言，“這么多年不帶貨，不打廣告，純折磨”?？此曝?zé)備實(shí)則寵溺的語(yǔ)氣，也道出了部分人的心聲—人與人之間，即便是在網(wǎng)絡(luò)世界里，也需要一些超越消費(fèi)關(guān)系的聯(lián)結(jié)。

責(zé)任編輯何承波 hcb@nfcmag.com