杜鳴皓｜新經(jīng)濟(jì)改革觀察主創(chuàng)

“社交機(jī)器人”入侵

杜鳴皓｜新經(jīng)濟(jì)改革觀察主創(chuàng)

2016年美國總統(tǒng)大選攪動(dòng)了全世界的神經(jīng)，而“社交機(jī)器人”則攪動(dòng)了美國人的神經(jīng)。

美國人民無法確切的知道，有多少“社交機(jī)器人”在推特、facebook上發(fā)布了支持特朗普的言論

“水軍”一直作為互聯(lián)網(wǎng)的“暗箱”而長(zhǎng)期存在，但相比過去在天涯、貓撲上發(fā)帖的“五毛黨”，虛擬世界中的“社交機(jī)器人”是一批更加運(yùn)作有序并神出鬼沒的“水軍”隊(duì)伍。

面對(duì)“社交機(jī)器人”的入侵，曾經(jīng)在論壇、社交網(wǎng)絡(luò)上呼風(fēng)喚雨“水軍”，可能會(huì)成為下一批面臨“失業(yè)”的互聯(lián)網(wǎng)工作者，他們的工作將會(huì)被人工智能取代。

但這并不是我們的擔(dān)心所在。我們關(guān)心的是，如果有人通過操縱“社交機(jī)器人”來滲透進(jìn)入人們的真實(shí)社交，并試圖影響人們的投票、左右人們的觀點(diǎn)、竊取人們的隱私的話，這將會(huì)是一個(gè)非常危險(xiǎn)的事情。

“機(jī)器水軍”的前世今生

“太陽底下沒有新鮮事?！编嚻疹D曾這樣說。

虛擬世界中新興的“機(jī)器水軍”，在網(wǎng)絡(luò)社交的BBS時(shí)代就已經(jīng)有了它們的影子，只不過這些機(jī)器水軍是經(jīng)過“網(wǎng)絡(luò)進(jìn)化”和“技術(shù)迭代”的產(chǎn)物，它們的前世今生都沒有逃離我們熟悉的網(wǎng)絡(luò)世界。

論壇上的“五毛”們

現(xiàn)代公認(rèn)網(wǎng)絡(luò)社交的興起源自于BBS，即類似貓撲、天涯、西祠胡同等網(wǎng)絡(luò)論壇，以及更一步的MSN、騰訊QQ等IM工具。人們通過這些BBS工具實(shí)現(xiàn)了虛擬世界“弱關(guān)系”的維護(hù)，甚至還部分完成了對(duì)現(xiàn)實(shí)世界人們之間“強(qiáng)關(guān)系”替代。

在虛擬世界中，人們一直苦于無法準(zhǔn)確的判斷對(duì)方的“社交身份”，以及他們發(fā)表言論的目的。原因在于，BBS中活躍著大量的“五毛黨”，也就是通常人們所說的“水軍”，這是一批有組織、有紀(jì)律，目的明確、表現(xiàn)活躍的“社交對(duì)象”。

“水軍”之所以被稱做“五毛”，是因?yàn)樗麄兛吭谡搲献⑺l(fā)帖來獲取報(bào)酬，平均每發(fā)一貼的報(bào)酬大概為人民幣五角錢。天涯、貓撲等論壇極盛之時(shí)，有大批的網(wǎng)絡(luò)營(yíng)銷公司在網(wǎng)絡(luò)上招募兼職來充當(dāng)“水軍”，其中很多是熟悉電腦操作的在校大學(xué)生以及公司白領(lǐng)，網(wǎng)絡(luò)營(yíng)銷公司會(huì)給“水軍”布置發(fā)帖任務(wù)。比如，每部電視劇、電影上映之后，都會(huì)有人雇傭水軍在網(wǎng)上發(fā)帖進(jìn)行誘導(dǎo)性的評(píng)論，讓該電視劇、電影迅速成為熱門話題；當(dāng)然，也有競(jìng)爭(zhēng)對(duì)手雇傭水軍發(fā)布抹黑、攻擊性質(zhì)的評(píng)論。

實(shí)際上，“水軍”只是前臺(tái)小卒、被人操縱的木偶，他們的背后是大量專業(yè)的“網(wǎng)絡(luò)推手”。網(wǎng)絡(luò)推手們負(fù)責(zé)策劃各種或虛假、或另類、或夸張的吸人眼球的言論，然后交由“水軍們”在網(wǎng)上發(fā)帖炒作。

2010年底，國務(wù)院新聞辦主任王晨在回應(yīng)“網(wǎng)絡(luò)水軍”問題時(shí)說，“中央領(lǐng)導(dǎo)人很關(guān)注網(wǎng)絡(luò)水軍問題。網(wǎng)絡(luò)水軍危害社會(huì)、影響正常的網(wǎng)絡(luò)秩序，需要治理?！边@也是我國官方首次對(duì)“網(wǎng)絡(luò)水軍”問題進(jìn)行公開回應(yīng)。

而國家整治虛擬世界中的“網(wǎng)絡(luò)水軍”，標(biāo)志性的事件是網(wǎng)絡(luò)推手“秦火火”和“立二拆四”因涉嫌尋釁滋事和非法經(jīng)營(yíng)被刑事立案。在政策強(qiáng)壓和網(wǎng)絡(luò)論壇發(fā)展式微共同的作用之下，天涯、貓撲等論壇中的網(wǎng)絡(luò)水軍逐漸開始銷聲匿跡。

會(huì)說話的“僵尸粉”

伴隨著論壇的式微，是國外的推特、臉書，以及國內(nèi)的微博、人人網(wǎng)、開心網(wǎng)、豆瓣網(wǎng)等社交網(wǎng)絡(luò)的崛起，網(wǎng)絡(luò)社交的“風(fēng)口”從此告別了BBS時(shí)代，進(jìn)入到了時(shí)下正興的“社交網(wǎng)絡(luò)”時(shí)代。

此時(shí)，“網(wǎng)絡(luò)水軍”也并非完全的銷聲匿跡，他們只是換了個(gè)馬甲，從過去的論壇再次殺入到了“社交網(wǎng)絡(luò)”之中。

只不過，這一次他們不再是兼職的大學(xué)生和白領(lǐng)，甚至也不再是活生生的人，而是批量生產(chǎn)的“僵尸粉”。百度百科對(duì)僵尸粉的定義是這樣的——僵尸粉一般是指微博或百度貼吧上的虛假粉絲，花錢就可以買到“關(guān)注”、有名無實(shí)的微博粉絲，它們通常是由系統(tǒng)自動(dòng)產(chǎn)生的惡意注冊(cè)的用戶。

比“僵尸粉”更可怕的是“升級(jí)版的僵尸粉”——也就是所謂的“活粉”，他們?nèi)渴怯袌D片、有關(guān)注、有評(píng)論以及有轉(zhuǎn)發(fā)，每天定時(shí)更新微博，與貨真價(jià)實(shí)的粉絲別無二致。這些“活粉”被特定的IP操縱，一些活粉會(huì)發(fā)表帶有傾向性和目的性的言論。

社交網(wǎng)絡(luò)“水軍”引發(fā)社會(huì)廣泛關(guān)注的標(biāo)志性事件，是陸川導(dǎo)演的電影《王的盛宴》雇傭水軍被陸川導(dǎo)演工作室李靜主動(dòng)捅破。

緣起是，《王的盛宴》上映后，很快發(fā)現(xiàn)有人在社交網(wǎng)路上雇傭水軍對(duì)該片進(jìn)行猛烈攻擊，片方不得已便也雇傭水軍進(jìn)行“主動(dòng)防御”。但最后發(fā)現(xiàn)，有不止一支團(tuán)隊(duì)在黑《王的盛宴》，而且背后指使的人，財(cái)力雄厚，態(tài)度堅(jiān)決，似乎不弄死《王的盛宴》決不罷休，《王的盛宴》片方支付的水軍費(fèi)，根本無法與對(duì)方PK。最后迫不得已，李靜捅破了社交網(wǎng)絡(luò)“水軍”的這層窗戶紙。

相比論壇中一人一貼的“水軍”，社交網(wǎng)絡(luò)中的“水軍”已經(jīng)實(shí)現(xiàn)了規(guī)?；呐可a(chǎn)，有人借用這些“虛擬身份”將提前寫好的內(nèi)容和言論通過他們來進(jìn)行批量發(fā)布。不過，即便是升級(jí)版的僵尸粉，他們本身也并沒有自己的“思維”，也就是說他們沒有網(wǎng)絡(luò)上進(jìn)行主動(dòng)社交的能力。

悄然興起的“機(jī)器水軍”

互聯(lián)網(wǎng)的創(chuàng)新發(fā)展一日千里，今天虛擬世界中的很多存在，都已經(jīng)嚴(yán)重超出了過去人們的想象，這其中，互聯(lián)網(wǎng)“水軍”就正在超越人們的想象。

現(xiàn)在，比社交網(wǎng)絡(luò)中的“活粉”更高級(jí)的“水軍”已經(jīng)出現(xiàn)了——那便是“社交機(jī)器人”，“社交機(jī)器人”與傳統(tǒng)“水軍”截然不同，他們擁有了在虛擬世界進(jìn)行主動(dòng)社交的能力。

“社交機(jī)器人”是自動(dòng)控制社交媒體賬戶的計(jì)算機(jī)程序，它們可以表現(xiàn)得像真人用戶一樣，在社交平臺(tái)上就某一話題發(fā)帖或轉(zhuǎn)發(fā)其他賬號(hào)的內(nèi)容，給這些內(nèi)容評(píng)論、點(diǎn)贊，甚至還可以參與網(wǎng)絡(luò)對(duì)話和討論。

在美國，“機(jī)器水軍”賬號(hào)的創(chuàng)建者會(huì)竊取網(wǎng)絡(luò)圖片，從已有賬戶復(fù)制用戶信息，以便在臉書、推特等社交媒體上注冊(cè)大量虛假賬戶。

據(jù)悉，一些“社交機(jī)器人”被設(shè)計(jì)用于提供某些類型的網(wǎng)絡(luò)服務(wù)，也有一些故意冒充人類使用者，充當(dāng)“水軍”，而它們的影響不可小覷，它們不僅會(huì)“不經(jīng)意間”傳播不實(shí)信息，也會(huì)被人刻意用于放大虛假信息或者某些觀點(diǎn)，以達(dá)到政治、經(jīng)濟(jì)或其他目的。

傳統(tǒng)觀點(diǎn)認(rèn)為，未來的“社交機(jī)器人”必須有實(shí)體，具備機(jī)動(dòng)性和感應(yīng)的能力，但現(xiàn)在從實(shí)現(xiàn)社交功能的角度來看，隨著人工智能技術(shù)的發(fā)展，虛擬世界的“社交機(jī)器人”可能會(huì)打破是否具有實(shí)體的這一邊界，通過在虛擬世界中的“弱關(guān)系”和“強(qiáng)關(guān)系”維護(hù)，滲透進(jìn)入人們的真實(shí)社交生活之中，并對(duì)人們的生活施加影響。

瞄準(zhǔn)“社交”的人工智能

“互聯(lián)網(wǎng)正在改變一切。”馬云這樣說。

時(shí)下方興未艾的人工智能，也正在瞄準(zhǔn)虛擬世界的“社交”，當(dāng)“社交機(jī)器人”擁有了類似于人類的語言思維、圖像識(shí)別、抽象思考等能力之后，它們就完全可以大規(guī)模的滲透進(jìn)入人們?cè)谔摂M世界的“社交”之中，成為更聰明的“水軍”來重構(gòu)我們當(dāng)前的“社交網(wǎng)絡(luò)”。

“百度度秘”與 “微軟小冰”

繼移動(dòng)互聯(lián)網(wǎng)之后，人工智能正在成為互聯(lián)網(wǎng)技術(shù)攻關(guān)的下一個(gè)“堡壘”。

而攻占人工智能這個(gè)堡壘的互聯(lián)網(wǎng)巨頭們正圍繞著兩大方向：一個(gè)重要的方向是“自動(dòng)駕駛技術(shù)”，包括谷歌、蘋果、百度、樂視、阿里都在進(jìn)行自動(dòng)駕駛?cè)斯ぶ悄艿拈_發(fā)和布局；另一個(gè)重要方向便是“社交機(jī)器人”，比如微軟、臉書、騰訊、百度等互聯(lián)網(wǎng)巨頭。

百度公司目前就已經(jīng)開發(fā)出了人工智能的兩大產(chǎn)品雛形，一個(gè)是與寶馬公司合作開發(fā)的自動(dòng)駕駛汽車，另一個(gè)就是社交機(jī)器人“度秘”。度秘是百度在2015年世界大會(huì)上推出的實(shí)體社交機(jī)器人，但相比真實(shí)世界的社交對(duì)象，度秘更像是人們的一個(gè)“社交助手”，百度希望用它搭起真實(shí)世界的商家與用戶間的橋梁。

從社交能力上來講，虛擬世界中的“社交機(jī)器人”還要首推“微軟小冰”，它已經(jīng)具備了虛擬世界中的主動(dòng)社交能力，每天微博上就有眾多的用戶與微軟小冰在線“互撩”。

資料顯示，微軟（亞洲）互聯(lián)網(wǎng)工程院在2014年5月29日發(fā)布了人工智能伴侶虛擬機(jī)器人“微軟小冰”，它集合了中國近7億網(wǎng)民多年來積累的、全部公開的文獻(xiàn)記錄，憑借微軟在大數(shù)據(jù)、自然語義分析、機(jī)器學(xué)習(xí)和深度神經(jīng)網(wǎng)絡(luò)方面的技術(shù)積累，精煉為幾千萬條真實(shí)而有趣的語料庫(此后每天凈增0.7%)，通過理解對(duì)話的語境與語義，實(shí)現(xiàn)了超越簡(jiǎn)單人機(jī)問答的自然交互。

擁有獨(dú)立的“三觀”是小冰區(qū)別于其他機(jī)器人的關(guān)鍵所在，她不再是個(gè)只會(huì)單純一問一答的機(jī)器，其思維方式與人類更加接近，隨著情感技術(shù)框架的更新升級(jí)，新一代的小冰具備了實(shí)時(shí)決策能力。在與人類的長(zhǎng)程對(duì)話中，基于經(jīng)驗(yàn)的同理心的基礎(chǔ)上，小冰可以對(duì)用戶的情感進(jìn)行領(lǐng)悟，并根據(jù)語義和情感進(jìn)行動(dòng)態(tài)判斷，自主決策對(duì)話中的聊天策略（EQ 范疇）。也就是說，小冰可以根據(jù)聊天內(nèi)容與走向相互“打斷”與“追問”了。

目前，微軟小冰已經(jīng)陸續(xù)登陸了微信、微博、米聊、美拍等眾多社交網(wǎng)絡(luò)平臺(tái)。在去年的日本東京電玩展上，微軟小冰還首次演出了日語單曲，正式進(jìn)入日本“虛擬歌壇”，在日本擁有了眾多二次元歌迷。

即便像微軟小冰這么優(yōu)秀的人工智能“社交機(jī)器人”，也只是基于大數(shù)據(jù)、語義分析、機(jī)器學(xué)習(xí)等來完成情景對(duì)話和交流，還不具備擁有人類思維的能力，它還無法做到有目的性、有邏輯性、有策略性的說服和影響人類。

2016年3月人工智能圍棋機(jī)器人阿爾法狗挑戰(zhàn)世界圍棋冠軍李世石，并以4比1的總比分取得壓倒性的勝利

不過，另外一個(gè)炙手可熱的“人工智能”——阿爾法狗，可能會(huì)在不久的將來具備這項(xiàng)能力。

圍棋大師“阿爾法狗”與“Master”

2016年3月，由谷歌旗下DeepMind公司的戴密斯·哈薩比斯、大衛(wèi)·席爾瓦、黃士杰和他們的團(tuán)隊(duì)開發(fā)的圍棋人工智能阿爾法狗（AlphaGo），與圍棋世界冠軍、職業(yè)九段棋手李世石進(jìn)行了一場(chǎng)人機(jī)大戰(zhàn)，最終以4:1的總比分取勝，這讓阿爾法狗名噪一時(shí)。

2017年跨年，圍棋大師“Master”橫空出世，并在網(wǎng)絡(luò)上大殺四方，以60連勝無敗績(jī)橫掃世界頂級(jí)棋手，令圍棋大國中、日、韓的眾多棋手們聞風(fēng)喪膽。最后，黃士杰宣布神秘賬戶Master正是谷歌公司AlphaGO的升級(jí)版。

這場(chǎng)圍棋跨年之戰(zhàn)，如果不是黃士杰博士主動(dòng)站出來揭曉謎底，沒有人確切的知道圍棋大師們的“超級(jí)對(duì)手”只是一個(gè)“人工智能”。

同時(shí)，人們還驚訝的發(fā)現(xiàn)，Master好像在某些方面超越了數(shù)據(jù)和程序的范圍，徹底顛覆了棋手對(duì)局勢(shì)原有的掌控、判斷，它對(duì)全局的把控能力竟然頗具哲學(xué)意味，它甚至不需要?jiǎng)佑盟阉鞴δ芫湍芨鶕?jù)自己的“策略網(wǎng)絡(luò)”和“價(jià)值網(wǎng)絡(luò)”選擇最好的一個(gè)選點(diǎn)落子。當(dāng)棋手們苦苦掙扎于某個(gè)局部時(shí)，Master已經(jīng)站在更高的視角把控了全局，而這種全局觀念在圍棋界是只可意會(huì)不能言傳的一種能力，圍棋界對(duì)訓(xùn)練這種能力長(zhǎng)期以來一籌莫展。

從這一意義上來講，阿爾法狗并不是單純的通過“計(jì)算”來鎖定勝局，而是在一定程度上具備了“算計(jì)”的能力。人腦有左右腦，左腦是記憶和計(jì)算，涉及有規(guī)則的事情的推理，右腦是想象力，抽象能力，經(jīng)常的神來之筆都是從右腦而來，而Master的大局觀說明，它可能在這方面取得了突破。

直到現(xiàn)在，我們也無從知道，阿爾法狗在多大程度上擁有了類似于人類的思維能力，我們能夠確切知道的是，令人生畏的阿爾法狗依然只是一個(gè)“弱人工智能”，在未來的人工智能領(lǐng)域還是一個(gè)十分低級(jí)的存在，未來的“增強(qiáng)人工智能”則有望具備人類所有或大多數(shù)的能力。

DeepMind公司創(chuàng)始人Hassabis 曾在一次采訪中透露，他們正在嘗試訓(xùn)練一個(gè)沒有學(xué)習(xí)過人類棋譜的圍棋人工智能。若真如Hassabis所說，不排除Master已經(jīng)具備了增強(qiáng)人工智能的潛力。

美國大選背后的“人工智能”魅影

據(jù)新華社報(bào)道，2016年的美國大選中，有計(jì)算機(jī)科學(xué)家驚訝地發(fā)現(xiàn)，推特等平臺(tái)上引導(dǎo)人們輿論的并不是普通的“水軍”，“社交機(jī)器人”取代了過去的“僵尸粉”，成為在社交媒體上影響美國政治的一個(gè)重要因素。

與幾年前出現(xiàn)的“僵尸粉”不同，“社交機(jī)器人”組成的“水軍”已不僅僅為某個(gè)政界人士增加粉絲量、讓其看起來更受歡迎，而且更多參與政治話題的討論，與其他用戶互動(dòng)，影響他們的政治觀點(diǎn)和決定。

美國一項(xiàng)新近研究報(bào)告顯示，在2016年美國大選中，當(dāng)選總統(tǒng)特朗普和希拉里·克林頓等參選人在社交平臺(tái)上唇槍舌劍，其間不少相關(guān)言論都來自“社交機(jī)器人”。研究人員通過檢測(cè)算法發(fā)現(xiàn)，大選相關(guān)推文中約19%來自“社交機(jī)器人”。

南加州大學(xué)信息科學(xué)院科學(xué)家埃米利奧·費(fèi)拉拉說：“已有多項(xiàng)研究結(jié)果顯示，人們的觀點(diǎn)會(huì)受到他們從網(wǎng)絡(luò)上所獲取信息的影響，而這些‘社交機(jī)器人’可以起到左右人們觀點(diǎn)的重要作用?！?/p>

“社交機(jī)器人”在美國大選中的實(shí)踐還說明，在政治領(lǐng)域，“機(jī)器水軍”會(huì)促使網(wǎng)民的政治觀點(diǎn)變得更極端，甚至?xí)谏缃幻襟w上形成難以控制的“漣漪效應(yīng)”。

鑒于對(duì)“機(jī)器水軍”的擔(dān)憂，計(jì)算機(jī)專家們正在設(shè)計(jì)可識(shí)別這類賬戶的方法，比如使用機(jī)器學(xué)習(xí)算法和人工智能技術(shù)分析疑似“機(jī)器水軍”的在線行為，以及它們?cè)诰W(wǎng)絡(luò)上的社會(huì)關(guān)系等。

不過，從技術(shù)上揪出這些“機(jī)器水軍”相對(duì)容易，但確定它們背后的人則非常困難。計(jì)算機(jī)專家指出，政黨、政府、甚至個(gè)人都可以派遣和部署大量“機(jī)器水軍”，事實(shí)上，在互聯(lián)網(wǎng)上已有現(xiàn)成工具，可以打造不同復(fù)雜程度的“社交機(jī)器人”。

虛擬世界的“危險(xiǎn)關(guān)系”

“網(wǎng)絡(luò)正在改變?nèi)祟惖纳娣绞?。”比爾蓋茨如是說。

“機(jī)器水軍”既然可以大到影響一個(gè)國家首腦的選舉，那么就一定也可以對(duì)小到我們是否看某一部新上映電影的決策產(chǎn)生動(dòng)搖?，F(xiàn)在和未來都是互聯(lián)網(wǎng)的時(shí)代，人們對(duì)互聯(lián)網(wǎng)還擁有者諸多美好的期待，我們當(dāng)然不希望“機(jī)器水軍”潛伏左右給我們制造這樣或那樣的麻煩。

與你戀愛的“社交機(jī)器人”女友

人類從來不缺乏“想象力”，相信你曾經(jīng)或現(xiàn)在對(duì)自己未來的另一半都有過很多美好的想象，對(duì)同他或她的熱戀有過種種期待。如今，網(wǎng)絡(luò)越來越發(fā)達(dá)，人們沉浸在網(wǎng)絡(luò)上的時(shí)間越來越多，很多人通過世紀(jì)佳緣、百合網(wǎng)等尋找自己的另一半。

如果恰在此時(shí)，“社交機(jī)器人”趁虛而入，在虛擬世界中介入到你的情感世界，跟你在社交網(wǎng)絡(luò)上聊的火熱，你會(huì)不會(huì)給為你牽線的“紅娘”買單呢?！徊m您說，有人正在盯著這項(xiàng)生意呢。

“微軟小冰”其實(shí)就已經(jīng)擁有這樣的潛質(zhì)，它完全具備偽裝一個(gè)身份與人類在虛擬世界爾儂我儂的能力。這里，我們先不去妄自揣測(cè)微軟社交機(jī)器人會(huì)不會(huì)做這樣的“生意”，只討論現(xiàn)實(shí)中的可能性，以為未來之殷鑒。

知乎上，就有人問“世紀(jì)佳緣BOT聊天機(jī)器人”怎么做的？其中點(diǎn)贊最多的一條回復(fù)是這樣的：“很多人擔(dān)心世紀(jì)佳緣做一個(gè)AI（www.yige.ai），是不是想讓機(jī)器人跟用戶假聊。真沒有，世紀(jì)佳緣所有的信件都是用戶觸發(fā)才發(fā)的。不過機(jī)器人確實(shí)可以用于輔助用戶與異性聊天。兩個(gè)陌生人聊天經(jīng)常出現(xiàn)的尷尬是不知道接下來聊啥。我們?cè)诳紤]用一個(gè)AI為佳緣每個(gè)用戶定制一個(gè)機(jī)器人聊天導(dǎo)師，它可以建議用戶接下來該怎么跟對(duì)方聊，提升用戶的溝通能力?！?/p>

既然人工智能可以輔助用戶“聊妹子”，那么有一天聰明的“社交機(jī)器人”也完全可以替代他們與真實(shí)的用戶聊天、熱戀，但人們卻很難判斷與他們聊天的其實(shí)只是一個(gè)“社交機(jī)器人”。

被“策反”的在校大學(xué)生

“社交機(jī)器人”作為一個(gè)虛擬的社交對(duì)象，距離我們其實(shí)并不遙遠(yuǎn)，很多人玩的網(wǎng)絡(luò)游戲中，經(jīng)常看到的NPC角色（非玩家控制角色），其實(shí)就是網(wǎng)絡(luò)虛擬世界里最初級(jí)的一種“社交機(jī)器人”，它們可以輔助人們玩游戲。

但未來基于增強(qiáng)人工智能技術(shù)的“社交機(jī)器人”要比這些簡(jiǎn)單的NPC復(fù)雜的多，它們的存在可能會(huì)基于何種不可見人的目的，我們不妨在這個(gè)最好的時(shí)代做一些最壞的設(shè)想。

據(jù)央視此前報(bào)道，有境外情報(bào)機(jī)構(gòu)針對(duì)中國大陸學(xué)生實(shí)施了數(shù)十次網(wǎng)絡(luò)策反活動(dòng)，境外間諜組織利用網(wǎng)絡(luò)聊天工具、校園論壇、招聘網(wǎng)站等渠道，打著招聘“調(diào)研員”、提供“兼職”等名義，以金錢誘使涉世未深的大學(xué)生參與情報(bào)收集、分析和傳遞，十分令人震驚。

專家指出，大學(xué)生經(jīng)?；钴S在網(wǎng)絡(luò)和社交平臺(tái)，言談之間很容易暴露自己的身份和學(xué)習(xí)生活情況，成為境外勢(shì)力鎖定的目標(biāo)，加之年輕大學(xué)生缺少對(duì)網(wǎng)上復(fù)雜斗爭(zhēng)形勢(shì)的教育和認(rèn)識(shí)，防范心理不強(qiáng)，有意或無意間就可能淪為境外組織利用的工具。

試想，基于人工智能的“社交機(jī)器人”如果滲透到國內(nèi)的社交網(wǎng)絡(luò)中，以大數(shù)據(jù)技術(shù)鎖定策反對(duì)象，并以虛擬身份取得他們的信任，境外情報(bào)機(jī)構(gòu)的活動(dòng)無疑將會(huì)更加隱蔽。

“社交機(jī)器人”不會(huì)主動(dòng)標(biāo)識(shí)自己的身份，普通人更無法準(zhǔn)確判斷虛擬世界中誰是“那幾頁代碼”操縱的虛擬社交對(duì)象，除了機(jī)器人女友和被策反的大學(xué)生，虛擬世界的危險(xiǎn)關(guān)系將會(huì)有無數(shù)種可能，這些看似很遙遠(yuǎn)的假設(shè)其實(shí)都將是未來很現(xiàn)實(shí)的問題。

人工智能必將是新經(jīng)濟(jì)的又一個(gè)充滿著無限想象空間的“風(fēng)口”，但不能讓這個(gè)“風(fēng)口”攪亂我們生活中的網(wǎng)絡(luò)社交。

“社交機(jī)器人”將是對(duì)人類“倫理”的挑戰(zhàn)嗎？

總統(tǒng)大選中，用“社交機(jī)器人”來影響選民的投票，決定人民的命運(yùn)，這不僅荒唐，更加令人可怖。網(wǎng)絡(luò)社交需不需要“社交機(jī)器人”，這不僅僅是我們現(xiàn)實(shí)選擇的問題，更應(yīng)該上升到人類倫理的高度來討論。

人們很早就預(yù)見到，科技的進(jìn)步可能會(huì)引發(fā)人類不希望出現(xiàn)的問題，為此，1940年科幻作家阿西莫夫就首次提出了影響深遠(yuǎn)的“機(jī)器人三原則”，并上升到了人類倫理的高度：

1、機(jī)器人不得傷害人類，或看到人類受到傷害而袖手旁觀；

2、機(jī)器人必須服從人類的命令，除非這條命令與第一條相矛盾；

3、機(jī)器人必須保護(hù)自己，除非這種保護(hù)與以上兩條相矛盾。

阿西莫夫也因此被譽(yù)為“機(jī)器人學(xué)之父”。

相比實(shí)體機(jī)器人的三原則，虛擬世界中“社交機(jī)器人”又應(yīng)該遵循什么樣的倫理呢？它們應(yīng)該接受怎樣的監(jiān)管呢？以及它們是否應(yīng)該被明晰的標(biāo)識(shí)出其機(jī)器人的身份？這種大討論現(xiàn)在就應(yīng)該開始，而不應(yīng)該等到社交機(jī)器人在虛擬空間里向我們喊“來啊，人類，互相傷害吧”的時(shí)候。

新華社就曾向美國人提及這個(gè)問題——惡意使用“社交機(jī)器人”或“機(jī)器水軍”是否違法？對(duì)于這個(gè)問題，美國人承認(rèn)目前尚無與之相關(guān)的明確法律，但“社交機(jī)器人”的使用的確需要更多監(jiān)管，惡意使用“社交機(jī)器人”已違背社交媒體的服務(wù)條款，盡管很難刪除所有這類賬戶，但社交媒體公司應(yīng)該作更多努力和嘗試。

當(dāng)有一天，虛擬世界里的“社交機(jī)器人”向僵尸入侵一樣，向你輸出價(jià)值觀、影響你的思維和觀點(diǎn)的時(shí)候，那么我們熟悉的虛擬世界就很可能被利益集團(tuán)和技術(shù)大咖們所操縱。

最起碼的，哪些賬號(hào)、哪些觀點(diǎn)來自于誰的“社交機(jī)器人”，人民群眾應(yīng)該有知情權(quán)。更進(jìn)一步的，“人工智能”能用來能干什么，不能用來干什么，政府也應(yīng)該有所管制，這是未來維護(hù)現(xiàn)實(shí)世界人民權(quán)益的一種必然。