李婷+蔡雪瑩++劉印

摘 要：當(dāng)今是互聯(lián)網(wǎng)盛行的時(shí)代，網(wǎng)絡(luò)給人們帶來了許多的便利。但與此同時(shí)，網(wǎng)絡(luò)暴力也隨之產(chǎn)生了。本文以新浪微博上發(fā)生的網(wǎng)絡(luò)暴力事件為例，分析了網(wǎng)絡(luò)暴力產(chǎn)生原因幾個(gè)重要原因，并從法律、個(gè)人素養(yǎng)及計(jì)算機(jī)人工智能技術(shù)等方面分析了可行的遏制措施。

關(guān)鍵詞：網(wǎng)絡(luò)暴力；新浪微博；原因；對策

2006年4月，一位男士聲稱自己的妻子有外遇并在網(wǎng)絡(luò)上私自公布了妻子和情人長達(dá)5000字QQ對話記錄，痛斥妻子與魔獸玩家“銅須”有染。隨后一網(wǎng)友發(fā)布“銅須”的照片和視頻并貼出了“江湖追殺令”，短短幾天內(nèi)，追查此事的人數(shù)就達(dá)到了數(shù)萬。數(shù)以萬計(jì)的網(wǎng)民通過“人肉搜索”最終查實(shí)了“銅須”的真實(shí)身份，住址，電話等個(gè)人信息，真可謂是“一呼百應(yīng)”。[1]由于私密聊天的曝光，使得網(wǎng)友們開始對其評論，有些網(wǎng)友自告奮勇要當(dāng)武松，去上門追殺銅須。而有些網(wǎng)友則組建了幾百人的公會“守望慰問團(tuán)”，他們在虛擬世界中以靜坐，游行，謾罵，自殺等形式集體聲討公會會長銅須。這就是網(wǎng)絡(luò)暴力。所謂“網(wǎng)絡(luò)暴力”，是指網(wǎng)民對未經(jīng)證實(shí)或者已經(jīng)證實(shí)的網(wǎng)絡(luò)事件，發(fā)表具有攻擊性，煽動性和侮辱性的失實(shí)言論，造成當(dāng)事人名譽(yù)受損；公開當(dāng)事人的現(xiàn)實(shí)生活中的個(gè)人隱私；以及對當(dāng)事人進(jìn)行人身騷擾，致其權(quán)利受損的行為。[2]網(wǎng)絡(luò)暴力分為：人肉搜索，文字形式和圖片形式三類。當(dāng)下，網(wǎng)絡(luò)暴力的情況已經(jīng)十分嚴(yán)重，它甚至影響了人們的正常生活。微博作為一個(gè)應(yīng)用廣泛的公共社交平臺，許多信息會在其中傳播、發(fā)酵，使其成為自動放大事件的一個(gè)地方。正因如此，網(wǎng)絡(luò)暴力在微博中頻頻發(fā)生。一旦利用不當(dāng)，它便逐漸變成了網(wǎng)絡(luò)暴力的溫床。因此，在這里，我們以最為常用的新浪微博為例，對發(fā)生在這個(gè)平臺上的網(wǎng)絡(luò)暴力做出原因分析，且提出一些解決方案。

1 微博中出現(xiàn)網(wǎng)絡(luò)暴力的原因

（一）網(wǎng)絡(luò)信息傳播的逐漸娛樂化

網(wǎng)絡(luò)娛樂化是現(xiàn)在網(wǎng)絡(luò)信息傳播的一種主要現(xiàn)象，在現(xiàn)在的微博信息傳播過程中，較為偏重軟信息的傳播，嚴(yán)肅信息的比例不足，許多信息就算涉及嚴(yán)肅信息，有時(shí)也以一種大眾容易接受的、通俗易懂的方式來闡述，強(qiáng)調(diào)信息的故事性、情節(jié)性，讓網(wǎng)民從中得到放松和娛樂。而網(wǎng)絡(luò)暴力常常會因網(wǎng)絡(luò)信息過度娛樂化而產(chǎn)生。

2014年11月30日，19歲少年曾鵬宇將一盆即將點(diǎn)燃的炭發(fā)到微博上，留下一句“對不起大家，我真的要死了”，隨后的直播過程里，引來了數(shù)萬條的轉(zhuǎn)發(fā)和評論，一些網(wǎng)友勸慰、報(bào)警，一些網(wǎng)友不屑、嘲笑。過了一會兒，他發(fā)微博說自己不想死，但是很多人用“不行”“你必須死”、“你賠我流量”等話語不斷刺激他。他在生命最后時(shí)刻說不想死，但已無力回天。其死后，數(shù)以萬計(jì)的網(wǎng)友找到他留在網(wǎng)站上的歌曲播放，曾嘲諷他的人態(tài)度反轉(zhuǎn)，但道歉已太遲。[3]這就是網(wǎng)絡(luò)娛樂化所帶來的悲劇。在現(xiàn)實(shí)世界中看到自殺時(shí)，人們肯定是報(bào)警。但是在網(wǎng)絡(luò)上居然演變?yōu)橐粋€(gè)玩笑。其實(shí)這正是因?yàn)榫W(wǎng)絡(luò)信息的娛樂化，它讓嚴(yán)肅的信息有時(shí)也變成了全民狂歡的消遣工具和賺取點(diǎn)擊率的商品。網(wǎng)絡(luò)像是一個(gè)重構(gòu)的造夢場，讓人十分容易產(chǎn)生出一種“我是中心”的錯(cuò)覺。每當(dāng)微博上有重大的新聞出現(xiàn)時(shí)，網(wǎng)民們總是一窩蜂地上前去評論，可其中，真正理性的評論只占少數(shù)。大多數(shù)網(wǎng)民容易被娛樂化的網(wǎng)絡(luò)牽著鼻子走，被當(dāng)前的傳播的不良信息所誤導(dǎo)?！案L(fēng)吹”、“跟風(fēng)黑” 的現(xiàn)象層出不窮，新浪微博上幾乎天天都在上演著“多數(shù)人的暴力”。

網(wǎng)絡(luò)娛樂化除了針對普通百姓，更是經(jīng)常針對公眾人物，特別是明星。 2013年7月中旬，名為“袁姍姍滾出娛樂圈”的微博熱門話題出現(xiàn)，并很快登上熱門排行榜且長期占據(jù)排行榜前列。有網(wǎng)友認(rèn)為，出演多部古裝劇女主角的袁姍姍長相差、演技差，有網(wǎng)友組成“反袁姍姍后援團(tuán)”，并很快在各大網(wǎng)絡(luò)平臺擊敗袁姍姍粉絲團(tuán)，并喊出了“反對袁姍姍作為演員的一切”的口號。接著，很多娛樂媒體加入反袁姍姍的“大合唱”。對于反袁姍姍的理由有：長相不好看、演技太做作、被于正捧、苦情瑪麗蘇，更多的網(wǎng)友說，討厭她的理由是——沒有理由。其實(shí)，在娛樂圈中，針對明星和個(gè)人的網(wǎng)絡(luò)暴力數(shù)不勝數(shù)，這是因?yàn)椋?/p>

首先，與明星的粉絲群體相關(guān)。明星的粉絲幾乎都是由年輕人組成的，在校學(xué)生算是其中的主力軍。他們有自己信仰和喜惡。網(wǎng)絡(luò)娛樂化在一定程度上激發(fā)了他們的創(chuàng)造性，粉絲的身份滿足了他們的歸屬感，緩解了精神上的壓力，甚至是得到了精神上的滿足。但是負(fù)面的影響也不容小覷。粉絲之間，為了偶像在微博上大吵的比比皆是，他們有時(shí)也會變成網(wǎng)絡(luò)暴力的推手。有時(shí)因?yàn)橛憛捘硞€(gè)公眾人物，便會組團(tuán)跑到她（他）的微博底下破口大罵以宣泄不滿，甚至編造“黑料”來抹黑她。受到過網(wǎng)絡(luò)暴力的公眾人物不在少數(shù)，如果公眾人物不發(fā)聲，罵人者便肆無忌憚，如果公眾人物發(fā)聲，那便會被說成是“說不起”、“作為一個(gè)公眾人物連這一點(diǎn)事情都承受不起”……

其次，一些心存不良的媒體及被人雇傭的網(wǎng)絡(luò)水軍作祟。他們經(jīng)常將一些平常的事情加以炒作，讓微博中的網(wǎng)民們不斷地推動著，最終使一件平常的事情演變成為一場全民狂歡的網(wǎng)絡(luò)鬧劇。前段時(shí)間的“王寶強(qiáng)事件”和“喬任梁事件”由于不良媒體的大肆炒作，將事件中的道德綁架演繹得更加淋漓盡致。甚至有些人還天天跑到其他藝人的微博底下留言，指責(zé)沒有為事件發(fā)聲的藝人。微博娛樂公眾號也實(shí)時(shí)推出相關(guān)新聞，使事件愈演愈烈，不斷引導(dǎo)明星粉絲和路人發(fā)酵事件。

網(wǎng)絡(luò)信息娛樂化雖是一種不可避免的趨勢，但不要讓娛樂變成“愚樂”，變成宣泄黑暗的工具。過度的網(wǎng)絡(luò)娛樂化會導(dǎo)致全民陷入娛樂狂歡的漩渦，會導(dǎo)致網(wǎng)民的價(jià)值觀扭曲、媒體的公信力受損、社會發(fā)展受影響等不良后果。而這一切不加以遏制，就會演化為網(wǎng)絡(luò)暴力，這是我們不希望發(fā)生的。

（二）網(wǎng)民結(jié)構(gòu)的年輕、低學(xué)歷化

CNNIC報(bào)告中顯示，截止到2015年12月底，中國網(wǎng)民數(shù)量達(dá)到7.10億人.其中，中國29歲以下的網(wǎng)民占據(jù)了總網(wǎng)民人數(shù)的半壁江山（53.4%），其中19歲以下的比例更是高達(dá)23%.同時(shí)，在學(xué)歷這方面中，小學(xué)及以下學(xué)歷、初中學(xué)歷的網(wǎng)民占比分別為14.3%、37%。 在校學(xué)生的占比仍然最高，達(dá)25.1%。[4]由此我們可以發(fā)現(xiàn)19歲以下，小學(xué)及初中低學(xué)歷的網(wǎng)民仍是網(wǎng)民的主力軍，而這也是網(wǎng)絡(luò)暴力容易滋生的重要原因。

其一，青少年在成長過程中難免會產(chǎn)生偏激的想法和強(qiáng)烈的個(gè)人主義，且由于青春期的特性，還經(jīng)常會對世界抱有對立的情緒。當(dāng)現(xiàn)實(shí)生活中無法發(fā)泄負(fù)面的情緒時(shí)，網(wǎng)絡(luò)就成了他們進(jìn)行宣泄的重要渠道。而在這時(shí)，網(wǎng)絡(luò)信息的娛樂化傳播方式讓他們看到的是更多的陰暗面，而青少年由于社會資歷過淺，常常無法去辨別事情的真?zhèn)?，因此容易在微博中“跟風(fēng)黑”，通過微博的評論來發(fā)泄自己對世界的不滿，甚至通過在評論中對他人的人身攻擊來使自己獲得滿足感.....而由于在現(xiàn)實(shí)學(xué)習(xí)生活中的壓抑，沒有話語權(quán)，使其在網(wǎng)絡(luò)微博中尋求更多的自由，希望在網(wǎng)絡(luò)中奪回自己的話語權(quán)。這也造成其在微博中常常不允許他人與自己有不同的觀點(diǎn)，“己所不欲，勿施于人”的傳統(tǒng)美德在這里消失得無影無蹤。而這樣的非理性群體在網(wǎng)絡(luò)上的集結(jié)，導(dǎo)致了 “沉默的螺旋”的出現(xiàn)。一旦有人說出相悖的觀點(diǎn)，那些自認(rèn)為是”正確“的一方便會煽動人們攻擊相反言論，最終導(dǎo)致正確的一方不再發(fā)聲，從而掩蓋了真正正確的觀點(diǎn)，導(dǎo)致網(wǎng)絡(luò)暴力的發(fā)生。

第二，由于低齡或是低學(xué)歷的原因，這類網(wǎng)民的法律意識和權(quán)利意識不強(qiáng)。因此才會在未經(jīng)他人的許可前提下，就把他人的各人信息隨意公布到網(wǎng)絡(luò)上，而即使這樣觸犯法律也不自知，甚至知道是觸犯法律也還會認(rèn)為法不責(zé)眾，可以逃過法律的制裁。

第三，網(wǎng)絡(luò)中時(shí)常會出現(xiàn)一些不利于身心健康發(fā)展的信息，而它們也對網(wǎng)絡(luò)暴力的滋生起到了引導(dǎo)作用據(jù)調(diào)查，有90%的大學(xué)生瀏覽過不良信息，65%的大學(xué)生發(fā)表過過激的言論，更加嚴(yán)重的是，40%表示有機(jī)會想嘗試下黑客行為。[5]而網(wǎng)絡(luò)中的不加分級限制的暴力游戲也成為影響年輕網(wǎng)民的心里的重要事物，因?yàn)樗梢詭Ыo青年人許多在生活中所感受不到的刺激，讓他們在打打殺殺中釋放心里的壓力。久而久之，這也為網(wǎng)絡(luò)暴力留下的禍根。

（三）當(dāng)今法律的不完善

在當(dāng)前這個(gè)互聯(lián)網(wǎng)盛行的時(shí)代里，政府針對于互聯(lián)網(wǎng)，已經(jīng)出臺了幾部相應(yīng)的法律。例如，國家網(wǎng)信辦在2016年11月4日發(fā)布的《互聯(lián)網(wǎng)直播服務(wù)管理規(guī)定》中針對網(wǎng)絡(luò)中的言論，所發(fā)布的信息等有了明確的規(guī)定：“第十條互聯(lián)網(wǎng)直播發(fā)布者發(fā)布新聞信息，應(yīng)當(dāng)真實(shí)準(zhǔn)確、客觀公正。轉(zhuǎn)載新聞信息應(yīng)當(dāng)完整準(zhǔn)確，不得歪曲新聞信息內(nèi)容，并在顯著位置注明來源，保證新聞信息來源可追溯。”但是盡管如此，在許多方面還是存在漏洞。

首先，我國在對個(gè)人隱私的方面所做出的保護(hù)仍然不夠。針對隱私權(quán)保護(hù)的法律條款更多地適用于現(xiàn)實(shí)生活，而針對互聯(lián)網(wǎng)中侵害他人隱私權(quán)的法律仍未進(jìn)一步加以完善。其次，《中國人民共和國憲法》中明確規(guī)定，公民享有言論自由的權(quán)利。但在網(wǎng)絡(luò)中各類新詞頻出，看似無害的詞匯，常常具有極強(qiáng)的攻擊性，而在這一方面卻未能對語言的被攻擊者有更多的法律保護(hù)措施，從而在一定程度上使言論自由成為了網(wǎng)絡(luò)語言暴力的保護(hù)傘。而同時(shí)本可以作為填補(bǔ)法律漏洞的舉報(bào)及阻斷技術(shù)仍不完善。常常無法阻斷不良圖片和信息的性質(zhì)。導(dǎo)致不良信息仍在微博中橫行，而當(dāng)當(dāng)事人或他人發(fā)現(xiàn)不良信息，網(wǎng)絡(luò)暴力想要舉報(bào)時(shí)，又常常無法成功舉報(bào)。最后，法律中對于處罰的內(nèi)容沒有準(zhǔn)確的說明。很多都是寥寥帶過。例如，《互聯(lián)網(wǎng)直播服務(wù)管理規(guī)定》：“通過網(wǎng)絡(luò)表演、網(wǎng)絡(luò)視聽節(jié)目等提供網(wǎng)絡(luò)直播服務(wù)，違反有關(guān)法律法規(guī)的，由相關(guān)部門依法予以處罰?！边@個(gè)“相關(guān)部門”“依法予以處罰”都是模糊性的語言，哪些是相關(guān)部門？要去哪舉報(bào)反映問題？“依法”處罰，依的是什么法？又會有什么樣的處罰？無從得知，也讓網(wǎng)絡(luò)暴力如脫韁的野馬愈演愈烈。

（四）微博事件中政府的監(jiān)管力度不夠

2016年9月16日22：05分，上海市公安局官微@民警直通車-上海稱9月16日晚18時(shí)21分，桃浦地區(qū)祁順路某住宅樓內(nèi)有一喬姓男子（男，28歲，上海市人）死亡。網(wǎng)友猜測死者是藝人喬任梁。隨后微博上的輿論沸騰，關(guān)于喬任梁的死因的謠言四起，不少人拿這件事情當(dāng)做網(wǎng)絡(luò)狂歡的資本，趁亂肆意散布謠言中傷死者。[6]

上海公安局的官微，作為政府部門在網(wǎng)上發(fā)布消息的一個(gè)窗口，在這個(gè)事件中卻沒有發(fā)揮其應(yīng)有的作用，在事情未確定之前，就發(fā)一些模糊的言論來引發(fā)輿論浪潮，并間接推動了中傷死者的網(wǎng)絡(luò)暴力形成，也損害了政府部門的公信力。政府本來對網(wǎng)絡(luò)應(yīng)有監(jiān)管的職能，應(yīng)該做的是適時(shí)地引導(dǎo)輿論，從而減少網(wǎng)絡(luò)暴力網(wǎng)絡(luò)謠言的產(chǎn)生，但在此事上卻沒有做到，反倒使謠言發(fā)酵，使網(wǎng)絡(luò)暴力猖獗。政府有責(zé)任正確引導(dǎo)網(wǎng)絡(luò)輿論，制止和控制網(wǎng)絡(luò)暴力的發(fā)生。因?yàn)閺囊粋€(gè)事情到另一個(gè)事件，從網(wǎng)絡(luò)輿論到網(wǎng)絡(luò)暴力，發(fā)酵時(shí)間非常短，這個(gè)時(shí)候就需要有一股強(qiáng)勁的力量及時(shí)控制網(wǎng)絡(luò)暴力，不能讓權(quán)力成為擺設(shè)。而網(wǎng)絡(luò)新聞的優(yōu)劣龐雜，新浪微博推送中的新聞常常打著淫穢色情新聞的“擦邊球”，卻無人監(jiān)管，任由其去污染那些沒有判斷力的受眾。這也一定程度上讓網(wǎng)絡(luò)暴力更易滋生。

（五）新聞媒體人的失職

記者，編輯，這些應(yīng)該是與社會良心，維持正義等詞語聯(lián)系在一起的職業(yè)，如今卻成為了網(wǎng)絡(luò)暴力的幕后黑手之一。有些新聞記者、編輯為了能更加博人眼球，常常在微博上利用奪人眼球卻歪曲事實(shí)的標(biāo)題，來引誘受眾點(diǎn)擊、推送。并常常為了提高點(diǎn)擊率而對價(jià)值含量不高的新聞事件進(jìn)行不斷地炒作，從而嚴(yán)重影響了新聞的公信力，并誘發(fā)網(wǎng)絡(luò)暴力滋生。最近發(fā)生山東廣播電視臺生活幫欄目報(bào)道了這樣一則新聞：濰坊一名女子剖宮產(chǎn)后寢食難安，后經(jīng)檢查，發(fā)現(xiàn)醫(yī)生“遺忘”一塊紗布在腹內(nèi)。此事一出，大眾的輿論紛紛指向了醫(yī)院。但后來又出現(xiàn)了反轉(zhuǎn)，醫(yī)院解釋，該產(chǎn)婦系疤痕子宮合并前置胎盤，采用紗布止血和縫針并非“事故”，而是常見的搶救措施。盡管紗布已取出，但產(chǎn)婦仍拒絕出院。由于像生活幫節(jié)目組以及網(wǎng)上的媒體人的添油加醋，使得“紗布門”在微博上所引發(fā)的爭議持續(xù)升溫，讓真相被淹沒。[7]由此產(chǎn)生的網(wǎng)絡(luò)暴力對醫(yī)院以及本就緊張的醫(yī)患關(guān)系更加緊張，讓“紗布門”無法真正關(guān)上。

2 網(wǎng)絡(luò)暴力的解決措施

（一）法律道德層面的相關(guān)措施

1.完善有關(guān)網(wǎng)絡(luò)傳播的法律法規(guī)

政府需要出臺具體的相關(guān)法案。法案中應(yīng)該要有更加細(xì)致針對網(wǎng)絡(luò)中侵犯個(gè)人的隱私權(quán)和名譽(yù)權(quán)保護(hù)的法律條文，要有更加具體可行的懲處措施。其中特別是要針對在網(wǎng)絡(luò)中發(fā)生的惡性營銷炒作進(jìn)行法律上的規(guī)范和界定，對造成不良后果的事件背后的推手、營銷團(tuán)隊(duì)都應(yīng)有更加強(qiáng)力地懲處措施。而此外，也應(yīng)對在網(wǎng)絡(luò)上，如微博平臺上發(fā)布的不良信息、評論的人也應(yīng)有相應(yīng)的懲處方案，讓網(wǎng)民知道在網(wǎng)絡(luò)上也不是能隨便用言語傷害他人的。

2.提高個(gè)人網(wǎng)絡(luò)素養(yǎng)

針對在校學(xué)生，學(xué)校和家長更要全力配合，加強(qiáng)網(wǎng)絡(luò)文明教育。由于網(wǎng)民低齡化的傾向，因此從小學(xué)開始，學(xué)校就應(yīng)有相應(yīng)的網(wǎng)絡(luò)文明教育，給在校學(xué)生普及相應(yīng)的與網(wǎng)絡(luò)有關(guān)的法律法規(guī)，讓他們了解網(wǎng)絡(luò)暴力的危害，提高學(xué)生明辨是非的能力。并給家長系統(tǒng)地教育，讓家長意識到網(wǎng)絡(luò)暴力對孩子們的不良影響，教給家長更好地引導(dǎo)孩子的方法。針對在社會上的成年人，政府可以舉辦一些宣傳相應(yīng)的有關(guān)網(wǎng)絡(luò)知識和法律的活動，借助媒體，或大型的宣傳活動讓人們知道網(wǎng)絡(luò)暴力的惡劣后果及參與者將會面臨地嚴(yán)厲懲罰，讓無法律意識的人警醒。

3.加強(qiáng)對媒體的監(jiān)督

媒體人應(yīng)更加自律，國家也應(yīng)出臺針對網(wǎng)絡(luò)媒體、自媒體的監(jiān)管法規(guī)，讓媒體不再成為網(wǎng)絡(luò)暴力地推手，而是成為消除網(wǎng)絡(luò)謠言，阻斷網(wǎng)絡(luò)暴力的監(jiān)督者。

（二）網(wǎng)絡(luò)技術(shù)文明規(guī)范

現(xiàn)在網(wǎng)絡(luò)正進(jìn)入大數(shù)據(jù)時(shí)代，這也是本部分技術(shù)支撐的重要前提，有了大數(shù)據(jù)的平臺，使得人工智能中的基于半監(jiān)督的RAC深度學(xué)習(xí)情感分類得以更好地建構(gòu)實(shí)施，也才能實(shí)現(xiàn)真正隨著網(wǎng)絡(luò)傳播方式及語言發(fā)展，智能更新發(fā)展的阻斷不良信息的技術(shù)。

本節(jié)主要使用朱少杰提出的基于半監(jiān)督的RAC深度學(xué)習(xí)情感分類方法，[8]并把它結(jié)合到微博信息傳播中，實(shí)現(xiàn)對微博及評論發(fā)表的內(nèi)容檢測限制。從而從技術(shù)層面上阻斷網(wǎng)絡(luò)暴力的發(fā)生。

要更好地利用技術(shù)來阻斷網(wǎng)絡(luò)暴力，就需要在網(wǎng)絡(luò)后臺監(jiān)管系統(tǒng)中建立完備的智能情感審核系統(tǒng)。智能情感審核系統(tǒng)是采用客戶端與服務(wù)器端雙重檢測的方式，能夠有效地對網(wǎng)絡(luò)中惡意低俗語言文字進(jìn)行攔截。而要實(shí)現(xiàn)該系統(tǒng)的建構(gòu)離不開近幾年人工智能領(lǐng)域里最為熱門的“深度學(xué)習(xí)”方法。

深度學(xué)習(xí)是機(jī)器學(xué)習(xí)拉出的分支，它試圖使用包含復(fù)雜結(jié)構(gòu)或多重非線性變換構(gòu)成的多個(gè)處理層對數(shù)據(jù)進(jìn)行高層抽象的算法。簡單來說，深度學(xué)習(xí)是人工智能的一部分，它模仿人腦的機(jī)制來解釋數(shù)據(jù)，例如圖像，聲音和文本。[9]

因此，我們要建立成功的網(wǎng)絡(luò)不良信息阻斷系統(tǒng)，就要利用深度學(xué)習(xí)算法，建立一個(gè)模型，實(shí)現(xiàn)自動化分辨信息的語義。將其應(yīng)用到微博發(fā)文的審核系統(tǒng)中，從而有效地?cái)r截不良信息。

基于半監(jiān)督RAE的深度學(xué)習(xí)就是一個(gè)可以借鑒使用的方法。這是一種只需要少量已標(biāo)記樣本和大量未知樣本進(jìn)行自學(xué)習(xí)的深度學(xué)習(xí)方法（半監(jiān)督方式）。通過半監(jiān)督RAE深度學(xué)習(xí)，我們只需要少量已知樣本和大量未知樣本就可以訓(xùn)練出一個(gè)正確率很高的模型。具體做法如下：

在客戶端和服務(wù)器端共同對發(fā)表的文字進(jìn)行處理?？蛻舳酥胁捎藐P(guān)鍵字限制法，而服務(wù)器則采用深度學(xué)習(xí)算法對服務(wù)器進(jìn)行訓(xùn)練。關(guān)鍵字限制是針對某些特殊詞匯的處理，如涉及個(gè)人隱私的關(guān)鍵字（身份證號、家庭住址等等），以及涉嫌語言暴力的關(guān)鍵字（弱智、傻逼等等）。

在服務(wù)器中我們需要運(yùn)用深度學(xué)習(xí)得到的模型，判別內(nèi)容是否分類為低俗、惡意的以及泄露隱私的言論。

處理的方法分為兩部分，一部分在客戶端，另一部分在服務(wù)器端。

其一，在客戶端中的應(yīng)用。客戶端安裝在用戶手機(jī)或電腦中，按版本定時(shí)強(qiáng)制更新。而使用時(shí)只需要把常見、固定的污穢詞語及新出現(xiàn)不良詞語的詞庫定時(shí)更新后放在客戶端進(jìn)行限制，當(dāng)客戶端的微博用戶使用這類詞匯時(shí)，就無法發(fā)送信息，從而達(dá)到初步的限制作用。

其二，是在服務(wù)器端中的應(yīng)用。服務(wù)器端運(yùn)用微博已有的大規(guī)模的數(shù)據(jù)量進(jìn)行基于深度學(xué)習(xí)的模型訓(xùn)練，得到識別模型。而該識別模型因?yàn)槭腔诎氡O(jiān)督RAE的深度學(xué)習(xí)而建構(gòu)起來的，它可以通過大數(shù)據(jù)的學(xué)習(xí)，模擬人的溝通交流語境，從而識別出一句話的情感偏向。在微博或評論發(fā)表時(shí)，用得到的識別模型進(jìn)行檢測，若檢測結(jié)果為低俗、惡意或者泄露隱私的言論，就限制用戶發(fā)表。即服務(wù)器端針對原有詞匯的變種以及網(wǎng)上流行的繞過檢測的方法進(jìn)行再次進(jìn)行檢測驗(yàn)證。驗(yàn)證通過之后才能發(fā)表微博或者評論。如“傻逼”寫成“煞筆”、“傻b”，“手機(jī)號”寫成“tel”、“手機(jī)hao”等諧音、中外文的變形，或者在詞匯中添加符號或其他正常文字來繞過的：“傻逼”寫成“傻啊逼”、“手機(jī)號”寫成“手x機(jī)x號”。服務(wù)器可以通過深度學(xué)習(xí)，不斷增加有關(guān)新出現(xiàn)的繞過檢測方式的數(shù)據(jù)判斷，對此類繞過客戶端檢測的方法進(jìn)行再次審查。

用戶發(fā)表微博和評論時(shí)先由本地客戶端程序檢測，通過則發(fā)送到服務(wù)器驗(yàn)證，否則拒絕發(fā)表。服務(wù)器驗(yàn)證通過則用戶發(fā)表成功，否則拒絕發(fā)表。已發(fā)表的內(nèi)容若被舉報(bào)后，先由人工進(jìn)行審核，若不合格則刪除該條記錄并且將該記錄放到深度學(xué)習(xí)樣本池中，以便算法自動學(xué)習(xí)。若為正常內(nèi)容，不操作。若出現(xiàn)正常內(nèi)容發(fā)表被禁止的情況，則可以提交改進(jìn)建議，人工審核后，放入樣本池中供算法自動學(xué)習(xí)。深度學(xué)習(xí)可以模仿人腦的機(jī)制來解決問題。在網(wǎng)絡(luò)暴力方面，可以用來識別包含暴力詞匯、泄露隱私信息的語句，且還能用于語音、圖片、音頻、視頻的識別處理。另外，基于深度學(xué)習(xí)的情感分類模型下，結(jié)合微博平臺進(jìn)行融合應(yīng)用。使微博能夠識別并限制用戶發(fā)表帶有語言暴力傾向，或泄露個(gè)人隱私的言論。在準(zhǔn)確度方面可以采用增加數(shù)據(jù)集樣本容量來提高。

此外，微博上的網(wǎng)絡(luò)暴力的技術(shù)遏制，還要通過網(wǎng)絡(luò)后臺實(shí)名制與智能情感審核系統(tǒng)相結(jié)合，才能更好地有效限制網(wǎng)民發(fā)布嚴(yán)重違反網(wǎng)絡(luò)文明規(guī)范的內(nèi)容，若情節(jié)嚴(yán)重，需要追究法律責(zé)任時(shí)，才可以有效減少取證和鎖定嫌疑人工作。

在網(wǎng)絡(luò)暴力越來越多地出現(xiàn)在網(wǎng)絡(luò)上的今天，需要更多地從其根本上去限制和拔除。在法律、個(gè)人素養(yǎng)和科技技術(shù)三方面的完善都將是一個(gè)十分漫長的過程。希望此篇論文能對網(wǎng)絡(luò)暴力的遏制方法上起到一定的借鑒作用。

參考文獻(xiàn)

[1]梁麗，呂瑞超.傳播學(xué)視角下網(wǎng)絡(luò)暴力初探[J].法治與社會，2009（12）：23.

[2]陳紅蓮.從網(wǎng)絡(luò)暴力盛行看公眾媒介素養(yǎng)問題[J].長江大學(xué)學(xué)報(bào)，2008（10）：124.

[3]曹林.預(yù)防前移才能讓自殺變得可干預(yù)[J].中國青年報(bào)，2014（11）：01.

[4]新浪科技.CNNIC第38次調(diào)查報(bào)告：網(wǎng)民結(jié)構(gòu)（EB/OL）.http：//tech.sina.com.cn/i/2016-08-03/doc-ifxunyxy6306515.shtml，2016-08-03

[5]郭愛濤.大學(xué)生網(wǎng)絡(luò)暴力行為分析[J].揚(yáng)州大學(xué)學(xué)報(bào)，2012（2）：16.

[6]伍燚.大數(shù)據(jù)環(huán)境下的情緒偏移--“喬任梁事件”輿情觀察[J].新浪博客，2016（11）.

[7]白劍鋒.莫讓一塊紗布擋住醫(yī)患信任[J].人民日報(bào)，2016（11）.

[8]朱少杰.基于深度學(xué)習(xí)的文本情感分類研究[D].哈爾濱工業(yè)大學(xué)，2014.

[9]維基百科：深度學(xué)習(xí)（EB/OL）.https：//zh.wikipedia.org/wiki/%E6%B7%B1%E5%BA%A6%E5%AD%A6%E4%B9%A0，2016-12-13