亚洲免费av电影一区二区三区,日韩爱爱视频,51精品视频一区二区三区,91视频爱爱,日韩欧美在线播放视频,中文字幕少妇AV,亚洲电影中文字幕,久久久久亚洲av成人网址,久久综合视频网站,国产在线不卡免费播放

        ?

        信息戰(zhàn)視角下國際假新聞的歷史嬗變:技術(shù)與宣傳的合奏*

        2022-11-23 08:24:55趙永華竇書棋

        趙永華 竇書棋

        一、問題的提出

        2021年5月2日,英國外交大臣宣稱已為英國廣播公司(BBC)撥款800萬英鎊用作“辟謠專款”,專門應(yīng)對包括來自俄羅斯方面的謠言。隨后,俄羅斯外交部予以反駁,稱通過制造假新聞為干預(yù)別國找借口,美國和英國早有前科。①近年,英國廣播公司通過各種手法歪曲事實(shí),頻繁在涉及我國新疆和新冠疫情的新聞報(bào)道中制造假新聞。自稱是“值得信賴的新聞機(jī)構(gòu)”的英國廣播公司,在全球公眾眼中早已成為“偏見廣播公司”(biased broadcast corporation),而以英國廣播公司為代表的西方媒體制造、傳播虛假國際新聞,也導(dǎo)致了全球范圍內(nèi)公眾對新聞的信任經(jīng)歷著坍塌。路透社對全球40個(gè)新聞市場的調(diào)查顯示,62%的公眾時(shí)常懷疑新聞的真實(shí)性。②

        國際假新聞是新聞在跨越國界的傳播過程中出現(xiàn)的虛假現(xiàn)象,既包括無事實(shí)根據(jù)的假新聞,也包括具有事實(shí)根據(jù)但部分要素失實(shí)的假新聞??紤]到傳播環(huán)境的變化,對虛假新聞的研究既包括傳統(tǒng)媒體發(fā)布的虛假新聞,也包括社交媒體時(shí)代網(wǎng)上傳播的虛假信息。隨著媒介技術(shù)的變遷,新聞的發(fā)布主體也呈現(xiàn)出從專業(yè)新聞機(jī)構(gòu)到多元新聞主體的結(jié)構(gòu)性變化,專業(yè)生產(chǎn)內(nèi)容、用戶生產(chǎn)內(nèi)容、機(jī)器生產(chǎn)內(nèi)容之間的邊界逐漸變得模糊,社交媒體中的虛假信息(disinformation)成為國際假新聞發(fā)展的新動(dòng)向。

        造成國際假新聞產(chǎn)生的因素有很多,而信息戰(zhàn)往往是國際假新聞大規(guī)模出現(xiàn)的重要原因。廣義上的信息戰(zhàn)是指對壘軍事集團(tuán)搶占信息空間和爭奪信息資源的戰(zhàn)爭,主要是指利用信息達(dá)成國家大戰(zhàn)略目標(biāo)的行動(dòng);狹義的信息戰(zhàn)是指戰(zhàn)爭中交戰(zhàn)雙方在信息領(lǐng)域的對抗,可分為戰(zhàn)略信息戰(zhàn)和戰(zhàn)術(shù)信息戰(zhàn)。③可見,信息戰(zhàn)涉及的領(lǐng)域、范圍都較為廣泛,本文主要從新聞傳播學(xué)視角出發(fā),將信息戰(zhàn)視為信息環(huán)境中兩個(gè)或多個(gè)國家進(jìn)行的沖突和斗爭,既包括現(xiàn)實(shí)環(huán)境(如戰(zhàn)爭)中的心理戰(zhàn)、宣傳戰(zhàn),也包括虛擬環(huán)境(如互聯(lián)網(wǎng))中的網(wǎng)絡(luò)戰(zhàn)。

        信息戰(zhàn)中,一國持續(xù)同步地混合使用一系列物理的和虛擬的手段,迫使其他國家、組織或個(gè)人采取相應(yīng)的行動(dòng)以達(dá)到己方預(yù)先設(shè)定的目標(biāo),同時(shí)防止對手采取同樣的手段,目的是使國家獲得與他國相比的競爭優(yōu)勢,同時(shí)控制和影響他國。④本質(zhì)上講,信息戰(zhàn)是由國家出資進(jìn)行的戰(zhàn)術(shù)性傳播,新聞機(jī)構(gòu)在信息戰(zhàn)中扮演的角色是“國家的傀儡”⑤,一方面通過傳播虛假信息、制造謠言的手段打擊和操縱敵對國家公眾,另一方面通過技術(shù)手段防止他國收集到不利于本國的信息⑥。在社交媒體時(shí)代,算法、自動(dòng)化等技術(shù)創(chuàng)新改變了信息戰(zhàn)的形式與手段,如何規(guī)避社交媒體時(shí)代以國際假新聞為工具的新信息戰(zhàn)的攻擊,是中國當(dāng)前面臨的一項(xiàng)亟待解決的新課題。

        過往研究較少從信息戰(zhàn)的角度梳理國際假新聞的歷史,更多的是探討國際假新聞的影響因素,往往也是從具體案例出發(fā)以小見大管窺國際假新聞的成因。所得結(jié)論,或者是媒體專業(yè)性不足,抑或是國家利益訴求、意識形態(tài)差異使然。相較于以往的研究,本研究主要有以下兩個(gè)特征:一是以信息戰(zhàn)為線索探究國際假新聞的歷史嬗變;二是關(guān)注社交媒體時(shí)代國際假新聞發(fā)展的新動(dòng)向。特別是在近來西方媒體頻頻抹黑中國的背景下,對國際假新聞的研究將為中國應(yīng)對外媒的污名化報(bào)道、回應(yīng)外媒主導(dǎo)的國際輿論、消解來自西方的偏見和誤解提供一定方向的指引。

        本文旨在以全球?yàn)橐暯?,以信息?zhàn)為線索,更為宏觀地展現(xiàn)國際假新聞的歷史,洞察國際假新聞生成的本質(zhì)原因,試圖回答以下四個(gè)問題:第一,歷史上的國際假新聞在信息戰(zhàn)的背景下如何演化?第二,社交媒體時(shí)代的國際假新聞與此前歷史上的國際假新聞?dòng)泻尾煌??升級了什么?產(chǎn)生哪些影響?第三,在國際假新聞的歷史脈絡(luò)中,變化的是什么?不變的又是什么?第四,當(dāng)前如何理解以計(jì)算宣傳為工具的新信息戰(zhàn),特別是中國如何應(yīng)對來自西方國家的計(jì)算宣傳攻擊?

        從宏觀的地緣政治角度來看,當(dāng)前以計(jì)算宣傳為特征的新信息戰(zhàn)正在影響著全球地緣政治中話語權(quán)的分配,甚至可能對全球地緣政治格局產(chǎn)生影響。本文在信息戰(zhàn)視角下對國際假新聞的研究,將有助于進(jìn)一步揭示當(dāng)前國際間信息流通不平等的深層次原因,認(rèn)清國際假新聞的本質(zhì),以及各國對外信息傳播中深藏的真實(shí)意圖,加深對地緣政治與國際話語權(quán)的理解。

        二、信息戰(zhàn)視角下國際假新聞的歷史嬗變

        (一)兩次世界大戰(zhàn)中的宣傳戰(zhàn):被犧牲的新聞?wù)鎸?shí)

        長久以來,媒體在國際危機(jī)與沖突中所扮演的角色之一即作為戰(zhàn)爭的武器與工具,進(jìn)行對敵宣傳戰(zhàn)與心理戰(zhàn)。⑦在第一次與第二次世界大戰(zhàn)期間,敵對雙方均運(yùn)用各種傳播媒介作為團(tuán)結(jié)民心、鼓舞士氣與丑化敵人的工具,期間產(chǎn)生了大量的國際假新聞。

        第一次世界大戰(zhàn)期間,新聞成為戰(zhàn)爭的一部分,宣傳和控制都達(dá)到了前所未有的程度。⑧這一時(shí)期,國際假新聞主要以“紙彈”形式傳播,對內(nèi)媒介為報(bào)紙,對外則通過飛機(jī)和氣球在前線散發(fā)小冊子。有數(shù)據(jù)顯示,1918年6月,英國在德國前線散發(fā)小冊子160萬冊,8月達(dá)390萬冊,10月達(dá)530萬冊。⑨

        從給報(bào)道署上虛假的日期、刊登未經(jīng)證實(shí)的謠言、刊登旨在傳遞暗示的否認(rèn)到“策劃”事件⑩,新聞的形態(tài)被徹底顛覆。龐松比(Arthur Ponsonby)在其1928年出版的著作《戰(zhàn)時(shí)的謊言》(FalsehoodsinWartime)中用大量文件,逐條考證了每一則戰(zhàn)時(shí)假新聞的來龍去脈,其中包括很多著名的國際假新聞,如協(xié)約國報(bào)道“德國用士兵的尸體制造油脂、豬飼料和肥料”的新聞,后被發(fā)現(xiàn)是宣傳家在報(bào)道時(shí)故意將德文中的“Kadaver”(尸體,僅指動(dòng)物的尸體,不用于人)翻譯為英文的“corpse”(尸體,尤指人的尸體)。作為一戰(zhàn)中同盟國核心成員的德國,在國際假新聞的捏造上也不“遜色”于協(xié)約國。德國各地平民被灌輸“路透社是戰(zhàn)爭謊言制造者”“北巖(Northcliffe)是‘說謊大臣’”“協(xié)約國是‘一派謊言’的代名詞”的觀點(diǎn)。整體來看,一戰(zhàn)期間的戰(zhàn)時(shí)新聞與宣傳無異,真相成為戰(zhàn)爭的犧牲品,客觀性、真實(shí)性無處可尋。這一時(shí)期國際假新聞的傳播形式多為紙質(zhì)媒介,傳播的廣度與深度都具有局限性。

        麥克盧漢(Marshall McLuhan)曾把廣播比作可以鼓舞士氣的“部落鼓”。二戰(zhàn)中,這個(gè)生逢其時(shí)的“部落鼓”很快被納入國家控制之中,成為了傳播戰(zhàn)時(shí)國際假新聞的重要工具。從戰(zhàn)爭的爆發(fā),到戰(zhàn)爭的轉(zhuǎn)折點(diǎn),直至戰(zhàn)爭結(jié)束,國際廣播被廣泛應(yīng)用于國際間的政治斗爭和戰(zhàn)時(shí)宣傳,被稱為是繼海陸空之后的“第四戰(zhàn)場”“第四條戰(zhàn)線”。

        1939年8月31日,希特勒(Adolf Hitler)為了制造進(jìn)攻波蘭的借口,在德國格萊維茨廣播電臺炮制了一場偽裝波蘭方面向德國進(jìn)攻的鬧劇,這成為了第二次世界大戰(zhàn)的導(dǎo)火索。此后,希特勒和戈培爾(Paul Joseph Goebbels)將對外宣傳納入戰(zhàn)時(shí)管理體系。德國納粹將“總體戰(zhàn)”觀念付諸實(shí)踐,建立起一體化的戰(zhàn)爭宣傳和動(dòng)員機(jī)制。希特勒認(rèn)為,在受眾無法識別的情況下,可以不考慮宣傳內(nèi)容的真實(shí)性與邏輯性。戈培爾在任德國大眾教育與宣傳部部長期間非常注重宣傳的作用。他曾表示,媒體的任務(wù)除了告知(inform)以外,首要而且更重要的任務(wù)是教導(dǎo)(instruct),其“名言”——“新聞是戰(zhàn)爭的武器”“新聞的目的是幫助戰(zhàn)爭而不是提供信息”“謊言重復(fù)一千次就成了真理”充分體現(xiàn)了其宣傳主張與策略。二戰(zhàn)期間,德國最著名的廣播是由“赫赫勛爵”主持的一檔節(jié)目,故意使用非常接近英國廣播公司的頻率混淆視聽,向英國聽眾散播恐慌情緒??傊瑢γ襟w的控制是納粹國家運(yùn)作的核心,這種行為已遠(yuǎn)遠(yuǎn)超過了一般戰(zhàn)時(shí)政策所能達(dá)到的目標(biāo)。

        跟德國一樣,第二次世界大戰(zhàn)的多個(gè)參戰(zhàn)國也利用廣播進(jìn)行戰(zhàn)時(shí)假新聞的傳播。如英國心理戰(zhàn)專家在獲得德國農(nóng)業(yè)歉收而不得不用冷凍的馬鈴薯作為海軍的越冬食物這一情報(bào)后,精心策劃和導(dǎo)演了“馬鈴薯感冒癥”事件,通過醫(yī)學(xué)電臺透露日本出現(xiàn)了吃冷凍馬鈴薯得怪病的現(xiàn)象,進(jìn)而引起德軍的恐慌和焦慮,削弱其斗志。

        據(jù)統(tǒng)計(jì),1939年二戰(zhàn)全面爆發(fā)時(shí),共有27個(gè)國家有對外廣播,到1945年戰(zhàn)爭結(jié)束時(shí),這個(gè)數(shù)字已經(jīng)增加到55個(gè)國家。戰(zhàn)爭期間,各個(gè)國家黑色宣傳、白色宣傳、灰色宣傳交替使用,一些秘密電臺,如德國的“新BBC廣播電臺”、英國的“古斯塔夫—齊格弗列德廣播電臺”“大西洋德語短波廣播”、盟軍的“德國之音”成為對外傳播假新聞的重要渠道。這一時(shí)期,國際假新聞對技術(shù)的依賴程度加深,電波極大地?cái)U(kuò)展了國際假新聞傳播的廣度,呈現(xiàn)出一種“無孔不入”的態(tài)勢??傊?,兩次世界大戰(zhàn)期間,戰(zhàn)時(shí)國際假新聞成為國家宣傳的一部分,以制造、傳播假新聞的手段攻擊敵人、合法化自身成為戰(zhàn)時(shí)新聞工作的常態(tài)。

        (二)冷戰(zhàn)以來的信息戰(zhàn):被意識形態(tài)化的虛假新聞

        冷戰(zhàn)以來,信息戰(zhàn)對新興技術(shù)的依賴有所加深。利用電子工程、計(jì)算、電信和航天技術(shù)等,國家可以對信息戰(zhàn)進(jìn)行周密的部署,這使得信息戰(zhàn)具有了機(jī)動(dòng)性、靈活性和反應(yīng)快速的特征。這一時(shí)期,國際假新聞被各國作為信息戰(zhàn)的工具進(jìn)行霸權(quán)的爭奪和意識形態(tài)的斗爭。

        冷戰(zhàn)期間,新的世界信息傳播秩序成為美蘇兩國爭奪霸權(quán)的工具和犧牲品。這一時(shí)期,各國更加充分地認(rèn)識到信息傳播的重要性,特別是“國際廣播的政治色彩有增無減,全球的國際廣播表現(xiàn)為資本主義國家和社會(huì)主義國家之間相當(dāng)激烈的斗爭”。蘇聯(lián)利用莫斯科電臺、“和平與進(jìn)步”電臺、塔斯社進(jìn)行對外宣傳。針對蘇聯(lián)的攻勢,杜魯門在冷戰(zhàn)初期發(fā)起了真相運(yùn)動(dòng)(campaign of truth),試圖將“有關(guān)自由和民主的真相傳播到世界各地”,向世界全面、公正地講述真實(shí)的美國。然而,所謂的“真相運(yùn)動(dòng)”,不過是美國向全球推廣其意識形態(tài)、對抗以蘇聯(lián)為代表的社會(huì)主義陣營的工具。艾森豪威爾當(dāng)政期間成立了美國新聞署,其下屬的美國之音、馬蒂電臺、自由亞洲廣播電臺等國際廣播于冷戰(zhàn)期間在敵對國和中立國內(nèi)培養(yǎng)了大量認(rèn)同美國政策的政治和文化精英。冷戰(zhàn)高峰時(shí)期,里根政府還出臺“真相工程”(project truth)以反擊蘇聯(lián)情報(bào)部門主導(dǎo)的虛假信息宣傳和政治活動(dòng)。這一時(shí)期的國際假新聞并非以鼓動(dòng)為目的、以欺騙為手段捏造新聞,而是充滿了意識形態(tài)色彩,資本主義陣營和社會(huì)主義陣營中的意識形態(tài)矛盾主導(dǎo)了國際新聞的內(nèi)容和方向,國際新聞中充滿了偏見與仇視。

        國際間的信息戰(zhàn)并未隨著冷戰(zhàn)的結(jié)束而停止,反而以新的形式“粉墨登場”。在“一超多強(qiáng)”的國際格局中,美國建立了政治、經(jīng)濟(jì)、軍事等硬實(shí)力方面的霸權(quán)地位。1990年,約瑟夫·奈(Joseph Nye)提出“軟實(shí)力”(soft power)概念,他認(rèn)為,“文化、政治價(jià)值觀和外交政策是一個(gè)國家實(shí)踐軟實(shí)力的三種資源,新聞以其議程設(shè)置和文化傳播的功能,在軟實(shí)力的傳播中發(fā)揮著重要的作用,信息戰(zhàn)中競爭優(yōu)勢的實(shí)現(xiàn)在一定程度上取決于競爭者的‘軟實(shí)力’資源”。媒體成為美國建構(gòu)其軟實(shí)力的重要工具,國際間的信息流動(dòng)呈現(xiàn)出從以美國為首的西方國家單向流動(dòng)至世界其他國家的態(tài)勢,這構(gòu)成了美國軟實(shí)力的一部分,也成為美國開展信息戰(zhàn)的重要資源。

        得益于硬實(shí)力與軟實(shí)力的雙重加持,美國在信息戰(zhàn)中憑借強(qiáng)大的話語權(quán)優(yōu)勢壓制對自己構(gòu)成競爭威脅的國家,如中國、俄羅斯等。李希光、劉康等人提出,“冷戰(zhàn)結(jié)束以后,美國政府一直沒有放棄冷戰(zhàn)思維,蓄意通過宣傳手段,妖魔化中國形象”。對俄方面,2008年的格魯吉亞事件、2014年的烏克蘭事件致使信息戰(zhàn)有所升級,這些信息戰(zhàn)的主要內(nèi)容是圍繞俄羅斯制定專門的傳播策略、破壞俄羅斯領(lǐng)導(dǎo)人的形象、以“獨(dú)裁者”“侵略者”“掠奪者”等貶義詞來形容普京及其領(lǐng)導(dǎo)下的俄羅斯,塑造其負(fù)面形象,俄羅斯的國家形象及領(lǐng)導(dǎo)人形象因此都受到極大的負(fù)面影響。西方國家針對普京和俄羅斯在世界范圍內(nèi)掀起信息戰(zhàn)的同時(shí),也加劇了對俄羅斯的孤立、敵視與打擊。

        而作為信息戰(zhàn)“受害者”的俄羅斯,本身也是信息戰(zhàn)的“發(fā)動(dòng)者”。有西方學(xué)者認(rèn)為,俄羅斯主流媒體在報(bào)道烏克蘭沖突時(shí),常常不考慮準(zhǔn)確性,“將假新聞作為一種策略性敘事(strategic narratives)手段”,目的是表達(dá)俄羅斯的政治立場、影響國內(nèi)與國際輿論,該舉措將信息戰(zhàn)發(fā)展到了新高度。

        (三)信息戰(zhàn)在社交媒體時(shí)代的延續(xù):被計(jì)算的國際假新聞

        冷戰(zhàn)時(shí)期,蘇聯(lián)和美國之間雖然沒有直接的軍事沖突,但雙方在技術(shù)領(lǐng)域掀起了大規(guī)模的太空競賽和核武器競賽,也正是在此背景之下,互聯(lián)網(wǎng)在美國作為軍事戰(zhàn)爭的武器被創(chuàng)建出來。進(jìn)入21世紀(jì)以來,世界再一次經(jīng)歷了不斷升級的技術(shù)領(lǐng)域競爭,算法轉(zhuǎn)向與網(wǎng)絡(luò)空間中的意識形態(tài)斗爭是互聯(lián)網(wǎng)時(shí)代的兩個(gè)顯著特征,信息和通訊技術(shù)的發(fā)展為國家行為體使用非傳統(tǒng)戰(zhàn)爭的方式來實(shí)現(xiàn)目標(biāo)提供了新的機(jī)會(huì),美國軍方甚至將網(wǎng)絡(luò)空間看作陸、海、空、天之外的第五維戰(zhàn)場。

        尤其是2016年以來,“黑天鵝”事件頻出、“后真相”成為新的時(shí)代特征、意識形態(tài)領(lǐng)域矛盾激化,國際形勢的這些變化致使國際新聞的生產(chǎn)規(guī)則被改變,虛假新聞制作的復(fù)雜程度、制作規(guī)模以及傳播速度和效果相應(yīng)地發(fā)生了改變。在算法輔助下,誤導(dǎo)信息(misinformation)和謠言比真相傳播得更快、更廣,各類假新聞、誤導(dǎo)信息和宣傳性內(nèi)容,讓公眾無法辨別真?zhèn)巍_@一時(shí)期的國際假新聞更為精細(xì),在充分利用技術(shù)的同時(shí),表象上卻極力褪去技術(shù)操縱的色彩,甚至出現(xiàn)利用圖片和視頻的“深度偽造”(deepfakes),呈現(xiàn)出“以假亂真”的態(tài)勢。

        2016年,美國華盛頓大學(xué)學(xué)者塞繆爾·伍利(Samuel Woolley)和英國牛津大學(xué)學(xué)者菲利普·霍華德(Philip Howard)提出“計(jì)算宣傳”(computational propaganda)概念,將其描述為“使用算法、自動(dòng)化和大數(shù)據(jù)分析等方式操縱公眾輿論,以在社交媒體網(wǎng)絡(luò)上故意散布誤導(dǎo)信息為目的的傳播行為”。依托于社交機(jī)器人,計(jì)算宣傳的痕跡已遍布社交媒體。數(shù)據(jù)顯示,社交媒體中48.2%的流量是人類活動(dòng),51.8%是算法操縱的機(jī)器人,還有研究指出,臉書中社交機(jī)器人對社交關(guān)系網(wǎng)的滲透成功率高達(dá)80%。

        當(dāng)前,計(jì)算宣傳的影響范圍已經(jīng)超越社交媒體平臺,甚至超越國界,它儼然成為開展國際攻擊的有力武器,國家利用社交媒體放大假新聞成為當(dāng)前信息戰(zhàn)和輿論戰(zhàn)的新趨勢。據(jù)相關(guān)文獻(xiàn)分析,自2010年以來,已有超過28個(gè)國家被發(fā)現(xiàn)利用社交媒體操縱網(wǎng)絡(luò)輿論。美國大選、英國脫歐公投、敘利亞沖突、巴西選舉、墨西哥選舉、烏克蘭危機(jī)等多項(xiàng)政治事件中均發(fā)現(xiàn)了計(jì)算宣傳的痕跡。推特上自2012年以來充斥著數(shù)以百萬計(jì)的由社交機(jī)器人發(fā)布的反什葉派和反伊朗的推文內(nèi)容,最高峰時(shí)期機(jī)器人發(fā)送的內(nèi)容占據(jù)了與沙特相關(guān)標(biāo)簽下推文的50%以上。2017年海灣斷交危機(jī)中,推特上與這一議題相關(guān)的標(biāo)簽下至少71%的活躍賬戶被發(fā)現(xiàn)是機(jī)器人,它們用來幫助阿聯(lián)酋、埃及等國進(jìn)行對卡塔爾的負(fù)面信息宣傳。綜合歐美情報(bào)機(jī)構(gòu)的報(bào)告、西方主流媒體的報(bào)道以及研究人員的獨(dú)立調(diào)查結(jié)果,俄羅斯政府涉嫌利用社交媒體傳播政治謠言和假新聞,今日俄羅斯電視臺和俄羅斯衛(wèi)星通訊社被認(rèn)為是主要推手。美國大西洋理事會(huì)數(shù)字法醫(yī)研究實(shí)驗(yàn)室(The Atlantic Council′s Digital Forensic Research Lab)曾公布俄羅斯散布誤導(dǎo)性信息的詳細(xì)記錄,從亞美尼亞到法國,從德國到美國,俄羅斯的計(jì)算宣傳痕跡幾乎無所不在。

        還有研究發(fā)現(xiàn),推特上與中國政治相關(guān)的推文中有大量針對中國的計(jì)算宣傳,機(jī)器人對于中國的政治體制、人權(quán)問題關(guān)注較多,依托大量對事實(shí)的歪曲式解讀,傳播批評中國的信息。在涉及港澳臺疆等議題的標(biāo)簽下,大量推文由機(jī)器人發(fā)布,部分話題中由機(jī)器人發(fā)布的推文比例超過30%。如香港“修例”風(fēng)波中,推特中的社交機(jī)器人反復(fù)轉(zhuǎn)發(fā)《紐約時(shí)報(bào)》所發(fā)布的對中國的負(fù)面報(bào)道,表達(dá)出對抗議者的肯定態(tài)度。此外,海外社交媒體有關(guān)中美貿(mào)易談判的議題中也存在大量計(jì)算宣傳現(xiàn)象,推特上參與這一議題討論的用戶中有13%為社交機(jī)器人,社交機(jī)器人發(fā)送推文重復(fù)率高,并頻繁地通過提及(@)媒體或熱點(diǎn)人物的方式擴(kuò)大影響力。新冠疫情暴發(fā)以來,臉書、推特等社交媒體中存在大量與疫情相關(guān)的計(jì)算宣傳內(nèi)容,包括對病毒起源的陰謀論、對疾病的污名化等,尤其是針對中國和亞裔族群的攻擊??梢?,當(dāng)前國際社交媒體上針對中國的計(jì)算宣傳已經(jīng)初具規(guī)模,這對我國的國家形象與國際聲譽(yù)造成嚴(yán)重威脅。

        計(jì)算宣傳是信息戰(zhàn)在社交媒體時(shí)代的延續(xù),它將國與國之間的權(quán)力爭奪帶到新的層面。計(jì)算宣傳現(xiàn)象很有可能使國際假新聞泛濫成災(zāi)。有研究指出,一些由低可信度信源發(fā)出的信息極易被社交機(jī)器人轉(zhuǎn)發(fā),特別是在虛假信息的早期傳播階段,社交機(jī)器人尤其活躍,并且傾向于針對有影響力的賬號進(jìn)行傳播,試圖通過他們擴(kuò)大假新聞的影響范圍。由社交機(jī)器人傳播的虛假信息也有可能作用于國際主流媒體,一旦計(jì)算宣傳中的虛假信息被主流媒體發(fā)現(xiàn)并轉(zhuǎn)載,就會(huì)增加主流媒體上的虛假信息,而借助主流媒體的傳播渠道傳播的假新聞進(jìn)一步擴(kuò)大了影響范圍。

        技術(shù)的創(chuàng)新改變了信息戰(zhàn)的方式。過去20年里,國家和非國家行為體越來越頻繁地利用互聯(lián)網(wǎng)追求設(shè)置政治和軍事議程,并將傳統(tǒng)的軍事行動(dòng)與網(wǎng)絡(luò)攻擊、在線宣傳結(jié)合起來。作為其中重要一環(huán)的計(jì)算宣傳,其影響范圍已然超越了社交媒體本身,成為國與國之間政治、軍事競爭的工具。對于中國來說,計(jì)算宣傳已成為西方政治勢力污名化中國、制造陰謀論的手段。它通過偽造信息的方式制造“偽共識”,通過“武器化”的意識形態(tài)宣傳改變?nèi)蛘胃窬?,并與后真相政治、虛假新聞、社交媒體操縱等現(xiàn)象相互交織,使得中國所面對的國際輿論環(huán)境、國際競爭格局更加復(fù)雜。

        三、技術(shù)遮蔽與宣傳嵌入:國際假新聞的雙重底色

        (一)技術(shù)的變化與重構(gòu):國際假新聞的隱蔽性

        國際假新聞伴隨著國際格局的演進(jìn)與媒介技術(shù)的更迭而發(fā)生嬗變。從一戰(zhàn)期間以小冊子、傳單為媒介的“紙彈”攻擊,到二戰(zhàn)期間以廣播為媒介的“電波”攻擊,戰(zhàn)爭期間國際假新聞的數(shù)量規(guī)模與影響范圍隨著傳播技術(shù)與形態(tài)的演進(jìn)而愈加擴(kuò)大。冷戰(zhàn)以來,國際間的信息戰(zhàn)則是對多種傳播手段的混合式、嵌入式應(yīng)用,報(bào)紙、圖片、廣播、電視均成為國際假新聞的制造源頭與傳播介質(zhì)。特別是,隨著電視進(jìn)入“尋常百姓家”以及電視直播技術(shù)的發(fā)展,鏡頭語言能夠更直觀地呈現(xiàn)新聞事件現(xiàn)場的真實(shí)場景,而這種經(jīng)剪輯、篩選后的“真實(shí)”往往更具有遮蔽性。

        到了社交媒體時(shí)代,計(jì)算宣傳的出現(xiàn)使機(jī)器突破了原來的工具屬性,“從傳播媒介變成了信源或信宿,有了和人類平等的傳播主體地位”。以不透明的算法為依托,計(jì)算宣傳操縱下的國際假新聞成為制造“偽共識”的武器。相比于經(jīng)剪輯、篩選后的電視“真實(shí)”,計(jì)算宣傳的“真實(shí)”因置身于算法黑箱之中而“遮蔽性”更強(qiáng)。雖然可以通過技術(shù)手段來識別社交媒體中的機(jī)器人,但對于黑箱之外的大部分公眾而言,則無法識別信息的真?zhèn)?,極容易誤把“偽共識”當(dāng)作是民眾的“共識”。

        當(dāng)前,社交機(jī)器人被國家用于操控與引導(dǎo)國際輿論,甚至對他國進(jìn)行隱蔽的攻擊。有學(xué)者用“政治機(jī)器人”(political bot)這一概念描述被政治團(tuán)體操控并在社交媒體中廣泛參與政治討論的社交機(jī)器人。不同于前互聯(lián)網(wǎng)時(shí)代,社交媒體時(shí)代的政治機(jī)器人自身具有高度類人性、非具身性的特點(diǎn),其操縱下的國際假新聞形式之復(fù)雜、傳播形態(tài)之隱蔽也達(dá)到了更高的程度,如通過戰(zhàn)略部署用機(jī)器人攻擊他國,或混合使用算法分發(fā)、網(wǎng)絡(luò)釣魚等方法散播虛假信息、操縱符號、制造趨勢、放大特定內(nèi)容、啟動(dòng)“偽草根運(yùn)動(dòng)”(astroturfing)等。

        從無線電報(bào)到互聯(lián)網(wǎng),人類社會(huì)每一次重大媒介技術(shù)的發(fā)明都肇始于烏托邦式的美好創(chuàng)想,然而往往都未能充分兌現(xiàn)自由和民主的承諾,甚至是在技術(shù)輪轉(zhuǎn)中完成對既有權(quán)力結(jié)構(gòu)的復(fù)制乃至強(qiáng)化。當(dāng)前,包括計(jì)算宣傳在內(nèi)的技術(shù)在智能化演進(jìn)的過程中逐漸趨近于“人的延伸”,但技術(shù)的演進(jìn)并未消弭國際網(wǎng)絡(luò)空間中的不平等,它延伸了國家利益、權(quán)力關(guān)系的觸及范圍,同時(shí)又隱蔽地披著人類的外衣,極大地影響甚至使全球輿論生態(tài)惡化。

        (二)宣傳的嵌入與延續(xù):國際假新聞的根本意圖

        雖然國際假新聞在形態(tài)上經(jīng)歷了從單一到多元、從顯化到隱匿的變化,但人的主體性始終存在于技術(shù)與現(xiàn)實(shí)世界的互動(dòng)中,宣傳的意圖始終被嵌入在國際假新聞的傳播體系中。戰(zhàn)爭中,偽裝成新聞的虛假信息的宣傳色彩之濃厚自不必說,彼時(shí)的國際新聞只是徒有其名。也正是因?yàn)榈谝淮问澜绱髴?zhàn),“宣傳”的概念漸為人知,甚至成為“欺騙與謊言”的代名詞。與一戰(zhàn)中的國際假新聞相比,二戰(zhàn)中的國際假新聞與其本質(zhì)上無異,但出現(xiàn)了新的宣傳觀念,如英國廣播公司更多采用了隱蔽的“新聞式”的宣傳模式,而納粹德國的宣傳則是采用了重復(fù)性極高的“欺騙式”的謊言模式。

        長達(dá)半個(gè)世紀(jì)的冷戰(zhàn)為宣傳注入了新的動(dòng)力,以國家為主體的宣傳出現(xiàn)而且不斷發(fā)展,逐漸升級到更微妙的新宣傳。冷戰(zhàn)期間,隱蔽宣傳行動(dòng)(covert propaganda operation)是美國冷戰(zhàn)戰(zhàn)略體系中的重要一環(huán),具體表現(xiàn)為隱蔽的無線電廣播、制造假消息等。近來,以新冠疫情、新疆話題為抓手,以美國為代表的西方主流媒體頻頻報(bào)道針對中國的假新聞,本質(zhì)上也是一種宣傳,甚至有學(xué)者稱其為美國對華發(fā)動(dòng)的“新冷戰(zhàn)”。

        一戰(zhàn)以來學(xué)界對宣傳存在兩種不同的觀念,即道德論與中立論,前者強(qiáng)調(diào)宣傳的負(fù)面力量,后者強(qiáng)調(diào)宣傳作為一種政策工具的必要性,本文傾向于持道德論的觀念。埃呂爾(Jacques Ellul)認(rèn)為宣傳是“內(nèi)部控制個(gè)人的社會(huì)力量”,斯坦利·康寧漢(Stanley Cunningham)認(rèn)為“宣傳即認(rèn)識論”“宣傳潛移默化地侵蝕個(gè)人能力和社會(huì)自由”,二者均強(qiáng)調(diào)了宣傳對人和社會(huì)的控制。利用計(jì)算手段生產(chǎn)國際假新聞是宣傳在社交媒體時(shí)代的喬裝改扮,本質(zhì)上仍然是一種“故意顛覆符號、迎合低級情感偏見、繞過理性思維”的傳播,然而它比傳統(tǒng)的宣傳方式更加強(qiáng)大,制作成本低、傳播效率高,其自動(dòng)化、匿名化的特征又使得對其的監(jiān)管更具挑戰(zhàn)性。

        從更廣泛的意義上講,這種宣傳方式旨在推進(jìn)國家行為體的政治議程,甚至在國際空間中延伸霸權(quán)主義。愛德華·赫爾曼(Edward Herman)和諾姆·喬姆斯基(Noam Chomsky)曾指出,美國媒體的新聞報(bào)道呈現(xiàn)出“系統(tǒng)性偏見”,本質(zhì)上是一種“宣傳模式”,目的則是“制造共識”(manufacturing consent)。反映到國際新聞報(bào)道方面,美國媒體看似本能地、不斷地追求新聞報(bào)道的客觀性與真實(shí)性,看似超越國界、不斷地捍衛(wèi)所謂全人類的“人權(quán)”與“自由”,但實(shí)際上,其國際新聞報(bào)道無一例外都是秉持一個(gè)不變的原則——以是否符合美國的國家利益、意識形態(tài)和價(jià)值觀為最終的選擇標(biāo)準(zhǔn)。

        事實(shí)上,這種“宣傳模式”在西方媒體中普遍存在,其實(shí)質(zhì)是霸權(quán)主義的體現(xiàn)。宣傳作為國際假新聞的始作俑者,今天在西方國家仍然存在,西方媒體常常以國際假新聞作為手段進(jìn)行宣傳,背后是其話語霸權(quán)的彰顯,西方媒體對中國抗疫、人權(quán)議題等進(jìn)行的一系列抹黑與污名化,便是宣傳嵌入國際假新聞的極為生動(dòng)的表現(xiàn)。

        四、如何應(yīng)對以計(jì)算宣傳為特征的新信息戰(zhàn)

        從第一次世界大戰(zhàn)至今,從報(bào)紙、廣播、電視到互聯(lián)網(wǎng)新媒體,國際假新聞隨著國際局勢的發(fā)展、傳播技術(shù)的變遷而發(fā)展演變。在文森特·莫斯可(Vincent Mosco)看來,新技術(shù)的出現(xiàn)往往給人們帶來無限憧憬,似乎新的技術(shù)將徹底超越時(shí)間、空間乃至權(quán)力關(guān)系的限制,然而歷史、地理、政治并沒有隨著新技術(shù)的產(chǎn)生而被真正超越、終結(jié),人們在新技術(shù)面前一次又一次地患上歷史終結(jié)癥,陷入一種反復(fù)終結(jié)的迷思。以云計(jì)算、大數(shù)據(jù)和物聯(lián)網(wǎng)為代表的下一代互聯(lián)網(wǎng)光輝形象的迷思反映并折射了各個(gè)國家對全球政治經(jīng)濟(jì)主導(dǎo)地位的競爭等重要社會(huì)議題。人們曾期冀技術(shù)手段的進(jìn)化能使國際假新聞更容易甄別、使國際話語空間更加平等,然而國際假新聞在演化過程中依然保有其原本的雙重底色。它從未跳脫出國家利益與國際話語權(quán)的爭奪范疇,反而隨著技術(shù)的發(fā)展,表現(xiàn)形式愈加隱蔽,對國際秩序造成的危害可能愈發(fā)難以估量。對于中國來說,在頻頻被西方媒體通過計(jì)算宣傳予以污名化、有關(guān)中國的國際輿情被社交機(jī)器人操控的背景下,如何應(yīng)對互聯(lián)網(wǎng)時(shí)代以計(jì)算宣傳為特征的新信息戰(zhàn),成為當(dāng)前亟待解決的問題。本文認(rèn)為,對這一問題的考量應(yīng)該從全球與本土兩個(gè)視角切入。

        (一)全球治理框架

        社交媒體中的國際假新聞已成為全球現(xiàn)象,世界經(jīng)濟(jì)論壇早在2014年就將網(wǎng)絡(luò)空間中虛假信息的快速傳播列為社會(huì)面臨的十大風(fēng)險(xiǎn)之一。從全球角度來看,應(yīng)對計(jì)算宣傳造成的虛假信息傳播是全球治理的一部分。全球治理是在全球化趨勢之下,為應(yīng)對全球問題,由各國政府、跨國組織、跨國公司以及全球公民社會(huì)共同參與的,具有平等、協(xié)商、網(wǎng)絡(luò)化和資源特征的合作管理行動(dòng)。應(yīng)對計(jì)算宣傳需要全球共治,需將國家行為體、國際組織、平臺、用戶納入其中,進(jìn)行協(xié)同治理。

        國家行為體層面,計(jì)算宣傳引發(fā)的問題已引起各國的重視。自2016年以來,已有超過30個(gè)國家出臺法律,打擊國內(nèi)假新聞在社交網(wǎng)絡(luò)上的傳播。然而,目前鮮有國家專門針對國際假新聞進(jìn)行規(guī)制,這是因?yàn)橛?jì)算宣傳的國際假新聞往往是國家和媒體的合謀,其背后隱含著國際關(guān)系中的霸權(quán)結(jié)構(gòu)與國家間的權(quán)力關(guān)系。對計(jì)算宣傳的全球治理需要各個(gè)國家共同參與,在多國協(xié)作下進(jìn)行全球?qū)用娴姆梢?guī)約,一方面約束平臺的權(quán)力,另一方面杜絕以國家名義進(jìn)行計(jì)算宣傳攻擊。從現(xiàn)實(shí)情況來看,當(dāng)前達(dá)成全球性的法律共識具有較大難度,可以先從區(qū)域入手,在區(qū)域?qū)用嬉粤⒎ㄊ侄芜_(dá)成治理計(jì)算宣傳的共識,再尋求全球方案。

        國際組織層面,可以通過聯(lián)合國、上海合作組織等全球性、區(qū)域性的組織解決計(jì)算宣傳帶來的問題以及潛在危機(jī),發(fā)揮這些組織的調(diào)節(jié)與整合作用。比如,可以在國際組織的主導(dǎo)下構(gòu)建全球性的討論平臺,以逐步形成共識。這個(gè)平臺的目標(biāo)并非戳穿某一具體的計(jì)算宣傳行為,而是通過使國際社會(huì)不同群體之間進(jìn)行廣泛的信息交換與對話,減少以攻擊為目的的計(jì)算宣傳的傳播效力和負(fù)面影響,重塑全球信息生態(tài)系統(tǒng)。

        社交媒體平臺層面,既需“開門”也需“關(guān)門”。一方面,“打開”算法,將算法從“黑箱”中釋放出來。社交媒體時(shí)代“數(shù)據(jù)即權(quán)力”,平臺這一新的權(quán)力中心本質(zhì)上是資本主義市場的一環(huán),其最終目標(biāo)是經(jīng)濟(jì)利益。在不損害平臺核心利益的前提下使算法“透明化”,降低識別計(jì)算宣傳痕跡的門檻。另一方面,“關(guān)閉”可疑賬戶,利用技術(shù)手段加強(qiáng)對計(jì)算宣傳的識別與監(jiān)管,對低可信度信源“降權(quán)”甚至關(guān)停所屬賬號,以避免網(wǎng)絡(luò)公共領(lǐng)域成為虛假信息的滋生之地。此外,還需分散平臺的控制權(quán),即將平臺的控制權(quán)從大型參與者(公司、有權(quán)監(jiān)管公司的政府)分散到用戶手中,讓用戶控制算法、推薦機(jī)制,并能夠自主洞察內(nèi)容的生成機(jī)制以及潛在的偏見。

        用戶層面,應(yīng)提高自身的媒介素養(yǎng),包括新聞評判的標(biāo)準(zhǔn)、評估偏見的能力,甚至是自發(fā)組成獨(dú)立的事實(shí)核查組織。特別是,用戶還需提高自身的“算法素養(yǎng)”,以批判性思維理解算法帶來的影響,充分了解社交媒體中國際假新聞的生產(chǎn)邏輯,提高識別能力。

        以上治理框架需要多方協(xié)作,國際組織需要調(diào)節(jié)國家與國家、國家與平臺之間的關(guān)系,國家需要限制平臺的權(quán)力、致力于提高用戶的素養(yǎng),平臺需要賦權(quán)用戶,用戶需要監(jiān)督國家、國際組織和平臺。在這種全球治理的思路之下,共同謀劃對計(jì)算宣傳的治理之道。

        (二)本土應(yīng)對措施

        考慮到長久以來中國的發(fā)展道路與西方的傳統(tǒng)以及由其主導(dǎo)的國際話語體系存在著差異,尤其在當(dāng)前中國面臨著極其復(fù)雜的國際環(huán)境與國際輿情,中國已經(jīng)并極有可能持續(xù)遭到西方國家的信息戰(zhàn)攻擊。面對來自外部的國際假新聞,中國應(yīng)該結(jié)合本國特點(diǎn)進(jìn)行具體、靈活、有針對性的應(yīng)對,從“治標(biāo)”走向“治本”,不斷提升技術(shù)、研判涉華輿論、開展國際合作。

        技術(shù)層面,中國一方面可以建立計(jì)算宣傳探測網(wǎng),利用Sybil攻擊檢測、社會(huì)網(wǎng)絡(luò)分析等方法檢測和跟蹤計(jì)算宣傳。另一方面,可以建立國際輿情預(yù)警機(jī)制,根據(jù)對計(jì)算宣傳假新聞現(xiàn)象發(fā)生機(jī)制的分析,予以快速的、具有針對性的回應(yīng),甚至是以回?fù)舻姆绞浇衣段鞣絿也倏v國際輿論的政治目的。同時(shí),需要防止海外假新聞的“內(nèi)流”與“擴(kuò)散”,通過技術(shù)手段阻止假新聞內(nèi)容在國內(nèi)的持續(xù)傳播和負(fù)面影響的不斷擴(kuò)大。作為信息戰(zhàn)在當(dāng)代的迭代升級,計(jì)算宣傳甚至可能威脅到國家主權(quán)與安全,因此對該現(xiàn)象的治理應(yīng)納入到國防系統(tǒng),進(jìn)行戰(zhàn)略性防御和部署。更為重要的是,需要建立由多個(gè)相關(guān)部門組成的治理戰(zhàn)線,如將外交、國防、法律等部門結(jié)合起來,將學(xué)術(shù)界與智庫吸納進(jìn)來,聯(lián)合應(yīng)對社交媒體平臺上針對中國的計(jì)算宣傳攻擊。

        對計(jì)算宣傳中涉華輿論的研究作為一項(xiàng)基礎(chǔ)性的工作,應(yīng)繼續(xù)加強(qiáng)摸索國際社交媒體平臺上計(jì)算宣傳現(xiàn)象的共性規(guī)律,如海外社交平臺上與中國有關(guān)的計(jì)算宣傳的源頭在哪里,集中于哪些議題與領(lǐng)域,表達(dá)方式與話語特征是什么,有何特定的政治目的等,加強(qiáng)對海外社交媒體涉華輿論管理的自主性和主動(dòng)性。特別是在近年來西方媒體頻頻以新疆、香港等問題作為切入口抹黑中國的背景下,對這些議題中計(jì)算宣傳現(xiàn)象的研究具有迫切性和必要性。中國的研究機(jī)構(gòu)可以效仿牛津大學(xué)互聯(lián)網(wǎng)研究所開展計(jì)算宣傳專項(xiàng)研究,在世界范圍內(nèi)提升機(jī)構(gòu)的影響力和輻射面。牛津大學(xué)互聯(lián)網(wǎng)研究所自2016年1月起開展計(jì)算宣傳研究項(xiàng)目,關(guān)注世界各國的政治參與者如何使用社交機(jī)器人、算法等自動(dòng)化技術(shù)服務(wù)于自身政治目的,期間還開發(fā)了由專家構(gòu)成的政治機(jī)器人監(jiān)測網(wǎng)絡(luò),以及由涉及到社交機(jī)器人的政治事件構(gòu)成的原始數(shù)據(jù)庫。該團(tuán)隊(duì)的研究成果引起國際主流媒體的廣泛關(guān)注,主要成員還受邀在歐洲、北美等地進(jìn)行計(jì)算宣傳議題的研討并參與政策的制定。中國的研究機(jī)構(gòu)在這一領(lǐng)域剛剛起步,未來可以在深入研究的基礎(chǔ)上,利用新技術(shù)進(jìn)行國際互聯(lián)網(wǎng)監(jiān)測,并積極在國際上參與研討與政策制定。

        此外,由于計(jì)算宣傳是一個(gè)全球性的問題,中國應(yīng)積極與國際組織和其他國家開展多邊合作,在全球治理框架中扮演先行者、主導(dǎo)者的角色。此前,中國曾提出“構(gòu)建網(wǎng)絡(luò)空間命運(yùn)共同體”的倡議,要求各國在尊重主權(quán)的基礎(chǔ)上,通過加強(qiáng)合作形成互利共贏、秩序良好、共享共治的網(wǎng)絡(luò)空間,這是中國對網(wǎng)絡(luò)空間人類共同處境和出路的創(chuàng)造性提法。當(dāng)前,中國可以在此基礎(chǔ)上強(qiáng)調(diào)計(jì)算宣傳治理在國際互聯(lián)網(wǎng)治理中的重要性,呼吁各國深化雙邊、多邊對話交流和信息溝通,積極參與全球網(wǎng)絡(luò)空間中計(jì)算宣傳問題的治理。

        注釋:

        ① 中央廣播電視總臺新聞?lì)l道:《BBC獲800萬英鎊“辟謠專款” 俄外交部:美英造謠有前科》,央視網(wǎng),http://v.cctv.com/2021/05/04/VIDE31rclzz0kbRsqdNcGjI1210504.shtml,2021年5月4日。

        ② Oxford University’s Reuters Institute.ReutersInstituteDigitalNewsReport2020.https://www.digitalnewsreport.org/survey/2020/.June 28,2020.

        ③ 沈偉光:《信息戰(zhàn)對軍事領(lǐng)域的十大影響》,《戰(zhàn)略與管理》,1995年第6期,第44頁。

        ④ Jones A.,Kovacich G.,Luzwick P.G.GlobalInformationWarfare:HowBusiness,Governments,andOthersAchieveObjectivesandAttainCompetitiveAdvantages.Boca Raton FL:Auerbach Publications.2002.p.5.

        ⑤ Mcgonagle T.“FakeNews”FalseFearsorRealConcerns?.Netherlands Quarterly of Human Rights,vol.35,no.4,2017.p.205.

        ⑥ Xie S.,Boyd-Barrett O.External-NationalTVNewsNetworks’WaytoAmerica:IsTheUnitedStatesLosingTheGlobal“InformationWar”?.International Journal Of Communication,vol.9,no.18,2015.p.67.

        ⑦ 胡光夏:《媒體與戰(zhàn)爭:媒介化、公關(guān)化與視覺化戰(zhàn)爭新聞的產(chǎn)制與再現(xiàn)》,(臺灣)五南圖書出版股份有限公司2007年版,第207-208頁。

        ⑨ 展江:《第一次世界大戰(zhàn)中的宣傳戰(zhàn)》,《國際新聞界》,1996年第3期,第68頁。

        中文字幕日本在线乱码| 91九色播放在线观看| 日本一区二区精品高清| 亚洲啪啪视频一区二区| 少妇伦子伦精品无吗| 日日碰狠狠躁久久躁| 无码午夜剧场| 鲁丝一区鲁丝二区鲁丝三区| 国产我不卡在线观看免费| 亚洲线精品一区二区三区| 激情综合一区二区三区| 亚洲熟妇色xxxxx欧美老妇| 少妇勾引视频网站在线观看| 美女被内射很爽的视频网站| 欧美性xxxxx极品老少| 精品久久久中文字幕人妻| 婷婷激情六月| 亚洲一区二区女优av| 青青草视频网站在线观看| 日本一本之道高清不卡免费| 久久福利青草精品免费| av日本一区不卡亚洲午夜| 亚洲天堂精品一区入口| 18禁免费无码无遮挡不卡网站| 饥渴的熟妇张开腿呻吟视频| 国产在线不卡视频| 久久开心婷婷综合中文| 日本a片大尺度高潮无码| 亚洲色成人网站www永久四虎| 国产乱淫视频| 国产自拍精品视频免费观看| 性人久久久久| 亚洲精品国产av成拍色拍| 日本中文字幕一区二区高清在线 | 国产日产精品_国产精品毛片| 国产高清乱理伦片| 久久久久久无码AV成人影院| 美女把内衣内裤脱了给男人舔| 人人妻人人澡人人爽人人精品av| 婷婷丁香五月中文字幕| 超碰性爱|