○陳曉佳 陳力鈞

一、研究背景及意義

2017 年沃德爾和德拉赫尚歐洲委員會報告中提出信息失序的概念，指出信息失序主要涵蓋錯誤信息（misinformation）、虛假信息（disinformation）與惡意信息（malinformation）三種類型[1]。信息失序現(xiàn)象是不良信息在網(wǎng)絡空間傳播蔓延，內(nèi)容生態(tài)系統(tǒng)被污染的傳播亂象的概括。信息失序風險直接關乎人們獲取信息的正確性和可靠性，關乎大眾受輿論操縱和觀念誤導的可能性，關乎網(wǎng)絡空間的意識形態(tài)安全。社交媒體憑借算法推薦技術成為了當前網(wǎng)絡空間如日中天的流量聚集地，然而更加先進的信息分發(fā)技術并未使信息失序問題得到妥善解決，而且在算法推薦高效傳播機制下波及范圍更加廣泛、負面效應更為嚴重，社交媒體平臺的推薦系統(tǒng)甚至充當了負面信息引發(fā)輿情漩渦的導火索與推手。根據(jù)何塞·范·迪克（José van Dijck）等學者對當下平臺社會的觀察，由互聯(lián)網(wǎng)巨頭所創(chuàng)建的基礎設施平臺與行業(yè)平臺的合力已經(jīng)實現(xiàn)了對公共生活的全方位滲透[2]。社交媒體平臺的信息秩序研究，已經(jīng)成為了網(wǎng)絡內(nèi)容生態(tài)、意識形態(tài)秩序治理的重要議題。

從社會生活層面看，社交媒體平臺上的信息秩序研究具有重要的現(xiàn)實意義。隨著社交媒體平臺的發(fā)展，信息的真假性、合法性成為了影響人們思維認知、行為交往、生產(chǎn)生活的重要因素，如何建立更加準確的信息認證制度、公正的信息標準等也亟待進一步探討和建構。此外，隨著社交媒體平臺的應用越來越廣泛，人們也開始將社交媒體上的信息作為自己的人生規(guī)劃和生活決策的參考，因此，在社交媒體上建立更加健康和積極向上的信息生態(tài)的重要性日益凸顯。社交媒體平臺的信息秩序研究旨在維護社交媒體平臺上信息的真實性、可信性和公正性，提高社交媒體平臺的社會價值和用戶體驗，治理因社交媒體平臺的普及而不斷出現(xiàn)的信息難題，具有鮮明的現(xiàn)實導向和豐富的理論價值。

二、社交媒體信息失序的風險表征

（一）惡意內(nèi)容擴散風險

網(wǎng)絡流量是互聯(lián)網(wǎng)時代大眾認可度與話語影響力的影響因素，是信息傳播有效性的評判準則，是信息發(fā)布者獲取經(jīng)濟效益的關鍵樞紐，是互聯(lián)網(wǎng)項目的永恒主題與主要目標[3]。社交媒體平臺在“流量為王”的規(guī)則驅(qū)使下，催生了各類博眼球、博流量的操作行為，其中危害性最大的就是惡意內(nèi)容傳播。惡意內(nèi)容包括虛假、騷擾、欺詐、暴力、仇恨言論、色情、賭博等信息，這些內(nèi)容的傳播對個人和社會產(chǎn)生負面影響。首先，惡意內(nèi)容的傳播容易引發(fā)關注和轉(zhuǎn)發(fā)，甚至成為熱門話題，進而獲得更大的傳播范圍和影響力。這會加劇其對社會的影響，導致社會的公共秩序和社會和諧受到威脅。其次，惡意內(nèi)容的傳播給個人和社會帶來心理傷害。對于網(wǎng)絡暴力或欺詐等行為的受害者，可能會引起深度的心理創(chuàng)傷，這對一個人的健康和幸福都有負面影響。第三，惡意內(nèi)容也會傷害企業(yè)的聲譽。企業(yè)如果不能很好地管理在線社區(qū)，無法遏制惡意內(nèi)容的傳播，并且不能有效回應和解決與其產(chǎn)品或服務相關的負面消息，可能會導致客戶和消費者的不信任和離開，損害企業(yè)形象。造成這些惡意內(nèi)容傳播風險的原因有多方面。一方面，社交媒體平臺的技術特點使得信息可以隨意傳播，而平臺缺乏有效的審核機制，容易造成不良信息的擴散；另一方面，社交媒體平臺的商業(yè)模式以用戶流量為導向，利用算法推薦，基于用戶信息、瀏覽情況等一些網(wǎng)絡行為習慣等數(shù)據(jù)判斷用戶感興趣的內(nèi)容并進行推送[4]，加之平臺可能會對流量進行優(yōu)化，使得具有極端性、爭議性的內(nèi)容更容易被推薦，隨著算法推薦的深度使用，低俗信息泛濫的問題也逐步嚴重[5]。這進一步加劇了惡意內(nèi)容的傳播風險。

（二）用戶隱私泄露風險

社交媒體平臺作為一個高度互動的社交平臺，涉及大量的個人信息，因此用戶隱私泄露風險成為了其中一個重要問題。在使用社交媒體平臺時，我們常常會輸入個人信息、發(fā)布個人照片或視頻等敏感內(nèi)容，這些信息容易被盜取引發(fā)隱私泄露風險。社交媒體平臺用戶隱私泄露的風險主要包括以下幾個方面：一是個人信息被非法獲取。社交媒體平臺是一個集中了大量用戶個人信息的場所，這些信息包括姓名、性別、年齡、出生日期、家庭住址、聯(lián)系方式、職業(yè)信息等，其中一些信息可能還涉及賬號密碼等敏感內(nèi)容。如果不法分子通過黑客技術、網(wǎng)絡釣魚等手段獲取了這些信息，就可能導致用戶的個人信息泄露，帶來經(jīng)濟損失和個人安全隱患。二是發(fā)布的內(nèi)容被濫用。在社交媒體平臺發(fā)布的各種內(nèi)容可能被不法分子濫用，這些內(nèi)容可能被用來進行網(wǎng)絡欺詐、造謠傳謠、發(fā)起惡意攻擊等，給個人和社會帶來不良影響。三是精準投放廣告的隱私風險。社交媒體平臺通過用戶行為數(shù)據(jù)，可以對用戶進行精準的廣告投放，但這種廣告推送方式會涉及用戶的個人信息，例如用戶的興趣愛好、購買記錄等，如果這些信息被泄露或遭到濫用，就有可能導致用戶的隱私泄露。四是賬號被盜用。由于社交媒體平臺的賬號往往需要綁定手機或電子郵箱，如果這些綁定的信息被不法分子獲取，就可能導致賬號被盜用，不法分子可以通過賬號和密碼進行各種操作，甚至涉及金錢和安全問題。

（三）平臺數(shù)據(jù)濫用風險

社交媒體平臺的出現(xiàn)，為人們的溝通和交流帶來了便利。它們讓人們可以輕松地與朋友、家人和同事保持聯(lián)系，同時也成為了人們獲取信息和娛樂的主要來源。然而，這些平臺所搜集到的大量用戶數(shù)據(jù)，也讓它們成為了數(shù)據(jù)泄露和濫用的風險所在。首先，社交媒體平臺數(shù)據(jù)泄露的風險通常來自于平臺自身的安全漏洞或黑客攻擊。例如，2018 年Facebook 的Cambridge Analytica丑聞就是因為平臺泄露了約5000 多萬用戶數(shù)據(jù)，這些數(shù)據(jù)后來被用于影響美國總統(tǒng)選舉結果。[6]其次，社交媒體平臺數(shù)據(jù)濫用的風險也來自于平臺本身濫用用戶數(shù)據(jù)的情況。一些社交媒體平臺可能出售用戶數(shù)據(jù)以獲取更多的營收，或者將用戶數(shù)據(jù)用于廣告定位等商業(yè)目的。最后，社交媒體平臺的數(shù)據(jù)濫用風險還來自于第三方應用程序的濫用。這些應用程序通常需要用戶提供賬號授權來使用平臺上的數(shù)據(jù)，但是這些應用程序可能會濫用用戶數(shù)據(jù)。例如，一些應用程序可能會通過收集用戶的聯(lián)系人信息，然后以用戶的名義向他們發(fā)送垃圾郵件或釣魚郵件?？傮w來說，社交媒體平臺的數(shù)據(jù)濫用風險仍然存在，但是用戶可以通過關注隱私政策、謹慎選擇分享內(nèi)容、更換較安全的密碼和開啟驗證等措施來減少這些風險。

三、社交媒體平臺信息失序風險治理路徑

（一）建立健全信息發(fā)布規(guī)范

發(fā)布準則是社交媒體平臺維護信息秩序和用戶體驗的重要手段。它規(guī)定了用戶在平臺上發(fā)布內(nèi)容的標準和限制，旨在防止惡意行為和不良內(nèi)容的傳播，規(guī)范用戶的發(fā)布行為，保護平臺的聲譽和用戶的合法權益。建立健全發(fā)布準則是社交媒體平臺的重要職責之一。首先，需要制定明確的發(fā)布準則，規(guī)定不良內(nèi)容的標準和可接受內(nèi)容的范圍。例如，禁止色情、暴力等內(nèi)容，并制定相應的處罰措施。同時，需要強調(diào)信息真實性，發(fā)現(xiàn)虛假信息應及時下架，以避免帶來不必要的社會影響。發(fā)布準則也應隨著平臺的發(fā)展而不斷更新，以適應不同用戶群體的需求。其次，社交媒體平臺需要積極與用戶互動，收集用戶反饋和意見，了解他們對平臺和發(fā)布準則的評價和改進建議。這將有助于加強平臺對惡意行為和不良內(nèi)容的監(jiān)控，并更好地與相關規(guī)章制度結合起來。最后，發(fā)布準則應該是透明的，以便用戶正確了解和遵守規(guī)定，并及時接收到新的發(fā)布準則。

（二）完善內(nèi)容審核機制

社交媒體平臺因為其信息傳播的廣泛性和實時性，難免出現(xiàn)一些不健康的信息。針對這一問題，要堅持正確價值導向，完善內(nèi)容審核機制，推進算法透明，倒逼平臺自律。[7]社交媒體平臺的內(nèi)容審核機制在信息秩序治理中扮演著重要角色，加強內(nèi)容審核的嚴格性和高標準對于保障信息的真實性和可信性至關重要。

嚴格的抽查流程。平臺應建立專門的審核小組，針對發(fā)布的內(nèi)容進行抽查審核，及時處理用戶舉報情況。同時在審核機制的實施上，應加強審核人員的培訓和素質(zhì)提升，加大資源投入和技術升級，提高審核效率和準確性。內(nèi)容審核標準應盡可能與社會現(xiàn)實相符合，特別是對于敏感內(nèi)容，在審核時尤其要關注它對公眾的影響和破壞程度。此外，應建立全面的投訴處理機制，鼓勵用戶參與，有效反饋虛假信息和不良內(nèi)容。這將有助于確保社交媒體平臺的內(nèi)容質(zhì)量，并為其信息秩序治理提供有效支持。各社交媒體平臺之間還應打通壁壘，建立跨平臺協(xié)作機制。[8]

（三）推進信息監(jiān)管問責

社交媒體平臺上信息的混亂、不良、虛假等問題的增加，會對社會公眾、經(jīng)濟發(fā)展等方面帶來負面影響。因此，需要完善社交媒體平臺的監(jiān)管和問責機制，以確保社交媒體平臺上發(fā)布信息的合法性和正確性。針對社交媒體平臺的法律法規(guī)和政策制定應當更加完善和有前瞻性，明確社交媒體平臺的責任和義務。對于明顯偏離信息傳播準則和道德規(guī)范的平臺和用戶進行有效的制裁和處罰。同時，完善政府監(jiān)管和監(jiān)察機制，確保公眾利益得到充分保障。大眾作為社交媒體平臺的使用者，也要積極參與和監(jiān)督。應建立用戶舉報制度，積極響應用戶的舉報，加強信息監(jiān)管。平臺應增加用戶舉報不實信息的獎勵機制，提高用戶的舉報積極性。此外，社交媒體中發(fā)布位置及行動軌跡情況導致隱私泄露，也可以通過位置抑制和位置替換技術來保護移動型社交媒體用戶隱私。[9]綜上所述，在建立健全監(jiān)管和問責機制以及用戶參與和監(jiān)督的基礎上，可以最大程度地減少社交媒體平臺上虛假、誤導、有害信息的傳播。同時，政府部門和相關機構應積極推動社交媒體平臺運營規(guī)范化，重視社交媒體監(jiān)管的法律合規(guī)性，形成多方合作的管理格局，保障社交媒體的健康發(fā)展。

四、結論和展望

社交媒體平臺在信息傳播和社交互動方面發(fā)揮著重要作用，成為現(xiàn)代媒體生態(tài)中不可或缺的一部分，但其快速發(fā)展也帶來了信息失序風險，如惡意內(nèi)容傳播、用戶隱私泄露和數(shù)據(jù)濫用等問題。這些問題對社交媒體平臺的生態(tài)和用戶利益的影響不可忽視。治理社交媒體平臺需要社會各方共同參與，從技術、政策和道德規(guī)范等多角度入手，實現(xiàn)對平臺的有效監(jiān)管和保護用戶權益。政府加強監(jiān)管和法律法規(guī)建設，企業(yè)加強自律和技術手段應對風險，社會積極參與監(jiān)督和管理，共同打造健康、安全、有序的社交媒體生態(tài)。

社交媒體平臺發(fā)展快速，一些問題和風險也在不斷涌現(xiàn)和演化。因此，本文所提出的問題和解決方案可能會隨著社交媒體平臺的發(fā)展而產(chǎn)生變化。此外，由于本研究所關注的是整個社交媒體平臺的信息秩序，因此研究過程中存在數(shù)據(jù)來源和覆蓋范圍的限制，對一些細節(jié)問題可能存在局限性。未來的研究可以從以下幾個方面展開：首先，需要深入挖掘社交媒體平臺中各種問題背后的社會、文化和技術因素，以期提出更加深入和有效的治理方案。其次，需要探討社交媒體平臺治理的多維度性和多層次性，探索各種治理策略的協(xié)同效應和優(yōu)化路徑。此外，需要加強社交媒體平臺與用戶、政府和其他利益相關者的溝通和合作，以建立更加開放、透明和可持續(xù)的社交媒體平臺生態(tài)。最后，需要探索新技術和新方法在社交媒體平臺治理中的應用，以提高治理效率和效果。只有通過不斷地深入研究和有效治理，才能建立更加健康、可持續(xù)和良好的社交媒體平臺生態(tài)。

注釋：

[1]WardleC,&Derakhshan H.Information disorder:Towardan interdisciplinary frame work for research and policymaking[R].Council of Europe Report，2017.

[2]VanDijckJ，PoellT，De Waal M.The plat form society：Public values in a connective world[M].Oxford University Press，2018.

[3]陳力鈞,李天麗.互聯(lián)網(wǎng)時代網(wǎng)絡意識形態(tài)話語權建構研究——基于內(nèi)容、渠道與流量三重向度的思考[J].江西理工大學學報，2022（02）：3-4.

[4]韓宇航.社交媒體平臺算法推薦的規(guī)制方向探究[J].今傳媒，2022，30（10）：28-31.

[5]吳衛(wèi)華.算法推薦在公共傳播中的理性問題[J].當代傳播，2017（03）：79-81.

[6]黃靜茹.社交媒體平臺中的隱私關注、披露和保護[D].南京師范大學，2020.

[7]陳力鈞，陳志勇.意識形態(tài)的算法風險及治理路徑研究[J].中共天津市委黨校學報，2022（03）：67-75.

[8]孟倫.互聯(lián)網(wǎng)時代社交媒體平臺的文化癥候與治理對策[J].出版廣角，2021（22）.

[9]劉向宇，劉竹豐，夏秀峰等.一種保持軌跡數(shù)據(jù)高可用性的隱式位置訪問隱私保護技術[J].沈陽航空航天大學學報，2019（02）：66-75.