隨著人工智能技術(shù)的蓬勃發(fā)展和深度嵌人社會(huì)運(yùn)行體系，信息內(nèi)容的生成方式和傳播樣態(tài)迎來了前所未有的變化，但同時(shí)也面臨內(nèi)容質(zhì)量、認(rèn)知安全、信息失序等復(fù)雜挑戰(zhàn)。本專題系的系列階段性成果，聚焦人工智能帶來的“生成與操控”問題，分別從內(nèi)容生成、認(rèn)知影響、信息疫情治理和網(wǎng)絡(luò)暴力治理四個(gè)方面，剖析人工智能時(shí)代信息內(nèi)容風(fēng)險(xiǎn)與治理難題，為人工智能時(shí)代的信息治理提供多角度的思考。

人工智能作為一種強(qiáng)大的內(nèi)容生產(chǎn)工具，使得生成文本、圖像、音視頻等多模態(tài)信息的門檻大幅降低，人們不再需要專業(yè)背景或高昂成本即可實(shí)現(xiàn)各種類型信息內(nèi)容的自動(dòng)生成?！秲?nèi)容缺乏原創(chuàng)性：AIGC 的學(xué)術(shù)知識(shí)生產(chǎn)》一文從知識(shí)生成的視角出發(fā)，提出人工智能盡管帶來信息內(nèi)容數(shù)量爆炸式增長，但其間無法回避的是這些內(nèi)容缺乏原創(chuàng)性和洞見力，在整體上拓寬人類認(rèn)知邊界的能力有限。

在人工智能技術(shù)的驅(qū)動(dòng)下，通過對人的心理與行為模式的深度學(xué)習(xí)并據(jù)此生成的信息內(nèi)容，正在使人工智能本身成為操控認(rèn)知、影響判斷與行為的新興手段。我們的認(rèn)知領(lǐng)域在遭受著精準(zhǔn)內(nèi)容推送和情緒引導(dǎo)的同時(shí)，從未像今天這樣開放而脆弱?！度斯ぶ悄軙r(shí)代認(rèn)知戰(zhàn)的安全風(fēng)險(xiǎn)》一文從認(rèn)知安全的視角出發(fā)，基于人工智能武器化的群體操控和個(gè)體認(rèn)知重構(gòu)兩個(gè)維度，剖析了人工智能武器化可能引發(fā)的認(rèn)知安全風(fēng)險(xiǎn)，這不僅是信息內(nèi)容安全的問題，更是人作為認(rèn)知主體的安全問題。

當(dāng)下正確信息與錯(cuò)誤信息的過載使得人們面對復(fù)雜情景時(shí)難以識(shí)別值得信任的信息和做出理性判斷，而在人工智能時(shí)代，虛假信息生成與傳播的門檻降低使得信息疫情愈加泛濫?！禔I時(shí)代信息疫情的挑戰(zhàn)升級與協(xié)同治理》一文在辨析信息疫情概念基礎(chǔ)上，認(rèn)為人工智能時(shí)代信息疫情的挑戰(zhàn)升級凸顯在虛假信息工業(yè)化生產(chǎn)和傳播，以及群體認(rèn)知免疫系統(tǒng)的結(jié)構(gòu)性崩潰問題上。

網(wǎng)絡(luò)暴力治理是信息內(nèi)容治理中的一個(gè)重要議題。人工智能既可能成為“辨暴濾惡”的利器，也可能在被濫用時(shí)“助紂為虐”，當(dāng)然我們更希望看到人工智能為信息治理帶來新的創(chuàng)新可能。《生成式人工智能賦能網(wǎng)絡(luò)暴力治理：邏輯、風(fēng)險(xiǎn)與應(yīng)對》一文從賦能邏輯上，提出人工智能在動(dòng)態(tài)化監(jiān)測網(wǎng)絡(luò)暴力信息、全景式防治網(wǎng)絡(luò)暴力風(fēng)險(xiǎn)、全流程嵌入網(wǎng)絡(luò)暴力治理等方面的巨大潛力，從而強(qiáng)力支撐建設(shè)清朗有序的網(wǎng)絡(luò)空間。

本專題旨在提供一個(gè)多角度、跨學(xué)科的思考平臺(tái)，推動(dòng)對人工智能生成信息內(nèi)容的一些認(rèn)識(shí)和碰撞。希望這個(gè)專題能夠展示人工智能時(shí)代信息內(nèi)容所面臨的一種變遷：內(nèi)容不再是單向“生成”的傳遞物，而是一種“操控”的設(shè)計(jì)結(jié)構(gòu)。同時(shí)也希望本專題能夠激發(fā)更廣泛的關(guān)注和討論，共同探索人工智能時(shí)代的信息內(nèi)容議題，為網(wǎng)絡(luò)空間治理注入更多理論支點(diǎn)。