◎《網(wǎng)信軍民融合》編輯部 整理
習(xí)近平總書記在談關(guān)于媒體融合發(fā)展時(shí)曾提出,我們要增強(qiáng)緊迫感和使命感,推動(dòng)關(guān)鍵核心技術(shù)自主創(chuàng)新不斷實(shí)現(xiàn)突破,探索將人工智能運(yùn)用在新聞采集、生產(chǎn)、分發(fā)、接收、反饋中,用主流價(jià)值導(dǎo)向駕馭“算法”,全面提高輿論引導(dǎo)能力。隨著大數(shù)據(jù)和人工智能技術(shù)的快速發(fā)展,算法推薦技術(shù)被廣泛應(yīng)用于信息分發(fā)和媒體傳播中,它可以為用戶提個(gè)性化、精準(zhǔn)化和智能化信息服務(wù),但在它為我們帶來便利的同時(shí),其不合理應(yīng)用也帶來了“大數(shù)據(jù)殺熟”“信息繭房”“算法歧視”等問題,給維護(hù)意識(shí)形態(tài)安全、社會(huì)公平公正和網(wǎng)民合法權(quán)益等帶來諸多挑戰(zhàn)。
為規(guī)范互聯(lián)網(wǎng)信息服務(wù)算法應(yīng)用生態(tài),2021 年12 月,國家互聯(lián)網(wǎng)信息辦公室聯(lián)合工業(yè)和信息化部、公安部、市場(chǎng)監(jiān)管總局發(fā)布《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》(下文簡稱《規(guī)定》),并將于2022 年3 月1 日起施行。這是我國第一部聚焦算法推薦服務(wù)來亂象問題象的部門規(guī)章,對(duì)我國構(gòu)建算法安全體系,有效防范互聯(lián)網(wǎng)信息服務(wù)算法推薦活動(dòng),具有重要意義。
作為一部由國家網(wǎng)信辦、工業(yè)和信息化部、公安部、市場(chǎng)監(jiān)管總局聯(lián)合制定發(fā)布的部門規(guī)章,《規(guī)定》作為貫徹落實(shí)《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》《個(gè)人信息保護(hù)法》的重要舉措,既體現(xiàn)出了數(shù)據(jù)信息活動(dòng)的特征,同時(shí)也是具有可操作性的行動(dòng)指南。
一是,在違法和不良信息監(jiān)管方面,《網(wǎng)絡(luò)安全法》第四十七條規(guī)定了網(wǎng)絡(luò)運(yùn)營者應(yīng)當(dāng)加強(qiáng)對(duì)違法信息的管理,《規(guī)定》第九條第二款承接細(xì)化,規(guī)定“發(fā)現(xiàn)違法信息的,應(yīng)當(dāng)立即停止傳輸,采取消除等處置措施,防止信息擴(kuò)散,保存有關(guān)記錄,并向網(wǎng)信部門和有關(guān)部門報(bào)告”,并進(jìn)一步要求“發(fā)現(xiàn)不良信息的,應(yīng)當(dāng)按照網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理有關(guān)規(guī)定予以處置”。
二是,在數(shù)據(jù)安全保護(hù)義務(wù)方面,《規(guī)定》的第七條明確落實(shí)了《數(shù)據(jù)安全法》的第二十七條規(guī)定,明確了算法推薦服務(wù)提供者的算法安全主體責(zé)任,對(duì)建立健全數(shù)據(jù)安全和個(gè)人信息保護(hù)等的管理制度和技術(shù)措施、制定相關(guān)規(guī)則、配套相應(yīng)人員和技術(shù)支撐等作出了要求。
三是,在自動(dòng)化決策方面,《規(guī)定》第十七條第一款承接《個(gè)人信息保護(hù)法》第二十四條第二款和《電子商務(wù)法》第十八條第一款,規(guī)定用戶選擇關(guān)閉算法推薦服務(wù)的,算法推薦服務(wù)提供者應(yīng)當(dāng)“立即停止”提供相關(guān)服務(wù);《規(guī)定》第十七條第二款承接落實(shí)了《個(gè)人信息保護(hù)法》中個(gè)人信息主體所享有的選擇、刪除等權(quán)利,第三款明確提出了算法推薦服務(wù)提供者應(yīng)用算法對(duì)用戶權(quán)益造成重大影響的,應(yīng)當(dāng)依法予以說明并承擔(dān)相應(yīng)責(zé)任。
四是,在特定領(lǐng)域的應(yīng)用方面,按照《互聯(lián)網(wǎng)新聞信息服務(wù)管理規(guī)定》第五條要求,《規(guī)定》第十三條明確要求“算法推薦服務(wù)提供者提供互聯(lián)網(wǎng)新聞信息服務(wù)的,應(yīng)當(dāng)依法取得互聯(lián)網(wǎng)新聞信息服務(wù)許可”。
五是,在未成年人網(wǎng)絡(luò)保護(hù)方面,《未成年人保護(hù)法》第七十四條第一款規(guī)定網(wǎng)絡(luò)產(chǎn)品和服務(wù)提供者不得向未成年人提供誘導(dǎo)其沉迷的產(chǎn)品和服務(wù),《規(guī)定》第八條和第十八條作了進(jìn)一步細(xì)化,提出了“不得設(shè)置誘導(dǎo)用戶沉迷”的要求,并設(shè)置了保護(hù)未成年人的專門條款。
聚焦算法所帶來的種種亂象,《規(guī)定》提供了指引和規(guī)范。一是,算法推薦服務(wù)提供者在開展新聞信息推送、熱點(diǎn)榜單、信息發(fā)布等活動(dòng)時(shí),存在傳播違法和不良信息的亂象:一是利用生成合成類算法自動(dòng)合成新聞、帖子等,未作顯著標(biāo)識(shí)造成虛假信息夸大傳播;二是采用定向推送類算法在首頁首屏、彈窗等,扎堆推送惡性案件、災(zāi)難事故等負(fù)面信息誘發(fā)社會(huì)恐慌;三是利用排序精選類算法生成熱搜、榜單等,片面追求流量,大肆炒作娛樂八卦、低俗惡俗等有悖社會(huì)主義核心價(jià)值觀內(nèi)容?;谝陨蟻y象,《規(guī)定》明確了算法推薦服務(wù)向上向善的原則,要求算法推薦服務(wù)提供者應(yīng)當(dāng)堅(jiān)持主流價(jià)值導(dǎo)向,積極傳播正能量,不得利用算法推薦服務(wù)從事違法活動(dòng)或者傳播違法信息,應(yīng)當(dāng)采取措施防范和抵制傳播不良信息等。
二是,算法推薦服務(wù)提供者在開展調(diào)度決策、個(gè)性化推薦等活動(dòng)時(shí),存在侵害用戶權(quán)益的亂象:一是大數(shù)據(jù)殺熟問題,即根據(jù)消費(fèi)者的偏好、交易習(xí)慣等特征,在交易價(jià)格等交易條件上實(shí)行不合理的差別待遇;二是誘導(dǎo)沉迷網(wǎng)絡(luò)問題,即設(shè)置誘導(dǎo)用戶沉迷、過度消費(fèi)的算法模型,尤其是利用算法推薦誘導(dǎo)未成年人沉迷網(wǎng)絡(luò);三是勞動(dòng)權(quán)益保障問題,采用調(diào)度決策類算法進(jìn)行工作調(diào)度時(shí),未保障平臺(tái)內(nèi)勞動(dòng)就業(yè)者(如網(wǎng)約配送員、網(wǎng)約車駕駛員等)在勞務(wù)報(bào)酬、休息休假等方面的勞動(dòng)權(quán)益;四是偏見歧視問題,將違法和不良信息關(guān)鍵詞記入用戶興趣點(diǎn),或者設(shè)置歧視性、偏見性用戶標(biāo)簽來推送信息內(nèi)容;五是未成年人和老年人權(quán)益保障問題,向未成年人推送可能影響身心健康的信息,未充分考慮老年人適老化需求等?;谝陨蟻y象,《規(guī)定》明確算法推薦服務(wù)公正公平的原則,建立健全用戶注冊(cè)、信息發(fā)布審核、數(shù)據(jù)安全和個(gè)人信息保護(hù)、安全事件應(yīng)急處置等管理制度和技術(shù)措施,定期審核、評(píng)估、驗(yàn)證算法機(jī)制機(jī)理、模型、數(shù)據(jù)和應(yīng)用結(jié)果等。
三是,算法推薦服務(wù)提供者在開展個(gè)性化推薦、熱點(diǎn)榜單、信息發(fā)布等活動(dòng)時(shí),存在操縱社會(huì)輿論亂象:一是采用個(gè)性化推薦算法按照用戶偏好頻繁推薦感興趣的內(nèi)容,久而久之形成用戶意見極化的“信息繭房”;二是利用算法注冊(cè)虛假賬號(hào)、雇傭網(wǎng)絡(luò)水軍,實(shí)施虛假點(diǎn)贊、轉(zhuǎn)發(fā)等流量造假,或者鼓動(dòng)“飯圈”粉絲互撕謾罵、刷量控評(píng)等飯圈亂象;三是利用算法屏蔽信息、過度推薦,操縱干預(yù)熱搜、榜單或檢索結(jié)果排序;四是實(shí)施自我優(yōu)待,影響網(wǎng)絡(luò)輿論、規(guī)避監(jiān)管,如惡意屏蔽其他企業(yè)的網(wǎng)址鏈接等?;谝陨蟻y象,《規(guī)定》明確算法推薦服務(wù)公開透明的原則,加強(qiáng)算法推薦服務(wù)版面頁面生態(tài)管理,建立完善人工干預(yù)和用戶自主選擇機(jī)制,在重點(diǎn)環(huán)節(jié)積極呈現(xiàn)符合主流價(jià)值導(dǎo)向的信息;規(guī)范開展互聯(lián)網(wǎng)新聞信息服務(wù),不得生成合成虛假新聞信息或者傳播非國家規(guī)定范圍內(nèi)的單位發(fā)布的新聞信息;不得利用算法實(shí)施影響網(wǎng)絡(luò)輿論、規(guī)避監(jiān)督管理以及壟斷和不正當(dāng)競爭行為等。
《規(guī)定》建立了涵蓋算法分級(jí)分類、算法備案管理、算法安全評(píng)估、算法風(fēng)險(xiǎn)監(jiān)測(cè)等舉措的健全科學(xué)的監(jiān)管體系,形成了算法治理長效機(jī)制。
一是力求標(biāo)本兼職的算法安全評(píng)估?!兑?guī)定》要求算法推薦服務(wù)提供者履行安全評(píng)估和配合監(jiān)督檢查義務(wù)。算法推薦服務(wù)提供者應(yīng)依法留存網(wǎng)絡(luò)日志,配合網(wǎng)信部門和電信、公安、市場(chǎng)監(jiān)管等有關(guān)部門開展安全評(píng)估和監(jiān)督檢查工作,并提供必要的技術(shù)、數(shù)據(jù)等支持和協(xié)助。
二是有章可循的備案制度。《規(guī)定》明確了具有答:《規(guī)定》明確,具有輿論屬性或者社會(huì)動(dòng)員能力的算法推薦服務(wù)提供者應(yīng)當(dāng)在提供服務(wù)之日起十個(gè)工作日內(nèi)通過互聯(lián)網(wǎng)信息服務(wù)算法備案系統(tǒng)填報(bào)服務(wù)提供者的名稱、服務(wù)形式、應(yīng)用領(lǐng)域、算法類型等備案信息,履行備案手續(xù)。同時(shí),明確了備案編號(hào)標(biāo)注、備案信息變更、備案注銷等相關(guān)事宜。