摘 要：人工智能作為新一輪科技革命和產(chǎn)業(yè)變革的核心驅(qū)動(dòng)力，正進(jìn)入飛速發(fā)展期，在給人類帶來(lái)積極影響的同時(shí)，也帶來(lái)了對(duì)倫理治理的反思。標(biāo)準(zhǔn)作為行業(yè)發(fā)展的重要牽引，是人工智能治理的關(guān)鍵要素。本文首次對(duì)我國(guó)人工智能倫理治理標(biāo)準(zhǔn)體系進(jìn)行了梳理和分析，包括標(biāo)準(zhǔn)化組織、標(biāo)準(zhǔn)內(nèi)容和類型分布、標(biāo)準(zhǔn)起草單位等，明確了我國(guó)人工智能倫理治理的標(biāo)準(zhǔn)化現(xiàn)狀以及存在問(wèn)題，對(duì)提升人工智能倫理治理標(biāo)準(zhǔn)化水平、促進(jìn)人工智能健康發(fā)展具有參考意義。

關(guān)鍵詞：人工智能，倫理治理，標(biāo)準(zhǔn)化

DOI編碼：10.3969/j.issn.1002-5944.2024.23.006

0 引 言

作為引領(lǐng)新一輪科技革命和產(chǎn)業(yè)變革的核心驅(qū)動(dòng)力，我國(guó)人工智能（AI）技術(shù)進(jìn)入飛速發(fā)展期，AI技術(shù)在各個(gè)領(lǐng)域的滲透率不斷提升，隨之而來(lái)的算法歧視、隱私泄露、偏見(jiàn)和歧視等倫理問(wèn)題也日益凸顯。人工智能技術(shù)給人類帶來(lái)積極影響的同時(shí)，也帶來(lái)了對(duì)倫理治理的反思。

標(biāo)準(zhǔn)是行業(yè)發(fā)展的重要牽引，人工智能產(chǎn)業(yè)的高質(zhì)量發(fā)展離不開(kāi)標(biāo)準(zhǔn)化支撐，標(biāo)準(zhǔn)也將成為人工智能治理的關(guān)鍵要素[1]。本文將通過(guò)統(tǒng)計(jì)分析國(guó)內(nèi)人工智能倫理治理相關(guān)標(biāo)準(zhǔn)，以明晰我國(guó)人工智能倫理治理的標(biāo)準(zhǔn)化現(xiàn)狀及存在問(wèn)題，為提升人工智能倫理治理標(biāo)準(zhǔn)化水平，促進(jìn)人工智能健康發(fā)展提供參考。

1 我國(guó)人工智能倫理治理發(fā)展現(xiàn)狀

近年來(lái)，我國(guó)高度重視人工智能的健康發(fā)展和治理，出臺(tái)了一系列的戰(zhàn)略和政策。早在2017年，國(guó)務(wù)院印發(fā)的《新一代人工智能發(fā)展規(guī)劃》就提出要制定促進(jìn)人工智能發(fā)展的法律法規(guī)和倫理規(guī)范。2019年，《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》提出了人工智能治理的框架和行動(dòng)指南，這是我國(guó)在國(guó)家層面制定的首個(gè)發(fā)展人工智能治理原則[2]。2021年，《新一代人工智能倫理規(guī)范》提出了六項(xiàng)基本倫理規(guī)范：增進(jìn)人類福祉、促進(jìn)公平公正、保護(hù)隱私安全、確?？煽乜尚拧?qiáng)化責(zé)任擔(dān)當(dāng)、提升倫理素養(yǎng)。2022年，中共中央辦公廳、國(guó)務(wù)院辦公廳印發(fā)《關(guān)于加強(qiáng)科技倫理治理的意見(jiàn)》，將“倫理先行”作為科技倫理治理的要求之一[3]。2023年6月發(fā)布的《國(guó)務(wù)院2023年度立法工作計(jì)劃》中明確將《人工智能法》列入立法規(guī)劃。2023年8月世界上第一個(gè)有關(guān)生成式人工智能的成文法《生成式人工智能服務(wù)管理暫行辦法》生效實(shí)施。2023年10月，我國(guó)發(fā)布《全球人工智能治理倡議》，圍繞人工智能發(fā)展、安全、治理三方面系統(tǒng)闡述了人工智能治理中國(guó)方案。2024年，黨的二十屆三中全會(huì)也提出“要完善生成式人工智能發(fā)展和管理機(jī)制”“加強(qiáng)網(wǎng)絡(luò)安全體制建設(shè)，建立人工智能安全監(jiān)管技術(shù)”。

2 我國(guó)人工智能倫理治理標(biāo)準(zhǔn)化發(fā)展現(xiàn)狀

國(guó)家標(biāo)準(zhǔn)化管理委員會(huì)等五部門于2020年聯(lián)合印發(fā)了《國(guó)家新一代人工智能標(biāo)準(zhǔn)體系建設(shè)指南》，將“安全/倫理”劃分為我國(guó)人工智能標(biāo)準(zhǔn)體系的重要組成部分[1]。2024年7月，工業(yè)和信息化部等四部門印發(fā)《國(guó)家人工智能產(chǎn)業(yè)綜合標(biāo)準(zhǔn)化體系建設(shè)指南（2024版）》，“安全治理”作為需要成為被重點(diǎn)關(guān)注七個(gè)版塊之一。

2.1 我國(guó)人工智能倫理治理標(biāo)準(zhǔn)化組織

國(guó)內(nèi)負(fù)責(zé)人工智能倫理治理的標(biāo)準(zhǔn)化技術(shù)委員會(huì)主要有3個(gè)，協(xié)會(huì)有2個(gè)，分別致力于不同領(lǐng)域的研究。全國(guó)信息技術(shù)標(biāo)準(zhǔn)化委員會(huì)人工智能分技術(shù)委員會(huì)TC 28/SC 42于2020年2月成立，主要負(fù)責(zé)人工智能基礎(chǔ)、技術(shù)、風(fēng)險(xiǎn)管理、可信賴、治理、產(chǎn)品及應(yīng)用等人工智能領(lǐng)域國(guó)家標(biāo)準(zhǔn)制定與修訂工作。同年8月，TC 28/SC 42下設(shè)可信賴研究組，重點(diǎn)關(guān)注人工智能倫理符合性，開(kāi)展人工智能系統(tǒng)可信賴要素研究。全國(guó)網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技術(shù)委員會(huì)TC 260負(fù)責(zé)組織開(kāi)展國(guó)內(nèi)信息安全有關(guān)的標(biāo)準(zhǔn)化技術(shù)工作，重點(diǎn)關(guān)注人工智能自身、基礎(chǔ)共性的安全發(fā)展標(biāo)準(zhǔn)等，全國(guó)汽車標(biāo)準(zhǔn)化技術(shù)委員會(huì)智能網(wǎng)聯(lián)汽車分技術(shù)委員會(huì)TC 114/SC 34致力于自動(dòng)駕駛安全方面的標(biāo)準(zhǔn)研究。兩個(gè)協(xié)會(huì)分別是中國(guó)電子工業(yè)標(biāo)準(zhǔn)化技術(shù)協(xié)會(huì)和中國(guó)通信標(biāo)準(zhǔn)化協(xié)會(huì)，分別重點(diǎn)研究機(jī)器學(xué)習(xí)和可信賴標(biāo)準(zhǔn)，詳見(jiàn)表1。

2.2 人工智能倫理治理標(biāo)準(zhǔn)狀況分析

根據(jù)全國(guó)標(biāo)準(zhǔn)信息公共服務(wù)平臺(tái)的數(shù)據(jù)統(tǒng)計(jì)（截至2024年8月），我國(guó)現(xiàn)有人工智能倫理治理相關(guān)標(biāo)準(zhǔn)125項(xiàng)，其中國(guó)家標(biāo)準(zhǔn)70項(xiàng)，行業(yè)標(biāo)準(zhǔn)11項(xiàng)，團(tuán)體標(biāo)準(zhǔn)44項(xiàng)（因我國(guó)人工智能倫理治理方面標(biāo)準(zhǔn)團(tuán)體標(biāo)準(zhǔn)居多，故列入統(tǒng)計(jì)），具體分布如圖1所示。

國(guó)家標(biāo)準(zhǔn)中，32項(xiàng)由TC 260全國(guó)網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技術(shù)委員會(huì)歸口，標(biāo)準(zhǔn)集中在治理技術(shù)的數(shù)據(jù)清洗和測(cè)試評(píng)估方面。26項(xiàng)由TC 28全國(guó)信息技術(shù)標(biāo)準(zhǔn)化技術(shù)委員會(huì)歸口，其中24項(xiàng)由TC 28/SC 42全國(guó)信息技術(shù)標(biāo)準(zhǔn)化技術(shù)委員會(huì)人工智能分技術(shù)委員會(huì)執(zhí)行，標(biāo)準(zhǔn)集中在人工智能倫理治理的基礎(chǔ)部分、風(fēng)險(xiǎn)管理、可信賴、治理以及行業(yè)應(yīng)用方面。7項(xiàng)由TC 114全國(guó)汽車標(biāo)準(zhǔn)化技術(shù)委員會(huì)歸口，2項(xiàng)由TC230全國(guó)地理信息標(biāo)準(zhǔn)化技術(shù)委員會(huì)歸口，1項(xiàng)由TC576全國(guó)道路交通管理標(biāo)準(zhǔn)化技術(shù)委員會(huì)歸口，標(biāo)準(zhǔn)均集中在自動(dòng)駕駛方面。剩余2項(xiàng)分別由工業(yè)和信息化部和TC 83全國(guó)電子業(yè)務(wù)標(biāo)準(zhǔn)化技術(shù)委員會(huì)歸口，研究智能電商方面的標(biāo)準(zhǔn)。

行業(yè)標(biāo)準(zhǔn)中，8項(xiàng)由中國(guó)通信標(biāo)準(zhǔn)化協(xié)會(huì)（CCSA）歸口，標(biāo)準(zhǔn)集中在隱私保護(hù)、數(shù)據(jù)治理方面，3項(xiàng)由中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院歸口，標(biāo)準(zhǔn)集中在行業(yè)應(yīng)用方面。

團(tuán)體標(biāo)準(zhǔn)中，18項(xiàng)由中國(guó)電子工業(yè)標(biāo)準(zhǔn)化技術(shù)協(xié)會(huì)（CESA）歸口，標(biāo)準(zhǔn)涉及基礎(chǔ)公共性、治理技術(shù)、管理和行業(yè)應(yīng)用方面。4項(xiàng)由中國(guó)電子信息行業(yè)聯(lián)合會(huì)（CFEII）歸口，標(biāo)準(zhǔn)主要集中在人工智能系統(tǒng)魯棒性研究方面。4項(xiàng)由中關(guān)村視聽(tīng)產(chǎn)業(yè)技術(shù)創(chuàng)新聯(lián)盟（AITISA）歸口，標(biāo)準(zhǔn)集中在安全隱私保護(hù)方面。

2.3 標(biāo)準(zhǔn)內(nèi)容分布

按照人工智能倫理治理標(biāo)準(zhǔn)化指南（2023版）中的《人工智能倫理治理標(biāo)準(zhǔn)體系框架》，人工智能倫理治理標(biāo)準(zhǔn)可以細(xì)化成4個(gè)一級(jí)分類、16個(gè)二級(jí)分類[1]。按照標(biāo)準(zhǔn)體系框架劃分，在人工智能倫理治理現(xiàn)行標(biāo)準(zhǔn)中，基礎(chǔ)共性標(biāo)準(zhǔn)28項(xiàng)、治理技術(shù)標(biāo)準(zhǔn)61項(xiàng)、管理標(biāo)準(zhǔn)9項(xiàng)、行業(yè)應(yīng)用標(biāo)準(zhǔn)27項(xiàng)，詳見(jiàn)表2。

治理技術(shù)標(biāo)準(zhǔn)和行業(yè)應(yīng)用標(biāo)準(zhǔn)是占比相對(duì)較大的兩個(gè)子體系。治理技術(shù)標(biāo)準(zhǔn)占比最高，達(dá)48.8%，將近一半。其中數(shù)據(jù)清洗標(biāo)準(zhǔn)22項(xiàng)，倫理符合設(shè)計(jì)標(biāo)準(zhǔn)39項(xiàng)，人機(jī)價(jià)值對(duì)齊方面暫未有標(biāo)準(zhǔn)發(fā)布。數(shù)據(jù)清理標(biāo)準(zhǔn)是針對(duì)數(shù)據(jù)訓(xùn)練、數(shù)據(jù)測(cè)試等關(guān)鍵數(shù)據(jù)處理的環(huán)節(jié)，針對(duì)人工智能倫理方面的數(shù)據(jù)集質(zhì)量要求，以及緩解人工智能倫理問(wèn)題的數(shù)據(jù)處理方法。倫理符合設(shè)計(jì)標(biāo)準(zhǔn)則是根據(jù)國(guó)務(wù)院《關(guān)于加強(qiáng)科技倫理治理的意見(jiàn)》明確的五項(xiàng)科技倫理原則，梳理出基于標(biāo)準(zhǔn)化視角的人工智能倫理符合設(shè)計(jì)的五大重點(diǎn)倫理準(zhǔn)則，包含隱私性（隱私保護(hù)設(shè)計(jì)、個(gè)人數(shù)據(jù)權(quán)力等）、安全性（包括內(nèi)外部完全、風(fēng)險(xiǎn)控制等）、魯棒性（主要包括算法安全評(píng)估、算法違規(guī)處置及數(shù)據(jù)安全管理）、公平性（公平、公正、包容性、合理分配無(wú)歧視和偏見(jiàn)）、透明性（可解釋、可預(yù)測(cè)及可溯源等）。倫理符合設(shè)計(jì)標(biāo)準(zhǔn)中有24項(xiàng)標(biāo)準(zhǔn)集中在安全性上，包括網(wǎng)絡(luò)、數(shù)據(jù)以及信息安全，6項(xiàng)標(biāo)準(zhǔn)集中在魯棒性方面，表明目前在人工智能安全性以及魯棒性方面引起了足夠的重視。

倫理治理應(yīng)用標(biāo)準(zhǔn)占比24.8%，應(yīng)用集中在自動(dòng)駕駛和智能機(jī)器人方面。人工智能自動(dòng)駕駛的飛速發(fā)展，其涉及的倫理問(wèn)題也日益凸顯，包括生命優(yōu)先權(quán)的抉擇、發(fā)生事故時(shí)的責(zé)任歸屬問(wèn)題，以及自動(dòng)駕駛大模型需要大量的數(shù)據(jù)，數(shù)據(jù)的隱私以及保護(hù)。因此，近兩年涌現(xiàn)出一批關(guān)于自動(dòng)駕駛的安全測(cè)試、仿真測(cè)試、數(shù)據(jù)安全處理的標(biāo)準(zhǔn)，以此來(lái)規(guī)范自動(dòng)駕駛的倫理問(wèn)題。智能機(jī)器人亦如此，涉及隱私保護(hù)、決策權(quán)等，也是屬于倫理高風(fēng)險(xiǎn)高敏感的領(lǐng)域。

2.4 標(biāo)準(zhǔn)起草單位

人工智能倫理治理標(biāo)準(zhǔn)起草的單位一共有790家，其中企業(yè)578家，占比74.1%；科研院所66家，占比8.52%；高等院校63家，占比8.1%；標(biāo)準(zhǔn)化研究機(jī)構(gòu)5家，占比0.6%；其他機(jī)構(gòu)包括公共管理部門、行業(yè)協(xié)會(huì)、非研究性事業(yè)單位、技術(shù)聯(lián)盟及1專項(xiàng)委員會(huì)等共78家，占比10%。

企業(yè)參與人工智能倫理治理標(biāo)準(zhǔn)起草共1258次，平均每家參與2 . 2次，其中主導(dǎo)4 4次，主導(dǎo)率0.35；科研院所參與起草258次，平均每家參與3.9次，其中主導(dǎo)24次，主導(dǎo)率0.19；高等院校參與起草162次，平均每家參與2.6次，其中主導(dǎo)2次，主導(dǎo)率0.02；標(biāo)準(zhǔn)化研究機(jī)構(gòu)參與起草79次，平均每家參與15.8次，其中主導(dǎo)44次，主導(dǎo)率0.35；其他技術(shù)機(jī)構(gòu)參與起草161次，平均每家參與2.1次，有11次主導(dǎo)，主導(dǎo)率0.09（詳見(jiàn)圖2）。

整體來(lái)看，企業(yè)是參與人工智能倫理治理標(biāo)準(zhǔn)起草的主要力量，但是從參與頻次上來(lái)看，標(biāo)準(zhǔn)化機(jī)構(gòu)、科研院所以及高等院校的活躍度是遠(yuǎn)遠(yuǎn)高于企業(yè)的，尤其是標(biāo)準(zhǔn)化機(jī)構(gòu)起主要作用。

參與人工智能倫理治理標(biāo)準(zhǔn)起草10次以上的機(jī)構(gòu)有30家（詳見(jiàn)表3），其中參與和主導(dǎo)次數(shù)最多的是中國(guó)電子標(biāo)準(zhǔn)化技術(shù)研究院，它不僅是TC 28/SC 42的秘書處所在單位，也是中國(guó)電子工業(yè)標(biāo)準(zhǔn)化技術(shù)協(xié)會(huì)的副理事長(zhǎng)單位，自身的標(biāo)準(zhǔn)化活躍度非常高，對(duì)同行業(yè)的其他機(jī)構(gòu)也有非常好的帶動(dòng)作用。其參與研制的標(biāo)準(zhǔn)類別較全面，在測(cè)試評(píng)估、數(shù)據(jù)清洗、倫理符合設(shè)計(jì)、管理以及行業(yè)應(yīng)用方面均有涉及。華為技術(shù)有限公司、百度網(wǎng)訊科技有限公司、上海商湯科技開(kāi)發(fā)有限公司、中國(guó)信息通信研究院這幾家單位標(biāo)準(zhǔn)起草次數(shù)都超過(guò)20次。它們各有側(cè)重領(lǐng)域，華為技術(shù)有限公司和北京百度網(wǎng)訊科技有限公司側(cè)重于數(shù)據(jù)清洗、可信賴方面，上海商湯科技參與研究的主要是智能媒體、智能機(jī)器人以及設(shè)計(jì)開(kāi)發(fā)方面的標(biāo)準(zhǔn)。中國(guó)通信研究院參與的則主要是數(shù)據(jù)安全治理方面的標(biāo)準(zhǔn)。

3 結(jié) 論

本文首次對(duì)國(guó)內(nèi)人工智能倫理治理標(biāo)準(zhǔn)進(jìn)行了梳理和分析，顯示出我國(guó)人工智能倫理治理的一些特點(diǎn)。目前，我國(guó)人工智能倫理治理標(biāo)準(zhǔn)還比較少，不夠系統(tǒng)和完善，尚處于起步階段。標(biāo)準(zhǔn)類型以國(guó)家標(biāo)準(zhǔn)和團(tuán)體標(biāo)準(zhǔn)為主，行業(yè)標(biāo)準(zhǔn)只集中在某個(gè)方面。大多數(shù)的標(biāo)準(zhǔn)為規(guī)范或者指南，以指導(dǎo)性為主，且標(biāo)準(zhǔn)集中在數(shù)據(jù)治理和應(yīng)用方面，管理方面、設(shè)計(jì)方法類和測(cè)試類的非常少。標(biāo)準(zhǔn)化機(jī)構(gòu)和企業(yè)是人工智能倫理治理標(biāo)準(zhǔn)研究的主力軍，標(biāo)準(zhǔn)化機(jī)構(gòu)在參與頻次和主導(dǎo)率方面遠(yuǎn)遠(yuǎn)高于企業(yè)，企業(yè)參與更多的是應(yīng)用方面的標(biāo)準(zhǔn)，針對(duì)某個(gè)領(lǐng)域，我國(guó)人工智能倫理治理的標(biāo)準(zhǔn)發(fā)展尚未跟上產(chǎn)業(yè)和技術(shù)的發(fā)展速度。

標(biāo)準(zhǔn)作為“軟法”其實(shí)是一種非常重要的治理工具，應(yīng)當(dāng)進(jìn)一步完善人工智能倫理治理的標(biāo)準(zhǔn)化體系，在核心技術(shù)、測(cè)試方法評(píng)估以及管理類完善更多的標(biāo)準(zhǔn)，將標(biāo)準(zhǔn)“軟法”與治理“硬法”有效協(xié)同，促進(jìn)人工智能產(chǎn)業(yè)的高質(zhì)量健康發(fā)展。

參考文獻(xiàn)

[1]人工智能倫理治理標(biāo)準(zhǔn)化指南（2023版）[Z].2023.

[2]楊婕.推動(dòng)完善我國(guó)新一代人工智能倫理治理體系[J].信息安全與通信保密，2020（1）：93-101.

[3]周燁.加快構(gòu)建特色科技倫理體系不斷推動(dòng)科技向善造福人類——中辦、國(guó)辦印發(fā)《關(guān)于加強(qiáng)科技倫理治理的意見(jiàn)》[J].中國(guó)科技產(chǎn)業(yè)期刊，2022（4）：20-21.

作者簡(jiǎn)介

季煒煒，通信作者，碩士，高級(jí)工程師，研究方向?yàn)橘|(zhì)量管理與標(biāo)準(zhǔn)化。

陳翔，碩士，工程師，研究方向?yàn)橘|(zhì)量管理與標(biāo)準(zhǔn)化。

徐欽，碩士，高級(jí)工程師，研究方向?yàn)橘|(zhì)量管理與標(biāo)準(zhǔn)化。

（責(zé)任編輯：張佩玉）