人工智能時(shí)代的大幕已經(jīng)徐徐拉開(kāi)，人類(lèi)社會(huì)的生產(chǎn)和生活方式將發(fā)生巨大變革，在洶涌澎湃的智能技術(shù)浪潮面前，我們都做好準(zhǔn)備了嗎？在近日召開(kāi)的2024（第九屆）世界物聯(lián)網(wǎng)大會(huì)上，《中國(guó)標(biāo)準(zhǔn)化》記者就此問(wèn)題采訪了世界工程組織聯(lián)合會(huì)前任主席、中國(guó)新一代人工智能戰(zhàn)略研究院執(zhí)行院長(zhǎng)龔克，請(qǐng)他介紹了人工智能標(biāo)準(zhǔn)化方面的熱點(diǎn)問(wèn)題。

人工智能標(biāo)準(zhǔn)化面臨的機(jī)遇和挑戰(zhàn)

當(dāng)前人工智能技術(shù)的飛速發(fā)展已超乎人們的想象，那么人工智能標(biāo)準(zhǔn)化目前的狀況怎樣呢？龔克向記者介紹，新一代人工智能從發(fā)展伊始，各國(guó)就將標(biāo)準(zhǔn)放在非常重要的位置。2017年，國(guó)務(wù)院公布了《新一代人工智能發(fā)展規(guī)劃》（以下簡(jiǎn)稱(chēng)規(guī)劃），規(guī)劃從2017—2030年期間跨越三個(gè)5年計(jì)劃，在“戰(zhàn)略目標(biāo)”的設(shè)計(jì)上，從時(shí)間上分三步走，即到2020年為第一步，到2025年為第二步，到2030年為第三步；在內(nèi)容上分為三個(gè)方面建設(shè)：第一方面是人工智能理論和技術(shù)，提出了第一步在新一代人工智能理論和技術(shù)取得重要進(jìn)展，第二步到新一代人工智能理論和技術(shù)體系初步建立，第三步要形成較為成熟的新一代人工智能理論與技術(shù)體系；第二方面是人工智能產(chǎn)業(yè)，提出了第一步是人工智能產(chǎn)業(yè)競(jìng)爭(zhēng)力進(jìn)入國(guó)際第一方陣，第二步讓人工智能產(chǎn)業(yè)進(jìn)入全球價(jià)值鏈高端，第三步使人工智能產(chǎn)業(yè)競(jìng)爭(zhēng)力達(dá)到國(guó)際領(lǐng)先水平；第三方面是關(guān)于人才和人工智能法規(guī)政策標(biāo)準(zhǔn)等發(fā)展環(huán)境，就法規(guī)政策和標(biāo)準(zhǔn)而言，提出了第一步初步建立部分領(lǐng)域的人工智能倫理規(guī)范和政策法規(guī)，第二步初步建立人工智能法律法規(guī)、倫理規(guī)范和政策體系，第三步建成更加完善的人工智能法律法規(guī)、倫理規(guī)范和政策體系?？梢?jiàn)，我國(guó)從人工智能發(fā)展的頂層設(shè)計(jì)上將標(biāo)準(zhǔn)擺在重要位置，把標(biāo)準(zhǔn)化水平設(shè)為重要發(fā)展目標(biāo)。

從人工智能相關(guān)技術(shù)標(biāo)準(zhǔn)的發(fā)展情況看，我國(guó)在2020年由國(guó)家標(biāo)準(zhǔn)化管理委員會(huì)等五部委聯(lián)合印發(fā)《國(guó)家新一代人工智能標(biāo)準(zhǔn)體系建設(shè)指南》（以下簡(jiǎn)稱(chēng)《指南》）。《指南》提出以市場(chǎng)驅(qū)動(dòng)和政府引導(dǎo)相結(jié)合，建立國(guó)家新一代人工智能標(biāo)準(zhǔn)體系的指導(dǎo)思想和從標(biāo)準(zhǔn)化頂層設(shè)計(jì)到初步建立人工智能標(biāo)準(zhǔn)體系的建設(shè)目標(biāo)。《指南》給出的標(biāo)準(zhǔn)體系框架，不但明確了支撐技術(shù)與產(chǎn)品、基礎(chǔ)軟硬件平臺(tái)、關(guān)鍵通用技術(shù)、關(guān)鍵領(lǐng)域技術(shù)、產(chǎn)品與服務(wù)、行業(yè)應(yīng)用六個(gè)層次，而且明確規(guī)定了“共性基礎(chǔ)”（包括術(shù)語(yǔ)標(biāo)準(zhǔn)、參考架構(gòu)標(biāo)準(zhǔn)、測(cè)試評(píng)估標(biāo)準(zhǔn)等）和“安全/倫理”（包括安全與隱私保護(hù)、倫理等）兩類(lèi)貫穿各個(gè)層次的通用要求，以確保人工智能技術(shù)的規(guī)范化發(fā)展。

龔克表示，過(guò)去我們一般只是在醫(yī)學(xué)技術(shù)、生物技術(shù)涉及倫理屬性，但人工智能技術(shù)因?yàn)樗屑夹g(shù)與社會(huì)屬性緊密融合的性質(zhì)，所以這個(gè)框架特別將其倫理要求納入其中。

國(guó)際上也很重視AI標(biāo)準(zhǔn)化工作?，F(xiàn)在國(guó)際標(biāo)準(zhǔn)組織在這方面非常積極，國(guó)際標(biāo)準(zhǔn)化組織（ISO）、國(guó)際電工委員會(huì)（IEC）、國(guó)際電信聯(lián)盟（ITU）等都非常積極。特別是IEEE，早在多年前就開(kāi)始做這方面的工作。ISO已經(jīng)先后頒布了幾批涉及人工智能的標(biāo)準(zhǔn)，它有一個(gè)非常重要的特點(diǎn)，就像它做的ISO 9000系列。它先對(duì)研制人工智能產(chǎn)品、提供智能服務(wù)的組織提出要求，包括設(shè)計(jì)決策程序、倫理審查機(jī)制等。歐洲方面的標(biāo)準(zhǔn)化有一個(gè)重要的特點(diǎn)，就是關(guān)注人工智能對(duì)社會(huì)發(fā)展的影響。比如說(shuō)歐盟目前在著手創(chuàng)建一個(gè)技術(shù)手段以評(píng)估人工智能系統(tǒng)對(duì)人權(quán)的影響。可以說(shuō)各國(guó)對(duì)于人工智能的標(biāo)準(zhǔn)化都很重視，中國(guó)在這方面也取得了重要的進(jìn)展，我們比較早地推出了人工智能標(biāo)準(zhǔn)化建設(shè)導(dǎo)則和框架，對(duì)于國(guó)際上整個(gè)標(biāo)準(zhǔn)化工作應(yīng)該都有一定影響力。

另一方面，中國(guó)也在積極參與ISO、ITU、IEC等國(guó)際標(biāo)準(zhǔn)組織的工作。中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院是國(guó)內(nèi)標(biāo)準(zhǔn)積極的推動(dòng)者，同時(shí)也是國(guó)際標(biāo)準(zhǔn)重要的參與者。

標(biāo)準(zhǔn)化體系考慮倫理與安全隱私

龔克介紹，日前，工業(yè)和信息化部等四部門(mén)聯(lián)合發(fā)布《國(guó)家人工智能產(chǎn)業(yè)綜合標(biāo)準(zhǔn)化體系建設(shè)指南（2024版）》，指南在標(biāo)準(zhǔn)體系的層次劃分上分為基礎(chǔ)支撐、關(guān)鍵技術(shù)、智能產(chǎn)品與服務(wù)、賦能新型工業(yè)化與行業(yè)應(yīng)用四個(gè)大層次，突出了賦能新型工業(yè)化的標(biāo)準(zhǔn)建設(shè)，在貫穿各層次的“共性基礎(chǔ)”中進(jìn)一步明確了“管理”和“可持續(xù)”兩項(xiàng)內(nèi)容，同時(shí)將“安全/倫理”拓展為“安全/治理”，構(gòu)建起一個(gè)涵蓋人工智能產(chǎn)業(yè)全生命周期的標(biāo)準(zhǔn)體系。

從倫理的角度來(lái)講，我國(guó)組建了國(guó)家科技倫理委員會(huì)，這是前所未有的。國(guó)家科技倫理委員會(huì)下設(shè)幾個(gè)分委員會(huì)，其中一個(gè)分委員會(huì)就是人工智能分委員會(huì)，該分委員會(huì)做的一項(xiàng)重要工作，就是研究人工智能倫理風(fēng)險(xiǎn)清單。中央明確提出人工智能的治理要倫理先行，就是要引導(dǎo)人工智能向善；同時(shí)根據(jù)人工智能對(duì)人、對(duì)社會(huì)可能造成的風(fēng)險(xiǎn)進(jìn)行分類(lèi)分級(jí)的管控。這些都是很清晰的思路和做法。

在法規(guī)方面，我國(guó)已經(jīng)推出了個(gè)人信息保護(hù)法和數(shù)據(jù)安全法，之前有網(wǎng)絡(luò)安全法，這些都形成了上位法規(guī)的體系。對(duì)人工智能技術(shù)的立法也在積極推進(jìn)之中。

從技術(shù)角度來(lái)講，人工智能的基本技術(shù)還在快速發(fā)展變動(dòng)之中，對(duì)標(biāo)準(zhǔn)化工作的挑戰(zhàn)是如何把握技術(shù)快速變動(dòng)性和標(biāo)準(zhǔn)相對(duì)穩(wěn)定性的關(guān)系，既保證安全可靠又為創(chuàng)新發(fā)展留出空間。此外，可能還要注意標(biāo)準(zhǔn)之間的互操作性，特別是與國(guó)際上的標(biāo)準(zhǔn)具有互操作性，這些都是現(xiàn)在標(biāo)準(zhǔn)化需要關(guān)注的問(wèn)題。

人工智能標(biāo)準(zhǔn)研究要促進(jìn)跨界融合和綠色化發(fā)展

中國(guó)標(biāo)準(zhǔn)化研究院（以下簡(jiǎn)稱(chēng)“中標(biāo)院”）是市場(chǎng)監(jiān)管總局下設(shè)的面向全國(guó)、全行業(yè)的國(guó)家標(biāo)準(zhǔn)化研究機(jī)構(gòu)。標(biāo)準(zhǔn)化工作一方面要為人工智能技術(shù)確定必要的標(biāo)準(zhǔn)，這些標(biāo)準(zhǔn)應(yīng)該是可拓展的，并與國(guó)際接軌的，要適應(yīng)技術(shù)發(fā)展并確保安全。這項(xiàng)工作并不是中標(biāo)院自身能做到的，在技術(shù)方面更多地要由中國(guó)人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟去做；另一方面，就是今年政府工作報(bào)告中提出人工智能+，這個(gè)“+”，按龔克的理解也包括人工智能+標(biāo)準(zhǔn)化。

那么如何做到將來(lái)這些標(biāo)準(zhǔn)是機(jī)器可讀、機(jī)器可執(zhí)行、機(jī)器可檢測(cè)、機(jī)器可報(bào)告呢？龔克認(rèn)為，這些要求對(duì)標(biāo)準(zhǔn)化自身而言，就是人工智能+標(biāo)準(zhǔn)化發(fā)展或者智能的標(biāo)準(zhǔn)化發(fā)展，抑或是標(biāo)準(zhǔn)化智能發(fā)展，在這些方面中標(biāo)院可以做更多的工作。中標(biāo)院作為市場(chǎng)監(jiān)管總局直屬研究機(jī)構(gòu)，本身具有跨行業(yè)的屬性。人工智能是一個(gè)通用技術(shù)，而現(xiàn)在很多標(biāo)準(zhǔn)化工作是按行業(yè)切分的，中標(biāo)院應(yīng)該能夠在跨行業(yè)的標(biāo)準(zhǔn)研究方面發(fā)揮獨(dú)特作用。希望它能形成一個(gè)平臺(tái)，匯聚不同行業(yè)的技術(shù)，在平臺(tái)實(shí)現(xiàn)標(biāo)準(zhǔn)的高效互聯(lián)互通，做到標(biāo)準(zhǔn)化可拓展、可互操作，特別在智能化時(shí)代，在新的數(shù)據(jù)和AI驅(qū)動(dòng)發(fā)展的背景下，做好標(biāo)準(zhǔn)化的工作。

現(xiàn)在從國(guó)際上來(lái)看，面向社會(huì)組織、社會(huì)服務(wù)、社會(huì)管理方面的標(biāo)準(zhǔn)化有了很大發(fā)展，使得標(biāo)準(zhǔn)化工作大大超出了產(chǎn)品和技術(shù)服務(wù)標(biāo)準(zhǔn)的范圍，而我國(guó)這方面相對(duì)滯后，所以需要加強(qiáng)。比如，很多公共服務(wù)項(xiàng)目，百姓并不知道，從而不能及時(shí)接受應(yīng)有的服務(wù)。如何做到廣而告之，應(yīng)該有標(biāo)準(zhǔn)，讓公共服務(wù)達(dá)標(biāo)，是社會(huì)治理上的重要的標(biāo)準(zhǔn)化工作。這方面中標(biāo)院應(yīng)有所作為。

龔克強(qiáng)調(diào)，還有非常重要的一點(diǎn)是標(biāo)準(zhǔn)化要支撐服務(wù)綠色化發(fā)展。綠色化發(fā)展的要求如何嵌入到各種的產(chǎn)品、服務(wù)、樓宇、道路的服務(wù)之中，這也非常重要。綠色化發(fā)展不僅是環(huán)保，還包括社會(huì)的平等、包容性、經(jīng)濟(jì)的公平與可持續(xù)增長(zhǎng)等問(wèn)題。這些要求也要反映到人工智能技術(shù)及其應(yīng)用的標(biāo)準(zhǔn)之中。

希望千方百計(jì)地推進(jìn)人工智能標(biāo)準(zhǔn)國(guó)際合作與相互融合

對(duì)于國(guó)際人工智能的標(biāo)準(zhǔn)化工作，龔克認(rèn)為，由于人工智能領(lǐng)域已經(jīng)成為一個(gè)關(guān)鍵核心競(jìng)爭(zhēng)領(lǐng)域，這幾年我們面臨的主要問(wèn)題是地緣政治沖突的影響。比如美國(guó)成立的某些組織就排斥中國(guó)企業(yè)。但是事情也有另外一面，比如去年英國(guó)召開(kāi)的人工智能安全峰會(huì)，英國(guó)當(dāng)時(shí)頂住了很多壓力，邀請(qǐng)中國(guó)政府代表參加，但是我們沒(méi)有參加會(huì)議的所有環(huán)節(jié)，即有些環(huán)節(jié)沒(méi)讓我們參加。請(qǐng)我們參加，是因?yàn)檎J(rèn)識(shí)到國(guó)際合作治理的重要性；不要我們?nèi)繀⒓?，則又是排斥性。這種兩面性也體現(xiàn)在國(guó)際標(biāo)準(zhǔn)研制領(lǐng)域。那么今后在這些方面還會(huì)有很多的較量，有很多的工作要做，要努力朝著合作共贏這個(gè)歷史正確的大方向走。

現(xiàn)在一般國(guó)家都認(rèn)為美國(guó)和中國(guó)是人工智能的大國(guó)。龔克認(rèn)為，中國(guó)作為人工智能大國(guó)，不希望看到今后世界上人工智能的標(biāo)準(zhǔn)是兩套，整個(gè)資源配置也是兩套，這不僅妨礙技術(shù)進(jìn)步，而且妨礙安全管控，造成資源浪費(fèi)。在人工智能領(lǐng)域要千方百計(jì)推進(jìn)全球合作，因?yàn)闃?biāo)準(zhǔn)本來(lái)就是為了互聯(lián)互通，這方面要發(fā)揮多邊國(guó)際組織的作用。

去年11月，習(xí)近平主席和拜登總統(tǒng)在舊金山的會(huì)晤達(dá)成了5點(diǎn)共識(shí)，其中4點(diǎn)包括恢復(fù)航班、人文交流、禁毒合作和部分的軍事對(duì)話，都是恢復(fù)性的。但是有一條是新建立的，就是建立政府間人工智能對(duì)話。這個(gè)人工智能對(duì)話首先是治理方面，必然涉及安全、標(biāo)準(zhǔn)等。第一次對(duì)話2024年5月份在日內(nèi)瓦已經(jīng)舉辦，專(zhuān)家層面的第二次對(duì)話也在進(jìn)展之中，我們希望在人工智能這樣一個(gè)重大的技術(shù)變革面前，中美兩國(guó)以及世界上其他國(guó)家要為全世界的共同利益來(lái)共同努力。

對(duì)未來(lái)風(fēng)險(xiǎn)適當(dāng)治理

龔克指出，人工智能標(biāo)準(zhǔn)化工作面臨最主要的問(wèn)題，是技術(shù)的快速發(fā)展變動(dòng)和它尚未成熟就得到了普遍應(yīng)用這樣的一個(gè)矛盾。

如果它沒(méi)有得到普遍應(yīng)用，只是在實(shí)驗(yàn)室里發(fā)展，就不需要做標(biāo)準(zhǔn)化工作。但是它現(xiàn)在一方面自身快速發(fā)展、不斷變革突破，另一方面又大量地應(yīng)用到實(shí)際工作和生活中，這就使得在標(biāo)準(zhǔn)相對(duì)穩(wěn)定性和技術(shù)的變動(dòng)性之間，出現(xiàn)了一個(gè)在其他的技術(shù)標(biāo)準(zhǔn)上很少見(jiàn)的問(wèn)題。問(wèn)題就是它在發(fā)展變動(dòng)過(guò)程中同時(shí)得到大規(guī)模的應(yīng)用。比如大模型在本身還不可解釋的情況下，就有數(shù)以十億計(jì)的人在用，所以這種情況下需要適當(dāng)?shù)闹卫恚卫淼氖侄沃痪褪菢?biāo)準(zhǔn)。而這個(gè)治理的適當(dāng)性主要是根據(jù)不同的風(fēng)險(xiǎn)來(lái)區(qū)別。

從國(guó)際層面，各國(guó)要對(duì)風(fēng)險(xiǎn)達(dá)成共識(shí)。我們研究過(guò)世界幾十個(gè)國(guó)家的AI政策文件，其實(shí)存在大量的共識(shí)，現(xiàn)在需要的是一個(gè)好的對(duì)話機(jī)制，把這個(gè)共識(shí)確定下來(lái)，然后進(jìn)一步判斷為了實(shí)現(xiàn)這樣一個(gè)共識(shí)的風(fēng)險(xiǎn)控制，哪些是需要用社會(huì)的規(guī)制，哪些是需要使用技術(shù)的標(biāo)準(zhǔn)，這是一個(gè)方面。

另外一個(gè)方面，非常急迫的是發(fā)展一些支撐人工智能安全發(fā)展的技術(shù)手段。首先要把這樣的技術(shù)手段建立起來(lái)并實(shí)現(xiàn)標(biāo)準(zhǔn)化。比如說(shuō)一個(gè)大模型，應(yīng)該是無(wú)偏見(jiàn)，對(duì)各種人種、對(duì)各種民族，各種不同年齡、性別、經(jīng)濟(jì)狀況，社會(huì)地位應(yīng)該是平等的。那么怎樣測(cè)量一個(gè)模型是無(wú)偏見(jiàn)的呢？有種做法是做兩個(gè)數(shù)據(jù)集，一個(gè)數(shù)據(jù)集是含有偏見(jiàn)的，再有一個(gè)數(shù)據(jù)集沒(méi)有偏見(jiàn)，然后用這兩個(gè)數(shù)據(jù)集分別去訓(xùn)練同一個(gè)模型，然后我們?cè)儆^察這個(gè)模型的表現(xiàn)。如果這個(gè)模型經(jīng)過(guò)有偏的數(shù)據(jù)集訓(xùn)練之后是有偏的，無(wú)偏的數(shù)據(jù)集訓(xùn)練出來(lái)的模型是無(wú)偏的，那么這個(gè)模型叫作數(shù)據(jù)敏感模型；如果有偏無(wú)偏的訓(xùn)練，它都有偏見(jiàn)，那就是算法偏見(jiàn)模型；如果兩個(gè)訓(xùn)練都沒(méi)有偏見(jiàn)，就是算法去偏見(jiàn)模型。但是，這個(gè)數(shù)據(jù)集是不是標(biāo)準(zhǔn)、是不是大家公認(rèn)這是無(wú)偏數(shù)據(jù)集呢？這就需要建立標(biāo)準(zhǔn)化的手段。在支撐安全可靠發(fā)展這方面，建立標(biāo)準(zhǔn)化的檢測(cè)、認(rèn)證方面的技術(shù)手段非常急迫。