中國(guó)信息通信研究院

以深度學(xué)習(xí)、跨界融合、人機(jī)協(xié)同、群智開放、自主操控為特征的新一代人工智能不斷取得突破，已成為新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動(dòng)力量。在極大提升人類生產(chǎn)生活品質(zhì)的同時(shí)，新一代人工智能具有的通用目的性、算法黑箱性以及數(shù)據(jù)依賴性等技術(shù)特性，引發(fā)了社會(huì)、企業(yè)、個(gè)人等不同維度的風(fēng)險(xiǎn)和挑戰(zhàn)，從而對(duì)治理提出了專業(yè)化、多元化、敏捷化、全球化的迫切需要。

人工智能的技術(shù)特性

人類正處于一個(gè)前所未有的時(shí)期，互聯(lián)網(wǎng)、移動(dòng)通信、物聯(lián)網(wǎng)、云計(jì)算、大數(shù)據(jù)、人工智能等信息技術(shù)正在推動(dòng)社會(huì)逐步進(jìn)入智能化時(shí)代。相較于其他領(lǐng)域的新技術(shù)，由于新一代人工智能具有的技術(shù)特性，使其更為復(fù)雜、更不可控、更難預(yù)測(cè)。

通用目的性，導(dǎo)致風(fēng)險(xiǎn)更為普遍。人工智能作為一項(xiàng)通用目的技術(shù)，可以應(yīng)用到自動(dòng)駕駛、智能制造、智慧城市、智慧醫(yī)療等諸多領(lǐng)域場(chǎng)景中，并且能夠與大數(shù)據(jù)、云計(jì)算等數(shù)字技術(shù)互補(bǔ)互促使用，有著極強(qiáng)的技術(shù)溢出效應(yīng)，對(duì)經(jīng)濟(jì)社會(huì)高質(zhì)量發(fā)展顯現(xiàn)出強(qiáng)勁的引領(lǐng)帶動(dòng)作用。但與此同時(shí)，人工智能技術(shù)風(fēng)險(xiǎn)發(fā)生的范圍會(huì)隨著應(yīng)用場(chǎng)景的日趨廣泛而逐步擴(kuò)大，問題發(fā)生的可能性也會(huì)隨著其應(yīng)用頻次的增長(zhǎng)而持續(xù)提高，若不及時(shí)有效治理，將會(huì)嚴(yán)重影響人類生產(chǎn)生活。

算法黑箱性，導(dǎo)致過程更難解釋。目前，以深度學(xué)習(xí)算法為核心的人工智能算法模型被普遍應(yīng)用，但由于其算法結(jié)構(gòu)中存在多個(gè)“隱層”，導(dǎo)致輸入數(shù)據(jù)和輸出結(jié)果之間的因果邏輯關(guān)系難以清楚解釋，用戶只能被動(dòng)接受由算法帶來的結(jié)果而無法洞悉其運(yùn)行過程，從而形成一種技術(shù)“黑箱”。此外，人工智能算法模型還具有自適應(yīng)、自學(xué)習(xí)等特性，導(dǎo)致其極易偏離人類預(yù)設(shè)的目標(biāo)，其復(fù)雜程度愈發(fā)超出人類理解范疇。

數(shù)據(jù)依賴性，導(dǎo)致結(jié)果更不可控。數(shù)據(jù)是人工智能模型訓(xùn)練及優(yōu)化的“燃料”，是人工智能算法做出正確、公平、合理決策的基礎(chǔ)保障。輸入數(shù)據(jù)的數(shù)量規(guī)模、準(zhǔn)確性、通用性、包容性、全面性等質(zhì)量因素將直接決定訓(xùn)練得到的模型的質(zhì)量。同時(shí)，數(shù)據(jù)本質(zhì)上是社會(huì)價(jià)值觀的縮影與映射，因此也會(huì)包含一些落后的價(jià)值觀與社會(huì)偏見。若未能對(duì)數(shù)據(jù)質(zhì)量進(jìn)行有效把控，人工智能算法模型便很可能習(xí)得數(shù)據(jù)中的偏見謬誤，并將其反映到訓(xùn)練結(jié)果中，致使人工智能系統(tǒng)的功能行為及其影響變得更不可控。

人工智能引發(fā)不同維度的風(fēng)險(xiǎn)

作為引領(lǐng)未來的戰(zhàn)略性技術(shù)，人工智能在打造經(jīng)濟(jì)發(fā)展新引擎、推動(dòng)人類文明邁上新臺(tái)階的同時(shí)，也給社會(huì)、企業(yè)和個(gè)人帶來了不同維度的風(fēng)險(xiǎn)挑戰(zhàn)。

社會(huì)維度。一是沖擊就業(yè)格局，加劇財(cái)富分化。智能的算法、機(jī)器對(duì)傳統(tǒng)人工的替代在解放人力勞動(dòng)者的同時(shí)，直接帶來了對(duì)就業(yè)的沖擊。從事重復(fù)性、機(jī)械性等工作的勞動(dòng)者更容易被人工智能替代工作。據(jù)麥肯錫報(bào)告推測(cè)，到2030年機(jī)器人將取代8億人的工作。與歷史上的技術(shù)革命類似，人工智能的發(fā)展同樣會(huì)導(dǎo)致利益的分化與重構(gòu)，新創(chuàng)造的社會(huì)財(cái)富將會(huì)不成比例地向資本一方傾斜，低收入與受教育程度較低的人群將在新一輪的社會(huì)資源分配中處于嚴(yán)重的不利地位。二是影響政治進(jìn)程，抹黑政治人物。人工智能在社交服務(wù)中的應(yīng)用能夠影響政治進(jìn)程，利用機(jī)器人水軍可以進(jìn)行輿論干預(yù)。例如，劍橋分析公司利用人工智能，輔助實(shí)施競(jìng)選策略，影響美國(guó)大選結(jié)果。此外，可以利用深度偽造等智能信息服務(wù)技術(shù)制作關(guān)于政治人物的虛假負(fù)面視頻。例如，2018年4月，美國(guó)前總統(tǒng)奧巴馬的臉被“借用”來攻擊特朗普總統(tǒng)，視頻在YouTube上被轉(zhuǎn)發(fā)500多萬次。三是侵害事件頻發(fā)，危及公共安全。人工智能安全事故、侵害事件頻發(fā)，引發(fā)社會(huì)各界普遍關(guān)注。例如，特斯拉ModelS在美國(guó)和我國(guó)境內(nèi)都曾發(fā)生過自動(dòng)駕駛致死事故和數(shù)起交通事故;2018年委內(nèi)瑞拉總統(tǒng)在公開活動(dòng)中受到無人機(jī)炸彈襲擊，這是全球首例利用人工智能產(chǎn)品進(jìn)行的恐怖活動(dòng);2018年，優(yōu)步的一輛自動(dòng)駕駛測(cè)試車在進(jìn)行路試時(shí)發(fā)生事故，導(dǎo)致一行人死亡。

企業(yè)維度。一是不良信息頻現(xiàn)，企業(yè)審核能力不足。如果向人工智能系統(tǒng)輸入不完整、不正確、質(zhì)量不高的數(shù)據(jù)，則會(huì)產(chǎn)生不良或者歧視性信息，即所謂的“垃圾進(jìn)，垃圾出”。例如微軟公司的人工智能聊天機(jī)器人Tay上線后，被網(wǎng)民“教壞”，發(fā)布誹謗性的、歧視性的推文。此外，人工智能技術(shù)極大地促進(jìn)數(shù)字內(nèi)容產(chǎn)業(yè)的繁榮。預(yù)計(jì)到2022年，全球互聯(lián)網(wǎng)流量將達(dá)到每秒7.2PB。企業(yè)試圖依靠傳統(tǒng)審核模式實(shí)現(xiàn)內(nèi)容的準(zhǔn)確判斷并及時(shí)應(yīng)對(duì)信息爆炸引發(fā)的各類問題，越發(fā)捉襟見肘。二是法律責(zé)任不明，陷入責(zé)任劃分困境。由于當(dāng)前人工智能產(chǎn)品在問題回溯上存在不可解釋環(huán)節(jié)，而且現(xiàn)行立法也未明確界定人工智能的設(shè)計(jì)、生產(chǎn)、銷售、使用等環(huán)節(jié)的各方主體責(zé)任與義務(wù)，這給人工智能安全事件的責(zé)任認(rèn)定和劃分帶來嚴(yán)峻挑戰(zhàn)。例如，人工智能醫(yī)療助理（例如IBM的“沃森醫(yī)生”）給出危險(xiǎn)錯(cuò)誤的癌癥醫(yī)療建議時(shí)的責(zé)任認(rèn)定等問題。當(dāng)人工智能出現(xiàn)自主決策能力后，自動(dòng)駕駛汽車因獨(dú)立智能決策致?lián)p時(shí)，如何確定侵權(quán)主體及劃分責(zé)任。三是知識(shí)產(chǎn)權(quán)保護(hù)不足，版權(quán)認(rèn)定困難。目前，各國(guó)就人工智能生成物所包含的權(quán)利類型和權(quán)利歸屬存有爭(zhēng)議，人工智能創(chuàng)作物的版權(quán)保護(hù)仍普遍面臨法律滯后問題。例如，澳大利亞法院判定，利用人工智能生成的作品不能由版權(quán)保護(hù)，因?yàn)樗皇侨祟愔谱鞯?。如果人工智能?chuàng)作物得不到法律有力的保護(hù)，會(huì)使得人工智能生成信息的復(fù)制和擴(kuò)散門檻更低，影響投資人、創(chuàng)造人投入人工智能創(chuàng)作的積極性。

個(gè)人維度。一是算法偏見現(xiàn)象，影響公平正義。人工智能算法并非絕對(duì)客觀世界的產(chǎn)物，算法偏見不僅是技術(shù)問題，更涉及對(duì)算法處理的數(shù)據(jù)集質(zhì)量的完整性、算法設(shè)計(jì)者的主觀情感偏向、人類社會(huì)所固有的偏見，甚至不同地區(qū)文化差異等各方面問題。例如，美國(guó)一些法院適用的風(fēng)險(xiǎn)評(píng)估算法COMPAS被發(fā)現(xiàn)對(duì)黑人造成了系統(tǒng)性歧視。二是信息收集多樣，侵犯?jìng)€(gè)人隱私。隨著人臉識(shí)別、虹膜識(shí)別等應(yīng)用的普及，人工智能正在大規(guī)模、不間斷地收集、使用敏感個(gè)人信息，個(gè)人隱私泄露風(fēng)險(xiǎn)加大。例如，變臉應(yīng)用“ZAO”因用戶協(xié)議過度攫取用戶授權(quán)、存在數(shù)據(jù)泄露問題而被監(jiān)管機(jī)構(gòu)約談要求自查整改。杭州一動(dòng)物園因啟用人臉識(shí)別技術(shù)，強(qiáng)制收集游客敏感個(gè)人信息而被訴至法院，成為我國(guó)“人臉識(shí)別第一案”。三是濫用智能產(chǎn)品，侵犯人格尊嚴(yán)。利用深度偽造技術(shù)能實(shí)現(xiàn)將人臉移轉(zhuǎn)到色情明星的身體，偽造逼真的色情場(chǎng)景，使污名化他人及色情報(bào)復(fù)成為可能。例如，通過DeepNude軟件，輸入一張完整的女性圖片就可一鍵生成相應(yīng)的裸照。

人工智能治理的新挑戰(zhàn)

人工智能技術(shù)的發(fā)展已經(jīng)進(jìn)入了某些科技領(lǐng)域的“無人區(qū)”，人工智能除技術(shù)本身可能發(fā)生問題之外，諸多應(yīng)用在使用過程中也存在負(fù)效應(yīng)。但目前，相應(yīng)的風(fēng)險(xiǎn)防控機(jī)制和規(guī)則制定相對(duì)滯后，不可控的預(yù)期與擔(dān)憂使得人工智能在創(chuàng)新上面臨巨大的壓力，人工智能治理也就成為了人工智能技術(shù)和應(yīng)用發(fā)展到一定階段的必然結(jié)果。

面對(duì)人工智能可能引發(fā)的新的全球焦慮，人工智能監(jiān)管機(jī)構(gòu)應(yīng)及時(shí)察覺、管控危機(jī)、防范潛在風(fēng)險(xiǎn)。但目前，各國(guó)人工智能監(jiān)管機(jī)構(gòu)大多由政治實(shí)體組成，在應(yīng)對(duì)人工智能等新議題的挑戰(zhàn)時(shí)，需要與專業(yè)知識(shí)共同體形成有效聯(lián)動(dòng)。因此，監(jiān)管機(jī)構(gòu)應(yīng)當(dāng)以深厚的專業(yè)化知識(shí)作為治理基石，構(gòu)建起涵蓋人工智能相關(guān)的數(shù)學(xué)、計(jì)算機(jī)科學(xué)等學(xué)科的專業(yè)化治理團(tuán)隊(duì)，為監(jiān)管提供必要的知識(shí)儲(chǔ)備和智力支持。

人工智能本身是一門綜合性的前沿學(xué)科和高度交叉的復(fù)合型學(xué)科，研究范疇廣泛而又異常復(fù)雜。人工智能的治理需要計(jì)算機(jī)科學(xué)、數(shù)學(xué)、認(rèn)知科學(xué)、神經(jīng)科學(xué)和社會(huì)科學(xué)等學(xué)科深度融合，這引發(fā)了對(duì)于人工智能治理主體多元構(gòu)成的需求。近年來，國(guó)際組織、各國(guó)政府、行業(yè)組織和企業(yè)等各類主體也在積極探索多元主體參與的協(xié)同共治治理格局。因?yàn)橹挥性谥卫磉^程中，不斷推動(dòng)多領(lǐng)域間進(jìn)行廣泛交流和合作，采用靈活多元的方式，才能避免某些不可逆的問題出現(xiàn)。

人工智能的產(chǎn)業(yè)革命呈現(xiàn)出高速迭代化的特征，各種細(xì)分領(lǐng)域的產(chǎn)業(yè)化應(yīng)用層出不窮。新興業(yè)態(tài)呼喚新的治理方案，在治理原則、治理主體和治理手段上有別于傳統(tǒng)治理框架，引發(fā)了對(duì)于人工智能治理敏捷化的需要。在治理過程中，需要通過不斷提升技術(shù)手段，優(yōu)化治理機(jī)制，及時(shí)發(fā)現(xiàn)和解決可能引發(fā)的風(fēng)險(xiǎn)，對(duì)更高級(jí)人工智能的潛在風(fēng)險(xiǎn)持續(xù)開展研究和預(yù)判，確保人工智能朝著有利于社會(huì)的方向發(fā)展。

人工智能作為一種通用性技術(shù)，所引發(fā)的人員失業(yè)、公共安全等問題具有全球性，需要全球共同面對(duì)并達(dá)成全球性共識(shí)，而且人工智能的不穩(wěn)定與多樣化應(yīng)用又呼喚相對(duì)統(tǒng)一的治理規(guī)則與國(guó)際合作。只有世界各國(guó)共同尋求有效路徑，探索全球問題的解決之道，才能使人工智能在可見的甚或遙遠(yuǎn)的未來更好地造福于人類，及時(shí)管控可能的危機(jī)以及防范潛在風(fēng)險(xiǎn)。

編輯：張程? 3567672799@qq.com