陳偉光

【摘要】人工智能是引領(lǐng)未來(lái)的戰(zhàn)略性技術(shù)，主要發(fā)達(dá)國(guó)家都將其作為提升國(guó)家競(jìng)爭(zhēng)力、維護(hù)國(guó)家安全、占據(jù)前沿科技主導(dǎo)權(quán)的重大戰(zhàn)略。中國(guó)推動(dòng)人工智能發(fā)展戰(zhàn)略，是中國(guó)作為全球性大國(guó)提升綜合實(shí)力和順應(yīng)國(guó)際形勢(shì)發(fā)展的產(chǎn)物。然而，人工智能又是一種顛覆性的技術(shù)，我們要對(duì)人工智能的負(fù)面影響和沖擊充分預(yù)估，構(gòu)筑人工智能多層次治理體系。人工智能治理既是其技術(shù)和運(yùn)用發(fā)展到一定階段的必然結(jié)果，又是對(duì)其研究、開發(fā)、生產(chǎn)和運(yùn)用過(guò)程中可能會(huì)出現(xiàn)的公共安全、道德倫理等問(wèn)題進(jìn)行協(xié)調(diào)、處理、監(jiān)管和規(guī)范的過(guò)程。中國(guó)作為人工智能大國(guó)，應(yīng)抓住未來(lái)發(fā)展機(jī)遇，積極參與國(guó)際人工智能規(guī)則和標(biāo)準(zhǔn)設(shè)計(jì)，為人工智能全球治理貢獻(xiàn)中國(guó)智慧，以“善治”謀求人工智能的“善智”而造福于人類。

【關(guān)鍵詞】人工智能 道德倫理 規(guī)則標(biāo)準(zhǔn) 全球治理

【中圖分類號(hào)】TP18 【文獻(xiàn)標(biāo)識(shí)碼】A

【DOI】10.16619/j.cnki.rmltxsqy.2017.20.006

前言

人工智能是人類科技文明發(fā)展到一定階段的產(chǎn)物，是研究、開發(fā)用于模擬、延伸和擴(kuò)展人類智能的技術(shù)科學(xué)。作為一種快速發(fā)展的并具有劃時(shí)代意義的高科技，其廣泛應(yīng)用必將對(duì)現(xiàn)代人類社會(huì)發(fā)展產(chǎn)生全面而又深刻的影響。人工智能將極大地促進(jìn)全要素生產(chǎn)率提升，據(jù)埃森哲發(fā)布的報(bào)告預(yù)測(cè)，2035年人工智能預(yù)期可以為12個(gè)發(fā)達(dá)經(jīng)濟(jì)體帶來(lái)兩倍的經(jīng)濟(jì)增長(zhǎng)速度，中國(guó)的經(jīng)濟(jì)增長(zhǎng)率將從6.3%提速至7.9%。①軍事上，人工智能和機(jī)器人有可能大規(guī)模投入未來(lái)戰(zhàn)場(chǎng)，或?qū)⒏淖儜?zhàn)爭(zhēng)模式乃至國(guó)際軍事格局。人工智能在極大地解放生產(chǎn)力的同時(shí)，也將深刻地改變?nèi)祟惖纳a(chǎn)方式、工作方式和生活方式。然而，作為一種顛覆性的技術(shù)，我們要對(duì)人工智能的負(fù)面影響和沖擊充分預(yù)估，理性思考人工智能的安全治理問(wèn)題。實(shí)際上，一些科學(xué)家、有識(shí)之士以及社會(huì)各界也開始認(rèn)識(shí)到這一問(wèn)題的重要性。一般來(lái)說(shuō)，安全性評(píng)估和審慎監(jiān)管原則適合于任何一項(xiàng)科學(xué)技術(shù)革命，但由于人類利益動(dòng)機(jī)、預(yù)估不足、外部性和道德風(fēng)險(xiǎn)等問(wèn)題的存在，往往導(dǎo)致治理滯后、治理赤字和治理失靈等現(xiàn)象，如工業(yè)革命以來(lái)走過(guò)的“先污染，后治理”的教訓(xùn)以及溫室氣體排放與氣候談判的曲折等，都是這一問(wèn)題的表現(xiàn)。人工智能由于其技術(shù)復(fù)雜性、擴(kuò)展性、不可控性和不可預(yù)知性，可能更需要做好風(fēng)險(xiǎn)預(yù)估和防范，引導(dǎo)其健康、有序、安全發(fā)展，以規(guī)范人工智能研發(fā)、生產(chǎn)和消費(fèi)秩序，通過(guò)對(duì)人工智能的“善治”謀求人工智能造福于人類的“善智”。②

人工智能引發(fā)的治理問(wèn)題

人類社會(huì)需要面對(duì)人工智能正在發(fā)生的問(wèn)題，也需要預(yù)估、評(píng)判和預(yù)防未來(lái)人工智能發(fā)展可能引發(fā)的問(wèn)題。應(yīng)該說(shuō)，從問(wèn)題的嚴(yán)重性來(lái)講，人們最擔(dān)心的是未來(lái)人工智能對(duì)人類生存的挑戰(zhàn)。從科學(xué)家霍金的“人類最后的文明”到人工智能預(yù)測(cè)家?guī)炱濏f爾全面超越人類智慧的“奇點(diǎn)”論，都表現(xiàn)為對(duì)人工智能未來(lái)的“超人類性”、“另人類性”以及“非可控性”的擔(dān)憂。在霍金看來(lái)，人工智能的廣泛使用具有極高的風(fēng)險(xiǎn)性，一方面人工智能帶來(lái)的收益是巨大的，人類或許可以借助這一強(qiáng)大的工具，減少工業(yè)化對(duì)自然的傷害。但是“我們不確定我們是會(huì)被智能無(wú)限地幫助，還是被無(wú)限地邊緣化，甚至毀滅”，人工智能的崛起可能是人類文明的終結(jié)。因此，人類必須建立有效機(jī)制盡早識(shí)別威脅所在，防止人工智能對(duì)人類帶來(lái)的威脅進(jìn)一步上升。③

庫(kù)茲韋爾認(rèn)為，人工智能可以全面超越人類智能，而且超越的速度遠(yuǎn)超過(guò)人們的預(yù)期。他認(rèn)為，2045年是“奇點(diǎn)”到達(dá)的時(shí)期，這將是極具深刻性和分裂性的時(shí)間點(diǎn)，非生物智能在這一年將會(huì)10億倍于今天所有人類的智慧。④當(dāng)然，大多數(shù)科學(xué)家和人工智能專家對(duì)人工智能全面超越人類持否定態(tài)度，認(rèn)為這是杞人憂天式的臆想，對(duì)人工智能征服人類的擔(dān)心就像擔(dān)心火星上塞車一樣。航天器發(fā)明之前，其可能墜毀的風(fēng)險(xiǎn)擔(dān)憂并沒(méi)有阻止航空航天事業(yè)的發(fā)展。從這一點(diǎn)說(shuō)，我們幾乎沒(méi)有可能阻止人工智能的快速發(fā)展，但從現(xiàn)在起，給予人工智能更多的人文關(guān)注、價(jià)值判斷和理性思考，是一種比較正確的態(tài)度。事實(shí)上，人文社會(huì)科學(xué)的發(fā)展應(yīng)該走在自然科學(xué)的前面，在人工智能安全問(wèn)題之前做好充分的理論準(zhǔn)備。

第二類問(wèn)題是人工智能可能引發(fā)的安全問(wèn)題。其一是操作權(quán)失控或惡意使用導(dǎo)致的安全威脅。人工智能對(duì)人類的利害作用取決于掌控和使用人工智能的人。例如，黑客可能通過(guò)智能方法發(fā)起網(wǎng)絡(luò)攻擊，還可利用人工智能技術(shù)非法竊取私人信息。其二是技術(shù)失控或管理不當(dāng)所致的安全問(wèn)題。某些技術(shù)缺陷也會(huì)導(dǎo)致人工智能系統(tǒng)出現(xiàn)安全隱患，比如深度學(xué)習(xí)采用的黑箱模式會(huì)使模型可解釋性不強(qiáng)，機(jī)器人、無(wú)人智能系統(tǒng)的設(shè)計(jì)、生產(chǎn)不當(dāng)會(huì)導(dǎo)致運(yùn)行異常等。

第三類是人工智能倫理規(guī)范的挑戰(zhàn)。倫理問(wèn)題是人工智能技術(shù)應(yīng)用值得關(guān)注的問(wèn)題。如人工智能的行為規(guī)則問(wèn)題，人工智能技術(shù)的應(yīng)用正在將一些生活中的倫理性問(wèn)題在系統(tǒng)中規(guī)則化。系統(tǒng)的研發(fā)設(shè)計(jì)必須要與社會(huì)倫理匹配對(duì)接，機(jī)器規(guī)范和人類規(guī)范必須兼容，從而導(dǎo)致社會(huì)損害。再如機(jī)器人的“人格”和權(quán)力問(wèn)題。目前在司法、醫(yī)療、指揮等領(lǐng)域正在發(fā)揮作用，不遠(yuǎn)的將來(lái)，人工智能在審判分析、疾病診斷上將替代人類。但是，在給機(jī)器授予決策權(quán)后，人們不僅要考慮人工智能的安全風(fēng)險(xiǎn)，而且還要面臨一個(gè)新的倫理問(wèn)題，即機(jī)器獨(dú)立行使專業(yè)決策的資格。有倫理學(xué)家認(rèn)為，未來(lái)機(jī)器人不僅有感知、認(rèn)知和決策能力，人工智能在不同環(huán)境中學(xué)習(xí)和演化，還會(huì)形成不同的個(gè)性。所以機(jī)器人使用者需要承擔(dān)類似監(jiān)護(hù)人一樣的道德責(zé)任甚至法律責(zé)任，以免對(duì)社會(huì)文明產(chǎn)生不良影響。⑤

第四類問(wèn)題是人工智能可能引發(fā)的隱私問(wèn)題。大數(shù)據(jù)驅(qū)動(dòng)模式主導(dǎo)了近年來(lái)人工智能的發(fā)展，隱私問(wèn)題是數(shù)據(jù)資源開發(fā)利用中的主要威脅之一，人工智能應(yīng)用中必然存在隱私侵犯風(fēng)險(xiǎn)。比如數(shù)據(jù)采集中的隱私侵犯。隨著各類數(shù)據(jù)采集設(shè)施的廣泛使用，智能系統(tǒng)掌握了個(gè)人的大量信息，如果出于商業(yè)目的非法使用某些私人信息，就會(huì)造成隱私侵犯。再如云計(jì)算中的隱私風(fēng)險(xiǎn)。因?yàn)樵朴?jì)算技術(shù)使用便捷、成本低廉，許多用戶開始將數(shù)據(jù)存儲(chǔ)至云端。將隱私信息存儲(chǔ)至云端后，這些信息就容易遭到各種威脅和攻擊。目前在許多人工智能應(yīng)用中，云計(jì)算已經(jīng)被配置為主要架構(gòu)，因此云端隱私保護(hù)是需要考慮的問(wèn)題。還有知識(shí)抽取中的隱私問(wèn)題。由數(shù)據(jù)到知識(shí)的抽取是人工智能的重要能力，知識(shí)抽取工具正在變得越來(lái)越強(qiáng)大，無(wú)數(shù)個(gè)看似不相關(guān)的數(shù)據(jù)片段可能被整合在一起，識(shí)別出個(gè)人行為特征甚至性格特征。但是，這些個(gè)性化定制過(guò)程又伴隨著對(duì)個(gè)人隱私的發(fā)現(xiàn)和曝光，如何規(guī)范隱私保護(hù)是需要與技術(shù)應(yīng)用同步考慮的一個(gè)問(wèn)題。⑥endprint

人工智能治理難題

盡管對(duì)人工智能風(fēng)險(xiǎn)認(rèn)識(shí)和評(píng)價(jià)有相當(dāng)大的分歧和爭(zhēng)議，但學(xué)界、業(yè)界以及政界對(duì)人工智能治理的必要性已形成基本共識(shí)。不僅霍金、馬斯克等人發(fā)起倡議的《人工智能23條原則》，強(qiáng)調(diào)人工智能的規(guī)范發(fā)展必須納入正確軌道，而且各國(guó)政府和行業(yè)協(xié)會(huì)在其人工智能發(fā)展戰(zhàn)略規(guī)劃或行業(yè)報(bào)告中，都有比較明確的人工智能監(jiān)管和治理要求，如2016年9月，英國(guó)標(biāo)準(zhǔn)協(xié)會(huì)發(fā)布《機(jī)器人和機(jī)器系統(tǒng)的倫理設(shè)計(jì)和應(yīng)用指南》，是業(yè)界第一個(gè)關(guān)于機(jī)器人倫理設(shè)計(jì)的公開標(biāo)準(zhǔn)，旨在指導(dǎo)機(jī)器人設(shè)計(jì)研究者和制造商如何對(duì)一個(gè)機(jī)器人做出道德風(fēng)險(xiǎn)評(píng)估，以保證人類生產(chǎn)出來(lái)的智能機(jī)器人能夠融入人類社會(huì)現(xiàn)有的道德規(guī)范。⑦2016年6月，日本AI學(xué)會(huì)的倫理委員會(huì)發(fā)布人工智能研究人員應(yīng)該遵守的倫理指標(biāo)草案，以引導(dǎo)和規(guī)范研究人員正確處理人工智能進(jìn)一步發(fā)展導(dǎo)致的倫理道德、安全問(wèn)題。⑧美國(guó)的《國(guó)家人工智能研究和發(fā)展戰(zhàn)略計(jì)劃》全面搭建了美國(guó)推動(dòng)人工智能研發(fā)的實(shí)施框架，并強(qiáng)調(diào)保障人工智能系統(tǒng)的友好性，推動(dòng)人工智能系統(tǒng)的公平、透明與符合倫理。同時(shí)，確保人工智能系統(tǒng)的安全可靠，提高信任度、可驗(yàn)證和可確認(rèn)性，并實(shí)現(xiàn)自我安全防御與優(yōu)化。⑨

問(wèn)題的關(guān)鍵不是人工智能需不需要治理的問(wèn)題，而是人工智能究竟應(yīng)該如何治理、治理什么的問(wèn)題，人工智能本身的復(fù)雜性特征使得人工智能在治理機(jī)制設(shè)計(jì)和構(gòu)建中遭遇多重難題。

首先是事前的風(fēng)險(xiǎn)識(shí)別和預(yù)防難題。不同于原子能、化工等研究開發(fā)的基礎(chǔ)設(shè)施的大規(guī)模性、風(fēng)險(xiǎn)源的明確性，監(jiān)管者或治理行為體能夠非常容易地確定潛在的公共危險(xiǎn)源的制造者和發(fā)生地。人工智能研發(fā)具有秘密性、分散性、不連續(xù)性及不透明性。秘密性是指人工智能的研究與開發(fā)只需要極少的可見設(shè)施；分散性是指研究人工智能系統(tǒng)不同組成部分的研發(fā)人員可能分布在不同的地方；不連續(xù)性是指人工智能的研發(fā)不需要所有的部件同時(shí)就位，也不需要不同部門的研究人員通力合作；不透明性，是指人工智能系統(tǒng)運(yùn)行可能處在秘密狀態(tài)，由于信息的嚴(yán)重不對(duì)稱，外部人員很難發(fā)現(xiàn)人工智能系統(tǒng)中潛在的危險(xiǎn)而無(wú)法采取針對(duì)性的監(jiān)管措施。⑩人工智能這些特征，為其事前監(jiān)管帶來(lái)許多不便，也為有效的人工智能治理設(shè)計(jì)帶來(lái)困惑，畢竟科學(xué)的風(fēng)險(xiǎn)識(shí)別和預(yù)防機(jī)制的構(gòu)建是治理有效性的關(guān)鍵。

其次是風(fēng)險(xiǎn)發(fā)生的不可預(yù)知性難題。人工智能與其他傳統(tǒng)科技最大的不同是可以獨(dú)立完成預(yù)定任務(wù)的自主性，但是人工智能自主行為與人類的決策和行動(dòng)存在根本的不同，盡管人工智能系統(tǒng)設(shè)計(jì)總是模仿人腦的工作方式。人類智能由于其在限定的時(shí)間里的計(jì)算速度有限，很難在窮舉中得出最優(yōu)解，而往往通過(guò)經(jīng)驗(yàn)、直覺(jué)等方法得出自認(rèn)為滿意的答案，而非一個(gè)最佳的解決方法，經(jīng)濟(jì)學(xué)家Herbert Simon稱之為“滿意法”。?而人工智能通過(guò)合并算法和深度學(xué)習(xí)可以在極短的時(shí)間內(nèi)精確計(jì)算所有的可能性，從而使得它們能夠選擇人類完全沒(méi)有考慮過(guò)而“出人意料”的解決問(wèn)題方法，做出的結(jié)論可能同人類的認(rèn)知系統(tǒng)做出的決策產(chǎn)生極大的不同。一個(gè)能夠自主學(xué)習(xí)的人工智能系統(tǒng)的行為部分依靠其后天的經(jīng)歷，即使是最細(xì)心的設(shè)計(jì)者、編程者以及制造者都沒(méi)有辦法控制或者預(yù)測(cè)人工智能系統(tǒng)在脫離他們之后將會(huì)經(jīng)歷些什么。?所以，人工智能的不可預(yù)知性，使得人工智能系統(tǒng)在做出難以預(yù)測(cè)的損害性行為時(shí)，讓設(shè)計(jì)者承擔(dān)責(zé)任可能會(huì)導(dǎo)致不公平和非正義。值得注意的是，對(duì)于產(chǎn)品生產(chǎn)者的嚴(yán)格責(zé)任，規(guī)定有“當(dāng)前科學(xué)水平尚不能發(fā)現(xiàn)缺陷”的免責(zé)事由。但是這項(xiàng)免責(zé)事由在人工智能領(lǐng)域是否適用值得討論。盡管在深度學(xué)習(xí)訓(xùn)練數(shù)據(jù)和學(xué)習(xí)過(guò)程存在不可預(yù)見性，但考慮到人工智能的算法完全由開發(fā)者編寫，開發(fā)者對(duì)風(fēng)險(xiǎn)源頭具有絕對(duì)的控制力，司法機(jī)關(guān)可能會(huì)推定開發(fā)者應(yīng)當(dāng)預(yù)見算法執(zhí)行中的可能風(fēng)險(xiǎn)或要求開發(fā)者對(duì)風(fēng)險(xiǎn)程度的增加承擔(dān)責(zé)任。

再次是事后責(zé)任認(rèn)定和分配的難題。以規(guī)則為基礎(chǔ)的治理是現(xiàn)代治理的根本特征，法律法規(guī)作為正式規(guī)則主體形式使得“法治”構(gòu)成有效社會(huì)治理的核心，人工智能的治理難題集中表現(xiàn)為法律困惑和政策困境。一是人工智能的不可控性導(dǎo)致的監(jiān)管兩難。隨著人工智能技術(shù)升級(jí)到強(qiáng)人工智能階段，不可控性可能成為一個(gè)嚴(yán)峻的問(wèn)題，未雨綢繆人工智能的局部失控乃至可能出現(xiàn)的全面失控是當(dāng)代人的責(zé)任。從現(xiàn)在來(lái)講，各國(guó)不會(huì)像用法律禁止克隆人一樣規(guī)避人工智能風(fēng)險(xiǎn)，人們所焦慮的是如何在不束縛人工智能良性發(fā)展的前提下最大限度地防控人工智能風(fēng)險(xiǎn)。二是人工智能風(fēng)險(xiǎn)主體的多元性和不可預(yù)知性問(wèn)題也導(dǎo)致了對(duì)其監(jiān)管的法律困惑，由于參與人工智能系統(tǒng)部件的主體多元和不可預(yù)知，很難確定出責(zé)任主體。例如，人工智能系統(tǒng)的部件的制造者可能沒(méi)有想到他們生產(chǎn)的部件被用在了人工智能系統(tǒng)上，如果造成了損害就更非他們的本意了。在這種情況下，將責(zé)任分配給人工智能系統(tǒng)某一部件的設(shè)計(jì)者，就顯得非常的不公平，同樣，人工智能系統(tǒng)運(yùn)轉(zhuǎn)的不透明讓法院也不能輕易判斷將人工智能系統(tǒng)造成第三人損害的責(zé)任歸責(zé)于運(yùn)營(yíng)者還是使用者。三是人工智能法律主體的難題。人工智能的自主性隨著人工智能技術(shù)進(jìn)步進(jìn)化到強(qiáng)人工智能階段后，人工智能載體如機(jī)器人是不是人格意義的道德體、行為體乃至法律主體？由于機(jī)器可以像人類一樣獨(dú)立思考和決策，該階段的人工智能如果和人類一樣，成為獨(dú)立的主體享有權(quán)利，并對(duì)自己的行為承擔(dān)責(zé)任，傳統(tǒng)法律體系將產(chǎn)生巨大的沖擊。?

最后是人工智能對(duì)就業(yè)崗位的沖擊，將引發(fā)分配政策的重塑。人工智能在體力特別是腦力替代人類的勞動(dòng)，在極大改善生產(chǎn)效率的同時(shí)，也將對(duì)社會(huì)就業(yè)產(chǎn)生全面的沖擊。當(dāng)前，人工智能正在眾多領(lǐng)域發(fā)揮作用并具備巨大潛力，如醫(yī)療衛(wèi)生、交通出行、環(huán)境監(jiān)測(cè)、司法調(diào)查等領(lǐng)域。按照人工智能的發(fā)展速度，不遠(yuǎn)的將來(lái)，人工智能將很快滲透到駕駛、新聞?dòng)浾摺⒎g、醫(yī)療等職業(yè)中。另一方面，人工智能也將推動(dòng)新的就業(yè)產(chǎn)生。未來(lái)，直接由人工智能驅(qū)動(dòng)的工作將出現(xiàn)，包括人類與現(xiàn)有人工智能技術(shù)的合作、開發(fā)新的人工智能技術(shù)、在實(shí)踐中監(jiān)督人工智能技術(shù)等。?

人工智能所引發(fā)的就業(yè)問(wèn)題的解決本身不是人工智能治理問(wèn)題。隨著社會(huì)就業(yè)結(jié)構(gòu)的改變，社會(huì)財(cái)富分配差距可能更加分化，收入分配不公將成為嚴(yán)峻的社會(huì)問(wèn)題。這些問(wèn)題的解決需要政策體系的全面調(diào)整，如社會(huì)保障體系、教育政策體系的變革，從這方面上講，人工智能將為社會(huì)治理問(wèn)題帶來(lái)新的沖擊。endprint

人工智能治理體系的構(gòu)建

從1956年在美國(guó)達(dá)特茅斯（Dartmouth）大學(xué)舉辦人類歷史上第一次人工智能研討會(huì)開始，人工智能幾經(jīng)波折走過(guò)了60年的發(fā)展歷程。近年來(lái)，人工智能得益于大數(shù)據(jù)、互聯(lián)網(wǎng)、學(xué)習(xí)算法和計(jì)算能力的改進(jìn)，取得了迅猛發(fā)展。一些發(fā)達(dá)國(guó)家和新興市場(chǎng)國(guó)家高度重視人工智能的發(fā)展，相繼在國(guó)家戰(zhàn)略層面上對(duì)人工智能作出頂層設(shè)計(jì)。在各國(guó)的人工智能發(fā)展規(guī)劃中，都把人工智能的必要性和政府介入人工智能的監(jiān)管作為其中的重要內(nèi)容。如在各自出臺(tái)的人工智能發(fā)展戰(zhàn)略政策報(bào)告中，美國(guó)明確提出政府是人工智能發(fā)展過(guò)程中安全和公平的重要監(jiān)管人；英國(guó)以全球人工智能系統(tǒng)的道德標(biāo)準(zhǔn)研究領(lǐng)域的領(lǐng)導(dǎo)者自居，并為未來(lái)引領(lǐng)人工智能監(jiān)管作準(zhǔn)備；歐盟積極呼吁加強(qiáng)機(jī)器人相關(guān)的立法。與此同時(shí)，IEEE也發(fā)布了人工智能合倫理設(shè)計(jì)指南，引起了國(guó)際上相關(guān)同仁的重視。?總體上講，由于認(rèn)識(shí)、倫理和法律問(wèn)題存在，人工智能治理機(jī)制的建立滯后于其技術(shù)發(fā)展的步伐，目前還處于起步階段。但是正如互聯(lián)網(wǎng)公共治理快速發(fā)展一樣，人工智能治理體系建設(shè)必將快速展開。

人工智能治理是其技術(shù)和運(yùn)用發(fā)展到一定階段的產(chǎn)物，是對(duì)人工智能研究、開發(fā)、生產(chǎn)和運(yùn)用過(guò)程中可能會(huì)出現(xiàn)的公共安全、道德倫理等問(wèn)題進(jìn)行協(xié)調(diào)、處理、監(jiān)管和規(guī)范的過(guò)程。人工智能治理同氣候治理、互聯(lián)網(wǎng)治理一樣屬于專業(yè)治理、社會(huì)治理和政府治理共同合作的范疇。

人工智能治理的要素由人工智能治理的行為體、治理對(duì)象、治理規(guī)則、治理目標(biāo)和理念以及治理績(jī)效構(gòu)成。與其他社會(huì)治理一樣，人工智能的行為體是多元的，不僅由研究開發(fā)的科學(xué)家群體、開發(fā)商等自律性的主體組成，也由運(yùn)營(yíng)商、消費(fèi)者等利益攸關(guān)者相關(guān)主體組成。由于人工智能的安全性、倫理和法律問(wèn)題的復(fù)雜性，特別是人工智能的戰(zhàn)略安全等方面的重要性，國(guó)家政府是人工智能治理重要的行為主體。作為人工智能治理的平臺(tái)，一些國(guó)家相繼成立了人工智能治理的各類組織和機(jī)構(gòu)，如科學(xué)家組織、學(xué)術(shù)團(tuán)體和協(xié)會(huì)、高校研發(fā)機(jī)構(gòu)，還有國(guó)家層面的專業(yè)性監(jiān)管組織。一些傳統(tǒng)的國(guó)際性組織也開始關(guān)注人工智能治理的問(wèn)題，聯(lián)合國(guó)教科文組織（The United Nations Education， Scientific and Cultural Organization）和世界科學(xué)知識(shí)與技術(shù)倫理委員會(huì)（World Commission on the Ethics of Scientific Knowledge and Technology）近年來(lái)連續(xù)多次聯(lián)合發(fā)布報(bào)告，針對(duì)人工智能及機(jī)器人技術(shù)的發(fā)展帶來(lái)的各種問(wèn)題，提出了全新的思考方式與解決路徑，對(duì)世界各國(guó)的人工智能監(jiān)管具有重要指導(dǎo)意義。

人工智能治理規(guī)則是保障人工智能全過(guò)程的正式和非正式的制度和規(guī)范，包括人工智能的研發(fā)道德規(guī)范、產(chǎn)品標(biāo)準(zhǔn)和安全性能要求以及相關(guān)法律程序、責(zé)任分配等。在以規(guī)則為基礎(chǔ)的現(xiàn)代治理模式中，規(guī)則體系構(gòu)建是人工智能治理的關(guān)鍵。目前來(lái)看，各國(guó)人工智能治理規(guī)則體系還處于討論、醞釀階段，如美國(guó)除了自動(dòng)駕駛和無(wú)人機(jī)進(jìn)入了立法程序之外，其他的正式規(guī)則還未建構(gòu)，還不存在針對(duì)人工智能的專門的監(jiān)管法律與機(jī)構(gòu)。事實(shí)上，美國(guó)的法院也沒(méi)有針對(duì)人工智能造成損害案件的裁判標(biāo)準(zhǔn)。?

人工智能治理理念是關(guān)于人工智能價(jià)值觀念的哲學(xué)思考。不同于一般科學(xué)技術(shù)，人工智能的系統(tǒng)的開發(fā)與應(yīng)用直接關(guān)乎道德倫理和人的權(quán)利、尊嚴(yán)等根本性問(wèn)題。“規(guī)則為基礎(chǔ)的治理”需要與“以倫理為基準(zhǔn)的設(shè)計(jì)”高度契合，人工智能系統(tǒng)的工作核心是將價(jià)值標(biāo)準(zhǔn)和倫理思考嵌套在智能系統(tǒng)設(shè)計(jì)之中，這是人工智能治理的核心理念和根本要求。人工智能需建立一套能跨越種族和國(guó)家的具有普適性的倫理原則，使之成為各國(guó)在發(fā)展人工智能技術(shù)普遍遵守或共同認(rèn)可的規(guī)范。當(dāng)然，涉及到倫理相關(guān)的治理不只是一套規(guī)則，而是一個(gè)持續(xù)的調(diào)和過(guò)程，在文化多樣性中尋找最大公約數(shù)和均衡結(jié)果。?

人工智能的治理對(duì)象是人工智能可能引發(fā)的公共問(wèn)題。包括由人工智能系統(tǒng)可能引發(fā)的公共安全、道德倫理和行為規(guī)范在內(nèi)的負(fù)外部性問(wèn)題。由于人工智能的風(fēng)險(xiǎn)源的不可預(yù)知性和模糊性，人工智能治理對(duì)象的邊界不可能十分清晰。這也是其治理難度的表現(xiàn)。

需要說(shuō)明的是，人類社會(huì)正邁進(jìn)人工智能與互聯(lián)網(wǎng)、大數(shù)據(jù)高度融合的時(shí)代，人工智能時(shí)代是人類進(jìn)入網(wǎng)絡(luò)時(shí)代、大數(shù)據(jù)時(shí)代的自然結(jié)果，只有人工智能才能處理任何強(qiáng)大的自然人與傳統(tǒng)組織都無(wú)法處理的龐大數(shù)據(jù)，實(shí)現(xiàn)對(duì)數(shù)據(jù)的分析、處理和再現(xiàn)過(guò)程。?因此，人工智能治理僅從單一的專業(yè)治理理解可能會(huì)有失偏頗，需要納入多層次綜合治理的軌道。從地域范圍來(lái)看，人工智能治理是地區(qū)治理、國(guó)家治理和全球治理，從領(lǐng)域來(lái)看，涉及道德倫理、傳統(tǒng)安全、非傳統(tǒng)安全、就業(yè)政策、技術(shù)治理等，還包括互聯(lián)網(wǎng)治理和數(shù)據(jù)治理中涉及人工智能的領(lǐng)域。

人工智能治理與中國(guó)

與國(guó)際上人工智能的發(fā)展情況相比，中國(guó)的人工智能研究和開發(fā)是在發(fā)達(dá)國(guó)家人工智能開創(chuàng)20余年后開始起步的。改革開放后，中國(guó)人工智能逐步走上了加速發(fā)展的軌道。黨的十八大以來(lái)，中國(guó)人工智能發(fā)展被提升到國(guó)家戰(zhàn)略高度，開啟了中國(guó)人工智能變革與創(chuàng)新的新時(shí)代。近年來(lái)，國(guó)家相繼出臺(tái)了人工智能建設(shè)發(fā)展的系列規(guī)劃，如《“互聯(lián)網(wǎng)+”人工智能三年行動(dòng)實(shí)施方案》《智能制造2025》和《機(jī)器人產(chǎn)業(yè)發(fā)展規(guī)劃（2016～2020）》等。2017年，發(fā)布了《新一代人工智能發(fā)展規(guī)劃》，系統(tǒng)全面地提出了我國(guó)新一代人工智能發(fā)展的指導(dǎo)思想、戰(zhàn)略目標(biāo)、重點(diǎn)任務(wù)和保障措施。人工智能成為國(guó)家戰(zhàn)略，是世界主要大國(guó)的通行做法。作為引領(lǐng)未來(lái)的戰(zhàn)略性技術(shù)，主要發(fā)達(dá)國(guó)家都把發(fā)展人工智能作為提升國(guó)家競(jìng)爭(zhēng)力、維護(hù)國(guó)家安全、占據(jù)前沿科技主導(dǎo)權(quán)的重大戰(zhàn)略。中國(guó)推動(dòng)人工智能發(fā)展戰(zhàn)略，是中國(guó)作為全球性大國(guó)的綜合實(shí)力提升和順應(yīng)國(guó)際形勢(shì)發(fā)展的產(chǎn)物。

在中國(guó)人工智能戰(zhàn)略規(guī)劃中，人工智能治理作為人工智能發(fā)展的有機(jī)組成部分成為重要關(guān)切。一是提出建立人工智能技術(shù)標(biāo)準(zhǔn)，建立安全監(jiān)管和評(píng)估體系，制定促進(jìn)人工智能發(fā)展的法律法規(guī)和倫理規(guī)范。二是強(qiáng)調(diào)積極參與人工智能全球治理，加強(qiáng)機(jī)器人異化和安全監(jiān)管等人工智能重大國(guó)際共性問(wèn)題研究。三是深化在人工智能法律法規(guī)、國(guó)際規(guī)則等方面的國(guó)際合作，共同應(yīng)對(duì)全球性挑戰(zhàn)。endprint

中國(guó)是國(guó)際人工智能后來(lái)者，但與18世紀(jì)工業(yè)革命以來(lái)中國(guó)錯(cuò)失的技術(shù)革命機(jī)遇不同，中國(guó)表現(xiàn)出前所未有的戰(zhàn)略敏感性，依托后發(fā)優(yōu)勢(shì)實(shí)現(xiàn)彎道搶跑，在人工智能一些領(lǐng)域中取得了世界領(lǐng)先地位。雖然中國(guó)人工智能在部分領(lǐng)域特別是運(yùn)用領(lǐng)域取得了驕人成績(jī)，有的達(dá)到甚至超越了世界同類項(xiàng)目的最高水平，但整體能力和水平遠(yuǎn)未達(dá)到通用智能化程度，人工智能基礎(chǔ)研究、組織工作推進(jìn)、產(chǎn)業(yè)協(xié)同創(chuàng)新、環(huán)境發(fā)展優(yōu)化的總體水平與國(guó)際先進(jìn)水平仍然存在明顯差距。?

盡管世界各國(guó)在人工智能治理上目前還處于起步階段，但是按照人工智能的發(fā)展趨勢(shì)，在不遠(yuǎn)的將來(lái)一些重要大國(guó)的人工智能治理機(jī)制會(huì)很快建構(gòu)并完善起來(lái)，這是人工智能規(guī)范、有序發(fā)展的必由之路。尤其是人工智能與大數(shù)據(jù)、互聯(lián)網(wǎng)和云計(jì)算等技術(shù)深度融合，人工智能的資源配置、技術(shù)外溢和社會(huì)影響的外部性極容易超越一國(guó)的邊界而成為全球性的公共問(wèn)題，因此人工智能客觀上需要全球性協(xié)調(diào)機(jī)制、全球性協(xié)作平臺(tái)以及全球性的標(biāo)準(zhǔn)和規(guī)則，也需要人工智能的道德倫理系統(tǒng)和價(jià)值理念的碰撞和討論，這些都是人工智能全球治理的應(yīng)有之義。正如聯(lián)合國(guó)教科文組織和世界科學(xué)知識(shí)與技術(shù)倫理委員會(huì)在報(bào)告（2016年）中所指出的：需要呼吁世界各國(guó)采用全新的視角看待人工智能系統(tǒng)的未來(lái)監(jiān)管。2016年12月，標(biāo)準(zhǔn)制定組織IEEE發(fā)布《合倫理設(shè)計(jì)：利用人工智能和自主系統(tǒng)（AI/AS）最大化人類福祉的愿景（第一版）》，旨在鼓勵(lì)科技人員在AI研發(fā)過(guò)程中，優(yōu)先考慮倫理問(wèn)題。這份由IEEE全球計(jì)劃下屬各委員會(huì)共同完成的文件為人工智能的全球治理提供了重要參考（騰訊研究院：《信任、公正與責(zé)任：IEEE人工智能合倫理設(shè)計(jì)指南解讀》）。中國(guó)作為人工智能大國(guó)，應(yīng)抓住未來(lái)發(fā)展機(jī)遇，積極參與國(guó)際人工智能合作，為人工智能治理國(guó)際合作貢獻(xiàn)中國(guó)智慧。

一是積極推動(dòng)國(guó)家人工智能治理體系的建立和完善。國(guó)家人工智能治理體系建立和完善是參與人工智能全球治理的基礎(chǔ)和前提。目前需要按照國(guó)家的人工智能建設(shè)規(guī)劃，貫徹有關(guān)人工智能技術(shù)標(biāo)準(zhǔn)、法律法規(guī)和倫理規(guī)范等建設(shè)任務(wù)。為了提升行動(dòng)效率，建議設(shè)立國(guó)家人工智能專門治理機(jī)構(gòu)如人工智能發(fā)展協(xié)調(diào)委員會(huì)，負(fù)責(zé)制定和執(zhí)行國(guó)家人工智能政策，加強(qiáng)研究與產(chǎn)業(yè)推進(jìn)等工作的組織協(xié)調(diào)。推動(dòng)建立國(guó)家級(jí)人工智能產(chǎn)業(yè)聯(lián)盟，加強(qiáng)業(yè)界的交流與產(chǎn)業(yè)協(xié)作、知識(shí)產(chǎn)權(quán)共享和儲(chǔ)備，推動(dòng)產(chǎn)業(yè)鏈上下游緊密合作，促進(jìn)重點(diǎn)領(lǐng)域如智能裝備、智能機(jī)器人、智能汽車、智能終端等重點(diǎn)產(chǎn)品的研發(fā)與成果產(chǎn)業(yè)轉(zhuǎn)化。在發(fā)揮好國(guó)內(nèi)現(xiàn)有的人工智能學(xué)術(shù)團(tuán)體和學(xué)會(huì)作用的基礎(chǔ)上，成立跨部門跨學(xué)科專家委員會(huì)，推動(dòng)人工智能重大、前沿、綜合問(wèn)題研究，定期評(píng)估技術(shù)演進(jìn)、產(chǎn)業(yè)發(fā)展態(tài)勢(shì)以及對(duì)經(jīng)濟(jì)社會(huì)發(fā)展的貢獻(xiàn)與影響，推動(dòng)對(duì)人工智能可能帶來(lái)的就業(yè)、法律、倫理等社會(huì)問(wèn)題開展研究，并提出適當(dāng)?shù)慕ㄔO(shè)性、前瞻性公共政策建議與實(shí)施框架。?

二是搭建人工智能治理國(guó)際合作平臺(tái)。鼓勵(lì)高校和科研院所積極開展人工智能國(guó)際合作和學(xué)術(shù)交流，倡導(dǎo)人工智能科學(xué)家團(tuán)體、專家委員會(huì)與發(fā)達(dá)國(guó)家的相關(guān)組織以及國(guó)際組織的合作交流、學(xué)術(shù)互動(dòng)。探索人工智能產(chǎn)業(yè)聯(lián)盟開展國(guó)際交流的機(jī)制，參與和引領(lǐng)國(guó)際人工智能相關(guān)標(biāo)準(zhǔn)的制定，提高中國(guó)在人工智能全球治理中的制度性話語(yǔ)權(quán)。

三是確立在人工智能治理國(guó)際合作中的合理定位。中國(guó)是現(xiàn)有全球治理體系的建設(shè)者、完善者和改革者，不做全球治理體系旁觀者，也不推倒重來(lái)、重起爐灶。在人工智能治理領(lǐng)域，中國(guó)應(yīng)該利用先發(fā)優(yōu)勢(shì)，力爭(zhēng)成為未來(lái)全球人工智能治理規(guī)制的重要設(shè)計(jì)者、標(biāo)準(zhǔn)的制定者和倫理價(jià)值的倡導(dǎo)者。

四是為人工智能全球治理貢獻(xiàn)中國(guó)智慧。人工智能已開始沖擊現(xiàn)存的人類社會(huì)結(jié)構(gòu)，人—機(jī)器二元社會(huì)正在逐漸地向人—機(jī)器—智能機(jī)器三元社會(huì)發(fā)展。如何保持人、機(jī)器、智能機(jī)器和睦共處是人工智能時(shí)代必須面對(duì)的問(wèn)題。在中國(guó)傳統(tǒng)文化中，無(wú)論是先秦的“天人合一”論還是宋明的“萬(wàn)物一體”論，都強(qiáng)調(diào)人與人、人與物、人與社會(huì)以及人與自然的整體性、和諧性、統(tǒng)一性關(guān)系。從當(dāng)代中國(guó)看，人類命運(yùn)共同體思想是立足當(dāng)今世界不斷加強(qiáng)的相互依賴關(guān)系并思考人類未來(lái)關(guān)系的價(jià)值觀和方法論。從古到今，都能從中國(guó)文化元素和政策主張中尋找到三元社會(huì)結(jié)構(gòu)“共生共存共濟(jì)”的良方。

（本文系國(guó)家社科基金重大項(xiàng)目“提高中國(guó)在參與全球經(jīng)濟(jì)治理中的制度性話語(yǔ)權(quán)研究”的階段性研究成果，項(xiàng)目批準(zhǔn)號(hào)：15ZDA062）

注釋

《埃森哲：AI使經(jīng)濟(jì)發(fā)達(dá)國(guó)家成為最大受益者》，網(wǎng)易科技，2016，http：//tech.163.com/16/1013/07/C388K55N00097U80.html。

高奇琦、李陽(yáng)：《善智：人工智能的價(jià)值目標(biāo)》，《中國(guó)社會(huì)科學(xué)報(bào)》，2017年8月23日。

黃志澄：《如何看待霍金對(duì)人工智能的警告》，《中國(guó)青年報(bào)》，2017年6月5日，第2版。

[美]庫(kù)茲韋爾：《奇點(diǎn)臨近》，李慶誠(chéng)、董振華、田源譯，北京：機(jī)械工業(yè)出版社，2014年，第80頁(yè)。

李修全：《人工智能應(yīng)用中的安全、隱私和倫理挑戰(zhàn)及應(yīng)對(duì)思考》，《科技導(dǎo)報(bào)》，2017/35（15）。

Brianna Crandall， "BSI standard tackles ethical hazards ofrobots，" FMLink， http：//fmlink.com/articles/bsi-standard-tackles-ethicalhazards-robots.

李修全、蔣鴻玲：《美日歐政府發(fā)展人工智能的新舉措及對(duì)我國(guó)的啟示》，《全球科技經(jīng)濟(jì)瞭望》，2016年第10期。

尹昊智、劉鐵志：《人工智能各國(guó)戰(zhàn)略解讀：美國(guó)人工智能報(bào)告解析》，《電信網(wǎng)技術(shù)》，2017年第2期。

[美]馬修U.謝勒：《監(jiān)管人工智能系統(tǒng)：風(fēng)險(xiǎn)、挑戰(zhàn)、能力和策略》，曹建峰、李金磊譯，《信息安全與通信保密》，2017年第5期。

Herbert A. Simon， "Rational Choice and theStructure of the Environment，" 63 PSYCHOL.REV. 129， 136 （1956）

See Pei Wang， "The Risk and Safety of AI"， AGENERAL THEORY OF INTELLIGENCE， https：//sites.google.com/site/narswang/EBook/ topic-list/the-risk-and-safety-of-ai[https：//perma.cc/5LY3-CTLD. "An adaptivesystem's behaviors are determined both by itsnature （i.e.， initial design） and its nurture （i.e.，postnatal experience）. Though it is still possibleto give the system certain innate beliefs andmotivations， they will not fully determine thesystem's behaviors."

聶東明：《人工智能或?qū)氐最嵏踩祟惉F(xiàn)行法律體系》，阿里研究院。

尹昊智、劉鐵志：《人工智能各國(guó)戰(zhàn)略解讀：美國(guó)人工智能報(bào)告解析》，《電信網(wǎng)技術(shù)》，2017年2月第2期。

齊昆鵬：《2017年人工智能：技術(shù)、倫理與法律》，《科學(xué)與社會(huì)》，2017年第2期。

何哲：《人工智能時(shí)代的政府適應(yīng)與轉(zhuǎn)型》，《行政管理改革》，2016年第8期

蔡自興：《中國(guó)人工智能40年》，《科技導(dǎo)報(bào)》，2016/34（15）。

陸汝鈐：《張鈸獲中國(guó)計(jì)算機(jī)學(xué)會(huì)終身成就獎(jiǎng)》，《中國(guó)科學(xué)報(bào)》，2015年2月2日。

責(zé) 編∕樊保玲endprint