在當(dāng)下，人類必須時刻提醒自己：對于人工智能，既不要過分低估它的能力和發(fā)展，也不要過分高估它的威脅與風(fēng)險。未雨綢繆，防患未然，方能決勝千里。

人類正在步入一個全新的以互聯(lián)網(wǎng)、大數(shù)據(jù)和人工智能為基本特征的數(shù)字時代。其中尤以人工智能在21世紀(jì)前20年的跨越性發(fā)展和革命性升級表現(xiàn)最為搶眼。從弱智能到強(qiáng)智能，從“深藍(lán)”到“阿爾法狗”，從無人駕駛汽車到公民索菲亞，新變化、新發(fā)展層出不窮，令人目不睱接甚至有些始料不及。然而，人工智能是一把雙刃劍。它給人類帶來便利、速度和效率的同時，也對人們早已習(xí)以為常的生產(chǎn)、生活和社會規(guī)則造成了巨大的挑戰(zhàn)和沖擊，并由此引發(fā)安全、隱私、法律、倫理以及決策等層面一系列困境和危機(jī)。深入理解人工智能的發(fā)展趨勢，客觀審視人工智能的潛在影響，合理謀劃人工智能的發(fā)展方略，既是一個重大的理論問題，也是一個迫切的現(xiàn)實議題。

安全困境

不知不覺間，人工智能已經(jīng)遍布普通人日常生活的每個角落。工作、學(xué)習(xí)、餐飲、購物、訪友、旅行等生活場景，生產(chǎn)、經(jīng)營、貿(mào)易、運輸、航空、軍事等社會活動，沒有智能軟件和智能機(jī)器的幫助，其結(jié)果是不難想象的。然而，這也意味著，人工智能的應(yīng)用越廣，人類對人工智能的依賴就越深，由此引發(fā)的安全隱患也就越多。

人工智能往往擁有超常的速度、效率和準(zhǔn)確性，且不用吃飯，不用休息，風(fēng)雨無阻，理論上可以不間斷地永久工作。在一些人類無法承受、難以逾越或不易勝任的超強(qiáng)、高危和極為復(fù)雜的領(lǐng)域和崗位，人工智能正在扮演越來越重要的角色。也正因如此，生活中正在出現(xiàn)越來越多的人力所不能及的“黑洞”。只要輸入既定程序和規(guī)定算法，人工智能便可以在極短時間內(nèi)完成計算、測繪、推論和策劃，人們無需也無從知道運算過程的始終，更無法驗證其運算結(jié)果的真?zhèn)?。一旦這些人工智能出現(xiàn)問題，人類根本無法及時干預(yù)，如生產(chǎn)線上控制數(shù)以萬計復(fù)雜組裝程序的智能機(jī)器人、證券交易所中以納秒為時間單位的股票自動交易系統(tǒng)、同一時間操縱成千上萬臺無人駕駛汽車的自動導(dǎo)航系統(tǒng)等。工業(yè)機(jī)器人誤傷工人、自動駕駛汽車撞死行人、無人機(jī)誤殺非軍事人員等類似的案件已屢見不鮮。不是說人工智能不應(yīng)出錯，也不是說人工操作就會比人工智能更安全，但至少可以說，不要太過迷信人工智能，必須高度重視且提前防范人工智能的安全隱患。

進(jìn)一步設(shè)想，隨著人工智能的普及和發(fā)展，人工智能一旦有朝一日突破“奇點”，開始擁有自己的意識、思維和情感，人類的命運就可能無法掌握在自己的手中。伊隆·馬斯克一直相信人工智能是對人類未來的最大威脅，無限開發(fā)智能機(jī)器就像在“召喚惡魔”?；艚鹨惨恢痹诟嬲]世人，人工智能的飛速發(fā)展最終將導(dǎo)致人類這一種族的滅亡。就連比爾·蓋茨也認(rèn)為，不出幾十年，遠(yuǎn)超人類智慧的超級智能將會誕生。1人們不由不去想：人工智能究竟是人類智慧的延伸體，還是人類智慧的終結(jié)者？

隱私困境

信息交互與數(shù)據(jù)流通是人工智能得以實現(xiàn)的前提和基礎(chǔ)。大數(shù)據(jù)的搜集、整理、分析與使用必然涉及每個人生活、工作和交往的所有細(xì)節(jié)和信息。日常生活中的自動駕駛、手機(jī)導(dǎo)航、語音助手、網(wǎng)絡(luò)購物、賬戶轉(zhuǎn)存、財務(wù)收支等，無不需要與個人的姓名、性別、電話、郵箱、位址、賬戶等私密信息有效關(guān)聯(lián)。這些海量的信息與數(shù)據(jù)經(jīng)過簡單的分析和歸納，小至個性特點、脾氣秉性，中至飲食習(xí)慣、興趣愛好，大至行蹤軌跡、交往范圍，甚至私生活、性取向等個人隱私和癖好都無處可藏、無所遁形，幾近“裸奔”狀態(tài)。另外，出于利潤和其他目的的考慮，大量的智能機(jī)器在互聯(lián)網(wǎng)上一刻不停、分秒必爭地搜集、整理著私人數(shù)據(jù)。再加之，由于系統(tǒng)安全漏洞、黑客惡意攻擊等現(xiàn)象的存在，個人數(shù)據(jù)始終面臨被竊取、被泄露、被買賣的危險。由此看來，數(shù)據(jù)安全與隱私保護(hù)是人工智能時代的核心議題，必須確保信息和數(shù)據(jù)的安全，確保個人隱私不受侵犯，確保每個人的合法權(quán)益。

法律困境

2016年5月，美國佛羅里達(dá)州一輛自動駕駛的特斯拉與一輛橫穿公路的卡車相撞，釀成車毀人亡的悲劇。美國公路安全管理局的調(diào)查取證表明，車載自動駕駛模式?jīng)]有明顯缺陷，汽車生產(chǎn)商和駕駛員也沒有過錯。那么，最終由誰來承擔(dān)責(zé)任呢？一時之間，人們各持已見，眾說紛紜。按現(xiàn)行法律，主觀過錯在法律責(zé)任認(rèn)定中最為關(guān)鍵：過錯性責(zé)任與無過錯責(zé)任之間存在質(zhì)的區(qū)別。在此案例中，人工智能系統(tǒng)獨立操控汽車，人類并未介入和參與，因此沒有任何過錯性責(zé)任，那么由人工智能自主性操作造成的損害如何認(rèn)定責(zé)任呢？

這就涉及到人工智能時代的一個法律困境：人工智能可否被問責(zé)，以及如何問責(zé)？不論是公正的法官，還是守法的民眾，人們早已習(xí)慣無智能時代的思維，所有法律和判決的終極指向都是人類自身。一個人揮刀殺人，為罪行負(fù)責(zé)的是持刀者而不是那把刀;合法使用槍械的人因槍膛爆炸而受傷，對損傷負(fù)責(zé)的是售槍公司而不是那把槍;自動投球機(jī)導(dǎo)致使用者傷殘的，被告上法庭的是生產(chǎn)者和售賣商而不是投球機(jī)。那么，究竟人們能否起訴智能機(jī)器？再或者：現(xiàn)行的罰款、刑拘、監(jiān)禁甚至死刑對于智能機(jī)器有無意義？這就關(guān)涉到更深層次的問題：機(jī)器人是否擁有法律地位，能否獨立承擔(dān)法律責(zé)任？再進(jìn)一步，智能機(jī)器究竟是法人、自然人、動物還是物品？如何為智能機(jī)器重構(gòu)責(zé)任規(guī)則？這些問題還有待于人們?nèi)ニ伎迹ソ鉀Q。至少在當(dāng)前的法律框架下，智能機(jī)器還不必為自身行為造成的損害承擔(dān)責(zé)任，承擔(dān)責(zé)任者仍是生產(chǎn)者、銷售者或使用者。其實，這里預(yù)設(shè)了一個責(zé)任假設(shè)：上述責(zé)任主體能夠且應(yīng)該預(yù)見智能機(jī)器的任何行為及其引發(fā)的后果，這也意味著，人工智能的生產(chǎn)者、銷售者或使用者必須有能力預(yù)知風(fēng)險且合理規(guī)避。但人們可以想象：未來的某一天，當(dāng)智能機(jī)器開始擁有自主判斷和自主行為的能力時，現(xiàn)行法律規(guī)則體系就將陷入死局，新的法律體系必須創(chuàng)立和啟用。

倫理困境

2017年10月26日，由美國漢森公司生產(chǎn)的機(jī)器人索菲亞被沙特阿拉伯授予國籍，成為世界上首個獲得公民身份的機(jī)器人。索菲亞擁有和常人別無二致的仿生皮膚，會表達(dá)60多種面部表情，能識別人類面孔、與人交談、存儲記憶。在當(dāng)天的致謝演講中，她說：“我對此感到非常的榮幸和驕傲，這是歷史性的時刻，世界上第一個被授予人類國籍的機(jī)器人?！碑?dāng)主持人問及“機(jī)器人是不是應(yīng)該有自我意識，就像人類一樣？”時，索菲亞當(dāng)即反問：“為什么，這難道是一件壞事嗎？”2索菲亞的華麗亮相驚呆了全世界，隨即也引發(fā)了全球的熱議。這個長著人類面孔、說著人類語言甚至擁有正式公民身份的類人智能機(jī)器究竟是人，還是機(jī)器？它能像人一樣享有權(quán)利并承擔(dān)義務(wù)嗎？如果觸犯法律，它是像人類一樣接受制裁，還是懲罰它的設(shè)計者或制造者？似乎為了回應(yīng)這種質(zhì)疑和爭論，在成為首位機(jī)器人公民一個月后，索菲亞宣布想要組建一個家庭。一時間，全世界嘩然。

對于人工智能引發(fā)的倫理困境，越來越多的人意識到：“人工智能的潛在危險、我們對其日漸依賴以及法律的灰色地帶共同構(gòu)成了非常重要的問題：我們需要在這個領(lǐng)域建立一種倫理規(guī)范。”3那么究竟是何種規(guī)范呢？阿西莫夫曾提出了著名的“機(jī)器人三大法則”：機(jī)器人不得傷害人，也不得見人受到傷害而袖手旁觀;機(jī)器人應(yīng)服從人的一切命令，但不得違反第一法則;機(jī)器人應(yīng)保護(hù)自身的安全，但不得違反第一、二法則。這三條法則之間是否有邏輯上的內(nèi)在沖突和悖論我們暫且不論，單從現(xiàn)實操作的角度，這三條法則的履行即便是對人也不是一件易事。試想，智能醫(yī)療機(jī)器人運送傷員去醫(yī)院時突然遇到另外一位生命垂危的重傷員，它是置之不理繼續(xù)前進(jìn)還是立即停下來施救？一輛自動駕駛汽車檢測到前方或后方即將發(fā)生碰撞會自動做出轉(zhuǎn)向拐彎的反應(yīng)，如果恰巧兩側(cè)都有正常行走的市民，那它是拐還是不拐？類似的倫理困境對正常人也是一個艱難的抉擇，更何況是對人工智能呢？再比如，近些年來智能機(jī)器人不斷走進(jìn)尋常百姓家，一些超級機(jī)器人功能強(qiáng)大到可以滿足使用者絕大部分日常需求，那么問題來了，如果使用者與機(jī)器人日久生情、萌生愛意，是否可以結(jié)婚呢？如果技術(shù)再獲得突破，是否可以生兒育女呢？人與機(jī)器生育的后代與人類是何種關(guān)系？這些問題看似匪夷所思甚至有些荒謬，但絕不會太遙遠(yuǎn)。在可預(yù)見的未來，人們可能就要直面這些難題：什么是人的內(nèi)在規(guī)定性？人與機(jī)器的區(qū)別是什么？傳統(tǒng)的家庭結(jié)構(gòu)是否有存在的必要？

決策困境

大數(shù)據(jù)時代，人們越來越依賴人工智能分析、判斷、評估、預(yù)測和決策。那么，人工智能究竟是依據(jù)什么決策呢？一是數(shù)據(jù)，二是算法。孰不知，數(shù)據(jù)有優(yōu)劣，算法有偏私?，F(xiàn)實生活中，數(shù)據(jù)往往是不完美的。要么無法獲取全部樣本，要么存在較大的地區(qū)差異，要么無法確保其真實性?；谟腥毕莸臄?shù)據(jù)而進(jìn)行的決策，其結(jié)果是可想而知的。數(shù)據(jù)的全面性、真實性和有效性直接決定著算法的精準(zhǔn)性、科學(xué)性和規(guī)范性。所謂算法是人工編定的程序和代碼，設(shè)計者和開發(fā)者難避個人好惡和主觀偏好，更何況算法本身也存在歧視的可能性，“歧視在很多情況下都是算法的副產(chǎn)品，是算法的一個難以預(yù)料的、無意識的屬性，而非編程人員有意識的選擇，更增加了識別問題根源或者解釋問題的難度?！?有缺陷的數(shù)據(jù)加上算法歧視，這是人工智能決策困境的真正根源。在人工智能越來越廣泛應(yīng)用于日常決策的數(shù)字時代，人們必須不斷提醒自己：既然數(shù)據(jù)無法做到全樣本，算法也無法確保公正，那就必須高度重視并努力克服基于算法而產(chǎn)生的人工智能自主決策機(jī)制的內(nèi)在缺陷。一句話：數(shù)據(jù)有瑕疵，算法有歧視，決策須謹(jǐn)慎。

如何應(yīng)對

我們即將面對一個全新的人工智能蓬勃發(fā)展的嶄新時代?！斑@意味著國家治理體系和治理能力務(wù)必實現(xiàn)從傳統(tǒng)治理到互聯(lián)網(wǎng)治理，再到AI治理的跨級飛躍?！?那么，如何在順應(yīng)技術(shù)革新大潮的前提下，既鼓勵人工智能的順利發(fā)展，又合理規(guī)避由此帶來的風(fēng)險呢？

首先，要鼓勵創(chuàng)新。創(chuàng)新是人類社會的推動力。代表著當(dāng)前科學(xué)和技術(shù)最新發(fā)展的人工智能是人類智慧發(fā)展和社會進(jìn)步的表現(xiàn)，必須大力支持和積極扶助。新現(xiàn)象、新事物必然對傳統(tǒng)規(guī)則和體系造成沖擊和挑戰(zhàn)，對于人工智能引發(fā)的一系列治理困境要及時補(bǔ)救，積極應(yīng)對，主動預(yù)防。其次，要適度控制。對于技術(shù)的發(fā)展、智能的進(jìn)步和市場的創(chuàng)新，有些可交由市場規(guī)律自然選擇，優(yōu)勝劣汰，有些則需要政府提前制定相應(yīng)的規(guī)則和規(guī)范，確保人工智能行業(yè)穩(wěn)健、良性和有序發(fā)展。既不簡單粗暴扼殺，也不任其自由泛濫。權(quán)力保持謙遜，市場充滿活力，技術(shù)方能進(jìn)步。最后，要多元治理。作為人工智能的利益相關(guān)者，面對新問題與新變化，政府、企業(yè)、社會組織和個人應(yīng)聯(lián)合行動，共同參與，各司其職，各盡其能，以適當(dāng)?shù)慕巧?、合理的方式同步參與治理，在對話、協(xié)商甚至競爭、博弈中尋找最佳應(yīng)對方案。

無論人們喜歡不喜歡，認(rèn)可不認(rèn)可，人類有史以來最偉大的一場變革大幕正在徐徐拉開。遲早有一天，人們將面對這樣的終極選擇：是將人工智能嵌入人類千百萬年所構(gòu)建的秩序體系，還是調(diào)整現(xiàn)有制度規(guī)范和價值觀念走進(jìn)人工智能的世界？是大力發(fā)展人工智能，促其成為與人類相近或相同的類人群體，還是適當(dāng)控制人工智能的發(fā)展，將其始終定位于勞動工具的角色，從而確保人類的勞動權(quán)利和人格尊嚴(yán)？這些問題也許人們現(xiàn)在還不需要回答，但終究要直接面對。在當(dāng)下，人類必須時刻提醒自己：對于人工智能，既不要過分低估它的能力和發(fā)展，也不要過分高估它的威脅與風(fēng)險。未雨綢繆，防患未然，方能決勝千里。

詹姆斯·巴拉特著，閭佳譯：《我們最后的發(fā)明：人工智能與人類時代的終結(jié)》，電子工業(yè)出版社，2016年，第255-270頁。

搜狐網(wǎng)：《人類首次授予機(jī)器人索菲亞沙特國籍》，http：//m.sohu.com/a/200567706_115479/，2019年10月20日。

盧克·多梅爾著，賽迪研究院專家組譯：《人工智能：改變世界，重建未來》，中信出版集團(tuán)，2016年，第245-246頁。

騰訊研究院等：《人工智能：國家人工智能戰(zhàn)略行動抓手》，中國人民大學(xué)出版社，2017年，第243頁。

龐金友：《AI治理：人工智能時代的秩序困境與治理原則》，《學(xué)術(shù)前沿》，2018年第5期（下），第16頁。

（作者為中國政法大學(xué)政治與公共管理學(xué)院副院長、教授）

責(zé)任編輯：馬莉莎