馬靖

摘要：信息化、智能化、大數(shù)據(jù)時代的快速到來，使得人們還沒有做好充足的準(zhǔn)備就已經(jīng)身處其中，智能手機(jī)、智能可穿戴設(shè)備、自動駕駛汽車、基于大數(shù)據(jù)的個性化服務(wù)讓人們應(yīng)接不暇。公共部門作為公共秩序的維護(hù)者與公共服務(wù)的提供者，必須具有足夠強(qiáng)的警覺性，在各國將人工智能列為國家發(fā)展的重大戰(zhàn)略的同時，同樣要先考慮好人工智能時代到來后可能出現(xiàn)的治理困境。為了合理地使用人工智能促進(jìn)人類社會的發(fā)展，人們有必要提前思考公共治理可能面對的一列困境：倫理問題，個人隱私將告終結(jié);法律問題，人工智能決策的可信度與責(zé)任歸屬;秩序問題，失業(yè)與社會穩(wěn)定等等各方面，人類必須防患未然。

關(guān)鍵詞：人工智能;困境思考;建議

英國著名物理學(xué)家史蒂芬·霍金（Stephen Hawking）2016年10月在劍橋大學(xué)演講中指出：“人工智能有可能是人類文化的終結(jié)者。它既可能成為人類至今發(fā)生過的最好的事，也可能成為最糟糕的事?！比魏我豁検挛锒加袃擅嫘裕斯ぶ悄茏匀灰踩绱?。在人工智能服務(wù)于人類社會的同時，我們也看到，智能化時代的東西沒有一樣是可以憑借一個人來完成設(shè)計、生產(chǎn)、了解其運(yùn)作原理的，人們無法依靠自己的知識去單獨(dú)去了解、掌握、監(jiān)督與自己生活息息相關(guān)的每一個智能化產(chǎn)品或服務(wù)。管理的數(shù)據(jù)和信息的來源及分析已經(jīng)無法依靠人腦來單獨(dú)完成?，F(xiàn)階段人工智能的發(fā)展水平還處于起步階段，將來的超級人工智能又是否會像電影中所展示的那樣具有獨(dú)立的意識，威脅到人類文明，現(xiàn)在無從得知，我們只就現(xiàn)階段水平下，人工智能已經(jīng)顯露或有些預(yù)兆的問題加以總結(jié)思考。

一、人工智能對隱私空間的破壞

隨著信息化、大數(shù)據(jù)、人工智能時代的到來，人們對于隱私的保護(hù)意識越來越強(qiáng)，但實際上人們的隱私空間越來越狹窄。僅僅在十幾年前的上世紀(jì)，人們還在在意在公共場合被拍照片會侵犯自己的隱私權(quán)，而現(xiàn)在，這種關(guān)于人的相貌、行為、動向等諸多方面信息的采集早已遍布大街小巷，無處不在的攝像頭無需其監(jiān)控范圍內(nèi)任何人的同意，便可以無時無刻、悄無聲息地獲取各種隱私信息。一個人一天之內(nèi)從出門到回家，所有的動向都被捕捉在大數(shù)據(jù)網(wǎng)絡(luò)之內(nèi)，一方面所有的犯罪行為、犯罪分子都無所遁形，另一方面，所有的人行為動向都記錄在大數(shù)據(jù)網(wǎng)絡(luò)之中，等待某一刻被需要使用的人使用。隱私權(quán)作為公民基本的人身權(quán)利之一，公民不愿將自己的行蹤舉止毫無預(yù)告地被實時獲取，至少應(yīng)該享有決定是否讓這些隱私數(shù)據(jù)化的權(quán)力。

除了在現(xiàn)實世界的空間位置、行為動向、容貌表情等信息被幾乎是實時獲取之外，更重要的隱私空間的破壞是在虛擬世界，也就是公民在網(wǎng)絡(luò)上活動，這已經(jīng)涉及到了人們的精神生活層面。幾乎所有的網(wǎng)絡(luò)活動都會留下痕跡，這些痕跡也都能夠被人工智能獲取并分析，同時這些虛擬世界的痕跡和現(xiàn)實世界緊密結(jié)合，通過虛擬世界的痕跡搜集及分析可以十分精確地預(yù)測人們下一步的行為動向。智能手機(jī)常伴身邊，數(shù)據(jù)連接、無線網(wǎng)無處不在，我們所使用的瀏覽器、購物軟件、支付軟件、社交軟件等等，無時無刻不在記錄我們的個人信息：地理位置、瀏覽偏好、購買意圖、常用聯(lián)系人……一系列生活信息無所不包，這些信息經(jīng)過日積月累的收集整理匯集成大數(shù)據(jù)，不同軟件獲取的大數(shù)據(jù)在一定程度上的整合、匹配能夠發(fā)現(xiàn)出乎意料的信息，包括“預(yù)測未來”。人工智能又通過反饋，將一些符合你的品位、價值判斷的信息推送給你，以至使你生活在一個被預(yù)設(shè)好的圈子里，并且你對這個“圈子”里的東西深感滿意，身處在這樣的“圈子”里，你甚至沒有意識到需要“反抗”，從而人工智能在一定層面上“控制了我們”，消除了個體行為的諸多不確定因素。

二、人工智能運(yùn)算程序的安全性和可控性難以保證

如何保證人工智能按照既定的算法運(yùn)行，不會出現(xiàn)程序上的錯誤甚至功能上的改變，現(xiàn)如今人工智能算法越來越復(fù)雜，還沒有一個制度化的、可靠的方式能夠確保每一個人工智能程序的安全性。近年來特別火的一個關(guān)于人工智能的詞匯就是“深度學(xué)習(xí)”，深度學(xué)習(xí)的概念由Hinton等人于2006年提出?；谏疃戎眯啪W(wǎng)絡(luò)（DBN）提出非監(jiān)督貪心逐層訓(xùn)練算法，為解決深層結(jié)構(gòu)相關(guān)的優(yōu)化難題帶來希望。人工智能已經(jīng)從起初的監(jiān)督學(xué)習(xí)（即龐大的數(shù)據(jù)經(jīng)驗總結(jié)）發(fā)展到了“深度學(xué)習(xí)”，這已經(jīng)達(dá)到了“質(zhì)”改變了，即從歸納、模仿到自我學(xué)習(xí)、自我發(fā)現(xiàn)規(guī)則。以阿爾法狗為例，2016年3月，阿爾法狗與圍棋世界冠軍李世石進(jìn)行圍棋對戰(zhàn)，以4比1總分獲勝。經(jīng)過升級之后，2017年5月，阿爾法狗與世界排名第一的圍棋冠軍柯潔對戰(zhàn)，以3比0總分獲勝。如果說李世石與第一代阿爾法狗的對弈還有一次獲勝的機(jī)會的話，那么柯潔與使用深度學(xué)習(xí)算法的第二代阿爾法狗對弈是毫無勝算，一場也贏不了。升級版的阿爾法狗——AlphaGoZero使用新的強(qiáng)化學(xué)習(xí)方法，讓自己變成了老師。系統(tǒng)一開始甚至并不知道什么是圍棋，只是從單一神經(jīng)網(wǎng)絡(luò)開始，通過神經(jīng)網(wǎng)絡(luò)強(qiáng)大的搜索算法，進(jìn)行了自我對弈。隨著自我博弈的增加，神經(jīng)網(wǎng)絡(luò)逐漸調(diào)整，提升預(yù)測下一步的能力，最終贏得比賽。更為厲害的是，隨著訓(xùn)練的深入，AlphaGoZero還獨(dú)立發(fā)現(xiàn)了游戲規(guī)則，并走出了新策略，為圍棋這項古老游戲帶來了新的見解。

具備了“深度學(xué)習(xí)”能力的人工智能，已經(jīng)超出編程人員的預(yù)想，開始創(chuàng)造出新的東西，未來的人工智能會發(fā)展到怎樣的階段很難說得清了，這就給人工智能安全性的測定帶來了巨大的挑戰(zhàn)，甚至說是不可能，很難預(yù)測人工智能機(jī)器是否會在運(yùn)行過程中出現(xiàn)問題。同時關(guān)于對人工智能的可控性的擔(dān)憂，人們已經(jīng)在電影作品中描述了無數(shù)種可能，人工智能是否會通過“深度學(xué)習(xí)”或者將來更高層次的學(xué)習(xí)方法獲得“自我意識”，以至于產(chǎn)生對人類的敵對思想從而毀滅人類，也很難講得清。

三、人工智能系統(tǒng)中潛藏著 “人類等級制”

信息化的社會讓人們的生活更加方便快捷，不需要出門，就可以在網(wǎng)上完成購物、繳費(fèi)、購買保險等等各項事務(wù)，人們不需要見面就享受到了大部分生活服務(wù)，而伴隨其產(chǎn)生的是一套網(wǎng)絡(luò)信用體系，大數(shù)據(jù)記錄了人們所有的網(wǎng)上瀏覽操作痕跡，對每一個人的數(shù)據(jù)進(jìn)行整理分析并附在他所接觸的所有電子設(shè)備背后。打開一款支付軟件，可以找到一個“信用體系”的功能，通過你所有的網(wǎng)上交易數(shù)據(jù)，來評定個人信用值;打開一款旅游軟件，可以看到你所有去過的地點，喜歡的餐廳、食物。人工智能不斷搜集關(guān)于個體的數(shù)據(jù)，在獲得足夠多的數(shù)據(jù)之后，就可以對每個人進(jìn)行“打分”，這套分?jǐn)?shù)體系將伴隨著用戶的身份，通過用戶接觸的所有電子設(shè)備，搜集信息，窮其一生。當(dāng)人工智能服務(wù)領(lǐng)域中，幾乎所有的用戶都在系統(tǒng)中有一套完整的分?jǐn)?shù)體系后，人工智能將會使用所有人的這些分值，把用戶進(jìn)行區(qū)別對待。人類社會的公共治理中，處理問題首先考慮的應(yīng)該是社會的公平、正義，現(xiàn)代的民主政治思想強(qiáng)調(diào)“人人平等”，在兩難的困境中，絕不能以個人的身份、地位、財富等附加物來評價“生命的貴賤”。而人工智能則并非如此，它只以運(yùn)算、數(shù)理邏輯進(jìn)行決策并采取行動，一般而言，社會地位較高，擁有社會資源豐富的人，在人工智能打分系統(tǒng)中更有優(yōu)勢，人工智能通過獲取其學(xué)歷、財富、人脈、消費(fèi)層次、工作屬性等信息將其評定為高分，以“重要客戶”對待，同時反饋給“重要客戶”更多具有價值的信息，以期這些“重要客戶”能夠再來獲取更多的服務(wù)。

自動駕駛汽車的出現(xiàn)將這個問題帶到了現(xiàn)實世界，在緊急情況下，自動駕駛汽車是選擇撞上行人，還是打方向盤犧牲乘客，這個也取決于人工智能系統(tǒng)對每個人的“評分”。人工智能決策從一開始程序設(shè)定的時候就已經(jīng)決定，“車子會撞向誰”，這種運(yùn)算的邏輯絲毫不受人類倫理的影響，它不僅在各種服務(wù)環(huán)節(jié)上產(chǎn)生了歧視行為，還可能在緊急時刻決定人的生命。潛藏在人工智能背后的“人類的等級制”已經(jīng)悄然上演。

四、人工智能帶來新的社會秩序問題

這幾年來，我們見識了太多的人工智能機(jī)器，他們不斷超越我們的認(rèn)知和想象，智能化車間、移動支付、智能機(jī)器人、自動駕駛汽車，在各個方面表現(xiàn)出驚人的突破，同時在很多領(lǐng)域超越了人類的極限和能力。人類正在享受越來越全面化的人工智能服務(wù)，但同時也帶來了一些社會問題，人工智能首先代替了一些簡單機(jī)械化的工作程序，逐漸地朝著技術(shù)含量較高的層次經(jīng)發(fā)，同時由人工智能開辟的一些新興產(chǎn)業(yè)代替了手工、線下的各種產(chǎn)品和店鋪，人工智能每前進(jìn)一步，都可能對不同行業(yè)造成一定的沖擊，未來它會取代哪些工作很難預(yù)料。但顯而易見，人工智能取代人類工作的趨勢不可逆轉(zhuǎn)，特別是對底層勞動者的沖擊最為巨大，大量從事機(jī)械化或體力勞動工作者失業(yè)，造成這些人更難找到工作。面對人工智能的快速發(fā)展，公共部門應(yīng)該如何解決這些人的失業(yè)問題成了巨大的難題。

將來會不會出現(xiàn)這樣的情況，當(dāng)人類社會的文明發(fā)展到一定層次，所有人都是接受過高等教育的知識分子，從事社會交往、服務(wù)性的工作，生產(chǎn)性的工作完全有智能化機(jī)器來完成，物質(zhì)資料不能說取之不盡，但也足以滿足全社會的基本生活條件，這種生活層次相當(dāng)于現(xiàn)今中產(chǎn)階級的生活水平。從理論上講，也許是可以實現(xiàn)的，但從事物發(fā)展的角度來說，社會結(jié)構(gòu)總有兩面性，總有富裕的階層，也總有貧困的階層，人工智能是否能夠打破這種規(guī)律，很難斷定，只能說“未曾認(rèn)知的事物，你永遠(yuǎn)也無法想象它是怎樣存在的”。

五、結(jié)語

總的來說，人工智能的發(fā)展，給人類社會帶了巨大的好處，它是人類科技發(fā)展中邁上的又一大的臺階，未來的人類生產(chǎn)生活的方式都將隨著發(fā)生前所未有的改變，人工智能已經(jīng)被稱為“第四次工業(yè)革命”，它的意義是非凡的。吸取以往幾次工業(yè)革命的教訓(xùn)，在人工智能時代全面來領(lǐng)之前，我們需要去思考人工智能可能出現(xiàn)的負(fù)面影響，及時做好規(guī)劃，防患于未然。定立法律，明確私人隱私空間的范圍;維護(hù)公平正義的社會原則;規(guī)避人工智能開發(fā)源頭各種謀取私利的危害等。

【參考文獻(xiàn)】

[1]孫志軍，薛磊，許陽明，王正.深度學(xué)習(xí)研究綜述[J].計算機(jī)應(yīng)用研究，2012（08）：23-26.

[2]中國青年網(wǎng).阿爾法狗再進(jìn)化碾壓舊狗——不再受人類知識限制[N].中國青年網(wǎng)，2017.

[3]騰訊研究院.人工智能各國戰(zhàn)略解讀：英國人工智能的未來監(jiān)管措施與目標(biāo)概述[J].電信網(wǎng)技術(shù)，2017（2）：32-39.

[4]尹昊智，劉鐵志.人工智能各國戰(zhàn)略解讀：美國人工智能報告解析[J].電信網(wǎng)技術(shù)，2017（2）：52-57.

[5]董立人.人工智能發(fā)展與政府治理創(chuàng)新研究[J].天津行政學(xué)院學(xué)報，2018（3）：3-10.

[6]何哲.人工智能時代的政府適應(yīng)與轉(zhuǎn)型[J].行政管理改革，2018（6）：53-59.

[7]柳亦博.人工智能陰影下： 政府大數(shù)據(jù)治理中的倫理困境[J].行政論壇，2017（3）：97-103.