當(dāng)前，新一代人工智能技術(shù)在全球蓬勃興起，迅猛發(fā)展，與大數(shù)據(jù)、區(qū)塊鏈、5G等新技術(shù)相互融合、相互因應(yīng)，為經(jīng)濟(jì)社會(huì)發(fā)展尤其是數(shù)字經(jīng)濟(jì)發(fā)展注入新動(dòng)能，正在深刻改變社會(huì)生產(chǎn)生活方式。與此同時(shí)，如何在新技術(shù)變革浪潮中始終立于主動(dòng)，實(shí)現(xiàn)人工智能等前沿科技領(lǐng)域有效治理，確保其持續(xù)健康發(fā)展，也隨之成為一個(gè)國(guó)際國(guó)內(nèi)、社會(huì)各界都廣泛關(guān)注的重大現(xiàn)實(shí)問(wèn)題、重大時(shí)代議題。

人工智能治理是復(fù)雜性、系統(tǒng)性很高的社會(huì)議題，涵蓋政策、技術(shù)、產(chǎn)業(yè)、法律、傳播、倫理、安全、國(guó)際關(guān)系、意識(shí)形態(tài)等諸多領(lǐng)域。與之相應(yīng)，對(duì)國(guó)際國(guó)內(nèi)人工智能治理標(biāo)志性事件開(kāi)展研究，也必然需要各界協(xié)同，共同推動(dòng)。

1.AI成“監(jiān)工”：算法下外賣(mài)騎手挑戰(zhàn)交通規(guī)則，“助手”可能變“殺手”

案例描述：為提高配送效率，一些外賣(mài)平臺(tái)研究開(kāi)發(fā)了實(shí)時(shí)智能配送系統(tǒng)。借助AI算法，平臺(tái)可以最優(yōu)化地安排訂單，也能給騎手規(guī)劃最合理的路線。但出于平臺(tái)、騎手和用戶(hù)三方效率最大化的目標(biāo)，AI算法將所有時(shí)間壓縮到了極致，為了按時(shí)完成配送，騎手們只能用違法去挽回超時(shí)這件事。超速、闖紅燈、逆行……外賣(mài)騎手挑戰(zhàn)交通規(guī)則的舉動(dòng)是一種逆算法，是騎手們長(zhǎng)期在系統(tǒng)算法的控制之下做出的不得已的勞動(dòng)實(shí)踐，而這種逆算法的直接后果則是——外賣(mài)員遭遇交通事故的數(shù)量急劇上升。同時(shí)，這也意味著，在很多人類(lèi)勞動(dòng)者和AI的協(xié)作專(zhuān)業(yè)工作中，人類(lèi)將處在被管轄和被監(jiān)督之下。

點(diǎn)評(píng)：當(dāng)AI算法嵌入到人類(lèi)社會(huì)的方方面面，人類(lèi)在不知不覺(jué)中已經(jīng)作為一個(gè)數(shù)據(jù)被算法研究。AI技術(shù)的應(yīng)用應(yīng)有利于人類(lèi)社會(huì)良性發(fā)展，需要運(yùn)用法律和道德對(duì)AI技術(shù)的研發(fā)和應(yīng)用進(jìn)行約束，正確引導(dǎo)企業(yè)的價(jià)值觀。在人工智能普及的時(shí)代，也應(yīng)充分保護(hù)勞動(dòng)者的合法權(quán)益，人工智能算法的應(yīng)用在追求效率和利益之外，不可忽略人性與理性，不能讓機(jī)器的冰冷碾壓人性的光輝。

2.人工智能可以翻譯大腦想法將大腦信號(hào)轉(zhuǎn)化為文本數(shù)據(jù)，“讀懂意識(shí)”讓隱私無(wú)處遁藏

案例描述：加州大學(xué)JosephMakin博士在《自然神經(jīng)科學(xué)》雜志上發(fā)表了研究，其開(kāi)發(fā)了一個(gè)系統(tǒng)，可以將大腦活動(dòng)轉(zhuǎn)化為文本數(shù)據(jù)，單句錯(cuò)詞僅3%。

實(shí)驗(yàn)參與者被要求多次朗讀50個(gè)固定句子，研究者們跟蹤了他們講話時(shí)的神經(jīng)活動(dòng)。這些數(shù)據(jù)隨后被輸入到機(jī)器學(xué)習(xí)算法中，系統(tǒng)能將每個(gè)口述句子的大腦活動(dòng)數(shù)據(jù)轉(zhuǎn)換為數(shù)字字符串。不過(guò)，由于通過(guò)腦機(jī)接口翻譯大腦想法的技術(shù)對(duì)人們的隱私構(gòu)成了強(qiáng)大的威脅，因此也一直伴隨著不小的爭(zhēng)議。

點(diǎn)評(píng)：機(jī)器人實(shí)際上是人所創(chuàng)造出的客體，但在未來(lái)社會(huì)它可能會(huì)同人這個(gè)本體相脫離，成為本體的存在，而且反客為主，反過(guò)來(lái)束縛、支配、乃至壓抑人類(lèi)。我們這些站在食物鏈頂端的人類(lèi)會(huì)在不久的將來(lái)面臨前所未有的危機(jī)和挑戰(zhàn)，比如算法開(kāi)始替代人類(lèi)作出選擇，一些原來(lái)只有人類(lèi)能做的工作將會(huì)被機(jī)器所取代。

3.全國(guó)首例：法院認(rèn)定人工智能生成文章構(gòu)成作品，擁有著作權(quán)

案例描述：2020年1月，廣東省深圳市南山區(qū)人民法院一審審結(jié)原告深圳市騰訊計(jì)算機(jī)系統(tǒng)有限公司訴被告上海盈某科技有限公司侵害著作權(quán)及不正當(dāng)競(jìng)爭(zhēng)糾紛一案，認(rèn)定人工智能生成的文章構(gòu)成作品。此案系全國(guó)首例認(rèn)定人工智能生成的文章構(gòu)成作品案件。該案明確了人工智能生成物的獨(dú)創(chuàng)性判斷步驟，并在如何看待人工智能生成物的創(chuàng)作過(guò)程以及相關(guān)人工智能使用人員的行為能否被認(rèn)定為法律意義上的創(chuàng)作行為的問(wèn)題上做出了探索，認(rèn)定人工智能生成的文章構(gòu)成作品，對(duì)于今后同類(lèi)型案件的審理有一定的借鑒意義。

點(diǎn)評(píng)：隨著社會(huì)發(fā)展，未來(lái)人工智能在各行業(yè)的應(yīng)用、人工智能的歸屬權(quán)、法律是否將其定義為一個(gè)法律主體，將是很重要的一個(gè)爭(zhēng)執(zhí)點(diǎn)。

4.歐美、韓國(guó)相繼出臺(tái)AI治理新規(guī)，嚴(yán)格限制、甚至禁用相關(guān)人工智能技術(shù)在某些場(chǎng)景的發(fā)展和應(yīng)用

案例描述：歐盟委員會(huì)發(fā)布《人工智能白皮書(shū)》，希望通過(guò)不斷實(shí)現(xiàn)科學(xué)突破，維護(hù)歐盟的技術(shù)領(lǐng)先地位并確保新技術(shù)在尊重人權(quán)的基礎(chǔ)上，改善人們生活。當(dāng)前歐洲采取了一致的方法來(lái)應(yīng)對(duì)AI對(duì)人類(lèi)和社會(huì)道德的影響，并思考了如何利用大數(shù)據(jù)進(jìn)行創(chuàng)新。歐盟正在考慮禁止在公共場(chǎng)所使用人臉識(shí)別技術(shù)長(zhǎng)達(dá)五年，以便有時(shí)間研究如何防止這種技術(shù)被濫用。歐盟委員會(huì)表示，在為期3至5年的禁令期間，“可以確定和制定評(píng)估這一技術(shù)的影響和可能的風(fēng)險(xiǎn)管理措施的健全方法”。歐盟文件稱(chēng)，對(duì)于安全項(xiàng)目以及科技研發(fā)活動(dòng)，禁令可能會(huì)有例外。該文件還建議，對(duì)人工智能的開(kāi)發(fā)者和用戶(hù)都施加一些義務(wù)，歐盟國(guó)家的政府應(yīng)該指定監(jiān)管機(jī)構(gòu)來(lái)監(jiān)管新規(guī)則。

韓國(guó)科學(xué)技術(shù)信息通信部2020年11月27日與情報(bào)通信政策研究院（KISDI）共同發(fā)布“國(guó)家人工智能倫理標(biāo)準(zhǔn)”，提出理想的人工智能開(kāi)發(fā)和運(yùn)用方向，指出人工智能需以人為中心。在開(kāi)發(fā)和運(yùn)用人工智能的過(guò)程中，需遵守維護(hù)人的尊嚴(yán)、社會(huì)公益和技術(shù)合乎目的這3大原則。

此外，美國(guó)東海岸城市波士頓通過(guò)了禁止面部識(shí)別技術(shù)用于市政用途的投票。這是自2019年5月舊金山頒布此項(xiàng)禁令以來(lái)，采用此項(xiàng)禁令的第二大美國(guó)城市。該法令獲得一致通過(guò)，這條法令將阻止城市使用面部識(shí)別技術(shù)或獲得使用該技術(shù)進(jìn)行監(jiān)視的軟件。此后，俄勒岡州波特蘭、緬因州波特蘭也均通過(guò)了類(lèi)似禁令以限制該技術(shù)在政府部門(mén)的應(yīng)用。

點(diǎn)評(píng)：人工智能治理的核心要素中基本價(jià)值觀、治理體系、參與者、治理對(duì)象以及效果評(píng)價(jià)五個(gè)方面至關(guān)重要。很多治理問(wèn)題可以通過(guò)技術(shù)本身來(lái)解決，目前人工智能發(fā)展面臨的最大挑戰(zhàn)是：人工智能技術(shù)發(fā)展太快，而治理準(zhǔn)則作為一種社會(huì)體系，其發(fā)展有其程序，又是緩慢的，因此，我們需要“敏捷治理”。人類(lèi)應(yīng)一同尋找人工智能共同的準(zhǔn)則和規(guī)則，引導(dǎo)人工智能的健康發(fā)展，為人類(lèi)造福。

5.AI向善，技術(shù)預(yù)警獨(dú)居老人水表及校園暴力行為

案例描述：“水表”和“老人安全”看似沒(méi)有關(guān)聯(lián)，但在上海市長(zhǎng)寧區(qū)江蘇路街道“一網(wǎng)統(tǒng)管”平臺(tái)，隱藏背后的邏輯清晰可見(jiàn)——當(dāng)獨(dú)居老人家中超過(guò)12小時(shí)用水不足0.01立方米時(shí)，系統(tǒng)會(huì)判斷老人家中有事，并及時(shí)向居委會(huì)預(yù)警。一個(gè)小小的設(shè)計(jì)，沒(méi)有像攝像頭那樣不得不關(guān)注老人過(guò)多的隱私，也無(wú)需大量的經(jīng)濟(jì)和人力投入，就能實(shí)現(xiàn)對(duì)老年人的關(guān)愛(ài)，甚至關(guān)鍵時(shí)刻能挽救老人的生命。

北京某科技公司生產(chǎn)的校園暴力AI防控語(yǔ)音偵測(cè)設(shè)備，可以作為視頻監(jiān)控的彌補(bǔ)而出現(xiàn)在校園安全解決方案當(dāng)中，為平安校園再添新色彩。該產(chǎn)品通過(guò)AI音頻識(shí)別，全天候監(jiān)控異常聲音，自動(dòng)報(bào)警及聲光驅(qū)離等技術(shù)，重點(diǎn)勘察校園視頻監(jiān)控“死角”，在校園霸凌事件發(fā)生中及時(shí)干擾、阻止，制止校園暴力的發(fā)生。

點(diǎn)評(píng)：AI技術(shù)的落地應(yīng)用，在一定程度上可有效提升人們生活的安全性，但也要考慮到無(wú)限的監(jiān)聽(tīng)會(huì)引發(fā)隱私及對(duì)其他問(wèn)題的擔(dān)憂(yōu)。

6.美國(guó)科技巨頭依據(jù)自身道德判斷，加強(qiáng)企業(yè)自律及對(duì)人工智能技術(shù)的監(jiān)管

案例描述：據(jù)外媒消息，IBM將不再提供、開(kāi)發(fā)或研究面部識(shí)別技術(shù)，并表示“IBM堅(jiān)決反對(duì)并且不會(huì)容忍將任何面部識(shí)別技術(shù)用于大規(guī)模監(jiān)視、侵犯基本人權(quán)和自由或與我們的宗旨不符的任何行為?！贝送?，亞馬遜、微軟也均表態(tài)要支持種族平等，叫停人臉識(shí)別：亞馬遜聲明暫停向警方提供人臉識(shí)別技術(shù)一年時(shí)間；微軟也表態(tài)停止向警方銷(xiāo)售人臉識(shí)別軟件，直到有相關(guān)國(guó)家法律出臺(tái)。

歐盟有關(guān)方面和微軟、IBM等科技巨頭共同簽署了《人工智能倫理羅馬宣言》，討論如何規(guī)范人工智能的社會(huì)影響，這是歐盟推動(dòng)全球數(shù)字經(jīng)濟(jì)監(jiān)管新標(biāo)準(zhǔn)的最新舉措。與美國(guó)不同，在數(shù)字經(jīng)濟(jì)和人工智能領(lǐng)域，歐盟采取的是先規(guī)范后發(fā)展的路徑?！度斯ぶ悄軅惱砹_馬宣言》指出，人工智能技術(shù)應(yīng)尊重個(gè)人隱私，以可靠而無(wú)偏見(jiàn)的方式工作，考慮所有人的需求，并以透明方式運(yùn)作。這些表述顯示歐盟擔(dān)憂(yōu)人工智能的負(fù)面影響，認(rèn)為人工智能系統(tǒng)尚處于研究階段，其做出的決定往往難以預(yù)測(cè)。

Google啟動(dòng)了800多名員工的初始“技術(shù)道德”培訓(xùn)，并還針對(duì)AI原則問(wèn)題發(fā)現(xiàn)了新的培訓(xùn)。Google最近發(fā)布了此培訓(xùn)的一個(gè)版本，作為面向客戶(hù)的Cloud團(tuán)隊(duì)的必修課程，已有5，000名Cloud員工參加了該培訓(xùn)。這些員工提出了一些關(guān)鍵問(wèn)題來(lái)發(fā)現(xiàn)潛在的道德問(wèn)題，例如AI應(yīng)用程序是否會(huì)導(dǎo)致經(jīng)濟(jì)或教育上的排斥或造成身體、心理、社會(huì)或環(huán)境傷害。

點(diǎn)評(píng)：我們需要思考AI與企業(yè)治理的關(guān)系，AI倫理如何嵌入到商業(yè)運(yùn)行之中。誰(shuí)來(lái)做企業(yè)開(kāi)發(fā)AI算法時(shí)的最后判斷者？我們應(yīng)該從哪個(gè)環(huán)節(jié)切入，思考人工智能所導(dǎo)致的結(jié)果。

7.自動(dòng)駕駛服務(wù)進(jìn)入快車(chē)道，“無(wú)人車(chē)”行駛背后的權(quán)責(zé)歸屬引關(guān)注

案例描述：據(jù)不完全統(tǒng)計(jì)，我國(guó)有融資信息的無(wú)人駕駛相關(guān)企業(yè)超過(guò)70家，融資金額高達(dá)數(shù)百億元。此外，我國(guó)共有超過(guò)1.2萬(wàn)件與“自動(dòng)駕駛”或“無(wú)人駕駛”相關(guān)的專(zhuān)利，其中于2019年新申請(qǐng)的專(zhuān)利超過(guò)3000余件。2020年10月，百度官微發(fā)布，自動(dòng)駕駛出租車(chē)服務(wù)在北京經(jīng)濟(jì)技術(shù)開(kāi)發(fā)區(qū)、海淀區(qū)、順義區(qū)等地全面開(kāi)放，數(shù)十個(gè)自動(dòng)駕駛出租車(chē)站點(diǎn)，不需要提前預(yù)約，直接下單就能免費(fèi)試乘自動(dòng)駕駛出租車(chē)服務(wù)。2020年6月，滴滴首次面向公眾開(kāi)放了無(wú)人駕駛服務(wù)。目前中美兩地已有近400人的團(tuán)隊(duì)，已獲得北京、上海、蘇州、美國(guó)加州等地路測(cè)資格。

點(diǎn)評(píng)：隨著當(dāng)代人工智能技術(shù)的快速發(fā)展和廣泛應(yīng)用，智能物聯(lián)網(wǎng)技術(shù)使得對(duì)“物的流動(dòng)”的實(shí)時(shí)管理成為可能，極大地提高了效率、降低了人力成本。同時(shí)，智能物聯(lián)網(wǎng)技術(shù)也為城市管理水平的提高提供了一條可行的技術(shù)路徑，其核心是“感知化”“互聯(lián)化”和“智能化”，例如，城市交通管理、共享單車(chē)管理以及無(wú)人駕駛出租車(chē)管理等，將商業(yè)、運(yùn)輸、通信、能源等城市運(yùn)行的各個(gè)系統(tǒng)整合為“系統(tǒng)之系統(tǒng)”。

8.人工智能技術(shù)突破現(xiàn)有邊界，具備“自主意識(shí)”，可實(shí)現(xiàn)獨(dú)立研發(fā)、自我修復(fù)等功能

案例描述：美國(guó)麻省理工學(xué)院（MIT）科學(xué)家在最新一期《細(xì)胞》雜志撰文稱(chēng)，他們新研制出的一種深度學(xué)習(xí)人工智能（AI），鑒定出一種全新抗生素。實(shí)驗(yàn)室測(cè)試表明，這種抗生素能有效殺死多種世界上最麻煩的致病細(xì)菌，包括一些對(duì)所有已知抗生素耐藥的菌株。

美國(guó)佛蒙特大學(xué)計(jì)算機(jī)科學(xué)家和塔夫茨大學(xué)生物學(xué)家共同創(chuàng)造出100%使用青蛙DNA的可編程的活體機(jī)器人Xenobot，這種機(jī)器人的體長(zhǎng)僅0.04英寸（約1毫米），能按照計(jì)算機(jī)程序設(shè)計(jì)的路線移動(dòng)，還能負(fù)載一定的重量，攜帶藥物在人體內(nèi)部移動(dòng)。Xenobot具有自我修復(fù)功能，當(dāng)科學(xué)家把它們進(jìn)行切割時(shí)，機(jī)器人會(huì)自行愈合并繼續(xù)移動(dòng)。佛蒙特大學(xué)表示，這些是“完全新的生命形式”?！八鼈兗炔皇莻鹘y(tǒng)的機(jī)器人，也不是已知的動(dòng)物物種。它是一類(lèi)新的人工制品：一種活的可編程生物?！?/p>

點(diǎn)評(píng)：人工智能不但能替代一些傳統(tǒng)工作，提升效率、促進(jìn)企業(yè)發(fā)展，同時(shí)也可以做一些單靠人工無(wú)法進(jìn)行的工作，并且為人類(lèi)未來(lái)的幸福生活提供了新的可能性。但我們要注意它的強(qiáng)大性和不可解釋性也帶了一些風(fēng)險(xiǎn)。這個(gè)案例體現(xiàn)了新技術(shù)的可能性，但在技術(shù)早期探索時(shí)，我們也要做一個(gè)嵌入式倫理的研究與控制。

9.湖南岳陽(yáng)警方破獲AI犯罪案，技術(shù)犯罪仍要懲罰人

案例描述：湖南省岳陽(yáng)市岳陽(yáng)樓公安分局聯(lián)合市局網(wǎng)技支隊(duì)破獲了一起利用人工智能語(yǔ)音機(jī)器人幫助網(wǎng)絡(luò)犯罪案，抓獲犯罪嫌疑人19人，查獲了大量作案電腦和手機(jī)，扣押涉案現(xiàn)金100余萬(wàn)元，凍結(jié)涉案資金1000余萬(wàn)元。該團(tuán)伙利用“AI智能語(yǔ)音機(jī)器人”對(duì)非法獲取的大批量手機(jī)號(hào)碼進(jìn)行撥打，通過(guò)“AI智能語(yǔ)音機(jī)器人”篩選后，將正在炒股或者有炒股意向的受害人拉入預(yù)先建立的虛假炒股微信群，進(jìn)而實(shí)施詐騙。目前，包括黃某在內(nèi)的12名主要犯罪嫌疑人已全部被公安機(jī)關(guān)依法刑事拘留，7人被依法治安拘留，相關(guān)案情正在進(jìn)一步深挖之中。

點(diǎn)評(píng)：AI技術(shù)具有雙面性，一方面能大幅度減少人力成本，提高工作效率，另一方面也可能為不法分子利用。本例案件采用的技術(shù)并不復(fù)雜，主要是通過(guò)AI智能語(yǔ)音機(jī)器人來(lái)替代原來(lái)的真人詐騙犯，再用真假難辨的虛擬機(jī)器人進(jìn)行智能分析和誘騙。我們需要提高AI應(yīng)用的準(zhǔn)入門(mén)檻，進(jìn)行有效的身份鑒別。同時(shí)也要對(duì)AI技術(shù)的新進(jìn)展進(jìn)行持續(xù)的關(guān)注和跟蹤，以及對(duì)潛在的風(fēng)險(xiǎn)如AI偏見(jiàn)、AI換聲換臉等保持一定的警惕性，避免技術(shù)被不法分子所利用，危害社會(huì)發(fā)展。

10.人工智能首次控制美國(guó)軍用系統(tǒng)，或?qū)㈤_(kāi)啟算法戰(zhàn)新時(shí)代

案例描述：2020年12月15日，美國(guó)空軍在加利福尼亞州首次成功使用人工智能副駕駛控制一架U2偵察機(jī)的雷達(dá)和傳感器等系統(tǒng)，這是人工智能首次控制美國(guó)軍用系統(tǒng)，將開(kāi)啟算法戰(zhàn)的新時(shí)代。從三年前開(kāi)始，美國(guó)空軍開(kāi)始大步向數(shù)字化時(shí)代邁進(jìn)。最終開(kāi)發(fā)出軍用人工智能算法，組建了五角大樓第一批商業(yè)化開(kāi)發(fā)團(tuán)隊(duì)，編寫(xiě)云代碼，甚至還建立了一個(gè)戰(zhàn)斗云網(wǎng)絡(luò)，通過(guò)該網(wǎng)絡(luò)，美軍以極高的機(jī)器響應(yīng)速度擊落了一枚巡航導(dǎo)彈。

點(diǎn)評(píng)：算法戰(zhàn)的出現(xiàn)意味著人類(lèi)軍事戰(zhàn)爭(zhēng)一個(gè)嶄新階段的來(lái)臨，也意味著數(shù)字化軍事戰(zhàn)爭(zhēng)的一種形態(tài)。在軍事戰(zhàn)爭(zhēng)中，武器，作為人類(lèi)肢體和智力延伸的工具，一直是戰(zhàn)爭(zhēng)勝負(fù)的決定性變量。熱兵器對(duì)冷兵器的替代，是武器對(duì)人類(lèi)肢體和體力的延伸；算法和無(wú)人機(jī)對(duì)人的肢體和體力的替代，則是武器對(duì)人類(lèi)智力的延伸，是人類(lèi)戰(zhàn)爭(zhēng)的第二次本質(zhì)躍升，并將從此改變戰(zhàn)爭(zhēng)的諸多屬性！

（編輯/高緯時(shí)）