當(dāng)前，新一代人工智能技術(shù)在全球蓬勃興起，迅猛發(fā)展，與大數(shù)據(jù)、區(qū)塊鏈、5G等新技術(shù)相互融合、相互因應(yīng)，為經(jīng)濟(jì)社會發(fā)展尤其是數(shù)字經(jīng)濟(jì)發(fā)展注入新動能，正在深刻改變社會生產(chǎn)生活方式。與此同時，如何在新技術(shù)變革浪潮中始終立于主動，實現(xiàn)人工智能等前沿科技領(lǐng)域有效治理，確保其持續(xù)健康發(fā)展，也隨之成為一個國際國內(nèi)、社會各界都廣泛關(guān)注的重大現(xiàn)實問題、重大時代議題。

人工智能治理是復(fù)雜性、系統(tǒng)性很高的社會議題，涵蓋政策、技術(shù)、產(chǎn)業(yè)、法律、傳播、倫理、安全、國際關(guān)系、意識形態(tài)等諸多領(lǐng)域。與之相應(yīng)，對國際國內(nèi)人工智能治理標(biāo)志性事件開展研究，也必然需要各界協(xié)同，共同推動。

1.AI成“監(jiān)工”：算法下外賣騎手挑戰(zhàn)交通規(guī)則，“助手”可能變“殺手”

案例描述：為提高配送效率，一些外賣平臺研究開發(fā)了實時智能配送系統(tǒng)。借助AI算法，平臺可以最優(yōu)化地安排訂單，也能給騎手規(guī)劃最合理的路線。但出于平臺、騎手和用戶三方效率最大化的目標(biāo)，AI算法將所有時間壓縮到了極致，為了按時完成配送，騎手們只能用違法去挽回超時這件事。超速、闖紅燈、逆行……外賣騎手挑戰(zhàn)交通規(guī)則的舉動是一種逆算法，是騎手們長期在系統(tǒng)算法的控制之下做出的不得已的勞動實踐，而這種逆算法的直接后果則是——外賣員遭遇交通事故的數(shù)量急劇上升。同時，這也意味著，在很多人類勞動者和AI的協(xié)作專業(yè)工作中，人類將處在被管轄和被監(jiān)督之下。

點評：當(dāng)AI算法嵌入到人類社會的方方面面，人類在不知不覺中已經(jīng)作為一個數(shù)據(jù)被算法研究。AI技術(shù)的應(yīng)用應(yīng)有利于人類社會良性發(fā)展，需要運用法律和道德對AI技術(shù)的研發(fā)和應(yīng)用進(jìn)行約束，正確引導(dǎo)企業(yè)的價值觀。在人工智能普及的時代，也應(yīng)充分保護(hù)勞動者的合法權(quán)益，人工智能算法的應(yīng)用在追求效率和利益之外，不可忽略人性與理性，不能讓機(jī)器的冰冷碾壓人性的光輝。

2.人工智能可以翻譯大腦想法將大腦信號轉(zhuǎn)化為文本數(shù)據(jù)，“讀懂意識”讓隱私無處遁藏

案例描述：加州大學(xué)JosephMakin博士在《自然神經(jīng)科學(xué)》雜志上發(fā)表了研究，其開發(fā)了一個系統(tǒng)，可以將大腦活動轉(zhuǎn)化為文本數(shù)據(jù)，單句錯詞僅3%。

實驗參與者被要求多次朗讀50個固定句子，研究者們跟蹤了他們講話時的神經(jīng)活動。這些數(shù)據(jù)隨后被輸入到機(jī)器學(xué)習(xí)算法中，系統(tǒng)能將每個口述句子的大腦活動數(shù)據(jù)轉(zhuǎn)換為數(shù)字字符串。不過，由于通過腦機(jī)接口翻譯大腦想法的技術(shù)對人們的隱私構(gòu)成了強大的威脅，因此也一直伴隨著不小的爭議。

點評：機(jī)器人實際上是人所創(chuàng)造出的客體，但在未來社會它可能會同人這個本體相脫離，成為本體的存在，而且反客為主，反過來束縛、支配、乃至壓抑人類。我們這些站在食物鏈頂端的人類會在不久的將來面臨前所未有的危機(jī)和挑戰(zhàn)，比如算法開始替代人類作出選擇，一些原來只有人類能做的工作將會被機(jī)器所取代。

3.全國首例：法院認(rèn)定人工智能生成文章構(gòu)成作品，擁有著作權(quán)

案例描述：2020年1月，廣東省深圳市南山區(qū)人民法院一審審結(jié)原告深圳市騰訊計算機(jī)系統(tǒng)有限公司訴被告上海盈某科技有限公司侵害著作權(quán)及不正當(dāng)競爭糾紛一案，認(rèn)定人工智能生成的文章構(gòu)成作品。此案系全國首例認(rèn)定人工智能生成的文章構(gòu)成作品案件。該案明確了人工智能生成物的獨創(chuàng)性判斷步驟，并在如何看待人工智能生成物的創(chuàng)作過程以及相關(guān)人工智能使用人員的行為能否被認(rèn)定為法律意義上的創(chuàng)作行為的問題上做出了探索，認(rèn)定人工智能生成的文章構(gòu)成作品，對于今后同類型案件的審理有一定的借鑒意義。

點評：隨著社會發(fā)展，未來人工智能在各行業(yè)的應(yīng)用、人工智能的歸屬權(quán)、法律是否將其定義為一個法律主體，將是很重要的一個爭執(zhí)點。

4.歐美、韓國相繼出臺AI治理新規(guī)，嚴(yán)格限制、甚至禁用相關(guān)人工智能技術(shù)在某些場景的發(fā)展和應(yīng)用

案例描述：歐盟委員會發(fā)布《人工智能白皮書》，希望通過不斷實現(xiàn)科學(xué)突破，維護(hù)歐盟的技術(shù)領(lǐng)先地位并確保新技術(shù)在尊重人權(quán)的基礎(chǔ)上，改善人們生活。當(dāng)前歐洲采取了一致的方法來應(yīng)對AI對人類和社會道德的影響，并思考了如何利用大數(shù)據(jù)進(jìn)行創(chuàng)新。歐盟正在考慮禁止在公共場所使用人臉識別技術(shù)長達(dá)五年，以便有時間研究如何防止這種技術(shù)被濫用。歐盟委員會表示，在為期3至5年的禁令期間，“可以確定和制定評估這一技術(shù)的影響和可能的風(fēng)險管理措施的健全方法”。歐盟文件稱，對于安全項目以及科技研發(fā)活動，禁令可能會有例外。該文件還建議，對人工智能的開發(fā)者和用戶都施加一些義務(wù)，歐盟國家的政府應(yīng)該指定監(jiān)管機(jī)構(gòu)來監(jiān)管新規(guī)則。

韓國科學(xué)技術(shù)信息通信部2020年11月27日與情報通信政策研究院（KISDI）共同發(fā)布“國家人工智能倫理標(biāo)準(zhǔn)”，提出理想的人工智能開發(fā)和運用方向，指出人工智能需以人為中心。在開發(fā)和運用人工智能的過程中，需遵守維護(hù)人的尊嚴(yán)、社會公益和技術(shù)合乎目的這3大原則。

此外，美國東海岸城市波士頓通過了禁止面部識別技術(shù)用于市政用途的投票。這是自2019年5月舊金山頒布此項禁令以來，采用此項禁令的第二大美國城市。該法令獲得一致通過，這條法令將阻止城市使用面部識別技術(shù)或獲得使用該技術(shù)進(jìn)行監(jiān)視的軟件。此后，俄勒岡州波特蘭、緬因州波特蘭也均通過了類似禁令以限制該技術(shù)在政府部門的應(yīng)用。

點評：人工智能治理的核心要素中基本價值觀、治理體系、參與者、治理對象以及效果評價五個方面至關(guān)重要。很多治理問題可以通過技術(shù)本身來解決，目前人工智能發(fā)展面臨的最大挑戰(zhàn)是：人工智能技術(shù)發(fā)展太快，而治理準(zhǔn)則作為一種社會體系，其發(fā)展有其程序，又是緩慢的，因此，我們需要“敏捷治理”。人類應(yīng)一同尋找人工智能共同的準(zhǔn)則和規(guī)則，引導(dǎo)人工智能的健康發(fā)展，為人類造福。

5.AI向善，技術(shù)預(yù)警獨居老人水表及校園暴力行為

案例描述：“水表”和“老人安全”看似沒有關(guān)聯(lián)，但在上海市長寧區(qū)江蘇路街道“一網(wǎng)統(tǒng)管”平臺，隱藏背后的邏輯清晰可見——當(dāng)獨居老人家中超過12小時用水不足0.01立方米時，系統(tǒng)會判斷老人家中有事，并及時向居委會預(yù)警。一個小小的設(shè)計，沒有像攝像頭那樣不得不關(guān)注老人過多的隱私，也無需大量的經(jīng)濟(jì)和人力投入，就能實現(xiàn)對老年人的關(guān)愛，甚至關(guān)鍵時刻能挽救老人的生命。

北京某科技公司生產(chǎn)的校園暴力AI防控語音偵測設(shè)備，可以作為視頻監(jiān)控的彌補而出現(xiàn)在校園安全解決方案當(dāng)中，為平安校園再添新色彩。該產(chǎn)品通過AI音頻識別，全天候監(jiān)控異常聲音，自動報警及聲光驅(qū)離等技術(shù)，重點勘察校園視頻監(jiān)控“死角”，在校園霸凌事件發(fā)生中及時干擾、阻止，制止校園暴力的發(fā)生。

點評：AI技術(shù)的落地應(yīng)用，在一定程度上可有效提升人們生活的安全性，但也要考慮到無限的監(jiān)聽會引發(fā)隱私及對其他問題的擔(dān)憂。

6.美國科技巨頭依據(jù)自身道德判斷，加強企業(yè)自律及對人工智能技術(shù)的監(jiān)管

案例描述：據(jù)外媒消息，IBM將不再提供、開發(fā)或研究面部識別技術(shù)，并表示“IBM堅決反對并且不會容忍將任何面部識別技術(shù)用于大規(guī)模監(jiān)視、侵犯基本人權(quán)和自由或與我們的宗旨不符的任何行為。”此外，亞馬遜、微軟也均表態(tài)要支持種族平等，叫停人臉識別：亞馬遜聲明暫停向警方提供人臉識別技術(shù)一年時間；微軟也表態(tài)停止向警方銷售人臉識別軟件，直到有相關(guān)國家法律出臺。

歐盟有關(guān)方面和微軟、IBM等科技巨頭共同簽署了《人工智能倫理羅馬宣言》，討論如何規(guī)范人工智能的社會影響，這是歐盟推動全球數(shù)字經(jīng)濟(jì)監(jiān)管新標(biāo)準(zhǔn)的最新舉措。與美國不同，在數(shù)字經(jīng)濟(jì)和人工智能領(lǐng)域，歐盟采取的是先規(guī)范后發(fā)展的路徑?！度斯ぶ悄軅惱砹_馬宣言》指出，人工智能技術(shù)應(yīng)尊重個人隱私，以可靠而無偏見的方式工作，考慮所有人的需求，并以透明方式運作。這些表述顯示歐盟擔(dān)憂人工智能的負(fù)面影響，認(rèn)為人工智能系統(tǒng)尚處于研究階段，其做出的決定往往難以預(yù)測。

Google啟動了800多名員工的初始“技術(shù)道德”培訓(xùn)，并還針對AI原則問題發(fā)現(xiàn)了新的培訓(xùn)。Google最近發(fā)布了此培訓(xùn)的一個版本，作為面向客戶的Cloud團(tuán)隊的必修課程，已有5，000名Cloud員工參加了該培訓(xùn)。這些員工提出了一些關(guān)鍵問題來發(fā)現(xiàn)潛在的道德問題，例如AI應(yīng)用程序是否會導(dǎo)致經(jīng)濟(jì)或教育上的排斥或造成身體、心理、社會或環(huán)境傷害。

點評：我們需要思考AI與企業(yè)治理的關(guān)系，AI倫理如何嵌入到商業(yè)運行之中。誰來做企業(yè)開發(fā)AI算法時的最后判斷者？我們應(yīng)該從哪個環(huán)節(jié)切入，思考人工智能所導(dǎo)致的結(jié)果。

7.自動駕駛服務(wù)進(jìn)入快車道，“無人車”行駛背后的權(quán)責(zé)歸屬引關(guān)注

案例描述：據(jù)不完全統(tǒng)計，我國有融資信息的無人駕駛相關(guān)企業(yè)超過70家，融資金額高達(dá)數(shù)百億元。此外，我國共有超過1.2萬件與“自動駕駛”或“無人駕駛”相關(guān)的專利，其中于2019年新申請的專利超過3000余件。2020年10月，百度官微發(fā)布，自動駕駛出租車服務(wù)在北京經(jīng)濟(jì)技術(shù)開發(fā)區(qū)、海淀區(qū)、順義區(qū)等地全面開放，數(shù)十個自動駕駛出租車站點，不需要提前預(yù)約，直接下單就能免費試乘自動駕駛出租車服務(wù)。2020年6月，滴滴首次面向公眾開放了無人駕駛服務(wù)。目前中美兩地已有近400人的團(tuán)隊，已獲得北京、上海、蘇州、美國加州等地路測資格。

點評：隨著當(dāng)代人工智能技術(shù)的快速發(fā)展和廣泛應(yīng)用，智能物聯(lián)網(wǎng)技術(shù)使得對“物的流動”的實時管理成為可能，極大地提高了效率、降低了人力成本。同時，智能物聯(lián)網(wǎng)技術(shù)也為城市管理水平的提高提供了一條可行的技術(shù)路徑，其核心是“感知化”“互聯(lián)化”和“智能化”，例如，城市交通管理、共享單車管理以及無人駕駛出租車管理等，將商業(yè)、運輸、通信、能源等城市運行的各個系統(tǒng)整合為“系統(tǒng)之系統(tǒng)”。

8.人工智能技術(shù)突破現(xiàn)有邊界，具備“自主意識”，可實現(xiàn)獨立研發(fā)、自我修復(fù)等功能

案例描述：美國麻省理工學(xué)院（MIT）科學(xué)家在最新一期《細(xì)胞》雜志撰文稱，他們新研制出的一種深度學(xué)習(xí)人工智能（AI），鑒定出一種全新抗生素。實驗室測試表明，這種抗生素能有效殺死多種世界上最麻煩的致病細(xì)菌，包括一些對所有已知抗生素耐藥的菌株。

美國佛蒙特大學(xué)計算機(jī)科學(xué)家和塔夫茨大學(xué)生物學(xué)家共同創(chuàng)造出100%使用青蛙DNA的可編程的活體機(jī)器人Xenobot，這種機(jī)器人的體長僅0.04英寸（約1毫米），能按照計算機(jī)程序設(shè)計的路線移動，還能負(fù)載一定的重量，攜帶藥物在人體內(nèi)部移動。Xenobot具有自我修復(fù)功能，當(dāng)科學(xué)家把它們進(jìn)行切割時，機(jī)器人會自行愈合并繼續(xù)移動。佛蒙特大學(xué)表示，這些是“完全新的生命形式”?！八鼈兗炔皇莻鹘y(tǒng)的機(jī)器人，也不是已知的動物物種。它是一類新的人工制品：一種活的可編程生物。”

點評：人工智能不但能替代一些傳統(tǒng)工作，提升效率、促進(jìn)企業(yè)發(fā)展，同時也可以做一些單靠人工無法進(jìn)行的工作，并且為人類未來的幸福生活提供了新的可能性。但我們要注意它的強大性和不可解釋性也帶了一些風(fēng)險。這個案例體現(xiàn)了新技術(shù)的可能性，但在技術(shù)早期探索時，我們也要做一個嵌入式倫理的研究與控制。

9.湖南岳陽警方破獲AI犯罪案，技術(shù)犯罪仍要懲罰人

案例描述：湖南省岳陽市岳陽樓公安分局聯(lián)合市局網(wǎng)技支隊破獲了一起利用人工智能語音機(jī)器人幫助網(wǎng)絡(luò)犯罪案，抓獲犯罪嫌疑人19人，查獲了大量作案電腦和手機(jī)，扣押涉案現(xiàn)金100余萬元，凍結(jié)涉案資金1000余萬元。該團(tuán)伙利用“AI智能語音機(jī)器人”對非法獲取的大批量手機(jī)號碼進(jìn)行撥打，通過“AI智能語音機(jī)器人”篩選后，將正在炒股或者有炒股意向的受害人拉入預(yù)先建立的虛假炒股微信群，進(jìn)而實施詐騙。目前，包括黃某在內(nèi)的12名主要犯罪嫌疑人已全部被公安機(jī)關(guān)依法刑事拘留，7人被依法治安拘留，相關(guān)案情正在進(jìn)一步深挖之中。

點評：AI技術(shù)具有雙面性，一方面能大幅度減少人力成本，提高工作效率，另一方面也可能為不法分子利用。本例案件采用的技術(shù)并不復(fù)雜，主要是通過AI智能語音機(jī)器人來替代原來的真人詐騙犯，再用真假難辨的虛擬機(jī)器人進(jìn)行智能分析和誘騙。我們需要提高AI應(yīng)用的準(zhǔn)入門檻，進(jìn)行有效的身份鑒別。同時也要對AI技術(shù)的新進(jìn)展進(jìn)行持續(xù)的關(guān)注和跟蹤，以及對潛在的風(fēng)險如AI偏見、AI換聲換臉等保持一定的警惕性，避免技術(shù)被不法分子所利用，危害社會發(fā)展。

10.人工智能首次控制美國軍用系統(tǒng)，或?qū)㈤_啟算法戰(zhàn)新時代

案例描述：2020年12月15日，美國空軍在加利福尼亞州首次成功使用人工智能副駕駛控制一架U2偵察機(jī)的雷達(dá)和傳感器等系統(tǒng)，這是人工智能首次控制美國軍用系統(tǒng)，將開啟算法戰(zhàn)的新時代。從三年前開始，美國空軍開始大步向數(shù)字化時代邁進(jìn)。最終開發(fā)出軍用人工智能算法，組建了五角大樓第一批商業(yè)化開發(fā)團(tuán)隊，編寫云代碼，甚至還建立了一個戰(zhàn)斗云網(wǎng)絡(luò)，通過該網(wǎng)絡(luò)，美軍以極高的機(jī)器響應(yīng)速度擊落了一枚巡航導(dǎo)彈。

點評：算法戰(zhàn)的出現(xiàn)意味著人類軍事戰(zhàn)爭一個嶄新階段的來臨，也意味著數(shù)字化軍事戰(zhàn)爭的一種形態(tài)。在軍事戰(zhàn)爭中，武器，作為人類肢體和智力延伸的工具，一直是戰(zhàn)爭勝負(fù)的決定性變量。熱兵器對冷兵器的替代，是武器對人類肢體和體力的延伸；算法和無人機(jī)對人的肢體和體力的替代，則是武器對人類智力的延伸，是人類戰(zhàn)爭的第二次本質(zhì)躍升，并將從此改變戰(zhàn)爭的諸多屬性！

（編輯/高緯時）