當(dāng)前,新一代人工智能技術(shù)在全球蓬勃興起,迅猛發(fā)展,與大數(shù)據(jù)、區(qū)塊鏈、5G等新技術(shù)相互融合、相互因應(yīng),為經(jīng)濟(jì)社會(huì)發(fā)展尤其是數(shù)字經(jīng)濟(jì)發(fā)展注入新動(dòng)能,正在深刻改變社會(huì)生產(chǎn)生活方式。與此同時(shí),如何在新技術(shù)變革浪潮中始終立于主動(dòng),實(shí)現(xiàn)人工智能等前沿科技領(lǐng)域有效治理,確保其持續(xù)健康發(fā)展,也隨之成為一個(gè)國(guó)際國(guó)內(nèi)、社會(huì)各界都廣泛關(guān)注的重大現(xiàn)實(shí)問(wèn)題、重大時(shí)代議題。
人工智能治理是復(fù)雜性、系統(tǒng)性很高的社會(huì)議題,涵蓋政策、技術(shù)、產(chǎn)業(yè)、法律、傳播、倫理、安全、國(guó)際關(guān)系、意識(shí)形態(tài)等諸多領(lǐng)域。與之相應(yīng),對(duì)國(guó)際國(guó)內(nèi)人工智能治理標(biāo)志性事件開(kāi)展研究,也必然需要各界協(xié)同,共同推動(dòng)。
案例描述:為提高配送效率,一些外賣(mài)平臺(tái)研究開(kāi)發(fā)了實(shí)時(shí)智能配送系統(tǒng)。借助AI算法,平臺(tái)可以最優(yōu)化地安排訂單,也能給騎手規(guī)劃最合理的路線。但出于平臺(tái)、騎手和用戶(hù)三方效率最大化的目標(biāo),AI算法將所有時(shí)間壓縮到了極致,為了按時(shí)完成配送,騎手們只能用違法去挽回超時(shí)這件事。超速、闖紅燈、逆行……外賣(mài)騎手挑戰(zhàn)交通規(guī)則的舉動(dòng)是一種逆算法,是騎手們長(zhǎng)期在系統(tǒng)算法的控制之下做出的不得已的勞動(dòng)實(shí)踐,而這種逆算法的直接后果則是——外賣(mài)員遭遇交通事故的數(shù)量急劇上升。同時(shí),這也意味著,在很多人類(lèi)勞動(dòng)者和AI的協(xié)作專(zhuān)業(yè)工作中,人類(lèi)將處在被管轄和被監(jiān)督之下。
點(diǎn)評(píng):當(dāng)AI算法嵌入到人類(lèi)社會(huì)的方方面面,人類(lèi)在不知不覺(jué)中已經(jīng)作為一個(gè)數(shù)據(jù)被算法研究。AI技術(shù)的應(yīng)用應(yīng)有利于人類(lèi)社會(huì)良性發(fā)展,需要運(yùn)用法律和道德對(duì)AI技術(shù)的研發(fā)和應(yīng)用進(jìn)行約束,正確引導(dǎo)企業(yè)的價(jià)值觀。在人工智能普及的時(shí)代,也應(yīng)充分保護(hù)勞動(dòng)者的合法權(quán)益,人工智能算法的應(yīng)用在追求效率和利益之外,不可忽略人性與理性,不能讓機(jī)器的冰冷碾壓人性的光輝。
案例描述:加州大學(xué)JosephMakin博士在《自然神經(jīng)科學(xué)》雜志上發(fā)表了研究,其開(kāi)發(fā)了一個(gè)系統(tǒng),可以將大腦活動(dòng)轉(zhuǎn)化為文本數(shù)據(jù),單句錯(cuò)詞僅3%。
實(shí)驗(yàn)參與者被要求多次朗讀50個(gè)固定句子,研究者們跟蹤了他們講話時(shí)的神經(jīng)活動(dòng)。這些數(shù)據(jù)隨后被輸入到機(jī)器學(xué)習(xí)算法中,系統(tǒng)能將每個(gè)口述句子的大腦活動(dòng)數(shù)據(jù)轉(zhuǎn)換為數(shù)字字符串。不過(guò),由于通過(guò)腦機(jī)接口翻譯大腦想法的技術(shù)對(duì)人們的隱私構(gòu)成了強(qiáng)大的威脅,因此也一直伴隨著不小的爭(zhēng)議。
點(diǎn)評(píng):機(jī)器人實(shí)際上是人所創(chuàng)造出的客體,但在未來(lái)社會(huì)它可能會(huì)同人這個(gè)本體相脫離,成為本體的存在,而且反客為主,反過(guò)來(lái)束縛、支配、乃至壓抑人類(lèi)。我們這些站在食物鏈頂端的人類(lèi)會(huì)在不久的將來(lái)面臨前所未有的危機(jī)和挑戰(zhàn),比如算法開(kāi)始替代人類(lèi)作出選擇,一些原來(lái)只有人類(lèi)能做的工作將會(huì)被機(jī)器所取代。
案例描述:2020年1月,廣東省深圳市南山區(qū)人民法院一審審結(jié)原告深圳市騰訊計(jì)算機(jī)系統(tǒng)有限公司訴被告上海盈某科技有限公司侵害著作權(quán)及不正當(dāng)競(jìng)爭(zhēng)糾紛一案,認(rèn)定人工智能生成的文章構(gòu)成作品。此案系全國(guó)首例認(rèn)定人工智能生成的文章構(gòu)成作品案件。該案明確了人工智能生成物的獨(dú)創(chuàng)性判斷步驟,并在如何看待人工智能生成物的創(chuàng)作過(guò)程以及相關(guān)人工智能使用人員的行為能否被認(rèn)定為法律意義上的創(chuàng)作行為的問(wèn)題上做出了探索,認(rèn)定人工智能生成的文章構(gòu)成作品,對(duì)于今后同類(lèi)型案件的審理有一定的借鑒意義。
點(diǎn)評(píng):隨著社會(huì)發(fā)展,未來(lái)人工智能在各行業(yè)的應(yīng)用、人工智能的歸屬權(quán)、法律是否將其定義為一個(gè)法律主體,將是很重要的一個(gè)爭(zhēng)執(zhí)點(diǎn)。
案例描述:歐盟委員會(huì)發(fā)布《人工智能白皮書(shū)》,希望通過(guò)不斷實(shí)現(xiàn)科學(xué)突破,維護(hù)歐盟的技術(shù)領(lǐng)先地位并確保新技術(shù)在尊重人權(quán)的基礎(chǔ)上,改善人們生活。當(dāng)前歐洲采取了一致的方法來(lái)應(yīng)對(duì)AI對(duì)人類(lèi)和社會(huì)道德的影響,并思考了如何利用大數(shù)據(jù)進(jìn)行創(chuàng)新。歐盟正在考慮禁止在公共場(chǎng)所使用人臉識(shí)別技術(shù)長(zhǎng)達(dá)五年,以便有時(shí)間研究如何防止這種技術(shù)被濫用。歐盟委員會(huì)表示,在為期3至5年的禁令期間,“可以確定和制定評(píng)估這一技術(shù)的影響和可能的風(fēng)險(xiǎn)管理措施的健全方法”。歐盟文件稱(chēng),對(duì)于安全項(xiàng)目以及科技研發(fā)活動(dòng),禁令可能會(huì)有例外。該文件還建議,對(duì)人工智能的開(kāi)發(fā)者和用戶(hù)都施加一些義務(wù),歐盟國(guó)家的政府應(yīng)該指定監(jiān)管機(jī)構(gòu)來(lái)監(jiān)管新規(guī)則。
韓國(guó)科學(xué)技術(shù)信息通信部2020年11月27日與情報(bào)通信政策研究院(KISDI)共同發(fā)布“國(guó)家人工智能倫理標(biāo)準(zhǔn)”,提出理想的人工智能開(kāi)發(fā)和運(yùn)用方向,指出人工智能需以人為中心。在開(kāi)發(fā)和運(yùn)用人工智能的過(guò)程中,需遵守維護(hù)人的尊嚴(yán)、社會(huì)公益和技術(shù)合乎目的這3大原則。
此外,美國(guó)東海岸城市波士頓通過(guò)了禁止面部識(shí)別技術(shù)用于市政用途的投票。這是自2019年5月舊金山頒布此項(xiàng)禁令以來(lái),采用此項(xiàng)禁令的第二大美國(guó)城市。該法令獲得一致通過(guò),這條法令將阻止城市使用面部識(shí)別技術(shù)或獲得使用該技術(shù)進(jìn)行監(jiān)視的軟件。此后,俄勒岡州波特蘭、緬因州波特蘭也均通過(guò)了類(lèi)似禁令以限制該技術(shù)在政府部門(mén)的應(yīng)用。
點(diǎn)評(píng):人工智能治理的核心要素中基本價(jià)值觀、治理體系、參與者、治理對(duì)象以及效果評(píng)價(jià)五個(gè)方面至關(guān)重要。很多治理問(wèn)題可以通過(guò)技術(shù)本身來(lái)解決,目前人工智能發(fā)展面臨的最大挑戰(zhàn)是:人工智能技術(shù)發(fā)展太快,而治理準(zhǔn)則作為一種社會(huì)體系,其發(fā)展有其程序,又是緩慢的,因此,我們需要“敏捷治理”。人類(lèi)應(yīng)一同尋找人工智能共同的準(zhǔn)則和規(guī)則,引導(dǎo)人工智能的健康發(fā)展,為人類(lèi)造福。
案例描述:“水表”和“老人安全”看似沒(méi)有關(guān)聯(lián),但在上海市長(zhǎng)寧區(qū)江蘇路街道“一網(wǎng)統(tǒng)管”平臺(tái),隱藏背后的邏輯清晰可見(jiàn)——當(dāng)獨(dú)居老人家中超過(guò)12小時(shí)用水不足0.01立方米時(shí),系統(tǒng)會(huì)判斷老人家中有事,并及時(shí)向居委會(huì)預(yù)警。一個(gè)小小的設(shè)計(jì),沒(méi)有像攝像頭那樣不得不關(guān)注老人過(guò)多的隱私,也無(wú)需大量的經(jīng)濟(jì)和人力投入,就能實(shí)現(xiàn)對(duì)老年人的關(guān)愛(ài),甚至關(guān)鍵時(shí)刻能挽救老人的生命。
北京某科技公司生產(chǎn)的校園暴力AI防控語(yǔ)音偵測(cè)設(shè)備,可以作為視頻監(jiān)控的彌補(bǔ)而出現(xiàn)在校園安全解決方案當(dāng)中,為平安校園再添新色彩。該產(chǎn)品通過(guò)AI音頻識(shí)別,全天候監(jiān)控異常聲音,自動(dòng)報(bào)警及聲光驅(qū)離等技術(shù),重點(diǎn)勘察校園視頻監(jiān)控“死角”,在校園霸凌事件發(fā)生中及時(shí)干擾、阻止,制止校園暴力的發(fā)生。
點(diǎn)評(píng):AI技術(shù)的落地應(yīng)用,在一定程度上可有效提升人們生活的安全性,但也要考慮到無(wú)限的監(jiān)聽(tīng)會(huì)引發(fā)隱私及對(duì)其他問(wèn)題的擔(dān)憂(yōu)。
案例描述:據(jù)外媒消息,IBM將不再提供、開(kāi)發(fā)或研究面部識(shí)別技術(shù),并表示“IBM堅(jiān)決反對(duì)并且不會(huì)容忍將任何面部識(shí)別技術(shù)用于大規(guī)模監(jiān)視、侵犯基本人權(quán)和自由或與我們的宗旨不符的任何行為?!贝送?,亞馬遜、微軟也均表態(tài)要支持種族平等,叫停人臉識(shí)別:亞馬遜聲明暫停向警方提供人臉識(shí)別技術(shù)一年時(shí)間;微軟也表態(tài)停止向警方銷(xiāo)售人臉識(shí)別軟件,直到有相關(guān)國(guó)家法律出臺(tái)。
歐盟有關(guān)方面和微軟、IBM等科技巨頭共同簽署了《人工智能倫理羅馬宣言》,討論如何規(guī)范人工智能的社會(huì)影響,這是歐盟推動(dòng)全球數(shù)字經(jīng)濟(jì)監(jiān)管新標(biāo)準(zhǔn)的最新舉措。與美國(guó)不同,在數(shù)字經(jīng)濟(jì)和人工智能領(lǐng)域,歐盟采取的是先規(guī)范后發(fā)展的路徑?!度斯ぶ悄軅惱砹_馬宣言》指出,人工智能技術(shù)應(yīng)尊重個(gè)人隱私,以可靠而無(wú)偏見(jiàn)的方式工作,考慮所有人的需求,并以透明方式運(yùn)作。這些表述顯示歐盟擔(dān)憂(yōu)人工智能的負(fù)面影響,認(rèn)為人工智能系統(tǒng)尚處于研究階段,其做出的決定往往難以預(yù)測(cè)。
Google啟動(dòng)了800多名員工的初始“技術(shù)道德”培訓(xùn),并還針對(duì)AI原則問(wèn)題發(fā)現(xiàn)了新的培訓(xùn)。Google最近發(fā)布了此培訓(xùn)的一個(gè)版本,作為面向客戶(hù)的Cloud團(tuán)隊(duì)的必修課程,已有5,000名Cloud員工參加了該培訓(xùn)。這些員工提出了一些關(guān)鍵問(wèn)題來(lái)發(fā)現(xiàn)潛在的道德問(wèn)題,例如AI應(yīng)用程序是否會(huì)導(dǎo)致經(jīng)濟(jì)或教育上的排斥或造成身體、心理、社會(huì)或環(huán)境傷害。
點(diǎn)評(píng):我們需要思考AI與企業(yè)治理的關(guān)系,AI倫理如何嵌入到商業(yè)運(yùn)行之中。誰(shuí)來(lái)做企業(yè)開(kāi)發(fā)AI算法時(shí)的最后判斷者?我們應(yīng)該從哪個(gè)環(huán)節(jié)切入,思考人工智能所導(dǎo)致的結(jié)果。
案例描述:據(jù)不完全統(tǒng)計(jì),我國(guó)有融資信息的無(wú)人駕駛相關(guān)企業(yè)超過(guò)70家,融資金額高達(dá)數(shù)百億元。此外,我國(guó)共有超過(guò)1.2萬(wàn)件與“自動(dòng)駕駛”或“無(wú)人駕駛”相關(guān)的專(zhuān)利,其中于2019年新申請(qǐng)的專(zhuān)利超過(guò)3000余件。2020年10月,百度官微發(fā)布,自動(dòng)駕駛出租車(chē)服務(wù)在北京經(jīng)濟(jì)技術(shù)開(kāi)發(fā)區(qū)、海淀區(qū)、順義區(qū)等地全面開(kāi)放,數(shù)十個(gè)自動(dòng)駕駛出租車(chē)站點(diǎn),不需要提前預(yù)約,直接下單就能免費(fèi)試乘自動(dòng)駕駛出租車(chē)服務(wù)。2020年6月,滴滴首次面向公眾開(kāi)放了無(wú)人駕駛服務(wù)。目前中美兩地已有近400人的團(tuán)隊(duì),已獲得北京、上海、蘇州、美國(guó)加州等地路測(cè)資格。
點(diǎn)評(píng):隨著當(dāng)代人工智能技術(shù)的快速發(fā)展和廣泛應(yīng)用,智能物聯(lián)網(wǎng)技術(shù)使得對(duì)“物的流動(dòng)”的實(shí)時(shí)管理成為可能,極大地提高了效率、降低了人力成本。同時(shí),智能物聯(lián)網(wǎng)技術(shù)也為城市管理水平的提高提供了一條可行的技術(shù)路徑,其核心是“感知化”“互聯(lián)化”和“智能化”,例如,城市交通管理、共享單車(chē)管理以及無(wú)人駕駛出租車(chē)管理等,將商業(yè)、運(yùn)輸、通信、能源等城市運(yùn)行的各個(gè)系統(tǒng)整合為“系統(tǒng)之系統(tǒng)”。
案例描述:美國(guó)麻省理工學(xué)院(MIT)科學(xué)家在最新一期《細(xì)胞》雜志撰文稱(chēng),他們新研制出的一種深度學(xué)習(xí)人工智能(AI),鑒定出一種全新抗生素。實(shí)驗(yàn)室測(cè)試表明,這種抗生素能有效殺死多種世界上最麻煩的致病細(xì)菌,包括一些對(duì)所有已知抗生素耐藥的菌株。
美國(guó)佛蒙特大學(xué)計(jì)算機(jī)科學(xué)家和塔夫茨大學(xué)生物學(xué)家共同創(chuàng)造出100%使用青蛙DNA的可編程的活體機(jī)器人Xenobot,這種機(jī)器人的體長(zhǎng)僅0.04英寸(約1毫米),能按照計(jì)算機(jī)程序設(shè)計(jì)的路線移動(dòng),還能負(fù)載一定的重量,攜帶藥物在人體內(nèi)部移動(dòng)。Xenobot具有自我修復(fù)功能,當(dāng)科學(xué)家把它們進(jìn)行切割時(shí),機(jī)器人會(huì)自行愈合并繼續(xù)移動(dòng)。佛蒙特大學(xué)表示,這些是“完全新的生命形式”?!八鼈兗炔皇莻鹘y(tǒng)的機(jī)器人,也不是已知的動(dòng)物物種。它是一類(lèi)新的人工制品:一種活的可編程生物?!?/p>
點(diǎn)評(píng):人工智能不但能替代一些傳統(tǒng)工作,提升效率、促進(jìn)企業(yè)發(fā)展,同時(shí)也可以做一些單靠人工無(wú)法進(jìn)行的工作,并且為人類(lèi)未來(lái)的幸福生活提供了新的可能性。但我們要注意它的強(qiáng)大性和不可解釋性也帶了一些風(fēng)險(xiǎn)。這個(gè)案例體現(xiàn)了新技術(shù)的可能性,但在技術(shù)早期探索時(shí),我們也要做一個(gè)嵌入式倫理的研究與控制。
案例描述:湖南省岳陽(yáng)市岳陽(yáng)樓公安分局聯(lián)合市局網(wǎng)技支隊(duì)破獲了一起利用人工智能語(yǔ)音機(jī)器人幫助網(wǎng)絡(luò)犯罪案,抓獲犯罪嫌疑人19人,查獲了大量作案電腦和手機(jī),扣押涉案現(xiàn)金100余萬(wàn)元,凍結(jié)涉案資金1000余萬(wàn)元。該團(tuán)伙利用“AI智能語(yǔ)音機(jī)器人”對(duì)非法獲取的大批量手機(jī)號(hào)碼進(jìn)行撥打,通過(guò)“AI智能語(yǔ)音機(jī)器人”篩選后,將正在炒股或者有炒股意向的受害人拉入預(yù)先建立的虛假炒股微信群,進(jìn)而實(shí)施詐騙。目前,包括黃某在內(nèi)的12名主要犯罪嫌疑人已全部被公安機(jī)關(guān)依法刑事拘留,7人被依法治安拘留,相關(guān)案情正在進(jìn)一步深挖之中。
點(diǎn)評(píng):AI技術(shù)具有雙面性,一方面能大幅度減少人力成本,提高工作效率,另一方面也可能為不法分子利用。本例案件采用的技術(shù)并不復(fù)雜,主要是通過(guò)AI智能語(yǔ)音機(jī)器人來(lái)替代原來(lái)的真人詐騙犯,再用真假難辨的虛擬機(jī)器人進(jìn)行智能分析和誘騙。我們需要提高AI應(yīng)用的準(zhǔn)入門(mén)檻,進(jìn)行有效的身份鑒別。同時(shí)也要對(duì)AI技術(shù)的新進(jìn)展進(jìn)行持續(xù)的關(guān)注和跟蹤,以及對(duì)潛在的風(fēng)險(xiǎn)如AI偏見(jiàn)、AI換聲換臉等保持一定的警惕性,避免技術(shù)被不法分子所利用,危害社會(huì)發(fā)展。
案例描述:2020年12月15日,美國(guó)空軍在加利福尼亞州首次成功使用人工智能副駕駛控制一架U2偵察機(jī)的雷達(dá)和傳感器等系統(tǒng),這是人工智能首次控制美國(guó)軍用系統(tǒng),將開(kāi)啟算法戰(zhàn)的新時(shí)代。從三年前開(kāi)始,美國(guó)空軍開(kāi)始大步向數(shù)字化時(shí)代邁進(jìn)。最終開(kāi)發(fā)出軍用人工智能算法,組建了五角大樓第一批商業(yè)化開(kāi)發(fā)團(tuán)隊(duì),編寫(xiě)云代碼,甚至還建立了一個(gè)戰(zhàn)斗云網(wǎng)絡(luò),通過(guò)該網(wǎng)絡(luò),美軍以極高的機(jī)器響應(yīng)速度擊落了一枚巡航導(dǎo)彈。
點(diǎn)評(píng):算法戰(zhàn)的出現(xiàn)意味著人類(lèi)軍事戰(zhàn)爭(zhēng)一個(gè)嶄新階段的來(lái)臨,也意味著數(shù)字化軍事戰(zhàn)爭(zhēng)的一種形態(tài)。在軍事戰(zhàn)爭(zhēng)中,武器,作為人類(lèi)肢體和智力延伸的工具,一直是戰(zhàn)爭(zhēng)勝負(fù)的決定性變量。熱兵器對(duì)冷兵器的替代,是武器對(duì)人類(lèi)肢體和體力的延伸;算法和無(wú)人機(jī)對(duì)人的肢體和體力的替代,則是武器對(duì)人類(lèi)智力的延伸,是人類(lèi)戰(zhàn)爭(zhēng)的第二次本質(zhì)躍升,并將從此改變戰(zhàn)爭(zhēng)的諸多屬性!
(編輯/高緯時(shí))