（歐亞集團(tuán)）

人工智能的倫理和安全問(wèn)題無(wú)論對(duì)中國(guó)還是美國(guó)，亦或是歐盟，都是必須要應(yīng)對(duì)的問(wèn)題，當(dāng)然歐盟的情況相對(duì)復(fù)雜一點(diǎn)，但我們?nèi)匀恍枰懻撛谌斯ぶ悄艿膫惱硪?guī)范方面如何達(dá)成廣泛的國(guó)際共識(shí)。我認(rèn)為AI的倫理和安全是兩個(gè)全然不同的問(wèn)題：倫理有關(guān)公平和透明度，而安全相對(duì)更復(fù)雜，我注意到中文的“安全”對(duì)應(yīng)為英語(yǔ)的 “security”或者“safety”這兩個(gè)單詞，但這兩個(gè)英語(yǔ)單詞實(shí)際內(nèi)涵并不相同，這可能也是增加其復(fù)雜度的緣由之一。因此，第一個(gè)挑戰(zhàn)就是如何在語(yǔ)義層面統(tǒng)一，并能給出對(duì)策辦法。

我曾在今年2月參加了北京人工智能大會(huì)，在那段時(shí)間發(fā)生了一件與人工智能有關(guān)的交通事故，由Uber公司開(kāi)發(fā)的無(wú)人駕駛車在美國(guó)亞利桑那州的道路測(cè)試中撞死了一名騎自行車的人，因此安全問(wèn)題就理所當(dāng)然地成為了北京AI會(huì)議的討論重點(diǎn)。

當(dāng)前美國(guó)、歐盟、中國(guó)等國(guó)的人工智能政策、建議、計(jì)劃等層出不窮。2017年中國(guó)發(fā)布了具有里程碑意義的人工智能發(fā)展計(jì)劃，歐盟計(jì)劃在人工智能領(lǐng)域設(shè)立基準(zhǔn)，準(zhǔn)備在今年年底前發(fā)布人工智能倫理指導(dǎo)框架。就在我參加大會(huì)的路上，美國(guó)布魯克林研究機(jī)構(gòu)發(fā)布報(bào)告，認(rèn)為現(xiàn)在所有的企業(yè)都是人工智能企業(yè)，因此建議所有企業(yè)都要建立嚴(yán)格的應(yīng)對(duì)倫理問(wèn)題的人工智能流程，涵蓋審查委員會(huì)、培訓(xùn)等等。

當(dāng)前國(guó)際上已經(jīng)達(dá)成的較有影響力的AI共識(shí)可參考表1，共識(shí)議題相對(duì)復(fù)雜，尤其是政府、產(chǎn)業(yè)等應(yīng)該扮演什么角色十分關(guān)鍵。每一個(gè)國(guó)家或者組織都有自身的原則，如歐盟最近發(fā)布了AI指引，騰訊公司也制定了自己的政策等。關(guān)鍵是找到諸多原則中的共同點(diǎn)，我們大致都同意AI應(yīng)該是要造福人類的，肯定沒(méi)人希望AI危害人類。在昨天的上海全球人工智能大會(huì)上，有演講嘉賓提到不必害怕AI，但由于AI問(wèn)題相對(duì)復(fù)雜，因此這個(gè)觀點(diǎn)說(shuō)起來(lái)容易做起來(lái)難。還有一名演講者提到了信任AI，信任固然很重要，但須知不同國(guó)家和文化對(duì)信任的認(rèn)知并不相同，所以要信任AI也同樣不容易。當(dāng)然不害怕和信任都是比較基本的原則，相信不會(huì)有人提出異議，目前全球也都在朝這個(gè)方向努力，尤其是美國(guó)一直倡議將倫理和安全特征化。美國(guó)在過(guò)去兩年一直試圖出臺(tái)一個(gè)包含人類權(quán)利、隱私、安全等在內(nèi)的指導(dǎo)框架，如前所述對(duì)于安全我認(rèn)為此領(lǐng)域并不能統(tǒng)一，這個(gè)問(wèn)題相對(duì)復(fù)雜。例如將AI應(yīng)用于網(wǎng)聯(lián)汽車后，其實(shí)只是龐大系統(tǒng)中的一小部分。原則大家也容易達(dá)成一致，這就有助國(guó)際上形成AI安全及其子領(lǐng)域的標(biāo)準(zhǔn)。ITU還將在10月份中討論AI的可持續(xù)發(fā)展等問(wèn)題。

另一個(gè)易于達(dá)成國(guó)際共識(shí)的是AI應(yīng)造福全人類，但其難點(diǎn)在于隱私問(wèn)題，人工智能廣泛

表1 國(guó)際上較影響力的人工智能共識(shí)

對(duì)于美國(guó)AI企業(yè)來(lái)說(shuō)人工智能聯(lián)盟（Partnership on AI，AI聯(lián)盟）是非常重要一個(gè)組織，像谷歌、微軟、臉書等企業(yè)都是AI聯(lián)盟的關(guān)鍵成員，也期待中國(guó)的企業(yè)也參與到這個(gè)聯(lián)盟中。當(dāng)前政府、學(xué)術(shù)界和企業(yè)界都在努力達(dá)成AI原則，如MIT及一些科技公司，比如谷歌，都已發(fā)布過(guò)自己的AI原則。

更關(guān)鍵的是哪些原則能夠獲得國(guó)際普遍認(rèn)可？在安全方面，已經(jīng)有核能源、太空科技等先例，相信針對(duì)自動(dòng)駕駛、無(wú)人機(jī)系統(tǒng)的安全應(yīng)用的障礙顯然是極難平衡的隱私問(wèn)題。不同國(guó)家的處置方式不同，中國(guó)已經(jīng)出臺(tái)網(wǎng)絡(luò)安全法，歐盟則有GDPR，由于都有涉及數(shù)據(jù)隱私保護(hù)的條款，也給AI帶來(lái)了挑戰(zhàn)。

未來(lái)AI應(yīng)用和合作中的一些領(lǐng)域也是可能達(dá)成國(guó)際共識(shí)，國(guó)際社會(huì)已經(jīng)在網(wǎng)絡(luò)規(guī)范和網(wǎng)絡(luò)空間協(xié)作方面做了大量工作，已經(jīng)有了一些初步共識(shí)，但還不是普遍共識(shí)。在網(wǎng)絡(luò)領(lǐng)域中一個(gè)成功的經(jīng)驗(yàn)是私營(yíng)行業(yè)共同支持?jǐn)?shù)字日內(nèi)瓦公約，這當(dāng)中微軟公司起了主導(dǎo)地位，也許可以類推到AI聯(lián)盟，畢竟AI聯(lián)盟也同樣源于私營(yíng)行業(yè)。

2017年中國(guó)、法國(guó)、德國(guó)、歐盟等都發(fā)布了AI計(jì)劃，這些計(jì)劃中或多或少都有關(guān)于倫理和安全的部分，說(shuō)明國(guó)際社會(huì)對(duì)這些方面還是比較關(guān)注的，接下來(lái)的問(wèn)題就是國(guó)際合作的機(jī)制是什么？在這一問(wèn)題上，當(dāng)前除歐盟之外政府之間少有合作，歐盟的成員國(guó)協(xié)作比較多。在我參與的部分外交活動(dòng)中，如ITU及部分隱私和設(shè)立標(biāo)準(zhǔn)的組織等，這類非政府的二軌外交對(duì)這類問(wèn)題都有所涉及。還有今年早些時(shí)候，ISO/IEC在北京召開(kāi)了關(guān)于AI的會(huì)議，除安全這個(gè)老生常談的問(wèn)題外，也開(kāi)始討論倫理議題。IEEE也在AI安全領(lǐng)域做了很多工作，例如P7009標(biāo)準(zhǔn)就涵蓋如何處理自動(dòng)駕駛的安全問(wèn)題。

中國(guó)和美國(guó)是全球最大的兩個(gè)AI國(guó)家，如果中美兩國(guó)之間如果沒(méi)有達(dá)成某種共識(shí)，那該是何種景象？歐盟固然很重要，但是影響相對(duì)較小，因?yàn)闅W盟在人工智能領(lǐng)域沒(méi)有大企業(yè)。我認(rèn)為中美之間應(yīng)該要達(dá)成某種共識(shí)，雖然現(xiàn)在感受到是“中美關(guān)系，越來(lái)越糟”，但我仍然期望中美關(guān)系能得到改善。也要看到好的一面，在企業(yè)層面有許多合作關(guān)系，目前大多是企業(yè)在主導(dǎo)合作伙伴關(guān)系，如美國(guó)的谷歌、微軟、亞馬遜等紛紛在中國(guó)進(jìn)行相關(guān)AI安全相關(guān)的研究?？梢钥吹街袊?guó)的人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟（AIIA）及美國(guó)的AI聯(lián)盟都是很好的載體，中國(guó)還有許多新成立的AI合作研究中心，這些會(huì)對(duì)中美的合作產(chǎn)生重要影響（見(jiàn)表2中美企業(yè)間的合作研究）。我們也看到中國(guó)新近成立了不少新的研究機(jī)構(gòu)，而且大都是去年成立的，如360人工智能研究院、哈工大人工智能研究院、蘇州大學(xué)人工智能研究院、科大訊飛與廣汽研究院共創(chuàng)人工智能汽車技術(shù)創(chuàng)新中心、上海交通大學(xué)人工智能研究院、北京前沿國(guó)際人工智能研究院、清華大學(xué)圖靈人工智能研究院等，其中某些研究機(jī)構(gòu)應(yīng)該會(huì)研究人工智能的倫理問(wèn)題。

所有人對(duì)AI的應(yīng)用前景滿懷期待，但如果隱私問(wèn)題得不到解決，人們將難以信任AI算法，從而危害整個(gè)行業(yè)，這是一個(gè)不容忽視的問(wèn)題，我認(rèn)為該問(wèn)題需要人們投入更多關(guān)注。

合作關(guān)系 聚焦領(lǐng)域 類型 成立時(shí)間MIT與商湯科技人工智能聯(lián)盟（MIT-SenseTime Alliance on AI） 研究 校-企 2018-2-28 MIT與科大訊飛戰(zhàn)略合作（MIT-iFlyTek Partnership） 研究 校-企 2018-6-14復(fù)旦大學(xué)-谷歌科技創(chuàng)新實(shí)驗(yàn)室（Fudan University-Google Innovation Lab）研究 校-企 2018-5-31華為和加州大學(xué)伯克利分校的人工智能基礎(chǔ)研究戰(zhàn)略合作（Huawei-UC Berkeley Partnership）研究 校-企 2018-10-10阿里與新加坡南洋理工大學(xué)（NTU）聯(lián)合研究院（Alibaba-NTU Joint Research Center）研究 校-企 2018-2-28

合作關(guān)系 聚焦領(lǐng)域 類型 成立時(shí)間香港人工智能實(shí)驗(yàn)室（Hong Kong AI Lab，阿里與商湯科技） 商業(yè) 校-企 2018-5-21騰訊—谷歌合作伙伴（Tencent-Google Partnership） 商業(yè) 企業(yè)之間 2018-1-19京東谷歌戰(zhàn)略合作（JD.com- Google Partnership） 商業(yè) 企業(yè)之間 2018-6-18騰訊與英國(guó)國(guó)際貿(mào)易部戰(zhàn)略合作（Tencent-Britain Partnership） 商業(yè) 企業(yè)之間 2018-5-9百度和博世的阿波羅計(jì)劃（Baidu-Bosch/Continental AG） 商業(yè) 企業(yè)之間 2017-6-1

還有一個(gè)問(wèn)題，AI產(chǎn)業(yè)的發(fā)展應(yīng)當(dāng)自我約束還是采用制度約束呢？《金融時(shí)報(bào)》曾經(jīng)提到個(gè)觀點(diǎn)：“基于有預(yù)見(jiàn)性及敏捷的監(jiān)管可以讓創(chuàng)新能在改善生活和維護(hù)公共利益之間的調(diào)節(jié)緊張關(guān)系方面發(fā)揮積極作用。要實(shí)現(xiàn)這一點(diǎn)，需要科學(xué)界和監(jiān)管部門進(jìn)行更有效的溝通。政府盡管事務(wù)繁忙，也應(yīng)投入資源讓公眾了解人工智能的益處。”但普遍的觀點(diǎn)是現(xiàn)在討論規(guī)制人工智能產(chǎn)業(yè)還為時(shí)過(guò)早，還有一個(gè)問(wèn)題是由誰(shuí)來(lái)監(jiān)管AI？由法院來(lái)監(jiān)管可能并不妥當(dāng)，可能由非政府組織或政策建議性團(tuán)體來(lái)監(jiān)管人工智能產(chǎn)業(yè)發(fā)展問(wèn)題更好一些，他們可為政府應(yīng)該在人工智能哪些方面進(jìn)行監(jiān)管提供建議。美國(guó)、中國(guó)、歐盟在AI問(wèn)題上處理的方式不盡相同，多方共同協(xié)作將是一個(gè)挑戰(zhàn)。美國(guó)傾向于在無(wú)人駕駛、無(wú)人機(jī)等特定子領(lǐng)域提出監(jiān)管，中國(guó)面臨的問(wèn)題是行業(yè)監(jiān)管還是成立新監(jiān)管部門，而歐盟情況略有不同，最近有很多說(shuō)法是歐盟越來(lái)越來(lái)像“管家婆”，事實(shí)也就像他們說(shuō)的那樣：歐盟喜歡監(jiān)控一切事物。GDPR的第22章（Article 22）就提到人們應(yīng)該能夠?qū)I算法做出的決策進(jìn)行解釋，本條款實(shí)際并不可行。歐盟認(rèn)定如何保護(hù)個(gè)人隱私、如何解釋算法、算法如何導(dǎo)致最后的決策等這類問(wèn)題很重要，但問(wèn)題是并不容易實(shí)現(xiàn)算法的透明度。

我還是愿意再介紹一下美國(guó)的白皮書和中國(guó)的AI國(guó)家發(fā)展戰(zhàn)略，這些建議為國(guó)際社會(huì)如何在AI領(lǐng)域，諸如安全和倫理問(wèn)題的合作提供了思路。而歐盟在這些問(wèn)題上有非常成熟的研討，不僅是AI安全，還關(guān)注工業(yè)機(jī)器人、協(xié)作機(jī)器人、服務(wù)機(jī)器人及基于軟件的AI代理。

最后我要說(shuō)的是中、美兩個(gè)大國(guó)，都有做AI的大公司，也有許多初創(chuàng)公司，像中國(guó)有阿里巴巴、百度等企業(yè)，它們將主導(dǎo)中國(guó)的人工智能行業(yè)。而歐盟在企業(yè)數(shù)量和規(guī)模上都無(wú)法與中美相媲美，因此他們更希望在監(jiān)管上占上風(fēng)，明白這一點(diǎn)很重要，畢竟中、美企業(yè)都希望在歐盟做生意，故而歐盟在此問(wèn)題上的方案設(shè)定就比較關(guān)鍵，相信要不了多久他們就會(huì)出臺(tái)詳盡的監(jiān)管框架。