隨著人工智能崛起，諸多領(lǐng)域迎來(lái)了加速變革，人們的生活變得更為便利。但是，人工智能的普及也帶來(lái)了一些隱患，而化解這些問(wèn)題的主動(dòng)權(quán)掌握在人類自己手中。

2018年10月31日下午，中共中央政治局就人工智能發(fā)展現(xiàn)狀和趨勢(shì)舉行第九次集體學(xué)習(xí)。習(xí)近平總書記在主持學(xué)習(xí)時(shí)發(fā)表了講話。他強(qiáng)調(diào)，人工智能是引領(lǐng)這一輪科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術(shù)，具有溢出帶動(dòng)性很強(qiáng)的“頭雁”效應(yīng)。

11月7日至9日，第五屆世界互聯(lián)網(wǎng)大會(huì)在浙江烏鎮(zhèn)舉行，在“人工智能：融合發(fā)展新機(jī)遇”分論壇上，中國(guó)工程院院士、中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)理事長(zhǎng)鄔賀銓發(fā)表了以《人工智能的雙刃劍》為主題的演講。

鄔賀銓認(rèn)為，人工智能的發(fā)展是一把雙刃劍。當(dāng)前，大數(shù)據(jù)和強(qiáng)算力促進(jìn)了概率計(jì)算取得巨大的進(jìn)步，AI在分析相關(guān)性上也取得了顯著進(jìn)展，并且在很多領(lǐng)域產(chǎn)生了深遠(yuǎn)影響。目前，人工智能的發(fā)展應(yīng)包含兩方面的內(nèi)容，一是培育AI的應(yīng)用創(chuàng)新，二是重視AI的風(fēng)險(xiǎn)管控。

要培育AI的應(yīng)用創(chuàng)新

人工智能有三大支柱：大數(shù)據(jù)、計(jì)算力、分析算法。我們?nèi)绾谓逃?jì)算機(jī)學(xué)習(xí)？我們無(wú)法通過(guò)文字描述告訴計(jì)算機(jī)什么是貓和狗，但通過(guò)大數(shù)據(jù)學(xué)習(xí)與訓(xùn)練，概率論的進(jìn)步使不確定性的數(shù)據(jù)也可以計(jì)算，深度神經(jīng)網(wǎng)絡(luò)能夠很好地完成分類器的作用。三者相輔相成、相互依賴、相互促進(jìn)，使得人工智能有機(jī)會(huì)從專業(yè)的技術(shù)成為通用的技術(shù)，融入到各行各業(yè)之中。

計(jì)算機(jī)視覺(jué)是模擬人類視覺(jué)的人工智能技術(shù)，用機(jī)器來(lái)“看”圖像，“理解”圖像。目前，人工智能在醫(yī)學(xué)領(lǐng)域得到廣泛應(yīng)用，比如我們到醫(yī)院做一個(gè)肺部CT檢查，可以做出幾百甚至上千張的CT照片，一張張讓醫(yī)生來(lái)看照片是比較麻煩的，但是可以通過(guò)人工智能的技術(shù)把所有的CT照片還原為一個(gè)肺。我們可以看到，將人工智能用于醫(yī)療影像分析，可以幫助醫(yī)生定位病癥分析病情，從而幫助醫(yī)生提高影響診斷的精準(zhǔn)度。

交通領(lǐng)域也很好地運(yùn)用了人工智能技術(shù)，未來(lái)的無(wú)人駕駛汽車能給人類帶來(lái)更安全和有序的交通環(huán)境，能節(jié)省人類在駕駛上大量消耗的時(shí)間。隨著技術(shù)的發(fā)展，人工智能在出行領(lǐng)域的落地形式日益成為行業(yè)關(guān)注的焦點(diǎn)，自動(dòng)駕駛技術(shù)的成熟，將對(duì)以往的出行業(yè)態(tài)產(chǎn)生重大影響，未來(lái)的交通生活充滿了無(wú)限可能。

過(guò)去機(jī)器人是要預(yù)先編程，機(jī)器手臂如果沒(méi)有預(yù)先編程，它只能通過(guò)訓(xùn)練達(dá)到目的。人工智能技術(shù)融入機(jī)器人后，程序指令不再由人下達(dá)，而是機(jī)器人系統(tǒng)自主完成編程并執(zhí)行。沈陽(yáng)新松開發(fā)的智能焊接系統(tǒng)，首先感知工件并對(duì)其進(jìn)行測(cè)量，自主生成程序，根據(jù)不同的焊接工藝調(diào)取不同的焊接技術(shù)。未來(lái)的智能工廠，可能只有機(jī)器而沒(méi)有人，將大量的機(jī)器人大腦集中到云端，機(jī)器人僅作為執(zhí)行機(jī)構(gòu)，可顯著降低成本。

網(wǎng)絡(luò)安全也是人工智能很重要的應(yīng)用，它所發(fā)揮的也是雙重效應(yīng)。一方面人工智能降低了黑客的門檻?，F(xiàn)在很多人學(xué)會(huì)做黑客，以后病毒的變種會(huì)越來(lái)越多，周期也會(huì)越來(lái)越短。但是從另一個(gè)角度，人工智能有助于幫助網(wǎng)絡(luò)安全的工作。人工智能的典型作用是代替人類做大量重復(fù)的勞動(dòng)，利用人工智能技術(shù)一分鐘就能完成一個(gè)信息安全分析師一年分析數(shù)據(jù)和代碼的工作。這對(duì)于一些重復(fù)性分析的工作是有用的。通過(guò)人工智能可以識(shí)別很多偽裝過(guò)的文件，例如2016年美國(guó)國(guó)防部與某AI公司簽署合同，利用人工智能技術(shù)發(fā)現(xiàn)美軍操作系統(tǒng)和定制程序中存在的編碼漏洞。

同樣，人工智能可對(duì)網(wǎng)絡(luò)流量?jī)?nèi)外所包含的無(wú)數(shù)元數(shù)據(jù)所存在的成千上萬(wàn)個(gè)關(guān)聯(lián)進(jìn)行分析，實(shí)現(xiàn)對(duì)網(wǎng)絡(luò)流量異常檢測(cè)，獲得黑客入侵的位置、攻擊的路徑和薄弱的環(huán)節(jié)等。

用戶在網(wǎng)絡(luò)上生成的內(nèi)容，如果不審查可能會(huì)造成不良傳播，靠人工審查會(huì)比較麻煩?，F(xiàn)在，我們可以通過(guò)人工智能技術(shù)，自動(dòng)過(guò)濾色情、暴力的圖片和視頻，對(duì)不適宜在網(wǎng)上發(fā)布的信息進(jìn)行文字截取，以此降低人工審核的工作量，代替人類做大量重復(fù)性的勞動(dòng)。

重視人工智能的風(fēng)險(xiǎn)管控

我們通過(guò)建模，進(jìn)行數(shù)據(jù)分析，那么數(shù)據(jù)的準(zhǔn)確性就決定了人工智能分析的準(zhǔn)確性。

AI的正確性取決于數(shù)據(jù)的噪聲與干擾。神經(jīng)網(wǎng)絡(luò)導(dǎo)入的數(shù)據(jù)有一個(gè)很小的改動(dòng)，分類就會(huì)有很大的變化。多倫多大學(xué)研究人員通過(guò)動(dòng)態(tài)干擾人臉識(shí)別工具，可將原本可檢測(cè)到的人臉比例從接近100%降低到0.5%。網(wǎng)絡(luò)攻擊者將對(duì)抗樣本輸入機(jī)器學(xué)習(xí)模型，機(jī)器產(chǎn)生幻覺(jué)也會(huì)出現(xiàn)誤判。

同時(shí)，他還提到AI有可能讓未來(lái)出現(xiàn)“眼見(jiàn)不一定為實(shí)”。Twitter上的機(jī)器人數(shù)量占員工人數(shù)的9%-15%，政治僵尸程序會(huì)編造假新聞或放大謠言。2016年美國(guó)總統(tǒng)大選期間，Twitter上垃圾新聞?wù)嫉?0%。全球機(jī)器人占2016年所有在線流量的50%以上。網(wǎng)絡(luò)有專門的“洗稿”軟件出售，甚至AI也被用于“洗稿”。這些都值得我們警惕。

人工智能的應(yīng)用才剛剛開始。當(dāng)前大數(shù)據(jù)促進(jìn)概率計(jì)算取得了巨大的進(jìn)步，人工智能已經(jīng)在很多領(lǐng)域產(chǎn)生了深刻的影響。但是目前人工智能的發(fā)展還處于起步階段，深度學(xué)習(xí)目前的實(shí)質(zhì)是通過(guò)將曲線彌合的數(shù)據(jù)，通過(guò)離合數(shù)據(jù)實(shí)現(xiàn)分類。雖然在相關(guān)性上有進(jìn)步，但是在因果關(guān)系上目前還是無(wú)能為力的，更多的希望要寄托在人工智能的進(jìn)步上，而人工智能的雙刃劍特征會(huì)愈來(lái)愈明顯，需要從法律、技術(shù)各方面揚(yáng)長(zhǎng)避短。

（本文根據(jù)鄔賀銓院士在“第五屆世界互聯(lián)網(wǎng)大會(huì)人工智能分論壇”現(xiàn)場(chǎng)演講整理而成，未經(jīng)本人審閱）