川江

人工智能是把雙刃劍，AI發(fā)展必須向善，以趨利避害。這是2021世界人工智能大會(huì)（英文名簡(jiǎn)稱“WAIC2021”）上權(quán)威專家、學(xué)者、企業(yè)家共同關(guān)心的話題。

AI向善是人工智能發(fā)展的前提

“AI科技并非都‘向善?！泵绹?guó)麻省理工學(xué)院物理學(xué)終身教授、未來(lái)生命研究院創(chuàng)始人馬克思·泰格馬克說(shuō)。他表示，人工智能AI正在變得越來(lái)越強(qiáng)大，可以走路的機(jī)器人剛剛出現(xiàn)不久，就出現(xiàn)了可以做前后空翻的機(jī)器人；10年前我們沒有自動(dòng)駕駛汽車，但現(xiàn)在有了自動(dòng)駕駛、自動(dòng)回收的火箭，還有人臉識(shí)別、語(yǔ)音分析、簡(jiǎn)單編程，這樣的例子不勝枚舉。除了象棋和圍棋，AI實(shí)際上在其他領(lǐng)域也取得了更大的進(jìn)展，過(guò)去幾十年的一些傳統(tǒng)算法都被機(jī)器學(xué)習(xí)替代了。由于技術(shù)進(jìn)步，AI可以解決非常多的問(wèn)題，甚至可以拯救人類的生命。

馬克思·泰格馬克還表示，每年道路交通都要發(fā)生上百萬(wàn)例死亡個(gè)案，這種境況可以通過(guò)AI來(lái)進(jìn)行優(yōu)化改善，AI可以大幅降低人為錯(cuò)誤。醫(yī)療系統(tǒng)中同樣如此，現(xiàn)在有很多數(shù)據(jù)證明，在前列腺癌、肺癌以及眼疾當(dāng)中，AI做得比人類更好，不光是軟件層面，還有硬件層面，AI可以接入云端，達(dá)成更高質(zhì)量的診斷效果。

中國(guó)信通院院長(zhǎng)余曉暉指出，當(dāng)前世界各國(guó)都高度重視可信人工智能的發(fā)展，發(fā)展可信人工智能是我們真正能夠釋放出人工智能的前景，能夠造福于世界人民，這是一個(gè)關(guān)鍵的基礎(chǔ)。

余曉暉所說(shuō)的發(fā)展可信人工智能其實(shí)就是AI向善。人工智能是第四次工業(yè)革命的核心技術(shù)，有著巨大的發(fā)展?jié)摿?。然而，隨著人工智能應(yīng)用的廣度和深度不斷拓展，慢慢顯露出一些風(fēng)險(xiǎn)與隱患，如算法的安全、數(shù)據(jù)歧視、數(shù)據(jù)濫用等諸多問(wèn)題引發(fā)人們思考。當(dāng)人工智能應(yīng)用越來(lái)越普及的時(shí)候，如何建立起人與系統(tǒng)之間的信任成為了新課題。面對(duì)人工智能革命第四次浪潮，可信AI這一理念應(yīng)運(yùn)而生。自學(xué)術(shù)界首次提出到各界積極研究，再到產(chǎn)業(yè)界開始落地實(shí)踐，可信AI內(nèi)涵也在逐步地豐富和演進(jìn)。

“人工智能作為新興技術(shù)，在帶來(lái)巨大經(jīng)濟(jì)潛力和社會(huì)影響的同時(shí)，也可能因?yàn)槭褂貌划?dāng)而帶來(lái)更多的風(fēng)險(xiǎn)和隱患。技術(shù)的本質(zhì)是為了更好地服務(wù)于社會(huì)，這要求人工智能的發(fā)展不可逾越道德倫理、法律規(guī)則的‘紅線，需杜絕濫用等現(xiàn)象?！比鹑R智慧高級(jí)副總裁朱萌說(shuō)。

如何保證AI“向善”

有的悲劇，因?yàn)椴欢瓵I而發(fā)生，而另一些傷害，則是由于惡意應(yīng)用AI而造成，比如說(shuō)偽造與欺詐。這時(shí)，如何做才能保持AI的積極層面而杜絕它的負(fù)面效應(yīng)呢？

“首先，必須劃清界限，把技術(shù)分成可接受和不可接受的AI應(yīng)用?！瘪R克思·泰格馬克說(shuō)，“界限由何而定？文化、道德、法律、國(guó)際公約，這方面基因編輯技術(shù)的案例已經(jīng)提供了很好借鑒。”

其次，馬克思·泰格馬克還認(rèn)為，人類需要將AI調(diào)整到非常好的、積極而正面的方向。AI的管理和管控是全球性挑戰(zhàn)，因?yàn)榧夹g(shù)沒有邊界、沒有國(guó)界，各個(gè)國(guó)家也不可能自己關(guān)門作戰(zhàn)。

馬克思·泰格馬克表示，中國(guó)在這方面扮演了非常重要的角色。這不僅僅因?yàn)橹袊?guó)實(shí)力日益強(qiáng)大，更因?yàn)橹袊?guó)有著長(zhǎng)期思維的戰(zhàn)略部署，擁有久遠(yuǎn)的歷史和文化積淀。要知道，中國(guó)是一個(gè)有著5000年文明的古老國(guó)家，在國(guó)外講長(zhǎng)期規(guī)劃，大家都會(huì)笑，可如果說(shuō)中國(guó)籌劃高鐵項(xiàng)目，大家就會(huì)關(guān)注長(zhǎng)期的愿景和規(guī)劃。

“這是一種全世界應(yīng)該向中國(guó)學(xué)習(xí)或從中受益的智慧。所以，在發(fā)展AI人類命運(yùn)共同體的時(shí)候，我們必須劃清界限、錨定方向。”馬克思·泰格馬克說(shuō)。

中國(guó)科學(xué)院自動(dòng)化研究所研究員、國(guó)家新一代人工智能治理專委會(huì)委員、聯(lián)合國(guó)教科文組織人工智能倫理特設(shè)專家組專家曾毅表示，可信人工智能絕對(duì)不僅僅是技術(shù)問(wèn)題，還有社會(huì)的視角。如何利用技術(shù)賦能，做到跨文化的互信，是真正實(shí)現(xiàn)可信人工智能不得不做的事情，甚至是最后成功的關(guān)鍵。

清華大學(xué)國(guó)強(qiáng)教授、智能產(chǎn)業(yè)研究院研究員聶再清表示，AI經(jīng)常會(huì)與中文的“愛”聯(lián)系在一起，其實(shí)表達(dá)了大家對(duì)AI有期待，即讓AI有愛。技術(shù)是中性的，只有愛才可以產(chǎn)生用戶價(jià)值，使AI向善，技術(shù)才能真正地走到千家萬(wàn)戶變成日常生活的一部分。

浙江大學(xué)計(jì)算機(jī)科學(xué)與技術(shù)學(xué)院教授宋明黎認(rèn)為，可信AI應(yīng)該至少包含三個(gè)方面：第一是數(shù)理模型可信可靠，第二是機(jī)理模型的可解釋可信性，第三是推理結(jié)果的可預(yù)期性。

中國(guó)社會(huì)科學(xué)院哲學(xué)所研究員、中國(guó)社會(huì)科學(xué)院科學(xué)技術(shù)和社會(huì)研究中心主任段偉文從哲學(xué)上解讀了AI向善。他提出，技術(shù)的發(fā)展應(yīng)賦予每個(gè)人更多的發(fā)展權(quán)，AI向善不僅能給予更多群體跟上人工智能的機(jī)會(huì)，而且還可以讓他們?cè)谶@個(gè)過(guò)程中學(xué)會(huì)如何面對(duì)世界、如何開創(chuàng)未來(lái)以及如何尋找人生的意義。

“向善的AI就是求真的AI，AI向善首先模型得求真，求真后用人類價(jià)值體系看它是否向善。”上海交通大學(xué)約翰·霍普克羅夫特計(jì)算機(jī)科學(xué)中心副教授張拳石說(shuō)。

中國(guó)科學(xué)技術(shù)大學(xué)電子工程與信息科學(xué)系副教授田新梅認(rèn)為，科技企業(yè)在可信AI中起著非常重要的作用，首先不僅是很多關(guān)鍵技術(shù)的提出者，更重要的是要把科學(xué)技術(shù)轉(zhuǎn)化成應(yīng)用實(shí)踐，一項(xiàng)技術(shù)只停留在實(shí)驗(yàn)室是沒有用的，要轉(zhuǎn)化落地并很好地服務(wù)人民才是有用的，科技企業(yè)肩負(fù)著這樣的重任。

對(duì)于加速落地可信AI，锘崴科技CTO、華西醫(yī)院特聘教授、同濟(jì)大學(xué)特聘教授王爽提出，首先大眾要有隱私保護(hù)的意識(shí)或者是對(duì)于可信AI關(guān)注的意識(shí)，另一方面企業(yè)也有義務(wù)去幫助、推廣相關(guān)的教育科普隱私方面或者是可信AI方面潛在的問(wèn)題。另一方面也要加強(qiáng)法律法規(guī)的建設(shè)，同時(shí)在相關(guān)標(biāo)準(zhǔn)制定方面也要跟上。

關(guān)于可信AI的企業(yè)實(shí)踐，洞見科技CTO何浩表示，數(shù)據(jù)安全、算法可信、平臺(tái)互信是可信AI的基石和重要組成部分，隱私計(jì)算提供的底層數(shù)據(jù)隱私保護(hù)能力，區(qū)塊鏈提供的算法可信證明，不同機(jī)構(gòu)間AI算法的互信互通將共同賦能數(shù)據(jù)和算法價(jià)值的安全釋放。