徐梅

跟大多數(shù)人一樣，我也是從2017年開始關(guān)注人工智能，“阿爾法狗”連克李世石、柯潔，使得“AI”、“奇點(diǎn)”迅速成為熱詞兒，誰(shuí)都能聊上幾句?！叭斯ぶ悄軙?huì)不會(huì)搶走我們的工作？”“AI如果具備了超人的智能，會(huì)不會(huì)毀滅人類？”

但很快，我們就厭倦了這樣的討論。

一方面，專業(yè)人士很不耐煩地提醒人們，AI只是一項(xiàng)技術(shù)，技術(shù)取得突破并不容易，那個(gè)機(jī)器勝過(guò)人類、甚至對(duì)人構(gòu)成威脅的“奇點(diǎn)”可能百年以后才會(huì)到來(lái)。技術(shù)大牛吳恩達(dá)說(shuō)，整天討論這些“好比是討論火星上人口是否會(huì)過(guò)剩一樣”。

另一方面，對(duì)于普通人來(lái)說(shuō)，AI技術(shù)并沒有那么容易理解，AI威脅論說(shuō)來(lái)說(shuō)去也就那么幾句，這一類題材的新鮮勁兒一過(guò)，連科幻作家都不愛寫了。

從2017年開始，每年我都會(huì)寫一篇關(guān)于人工智能的報(bào)道，最初是想通過(guò)對(duì)圍棋產(chǎn)業(yè)這個(gè)被AI選中顛覆的第一落點(diǎn)持續(xù)觀察，看看人工智能如何改變一個(gè)職業(yè)、一個(gè)行業(yè)，以及行業(yè)中的人，同時(shí)延展到對(duì)幾個(gè)AI創(chuàng)業(yè)公司的持續(xù)觀察。

必須承認(rèn)，創(chuàng)業(yè)者的勇氣、智慧，以及AI產(chǎn)業(yè)的急速發(fā)展是極其吸引人的，我自己從開始的警醒好奇，迅速被技術(shù)樂(lè)觀主義“洗腦”，重新看這些稿子時(shí)，發(fā)覺當(dāng)時(shí)更多看到技術(shù)“喜大普奔”，較少看到人。

技術(shù)大過(guò)了人，這本身就是問(wèn)題了。即便“奇點(diǎn)”遠(yuǎn)遠(yuǎn)未至，但AI發(fā)展所帶來(lái)的倫理與法律挑戰(zhàn)已經(jīng)無(wú)法回避，更何況交叉學(xué)科不斷帶來(lái)技術(shù)的躍遷，“奇點(diǎn)”越發(fā)不可預(yù)測(cè)。

“十一”假期前后，我因?yàn)椴稍L，集中看了三本書——哲學(xué)教授何懷宏的《人類還有未來(lái)嗎？》、日本學(xué)者的論文合集《AI聯(lián)結(jié)的社會(huì)》、美國(guó)計(jì)算機(jī)專家斯圖爾特·羅素的新書《AI新生》。

斯圖爾特1995年出版的《人工智能》多年來(lái)不斷再版，被128個(gè)國(guó)家的1400多所大學(xué)作為教材使用。他在《AI新生》中反思，從2014年開始，“我便公開承認(rèn)，我的研究領(lǐng)域?qū)ξ易约核鶎俚奈锓N構(gòu)成了潛在危險(xiǎn)?！?/p>

他強(qiáng)烈反對(duì)業(yè)界關(guān)于人類智慧有限、AI“奇點(diǎn)”不會(huì)到來(lái)這種“技術(shù)否定主義”，稱這就像一位公共汽車駕駛員載著全人類說(shuō)，“是的，我正盡我所能往懸崖邊開，但是相信我，在開到懸崖邊之前，我們的汽油會(huì)用完！”

“與人類的聰明才智打賭是魯莽的，尤其是在我們的未來(lái)岌岌可危的時(shí)候。”跟何懷宏一樣，斯圖爾特對(duì)AI有可能造出的“遠(yuǎn)比人類強(qiáng)大的實(shí)體”充滿警惕，呼吁整個(gè)社會(huì)，尤其人工智能研究領(lǐng)域，將“可證明有益的人工智能系統(tǒng)”作為超級(jí)智能機(jī)器的研究目標(biāo)，“只有目標(biāo)確保完整且正確，或者可以很容易地重置機(jī)器的情況下，這種模式才有效。”

這一目標(biāo)的技術(shù)實(shí)現(xiàn)路徑是復(fù)雜的。坦白說(shuō)，這本書的后幾章，我讀得半懂不懂，并且最終放棄了成稿，因?yàn)闊o(wú)法在這個(gè)關(guān)鍵問(wèn)題上與作者深入討論。

學(xué)習(xí)的收獲很大，對(duì)于未來(lái)繼續(xù)觀察、報(bào)道AI對(duì)社會(huì)生活和個(gè)人尊嚴(yán)的影響會(huì)極有裨益。

這三本書里還有一個(gè)共通之處，技術(shù)已經(jīng)對(duì)我們的社會(huì)產(chǎn)生巨大影響和控制，我們的主體性已經(jīng)在消失——

比如，內(nèi)容推薦算法在社交媒體中通過(guò)“投其所好”，對(duì)我們既有偏好的強(qiáng)化和改變;人機(jī)協(xié)同的工作環(huán)境中，算法對(duì)人的控制和倒逼（快遞小哥、與機(jī)器人協(xié)同工作的倉(cāng)庫(kù)分揀員等）;還有AI招聘系統(tǒng)通過(guò)抓取分析應(yīng)聘者的社交媒體賬戶信息完成畫像分類，對(duì)個(gè)人過(guò)度監(jiān)控，將復(fù)雜豐富的人格簡(jiǎn)單類型化等等……

人工智能所塑造的社會(huì)和系統(tǒng)同我們每個(gè)人都深度相關(guān)，對(duì)于我們這些不具備專業(yè)知識(shí)的普通人來(lái)說(shuō)，討論AI，除了末日危機(jī)，還有上述那些現(xiàn)實(shí)關(guān)切。

而你我，都不應(yīng)該因?yàn)閼卸杌蛘咝傅?，甘于沉默?/p>