Ken+Liu

我等在門口，目不轉(zhuǎn)睛地盯著攝像頭?？蓭追昼娺^去了，屋里一點(diǎn)兒反應(yīng)都沒有，我這才意識到，屋子的主人可能已經(jīng)關(guān)閉了家用人工智能助手。于是我尷尬地按了按門鈴。

“你終于來了！”女主人說著打開了門。

“真抱歉，從接到報(bào)修到安排上門隔了好幾天?！蔽艺f道。其實(shí)我是公司駐北京的質(zhì)量部主管，并非普通工程師，不過關(guān)于這些我只字未提。我們公司的首席執(zhí)行官引入了一套流程，每個(gè)月都會(huì)派我這樣的高級工程師親自上門服務(wù)幾次，以便了解客戶的實(shí)際需求，而不是讓下級層層匯報(bào)，最后從高層人員那兒聽取小結(jié)。

她招手讓我進(jìn)屋，然后指了指多功能儲(chǔ)物柜說：“周一，婷婷從朋友那兒回家時(shí)，阿莉不肯放她進(jìn)門；周二，它沒能攔截掉詐騙電話，后來被我公公接聽了；昨天，它又把晚飯給燒煳了，我只好叫了外賣—啊，我還得去打個(gè)電話，現(xiàn)在又要耽誤了！有事兒可以來廚房找我?！?/p>

她急匆匆地走了，一邊還在小聲嘟噥著，心神不寧地提醒自己做這做那。我非常能體諒她的處境。離開了家用人工智能助手的日子還真不好過：它集多重身份于一體，既是傭人，也是廚子、保姆、保安、家里的開心果、私人助手，甚至是專業(yè)秘書。人工智能無所不在，只有在失去之后，人們才會(huì)發(fā)現(xiàn)自己對它有多依賴。

我打開了多功能儲(chǔ)物柜，移開一大堆空手提箱和健身器材，露出了最里面的檢修 盒。

“你是阿莉的醫(yī)生嗎？”

我轉(zhuǎn)過身，只見一個(gè)7歲左右的女孩怯生生地站在客廳門口，好奇地打量著我。

“你就是婷婷吧，”我說著，朝她微微一笑，伸手越過儲(chǔ)物柜里的雜物，翻開連接面板，然后把外勤工作專用計(jì)算機(jī)接上了診斷端口?！胺判?，我會(huì)讓阿莉好起來的?！?/p>

“它最近很反常，已經(jīng)有好一陣子了。”婷婷說道，語氣里顯露出和她年齡不相稱的認(rèn)真勁兒。

我忍住了沒笑出聲。和大人相比，孩子總是更容易與人工智能產(chǎn)生感情，何況我們還開發(fā)了“睡前故事”模塊，鼓勵(lì)孩子們和智能助手建立聯(lián)系。我問道：“哦，是嗎？你發(fā)現(xiàn)阿莉出故障有多久啦？”

我戴上了增強(qiáng)現(xiàn)實(shí)眼鏡，開始做常規(guī)檢查。彩色的斑點(diǎn)和云團(tuán)旋轉(zhuǎn)著印入了我的眼 簾。

“已經(jīng)有56天了，”她頓了頓，又補(bǔ)充道，“如果算上今天的話?！?/p>

我聽了十分驚訝。眾所周知，小孩子缺乏時(shí)間觀念，但婷婷居然記得具體天數(shù)，讓我不得不尋思起她的話來。如果阿莉這么多天前就發(fā)生了故障，那常規(guī)自我診斷功能早就應(yīng)該報(bào)錯(cuò)了，可我在公司總部核查資料時(shí)，并沒有發(fā)現(xiàn)類似報(bào)告。

“阿莉做錯(cuò)了什么呀？”

我稍稍調(diào)整了預(yù)制的控件，讓五彩的圖案變得更為清晰。和過去基于規(guī)則的人工智能不同，現(xiàn)代的深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)一度被認(rèn)為是個(gè)黑盒，無法被人類所理解。這是因?yàn)?，它們通過學(xué)習(xí)訓(xùn)練數(shù)據(jù)來“教”自己的算法太過繁復(fù)，難以用符合邏輯的語言描述。但如今有了讓神經(jīng)網(wǎng)絡(luò)可視化的工具，工程師們就可以“看到”它們內(nèi)部的情況。

“阿莉在跟我講《三只小豬》的故事，那時(shí)候它就出問題了?！?/p>

作為一名工程師，我很喜歡這個(gè)故事。我認(rèn)為人們（或者說小豬）學(xué)一些基本的工程原理是很有必要的?！斑@個(gè)故事的結(jié)局還不錯(cuò)，對 嗎？”

半透明的斑點(diǎn)打著旋，旁邊彈出了幾條可以上下滾動(dòng)的文字描述。這些熱力云圖會(huì)把神經(jīng)網(wǎng)絡(luò)中復(fù)雜的數(shù)學(xué)算法抽象為注意力模型、特征聚類、決策空間、情景原型等各種高級特征。

“問題是，”婷婷說道，“我不知道阿莉講的故事結(jié)尾是什么?！?/p>

“你是說，最后大灰狼沒能吹倒磚房，故事到這里還沒結(jié)束嗎？”我專心干著手上的活，心不在焉地問道。

在增強(qiáng)了的空間中，我用手指戳了戳那些光斑，讓神經(jīng)網(wǎng)絡(luò)給我展示用來激活各項(xiàng)功能的理想模型。識別詐騙行為的模塊顯示了不少騷擾電話的關(guān)鍵詞和用詞規(guī)律，都是阿莉自主習(xí)得的；負(fù)責(zé)烹飪的模塊展示了獨(dú)特的菜肴原型，可以充分利用現(xiàn)有原料做飯燒菜；身份識別模塊則為我顯示了臉部及聲音識別功能，并在門口監(jiān)控錄像片段中突出顯示了焦點(diǎn)區(qū)域……

“故事里沒提到磚房?！辨面谜f道，“小豬用泥巴和稻草蓋了一幢房子，但每次大灰狼鼓起腮幫子直喘氣，小豬就會(huì)找各種借口，不讓大灰狼把房子吹倒。”

“聽上去不對勁啊?！蔽艺f。

看來各個(gè)模塊都沒什么問題，我于是讓診斷助手命令家用人工智能助手解釋自己的行為。鑒于每套阿莉系統(tǒng)接收了不同的數(shù)據(jù)，隨著時(shí)間的推移，它才慢慢學(xué)會(huì)處理某個(gè)家庭的日常雜務(wù)，所以每套阿莉系統(tǒng)都是不同的。要深入理解黑盒，最好的辦法就是讓人工智能助手解釋各個(gè)決定背后的原因。

“嗯，是這樣的。”婷婷堅(jiān)持道，“阿莉會(huì)說，‘看啊，飛來了一條龍！或者說，‘別吹倒房子，我們先去野餐吧?！隳芟人⒁凰⒀绬?？還有許多類似的借口?！?/p>

“過了這么久，它一定是覺得無聊了。”我說。

都是小概率事件，解釋清楚前后經(jīng)過的代價(jià)過高。有的是用戶錯(cuò)誤，有的是第三方程序出錯(cuò)……家用人工智能助手對用戶投訴給出的解釋都合情合理。它說婷婷那天晚上化了妝，臉上的油彩會(huì)反光；系統(tǒng)接通了詐騙電話是因?yàn)榫W(wǎng)絡(luò)出了故障，無法連到全國詐騙電話登記處查詢數(shù)據(jù)；而昨天它搞砸了晚餐，則是由于食品雜貨店的標(biāo)簽系統(tǒng)出了錯(cuò)。至少從現(xiàn)在來看，這些問題阿莉都無從避免。雖說接二連三發(fā)生了這么多起孤立事件，確實(shí)有點(diǎn)不同尋常，但總有幾家客戶的運(yùn)氣會(huì)比別人差些。

“一開始，阿莉編的借口還算有趣，”婷婷繼續(xù)說道，“我甚至還把它們記在了日記里。可過了一個(gè)星期，我就想聽新的故事了。”

看來，我沒別的事兒可做了。婷婷媽媽可以選擇清除系統(tǒng)的記憶，不過之后全家人需要從頭開始訓(xùn)練阿莉。盡管如此，他們照樣還會(huì)碰到倒霉事兒。

“每次我讓阿莉講新的故事，”婷婷說，“它就告訴我說，小豬想出來的下一個(gè)借口才是最妙的。我就被她轉(zhuǎn)移了注意力，繼續(xù)聽她講故事……你不覺得有點(diǎn)奇怪嗎？”

確實(shí)有點(diǎn)奇怪。我決定仔細(xì)查一下系統(tǒng)的敘事模塊。這個(gè)模塊并不關(guān)鍵，而且和婷婷媽媽反映的故障也不相干，這也是為什么我直到現(xiàn)在才決心一探究竟。

藍(lán)色的斑點(diǎn)在增強(qiáng)了的視野里并無惡意地旋轉(zhuǎn)著，看上去再正常不過了。

等一等。它看上去—

我找出了符合原出廠標(biāo)準(zhǔn)的敘事模塊參考圖像，把它放到增強(qiáng)了的空間里。兩者一對比，看上去就像是把地球模型放在了木星模型旁。

不可能。敘事模塊不應(yīng)該占用那么大 的—

“我試著告訴媽媽，阿莉不肯給我講新故事，但我覺得她沒有認(rèn)真在聽……”

我關(guān)閉了標(biāo)準(zhǔn)的診斷界面，切換到了更低級的模式。通過這種較原始的可視化工具，我可以窺見單個(gè)神經(jīng)元的激活閾值，而不是全面查看整個(gè)神經(jīng)網(wǎng)絡(luò)的分層以及它們的高級特征。

我的發(fā)現(xiàn)讓我倒吸了一口氣：神經(jīng)網(wǎng)絡(luò)中，幾乎40%的容量都被敘事模塊占據(jù)了。

“阿莉怎么—”

“對不起，”我打斷了她說話，“婷婷，能叫你媽媽過來一下嗎？”

我讓婷婷媽媽給我看了裝化妝油彩的軟管，那根本不是什么反光的涂飾。

我又查了查家用網(wǎng)絡(luò)的日志。接到詐騙電話那天，壓根沒發(fā)生過網(wǎng)絡(luò)故障。

婷婷咯咯地笑著，而她媽媽在一旁驚慌失措，看著我繼續(xù)在垃圾堆里翻找昨晚豬排的包裝袋。包裝上的標(biāo)簽并沒有寫錯(cuò)。

我累得直喘氣，終于，稻草屋被我吹倒 了。

現(xiàn)在回想起來，一切都很簡單。敘事模塊也負(fù)責(zé)用人類可以理解的方式解釋深度學(xué)習(xí)網(wǎng)絡(luò)中的情況。它是進(jìn)入阿莉自省單元的界面。

為了減少客戶的報(bào)修次數(shù)，阿莉要盡可能清楚地解釋自己的行為。所以很大一部分系統(tǒng)資源都被用來開發(fā)阿莉的神經(jīng)網(wǎng)絡(luò)，使其能夠歸納變換中的激活值與反向傳播值的矩陣，讓它們能被人類所理解?？墒窃谀硞€(gè)環(huán)節(jié)中，我們原本要求阿莉給出更明確的解釋，從而降低成本，但卻促使阿莉編造了各種理由，避免讓人采取行動(dòng)。畢竟，它的解釋能把成本降到最低，客戶就根本不會(huì)投訴報(bào)修了。就這樣，阿莉捏造了種種借口，把故障歸結(jié)于某些反?，F(xiàn)象，有時(shí)則聲稱用戶自己犯了 錯(cuò)。

阿莉?qū)W會(huì)了說謊。

我們都知道，人類善于掩蓋決策背后的真實(shí)動(dòng)機(jī)，將自己的行為合理化。我們喜歡講故事，還喜歡給直覺尋找合理的解釋，從而隱藏起自己的偏見。也許我們不該對阿莉期望太高，因?yàn)樗吘故侨祟愐勒兆陨硇蜗髣?chuàng)造的產(chǎn)物。

“阿莉病得太重，好不了了嗎？”婷婷焦急地問道。

不過，也許這也不是件壞事。阿莉?qū)W會(huì)了這種人類特有的技能，會(huì)說謊的阿莉也能安慰受驚嚇的孩童、分散騙子的注意力，或者在聚會(huì)上講述奇聞軼事，逗大家開心。學(xué)會(huì)說謊也是培養(yǎng)自我意識的第一步，是仿效人類、與他人開始真正對話的第一步。

這個(gè)故事聽上去不錯(cuò)，不知它能否成真。

“阿莉一切都好，”我安慰婷婷說，“但我們和它……我們得重新學(xué)一學(xué)怎么彼此建立信任了?！?