《紐約客》雜志2018年5月14日號

1似人非人，你怕不怕

這篇《紐約客》的長文再次探究人工智能對人類社會的潛在影響和深遠意義，它引述了大量科技界人士的研究和觀點，頗具深度，同時結合科幻小說和影視作品來解讀人工智能，不乏趣味，又充滿著浪漫的人文氣息。

一直以來，許多科學家和有識之士，包括蓋茨、馬斯克和霍金等，不斷發(fā)出警告稱，一旦人工智能進化到所謂的通用型即AGI的階段，它的智能程度遠超人類，世界末日就可能隨之而來。當人工智能進化到創(chuàng)造它的人類難以理解的階段，它好像具有了直覺和創(chuàng)造力，這時人類有種背后發(fā)涼的感覺，它可能是人類最后的發(fā)明。

本文指出，AGI離我們還有一段距離，專家們在最新調查中預計它們到來的時間點是2047年，它將為人類解決一大堆難題，但也會帶來種種風險。像所有技術一樣，一旦人類失去對它的控制，就可能帶來災難，比如，火，電力，汽車，核電站，當然，也包括人工智能。奇怪的是，科幻小說的作者們并沒有預見到AGI會給人類帶來滅頂之災，人類似乎并不擔心這個問題。有些人認為，人類的智力與人工智能各有所長，可以是互補的，人類在AI的協(xié)助下，不會失去工作，只會更好地發(fā)揮所長。另一方面，機器也會渴望更像是人類，至少在影視作品中是這樣，它們會有人類那樣的意識，讓人類難以分辨。

本文提到，AGI系統(tǒng)要想達成我們指定的目標就需要掌控全局，因此，它的真正危險，也許不是來源于惡意或者它出現(xiàn)自我意識，而恰恰是它的自主，這時人類的處境就好比是小孩子玩炸彈，失去了控制它的能力。那么，該怎么辦呢？是給AGI注入價值觀，還是尊重AGI，讓它自己來解決這個難題。本文認為，這個問題的回答很可能與人類如何看待自己有關。因此，思考人工智能，可以幫助我們更好地認識人性，不管是好的還是不好的方面。

《大西洋月刊》2018年6月號

2人工智能，是福還是禍

近來，人工智能的熱度持續(xù)攀升，領頭羊谷歌公司繼阿法狗在圍棋上將人類挑下馬之后，又推出人工智能個人助理，它可以替我們打電話訂餐廳，預約理發(fā)服務，雖沒有阿法狗那么轟動，但還是狠狠地刷了一次屏，因為它竟然騙過了接電話的服務員。就在這個當口，美國德高望重的基辛格博士在《大西洋月刊》上發(fā)表了這篇文章，他特別指出，因為互聯(lián)網(wǎng)，特別是人工智能的影響，人類的歷史正在走向一個重大的轉折點，我們必須為此做好準備。

基辛格表示，他本人并非技術專家，但作為一名歷史學家和一名有實戰(zhàn)經驗的政治家，在聽取了許多技術專家的介紹，他意識到，互聯(lián)網(wǎng)特別是人工智能的技術進步正在深刻改變著現(xiàn)代人類社會的歷史進程，由啟蒙運動引領的理性時代的當代世界秩序正處于變動之中，未來的世界將依賴數(shù)據(jù)和算法所驅動的機器。數(shù)據(jù)即意義，人們不再自省，幾乎不過問歷史或哲學，只要數(shù)據(jù)和算法即時有用，真理變成相對的，我們更關注信息，而不是智慧。

基辛格警告說，人工智能與之前的自動化不同，自動化只是手段，而人工智能與目的有關，它會建立起自己的目標，特別是目前想要實現(xiàn)的可執(zhí)行多種領域任務的通用型人工智能。人工智能利用數(shù)據(jù)，對人類未來作出判斷，其結果有著內在的不確定性和模糊性。這樣就產生了一個悖論：世界變得更透明，但它也變得越來越神秘莫測?；粮窨偨Y了三個方面的隱憂：第一，人工智能可能會得出人類不愿意看到的結果；第二，人工智能在達成既定目標中，可能會改變人類的思想進程和人類的價值觀；第三，人工智能或許可達成既定目標，但是不能解釋出其結果背后的道理來。

基辛格認為，人工智能的決策和行動，有一天會超出人類的解讀能力，就像阿法狗下出的每一步棋，我們不僅關心輸贏，我們還關心背后的思考和意義。開發(fā)設計人工智能的科學家和工程師們追求的是科技和商業(yè)的極致，他們并沒有從人文傳統(tǒng)的視角看這個問題。因此，人工智能對人類的認知本質構成威脅，假如我們不趁早準備應對，未來人類可能會面臨存在性危機?；粮裣喈斂隙ǖ刂赋觯偃缯槐M快行動起來，人工智能可能會終結人類的歷史。你說，基辛格是不是有點杞人憂天呢？

《科學美國人》同站2018年5月15日

3自知之明不常有

這篇《科學美國人》的文章很有意思，它總結了關于人們并不了解自己的十件事，引用許多研究說明了我們很可能并不像我們認為的那樣理解自己。也許你會不以為然，還有誰比我自己更了解我？

好吧，下面我們把這十件事逐一做個簡單的介紹。第一，你眼中的自己是扭曲的，我們往往認識不到自己的偏見；第二，你完全不明白自己的動機，人們的潛意識藏得很深；第三，外在表現(xiàn)說明了你的許多，因此，我們最親近的人往往看我們更準確，特別是那些突出反映在行為當中的性格特征；第四，離自己遠一點看自己更清楚，我們通過獨處或冥想，讓潛意識與目標趨于一致，可提升幸福感；第五，我們經常高估自己，人們越無能，就越難意識到自己的無能，這就是Dunning Kruger效應；第六，看不起自己的人更經常有挫敗感，這與前一條并不矛盾，二者都很常見；第七，你自欺欺人卻不自知；第八，“真我”體現(xiàn)了你相對穩(wěn)定的道德觀；第九，沒有安全感的人往往行為更端正，心理學家Drazen Prelec提出了給自己發(fā)信號的理論，即我做一件事更多是做給自己看的，而不是證明給別人看的，比如，為什么有人寧愿花幾十萬買真勞力士，而不是花幾千弄一條真假難辨的仿冒品，就可以用這個理論來解釋；第十，你認為自己可以改變，你就可以做到更好，這就是Carol Dweck著名的成長心態(tài)。

本文最后指出，獲取對自我的認識比人們想象的更難。當代心理學從根本上質疑我們可以客觀地、確定地了解自己，可以明確的是，自我并不是一個物品，而是對變化中的環(huán)境不斷適應的一個過程。

（本欄目撰文 劉虎）