牛津大學人類未來研究所由多個國家的科學家、數(shù)學家、哲學家構成,以研究人類未來將面臨何種滅絕危險作為自己的學術使命。日前,該所所長尼克·博斯特羅姆發(fā)出警示:人工智能領域的實驗已經(jīng)進入意料之外且后果難以控制的疆域。在不遠的將來,人工智能會比人類變得更聰明,最終成為人類文明的“掘墓者”。人工智能,真的會對創(chuàng)造它們的人類構成致命威脅嗎?
被譽為“人工大腦之父”的雨果·德·加里斯教授是“人工智能威脅人類”觀點的擁護者之一。
在雨果看來,“災難”到來之前,人工智能會和人類有一段非常融洽的“蜜月期”。工業(yè)機器人、醫(yī)療機器人、聊天機器人、家務機器人、伙伴機器人……人工智能會普及到人類生活的每個領域,使人類徹底擺脫高危、枯燥、繁重的工作,使我們的生活獲得前所未有的便利。
但人工智能最終會獲得“自我進化”的能力,這是它們走向失控的節(jié)點所在?!叭斯ぶ悄懿⒉皇俏覀兿胂蟮哪菢印祟惤o予它們某種功能,它們才具備,否則就沒有。它們已經(jīng)在神經(jīng)和智能上產生初級的自行進化,并且是以指數(shù)速度發(fā)展的進化。它們將會在某天突然達到一種稱作‘奇點’的狀態(tài),然后很有可能會失去控制,以我們無法想象的速度自行進化,最終將人類智能遠遠拋在后面?!?/p>
雨果相信,到時人工智能將是人類的“萬億個萬億倍”。“它們面對人類,就仿佛人類面對蚊子、跳蚤甚至巖石,它們要消滅我們輕而易舉,如同我們將蚊子拍死,將臭蟲沖進下水道。誰會在消滅跳蚤時覺得這樣太殘忍?這也許是人類逃脫不了的宿命?!彼€預測,人工智能的“災難”也許在50年后就會降臨。
對于人類未來研究所和雨果的預測,中國科學院廣州電子技術研究所從事計算機科學研究的黃其智高級工程師并不認同。他表示,人工智能在未來確實可以無限接近于人腦的思維,甚至可以表現(xiàn)得比人類更聰明,但不會失控,更不會成為人類文明的毀滅者。
“人工智能有它的局限性:它的一切思維和做出的判斷都必須基于專家?guī)斓臄?shù)據(jù),即使是擁有了強大自我學習和推理能力的人工智能,它最初的原始架構也是人類賦予的。簡而言之,本質上是先有人腦的思維在前,才有人工智能的思維在后。從目前的技術成果來看,人工智能獲得所謂‘自我進化’的能力是不可想象的?!?/p>
但黃其智同時強調,人工智能并不因此就不具有風險?!霸谖铱磥?,它的危險性主要體現(xiàn)在被某些野心勃勃的人利用和操縱。只有在這種情況下,人工智能才會成為人類可怕的敵人?!保〒?jù)廣州日報)