程永高/文　王淦生/評(píng)

真正的“人機(jī)大戰(zhàn)”在棋局之外

程永高/文王淦生/評(píng)

2016年3月9日注定要寫入圍棋界的歷史、IT界的歷史、科學(xué)界的歷史，甚至人類的歷史。在這天的3個(gè)多小時(shí)里，擁有1200多個(gè)處理器的谷歌人工智能系統(tǒng)AlphaGo，在深邃的圍棋棋盤上把世界圍棋冠軍、韓國棋手李世石逼到絕路，曾經(jīng)獨(dú)孤求敗的九段高手不得不投子認(rèn)輸。

這一幕似曾相識(shí)。1997年，IBM公司的超級(jí)電腦“深藍(lán)”就曾結(jié)束了有史以來最偉大棋手卡斯帕羅夫獨(dú)步天下的地位。

兩局棋的結(jié)局是令人震撼的。人類最頂尖的高手落敗了，而對(duì)手只是一臺(tái)沒有生命力、沒有感情的冰冷機(jī)器。這種震撼不僅讓人感嘆，甚至讓人有些生畏，因?yàn)椋昝赖刂辈チ巳祟愔圃斓墓ぞ呤侨绾螒?zhàn)勝人類的。

相比19年前的 “深藍(lán)”，Alpha-Go更進(jìn)一步。前者靠強(qiáng)大的處理器核心來“暴力窮舉”出所有的取勝方案，而AlphaGo已經(jīng)懂得策略思維和形勢判斷。換句話說，前者靠蠻力優(yōu)勢，而后者更有思維，更懂得像人類一樣思考，甚至?xí)W(xué)習(xí)。

機(jī)器人懂思維、能思考、會(huì)學(xué)習(xí)，是這輪人機(jī)大戰(zhàn)最核心的看點(diǎn)。這標(biāo)志著機(jī)器已經(jīng)不再簡單地按照人類編寫的程序來被動(dòng)運(yùn)算，而是逐漸開始掌握主動(dòng)思考和主動(dòng)決策的技能。

從被動(dòng)到主動(dòng)，正是人工智能發(fā)展最難言的道德窘境。人類進(jìn)化，之所以優(yōu)于其他生物物種，是因?yàn)槿祟惥邆鋭趧?dòng)能力和工具利用的能力，進(jìn)而生成主動(dòng)思考和決策，但這一進(jìn)程，持續(xù)了幾百萬年甚至更長時(shí)間。而人工智能技術(shù)只耗費(fèi)了幾十年就讓電腦類機(jī)器工具從被動(dòng)服務(wù)學(xué)會(huì)了主動(dòng)決策。目前，人工智能設(shè)備的“智商”已經(jīng)可以達(dá)到四五歲兒童的水平，在可預(yù)見的未來，制造出會(huì)思維、懂情感、能判斷、有主見的智能機(jī)器不是天方夜譚。

人類無法想象未來的人工智能會(huì)發(fā)展到什么地步，就像幾百年前的人類無法想象汽車、飛機(jī)、導(dǎo)彈這些遠(yuǎn)遠(yuǎn)超越人類自身極限的工具一樣。相比人腦有限的利用率，人工智能的“智商”全面勝出人腦也只是時(shí)間問題。霍金、比爾·蓋茨等人都曾悲觀地提醒過，無度發(fā)展可能導(dǎo)致人工智能最終反制人類，造成不可控的毀滅。一些科學(xué)家也曾警告某些國家，不要輕易把人工智能運(yùn)用到戰(zhàn)斗武器中。

人工智能的利用價(jià)值毋庸置疑，它可以提高效率，優(yōu)化生產(chǎn)，進(jìn)行高危作業(yè)等。但關(guān)鍵問題是，人類如何去引導(dǎo)、規(guī)范、限定智能技術(shù)發(fā)展的方向、界限和目的。應(yīng)當(dāng)讓智能機(jī)器“知道”，它們的出現(xiàn)不是為了戰(zhàn)勝人類，而是服務(wù)人類；更應(yīng)該讓研究者清楚，人工智能不僅涉及計(jì)算機(jī)科學(xué)，也包括哲學(xué)、認(rèn)知學(xué)、心理學(xué)、控制論、社會(huì)學(xué)，更需要有清晰和冷靜的科學(xué)發(fā)展觀。

因此，真正的人機(jī)大戰(zhàn)，在人工智能技術(shù)的全面發(fā)展過程之中，而其中重要的一場戰(zhàn)役，是人類能否控制自己的心智，去發(fā)展合理的智能技術(shù)。

（原載2016年3月10日《京華時(shí)報(bào)》）

［解讀］《真正的“人機(jī)大戰(zhàn)”在棋局之外》這篇短論重點(diǎn)介紹了戰(zhàn)勝卡斯帕羅夫與擊敗李世石的兩臺(tái)人工智能機(jī)器的不同，突出了AlphaGo“懂思維、能思考、會(huì)學(xué)習(xí)”的特點(diǎn)。而AlphaGo所具備的這種“主動(dòng)性”，標(biāo)志著人工智能的發(fā)展已進(jìn)入了一個(gè)全新的階段。而這一階段人工智能技術(shù)的發(fā)展有可能陷入了一個(gè) “道德窘境”——即隨著人工智能技術(shù)迅速發(fā)展，遲早會(huì)出現(xiàn)“會(huì)思維、懂情感、能判斷、有主見的智能機(jī)器”，而這些智能機(jī)器在為人類提供各種前所未有的便利和效率的同時(shí)，也極有可能會(huì)給人類帶來意想不到的災(zāi)難。由此，作者得出結(jié)論：真正的“人機(jī)大戰(zhàn)”，是 “人類能否控制自己的心智，去發(fā)展合理的智能技術(shù)”。比如不將人工智能技術(shù)運(yùn)用到有害于人類（比如武器制造）的領(lǐng)域，而且必須使之為人類所掌控，始終服務(wù)于人類。文章有理有據(jù)，富有見地，值得每一位關(guān)注人類命運(yùn)的人思量。

［作者單位：江蘇省鹽城市亭湖高級(jí)中學(xué)］