劉乃強

從人類的角度,我們一定要確定人類能積極和全面掌控GNR科技,為人類的福祉服務,而不是帶來人類的滅亡?

自從工業(yè)革命以來,人類對機器便開始有各種不同的恐懼?上世紀下半葉,人工智能,以及隨之而來的機器人不斷普及,其智力不斷提高,更引發(fā)科幻小說中不少遐想?最著名的,是十分有現(xiàn)實意義的機器人三條定律(Tree Laws of Robotics)?這三條定律最初于1942年由科幻小說大師阿士莫夫(Issac Asimov)提出的?

我最近接觸到一篇由電腦科技大師?美國Sun Microsystem的首席科學家和共同創(chuàng)辦人;Unix?Java和Jini的創(chuàng)造者,Bill Joy的十分重要文章,真有暮鼓晨鐘的感覺,和無比的危機感和迫切感?作為美國和全球科技尖端人士,Joy認為21世紀的機器人?基因和納米科技的發(fā)展,將會指向一個“不需要我們(人類)的未來(Why the future doesn＇t need us)”?

對于高新科技的恐懼和抗拒,以前也曾出現(xiàn)過?但與20世紀的大規(guī)模殺傷性武器(weapons of mass destruction,WMD)等屬于核子?生物和化學(NBC)科技比較,基因?納米和機器人(GNR)科技屬于知識發(fā)動大規(guī)模殺傷性(knowl-edge-enabled mass destruction,KMD)類型,特點在于:

GNR科技特色在于它能自我重復?繁殖,自我維護和改善?它有自己的“生命”?人類有能力創(chuàng)造這些“生命”,但對于這些“生命”出現(xiàn)之后的各種更復雜和嚴重的結(jié)果和影響,則束手無策,很容易失控,后果無從收拾?

GNR科技不是由國家主導,集中和有控制地開發(fā),目標不是國家安全,而是赤裸裸的市場動力:貪婪?科技開發(fā)和生產(chǎn)無序?分散,而且彼此保密,容易失控而長期不被發(fā)覺,直至局面難以逆轉(zhuǎn)?

GNR科技由知識發(fā)動,通過基因?納米技術(shù),開發(fā)和生產(chǎn)的條件要求和成本十分低,只要擁有有關(guān)知識,便很容易大量生產(chǎn),之后可大量地繁殖和自我繁殖?改良升級?

一方面,根據(jù)GNR科技目前發(fā)展的速度,估計不到2030年,十分廉價和具有人類智力水平的機器人將取代人類很多工作?到時將會出現(xiàn)兩種情況:一是機器人獲準作所有決策,毋須人類監(jiān)控;二是人類依然有效監(jiān)控機器人?

第一種情況,人類將無法知道決策和結(jié)果是什么,完全為機器人所左右?人類當然不會愚蠢至自動放棄監(jiān)控,但當機器人的能力越來越強,人類會讓它們代我們作更多的決策,直至整個系統(tǒng)復雜到人類難以了解和操縱,機器人事實上掌控人類生活,而人類亦因為太依靠機器人,而不敢貿(mào)然關(guān)掉這系統(tǒng)?

第二個情況,一般群眾可控制他們擁有的機器人,如汽車?電腦等,但整個系統(tǒng)則由少數(shù)精英所操控?表面看來,這與今天的情況無異,但首先精英對群眾的控制能力大增,更重要的是人類的工作已經(jīng)不重要,群眾將成為系統(tǒng)中無用的負擔?少數(shù)精英可以殘酷毀滅絕大部分人類,或者可以通過各種手段,大降生殖率,直至只剩精英階層;又或可以慈愛地把群眾的生理?心理需要全部照顧,有如養(yǎng)寵物一樣?兩者都不是我們所想見到的發(fā)展?

事實上,Joy引述了許多科技界人士的權(quán)威意見,得到的結(jié)論是被人類設(shè)計得比自己更強的機器人,將于數(shù)十年內(nèi)會取代人類?至于根據(jù)市場優(yōu)勢取代進化優(yōu)勢取向的發(fā)展,對現(xiàn)時有利人類和生物生存發(fā)展生態(tài)的毀滅性損害,更不在話下?

不論我們是否同意Joy的分析和結(jié)論,我們不能不嚴肅地面對GNR科技對人類生存和發(fā)展的巨大挑戰(zhàn)?從人類的角度,我們一定要確定人類能積極和全面掌控GNR科技,為人類的福祉服務,而不是帶來人類的滅亡?從國家民族角度,我們不能放任科技先進的發(fā)達國家,繼續(xù)毫無限制地發(fā)展GNR科技,并且短期獲得甜頭,甚至以此壓抑我國的發(fā)展,最后還極有可能要讓我國人民無辜地被拖累,分享滅絕的惡果?中國如不鼓起勇氣抗衡,我們將無可選擇地被逼投入大量資源去從事最后結(jié)果是自我毀滅的科技競賽,情況比上世紀冷戰(zhàn)時代NBC科技的軍事競賽更惡劣?效果更嚴重?

因此,響應歐美最尖端科技界對現(xiàn)時GNR科技無序發(fā)展的憂慮,既會得到廣大發(fā)展中國家的支持,而即使在美?歐?日等發(fā)達國家內(nèi)部,也會得到不少有識之士十分積極的回應,必將占領(lǐng)全球道德和智力制高點?