孫遠(yuǎn)釗

“我很擔(dān)心將來也許有些人會使用下列的三段論法：圖靈相信機(jī)器會思考，圖靈同人們說了謊，因此機(jī)器不會思考。

您深受苦惱的， 艾倫”

— “人工智能之父”艾倫?圖靈（Alan M. Truing， 1912-1954）1

“電腦是否能思考的問題就與潛水艇是否能游泳的問題同樣相關(guān)?！?/p>

艾茲赫爾·戴克斯特拉（Edsger W. Dijkstra， 1930-2002）2

圖靈獎的得主、計算機(jī)領(lǐng)域的先驅(qū)戴克斯特拉教授用上述的一句話，詼諧地點(diǎn)明，人們對于“人工智能” 可能從一開始在觀感上就已經(jīng)了自己的謬誤。這句話的寓意是提醒大家不要削足適履地思考問題，因?yàn)槲覀兂嫷刈韵?，不?jīng)意地被自行事先劃定的語意所蒙蔽和糾結(jié)。例如只要一提到“人工智能”，許多人（尤其在西方社會）腦海中所浮現(xiàn)出的第一個印象，就是一個近似人類的機(jī)器人，甚至就是好萊塢在不同的科幻電影中所制造出來的形象，如“變形金剛”（Transformers）、“終結(jié)者”（Terminator）等等，認(rèn)為這些機(jī)器人會說各種人類的語言，但擁有自己的思維、計畫與目的，完全不受人類的操控，甚至可以為了達(dá)到自身的目的去輕易地掃除障礙、毀滅人類。于是，各種莫名的恐懼便油然而生。然而這樣的觀感或印象不但與實(shí)際的情況大相徑庭，甚至還對相關(guān)的研發(fā)活動造成了一定的負(fù)面影響。

一臺機(jī)器（電腦或計算機(jī)）對于信息的處理和操作方式與人類大腦的操作邏輯和處理方式本來就截然不同。因此，所謂的“人工智能”從來就不是為了去復(fù)制一個能與人類“想法一致”的機(jī)器人，而是要協(xié)助人類更有效率地處理許多目前人類自己做不來或需要消耗大量時間、資源才能處理好的事情。也就是說，所謂的“人工智能”事實(shí)上應(yīng)該是“智能人工”的誤寫，這與蒸汽機(jī)、電話、電報、電腦等等發(fā)明的出現(xiàn)代替了許多之前效能較差的既有工具并無二致。所以，當(dāng)人們要辯論潛水艇是否會“游泳”時，其中的荒謬性便顯而易見：什么叫“游泳”？為什么要用單一的動詞或形容詞去描繪所有在水中或水下活動的事物？這豈非等同于用一個碼數(shù)的鞋就想套盡天下各式各樣的腳？同理，當(dāng)我們在問一臺電腦或裝置究竟是否會“思考”時，我們究竟在問什么呢？

也正因?yàn)橐慌_機(jī)器或裝置從來就不是依循人類的思維與價值去操作（所以需要透過編譯器（compiler）與界面（interface）去轉(zhuǎn)化為人類所能了解的語言和信息），當(dāng)人類試圖要用自己所能認(rèn)知的邏輯與價值來規(guī)制機(jī)器或裝置時，恐怕就會產(chǎn)生各種捍格不入的問題。而人類自己常有的價值與行為矛盾，一旦要轉(zhuǎn)化為機(jī)器程序語言，也注定滯礙難行乃至讓機(jī)器或裝置無所適從。例如，歐洲聯(lián)盟曾經(jīng)考慮是否必須把“所有的人工智能機(jī)器或裝置不可傷害人類”做為不得違反的頭號天條，但很快就打消了這個想法，因?yàn)橹辽僭诳梢姷奈磥?，人們都想不出具體的實(shí)踐方法。設(shè)想一下：一個具有人工智能的“機(jī)器警察”在維持治安時，要如何對應(yīng)持槍搶劫的嫌犯和同時也持槍試圖自衛(wèi)的其他市民？人工智能要如何去區(qū)分誰是“好人”、誰是“壞人”？

另一個典型例子呈現(xiàn)在斯坦利·庫布里克（Stanley Kubrick）于1968年所導(dǎo)演、制作的經(jīng)典電影《2001：太空漫游》（2001： A Space Odyssey），及其之后與科幻小說作家與未來學(xué)學(xué)者亞瑟·克拉克爵士（Sir Arthur C. Clarke）所共同創(chuàng)作的同名小說之中。影片中最具戲劇張力的關(guān)鍵情節(jié)是，宇航船上的人工智能電腦在被制造出來時，其中已輸入了一個最高指令：必須保護(hù)、不得傷害人類。但地面的任務(wù)總指揮官在宇航船出發(fā)前，又對電腦輸入了另一條絕密的最高指令：必須堅持完成探索地球所有物種生命起源的重大任務(wù)，不容失敗。于是，最大的沖突爆點(diǎn)便悄然埋下：當(dāng)任務(wù)執(zhí)行的過程當(dāng)中發(fā)生意外事故導(dǎo)致宇航員準(zhǔn)備放棄時，電腦究竟應(yīng)該是完全聽命、放棄任務(wù)，還是堅持任務(wù)、抗命不從，甚至不惜犧牲全體人員的性命？于是，人工智能電腦無所適從，發(fā)生了種種嚴(yán)重的問題。雖然這只是電影情節(jié)。但其背后的問題卻值得深思：人類常會在不經(jīng)意之間埋下矛盾的種子卻還不自知，等到一旦發(fā)生了問題，又如何要求一臺機(jī)器或裝置去做原本應(yīng)該由人自己做出的價值判斷？尤其是，人類應(yīng)該如何教會機(jī)器撒謊并自圓其說？

另一個現(xiàn)實(shí)的例子是，當(dāng)聯(lián)合國《常規(guī)武器公約》（Convention and Certain Conventional Weapons， CCW）3締約國專家組正在研究論證是否要在未來的公約修改草案之中明文禁止所謂的“殺人機(jī)器人”（killer robots）之際，許多國家的國防部門卻正以降低人員的傷亡為由，早已開發(fā)出專門從事不同形式戰(zhàn)爭格斗的機(jī)器人或人工智能技術(shù)（裝置）。這也與一些國家在人工智能問題上標(biāo)榜的核心價值和精神完全背道而馳。

反過來看，當(dāng)人工智能通過“學(xué)習(xí)”，“創(chuàng)作”出了詩篇文章之時，是否要賦予其著作權(quán)的“保護(hù)”呢？這剛好就是“潛水艇是否會游泳”的反面問題，試圖把人類的思維與價值向機(jī)器、裝置投射：是否會游泳的就一定是或不是潛水艇？這當(dāng)中的荒謬性自然也不言可喻。不過問題并沒有到此結(jié)束。目前學(xué)界已在探討：雖然一臺具有人工智能的機(jī)器或裝置本身并不能獲得如著作權(quán)等的權(quán)益保護(hù)，但是其作品如果在其他各方面都符合了可以受到保護(hù)的要件（具有獨(dú)創(chuàng)性的表達(dá)，并且不在不受保護(hù)的范圍之內(nèi)，如共同場景、操作方法、功能性的呈現(xiàn)等），固然機(jī)器或裝置未必可以享有任何權(quán)利，那么從事人工智能開發(fā)的人員或其雇主是否依然可以獲得著作權(quán)？

持贊成說的觀點(diǎn)主要還是從“智力勞動成果”的立場出發(fā)，認(rèn)為人工智能的所有人或開發(fā)者就算沒有功勞也有苦勞，而且這也較為符合激勵創(chuàng)新的精神；持反對說的觀點(diǎn)則認(rèn)為，著作權(quán)只保護(hù)以“人”（無論是自然人或法人）做為作者的作品，因此凡是由機(jī)器所創(chuàng)造出來的，就算是再有“創(chuàng)意”，也難以獲得任何的權(quán)利；況且任何人工智能或多或少都涉及到對于大數(shù)據(jù)的收集、整理與運(yùn)算，如果僅僅基于智力勞動的投入就可被賦予任何權(quán)利的話，那是否意味著在特定人工智能背后所有提供了數(shù)據(jù)或做出貢獻(xiàn)的人們都應(yīng)該共同享有權(quán)利？如果答案為肯定，就勢必導(dǎo)致不同個體的權(quán)利相互抵銷，即使有表面上的權(quán)利，事實(shí)上也將難以有效行使運(yùn)用，形同胎死腹中。

2017年7月8日，國務(wù)院印發(fā)了一份名為《新一代人工智能發(fā)展規(guī)劃》的通知，4正式把以人工智能為導(dǎo)向的科技與經(jīng)濟(jì)發(fā)展列入中國未來的專注焦點(diǎn)，列入國家戰(zhàn)略層面的系統(tǒng)布局，希望能借此強(qiáng)化中國科技與經(jīng)濟(jì)的國際競爭力。這份文件的出臺，無疑又給相關(guān)的討論添上了一大把柴火。無論如何，有關(guān)人工智能的集思廣益，首先應(yīng)當(dāng)解決的先決性、根本性問題是人工智能的未來規(guī)制問題，這會對其他所有規(guī)制的探索產(chǎn)生非常大的影響，也可能直接或間接影響到目前正在進(jìn)行之中的、關(guān)于《民法典》制定的相關(guān)討論，因?yàn)檫@部法典的具體內(nèi)容需要與當(dāng)前一些前沿性的問題與發(fā)展密切接軌，從十九世紀(jì)跨越到二十一世紀(jì)。

在這樣的探索過程中，或許下列的引語值得我們謹(jǐn)銘于心：

“為什么要對一個機(jī)器人給出一個必須服從命令的命令——最原始的命令不就已經(jīng)夠了？為什么要指示一個機(jī)器人不可制造傷害——如果從一開始就不給出會造成傷害的指令，不是更容易么？宇宙中難道存在一種神秘的力量，要把各種實(shí)體引向惡意，從而必須用軟件程序灌注到一個正離子的大腦中來予以抗衡？難道所有的智能生物都會無可避免地出現(xiàn)態(tài)度上的問題么？……在電腦真正變得更加聰明和強(qiáng)大時，人們的焦慮反而消減了。如果電腦真的要作惡的話，今天，電腦網(wǎng)絡(luò)的普及也已產(chǎn)生了前所未見的作惡能力。然而，目前由電腦造成的、來自于無法預(yù)期的混亂和人類惡意的唯一傷害只是電腦病毒而已。我們已不再擔(dān)心電子連環(huán)殺人犯或是顛覆性的機(jī)器人陰謀，因?yàn)槲覀円呀?jīng)開始感知到，惡意——就像視覺、動作協(xié)調(diào)以及常識——從來就不會隨同電腦的計算無端產(chǎn)生，而必須是由程序植入?！致孕?，就像我們習(xí)以為常的人類行為的其他部分一樣，是個具有挑戰(zhàn)性的工程問題！”5

“無論我們是由碳或硅所做成，都沒有什么根本上的不同；我們在相互對待時都必須相互給予適當(dāng)?shù)淖鹬?。?endprint