鐘偉

此次事件，之所有引起人們的高度關(guān)注，并被缺乏理性地?zé)o限放大，主要原因還是在于人們對(duì)于自己將來(lái)是否會(huì)被人工智能所“終結(jié)”的擔(dān)憂而導(dǎo)致的

7月1日，德國(guó)汽車制造商大眾稱，該公司位于德國(guó)的一家工廠內(nèi)，一個(gè)機(jī)器人“殺死”了一名外包員工。

大眾發(fā)言人?？恕は柧S格表示，這名員工于6月29日在保納塔爾的工廠內(nèi)喪生。希爾維格說(shuō)，死者今年22歲，在安裝靜止的機(jī)器人時(shí)，被機(jī)器人抓住，擠向了一塊金屬板。檢察官已經(jīng)對(duì)事故進(jìn)行了調(diào)查。在西方工廠，發(fā)生與機(jī)器人有關(guān)的死亡事故非常罕見(jiàn)，因?yàn)闄C(jī)器人和人之間有安全網(wǎng)籠，防止機(jī)器人與人有意外的身體接觸。

這位發(fā)言人說(shuō)：“我們初步的結(jié)論是人為失誤，而不是機(jī)器人出了問(wèn)題。機(jī)器人一般是按照輸入的程序完成組裝過(guò)程中的不同任務(wù)，而且是在封閉管制區(qū)域內(nèi)抓取汽車零件進(jìn)行操作?！睋?jù)他描述，該名22歲的合同工人當(dāng)時(shí)正在平時(shí)用來(lái)隔離工作人員和機(jī)器人的安全籠內(nèi)設(shè)置機(jī)器人的操作程序，事故發(fā)生時(shí)另一名工人也在場(chǎng)，但因?yàn)樯硖幇踩\外而安然無(wú)恙。

是“謀殺”還是安全事故

當(dāng)英國(guó)《金融時(shí)報(bào)》一名記者將這則新聞發(fā)布在社交網(wǎng)絡(luò)后，立即得到了多次轉(zhuǎn)發(fā)，還引發(fā)某些網(wǎng)友對(duì)事件不太友好的議論和嘲弄。有人發(fā)現(xiàn)這名女記者與電影《終結(jié)者》中女主角Sarah Connor（人類反抗機(jī)器人領(lǐng)袖的母親）名字非常相似，因而認(rèn)為此事詭異。與此同時(shí)，“機(jī)器人殺人案”也似乎成了不謀而合的定論。

機(jī)器人“殺死”人無(wú)疑是一個(gè)令人震撼的消息，似乎意味著《終結(jié)者》所預(yù)言的機(jī)器人開(kāi)始崛起并與人類為敵進(jìn)而戰(zhàn)勝人類的故事將成為現(xiàn)實(shí)。然而，在事件真相尚未完全調(diào)查清楚之前，斷言機(jī)器人“殺人”似乎言之過(guò)早。機(jī)器人殺人，是否意味著“終結(jié)者”已經(jīng)出現(xiàn)？對(duì)工業(yè)機(jī)器人有所了解的人，估計(jì)都會(huì)給出否定的回答，因?yàn)槟壳白钕冗M(jìn)的工業(yè)機(jī)器人也不具備“蓄意殺人”的智能，這只是一次工業(yè)事故，將此事件定位為“機(jī)器人殺人”，更多的只是“標(biāo)題黨”博出位的一種行為而已。

而且，涉及機(jī)器人的人類死亡事件，其實(shí)并不是什么新鮮事。自動(dòng)化裝備導(dǎo)致的工廠致命事件可追溯至幾十年前，早在20世紀(jì)70年代就發(fā)生過(guò)自動(dòng)化組裝生產(chǎn)線傷人的事故。

大眾汽車機(jī)器人“殺人”事件其實(shí)與1981年日本工人發(fā)生的意外事故如出一轍。然而34年過(guò)去了，“機(jī)器人殺人”、“殺手機(jī)器人”這樣的描述卻仍未消失。

人工智能vs機(jī)器人

此次事件，之所有引起人們的高度關(guān)注，并被缺乏理性地?zé)o限放大，主要原因還是在于人們對(duì)于自己將來(lái)是否會(huì)被人工智能所“終結(jié)”的擔(dān)憂而導(dǎo)致的。

已有很多人提出并表達(dá)過(guò)這樣的憂慮，英國(guó)理論物理學(xué)家霍金就表示，未來(lái)100年內(nèi)，人工智能將比人類更為聰明，機(jī)器人將控制人類。2013年，霍金還與特斯拉CEO伊隆·馬斯克（Elon Musk）共同發(fā)表公開(kāi)信，認(rèn)為人工智能的發(fā)展應(yīng)受到控制。如果智能機(jī)器無(wú)法保障安全，人類可能陷入黑暗的未來(lái)。

具體而言，人工智能和機(jī)器人有什么區(qū)別呢？人工智能（Artificial Intelligence，簡(jiǎn)稱AI）是研究使計(jì)算機(jī)來(lái)模擬人的某些思維過(guò)程和智能行為（如學(xué)習(xí)、推理、思考、規(guī)劃等）的學(xué)科，主要包括計(jì)算機(jī)實(shí)現(xiàn)智能的原理、制造類似于人腦智能的計(jì)算機(jī)，使計(jì)算機(jī)能實(shí)現(xiàn)更高層次的應(yīng)用。

“機(jī)器人”（捷克語(yǔ)Robota）原意是用人手制造的工人。該詞源于捷克作家卡列爾·查培于1920年創(chuàng)作的一部名叫《洛桑萬(wàn)能機(jī)器人公司》的幻想劇中。機(jī)器人是自動(dòng)執(zhí)行工作的機(jī)器裝置。它既可以接受人類指揮，又可以運(yùn)行預(yù)先編排的程序，也可以根據(jù)以人工智能技術(shù)制定的原則綱領(lǐng)行動(dòng)。它的任務(wù)是協(xié)助或取代人類工作的工作，例如生產(chǎn)業(yè)、建筑業(yè)，或是危險(xiǎn)的工作。

因此，人工智能其實(shí)就是對(duì)人的意識(shí)、思維的信息過(guò)程的模擬，而人工智能機(jī)器人就是像人類一樣具有自我意識(shí)的機(jī)器人。

機(jī)器人“殺人論”

不過(guò)，目前工業(yè)環(huán)境下的機(jī)器人和科幻電影中的擬人機(jī)器人還是差別巨大的。這種根據(jù)專業(yè)性功能需要設(shè)計(jì)出來(lái)的工業(yè)機(jī)器人，沒(méi)法和根據(jù)美術(shù)設(shè)計(jì)的“恐怖谷定律”設(shè)計(jì)出來(lái)的擬人機(jī)器人比親和力。（恐怖谷理論是一個(gè)關(guān)于人類對(duì)機(jī)器人和非人類物體的感覺(jué)的假設(shè)，它在1970年被提出。當(dāng)機(jī)器人與人類相像超過(guò)一定程度的時(shí)候，他們的反應(yīng)便會(huì)突然變得極為反感。哪怕它與人類有一點(diǎn)點(diǎn)的差別，都會(huì)顯得非常顯眼刺目，讓整個(gè)機(jī)器人顯得非常僵硬恐怖，讓人有面對(duì)行尸走肉的感覺(jué)。）

此次德國(guó)大眾公司出事的這臺(tái)機(jī)器設(shè)備，應(yīng)該就是工業(yè)機(jī)器人。該機(jī)器設(shè)備依賴于特定編程程序指令的控制，而非人工智能的自我控制。在此事件中，更大的可能性是技術(shù)員在安裝調(diào)試過(guò)程中，意外觸碰或啟動(dòng)了某些工作程序，致使機(jī)器人在指令的驅(qū)動(dòng)下，發(fā)出一些動(dòng)作，而這些動(dòng)作恰巧又撞到并勾起正在范圍內(nèi)工作的技術(shù)人員，由此對(duì)其造成了致命的傷害。

在所有關(guān)于“機(jī)器人殺人”的言論中，我們不難發(fā)現(xiàn)：大家都在或有意或無(wú)意地將因機(jī)械故障導(dǎo)致的安全事故與有意識(shí)行為的“殺人”事件混為一談。所謂安全事故，是指生產(chǎn)制造的過(guò)程中突然發(fā)生的，傷害人身安全和健康的意外事件；而殺人事件則是有意識(shí)的，在主觀行為驅(qū)動(dòng)下導(dǎo)致的事故，兩者之間有著本質(zhì)區(qū)別。

如果因此非要給這臺(tái)機(jī)器設(shè)備定個(gè)殺人的“罪名”，那估計(jì)只能以“陰謀論者”的邏輯，生產(chǎn)這臺(tái)機(jī)器設(shè)備的廠家，在制造的過(guò)程中便植入了“殺人”的指令。否則，僅憑當(dāng)前人類在人工智能方面的技術(shù)發(fā)展，是很難支撐起“機(jī)器人殺人”論調(diào)的。

其實(shí)，但凡有點(diǎn)生活經(jīng)歷或經(jīng)驗(yàn)的人都知道，機(jī)器設(shè)備的操作是有風(fēng)險(xiǎn)的。而且，在我們的日常工作和生活中，因人員的操作不當(dāng)或失誤導(dǎo)致的“機(jī)器人殺人”事件時(shí)有發(fā)生。

“終結(jié)者”現(xiàn)階段不存在

若工業(yè)機(jī)器人是一種工具，一定程度上解放了工人的雙手，那人工智能則是另一種工具，它在一定程度上替代部分腦力勞動(dòng)，創(chuàng)造更高效的服務(wù)業(yè)經(jīng)濟(jì)。接下來(lái)，人工智能的商業(yè)化發(fā)展將會(huì)引起服務(wù)業(yè)的重點(diǎn)關(guān)注，工業(yè)機(jī)器人替代人類完成了很多重復(fù)勞動(dòng)、體力勞動(dòng)、危險(xiǎn)勞動(dòng)等工作，而人工智能的市場(chǎng)價(jià)值不只是“替代”關(guān)系那么簡(jiǎn)單，它除了可以取代一部分基礎(chǔ)工作外，還能為高端工作提供“智力”輔助，其產(chǎn)生的價(jià)值和影響都將更為深遠(yuǎn)。

但這種影響有大到像諸多電影演繹的那樣，可以超越甚至控制人類的程度嗎？其實(shí)，這種發(fā)展遠(yuǎn)比我們幻想的要慢。

致力于人工智能機(jī)器人研究的科學(xué)家認(rèn)為，沒(méi)有必要大驚小怪。人工智能領(lǐng)域的學(xué)者、中國(guó)科學(xué)院院士譚鐵牛說(shuō)過(guò)，當(dāng)前的人工智能有智能沒(méi)智慧、有智商沒(méi)情商、會(huì)計(jì)算不會(huì)算計(jì)。要想造出超越人類智能的機(jī)器人，人類在科學(xué)研究上還有不小的距離。在看得見(jiàn)的未來(lái)，人工智能的整體水平還難以超越人類智能，不足以威脅人類的生存。

2014年，研究人員對(duì)世界上53個(gè)搜索引擎（人工智能）的智商與人的智商進(jìn)行了測(cè)定比較，結(jié)果發(fā)現(xiàn)，美國(guó)的谷歌搜索智商最高，達(dá)到26.5，中國(guó)的百度智商次之，為23.5，智商最低的是新西蘭的搜索引擎SearchNZ，為6。但人的智商是，18歲為97，12歲為84.5，6歲為55.5。因此，即便谷歌的高智商也只能相當(dāng)人類的幼兒，在智商上，智能機(jī)器（人）是難以與人為敵并殺死人類的。

未來(lái)人工智能機(jī)器人是否會(huì)“蓄意殺人”，或是奴役人類？業(yè)內(nèi)至少有兩派觀點(diǎn)。一派認(rèn)為計(jì)算機(jī)程序無(wú)法具備人的理解能力，因此擔(dān)心用集成電路、軟件程序等實(shí)現(xiàn)的人工智能威脅人類，是杞人憂天。例如，美國(guó)哲學(xué)家塞爾提出了“漢字屋論證”（也稱“中文房間思想實(shí)驗(yàn)”），試圖證明計(jì)算機(jī)程序盡管能對(duì)各類問(wèn)題輸出正確的答案，但它并不“理解”這些問(wèn)題。另一派觀點(diǎn)與之針?shù)h相對(duì)，稱為“強(qiáng)人工智能”，認(rèn)為計(jì)算機(jī)程序與人腦思維沒(méi)有本質(zhì)區(qū)別，人工智能發(fā)展到一定階段后，就具有推理、學(xué)習(xí)和解決問(wèn)題的能力，并將擁有自我意識(shí)。

一旦擁有了自我意識(shí)，智能機(jī)器就可能反叛人類?；艚?、蓋茨、馬斯克等科技界名人對(duì)人工智能的擔(dān)憂，正基于此。人造機(jī)器真的會(huì)如美國(guó)奇點(diǎn)大學(xué)校長(zhǎng)庫(kù)茲韋爾預(yù)測(cè)，在本世紀(jì)中葉前超越人類，“進(jìn)化”成高等智能生命？

如果只是出于這種可能性，就放緩人工智能技術(shù)的研發(fā)，那便是因噎廢食了。事實(shí)上，盡管蓋茨加入了反人工智能陣營(yíng)，但微軟正在這一極具商業(yè)前景的領(lǐng)域投入重金。

“人工智能的冬天”？

因此，與其鼓吹“機(jī)器人殺人論”，不如關(guān)注一下這次事故后的具體問(wèn)題以及解讀方式。這類事件以前發(fā)生過(guò)，以后也還會(huì)再發(fā)生。盡管安全標(biāo)準(zhǔn)持續(xù)提高、人機(jī)交互中發(fā)生事故的可能性在下降，這種事件也還是會(huì)越來(lái)越頻繁，因?yàn)闄C(jī)器人的數(shù)量在不斷增加。

這意味著，對(duì)這類事故做適當(dāng)?shù)慕庾x是十分重要的。而要做到“適當(dāng)”，關(guān)鍵是要用準(zhǔn)確和恰當(dāng)?shù)恼Z(yǔ)言來(lái)描述它們。雖然我們感覺(jué)，把德國(guó)大眾汽車工廠事故稱為“機(jī)器人殺死工人”是合理的——大多數(shù)報(bào)道也的確這樣做了，但是這樣做卻是在誤導(dǎo)，甚至近乎不負(fù)責(zé)任。相比之下，把表述改成“員工在機(jī)器事故中喪生”要好得多。

誠(chéng)然，把報(bào)道標(biāo)題改成上面這樣就沒(méi)那么抓人眼球了，但這正是問(wèn)題的關(guān)鍵。事實(shí)是，不管人們從科幻小說(shuō)看到并相信的機(jī)器人形象可能是什么樣子，也不管機(jī)器人在遙遠(yuǎn)的將來(lái)可能做些什么，我們認(rèn)識(shí)中的“真實(shí)意圖”、“情感”和“目的”，現(xiàn)在的機(jī)器人還通通沒(méi)有。而與最近那些危言聳聽(tīng)的說(shuō)法相反，它們?cè)诮谝膊粫?huì)獲得這些能力。

汽車工廠中的機(jī)器臂，目前并不具備目的、意圖或情感這樣的東西，在短期內(nèi)也不會(huì)有。這些機(jī)器人只能以颶風(fēng)（或者汽車和手槍）“殺”人的方式去置人死地。它們無(wú)法像某些動(dòng)物那樣殺人，更別提人類意義上的“謀殺”了。然而，大多數(shù)人看到“機(jī)器人殺死工人”時(shí)，首先涌入他們腦海的，卻偏偏就是“謀殺”。

堅(jiān)持要使用正確的表述并不是在咬文嚼字?！皺C(jī)器人殺人”這樣的說(shuō)法冒著很高的風(fēng)險(xiǎn)。一方面，對(duì)機(jī)器人毫無(wú)根據(jù)的恐懼感，可能會(huì)導(dǎo)致另一個(gè)毫無(wú)必要的“人工智能的冬天”出現(xiàn)——技術(shù)的開(kāi)發(fā)將不再獲得研究經(jīng)費(fèi)。這將會(huì)延遲或拒絕掉機(jī)器人所能帶給工業(yè)和社會(huì)的大量好處。

但即使你對(duì)機(jī)器人帶來(lái)的益處不太樂(lè)觀，你也仍然應(yīng)該正視這個(gè)議題。因?yàn)闄C(jī)器人并沒(méi)有責(zé)任感，人類才應(yīng)該為機(jī)器人做的事情負(fù)責(zé)。然而，隨著機(jī)器人越來(lái)越普遍，人們會(huì)越來(lái)越覺(jué)得它們真的具備自主性和意圖，因?yàn)樗鼈兛雌饋?lái)似乎有能力并且應(yīng)該為自己負(fù)責(zé)。

然而機(jī)器人并沒(méi)有責(zé)任，也沒(méi)有負(fù)責(zé)任的能力。

雖然可能有一天，這些看上去理所應(yīng)當(dāng)?shù)氖陆K將成為現(xiàn)實(shí)，但在很長(zhǎng)很長(zhǎng)的一段時(shí)間內(nèi)，這些“看起來(lái)是”的觀點(diǎn)還是錯(cuò)的。現(xiàn)在，我們甚至已經(jīng)試圖把人機(jī)交互分成我們負(fù)責(zé)的部分和它們負(fù)責(zé)的部分，這不但引發(fā)了讓機(jī)器人當(dāng)替罪羊的危險(xiǎn)，而且放過(guò)了那些本應(yīng)負(fù)全責(zé)的人類設(shè)計(jì)者、配置人員和用戶。

在大眾汽車的事故中，一位公司發(fā)言人稱：“最初結(jié)論表明，人為錯(cuò)誤才是罪魁禍?zhǔn)?，而不是機(jī)器人的問(wèn)題?！痹谄渌麍?bào)道中，則說(shuō)稱是人為錯(cuò)誤而非機(jī)器人的“過(guò)失”或“責(zé)任”。這樣的語(yǔ)言其實(shí)在暗示，在其他情況下，機(jī)器人可能會(huì)被認(rèn)為該為事故負(fù)責(zé)。

如果是機(jī)器人存在問(wèn)題，那么不管問(wèn)題是錯(cuò)誤的材料、失靈的電路板、糟糕的程序還是安裝或操作協(xié)議上的不良設(shè)計(jì)，這個(gè)問(wèn)題仍然會(huì)是人為的錯(cuò)誤。暗示機(jī)器人存在“過(guò)失”，實(shí)際上是在免除真正與需要為機(jī)器人事故負(fù)責(zé)的人類的責(zé)任。

機(jī)器人的法律問(wèn)題

除此之外，這起悲劇更多引發(fā)的是人們對(duì)機(jī)器人相關(guān)的法律問(wèn)題的關(guān)注。德國(guó)檢察官已經(jīng)對(duì)事件展開(kāi)進(jìn)一步調(diào)查。檢察官也在考慮是否應(yīng)提出控訴，如果提出，起訴的對(duì)象又會(huì)是誰(shuí)。

此外，對(duì)大眾工廠出現(xiàn)的這一事件，機(jī)器人技術(shù)專家們也傾向于與機(jī)器人無(wú)關(guān)。

英國(guó)薩塞克斯大學(xué)計(jì)算機(jī)科學(xué)與人工智能專業(yè)講師布萊·惠特比（Blay Whitby）博士這樣認(rèn)為：“在當(dāng)今科技水平下，我們必須明白機(jī)器人不應(yīng)當(dāng)被‘責(zé)怪’，它們尚未擁有相當(dāng)?shù)臎Q策能力。這次不幸的事故從技術(shù)層面和道德層面來(lái)說(shuō)，遇難的機(jī)器操作者難免其責(zé)，因?yàn)槭掳l(fā)時(shí)他沒(méi)有使用安全防護(hù)措施。而事故中更復(fù)雜的關(guān)鍵點(diǎn)在于‘安全防護(hù)’是由電腦軟件提供的，那名工人正在設(shè)置的過(guò)程中，因此機(jī)器人出錯(cuò)也更加情有可原?！彼€說(shuō)：“當(dāng)今世界自動(dòng)化程度日益提高，我們將越來(lái)越多的決定權(quán)交給了各種各樣的機(jī)器。記者們應(yīng)當(dāng)多關(guān)注這類事件，以提高公眾對(duì)科技的認(rèn)知，以及公眾對(duì)道德事件的監(jiān)督?！?/p>

英國(guó)謝菲爾德大學(xué)人工智能和機(jī)器人技術(shù)專業(yè)名譽(yù)教授諾埃爾·沙克（Noel Sharkey）則認(rèn)為：“機(jī)器人并不按照自己的意愿行事，除非被輸入了程序，否則不會(huì)襲擊人類。工業(yè)用機(jī)器人有可能非常強(qiáng)大，通常有安全性設(shè)計(jì)。但是，在操作或編程中肯定也會(huì)出現(xiàn)人為錯(cuò)誤，或者機(jī)器失靈，導(dǎo)致發(fā)生事故。當(dāng)機(jī)器人技術(shù)不斷革新，我們可能會(huì)看到更多類似的事情發(fā)生?！?/p>

顯然，專家們的觀點(diǎn)多傾向于機(jī)器人是無(wú)辜的。畢竟，目前現(xiàn)實(shí)中的機(jī)器人的智能程度尚未能完全擺脫人類的操控，那樣的畫(huà)面還僅限于電影作品中的遐想。

一方面，智能機(jī)器的設(shè)計(jì)和研發(fā)應(yīng)當(dāng)更加注重安全性能，防止意外發(fā)生，以及盡可能地降低造成人身傷害或財(cái)產(chǎn)損壞的風(fēng)險(xiǎn)；另一方面，隨著智能機(jī)器的迅速發(fā)展和應(yīng)用，或許我們從未面臨的法律問(wèn)題將不斷出現(xiàn)，判定相關(guān)法律責(zé)任的標(biāo)準(zhǔn)和依據(jù)需要重新審視和探討。