牛綺思

人們愿意派遣殺人機器到前線作戰(zhàn)，而不愿讓自己子女戰(zhàn)死沙場。但是，人們卻又不希望看到敵人派殺人機器來追殺自己。那么，人類到底要不要擁有這種“殺手機器人”（killer robots），即所謂的致命的自主武器（lethal autonomous weapons）？

對于這件事，特斯拉和SpaceX CEO埃隆·馬斯克的立場可謂異常堅定：禁止。

“永遠不應將人類生命的決定權(quán)委托給機器?！?/p>

“致命的自主武器，在沒有人為干預的情況下選擇和參與目標，將危及每個國家和個人的穩(wěn)定?！?/p>

“我們既不參與也不支持致命自主武器的開發(fā)、制造、貿(mào)易往來或使用?！?/p>

近日，馬斯克以及谷歌頂級人工智能研究團隊Deep Mind創(chuàng)始人領銜的多家科技界大佬，與來自數(shù)百家公司的2000多名人工智能（AI）及機器人領域的科學家，在斯德哥爾摩國際AI聯(lián)合會議上聯(lián)名簽署《致命性自主武器宣言》，誓言絕不將他們的技能用于開發(fā)自主殺人機器。

馬斯克：“殺手機器人”比核武器還危險

這已經(jīng)不是馬斯克第一次表達如上的憂慮了。

2017年7月，馬斯克在出席一場由美國各州州長參加的會議時曾強調(diào)，“我一直在敲響警鐘，等到哪天機器人真的走上街頭、屠殺人類時，大家會不知所措。”

隨后的8月，馬斯克就與100多名AI領域領袖人物簽署公開信，敦促聯(lián)合國阻止這項技術(shù)改變我們所熟悉的沖突模式。

這封公開信中提到：“致命的自主武器有可能成為戰(zhàn)爭中的第三次革命。一旦它們發(fā)展起來，可能導致武裝沖突以比以往任何時候更大的規(guī)模進行，而且速度比人類所能理解的還要快。”“這些自主武器可能成為恐怖武器，比如獨裁者和恐怖分子可能對無辜人群使用?！?/p>

有分析認為，馬斯克認為AI威脅人類文明的觀點很大程度上可能是受暢銷書《超級智能》作者尼克·博斯特羅姆的影響。2014年8月，馬斯克讀完《超級智能》，便在社交媒體Twitter上公開表示要慎用人工智能，稱其比核武器還要危險。

彼時，他在參加《名利場》舉辦的活動時，稱機器人可能像刪除垃圾郵件一樣“刪除”人類。之后他又發(fā)表“機器人威脅論”，稱機器人會在短短的5年內(nèi)對人類造成嚴重威脅。

到2015年，馬斯克、物理學家史蒂芬·霍金以及蘋果聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克等3000多名AI研究人員簽署公開信，要求禁止開發(fā)“超過人類控制意義之外的自主武器”。當時的研究人員們就說，AI軍備競賽是個“糟糕的主意”。

馬斯克還捐贈1000萬美元，用來研究懂得“倫理道德”的機器人，以確保他們不會毀滅人類。比如，幫助人工智能系統(tǒng)通過觀察我們的行為，從而了解人類需求；教授人工智能如何向我們解釋它們做出決定的理由，就像機器人電影《超能查派》中查派能夠快速學習，吸取人類的教導那樣。

2016年，馬斯克成立了腦機接口公司Neuralink，追求一種叫做“神經(jīng)織網(wǎng)”（neural lace）的技術(shù)，在人腦中植入微小的腦電極，有朝一日用來上傳或下載人的思想。

“我認為可以通過改進大腦皮層和數(shù)字設備之間的神經(jīng)元連接，來有效地把AI與人融合在一起，你將成為‘AI—人類混合體。此外，如果這種形式可以得到普及的話，我們就不用擔心一些邪惡的AI獨裁者了，因為我們就是AI的集合。這是我能想到的最好的方法?！瘪R斯克說。

聯(lián)合國曾曝光“殺手機器人”視頻：人臉識別，一擊即中

現(xiàn)實中，先進智能化武器確實存在。據(jù)了解，美國不僅研發(fā)了UTAP-22“鯖鯊”、XQ-222“女武神”等智能化無人機，還先后研發(fā)了陸上“翼人”機器人車輛、海上水面無人攻擊艇、潛射型機器人、多功能無人潛航器、由海向陸的MUX無人武裝直升機等，形成以人工智能技術(shù)為基礎、以集群智能技術(shù)為連接的無人兵團。俄羅斯也研發(fā)了“天王星”、“平臺”小型無人戰(zhàn)車等智能化作戰(zhàn)平臺……

據(jù)不完全統(tǒng)計，目前全球已超過60個國家的軍隊裝備了軍用機器人，種類超過150種。照此發(fā)展趨勢，未來軍用機器人在戰(zhàn)場上成建制規(guī)模化作戰(zhàn)也未必不可能。

在2017年底舉行的聯(lián)合國特定常規(guī)武器會議上，播放了一部血腥的微電影：影片中，人類發(fā)明了“機器殺人蜂”，它能自己“飛行”，也可以隨機運動，用來反狙擊，能夠在瞬間殺死一群無辜的人。它自帶廣角攝像頭、傳感器、面部識別，且在其中部，還有3克炸藥，一擊即中，極端致命。

目前的武裝無人機，還是由士兵操控的。而這種“機器殺人蜂”不用人類操控，能夠根據(jù)預定條件，自主搜索和判斷是否殺死人類。這是人工智能武器的厲害之處，也是它的可怕之處。

美國伯克利大學教授、AI領域資深專家斯圖爾特·羅素警告說，“如果這些機器被賦予殺人的能力，將對我們的安全與自由造成毀滅性的打擊。”

馬斯克是杞人憂天嗎

Facebook創(chuàng)始人扎克伯格一直被外界看作是馬斯克在AI觀點上的反對者。2017年7月，扎克伯格指責馬斯克所描述的末日恐慌是消極的、不必要的，“在某種程度上，這是相當不負責任的行為。未來10年，人工智能將大幅改善人類的生活。”馬斯克隨后回應稱，已和扎克伯格談過，他對人工智能的理解有限。

谷歌母公司Alphabet執(zhí)行董事長埃里克·施密特在2017年也反擊過馬斯克的AI威脅論是杞人憂天。

“如果你覺得人工智能在智商上超越人類后就將毀滅我們的種族，那你科幻電影一定是看多了——難道人類會傻到察覺不了AI造反的蛛絲馬跡？直接斷了它們的電源就好。”施密特如是說。

不過，《機器人的興起：技術(shù)和失業(yè)未來的威脅》作者表示，對于人工智能對人類構(gòu)成生存威脅這件事，馬斯克的擔憂是合理的，也不應該被忽視。但這種擔憂要在至少50年之后才可能會出現(xiàn)。

德國大眾“機器人殺人”事件

2015年7月，德國大眾汽車公司一家工廠里，一臺新型協(xié)作機器人殺死了一名22歲的裝配技術(shù)員。當時他與一名同事合作安置機器人，但被機器人擊中胸部，并被抓起、重重摔在一塊金屬板上，最終因傷重不治身亡。當時，大眾發(fā)言人推斷事故是由人為錯誤導致，并不是機器人“蓄意殺人”。

盡管這可能只是一起安全事故，但關于“機器人殺人”的爭論再度出現(xiàn)。未來機器人對人類的威脅，除了在工廠與人類搶奪飯碗外，還可能成為人類的敵人甚至是“終結(jié)者”。

對此，許多網(wǎng)友腦洞大開。比如，有的網(wǎng)友隨即聯(lián)想到《復仇者聯(lián)盟2》里的奧創(chuàng)，剛一出世就對自己的創(chuàng)造者懷著莫名其妙的憎恨，一心想要消滅全人類。還有網(wǎng)友擔心“這個世界上很多機器人其實已經(jīng)有能力通過圖靈測試（編者注：如果有超過30%的測試者不能確定出被測試者是人還是機器，那么這臺機器就通過了測試，并被認為具有人類智能），只是他們在假裝不能”。

責編：張璐晶