編譯 王玥嬌 編輯 徐臻

智識(shí)

人類真能派機(jī)器人殺人放火嗎？

編譯 王玥嬌 編輯 徐臻

電影《復(fù)仇者聯(lián)盟2：奧創(chuàng)紀(jì)元》中的人造機(jī)器人奧創(chuàng)

一旦錯(cuò)殺，誰為“殺人機(jī)器人”負(fù)責(zé)？

“殺人機(jī)器人”（致命性自主武器系統(tǒng)）正站在倫理辯論席上。

簡(jiǎn)而言之，他們能夠代替士兵自動(dòng)殺傷敵人。機(jī)器人們由人類遠(yuǎn)程操控，發(fā)展至由計(jì)算機(jī)軟件和傳感器裝置控制，進(jìn)而全自動(dòng)執(zhí)行識(shí)別敵人、判斷敵情和殺死敵人等任務(wù)。

這是對(duì)軍方的極大誘惑：無需報(bào)酬、不休不眠、沒有情緒且自主執(zhí)行上級(jí)命令。最重要的是，即便它們?cè)趹?zhàn)場(chǎng)上大規(guī)?！八纻?，國(guó)內(nèi)民眾也不會(huì)感到任何悲痛。

目前，最接近“殺人機(jī)器人”的是韓國(guó)研發(fā)并開始使用的一款哨兵機(jī)器人。它的個(gè)頭與3歲孩子相當(dāng)，重17公斤。這款造價(jià)約20萬美元的機(jī)器人能識(shí)別2千米（白天）和1千米（夜間）以外的人、汽車或樹木，還可探測(cè)到4千米（白天）和2千米（夜間）以外的移動(dòng)物體；能夠盤問10米以內(nèi)的來客，并在偵測(cè)到闖入者時(shí)發(fā)出警報(bào)。

距離“殺人機(jī)器人”真正部署到戰(zhàn)場(chǎng)可能還需要20-30年，但已經(jīng)引發(fā)對(duì)機(jī)器人武器軍備競(jìng)賽的擔(dān)心。

“殺人機(jī)器人”是否有權(quán)處置人類生死？

在所有管理機(jī)器人的規(guī)則和道德框架中，最著名的是1942年的阿西莫夫三大定律：機(jī)器人不得傷害人類，或因不作為使人類受到傷害；除非違背第一法則，機(jī)器人必須服從人類命令；在不違背第一及第二法則下，機(jī)器人必須保護(hù)自己。

這套規(guī)則在科幻世界規(guī)范著機(jī)器人的行為，因?yàn)樾≌f設(shè)計(jì)成所有的“正子腦”都由同一位天才科學(xué)家設(shè)計(jì)出來，別人的設(shè)計(jì)都失敗了。但在現(xiàn)實(shí)世界中，設(shè)計(jì)和使用機(jī)器人的人類才必須成為這種規(guī)則的遵守者。

致力于制定機(jī)器人規(guī)則的英國(guó)工程和物理科學(xué)研究理事會(huì)成員喬安娜?布萊森認(rèn)為：“人類需要建立自身的道德框架，機(jī)器人不用。因此人類有必要做出選擇，把機(jī)器人放在人的道德框架內(nèi)才不會(huì)殘殺地球上的其他生命。”.