方陵生/編譯

我們可以信任機(jī)器人嗎？

方陵生/編譯

隨著科學(xué)技術(shù)的發(fā)展，機(jī)器人將很快擁有決定人類生死的力量。它們準(zhǔn)備好了嗎？我們也準(zhǔn)備好了嗎？

在流行文化中，機(jī)器人不是維多利亞時(shí)代完美忠實(shí)的管家，就是精神變態(tài)的狡詐殺手。如《星球大戰(zhàn)》里的C3PO、《機(jī)器姬》中的艾娃，《惑星歷險(xiǎn)》中的羅比以及《2001太空漫游》中的哈爾。

電影中描述的機(jī)器人形象反映了我們對(duì)機(jī)器人的希冀和恐懼，這種恐懼已開始滲入現(xiàn)實(shí)世界中。近年來，許多科技界名人都表達(dá)了對(duì)人工智能一旦失控后“胡作非為”的憂慮。他們擔(dān)心，那些擁有超常智慧的機(jī)器人會(huì)建立起一個(gè)全新的由機(jī)器人主宰的世界。在這個(gè)新世界里，最好的情況是，人類將成為機(jī)器人的卑微仆從；最壞的情況是，人類將被殺戮滅絕，從地球上被徹底抹去。

他們所擔(dān)心的可怕場景與幾十年前科幻小說家所描述的并無很大差別，但由于這些人所代表的身份地位，他們的擔(dān)憂產(chǎn)生了普遍的關(guān)注和共鳴，這些名人包括史蒂芬·霍金、比爾·蓋茨、比爾·喬伊和埃隆·馬斯克。

他們并非杞人憂天，我們和我們創(chuàng)造的機(jī)器人正處于形成一種新關(guān)系的重要關(guān)口。在不遠(yuǎn)的未來，我們將對(duì)高度自主或完全自主的機(jī)器人系統(tǒng)委以重任，讓它們承擔(dān)駕駛汽車、給病人做外科手術(shù)、在戰(zhàn)場上決定何時(shí)選擇動(dòng)用致命武器等重要任務(wù)。有史以來第一次，我們將不是直接控制機(jī)器人，而是給機(jī)器人編制程序，讓它們?cè)趶?fù)雜的、瞬息萬變的非結(jié)構(gòu)化環(huán)境中做出關(guān)乎人類生死的決定。毫無疑問，若有錯(cuò)失，將會(huì)導(dǎo)致人員傷亡，但出錯(cuò)的幾率一定會(huì)比現(xiàn)在小得多。

當(dāng)然，從今天的機(jī)器人技術(shù)走向明天機(jī)器人技術(shù)的道路將會(huì)是曲折的。我們所面臨的挑戰(zhàn)將跨越技術(shù)、監(jiān)管，甚至哲學(xué)等領(lǐng)域。除了法律和政策問題之外，新的機(jī)器人自主系統(tǒng)還將讓我們不得不正視更深層的倫理道德難題。自主機(jī)器人的出現(xiàn)甚至?xí)淖內(nèi)祟悓?duì)自我的認(rèn)識(shí)，但我們相信，最終我們的世界會(huì)因機(jī)器人時(shí)代的到來而變得更加美好。

［資料來源：IEEE Spectrum］［責(zé)任編輯：彥 隱］