周劍銘++柳渝

2017年1月在美國(guó)加州阿西洛馬（Asilomar）召開(kāi)的“阿西洛馬會(huì)議”（the 2017 Asilomar Conference）上，包括844名人工智能和機(jī)器人領(lǐng)域的專(zhuān)家們基于對(duì)人工智能和機(jī)器人（AI和Robot）迅猛發(fā)展的深切關(guān)注，聯(lián)合簽署了《阿西洛馬人工智能原則》（Asilomar AI Principles），呼吁全世界的人工智能領(lǐng)域的工作者遵守這些原則，共同保障人類(lèi)未來(lái)的利益和安全。

對(duì)AI和Robot的發(fā)展所產(chǎn)生的對(duì)人類(lèi)自身的地位和價(jià)值影響的擔(dān)憂(yōu)由來(lái)已久。稍早，在2014年，由Skype聯(lián)合創(chuàng)始人Jaan Tallinn、麻省理工學(xué)院教授Max Tegmark、物理學(xué)家史蒂芬·霍金、SpaceX和Tesla Motors創(chuàng)始人埃隆·馬斯克、牛津大學(xué)未來(lái)人類(lèi)研究所（Future of Humanity Institute）主任Nick Bostrom等有關(guān)的專(zhuān)家教授，以志愿者的身份創(chuàng)立了未來(lái)生命研究所（Future of Life Institute，F(xiàn)LI）。2015年1月11日，他們發(fā)表了一封公開(kāi)信：題目是《為穩(wěn)健性和利益性的人工智能而進(jìn)行研究》，提出“我們的人工智能必須只做我們要它們做的”，即“有益的人工智能”（Beneficial AI）的口號(hào)，而對(duì)這樣的問(wèn)題的高度關(guān)注，此前已經(jīng)引起了業(yè)內(nèi)外的廣泛注意和嚴(yán)肅討論并有所行動(dòng)。更早的時(shí)候，在實(shí)體機(jī)器人出現(xiàn)之前的上世紀(jì)四十年代，科幻小說(shuō)家阿西莫夫著名的《機(jī)器人學(xué)三大法則》及其之后的多種補(bǔ)充原則，被廣泛地引用和爭(zhēng)論。

《阿西洛馬人工智能原則》實(shí)際上是所有對(duì)AI和Robot的發(fā)展而產(chǎn)生的對(duì)人類(lèi)難以估量的影響的長(zhǎng)期觀察、思考的一次集中性表達(dá)，在更深遠(yuǎn)的意義上，可以看作是科學(xué)家頂替缺位的哲學(xué)家、人類(lèi)學(xué)家、倫理學(xué)家對(duì)人類(lèi)自身的性質(zhì)、地位和價(jià)值的一次嚴(yán)肅思考。（柳渝為法國(guó)亞眠大學(xué)計(jì)算機(jī)系副教授）