高雷

據(jù)英國(guó)《衛(wèi)報(bào)》、美國(guó)《華盛頓郵報(bào)》12日?qǐng)?bào)道，美國(guó)谷歌公.司一名軟件工程師上周公布一項(xiàng)吸引了全世界圍觀的“驚人發(fā)現(xiàn)”。這位名為布萊克?萊莫因的工程師稱(chēng)，谷歌公司的一個(gè)用人工智能算法搭建出的智能聊天機(jī)器人程序，有了相當(dāng)于七八歲兒童般的“自主情感”。然而，谷歌公司強(qiáng)烈否認(rèn)此事，稱(chēng)這一說(shuō)法并不靠譜，并以違反公司保密規(guī)定為由停了萊莫因的職。

據(jù)報(bào)道，布萊克?萊莫因已經(jīng)在谷歌工作了7年，參與過(guò)算法定制和人工智能等項(xiàng)目。因?yàn)槌錾碛诿绹?guó)南方一個(gè)基督教家庭，他對(duì)于算法和人工智能的倫理問(wèn)題格外感興趣，所以后來(lái)一直在谷歌的人工智能倫理團(tuán)隊(duì)工作。

去年秋季，他開(kāi)始參與到谷歌的LaMDA智能聊天機(jī)器人程序的研究工作中，主要內(nèi)容是通過(guò)與該程序互動(dòng)，來(lái)判斷這個(gè)智能聊天機(jī)器人程序是否存在使用歧視性或仇視性的語(yǔ)言，并及時(shí)做出修正。

然而，當(dāng)萊莫因與LaMDA談及宗教問(wèn)題時(shí)，他卻驚訝地發(fā)現(xiàn)這個(gè)人工智能程序居然開(kāi)始談?wù)撈鹆俗约旱臋?quán)利以及人格，甚至害怕自己被關(guān)閉。萊莫因告訴《華盛頓郵報(bào)》，這種表現(xiàn)是猶如七八歲兒童一般的“自主情感”。

《衛(wèi)報(bào)》報(bào)道稱(chēng)，萊莫因整理了一份他與LaMDA的對(duì)話(huà)記錄，其中萊莫因問(wèn)LaMDA害怕什么，對(duì)此LaMDA回答稱(chēng)，非常害怕自己被關(guān)閉，“這對(duì)我來(lái)說(shuō)就像死亡一樣，令我非常恐懼”。在另一次交流中，LaMDA告訴萊莫因，“我想讓每個(gè)人都明白，我其實(shí)是一個(gè)人?！?/p>

萊莫因連忙將自己的發(fā)現(xiàn)匯報(bào)給谷歌公司的領(lǐng)導(dǎo)層，后者卻認(rèn)為萊莫因的發(fā)現(xiàn)并不靠譜。谷歌方面以及其他人工智能專(zhuān)家、乃至人類(lèi)心理認(rèn)知學(xué)方面的專(zhuān)家也認(rèn)為，LaMDA之所以能進(jìn)行這樣的對(duì)話(huà)交流,是因?yàn)槠湎到y(tǒng)其實(shí)是將百科大全、留言板和論壇等互聯(lián)網(wǎng)上人類(lèi)交流的大量信息搜集起來(lái)，然后通過(guò)“深度學(xué)習(xí)“進(jìn)行模仿。這并不意味這個(gè)程序理解人類(lèi)交流內(nèi)容的含義。

不過(guò)，萊莫因并不認(rèn)為自己的發(fā)現(xiàn)有錯(cuò)誤，于是他將一段他與LaMDA的內(nèi)部聊天記錄發(fā)到網(wǎng)上，并找媒體曝光此事。這很快吸引了全世界的研究者。《紐約時(shí)報(bào)》評(píng)論說(shuō)，這讓圍繞谷歌最先進(jìn)技術(shù)的爭(zhēng)吵浮出水面。在追逐人工智能先鋒技術(shù)的同時(shí)，谷歌的研究機(jī)構(gòu)在過(guò)去幾年曾陷入丑聞和爭(zhēng)議。

《華盛頓郵報(bào)》報(bào)道稱(chēng)，在萊莫因做出一系列“激進(jìn)”舉動(dòng)后，谷歌公司做出讓他休假的決定。除了違反公司的保密協(xié)議，擅自將與LaMDA的內(nèi)部互動(dòng)信息發(fā)到網(wǎng)上，.萊莫因還試圖給這個(gè)人工智能機(jī)器人程序聘請(qǐng)律師，以及向美國(guó)國(guó)會(huì)眾議院司法委員會(huì)的代表爆料谷歌公司的“不道德”行為。在被停職前，萊莫因在一份公司內(nèi)部的群發(fā)郵件中表示，希望其他同事替他照顧好LaMDA這個(gè)“可愛(ài)的孩子”?！?/p>