人機(jī)辯論“AI是否會(huì)帶來更大的弊端”

IBM的人工智能“Project Debater”在劍橋聯(lián)合會(huì)與人類辯論

近日，一個(gè)IBM機(jī)器人參與了一場質(zhì)疑自身的辯論，論題是“AT是否會(huì)帶來更大的弊端”，最終認(rèn)為“利大于弊”的觀點(diǎn)險(xiǎn)勝。這場辯論在劍橋聯(lián)合會(huì)展開。劍橋聯(lián)合會(huì)的辯論禮堂有150年的歷史，迎接過撒切爾夫人、羅斯?？偨y(tǒng)、霍金、甚至色情演員等等，從總理到總統(tǒng)，從明星演員到學(xué)界泰斗各行各業(yè)的辯論人士。但怎么也想不到，今天會(huì)有300名觀眾觀看這場人類與非人類的辯論。

這個(gè)機(jī)器人是IBM的“辯論家計(jì)劃”中的一個(gè)對話型AI機(jī)器人，它是一個(gè)兩米高的黑箱子，發(fā)出的聲音類似某個(gè)女明星。整場辯論以其發(fā)表的開場詞正式開始。這個(gè)機(jī)器人設(shè)置有一個(gè)“群眾演講”的應(yīng)用程序，可以用它分析人們在網(wǎng)上提交的意見來生成自己的論點(diǎn)。它的論據(jù)來自1100多份事先提交的人類陳述。

兩個(gè)辯論隊(duì)分別由一名教授和一名辯論專家組成，兩隊(duì)都有這個(gè)機(jī)器人的AI輔助?！拔艺娴暮芎闷?，也很興奮能和一臺機(jī)器一起工作?！逼渲幸幻麉⑴c者、反人工智能團(tuán)隊(duì)的辯論專家莎米拉·帕瑪南在活動(dòng)開始前說?！叭斯ぶ悄軣o法在道德上做出正確的決定，因?yàn)榈赖率侨祟愄赜械摹！眻鱿乱黄澎o。通常觀眾的注意力會(huì)在禮堂中位置最高的聯(lián)合會(huì)主席身上，但是現(xiàn)在所有人的目光都在這個(gè)閃著藍(lán)光的辯手身上?！叭斯ぶ悄艿腻e(cuò)誤率低于人類……這將是一個(gè)巨大的優(yōu)勢，因?yàn)樗梢怨?jié)省更多時(shí)間來執(zhí)行平凡和重復(fù)的任務(wù)?！彼岢隽藘蓚€(gè)立場相反的觀點(diǎn)。支持AT的一方認(rèn)為人工智能將在某些領(lǐng)域創(chuàng)造新的就業(yè)機(jī)會(huì)，并“在工作場合提高效率”。

隨后這個(gè)機(jī)器人又提出“人工智能可以照顧病人，或者機(jī)器人可以教學(xué)生——這些領(lǐng)域也不再需要人類?！比斯ぶ悄軛l理清晰地進(jìn)行了辯論，但也出現(xiàn)了一些失誤。有時(shí)它會(huì)重復(fù)自己的觀點(diǎn)，有時(shí)它無法提供詳細(xì)的素材來支撐自己的觀點(diǎn)。這是一場有意思的辯論，但這不僅僅是一場辯論。這次IBM展示的技術(shù)與之前展示的非常不同?！稗q論家”項(xiàng)目的初始提案脫胎于2011年出現(xiàn)的單個(gè)PPT幻燈片。由于提交內(nèi)容有限，而且挑戰(zhàn)項(xiàng)目的難度比較大，IBM管理層經(jīng)過了大約一年的仔細(xì)考慮，才最終批準(zhǔn)了該項(xiàng)目。2012年，IBM研究院建立了一個(gè)項(xiàng)目團(tuán)隊(duì)，正式啟動(dòng)“Project Debamr”項(xiàng)目開發(fā)。而該項(xiàng)目的實(shí)質(zhì)性工作直到2014年才展開。

去年6月，IBM的辯論機(jī)器人首次與人進(jìn)行辯論，最終得分1：1，觀眾投票認(rèn)為，Debamr的辯論技巧比人要差，但是信息量很大。當(dāng)時(shí)這個(gè)系統(tǒng)有數(shù)以億計(jì)的文章庫，可從中提取內(nèi)容，涉及約100個(gè)主題。當(dāng)遇到辯論性問題時(shí)，需要花費(fèi)幾分鐘的時(shí)間來搜索這些文章，構(gòu)建論點(diǎn)并進(jìn)行總體演講。今年2月，在IBM的Think conference上，AT機(jī)器人再戰(zhàn)冠軍級辯論家Harish Namrajan。雙方圍繞“政府是否應(yīng)該資助學(xué)前教育”進(jìn)行激烈交鋒，最終AI落敗。

以前這種和人辯論的方式主要是鍛煉AT的聽力理解能力和對一個(gè)論點(diǎn)做出有意義的回應(yīng)的能力。這些技能或許是遠(yuǎn)遠(yuǎn)超過了智能家居或者移動(dòng)設(shè)備中智能助理的能力，但是這些遠(yuǎn)遠(yuǎn)達(dá)不到IBM做這個(gè)辯論計(jì)劃的初衷。這一次采用AI自我辯論的形式，就好像“你把數(shù)千條正面和負(fù)面的餐廳評論集中在一起，然后用幾段話總結(jié)出來”，IBM計(jì)算機(jī)科學(xué)家丹·拉哈夫說。所以這場辯論的意義不在于機(jī)器能否說服人類，而是機(jī)器可以增強(qiáng)人類?！叭祟惪梢曰谖覀兊奈幕蛡鹘y(tǒng)更好地理解聽眾，但是機(jī)器可以通過大量數(shù)據(jù)來豐富我們的知識，去做一些更加具體的決定，使我們消除作為人類固有的偏見?！崩蛘f。機(jī)器能找到事物之間各種有效的聯(lián)系，而這些聯(lián)系很有可能因?yàn)槿说哪J(rèn)想法而被忽略。這會(huì)限制我們處理信息的能力。“2016年，Debater還只是一個(gè)蹣跚學(xué)步的孩子，而到了2019年，我們已經(jīng)達(dá)到了大學(xué)水平，”該項(xiàng)目首席研究員、IBM杰出工程師諾姆·斯洛尼姆表示，“Project Debater可以在很多方面幫助人類，可以通過展示一個(gè)有爭議話題的兩面，減少人類固有的偏見。”

丹·拉哈夫，IBM 計(jì)算機(jī)科學(xué)家，該項(xiàng)目研究員之一。他本人也是著名的辯論家，在2018 年被冠以“全球最佳演說家”的稱號

長期以來，辯論一直都是一個(gè)很具智力挑戰(zhàn)性的任務(wù)。讓人類去理解一個(gè)論點(diǎn)，并表示支持還是反對，對我們來說是很簡單的，但對機(jī)器來說是難以置信的復(fù)雜。接下來機(jī)器人的挑戰(zhàn)是判斷論證的質(zhì)量是否足以說服他人。最后，人工智能還必須以一種人類可以理解的敘述方式來闡述論點(diǎn)。

除了辯論，這項(xiàng)技術(shù)或許可以運(yùn)用在任何一個(gè)需要收集數(shù)據(jù)并根據(jù)數(shù)據(jù)做出決定的工作中?！澳憧梢园阉醋魇且粋€(gè)研究引擎，而不是一個(gè)搜索引擎，”拉哈夫說，“想象一下，在一場政治演講中，它能提高討論的水平，因?yàn)槟隳芰私饴牨娫谡f什么，你會(huì)給他們一個(gè)參與的平臺。立法者可以更好地看到對方，因?yàn)檫@臺機(jī)器可以自我辯論?！蹦壳皝砜矗@個(gè)“辯手”已經(jīng)做得很不錯(cuò)了，它組織語言的方式，沒有讓觀眾在11月這個(gè)寒冷的季節(jié)聽著機(jī)器的聲音昏昏欲睡。相反，它的存在讓辯論充滿輕松和活躍。

米格姆大學(xué)法學(xué)和倫理學(xué)教授、反方的一名成員西爾維·德拉克洛瓦走上講臺，并開玩笑地稱Project Debater為“黛比”?！叭斯ぶ悄苁且环N重要的工具，因?yàn)樗越^對的速度改變著我們的工作方式和約會(huì)方式?！彼f。辯論結(jié)束后，人們沒有立即投票，而是起立歡呼。之后，觀眾分別走向了代表“贊成”“反對”和“棄權(quán)”的三扇門，最終投票結(jié)果：48.17%的人贊成，51.22%的人反對，0.61%的人棄權(quán)?！拔艺娴牟恢廊斯ぶ悄艿奈磥硎鞘裁础保琋amrajan說，“它肯定會(huì)產(chǎn)生巨大影響，但我們不知道會(huì)是什么。”（摘自美《深科技》）（編輯/費(fèi)勒萌）