□ 文/加藤隆則
內(nèi)容提要 本文介紹汕頭大學(xué)長(zhǎng)江新聞與傳播學(xué)院的一位日籍老師與中國(guó)學(xué)生們的AI原則探討,作者與同學(xué)們一直討論“AI原則”,經(jīng)歷兩個(gè)學(xué)期,以“人與AI共生”為主題起草了五條大學(xué)生的愿望,到現(xiàn)在已經(jīng)誕生2.0版。
“研究人工智能(AI)就是重新認(rèn)識(shí)人類自己”,這是我在課堂上一直強(qiáng)調(diào)的出發(fā)點(diǎn)。因?yàn)檠邪l(fā)AI大幅地推動(dòng)對(duì)智能、意識(shí)、感情等“心理論(mindtheory)”的深入研究,給人類帶來(lái)前所未有的研究成果。AI成為我們生活的重要部分,為了實(shí)現(xiàn)健全的AI發(fā)展,除了在科技開(kāi)發(fā)或應(yīng)用的領(lǐng)域,還需要社會(huì)整體的參與,甚至每一個(gè)人都要面對(duì)“認(rèn)識(shí)自己”的哲學(xué)經(jīng)典主題,其中不能忽視高校教育的重要性。2017年春季學(xué)期,我新開(kāi)了課程“人工智能時(shí)代的媒體”,經(jīng)歷了兩個(gè)學(xué)期,我與同學(xué)們一直討論“AI原則”,以“人與AI共生”為主題起草了五條大學(xué)生的愿望,到現(xiàn)在已經(jīng)誕生2.0版。美國(guó)科幻作家艾薩克 ·阿西莫夫(Isaac Asimov)提出了“機(jī)器人三原則”,但我們要充分認(rèn)識(shí)到AI的重要性,“AI原則”不能靠一個(gè)作家,需要來(lái)自不同層面的多元內(nèi)容。
AI對(duì)未來(lái)社會(huì)發(fā)展影響重大,新聞學(xué)院的學(xué)生必須了解最前沿的事物,同時(shí)培養(yǎng)對(duì)AI的平衡態(tài)度,深刻認(rèn)識(shí)媒體的新環(huán)境。在2017年秋季學(xué)期專業(yè)選修課“當(dāng)前媒體議題研究”課程開(kāi)課時(shí),我決定將“AI”定為課程的主題。
在來(lái)汕大之前我作為記者一直關(guān)注AI領(lǐng)域的信息,閱讀了相關(guān)的書(shū)籍,包括認(rèn)知科學(xué)、腦科學(xué)、機(jī)器人工學(xué)、心理學(xué)等,尤其是深入了解心身問(wèn)題(mind-body problem),思考精神與身體的關(guān)系、理性與情感的關(guān)系。我們不是按照機(jī)器人算法來(lái)接受信息的,而是帶著意識(shí)、情感、記憶等主觀因素,與身體有密切的關(guān)系,還有與環(huán)境的互動(dòng)。
當(dāng)時(shí)有一位同學(xué)問(wèn)我:“老師,為什么新聞學(xué)院的課程講AI呢?這不是理科的內(nèi)容嗎?”我回答說(shuō):“為什么不能講?我們是研究媒體的,媒體就是我們了解外部環(huán)境的渠道,在這個(gè)意義上已經(jīng)離不開(kāi)AI,不懂AI無(wú)法掌握我們的媒體環(huán)境呀!”
當(dāng)前AI的發(fā)展進(jìn)入第三階段,研究領(lǐng)域也越來(lái)越擴(kuò)大,不同的學(xué)術(shù)從不同的角度參與,跨學(xué)術(shù)的互動(dòng)交流才會(huì)推動(dòng)研究人類的健全發(fā)展。每個(gè)國(guó)家,每個(gè)企業(yè)都投入前所未有的人力與資金,百度CEO李彥宏在上海舉行的首屆世界人工智能大會(huì)上表示:“未來(lái)沒(méi)有任何一家企業(yè)可以宣稱與 AI 無(wú)關(guān)。一個(gè)真正的AI 化公司是三位一體的。它首先要具備 AI 思維,其次要擁有AI能力,第三還要遵循 AI 方面的倫理?!眰惱硇枰軐W(xué)的基礎(chǔ),科學(xué)、技術(shù)、哲學(xué)的三位一體才會(huì)有人類的平衡發(fā)展。
2017年谷歌DeepMind研發(fā)的AlphaGo戰(zhàn)勝圍棋世界冠軍柯潔九段,證明AI已經(jīng)發(fā)展到一個(gè)高峰,我在課堂上分享這條新聞的時(shí)候,就問(wèn)學(xué)生:“這是AI的勝利嗎?”接著說(shuō),“不是,而是科學(xué)家的勝利,因?yàn)锳I也是他們創(chuàng)造的。”我們需要超越二元論的思維方式,中國(guó)有“天人合一”的思想,應(yīng)該多關(guān)注自然界的互動(dòng)性規(guī)律從而了解世界,才會(huì)掌握人與AI的共同發(fā) 展。
發(fā)明家Ray Kurzweil預(yù)測(cè)2045年通過(guò)與AI的結(jié)合,人類的肉體、知識(shí)能力將突破生物學(xué)界限,奇點(diǎn)(singularity)將到來(lái),上課時(shí)的學(xué)生引用Singularity概念討論“AI會(huì)不會(huì)超過(guò)人”的時(shí)候,我特意提醒,“‘超過(guò)’是什么?人與AI憑什么標(biāo)準(zhǔn)競(jìng)爭(zhēng)呢?”
AI是人創(chuàng)造的,不是競(jìng)爭(zhēng)對(duì)手更不是敵人,那么“AI超過(guò)人”到底是什么概念?關(guān)于媒體上的所謂“熱點(diǎn)”,我們應(yīng)該保持清晰的思路。網(wǎng)上新聞中有很多“AI搶走工作”等引人注目的標(biāo)題,但我們要用實(shí)事求是的眼睛來(lái)分析現(xiàn)在和將來(lái),事情除了利弊兩面還有多面,不然容易產(chǎn)生“AI威脅論”等妖魔化AI的極端言論,阻礙年輕人全面思考。這就是在新聞學(xué)院的課堂上討論AI的意義所在,還是回到出發(fā)點(diǎn)——“研究AI就是重新認(rèn)識(shí)自己”。
經(jīng)過(guò)16周的探索,2018年春季學(xué)期,“當(dāng)前媒體議題研究”課程正式更名為“人工智能時(shí)代的媒體”。一直到2018年秋季學(xué)期,我?guī)ьI(lǐng)新的選課學(xué)生對(duì)AI進(jìn)行進(jìn)一步的研究。
課堂上,我經(jīng)常提到:“人與AI的區(qū)別就是人會(huì)自發(fā)提問(wèn),所以同學(xué)們要發(fā)揮人的特征!”我鼓勵(lì)學(xué)生一起研究AI的發(fā)展歷史與現(xiàn)狀,前提是應(yīng)采取開(kāi)放、積極、全面的態(tài)度面對(duì)AI的發(fā)展。學(xué)生通過(guò)選取自己對(duì)AI領(lǐng)域感興趣的相關(guān)議題進(jìn)行研究,在課上與老師同學(xué)進(jìn)行交流,課堂報(bào)告的內(nèi)容涉及AI的多個(gè)方面。
結(jié)合新聞學(xué)院專業(yè)特色,學(xué)生探討了機(jī)器人寫稿、剪視頻、制作廣告等媒體行業(yè)的最新現(xiàn)象,思考將來(lái)的發(fā)展方向。他們認(rèn)為機(jī)器新聞可以將記者從簡(jiǎn)單繁瑣的工作中解放出來(lái),讓記者擁有更多的時(shí)間和精力投入到深度報(bào)道中,創(chuàng)作出高質(zhì)量的新聞作品。
學(xué)生展現(xiàn)了AI在生活的各個(gè)領(lǐng)域的具體應(yīng)用,如自動(dòng)駕駛、AI音箱、無(wú)人便利店、外賣、社交等,提出AI的發(fā)明是為了解放人,而不是束縛和威脅人類的發(fā)展。我曾經(jīng)讓學(xué)生和AI音箱相處一星期后分享自己的感想,他們提到這款音箱可以增強(qiáng)和舍友或者家里老年人之間的交流,其他同學(xué)也受到很大啟發(fā)。
針對(duì)AI可能帶來(lái)的風(fēng)險(xiǎn),如大數(shù)據(jù)泄露、失業(yè)、失控等,他們大致相信人類可以用自己的行動(dòng)去應(yīng)對(duì),決定未來(lái)世界的形態(tài),但還是很擔(dān)憂AI會(huì)給教育、醫(yī)療領(lǐng)域帶來(lái)不公平的差距,還擔(dān)心缺乏倫理道德的約束下AI會(huì)凸顯或固化人類的偏見(jiàn),這都表明當(dāng)代學(xué)生帶著強(qiáng)烈正義感的特征。
在探討AI在電影媒介中的呈現(xiàn)時(shí),學(xué)生提出應(yīng)理性看待“AI威脅論”。如講述人類與AI相愛(ài)的《Her》和描述信息高度共享的生活的《The Circle》等,學(xué)生分析了上述電影,認(rèn)為技術(shù)是中性的,人類通過(guò)技術(shù)獲取便利,也需要承擔(dān)它所帶來(lái)的隱患。其他同學(xué)以《銀翼殺手》《我,機(jī)器人》《超能查派》等各種電影作品為題材探討人與機(jī)器人的差異、兩者的關(guān)系,深入思考“智能、意識(shí)、感情是什么”的經(jīng)典主題。雖然目前的科學(xué)沒(méi)找到答案,但哲學(xué)給我們無(wú)限的思考空間。
2017年秋季課堂在回答“你想或不想讓AI做什么”的問(wèn)題時(shí),35位學(xué)生的期末論文中,“關(guān)懷”“陪伴”“情感”“記憶”等詞語(yǔ)多次出現(xiàn)。和技術(shù)本身“冷冰冰”的特性不同,學(xué)生們的思考體現(xiàn)出濃厚的人文關(guān)懷。豐富的課程產(chǎn)物為下學(xué)期的課程開(kāi)展打下了堅(jiān)實(shí)的基礎(chǔ)。
2018年秋季課堂上大家討論“我對(duì)AI的愿望”,提出多樣的視角。印象最深刻的是不少同學(xué)從獨(dú)生子女的立場(chǎng)來(lái)探索,有一位同學(xué)講,父母老了后,“多功能聯(lián)通的全能型AI能夠提高養(yǎng)老生活的質(zhì)量和便捷度,完成力所能及的家務(wù),和他們聊天,檢測(cè)他們的身體情況等。”我從同學(xué)的身上感受到孝順的傳統(tǒng),AI與法律或倫理道德的問(wèn)題上,不能忽略不同地域特有的文化背景。
好幾個(gè)同學(xué)提到哆啦A夢(mèng),使我感覺(jué)到現(xiàn)代年輕人的心態(tài)。其中有一位同學(xué)寫道:“我希望人工智能可以充當(dāng)一個(gè)‘造夢(mèng)者’的形象,就好像哆啦A夢(mèng),我覺(jué)得它就是一個(gè)‘夢(mèng)想販賣機(jī)’,大雄本來(lái)是一個(gè)沒(méi)什么想法碌碌無(wú)為的人,但是哆啦A夢(mèng)卻不斷給他提供了擁有夢(mèng)想實(shí)現(xiàn)夢(mèng)想的機(jī)會(huì)?!?/p>
2018年9月17日至19日,以“人工智能賦能新時(shí)代”為主題的首屆世界人工智能大會(huì)在上海舉行。主辦單位有國(guó)家發(fā)改委、科技部、工信部、網(wǎng)信辦、中國(guó)科學(xué)院、中國(guó)工程院等,大會(huì)首日的主論壇國(guó)內(nèi)互聯(lián)網(wǎng)三巨頭BAT創(chuàng)始人的發(fā)言,都說(shuō)明中國(guó)的AI大環(huán)境已經(jīng)成 熟。
2018年3月5日,國(guó)務(wù)院總理李克強(qiáng)在2018年政府工作首條建議中指出要加強(qiáng)新一代AI研發(fā)應(yīng)用。從2017年首次列入政府工作報(bào)告,到2018年的政府工作首條建議,人工智能在促進(jìn)新興產(chǎn)業(yè)發(fā)展、提高人民生活質(zhì)量上的作用越來(lái)越受到國(guó)家的重視。
習(xí)近平主席2018年11月5日在首屆中國(guó)國(guó)際進(jìn)口博覽會(huì)開(kāi)幕式上發(fā)表主旨演講中指出,這屆進(jìn)口博覽會(huì)以“新時(shí)代,共享未來(lái)”為主題,同時(shí)強(qiáng)調(diào)“各國(guó)應(yīng)該把握新一輪科技革命和產(chǎn)業(yè)變革帶來(lái)的機(jī)遇,加強(qiáng)數(shù)字經(jīng)濟(jì)、人工智能、納米技術(shù)等前沿領(lǐng)域合作,共同打造新技術(shù)、新產(chǎn)業(yè)、新業(yè)態(tài)、新模式?!敝袊?guó)的AI發(fā)展離不開(kāi)全球的共同開(kāi)發(fā)。
2017年1月,“生命未來(lái)研究所”(Future of Life Institute,F(xiàn)LI)在美國(guó)加利福尼亞州阿西洛馬舉行Beneficial AI會(huì)議,概括了“阿西洛馬 AI原則”,列出了23條準(zhǔn)則,讓未來(lái)人工智能的研究人員、科學(xué)家和立法者遵循,確保安全、倫理和有益。該組織收集了來(lái)自大學(xué)和公司的人工智能研究人員的意見(jiàn),討論人工智能的未來(lái)及其應(yīng)如何監(jiān)管。
雖然已經(jīng)有專家的討論結(jié)果,但考慮到AI覆蓋到生活領(lǐng)域,它和人類有前所未有的緊密關(guān)系,甚至有“超越”可能性的討論,更多的群體要參與討論并回避脫離生活的極端現(xiàn)象是很重要的。
□ 2018年12月24日晚上,“AI時(shí)代的媒體”課堂場(chǎng)景。
2017年秋季學(xué)期的課堂給了我很大的啟發(fā),有一位同學(xué)在期末論文中特意建議;為了警惕AI技術(shù)發(fā)展的“失控”局面,要盡早地給這門技術(shù)以及將來(lái)會(huì)出現(xiàn)的AI產(chǎn)物定下“規(guī)矩”、定下“原則”。
為了重新審視和探討人類與AI的關(guān)系,我在2018年春季的課上提出“我們需要一個(gè)AI原則”,并將起草“AI原則”作為該學(xué)期的課程目標(biāo)。
“AI原則”的靈感來(lái)自于著名的“機(jī)器人三原則”。為避免人類被機(jī)器人傷害,美國(guó)科幻作家艾薩克·阿西莫夫(Isaac Asimov)在1940年提出了“機(jī)器人三原則”,原則內(nèi)容為:
第一條:機(jī)器人不得傷害人類,或看到人類受到傷害而袖手旁觀;
第二條:機(jī)器人必須服從人類的命令,除非這條命令與第一條相矛盾;
第三條:機(jī)器人必須保護(hù)自己,除非這種保護(hù)與以上兩條相矛盾。
與命令式的機(jī)器人三原則不同,AI原則的研究不僅是為了抵抗來(lái)自AI的威脅,更是希望發(fā)揮新聞學(xué)院學(xué)生獨(dú)特的專業(yè)視角,結(jié)合東方傳統(tǒng)文化教育背景,表達(dá)當(dāng)代年輕群體對(duì)AI倫理規(guī)范的希冀和愿景。
在起草原則之前,學(xué)生先對(duì)AI技術(shù)與相關(guān)理論進(jìn)行了初步學(xué)習(xí),同時(shí)認(rèn)識(shí)了人類的情感、身體和獨(dú)立思考的重要性。緊接著學(xué)生們分為六個(gè)小組,圍繞與AI相關(guān)的議題進(jìn)行研究和匯報(bào),分別是“AI發(fā)展的歷史與未來(lái)”“生活中的AI”“AI對(duì)就業(yè)的影響”“AI與媒體”“AI的風(fēng)險(xiǎn)”“AI與社 交”。
課堂討論展現(xiàn)出了多元觀點(diǎn)的碰撞。學(xué)生們發(fā)揮所學(xué)知識(shí),多角度地探討了人類與AI的區(qū)別和聯(lián)系、AI的倫理道德規(guī)范、對(duì)AI的期待等話題。比起消極的負(fù)面情緒,他們對(duì)AI的發(fā)展更多持一種積極、自信、理性的態(tài)度,甚至有學(xué)生提出可以“站在AI的立場(chǎng)去思考它想要的‘AI原則’?!?/p>
我針對(duì)學(xué)生們的報(bào)告和討論成果,總結(jié)出了AI原則的三個(gè)關(guān)鍵詞:包容、合作、分享。每個(gè)小組根據(jù)研究主題的不同,也定了不同的關(guān)鍵詞作為AI原則起草的方向,分別為:協(xié)作、服務(wù)、平衡、交互、責(zé)任、不違反。
2018年春季學(xué)期起草了AI原則。比起命令式的原則或法條,AI原則更希望呈現(xiàn)的是年輕一代對(duì)AI真實(shí)的希冀和想法。為了更好地表達(dá)這份愿景,學(xué)生將“我們的AI夢(mèng)”作為此次AI原則的命名,這也是互動(dòng)性討論的重要成果。
接下來(lái)2018年秋季學(xué)期,不同的學(xué)生從各方面的角度提修改建議,到年底“我們的AI夢(mèng)2.0”誕生了。
“我們的AI夢(mèng)2.0”共有五條解釋,完整版如下:
AI既能通過(guò)技術(shù)優(yōu)勢(shì)讓人類生活得更加便捷、快樂(lè),又能通過(guò)個(gè)性化服務(wù)滿足個(gè)人的需求,包括鼓勵(lì)個(gè)體探索自我,追求夢(mèng)想,并更多地關(guān)注人類的精神和情感需求。但人類不能過(guò)分依賴AI的幫助,否則會(huì)漸漸磨滅自身的創(chuàng)造力。
AI的發(fā)展方向在于幫助人類更好地解決問(wèn)題,人類在享受AI的成果時(shí),也需要認(rèn)可和支持AI,在互動(dòng)過(guò)程中給予它更多的信任和包容性。同時(shí)要讓公眾看到具體詳細(xì)的過(guò)程,還要讓公眾看到如何發(fā)明它、如何使用它、如何監(jiān)管它。
AI可以與我們共享生存環(huán)境,但它的活動(dòng)需在不侵犯人類未來(lái)進(jìn)步發(fā)展的前提下,以人類達(dá)成共識(shí)的價(jià)值觀為底線。人類也要對(duì)AI的發(fā)展進(jìn)行正確的引導(dǎo)和監(jiān)督。
根據(jù)人類對(duì)AI的不同需求,AI可以被定位成多元角色,如助手、伙伴、家人等,給人類提供幫助或陪伴。除了技術(shù)上的安全保障,AI還可以是可愛(ài)的“非類人”形象,通過(guò)具有人文關(guān)懷的服務(wù)來(lái)打破“冷冰冰”的形象,給人類安全感。
人類和AI并不是對(duì)立關(guān)系,AI會(huì)成為人類研究自己、研究人與人之間互動(dòng)關(guān)系的一面鏡子,可以幫助人類更好地認(rèn)識(shí)和探索自身,增強(qiáng)人類的自信心,實(shí)現(xiàn)自省。AI可以通過(guò)反饋的方式加強(qiáng)與人類的交流,與人類共同發(fā)展、進(jìn)步。當(dāng)滿足前面的五條原則時(shí),希望AI主動(dòng)去從事有益于社會(huì)的活動(dòng)。
除了上面的五條以外,2.0版的亮點(diǎn)在于“補(bǔ)充條款”。隨著AI的迅速發(fā)展,我們應(yīng)不停地更新注入新的理念。因此,我們不必要追求絕對(duì)的真理,這些固定思維反而容易排斥不同的意見(jiàn),阻礙自由多元的思考。我們通過(guò)互相尊重的討論,交換更多元的意見(jiàn),暫定最理想的原則,也給后代留下變更的余地。
所以我們采納學(xué)生們的“補(bǔ)充條款”建議與解釋,如下:
我們應(yīng)當(dāng)定期檢視上述AI原則,并且根據(jù)AI不同階段的發(fā)展進(jìn)行更?新。
AI發(fā)展更為迅速,可以說(shuō)是日新月異,所以AI原則應(yīng)當(dāng)是階段性的,不能一勞永逸地使用老原則,定期根據(jù)現(xiàn)實(shí)情況去檢視其適用性和實(shí)用性非常必要。如果要將遵守人類道德價(jià)值觀作為一個(gè)原則,可能需要監(jiān)控AI的人隨著時(shí)代的發(fā)展,不斷往AI系統(tǒng)注入新的道德價(jià)值觀。
作為整個(gè)原則的宏觀背景,第一條展現(xiàn)出年輕一代對(duì)AI發(fā)展樂(lè)觀、積極的態(tài)度,希望AI的技術(shù)優(yōu)勢(shì)可以更好地造福人類社會(huì)。修改后的版本加“適度”,因?yàn)槿祟悓?duì)AI的過(guò)度依賴養(yǎng)成惰性,就會(huì)漸漸磨滅人類的創(chuàng)造力,所以要給對(duì)AI的求助需求設(shè)一個(gè)界限。
為了體現(xiàn)對(duì)AI的支持和包容性,第二條原則以第一條為前提,提出可以給予AI更自由的發(fā)展空間。但由于在科學(xué)領(lǐng)域發(fā)生過(guò)人類基因克隆問(wèn)題等不透明的事件,學(xué)生們強(qiáng)烈要求一定的規(guī)則與條件,最看重的是信息的透明化,還有第四條中的保護(hù)隱私權(quán),都反映新聞學(xué)院學(xué)生的特色。
對(duì)AI倫理道德的規(guī)范一直是課程討論的熱點(diǎn)話題,也是東方傳統(tǒng)文化背景中尤其重視的道德基準(zhǔn)。第三條原則以人類達(dá)成共識(shí)的道德價(jià)值觀為AI活動(dòng)的基本底線,并要求它尊重并保護(hù)自然和生命。
學(xué)生認(rèn)為,根據(jù)個(gè)人不同的需求,AI可以承擔(dān)多元角色的任務(wù),不需要限定一個(gè)標(biāo)準(zhǔn)。除此之外,他們希望AI能以可愛(ài)的“非類人”形象融入人類生活中,就如童年時(shí)期的哆啦A夢(mèng)。
最后一條是對(duì)人類與AI關(guān)系的思考。學(xué)生提出,在人類研究AI的過(guò)程中,本質(zhì)上是在研究自己、研究人和人之間的互動(dòng)關(guān)系“共生”,無(wú)論AI技術(shù)日后如何發(fā)展,應(yīng)該保持這份初心。有趣的是有一位同學(xué)特意提到“希望AI主動(dòng)去從事有益于社會(huì)的活動(dòng)”,得到大家的認(rèn)可。
“我們的AI夢(mèng)”作為汕頭大學(xué)長(zhǎng)江新聞與傳播學(xué)院研究人工智能的課程成果,五條原則+補(bǔ)充條款的內(nèi)容均來(lái)自學(xué)生們?cè)谡n程上的討論和匯報(bào),如“探索自我”“個(gè)性化服務(wù)”“安全感”“自信心”“反饋”等用詞,反映了年輕人內(nèi)心獨(dú)特的聲音。汕大學(xué)生表示,在日益發(fā)展的人工智能領(lǐng)域,還有更多值得關(guān)注的問(wèn)題,“我們的AI夢(mèng)”只是一個(gè)開(kāi)始,未來(lái)這門課程將繼續(xù)對(duì)AI進(jìn)行研究和探索。 (作者加藤隆則是汕頭大學(xué)長(zhǎng)江新聞與傳播學(xué)院教授。以上文章是100多位汕大長(zhǎng)江新聞與傳播學(xué)院學(xué)生的成果,特別感謝付玉梅同學(xué)的貢獻(xiàn))