王 雪 瑩

(南京大學(xué) 新聞傳播學(xué)院，江蘇 南京 210023)

傳播學(xué)之父威爾伯·施拉姆有這樣一個(gè)著名的“最后7分鐘”比喻：“這一天的前23個(gè)小時(shí),人類傳播史上幾乎全部空白,一切重大的發(fā)展都集中在這一天的最后7分鐘?！闭沁@最后7分鐘譜寫了人類歷史的黃金時(shí)期,而午夜前的最后3秒?yún)s翻開了人類邁進(jìn)信息化社會(huì)的新篇章。[1]近幾年，信息與通信技術(shù)發(fā)展迅速，各種新技術(shù)層出不窮——移動(dòng)互聯(lián)網(wǎng)、物聯(lián)網(wǎng)、大數(shù)據(jù)、互聯(lián)網(wǎng)+、區(qū)塊鏈、人工智能……互聯(lián)網(wǎng)在今天自然已不再是新鮮事——人們習(xí)慣將習(xí)以為常的、無處不在的技術(shù)，視為理所當(dāng)然的存在。在日新月異的眾多新技術(shù)中，人工智能備受關(guān)注。我國(guó)從國(guó)家層面對(duì)人工智能發(fā)展給予了支持。從2015年至今，國(guó)家出臺(tái)了一系列政策。甚至，在最新的國(guó)務(wù)院工作報(bào)告中，人工智能再次被提及。這是人工智能第二次被寫入國(guó)務(wù)院工作報(bào)告中。《2018年國(guó)務(wù)院政府工作報(bào)告》中指出：“發(fā)展壯大新動(dòng)能。做大做強(qiáng)新興產(chǎn)業(yè)集群，實(shí)施大數(shù)據(jù)發(fā)展行動(dòng)，加強(qiáng)新一代人工智能研發(fā)應(yīng)用，在醫(yī)療、養(yǎng)老、教育、文化、體育等多領(lǐng)域推進(jìn)‘互聯(lián)網(wǎng)+’。加快發(fā)展現(xiàn)代服務(wù)業(yè)。發(fā)展智能產(chǎn)業(yè)，拓展智能生活，建設(shè)智慧社會(huì)。運(yùn)用新技術(shù)、新業(yè)態(tài)、新模式，大力改造提升傳統(tǒng)產(chǎn)業(yè)?！盵2]

探討人工智能，如果僅僅以一種“當(dāng)下性”的視角看待這一技術(shù)，就可能對(duì)當(dāng)下的“新技術(shù)”評(píng)價(jià)過高：“一般情況下，人類經(jīng)歷的每個(gè)時(shí)代都傾向于夸大當(dāng)時(shí)這個(gè)時(shí)代的獨(dú)特性。技術(shù)正以前所未有的速度進(jìn)步……我相信之前的人類歷史上肯定存在過其他加速技術(shù)進(jìn)步的時(shí)代，所以沒有必要爭(zhēng)論我們所處的時(shí)代是否真的特殊。我們對(duì)過去了解越少，就越有可能被當(dāng)前時(shí)代的發(fā)展所蒙蔽?！盵3]前言1-2也許在不久的未來，人工智能可能會(huì)被“更”新的技術(shù)取代，淪為“舊”技術(shù)。

人工智能發(fā)展勢(shì)不可擋，這種發(fā)展也讓各行各業(yè)思考：在無處不在的人工智能面前，各自該如何發(fā)展？無疑，作為工具的技術(shù)一定會(huì)給人類社會(huì)帶來正面的影響，最直接的體現(xiàn)是生產(chǎn)力的變革。但是，本文更關(guān)心的是：作為一種技術(shù)的人工智能，現(xiàn)在到了擔(dān)心其倫理問題的地步了嗎？如果是，那么需要關(guān)注的是什么倫理問題？

一、人工智能概念界定：我們需要擔(dān)心的是什么樣的人工智能

雖然早在1956年人工智能(Artificial Intelligence)概念就被提出，但卻是最近十幾年迅速發(fā)展起來。得益于計(jì)算機(jī)技術(shù)、大數(shù)據(jù)、云計(jì)算等技術(shù)的發(fā)展，人工智能的發(fā)展也實(shí)現(xiàn)重大突破。“人工智能”非常熱門，但是人工智能的內(nèi)涵和外延卻并非十分清晰。大家明明都在說人工智能，但是實(shí)際指向的內(nèi)容并非同一個(gè)。唯有確定“什么是人工智能”，才能確定人工智能相關(guān)研究的研究對(duì)象。事實(shí)上，每當(dāng)技術(shù)有所突破，人工智能都會(huì)被重新定義。計(jì)算機(jī)科學(xué)家拉里·泰斯勒(Larry Tesler)指出，這其實(shí)意味著，人工智能總是被定義為“尚未實(shí)現(xiàn)的黑科技”，這被稱為泰斯勒定理，或者叫人工智能效應(yīng)。[4]29

1.人工智能的基礎(chǔ)定義

人工智能的一個(gè)比較流行的定義，也是該領(lǐng)域最早的定義，是當(dāng)時(shí)麻省理工學(xué)院的麥卡錫在1956年的達(dá)特茅斯會(huì)議上提出的：“人工智能就是要讓機(jī)器的行為看起來就像是人所表現(xiàn)出的智能一樣”[5]。這一定義的主體指向“機(jī)器”，機(jī)器不是普通的機(jī)器，是達(dá)到“智能”狀態(tài)的機(jī)器。后續(xù)的定義幾乎也是沿襲這樣一種說法，有學(xué)者比較全面地總結(jié)，認(rèn)為人工智能的定義主要有三種：第一，人工智能是一種“機(jī)器”，是能夠在各類環(huán)境中自主地或交互地執(zhí)行各種擬人任務(wù)的“機(jī)器”；第二，人工智能是一門學(xué)科，是計(jì)算機(jī)科學(xué)中涉及研究、設(shè)計(jì)和應(yīng)用智能機(jī)器的一個(gè)分支；第三，人工智能是一種能力，是智能機(jī)器所執(zhí)行的通常與人類智能有關(guān)的智能行為，如判斷、推理、證明、識(shí)別、感知、理解、通信、設(shè)計(jì)、思考、規(guī)劃、學(xué)習(xí)和問題求解等思維活動(dòng)。[5]

從這三個(gè)定義可以看出，我們明明都在講人工智能，有時(shí)候是在講人工智能技術(shù)，有時(shí)是說研究人工智能的學(xué)科，有時(shí)是指人工智能的智能能力。雖然學(xué)界對(duì)人工智能有著明晰的界定，但是實(shí)際上在日常生活中對(duì)于“人工智能”一詞的使用十分混亂。

2.生活中的人工智能定義

對(duì)于大多數(shù)人來說，最觸手可及的人工智能是智能手機(jī)。[4]1松尾豐把生活中被稱為“人工智能”的事物簡(jiǎn)單整理了一下，它們大致可以被分為以下四個(gè)級(jí)別。

(1)把單純的控制程序稱為“人工智能”。這一類是為了市場(chǎng)營(yíng)銷而將商品冠名“人工智能”或“AI”這一類，人們只是在家電產(chǎn)品上安裝了極為單純的控制程序，就宣稱產(chǎn)品“搭載著人工智能”。

(2)傳統(tǒng)人工智能。這一類動(dòng)作及行為模式極為豐富多彩。傳統(tǒng)的智力問題求解程序、醫(yī)療診斷程序即屬于此類。

(3)引入機(jī)器學(xué)習(xí)的人工智能。這一類是內(nèi)置于搜索引擎里面，或者基于大數(shù)據(jù)可以進(jìn)行自行判斷的人工智能。其推理機(jī)制及知識(shí)庫是以數(shù)據(jù)為基礎(chǔ)通過學(xué)習(xí)獲得的。最近出現(xiàn)的人工智能，很多指的就是這一類。

(4)引入深度學(xué)習(xí)的人工智能。這一類指能夠?qū)C(jī)器學(xué)習(xí)時(shí)的數(shù)據(jù)表示所用變量(一般被稱為“特征量”)本身進(jìn)行學(xué)習(xí)的人工智能。

松尾豐認(rèn)為，來自媒體的新聞報(bào)道中，既有一些“的確非常神奇的人工智能技術(shù)”，但同時(shí)也有一些“實(shí)際上并沒那么神奇的技術(shù)”。而且，它們當(dāng)中既有“已經(jīng)實(shí)現(xiàn)了的技術(shù)”，也有一些“即將可能實(shí)現(xiàn)的技術(shù)”，還有一些“可能永遠(yuǎn)無法實(shí)現(xiàn)的技術(shù)”。[6]14-15所有的這些都被媒體混為一談，由于大眾對(duì)人工智能的理解主要來自媒體，媒體的使用混亂自然會(huì)造成人們對(duì)于人工智能的理解偏差。不只是媒體，正如北京大學(xué)教授、中國(guó)人工智能學(xué)會(huì)副理事長(zhǎng)劉宏所說的那樣：“盡管人工智能研究走過了半個(gè)多世紀(jì)的歷史，但似乎只是在最近幾年里，人工智能與機(jī)器人才突然成為幾乎全社會(huì)廣泛、深入熱議的話題。人工智能領(lǐng)域的每一點(diǎn)創(chuàng)新和進(jìn)步，都可能成為媒體報(bào)道的頭條:智能制造、智能服務(wù)、智能交易等新概念層出不窮，似乎每個(gè)行業(yè)都可以通過‘智能化’給自己貼上變革與新技術(shù)的標(biāo)簽，與傳統(tǒng)劃清界限?！盵3]序一：1這種“人工智能+”的噱頭無疑會(huì)給商家?guī)黻P(guān)注度和吸引力，但是卻加深了普通人對(duì)人工智能的誤解。

3.強(qiáng)人工智能和弱人工智能

今天，宣稱是“使用人工智能的產(chǎn)品”或者“運(yùn)用人工智能技術(shù)的系統(tǒng)”的東西越來越多，但是真正意義上的人工智能，即“能夠像我們?nèi)祟愐粯舆M(jìn)行思考的計(jì)算機(jī)”，的確尚未實(shí)現(xiàn)。[6]20在人工智能的研究領(lǐng)域，很早就出現(xiàn)了關(guān)于“強(qiáng)人工智能”與“弱人工智能”的爭(zhēng)論。這個(gè)概念最早是由哲學(xué)家約翰·瑟爾(John Searle)提出，他認(rèn)為：“具備正確的輸入與輸出、被施予合理程序化的計(jì)算機(jī)，與擁有心智的人是沒有任何區(qū)別的，即它也是有心智的?！彼倪@種主張被稱為“強(qiáng)人工智能”。這種理念認(rèn)為，人的心智或者大腦活動(dòng)就是一種信息處理，思維就是一種計(jì)算。與之相對(duì)，“弱人工智能”則認(rèn)為：計(jì)算機(jī)沒有必要擁有心智，只要能夠通過其有限的智能解決一些智能問題即可。[6]35-36簡(jiǎn)單來說，“強(qiáng)人工智能”是擁有自我意識(shí)的，而“弱人工智能”無自我意識(shí)，只是一種工具。弱人工智能無須擔(dān)心其倫理問題，它只是一種被人類使用的工具，如果存在倫理問題，倫理主體也在于使用弱人工智能的人本身。但是強(qiáng)人工智能不一樣，強(qiáng)人工智能擁有自我意識(shí)。如果說人工智能具有需要警惕的危險(xiǎn)，其實(shí)警惕的是具有“自我意識(shí)”的強(qiáng)人工智能。正如奇點(diǎn)理論所暗示的那樣：人類創(chuàng)造技術(shù)的節(jié)奏正在加速，技術(shù)的力量也正以指數(shù)級(jí)的速度在增長(zhǎng)。指數(shù)級(jí)的增長(zhǎng)是具有迷惑性的，它始于極微小的增長(zhǎng)，隨后又以不可思議的速度爆炸式增長(zhǎng)——如果一個(gè)人沒有仔細(xì)留意它的發(fā)展趨勢(shì)，這種增長(zhǎng)將是完全出乎意料的。[7]雷·庫茲韋爾曾說過：“該技術(shù)性特異點(diǎn)將會(huì)在2045年這個(gè)不遠(yuǎn)的將來出現(xiàn)?！盵6]13奇點(diǎn)理論分為兩個(gè)陣營(yíng)：樂觀派認(rèn)為機(jī)器最終會(huì)將人類帶入永生，悲觀派則認(rèn)為機(jī)器可能會(huì)將人類帶向毀滅。[3]4

機(jī)器將人類帶入永生還是毀滅尚不清楚，但是一旦人工智能具有了自我意識(shí)，它會(huì)竭盡全力完成程序設(shè)定的目標(biāo)，并避免失敗。我們的超級(jí)人工智能想要獲得對(duì)它最有用的能源，不管它表現(xiàn)為什么形式：真正的動(dòng)力能源、金錢，或者其他可以換取資源的東西。它想要完善自己，因?yàn)檫@能提高它達(dá)成目標(biāo)的概率。最重要的是，它不希望被關(guān)掉電源，不希望被摧毀，因?yàn)檫@樣一來就無法達(dá)成目標(biāo)了。[8]出于生存的本能，擁有自我意識(shí)的強(qiáng)人工智能自然會(huì)竭盡全力讓自己存在下去，在這種情況下強(qiáng)人工智能是否還能為人類所掌控就不得而知了。

盡管強(qiáng)人工智能的威脅與風(fēng)險(xiǎn)確實(shí)值得人們警惕，但是卻忽略了一個(gè)根本性的問題——強(qiáng)人工智能會(huì)實(shí)現(xiàn)嗎？我們是否能制造出來一個(gè)大腦，使得人工智能成為完全意義上“像人類”一樣？這些從技術(shù)上來說還是未知的。既然在技術(shù)上暫時(shí)無法實(shí)現(xiàn)，自然不必特別擔(dān)心。在既有的技術(shù)上，需要關(guān)注的是作為工具的弱人工智能的倫理問題。

二、作為技術(shù)的人工智能：弱人工智能面臨的倫理問題

對(duì)于技術(shù)的討論，任何二元對(duì)立的預(yù)設(shè)價(jià)值立場(chǎng)都有可能得出極端傾向的結(jié)論：人們要么恨技術(shù)要么愛技術(shù)。為了防止價(jià)值觀傾向上的偏見，本文從一開始就警惕這一問題。本文承認(rèn)人工智能跟其他技術(shù)一樣，都可以帶來社會(huì)進(jìn)步：比如生產(chǎn)力的提高、將人類從重復(fù)勞動(dòng)中解放出來。但是其自然也暗含著風(fēng)險(xiǎn)。作為工具的弱人工智能本身無性質(zhì)上的好壞之分，關(guān)鍵在于人們?nèi)绾问褂盟Ｅc人工智能有關(guān)的倫理問題也在人類應(yīng)用過程中逐漸凸顯出來。

(一)大數(shù)據(jù)人工智能的數(shù)據(jù)真實(shí)性問題

人工智能發(fā)展的基礎(chǔ)是計(jì)算機(jī)技術(shù)，正是因?yàn)橛辛擞?jì)算機(jī)技術(shù)和網(wǎng)絡(luò)的普及，才使得普通人接入互聯(lián)網(wǎng)，現(xiàn)實(shí)交互行為轉(zhuǎn)移到網(wǎng)上產(chǎn)生大量數(shù)據(jù)。而大數(shù)據(jù)是人工智能的原料，通過算法設(shè)置，借助于計(jì)算機(jī)的巨大計(jì)算能力，分析海量數(shù)據(jù)，進(jìn)而使得計(jì)算機(jī)更加智能、更加擬人。但是大數(shù)據(jù)人工智能存在一個(gè)問題：由于人工智能的發(fā)展依存的是海量數(shù)據(jù)，那么在這種情況下，當(dāng)數(shù)據(jù)源出了問題，則會(huì)對(duì)人工智能的發(fā)展產(chǎn)生巨大負(fù)面影響。這在聊天機(jī)器人Tay發(fā)表種族主義的例子里體現(xiàn)得非常明顯，但聊天機(jī)器人最多發(fā)表的是不當(dāng)結(jié)論，如果這種污染被擴(kuò)大到暗殺無人機(jī)、工程機(jī)械、醫(yī)療類、自動(dòng)駕駛等與人類性命攸關(guān)的系統(tǒng)中時(shí)，事情就變嚴(yán)重了。[9]

人工智能面臨的第一個(gè)倫理便是數(shù)據(jù)的真實(shí)性問題。由于網(wǎng)絡(luò)的匿名性，大量無用的、虛假有害的信息被傳播，造成了數(shù)據(jù)污染。如果被不法分子利用，故意給人工智能“投喂”虛假數(shù)據(jù)和惡意數(shù)據(jù)，其后果不堪設(shè)想。

(二)個(gè)人的隱私，電商的商機(jī)

現(xiàn)如今，很多如電商、資訊、搜索等服務(wù)都使用了“機(jī)器學(xué)習(xí)”的人工智能技術(shù)。算法通過對(duì)于歷史數(shù)據(jù)的訓(xùn)練和學(xué)習(xí)，可以有效地找到或推薦用戶想要的信息。個(gè)性化推薦的原理是收集用戶的信息對(duì)用戶進(jìn)行精準(zhǔn)畫像，分析用戶的偏好進(jìn)行精準(zhǔn)信息推薦。這種智能化一方面給人帶來信息獲取的便利和高效率，另一方面，個(gè)人信息被搜集、分析、整合，也成為各方爭(zhēng)奪的商業(yè)資源甚至是犯罪的資源。大數(shù)據(jù)技術(shù)的應(yīng)用，不僅使個(gè)人隱私受到侵害，個(gè)人信息安全也面臨嚴(yán)重威脅。[10]雖然用戶從個(gè)性化推薦中獲得了效率，但無疑是將自己的隱私假手于人。萬維網(wǎng)的初衷并不是要?jiǎng)?chuàng)造一個(gè)那樣的世界：智能軟件控制你上網(wǎng)的一舉一動(dòng)并使用它來為你量身打造上網(wǎng)體驗(yàn)；而可怕的是，它正在朝著這個(gè)方向發(fā)展。計(jì)算機(jī)科學(xué)正在將你的生活轉(zhuǎn)化為他人的商機(jī)。[3]171

有時(shí)并不是人們?cè)敢饨邮茈娮由虅?wù)網(wǎng)站的條款和條件，主動(dòng)讓渡自己的隱私，而是因?yàn)榛ヂ?lián)網(wǎng)公司實(shí)行霸權(quán)主義，如果用戶不同意其相關(guān)條款，用戶就無法使用相關(guān)服務(wù)。這相當(dāng)于互聯(lián)網(wǎng)平臺(tái)間接逼迫用戶接受其條款。在這些條款中往往包含著用戶允許公司訪問自己的個(gè)人數(shù)據(jù)。

要效率還是要隱私，這是在大數(shù)據(jù)人工智能時(shí)代不得不思考的問題。但是，社會(huì)已經(jīng)進(jìn)入信息化社會(huì)，人的工作、學(xué)習(xí)、生活等都離不開互聯(lián)網(wǎng)。在不得不使用互聯(lián)網(wǎng)的情況下，用戶不可避免地在互聯(lián)網(wǎng)上產(chǎn)生“行蹤”。如果這些“足跡”被不法分子所利用，對(duì)個(gè)人信息安全造成極大威脅。在這種背景下，用戶的“被遺忘權(quán)”顯得很重要——人們擁有如何使用自己信息的權(quán)利。

(三)防止算法作惡

人工智能面臨的第三個(gè)倫理問題是算法作惡。大數(shù)據(jù)人工智能是受到算法驅(qū)動(dòng)的，算法并非價(jià)值中立，而跟設(shè)計(jì)目的緊密相關(guān)。算法偏見的原因多種多樣，算法設(shè)計(jì)者的偏見、輸入數(shù)據(jù)的偏見和算法局限導(dǎo)致的偏見都會(huì)引起輸出結(jié)果的偏見。[11]只要受到人影響的地方就有價(jià)值取向的存在，人工智能存在的價(jià)值偏向也是人賦予的。算法如何設(shè)計(jì)跟使用目的相關(guān)，毋庸置疑，企業(yè)的主要目的是盈利，因此，其算法自然是跟“更高的點(diǎn)擊量”“更多的購(gòu)買量”緊密相關(guān)。但是現(xiàn)在使用人工智能的公司將所用算法視為機(jī)密，外部人很難判定其算法中是否做了手腳。就拿搜索引擎來講，搜索引擎的算法被視為商業(yè)機(jī)密，在某種程度上如果搜索引擎公司自己利用非道德的技巧去設(shè)計(jì)算法，通過競(jìng)價(jià)排名而非公平原則提供搜索結(jié)果，無疑這侵犯了用戶的知情權(quán)。

除了用戶的知情權(quán)問題，還需要警惕的是算法偏見帶來的“信息繭房”問題?，F(xiàn)在很多個(gè)性化推薦的資訊類App、懂得用戶需要什么的電商App使用的算法往往是企業(yè)內(nèi)部的商業(yè)機(jī)密，不為外人所知。這種個(gè)性化推薦帶來的“信息繭房”問題，也使得用戶從包容走向偏見，引發(fā)更多的“群體極化”問題。不管是對(duì)于互聯(lián)網(wǎng)安全還是社會(huì)穩(wěn)定都會(huì)產(chǎn)生負(fù)面影響。

三、結(jié)語

誠(chéng)然，從媒介發(fā)展史的角度看，任何一種新媒介技術(shù)的出現(xiàn)都會(huì)給人類社會(huì)帶來巨大的變革，這種變革有好有壞。一種媒介技術(shù)給某些人會(huì)帶來好處就一定會(huì)給另一些人帶來壞處?！懊慨?dāng)一種新媒介出現(xiàn)，都會(huì)有截然不同的態(tài)度和觀點(diǎn)：有人被其新穎的形式和明顯超過傳統(tǒng)媒介的傳播效率所征服，為新媒介大唱贊歌，并且總有人作出大膽預(yù)言，新媒介的出現(xiàn)意味著傳統(tǒng)媒介的消亡；也有人對(duì)新媒介明顯不同于傳統(tǒng)媒介的‘怪異’之處表示反感，對(duì)新媒介出現(xiàn)造成的傳媒市場(chǎng)的分化重組表示擔(dān)憂，并預(yù)言新媒介會(huì)敗在傳統(tǒng)媒介的腳下?！盵12]探討新媒介技術(shù)的影響不能狹隘地看表面現(xiàn)象，而是要看到其背后的技術(shù)邏輯是什么。歸根結(jié)底，人工智能的倫理要求跟我們已經(jīng)提出的虛擬現(xiàn)實(shí)、擴(kuò)展現(xiàn)實(shí)領(lǐng)域應(yīng)當(dāng)引起重視的“大憲章”問題一樣，指向的都是如何避免少數(shù)人掌控技術(shù)以更便捷、更隱蔽的手段損害人的自由與尊嚴(yán)的問題。[13]作為工具使用的弱人工智能的倫理問題關(guān)鍵在于使用主體，工具是否作惡全在于人如何使用它，應(yīng)該從制度上建立起弱人工智能的使用標(biāo)準(zhǔn)與規(guī)范。走在人工智能技術(shù)前沿的谷歌集團(tuán)在收購(gòu)DeepMind Technologies時(shí)，就非常慎重地在公司內(nèi)部設(shè)立了“人工智能研究倫理委員會(huì)”。[6]14強(qiáng)人工智能作為一種是否能實(shí)現(xiàn)還未知的技術(shù)，只能從源頭上加以防范?？茖W(xué)并非沒有禁區(qū)，是否應(yīng)該支持強(qiáng)人工智能的開發(fā)還是個(gè)需要探討的問題。