袁 帆,范 怡

(上海理工大學(xué)網(wǎng)絡(luò)新媒體系,上海,200093)

一、引言

智能媒體的廣泛使用增加了大眾可接受信息的數(shù)量,促成了“算法注入社會”(algorithmically infused societies)的形成。[1]大眾在享受新媒體帶來的技術(shù)便利的同時,也逐步感受到信息繭房、隱私侵犯等一系列算法倫理風(fēng)險。實質(zhì)上,技術(shù)向來不是中立的,有關(guān)技術(shù)的決定是一種以價值為基礎(chǔ)的決定,它不僅反映特定的社會價值觀,而且會將其具象化,算法技術(shù)也不例外。[2]隨著信息技術(shù)使用領(lǐng)域的不斷拓展,算法平臺從業(yè)者通過掌握算法技術(shù),對算法施以控制力和影響力。而這種權(quán)力很容易被那些無所顧忌或易受誘惑的人濫用。[3]這些人可以憑借對算法技術(shù)的掌握,影響技術(shù)結(jié)果的價值走向。在算法平臺上,還有一部分人同樣是算法倫理風(fēng)險的重要責(zé)任人,也就是平臺的潛在從業(yè)者,即相關(guān)專業(yè)的大學(xué)生。他們在高校中接受的算法倫理教育深度對其從業(yè)后的工作行為與狀態(tài)有著重要影響。高校是開展算法倫理教育的關(guān)鍵角色,本研究重點關(guān)注高校在算法倫理培育方面存在的局限性,基于實證調(diào)查了解現(xiàn)階段算法倫理相關(guān)培育課程的真實情況,獲取高校相關(guān)專業(yè)學(xué)生對于算法倫理培育的一手反饋信息,探尋高校算法倫理教育的未來發(fā)展空間。

二、高校算法倫理培育的局限

早期,與算法相關(guān)的倫理課程主要由計算機科學(xué)與技術(shù)專業(yè)開設(shè),學(xué)習(xí)算法技術(shù)是此類專業(yè)的重點學(xué)習(xí)內(nèi)容。伴隨著工文融合、交叉學(xué)科建設(shè)的推進,諸如社會學(xué)、新聞傳播學(xué)等專業(yè)也開始涉及一些算法課程,且或多或少都添加了算法倫理內(nèi)容。具體而言,這些與算法相關(guān)的倫理課程主要從三方面展開。一是公共基礎(chǔ)課程中的思想道德修養(yǎng)與法律基礎(chǔ)課程,作為必修課程針對全校學(xué)生開設(shè),主要落腳于社會主義核心價值觀等宏觀倫理道德的培育,其中可能會基于社會信息化的背景,涉及一些算法倫理問題。二是多數(shù)理工科會開設(shè)的工程倫理課程。此課程的主要內(nèi)容是工程相關(guān)從業(yè)者的倫理責(zé)任意識,其專業(yè)范圍涉及眾多,包括土木、化工、信息、環(huán)境工程等。三是人文社會學(xué)科開設(shè)的專業(yè)倫理法規(guī)課程,例如新聞傳播學(xué)相關(guān)專業(yè)開設(shè)的新聞倫理與法規(guī)課程,這是針對某一特定專業(yè)或職業(yè)的倫理道德教育。

高校的倫理培育課程體系較為豐富,但聚焦到算法倫理這種微觀倫理層面培育時卻存在諸多局限。首先,一般的思想道德修養(yǎng)與法律基礎(chǔ)課程較少專門講解算法倫理。作為大學(xué)生的必修課程,思想道德修養(yǎng)與法律基礎(chǔ)課程雖然能夠在宏觀層面向較為龐大的學(xué)生群體傳達整體倫理責(zé)任意識,但無法細致覆蓋到具體的算法知識內(nèi)容、倫理困境和解決路徑。其次,高校對工程倫理課程的重視程度有限。以清華大學(xué)信息科學(xué)技術(shù)學(xué)院為例,2016年計算機科學(xué)與技術(shù)系碩士研究生培養(yǎng)方案中,必修環(huán)節(jié)提供了創(chuàng)業(yè)機會識別和商業(yè)計劃、科研規(guī)范、工程倫理、知識產(chǎn)權(quán)法律及實務(wù)、研究生學(xué)術(shù)與職業(yè)素養(yǎng)、文獻綜述與選題報告、學(xué)術(shù)活動這7門課程,每門課程賦分1—2分,但培養(yǎng)方案對必修環(huán)節(jié)的達標(biāo)要求是不少于3分。[4]也就是說并非所有學(xué)生都會學(xué)習(xí)工程倫理知識。不僅是計算機專業(yè)的倫理教育受到的重視不足,教育機構(gòu)和教育者對專業(yè)倫理教育在整個大學(xué)教育體系中的地位也缺乏認(rèn)識和重視,大部分學(xué)校沒有開設(shè)專業(yè)倫理課程。[5]最后,人文社科的專業(yè)倫理課程對交叉學(xué)科倫理內(nèi)容的設(shè)置占比有限。人文社科類專業(yè)倫理偏重其本學(xué)科、本行業(yè)的職業(yè)道德及倫理規(guī)范,對于算法倫理的涉及內(nèi)容不多。以新聞傳播學(xué)專業(yè)為例,其主要倫理培育依靠的是新聞倫理與法規(guī)課程,其中可能涉及討論算法倫理的內(nèi)容主要集中在網(wǎng)絡(luò)新聞傳播過程中發(fā)生的低俗新聞、隱私侵犯等方面,可見涉及算法倫理的內(nèi)容十分有限。

總之,算法行業(yè)的蓬勃發(fā)展使其吸納了越來越多不同專業(yè)的大學(xué)生,針對大學(xué)生的算法倫理培育范疇與深度理應(yīng)逐步擴展,這樣才能提升個體的算法倫理水平,繼而保障整個算法行業(yè)的發(fā)展走向更加積極健康。但一項調(diào)查顯示,大學(xué)生的算法素養(yǎng)還有提升空間,特別是針對算法知識、技能以及批判性思維的提升。[6]在算法批判性思維方面,大學(xué)生普遍存在思維沉默、妥協(xié)、順從、固著的現(xiàn)象,個體的思維基礎(chǔ)能力較弱。[7]

三、高校算法倫理培育現(xiàn)狀訪談

(一)訪談設(shè)計

本研究采用深度訪談的研究方法探討高校算法倫理培育現(xiàn)狀。訪談時間集中在2023年8月,訪談形式包括線下實地訪談和線上微信語音電話訪談,訪談時間均不少于25分鐘,共計20名訪談對象。訪談提綱如表1所示,先詢問訪談對象的基本情況,再圍繞對算法技術(shù)的了解、對算法風(fēng)險的感知、作為潛在從業(yè)者對算法倫理學(xué)習(xí)的認(rèn)知等方面展開交流。

表1 訪談提綱

(二)訪談對象基本情況

訪談對象基本情況如表2所示,將20位訪談對象編碼為P01—P20,訪談對象的專業(yè)涉及新聞傳播學(xué)、計算機、社會學(xué)和管理學(xué),年齡分布在18—26歲之間,研究對象現(xiàn)居地分布在北京、上海、合肥、南京等城市,受教育程度包含大學(xué)本科和碩士研究生。

表2 訪談對象基本情況

四、結(jié)果與分析

第一,智媒平臺的使用以興趣為主導(dǎo),社交屬性明顯。大多數(shù)訪談對象對智能媒體的使用主要集中在微博、小紅書、抖音等App上,其中,微博的主要吸引力源自其具有追星社區(qū)文化和熱搜榜功能,這是訪談對象認(rèn)為微博不同于其他智能媒體的獨特優(yōu)勢。P01說:“我最開始用微博主要是為了追星?！倍兑魟t是刷小視頻的休閑娛樂屬性突出。P02說:“微博會經(jīng)常會用,因為微博算是一個小的社交場所?！盤11說:“我無聊的時候就刷抖音來消磨時光。”

在智媒時代,諸如小紅書、微博等智能媒體成為人們獲取公共信息和私人信息的重要方式,平臺算法作為一種隱性中介控制著信息的可見與不可見,悄然影響著傳播效果流[8],進而影響使用者對平臺的功能定位。此次訪談中的大部分對象對智媒平臺已經(jīng)有了一定程度的依賴性,在潛移默化中受到各平臺算法機制的影響,養(yǎng)成了一些較為固定的使用習(xí)慣。

第二,潛在從業(yè)者能明顯感知到自己受到智媒平臺算法的影響,但對算法背后的技術(shù)邏輯了解存在差異。當(dāng)算法開始影響或控制人的想法或行為時,就從單純的技術(shù)轉(zhuǎn)化為一種實質(zhì)意義上的權(quán)力,即算法權(quán)力。[9]本次研究的訪談對象均為媒介素養(yǎng)較高的大學(xué)生,他們都不約而同地感受到了智能媒體背后的算法技術(shù)作用,即能夠察覺到自己很容易掉入信息繭房中,只關(guān)注自己感興趣的內(nèi)容,并且容易長時間沉浸在信息流中而忽視了現(xiàn)實世界的時間流逝。

同時,有訪談對象會積極利用算法規(guī)律。如P04談道,淘寶的算法會向用戶反復(fù)推薦相同或類似的商品,用戶可以利用這一點來尋找價格更低的商品。但算法透明不等同于算法可知[10],只有計算機專業(yè)的訪談對象可以具體闡述智能媒體背后的技術(shù)支撐,P10和P14是計算機專業(yè)的學(xué)生,他們在談及算法推薦時,會較為深入地談?wù)撘恍┲R理論問題。P10說:“抖音即便在網(wǎng)絡(luò)不好的情況下也能收到視頻推送。這是因其算法會根據(jù)地理位置信息選擇對應(yīng)位置最近的數(shù)據(jù)基站或服務(wù)器,推送其中的視頻內(nèi)容?！盤14說:“以興趣推薦算法背后涉及基于行為的協(xié)同過濾、基于內(nèi)容的推薦、基于關(guān)聯(lián)規(guī)則的推薦等算法技術(shù),這并不是某種算法代碼就能夠單獨實現(xiàn)的?！狈怯嬎銠C專業(yè)的訪談對象對算法推薦的感知大于對算法工作原理的認(rèn)知。他們對算法背后的邏輯了解不多,對算法負面影響的認(rèn)識停留在信息繭房方面,而對更為隱匿的算法偏見、算法歧視等問題鮮少提及。

第三,高校開設(shè)的倫理培育課程較為寬泛,對算法倫理風(fēng)險應(yīng)對效果有限。在調(diào)研過程中,大部分訪談對象表示學(xué)校并沒有開展過算法相關(guān)倫理課程的學(xué)習(xí),或反映了存在相關(guān)課程的內(nèi)容設(shè)置已經(jīng)與現(xiàn)實情況脫節(jié)的現(xiàn)象。如在新聞傳播學(xué)相關(guān)專業(yè)中,新聞傳播倫理與法規(guī)課程是很多高校本科或者碩士研究生培養(yǎng)的必修課,但在此次調(diào)研中,新聞傳播學(xué)專業(yè)的訪談對象對這一課程并沒有留下深刻印象,沒有掌握應(yīng)對智能媒體或者算法傳播的知識與技能。新聞傳播學(xué)專業(yè)的學(xué)生P01說:“沒有涉及過相關(guān)道德規(guī)范,雖然我是新傳專業(yè),但是說實話它真的沒有涉及倫理的課程。媒介社會學(xué)課程涉及一些,但是主要是質(zhì)化研究時的倫理問題,而不是專門討論AI倫理方面。”其他專業(yè)學(xué)生也給出了相似的回答,認(rèn)為本專業(yè)并沒有提供較好的算法倫理培育課程,P09、P14、P15是計算機專業(yè)的學(xué)生,P09說:“有思修課,但不能解決具體問題,還是希望能有一些實踐性的案例,或者請相關(guān)行業(yè)人員來講解?！盤14說:“相關(guān)課程應(yīng)該更聚焦于當(dāng)下現(xiàn)實問題,很多案例在現(xiàn)在已經(jīng)沒有借鑒性了。”P15說:“思政課、工程倫理課都會講一點技術(shù)和價值觀方面的內(nèi)容,但若想真正運用這些知識來解決實際問題,感覺課堂上的知識有點泛化,不是很實用。”早在2002年,清華大學(xué)出版的《中國計算機科學(xué)與技術(shù)學(xué)科教程》中已經(jīng)正式將“計算機技術(shù)的社會與職業(yè)問題”納入了計算機學(xué)科14門核心課程之一。但根據(jù)訪談對象的回應(yīng)可以發(fā)現(xiàn),我國計算機專業(yè)人員的倫理培育仍較薄弱。

第四,“轉(zhuǎn)碼”成為非計算機專業(yè)學(xué)生就業(yè)的新選擇,尚無法明晰這對行業(yè)未來的整體倫理發(fā)展趨向會產(chǎn)生怎樣的影響。互聯(lián)網(wǎng)行業(yè)迅速發(fā)展,越來越多非計算機專業(yè)的學(xué)生開始學(xué)習(xí)Python這樣的編程類課程,主動迎接智能技術(shù)的挑戰(zhàn)。P05、P06是新聞傳播學(xué)專業(yè)的學(xué)生,P05說:“人工智能是大趨勢,沒辦法逃避。我們有數(shù)據(jù)庫、Python課程,我想以后從事數(shù)據(jù)處理方面的工作?！盤06說:“從個人興趣出發(fā),我想去游戲公司,但新媒體運營不太想過多涉及了。”P17、P18是社會學(xué)專業(yè)的學(xué)生,P17說:“AI、ChatGPT雖然學(xué)習(xí)起來有挑戰(zhàn),但如果有機會還是想去平臺試一下這方面的實習(xí)和工作?！盤18說:“深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)這種人工智能是特別有前景的,但我的容量上限就在那兒,我想畢業(yè)以后去大廠‘卷’一兩年?！笨梢?其他專業(yè)有意向為學(xué)生提供信息技術(shù)的相關(guān)課程,擴充了算法潛在從業(yè)者的后備軍力量。越來越多非計算機專業(yè)的學(xué)生主動加入智媒平臺從業(yè)者行列,但他們幾乎從未接觸過工程倫理類的相關(guān)課程,這可能會降低智媒行業(yè)的整體倫理水平,但也有可能會因為本專業(yè)具備比計算機專業(yè)更為嚴(yán)苛的倫理要求而提升智媒行業(yè)的整體倫理水平。

第五,現(xiàn)有倫理課程并沒有完全激發(fā)潛在從業(yè)者的社會責(zé)任感,這一問題在理工科表現(xiàn)得更為明顯。算法作為一項技術(shù)手段,能夠起到重構(gòu)公眾環(huán)境、規(guī)范人的行為的作用[11],掌握算法的人就間接成了制定規(guī)則的人。潛在從業(yè)者對算法承載的價值和責(zé)任認(rèn)識不足。在此次采訪中,不少訪談對象對算法的價值偏向并沒有明確意識。P14說:“算法就像槍支,本身是沒有善惡的。我以后能做的就是更積極地進行人機交互,促進數(shù)據(jù)優(yōu)化,做到高召回、高精確?！盤15說:“我覺得算法是沒有價值觀的,它僅僅是一個參數(shù),算法只是對我投入?yún)?shù)的回答?！盤07說:“算法本質(zhì)上只是一種解決問題的方案,不具有主觀性。我們無法給一個方法、一個沒有自主思考能力的東西賦予價值觀?！盤20說:“開源的算法可以復(fù)刻結(jié)果,源代碼可以看出是否中立,不開源的就不能保證了?！?/p>

可見,算法終究是被少數(shù)人開發(fā)、控制和利用的技術(shù)。[12]訪談對象的態(tài)度在某種程度上說明現(xiàn)階段的高校算法倫理培育還未能使其意識到技術(shù)權(quán)力的龐大與壟斷。

五、高校強化算法倫理培育的路徑

此次訪談結(jié)果反映出高校有關(guān)算法的專業(yè)倫理培育效果仍有較大的提升空間。因此,高校需要系統(tǒng)性地強化算法倫理培育。

首先,高校要構(gòu)建一套適用于算法時代的倫理培育方案。一個理性的倫理行為必然是在專業(yè)理念指導(dǎo)之下發(fā)生的。[13]目前高校的潛在從業(yè)者在承擔(dān)倫理責(zé)任時缺乏主動性,因而需要一套科學(xué)的算法倫理培育方案對其加以引導(dǎo)?？茖W(xué)的算法倫理培育方案一是要明確算法對當(dāng)下社會的影響,調(diào)整高校算法倫理培育課程的占比和考核方式;二是要適應(yīng)我國整體社會和教育現(xiàn)實,確定相關(guān)倫理培育課程的學(xué)科范疇設(shè)置,以適應(yīng)算法類技術(shù)課程學(xué)科范疇的擴張;三是應(yīng)以社會主義核心價值觀為導(dǎo)向,重點在于加強準(zhǔn)算法相關(guān)行業(yè)尤其是互聯(lián)網(wǎng)、智能媒體行業(yè)相關(guān)潛在從業(yè)者的算法倫理批判性思維。算法倫理培育方案的培育目標(biāo)是使?jié)撛趶臉I(yè)者在掌握算法技術(shù)的基礎(chǔ)上,辯證地看待算法結(jié)果和影響,有意識地規(guī)范自我算法行為,主動承擔(dān)算法責(zé)任義務(wù)。此外,算法倫理培育方案要銜接高校潛在從業(yè)者與已從業(yè)者,協(xié)助作為潛在從業(yè)者的學(xué)生在畢業(yè)到就業(yè)的過程中,能夠快速實現(xiàn)身份轉(zhuǎn)變,在從算法的接受者轉(zhuǎn)向算法設(shè)計者時,同步提高自己作為倫理主體的責(zé)任意識。

其次,高校要發(fā)揮主觀能動性,提高對算法倫理培育課程的重視程度,加強算法倫理培育課程的內(nèi)容建設(shè)。人工智能技術(shù)發(fā)展迅速,給高校帶來了諸多研究機會,但技術(shù)進步引發(fā)的新技術(shù)倫理問題也不容忽視。高校不能只注重技術(shù)研究,而忽略技術(shù)背后的道德建設(shè)。高校需要搭建細化的分層倫理培育,將籠統(tǒng)的工程倫理課程細化為不同方向和類型的倫理進階課程,給不同年級、不同學(xué)科的學(xué)生提供更多的選修內(nèi)容,讓學(xué)生能夠更加完整全面地認(rèn)識算法、理解算法、負責(zé)算法。此外,高校應(yīng)充分肯定并重視通識教育的作用,豐富有關(guān)算法倫理的精品課程。[14]在通識教育中,適當(dāng)?shù)?、適時地加入以上專業(yè)課程內(nèi)容,在校園范圍內(nèi)普及算法倫理常識。

最后,高校要引入跨學(xué)科和跨行業(yè)力量,突破壁壘,提升算法倫理培育的多元性和實踐性。一般而言,人文社科類專業(yè)的學(xué)生能夠通過自身具備的人文關(guān)懷,更加真切地感受到算法帶來的倫理風(fēng)險,進而理解個體因掌握算法技術(shù)而承載的重大社會責(zé)任,但整體上缺乏深厚的技術(shù)知識,雖然能夠在概念邏輯上理解算法技術(shù)運行的大致規(guī)則,但是不能完全理解算法技術(shù)的內(nèi)在運算機制、預(yù)判運行結(jié)果,這使得他們很難將自身的人文關(guān)懷轉(zhuǎn)化到可應(yīng)用的算法技術(shù)之中。自身專業(yè)學(xué)習(xí)較多涉及算法技術(shù)相關(guān)知識的專業(yè)多為理工科專業(yè),這些專業(yè)的學(xué)生對算法風(fēng)險和算法責(zé)任的感知敏感度可能偏低,如計算機專業(yè)的學(xué)生對其所生產(chǎn)的算法將會用到什么程度,算法收集、生產(chǎn)的數(shù)據(jù)又會用到什么程度,以及算法受到資本的干預(yù)會引發(fā)的問題等缺乏考慮。因此,高校有必要促進這些不同專業(yè)的潛在從業(yè)者之間的溝通和交流,積極貫徹文理融合。與此同時,高校需要在社會上同相關(guān)行業(yè)組織尋求合作。例如,一些計算機協(xié)會和電氣與電子工程師協(xié)會等行業(yè)團體,很早就構(gòu)建出了一套針對工程師倫理教育的課程,并伴隨著技術(shù)發(fā)展適時更新內(nèi)容。這些課程內(nèi)容囊括了哲學(xué)思辨、法律問題、實踐問題等。相比高校,專門的學(xué)術(shù)團體和行業(yè)團體集結(jié)了相關(guān)領(lǐng)域中最優(yōu)秀的學(xué)者,一定程度上代表著行業(yè)發(fā)展的前沿,他們有設(shè)計倫理教育內(nèi)容的天然優(yōu)勢,能夠幫助高校搭建倫理教育體系,推動高校有效開展倫理教育,為高校提供寶貴的倫理實踐經(jīng)驗。

六、結(jié)語

現(xiàn)階段的高校算法倫理培育尚不完備,倫理課程開設(shè)及傳授過程中的問題較為突出,并不能對相關(guān)專業(yè)的潛在從業(yè)者算法行為進行有效規(guī)范,繼而無法應(yīng)對算法行業(yè)、產(chǎn)業(yè)未來的發(fā)展趨勢。高校要想從源頭上解決隱私侵犯、數(shù)據(jù)歧視等一系列算法倫理問題,需要設(shè)計一套符合我國高校實情和社會發(fā)展現(xiàn)狀的新算法倫理培育方案。只有如此,才能從潛在從業(yè)者出發(fā),借助他們帶動未來算法社會的有序、健康發(fā)展。