王陶冶, 王歡

(廣東省科學(xué)技術(shù)情報(bào)研究所, 廣東廣州 510033)

0 引言

人工智能(AI)是當(dāng)今世界最為閃亮的科技之一, 作為一項(xiàng)賦能技術(shù), ChatGPT 等生成式人工智能工具不僅使人們的工作效率得到了極大提升,更是重構(gòu)了人們的生活方式, 為科學(xué)事業(yè)開創(chuàng)了更廣闊的天地。 但凡事都具有兩面性, 人工智能也不例外。 頻頻發(fā)生的個(gè)人隱私信息泄露、 自動(dòng)駕駛汽車失靈等事件, 被人工智能高速發(fā)展的旋風(fēng)裹挾而來, 關(guān)注人工智能高光后的“陰暗面”顯得愈發(fā)重要。 2023 年4 月, 中共中央政治局召開會(huì)議時(shí)強(qiáng)調(diào), 要重視通用人工智能發(fā)展, 營造創(chuàng)新生態(tài), 重視防范風(fēng)險(xiǎn)。 同年7 月, 聯(lián)合國安理會(huì)召開會(huì)議, 首次正式討論人工智能風(fēng)險(xiǎn)問題。 同年12 月, 歐盟出臺(tái)全球首部人工智能領(lǐng)域的全面監(jiān)管法規(guī)《人工智能法案》, 意大利、 德國、 美國等國家也均在制定相關(guān)法律法規(guī), 以加強(qiáng)對(duì)人工智能領(lǐng)域的規(guī)范和管制。 在此背景下, 廣東在緊抓人工智能發(fā)展的重大歷史機(jī)遇并積極作為的同時(shí), 也要主動(dòng)應(yīng)對(duì)新時(shí)期人工智能發(fā)展可能帶來的負(fù)面效應(yīng), 不斷提升人工智能倫理治理能力,推動(dòng)人工智能良性健康發(fā)展。

1 文獻(xiàn)綜述

學(xué)者們從不同視角對(duì)人工智能“陰暗面”涉及的問題開展了研究, 通過梳理文獻(xiàn)資料發(fā)現(xiàn), 關(guān)注點(diǎn)主要集中在兩個(gè)方面。 其一, 人工智能技術(shù)應(yīng)用具有負(fù)面效應(yīng)。 學(xué)者們對(duì)人工智能負(fù)面效應(yīng)的研究主要分為5 個(gè)方向: 一是人工智能技術(shù)倫理風(fēng)險(xiǎn)研究, 如紐約大學(xué)教授凱特·克勞福德[1]認(rèn)為, 技術(shù)導(dǎo)致的倫理問題與社會(huì)和政治影響有很大關(guān)聯(lián), 如在人工智能技術(shù)的數(shù)據(jù)和隱私問題上,她認(rèn)為數(shù)據(jù)并不是一種孤立的存在, 而是與社會(huì)、政治和文化環(huán)境緊密相關(guān), 因此應(yīng)對(duì)數(shù)據(jù)的透明度給予更多關(guān)注; 趙一秀[2]運(yùn)用分析與綜合法、案例分析法、 系統(tǒng)研究法對(duì)人工智能技術(shù)可能帶來的倫理風(fēng)險(xiǎn)進(jìn)行了闡述, 探尋了產(chǎn)生技術(shù)倫理風(fēng)險(xiǎn)的根源并提出應(yīng)對(duì)策略; 陳小平[3]在歸納人工智能技術(shù)的倫理困境時(shí), 將存在的倫理風(fēng)險(xiǎn)總結(jié)為技術(shù)失控、 技術(shù)誤用、 應(yīng)用風(fēng)險(xiǎn)和管理失誤4類, 這些風(fēng)險(xiǎn)可以分別對(duì)應(yīng)到現(xiàn)實(shí)場景中。 二是人工智能對(duì)人的發(fā)展的正負(fù)效應(yīng)研究, 如李鈺等[4]、 李心韻[5]研究人工智能技術(shù)的廣泛應(yīng)用對(duì)人的發(fā)展產(chǎn)生的正向效應(yīng)和負(fù)面效應(yīng), 其表現(xiàn)為既可促進(jìn)人類能力的多元發(fā)揮和全面提升, 又可導(dǎo)致失業(yè)危機(jī), 阻礙人類能力的發(fā)揮。 三是人工智能對(duì)就業(yè)的影響研究, 如程曼麗[6]、 程永杰等[7]認(rèn)為人工智能技術(shù)應(yīng)用對(duì)就業(yè)產(chǎn)生較大影響,如破壞效應(yīng)、 擠出效應(yīng)和替代效應(yīng)等。 四是人工智能對(duì)生產(chǎn)力的影響研究, 如馬鈺坤[8]認(rèn)為人工智能可以重塑生產(chǎn)力并對(duì)生產(chǎn)力產(chǎn)生深遠(yuǎn)影響。五是人工智能對(duì)不同應(yīng)用場景的影響研究, 如江婧等[9]從醫(yī)療應(yīng)用領(lǐng)域切入, 提出可解釋性人工智能導(dǎo)致倫理問題的根源及對(duì)策建議; 袁建[10]從廣告內(nèi)容智能化生產(chǎn)實(shí)現(xiàn)路徑著手, 提出智能媒體技術(shù)產(chǎn)生內(nèi)容庸俗化、 共情能力消減和公共性弱化等負(fù)面效應(yīng); 胡海兵[11]總結(jié)人工智能技術(shù)的發(fā)展對(duì)審計(jì)工作的正面效應(yīng)和負(fù)面影響, 并提出降低負(fù)面影響的幾種方式。

其二, 人工智能技術(shù)責(zé)任界定。 現(xiàn)有研究主要圍繞人工智能事故責(zé)任問題展開, 如出現(xiàn)技術(shù)故障或意外事件時(shí), 應(yīng)由誰來承擔(dān)責(zé)任、 如何界定責(zé)任界限等問題。 在這類研究中, 主要有兩種觀點(diǎn): 一是認(rèn)為人工智能技術(shù)是自主行為, 責(zé)任應(yīng)由技術(shù)本身承擔(dān)。 人工智能商業(yè)化先鋒杰瑞·卡普蘭[12]在《人人都應(yīng)該知道的人工智能》中提出, 當(dāng)人工智能技術(shù)擁有了一定的權(quán)利時(shí), 就應(yīng)該承擔(dān)相應(yīng)的責(zé)任。 二是認(rèn)為設(shè)計(jì)、 制造和使用人工智能產(chǎn)品的人需要承擔(dān)全部責(zé)任。 福田雅樹[13]在《AI 聯(lián)結(jié)的社會(huì): 人工智能網(wǎng)絡(luò)化時(shí)代的倫理與法律》中, 強(qiáng)調(diào)技術(shù)人員在人工智能技術(shù)與應(yīng)用監(jiān)管和責(zé)任認(rèn)定方面的重要性。

2 人工智能“陰暗面”分析

2.1 影響公平公正

由于算法偏見的存在, 人工智能技術(shù)在決策過程中可能會(huì)導(dǎo)致歧視, 給特定群體造成不公平待遇, 進(jìn)而加劇社會(huì)不公。 在消費(fèi)領(lǐng)域, 算法歧視侵害消費(fèi)者權(quán)益的情況以大數(shù)據(jù)殺熟最為普遍,經(jīng)營者利用互聯(lián)網(wǎng)平臺(tái)優(yōu)勢收集消費(fèi)者日常消費(fèi)數(shù)據(jù), 依照一定的算法邏輯, 自動(dòng)生成和輸出有針對(duì)性的產(chǎn)品或服務(wù)定價(jià), 使不同消費(fèi)者對(duì)相同產(chǎn)品或服務(wù)支付不同對(duì)價(jià), 侵害了消費(fèi)者的合法權(quán)益。 在勞動(dòng)場景中, 部分企業(yè)在招聘時(shí)會(huì)提前將性別、 年齡、 學(xué)歷等條件在算法中預(yù)設(shè), 讓某一個(gè)崗位的招聘廣告只能被符合預(yù)設(shè)條件的應(yīng)聘者看到, 讓很多用戶直接失去獲知該崗位的機(jī)會(huì)。

2.2 安全隱患暫未被消除

一方面, 由于算法決策的過程難以解釋, 決策時(shí)可能出現(xiàn)算法偏離設(shè)計(jì)初衷的情況, 導(dǎo)致應(yīng)用場景下的安全隱患。 比如, 人工智能被應(yīng)用于醫(yī)療場景, 即便系統(tǒng)結(jié)合患者情況初步作出診斷,但仍無法排除系統(tǒng)失誤的可能性, 也無法全面保障系統(tǒng)的可信性和安全性。 另一方面, 由于人工智能系統(tǒng)可能存在設(shè)計(jì)缺陷和技術(shù)漏洞, 易受到攻擊, 尤其是在應(yīng)對(duì)高復(fù)雜度場景時(shí), 危險(xiǎn)性也隨之放大, 可能導(dǎo)致傷害性后果, 甚至威脅人類生命安全。 2015 年, 英國首例機(jī)器人心瓣修復(fù)手術(shù)中, 手術(shù)機(jī)器人出現(xiàn)運(yùn)行故障, 不但縫錯(cuò)患者心臟位置, 還戳穿患者大動(dòng)脈, 期間機(jī)械臂還幾次打到醫(yī)生的手, 該手術(shù)原本是一場AI 技術(shù)尖端醫(yī)療的展示, 結(jié)果卻不盡如人意[14]。

2.3 隱私泄露風(fēng)險(xiǎn)高企

目前諸多APP 和線上服務(wù)為了讓人們?cè)谑褂眠^程中得到更好的體驗(yàn)、 實(shí)現(xiàn)更加精準(zhǔn)的信息推送, 往往是以使用者個(gè)人數(shù)據(jù)隱私讓渡為前提,即APP 的使用前提是使用者必須同意運(yùn)營方對(duì)其個(gè)人信息進(jìn)行獲取。 雖然我國已經(jīng)相繼出臺(tái)《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》《個(gè)人信息保護(hù)法》等法律法規(guī), 但仍有一些APP 運(yùn)營方和不法分子通過對(duì)個(gè)人隱私數(shù)據(jù)進(jìn)行違規(guī)收集、 分析進(jìn)而牟利甚至實(shí)施詐騙等行為, 威脅公民信息安全和個(gè)人隱私。2021 年, 滴滴出行APP 由于存在違法收集用戶手機(jī)相冊(cè)中的截圖信息、 過度收集乘客人臉識(shí)別信息、 “家”和“公司”打車地址信息等16 項(xiàng)嚴(yán)重違法違規(guī)收集個(gè)人信息問題, 被應(yīng)用商店下架處理并處80.26 億元罰款[15]。

2.4 就業(yè)市場受到?jīng)_擊

隨著技術(shù)的日益成熟和廣泛應(yīng)用, AI 在許多領(lǐng)域展現(xiàn)出了強(qiáng)大的替代能力, 對(duì)傳統(tǒng)行業(yè)的沖擊不可避免。 翻譯、 行政助理、 法務(wù)秘書、 編輯等傳統(tǒng)腦力工作可能會(huì)面臨被自動(dòng)化和智能化取代的風(fēng)險(xiǎn), 尤其是以ChatGPT、 Midjourney 等為代表的生成式人工智能工具的大規(guī)模興起, 各種新應(yīng)用如寒武紀(jì)時(shí)期生命形態(tài)大爆發(fā)般相繼出現(xiàn)。除了視頻生成、 問題回答、 音樂創(chuàng)作、 代碼生成等領(lǐng)域, 制藥公司也在計(jì)劃利用AI 技術(shù)有針對(duì)性地輔助設(shè)計(jì)新藥物, 目前已有生物技術(shù)公司利用AI 設(shè)計(jì)新抗體, 大幅縮短了臨床前測試所需時(shí)間。2023 年4 月, 因AI 技術(shù)應(yīng)用引致的失業(yè)問題開始在游戲行業(yè)顯現(xiàn), 一些游戲公司將AI 繪畫引進(jìn)工作流程, 大幅提升了設(shè)計(jì)工作效率, 一定程度上取代此前部分畫師的工作。 另據(jù)高盛發(fā)布的報(bào)告指出, 隨著AI 技術(shù)不斷突破, 預(yù)計(jì)全球?qū)⒂? 億個(gè)工作崗位被生成式AI 取代, 其中律師和行政人員所受影響最大[16]。

2.5 “信息繭房”與社會(huì)隔離問題

一方面, 在如今大數(shù)據(jù)大算法時(shí)代, 人們雖然每天獲得大量信息, 但由于所關(guān)注的信息往往是自己所感興趣的, 且各類APP 也通過算法按用戶偏好進(jìn)行智能推送, 久而久之, 人們會(huì)陷入AI織就的“信息繭房”①信息繭房: 指人們的信息領(lǐng)域會(huì)習(xí)慣性地被自己的興趣所引導(dǎo), 從而將自己的生活桎梏于像蠶繭一般的“繭房”中的現(xiàn)象。中, 進(jìn)而引發(fā)思維固化、 認(rèn)知結(jié)構(gòu)單一、 獲取知識(shí)的手段和能力退化、 對(duì)現(xiàn)實(shí)社會(huì)的真實(shí)感知淡化等問題。 另一方面, 智能助手、 數(shù)字人逐漸進(jìn)入生活, 寵物機(jī)器人、 陪伴機(jī)器人等交互機(jī)器人也走入尋常百姓家, 用戶可能在此過程中對(duì)機(jī)器產(chǎn)生依賴, 忽視現(xiàn)實(shí)情感,從而增加社交孤立感, 產(chǎn)生社交能力削弱、 社交脫節(jié)等問題。

2.6 權(quán)責(zé)歸屬尚無明確界定

在明確權(quán)利人方面, 隨著生成式AI 進(jìn)入應(yīng)用爆發(fā)期, 其原始數(shù)據(jù)、 生成內(nèi)容的版權(quán)歸屬及知識(shí)產(chǎn)權(quán)權(quán)利人歸屬是如今亟待明確的問題。 2023年6 月, 日本明確不保護(hù)AI 集中使用的原始材料版權(quán)。 在責(zé)任主體方面, 無人駕駛汽車、 智能機(jī)器人等AI 產(chǎn)品由于具有事前操作、 事中無人或少人以及危機(jī)處理能力較差等特點(diǎn), 導(dǎo)致在歸責(zé)時(shí)確認(rèn)責(zé)任主體成為一大難題。 而且與AI 產(chǎn)品相關(guān)的責(zé)任主體眾多, 包含產(chǎn)品研發(fā)人員、 生產(chǎn)人員、銷售人員、 使用人員及相關(guān)監(jiān)管部門等, 在使用AI 產(chǎn)品的過程中出現(xiàn)違法行為或?qū)ο嚓P(guān)主體造成一定危害時(shí), 責(zé)任主體確定成為亟須解決的核心問題。

3 人工智能“陰暗面”的成因

3.1 算法偏見

數(shù)據(jù)集是機(jī)器學(xué)習(xí)的基礎(chǔ), 如果數(shù)據(jù)集本身缺乏代表性, 就不能客觀地反映現(xiàn)實(shí)情況, 算法決策就難免有失公允。 數(shù)據(jù)采集方往往為了更便利、 高效地采集數(shù)據(jù), 傾向于向更易獲取數(shù)據(jù)的群體著手, 反映在數(shù)據(jù)集上就是在種族、 性別等方面分布不均。 Facebook 曾宣布, 經(jīng)人臉識(shí)別知名數(shù)據(jù)集Labeled Faces in the Wild 測試, 其面部識(shí)別系統(tǒng)準(zhǔn)確率高達(dá)97%, 但當(dāng)研究人員查看這個(gè)所謂的黃金標(biāo)準(zhǔn)數(shù)據(jù)集時(shí), 卻發(fā)現(xiàn)數(shù)據(jù)集中男性占比近77%、 白人占比超80%, 這意味著以此訓(xùn)練的算法在識(shí)別特定群體時(shí)可能會(huì)出問題, 如在Facebook 的照片識(shí)別中, 女性和黑人很可能無法被準(zhǔn)確標(biāo)記。

工程師在進(jìn)行數(shù)據(jù)標(biāo)注時(shí)經(jīng)常需要做主觀價(jià)值判斷, 這也是算法偏見的一大來源。 如ImageNet 作為世界上最大的圖像識(shí)別數(shù)據(jù)庫, 其大量圖片被手動(dòng)打上各類細(xì)分標(biāo)簽。 “失敗者”“罪犯”等帶有負(fù)面評(píng)價(jià)的標(biāo)簽及“男人”“女人”等中性標(biāo)簽都由數(shù)據(jù)標(biāo)注工程師定義, 不同文化背景、受教育程度甚至個(gè)人感受都會(huì)導(dǎo)致偏見的出現(xiàn)。

3.2 算法存在缺陷

一方面, 當(dāng)前算法的可解釋性不足, 為“黑箱”問題(Black Box Problem)所困擾。 目前, 雖然人們知曉一個(gè)算法模型的輸入和輸出, 但在很多情況下卻難以理解其運(yùn)作過程, 可解釋性不足讓人們難以預(yù)測算法的行為。 在醫(yī)療、 金融、 司法等與個(gè)人重大權(quán)益強(qiáng)相關(guān)的應(yīng)用場景中, 人工智能不透明性的負(fù)面影響尤其突出。 另一方面, 當(dāng)前以深度學(xué)習(xí)為代表的AI 技術(shù)普遍面臨魯棒性不足的問題。 深度學(xué)習(xí)往往依賴大量高質(zhì)量數(shù)據(jù)和計(jì)算資源來豐富學(xué)習(xí)模型的參數(shù), 但在訓(xùn)練數(shù)據(jù)有限的情況下, 深度神經(jīng)網(wǎng)絡(luò)的性能往往存在很大局限, 一些規(guī)模巨大的深度神經(jīng)網(wǎng)絡(luò)也容易出現(xiàn)擬合的問題, 使模型在新數(shù)據(jù)上的測試性能遠(yuǎn)低于之前測試數(shù)據(jù)的性能。 另外, 在特定數(shù)據(jù)集上測試性能良好的深度神經(jīng)網(wǎng)絡(luò), 很容易被添加少量隨機(jī)噪聲的“對(duì)抗”樣本欺騙, 激活模型的非魯棒特征, 導(dǎo)致系統(tǒng)出現(xiàn)高可信度錯(cuò)誤判斷從而失靈。

3.3 海量數(shù)據(jù)獲取過程信息泄露

模型訓(xùn)練需要“飼喂”海量數(shù)據(jù)。 就GPT 而言, 2019 年, OpenAI 發(fā)布了GPT-2, 其參數(shù)量為15 億個(gè), 數(shù)據(jù)集包含150 億個(gè)tokens②token: 指文本中的一個(gè)最小單位。; 2023 年3月, GPT-4 問世, 其參數(shù)量已達(dá)1.8 萬億個(gè), 訓(xùn)練數(shù)據(jù)除包含13 萬億個(gè)tokens 外, 還包含了許多epoch③epoch: 當(dāng)一個(gè)完整的數(shù)據(jù)集通過神經(jīng)網(wǎng)絡(luò)一次并且返回一次, 即進(jìn)行了一次正向傳播和反向傳播, 這個(gè)過程稱為一個(gè)epoch。和數(shù)百萬行指令微調(diào)數(shù)據(jù)。 海量數(shù)據(jù)需要研發(fā)方從多種渠道獲取, 通常數(shù)據(jù)來源包含直接采集、 公開數(shù)據(jù)爬取和間接獲取3 種方式。 無論通過哪種方式采集數(shù)據(jù)都會(huì)存在一些合規(guī)隱患, 如API 接口是否獲得授權(quán)? 即使數(shù)據(jù)采集過程沒有問題, 是否會(huì)存在潛在的數(shù)據(jù)濫用問題? 另外, 政務(wù)數(shù)據(jù)是否會(huì)被動(dòng)機(jī)不純的數(shù)據(jù)采集方用于欺詐、敲詐或不正當(dāng)競爭? 此類問題都需要研發(fā)方在數(shù)據(jù)獲取、 應(yīng)用的每一個(gè)環(huán)節(jié)反復(fù)確認(rèn)。

3.4 AI 技術(shù)對(duì)就業(yè)的多重影響

一是對(duì)就業(yè)具有替代效應(yīng)。 AI 可替代一些相對(duì)簡單且重復(fù)程度高的事務(wù)性工作, 如收銀、 翻譯等。 二是對(duì)就業(yè)具有補(bǔ)償效應(yīng)。 從以往的技術(shù)革命發(fā)展歷程看, 隨著顛覆性技術(shù)的涌現(xiàn)和應(yīng)用,經(jīng)濟(jì)會(huì)同步走向繁榮并伴隨出現(xiàn)大量新增就業(yè)機(jī)會(huì)。 麥肯錫調(diào)研了4 800 家中小型企業(yè)后得出結(jié)論: 相對(duì)每一個(gè)因科技效率而消失的就業(yè)機(jī)會(huì)而言, 互聯(lián)網(wǎng)相應(yīng)地創(chuàng)造了2.6 個(gè)就業(yè)崗位[17]。 所以, 盡管AI 的落地應(yīng)用替代了一些重復(fù)性高、 難度低的工作機(jī)會(huì), 但其天然的高執(zhí)行率和高效率也將帶動(dòng)相關(guān)產(chǎn)業(yè)規(guī)模擴(kuò)張, 進(jìn)而激活市場對(duì)勞動(dòng)力的需求, 間接補(bǔ)償了技術(shù)進(jìn)步替代的部分工作崗位。 三是對(duì)就業(yè)具有創(chuàng)造效應(yīng)。 埃森哲咨詢公司對(duì)全球1 500 多家使用或測試AI 系統(tǒng)的公司進(jìn)行研究, 發(fā)現(xiàn)AI 的出現(xiàn)催生出了一些前所未有的工作機(jī)會(huì), 如AI 內(nèi)容審核員、 模型訓(xùn)練師等,這些就業(yè)機(jī)會(huì)的出現(xiàn)伴隨著AI 技術(shù)爆發(fā)式發(fā)展,是AI 創(chuàng)造就業(yè)機(jī)會(huì)的佐證。

3.5 技術(shù)發(fā)展和利益驅(qū)使加速“信息繭房”形成

飛速發(fā)展的AI 技術(shù)是“信息繭房”形成的加速器。 相較于傳統(tǒng)媒體, 新媒體通過算法代替用戶過濾信息, 向用戶不斷推送其經(jīng)常瀏覽、 點(diǎn)贊、轉(zhuǎn)發(fā)的同類信息。 基于思維定式, 用戶也會(huì)對(duì)此類信息感興趣, 進(jìn)而對(duì)其他信息愈離愈遠(yuǎn)乃至屏蔽, 機(jī)器系統(tǒng)據(jù)此再次縮小用戶的興趣圈子, 繼續(xù)利用算法向其推送更具個(gè)性化的信息。 在這種循環(huán)之下, 用戶與機(jī)器共同織就專屬于用戶自己的“繭房”, 并成功與外界隔離。 此外, 經(jīng)濟(jì)利益驅(qū)動(dòng)是“信息繭房”形成的催化劑。 時(shí)下, 各類新媒體猶如雨后春筍, 各大平臺(tái)為了增加用戶頁面停留時(shí)間, 提高轉(zhuǎn)化率、 訂單復(fù)購率等指標(biāo), 常常不顧用戶個(gè)人利益, 披著“個(gè)性化定制”的外衣,在投其所好的服務(wù)中, 加速為用戶織就“信息繭房”。

3.6 治理困境尚未解決

首先, 現(xiàn)有與人工智能治理相關(guān)的法律法規(guī)尚不健全。 法律具有穩(wěn)定性和滯后性, 社會(huì)的需要和意見常常走在法律前面。 雖然我國和歐洲、美國等國家和地區(qū)分別落地或制定了《生成式人工智能服務(wù)管理暫行辦法》《人工智能法案》等人工智能監(jiān)管政策, 但生成式人工智能、 邊緣計(jì)算等技術(shù)的高速發(fā)展使其引發(fā)的新問題不能全部在現(xiàn)有法律框架下找到解決方案。 其次, 人工智能治理挑戰(zhàn)重重, 治理松緊度難以把握。 一方面, 人工智能技術(shù)助力實(shí)體經(jīng)濟(jì)智能化升級(jí), 為經(jīng)濟(jì)高質(zhì)量發(fā)展帶來巨大動(dòng)能, 因此, 在對(duì)其監(jiān)管治理時(shí)要考慮放管結(jié)合, 為其創(chuàng)新發(fā)展?fàn)I造寬松、 公平、高效的政策環(huán)境。 另一方面, 由于人工智能存在“陰暗面”, 隱私數(shù)據(jù)被無節(jié)制使用、 現(xiàn)存?zhèn)惱碇刃蚴艿經(jīng)_擊和挑戰(zhàn)等問題, 都是懸在AI 之上的達(dá)摩克利斯之劍, 隨時(shí)可能爆發(fā)“爆炸式”或“踩踏式”風(fēng)險(xiǎn)。 因此, 人工智能治理也存在松緊兩難的選擇困境。

4 廣東應(yīng)對(duì)人工智能“陰暗面”方面的挑戰(zhàn)

4.1 在流通共享、 跟蹤監(jiān)管等方面存在限制因素

廣東雖是數(shù)字經(jīng)濟(jì)大省, 但現(xiàn)有數(shù)據(jù)受技術(shù)與制度等因素制約, 共享難度大。 現(xiàn)有的大量行業(yè)數(shù)據(jù)掌握在特定機(jī)構(gòu)手中, 形成“數(shù)據(jù)孤島”,同時(shí), 不同企業(yè)對(duì)數(shù)據(jù)的判定標(biāo)準(zhǔn)、 接口定義及存儲(chǔ)載體也各不相同, 導(dǎo)致不同企業(yè)及行業(yè)的數(shù)據(jù)難以互通。 此外, 廣東現(xiàn)有數(shù)據(jù)跟蹤監(jiān)管體系尚不健全, 進(jìn)一步阻礙了數(shù)據(jù)融合、 共享和流通。雖然廣東省內(nèi)大量企業(yè)和部分政府部門成立了專門的數(shù)據(jù)管理部門, 但囿于數(shù)據(jù)再利用等方面尚未形成可量化、 可跟蹤的管控體系, 導(dǎo)致大量數(shù)據(jù)封閉, 無法被企業(yè)或研究機(jī)構(gòu)二次利用, 浪費(fèi)了數(shù)據(jù)資源。

4.2 政府監(jiān)管下的數(shù)據(jù)管理與標(biāo)準(zhǔn)體系還不夠健全

政策文件制定方面, 目前, 廣東尚未出臺(tái)針對(duì)人工智能科技倫理風(fēng)險(xiǎn)治理的政策文件, 現(xiàn)有的國家和地方性法律法規(guī)對(duì)人工智能領(lǐng)域不可控因素也尚未形成有效的預(yù)防機(jī)制。 標(biāo)準(zhǔn)化體系建設(shè)方面, 廣東在AI 產(chǎn)品、 技術(shù)、 工藝和服務(wù)等方面缺乏相應(yīng)規(guī)則和標(biāo)準(zhǔn), 如應(yīng)用接口尚未統(tǒng)一標(biāo)準(zhǔn), 數(shù)據(jù)挖掘、 表征建模等方面缺少輔助工具等。

4.3 基礎(chǔ)研究和關(guān)鍵核心技術(shù)攻關(guān)相對(duì)薄弱

基礎(chǔ)研究方面, 目前, 廣東在AI 算法、 底層架構(gòu)等方面尚未取得系統(tǒng)性突破, 高質(zhì)量研究成果相對(duì)較少[18]。 同時(shí), 現(xiàn)階段省內(nèi)AI 企業(yè)多處于應(yīng)用層, 原創(chuàng)性理論研究和模型決策機(jī)理的研究較少, 無法彌補(bǔ)模型決策機(jī)制的理論缺陷和深度學(xué)習(xí)技術(shù)的應(yīng)用缺陷。 關(guān)鍵核心技術(shù)攻關(guān)方面,尚未找到隱私保護(hù)和性能效用間的平衡點(diǎn), 人工智能隱私保護(hù)和模型可信計(jì)算等技術(shù)均落后于美國等發(fā)達(dá)國家, 從弱人工智能到通用人工智能還存在很大距離。

5 推動(dòng)廣東人工智能健康、 向善發(fā)展的對(duì)策建議

5.1 兼顧核心技術(shù)和測評(píng)保障技術(shù)研究

在人工智能安全技術(shù)研究方面, 繼續(xù)深入推動(dòng)實(shí)施廣東省重點(diǎn)領(lǐng)域研發(fā)計(jì)劃芯片設(shè)計(jì)與制造、新一代人工智能、 網(wǎng)絡(luò)信息安全等戰(zhàn)略和重大、重點(diǎn)專項(xiàng)。 瞄準(zhǔn)人工智能不可解釋性和安全可信無法有效保障等痛點(diǎn), 以人工智能旗艦項(xiàng)目為主導(dǎo), 圍繞模型安全、 隱私保護(hù)等領(lǐng)域部署一批項(xiàng)目, 爭取突破人工智能“不可解釋”“不可信”的局限。 在人工智能評(píng)測保障技術(shù)研究方面, 鼓勵(lì)開展通用人工智能內(nèi)容生成、 模型評(píng)測、 風(fēng)險(xiǎn)評(píng)估和監(jiān)測預(yù)警研究, 研究適用通用人工智能的多維度評(píng)測方法, 確保大模型輸出的準(zhǔn)確性、 魯棒性和安全性。

5.2 著力構(gòu)建高質(zhì)量數(shù)據(jù)集

多渠道收集、 整合多模態(tài)中文數(shù)據(jù), 將數(shù)據(jù)合規(guī)清洗后開源, 構(gòu)建高質(zhì)量、 高可用性的中文數(shù)據(jù)集; 搭建可信數(shù)據(jù)標(biāo)注平臺(tái), 探索制定數(shù)據(jù)標(biāo)注行業(yè)標(biāo)準(zhǔn); 研制數(shù)據(jù)標(biāo)注專業(yè)工具, 加快結(jié)構(gòu)化數(shù)據(jù)處理, 提升廣東人工智能數(shù)據(jù)要素規(guī)模和質(zhì)量。 推動(dòng)政務(wù)數(shù)據(jù)、 行業(yè)數(shù)據(jù)等公共數(shù)據(jù)分類分級(jí)有序開放; 鼓勵(lì)高質(zhì)量數(shù)據(jù)網(wǎng)站部分脫敏后有條件定向開放。 制定公共數(shù)據(jù)運(yùn)營制度規(guī)范和技術(shù)標(biāo)準(zhǔn), 建立公共數(shù)據(jù)交易平臺(tái), 構(gòu)建數(shù)據(jù)確權(quán)、 數(shù)據(jù)質(zhì)量評(píng)估、 數(shù)據(jù)定價(jià)全鏈條管理體系,盤活現(xiàn)有公共數(shù)據(jù)資源價(jià)值。

5.3 加強(qiáng)監(jiān)管治理能力建設(shè)

一是加快推動(dòng)監(jiān)管工具和管理流程創(chuàng)新。 支持建設(shè)人工智能安全監(jiān)管平臺(tái), 圍繞行業(yè)特點(diǎn)研發(fā)應(yīng)用隱患監(jiān)測和漏洞排查的智能化監(jiān)管技術(shù)和工具, 構(gòu)建人工智能安全監(jiān)測預(yù)警機(jī)制。 鼓勵(lì)省內(nèi)創(chuàng)新主體優(yōu)先采用安全可信的軟件、 工具、 計(jì)算和數(shù)據(jù)資源。 積極向國家網(wǎng)信部門爭取, 在通用人工智能創(chuàng)新特區(qū)推動(dòng)實(shí)行包容審慎監(jiān)管試點(diǎn)。二是加強(qiáng)網(wǎng)絡(luò)服務(wù)安全防護(hù)和個(gè)人數(shù)據(jù)保護(hù), 引導(dǎo)算力運(yùn)營主體落實(shí)《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》《個(gè)人信息保護(hù)法》等法律法規(guī), 提升網(wǎng)絡(luò)安全和數(shù)據(jù)安全防護(hù)能力。 三是提升人工智能技術(shù)倫理治理能力。 加強(qiáng)人工智能法治保障、 知識(shí)產(chǎn)權(quán)保護(hù)、 信息安全及科技倫理研究, 研發(fā)、 部署人工智能倫理治理公共服務(wù)平臺(tái), 引導(dǎo)人工智能良性、健康發(fā)展。 龍頭企業(yè)和科研機(jī)構(gòu)應(yīng)積極參與人工智能全球治理, 加強(qiáng)人工智能倫理規(guī)范、 國際規(guī)則等方面的國際合作, 攜手全球共同應(yīng)對(duì)人工智能治理的新挑戰(zhàn)。

5.4 推動(dòng)全省人工智能協(xié)同創(chuàng)新發(fā)展

圍繞將廣東打造成為國家通用人工智能產(chǎn)業(yè)創(chuàng)新引領(lǐng)地的總體目標(biāo), 加快推進(jìn)實(shí)施“新一代人工智能”重大專項(xiàng)旗艦項(xiàng)目, 落實(shí)《“數(shù)字灣區(qū)”建設(shè)三年行動(dòng)方案》。 建立相關(guān)部門共同參與、 協(xié)同配合的廣東通用人工智能協(xié)同推進(jìn)機(jī)制。 加強(qiáng)與省發(fā)展改革委、 工信廳、 省委網(wǎng)信辦、 省政務(wù)服務(wù)數(shù)據(jù)管理局等相關(guān)部門的協(xié)同合作, 合力推動(dòng)創(chuàng)新發(fā)展。 引導(dǎo)各地市持續(xù)強(qiáng)化人工智能工作部署, 指導(dǎo)廣州、 深圳國家新一代人工智能創(chuàng)新發(fā)展試驗(yàn)區(qū)建設(shè), 不斷推動(dòng)廣東人工智能產(chǎn)業(yè)做大做強(qiáng)。

5.5 強(qiáng)化產(chǎn)業(yè)生態(tài)建設(shè)

一是引進(jìn)培育高端創(chuàng)新型人才。 充分發(fā)揮粵港澳大灣區(qū)區(qū)位和政策優(yōu)勢, 吸引全球高端人才來粵深耕發(fā)展。 充分釋放省重點(diǎn)領(lǐng)域研發(fā)計(jì)劃和高水平科研載體對(duì)人才的集聚作用, 引育人工智能領(lǐng)域高水平技術(shù)、 產(chǎn)業(yè)和工程人才。 引導(dǎo)優(yōu)化高校學(xué)科建設(shè), 培養(yǎng)通用人工智能、 人工智能安全等新興技術(shù)需求人才。 進(jìn)一步強(qiáng)化人工智能技術(shù)普及, 提升普通勞動(dòng)者智能化技術(shù)通用技能,推動(dòng)就業(yè)政策升級(jí), 緩解勞動(dòng)力替代壓力。 二是進(jìn)一步加強(qiáng)對(duì)外開放合作。 主動(dòng)融入全球人工智能發(fā)展大勢, 積極與國際主流科研機(jī)構(gòu)開展人工智能前沿技術(shù)合作和學(xué)術(shù)交流。 利用粵港澳大灣區(qū)建設(shè)契機(jī), 強(qiáng)化算力、 數(shù)據(jù)資源聯(lián)通, 引導(dǎo)港澳創(chuàng)新主體主動(dòng)參與廣東人工智能技術(shù)創(chuàng)新發(fā)展,推動(dòng)粵港澳三地在人工智能領(lǐng)域?qū)W術(shù)交流、 技術(shù)研發(fā)和產(chǎn)業(yè)鏈協(xié)作。 三是營造良好創(chuàng)新氛圍。 持續(xù)舉辦高端交流平臺(tái)、 學(xué)術(shù)研討會(huì)和算法大賽等,引導(dǎo)更多人才參與廣東人工智能創(chuàng)新創(chuàng)業(yè), 不斷提升區(qū)域創(chuàng)新活力。