朱雯熙 李亭慧

關(guān)鍵詞：行政治理 情感計(jì)算 公共倫理 公平正義

一、引言

人工情感技術(shù)屬于信息技術(shù)的前沿分支范疇，它的產(chǎn)生源于情感電腦對(duì)于人類感性情緒的計(jì)算，因此可以將其視為“情感計(jì)算”的自然延伸。①作為一個(gè)快速興起的交叉學(xué)科，情感計(jì)算致力于以信息科學(xué)手段識(shí)別、理解、模仿、拓展人類情感，最終實(shí)現(xiàn)自然化、擬人化、人格化的“人一機(jī)”情感交互的目的。然而，技術(shù)創(chuàng)新具有“雙重性”特征，即在升級(jí)社會(huì)生產(chǎn)方式、催生社會(huì)新樣態(tài)的同時(shí)，也會(huì)對(duì)數(shù)據(jù)安全、人的主體地位、人的思維能力造成安全風(fēng)險(xiǎn)和倫理挑戰(zhàn)。技術(shù)賦能視域下的情感計(jì)算能夠?yàn)槿斯ぶ悄軟Q策提供優(yōu)化路徑，以情感變量的輸入幫助機(jī)器作出更為人性化、更為合理的決策。但是，情感計(jì)算在生理信號(hào)的采集和通用性程度、情感標(biāo)注的準(zhǔn)確性、用戶隱私數(shù)據(jù)、情感信息捕獲技術(shù)等方面仍然存在問(wèn)題與挑戰(zhàn)。目前，學(xué)界對(duì)于情感計(jì)算在應(yīng)用過(guò)程中可能產(chǎn)生風(fēng)險(xiǎn)已經(jīng)取得了共識(shí)。例如，褚婧一認(rèn)為情感計(jì)算可能會(huì)由于對(duì)情感信息的不當(dāng)獲取與利用而引發(fā)情感操縱等隱私風(fēng)險(xiǎn)；②王祿生認(rèn)為無(wú)論是從法律、倫理還是技術(shù)層面，情感計(jì)算的應(yīng)用都會(huì)引發(fā)相應(yīng)的風(fēng)險(xiǎn)①等等。但是，就情感計(jì)算在某一具體領(lǐng)域的應(yīng)用可能產(chǎn)生的風(fēng)險(xiǎn)而言，學(xué)界目前的探討主要集中在教育學(xué)領(lǐng)域。例如，龔善要認(rèn)為情感計(jì)算在教育學(xué)領(lǐng)域的適用可能會(huì)誘發(fā)技術(shù)風(fēng)險(xiǎn)、引發(fā)人格權(quán)與受教育權(quán)的保護(hù)危機(jī)、弱化教育場(chǎng)景中“人”的主體地位；②蔣艷雙等學(xué)者也指出，情感計(jì)算在教育中的應(yīng)用會(huì)存在教師的技術(shù)依賴以及智能體的情感欺騙等問(wèn)題。③總體來(lái)看，學(xué)界對(duì)于情感計(jì)算在行政治理領(lǐng)域的應(yīng)用所展開(kāi)的專門(mén)探討在目前仍然較少。然而，鑒于情感計(jì)算在教育培訓(xùn)、醫(yī)療健康、商業(yè)服務(wù)等領(lǐng)域的應(yīng)用所呈現(xiàn)的技術(shù)優(yōu)勢(shì)，情感計(jì)算運(yùn)用于行政治理領(lǐng)域也成為趨勢(shì)所在。在此背景下，如何預(yù)防和規(guī)制情感計(jì)算在行政治理領(lǐng)域可能引發(fā)的風(fēng)險(xiǎn)，就成了發(fā)揮情感計(jì)算在行政治理領(lǐng)域的技術(shù)優(yōu)勢(shì)、提高行政治理效能的必要之舉。鑒于情感計(jì)算與倫理道德風(fēng)險(xiǎn)的關(guān)聯(lián)性以及行政治理的公共性，④本文將從公共倫理的角度對(duì)行政治理中情感計(jì)算的風(fēng)險(xiǎn)以及可能的規(guī)制路徑予以探討。

二、技術(shù)綁定：行政治理中情感計(jì)算的應(yīng)用模式

情感計(jì)算作為一門(mén)復(fù)合型學(xué)科，涉及計(jì)算機(jī)科學(xué)、腦科學(xué)以及社會(huì)科學(xué)等多學(xué)科領(lǐng)域的內(nèi)容。目前情感計(jì)算的主流應(yīng)用有兩類：一是情感計(jì)算的結(jié)果作用于被識(shí)別者本人，二是情感計(jì)算的結(jié)果作用于被識(shí)別者之外的第三人。前者典型的例子是在醫(yī)療領(lǐng)域，通過(guò)改變病人的情感狀態(tài)治療疾病。后者則主要通過(guò)提供情感數(shù)據(jù)分析以提高人類決策的準(zhǔn)確性和有效性，因此被廣泛運(yùn)用于各類決策輔助領(lǐng)域。⑤基于后一特性，情感計(jì)算可以嵌入行政活動(dòng)之中，輔助行政治理。若要厘清情感計(jì)算在行政治理中的運(yùn)行機(jī)制和潛在風(fēng)險(xiǎn)，還必須從情感計(jì)算的技術(shù)邏輯緣起進(jìn)行研究，找到情感計(jì)算的本質(zhì)特征，為發(fā)現(xiàn)并解決其潛在的應(yīng)用風(fēng)險(xiǎn)做好充分準(zhǔn)備。

1．技術(shù)基礎(chǔ)：情感計(jì)算的基本邏輯

一般認(rèn)為，情感計(jì)算的概念緣起于羅莎琳德·皮卡德（Rosalind Picard） 1997年出版的專著《情感計(jì)算》。在該書(shū)中，皮卡德將情感計(jì)算解釋為“與情緒或其他情感現(xiàn)象有關(guān)的、產(chǎn)生于或意圖影響情緒和其他情感現(xiàn)象的計(jì)算”。⑥情感計(jì)算依托于人工智能、大數(shù)據(jù)等信息技術(shù)，主要通過(guò)感知、識(shí)別、模擬、影響⑦等環(huán)節(jié)對(duì)人類情感產(chǎn)生作用。首先，在情感計(jì)算算法運(yùn)行的前端路徑中，感知人類情感是基礎(chǔ)。情感感知可以通過(guò)接觸手段和非接觸手段實(shí)現(xiàn)：前者依賴于接觸式的傳感器直接感知人類情感，諸如血壓儀、脈搏檢測(cè)儀等；后者通過(guò)非接觸式的遠(yuǎn)程技術(shù)間接感知人類情感，諸如攝像頭、麥克風(fēng)等。借助于上述技術(shù)手段，情感計(jì)算對(duì)人類的語(yǔ)音、姿勢(shì)、表情、狀態(tài)等情緒進(jìn)行充分的感知與收集，形成了情感識(shí)別的基礎(chǔ)數(shù)據(jù)庫(kù)。其次，在情感計(jì)算運(yùn)行的中端路徑中，識(shí)別與理解是情感計(jì)算的核心環(huán)節(jié)。在情感識(shí)別過(guò)程中，依托于先前的感知數(shù)據(jù)庫(kù)，算法設(shè)計(jì)會(huì)對(duì)信息數(shù)據(jù)庫(kù)進(jìn)行全面快速分析并提取出關(guān)鍵特征點(diǎn)，以人工介入的方式為上述關(guān)鍵特征標(biāo)注情感標(biāo)簽。當(dāng)上述過(guò)程累積到一定程度時(shí)，即存在足夠數(shù)量的情感標(biāo)簽時(shí)，人工智能就會(huì)通過(guò)數(shù)據(jù)分析和總結(jié)生成識(shí)別模型。情感計(jì)算系統(tǒng)在經(jīng)過(guò)反復(fù)模擬訓(xùn)練的基礎(chǔ)上，尋找與主體情感信息特征相契合的關(guān)鍵點(diǎn)自動(dòng)生成情感計(jì)算模型，并借助上述模型模擬主體的情感過(guò)程。最后，在情感計(jì)算的輸出路徑中，情感影響與拓展是情感計(jì)算的終端環(huán)節(jié)。在完成上述感知、識(shí)別、模擬環(huán)節(jié)后，情感計(jì)算系統(tǒng)通過(guò)實(shí)時(shí)記錄主體的情感變化，根據(jù)已有模型和情感數(shù)據(jù)信息分析主體的情感狀態(tài)，作出情感反饋，從而在人機(jī)交互的呈現(xiàn)中滿足主體要求，拓展和影響人類情感。概言之，情感計(jì)算的算法設(shè)計(jì)出發(fā)點(diǎn)在于通過(guò)感知、識(shí)別、模擬、影響等環(huán)節(jié)對(duì)人類情感產(chǎn)生作用，其最終導(dǎo)向是使人工智能理解人類情感，具備情感智能，為強(qiáng)人工智能時(shí)代的到來(lái)打下堅(jiān)實(shí)基礎(chǔ)。

2．管中窺豹：情感計(jì)算在行政治理中的應(yīng)用場(chǎng)景

情感計(jì)算在應(yīng)用的對(duì)象與內(nèi)容上都是以“人”為中心的，突出對(duì)人內(nèi)在情緒的感知、識(shí)別與干預(yù)，與人格尊嚴(yán)具有最為密切的聯(lián)系。最終輸出的結(jié)果會(huì)影響自我與他人的情感狀態(tài)。①那么在行政治理中，情感計(jì)算到底是如何來(lái)感知、識(shí)別、模擬以及影響人類情感的呢？這就需要對(duì)情感計(jì)算在行政治理中具體的應(yīng)用場(chǎng)景進(jìn)行觀察。概言之，目前情感計(jì)算在行政治理中主要被運(yùn)用于以下具體領(lǐng)域：

第一，將情感計(jì)算應(yīng)用于海關(guān)檢查中。檢查人員可以根據(jù)情感計(jì)算來(lái)判斷入境人員的情緒狀態(tài)，發(fā)現(xiàn)其是否存在欺騙行為。人類的情緒變化通常會(huì)伴隨著生理信號(hào)的變化，用于情感計(jì)算的生理信號(hào)主要包括腦電、眼動(dòng)、肌動(dòng)、皮膚電、心電和呼吸等。②在一些國(guó)家，入境檢查會(huì)通過(guò)掃描入境人員的瞳孔或面部表情來(lái)識(shí)別其是否撒謊。

第二，將情感計(jì)算應(yīng)用于輿情信息管理中。公職人員可以根據(jù)對(duì)程序的設(shè)定，通過(guò)情感計(jì)算的分析，精確地對(duì)輿情進(jìn)行監(jiān)測(cè)。文本數(shù)據(jù)通常是指使用文字或符號(hào)來(lái)描述一件事情所形成的數(shù)據(jù)，是人的語(yǔ)言表達(dá)的文字體現(xiàn)。文本情感計(jì)算在輿情分析方面有著重要的研究與應(yīng)用價(jià)值，是獲取評(píng)價(jià)、觀點(diǎn)檢索、網(wǎng)絡(luò)輿情檢查、信息預(yù)測(cè)的重要技術(shù)支撐。其中主要包括文本數(shù)據(jù)預(yù)處理、情感對(duì)象識(shí)別、情感信息分類、情感推理等。③而且，文本情感計(jì)算還可以通過(guò)對(duì)文本情感的分析來(lái)處理信息的非結(jié)構(gòu)化內(nèi)容。這可以大大減少輿情對(duì)社會(huì)造成的動(dòng)蕩與風(fēng)險(xiǎn)，保證社會(huì)的持續(xù)穩(wěn)定發(fā)展。

第三，將情感計(jì)算運(yùn)用到交通管理之中。大量的研究表明，在解決某些實(shí)際問(wèn)題時(shí)，人類只靠理性分析和決策并不會(huì)得到最優(yōu)解。但如果在決策過(guò)程中加入人的生理反應(yīng)（如情感），這有可能幫助人類得到更優(yōu)的決策結(jié)果，“flow交通”就是一種可以解決交通問(wèn)題的多智體控制系統(tǒng)。④將情感計(jì)算應(yīng)用于交通之中，真實(shí)地模擬情緒對(duì)出行者的影響，提高交通管制的及時(shí)性和準(zhǔn)確性，有利于改善交通的擁堵情況，提高交通安全保障。

三、風(fēng)險(xiǎn)識(shí)別：行政治理應(yīng)用情感計(jì)算之倫理批判

1．去主體化：人格尊嚴(yán)被情感計(jì)算消弭

當(dāng)下的行政治理都在強(qiáng)調(diào)作出治理行為時(shí)主體之間展開(kāi)合作，柔性執(zhí)法，將人的尊嚴(yán)放在第一位是行政治理的原則。但情感計(jì)算的應(yīng)用將打破將人的尊嚴(yán)置于第一這一原則。

首先，維護(hù)人格尊嚴(yán)是人開(kāi)展主體行為的基本出發(fā)點(diǎn)，而情感計(jì)算由于缺乏真實(shí)感情的投入在運(yùn)用中容易將人當(dāng)作手段。一方面，情感本就是人類獨(dú)有的一種高級(jí)心理現(xiàn)象，情感計(jì)算無(wú)法將情感與人自身、人的需求結(jié)合。情感計(jì)算根據(jù)自身的邏輯往往會(huì)對(duì)情感進(jìn)行不當(dāng)截取而導(dǎo)致人的情感脫離自我控制而處于“離身”狀態(tài)，⑤不與具體個(gè)人產(chǎn)生關(guān)聯(lián)，而僅僅是作為技術(shù)發(fā)展的手段和原則，這使人無(wú)法從情感計(jì)算中得到足夠的尊重。另一方面，在情感計(jì)算中，即使是人與人之間的情感交流也難以得到尊重。人基于生理本性通過(guò)身體在場(chǎng)進(jìn)行情感交流，而情感計(jì)算則宣告人與人的交流脫離人的生理本性。在情感計(jì)算的技術(shù)目標(biāo)設(shè)定中，未來(lái)的終極形態(tài)是無(wú)身體的交流。但目前身體的不可復(fù)制性使具身情感具有唯一性，而基于情感計(jì)算的可復(fù)制性以及程序性產(chǎn)生的離身情感并不具有唯一性，而僅是程式化產(chǎn)物。正是人類的生理特性，才能讓人性變得如此獨(dú)特，因此人性需要得到尊重，而不應(yīng)僅僅被當(dāng)作手段。脫離了人類的生理特性，也就失去了人性的獨(dú)特，情感計(jì)算讓我們無(wú)法確認(rèn)對(duì)方是否具有真正的情感以及進(jìn)行了真正的情感交流，對(duì)人性目的具有一定的崩壞作用。

其次，人的道德地位需要被尊重，人的特性不應(yīng)被具體的事物所界定，而情感計(jì)算正是將人的感情以具體的規(guī)則進(jìn)行分類，不能保證人的道德地位被尊重。從情感計(jì)算的理論特性來(lái)看，情感計(jì)算的運(yùn)用以人類設(shè)定的情感建模為基礎(chǔ)，而情感建模就是根據(jù)設(shè)定者給予的具體數(shù)值而對(duì)人的情感狀態(tài)進(jìn)行可能性推測(cè)，但感性的情感是無(wú)法通過(guò)理性的數(shù)字具體概括的。情感計(jì)算得以成立和運(yùn)用的前提是承認(rèn)情感可以被具體數(shù)值予以描述，這就意味著，在情感計(jì)算的程序中，人的情感可以成為計(jì)算模型中的信號(hào)。情感計(jì)算的目的就是根據(jù)計(jì)算與作為本體的人達(dá)成等價(jià)交換?；谌说那楦姓J(rèn)知特性，人的尊嚴(yán)是道德事業(yè)中最應(yīng)當(dāng)被重視的部分，但情感計(jì)算只想用具體的數(shù)字去概述人的情感，就注定忽視人的道德地位。從情感計(jì)算的內(nèi)部特性來(lái)看，情感計(jì)算根據(jù)具體的數(shù)值將不可定義且獨(dú)特的人類進(jìn)行分類，根據(jù)性別、種族、膚色以及年齡等物理特點(diǎn)打上固定標(biāo)簽，根據(jù)人們的受歡迎程度，作出不同的評(píng)價(jià)。根據(jù)物理特性對(duì)人進(jìn)行分類評(píng)價(jià)是對(duì)人最不尊重的行為，是對(duì)人的尊嚴(yán)的貶低，因?yàn)樗鲆暳嗣恳粋€(gè)人獨(dú)特的情感需求以及人的尊嚴(yán)要求的道德地位。

最后，即便基于個(gè)人同意也并不意味著情感計(jì)算不會(huì)危害人的尊嚴(yán)。如前所述，情感計(jì)算主流應(yīng)用有兩類：一是應(yīng)用于被識(shí)別者本人，二是應(yīng)用于被識(shí)別者之外的第三人。不能簡(jiǎn)單地將被識(shí)別者與情感計(jì)算達(dá)成合意作為證明情感計(jì)算或其他應(yīng)用沒(méi)有危害人的尊嚴(yán)的證據(jù)。①情感計(jì)算背后的數(shù)據(jù)主體享有自主決定數(shù)據(jù)使用的權(quán)利，不能僅以使用者個(gè)人對(duì)目前所使用的程序的意見(jiàn)來(lái)證明程序沒(méi)有損害人的尊嚴(yán)。人性要求人不能把自己當(dāng)作一個(gè)手段實(shí)現(xiàn)別的目的，所以要特別注意自主權(quán)在什么樣的背景和前提下行使，是否符合人的尊嚴(yán)的原理要求，權(quán)利的行使要以維護(hù)人的尊嚴(yán)為目的，換言之，自主權(quán)的實(shí)際行使方式并不一定與人的尊嚴(yán)要求完全符合。另外，根據(jù)現(xiàn)實(shí)中的真實(shí)情況，個(gè)人很難完整理解相關(guān)合同的具體條款，甚至并不清楚自己允諾了合同中哪些權(quán)利授予，這就說(shuō)明，自主權(quán)在實(shí)際運(yùn)用中也受到一定限制。

2．去秩序化：公平正義被情感計(jì)算拋棄

情感計(jì)算應(yīng)用的倫理沖突不僅局限于對(duì)個(gè)人尊嚴(yán)的貶低，還有害于社會(huì)的公平正義。一方面，情感計(jì)算在各種行政治理中加深應(yīng)用，會(huì)擴(kuò)大算法歧視的范圍。人的情感通道有很多種，包括人臉表情、語(yǔ)音信號(hào)、肢體行為等。情感計(jì)算在自然情感判斷中，以面部表情為主要依據(jù)，而這樣的情感計(jì)算非常容易犯錯(cuò)誤，因?yàn)槟壳按蠖鄶?shù)人臉表情識(shí)別并不完善，缺乏嚴(yán)格的規(guī)制，也易被人為地種族歧視和性別歧視干擾。②目前的情感計(jì)算所依據(jù)的數(shù)據(jù)基礎(chǔ)并不具有代表性，且相關(guān)算法不夠獨(dú)立和中立。情感計(jì)算不但技術(shù)上不成熟，還可能存在算法歧視擴(kuò)大化風(fēng)險(xiǎn)。若政府等公權(quán)力機(jī)關(guān)直接將情感計(jì)算應(yīng)用于日常的行政治理（如行政決策以及部分案件處理），而忽視情感計(jì)算可能存在的算法問(wèn)題或人為操縱的風(fēng)險(xiǎn)，就會(huì)導(dǎo)致?lián)p害社會(huì)公平正義后果的發(fā)生。①情感計(jì)算已經(jīng)在案件偵查、部分行政決策、交通等領(lǐng)域獲得了應(yīng)用，但根據(jù)情感計(jì)算的特性，其在商業(yè)、教育、娛樂(lè)、醫(yī)療健康甚至是文史等領(lǐng)域都具有應(yīng)用前景，甚至更有擴(kuò)展加深的可能性。②情感計(jì)算在行政治理的加深應(yīng)用，也會(huì)使算法帶來(lái)的歧視加深。政府等公權(quán)力機(jī)關(guān)面向國(guó)計(jì)民生，在實(shí)施具體的行政行為時(shí)要接觸具體的行政相對(duì)人，若是實(shí)施的具體行政行為帶有歧視，將造成深刻的影響。如果公職人員在進(jìn)行行政決策時(shí)過(guò)度依賴情感計(jì)算，以情感計(jì)算來(lái)判斷當(dāng)事人的實(shí)際情況，若損害了公民的合法權(quán)益，公民也很難得到合理救濟(jì)，如此就會(huì)損害政府的公信力。需要指出的是，情感計(jì)算的應(yīng)用導(dǎo)致的倫理沖突已經(jīng)對(duì)社會(huì)的公平正義造成了影響，若是在行政治理中加深應(yīng)用，更會(huì)強(qiáng)化這種惡劣影響。而算法本身的隱患很難排除，隱性歧視會(huì)一直伴隨算法的輸出擴(kuò)散，若不能科學(xué)地加以規(guī)制，那最終的后果定是對(duì)人性的異化。

另一方面，情感計(jì)算與行政公正原則存在沖突。行政公正原則是行政法的基本原則之一，它要求行政行為應(yīng)當(dāng)具有正當(dāng)性、衡平性和說(shuō)理性。③其中說(shuō)理性指行政治理遵循著理由思維，即用事實(shí)與規(guī)范的理由來(lái)證成某個(gè)結(jié)果，這一過(guò)程屬于法律論證的范疇。④然而，情感計(jì)算存在算法的不透明，若將行政治理中的某些過(guò)程變成代碼計(jì)算，用計(jì)算思維取代理由論證思維，將會(huì)與行政公正原則發(fā)生沖突。⑤行政公正原則不僅要求結(jié)果公正，而且要求程序正義，后者甚至比前者更為重要。而情感計(jì)算則將程序置于“黑箱”之中，直接根據(jù)算法得出結(jié)果，這顯然無(wú)法證明其過(guò)程的正義性。而相關(guān)數(shù)據(jù)能否構(gòu)成行政治理，在規(guī)范的維度上也難以自圓其說(shuō)。公眾可能會(huì)認(rèn)為行政治理淪為某種意義上的數(shù)值計(jì)算，從該算法中所得出的結(jié)果可能會(huì)侵害公平正義。⑥除此之外，算法的不確定性也會(huì)產(chǎn)生一定的倫理風(fēng)險(xiǎn)。首先，情感計(jì)算的算法不確定性不僅是技術(shù)問(wèn)題，還有情感本身的問(wèn)題。情感發(fā)生機(jī)制也存在不確定性，學(xué)界沒(méi)有關(guān)于情感的概念與發(fā)生機(jī)理的共識(shí)。⑦近代以來(lái)，情感作為哲學(xué)上的重要概念，洛克、亞當(dāng)·斯密、休謨、康德等哲學(xué)家都以大篇幅進(jìn)行闡述，⑧但哲學(xué)家們并沒(méi)有對(duì)情感的含義進(jìn)行明確厘定，情感這一概念仍然是模糊的。除了概念的模糊之外，其他學(xué)科諸如計(jì)算機(jī)科學(xué)、腦科學(xué)、認(rèn)知科學(xué)、心理學(xué)等，也沒(méi)有給出一套統(tǒng)一的情感發(fā)生機(jī)制。情感始終保留著其內(nèi)隱的個(gè)體經(jīng)驗(yàn)特征，這導(dǎo)致在人腦的組織結(jié)構(gòu)、激素分泌狀態(tài)、行為表現(xiàn)和情感之間難以建立統(tǒng)一的、有說(shuō)服力的情感模型。情感計(jì)算相較于理性計(jì)算更加不確定，理性計(jì)算有一些可被接受的原則（諸如利益最大化、帕累托累積等），而情感則不容易被準(zhǔn)確把握，且高度依賴于情感的認(rèn)識(shí)。⑨其次，情感計(jì)算的算法具有不確定性。情感計(jì)算的算法是一種技術(shù)設(shè)計(jì)，服務(wù)于技術(shù)目標(biāo)，且面向未來(lái)。⑩情感計(jì)算具有多學(xué)科交融的特點(diǎn)，技術(shù)結(jié)構(gòu)復(fù)雜和不穩(wěn)定，使得公眾難以對(duì)情感計(jì)算技術(shù)形成準(zhǔn)確的認(rèn)識(shí)。⑩而且，情感計(jì)算由一元模態(tài)走向多元模態(tài)，也給其實(shí)踐應(yīng)用帶來(lái)了巨大的不確定性。①再次，情感計(jì)算的使用具有不確定性。情感計(jì)算適用于不同的人機(jī)和生活關(guān)系，相關(guān)算法并不遵循統(tǒng)一的技術(shù)標(biāo)準(zhǔn)，實(shí)現(xiàn)情感計(jì)算的方法各有不同，可能會(huì)導(dǎo)致技術(shù)功能發(fā)揮的不確定性，引發(fā)技術(shù)風(fēng)險(xiǎn)。②并且情感計(jì)算中尚未形成統(tǒng)一明確的科技術(shù)語(yǔ)，導(dǎo)致其輸出結(jié)果存在一定的模糊性。最后，從情感計(jì)算的技術(shù)邏輯來(lái)看，情感賦予和交互環(huán)境下的機(jī)器離身情感都存在不確定性。情感計(jì)算會(huì)根據(jù)個(gè)體差異以及個(gè)人對(duì)情感的控制，呈現(xiàn)出不確定性。③

四、風(fēng)險(xiǎn)規(guī)制：行政治理中情感計(jì)算之規(guī)范方案

情感計(jì)算在行政治理上有兩種治理方式：一是法律調(diào)整方式，二是非法律調(diào)整方式。法律調(diào)整方式相對(duì)于非法律調(diào)整方式的優(yōu)點(diǎn)在于，法律能夠以權(quán)威的方式安排相關(guān)主體的法律權(quán)利和法律義務(wù)，從而建立起行為規(guī)范。④在法律調(diào)整過(guò)程中，為了維護(hù)人的尊嚴(yán)，應(yīng)當(dāng)確立知情同意原則的優(yōu)先地位；為了維護(hù)社會(huì)公平正義，應(yīng)當(dāng)貫徹算法中立原理和公正原則，進(jìn)而按照比例原則進(jìn)行風(fēng)險(xiǎn)規(guī)制。

1．人本關(guān)懷：知情同意原則的優(yōu)先地位

自康德以來(lái)，人的尊嚴(yán)已成為現(xiàn)代文明的價(jià)值基石。情感計(jì)算或一切社會(huì)工作的人工智能化都存在一個(gè)隱患——將人類作為手段而不是目的，⑤這違背了康德所提倡的“以人作為目的”之要求。⑥為避免情感計(jì)算對(duì)人尊嚴(yán)的侵害，需要在基本價(jià)值上重申人的尊嚴(yán)的絕對(duì)不可侵犯性。除此之外，還要在法律上作出相應(yīng)的制度安排。情感計(jì)算技術(shù)的快速發(fā)展需要以海量個(gè)人數(shù)據(jù)信息為支撐，這意味著人們更多的個(gè)人數(shù)據(jù)，包括高度敏感性的個(gè)人數(shù)據(jù)，將被機(jī)器廣泛捕捉。因此，個(gè)人數(shù)據(jù)隱私安全的保護(hù)可以被視為在法律層面維護(hù)人的尊嚴(yán)的具體體現(xiàn)。而構(gòu)建知情同意原則就是保障個(gè)人隱私安全、主體性和自由得以實(shí)現(xiàn)的關(guān)鍵。

（1）既有的知情同意模式及其缺陷

從目前來(lái)看，知情同意原則的構(gòu)建存在兩種模式：一種是歐盟的特別知情同意模式，另一種是中國(guó)的概括知情同意模式。歐盟較早出臺(tái)了以知情同意為原則的《通用數(shù)據(jù)保護(hù)條例》（General DataProtection Regulation）。該條例基于“人的尊嚴(yán)”這一價(jià)值信條構(gòu)建了知情同意規(guī)則。根據(jù)該條例，個(gè)人資料是指可以確定或識(shí)別自然人的一切信息，包括自然人的姓名、身份證號(hào)碼、位置數(shù)據(jù)、身體因素等，情感數(shù)據(jù)和信息當(dāng)然也屬于個(gè)人資料的范疇。就同意的方式而言，必須基于當(dāng)事人的自愿和充分知悉后明示同意，同一事項(xiàng)或其他事項(xiàng)必須明確地標(biāo)示。在訴訟中，數(shù)據(jù)控制者負(fù)有舉證同意的生效條件之義務(wù)。⑦情感數(shù)據(jù)主體的同意僅僅是一次性的同意，并非持續(xù)性的授權(quán)。同意必須基于自愿，要求合同目的與同意事項(xiàng)符合比例；此外，不允許當(dāng)事人自治的事項(xiàng)還包括司法審判、社會(huì)保障、無(wú)害處理行為和公共利益等，同意的事項(xiàng)沒(méi)有規(guī)定兜底條款。歐盟知情同意規(guī)制模式的實(shí)質(zhì)是“原則一例外”模式，屬于特別同意模式，即個(gè)人同意的事項(xiàng)范圍是有限的，法律事先對(duì)個(gè)人能夠同意的事項(xiàng)作出了規(guī)制，法律優(yōu)先于意思自治。①

根據(jù)我國(guó)《個(gè)人信息保護(hù)法》的有關(guān)規(guī)定，情感計(jì)算收集和處理個(gè)人隱私信息的合法性前提是獲得數(shù)據(jù)權(quán)利人的同意，而知情又構(gòu)成了同意的前提。這就是個(gè)人信息保護(hù)中的知情同意規(guī)則。具體來(lái)說(shuō)，《個(gè)人信息保護(hù)法》強(qiáng)調(diào)收集處理信息的行為必須獲得數(shù)據(jù)權(quán)利人的充分同意，一旦處理目的、方式和種類發(fā)生變化，那么需要權(quán)利人在充分知情的基礎(chǔ)上重新作出同意表示。這表明，知情同意原則既需要數(shù)據(jù)處理主體在法律規(guī)范的框架內(nèi)合法處理個(gè)人數(shù)據(jù)，也需要數(shù)據(jù)權(quán)利主體充分意識(shí)到自身的數(shù)據(jù)隱私權(quán)利。②盡管我國(guó)個(gè)人信息保護(hù)中的知情同意充分貫徹了自決權(quán)的正當(dāng)理念，為維護(hù)個(gè)人尊嚴(yán)構(gòu)建了規(guī)則的屏障，但是這種意義上的知情同意并不能對(duì)個(gè)人隱私乃至個(gè)人尊嚴(yán)起到實(shí)質(zhì)性的保護(hù)作用。一方面，我國(guó)《個(gè)人信息保護(hù)法》的知情同意模式是一種靜態(tài)的、一次性的完全同意，對(duì)于隱私信息的種類、敏感程度和授權(quán)范圍等事項(xiàng)并沒(méi)有進(jìn)行嚴(yán)格限定，數(shù)據(jù)權(quán)利人或者完全同意，或者完全不同意，這種概括同意模式無(wú)疑給數(shù)據(jù)權(quán)利人的選擇造成了障礙。另一方面，《個(gè)人信息保護(hù)法》設(shè)置了處理個(gè)人數(shù)據(jù)的法律兜底條款，這表明情感計(jì)算處理個(gè)人信息可能存在基于國(guó)家或公共利益而無(wú)須獲得權(quán)利人知情同意的情形。這無(wú)疑大大壓縮了數(shù)據(jù)權(quán)利人的權(quán)利空間。

但是，上述兩種模式都存在一定的不足。首先，面對(duì)情感計(jì)算收集和處理個(gè)人隱私信息的行為，數(shù)據(jù)權(quán)利人可能會(huì)有意或無(wú)意地忽略數(shù)據(jù)處理主體提供的隱私政策，在沒(méi)有充分閱讀了解情感計(jì)算處理個(gè)人數(shù)據(jù)的范圍、目的和方式等問(wèn)題的前提下草率運(yùn)用自身的知情同意權(quán)。其次，受制于個(gè)人文化程度與知識(shí)水平，數(shù)據(jù)權(quán)利人無(wú)法充分理解情感計(jì)算數(shù)據(jù)處理主體提供的隱私政策，或者就算理解也無(wú)法作出符合自身利益的正確選擇。最后，數(shù)據(jù)權(quán)利人在正常情況下能夠充分知情并理解情感計(jì)算的隱私政策，但由于各種因素的影響最終也會(huì)扭曲自己的選擇。③總之，情感計(jì)算的變革發(fā)展必須要盡可能地簡(jiǎn)化數(shù)據(jù)權(quán)利人數(shù)據(jù)信息的授權(quán)方式，但既有的知情同意模式無(wú)法實(shí)質(zhì)性保護(hù)數(shù)據(jù)權(quán)利人的自主性。

（2）動(dòng)態(tài)同意模式的提出

鑒于既有知情同意原則存在的缺陷，動(dòng)態(tài)同意模式被學(xué)界提出，并迅速成為個(gè)人信息知情同意機(jī)制的共識(shí)性基礎(chǔ)。概括同意模式的“全有或全無(wú)”結(jié)構(gòu)催生了動(dòng)態(tài)同意模式的建立。一方面，隨著數(shù)字技術(shù)對(duì)社會(huì)生活的全方位重塑，個(gè)人信息的應(yīng)用場(chǎng)景正在發(fā)生劇烈變化，傳統(tǒng)前端的、靜態(tài)的知情同意框架已不足以應(yīng)對(duì)嚴(yán)峻的風(fēng)險(xiǎn)挑戰(zhàn)。④另一方面，知情同意過(guò)程既是一個(gè)數(shù)據(jù)處理主體向數(shù)據(jù)權(quán)利主體解釋和說(shuō)明的過(guò)程，也是一個(gè)雙方互動(dòng)交流的過(guò)程，數(shù)據(jù)處理主體單方面提供信息說(shuō)明或者數(shù)據(jù)權(quán)利主體被動(dòng)接受，都不能獲得有效的知情同意。⑤因此，從靜態(tài)化的特別知情同意模式和概括的知情同意模式轉(zhuǎn)向動(dòng)態(tài)化的同意模式就變得極為必要。

動(dòng)態(tài)同意模式既適應(yīng)了情感計(jì)算技術(shù)發(fā)展需求，強(qiáng)化了個(gè)人信息的保護(hù)程度。其核心在于維護(hù)數(shù)據(jù)權(quán)利人的自主性價(jià)值，同時(shí)提升個(gè)人信息安全的保護(hù)水平和有效促進(jìn)數(shù)據(jù)處理或利用，在具體場(chǎng)景、信息分類、風(fēng)險(xiǎn)評(píng)估、分層同意、持續(xù)披露、動(dòng)態(tài)同意等機(jī)制上完善靈活的制度體系，允許有條件的“寬泛同意”并賦予自然人“退出權(quán)”，這與既有的同意模式有著極大的不同。①具體而言，第一，動(dòng)態(tài)同意將數(shù)據(jù)權(quán)利主體置于核心地位，數(shù)據(jù)權(quán)利主體可以基于個(gè)人實(shí)際情況選擇是否授權(quán)情感計(jì)算處理個(gè)人隱私信息。在動(dòng)態(tài)同意模式建構(gòu)的情感計(jì)算數(shù)據(jù)處理交互過(guò)程中，數(shù)據(jù)權(quán)利人知情同意的有效性被大幅提升。第二，動(dòng)態(tài)同意會(huì)更為清晰明確地向數(shù)據(jù)權(quán)利人提供個(gè)人信息使用的目的、方式和范圍，通過(guò)公布情感計(jì)算數(shù)據(jù)的具體用途和場(chǎng)景，數(shù)據(jù)權(quán)利人的知情權(quán)將被更為有效地保障。第三，動(dòng)態(tài)同意賦予數(shù)據(jù)權(quán)利人分層同意和同意撤回權(quán)，進(jìn)一步維護(hù)了數(shù)據(jù)權(quán)利人的自主性。一方面，數(shù)據(jù)權(quán)利人可以根據(jù)情感計(jì)算處理數(shù)據(jù)的不同階段、不同場(chǎng)景來(lái)決定是否同意對(duì)其隱私數(shù)據(jù)的使用，改變既有同意模式中“一次性同意”的僵化機(jī)制；另一方面，數(shù)據(jù)權(quán)利人也可以基于實(shí)際情形的變化撤回對(duì)其數(shù)據(jù)處理的同意，從而確保自身的正當(dāng)權(quán)益不被侵犯。第四，動(dòng)態(tài)同意更貼合數(shù)字技術(shù)躍遷式發(fā)展的現(xiàn)實(shí)，可為情感計(jì)算技術(shù)的革新提供靈活發(fā)展的空間，進(jìn)一步提升數(shù)據(jù)收集和處理的效率。盡管動(dòng)態(tài)同意模式也面臨著主體反復(fù)給予或撤回同意所導(dǎo)致的資源浪費(fèi)和成本增加的風(fēng)險(xiǎn)，但其仍然是替代既有同意模式的合理選擇。②

2．現(xiàn)代正義：比例原則的應(yīng)用與調(diào)和

在算法行政中嵌人情感計(jì)算技術(shù)，可能存在侵害公平正義的風(fēng)險(xiǎn)，對(duì)此需要從行政法治基本原則的視角來(lái)尋求解決之道。公正原則是情感計(jì)算風(fēng)險(xiǎn)規(guī)制的核心原則，也是行政治理的目的。在公正原則的支撐下，比例原則成為防范情感計(jì)算風(fēng)險(xiǎn)的基礎(chǔ)原則。由于比例原則實(shí)質(zhì)上就是正義的內(nèi)在要求，③因此如何構(gòu)建符合比例的情感計(jì)算風(fēng)險(xiǎn)規(guī)制的法律體系就成為亟須思考的問(wèn)題。對(duì)此，可以從情感計(jì)算在算法行政中運(yùn)用而產(chǎn)生的風(fēng)險(xiǎn)等級(jí)出發(fā)，動(dòng)態(tài)式地判斷風(fēng)險(xiǎn)規(guī)制的內(nèi)容。具言之，首先要明確算法行政運(yùn)用情感計(jì)算對(duì)于數(shù)據(jù)權(quán)利人的尊嚴(yán)自由和社會(huì)公正能夠產(chǎn)生多大程度的影響，并將其具象化為高、中、低三個(gè)層級(jí)。其次，基于三種層級(jí)的風(fēng)險(xiǎn)，按照相應(yīng)的比例來(lái)建構(gòu)清晰的風(fēng)險(xiǎn)規(guī)制方案，其中高風(fēng)險(xiǎn)的規(guī)制方案應(yīng)當(dāng)被極度重視。最后，基于比例原則，將各層級(jí)的風(fēng)險(xiǎn)與風(fēng)險(xiǎn)規(guī)制方案一一對(duì)應(yīng)——不可接受的風(fēng)險(xiǎn)對(duì)應(yīng)完全禁止規(guī)制模式，完全可接受風(fēng)險(xiǎn)對(duì)應(yīng)完全容許規(guī)制模式，高風(fēng)險(xiǎn)對(duì)應(yīng)高強(qiáng)度規(guī)制，中風(fēng)險(xiǎn)對(duì)應(yīng)中等強(qiáng)度規(guī)制，低風(fēng)險(xiǎn)對(duì)應(yīng)低強(qiáng)度規(guī)制。

（1）極端風(fēng)險(xiǎn)情形下情感計(jì)算的比例原則審查

情感計(jì)算存在著不可被法治所接受的嚴(yán)重風(fēng)險(xiǎn)和完全可接受的風(fēng)險(xiǎn)這兩種極端情形。在存在嚴(yán)重風(fēng)險(xiǎn)的情況下，應(yīng)用情感計(jì)算將直接有損人的尊嚴(yán)與公正原則，有悖于目的正當(dāng)性原則。例如，未納入法治軌道的情感計(jì)算應(yīng)用將會(huì)左右相對(duì)人的個(gè)人情緒及其觀點(diǎn)，這是對(duì)人之為人尊嚴(yán)的否定；④再如，通過(guò)利用特定范圍內(nèi)人的性格特征一致性達(dá)到非法目的。誠(chéng)如亞里士多德所言，情感具備激勵(lì)和勸阻的功能，修辭術(shù)即借助情感作用來(lái)使聽(tīng)眾保持特定的心理狀態(tài)。⑤行政治理領(lǐng)域的情感計(jì)算，如果向工具化與修辭術(shù)的方向深入發(fā)展，那么行政治理將無(wú)法承擔(dān)此結(jié)果。為防止這種嚴(yán)重風(fēng)險(xiǎn)的發(fā)生，最理性的選擇是明確禁止。而相應(yīng)的是完全可接受的風(fēng)險(xiǎn)。此種情形下的情感計(jì)算被良好應(yīng)用，能夠根據(jù)不同情景因地制宜地采取不同策略模擬并影響個(gè)人情緒。由此，情感計(jì)算技術(shù)及其系統(tǒng)在行政法治框架之內(nèi)達(dá)成了其既定的技術(shù)目標(biāo)，既能夠?qū)θ说淖饑?yán)進(jìn)行有效維護(hù)，也與行政法的公正原則相契合。

（2）高風(fēng)險(xiǎn)情形下的比例原則審查

在行政治理中，高風(fēng)險(xiǎn)情感計(jì)算將會(huì)嚴(yán)重侵害包括平等享受公共服務(wù)、保障訴訟權(quán)利等在內(nèi)的公民基本權(quán)利。在高風(fēng)險(xiǎn)的情感計(jì)算活動(dòng)中，基本權(quán)利是否存在、基本權(quán)利的實(shí)現(xiàn)方式與實(shí)現(xiàn)程度將在很大程度上由情感計(jì)算來(lái)直接決定，那么必然會(huì)損害行政法的公正原則。高風(fēng)險(xiǎn)情感計(jì)算的場(chǎng)景可能存在于以下三個(gè)領(lǐng)域當(dāng)中：首先是刑事偵查領(lǐng)域，刑偵、公安等部門(mén)在情感計(jì)算技術(shù)的支持下可以深度參與犯罪嫌疑人的供述過(guò)程；其次是公共教育領(lǐng)域，實(shí)現(xiàn)規(guī)?；c個(gè)性化的有機(jī)結(jié)合已經(jīng)成為《中國(guó)教育現(xiàn)代化2035》的主要任務(wù)，而情感計(jì)算技術(shù)可能會(huì)直接通過(guò)數(shù)據(jù)測(cè)量和生理反饋等途徑影響個(gè)人的受教育權(quán)；再如公共服務(wù)領(lǐng)域，情感計(jì)算技術(shù)將會(huì)決定個(gè)人能否享有公租房、電力、電信等基礎(chǔ)性公共服務(wù)。①情感計(jì)算作為新型科學(xué)技術(shù)具有天然不確定性，將會(huì)使技術(shù)與法律對(duì)公民基本權(quán)利產(chǎn)生深度影響，從而可能直接侵犯?jìng)€(gè)人尊嚴(yán)和公平正義的價(jià)值觀，這也就意味著對(duì)高風(fēng)險(xiǎn)情感計(jì)算必須完全禁止。只有在符合公共利益，嚴(yán)格依照法定程序?qū)p害基本權(quán)利的行為進(jìn)行補(bǔ)償和全流程監(jiān)管的前提下，情感計(jì)算方能應(yīng)用在涉及公民基本權(quán)利的事項(xiàng)之中。

（3）中風(fēng)險(xiǎn)情形下的比例原則審查

中風(fēng)險(xiǎn)情感計(jì)算意味著情感計(jì)算可能對(duì)個(gè)人權(quán)利造成中度影響，不會(huì)產(chǎn)生實(shí)質(zhì)影響。不過(guò)，情感計(jì)算作為先進(jìn)技術(shù)的內(nèi)在邏輯及其具有天然的不確定性因素，使得應(yīng)用情感計(jì)算必然會(huì)對(duì)個(gè)人權(quán)利產(chǎn)生影響，甚至可能對(duì)部分個(gè)人權(quán)利產(chǎn)生實(shí)質(zhì)影響與風(fēng)險(xiǎn)。仍以情感計(jì)算技術(shù)在教育領(lǐng)域的應(yīng)用為例，在線學(xué)習(xí)中情感計(jì)算技術(shù)的廣泛應(yīng)用，使得人工智能能夠隨時(shí)、隨地、隨需地對(duì)學(xué)習(xí)者的教育評(píng)價(jià)和成長(zhǎng)產(chǎn)生影響。如果不能充分考慮學(xué)習(xí)者的個(gè)體差異并提供多樣化、個(gè)性化的在線情感服務(wù)，②雖然可能并不會(huì)剝奪公民個(gè)人的受教育權(quán)，但仍然會(huì)對(duì)公民的受教育權(quán)產(chǎn)生負(fù)面影響。③對(duì)于中風(fēng)險(xiǎn)的情感計(jì)算，需要秉持慎重監(jiān)管的原則，既不能完全禁止，亦不可完全放開(kāi)。對(duì)此，歐盟《人工智能責(zé)任指令（提案）》是較為前沿和完整的制度規(guī)則，此規(guī)則為人工智能制定了一個(gè)可信框架，允許個(gè)人對(duì)人工智能技術(shù)的“錯(cuò)誤行為”造成的損害提出索賠，這一制度可成為情感計(jì)算的規(guī)制借鑒，主要體現(xiàn)在以下七個(gè)層面：第一是分類規(guī)則層面，需要出臺(tái)界定何為中風(fēng)險(xiǎn)情感計(jì)算的分類規(guī)則，綜合評(píng)價(jià)應(yīng)用情感計(jì)算的目的、程度、不利影響可能、人員狀態(tài)、危害結(jié)果是否可逆等多重考量因素。第二是細(xì)化準(zhǔn)則層面，通過(guò)建立風(fēng)險(xiǎn)管理系統(tǒng)，識(shí)別和預(yù)見(jiàn)中風(fēng)險(xiǎn)情感計(jì)算可能引發(fā)的風(fēng)險(xiǎn)，并確立完善的風(fēng)險(xiǎn)告知程序。第三是數(shù)據(jù)治理層面，數(shù)據(jù)是情感計(jì)算系統(tǒng)賴以運(yùn)轉(zhuǎn)與計(jì)算的基礎(chǔ)。需確保情感計(jì)算系統(tǒng)所處理數(shù)據(jù)的質(zhì)量、測(cè)試程度、可驗(yàn)證性等因素，建立完善的數(shù)據(jù)治理體系與管理規(guī)范，尤其應(yīng)當(dāng)注重?cái)?shù)據(jù)采集、處理、評(píng)估和歧視審查等環(huán)節(jié)。第四是記錄保存層面，為提升情感計(jì)算的可驗(yàn)證性與可追責(zé)性，應(yīng)要求情感計(jì)算系統(tǒng)能夠自動(dòng)記錄所預(yù)見(jiàn)的風(fēng)險(xiǎn)事件，提升全生命周期之下情感計(jì)算系統(tǒng)的功能可追溯性。第五是算法規(guī)則層面，需要對(duì)情感計(jì)算系統(tǒng)賴以運(yùn)行的算法透明度與可解釋性作出較高要求，使得情感計(jì)算在系統(tǒng)設(shè)計(jì)、開(kāi)發(fā)運(yùn)行等方面呈現(xiàn)出高透明度。與此同時(shí)，還應(yīng)當(dāng)列明系統(tǒng)提供者的聯(lián)系方式、系統(tǒng)功能與局限、預(yù)期實(shí)現(xiàn)目的等。第六是監(jiān)督管理層面，對(duì)情感計(jì)算系統(tǒng)設(shè)計(jì)過(guò)程進(jìn)行有效監(jiān)督，最大限度地降低對(duì)個(gè)人基本權(quán)利、個(gè)人尊嚴(yán)等事項(xiàng)的侵害風(fēng)險(xiǎn)。這種監(jiān)督應(yīng)當(dāng)貫穿系統(tǒng)設(shè)計(jì)時(shí)、系統(tǒng)投入使用時(shí)以及投入使用后的全過(guò)程中。第七是責(zé)任救濟(jì)層面，應(yīng)盡量減輕情感計(jì)算等人工智能系統(tǒng)造成的損害，為個(gè)人提供全周期、全流程的保護(hù)框架。

（4）低風(fēng)險(xiǎn)情形下的比例原則審查

低風(fēng)險(xiǎn)情感計(jì)算通常意味著其在行政治理中是輕度影響甚至不影響個(gè)人權(quán)利。例如，為辨識(shí)和打擊恐怖主義而進(jìn)行的網(wǎng)絡(luò)輿情管理，為優(yōu)化公共區(qū)域人流車(chē)流而進(jìn)行的人車(chē)識(shí)別，這些往往不涉及單獨(dú)個(gè)體權(quán)利被侵害的情形，不會(huì)對(duì)社會(huì)公平正義造成較大損害。相應(yīng)地，低風(fēng)險(xiǎn)情感計(jì)算需要配以輕度的規(guī)制要求，應(yīng)當(dāng)以“透明度”作為情感計(jì)算算法設(shè)計(jì)與系統(tǒng)信息披露的基本要求，情感計(jì)算服務(wù)提供者應(yīng)盡到對(duì)使用者進(jìn)行提示的基本義務(wù)。①

綜合來(lái)看，為避免情感計(jì)算系統(tǒng)在行政治理中所帶來(lái)的公平正義侵害風(fēng)險(xiǎn)，應(yīng)以比例原則作為調(diào)節(jié)情感計(jì)算系統(tǒng)活動(dòng)的根本價(jià)值準(zhǔn)則。通過(guò)比例原則進(jìn)行情感計(jì)算的風(fēng)險(xiǎn)規(guī)制，不僅符合正義的樸素理念，還能有效地解決算法行政中運(yùn)用情感計(jì)算所帶來(lái)的問(wèn)題。對(duì)于情感計(jì)算所帶來(lái)問(wèn)題的系統(tǒng)治理，根本出路是建立以公正為目的、以風(fēng)險(xiǎn)控制為基礎(chǔ)的規(guī)制體系。因此，上述對(duì)風(fēng)險(xiǎn)從高到低的類型化分析是基礎(chǔ)，宜在此基礎(chǔ)上按照對(duì)基本權(quán)利限制的法理等原理，對(duì)情感計(jì)算系統(tǒng)展開(kāi)全流程的規(guī)制。

五、結(jié)語(yǔ)

情感計(jì)算通過(guò)特定情感信號(hào)和特定情感狀態(tài)之間的映射關(guān)系建立情感模型，其本質(zhì)是對(duì)人類情感狀態(tài)的識(shí)別、感知、模擬與影響．以達(dá)成讓機(jī)器理解人類感情、具備喜怒哀樂(lè)并模擬人類情緒的技術(shù)目標(biāo)。學(xué)界對(duì)情感計(jì)算在教育培訓(xùn)、醫(yī)療健康、商業(yè)服務(wù)等領(lǐng)域的應(yīng)用所呈現(xiàn)的技術(shù)優(yōu)勢(shì)已經(jīng)達(dá)成共識(shí)，情感計(jì)算運(yùn)用于行政治理領(lǐng)域也成為趨勢(shì)所在。然而，情感計(jì)算在行政治理中會(huì)產(chǎn)生諸如侵害人格尊嚴(yán)、有損社會(huì)公正等公共倫理風(fēng)險(xiǎn)。因此預(yù)防和規(guī)制情感計(jì)算在行政治理領(lǐng)域可能引發(fā)的風(fēng)險(xiǎn)便顯得尤為重要。為應(yīng)對(duì)這種情感計(jì)算的現(xiàn)實(shí)風(fēng)險(xiǎn)，需要將知情同意原則置于法律上建構(gòu)規(guī)則的優(yōu)先地位，使得同意作為個(gè)人讓渡權(quán)利和自由的前提與基礎(chǔ)。而在此基礎(chǔ)之上，歐盟和我國(guó)的兩種知情同意模式是兩個(gè)理想范例，但歐盟的特別知情同意模式和中國(guó)的概括知情同意模式均陷于同意模式的困境。在歐盟的特別知情同意模式下，個(gè)人同意的事項(xiàng)范圍是有限的，法律事先對(duì)個(gè)人能夠同意的事項(xiàng)作出了規(guī)制，法律優(yōu)先于意思自治。在中國(guó)的概括知情同意模式下，隱私信息的種類、敏感程度和授權(quán)范圍等事項(xiàng)并沒(méi)有受到嚴(yán)格限定，另外，情感計(jì)算在處理個(gè)人信息時(shí)還可能存在基于國(guó)家或公共利益而無(wú)須獲得權(quán)利人知情同意的情形，這壓縮了數(shù)據(jù)權(quán)利人的權(quán)利空間。對(duì)此，宜將動(dòng)態(tài)同意模式作為保障情感計(jì)算在行政治理中維護(hù)個(gè)人尊嚴(yán)、保障社會(huì)公正的具體路徑。此外，還應(yīng)當(dāng)以公平正義為目的、以風(fēng)險(xiǎn)控制為基礎(chǔ)來(lái)系統(tǒng)構(gòu)建情感計(jì)算的規(guī)制體系，對(duì)情感計(jì)算系統(tǒng)進(jìn)行全流程規(guī)制。