陳虹冰,蔣福明

(南華大學(xué) 馬克思主義學(xué)院，湖南 衡陽(yáng) 421001)

當(dāng)前，人們的衣食住行都在享受著各類APP提供的智能服務(wù)，這種對(duì)用戶的個(gè)性化服務(wù)，是通過(guò)過(guò)濾大量的個(gè)人信息實(shí)現(xiàn)的，算法決策是這一過(guò)程的核心。算法技術(shù)憑借著對(duì)數(shù)據(jù)篩選、相關(guān)性分析的優(yōu)勢(shì)，被廣泛地應(yīng)用到各種場(chǎng)景。然而，算法決策是一把雙刃劍：一方面，通過(guò)搜集、分析、處理海量數(shù)據(jù)，它能輔助政府、企業(yè)和個(gè)人做出更好的決策；另一方面，非理性地應(yīng)用算法決策也引發(fā)了一系列的倫理風(fēng)險(xiǎn)。如何能夠在享受算法決策帶來(lái)便利的同時(shí)保護(hù)人類自身免受侵害，這是生活在智能時(shí)代的每一個(gè)人都需要積極思考并面對(duì)的時(shí)代課題。

一、算法決策及其應(yīng)用

(一) 算法決策的特性

從原始社會(huì)、農(nóng)耕社會(huì)，到工業(yè)革命、電氣革命時(shí)代，再到現(xiàn)今的信息時(shí)代、算法時(shí)代，人類決策伴隨著人類社會(huì)的發(fā)展也經(jīng)歷了經(jīng)驗(yàn)決策、科學(xué)決策、技術(shù)輔助決策和算法決策這幾個(gè)階段。在原始社會(huì)，人們依靠自身的感覺(jué)器官來(lái)感知世界，根據(jù)自身經(jīng)歷來(lái)認(rèn)識(shí)世界，通常是通過(guò)占卜、經(jīng)驗(yàn)進(jìn)行決策。工業(yè)革命時(shí)代，人對(duì)工具的使用發(fā)生了很大的變化，于是人們開(kāi)始做出一些基于科學(xué)知識(shí)(如數(shù)學(xué)真理、物理知識(shí))的科學(xué)決策。到電氣革命甚至是信息時(shí)代，實(shí)際感知的信息變得多樣，感知時(shí)間、空間的信息也變得多樣，人們開(kāi)始依靠科學(xué)技術(shù)來(lái)輔助自身對(duì)外界的感知，如使用顯微鏡可觀測(cè)微小事物、望遠(yuǎn)鏡可觀測(cè)遠(yuǎn)距離的事物，這個(gè)階段是技術(shù)輔助決策。在算法時(shí)代，數(shù)據(jù)信息爆發(fā)增長(zhǎng)，計(jì)算量的需求變大，人們開(kāi)始依靠算法技術(shù)來(lái)進(jìn)行決策。

算法決策是與自然人決策相對(duì)立的概念，意指利用計(jì)算機(jī)技術(shù)、算法程序、深度學(xué)習(xí)等方式來(lái)處理基于用戶足跡形成的大數(shù)據(jù)，憑借其自主性做出決策的行為[1]。相對(duì)于自然人決策，算法決策具有效率高、成本低、應(yīng)用廣等不可替代的優(yōu)勢(shì)。作為算法決策基礎(chǔ)的機(jī)器學(xué)習(xí)算法，具有三個(gè)特性：一是自我學(xué)習(xí)的特性。算法運(yùn)行的結(jié)果并不依賴于人類預(yù)先設(shè)置到預(yù)測(cè)中的每個(gè)變量。事實(shí)上，只要學(xué)習(xí)算法在運(yùn)行，人類就無(wú)法控制它們?nèi)绾谓M合和比較數(shù)據(jù)，算法可以自行決定組合方式。二是黑箱屬性。人們難以直觀地理解機(jī)器學(xué)習(xí)分析的結(jié)果，算法也無(wú)法提供其決策背后的因果解釋。三是快速性和自動(dòng)性[2]。與當(dāng)今數(shù)字時(shí)代的其他計(jì)算策略一樣，機(jī)器學(xué)習(xí)算法做出決策的過(guò)程是快速和自動(dòng)的，甚至可以繞過(guò)人類的考慮和決策，這也是其被廣泛應(yīng)用的原因所在。有時(shí)，算法會(huì)以一種完全自動(dòng)化的方式進(jìn)行決策，不需要人類參與其中。例如，一個(gè)垃圾郵件過(guò)濾器可以從一個(gè)人的電子郵件賬戶中自動(dòng)過(guò)濾出垃圾郵件。有時(shí)，算法決策是部分自動(dòng)化的，人類通過(guò)算法輔助做出決策。例如，算法對(duì)客戶的信譽(yù)進(jìn)行評(píng)估，銀行員工結(jié)合評(píng)估來(lái)決定是否給客戶貸款。

(二)算法決策的優(yōu)勢(shì)

在信息爆炸式增長(zhǎng)的時(shí)代，算法可以幫助人們?cè)谛畔⒑Ｑ笾袦?zhǔn)確、快速、有效地整合有用的信息,輔助人類精準(zhǔn)有效地做出判斷和決策。對(duì)于決策而言，算法具有兩個(gè)明顯的優(yōu)勢(shì)：一是算法擁有超強(qiáng)的數(shù)據(jù)運(yùn)算和統(tǒng)計(jì)能力；二是算法能發(fā)現(xiàn)諸多變量、參數(shù)之間的相關(guān)關(guān)系，并依據(jù)這種強(qiáng)相關(guān)關(guān)系進(jìn)行預(yù)測(cè)。由于算法決策具有人工決策不可比擬的優(yōu)勢(shì)，算法決策也越來(lái)越廣泛地被應(yīng)用于各種場(chǎng)景，使得我們的日常生活更加便利、智能。例如，在外賣(mài)行業(yè)，美團(tuán)、餓了么、大眾點(diǎn)評(píng)等企業(yè)，運(yùn)用算法決策來(lái)提高配送效率；在新聞傳播行業(yè)，快手、抖音、“今日頭條”等平臺(tái)運(yùn)用算法進(jìn)行個(gè)性化精準(zhǔn)推送，以提高新聞資訊的傳播效率；在電商行業(yè)，淘寶、拼多多、京東等購(gòu)物平臺(tái)利用算法了解客戶的消費(fèi)喜好和習(xí)慣進(jìn)行個(gè)性化推薦，以提高經(jīng)濟(jì)效益。此外，算法決策還被廣泛應(yīng)用于公共治理領(lǐng)域。例如，公安預(yù)測(cè)警務(wù)系統(tǒng)利用算法對(duì)歷史犯罪數(shù)據(jù)和可能影響犯罪的各種因素進(jìn)行相關(guān)性分析研究，預(yù)測(cè)在未來(lái)特定時(shí)空范圍內(nèi)可能出現(xiàn)的犯罪狀況和發(fā)展趨勢(shì)，輔助公安開(kāi)展刑偵、維護(hù)社會(huì)治安等工作；居民養(yǎng)老保險(xiǎn)在線審核系統(tǒng)利用算法使得參保人員實(shí)現(xiàn)隨時(shí)隨地辦理資格認(rèn)證、查詢等業(yè)務(wù)。事實(shí)證明，算法決策以悄然又迅猛的方式結(jié)構(gòu)性地滲透到社會(huì)生活的各方面。

二、算法決策的倫理風(fēng)險(xiǎn)

算法決策意味著人逐漸將決策權(quán)交付給算法技術(shù)，這種對(duì)決策權(quán)的讓渡是人類主動(dòng)對(duì)自身特有的主體性的放棄，會(huì)對(duì)個(gè)人甚至是整個(gè)人類世界產(chǎn)生深刻的影響，帶來(lái)一系列倫理風(fēng)險(xiǎn)。在國(guó)內(nèi)外學(xué)者對(duì)算法決策可能引起的倫理風(fēng)險(xiǎn)進(jìn)行的探究中，國(guó)外學(xué)者Andrew Tutt認(rèn)為，算法決策會(huì)導(dǎo)致問(wèn)責(zé)難的問(wèn)題[3]。國(guó)內(nèi)學(xué)者孫建麗認(rèn)為，算法決策會(huì)引發(fā)“信息繭房”、隱私泄露和歧視風(fēng)險(xiǎn)[4]。

隨著算法決策在各個(gè)領(lǐng)域的廣泛應(yīng)用，算法決策引起的弊端也日益凸顯：算法自動(dòng)關(guān)聯(lián)引發(fā)個(gè)體遭遇非自愿泄露隱私風(fēng)險(xiǎn)、算法決策弱化人的主體能力、算法權(quán)威壓縮人的自主選擇空間；大數(shù)據(jù)殺熟嚴(yán)重地侵害消費(fèi)者權(quán)益。

(一)算法自動(dòng)關(guān)聯(lián)導(dǎo)致“非自愿泄露隱私”

人與動(dòng)物不同，無(wú)法像動(dòng)物那樣依靠先天的、特定的器官和本能適應(yīng)環(huán)境的挑戰(zhàn)，為了彌補(bǔ)自身的缺陷，獲得安全與穩(wěn)定，它必須培養(yǎng)適應(yīng)能力，正是這種先天的脆弱性和本能貧乏使得安全需求成為人首先要解決的問(wèn)題，也是這種安全需求導(dǎo)致了技術(shù)的產(chǎn)生。也就是說(shuō)，技術(shù)的誕生本應(yīng)滿足人的安全需求，但是算法自動(dòng)關(guān)聯(lián)下的“數(shù)字畫(huà)像”和“網(wǎng)絡(luò)監(jiān)控”，使得個(gè)體遭遇非自愿泄露隱私的風(fēng)險(xiǎn)，背離了技術(shù)原有的價(jià)值需求，增加了人的不安全感。

1.算法自動(dòng)關(guān)聯(lián)形成的數(shù)字畫(huà)像，使得個(gè)體遭遇非自愿泄露個(gè)人生物性敏感信息的風(fēng)險(xiǎn)。庫(kù)帕認(rèn)為，數(shù)字畫(huà)像是建立在個(gè)人數(shù)據(jù)信息之上，真實(shí)反映用戶的虛擬模型[5]。算法在數(shù)據(jù)收集、模型構(gòu)建和模型使用的各個(gè)階段是相互關(guān)聯(lián)的[6]，這種關(guān)聯(lián)是自動(dòng)形成的，無(wú)需獲取數(shù)據(jù)主體的“知情同意”，也不需要獲得個(gè)人的授權(quán)，人甚至難以與這種關(guān)聯(lián)相抗衡。算法通過(guò)大數(shù)據(jù)向每個(gè)用戶設(shè)置各種標(biāo)簽來(lái)刻畫(huà)用戶的數(shù)字畫(huà)像，記錄每個(gè)用戶的身份信息、個(gè)人興趣、薪資水平、消費(fèi)習(xí)慣、生活方式等。算法自動(dòng)關(guān)聯(lián)能對(duì)個(gè)人的部分?jǐn)?shù)據(jù)信息進(jìn)行交互分析、深度挖掘，進(jìn)而刻畫(huà)出數(shù)據(jù)主體的整體形象，這種畫(huà)像能對(duì)數(shù)據(jù)主體在特定時(shí)間和空間內(nèi)的行為進(jìn)行還原，會(huì)使得個(gè)體遭遇非自愿泄露個(gè)人生物性敏感信息的風(fēng)險(xiǎn)。數(shù)字畫(huà)像中含有每個(gè)人唯一且不可更改的生物識(shí)別信息，例如人臉、指紋、語(yǔ)音等。這些生物識(shí)別信息一旦泄露就意味著終身泄露，由此產(chǎn)生的風(fēng)險(xiǎn)和危害不可估量。無(wú)需置疑的是，與家庭住址或者手機(jī)號(hào)信息的泄露相比，帶有個(gè)人唯一性的生物識(shí)別數(shù)據(jù)的泄露所帶來(lái)的潛在安全風(fēng)險(xiǎn)更為嚴(yán)峻。

2.算法自動(dòng)關(guān)聯(lián)下形成的網(wǎng)絡(luò)監(jiān)控，使個(gè)體遭遇非自愿的公共暴露個(gè)人隱私的風(fēng)險(xiǎn)。作為生活在智能時(shí)代的社會(huì)人，需要以犧牲自己的一部分個(gè)人信息和隱私作為代價(jià)，來(lái)?yè)Q取現(xiàn)代技術(shù)所帶來(lái)的高效、便利。因此，自愿犧牲一部分隱私達(dá)到社交目的也是不可避免的。但這個(gè)紅線在于，是否是個(gè)體在知情同意原則下自愿交付出個(gè)人信息，是否能保障個(gè)人隱私的安全。無(wú)所不在的通信設(shè)備、路邊及閉路監(jiān)控系統(tǒng)的攝像頭都能對(duì)個(gè)人進(jìn)行物理觀測(cè)或追蹤。2021年，央視3·15晚會(huì)曝光了多家知名商店安裝人臉識(shí)別攝像頭，這些攝像頭能自動(dòng)獲取消費(fèi)者的人臉信息并自動(dòng)生成編號(hào)，這一切都是在消費(fèi)者毫不知情、非自愿的情況下進(jìn)行的。這些人臉信息一旦被泄露，將嚴(yán)重威脅人的隱私安全。雖然有關(guān)法律規(guī)定，在處理個(gè)人信息時(shí)應(yīng)遵循正當(dāng)、合法和必要的原則，但仍然難以避免因單方面收集個(gè)人信息所造成的對(duì)隱私空間的侵犯。原因在于算法能發(fā)現(xiàn)眾多的片面化信息之間的相關(guān)性，經(jīng)演算、推斷后還原出未經(jīng)信息主體授權(quán)的個(gè)人隱私信息。另外，網(wǎng)絡(luò)應(yīng)用常以用戶必須提供個(gè)人信息作為服務(wù)的準(zhǔn)入門(mén)檻。如各類智能APP，要求用戶對(duì)手機(jī)位置、個(gè)人相冊(cè)、通訊錄等功能進(jìn)行授權(quán)，盡管這些與其所提供的服務(wù)并無(wú)直接關(guān)系。

(二)算法自動(dòng)決策弱化個(gè)體的主體能力

人的主體能力突出表現(xiàn)在人的主體性地位，主體性是主體的本質(zhì)特性，是主體在對(duì)象性活動(dòng)中內(nèi)在力量的外化，能動(dòng)地改造、影響和控制客體，使客體服務(wù)于主體的特性。主體性的內(nèi)涵主要有兩個(gè)方面：從主體出發(fā)，主體占據(jù)主導(dǎo)地位，客體服務(wù)于主體；主體本質(zhì)力量的外化[7]。算法決策在不斷地弱化人的主體能力，主要體現(xiàn)在強(qiáng)化人對(duì)算法決策的依賴和人面臨主體客體化風(fēng)險(xiǎn)兩個(gè)方面：

1.強(qiáng)化人對(duì)算法決策的依賴，削弱人的主體性?，F(xiàn)今，算法的身影遍布人類社會(huì)生活的各個(gè)角落，甚至存在于人類生命的每分每秒中?，F(xiàn)代的算法能夠安排人們每天的行程，為人們的生活提供各種娛樂(lè)和便利。我們使用的每一個(gè)計(jì)算機(jī)軟件、程序、APP，背后都蘊(yùn)含對(duì)算法的使用。但是，算法技術(shù)對(duì)技術(shù)人員與非技術(shù)人員的主體性影響不盡相同：對(duì)專業(yè)的技術(shù)人員而言，為更新技術(shù)，他們需要不斷地提高創(chuàng)造力；但專業(yè)的技術(shù)人員畢竟是少數(shù)，更多的非技術(shù)人員常在不自覺(jué)中強(qiáng)化對(duì)算法的依賴，相應(yīng)地被剝奪了一部分創(chuàng)造力，削弱個(gè)體的主體性。審視各種算法決策的應(yīng)用場(chǎng)景，非但沒(méi)有提高人們對(duì)技術(shù)的警覺(jué)來(lái)獲得自身更高的自主性，反倒引導(dǎo)人們向低層次的本能屈服，等待算法給出“最優(yōu)決策”，使得人逐漸成為依附算法決策的齒輪，而不是積極思考該如何發(fā)揮主觀能動(dòng)性進(jìn)行決策。如果任由算法決策肆意廣泛應(yīng)用而不加約束，很有可能導(dǎo)致算法決策取代自然人決策而令算法權(quán)力進(jìn)一步加強(qiáng)，以致慢慢弱化，甚至徹底吞噬個(gè)人的主體性。在這種情況下，如何自主、自發(fā)地培養(yǎng)人的主體能力，預(yù)防人的主體能力弱化是一個(gè)很值得深思的問(wèn)題。

2.算法技術(shù)客體主體化，人被客體化，呈現(xiàn)出一種主體被客體化風(fēng)險(xiǎn)。客體主體化、主體客體化是實(shí)踐活動(dòng)過(guò)程中主體與客體關(guān)系的表征。例如，異化勞動(dòng)是勞動(dòng)在資本主義社會(huì)這一特定歷史階段的具體表征。對(duì)于主客體之間的關(guān)系，現(xiàn)代倫理學(xué)以將主客二分為核心而展開(kāi)，義務(wù)論聚焦于主體的純粹意志，后果論則尋求對(duì)客體性的理解。算法技術(shù)客體主體化是人類運(yùn)用算法技術(shù)改造客觀世界的過(guò)程中形成的危及人自身主體地位的反作用，使得人失去主導(dǎo)支配地位，呈現(xiàn)出客體化的風(fēng)險(xiǎn)。在算法系統(tǒng)中，人通過(guò)數(shù)據(jù)化被賦予相應(yīng)的意義，成為算法定義的對(duì)象，這種定義并不是從主體角度出發(fā)，而是通過(guò)可以被計(jì)算和預(yù)測(cè)的客體來(lái)看待個(gè)人[8]。具體表現(xiàn)在：用戶要滿足算法的預(yù)設(shè)條件方能享受其提供的服務(wù)；算法的信息篩選機(jī)制限制了人的網(wǎng)絡(luò)空間自由度；算法利用作為“計(jì)算組件”的人類來(lái)增強(qiáng)自身的權(quán)威。算法憑借著特有的運(yùn)行邏輯，“將每個(gè)個(gè)體都作為算法邏輯體系下的參數(shù)而不考慮個(gè)體主體性”[9]，反客為主地調(diào)節(jié)、甚至支配人們的行為，使得人面臨主體客體化風(fēng)險(xiǎn)。

(三)算法權(quán)威壓縮個(gè)體自主選擇空間

施密特(Hermann Schmidit)認(rèn)為，技術(shù)作用的過(guò)程分為三個(gè)階段：一是工具階段。在這一階段，主體仍需將勞動(dòng)所必需的物理能量和智力投入到改造世界的實(shí)踐活動(dòng)中，如人在勞作時(shí)使用斧頭、錘子等工具來(lái)節(jié)省勞力。二是機(jī)器階段。在這個(gè)階段，技術(shù)手段使人的物理能量轉(zhuǎn)化，勞力的輸入變得不必要，如工業(yè)自動(dòng)化生產(chǎn)的流水線作業(yè)，勞力投入成為非必要的。三是自動(dòng)機(jī)階段[10]。在這個(gè)階段，智力上的投入也變得不必要。技術(shù)由工具到機(jī)器再到自動(dòng)機(jī)階段，逐漸降低了人類的參與度，直至實(shí)現(xiàn)完全的自動(dòng)化。

算法決策處于技術(shù)自動(dòng)機(jī)階段，“正逐漸突破工具屬性而進(jìn)行著實(shí)質(zhì)性的資源調(diào)配、作出決策等行為”[11]，基本不太需要人類的參與，人被逐漸排擠出決策空間。另外，由算法決策的單向強(qiáng)制性和黑箱性所形成的算法權(quán)威使得人無(wú)法與其相抗衡，而算法權(quán)威又會(huì)進(jìn)一步擴(kuò)大“信息繭房”效應(yīng)，人的自主選擇空間便在這種雙重影響下不斷壓縮。

1.由算法決策的單向強(qiáng)制性和黑箱性所形成的算法權(quán)威，使得人面臨被迫忍受壓縮個(gè)體自由選擇空間的窘境。算法的自動(dòng)決策性，在促使生產(chǎn)者形成高效、快速的效率思維的同時(shí)，還對(duì)作為對(duì)象的數(shù)據(jù)主體造成個(gè)人自主空間縮小的不利影響，使其面臨受算法支配的風(fēng)險(xiǎn)。原因在于，算法決策具有較強(qiáng)的單向強(qiáng)制性，數(shù)據(jù)主體在遭遇不合理的或帶有偏見(jiàn)的算法決策時(shí)，常常面臨著被迫忍受壓縮自治空間甚至是退出某一數(shù)字領(lǐng)域的窘境。這種對(duì)主體在數(shù)據(jù)接受方面的單向強(qiáng)制性傾向，即所謂的“算法權(quán)威”[12]。另外，算法決策過(guò)程猶如一個(gè)黑盒子，具有不透明性，人無(wú)法直接參與算法決策系統(tǒng)的內(nèi)在流程，也沒(méi)機(jī)會(huì)向其做出的錯(cuò)誤或者帶有偏見(jiàn)的決策提出異議，這也是人缺乏自主選擇權(quán)的體現(xiàn)。

2.算法權(quán)威會(huì)加強(qiáng)“信息繭房”效應(yīng)，抑制人的自由選擇權(quán)?！靶畔⒗O房”這一概念最初由哈佛大學(xué)桑斯坦提教授提出，指的是在面對(duì)海量信息傳播時(shí)，公眾只關(guān)注自己感興趣的訊息，不關(guān)注其他信息，長(zhǎng)此以往，便會(huì)將自己限制在“繭房”之中[13]。以往，人們主要通過(guò)人際傳播、傳統(tǒng)媒體傳播等渠道來(lái)獲取外部信息?，F(xiàn)今，與早期網(wǎng)絡(luò)時(shí)代人主動(dòng)搜索信息不同，人們獲取信息的方式是由算法對(duì)用戶興趣偏好挖掘后而進(jìn)行的個(gè)性化內(nèi)容分發(fā)。這種對(duì)用戶進(jìn)行的個(gè)性化信息推送，將用戶鎖定在由算法定制的某種同類型的信息圈層中，同類型信息的不斷循環(huán)出現(xiàn)將用戶桎梏在封閉的信息空間，會(huì)讓用戶誤以為自己獲取的信息是全面且多元的，進(jìn)而影響用戶的自主選擇，壓縮了用戶的自主選擇空間。

(四)大數(shù)據(jù)殺熟損害個(gè)體消費(fèi)權(quán)益

大數(shù)據(jù)殺熟是算法決策應(yīng)用于商業(yè)領(lǐng)域所引發(fā)的不良后果，指的是商家通過(guò)平臺(tái)掌握消費(fèi)者的消費(fèi)偏好和消費(fèi)水平后，對(duì)數(shù)據(jù)主體進(jìn)行大數(shù)據(jù)分析，將同一商品或服務(wù)進(jìn)行差別定價(jià)賣(mài)給不同的消費(fèi)者以獲取更大的經(jīng)濟(jì)利益的行為，嚴(yán)重地?fù)p害了消費(fèi)者的權(quán)益。在互聯(lián)網(wǎng)時(shí)代，網(wǎng)上交易、搜索是人們不可避免的行為，這些行為往往會(huì)在平臺(tái)上留下專屬于特定個(gè)體的瀏覽、下單、收藏、評(píng)價(jià)等足跡。交易平臺(tái)背后的算法猶如一個(gè)信息處理器，它積累、分析這些足跡，并在不同的交易平臺(tái)之間進(jìn)行通信、共享和集成，最終形成“大數(shù)據(jù)”。具有深度學(xué)習(xí)能力的算法根據(jù)已形成的“大數(shù)據(jù)”，對(duì)不同群體或者是特定的個(gè)體進(jìn)行推送或定價(jià)。例如，同樣的一份外出行程單，網(wǎng)約車(chē)平臺(tái)對(duì)價(jià)格不敏感的乘客收取更多的費(fèi)用；相同的一份外賣(mài)訂單，外賣(mài)平臺(tái)對(duì)同一地區(qū)的不同客戶收取不同的服務(wù)費(fèi)；同樣的一份商品或服務(wù)，平臺(tái)對(duì)使用高端手機(jī)的客戶收取更多的費(fèi)用。

大數(shù)據(jù)殺熟主要有兩種表現(xiàn)形式：一是差別定價(jià)，二是特定推送，誘導(dǎo)消費(fèi)。

1.差別定價(jià)的實(shí)現(xiàn)途徑主要有三種：一是以客戶所使用的設(shè)備為根據(jù)進(jìn)行差別定價(jià)。例如，在滴滴打車(chē)系統(tǒng)里，蘋(píng)果手機(jī)打車(chē)的費(fèi)用最高，安卓手機(jī)價(jià)格越高，打車(chē)越貴；二是以客戶消費(fèi)時(shí)的位置和場(chǎng)合為根據(jù)進(jìn)行差別定價(jià)。如果你所處的地理位置附近的商場(chǎng)少，算法便會(huì)判定你購(gòu)物不方便，然后為你想要購(gòu)買(mǎi)的商品加價(jià)；三是以客戶的消費(fèi)水平和消費(fèi)頻率為根據(jù)進(jìn)行差別定價(jià)。如果你過(guò)往購(gòu)買(mǎi)的商品價(jià)格偏高，或者在短時(shí)間內(nèi)對(duì)同一件商品進(jìn)行多次搜索，大數(shù)據(jù)也會(huì)依此來(lái)對(duì)你的商品進(jìn)行加價(jià)。

2.誘導(dǎo)消費(fèi)的實(shí)現(xiàn)途徑主要有三種：一是分析消費(fèi)者的價(jià)格敏感度，對(duì)“高凈值客戶”隱藏性價(jià)比更高的商品或服務(wù)；算法可以控制商品的可見(jiàn)性，直接屏蔽價(jià)格低的商品，客戶只能被迫購(gòu)買(mǎi)價(jià)格高的商品；二是分析消費(fèi)者的消費(fèi)偏好，然后反復(fù)推送，從而激發(fā)消費(fèi)者的隱性消費(fèi)偏好。算法系統(tǒng)注重用戶搜索使用的詞語(yǔ)及其相關(guān)性，可以通過(guò)對(duì)用戶數(shù)據(jù)進(jìn)行交互分析來(lái)發(fā)現(xiàn)個(gè)體想要隱藏或者忽略的個(gè)性特征，做到比用戶更了解用戶。算法預(yù)測(cè)用戶的購(gòu)買(mǎi)欲望后對(duì)其進(jìn)行針對(duì)性推送，牽引式激發(fā)消費(fèi)者的隱性消費(fèi)，使得那些甚至消費(fèi)者自己都沒(méi)意識(shí)到的購(gòu)物需求被挖掘出來(lái)；三是利用算法的自主學(xué)習(xí)和預(yù)測(cè)功能，實(shí)現(xiàn)各種搜索界面協(xié)調(diào)一致，限制客戶的多樣化選擇。人類社會(huì)生活的各個(gè)領(lǐng)域都被大數(shù)據(jù)所包裹，掌握著相關(guān)數(shù)據(jù)的互聯(lián)網(wǎng)巨頭憑借著數(shù)據(jù)資源，不斷演變算法，強(qiáng)化競(jìng)爭(zhēng)優(yōu)勢(shì)，獲取消費(fèi)者剩余，對(duì)消費(fèi)者的權(quán)益造成了一定的傷害。

三、算法決策倫理風(fēng)險(xiǎn)的規(guī)避策略

造成算法決策倫理風(fēng)險(xiǎn)的原因不是單一的，它往往是多種因素共同作用的結(jié)果，應(yīng)從價(jià)值、技術(shù)和審查多個(gè)維度尋求防控算法決策倫理風(fēng)險(xiǎn)的策略：第一，關(guān)于技術(shù)是否具有價(jià)值屬性的討論一直是學(xué)界存在爭(zhēng)論的話題，尤其是在現(xiàn)今科學(xué)技術(shù)發(fā)展如此迅猛的時(shí)代?！八惴ň哂袃r(jià)值屬性，持不同價(jià)值判斷的人會(huì)設(shè)計(jì)不同的算法。”[14]因此，從價(jià)值理念的維度對(duì)算法技術(shù)的倫理嵌入就變得有可能，設(shè)計(jì)人員秉承良善的價(jià)值理念來(lái)設(shè)計(jì)技術(shù)或許是應(yīng)對(duì)算法決策倫理風(fēng)險(xiǎn)的有效途徑。第二，技術(shù)與倫理學(xué)有著密不可分的關(guān)系，從技術(shù)對(duì)人類實(shí)踐的調(diào)節(jié)作用層面而言，暗含著一定價(jià)值的技術(shù)參與了人的行為倫理學(xué)，亦理應(yīng)從技術(shù)的維度尋求防控算法決策的倫理風(fēng)險(xiǎn)的措施。第三，正如上面提到的在技術(shù)應(yīng)用的過(guò)程或結(jié)果中產(chǎn)生了一些負(fù)面效應(yīng)，消極地拒絕使用算法決策是不可能的，而應(yīng)從審查的維度來(lái)確保算法決策發(fā)揮積極作用。

(一) 價(jià)值之維:以人為本，賦予人免受算法決策支配的權(quán)利

算法技術(shù)作為一種功能強(qiáng)大的集成技術(shù)，可以廣泛有效地賦能諸多應(yīng)用場(chǎng)景。然而，我們不應(yīng)該只關(guān)注技術(shù)賦能的所帶來(lái)的正面效應(yīng)，而忽視技術(shù)濫用帶來(lái)的負(fù)面效應(yīng)。為了實(shí)現(xiàn)科技時(shí)代下人類美好生活的愿景，秉承“科技之真”與“道德之善”相互協(xié)調(diào)的價(jià)值理念，我們不僅要強(qiáng)調(diào)科技賦能，還要重視對(duì)個(gè)體的賦權(quán)，即重視公眾權(quán)利的實(shí)現(xiàn)。與相對(duì)孤立且分散的個(gè)體相比，政府、企業(yè)機(jī)構(gòu)在掌握數(shù)據(jù)和信息方面有絕對(duì)的優(yōu)勢(shì)，在這種力量懸殊的情境之下，更應(yīng)該堅(jiān)守以人為本的宗旨，重視對(duì)個(gè)人權(quán)利的保障。

1.算法設(shè)計(jì)人員需要堅(jiān)守以人為本的宗旨，秉持良善的技術(shù)設(shè)計(jì)倫理原則來(lái)設(shè)計(jì)算法。目前學(xué)界就技術(shù)的價(jià)值屬性問(wèn)題主要存在兩種觀點(diǎn)：一是技術(shù)價(jià)值論，二是技術(shù)中立論。技術(shù)價(jià)值論則認(rèn)為，技術(shù)是具有價(jià)值屬性的，它承載著人的價(jià)值取向和判斷；技術(shù)中立論認(rèn)為，技術(shù)沒(méi)有善惡之分，在于人以何種目的使用技術(shù)。技術(shù)價(jià)值論基于技術(shù)的社會(huì)屬性來(lái)論述技術(shù)的價(jià)值屬性，認(rèn)為技術(shù)內(nèi)含一定的價(jià)值判斷；技術(shù)中立論則基于技術(shù)的自然屬性來(lái)論述技術(shù)僅是方法論意義上的一種工具和手段。事實(shí)上，技術(shù)是集自然屬性和社會(huì)屬性于一身的統(tǒng)一體，而技術(shù)中立論和技術(shù)價(jià)值論分別從技術(shù)的自然屬性和社會(huì)屬性來(lái)解讀技術(shù)本質(zhì)，將兩者簡(jiǎn)單割裂開(kāi)[15]。然而，隨著技術(shù)的發(fā)展，我們發(fā)現(xiàn)技術(shù)存在于設(shè)計(jì)階段、應(yīng)用階段和技術(shù)體系中，是在自然屬性與社會(huì)屬性的交互融合中具有了價(jià)值屬性。既然技術(shù)具有價(jià)值屬性，那么技術(shù)設(shè)計(jì)人員的價(jià)值觀念會(huì)不可避免地嵌入到他們?cè)O(shè)計(jì)的技術(shù)當(dāng)中。因此，不應(yīng)僅從技術(shù)應(yīng)用層面去尋求其帶來(lái)“善”的結(jié)果，更應(yīng)該從技術(shù)本身尋求“善”，使技術(shù)本身帶有“善”的內(nèi)在基因，進(jìn)一步實(shí)現(xiàn)“善”的價(jià)值目標(biāo)。因此，要想使算法技術(shù)從誕生之時(shí)就向善，還得從技術(shù)設(shè)計(jì)主體著手，使其牢固樹(shù)立以人為本、公平公正的設(shè)計(jì)原則，對(duì)算法技術(shù)進(jìn)行道德化設(shè)計(jì)。

2.應(yīng)積極培養(yǎng)個(gè)體自我賦權(quán)意識(shí)。自我賦權(quán)是社會(huì)弱勢(shì)群體利用自身的積極性、能動(dòng)性、主體性賦予或充實(shí)自己權(quán)力的體現(xiàn)。在算法大行其道的時(shí)代，缺乏專業(yè)知識(shí)與敏感性的大部分社會(huì)公眾都沉浸在算法所帶來(lái)的技術(shù)紅利的喜悅中，忽視了其對(duì)個(gè)人造成的潛在威脅，這種對(duì)技術(shù)的無(wú)意識(shí)放任了算法決策對(duì)人的自主權(quán)的入侵。培養(yǎng)個(gè)體自我賦權(quán)意識(shí)，有利于喚醒人對(duì)算法決策的警惕性，批判性地對(duì)待算法決策，保持一種獨(dú)立思考的能力。另外，由于算法決策形成的“強(qiáng)者權(quán)利”與個(gè)人力量對(duì)比懸殊，亦應(yīng)賦予個(gè)人相應(yīng)的權(quán)利，使個(gè)體免受算法決策支配的侵害。賦予人免受算法支配的權(quán)利，意味著個(gè)人面對(duì)在黑箱遮蔽下形成的不合理的算法決策時(shí)，有權(quán)利拒絕或者不采納其決策，這對(duì)實(shí)現(xiàn)作為個(gè)體存在的人要求被作為個(gè)體來(lái)對(duì)待的基本權(quán)利亦有重要意義。

(二) 技術(shù)之維：匿名隱私保護(hù)算法，保護(hù)個(gè)體隱私

現(xiàn)代文明的進(jìn)步帶來(lái)了日益緊張和復(fù)雜的生活狀態(tài)，人們開(kāi)始對(duì)公共場(chǎng)合變得更加敏感和有界限感，在此基礎(chǔ)上，擁有一個(gè)自己的相對(duì)獨(dú)立和私密的空間變得尤為重要。隱私權(quán)是基本人權(quán)，隱私被侵犯會(huì)使人們?cè)馐芫裆系耐纯嗪屠_，與純粹身體上的傷害相比，有過(guò)之而無(wú)不及。現(xiàn)今，保護(hù)個(gè)人隱私比以往任何時(shí)候都顯得更加地刻不容緩。依靠法律手段來(lái)保護(hù)個(gè)人隱私是必須且強(qiáng)有力的，但是法律手段也有諸如難以查處有些行為、相對(duì)滯后等缺陷。既然是技術(shù)的進(jìn)步為侵犯?jìng)€(gè)人隱私提供了便利的工具和途徑，同樣地，也應(yīng)該積極地從技術(shù)層面為人們的隱私尋求保護(hù)。

大數(shù)據(jù)的廣泛應(yīng)用可能會(huì)對(duì)數(shù)據(jù)安全和隱私構(gòu)成一定的威脅，而現(xiàn)今的數(shù)據(jù)安全不僅再是停留在以往對(duì)數(shù)據(jù)損壞或丟失的擔(dān)憂上，更重要的問(wèn)題在于，數(shù)據(jù)是否會(huì)被盜用甚至濫用。由于網(wǎng)絡(luò)服務(wù)自身的技術(shù)特點(diǎn)和日常的網(wǎng)絡(luò)活動(dòng)都帶有身份標(biāo)識(shí)，網(wǎng)絡(luò)行為便演化成數(shù)據(jù)。造成個(gè)人隱私泄露的主要原因在于濫用個(gè)人數(shù)據(jù)。那么，對(duì)于這種數(shù)據(jù)，是否可以通過(guò)對(duì)數(shù)據(jù)匿名化的方式使不同的場(chǎng)景應(yīng)用接觸到數(shù)據(jù)之前實(shí)現(xiàn)隱私保護(hù)？是否有一種可以保護(hù)個(gè)人隱私數(shù)據(jù)并保證數(shù)據(jù)集的可用性的算法？隱私保護(hù)匿名算法便在這樣的背景下誕生。

起初，匿名化算法意在去掉集中起到唯一標(biāo)識(shí)作用的數(shù)據(jù)信息，只公開(kāi)包含類標(biāo)識(shí)信息(QI)和敏感屬性信息(SA)的數(shù)據(jù)集，但這種匿名作用會(huì)在遇到鏈接攻擊時(shí)失效。為降低實(shí)施鏈接攻擊的可能性，有人提出了k-匿名(k-anonymization)隱私保護(hù)算法，該算法要求發(fā)布的數(shù)據(jù)存在一定數(shù)量(至少為k)的在類標(biāo)識(shí)符上不可區(qū)分的記錄，旨在通過(guò)去除或者泛化處理一些類標(biāo)識(shí)信息來(lái)實(shí)現(xiàn)更好的匿名效果來(lái)保護(hù)個(gè)人隱私。但是，由于k-匿名算法對(duì)敏感屬性算法未做任何的限制，攻擊者仍然可以通過(guò)同質(zhì)攻擊和背景知識(shí)攻擊來(lái)訪問(wèn)個(gè)人數(shù)據(jù)。于是，l-多樣性匿名保護(hù)算法被提出，要求每個(gè)等價(jià)類中至少存在l種互不相同的敏感屬性。簡(jiǎn)言之，k-匿名和l-多樣性算法都是通過(guò)對(duì)數(shù)據(jù)集進(jìn)行干擾處理以實(shí)現(xiàn)隱私保護(hù)的目的，缺陷在于沒(méi)法嚴(yán)格定義攻擊模式，也無(wú)法量化攻擊者的背景知識(shí)，導(dǎo)致這兩種算法只能在某些特定場(chǎng)景下運(yùn)用，存在一定的局限性。后來(lái)，Dwork等人提出了差分隱私保護(hù)算法，該算法根據(jù)隱私函數(shù)來(lái)保護(hù)數(shù)據(jù)集，基本原理是根據(jù)數(shù)據(jù)失真技術(shù)來(lái)保護(hù)隱私。例如，轉(zhuǎn)換原始數(shù)據(jù)或者對(duì)統(tǒng)計(jì)結(jié)果添加噪音，是目前較為穩(wěn)定安全的隱私保護(hù)算法[16]。由此可見(jiàn)，從隱私保護(hù)匿名算法的初步想法到k-匿名和l-多樣性算法，再到差分隱私保護(hù)算法，人們從未放棄以技術(shù)手段保護(hù)隱私的嘗試。未來(lái)，加強(qiáng)對(duì)隱私保護(hù)算法技術(shù)的研究，亦是有效防范隱私泄露的重要措施之一。

(三) 審查之維：人工干預(yù)，矯正算法決策偏差

大數(shù)據(jù)殺熟是基于商業(yè)利益的驅(qū)動(dòng)，人為的力量干預(yù)算法決策，引導(dǎo)甚至放任算法做出有利于商家自身的決策。在這個(gè)意義上，大數(shù)據(jù)殺熟是算法決策偏差的結(jié)果。算法決策主要包括三個(gè)階段：首先是數(shù)據(jù)收集階段，然后將數(shù)據(jù)用于機(jī)器學(xué)習(xí)以開(kāi)發(fā)模型，即模型開(kāi)發(fā)階段，最后將該模型用于最終決策，即模型使用階段。人工介入是從技術(shù)審查的維度應(yīng)對(duì)算法決策偏差最為直接的方法，主要體現(xiàn)在對(duì)算法決策的三個(gè)階段進(jìn)行人工干預(yù):

1.對(duì)算法決策的數(shù)據(jù)收集階段進(jìn)行干預(yù)，保證數(shù)據(jù)的質(zhì)量問(wèn)題。在算法決策引起的倫理風(fēng)險(xiǎn)中，很大一部分原因在于建立算法模型所使用的數(shù)據(jù)存在質(zhì)量問(wèn)題，直接導(dǎo)致算法技術(shù)應(yīng)用產(chǎn)生負(fù)面效應(yīng)。統(tǒng)計(jì)學(xué)中對(duì)數(shù)據(jù)進(jìn)行采集有兩個(gè)重要的點(diǎn)：一是量，二是質(zhì)。這兩者都會(huì)影響統(tǒng)計(jì)結(jié)果的準(zhǔn)確度，進(jìn)一步影響技術(shù)的好壞。一般而言，統(tǒng)計(jì)數(shù)據(jù)量越大，得到的統(tǒng)計(jì)結(jié)果就越準(zhǔn)確，此外還要求采集的數(shù)據(jù)盡可能公平客觀，使其具有代表性。如果在數(shù)據(jù)收集階段，使用扭曲的數(shù)據(jù)將會(huì)產(chǎn)生一個(gè)扭曲的模型，數(shù)據(jù)集中帶有偏見(jiàn)的數(shù)據(jù)也會(huì)在決策階段重現(xiàn)這種偏見(jiàn)[17]。因此，要對(duì)數(shù)據(jù)進(jìn)行干預(yù)，規(guī)范使用數(shù)據(jù)，盡可能保證數(shù)據(jù)樣本的公平客觀。

2.對(duì)算法決策的模型開(kāi)發(fā)階段和使用階段進(jìn)行人工干預(yù)。自然人應(yīng)該積極介入模型開(kāi)發(fā)階段以降低算法決策偏差所帶來(lái)的影響。例如，自然人可以更正不正確或帶有偏見(jiàn)的原始信息。然而，僅在模型開(kāi)發(fā)階段進(jìn)行人工介入，還不能完全確保糾正決策偏差的有效性，還需要對(duì)模型使用階段進(jìn)行人工干預(yù)。以人工干預(yù)的方式對(duì)不合理或帶有偏見(jiàn)的算法決策進(jìn)行糾正，即以“自然人所具備的一般理性和情感”對(duì)信息主體的相關(guān)信息進(jìn)行審查。以健康碼為例，當(dāng)公民發(fā)現(xiàn)自身持有的健康碼所呈現(xiàn)的健康狀況與自身實(shí)際情況不吻合時(shí)，可以撥打12345政府服務(wù)熱線發(fā)起糾錯(cuò)申請(qǐng)，經(jīng)縣級(jí)防控指揮部核實(shí)，若情況屬實(shí)便可進(jìn)行更改。人工干預(yù)并不是當(dāng)消費(fèi)者覺(jué)察到被差異定價(jià)后再由人工審核定價(jià)的合理性，而是由自然人專家主動(dòng)監(jiān)測(cè)算法決策的各個(gè)環(huán)節(jié)，防止利潤(rùn)最大化導(dǎo)向下算法決策的“脫韁”，以事前的“主動(dòng)人工干預(yù)”盡可能地避免算法決策偏差所引發(fā)的風(fēng)險(xiǎn)。

四、結(jié)語(yǔ)

算法時(shí)代已悄然來(lái)臨，相對(duì)于人工決策而言，算法決策因其效率高、成本低的優(yōu)勢(shì)而被廣泛應(yīng)用于各個(gè)領(lǐng)域，變革了人們的生活方式，促進(jìn)了社會(huì)生活的智能化。然而，算法決策在釋放技術(shù)紅利的同時(shí)，由此引發(fā)的倫理風(fēng)險(xiǎn)隨之而來(lái)：算法自動(dòng)關(guān)聯(lián)形成的數(shù)字畫(huà)像和網(wǎng)絡(luò)監(jiān)控，使得個(gè)體遭遇非自愿泄露個(gè)人生物性敏感信息和非自愿的公共暴露個(gè)人隱私的風(fēng)險(xiǎn)；算法決策會(huì)增強(qiáng)人對(duì)算法決策的依賴，削弱人的主體性，呈現(xiàn)出一種主體被客體化風(fēng)險(xiǎn)；算法決策的單向強(qiáng)制性和黑箱性所形成的算法權(quán)威，使得人面臨被迫忍受壓縮個(gè)體自由選擇空間的窘境，進(jìn)一步加強(qiáng)“信息繭房”效應(yīng)；算法決策應(yīng)用于商業(yè)領(lǐng)域放任大數(shù)據(jù)殺熟，損害個(gè)體消費(fèi)權(quán)益。因此，由算法決策引發(fā)的倫理風(fēng)險(xiǎn)也迫使我們敲響技術(shù)的警鐘，反思并警惕算法決策帶來(lái)的負(fù)面效應(yīng)，應(yīng)該從價(jià)值、技術(shù)和審查的維度來(lái)審視并尋求行之有效的規(guī)避算法決策倫理風(fēng)險(xiǎn)的策略：算法設(shè)計(jì)人員需要堅(jiān)守以人為本的宗旨，秉持良善的技術(shù)設(shè)計(jì)倫理原則來(lái)設(shè)計(jì)算法，個(gè)體需要積極培養(yǎng)個(gè)體自我賦權(quán)意識(shí)；發(fā)展匿名隱私保護(hù)算法技術(shù)，保護(hù)個(gè)體隱私以免侵犯；對(duì)算法決策的數(shù)據(jù)收集階段進(jìn)行干預(yù)以保證數(shù)據(jù)的質(zhì)量問(wèn)題、對(duì)算法決策的模型開(kāi)發(fā)階段和應(yīng)用階段進(jìn)行人工干預(yù)以糾正算法決策偏差?？傊?，算法決策在產(chǎn)品化的過(guò)程中得到普及和應(yīng)用，這究竟是一種用以幫助、增強(qiáng)、改善、提高人類福祉的工具，還是用來(lái)傷害和毀滅人類自身的武器？這就要求人們不僅要反思如何更好、更安全、更高效地利用這項(xiàng)技術(shù)，更要積極地思考如何更好地防止、阻止和彌補(bǔ)它們所造成的傷害，以確保技術(shù)更好地服務(wù)人類。