□尹鋒林，李玲娟

（中國(guó)科學(xué)院大學(xué) 公共政策與管理學(xué)院，北京100049）

傳統(tǒng)上的算法概念主要存在于數(shù)學(xué)范疇，是指解決一個(gè)數(shù)學(xué)問(wèn)題的一系列步驟。隨著計(jì)算機(jī)的問(wèn)世和快速發(fā)展，人們不僅可以直接利用計(jì)算機(jī)通過(guò)算法完成復(fù)雜的數(shù)值計(jì)算問(wèn)題，而且還可以用數(shù)值表達(dá)文字，進(jìn)而利用計(jì)算機(jī)通過(guò)算法解決某些非數(shù)值計(jì)算問(wèn)題，比如對(duì)溫度進(jìn)行控制，識(shí)別用戶的門禁權(quán)限，對(duì)用戶咨詢的問(wèn)題進(jìn)行分析并應(yīng)答，根據(jù)用戶指令向第三方轉(zhuǎn)賬等。在信息社會(huì)，算法已經(jīng)不再局限于數(shù)學(xué)范疇，算法對(duì)社會(huì)、經(jīng)濟(jì)甚至政治生活的影響越來(lái)越廣泛和深入，對(duì)算法進(jìn)行治理的需求也相應(yīng)地越來(lái)越迫切[1](p8)。

從治理主體角度進(jìn)行分類，可以將算法治理分為公共治理和私人治理兩大類。算法公共治理是指公權(quán)機(jī)構(gòu)為了實(shí)現(xiàn)公平公正和社會(huì)效率而對(duì)算法進(jìn)行治理的行為，比如立法機(jī)關(guān)通過(guò)立法對(duì)算法進(jìn)行規(guī)范，行政機(jī)關(guān)通過(guò)具體行政行為對(duì)算法進(jìn)行糾正等[2](p17-22)。算法私人治理是指公民、企業(yè)等私權(quán)主體依法對(duì)算法進(jìn)行治理的行為，比如企業(yè)對(duì)自己開(kāi)發(fā)的算法進(jìn)行修改完善，公民對(duì)政府或企業(yè)的算法行為提起訴訟等。由于私權(quán)主體是算法的直接受影響者，可以最先且最直觀地感受到算法的影響和好壞，同時(shí)，也最有動(dòng)力糾正不合理的算法，因此，算法私人治理不僅是私權(quán)主體維護(hù)自身權(quán)益的重要手段，而且對(duì)于實(shí)現(xiàn)公平公正、維護(hù)社會(huì)公共利益具有重要意義。

一、算法私人治理的相關(guān)主體

算法私人治理的治理主體可以分為以下三種類型：一是開(kāi)發(fā)或使用算法的企業(yè)；二是行業(yè)協(xié)會(huì)；三是受算法影響的企業(yè)或公民。

（一）開(kāi)發(fā)或使用算法的企業(yè)

在很多情況下，開(kāi)發(fā)或使用算法的企業(yè)為了自身經(jīng)濟(jì)利益有動(dòng)力對(duì)其算法進(jìn)行自我治理。比如，為了便利或吸引更多的用戶，企業(yè)會(huì)時(shí)常修改其算法來(lái)優(yōu)化服務(wù)流程，或者修正其算法以減少對(duì)用戶個(gè)人信息的過(guò)度索取[3]。當(dāng)然，企業(yè)對(duì)其算法的自我治理是以其利潤(rùn)最大化為前提的，企業(yè)優(yōu)化或修改其算法的主要考量因素是其短期、中期和長(zhǎng)期利益。企業(yè)治理算法除了要考量治理收益之外，還會(huì)考慮到治理的成本。企業(yè)算法自我治理成本既包括對(duì)算法進(jìn)行修改或完善所需要投入的直接成本，如方案設(shè)計(jì)論證成本、程序員工時(shí)成本等，還包括算法改變后未來(lái)收益的可能損失等間接成本。

在考量企業(yè)算法自我治理的收益與成本時(shí)，還應(yīng)考慮到相關(guān)法律政策和受算法影響的主體對(duì)企業(yè)現(xiàn)有算法的容忍程度。如果法律政策對(duì)企業(yè)算法的規(guī)制力度較弱，企業(yè)違規(guī)成本很低，這樣，如果一個(gè)企業(yè)對(duì)其自身算法進(jìn)行比較嚴(yán)格的自我治理而其他競(jìng)爭(zhēng)性企業(yè)不進(jìn)行自我治理，那么進(jìn)行自我治理的企業(yè)就有可能在市場(chǎng)競(jìng)爭(zhēng)中處于劣勢(shì)地位，從而出現(xiàn)“劣幣驅(qū)逐良幣”的問(wèn)題。同樣，如果大多數(shù)用戶對(duì)算法問(wèn)題容忍度高，不對(duì)算法開(kāi)發(fā)者或使用者采取積極的應(yīng)對(duì)措施，那么也會(huì)變相縱容企業(yè)不對(duì)其算法進(jìn)行嚴(yán)格的自我治理，進(jìn)而形成“壞”算法—用戶默許—企業(yè)獲利—競(jìng)爭(zhēng)者跟進(jìn)—“更壞”算法的惡性循環(huán)。

（二）行業(yè)協(xié)會(huì)

行業(yè)協(xié)會(huì)是同一行業(yè)的企業(yè)、個(gè)體商業(yè)者及相關(guān)單位自愿組成的民間性、自律性的組織。行業(yè)協(xié)會(huì)具有民間自治性的特點(diǎn)，即行業(yè)協(xié)會(huì)根據(jù)有關(guān)法律法規(guī)，自主地享有應(yīng)有的權(quán)利，實(shí)行自我管理，開(kāi)展各種與宗旨相符的活動(dòng)，獨(dú)立承擔(dān)相應(yīng)的責(zé)任；同時(shí)，行業(yè)協(xié)會(huì)還通過(guò)內(nèi)部組織機(jī)制的運(yùn)行，規(guī)范其成員的行為，實(shí)現(xiàn)其團(tuán)體內(nèi)的秩序，并使其團(tuán)體內(nèi)秩序與法律秩序相協(xié)調(diào)、相補(bǔ)充[4](p198)。在算法私人治理過(guò)程中，行業(yè)協(xié)會(huì)的作用至關(guān)重要。

行業(yè)協(xié)會(huì)匯集了同行業(yè)的競(jìng)爭(zhēng)者，代表本行業(yè)經(jīng)營(yíng)者共同的長(zhǎng)遠(yuǎn)利益，因此，在單個(gè)企業(yè)擔(dān)心出現(xiàn)“劣幣驅(qū)逐良幣”現(xiàn)象而對(duì)其算法進(jìn)行自我治理的動(dòng)力不足的情況下，行業(yè)協(xié)會(huì)就可以組織競(jìng)爭(zhēng)者討論并形成對(duì)相關(guān)算法進(jìn)行自我治理的行業(yè)標(biāo)準(zhǔn)或行業(yè)最佳實(shí)踐。這些由行業(yè)協(xié)會(huì)組織制定的有關(guān)算法的行業(yè)標(biāo)準(zhǔn)或行業(yè)最佳實(shí)踐，能夠在一定程度上擺脫單個(gè)企業(yè)的自身利益考量，實(shí)現(xiàn)企業(yè)、競(jìng)爭(zhēng)者、用戶各方利益的平衡。例如，為了防范互聯(lián)網(wǎng)金融企業(yè)過(guò)度索取用戶個(gè)人信息，特別是防止企業(yè)通過(guò)“爬蟲”程序違規(guī)搜集用戶個(gè)人信息，2019 年11 月中國(guó)互聯(lián)網(wǎng)金融協(xié)會(huì)向會(huì)員單位發(fā)布了《關(guān)于增強(qiáng)個(gè)人信息保護(hù)意識(shí)依法開(kāi)展業(yè)務(wù)的通知》。該通知事實(shí)上就是一個(gè)行業(yè)規(guī)范，從互聯(lián)網(wǎng)金融行業(yè)整體利益角度對(duì)相關(guān)企業(yè)獲取用戶個(gè)人信息行為做出了明確規(guī)范和指引，進(jìn)而解決了僅靠單個(gè)互聯(lián)網(wǎng)金融企業(yè)難以實(shí)現(xiàn)的對(duì)“爬蟲”算法進(jìn)行自我治理的問(wèn)題[5]。

（三）受算法影響的企業(yè)或公民

受算法不利影響的企業(yè)或公民對(duì)算法具有最強(qiáng)烈的治理意愿。當(dāng)用戶受到經(jīng)營(yíng)者算法的不公平對(duì)待或不利影響時(shí)，其第一想法顯然都是應(yīng)對(duì)該算法進(jìn)行治理和完善，以維護(hù)自身權(quán)益。但是，在現(xiàn)實(shí)中又存在一個(gè)奇怪的現(xiàn)象：一方面受影響的主體對(duì)算法有強(qiáng)烈的治理意愿，另一方面受影響主體主動(dòng)對(duì)算法發(fā)起治理行動(dòng)的案例又極少。之所以存在這一現(xiàn)象，主要原因在于受影響主體對(duì)算法進(jìn)行私人治理的成本與收益不對(duì)稱，進(jìn)而導(dǎo)致其進(jìn)行私人治理的內(nèi)在動(dòng)力不足。受影響主體對(duì)算法進(jìn)行私人治理的成本包括時(shí)間、精力、經(jīng)濟(jì)等成本，特別是當(dāng)受影響的主體是弱小的個(gè)體而開(kāi)發(fā)或使用算法的主體是大型互聯(lián)網(wǎng)平臺(tái)的情況下，受影響主體對(duì)算法成功進(jìn)行私人治理的成本會(huì)更加巨大。與此同時(shí)，受算法影響的主體并非僅是對(duì)算法進(jìn)行私人治理的一個(gè)個(gè)體，而是包括千千萬(wàn)萬(wàn)個(gè)個(gè)體，這樣，一個(gè)個(gè)體對(duì)算法進(jìn)行成功的私人治理就具有巨大的正外部性，即一個(gè)個(gè)體對(duì)算法進(jìn)行私人治理取得了成功，受益者就不僅局限于私人治理個(gè)體本身，而且還包括其他受算法影響的大量個(gè)體。

因此，在建立算法治理的政策和制度時(shí)，就應(yīng)當(dāng)認(rèn)真考慮是否需要鼓勵(lì)受影響主體對(duì)算法進(jìn)行私人治理的問(wèn)題。如果經(jīng)過(guò)利弊分析之后認(rèn)為應(yīng)當(dāng)對(duì)受影響主體的私人治理行為進(jìn)行鼓勵(lì)，那么相關(guān)政策制度就應(yīng)確保受影響主體私人治理的收益應(yīng)大于其治理成本。受影響主體私人治理的收益可以來(lái)自兩個(gè)方面：一是由被治理的開(kāi)發(fā)或使用算法的企業(yè)提供。由于受影響主體私人治理的治理成本是由被治理企業(yè)引起的，因此，由被治理企業(yè)承擔(dān)治理成本是合理的。二是由治理后的受益者提供。算法私人治理的受益者是受算法不利影響的其他個(gè)體，由于他們并未采取實(shí)際的治理行動(dòng)而同時(shí)又享受到了他人算法私人治理行為的惠益，所以由他們共同向算法私人治理主體提供一定的利益，也是合理的。當(dāng)然，由于算法私人治理的主要結(jié)果是算法的改善，受益者一般不能從治理行為中直接獲得現(xiàn)金利益，因此，如果讓受益者自己拿出貨幣給予私人治理個(gè)體，有可能會(huì)被大多數(shù)受益者所抵制。所以，從現(xiàn)實(shí)角度而言，由被治理主體承擔(dān)治理個(gè)體的收益則更加可行。

同時(shí)，需要注意的是，企業(yè)或公民不僅有可能會(huì)受到其他企業(yè)等市場(chǎng)主體算法的不利影響，而且還有可能會(huì)受到政府部門等公權(quán)機(jī)構(gòu)的算法的不利影響。企業(yè)或公民在受到公權(quán)機(jī)構(gòu)算法的不利影響時(shí)而對(duì)之做出的積極應(yīng)對(duì)，亦屬于算法私人治理范疇。由于公權(quán)機(jī)構(gòu)算法相比市場(chǎng)主體的算法而言，其影響更具有普遍性，其效力更具有強(qiáng)制性，因此，對(duì)公權(quán)機(jī)關(guān)算法的治理亦應(yīng)屬于算法私人治理的重點(diǎn)和關(guān)鍵。

二、算法私人治理的主要內(nèi)容

與公共治理相比，算法私人治理更關(guān)注的是治理者的個(gè)體權(quán)益。算法私人治理的主要目的在于通過(guò)對(duì)算法進(jìn)行完善，從而使受算法不利影響的企業(yè)或個(gè)人的合法權(quán)益獲得保障。因此，相較于程序正義而言，算法私人治理更加重視的是實(shí)體正義和個(gè)體正義，即更加注重私人治理對(duì)治理者的最終結(jié)果。所以，算法私人治理的內(nèi)容主要涉及與治理者個(gè)體利益相關(guān)的問(wèn)題，具體包括算法歧視、個(gè)人信息保護(hù)等問(wèn)題。

（一）算法歧視

算法歧視是算法私人治理的主要問(wèn)題。歧視是指基于某個(gè)人或某類人群的特征而給予的不同于他人的、不合理的區(qū)別對(duì)待。歧視是人權(quán)法上的一個(gè)重要概念。任何形式的歧視都是基于區(qū)分，而區(qū)分的基礎(chǔ)則是個(gè)人或群體的特征。人權(quán)法所關(guān)注的歧視區(qū)別特征主要有種族、膚色、性別、年齡、語(yǔ)言、宗教、國(guó)籍、財(cái)產(chǎn)、身份、社會(huì)階層、政治觀點(diǎn)等。在這些區(qū)別特征中，有的是天賦的且不可改變的，如種族、膚色、性別等，有的則是可以改變的，如國(guó)籍、語(yǔ)言、財(cái)產(chǎn)等。個(gè)人或群體的這些特征是發(fā)生歧視的前提，但并不是所有形式的區(qū)別對(duì)待都是歧視性的，人權(quán)法所反對(duì)的區(qū)別對(duì)待是建立在不合理的、不公正標(biāo)準(zhǔn)之上的區(qū)別對(duì)待[6](p143）。在信息社會(huì)，算法已經(jīng)成為政府與企業(yè)、政府與公民、企業(yè)與企業(yè)、企業(yè)與消費(fèi)者和公民之間進(jìn)行交流和事務(wù)處理的重要的輔助手段。算法在輔助處理社會(huì)主體之間的各種事務(wù)時(shí)，看似沒(méi)有主觀感情，不會(huì)故意區(qū)別對(duì)待相關(guān)社會(huì)主體，但是，由于算法決策是一種自動(dòng)化的系統(tǒng)，因此，一旦算法本身存在歧視問(wèn)題，那么就會(huì)迅速產(chǎn)生系統(tǒng)性的歧視問(wèn)題。這種系統(tǒng)性的歧視問(wèn)題，不僅隱蔽，而且難以糾正[7]。

導(dǎo)致算法歧視的原因主要有兩個(gè)方面：一是算法之內(nèi)的原因；二是算法之外的原因。算法之內(nèi)的原因，是算法自身存在的問(wèn)題而導(dǎo)致的歧視。算法自身存在的問(wèn)題又可以分為兩種情形：一是算法設(shè)計(jì)者故意設(shè)計(jì)存在某種歧視的算法。比如網(wǎng)絡(luò)銷售平臺(tái)通過(guò)對(duì)消費(fèi)者的消費(fèi)情況和退換貨情況進(jìn)行統(tǒng)計(jì)，而系統(tǒng)性地對(duì)消費(fèi)次數(shù)多且退貨換貨次數(shù)較少的消費(fèi)者給予比其他消費(fèi)者更高的商品報(bào)價(jià)[8](p17-19)。二是算法設(shè)計(jì)者本身沒(méi)有進(jìn)行歧視的故意，但是由于非故意或算法的內(nèi)在客觀原因不可避免地導(dǎo)致歧視。比如網(wǎng)絡(luò)銷售平臺(tái)向消費(fèi)者提供多種網(wǎng)絡(luò)支付方式供消費(fèi)者選擇，而由于不同的網(wǎng)絡(luò)支付方式的便利程度有所區(qū)別，那么在這種情況下，擁有不同網(wǎng)絡(luò)支付方式的不同消費(fèi)者就可能產(chǎn)生不同的網(wǎng)絡(luò)購(gòu)物體驗(yàn)。

美國(guó)司法系統(tǒng)使用的COMPAS 系統(tǒng)主要作用是預(yù)測(cè)被告未來(lái)的再次犯罪率和危險(xiǎn)程度，并根據(jù)該系統(tǒng)給出的評(píng)估結(jié)論決定被告人刑罰的輕重。由于美國(guó)黑人犯罪率以前相對(duì)較高，因此，COMPAS系統(tǒng)通過(guò)對(duì)以往犯罪數(shù)據(jù)的統(tǒng)計(jì)，特別是通過(guò)機(jī)械學(xué)習(xí)的方式來(lái)統(tǒng)計(jì)犯罪嫌疑人的某些特征與再犯罪率或危險(xiǎn)程度的權(quán)重參數(shù)，那么就必然會(huì)得出黑人種族比其他種族更高的犯罪危險(xiǎn)程度權(quán)重。根據(jù)非營(yíng)利機(jī)構(gòu)ProPublica 對(duì)COMPAS 評(píng)分?jǐn)?shù)據(jù)的統(tǒng)計(jì)分析，也確實(shí)得出了“黑人被告有45%的可能比白人被告得到更高的分?jǐn)?shù)”的結(jié)論[9](p29-42)。

由于人工智能的本質(zhì)是通過(guò)以往事物的大數(shù)據(jù)得出事物各因素之間的關(guān)聯(lián)參數(shù)，然后再運(yùn)用這些關(guān)聯(lián)參數(shù)對(duì)未來(lái)進(jìn)行預(yù)測(cè)，因此，當(dāng)事物發(fā)生變化時(shí)，人工智能得出的結(jié)論就會(huì)與真實(shí)世界產(chǎn)生較大偏差。所以，算法如果僅是根據(jù)人工智能得出的結(jié)論做出決策，那么就有可能發(fā)生“失之毫厘，謬以千里”的現(xiàn)象[10]。

算法本身之外的因素也可能會(huì)間接導(dǎo)致歧視問(wèn)題。特別是當(dāng)某個(gè)特定的算法決策涉及公共服務(wù)或準(zhǔn)公共服務(wù)之時(shí)，即使算法本身不存在歧視問(wèn)題，但是由于算法的使用必須在一定系統(tǒng)和設(shè)備上運(yùn)行，因此，如果該公共服務(wù)或準(zhǔn)公共服務(wù)與算法緊密聯(lián)系，要享受該公共服務(wù)或準(zhǔn)公共服務(wù)就必須具備能夠運(yùn)行該算法的系統(tǒng)或設(shè)備，那么，在這種情況下，算法的存在和使用就會(huì)導(dǎo)致對(duì)那些沒(méi)有相關(guān)系統(tǒng)或設(shè)備的社會(huì)主體的歧視。比如，在新冠肺炎疫情期間，有些地方乘坐交通工具要求出示健康碼，如果不能出示健康碼就不允許乘坐交通工具，那么，在這種情況下，一些老年人由于接受新知識(shí)、新科技的能力的限制，不能使用智能手機(jī)獲取健康碼，進(jìn)而這些老年人就會(huì)在事實(shí)上被排除到公共交通服務(wù)之外[11]。

（二）個(gè)人信息保護(hù)

人是社會(huì)關(guān)系的總和。個(gè)人信息則是公民建立社會(huì)關(guān)系的基礎(chǔ)元素。同時(shí)，個(gè)人信息隨著科技進(jìn)步而不斷豐富、發(fā)展和變化。在1876年美國(guó)人A.G.貝爾發(fā)明電話機(jī)之前，電話號(hào)碼不可能成為一個(gè)人的個(gè)人信息；而在電子郵件系統(tǒng)發(fā)明之前，電子郵箱信息顯然也沒(méi)有必要作為個(gè)人信息給予保護(hù)。當(dāng)前，隨著信息網(wǎng)絡(luò)技術(shù)、人工智能技術(shù)的發(fā)展，與自然人安寧、安全有關(guān)的個(gè)人信息越來(lái)越豐富，比如上網(wǎng)記錄、地理位置、發(fā)布或?yàn)g覽的信息等內(nèi)容均有可能成為一個(gè)自然人的標(biāo)識(shí)性信息。這些信息一方面涉及個(gè)人的安寧、安全和尊嚴(yán)，另一方面又有可能具有重要商業(yè)價(jià)值[12](p153)。在人工智能時(shí)代，無(wú)論是對(duì)于個(gè)人還是信息收集者、信息使用者而言，這些信息均有可能具有顯著的實(shí)用價(jià)值[13](p59)。因此，如何有效保護(hù)個(gè)人信息數(shù)據(jù)，既是人工智能技術(shù)健康發(fā)展和商業(yè)利用所面臨的重要課題，更事關(guān)公民的切身利益。

為了有效保護(hù)個(gè)人信息，我國(guó)于2021年1月1日起生效的《民法典》專門設(shè)立了一章來(lái)保護(hù)公民的隱私和個(gè)人信息。《民法典》第1034 條對(duì)個(gè)人信息的內(nèi)涵和外延做出了明確的界定。根據(jù)該條規(guī)定，個(gè)人信息是指“以電子或者其他方式記錄的能夠單獨(dú)或者與其他信息結(jié)合識(shí)別特定自然人的各種信息”；個(gè)人信息具體可包括自然人的姓名、出生日期、身份證件號(hào)碼、生物識(shí)別信息、住址、電話號(hào)碼、電子郵箱、健康信息、行蹤信息等信息[14]。

上述個(gè)人信息均是算法的處理對(duì)象，算法在處理個(gè)人信息時(shí)必須注重和保障個(gè)人信息的安全。根據(jù)國(guó)家標(biāo)準(zhǔn)化管理委員會(huì)發(fā)布的《信息安全技術(shù)個(gè)人信息安全規(guī)范》（GB/T35273-2020），算法在處理個(gè)人信息時(shí)，主要涉及以下幾個(gè)環(huán)節(jié)并應(yīng)遵循如下規(guī)則：

第一，個(gè)人信息的收集。算法開(kāi)發(fā)者或使用者要處理個(gè)人信息，首先就需要收集用戶的個(gè)人信息。收集個(gè)人信息應(yīng)堅(jiān)持知情同意原則、合法原則和最小化需求原則。除法律規(guī)定的例外情形之外，收集個(gè)人信息需要獲得被收集信息用戶的授權(quán)同意。如果間接獲取個(gè)人信息，則需要對(duì)個(gè)人信息來(lái)源的合法性進(jìn)行確認(rèn)。如果收集的信息涉及個(gè)人敏感信息，則收集者應(yīng)取得個(gè)人信息主體的明示同意，并應(yīng)確保個(gè)人信息主體的明示同意是其在完全知情的基礎(chǔ)上自愿給出的、具體的、清晰明確的愿望表示。另外，收集個(gè)人信息不得采取欺詐、誘騙、強(qiáng)迫手段，不得隱瞞產(chǎn)品或服務(wù)所具有的收集個(gè)人信息的功能，不得收集法律法規(guī)明令禁止收集的個(gè)人信息。同時(shí)，收集的個(gè)人信息的類型應(yīng)與實(shí)現(xiàn)產(chǎn)品或服務(wù)的業(yè)務(wù)功能有直接關(guān)聯(lián)，不得捆綁個(gè)人信息來(lái)強(qiáng)迫用戶接受要求，且應(yīng)以實(shí)現(xiàn)產(chǎn)品或服務(wù)的業(yè)務(wù)功能所必需的最低頻率、最少數(shù)量進(jìn)行收集。

第二，個(gè)人信息的保存。算法的開(kāi)發(fā)者或使用者在保存?zhèn)€人信息時(shí)，亦應(yīng)堅(jiān)持最小化原則，即個(gè)人信息保存期限應(yīng)為實(shí)現(xiàn)目的所必需的最短時(shí)間，超出上述個(gè)人信息保存期限后應(yīng)對(duì)個(gè)人信息進(jìn)行刪除或匿名化處理。同時(shí)，在收集個(gè)人信息后，個(gè)人信息控制者在可能的情況下應(yīng)立即進(jìn)行去標(biāo)識(shí)化處理，將去標(biāo)識(shí)化后的數(shù)據(jù)與可用于恢復(fù)識(shí)別個(gè)人的信息分開(kāi)存儲(chǔ)，并確保在后續(xù)的個(gè)人信息處理中不重新識(shí)別個(gè)人。另外，如果存儲(chǔ)的個(gè)人信息是個(gè)人敏感信息，則應(yīng)采用加密等安全措施，特別是存儲(chǔ)個(gè)人生物識(shí)別信息時(shí)，應(yīng)在采用技術(shù)措施處理后再進(jìn)行存儲(chǔ)，例如僅存儲(chǔ)個(gè)人生物識(shí)別信息的摘要。

第三，個(gè)人信息的使用。算法系統(tǒng)在使用個(gè)人信息時(shí)，應(yīng)該按照最小授權(quán)原則對(duì)被授權(quán)訪問(wèn)個(gè)人信息的內(nèi)部數(shù)據(jù)操作人員進(jìn)行使用限制，使其只能訪問(wèn)職責(zé)所需的最少夠用的個(gè)人信息，且僅具有完成職責(zé)所需的最少的數(shù)據(jù)操作權(quán)限；對(duì)個(gè)人信息的重要操作應(yīng)設(shè)置內(nèi)部審批流程，如批量修改、拷貝、下載等；應(yīng)對(duì)安全管理人員、數(shù)據(jù)操作人員、審計(jì)人員的角色進(jìn)行分離設(shè)置；對(duì)個(gè)人敏感信息的訪問(wèn)、修改等行為，應(yīng)在對(duì)角色的權(quán)限控制的基礎(chǔ)上，根據(jù)業(yè)務(wù)流程的需求觸發(fā)操作授權(quán)。同時(shí)，算法的開(kāi)發(fā)者或使用者亦應(yīng)對(duì)個(gè)人信息的展示、訪問(wèn)、更正、刪除等活動(dòng)設(shè)計(jì)合理的規(guī)則。尤其是在涉及通過(guò)算法自動(dòng)決策而做出顯著影響個(gè)人信息主體權(quán)益的決定時(shí)，算法的開(kāi)發(fā)者或使用者應(yīng)向個(gè)人信息主體提供申訴方法[15](p15-18)。

三、算法私人治理的主要方式

算法開(kāi)發(fā)者或使用者以及相關(guān)行業(yè)協(xié)會(huì)是算法私人治理的首要主體，他們對(duì)其算法的治理主要是一種自律的方式。比如算法開(kāi)發(fā)者或使用者可以制定算法開(kāi)發(fā)或使用的企業(yè)標(biāo)準(zhǔn)，并在開(kāi)發(fā)和使用算法過(guò)程中嚴(yán)格貫徹其企業(yè)標(biāo)準(zhǔn)，以保障受算法影響主體的合理利益。行業(yè)協(xié)會(huì)亦可以組織企業(yè)制定算法治理行業(yè)規(guī)范，以促進(jìn)和提升行業(yè)內(nèi)算法開(kāi)發(fā)者或使用者的自律水平。在算法開(kāi)發(fā)者或使用者通過(guò)自律方式難以保障受算法影響主體的正當(dāng)?shù)暮侠砝鏁r(shí)，就需要受算法影響主體通過(guò)“他律”的方式糾正算法開(kāi)發(fā)者或使用者的相關(guān)行為。這種“他律”的治理方式，更能針對(duì)問(wèn)題的實(shí)質(zhì)，也更能促使問(wèn)題獲得真正的解決，因此，更應(yīng)重視“他律”治理方式的構(gòu)建和完善[16](54-58)。訴訟是受算法影響主體對(duì)算法進(jìn)行私人治理的主要方式。具體而言，主要包括以下幾種訴訟行為：

（一）合同違約之訴

在很多情況下，受算法影響主體是算法開(kāi)發(fā)者或使用者的用戶，受算法影響主體與算法開(kāi)發(fā)者或使用者之間存在書面的或非書面的合同關(guān)系，故二者之間的權(quán)利義務(wù)應(yīng)主要由合同條款進(jìn)行確定。如果合同中有關(guān)于不歧視和個(gè)人信息保護(hù)的明確約定，并且這種約定屬于合理、合法的約定，則當(dāng)算法開(kāi)發(fā)者或使用者違反這些約定時(shí)，受算法影響主體自然可以通過(guò)合同違約之訴獲得救濟(jì)。

在實(shí)踐中，一些算法開(kāi)發(fā)者或使用者有可能會(huì)在其提供給用戶的格式合同中約定用戶需要接受其基于用戶信息而給出的不同的交易條件；另外，算法開(kāi)發(fā)者或使用者還有可能以拒絕交易為條件要求用戶提供與其服務(wù)不相關(guān)聯(lián)的個(gè)人信息，并在格式合同中約定算法開(kāi)發(fā)者或使用者有權(quán)以任何方式使用或處理這些個(gè)人信息。受算法影響主體在起訴算法開(kāi)發(fā)者或使用者合同違約之后，算法開(kāi)發(fā)者或使用者則會(huì)通過(guò)上述格式條款進(jìn)行抗辯不構(gòu)成違約。針對(duì)上述格式條款，受算法影響主體可以依照我國(guó)《民法典》通過(guò)下列三種途徑進(jìn)行應(yīng)對(duì)：

第一，受算法影響主體可以主張對(duì)其不利的格式條款不構(gòu)成合同內(nèi)容。根據(jù)《民法典》第496條規(guī)定，提供格式條款的算法開(kāi)發(fā)者或使用者應(yīng)當(dāng)遵循公平原則確定當(dāng)事人之間的權(quán)利和義務(wù)，并采取合理的方式提示對(duì)方注意免除或者減輕其責(zé)任等與對(duì)方有重大利害關(guān)系的條款；同時(shí)，如果合同相對(duì)方要求解釋說(shuō)明格式條款的具體含義，算法開(kāi)發(fā)者或使用者應(yīng)對(duì)相關(guān)條款予以明確說(shuō)明。如果算法開(kāi)發(fā)者或使用者未履行提示或者說(shuō)明義務(wù)，致使對(duì)方?jīng)]有注意或者理解與其有重大利害關(guān)系的條款的，則對(duì)方可以主張?jiān)摋l款不成為合同的內(nèi)容。

第二，受算法影響主體可以主張相關(guān)格式條款無(wú)效。根據(jù)《民法典》第487條規(guī)定，受算法影響主體在以下三種情況下，可以主張算法開(kāi)發(fā)者或使用者的格式條款無(wú)效：一是符合民事法律無(wú)效一般規(guī)定的格式條款應(yīng)被認(rèn)定為無(wú)效。例如，算法開(kāi)發(fā)者或使用者與無(wú)民事行為能力人訂立的合同。二是算法開(kāi)發(fā)者或使用者不合理地免除或者減輕其責(zé)任、加重客戶責(zé)任、限制客戶主要權(quán)利的格式條款無(wú)效。例如，算法開(kāi)發(fā)者或使用者與客戶約定完全免除其保護(hù)客戶個(gè)人信息的義務(wù)的格式條款，由于該格式條款不合理地免除了算法開(kāi)發(fā)者或使用者的主要責(zé)任，因此，應(yīng)該被認(rèn)定為無(wú)效的格式條款。三是算法開(kāi)發(fā)者或使用者排除客戶主要權(quán)利的格式條款無(wú)效。

第三，當(dāng)格式條款存在多種解釋時(shí)，受算法影響主體可以主張對(duì)其有利的解釋?！睹穹ǖ洹返?98條規(guī)定：“對(duì)格式條款的理解發(fā)生爭(zhēng)議的，應(yīng)當(dāng)按照通常理解予以解釋。對(duì)格式條款有兩種以上解釋的，應(yīng)當(dāng)作出不利于提供格式條款一方的解釋。格式條款和非格式條款不一致的，應(yīng)當(dāng)采用非格式條款?！币虼?，在有關(guān)格式條款模糊不清，需要進(jìn)行解釋時(shí)，則應(yīng)參考相關(guān)行業(yè)規(guī)范、慣例并從有利于客戶的一方對(duì)格式條款進(jìn)行解釋。

（二）民事侵權(quán)之訴與民事公益訴訟

受算法影響主體在難以通過(guò)違約之訴獲得救濟(jì)的情況下，可以考慮通過(guò)民事侵權(quán)之訴進(jìn)行救濟(jì)。對(duì)于利用算法進(jìn)行歧視或損害用戶個(gè)人信息權(quán)益的行為，受影響主體主要可以通過(guò)以下訴由主張權(quán)利：

一是濫用市場(chǎng)支配地位。根據(jù)《反壟斷法》第17 條規(guī)定，如果算法開(kāi)發(fā)者或使用者對(duì)其用戶通過(guò)算法進(jìn)行歧視，并且其在相關(guān)市場(chǎng)同時(shí)具有市場(chǎng)優(yōu)勢(shì)地位，那么算法開(kāi)發(fā)者或使用者的歧視行為就屬于《反壟斷法》意義上的濫用市場(chǎng)支配地位，受影響的主體可以通過(guò)反壟斷之訴要求算法開(kāi)發(fā)者或使用者糾正其算法并給予相應(yīng)的賠償。同時(shí)需要注意的是，算法開(kāi)發(fā)者或使用者構(gòu)成濫用市場(chǎng)支配地位的一個(gè)重要前提是其歧視行為或差別待遇行為沒(méi)有合理的理由；換言之，如果算法開(kāi)發(fā)者或使用者具有合理理由對(duì)用戶給予差別待遇，那么就不屬于濫用市場(chǎng)支配地位，比如，算法開(kāi)發(fā)者或使用者針對(duì)新用戶的首次交易在合理期限內(nèi)開(kāi)展的優(yōu)惠活動(dòng)[17](p22)。

二是不正當(dāng)價(jià)格行為。我國(guó)《價(jià)格法》第14條規(guī)定，提供相同商品或者服務(wù)，對(duì)具有同等交易條件的其他經(jīng)營(yíng)者實(shí)行價(jià)格歧視，屬于不正當(dāng)價(jià)格行為，應(yīng)當(dāng)受到禁止。因此，在算法開(kāi)發(fā)者或使用者不具有市場(chǎng)支配地位，且沒(méi)有合理理由對(duì)用戶進(jìn)行價(jià)格歧視或差別定價(jià)時(shí)，則受影響主體可以依據(jù)《價(jià)格法》主張算法開(kāi)發(fā)者或使用者構(gòu)成侵權(quán)[18](p58)。

三是侵犯消費(fèi)者公平交易權(quán)。我國(guó)《消費(fèi)者權(quán)益保護(hù)法》第10條規(guī)定：消費(fèi)者享有公平交易的權(quán)利。消費(fèi)者在購(gòu)買商品或者接受服務(wù)時(shí)，有權(quán)獲得質(zhì)量保障、價(jià)格合理、計(jì)量正確等公平交易條件，有權(quán)拒絕經(jīng)營(yíng)者的強(qiáng)制交易行為。因此，如果算法開(kāi)發(fā)者或使用者通過(guò)算法給消費(fèi)者進(jìn)行畫像，并依據(jù)畫像結(jié)果對(duì)消費(fèi)者進(jìn)行不公平的區(qū)別對(duì)待，那么消費(fèi)者就可以依據(jù)《消費(fèi)者權(quán)益保護(hù)費(fèi)》尋求救濟(jì)。值得注意的是，除了法律有明確規(guī)定的之外，區(qū)別對(duì)待行為一般應(yīng)被認(rèn)定為不公平行為。因此，在是否構(gòu)成不公平的區(qū)別對(duì)待的舉證責(zé)任問(wèn)題上，消費(fèi)者僅對(duì)區(qū)別對(duì)待問(wèn)題負(fù)有舉證責(zé)任，而算法開(kāi)發(fā)者或使用者應(yīng)舉證證明該區(qū)別對(duì)待行為具有正當(dāng)性，否則，就應(yīng)認(rèn)為該區(qū)別對(duì)待行為不具有正當(dāng)性。

四是侵犯?jìng)€(gè)人信息權(quán)益。個(gè)人信息權(quán)利是我國(guó)《民法典》所規(guī)定的一項(xiàng)重要民事權(quán)利。算法開(kāi)發(fā)者或使用者在收集、保存、利用個(gè)人信息時(shí)如存在不當(dāng)行為，受算法影響主體則可以侵犯?jìng)€(gè)人信息權(quán)利為由獲得救濟(jì)。《民法典》雖然自2021年1 月1 日生效，但在此之前，我國(guó)已有法院明確保護(hù)個(gè)人信息權(quán)益的案例。例如，“微信讀書”軟件因在未獲得用戶有效同意的情況下獲取用戶的微信好友關(guān)系，并為用戶自動(dòng)關(guān)注微信好友且向共同使用“微信讀書”軟件的微信好友默認(rèn)開(kāi)放其讀書信息，“微信讀書”軟件的用戶因此而認(rèn)為該軟件侵犯了其個(gè)人信息權(quán)益。北京互聯(lián)網(wǎng)法院一審判決認(rèn)為“微信讀書”軟件運(yùn)營(yíng)方侵害了原告的個(gè)人信息權(quán)益，繼而判令“微信讀書”軟件停止收集、使用原告微信好友列表信息的行為，刪除“微信讀書”軟件中留存的原告的微信好友列表信息，解除原告在“微信讀書”軟件中對(duì)其微信好友的關(guān)注，解除原告微信好友在“微信讀書”軟件中對(duì)原告的關(guān)注，停止將原告使用“微信讀書”軟件生成的信息（包括讀書時(shí)長(zhǎng)、書架、正在閱讀的讀物）向原告的微信好友展示的行為[19]。

由于算法影響的人數(shù)眾多，算法私人治理具有較強(qiáng)的外部性，因此，對(duì)算法的治理不應(yīng)只依賴于單獨(dú)的個(gè)體提起民事訴訟，同時(shí)，還應(yīng)鼓勵(lì)適格的公益組織通過(guò)民事公益訴訟的方式參與算法的治理。《民事訴訟法》第55 條規(guī)定，對(duì)污染環(huán)境、侵害眾多消費(fèi)者合法權(quán)益等損害社會(huì)公共利益的行為，法律規(guī)定的機(jī)關(guān)和有關(guān)組織可以向人民法院提起訴訟。由于受算法影響主體中的相當(dāng)一部分屬于消費(fèi)者，如果這些消費(fèi)者因?yàn)樗惴ù嬖谄缫暬騻€(gè)人信息權(quán)益問(wèn)題而受到大面積的侵害，那么消費(fèi)者公益組織就有通過(guò)民事公益訴訟維護(hù)消費(fèi)者利益的必要。另外，《民事訴訟法》第55 條進(jìn)一步對(duì)檢察機(jī)關(guān)民事公益訴訟作出規(guī)定。根據(jù)該條規(guī)定，檢察機(jī)關(guān)民事公益訴訟的管轄范圍是：“破壞生態(tài)環(huán)境和資源保護(hù)、食品藥品安全領(lǐng)域侵害眾多消費(fèi)者合法權(quán)益等損害社會(huì)公共利益的行為?！庇捎谠摴茌牱秶囊?guī)定中有一個(gè)“等”字，確保了檢察機(jī)關(guān)民事公益訴訟管轄范圍的可拓展性，即只要是侵害眾多消費(fèi)者合法權(quán)益的損害社會(huì)公共利益的行為，檢察機(jī)關(guān)均有職權(quán)進(jìn)行民事公益訴訟[20](p16)。因此，檢察機(jī)關(guān)對(duì)于利用算法實(shí)行大范圍的消費(fèi)者歧視行為或損害個(gè)人信息權(quán)益行為亦可以提起民事公益訴訟或?qū)οM(fèi)者組織的民事公益訴訟行為支持起訴。

（三）行政訴訟與行政公益訴訟

在當(dāng)代社會(huì)，隨著人工智能技術(shù)的快速發(fā)展和廣泛應(yīng)用，行政機(jī)關(guān)不僅對(duì)各類主體的算法擁有監(jiān)管的法律職責(zé)，同時(shí)，行政機(jī)關(guān)也是一些算法的開(kāi)發(fā)者和使用者，并越來(lái)越廣泛地采用人工智能技術(shù)輔助行政決策與行政管理工作。因此，受算法影響主體在以下兩種情況下可針對(duì)行政機(jī)關(guān)提起行政訴訟：

第一，行政機(jī)關(guān)未對(duì)相關(guān)主體的算法履行法定監(jiān)管職責(zé)。根據(jù)我國(guó)《行政訴訟法》第12 條第1款第6 項(xiàng)規(guī)定，申請(qǐng)行政機(jī)關(guān)履行保護(hù)人身權(quán)、財(cái)產(chǎn)權(quán)等合法權(quán)益的法定職責(zé)，行政機(jī)關(guān)拒絕履行或者不予答復(fù)的，公民、法人或其他組織有權(quán)向人民法院提起行政訴訟[21](p35)。我國(guó)有很多法律、法規(guī)為行政機(jī)關(guān)設(shè)立了法定監(jiān)管職責(zé)。例如，根據(jù)《消費(fèi)者權(quán)益保護(hù)法》第56 條第1 款第9 項(xiàng)規(guī)定，對(duì)于侵害消費(fèi)者人格尊嚴(yán)、侵犯消費(fèi)者人身自由或者侵害消費(fèi)者個(gè)人信息依法得到保護(hù)的權(quán)利的行為，市場(chǎng)監(jiān)督管理部門應(yīng)責(zé)令改正，并可以根據(jù)情節(jié)單處或者并處警告、沒(méi)收違法所得、處以違法所得一倍以上十倍以下的罰款，沒(méi)有違法所得的，處以50 萬(wàn)元以下的罰款；情節(jié)嚴(yán)重的，責(zé)令停業(yè)整頓、吊銷營(yíng)業(yè)執(zhí)照。又如，根據(jù)《價(jià)格法》第40條規(guī)定，對(duì)于利用虛假的或者使人誤解的價(jià)格手段、誘騙消費(fèi)者或者其他經(jīng)營(yíng)者與其進(jìn)行交易或者提供相同商品或者服務(wù)、對(duì)具有同等交易條件的其他經(jīng)營(yíng)者實(shí)行價(jià)格歧視等行為，有關(guān)行政主管部門應(yīng)責(zé)令改正，沒(méi)收違法所得，且可并處罰款，對(duì)情節(jié)嚴(yán)重的，應(yīng)責(zé)令停業(yè)整頓，直至吊銷營(yíng)業(yè)執(zhí)照。另外，我國(guó)立法機(jī)關(guān)正在制定《個(gè)人信息保護(hù)法》和《數(shù)據(jù)安全法》，這兩部擬制定的法律亦規(guī)定了行政機(jī)關(guān)對(duì)公民個(gè)人信息的保護(hù)職權(quán)。如《數(shù)據(jù)安全法（草案）》規(guī)定：對(duì)于數(shù)據(jù)活動(dòng)存在較大安全風(fēng)險(xiǎn)的，有關(guān)主管部門應(yīng)履行數(shù)據(jù)安全監(jiān)管職責(zé)，可以對(duì)有關(guān)組織和個(gè)人進(jìn)行約談，被約談組織和個(gè)人應(yīng)當(dāng)按照要求采取措施，進(jìn)行整改，消除隱患；開(kāi)展數(shù)據(jù)活動(dòng)的組織、個(gè)人如未健全數(shù)據(jù)安全管理制度、履行數(shù)據(jù)安全管理義務(wù)、發(fā)生數(shù)據(jù)安全事件，或采取不合法、不正當(dāng)?shù)姆绞绞占?、使用用戶個(gè)人數(shù)據(jù)，有關(guān)行政主管部門應(yīng)責(zé)令改正，給予警告，并可以對(duì)單位及其直接負(fù)責(zé)的主管人員給予罰款。因此，如果行政機(jī)關(guān)未按照法律、法規(guī)規(guī)定對(duì)算法履行行政監(jiān)管職責(zé)，那么受算法影響的公民、法人或其他組織即可以對(duì)行政機(jī)關(guān)提起行政訴訟，要求人民法院判決其履行法定職責(zé)。

第二，行政機(jī)關(guān)使用的相關(guān)算法損害了行政相對(duì)人的權(quán)益。隨著行政機(jī)關(guān)越來(lái)越普遍地運(yùn)用自動(dòng)化辦公系統(tǒng)以提升行政辦公、公共決策和公共服務(wù)效率，行政相對(duì)人受到行政機(jī)關(guān)自動(dòng)化辦公系統(tǒng)算法的影響越來(lái)越大。一旦行政機(jī)關(guān)的算法本身或使用時(shí)產(chǎn)生問(wèn)題，那么就會(huì)對(duì)行政相對(duì)人產(chǎn)生系統(tǒng)的、廣泛的影響[22](p62)。例如，美國(guó)密歇根州政府利用一款反詐騙系統(tǒng)對(duì)該州失業(yè)補(bǔ)貼領(lǐng)取者進(jìn)行審核，并對(duì)申請(qǐng)者是否存在詐騙進(jìn)行判斷和處罰。據(jù)稱該系統(tǒng)錯(cuò)誤率高達(dá)93%，并最終引起了該州4 萬(wàn)名居民對(duì)州政府提起了集團(tuán)訴訟。又如，美國(guó)紐約州曾使用一種算法系統(tǒng)以預(yù)測(cè)家長(zhǎng)對(duì)其子女是否具有“嚴(yán)重家暴傾向”并據(jù)此做出決策。該算法系統(tǒng)一度導(dǎo)致該州上萬(wàn)個(gè)家庭父母同其子女被迫分離，最終紐約州政府放棄了該系統(tǒng)的使用[23](p58)。行政機(jī)關(guān)開(kāi)發(fā)、使用的算法系統(tǒng)針對(duì)行政相對(duì)人所做出的自動(dòng)化決策和服務(wù)，屬于行政機(jī)關(guān)的行為，因此，當(dāng)算法系統(tǒng)的自動(dòng)化決策或服務(wù)導(dǎo)致行政相對(duì)人合法權(quán)益受損時(shí)，行政相對(duì)人即有權(quán)據(jù)此對(duì)行政機(jī)關(guān)提起行政訴訟。

同時(shí)，按照我國(guó)《行政訴訟法》之規(guī)定，我國(guó)檢察機(jī)關(guān)對(duì)于行政訴訟活動(dòng)亦有法律監(jiān)督之職權(quán)。根據(jù)《行政訴訟法》第25 條第4 款規(guī)定，人民檢察院在履行職責(zé)過(guò)程中，如果發(fā)現(xiàn)對(duì)算法領(lǐng)域負(fù)有監(jiān)督管理職責(zé)的行政機(jī)關(guān)違法行使職權(quán)或者不作為，致使國(guó)家利益或社會(huì)公共利益受到損害的，應(yīng)當(dāng)向行政機(jī)關(guān)提出檢察建議，督促其依法履行職責(zé)。如果行政機(jī)關(guān)在收到檢察建議后仍不依法履行職責(zé)的，人民檢察院應(yīng)當(dāng)依法向人民法院提起行政公益訴訟。因此，受算法影響的公民、法人或其他組織如果認(rèn)為算法存在問(wèn)題且會(huì)導(dǎo)致國(guó)家或公共利益受損，那么在行政機(jī)關(guān)不作為的情況下，可以請(qǐng)求人民檢察院向行政機(jī)關(guān)提出檢察建議或向人民法院提起行政公益訴訟。

四、結(jié)語(yǔ)

在算法治理的各相關(guān)主體之中，受算法影響的公民、法人或其他組織顯然最有意愿和動(dòng)力對(duì)算法中存在的不當(dāng)問(wèn)題進(jìn)行治理。因此，算法私人治理在整個(gè)算法治理體系中應(yīng)占有重要地位。但是，在強(qiáng)調(diào)和重視算法私人治理作用的同時(shí)，并不能因此而淡化其他主體對(duì)算法治理的責(zé)任和義務(wù)。由于受算法影響主體的治理主張并不能自動(dòng)地獲得實(shí)現(xiàn)，受算法影響的主體必須與算法開(kāi)發(fā)者、使用者進(jìn)行協(xié)商或通過(guò)行政機(jī)關(guān)、人民法院的救濟(jì)才有可能實(shí)現(xiàn)其治理目標(biāo)。由此可見(jiàn)，算法的開(kāi)發(fā)者和使用者是算法治理的關(guān)鍵，行政機(jī)關(guān)和人民法院作為公共管理者和居中裁判者則為算法的公正治理提供了基礎(chǔ)保障。因此，為了實(shí)現(xiàn)算法的良性治理，則必需算法開(kāi)發(fā)者與使用者、受算法影響主體、行業(yè)協(xié)會(huì)、行政機(jī)關(guān)與司法機(jī)關(guān)共同努力，構(gòu)建一個(gè)由受算法影響主體的私人治理活動(dòng)作為主要驅(qū)動(dòng)力且各相關(guān)主體各負(fù)其責(zé)、各司其職的算法治理體系。