武鳳珠

“年齡25—35周歲，多數(shù)為女性，60%以上生活在二三線城市”“40周歲以上男性居多，平均年收入為30萬—50萬元，企業(yè)中高級(jí)管理人員占比約為33%”……許多企業(yè)通過計(jì)算機(jī)程序進(jìn)行大數(shù)據(jù)分析后，會(huì)為產(chǎn)品或服務(wù)勾勒出一幅客戶“畫像”。

這些“畫像”，是企業(yè)根據(jù)客戶性別、年齡、職業(yè)、居住地等個(gè)人信息，經(jīng)過一系列數(shù)據(jù)分析后得出的客戶群概況。伴隨互聯(lián)網(wǎng)技術(shù)進(jìn)步、商業(yè)營(yíng)銷向精準(zhǔn)化方向發(fā)展，通過分析潛在客戶個(gè)人信息實(shí)現(xiàn)廣告精準(zhǔn)推送、客戶精準(zhǔn)鎖定，成為許多平臺(tái)與企業(yè)降低營(yíng)銷成本、獲得優(yōu)質(zhì)客源的“常規(guī)舉措”。

在購物網(wǎng)站查看過某一類商品后，不斷收到類似商品的產(chǎn)品信息推送;在新聞網(wǎng)站瀏覽過某一條新聞后，手機(jī)推送中的新聞信息便出現(xiàn)大量類別相近的信息……大數(shù)據(jù)對(duì)互聯(lián)網(wǎng)用戶“畫像”的細(xì)致分析、精準(zhǔn)推送，使互聯(lián)網(wǎng)時(shí)代的個(gè)人猶如生活在“信息繭房”中，信息接收渠道被與個(gè)人特征、個(gè)人喜好等高度相關(guān)的各種自動(dòng)推送緊密包裹。

通過計(jì)算機(jī)程序?qū)€(gè)人行為習(xí)慣、興趣愛好、經(jīng)濟(jì)狀況、健康情況、信用狀況等進(jìn)行自動(dòng)分析、評(píng)估并進(jìn)行決策的過程，便是自動(dòng)化決策過程。建立在個(gè)人信息收集基礎(chǔ)上的自動(dòng)化決策，正在加速非法交易個(gè)人信息產(chǎn)業(yè)鏈的擴(kuò)張。

11月1日施行的《中華人民共和國個(gè)人信息保護(hù)法》，對(duì)個(gè)人信息處理者利用個(gè)人信息進(jìn)行自動(dòng)化決策作出規(guī)范：應(yīng)當(dāng)保證決策的透明度和結(jié)果公平、公正;通過自動(dòng)化決策方式向個(gè)人進(jìn)行信息推送、商業(yè)營(yíng)銷，應(yīng)當(dāng)同時(shí)提供不針對(duì)其個(gè)人特征的選項(xiàng)或向個(gè)人提供便捷的拒絕方式;個(gè)人信息處理者應(yīng)當(dāng)事前進(jìn)行個(gè)人信息保護(hù)影響評(píng)估，并對(duì)處理情況進(jìn)行記錄……

“個(gè)人信息保護(hù)法關(guān)于自動(dòng)化決策的條文雖然相對(duì)較少，但是建立了包括預(yù)防、合法程序、個(gè)人權(quán)利等在內(nèi)的多維度規(guī)制框架，對(duì)于重點(diǎn)問題都有所涉及。在未來落地的過程中，還需要通過相應(yīng)配套規(guī)則的建立和執(zhí)法活動(dòng)的開展進(jìn)一步細(xì)化?！敝袊嗣翊髮W(xué)法學(xué)院未來法治研究院執(zhí)行院長(zhǎng)、中國法學(xué)會(huì)網(wǎng)絡(luò)與信息法學(xué)研究會(huì)副秘書長(zhǎng)張吉豫表示。

免于接受自動(dòng)化決策，是個(gè)人信息保護(hù)法賦予公民的權(quán)利

“為保證良好的用戶體驗(yàn)，盡可能地減少與您無關(guān)的廣告對(duì)您造成的侵?jǐn)_，我們一直在改進(jìn)和優(yōu)化廣告推薦機(jī)制。您可以選擇對(duì)不感興趣的標(biāo)簽進(jìn)行為期6個(gè)月的關(guān)閉。選擇關(guān)閉部分興趣類別后，不會(huì)停止您的信息收集，但是，所收集的信息都不會(huì)用于向您推薦個(gè)性化廣告內(nèi)容?！碧詫欰PP將推送廣告劃分為“創(chuàng)意禮品”“廚房用品”“園藝生活”“糧油米面”等50個(gè)類別，用戶只需要點(diǎn)擊類別按鈕，便可以停止接收這一類別的個(gè)性化廣告推薦。

通過自動(dòng)化決策方式向個(gè)人進(jìn)行信息推送、商業(yè)營(yíng)銷，應(yīng)當(dāng)向個(gè)人提供不針對(duì)個(gè)人特征的選項(xiàng)或便捷的拒絕方式，這是個(gè)人信息保護(hù)法關(guān)于互聯(lián)網(wǎng)平臺(tái)自動(dòng)化決策的明確規(guī)定?！斑@一規(guī)定是2019年1月1日起施行的《中華人民共和國電子商務(wù)法》‘電子商務(wù)經(jīng)營(yíng)者根據(jù)消費(fèi)者的興趣愛好、消費(fèi)習(xí)慣等特征向其提供商品或服務(wù)搜索結(jié)果的，應(yīng)當(dāng)同時(shí)向該消費(fèi)者提供不針對(duì)其個(gè)人特征的選項(xiàng)這一條款的延續(xù)，同時(shí)建立了使個(gè)人擁有免于接受自動(dòng)化決策權(quán)利的機(jī)制?！睆埣フf。

在張吉豫看來，商業(yè)廣告進(jìn)行個(gè)性化推送有合理、正當(dāng)?shù)木売?，但是由此帶來的“大?shù)據(jù)殺熟”“信息繭房”等問題也確實(shí)受到社會(huì)公眾熱議，并得到立法部門的高度關(guān)注。“在經(jīng)過討論達(dá)成共識(shí)的基礎(chǔ)上，可以將廣告推送、商業(yè)營(yíng)銷確立為一種特殊情況。個(gè)人信息保護(hù)法的相關(guān)規(guī)定，是針對(duì)這種特殊情況使個(gè)人免于接受自動(dòng)化決策的規(guī)則。”

而提供不針對(duì)個(gè)人特征的選項(xiàng)和提供便捷的拒絕方式，是法律規(guī)則列明的、在自動(dòng)化決策中實(shí)現(xiàn)個(gè)人信息保護(hù)的兩條可行路徑。張吉豫認(rèn)為，相比直接拒絕，提供不針對(duì)個(gè)人特征的選項(xiàng)保留了信息推薦的可能性，二者適用于不同的應(yīng)用場(chǎng)景?！氨热缭诟鶕?jù)個(gè)人信息決定能否發(fā)放貸款的場(chǎng)景下，不針對(duì)個(gè)人特征的計(jì)算機(jī)算法設(shè)計(jì)就不太具有可行性。但是在商業(yè)營(yíng)銷等信息推送情形下，就存在推送不針對(duì)個(gè)人特征信息的可能性，只是這種不針對(duì)個(gè)人特征的推薦，個(gè)人的歡迎度或許并不高。”

張吉豫表示，個(gè)人信息保護(hù)法的這一機(jī)制設(shè)計(jì)有助于促進(jìn)不同算法間的競(jìng)爭(zhēng)?！??一方面是推送針對(duì)個(gè)人特征的信息，另一方面是推送??不針對(duì)個(gè)人特征的信息。如果個(gè)人信息保護(hù)法有效實(shí)施，不僅能夠?qū)︶槍?duì)個(gè)人特征的算法起到修正作用，也能夠?qū)φ幱诎l(fā)展過程中的算法設(shè)計(jì)起到推進(jìn)作用?！?/p>

關(guān)于個(gè)人對(duì)以自動(dòng)化決策方式推送信息的拒絕，個(gè)人信息保護(hù)法明確：通過自動(dòng)化決策方式作出的決定，如果將對(duì)個(gè)人權(quán)益產(chǎn)生重大影響，個(gè)人有權(quán)要求個(gè)人信息處理者予以說明，并有權(quán)拒絕個(gè)人信息處理者僅通過自動(dòng)化決策的方式作出決定?！皩?duì)個(gè)人權(quán)益有重大影響的決定，個(gè)人信息保護(hù)法雖然沒有進(jìn)行明確，但是結(jié)合學(xué)界意見，這些決定應(yīng)當(dāng)包含兩個(gè)方面：一是對(duì)法律權(quán)利或法律效果有明確影響的，二是??對(duì)個(gè)人經(jīng)濟(jì)地位、社會(huì)地位、長(zhǎng)期評(píng)價(jià)等可能產(chǎn)生影響的。在法律落實(shí)過程中，個(gè)人信息處理者提供的說明必須是對(duì)決策有意義的信息，??而不能是簡(jiǎn)單、泛泛的電商信息。”張吉豫分析道。

??引入人工干預(yù)，可以增強(qiáng)自動(dòng)化決策對(duì)人的關(guān)懷

保障個(gè)人真正獲得拒絕自動(dòng)化決策的??權(quán)利，是個(gè)人信息保護(hù)法關(guān)于自動(dòng)化決策條款最重要的設(shè)計(jì)目的之一。個(gè)人信息保護(hù)法明確，個(gè)人有權(quán)拒絕個(gè)人信息處理者僅通過自動(dòng)化決策的方式作出決定。

“這就需要給條款中‘僅通過自動(dòng)化決策的方式一個(gè)恰當(dāng)?shù)慕忉專荒懿扇—M義的解釋?！睆埣ケ硎?，如果有一個(gè)人工參與到??自動(dòng)化決策過程中就視之為??不是僅通過自動(dòng)化決策方式，條款可能被架空?！氨热纾瑢?duì)算法決策??的結(jié)果只是人工簡(jiǎn)單復(fù)核一遍，這就不能認(rèn)為人工對(duì)決策過程產(chǎn)生了實(shí)際影響，而仍然應(yīng)當(dāng)視之為??通過自動(dòng)化決策方式作出的決定?！?/p>

在張吉豫看來，??引入人工干預(yù)可以增強(qiáng)自動(dòng)化決策對(duì)人的關(guān)懷。“引入對(duì)決策結(jié)果產(chǎn)生實(shí)際影響的人工干預(yù)不僅會(huì)提升算法的準(zhǔn)確度，更重要的是，在決策中加入人的判斷可以體現(xiàn)出人格尊嚴(yán)?！?/p>

那么，??引入人工干預(yù)是否會(huì)影響自動(dòng)化決策效率，增加決策的不確定性，或者導(dǎo)致決策結(jié)果不公正的情況出現(xiàn)？對(duì)此，張吉豫表示，在尚處于智能設(shè)備初期階段的當(dāng)下，計(jì)算機(jī)算法本身仍然存在很大的改進(jìn)與提升空間?！叭斯じ深A(yù)環(huán)節(jié)的引入，其實(shí)是算法多元治理的一個(gè)必要環(huán)節(jié)，這也能夠?yàn)樗惴ǖ母倪M(jìn)提供??一個(gè)有益途徑。算法在現(xiàn)階段一些生活典型場(chǎng)景的應(yīng)用中，其實(shí)都存在一定程度的人工干預(yù)。引入人工干預(yù)，可以為自動(dòng)化決策提供合理的補(bǔ)充，也是切實(shí)落實(shí)保障個(gè)人免于接受自動(dòng)化決策的可行途徑。”

張吉豫認(rèn)為，個(gè)人信息處理者在事前進(jìn)行個(gè)人信息保護(hù)影響評(píng)估時(shí)，就應(yīng)當(dāng)考慮未來如果個(gè)人權(quán)益受到重大影響應(yīng)當(dāng)提供的說明與解釋，引入人工干預(yù)則可以為此提供更多保障?！皞€(gè)人免受自動(dòng)化決策權(quán)益的保障，應(yīng)該從個(gè)人信息保護(hù)影響評(píng)估階段??就開始建立。建立人工干預(yù)機(jī)制，匹配建立情況分析說明機(jī)制和根據(jù)個(gè)人事宜進(jìn)行考察改進(jìn)的機(jī)制，都是在個(gè)人信息保護(hù)影響評(píng)估環(huán)節(jié)就應(yīng)當(dāng)著重開始設(shè)計(jì)的?！?/p>

個(gè)人信息保護(hù)影響評(píng)估也涉及個(gè)人信息法要求的決策透明、結(jié)果公平公正等，對(duì)此都應(yīng)當(dāng)進(jìn)行相應(yīng)的設(shè)計(jì)?！斑@一環(huán)節(jié)不僅包括利用個(gè)人信息進(jìn)行自動(dòng)化決策會(huì)對(duì)個(gè)人信息權(quán)益產(chǎn)生怎樣的影響、面臨何種風(fēng)險(xiǎn)等，企業(yè)是否??采取了適當(dāng)、??有效的風(fēng)險(xiǎn)處理機(jī)制也應(yīng)當(dāng)包含在內(nèi)。”張吉豫說。