中圖分類號：D922.5 文獻標識碼：A 文章編號：1001-4225（2024）12-0017-10

黨的二十大報告指出，就業(yè)是最基本的民生，要消除影響平等就業(yè)的不合理限制和就業(yè)歧視，使人人都有通過勤奮勞動實現(xiàn)自身發(fā)展的機會。消除就業(yè)歧視對于實現(xiàn)高質量充分就業(yè)、扎實推進共同富裕和構建和諧勞動關系具有重要意義[2]。隨著算法技術的迅速發(fā)展和普遍運用，算法憑借其推薦結果的精準性和響應的敏捷性，迅速改變了傳統(tǒng)的招聘方式，被廣泛運用于就業(yè)領域。以算法為技術核心的招聘平臺（如：智聯(lián)招聘）成為當前用人單位招聘人才的重要途徑之一。算法是嵌入在計算機系統(tǒng)中，按照設計意圖輔助就業(yè)決策的一系列指令的集合。算法深入?yún)⑴c了就業(yè)信息推送、簡歷篩選、面試甄選與能力測評等招聘環(huán)節(jié)，極大地提高了用人單位的招聘效率，有效地促進了勞動者就業(yè)。但是，科技是把雙刃劍，算法在為人才招聘提供便利的同時也引發(fā)了就業(yè)歧視，如亞馬遜公司于2014年開發(fā)的用于簡歷篩選的人工智能程序被指存在性別歧視[3，谷歌在互聯(lián)網(wǎng)平臺進行算法崗位推薦時涉嫌性別歧視[4]。算法就業(yè)歧視是內嵌于算法的基于特征或數(shù)據(jù)的招聘決策偏見，對特定群體實施了不公平的區(qū)別對待，侵害了勞動者的平等就業(yè)權，擾亂了勞動力市場秩序。由于算法就業(yè)歧視發(fā)生在輔助就業(yè)決策的系統(tǒng)內部，具有天然的隱蔽性，相較于傳統(tǒng)就業(yè)歧視更不容易被人察覺，而且舉證難度大，被侵害的權利往往難以得到救濟

隨著算法就業(yè)歧視問題日漸突顯，其相應的法律規(guī)制成為了學界熱門的研究課題。算法作為一種決策機制或輔助決策機制被嵌入了價值判斷，具備可規(guī)制性5。我國多數(shù)學者從宏觀層面對算法歧視的法律規(guī)制進行了探討[6-7，但對就業(yè)領域的算法歧視問題研究較少?，F(xiàn)有的研究文獻僅提出了算法就業(yè)歧視的法律規(guī)制的總體思路[8]，未能結合我國反就業(yè)歧視制度探討算法就業(yè)歧視的具體法治應對措施。因此，梳理算法就業(yè)歧視的的表現(xiàn)與危害，分析我國反就業(yè)歧視制度在應對算法就業(yè)歧視的困境并探討法治應對措施具有重要意義。

一、算法就業(yè)歧視法治應對的必要性

（一）算法就業(yè)歧視的內涵界定

算法就業(yè)歧視作為人工智能時代的新興術語，目前尚無法律的明確界定，可以從理解“算法歧視\"和“就業(yè)歧視\"兩者的含義著手。算法歧視源于大數(shù)據(jù)歧視，是產生于大數(shù)據(jù)時代的新的社會歧視類型，是由于算法內部演算和數(shù)據(jù)分析所導致的對特定群體或個人的不公正對待，包括對特定群體或個人實施法律所直接禁止的差別對待行為和實施看似中立實際上卻造成差別影響的后果的行為。就業(yè)歧視的本質是在就業(yè)過程中發(fā)生的不合理的差別對待。目前我國法律沒有對就業(yè)歧視進行明確界定，而是以列舉的方式規(guī)定了在就業(yè)領域禁止實施的行為以及法律后果。就業(yè)歧視可以理解為沒有合法的目的和原因，基于民族、種族、性別、宗教信仰、戶籍、殘疾或身體疾病、年齡、膚色、身高、社會出身等原因，采取的任何差別對待，從而損害勞動者的就業(yè)權的行為。就業(yè)歧視可分為直接歧視和間接歧視。直接歧視是指用人單位對勞動者實施的法律所禁止的區(qū)別對待的行為，是顯性的、淺層的歧視形式；間接歧視是用人單位對勞動者實施的表面上看似中立而實際上對特定群體產生了差別影響的行為，是隱性的、深層的歧視形式。

算法就業(yè)歧視是就業(yè)歧視在算法領域的轉化，現(xiàn)實社會中的各種就業(yè)歧視類型，都有可能在算法領域發(fā)生。就業(yè)歧視是一種長期以來普遍存在的社會現(xiàn)象，算法決策深度學習了人類決策，就業(yè)歧視便在算法決策中進行了算法轉化，并隨著算法技術的廣泛運用形成了算法就業(yè)歧視。數(shù)據(jù)是算法運行的必備要素，如果將帶有就業(yè)歧視的數(shù)據(jù)輸入算法，根據(jù)“偏見進，則偏見出”的算法決策理論，必然轉化為算法就業(yè)歧視。例如，用人單位過去長期以來雇傭的男性職工遠多于女性職工，而且對男性職工的評價也高于對女性職工的評價，那么算法就可能會從這些歷史數(shù)據(jù)中識別出用人單位對男性職工的偏好，并復制和固化這種偏見，做出不利于女性職工的算法雇傭決策，從而形成了就業(yè)性別歧視。由此可見，算法不僅避免不了就業(yè)歧視的發(fā)生，而且還會算法轉化乃至固化社會存在的就業(yè)歧視，使得就業(yè)歧視以更加隱蔽或是合法化的方式存在[0。算法技術的運用提高了用人單位人才招聘的效率，但由于在算法雇傭決策中可能嵌入了算法開發(fā)者以及雇傭決策者的價值判斷和固有的就業(yè)偏見意識，造成就業(yè)歧視，影響勞動者的公平就業(yè)。招聘階段的算法自動化決策的核心步驟主要由算法自動完成，而且算法在深度自主學習中習得了哪些數(shù)據(jù)以及這些數(shù)據(jù)如何在算法自動化決策中運用無法進行準確的解釋，因此算法就業(yè)歧視具有明顯的自動化決策、隱蔽性和延續(xù)性等特征[]

（二）算法就業(yè)歧視的表現(xiàn)及法治應對的必要性

作為一種新型的就業(yè)歧視類型，算法就業(yè)歧視沒有改變就業(yè)歧視的本質，只是就業(yè)歧視在數(shù)字社會中呈現(xiàn)出的更加隱蔽的特殊表現(xiàn)形式。算法就業(yè)歧視的核心要義就是在就業(yè)領域發(fā)生的在算法自動化決策中遭受的不合理的差別對待，主要表現(xiàn)為兩種形式。一是算法設計時產生的就業(yè)歧視。首先，算法通過歸納法對現(xiàn)有數(shù)據(jù)進行分析和歸類，并在此基礎上進行預測，這種歸納式的算法思維邏輯容易產生對特定群體的歧視。例如，在算法招聘的初期，算法平臺根據(jù)應聘者的性別、年齡、戶籍、學歷等信息進行統(tǒng)計和篩選，并通過概率性的群體身份特征來鑒別特定個體的能力，然后根據(jù)單位的用人需求有選擇性地向求職者推送不同的就業(yè)信息。這種“私人定制”的簡歷推送做法限制了求職者的就業(yè)機會，造成了求職機會的不均等和職業(yè)發(fā)展的不公平[12]而且，隨著云計算、大數(shù)據(jù)、人工智能的運用，個人數(shù)據(jù)收集更容易，個人信息利用成本更低，這種針對個人規(guī)則的“私人定制”會更加普遍。其次，算法決策基于數(shù)據(jù)分析，如果算法設計時所運用的數(shù)據(jù)本身有錯漏或者存在歧視性，那么所建立的算法模型對特定群體的預測就有可能產生不合理的差別對待，進而產生就業(yè)歧視。最后，算法設計過程中開發(fā)者的認知局限以及偏見或歧視都會潛移默化地進入到算法的自動化決策中[13]，從而產生歧視的后果。二是算法運行中產生的就業(yè)歧視。算法具有深度學習和預測能力，可以運用大數(shù)據(jù)從已知數(shù)據(jù)準確推測未知信息[14]。這種算法運行中產生的\"冗余編碼\"（即將敏感性數(shù)據(jù)與其他可合法獲得的數(shù)據(jù)進行編碼）是算法歧視產生的重要原因之一[I5]。例如，用人單位即使沒有采集求職者的婚育信息，但算法也能通過大數(shù)據(jù)抓取的求職者購買母嬰用品記錄和報名早教培訓的信息準確判斷求職者的婚育情況，從而為就業(yè)性別歧視的實施提供了可能。

算法技術運用于雇傭決策提高了招聘的效率，其通過算法技術篩選簡歷并選擇最佳求職者的過程看似中立，實際上受到了算法設計者和開發(fā)者的價值影響，也體現(xiàn)了用人單位實現(xiàn)利益最大化的目的，因此，用人單位最終做出的算法雇傭決策實際上并不客觀，事實上會對勞動者的人格尊嚴和平等就業(yè)權造成侵害。同時，由于算法技術具有自主學習能力和預測能力，算法技術不僅能夠打探到超出用人單位依法可以掌握的范圍的勞動者個人信息，還能預測其未來的行為特征，進而促成了用人單位的偏見性招聘決策。而算法技術運用的隱蔽性又使得勞動者對自己平等就業(yè)權和個人數(shù)據(jù)權利受到侵害而不自知，更無法尋求有效的救濟?？傊惴ň蜆I(yè)歧視作為一種新型的就業(yè)歧視，不僅會侵害勞動者的平等就業(yè)權，固化和加深職場就業(yè)偏見，擾亂就業(yè)市場秩序，而且也不利于勞動者個人數(shù)據(jù)權利的保護。

隨著算法技術在招聘領域的廣泛應用，算法就業(yè)歧視現(xiàn)象將越來越普遍，為防止算法就業(yè)歧視危害的發(fā)生，算法就業(yè)歧視的法治應對非常必要。首先，算法就業(yè)歧視剝奪了特定主體的就業(yè)機會，侵犯了勞動者的平等就業(yè)權，擾亂了公平競爭的就業(yè)市場秩序，通過法治手段應對算法就業(yè)歧視，可以確保所有求職者在同等條件下競爭工作崗位，不受性別、年齡、種族等非法因素的影響，并且在其遭遇算法就業(yè)歧視時可以通過法律途徑獲得救濟，最終實現(xiàn)平等就業(yè)權的有效保護。其次，算法就業(yè)歧視的產生源于用人單位的偏見性決策，通過法治手段應對算法就業(yè)歧視，可以明確企業(yè)在算法就業(yè)歧視中的責任，促使企業(yè)合規(guī)經營，規(guī)范算法的開發(fā)和應用，加強自我監(jiān)管，確保算法的公平性和透明度，避免對勞動者個人數(shù)據(jù)的濫用，最終推動算法技術的創(chuàng)新和健康發(fā)展。

二、算法就業(yè)歧視法治應對的困境

算法就業(yè)歧視侵害了勞動者的平等就業(yè)權，導致就業(yè)領域的不公平和不正義。我國目前沒有制定專門的反就業(yè)歧視法，有關規(guī)定散見于《勞動法》《就業(yè)促進法》《婦女權益保障法》以及一些行政規(guī)章中。算法就業(yè)歧視是人工智能時代出現(xiàn)的新型就業(yè)歧視類型，現(xiàn)行反就業(yè)歧視制度在應對算法就業(yè)歧視過程中面臨立法、執(zhí)法和司法等多種困境。

（一）算法就業(yè)歧視法治應對的立法困境

1.就業(yè)歧視的類型范圍過窄

我國《勞動法》和《就業(yè)促進法》明確列舉了民族、種族、性別、宗教信仰這四種法律禁止的就業(yè)歧視類型，并對婦女、少數(shù)民族人員、殘疾人、傳染病病原攜帶者以及農村勞動者進行了特殊保護。對于法律明確列舉的幾種歧視因素以外的其他不合理的差別對待行為是否屬于就業(yè)歧視行為，如實踐中廣泛存在的身高、年齡、地域、前科、學歷等歧視因素是否屬于法律禁止的就業(yè)歧視類型，在中國乃至全世界范圍內尚未達成共識[，導致這些就業(yè)過程中常見的歧視行為難以在司法實踐中得到認定，不利于勞動者平等就業(yè)權的實現(xiàn)和公平就業(yè)秩序的維護。隨著算法技術在就業(yè)領域的深人運用，算法就業(yè)歧視逐漸普遍并加深了職場就業(yè)偏見，加大了反就業(yè)歧視的難度。但由于算法就業(yè)歧視的類型未得到法律的確認，實踐中很難得到有效的救濟。因此，就業(yè)歧視的類型范圍過窄是勞動者平等就業(yè)權保護的障礙，在未來的反就業(yè)歧視立法中有必要拓展就業(yè)歧視的類型。

2.權利救濟渠道單一

算法就業(yè)歧視產生于新科技革命背景下，歧視與用工過程融合更深，隱蔽性更強。算法就業(yè)歧視發(fā)生后，急需救濟。誠如法諺所言，“無救濟即無權利”，權利救濟是評判法律體系是否健全的重要標志。算法就業(yè)歧視侵犯了勞動者的平等就業(yè)權，依據(jù)《就業(yè)促進法》第六十二條規(guī)定，遭遇就業(yè)歧視的勞動者可以向人民法院提起訴訟?？梢?，我國就業(yè)歧視的主要救濟途徑是以民事訴訟為主的私法救濟。私法救濟規(guī)范的是平等主體之間的法律關系，主要目的是對私權進行保護；而勞動者與用人單位之間具有從屬性，平等就業(yè)權具有公共利益與私人利益相結合的屬性，算法就業(yè)歧視構成了對公私融合法益的損害。勞動者弱勢地位的現(xiàn)實，決定了以平等主體擬制的私法救濟可能會弱化平等就業(yè)權的價值甚至會加劇就業(yè)歧視[18]。盡管部分法律法規(guī)在某些歧視類型上突破了私法救濟的范圍，增加了公法救濟的內容，如2022年10月修訂的《婦女權益保障法》增加了勞動保障監(jiān)察和檢察公益訴訟作為針對性別就業(yè)歧視的救濟途徑，但大部分就業(yè)歧視類型仍然是以私法救濟為主，渠道單一，不能為遭遇算法就業(yè)歧視的勞動者提供全面的救濟。

（二）算法就業(yè)歧視法治應對的司法困境

1.算法就業(yè)歧視司法認定難

我國現(xiàn)有反就業(yè)歧視法律制度尚未對就業(yè)歧視進行明確的界定，《就業(yè)促進法》以“開放式列舉\"的方式對四種就業(yè)歧視要素作出了禁止性的概括式規(guī)定，但這四種就業(yè)歧視行為具體怎么界定以及“開放式列舉”的邊界是什么卻沒有明確[19]。司法實踐中也沒有形成統(tǒng)一的判定標準，既有根據(jù)勞動爭議案件用人單位責任的構成要件認定，也有依據(jù)民事侵權責任的構成要件認定。由于在招聘階段求職者與用人單位之間尚未形成勞動關系，無法適用勞動爭議處理程序審理，只能依據(jù)民事侵權責任的構成要件認定。司法實踐中適用一般侵權責任構成要件認定就業(yè)歧視，存在主觀過錯和因果關系的認定過于嚴苛的現(xiàn)象，導致就業(yè)歧視司法認定難①。算法技術的運用加大了就業(yè)歧視司法認定的難度，勞動者請求認定算法就業(yè)歧視的主張更難得到支持。算法就業(yè)歧視往往都是間接歧視，用人單位一般不會直接公布帶有歧視性的招聘標準，而是巧妙地將其歧視意圖隱藏在算法指令中。算法技術的專業(yè)性在求職者和用人單位之間產生了“信息鴻溝”，形成“算法黑箱”，導致求職者很難察覺到用人單位的歧視意圖。以在線招聘廣告的定向推送為例，算法招聘平臺通過對現(xiàn)有數(shù)據(jù)的分析、歸類和預測，運用算法自動化決策向特定人群推送招聘信息，雖沒有直接顯示對任何群體的偏好或歧視，但卻間接地剝奪了某些群體的就業(yè)信息平等獲取的權利，無形中產生了就業(yè)歧視。同樣，針對用人單位運用算法自動化決策對求職者簡歷進行篩選并做出錄用決策的行為，勞動者基于對算法技術中立性的信任而不會懷疑用人單位的主觀歧視意圖，即使有，用人單位也可能以與崗位職責一致或者與工作相關為由進行抗辯2]。而\"算法黑箱\"的存在使得算法就業(yè)歧視更具有隱蔽性。此外，算法深度學習后做出的預測和帶有歧視性的招聘決策甚至可能超出了算法設計者和用人單位的預期，很難認定為算法設計者和用人單位的主觀歧視故意。總之，算法就業(yè)歧視立法界定的缺乏以及算法技術的復雜性和隱蔽性增加了司法認定的難度，客觀上助長了算法就業(yè)歧視現(xiàn)象的蔓延。

2.舉證責任分配機制不合理

就業(yè)歧視損害了勞動者的平等就業(yè)權，勞動者提起就業(yè)歧視訴訟后通常需要證明用人單位實施了就業(yè)歧視行為。盡管最高人民法院已經將“平等就業(yè)權糾紛\"納入了“一般人格權糾紛”的具體案由，填補了就業(yè)歧視糾紛的司法救濟空白，但在舉證責任分配上仍采取“誰主張，誰舉證”的方式。侵權責任構成要件的全部證明責任都由勞動者承擔，在用人單位和勞動者之間地位懸殊和信息嚴重不對稱的情況下，大大增加了勞動者敗訴的風險①。在算法技術深度參與招聘決策后，算法就業(yè)歧視的復雜性和隱蔽性更加提高了算法就業(yè)歧視的證明難度。一方面，基于技術壁壘和信息不對稱，勞動者既無法知道算法自動化決策的運行規(guī)律，也無法證明用人單位利用算法做出的差別化招聘決策屬于就業(yè)歧視行為；另一方面，用人單位不僅不會主動公開其算法招聘決策中的歧視目的，而且還可能會利用大數(shù)據(jù)分析來證明其招聘決策的工作相關性和商業(yè)必要性以逃避算法就業(yè)歧視的認定。因此，讓處于弱勢地位的勞動者去證明算法就業(yè)歧視的存在非常困難，這種“誰主張，誰舉證”的舉證責任分配制度在一定程度上加劇了算法就業(yè)歧視現(xiàn)象的發(fā)生。

（三）算法就業(yè)歧視法治應對的執(zhí)法困境

1.算法的復雜性和不透明性增加了執(zhí)法的難度

一方面，算法通常由數(shù)學模型和大量的數(shù)據(jù)驅動，具有較高的技術難度，其決策過程難以理解和解釋。即使是開發(fā)算法的專家，也很難完全理解算法在特定情況下的具體決策過程。目前執(zhí)法機構本身缺乏具備算法和數(shù)據(jù)科學知識的專業(yè)人才，難以對算法就業(yè)歧視進行有效的審查和監(jiān)管。另一方面，算法的不透明性加大了執(zhí)法難度。許多算法的內部邏輯和數(shù)據(jù)處理過程不公開，使得監(jiān)管部門和執(zhí)法機構難以對其進行有效的監(jiān)督和審查。

2.勞動者個人數(shù)據(jù)保護不足

算法技術在招聘領域的運用離不開勞動者個人數(shù)據(jù)的收集和處理。目前我國法律對勞動者個人數(shù)據(jù)保護主要是通過規(guī)范用人單位收集和處理勞動者個人數(shù)據(jù)行為以及賦予勞動者個人數(shù)據(jù)權利兩個方面實現(xiàn)?！稊?shù)據(jù)安全法》《民法典》以及《個人信息保護法》規(guī)定了一般數(shù)據(jù)主體的權利、個人數(shù)據(jù)收集和處理的一般原則和義務，《勞動合同法》《婦女權益保障法》明確了用人單位在招聘時可以收集的勞動者的個人數(shù)據(jù)的范圍（限于“與勞動合同直接相關的勞動者的基本情況”，并不得“進一步詢問或者調查女性求職者的婚育情況”）。由于算法技術具有自主學習能力和預測能力，算法技術能夠根據(jù)已知的勞動者非敏感個人數(shù)據(jù)預測到未知的與歧視特征相關的敏感個人數(shù)據(jù)。用人單位據(jù)此做出差別性的招聘決策，造成了算法就業(yè)歧視，侵害了勞動者的平等就業(yè)權。因此，僅限制對勞動者敏感個人數(shù)據(jù)的收集和處理，并不能防止算法就業(yè)歧視的發(fā)生，傳統(tǒng)的敏感一非敏感數(shù)據(jù)二元劃分規(guī)則在算法招聘領域失靈[21。由于算法歧視的隱蔽性和勞動者與用人單位之間經濟地位懸殊，現(xiàn)有的勞動者個人數(shù)據(jù)賦權和用人單位數(shù)據(jù)治理義務的規(guī)范模式不足以保護勞動者的數(shù)據(jù)權利和避免算法就業(yè)歧視的發(fā)生。

三、算法就業(yè)歧視的法治應對困境的出路

針對我國現(xiàn)行法律制度在應對算法就業(yè)歧視問題時所面臨的立法、司法、執(zhí)法等困境，可以從完善立法、優(yōu)化司法、加強執(zhí)法等方面尋求破解之道。

（一）算法就業(yè)歧視的立法應對

1.擴展就業(yè)歧視的類型我國立法對就業(yè)歧視的類型規(guī)定范圍太窄導致實踐中就業(yè)歧視認定難，不利于反就業(yè)歧視工作的開展。應在未來的反就業(yè)歧視立法中擴展就業(yè)歧視的類型，明確法定四種歧視因素之外的不合理的差別對待行為的判定標準，將實踐中常見的且迫切需要消除的就業(yè)歧視的類型明確納入法定禁止事由中。為了有效應對算法就業(yè)歧視的挑戰(zhàn)，應當將算法就業(yè)歧視明確為新的就業(yè)歧視的類型并納入法定禁止事由。

算法就業(yè)歧視產生于算法招聘自動化決策中，用人單位的歧視意圖隱藏于看似中立的算法招聘決策系統(tǒng)中，大都屬于間接歧視。例如：在設定招聘算法的優(yōu)化目標時，如果只考慮用人單位的利益而忽視了應聘者的多樣性和公平性，那么就有可能使算法傾向于選擇某些群體，排斥其他群體，從而產生就業(yè)歧視。由于間接歧視比較隱蔽，司法適用難度大，目前尚未得到我國反就業(yè)歧視制度的明確認可?！爸卫砥缫晱闹苯拥介g接是一個發(fā)展進階過程，當直接歧視被法律明確禁止時，用人單位自然會采用更為隱蔽、復雜的間接歧視形式\"[22]。隨著算法技術在就業(yè)領域的廣泛運用，算法就業(yè)歧視將越來越普遍，勞動者的平等就業(yè)權保護將受到更大的挑戰(zhàn)，應當在未來的反就業(yè)歧視立法中，將算法就業(yè)歧視納入法定禁止事由，明確界定并重點防治。

2.拓展算法就業(yè)歧視救濟渠道

單一的私法救濟模式不足以遏制就業(yè)歧視問題，在應對算法就業(yè)歧視上更顯蒼白，應當拓展救濟渠道，引入公益訴訟制度，為公平就業(yè)秩序的維護提供強有力的司法救濟。算法就業(yè)歧視背離了公平正義的價值理念，剝奪了特定對象的平等就業(yè)機會，并對廣泛的不特定對象進行差別對待或者產生實質上的差別對待的影響，既損害了私人利益即具體求職者的平等就業(yè)權，也損害了社會公共利益即潛在勞動者群體的平等就業(yè)權益乃至整個勞動力市場的公平競爭秩序?，F(xiàn)行平等就業(yè)權私法救濟模式未能把握平等就業(yè)權的公共利益與私人利益融合的本質，混淆了平等就業(yè)權與一般民事權利的性質，將平等就業(yè)權的救濟與其他一般民事權利的救濟相提并論，導致司法實踐中出現(xiàn)訴訟主體不適格、受案范圍不配對、就業(yè)歧視認定難、舉證責任分配不公等司法亂象[23]。應當拓展算法就業(yè)歧視救濟渠道，在私益訴訟的基礎上，引入公益訴訟的司法救濟途徑。算法就業(yè)歧視公益訴訟，是指用人單位利用算法技術做出招聘決策的行為排除或限制了公民的平等就業(yè)機會，損害了社會公平的就業(yè)秩序或者有損害的可能時，由法律規(guī)定的機關或組織為了維護社會公共利益，實現(xiàn)就業(yè)市場的公平正義而提起的訴訟。算法就業(yè)歧視的受害主體具有廣泛性和不特定性，引入公益訴訟，可以突破私益訴訟中當事人適格原則的限制，擴大當事人的范圍，同時由于其影響范圍廣、社會關注度高而能夠更好地發(fā)揮司法效果，維護公平的就業(yè)秩序和社會公共利益。

我國現(xiàn)有法律制度為算法就業(yè)歧視公益訴訟制度的構建提供了制度基礎?！稇椃ā返谌龡l為公民平等權保障提供了憲法基礎，《勞動法》和《就業(yè)促進法》為勞動者的平等就業(yè)權保障提供了法律依據(jù)。算法就業(yè)歧視雖不屬于法定的就業(yè)歧視類型，但它侵犯了公民的平等就業(yè)權，損害了勞動力市場的公平競爭秩序，應當受到《憲法》《勞動法》和《就業(yè)促進法》的規(guī)制。我國《民事訴訟法》第五十八條和《行政訴訟法》第二十五條第四款對公益訴訟的受案范圍和程序進行了規(guī)定。這兩部法均采用列舉加“等\"字的概括性、指引性的立法方式，構建了一個開放式的公益訴訟制度體系，為日后新出現(xiàn)的侵犯社會公共利益的行為類型提供了開放式的司法救濟空間[24]。新修訂的《婦女權益保障法》第七十七條將侵害婦女就業(yè)權利的行為納入檢察機關公益訴訟的范圍，開啟了性別就業(yè)歧視公益訴訟的立法歷程。已有的性別就業(yè)歧視公益訴訟實踐也起到了良好的司法效果和社會效果[25]，顯示了公益訴訟救濟途徑對治理性別就業(yè)歧視的積極意義。實踐中最常見的算法就業(yè)歧視類型就是對女性的就業(yè)歧視。因此，在算法就業(yè)歧視中引入公益訴訟制度是可行的。

（二）算法就業(yè)歧視的司法應對

1.實行舉證責任倒置規(guī)則

首先，在算法就業(yè)歧視糾紛處理中實行舉證責任倒置規(guī)則很有必要。一方面，由于勞動者與用人單位之間信息和技術的嚴重不對稱以及算法黑箱的存在，雙方的舉證能力相差懸殊，傳統(tǒng)的“誰主張，誰舉證\"的證明規(guī)則不利于保護處于弱勢地位的勞動者。另一方面，用人單位或者算法設計者可能會為了逃避承擔算法就業(yè)歧視的法律責任，做出一些隱瞞重要證據(jù)或妨礙算法設計人員作為證人出庭作證的行為，增加了舉證妨礙的風險，也客觀上加大了勞動者敗訴的風險。因此，為了遏制算法就業(yè)歧視，保護作為弱勢群體的勞動者的平等就業(yè)權，我國反就業(yè)歧視立法應當借鑒先進的立法經驗，在算法就業(yè)歧視糾紛處理中實行舉證責任倒置規(guī)則。這既是實現(xiàn)訴訟正義的要求，也契合就業(yè)促進和反算法就業(yè)歧視的立法宗旨。其次，算法就業(yè)歧視糾紛處理中的舉證責任倒置是有限的、相對的倒置。為了防止用人單位的用工自主權受到過分限制以及勞動者濫訴，舉證責任倒置并不是絕對的倒置，而應綜合考慮算法就業(yè)歧視的具體情況合理分配舉證責任。對于勞動者而言，勞動者只需要提供初步證據(jù)足以推斷用人單位實施了就業(yè)歧視行為即可。這些初步證據(jù)主要用于證明勞動者到用人單位去應聘的事實，以及勞動者符合用人單位的招錄條件但疑因受到差別對待而沒有被錄用等事實。當勞動者完成了初步證據(jù)的提供后，用人單位則需要提供證據(jù)證明就業(yè)歧視的推斷不成立。具體而言，用人單位需要提供證據(jù)證明其算法招聘過程客觀中立、存在不構成算法就業(yè)歧視的抗辯事由等事實。如果用人單位提供的證據(jù)不足以證明不存在算法就業(yè)歧視，或者抗辯事由不成立，就應當承擔就業(yè)歧視的法律責任。因此，在算法就業(yè)歧視案件中實行有限的舉證責任倒置對于防治算法就業(yè)歧視、平衡用工自主與平等就業(yè)之利益訴求具有重要意義。

2.明確算法就業(yè)歧視的認定標準

針對司法實踐中算法就業(yè)歧視認定難的問題，有必要在未來的反就業(yè)歧視立法中明確規(guī)定算法就業(yè)歧視的構成要件以及用人單位的抗辯事由，統(tǒng)一算法就業(yè)歧視司法認定的標準。

首先，明確算法就業(yè)歧視的構成要件。立法上對就業(yè)歧視的構成要件的規(guī)定的缺失，導致實踐中就業(yè)歧視司法認定難的局面，而算法技術的運用則加大了司法認定的難度。算法就業(yè)歧視的本質是用人單位的算法招聘行為對勞動者進行了不合理的差別對待，侵害了勞動者的平等就業(yè)權。一般情況下，就業(yè)歧視可以從主觀要件和客觀要件兩方面進行認定，其中主觀要件主要考察用人單位是否有歧視意圖，客觀要件則是用人單位是否實施了就業(yè)歧視的行為。由于算法就業(yè)歧視隱蔽性強，用人單位的歧視意圖難以證實，因此用人單位在利用算法技術進行招聘時，只須關注是否實施歧視的客觀行為，而不把主觀上是否具有歧視的意圖或動機作為承擔責任的必要條件[26]。起源于美國的平等權保護的法律標準一一差別性影響標準的判斷要件不需要證明歧視意圖的存在，實質上是為了禁止形式上非歧視但操作上歧視的實踐行為，可以成為協(xié)助認定算法歧視的工具[27。算法就業(yè)歧視的客觀要件是實施了不合理的差別對待行為。它包括兩個方面，一是實施了差別對待的行為。例如，用人單位通過算法決策系統(tǒng)按照一定的標準（如年齡、性別等）對原本無序混雜的人群進行了排序和歸類，并成為其算法決策的參考。二是產生了不合理的結果。判斷差別對待行為是否合理，既要考慮工作本身的內在要求，又要考慮勞動者的自身情況。用人單位享有用工自主權，如果差別對待的原因是基于工作性質、工作崗位的具體要求（如勞動者的學歷、工作經驗等與工作內在要求密切聯(lián)系的勞動者后天獲取因素），那么這種差別對待是被允許的，不構成就業(yè)歧視；反之，如果用人單位沒有正當理由，基于勞動者無法改變且與工作本身無密切聯(lián)系的“先賦因素\"（如性別、年齡、戶籍等）進行差別對待，就屬于不合理的差別對待，構成就業(yè)歧視。

其次，規(guī)定用人單位的抗辯事由。平等就業(yè)權是勞動者在就業(yè)過程中不受歧視的權利，用工自主權則是用人單位在進行用工決策和管理時的權利，只有在兩者之間進行合理的平衡，才能實現(xiàn)勞動力資源的合理配置和用工市場秩序的健康維護。算法技術的運用雖然容易引起就業(yè)歧視，但也能提高招聘決策的效率，并且技術的中立性也能在一定程度上減少人為的偏見和歧視。因此，為了激勵算法技術的運用和平臺經濟的創(chuàng)新發(fā)展，需要通過立法的確認和司法的評價來厘清權利的邊界，防止用人單位突破法律禁止的紅線，同時也賦予其合理抗辯的事由。第一，將正當職業(yè)資格作為排除用人單位就業(yè)歧視的重要理由。正當職業(yè)資格是指允許用人單位在做出招聘決策時進行考慮的某種屬性或特征[28]。如果用人單位能夠證明其招聘算法決策所采取的標準與所從事的工作具有必要且合理的關系，并且基于善意而使用，即使事實上造成了區(qū)別對待，也不認為構成就業(yè)歧視。如美國《民權法》規(guī)定：“若在某些特殊情形之下，宗教、性別或者民族是一種正當?shù)穆殬I(yè)資格要求，而且這一要求是相關業(yè)務或活動的正常運營所合理必需的，則此種雇傭實踐不屬于就業(yè)歧視。\"第二，商業(yè)必要性也應作為一種合理的抗辯事由。如果用人單位能夠證明自己是基于遵守商業(yè)規(guī)則而進行的正常的、必要的算法招聘決策，那么也不應構成算法就業(yè)歧視。

（三）算法就業(yè)歧視的執(zhí)法應對

1.加強執(zhí)法資源投入

算法技術的專業(yè)性、復雜性加大了算法就業(yè)歧視的執(zhí)法難度，需要加強執(zhí)法資源的投入，提高算法就業(yè)歧視的執(zhí)法能力和監(jiān)管力度。其一，增加專業(yè)人才投入。一方面，引進具有算法、數(shù)據(jù)科學以及法律職業(yè)倫理知識的復合型人才，或者跨學科組建算法就業(yè)歧視執(zhí)法隊伍；另一方面，對現(xiàn)有執(zhí)法人員定期開展專業(yè)培訓，提升他們在算法和數(shù)據(jù)科學等方面的知識和技能，提高執(zhí)法人員的執(zhí)法能力和執(zhí)法水平。其二，開發(fā)和使用先進的技術工具，如算法審計工具、數(shù)據(jù)偏差檢測工具等，提高算法就業(yè)歧視的監(jiān)管和執(zhí)法的效率和準確性。其三，加大資金投入，如建立算法就業(yè)歧視執(zhí)法專項預算，確保有足夠的資金支持算法就業(yè)歧視執(zhí)法工作。其四，加強不同部門之間的合作，在勞動行政部門和網(wǎng)信部門等部門之間進行協(xié)作和資源共享，提高算法就業(yè)歧視的執(zhí)法效率。

2.規(guī)范用人單位的數(shù)據(jù)治理義務

算法技術的核心是數(shù)據(jù)，算法技術作為數(shù)字時代人力資源管理的重要工具，在參與算法自動化招聘決策過程中收集和不當利用了勞動者的個人數(shù)據(jù)，產生了算法就業(yè)歧視。因此，通過法律規(guī)制數(shù)據(jù)收集和處理過程，規(guī)范用人單位的數(shù)據(jù)治理義務是保護勞動者個人數(shù)據(jù)權利，應對算法就業(yè)歧視的重要途徑。

其一，規(guī)范用人單位的數(shù)據(jù)收集行為。首先，明確用人單位收集個人數(shù)據(jù)時的告知義務。告知義務是個人信息處理者的法定義務，只有事先進行了充分、適當?shù)母嬷畔⒅黧w才能在充分知情的情況下同意，告知同意規(guī)則才能真正起到個人信息權益保護的作用2。雖然用人單位基于實施人力資源管理所必需而處理勞動者個人信息無須征得其同意，但依然應當依據(jù)《個人信息保護法》第十七條的規(guī)定告知勞動者個人信息的處理目的、處理方式、處理種類、保存期限、勞動者享有的相關權利及程序等內容。算法技術在就業(yè)領域的運用，便利了用人單位對勞動者個人數(shù)據(jù)的收集，加大了勞動者個人信息被泄露或被過度利用的風險，甚至可能遭受算法就業(yè)歧視。根據(jù)《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》第十六條的規(guī)定，算法推薦服務提供者需要履行特殊的告知義務，即“應當以顯著方式告知用戶其提供算法推薦服務的情況，并以適當方式公示算法推薦服務的基本原理、目的意圖和主要運行機制等”。因此，用人單位在算法招聘決策中收集勞動者個人數(shù)據(jù)時，應當充分履行告知義務，保護勞動者的知情權和個人信息權益。其次，用人單位收集勞動者個人數(shù)據(jù)時應遵循數(shù)據(jù)最小化原則，只收集必要的、與目的直接相關的個人數(shù)據(jù)。無論用人單位是基于勞動者的個人同意還是基于“實施人力資源管理所必須\"而收集勞動者個人數(shù)據(jù)，都應當嚴格限制收集數(shù)據(jù)的范圍、數(shù)量和種類，采取對勞動者個人權益影響最小的方式，所收集的數(shù)據(jù)限于實現(xiàn)處理目的最小范圍，避免過度收集[30]

其二，明確用人單位算法解釋和說明義務。根據(jù)我國《個人信息保護法》第二十四條的規(guī)定，用人單位通過自動化決策方式作出對個人權益有重大影響的決定時，應當遵循算法透明原則，向勞動者解釋和說明其自動化決策的運用情況，并允許勞動者拒絕其僅通過自動化決策的方式作出決定。算法透明原則是解決因“算法黑箱”導致的算法歧視問題的一項重要原則。關于說明和解釋義務的主體，有學者提出由招聘服務軟件、人力資源管理系統(tǒng)的開發(fā)者注明其數(shù)據(jù)結果對求職者、勞動者個人信息的指向性3]。筆者以為，由用人單位向求職者、勞動者履行解釋義務會比開發(fā)者更具有可行性。因為求職者、勞動者在求職過程中更加關注的是用人單位提供的招聘信息與自己的匹配度，而不是招聘服務軟件、人力資源管理系統(tǒng)本身；將來可能與其發(fā)生雇傭關系的是用人單位，而不是開發(fā)者，除非開發(fā)者與用人單位是同一主體。關于用人單位履行說明和解釋義務的范圍，基于商業(yè)秘密保護需要，應遵守“比例原則\"[32]，即用人單位主要需要向勞動者說明其收集勞動者數(shù)據(jù)的范圍、目的以及運用這些數(shù)據(jù)參與算法雇傭決策可能產生的影響，并解釋其使用的算法雇傭決策系統(tǒng)開發(fā)設置本身與工作相關且不具有歧視性。設置說明和解釋義務的目的是讓勞動者知悉算法雇傭決策可能帶來的不利影響，并適時做出是否拒絕的決定，也為將來遭遇算法就業(yè)歧視時進行責任追究提供依據(jù)。

其三，規(guī)范用人單位算法技術影響評估及接受第三方機構監(jiān)督的義務。根據(jù)《個人信息保護法》第五十五條第二款規(guī)定，個人信息處理者利用個人信息進行自動化決策的，應當事前進行個人信息保護影響評估，并對處理情況進行記錄。用人單位將算法技術運用招聘決策之前，應當先行評估算法技術的運用可能對勞動者權利造成的影響，并將算法技術影響評估報告向勞動者進行公示，如果發(fā)現(xiàn)算法招聘系統(tǒng)可能引起就業(yè)歧視，應當采取額外措施予以糾正，否則不得投入使用。由于算法技術在招聘領域的運用容易產生就業(yè)歧視，單純依靠勞動者和用人單位的自主自覺行為難以實現(xiàn)規(guī)制算法就業(yè)歧視的目的，而且基于商業(yè)秘密保護的需要，算法招聘決策系統(tǒng)的透明并不是絕對的向社會公眾的透明，因此有必要引入外部第三方機構對用人單位履行數(shù)據(jù)治理義務的情況進行監(jiān)督。

結語

算法技術在招聘決策中的運用創(chuàng)新發(fā)展了人力資源管理方式，提高了人力資源管理的效率，但也造成了對平等就業(yè)權的侵害，產生了算法就業(yè)歧視問題。算法就業(yè)歧視是就業(yè)歧視在算法領域的轉化，既有新技術帶來的新問題，也有人類社會原有的結構性問題?，F(xiàn)行反就業(yè)歧視立法未對算法就業(yè)歧視進行界定和明確規(guī)制，導致實踐中司法認定難，無法滿足勞動者對平等就業(yè)權保護的合理期待。應當從完善立法、優(yōu)化司法、強化執(zhí)法等方面應對算法就業(yè)歧視帶來的挑戰(zhàn)，并運用技術、倫理、法律等多種手段進行綜合治理，保障勞動者合法權益，并激勵高新技術的創(chuàng)新發(fā)展，最終實現(xiàn)人、技術和經濟的和諧共榮。

參考文獻：

[1]習近平.高舉中國特色社會主義偉大旗幟為全面建設社會主義現(xiàn)代化國家而團結奮斗一在中國共產黨第二十次全國代表大會上的報告[J]中國人大，2022（21）：6-21.

[2]李長安，劉真秀.新時期就業(yè)歧視的成因及治理[J].中國勞動關系學院學報，2023（2）：23-32.

[3]高越.如何培養(yǎng)向善的人工智能？[N].中國婦女報，2023-03-01（004）.

[4]于琦.谷歌“性別歧視\"高薪職位推薦重男輕女[EB/OL].（2015-07-13）[2024-03-29].http：//finance.cnr.cn/gundong/20150713/t20150713_519186018.shtml.

[5]丁曉東.論算法的法律規(guī)制[J].中國社會科學，2020（12）：138-159+203.

[6]鄭智航.人工智能算法的倫理危機與法律規(guī)制[J].法律科學（西北政法大學學報），2021（1）：14-26.

[7]洪丹娜.算法歧視的憲法價值調適：基于人的尊嚴[J]政治與法律，2020（8）：27-37.

[8]趙嬋.AI招聘的算法歧視風險與治理之道[J].湘潭大學學報（哲學社會科學版），2023（3）：96-102

[9]石穎.算法歧視的緣起、挑戰(zhàn)與法律應對[J].甘肅政法大學學報，2022（3）：29-42

[10]石穎.算法歧視的發(fā)生邏輯與法律規(guī)制[J].理論探索，2022（3）：122-128.

[11]胡蕭力.算法決策場景中就業(yè)性別歧視判定的挑戰(zhàn)及應對[J].現(xiàn)代法學，2023（3）：59-74.

[12]鄒開亮，王霞.大數(shù)據(jù)算法背景下就業(yè)歧視規(guī)制初探[J].價格理論與實踐，2020（6）：37-42

[13]伊衛(wèi)風.算法自動決策中的人為歧視及規(guī)制[J].南大法學，2021（3）：79-92

[14]閻天.女性就業(yè)中的算法歧視：緣起、挑戰(zhàn)與應對[J]婦女研究論叢，2021（5）：64-72.

[15]李成.人工智能歧視的法律治理[J].中國法學，2021（2）：127-147.

[16]饒志靜.英國反就業(yè)歧視制度及實踐研究[J].河北法學，2008（11）：61-69.

[17]柳經緯.從權利救濟看我國法律體系的缺陷[J].比較法研究，2014（5）：185-190.

[18]周圓.平等就業(yè)權救濟的困境與出路一以社會法矯正私法為視角[J].人權，2023（2）：138-160.

[19]周圓.社會法對平等就業(yè)權私法救濟困境的破解研究[J].河北法學，2023（2）：162-183.

[20]侯玲玲，王超.人工智能：就業(yè)歧視法律規(guī)制的新挑戰(zhàn)及其應對[J].華東理工大學學報（社會科學版），2021（1）： 1-16+33 元

[21]湯曉瑩.職場監(jiān)視5.0下勞動者個人數(shù)據(jù)保護的困境與出路[J].北京社會科學，2021（9）：87-97.

[22]曹薇薇.人口政策轉型期平等就業(yè)權的司法救濟[J].法學，2022（6）：175-192.

[23]周圓.社會法對平等就業(yè)權私法救濟困境的破解研究[J].河北法學，2023（2）：162-183.

[24]崔玲玲.教育公益訴訟：受教育權司法保護的新途徑[J]東方法學，2019（4）：138-149.

[25]劉瀟瀟，王亞麗.檢察公益訴訟保護女性平等就業(yè)權案[J].中國檢察官，2022（10）：54-57.

[26]侯玲玲，王超.人工智能：就業(yè)歧視法律規(guī)制的新挑戰(zhàn)及其應對[J].華東理工大學學報（社會科學版），2021（1）：1-16+33.

[27]崔靖梓.算法歧視挑戰(zhàn)下平等權保護的危機與應對[J]法律科學（西北政法大學學報），2019（3）：29-42.

[28]楊云霞，莊季喬.就業(yè)歧視的例外：正當職業(yè)資格認定標準研究[J].西安財經學院學報，2016（6）：76-79.

[29]程嘯.論個人信息處理者的告知義務[J].上海政法學院學報（法治論叢），2021（5）：67-80.

[30]冉克平，劉冰洋.人力資源管理中個人信息保護的困境與出路[J].華中科技大學學報（社會科學版），2023（4）：61-73.

[31]鄒開亮，王霞.大數(shù)據(jù)算法背景下就業(yè)歧視規(guī)制初探[J]價格理論與實踐，2020（6）：37-42.

[32]湯曉瑩：算法雇傭決策下隱蔽就業(yè)歧視的法律規(guī)制[J].河南財經政法大學學報，2021（6）：75-84.

（責任編輯：張曉）