數(shù)智技術(shù)賦能傳統(tǒng)產(chǎn)業(yè)，推動其數(shù)字化、智能化、網(wǎng)絡(luò)化改造。然而，在這一轉(zhuǎn)型過程中，就業(yè)市場正在被人工智能（AI）影響和改變，算法決策下的就業(yè)歧視問題成為我們不得不關(guān)注的重點。

算法決策應(yīng)用及歧視風(fēng)險

我們認(rèn)為，數(shù)智化時代下，算法決策被應(yīng)用在職場全生命周期的各個環(huán)節(jié)（包括求職者發(fā)現(xiàn)環(huán)節(jié)、面試篩選環(huán)節(jié)、員工管理環(huán)節(jié)、離職環(huán)節(jié)），當(dāng)然，算法決策的應(yīng)用在不同環(huán)節(jié)中也不可避免地存在一定的風(fēng)險。

第一，求職者發(fā)現(xiàn)環(huán)節(jié)的算法決策。在求職者發(fā)現(xiàn)環(huán)節(jié)，招聘平臺可通過算法推薦系統(tǒng)實現(xiàn)人崗匹配。一方面算法可自動解析求職者簡歷關(guān)鍵詞，分析求職者的需求，向其定向化推送符合其意向的崗位，使求職者投遞效率顯著提升；另一方面，算法推薦可以快速幫助企業(yè)選擇滿足其特定要求的簡歷，縮短企業(yè)簡歷篩選時間。

但是，在該環(huán)節(jié)中亦存在一定的風(fēng)險。例如，算法通過學(xué)習(xí)某企業(yè)的歷史數(shù)據(jù)，產(chǎn)生了歷史偏見。因此算法決策在求職者發(fā)現(xiàn)環(huán)節(jié)，就有可能因為歷史數(shù)據(jù)導(dǎo)致偏見或歧視的產(chǎn)生，進(jìn)而導(dǎo)致機(jī)會的不均等。另外，如果某算法系統(tǒng)將“頻繁跳槽”設(shè)為負(fù)面標(biāo)簽，那么比如因公司解散、合并等而離職的人，可能因為非自身過錯而被認(rèn)定為頻繁跳槽，進(jìn)而導(dǎo)致被推薦率下降。

第二，面試篩選環(huán)節(jié)的算法決策。在面試篩選環(huán)節(jié)，算法決策發(fā)揮的空間將更大，有的系統(tǒng)通過算法決策功能可以在1分鐘篩選完幾百份簡歷，并可以通過NLP（自然語言處理）評估簡歷中項目經(jīng)歷的真實性，幫助企業(yè)減少簡歷造假情況。在面試環(huán)節(jié)，亦可通過算法系統(tǒng)實現(xiàn)語音識別，分析求職者的邏輯表達(dá)能力，捕捉求職者的微表情以判斷其抗壓能力，或?qū)⒏泳珳?zhǔn)且高效地評估求職者。

然而，技術(shù)局限性依然帶來了新的算法歧視風(fēng)險。例如，某AI面試算法決策系統(tǒng)將微笑頻率低標(biāo)記為“不友好”，或者將瞳孔抖動次數(shù)多視為“說謊”。但是面試時談?wù)摰木唧w話題或面試崗位的不同均可能導(dǎo)致面試時微笑的情況存在差異，另外戴隱形眼鏡者可能眨眼頻率更高，在一些情況下會被誤判為“說謊”。

第三，就業(yè)管理環(huán)節(jié)的算法決策。在就業(yè)管理環(huán)節(jié)，算法決策被廣泛應(yīng)用于績效考核、崗位調(diào)配等場景。例如，某外賣平臺通過算法優(yōu)化配送路線，使騎手日均單量提升30%。另外，算法決策系統(tǒng)還可以基于同事互評、項目完成率等數(shù)據(jù)預(yù)測員工表現(xiàn)，提供績效評估的方案，或通過算法決策系統(tǒng)評估員工的崗位匹配度，為員工推薦符合其自身能力的崗位。

不過，通過算法進(jìn)行就業(yè)管理亦可能異化為“數(shù)字控制”?！蛾P(guān)于開展“清朗·網(wǎng)絡(luò)平臺算法典型問題治理”專項行動的通知》，就對包括“一味壓縮配送時間導(dǎo)致事故發(fā)生率上升等問題”等的“盲目追求利益侵害新就業(yè)形態(tài)勞動者權(quán)益”的算法機(jī)制提出了相關(guān)要求。

第四，離職環(huán)節(jié)的算法決策。在員工離職環(huán)節(jié)，算法決策亦有一定的應(yīng)用空間。例如，某企業(yè)使用生存分析算法模型與機(jī)器學(xué)習(xí)預(yù)測員工離職傾向及評估相應(yīng)指標(biāo)，分析要素可包括醫(yī)療報銷頻次、通勤距離變化、晉升停滯時長、內(nèi)部通信軟件關(guān)鍵詞等，綜合評估員工的身體健康情況、心理預(yù)期、晉升機(jī)會等。

值得注意的是，該算法決策的應(yīng)用會在一定程度上限制員工的業(yè)務(wù)發(fā)展機(jī)會，進(jìn)而導(dǎo)致員工對其工作滿意度下降，從而提高被預(yù)測人員的真實離職率，該結(jié)果反饋給算法，形成歧視增強(qiáng)回路。

通過以上的分析，我們可以看出數(shù)智化時代下算法決策在職場全生命周期的應(yīng)用及面臨的算法歧視風(fēng)險。那么，如何應(yīng)對算法決策中可能存在的歧視風(fēng)險，這是我們應(yīng)該予以關(guān)注的核心。

歧視風(fēng)險的應(yīng)對與破局

一是技術(shù)的進(jìn)一步透明公開。從技術(shù)層面來說，可通過“數(shù)據(jù)預(yù)處理→訓(xùn)練約束→后處理校準(zhǔn)”的鏈條式干預(yù)，系統(tǒng)性降低算法歧視風(fēng)險。例如，在數(shù)據(jù)預(yù)處理階段，應(yīng)明確移除數(shù)據(jù)中與受保護(hù)特征直接相關(guān)的字段來剔除敏感特征的數(shù)據(jù)集，該方法可一定程度上從源頭減少算法歧視的產(chǎn)生。在算法訓(xùn)練階段，可通過主模型預(yù)測目標(biāo)變量，對抗模型試圖從主模型的預(yù)測中推斷敏感特征的對抗訓(xùn)練方式來調(diào)整模型，避免模型出現(xiàn)算法歧視。在后處理階段，可通過閾值調(diào)整等方式校準(zhǔn)算法模型的輸出。

二是法律法規(guī)的進(jìn)一步細(xì)化。在我國，關(guān)于算法的法律法規(guī)主要有《中華人民共和國個人信息保護(hù)法》《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等，但是上述法律法規(guī)并沒有對算法決策中就業(yè)歧視的判定及歸責(zé)進(jìn)行明確。因此，應(yīng)進(jìn)一步明確、完善算法決策中就業(yè)歧視的法律規(guī)定。例如，除了規(guī)制直接用性別、年齡、種族等要素進(jìn)行算法歧視的情況，也應(yīng)將通過間接特征（如通過性格測試的結(jié)果作為通過面試的因素）或因“歷史數(shù)據(jù)偏差”等情況導(dǎo)致的間接歧視納入法律調(diào)整范圍。同時應(yīng)進(jìn)一步強(qiáng)化責(zé)任歸屬，除了要求部分算法進(jìn)行備案，還應(yīng)要求算法開發(fā)者和使用者承擔(dān)連帶責(zé)任。同時，在某些高風(fēng)險領(lǐng)域（例如招聘面試等）可以要求強(qiáng)制進(jìn)行定期審計。

三是社會的多方協(xié)同治理。算法的治理及算法決策中的就業(yè)歧視問題，不應(yīng)僅由一個部門處理，應(yīng)形成跨部門監(jiān)管的機(jī)制和合力。未來也可計劃設(shè)立專門機(jī)構(gòu)，并聯(lián)合技術(shù)專家、法律學(xué)者、工會代表等對招聘平臺進(jìn)行動態(tài)監(jiān)督。例如，對招聘平臺、AI面試系統(tǒng)等高風(fēng)險場景開展“雙隨機(jī)”抽查，要求企業(yè)實時接入算法決策日志以供審查。同時，應(yīng)推動企業(yè)建立內(nèi)部算法倫理委員會，制定透明招聘流程，并向社會公示算法規(guī)則。公示的情況可考慮在企業(yè)官網(wǎng)與招聘平臺顯著位置公示算法規(guī)則中關(guān)于簡歷的初篩維度及權(quán)重。同時，為求職者提供申訴渠道，如求職者有需要，應(yīng)向求職者說明算法的規(guī)則。

技術(shù)向善——科技進(jìn)步的長期價值與方向所在。

四是其他風(fēng)險應(yīng)對與破局方法。為了更好地應(yīng)對算法決策中的就業(yè)歧視風(fēng)險，還可以在某些跨境場景中進(jìn)行國際合作。例如，跨國企業(yè)的招聘系統(tǒng)可能覆蓋多國求職者，單一國家監(jiān)管可能無法約束其全球業(yè)務(wù)。因此，算法技術(shù)的跨國性很可能加劇國際勞動力市場不平等。未來可以考慮由多國共同制定算法審查倫理準(zhǔn)則，積極開展國際合作。另外，可考慮在對個人權(quán)益有重大影響的情形加強(qiáng)人工的介入?！吨腥A人民共和國個人信息保護(hù)法》規(guī)定，通過自動化決策方式作出對個人權(quán)益有重大影響的決定，個人有權(quán)拒絕個人信息處理者僅通過自動化決策的方式作出決定。因此，在涉及重大人事決策的情形中應(yīng)考慮加強(qiáng)人工的介入，例如，算法僅提供輔助建議或采取人工復(fù)核機(jī)制；又如，可以考慮建立“雙軌制面試”，在AI通過算法進(jìn)行面試后，對邊緣求職者（如分?jǐn)?shù)相差5%以內(nèi)的落選者）啟動人工復(fù)審，防止算法歧視導(dǎo)致的誤判及不公。

企業(yè)、勞動者及整個社會應(yīng)正視挑戰(zhàn)，正確面對算法決策在就業(yè)中的積極作用，以及策略性地解決其中的就業(yè)歧視風(fēng)險。我們在肯定算法決策帶來效率提升的同時，也應(yīng)關(guān)注勞動者合法權(quán)益的保護(hù)，確定合理的算法歧視監(jiān)管及治理手段。在技術(shù)創(chuàng)新與制度規(guī)則的動態(tài)平衡中，構(gòu)建政府引導(dǎo)、技術(shù)賦能、法規(guī)完善、社會多方協(xié)同的良好治理生態(tài)，讓算法真正推動社會的公平和發(fā)展。

（金澤剛系同濟(jì)大學(xué)法學(xué)院教授；李勝男系上海德禾翰通律師事務(wù)所律師）