在新一代人工智能快速發(fā)展的進(jìn)程中，“全球南方”國(guó)家由于缺乏發(fā)展前沿人工智能的相關(guān)資源，暫時(shí)處于人工智能技術(shù)創(chuàng)新的“接受者”位置。但是這并不意味著“全球南方”在人工智能治理中也要居于邊緣地位。本文選取了卡內(nèi)基國(guó)際和平基金會(huì)的三篇文章，重點(diǎn)探討AI（ArtificialIntelligence）在全球南方產(chǎn)生的深刻影響，基于全球南方的視角提出人工智能研究和出臺(tái)相關(guān)政策具有必要性。

人工智能工具需適應(yīng)“全球南方”對(duì)于可解釋性的需求

2024 年4 月30 日，卡內(nèi)基國(guó)際和平基金會(huì)發(fā)布了加拿大多倫多城市大學(xué)林肯亞歷山大法學(xué)院助理教授Jake Okechukwu Effoduh 撰寫(xiě)的文章《全球南方對(duì)可解釋人工智能的看法》（A Global SouthPerspective on Explainable AI）。作者基于其在非洲地區(qū)田野的考察結(jié)果，從“全球南方”視角提供了關(guān)于人工智能可解釋性所賦予的功能、目的和意義的一些多樣評(píng)估，并倡導(dǎo)可解釋性人工智能持包容性態(tài)度，從而使人工智能具備滿足不同群體和社區(qū)在可解釋性需求的適應(yīng)能力。

首先，作者指出，非洲已經(jīng)進(jìn)入AI 革命，但非洲的AI 用戶不了解AI 系統(tǒng)運(yùn)作原理，因此導(dǎo)致了AI 可解釋性方面的問(wèn)題。比如，盡管尼日利亞首都的外匯兌換商使用AI 應(yīng)用程序確定和預(yù)測(cè)黑市匯率的波動(dòng)情況，但不清楚其所使用的AI 系統(tǒng)設(shè)計(jì)者是誰(shuí)；盡管肯尼亞基安布縣的奶農(nóng)使用機(jī)器視覺(jué)和圖像識(shí)別軟件來(lái)檢測(cè)牛的疾病并提出治療方案，但其無(wú)法解釋這一機(jī)制運(yùn)作的原理；盡管南非威特沃特斯蘭德盆地的金礦工人使用一套傳感器系統(tǒng)來(lái)監(jiān)測(cè)礦井的結(jié)構(gòu)穩(wěn)定性、利用算法標(biāo)記潛在問(wèn)題以提高采礦的安全性，但其并不理解所使用系統(tǒng)背后的機(jī)制。因而，作者認(rèn)為，雖然AI 系統(tǒng)輸出結(jié)果的可解釋性具有重要性在過(guò)去得到了不同程度的強(qiáng)調(diào)，但就其所研究的非洲地區(qū)而言，AI 系統(tǒng)嵌入社會(huì)中的更廣泛運(yùn)作，以及受影響者在更廣泛的社會(huì)背景中理解、接受和信任這些AI 系統(tǒng)結(jié)果的能力受到了忽視，進(jìn)而導(dǎo)致其存在兩個(gè)方面的問(wèn)題：其一，可解釋的AI 缺乏清晰的描述和普遍一致的標(biāo)準(zhǔn)。當(dāng)前對(duì)于AI 可解釋性的監(jiān)管格局呈碎片化特征，這或?qū)⑹箍山忉屝缘脑u(píng)估復(fù)雜化，并引發(fā)關(guān)于AI 系統(tǒng)如何滿足不同利益相關(guān)方需求的問(wèn)題，比如，普遍和統(tǒng)一標(biāo)準(zhǔn)的缺位是否為多元主義和文化相對(duì)主義方法留下了發(fā)展的空間等。其二，鼓勵(lì)可解釋性AI 的主導(dǎo)政策的局限性根植于歐美視角，因此在非歐美文化的情景中的適用性有限。由于非洲國(guó)家等全球南方地區(qū)的行為體通常缺乏開(kāi)發(fā)先進(jìn)AI系統(tǒng)所需的資源，因而其在很大程度上依賴由全球北方等更發(fā)達(dá)的國(guó)家開(kāi)發(fā)的AI軟件。這種供需關(guān)系將非洲國(guó)家置于消費(fèi)者的地位，而其所使用的AI 工具開(kāi)發(fā)背景不一定與其本土文化、倫理和社會(huì)傳統(tǒng)相一致。如果AI 的設(shè)計(jì)忽視了文化背景差異，那么AI系統(tǒng)提供的輸出解釋可能與當(dāng)?shù)氐谋尘?、?shí)踐或需求不符，導(dǎo)致用戶難以理解AI 系統(tǒng)決策的基礎(chǔ)，從而削弱了AI 系統(tǒng)的有效性，并限制了用戶信任或有效地與其進(jìn)行交互。比如肯尼亞的一些牧民養(yǎng)有博蘭牛和薩希瓦爾品種的牛，其經(jīng)常抱怨圖像視覺(jué)機(jī)器經(jīng)常誤診本地品種的牛營(yíng)養(yǎng)不良，實(shí)際上是因?yàn)樗鼈冇捎谶m應(yīng)本地自然環(huán)境而體型嬌小、體格瘦削。用于構(gòu)建這些AI模型的數(shù)據(jù)的代表性不足可能部分地解釋了為什么這些系統(tǒng)沒(méi)有有效地捕捉到它們預(yù)期要處理的真實(shí)場(chǎng)景的多樣性或復(fù)雜性，由于存在這樣的差距，輸出可能變得不夠透明，更加難以解釋。

隨后，作者提出了兩條改善AI 可解釋性問(wèn)題的路徑。第一，可以采取諸如將人類解釋者作為AI 系統(tǒng)與用戶間的中介和引導(dǎo)者的非技術(shù)手段。具體而言，通過(guò)音樂(lè)、講故事、調(diào)節(jié)和倡導(dǎo)等手段將AI 系統(tǒng)的結(jié)果翻譯成與其社區(qū)文化背景相符的敘述，解釋AI 系統(tǒng)處理的信息的背景、相關(guān)性和倫理影響，幫助非洲用戶理解AI 系統(tǒng)。比如，坦桑尼亞存在著類似“格里奧（Griot）”的“AI 人類解釋者”，該地區(qū)的一個(gè)婦女健康非政府組織獲得了移動(dòng)優(yōu)化的AI 系統(tǒng)支持，來(lái)幫助那些可能無(wú)法負(fù)擔(dān)檢查費(fèi)用或需要長(zhǎng)途跋涉或長(zhǎng)時(shí)間等待才能獲得超聲服務(wù)的貧困婦女。然而，一開(kāi)始，AI 系統(tǒng)并不能解釋胎兒測(cè)量結(jié)果和存在潛在問(wèn)題的依據(jù)，這讓一些女性感到擔(dān)憂或不信任其準(zhǔn)確性。后來(lái)，軟件開(kāi)發(fā)團(tuán)隊(duì)對(duì)AI系統(tǒng)進(jìn)行了培訓(xùn)，再加上非政府組織成員對(duì)社區(qū)孕產(chǎn)健康問(wèn)題和實(shí)踐的既有知識(shí)，部分非政府組織的成員也擔(dān)任起了AI 解釋者的角色，有時(shí)還使用本土文化敘事的故事提供了AI 系統(tǒng)可能的影響和錯(cuò)誤的基本背景解釋，來(lái)指出女性可能需要標(biāo)準(zhǔn)后續(xù)程序的情況，改善了此前缺乏AI 可解釋性的狀況。此外，這些解釋者用斯瓦希里語(yǔ)描述平板電腦模擬圖并回答與AI 工具無(wú)關(guān)的孕期問(wèn)題，幫助患者理解并信任AI 系統(tǒng)的使用，更重要的是，其修正了數(shù)據(jù)的去背景化或潛在偏見(jiàn)的解釋，為機(jī)器智能計(jì)算增添了人性化的解釋，填補(bǔ)了技術(shù)設(shè)計(jì)者未能意識(shí)到的一些解釋性空白。第二，作者建議將可解釋性建模為一種生成性練習(xí)，使用戶能夠定制解釋為自己的語(yǔ)言，并以母語(yǔ)和熟悉的語(yǔ)言表達(dá)方式接收交流，以解決AI治理中可解釋性倫理要求過(guò)于廣泛的問(wèn)題。考慮特殊文化背景的可解釋性不僅有助于個(gè)體理解，還可以通過(guò)承認(rèn)人權(quán)及相關(guān)的隱私和集體身份規(guī)范，惠及整個(gè)社區(qū)，因此，作者建議建立一個(gè)更為健全的可解釋性框架來(lái)開(kāi)發(fā)AI 系統(tǒng)，這樣可以確保受系統(tǒng)決策影響的人能夠質(zhì)疑或改變結(jié)果。

最后，作者呼吁，AI 工具應(yīng)當(dāng)充分考慮對(duì)不同人群和社區(qū)所需的透明度、可解釋性和解釋性的適應(yīng)問(wèn)題。非洲地區(qū)已經(jīng)開(kāi)展了實(shí)踐嘗試：非洲人權(quán)與人民權(quán)利委員會(huì)于2021 年通過(guò)的一項(xiàng)決議是第一個(gè)由超國(guó)家授權(quán)進(jìn)行的關(guān)于如何在尊重非洲本地社會(huì)普遍存在的社區(qū)價(jià)值觀、文化細(xì)微差別和社會(huì)動(dòng)態(tài)的情況下作出和解釋AI 決策的研究，這一舉措可能會(huì)挑戰(zhàn)西方中心主義AI 模型中常見(jiàn)的個(gè)人主義方法，因?yàn)槠洳粌H倡導(dǎo)在技術(shù)上可解釋，而且在文化上共鳴并符合用戶重視的價(jià)值觀和結(jié)構(gòu)的AI 系統(tǒng)。然而，考慮到非洲國(guó)家對(duì)全球北方AI 技術(shù)可能存在的依賴，作者還建議非洲國(guó)家和全球北方的AI 開(kāi)發(fā)者之間必須進(jìn)行對(duì)話，以促進(jìn)對(duì)可解釋AI 構(gòu)成的共同理解和共同貢獻(xiàn)。

應(yīng)當(dāng)采用基于“日常倫理”的人工智能倫理治理方法

2024 年4 月30 日， 卡內(nèi)基國(guó)際和平基金會(huì)發(fā)布其數(shù)據(jù)與社會(huì)研究所高級(jí)研究員Ranjit Singh撰寫(xiě)的文章《治理人工智能的普通道德規(guī)范》（Ordinary Ethics ofGoverning AI）。文章指出了全球南方和全球北方關(guān)注人工智能的側(cè)重點(diǎn)不同，提出了基于“日常倫理”進(jìn)行人工智能治理的方法，指出了強(qiáng)制性數(shù)據(jù)、數(shù)據(jù)驅(qū)動(dòng)的委托和后端工作這三個(gè)可能引發(fā)的問(wèn)題，并從給人工智能講故事、人工智能講述的關(guān)于人的故事和人工智能治理作為日常倫理的場(chǎng)所三個(gè)角度進(jìn)行闡發(fā)。

首先，作者強(qiáng)調(diào)了南北視角下AI 倫理治理的側(cè)重點(diǎn)具有差異性。相比于全球北方的AI 倫理學(xué)研究重視AI 的工具屬性并關(guān)注偏見(jiàn)、公平、問(wèn)責(zé)、透明度、可解釋性和以人為本，全球南方視角下的AI 倫理治理更加關(guān)注數(shù)字化的挑戰(zhàn)和國(guó)家行為體建立數(shù)據(jù)管理和AI 基礎(chǔ)設(shè)施的問(wèn)題，同時(shí)更加強(qiáng)調(diào)尊嚴(yán)、勞動(dòng)、殖民主義、實(shí)驗(yàn)、主權(quán)等AI 帶來(lái)的后果與日常倫理。這種“南北差異”使得人類代理權(quán)問(wèn)題逐漸凸顯，即AI 系統(tǒng)通常在日常決策中扮演“代理決策”的角色，而大多數(shù)使用其進(jìn)行決策的群體則發(fā)現(xiàn)其自身處于自動(dòng)化決策的接收端。因此，作者借鑒了人類學(xué)家Veena Das 的“日常倫理（ordinary ethics）”概念指出，應(yīng)當(dāng)采用基于“日常倫理”的方法管理AI 的影響，關(guān)注“道德判斷（moral judgments）”的關(guān)注與日常生活的紋理和細(xì)節(jié)。具體而言，“日常倫理”路徑下的治理方法認(rèn)為人們對(duì)計(jì)算機(jī)在日常生活中的角色認(rèn)知?jiǎng)?chuàng)造了其代理決策的條件，而非關(guān)注人工智能的技術(shù)能力，因?yàn)閷?duì)于世界上大多數(shù)不參與開(kāi)發(fā)計(jì)算系統(tǒng)的人而言，其更需要明晰其與這類系統(tǒng)互動(dòng)的實(shí)際體驗(yàn)，以及發(fā)展應(yīng)對(duì)計(jì)算系統(tǒng)處理日常問(wèn)題的能力以熟悉這一新事物?；凇叭粘惱怼钡墓芾矸椒ǎ髡咧赋隽嗽撀窂较氯斯ぶ悄苤卫砜赡苄枰P(guān)注的三個(gè)方面。首先是強(qiáng)制性數(shù)據(jù)，比如在特定的國(guó)家中，日常生活中不可或缺或必備的某些類別的數(shù)據(jù)為強(qiáng)制性數(shù)據(jù)。其次是數(shù)據(jù)驅(qū)動(dòng)的委托，即需要厘清被委派給計(jì)算機(jī)進(jìn)行決策的決策類型，以及這些以數(shù)據(jù)驅(qū)動(dòng)的委派在實(shí)踐中是如何實(shí)現(xiàn)的。最后是后端工作，即將計(jì)算系統(tǒng)與生活情境對(duì)齊的工作，這項(xiàng)工作既依賴于人們理解計(jì)算系統(tǒng)方面的能力，又要求人們創(chuàng)造出可理解的和變通的方法以利用這些系統(tǒng)完成工作。

隨后，作者從給人工智能講故事、人工智能講述的關(guān)于人的故事和人工智能治理作為日常倫理的場(chǎng)所三個(gè)角度闡述了基于“日常倫理”進(jìn)行人工智能治理的挑戰(zhàn)與出路。第一，人們需要向AI“講故事”，每一個(gè)數(shù)據(jù)類別就是故事的某個(gè)方面，也是將復(fù)雜的生活情境翻譯成案例代表性的代理。但這將產(chǎn)生一系列問(wèn)題：首先，計(jì)算系統(tǒng)中的認(rèn)知越來(lái)越成為主張公民身份和國(guó)家服務(wù)的先決條件，缺乏認(rèn)知通常與社區(qū)的系統(tǒng)性排斥相關(guān)聯(lián)，比如由于數(shù)據(jù)類別間不匹配，一些肯尼亞公民存在雙重注冊(cè)身份問(wèn)題；其次，監(jiān)視是計(jì)算系統(tǒng)提供可讀性產(chǎn)生的不可避免結(jié)果，而人們的身份越容易被識(shí)別和認(rèn)證，其生活就越不私密。通常情況下，由數(shù)據(jù)驅(qū)動(dòng)的服務(wù)能力往往受到缺乏數(shù)據(jù)的限制，而在肯尼亞的例子中，當(dāng)一個(gè)民眾被打上“難民”數(shù)據(jù)標(biāo)簽就不能更改其身份為公民，更難以享受公民應(yīng)有的權(quán)利。在數(shù)據(jù)驅(qū)動(dòng)的委托方面，由于管理公民數(shù)據(jù)充滿了處理偽造和腐敗的挑戰(zhàn)，國(guó)家依賴計(jì)算機(jī)系統(tǒng)以應(yīng)對(duì)這些挑戰(zhàn)，而這一做法卻引發(fā)了社會(huì)保護(hù)如何組織以及證據(jù)如何使難民或公民的身份得到認(rèn)證等問(wèn)題，同時(shí)，存在身份認(rèn)證問(wèn)題的公民缺乏合適的機(jī)制進(jìn)行申訴，進(jìn)而構(gòu)成挑戰(zhàn)。在后端工作方面，雙重注冊(cè)問(wèn)題揭示了后端工作不僅僅是以數(shù)字的形式注冊(cè)和存儲(chǔ)個(gè)人數(shù)據(jù)，其還涉及努力獲取注冊(cè)身份的官方文件到參與法庭訴訟等更復(fù)雜的因素。第二，AI 系統(tǒng)輸出過(guò)程扎根于現(xiàn)有數(shù)據(jù)的收集、整理和分析基礎(chǔ)設(shè)施過(guò)程中，其本質(zhì)為預(yù)測(cè)和復(fù)制過(guò)去的決策和行為。而在現(xiàn)實(shí)中，計(jì)算系統(tǒng)與日常實(shí)踐存在著不匹配的問(wèn)題，并將引發(fā)不同的倫理挑戰(zhàn)。具體而言，在強(qiáng)制性數(shù)據(jù)方面，既有的AI 系統(tǒng)難以反映數(shù)據(jù)在不同時(shí)空條件下發(fā)生的變化，如在未收集涉及個(gè)人隱私數(shù)據(jù)的條件下自行發(fā)生改變的數(shù)據(jù)存在可信度的問(wèn)題，但收集了個(gè)人隱私數(shù)據(jù)則又涉及公眾被AI 監(jiān)視的問(wèn)題。在數(shù)據(jù)驅(qū)動(dòng)的委托方面，盡管當(dāng)前國(guó)家的數(shù)據(jù)化和自動(dòng)化已經(jīng)得到推進(jìn)，但對(duì)于那些被自動(dòng)系統(tǒng)錯(cuò)誤或不公正地分類的人來(lái)說(shuō)，有效的錯(cuò)誤檢查和救濟(jì)機(jī)制卻滯后了，而校正自動(dòng)決策系統(tǒng)需要太長(zhǎng)時(shí)間，這將對(duì)部分“受害者”帶來(lái)負(fù)面影響。在后端工作方面，撤銷自動(dòng)決策系統(tǒng)做出的錯(cuò)誤決策帶來(lái)了巨大的工作成本，“受害者”不僅需要應(yīng)對(duì)復(fù)雜的文書(shū)工作，還需要在申訴時(shí)澄明數(shù)據(jù)決策的錯(cuò)誤。第三，基于人類與人工智能進(jìn)行交互時(shí)產(chǎn)生的種種問(wèn)題，作者建議公眾的關(guān)注點(diǎn)轉(zhuǎn)向與人工智能共存，接受與計(jì)算系統(tǒng)的代理權(quán)共存的事實(shí)，同時(shí)充分關(guān)注處于人工智能優(yōu)化和設(shè)計(jì)邊緣的群體。

“AI 工具應(yīng)當(dāng)充分考慮對(duì)不同人群和社區(qū)所需的透明度、可解釋性和解釋性的適應(yīng)問(wèn)題?！?/blockquote>

對(duì)此，作者呼吁人工智能在生活中的參與應(yīng)當(dāng)成為一種“日常”，并提出了相關(guān)建議。第一，在強(qiáng)制性數(shù)據(jù)方面，作者建議應(yīng)當(dāng)確保計(jì)算系統(tǒng)代表更廣泛的群體，最小化強(qiáng)制性數(shù)據(jù)的要求，并最大化服務(wù)的可訪問(wèn)性，這要求相關(guān)服務(wù)在網(wǎng)站上提供簡(jiǎn)單易用的表格，并能夠快速加載，而且能夠在筆記本電腦和手機(jī)上表現(xiàn)良好。第二，在數(shù)據(jù)驅(qū)動(dòng)的委托方面，實(shí)現(xiàn)不同參與者之間的權(quán)力平衡是治理人工智能的必要條件。作者認(rèn)為，計(jì)算系統(tǒng)代理權(quán)和數(shù)據(jù)主體在普通數(shù)據(jù)驅(qū)動(dòng)的生活中相互塑造的關(guān)鍵在于通過(guò)公眾參與、各類活動(dòng)和法律活動(dòng)等進(jìn)行協(xié)商，以實(shí)現(xiàn)權(quán)力的平衡。第三，在后端工作方面，在普通民眾間共享并推廣的運(yùn)作計(jì)算系統(tǒng)經(jīng)驗(yàn)的形式應(yīng)當(dāng)?shù)玫街С?，其將成為?zhí)行基于日常倫理方法進(jìn)行人工智能治理的典范。

東南亞算法管理下平臺(tái)工人的困境

2024 年4 月30 日，卡內(nèi)基國(guó)際和平基金會(huì)發(fā)布馬來(lái)西亞國(guó)家財(cái)富基金研究所高級(jí)研究員Jun-ETan 和Rachel Gong 撰寫(xiě)的文章《東南亞算法管理下平臺(tái)工人的困境》（The Plight of Platform WorkersUnder Algorithmic Management inSoutheast Asia）。文章指出了大型在線平臺(tái)的算法管理破壞了現(xiàn)有的社會(huì)關(guān)系，在勞動(dòng)力的購(gòu)買(mǎi)者和供應(yīng)商之間創(chuàng)造了一種真空，取代了既定的職責(zé)和義務(wù)，并產(chǎn)生了權(quán)力的高度集中，使得已建立的勞動(dòng)關(guān)系受到破壞并創(chuàng)造了一種不透明、剝削和無(wú)法問(wèn)責(zé)的環(huán)境。這些影響反過(guò)來(lái)使得工人期望確立清晰的雇傭地位、改善勞動(dòng)條件，并明確塑造影響他們獲取工作機(jī)會(huì)的自動(dòng)化決策的范圍。為了做出這樣的改變，有必要超越當(dāng)前在AI 治理方面的專家強(qiáng)調(diào)個(gè)人傷害和補(bǔ)救，并考慮個(gè)體之間的聯(lián)系以及技術(shù)如何改變?nèi)藗兿嗷リP(guān)聯(lián)的方式。本文以東南亞應(yīng)用型司機(jī)的經(jīng)歷為例，探討了如何經(jīng)歷這些問(wèn)題。

首先，作者指出，針對(duì)平臺(tái)工作者的算法管理已經(jīng)成為監(jiān)管機(jī)構(gòu)、民間社會(huì)監(jiān)督機(jī)構(gòu)和學(xué)術(shù)研究人員關(guān)注的領(lǐng)域。算法管理被定義為“在組織中使用計(jì)算機(jī)程序化程序來(lái)協(xié)調(diào)勞動(dòng)力投入”，涵蓋計(jì)劃、人員配備、指揮、協(xié)調(diào)和控制等功能，而這些管理功能可以通過(guò)使用AI 完全或部分地由自動(dòng)化決策接管。隨著數(shù)字勞動(dòng)平臺(tái)興起，調(diào)節(jié)服務(wù)的供求關(guān)系，算法管理減輕了在及時(shí)協(xié)調(diào)數(shù)百萬(wàn)用戶之間的勞動(dòng)交易方面的后勤困難，可以大量自動(dòng)化的任務(wù)包括供需雙方之間的職位匹配、動(dòng)態(tài)定價(jià)以及雙方的激勵(lì)或處罰結(jié)構(gòu)，以及服務(wù)提供的監(jiān)控和質(zhì)量控制。例如在東南亞，Grab 應(yīng)用程序?qū)⑺緳C(jī)和尋找搭車的乘客匹配起來(lái)，確定適當(dāng)?shù)能囐M(fèi)，并監(jiān)控每次行程的持續(xù)時(shí)間。算法管理使平臺(tái)能夠規(guī)?；\(yùn)作，并創(chuàng)造更多用戶和更多用戶生成的數(shù)據(jù)的良性循環(huán)，從而推動(dòng)了更精確的預(yù)測(cè)和決策。由此產(chǎn)生的效率通常會(huì)導(dǎo)致更高的客戶滿意度，并降低對(duì)工作者新收入機(jī)會(huì)的準(zhǔn)入障礙。平臺(tái)作為勞動(dòng)力供求雙方的中間商，也能夠從兩端提取經(jīng)濟(jì)價(jià)值。

其次，作者呼吁關(guān)注平臺(tái)在算法設(shè)計(jì)中的責(zé)任和社會(huì)保障方面的政策制定。分離平臺(tái)業(yè)務(wù)決策的影響和算法管理的后果非常難，通過(guò)放棄短期利潤(rùn)來(lái)壟斷市場(chǎng)的業(yè)務(wù)決策可能會(huì)導(dǎo)致一種偏向于優(yōu)先考慮用戶供應(yīng)而非最大化利潤(rùn)的定價(jià)策略。這可能會(huì)轉(zhuǎn)化為算法計(jì)算出用戶的較低價(jià)格范圍。雖然用戶可能在短期內(nèi)從這種安排中受益，但工作者可能沒(méi)有這么幸運(yùn)。業(yè)務(wù)決策和算法管理的影響是相互交織的，即業(yè)務(wù)決策構(gòu)成算法規(guī)則的基礎(chǔ)，成功的平臺(tái)也在實(shí)現(xiàn)壟斷或單一買(mǎi)方市場(chǎng)時(shí)擁有了不成比例的權(quán)力。擁有最大數(shù)量工作者的最大平臺(tái)成為受歡迎的選擇，減少了工作者在選擇合作對(duì)象和改善工作條件和結(jié)果方面的選擇，從而進(jìn)一步削弱了已經(jīng)處于弱勢(shì)地位的群體的權(quán)利。以2021 年?yáng)|南亞領(lǐng)先的網(wǎng)約車應(yīng)用Grab 進(jìn)行市場(chǎng)整合為例，一項(xiàng)消費(fèi)者調(diào)查顯示，Grab 是94% 的馬來(lái)西亞受訪者首選的網(wǎng)約車應(yīng)用程序，位居第二的印度尼西亞公司Gojek成為印度尼西亞尤其受歡迎的選擇。算法管理還通過(guò)兩種方式促進(jìn)了平臺(tái)權(quán)力的集中。第一是信息不對(duì)稱，即平臺(tái)以優(yōu)化算法為名，收集了大量的行為和個(gè)人數(shù)據(jù)，使其對(duì)市場(chǎng)生態(tài)系統(tǒng)擁有了比工作者更多的知識(shí)，從而為自己的利益優(yōu)化決策。第二，算法管理減少了人的干預(yù)和行動(dòng)，因此，工作者幾乎沒(méi)有挑戰(zhàn)決策或提出投訴的余地。如果這種情況普遍存在，可能會(huì)降低工作者的主動(dòng)性和自我決定能力，影響他們的福祉，并可能抑制職業(yè)發(fā)展。在相關(guān)政策發(fā)展方面，最初有關(guān)平臺(tái)經(jīng)濟(jì)的政策制定關(guān)注點(diǎn)是關(guān)于客戶安全和工人享有社會(huì)保障的權(quán)利。東南亞國(guó)家已經(jīng)努力監(jiān)管網(wǎng)約車行業(yè)，以解決這些問(wèn)題。例如要求司機(jī)進(jìn)行注冊(cè)，并且用于網(wǎng)約車工作的車輛必須符合一定的最低要求。此外，像馬來(lái)西亞這樣的國(guó)家已經(jīng)將網(wǎng)約車司機(jī)為自雇工人的國(guó)家社會(huì)保障計(jì)劃作出了義務(wù)性貢獻(xiàn)。然而，盡管這些規(guī)定至關(guān)重要，但它們并沒(méi)有解決算法管理對(duì)工人福利和健康的社會(huì)關(guān)系影響。與其關(guān)注管理技術(shù)和平臺(tái)的政策相比，更側(cè)重于算法管理的政策可能在解決這些問(wèn)題方面發(fā)揮了更大作用。例如，特定于算法管理的規(guī)定可以在平臺(tái)經(jīng)濟(jì)中提供制衡。中國(guó)于2022 年頒布的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》主要涉及在線內(nèi)容，但也包括勞動(dòng)力管理推薦算法的規(guī)定。因此，根據(jù)法律的要求，平臺(tái)在中國(guó)的算法注冊(cè)處注冊(cè)了他們的算法，并報(bào)告采取措施使用算法給予司機(jī)更多的時(shí)間來(lái)配送訂單，并允許他們?cè)谛枰獣r(shí)申請(qǐng)更多時(shí)間。這表示可以通過(guò)法律的規(guī)定來(lái)促使平臺(tái)改變其算法的優(yōu)先級(jí)，并對(duì)其技術(shù)所作的決策負(fù)責(zé)，重新確立其在勞動(dòng)關(guān)系中的作用。東南亞國(guó)家還可以學(xué)習(xí)歐盟采取的兩層次方法。大型平臺(tái)可以通過(guò)反壟斷法規(guī)或數(shù)字市場(chǎng)法等門(mén)戶規(guī)定受到限制。根據(jù)歐盟2022 年頒布的數(shù)字市場(chǎng)法，提供核心服務(wù)的大型在線平臺(tái)要遵守旨在確保公平市場(chǎng)的規(guī)則，并且與較小的平臺(tái)相比，具有不成比例市場(chǎng)影響力的大型平臺(tái)將面臨更嚴(yán)格的規(guī)定。通過(guò)這種方式，可能對(duì)算法可能影響到大量工作者的平臺(tái)進(jìn)行更嚴(yán)格的監(jiān)管。雙層次的監(jiān)管模式可以讓大型平臺(tái)承擔(dān)責(zé)任，同時(shí)允許較小的平臺(tái)進(jìn)行創(chuàng)新和發(fā)展。

最后，作者指出，盡管目前平臺(tái)工作者承受著算法管理效應(yīng)的壓力，但隨著大數(shù)據(jù)和自動(dòng)化變得更加普及，這種管理實(shí)踐預(yù)計(jì)將擴(kuò)展到傳統(tǒng)的工作場(chǎng)所。世界剛剛開(kāi)始看到算法管理以及其他形式的推薦算法對(duì)社會(huì)關(guān)系產(chǎn)生的有害影響。工人的孤立使他們難以建立聯(lián)系和找到團(tuán)結(jié)，這可能阻礙他們改善集體工作條件的能力。勞動(dòng)關(guān)系中角色和責(zé)任的扭曲，破壞了多年來(lái)為制定期望和發(fā)展工人權(quán)利和社會(huì)保護(hù)而努力的努力。權(quán)力集中在企業(yè)手中，加劇了社會(huì)不平等。幸運(yùn)的是，人類的韌性已經(jīng)在工人組織和要求改善工作條件方面發(fā)揮作用。畢竟，工人直接經(jīng)歷著管理其工作的技術(shù)的關(guān)系影響。隨著他們實(shí)時(shí)應(yīng)對(duì)這些技術(shù)帶來(lái)的影響，他們應(yīng)該在政策事項(xiàng)上進(jìn)行咨詢，因?yàn)樗麄冏钅軓?qiáng)調(diào)挑戰(zhàn)并提出解決方案。支持工人組織和社區(qū)建設(shè)的措施可能會(huì)產(chǎn)生創(chuàng)造性的社區(qū)驅(qū)動(dòng)解決方案和更具影響力的政策。勞工和技術(shù)政策也可以通過(guò)解決結(jié)構(gòu)性和關(guān)系影響以及個(gè)體影響來(lái)幫助監(jiān)管平臺(tái)和試圖以犧牲人民為代價(jià)的公司?，F(xiàn)在是采取創(chuàng)新方法的時(shí)候，例如采取兩層次方法來(lái)監(jiān)管在線平臺(tái)，以及更為人性化但利潤(rùn)最大化較少的算法管理方法。

猜你喜歡

人工智能系統(tǒng)

Smartflower POP 一體式光伏系統(tǒng)

工業(yè)設(shè)計(jì)(2022年8期)2022-09-09 07:43:20

我校新增“人工智能”本科專業(yè)

西安航空學(xué)院學(xué)報(bào)(2022年2期)2022-07-04 07:45:42

WJ-700無(wú)人機(jī)系統(tǒng)

軍民兩用技術(shù)與產(chǎn)品(2021年10期)2021-03-16 06:05:30

ZC系列無(wú)人機(jī)遙感系統(tǒng)

北京測(cè)繪(2020年12期)2020-12-29 01:33:58

基于PowerPC+FPGA顯示系統(tǒng)

裝備制造技術(shù)(2019年12期)2019-12-25 03:06:46

半沸制皂系統(tǒng)(下)

中國(guó)洗滌用品工業(yè)(2019年4期)2019-05-11 09:27:34

2019：人工智能

商界(2019年12期)2019-01-03 06:59:05

人工智能與就業(yè)

IT經(jīng)理世界(2018年20期)2018-10-24 02:38:24

連通與提升系統(tǒng)的最后一塊拼圖 Audiolab 傲立 M-DAC mini

家庭影院技術(shù)(2017年9期)2017-09-26 03:41:45

數(shù)讀人工智能

小康(2017年16期)2017-06-07 09:00:59

科學(xué)大觀園2024年13期

科學(xué)大觀園的其它文章

黑科技閃耀歐洲杯綠茵場(chǎng)

擦亮高原藍(lán)寶石

為何到月背“挖土”帶回的月壤夠用嗎？

受教育程度高真能更長(zhǎng)壽嗎

全球南方全方位崛起

讀《彩圖世界科學(xué)史》探尋科學(xué)發(fā)展的脈絡(luò)