黃磊

《人物》雜志的一篇報(bào)道《外賣(mài)騎手，困在系統(tǒng)里》引起熱議，成為現(xiàn)象級(jí)稿件。外賣(mài)騎手在算法困境中不斷奔波在生死時(shí)速的邊緣讓人感慨、令人同情。在文章成為現(xiàn)象級(jí)稿件的背后，還有著人們?cè)谛畔r(shí)代下由人及己、由此及彼的焦慮。當(dāng)算法偏離法理和倫理，這種失控狂奔將會(huì)把我們帶入何種境地，每一個(gè)個(gè)體是否都將陷于不同的算法困境中？

違法與超時(shí)的兩難困境

“快”是快餐行業(yè)的第一個(gè)字，是消費(fèi)者的核心訴求之一。從外賣(mài)平臺(tái)的角度而言，更快周轉(zhuǎn)增加成交量也是保證利潤(rùn)高歌猛進(jìn)的關(guān)鍵環(huán)節(jié)。并且，從外賣(mài)行業(yè)競(jìng)爭(zhēng)來(lái)說(shuō)，“快魚(yú)吃慢魚(yú)”更強(qiáng)化了這種角力。故此，“比快”不僅是營(yíng)銷(xiāo)宣傳點(diǎn)，也是盈利關(guān)鍵點(diǎn)和平臺(tái)角力點(diǎn)。

數(shù)字經(jīng)濟(jì)的到來(lái)，尤其是大數(shù)據(jù)處理、AI算法系統(tǒng)的運(yùn)用為推動(dòng)路徑優(yōu)化、實(shí)現(xiàn)時(shí)間壓縮提供了可能。正如《外賣(mài)騎手，困在系統(tǒng)里》一文中所敘述的，系統(tǒng)在接連不斷地吞掉時(shí)間，3公里送餐距離的最長(zhǎng)時(shí)限從2016年的1小時(shí)到2018年的38分鐘，這種縮短就恰如極品飛車(chē)類(lèi)游戲一般，不斷在取最高值中無(wú)限逼近理論值。

但這種極致算法并沒(méi)有考慮現(xiàn)實(shí)的法律限制，和法律法規(guī)發(fā)生沖突不可避免。2019年4月15日起正式實(shí)施的《電動(dòng)自行車(chē)安全技術(shù)規(guī)范》中新國(guó)標(biāo)要求最高時(shí)速不超過(guò)25公里/小時(shí)，而現(xiàn)實(shí)中大多數(shù)騎手的速度都是逼近電動(dòng)車(chē)的最高時(shí)速，即40公里/小時(shí)左右。即便在規(guī)范出臺(tái)后，限速裝置也經(jīng)常被拆卸、改裝。

倘若說(shuō)國(guó)標(biāo)作為生產(chǎn)標(biāo)準(zhǔn)對(duì)騎手并無(wú)強(qiáng)制力，那闖紅燈、逆行、違規(guī)并道乃至碰撞他人導(dǎo)致交通意外，無(wú)疑違反交通法規(guī)。上海公安交警部門(mén)官方微信之前發(fā)布數(shù)據(jù)，2020年以來(lái)，上海公安機(jī)關(guān)共查處快遞、外賣(mài)騎手各類(lèi)交通違法行為4.3萬(wàn)余起。在深圳，僅2020年8月，全市就查處快遞、外賣(mài)送餐行業(yè)交通違法1.2萬(wàn)起，占非機(jī)動(dòng)車(chē)違法案例總數(shù)的10%以上。

相對(duì)違法的恐懼，騎手們更在意的是超時(shí)的懲罰。在系統(tǒng)算法中，“按單計(jì)價(jià)”“翻倍超時(shí)罰款”“準(zhǔn)時(shí)率與接單優(yōu)先權(quán)綁定”“等級(jí)與獎(jiǎng)勵(lì)收入綁定”等，形成了一個(gè)密不透風(fēng)的運(yùn)算體系，超時(shí)意味著收入銳減甚至無(wú)單可接。但不超時(shí)則往往意味著要違法，況且現(xiàn)實(shí)生活終究不是電腦游戲，堵車(chē)、紅綠燈、雨雪天氣、信號(hào)不好等因素都可能導(dǎo)致超時(shí)發(fā)生。騎手們唯一能做的，就是把油門(mén)加到最大并忽視交通規(guī)則。

“違法還是超時(shí)？”對(duì)騎手來(lái)說(shuō)是兩難的選擇題，題目背后隱藏著生計(jì)問(wèn)題，違章大數(shù)據(jù)已告訴我們答案。但對(duì)社會(huì)治理來(lái)說(shuō)，這個(gè)問(wèn)題更像是一個(gè)論述題，背后隱藏的是價(jià)值位階問(wèn)題。生命健康權(quán)無(wú)疑具有最高價(jià)值，在此基礎(chǔ)上才有進(jìn)一步探討自由、正義、秩序以及效率的空間。正因如此，只有正確認(rèn)識(shí)算法責(zé)任中蘊(yùn)含的價(jià)值原理，充分考慮社會(huì)實(shí)踐中的價(jià)值取向，才能形成正向的算法文化，推動(dòng)社會(huì)有序前行。

然而，算法的“強(qiáng)大”、利潤(rùn)的迷惑以及法理規(guī)制的缺失，讓騎手們失控狂奔，本應(yīng)具有積極性、主動(dòng)性、創(chuàng)造性的人類(lèi)，只被視為一組可以持續(xù)優(yōu)化的模塊。我們毫不懷疑智能時(shí)代算法具有的價(jià)值，但我們同樣質(zhì)疑，當(dāng)平臺(tái)決策者將人的因素物質(zhì)化、模塊化之后，同樣被吞噬的還有應(yīng)有的理性以及更可貴的人文關(guān)懷。

并未默認(rèn)的“默認(rèn)為”

據(jù)北京日?qǐng)?bào)消息，北京市民周女士的微信賬戶(hù)突然被扣了52元，查來(lái)查去，她發(fā)現(xiàn)OFO季卡竟然還在自動(dòng)續(xù)費(fèi)，且其無(wú)法在客戶(hù)端取消自動(dòng)扣費(fèi)的功能，本想向OFO投訴，但聯(lián)系電話(huà)已成空號(hào)，而向第三方扣費(fèi)平臺(tái)投訴卻未得到答復(fù)。同時(shí)，還有律師稱(chēng)只要用戶(hù)默認(rèn)應(yīng)用扣款、自動(dòng)續(xù)費(fèi)條款，應(yīng)用即可發(fā)起代扣，只要經(jīng)營(yíng)主體存在，其對(duì)公賬號(hào)仍舊正常使用，便可發(fā)起自動(dòng)扣款。

“你默認(rèn)你活該，我扣錢(qián)我合理”顯然不能被民眾接受，“非但不還錢(qián)，反而變本加厲扣錢(qián)”被罵上熱搜。上一次OFO上熱搜還是2018年底，當(dāng)時(shí)現(xiàn)場(chǎng)退押金排隊(duì)人數(shù)接近千萬(wàn)。

算法的“強(qiáng)大”讓騎手們失控狂奔（圖/視覺(jué)中國(guó)）

早已銷(xiāo)聲匿跡的小黃車(chē)，讓所謂的“季卡”變得名不副實(shí)，無(wú)法消費(fèi)的扣費(fèi)無(wú)異于欺詐。從合同義務(wù)來(lái)說(shuō)，OFO早已違約在先并無(wú)履行能力，在這種情況下部分律師以合同未解除為由認(rèn)定自動(dòng)續(xù)費(fèi)有效顯然站不住腳，況且系統(tǒng)還變相剝奪了消費(fèi)者取消自動(dòng)扣費(fèi)的權(quán)利?！盁o(wú)救濟(jì)則無(wú)權(quán)利”，當(dāng)取消自動(dòng)扣費(fèi)和投訴都難以救濟(jì)時(shí)，相關(guān)企業(yè)就不僅僅是違約，甚至還有侵犯消費(fèi)者選擇權(quán)、救濟(jì)權(quán)之嫌。

存在同樣問(wèn)題的不僅僅有OFO。主體業(yè)務(wù)不再經(jīng)營(yíng)、應(yīng)用不再更新，但會(huì)員年費(fèi)、季卡仍在自動(dòng)續(xù)費(fèi)的，還有其他App。這種被稱(chēng)為“懶人功能”的代扣業(yè)務(wù)做法其實(shí)被多種視頻、音頻應(yīng)用軟件及小程序使用，只需要消費(fèi)者一次綁定并予確認(rèn)，默認(rèn)續(xù)費(fèi)的代扣就自動(dòng)履行。雖然很多程序并不像OFO般無(wú)法關(guān)閉，但結(jié)果往往都是以消費(fèi)者遺忘關(guān)閉而導(dǎo)致扣費(fèi)，最終承擔(dān)風(fēng)險(xiǎn)的還是消費(fèi)者本人，畢竟，“消費(fèi)或者不消費(fèi)，扣款就在那里”。

利用人們思維路徑依賴(lài)和消費(fèi)習(xí)慣，進(jìn)行暗中挖坑的算法還有“大數(shù)據(jù)殺熟”。央視二套財(cái)經(jīng)頻道曾點(diǎn)名在線旅游平臺(tái)的“大數(shù)據(jù)殺熟”現(xiàn)象，提到相關(guān)平臺(tái)針對(duì)不同消費(fèi)特征的旅游者對(duì)同一產(chǎn)品或服務(wù)在相同條件下設(shè)置差異化的價(jià)格。從技術(shù)角度來(lái)說(shuō)，“大數(shù)據(jù)殺熟”屬于定價(jià)算法，即銷(xiāo)售方通過(guò)大量數(shù)據(jù)的分析，掌握消費(fèi)者消費(fèi)習(xí)慣和心理承受的價(jià)格區(qū)間后，以可接受的最高價(jià)格將消費(fèi)者壓榨殆盡，最直觀的感受即“不同人不同價(jià)”“不同手機(jī)不同價(jià)”現(xiàn)象。

種種方式就像不少應(yīng)用中勾選、推定默認(rèn)的小伎倆，以及動(dòng)輒幾頁(yè)、十幾頁(yè)且是蠅頭小字的各種須知一般，表面上系統(tǒng)已經(jīng)履行了“告知義務(wù)”，并且將選擇權(quán)交給了消費(fèi)者，實(shí)際上消費(fèi)者除了打勾或者選擇不使用外，并沒(méi)有談判和議價(jià)的權(quán)利。所謂的“默認(rèn)”大多數(shù)情況下既沒(méi)有認(rèn)知，也沒(méi)有認(rèn)可。

通過(guò)算法極盡可能地追逐利益最大化并非個(gè)例。更不得不防的是，類(lèi)似于定價(jià)算法的應(yīng)用可能使得商家之間達(dá)成默契壟斷協(xié)議，構(gòu)成“算法共謀”，在一次次的免密支付、無(wú)感支付、快捷支付中，侵害消費(fèi)者權(quán)益，擾亂市場(chǎng)秩序。

解鈴與系鈴的博弈

觸動(dòng)利益往往比觸及靈魂還難。面對(duì)騎手困境，某平臺(tái)所給的答案是讓消費(fèi)者選擇“是否愿意多等5分鐘”，看似充滿(mǎn)人文關(guān)懷的答案背后，實(shí)則是將自己應(yīng)當(dāng)合理優(yōu)化算法的義務(wù)，轉(zhuǎn)化為對(duì)消費(fèi)者的道德綁架。

相對(duì)來(lái)說(shuō)，管理部門(mén)就更加有力。2020年10月1日起施行的《在線旅游經(jīng)營(yíng)服務(wù)管理暫行規(guī)定》就針對(duì)“大數(shù)據(jù)殺熟”作出規(guī)定：“在線旅游經(jīng)營(yíng)者不得濫用大數(shù)據(jù)分析等技術(shù)手段，基于旅游者消費(fèi)記錄、旅游偏好等設(shè)置不公平的交易條件，侵犯旅游者合法權(quán)益?！?/p>

誠(chéng)然，相關(guān)規(guī)定具有推廣借鑒價(jià)值，但當(dāng)前的權(quán)利救濟(jì)框架顯然難以應(yīng)對(duì)算法時(shí)代帶來(lái)的巨大挑戰(zhàn)。其前沿的技術(shù)性和應(yīng)用的廣泛性特點(diǎn)使得算法侵權(quán)更為輕易也更為普遍，方式方法更加多樣且更為隱蔽，法律性質(zhì)更加復(fù)雜更難斷定，所產(chǎn)生的損害結(jié)果影響范圍更大、持續(xù)時(shí)間更久，相應(yīng)的救濟(jì)也變得更加困難。

比如就騎手與平臺(tái)的關(guān)系，天津市中院對(duì)一起勞動(dòng)爭(zhēng)議作出判決，認(rèn)定騎手與電商之間不存在勞動(dòng)關(guān)系，認(rèn)定理由是雙方簽有《合作協(xié)議》，并不具備勞動(dòng)合同的人身依附性;而西安中院對(duì)類(lèi)似的勞動(dòng)爭(zhēng)議作出判決，則認(rèn)定騎手與電商之間存在勞動(dòng)關(guān)系，理由是騎手提供勞動(dòng)并接受管理，送餐工作屬于經(jīng)營(yíng)范圍。不同的判決顯然不利于民事主體權(quán)益的維護(hù)，況且這還是騎手與平臺(tái)雙方的直接關(guān)系，如果加上消費(fèi)者以及餐館等多個(gè)主體，民事關(guān)系難免會(huì)更加錯(cuò)綜復(fù)雜。

且從算法本身來(lái)講，它有別于靜態(tài)的、格式化條款或者規(guī)則，在豐富的數(shù)據(jù)資源和人工智能不斷發(fā)展的現(xiàn)狀下，算法會(huì)不斷演化進(jìn)化，甚至變成算法開(kāi)發(fā)者或使用者都無(wú)法解釋的自主化算法，這使算法由原本的“執(zhí)行者”變成“決策者”，不僅使政府監(jiān)管、市場(chǎng)監(jiān)管變得更難，同時(shí)也對(duì)傳統(tǒng)的法學(xué)理論拋出了難題。

算法透明是監(jiān)管的前提，但囿于兩方面原因讓算法透明變得異常困難。一是部分公司企業(yè)將算法列為商業(yè)機(jī)密，以知識(shí)產(chǎn)權(quán)的方式讓算法系統(tǒng)難以窺探;二是在技術(shù)門(mén)檻方面，相關(guān)監(jiān)管部門(mén)沒(méi)有足夠的技術(shù)支持。但可以肯定的是，基于這種算法自動(dòng)化決策的不透明性和應(yīng)用的大規(guī)模化，侵權(quán)風(fēng)險(xiǎn)會(huì)加大，所帶來(lái)的損害也會(huì)大大增加。

算法系統(tǒng)所帶來(lái)問(wèn)題的背后，與其說(shuō)是程序研發(fā)的技術(shù)問(wèn)題，更不如說(shuō)是價(jià)值觀問(wèn)題，技術(shù)、程序可以說(shuō)沒(méi)有立場(chǎng)，但算法背后的研發(fā)者、管理者卻不能沒(méi)有社會(huì)責(zé)任感。從責(zé)任體系來(lái)說(shuō)，企業(yè)負(fù)有對(duì)算法的設(shè)計(jì)、應(yīng)用的全程監(jiān)管、控制及修正義務(wù)，同時(shí)基于算法系統(tǒng)直接或間接關(guān)系到廣大民眾的生命、財(cái)產(chǎn)、健康問(wèn)題，故相關(guān)公司需要承擔(dān)與違法行為、違法結(jié)果相匹配的“嚴(yán)格責(zé)任”，在歸責(zé)上應(yīng)當(dāng)采取無(wú)過(guò)錯(cuò)責(zé)任。

但“解鈴還須系鈴人”，在專(zhuān)業(yè)化的巨大鴻溝下，對(duì)算法治理的落腳點(diǎn)和最終依托還需要回歸到企業(yè)，回到以算法規(guī)則進(jìn)行制衡。從社會(huì)治理角度而言，企業(yè)自律是基石，需要通過(guò)行業(yè)規(guī)范等方式修正“唯利益化”的算法價(jià)值觀，融入企業(yè)社會(huì)責(zé)任、國(guó)家的法律法規(guī)。在此基礎(chǔ)上，媒體、監(jiān)管部門(mén)、法律的外部監(jiān)督與約束也不可或缺，需要同步建立起滿(mǎn)足事后救濟(jì)、事前預(yù)防兩大傳統(tǒng)功能的責(zé)任體系。

當(dāng)前，我國(guó)雖尚未出臺(tái)專(zhuān)門(mén)法律法規(guī)，但全面將算法規(guī)則納入監(jiān)管領(lǐng)域，并針對(duì)算法技術(shù)性特點(diǎn)進(jìn)行法律規(guī)制已是大勢(shì)所趨，隨著立法水平的提升和司法實(shí)踐的豐富，相信相關(guān)立法也能夠逐漸完善，進(jìn)而在法律框架內(nèi)實(shí)現(xiàn)對(duì)算法的良好駕馭，形成社會(huì)、企業(yè)及個(gè)人的多贏局面。