編譯 王玥嬌 編輯 徐臻

政策算法決定你是好人還是惡棍

編譯 王玥嬌 編輯 徐臻

“細思恐極”的劇情從來不是出于想象

美劇《疑犯追蹤》中，一位富商為政府開發(fā)的“機器”可以預(yù)測“有計劃犯罪”,工作原理是從各種渠道收集資訊，解讀其中人類行為的含意，也就是全天監(jiān)視所有人并采集可疑的關(guān)鍵詞。

這樣令人“細思恐極”的劇情并非出于想象。

《芝加哥論壇報》曾刊登一則報道：2013年，22歲的芝加哥市民羅伯特·麥克丹尼爾在自己家受到警告，警察勸他在行事上收斂一些，因為他已被算法列入“未來暴力犯罪疑犯”名單，其依據(jù)可能是假釋狀態(tài)、社交網(wǎng)絡(luò)及與暴力犯罪親近程度等一系列數(shù)據(jù)。

謠言止于算法

歐洲洛桑聯(lián)邦理工學(xué)院研究員佩德羅·平托表示，他們的算法軟件可以找到網(wǎng)絡(luò)造謠者。

以社交網(wǎng)站為例，研究人員使用該算法后只需查看15至20人的消息，就能找出謠言“幕后黑手”，這項算法還可以用來識別不需要的垃圾郵件或計算機病毒。

這可不是谷歌網(wǎng)頁排名算法。政策算法（尤其是像法律執(zhí)行、福利、兒童保護這類公眾服務(wù)）更像是門衛(wèi)。它們調(diào)節(jié)對公眾資源的使用，評估風(fēng)險，并將人群分成“值得”和“不值得”、“可疑”和“不可疑”各種類別。

開發(fā)政策算法的初衷來自提升效率及執(zhí)行的一貫性，但預(yù)測性治安維護所依賴的數(shù)據(jù)基礎(chǔ)，卻是長久以來法律執(zhí)行過程中存在的種族不平等等漏洞。

美國奧爾巴尼大學(xué)助理教授弗吉尼亞·尤班克斯對維護政策算法公平提出了四點建議：更多地了解算法是如何工作的；考慮算法的政治環(huán)境；認識算法的缺陷是如何積累的，以及最重要的——尊重法律。

政策算法既非法律也非人類，發(fā)生錯誤在所難免，但最令人不安的是算法沒有同理心。尤班克斯認為，并非所有治理都要基于數(shù)據(jù)統(tǒng)計，政策算法的確高效、清晰，但不該只是數(shù)字游戲，更應(yīng)該是一項我們盡一切力量去完成的人類事業(yè)?！?/p>