黃曉偉 天津大學(xué)科學(xué)技術(shù)與社會研究中心教師

隨著近年來人工智能安全與倫理問題的逐漸暴露，全球新一輪人工智能政策部署的重點轉(zhuǎn)向重新平衡創(chuàng)新與監(jiān)管之間的關(guān)系，更加注重通過協(xié)同治理實現(xiàn)人工智能的健康發(fā)展。2019年G20大阪峰會前夕成為各國和地區(qū)發(fā)布人工智能治理政策原則、參與人工智能風(fēng)險全球治理的一個窗口期，諸如日本的 《以人類為中心的人工智能社會原則》 (2018年12月)、歐盟的 《人工智能道德準則》 (2019年4月)、 《OECD人工智能原則》 (2019年5月)，以及 《G20人工智能原則》 (2019年6月)等。2019年6月17日，我國也發(fā)布了 《新一代人工智能治理原則——發(fā)展負責(zé)任的人工智能》，提出了和諧友好、公平公正、包容共享、尊重隱私、安全可控、共擔(dān)責(zé)任、開放協(xié)作、敏捷治理的八項原則倡議。

縱觀上述各個政策文本，如何治理數(shù)字化經(jīng)濟發(fā)展中的互聯(lián)網(wǎng)平臺壟斷問題，已經(jīng)成為近期人工智能風(fēng)險全球治理的一大難題。筆者從風(fēng)險社會理論出發(fā)，嘗試剖析互聯(lián)網(wǎng)平臺壟斷問題形成的根源，并探討現(xiàn)階段治理這一社會問題的務(wù)實思路。

1 作為社會問題的互聯(lián)網(wǎng)平臺壟斷

作為支撐數(shù)字化經(jīng)濟的 “基礎(chǔ)設(shè)施”，互聯(lián)網(wǎng)平臺 (以下簡稱 “平臺”)通常是指那些促進兩個或兩個以上的群體之間的價值交換趨于便利化的中介。

從技術(shù)層面看，平臺的技術(shù)基礎(chǔ)是海量數(shù)據(jù)與智能算法。平臺的產(chǎn)生受益于21世紀以來人工智能的突破性進展，其技術(shù)創(chuàng)新的基本流程是 “數(shù)據(jù)采取—數(shù)據(jù)標注—機器學(xué)習(xí)—算法模型—識別測試—場景應(yīng)用”。其中，海量數(shù)據(jù)是一種服務(wù)于平臺的原材料，智能算法是海量數(shù)據(jù)的提取裝置，據(jù)此構(gòu)建的技術(shù)創(chuàng)新生態(tài)系統(tǒng)產(chǎn)生了強大的經(jīng)濟威力。

從經(jīng)濟層面看， “網(wǎng)絡(luò)效應(yīng)”使得平臺企業(yè)具有壟斷的自然傾向。平臺依賴于 “網(wǎng)絡(luò)效應(yīng)”，即特定平臺上的用戶越多，平臺對其他人而言就越有價值。在經(jīng)濟學(xué)意義上，平臺憑借其數(shù)據(jù)集聚優(yōu)勢，創(chuàng)造了一個 “雙邊市場”：一方面對用戶個人免費，用免費服務(wù)換取用戶的個人數(shù)據(jù)，僅需要較低的獲客成本；另一方面對其他公司收費，平臺迅速將用戶數(shù)據(jù)轉(zhuǎn)售給另一類客戶用于價值開發(fā)，由此創(chuàng)造出一種不同于傳統(tǒng) (管道型)線性價值鏈的新型 (平臺型)商業(yè)模式[1]。但是，多個平臺間競爭的結(jié)果往往是走向 “贏者通吃” “一家獨大”的平臺壟斷局面，而平臺壟斷者則依靠黑箱化的智能算法成為 “數(shù)據(jù)寡頭”。這里的 “黑箱”隱喻折射出平臺競爭時代的一個悖論：無論是從寬度還是廣度而言，數(shù)據(jù)的延展速度都非常驚人。然而，有些與外行公眾具有利害關(guān)系、能夠產(chǎn)生重要影響的信息，卻只有那些理解算法模型的 “局內(nèi)人”才能獲得[2]。

基于上述分析，平臺壟斷就不能僅僅是技術(shù)問題，或者經(jīng)濟問題。那么，平臺壟斷在何種意義上成為社會問題，并需要社會范圍的集體行動加以解決呢？從風(fēng)險社會理論分析，一旦公眾不幸暴露于平臺壟斷導(dǎo)致的風(fēng)險之中，算法處理數(shù)據(jù)過程的不透明性可能導(dǎo)致責(zé)任主體模糊、問責(zé)機制缺位等 “有組織的不負責(zé)任”問題[3]，進而加劇公眾對平臺方、監(jiān)管方的不信任。因此，在一定程度上，平臺壟斷問題成為一大社會問題，意味著 “黑箱化風(fēng)險社會”的來臨。智能算法將更加廣泛但隱秘地參與到人類的決策過程中去，在推動熟人社會加速轉(zhuǎn)向陌生人社會的同時，也助長了社會運行與治理的不透明性，侵蝕著公眾對社會的信任基礎(chǔ)。

2 平臺壟斷問題的算法共謀根源

當(dāng)前平臺壟斷問題產(chǎn)生的根源何在？這需要從平臺的技術(shù)基礎(chǔ)中去探究。在市場經(jīng)濟條件下，市場競爭這只 “看不見的手”在資源配置過程中起著決定性作用。然而，當(dāng)市場經(jīng)濟進入數(shù)字化時代，消費者日常生活的各個方面都可以轉(zhuǎn)化為海量的數(shù)據(jù)資源，智能算法則貫穿了數(shù)字經(jīng)濟的各個要素和全流程。因此，市場競爭的作用正在悄悄地被一只 “數(shù)字化的手”所取代，而后者顯然是一種受控于人類的技術(shù)力量。正是在它的作用下，市場上出現(xiàn)了越來越多的反競爭性平臺壟斷行為，而這往往是由 “算法共謀” (Algorithmic Collusion)導(dǎo)致的。

共謀是競爭對手之間共同實施的、可能損害消費者利益的團體利潤最大化策略行為。在數(shù)字化時代，算法共謀是將以黑箱化為典型特征的智能算法作為促進共謀的技術(shù)因素，從而導(dǎo)致更為隱蔽的新型共謀。根據(jù)智能算法所發(fā)揮的作用以及導(dǎo)致的不透明程度，英國學(xué)者阿里爾·扎拉奇 (Ariel Ezrachi)等區(qū)分出四種算法共謀機制：信使型共謀，軸輻型共謀、預(yù)測型共謀、自主型共謀[4]。

(1)信使型共謀的隱蔽程度較低，是把智能算法用來執(zhí)行人類共謀限制平臺競爭的意圖，其角色類似人類的 “信使”。例如民航公司之間可能利用其電子票務(wù)系統(tǒng)傳遞價格信息，彼此暗示漲價。這種利用信息技術(shù)手段強化現(xiàn)有共謀效果的方式是人類意志在技術(shù)層面的延伸，智能算法不過是輔助人類共謀的工具，隱含了一種工具論的算法觀。

(2)軸輻型共謀是指同行業(yè)的多個市場對手 (輻)使用了同一套動態(tài)定價算法 (軸)，該算法給出的價格將成為行業(yè)內(nèi)賣家公認的市場價格。其中，定價算法的開發(fā)者作為一個樞紐中心，其任務(wù)是策劃全行業(yè)范圍內(nèi)的共謀，從而實現(xiàn)最高定價。例如優(yōu)步、滴滴等網(wǎng)約車平臺運用獨家的定價算法決定了每一筆出租車服務(wù)價格，形成了事實上的 “算法壟斷”。

(3)預(yù)測型共謀更為復(fù)雜，定價算法充當(dāng)了企業(yè)高管的代理人角色，持續(xù)監(jiān)控市場價格的變化，并根據(jù)競爭對手價格的變化與市場數(shù)據(jù)的更新不斷調(diào)整自己的定價。例如高頻交易公司為了在數(shù)據(jù)傳輸速度上領(lǐng)先對手極小的時間差，不惜投入巨資用于技術(shù)研發(fā)，以捕捉外匯市場中的價格差從而攫取暴利，可能引發(fā) “閃電崩盤”的系統(tǒng)性風(fēng)險。由于全行業(yè)采用相似的定價算法，企業(yè)行為之間相互依賴，更容易產(chǎn)生平臺壟斷。

(4)自主型共謀最為棘手，在機器學(xué)習(xí)過程中，算法自發(fā)找到了優(yōu)化利潤的途徑。信息技術(shù)手段好比開啟了 “上帝視角”，能夠獲取全局視野的商業(yè)行動。當(dāng)智能算法的功能不再局限于定價并進入更多市場時，消費者甚至可能察覺不到市場中的價格操縱力量。這種共謀形式預(yù)設(shè)了自主論的算法觀，盡管擁有自主學(xué)習(xí)與決策能力的復(fù)雜算法尚處在思想實驗階段，但其潛在危害不應(yīng)該被低估。

盡管算法在上述共謀機制中發(fā)揮的作用有所不同，但需要反思隱含其中的工具論或自主論算法觀，更加對稱性地看待人類與算法在決策過程中的角色與責(zé)任。筆者認為，在行動者網(wǎng)絡(luò)理論的視域中，算法共謀風(fēng)險是人類行動者與非人類行動者相互作用的產(chǎn)物。人類已經(jīng)被納入一個受算法驅(qū)動的復(fù)雜網(wǎng)絡(luò)中，算法作為非人類行動者參與到人類的決策過程中[5]。算法為人類行為賦能，但受所輸入數(shù)據(jù)的質(zhì)量以及算法模型本身的限制，內(nèi)在地嵌入了人類正面或負面的價值觀，并能動地制造著各種風(fēng)險后果。

3 平臺壟斷問題的協(xié)同治理思路

工業(yè)化時代的風(fēng)險治理主要依賴屬地化管理的條塊分割體制，但數(shù)字化時代的風(fēng)險生成在時間和空間上往往是分離的， “有組織的不負責(zé)任”現(xiàn)象有增無減。特別是，如今人工智能技術(shù)迭代升級的速度大大超過了現(xiàn)有治理主體的處理能力或現(xiàn)有治理規(guī)則的適用范圍，導(dǎo)致人工智能技術(shù)在一定時期內(nèi)處于無約束發(fā)展的局面。

平臺壟斷問題是人工智能技術(shù)發(fā)展到當(dāng)前階段引發(fā)的一大社會問題。盡管我國政府對數(shù)字化經(jīng)濟總體上采取 “包容審慎”的監(jiān)管原則，但這并不意味著對互聯(lián)網(wǎng)平臺反競爭性的市場行為放任不管，或者一味地放松監(jiān)管。在人工智能治理體系尚不完善的現(xiàn)階段，多只 “看得見的手”之間的協(xié)同治理是破解平臺壟斷問題的務(wù)實思路，以多元參與的透明化舉措遏制平臺無序發(fā)展導(dǎo)致的黑箱化趨勢。

首先，數(shù)據(jù)壟斷是協(xié)同治理的重點。海量數(shù)據(jù)是數(shù)字化時代的戰(zhàn)略性資源，是平臺形成信息優(yōu)勢地位的先決條件。監(jiān)管部門應(yīng)該深入調(diào)研不同行業(yè)的市場集中度情況，不僅要考察獨角獸企業(yè)的營業(yè)額，也考察其依賴數(shù)據(jù)擴張的交易額情況。要增強用戶對個人數(shù)據(jù)的控制范圍，尤其警惕那種旨在實現(xiàn)平臺壟斷的數(shù)據(jù)驅(qū)動型并購行為，防止平臺濫用其市場支配地位，在未經(jīng)知情同意的情況下就收集用戶數(shù)據(jù)。國家要推動公共數(shù)據(jù)的開放共享和基礎(chǔ)數(shù)據(jù)的互聯(lián)互通，減少數(shù)據(jù)孤島和數(shù)據(jù)壁壘。

其次，算法壟斷是協(xié)同治理的難點。定價算法是平臺得以實施共謀的關(guān)鍵技術(shù)手段，由算法驅(qū)動的市場策略使一些核心平臺企業(yè)成為最大受益者。誠然，算法壟斷的治理面臨不少技術(shù)上和制度上的現(xiàn)實阻礙，但監(jiān)管機構(gòu)應(yīng)該主動探索對平臺的事前預(yù)防性監(jiān)管試點，加強對平臺定價算法的備案與審查，引入用于監(jiān)測平臺價格波動的人工智能技術(shù)，逐步改變問題倒逼式的事后監(jiān)管局面。同樣重要的是平臺企業(yè)自身的責(zé)任建設(shè)，平臺企業(yè)在保護自身算法模型知識產(chǎn)權(quán)的條件下，應(yīng)該向相關(guān)監(jiān)管機構(gòu)和公眾進行必要的信息披露。

最后，話語壟斷是協(xié)同治理的盲點。從政策落實角度看，各國人工智能治理原則普遍缺少關(guān)于公眾參與機制的設(shè)計。客觀地講，當(dāng)前的人工智能風(fēng)險治理原則還只是精英共識，在執(zhí)行過程中甚至有可能淪為技術(shù)精英的專家話語壟斷。筆者認為， 《新一代人工智能治理原則》下一步的重點應(yīng)該是推動行業(yè)自律和公眾參與，使得精英共識邁向社會共識。在平臺治理問題上，人工智能行業(yè)協(xié)會、平臺企業(yè)應(yīng)該將公眾利益優(yōu)先、負責(zé)任創(chuàng)新等原則進一步細化為從業(yè)人員可操作的行為規(guī)則；學(xué)術(shù)界應(yīng)該暢通自然科學(xué)與社會科學(xué)間的對話渠道，深化對人工智能相關(guān)法律、倫理和社會問題的研究，持續(xù)開展面向公眾的風(fēng)險溝通；公眾應(yīng)主動提升 “數(shù)字素養(yǎng)”，樹立人機協(xié)同共生的前瞻意識，并在風(fēng)險面前保持合理的懷疑精神。

綜上所述，互聯(lián)網(wǎng)平臺作為支撐數(shù)字化經(jīng)濟的關(guān)鍵基礎(chǔ)設(shè)施，在廣泛增進公眾利益和社會福祉的同時，在一定程度上也預(yù)示著 “黑箱化風(fēng)險社會”的來臨。海量數(shù)據(jù)與智能算法相結(jié)合的威力使得市場競爭這只 “看不見的手”逐步為 “數(shù)字化的手”所取代，較為隱秘的新型算法共謀機制將導(dǎo)致平臺壟斷現(xiàn)象向更多行業(yè)擴散。由于目前人工智能風(fēng)險的全球治理體系仍不健全，破解平臺壟斷問題的務(wù)實思路是推動政府監(jiān)管、平臺有為、行業(yè)自律、學(xué)術(shù)對話、公眾參與等 “看得見的手”之間的協(xié)同治理。