近年來，隨著云計算、大數(shù)據(jù)、人工智能、區(qū)塊鏈等創(chuàng)新技術的發(fā)展與應用，數(shù)據(jù)作為生產(chǎn)要素的價值日益體現(xiàn)，算法在經(jīng)濟活動中的重要性日趨凸顯。本文著重探討了算法在經(jīng)濟領域的影響，并定義了一種以智能算法為核心的新型經(jīng)濟模式：算法經(jīng)濟。不過，算法隱含風險，因此要以監(jiān)管科技應對新型科技，加強算法監(jiān)管，這既是順應之策，又是必然之舉。

wangyj@pbcsf.tsinghua.edu.cn

欄目編輯

王曄君

算法是指一系列解決問題的清晰計算機指令。在當今信息時代，算法已滲透到社會各個領域?？死锼雇懈ァに固辜{在其名著《算法帝國》里對算法推崇備至，認為構建算法模仿，超越并最終取代人類，是21世紀最重要的能力，未來屬于算法和其創(chuàng)造者。

算法經(jīng)濟

商品經(jīng)濟的根本是買與賣、供與需的匹配。由于信息不對稱，市場主體需要搜尋合適的對手方進行交易，這將耗費大量成本。某種意義上，搜尋技術決定了交易空間。在沒有互聯(lián)網(wǎng)之前，人們依靠廣播、電視等媒體廣告搜尋交易對手。到了互聯(lián)網(wǎng)時代，人與人之間的物理隔絕與時空限制得到大幅解放，出現(xiàn)了電子商務這一全新的經(jīng)濟模式。“網(wǎng)絡購物，只有想不到，沒有買不到”。網(wǎng)購已深入人們生活的方方面面，供與需的匹配得到極大改善。

應該說在互聯(lián)網(wǎng)經(jīng)濟的初期，以連接產(chǎn)生網(wǎng)絡效應為主，數(shù)據(jù)價值尚未顯現(xiàn)，算法還只是輔助，電商活動高度依賴平臺公司的組織與管理。近年來，隨著云計算、大數(shù)據(jù)、人工智能、區(qū)塊鏈等創(chuàng)新技術的發(fā)展與應用，數(shù)據(jù)作為生產(chǎn)要素的價值日益體現(xiàn)，算法在經(jīng)濟活動中的重要性日趨凸顯。

一是算法拓展了互聯(lián)網(wǎng)經(jīng)濟的深度與廣度。比如，基于平臺上的交易數(shù)據(jù)、用戶自身提供的數(shù)據(jù)以及其他另類數(shù)據(jù)，開展大數(shù)據(jù)分析，對用戶進行“千人千面”畫像，深入分析每個消費者個體的行為模式和特點，形成獨特的客戶洞察，開展精準營銷、服務和風控;基于算法的智能調度，使得云計算很好地解決了實時海量交易和數(shù)據(jù)處理的性能要求;智能客服提升客戶服務的響應速度，降低成本，提高效率。

二是出現(xiàn)了以算法為核心的新型經(jīng)濟模式，也可稱之為算法經(jīng)濟。算法經(jīng)濟是指人們將生產(chǎn)經(jīng)驗、邏輯和規(guī)則總結提煉后“固化”在代碼上，使生產(chǎn)經(jīng)營、交易融資等活動無須人工干預，自動執(zhí)行的智能化經(jīng)濟模式。

算法經(jīng)濟的典型代表是算法金融。互聯(lián)網(wǎng)平臺企業(yè)依靠用戶生態(tài)，以數(shù)據(jù)為核心，以算法為驅動，以計算資源為保障，在互聯(lián)網(wǎng)平臺上開展和提供支付、貸款、財富管理、保險等各類金融服務。依靠強大的數(shù)據(jù)分析能力，開展智能營銷、智能風控、智能投顧、智能理賠，為客戶提供量身定制的金融服務和產(chǎn)品，并將專家分析決策經(jīng)驗與人工智能技術融合，通過風控模型的自學習、自進化分析過程，實現(xiàn)基于海量數(shù)據(jù)機器學習的實時復雜風控，幫助合作金融機構更好地量化風險，更好地應對了解你的客戶（Know your customer，簡稱KYC）、反欺詐、反洗錢、信用風險等關鍵業(yè)務風險。

算法經(jīng)濟的典型代表還有共享經(jīng)濟，如類似優(yōu)步（Uber）、滴滴打車的共享平臺。在這些平臺上，生產(chǎn)者與消費者直接進行動態(tài)、多變、復雜的網(wǎng)狀連接和點對點交易，而有效支撐這些網(wǎng)狀連接和點對點交易的則是平臺企業(yè)所設計、維護和運營的強大算法。并且隨著環(huán)境和市場的變化，算法不斷調整和優(yōu)化。雖然共享平臺的算法機制背后仍沒有脫離傳統(tǒng)企業(yè)的組織形態(tài)，平臺規(guī)則和算法由企業(yè)設計、維護和運營，但算法已在很大程度上取代了企業(yè)的組織、管理與協(xié)調功能，日益成為關鍵核心。某種意義上，共享平臺的算法機制或可看作企業(yè)所提供的SaaS服務（Software as a Service，應用即服務）。

如果說共享平臺的算法機制還“殘余”著企業(yè)的影響，去中介化、去組織化的加密經(jīng)濟則干凈利落“抹除”了企業(yè)的“痕跡”，完全依靠算法開展經(jīng)濟活動。這是一種“無組織形態(tài)的組織力量”。加密經(jīng)濟以密碼學技術為基礎，通過分布式共識機制，“完整、準確、難以篡改”地記錄價值轉移（交易）的全過程，構建了多中心化的應用或商業(yè)邏輯，并且通過智能合約，保證業(yè)務邏輯的自動強制執(zhí)行，整個流程無需管理人員介入，自動完成數(shù)字化經(jīng)濟活動。加密經(jīng)濟不僅有技術邏輯層上的支撐，又有經(jīng)濟邏輯層上的保障，再加上區(qū)塊鏈、第五代移動通信技術（5G）、物聯(lián)網(wǎng)、大數(shù)據(jù)、人工智能（Artificial Intelligence，簡稱AI）等技術的賦能，有望成為具有巨大潛力的新興經(jīng)濟模式。截至目前，基于“區(qū)塊鏈+5G+物聯(lián)網(wǎng)”的加密經(jīng)濟模式已在倉單物流、農(nóng)業(yè)溯源、資產(chǎn)數(shù)字化、數(shù)字金融等領域落地應用。

與算法經(jīng)濟相伴隨的是算法貨幣。作為交易的一般等價物，貨幣理應是大家一致同意的社會共識，否則無法廣泛流通。在許多時候，共識通過制度予以確立，比如法定貨幣。比特幣雖然難以成為真正的貨幣，但它創(chuàng)造了一種完全基于算法的貨幣型態(tài)：經(jīng)共識驗證的難以篡改的可追溯的“未花費過的交易輸出”（UTXO），一定程度上啟發(fā)了法定貨幣的數(shù)字化或曰代幣化（Tokenize）。在價值上，法定數(shù)字貨幣是信用貨幣，在實現(xiàn)上則很可能是算法貨幣。

算法隱含風險

算法經(jīng)濟大幅改善市場經(jīng)濟的匹配效率和交易成本。人們一方面歡迎和享受智能算法帶來的便利，另一方面卻擔心被智能算法替代，導致個人價值喪失。不僅如此，隨著算法經(jīng)濟的快速發(fā)展，算法的滲透力和影響力越趨強大，其背后隱含的風險以及作惡的可能引起了關注。

首先是算法濫用。算法規(guī)則的背后是商業(yè)利益。為了追求利益最大化，算法有可能違背社會公平、道德和人性，比如大數(shù)據(jù)殺熟，同樣的商品或服務，老客戶的價格反而比新客戶要貴。只推薦給人們能潛在帶來商業(yè)利益的東西，而不是最適合、最恰當?shù)臇|西?？赡転E用人性弱點，過度激發(fā)、勸服、誘導客戶，使人習慣于被喂養(yǎng)，不自覺地對算法投放的產(chǎn)品沉迷上癮。只有算法邏輯，沒有考慮人性，將人“異化”為簡單的數(shù)據(jù)、商品和工具。算法的具體原理和參數(shù)只有運營企業(yè)的少部分人才能知道，有可能產(chǎn)生利益侵占問題，曾經(jīng)某共享打車的動態(tài)調價算法就被質疑過企業(yè)是否在利用算法來謀取私利。甚至，企業(yè)可能利用算法作惡，比如為了擴大流量，推送聳人聽聞的虛假信息;推薦虛假產(chǎn)品。

其次是算法偏見。算法的數(shù)據(jù)可能不一定全面，片面的數(shù)據(jù)得到的結果必然導致某種偏見。算法的設計者是人，算法設計師乃至企業(yè)管理者、價值觀的偏見可能被嵌入算法。算法的“技術光環(huán)”容易讓人盲從所謂的“科學”，但實質上有些算法卻存在很大程度的不可解釋性，比如類似“黑箱子”的機器學習算法;機器學習算法側重于相關性分析，而不是因果分析，可能產(chǎn)生錯誤的勾連與判斷;基于歷史數(shù)據(jù)的機器學習算法隱含著“過去決定未來”邏輯，以歷史宿命論定義和標簽每個人，某種程度上也是一種偏見。

“算法鴻溝”也值得重視。算法通常是隱秘的，或是專利，或是商業(yè)秘密。即便公開，因技術門檻，也不是每個人都能看懂。這就形成新的“數(shù)字鴻溝”。不懂算法的人群在利益受損時有可能并不知情，即便知情，也可能無力舉證和對抗。

在特定領域，算法還可能引致特定風險。比如在金融領域，智能算法給出的資產(chǎn)配置建議有可能是推薦了與金融機構自身利益高度攸關的產(chǎn)品，涉嫌利益侵占;智能算法形成“信息繭房”，強化投資者偏見，容易掩蓋金融風險復雜性，引誘過度消費和負債，甚至誤導投資者;智能算法若存在歧視，則損害投資者公平性;智能算法趨同導致“羊群效應”，加大金融順周期風險等。

算法監(jiān)管建議

各國監(jiān)管部門高度關注算法隱含的風險。歐盟《一般數(shù)據(jù)保護條例》（General Data Protection Regulation，簡稱GDPR）第22條對自動化決策加以限制，如果某種包括數(shù)據(jù)分析在內的自動化決策會對數(shù)據(jù)主體產(chǎn)生法律效力或對其造成類似的重大影響，數(shù)據(jù)主體有權不受上述決策的限制。針對智能算法在投資顧問中的應用，美國證券交易委員會（SEC）、美國金融業(yè)監(jiān)管局（FINRA）、澳大利亞證券和投資委員會（ASIC）出臺了具體的智能投顧監(jiān)管指引。2018年我國資管新規(guī)《關于規(guī)范金融機構資產(chǎn)管理業(yè)務的指導意見》提出要避免智能算法的順周期性風險，要求金融機構應當根據(jù)不同產(chǎn)品投資策略研發(fā)對應的人工智能算法或者程序化交易，避免算法同質化加劇投資行為的順周期性，并針對由此可能引發(fā)的市場波動風險制訂應對預案。因算法同質化、編程設計錯誤、對數(shù)據(jù)利用深度不夠等人工智能算法模型缺陷或者系統(tǒng)異常，導致“羊群效應”、影響金融市場穩(wěn)定運行的，金融機構應當及時采取人工干預措施，強制調整或者終止人工智能業(yè)務。2020年9月，國際證監(jiān)會組織（International Organization of Securities Commissions，簡稱IOSCO）市場中介機構委員會發(fā)布中介機構如何應用人工智能和機器學習的咨詢報告，提出具體指導方針，以協(xié)助IOSCO成員建立適當?shù)谋O(jiān)管框架，監(jiān)督市場中間商和資產(chǎn)管理人應用人工智能和機器學習。即將出臺的歐盟《數(shù)字服務法案》（Digital Services Act，簡稱DSA）擬授權“數(shù)字服務協(xié)調員”（Digital Services Coordinators）監(jiān)管大科技公司的合規(guī)情況，其中包括用于定向或精準廣告的算法是否合法，并要求平臺企業(yè)公布其算法如何自動向在線客戶推送內容或商品的細節(jié)。2020年12月中共中央印發(fā)《法治社會建設實施綱要（2020-2025年）》，提出要制定完善算法推薦、深度偽造等新技術應用的規(guī)范管理辦法，要加強對大數(shù)據(jù)、云計算和人工智能等新技術研發(fā)應用的規(guī)范引導。

總的來說，智能算法已在科技大公司（Bigtech）大量采用，考慮到其生態(tài)規(guī)模巨大、潛在風險和社會影響不容忽視。而我國算法監(jiān)管制度正逐步完善和健全，但具體內容有待細化完善。

從機理看，算法監(jiān)管的具體內容至少包括六方面：一是信息披露，即作為算法的設計者和控制方，科技大公司及其他利益相關者應該披露算法設計、執(zhí)行、使用過程中可能存在的偏見和漏洞、數(shù)據(jù)來源以及可能對個人和社會造成的潛在危害。二是解釋，即作為采用算法自動化決策的機構，科技大公司及其他利益相關者有義務解釋算法運行原理以及算法具體決策結果。三是留痕與可審計，即算法系統(tǒng)的設計、測試、運行表現(xiàn)及變動留有記錄，全程監(jiān)測，并可審計。四是質詢和申訴，即確保受到算法決策負面影響的個人或組織享有對算法進行質疑并申訴的權力。五是內部治理。科技大公司應建立清晰、有效的內部治理框架、內部控制機制和責任體系，防止算法濫用，防范算法風險，并提高算法對抗性，避免算法攻擊。六是加強行業(yè)自律。通過行業(yè)自律機制，加強算法道德和算法倫理建設。

結語

不可否認，算法催生了新的經(jīng)濟模式，帶來社會整體效率提升，有其獨特優(yōu)勢。但近年來，算法濫用、算法作惡、算法道德、算法倫理等問題卻引起廣泛關注。卓別林電影《摩登時代》對機器操控產(chǎn)業(yè)工人的諷刺，以及馬克思著作《1844年經(jīng)濟學哲學手稿》對機器工業(yè)化時代人類“異化”的警示提醒我們，就像機器流水線凌駕于工人之上，算法亦有可能凌駕于蕓蕓眾生之上，其中風險值得我們關注與警惕。為此，加強算法監(jiān)管，以監(jiān)管科技應對新型科技，既是順應之策，又是必然之舉。

（姚前為中國證監(jiān)會科技監(jiān)管局局長。本文僅代表作者個人學術觀點，不代表所在機構意見。本文編輯/謝松燕）