王志勇，呂桐弢

（1.廣西師范大學(xué)法學(xué)院，廣西桂林 541006；2.西安交通大學(xué)法學(xué)院，陜西西安 710000）

目前，關(guān)于算法治理的問題，大家傾向于留給算法和人工智能系統(tǒng)。算法治理主要強(qiáng)調(diào)的是算法模型這一層面的治理，是將整個(gè)算法模型精準(zhǔn)地應(yīng)用落地，以避免產(chǎn)生偏見，危害社會(huì)各層次間的相互關(guān)系。通常來看，算法基于數(shù)據(jù)產(chǎn)生模型，具有一定的用戶信息，甚至反映一定的意識(shí)形態(tài)。在機(jī)器學(xué)習(xí)中學(xué)得的模型適用于新樣本的能力，稱為“泛化能力”（generalization），具有強(qiáng)泛化能力的模型能很好的適用于整個(gè)樣本空間，反映整個(gè)樣本空間的特性，以此提高數(shù)據(jù)分析和數(shù)據(jù)預(yù)測(cè)的準(zhǔn)確性［1］?；跈C(jī)器學(xué)習(xí)的算法因數(shù)據(jù)的多元性和復(fù)雜性，不可避免地具有了“黑箱”（black box）的特征，機(jī)器無法回溯作出決定的具體機(jī)制。因此，國家治理視野之下，對(duì)算法治理的核心問題在于如何實(shí)現(xiàn)善治，即引導(dǎo)其健康發(fā)展。

1 國家治理視野下的算法治理的難點(diǎn)

宏觀看來，不同于美國的央地關(guān)系和市場(chǎng)監(jiān)管體制，也不同于歐洲分散的數(shù)據(jù)市場(chǎng)，我國的算法治理面對(duì)著與歐美不完全相同的處境，在治理模式上同樣不能簡單照搬或者全盤否決。

首先，認(rèn)定標(biāo)準(zhǔn)的缺位導(dǎo)致公眾難以有效的參與。算法、數(shù)據(jù)以及最終所形成的算法模型往往是一家企業(yè)的核心競(jìng)爭力，部分可能涉及商業(yè)秘密。然而，在我國算法是否構(gòu)成商業(yè)秘密尚未有明確的法律界定或相關(guān)的司法解釋。我國當(dāng)前對(duì)于侵犯商業(yè)秘密行為的認(rèn)定標(biāo)準(zhǔn)主要依據(jù)現(xiàn)行《反不正當(dāng)競(jìng)爭法》第九條中的四項(xiàng)規(guī)定，總結(jié)來看分別是：秘密性、商業(yè)價(jià)值性、保密管理性。如果依照上述認(rèn)定標(biāo)準(zhǔn)，那么任何算法、數(shù)據(jù)以及數(shù)據(jù)模型都大概率構(gòu)成一個(gè)企業(yè)的商業(yè)秘密。如果一旦認(rèn)定算法可能涉及商業(yè)秘密，依照《網(wǎng)絡(luò)安全法》第四十五條規(guī)定：依法負(fù)有網(wǎng)絡(luò)安全監(jiān)督管理職責(zé)的部門及其工作人員，必須對(duì)在履行職責(zé)中知悉的個(gè)人信息、隱私和商業(yè)秘密嚴(yán)格保密，不得泄露、出售或者非法向他人提供。同時(shí)，根據(jù)《電子商務(wù)法》第二十五條規(guī)定：有關(guān)主管部門應(yīng)當(dāng)采取必要措施保護(hù)電子商務(wù)經(jīng)營者提供的數(shù)據(jù)信息的安全，并對(duì)其中的個(gè)人信息、隱私和商業(yè)秘密嚴(yán)格保守，不得泄露、出售或者非法向他人提供。通過以上兩部法律的規(guī)定都會(huì)對(duì)算法治理的具體落實(shí)產(chǎn)生阻力。顯然，認(rèn)定標(biāo)準(zhǔn)的缺位導(dǎo)致現(xiàn)行法律規(guī)定在一定程度上將商業(yè)秘密變成了算法的保護(hù)傘［2］，公眾將難以對(duì)算法進(jìn)行實(shí)質(zhì)性的監(jiān)督。缺乏了公眾的有效參與，算法治理的民主合法性就如同無本之木，政策的精準(zhǔn)性也難以保證。

其次，算法極強(qiáng)的專業(yè)性導(dǎo)致政府在治理環(huán)節(jié)中難以起到引導(dǎo)作用。通常來看，政府治理是國家職權(quán)的運(yùn)行一種形式，也是國家治理的具體實(shí)施和行政實(shí)現(xiàn)［3］。人工智能時(shí)代，公權(quán)力在橫向維度正逐步被分散，在某些領(lǐng)域即便是公權(quán)力也難以改變技術(shù)性規(guī)則。缺乏專業(yè)性的政府職能部門亦是對(duì)在技術(shù)上復(fù)雜的算法難以規(guī)?；膶彶楹椭卫?，在一定程度上弱化了政府在糾正市場(chǎng)失靈方面的作用。例如亞馬遜的“A9 算法”通過數(shù)據(jù)分析并最終執(zhí)行買家最大化收益（revenue per customer），以此影響著賣家的產(chǎn)品在亞馬遜搜索結(jié)果中的排名。2019 年，伴隨著對(duì)A9 算法公平性的質(zhì)疑聲中，日本政府試圖要求亞馬遜將A9 算法透明化。但考慮到不合理的公開方式可能會(huì)導(dǎo)致部分的不良商家利用A9 算法漏洞，調(diào)整策略，提升產(chǎn)品排名從而侵害消費(fèi)者利益，這一決策至今懸而未決。

最后，各大互聯(lián)網(wǎng)平臺(tái)沒有形成良好的行業(yè)自律?；ヂ?lián)網(wǎng)模式下，站在食物鏈頂端的超級(jí)平臺(tái)已經(jīng)成為游戲規(guī)則的制定者［4］。如中國科學(xué)院曾毅［5］擔(dān)憂，“雖然人工智能技術(shù)發(fā)展迅速，但目前其主要貢獻(xiàn)于有明顯商業(yè)利益的領(lǐng)域，如健康、產(chǎn)業(yè)創(chuàng)新等，而對(duì)商業(yè)利益相對(duì)不明顯的議題，其關(guān)注度明顯不足。”諸如阿里、騰訊、字節(jié)跳動(dòng)、美團(tuán)這樣的國內(nèi)超級(jí)互聯(lián)網(wǎng)平臺(tái)正逐步蠶食屬于公權(quán)力領(lǐng)域的法律制定與適用權(quán)，將行業(yè)規(guī)范潛移默化地上升為法律規(guī)范，一定程度上出現(xiàn)了兼具公共性特征和私主體的特征的特性［6］。對(duì)于此類主體，應(yīng)當(dāng)對(duì)其有一定的公共屬性要求，至少應(yīng)對(duì)應(yīng)地承擔(dān)更多的社會(huì)應(yīng)盡責(zé)任。例如有學(xué)者指出，對(duì)于算法的規(guī)制和治理可以提前到算法設(shè)計(jì)的階段，在算法設(shè)計(jì)當(dāng)中融入善的因素，使算法符合善的要求［7］。但算法中的程序幾乎是算法控制者單方設(shè)定的，諸如此類的想法要得以落地實(shí)現(xiàn)需依靠算法設(shè)計(jì)者及其所在的互聯(lián)網(wǎng)平臺(tái)。此外，互聯(lián)網(wǎng)平臺(tái)掌握著大量用戶的個(gè)人數(shù)據(jù)，以此形成的算法模型歧視和相關(guān)的數(shù)據(jù)保護(hù)同樣需要互聯(lián)網(wǎng)平臺(tái)承擔(dān)責(zé)任才能有效治理?，F(xiàn)在，部分大型互聯(lián)網(wǎng)平臺(tái)沒有形成良好的行業(yè)自律，非但沒有承擔(dān)到應(yīng)盡的社會(huì)責(zé)任，反而通過算法黑箱和各種“一攬子”的用戶協(xié)議大幅度降低平臺(tái)的自身責(zé)任。

2 算法治理的模式建構(gòu)

通過對(duì)當(dāng)前我國算法治理的難點(diǎn)分析，不難發(fā)現(xiàn)算法并非一種相對(duì)孤立的規(guī)制對(duì)象。當(dāng)前，對(duì)算法進(jìn)行治理的方式主要集中在算法公開、個(gè)人數(shù)據(jù)賦權(quán)和反算法歧視上，事實(shí)上，機(jī)械地采用任一方式對(duì)其進(jìn)行規(guī)制并不符合算法治理的原理［8］。針對(duì)算法的特性及規(guī)律，已有研究認(rèn)識(shí)到基于傳統(tǒng)“命令—控制”型監(jiān)管模式的不適用。當(dāng)前缺少統(tǒng)一的理論框架以指導(dǎo)算法治理［9］。因此，在算法治理的模式建構(gòu)上需要消解現(xiàn)行治理模式的負(fù)面影響，走出路徑依賴，從而符合國家治理的整體框架。

算法治理要符合現(xiàn)行國家治理框架。通常來看，國家治理主要是要處理好政府、市場(chǎng)和社會(huì)三方面的互動(dòng)，將三者在資源配置中的作用相結(jié)合，以此推進(jìn)治理方式的創(chuàng)新［10］。同時(shí)，政府、市場(chǎng)與社會(huì)多方參與、互動(dòng)治理也是正當(dāng)程序的必然要求，在算法的“黑箱”特性之下，基數(shù)大且分散的算法相對(duì)方容易丟失話語權(quán)，單一治理主體難以對(duì)其進(jìn)行有效的干預(yù)。同時(shí)，算法作為一種動(dòng)態(tài)且嵌入社會(huì)的人機(jī)交互決策，依據(jù)所適用的場(chǎng)景不同，算法所帶來的社會(huì)現(xiàn)象亦會(huì)產(chǎn)生變化。正是因?yàn)樗惴夹g(shù)的動(dòng)態(tài)性和不確定性，在一定程度上造成了當(dāng)下算法治理的理論與實(shí)踐相脫節(jié)。為了讓算法和人工智能高速且健康地發(fā)展，針對(duì)算法技術(shù)的動(dòng)態(tài)性和不確定性，實(shí)務(wù)界亟待一套更為靈活且具有穩(wěn)定性的算法治理模式。

2.1 算法治理的理論重構(gòu)

在利用算法治理的政府、市場(chǎng)和社會(huì)三方面中，市場(chǎng)掌握著較強(qiáng)的話語權(quán)，平臺(tái)能夠?qū)⒎鲜袌?chǎng)需求的算法設(shè)計(jì)出來，并由此制定與其利益相契合的行業(yè)的規(guī)制，乃至上升為法律制度。這雖然充分發(fā)揮了市場(chǎng)在資源配置中的決定性作用，但算法極強(qiáng)的專業(yè)性極可能導(dǎo)致算法在政府治理和社會(huì)治理層面很難有強(qiáng)有力的支撐點(diǎn)，市場(chǎng)成為牽引算法技術(shù)發(fā)展的唯一有效動(dòng)力。歷史的經(jīng)驗(yàn)表明，讓市場(chǎng)去決定資源的配置，這種模式效率最高，但公平性難以得到保障。過度市場(chǎng)化過于追求效率和利潤增長，容易讓算法的發(fā)展脫離法治的軌道，進(jìn)而放棄社會(huì)效益，突破道德底線。

通常而言，打通算法治理層面市場(chǎng)、政府和社會(huì)三者間的阻隔，需要提升科研組織在算法治理環(huán)節(jié)之中的重要性?？蒲兄卫碜鳛橹卫淼闹匾獌?nèi)容，是以科學(xué)研究作為治理的對(duì)象,探討如何通過有效治理，促進(jìn)科研創(chuàng)新，使作為科技知識(shí)產(chǎn)品的科技成果更好地服務(wù)于人類社會(huì)［11］。通常看來，科研組織在治理之中的功能相當(dāng)多樣化，但集中在提供政策建議、進(jìn)行科學(xué)分析、參與政策和決策過程，并非直接參與治理［12］。但伴隨著應(yīng)用科學(xué)在國家治理體系之中扮演的角色愈發(fā)重要，尤其是面對(duì)算法這一類技術(shù)性很強(qiáng)的治理對(duì)象，科研組織的需要在政府、市場(chǎng)和社會(huì)三者之間起到至少兩個(gè)層面的作用。一方面科研有溢出帶動(dòng)性很強(qiáng)的頭雁效應(yīng)，能夠引領(lǐng)算法和人工智能技術(shù)的健康發(fā)展。另一方面，科研組織能夠在市場(chǎng)化中保證相對(duì)中立客觀，在不偏袒市場(chǎng)的情況下協(xié)助政府和社會(huì)對(duì)算法進(jìn)行治理。此外，讓科研組織成為算法治理環(huán)節(jié)中的一部分，也能加強(qiáng)科研與實(shí)際需要之間的聯(lián)系，為科技成果轉(zhuǎn)化提供現(xiàn)實(shí)保障和動(dòng)力支持，設(shè)計(jì)出合法且更符合市場(chǎng)和社會(huì)需要的算法。

事實(shí)上，算法在特定環(huán)境下的應(yīng)用結(jié)果并不完全取決于算法設(shè)計(jì)者，在很大程度上也是市場(chǎng)的選擇。例如，外賣騎手被算法催促著在更短的時(shí)間內(nèi)完成訂單的送達(dá)，正是市場(chǎng)對(duì)于縮短外賣送抵時(shí)間的需要所推動(dòng)的，算法沒有自己的好惡，只是提高效率的工具。在算法治理之中，市場(chǎng)依然應(yīng)當(dāng)在資源配置領(lǐng)域起到?jīng)Q定作用。一方面，市場(chǎng)扎根在現(xiàn)實(shí)的社會(huì)之中，算法技術(shù)的發(fā)展需要資本的注入，算法技術(shù)真正造福人類社會(huì)，同樣需要走向市場(chǎng)。市場(chǎng)能最大程度地做到合理地配置有限的資源，敏銳地把握經(jīng)濟(jì)結(jié)構(gòu)的轉(zhuǎn)型和發(fā)展方式的轉(zhuǎn)變，通過利益關(guān)系的調(diào)整，讓市場(chǎng)主體在產(chǎn)業(yè)鏈的不同環(huán)節(jié)想方設(shè)法轉(zhuǎn)換結(jié)構(gòu)，通過推進(jìn)人工智能領(lǐng)域的產(chǎn)業(yè)鏈升級(jí)來實(shí)現(xiàn)算法治理經(jīng)濟(jì)效益和社會(huì)效益的有機(jī)統(tǒng)一。另一方面，中國經(jīng)濟(jì)市場(chǎng)自重建以來，作為市場(chǎng)的主體，各大企業(yè)長期沒有建立起同社會(huì)所協(xié)調(diào)的承擔(dān)責(zé)任的方式。在算法治理之中，市場(chǎng)的主體，是各大互聯(lián)網(wǎng)平臺(tái)需要建立企業(yè)與社會(huì)的協(xié)調(diào)、互動(dòng)關(guān)系，擔(dān)負(fù)起必要的社會(huì)責(zé)任，化解一定的算法治理危機(jī)［13］。

同時(shí)，算法治理需要在政府通過構(gòu)建科學(xué)的理論體系、制度體系和政策體系來發(fā)揮政策在算法治理之中的引導(dǎo)功能。對(duì)于算法缺陷所導(dǎo)致的社會(huì)問題不能簡單地采取叫停、整治和處罰等臨時(shí)性措施，應(yīng)更多地通過產(chǎn)業(yè)結(jié)構(gòu)和治理布局的調(diào)整來完善算法的法律監(jiān)管和道德約束機(jī)制。此外，政府推進(jìn)職能轉(zhuǎn)變的同時(shí)，要合理地強(qiáng)化對(duì)于算法的規(guī)制和監(jiān)管職能。算法所涉及的技術(shù)、理論紛繁復(fù)雜，由數(shù)據(jù)通過訓(xùn)練產(chǎn)生模型的過程之中，每個(gè)環(huán)節(jié)都無法脫離人類參與而自主進(jìn)行，可以說，算法的每個(gè)環(huán)節(jié)無一不存在著倫理風(fēng)險(xiǎn)。面對(duì)算法治理，我們需要政府合理地強(qiáng)化監(jiān)管，并通過監(jiān)管來發(fā)現(xiàn)算法治理形勢(shì)的發(fā)展變化和需求，進(jìn)而提出更具指導(dǎo)性的意見和方案。

當(dāng)然，社會(huì)治理是算法治理的基石。美國喬治敦大學(xué)教授查爾斯·庫普錢（Charles A.Kupchan）［14］認(rèn)為，目前西方世界出現(xiàn)了極為嚴(yán)重治理危機(jī)，其中一大原因就是社會(huì)公眾情緒低落并且分裂嚴(yán)重，無法形成有效的公眾參與、社會(huì)競(jìng)爭以及制度制衡。進(jìn)入到智慧互聯(lián)的時(shí)代，“信息繭房”裹挾社會(huì)中的個(gè)體，使其失去自主性，從而間接地增加著社會(huì)治理的難度。在大量被曝光的“大數(shù)據(jù)殺熟”和“算法歧視”現(xiàn)象之下，算法治理問題目前已經(jīng)引起了社會(huì)公眾的廣泛關(guān)注。根據(jù)《2018 中國大數(shù)據(jù)“殺熟”網(wǎng)民態(tài)度行為調(diào)查報(bào)告》，51.3%的受訪者表示遇到過大數(shù)據(jù)“殺熟”的情況，59.1%的受訪者希望互聯(lián)網(wǎng)企業(yè)的價(jià)格歧視行為能得到法律的進(jìn)一步規(guī)范［15］。此類數(shù)據(jù)表明，算法治理需要在社會(huì)層面，鼓勵(lì)和引導(dǎo)公眾積極、有序地參與到治理之中，實(shí)現(xiàn)多元化的社會(huì)共治。

2.2 算法治理的雁陣模型

“雁陣模型”是兼具靈活且穩(wěn)定的一種形態(tài)。依據(jù)雁陣模型而誕生的雁行形態(tài)論 “（flying -geese paradigm）最早由日本學(xué)者赤松要(Kaname Akamatsu）所提出，是一種產(chǎn)業(yè)區(qū)域轉(zhuǎn)移的理論，后被用于解釋和理解東亞經(jīng)濟(jì)的發(fā)展模式。這一理論經(jīng)過不斷的完善，不但保存了各版塊間比較優(yōu)勢(shì)的相對(duì)變化，互相轉(zhuǎn)移的本意，更是很好的解釋了比較優(yōu)勢(shì)動(dòng)態(tài)變化的相關(guān)性以及相互繼起的關(guān)鍵［16］。

雁陣模型對(duì)于算法治理有著較強(qiáng)的借鑒意義，是算法治理模式的一種可能性。應(yīng)當(dāng)意識(shí)到，對(duì)算法進(jìn)行治理不是一方之力就能單獨(dú)完成實(shí)現(xiàn)的，很大程度上需要科研、市場(chǎng)、政府和社會(huì)的通力合作。而科研、政府、市場(chǎng)和社會(huì)的協(xié)同與互動(dòng)也將會(huì)是算法治理的核心問題。在算法治理的四個(gè)子系統(tǒng)之中，科研確保了算法技術(shù)的不斷更新迭代，在整個(gè)治理環(huán)節(jié)之中保證了算法技術(shù)的升級(jí)與活力，是推動(dòng)新一代人工智能及算法健康發(fā)展的最為關(guān)鍵的一環(huán)，具有雁陣模型之中頭雁的溢出帶動(dòng)性作用。

然而，一個(gè)成熟的雁陣模型僅是具備頭雁是遠(yuǎn)遠(yuǎn)不夠的，算法治理同樣需要市場(chǎng)負(fù)責(zé)承接科研的成果轉(zhuǎn)化。市場(chǎng)能夠最大程度地配置資源，在經(jīng)濟(jì)利益的驅(qū)動(dòng)下，確保算法發(fā)展走向高回報(bào)的產(chǎn)業(yè)和領(lǐng)域之中。從這一視角看來，市場(chǎng)位于算法治理雁陣模型之中的雁身部分，雁身處于雁陣的中部位置，對(duì)整個(gè)算法治理起到承前啟后的作用。不僅要將頭部科研的成果進(jìn)行市場(chǎng)化的轉(zhuǎn)化，而且也要擔(dān)起雁陣的主要結(jié)構(gòu)，為雁尾提供更強(qiáng)的帶動(dòng)氣流，減少阻力。

科學(xué)研究的效能性，決定其在雁陣模型中的重要地位性。一方面，以科學(xué)性的研究對(duì)算法進(jìn)行科學(xué)、全面的監(jiān)督和評(píng)估，以保證其在實(shí)際應(yīng)用中的合理性和有效性。同時(shí)，也可以通過研究算法的內(nèi)部機(jī)制，分析其對(duì)不同群體和個(gè)體的影響，評(píng)估算法的公平性和潛在風(fēng)險(xiǎn)，進(jìn)而發(fā)現(xiàn)和糾正算法中的偏見、歧視等問題，提高算法的質(zhì)量和公正性。另一方面，通過對(duì)算法的社會(huì)影響評(píng)估的科學(xué)性研究，了解算法應(yīng)用對(duì)社會(huì)、經(jīng)濟(jì)和環(huán)境等方面的潛在影響。通過評(píng)估算法應(yīng)用的社會(huì)效果，發(fā)現(xiàn)和解決可能帶來的問題，確保算法對(duì)應(yīng)用于國家治理的貢獻(xiàn)最大化，并盡量減少負(fù)面影響。

相較頭雁和雁身，雁尾雖然不具備帶動(dòng)整個(gè)雁陣飛行的能力，但是它能夠起到穩(wěn)定雁陣的效果，保障雁陣飛行的可持續(xù)性。這一突出特點(diǎn)則偏像于政府和社會(huì)在算法治理之中的作用。二者共同成為算法治理雁陣的兜底部分，平衡雁陣并對(duì)雁陣的整體起到穩(wěn)定的作用。

雁陣模型是一種組織形式，即一群個(gè)體通過協(xié)作和合作來實(shí)現(xiàn)共同的目標(biāo)。使得算法治理的科研、市場(chǎng)、政府和社會(huì)密切聯(lián)系在一起，形成一個(gè)高效且具有穩(wěn)定性的整體，如圖1 所示。其中，市場(chǎng)在算法治理中的角色主要是推動(dòng)市場(chǎng)競(jìng)爭，科研在算法治理中的角色主要是為算法治理提供技術(shù)支持和科學(xué)方法，政府在算法治理中的角色主要是規(guī)范和監(jiān)督算法的使用和實(shí)施，社會(huì)在算法治理中的角色主要是推動(dòng)算法治理的公正和透明。當(dāng)這四方面任一方出現(xiàn)了一定程度的治理危機(jī)時(shí)，可以通過另外三方的側(cè)面修正對(duì)整個(gè)算法治理進(jìn)行校正，例如算法的科研部分走入歧途時(shí)，不僅能通過政府來進(jìn)行職能監(jiān)管，同樣可以通過市場(chǎng)化配置和社會(huì)公眾監(jiān)督來引導(dǎo)更健康的算法科研。

圖1 算法治理的雁陣模型

雁陣模型在具體的實(shí)施上，可分為五大層次，即一是，社會(huì)導(dǎo)向的頂層設(shè)計(jì)層，該層是整個(gè)模型的最高層，主要負(fù)責(zé)設(shè)定整體的算法治理目標(biāo)和政策框架。二是，社會(huì)發(fā)展的標(biāo)準(zhǔn)和法規(guī)層，這一層負(fù)責(zé)制定算法治理的標(biāo)準(zhǔn)和法規(guī)，以確保算法的合規(guī)性和道德性。標(biāo)準(zhǔn)和法規(guī)可以包括數(shù)據(jù)隱私保護(hù)、公平性、透明度和責(zé)任追究等方面。三是，科學(xué)研究的技術(shù)規(guī)范與算法開發(fā)層，這一層以立足科學(xué)研究的科學(xué)性，通過技術(shù)性規(guī)范和具體的開發(fā)實(shí)現(xiàn)治理的現(xiàn)代性。其中，技術(shù)規(guī)范層，主要關(guān)注技術(shù)規(guī)范和標(biāo)準(zhǔn)，確保算法的可解釋性和可驗(yàn)證性，包括算法驗(yàn)證、模型解釋、數(shù)據(jù)可追溯性等技術(shù)要求；算法開發(fā)層，涉及算法的開發(fā)和訓(xùn)練過程，包括數(shù)據(jù)收集、特征工程、模型選擇、訓(xùn)練和評(píng)估等步驟，這要求算法開發(fā)人員要遵循社會(huì)標(biāo)準(zhǔn)、法規(guī)和技術(shù)的有效銜接。四是，社會(huì)實(shí)踐的監(jiān)控與評(píng)估層，這一層負(fù)責(zé)對(duì)算法進(jìn)行持續(xù)的監(jiān)控和評(píng)估，包括實(shí)時(shí)數(shù)據(jù)監(jiān)控、模型性能評(píng)估、用戶反饋等，監(jiān)控與評(píng)估的結(jié)果可以用于改進(jìn)算法和修正違規(guī)行為。五是，實(shí)踐檢驗(yàn)的權(quán)益保護(hù)層，這一層以實(shí)踐的具體檢驗(yàn)性來有效的檢驗(yàn)算法治理的科學(xué)性，進(jìn)而確保各權(quán)益得到保護(hù)，使得國家內(nèi)部治理有效、決策科學(xué)、運(yùn)行公正等。雁陣模型以國家治理為根本，以市場(chǎng)為導(dǎo)向，以科研為基礎(chǔ)，以社會(huì)為指引，為算法治理的具體運(yùn)行提供了方向性，使各層次間分工密切，相互嵌入，高效運(yùn)行，如圖2 所示。

圖2 雁陣模型層次運(yùn)行

3 雁陣模型下的算法治理體系創(chuàng)新

伴隨著數(shù)字轉(zhuǎn)型進(jìn)程的深入，算法逐漸滲透在人類生活的各個(gè)領(lǐng)域，算法技術(shù)健康發(fā)展的具體表現(xiàn)也呈現(xiàn)出多維度的特性，管理者和社會(huì)公眾對(duì)算法治理的期望目標(biāo)總是在發(fā)生著動(dòng)態(tài)的變化。簡言之，算法治理并不是一味地簡單追求和促成技術(shù)迭代和更新。例如在算法技術(shù)的具體應(yīng)用時(shí)，用戶期望它能夠更合理地市場(chǎng)化，以便于將深?yuàn)W的算法接地氣地改善我們的日常生活。在算法可能沖擊人類倫理道德時(shí)，社會(huì)公眾期望能有足夠的監(jiān)管防止算法技術(shù)的盲目擴(kuò)張，消解算法對(duì)人類倫理的破壞，使其退守回人類道德底線之內(nèi)。

多維度的動(dòng)態(tài)需求意味著傳統(tǒng)的固定模式與算法治理的不相兼容，事實(shí)上，傳統(tǒng)的固定模式在面對(duì)高速發(fā)展的科學(xué)技術(shù)性很強(qiáng)的事物治理上存在著極為顯著的短板，對(duì)于某一重大技術(shù)迭代的治理往往具有一定的滯后性。例如，移動(dòng)通信設(shè)備智能化所帶來的電子商務(wù)產(chǎn)業(yè)的蓬勃發(fā)展，在相當(dāng)長的一段時(shí)間是處于治理乏力甚至空白的階段。而這一短板在算法治理之上同樣被放大暴露了出來，根據(jù)OpenAI 在2020 年的分析報(bào)告顯示，自2012 年以來，要訓(xùn)練一個(gè)人工智能模型在基準(zhǔn)測(cè)試ImageNet 圖像分類任務(wù)中達(dá)到同等的分類效果，所需的算力每16個(gè)月就會(huì)減少1/2，算法演進(jìn)速度遠(yuǎn)超摩爾定律的速度［17-18］。這意味著人工智能算法效率呈指數(shù)級(jí)倍增，迭代速度將不斷加快，帶來新的監(jiān)管挑戰(zhàn)，局限于固定模式的治理方式將難以完全適應(yīng)。

國家治理需要堅(jiān)持頂層設(shè)計(jì)與摸著石頭過河相結(jié)合，推進(jìn)治理制度創(chuàng)新［19］。國家治理視野下的算法治理同樣需要在制度上根據(jù)實(shí)際需求，結(jié)合客觀情況來進(jìn)行一定的制度創(chuàng)新，推進(jìn)算法治理的可持續(xù)運(yùn)行性，見圖3［20］。陣模型下的算法治理體系創(chuàng)新，在市場(chǎng)方面，使不同的算法模型能夠相互配合和交互，促進(jìn)算法模型的技術(shù)進(jìn)步和創(chuàng)新。在科研方面，推動(dòng)算法模型的不斷創(chuàng)新和改進(jìn)，以提高模型的性能和效果。在政府作用方面，扮演著監(jiān)管和規(guī)范的角色，制定相關(guān)法律法規(guī)和政策，確保算法模型的合規(guī)性和公平性，推動(dòng)公共領(lǐng)域中的算法透明度、公正性和可解釋性。在社會(huì)參方面，通過參與公眾討論、輿論監(jiān)督、投訴機(jī)制等方式，對(duì)算法模型的決策進(jìn)行監(jiān)督和反饋。此外，社會(huì)還通過開展算法教育和提升算法素養(yǎng)，增強(qiáng)公眾對(duì)算法模型的理解和參與能力，以更好地參與到算法治理中。

圖3 多維的算法治理創(chuàng)新

這些創(chuàng)新可以促進(jìn)算法治理的多元化和協(xié)同發(fā)展，平衡不同利益方的需求，提高算法模型的質(zhì)量和社會(huì)效益。這一創(chuàng)新使治理理念不再局限于固定的模式，而是以效率、效能、公正、公平、回應(yīng)性和責(zé)任性等為導(dǎo)向和選擇準(zhǔn)則［21］。大雁飛行的過程中，雁陣一直處于變動(dòng)不居的形態(tài)。頭雁消耗的體力龐大，會(huì)在合適的時(shí)間與后面的大雁交換位置，從而有效的提升了整個(gè)雁群的飛行效率和續(xù)航能力，雁陣模型下的算法治理體系需要從靈活的雁陣之中汲取靈感。對(duì)算法進(jìn)行治理同樣需要結(jié)合實(shí)際、動(dòng)態(tài)演化，在結(jié)構(gòu)上形成相應(yīng)的變化以此應(yīng)對(duì)各種多變的需求。質(zhì)言之，在保證治理模式穩(wěn)定的前提下，算法治理的雁陣模型并非一成不變的。例如，外賣App 的算法對(duì)騎手的剝削或許可以通過算法自我迭代使得算法設(shè)計(jì)在數(shù)理邏輯上做到精確和完美，但缺乏人性和社會(huì)環(huán)境的綜合考慮，從“真空”環(huán)境中誕生的算法本身就帶有一定的機(jī)械性［22］。對(duì)諸如此類的算法治理危機(jī)，僅依靠算法的迭代和更新難以有效的化解問題，此時(shí)再由科研領(lǐng)銜算法治理就不再那么合適了，應(yīng)當(dāng)依據(jù)實(shí)際需要在結(jié)構(gòu)上形成相應(yīng)的重新配置，從科研帶動(dòng)為主轉(zhuǎn)向政府治理或者社會(huì)治理為主，以此消解算法技術(shù)在融入社會(huì)后的機(jī)械性。

結(jié)構(gòu)上的靈活配置使得雁陣模型下的算法治理擺脫了傳統(tǒng)算法治理模式“頭疼醫(yī)頭腳疼醫(yī)腳”的割裂感，促進(jìn)了算法治理板塊間的交融與互補(bǔ)。與此同時(shí)，在這一梯隊(duì)和鏈條中，一個(gè)環(huán)節(jié)出現(xiàn)故障也會(huì)使整個(gè)增長梯隊(duì)受到影響，這也在側(cè)面提醒我們時(shí)刻注意算法治理的各方面均衡受力，形成科研、政府、市場(chǎng)和社會(huì)四方面的良性互動(dòng)、協(xié)調(diào)協(xié)同，讓相關(guān)制度成熟定型，組成系統(tǒng)、完備的制度體系。

4 結(jié)論

作為一種融入社會(huì)的自動(dòng)化決策方式，算法給人類社會(huì)帶來的風(fēng)險(xiǎn)不亞于其所帶來的便捷。在輿論上，伴隨著“滴滴出行”App 被依法進(jìn)行網(wǎng)絡(luò)安全審查，數(shù)據(jù)和算法的治理再次被推上風(fēng)口浪尖，并且迅速上升到國家安全層面。不難看出，當(dāng)前我國算法治理的各個(gè)主體之間并沒有形成應(yīng)有的合力，甚至在一些基本問題上沒有達(dá)成共識(shí)。技術(shù)發(fā)展帶來廣闊的市場(chǎng)前景，但也必然會(huì)與之帶來新的治理挑戰(zhàn)。

制度化與法律化作為社會(huì)風(fēng)險(xiǎn)防控的主要方式，應(yīng)當(dāng)積極探索符合實(shí)際需要的算法治理制度。形成合理的算法治理模式，真正讓國家治理和相關(guān)的配套法律為人工智能和算法技術(shù)的健康發(fā)展保駕護(hù)航。