桂 雪

（西北政法大學(xué)經(jīng)濟(jì)法學(xué)院，陜西 西安 710122）

進(jìn)入強(qiáng)人工智能時(shí)代后，算法（Algorithm）作為人工智能的支撐技術(shù)，其主要表現(xiàn)為解決特定問題而通過分析輸入信息最終得出結(jié)論的技術(shù)程序。然而，在對個(gè)人信息數(shù)據(jù)進(jìn)行價(jià)值提取的過程中，算法模型因其開發(fā)者或使用者所欲達(dá)成的特定目的、個(gè)體利益最大化的自利性考量以及因信息不對稱產(chǎn)生的優(yōu)勢地位等，極易產(chǎn)生具有法益侵犯性的負(fù)外部效應(yīng)［1］。也就是說在算法設(shè)計(jì)者的“偏好”下會(huì)存在“算法黑箱”，進(jìn)而隨之帶來信息濫用、差別化對待、牽制公權(quán)力等問題。在進(jìn)入以自主學(xué)習(xí)為代表的強(qiáng)人工智能時(shí)代后，學(xué)界展開了對算法的相關(guān)研究，主要研究成果大都集中在算法歧視、算法共謀等具體問題，而對算法治理模式的研究并不多見。算法作為一門智能技術(shù)，與其他技術(shù)一樣，都將在法律的監(jiān)管下運(yùn)行，但在算法高度隱蔽性、強(qiáng)制性和固有的知識(shí)產(chǎn)權(quán)性的特征下，原先以政府監(jiān)管為中心的事后懲戒式治理模式則表現(xiàn)出了弱監(jiān)管性的現(xiàn)象。在人工智能時(shí)代下，如何將算法這一具有自主學(xué)習(xí)的高智能技術(shù)進(jìn)行有效監(jiān)管，是本文研究的主要問題。

一、算法技術(shù)溯源與算法應(yīng)用風(fēng)險(xiǎn)

（一）算法運(yùn)行的基礎(chǔ)理論

算法（algorithm）源于9世紀(jì)波斯數(shù)學(xué)家花拉子模，本意為阿拉伯?dāng)?shù)字的運(yùn)算法則?，F(xiàn)代意義上的算法，更多被提及為計(jì)算機(jī)算法，“算法是一種有限、確定、有效的并適合用計(jì)算機(jī)程序來實(shí)現(xiàn)的解決問題的方法”［2］，算法的運(yùn)行分為三個(gè)層次：數(shù)據(jù)輸入層—數(shù)據(jù)分析層—結(jié)果輸出層。輸入層將實(shí)際數(shù)據(jù)置入算法模型中，是算法運(yùn)行的信息基礎(chǔ)。數(shù)據(jù)分析層即算法技術(shù)層，是使用算法模型對輸入數(shù)據(jù)進(jìn)行分析得到結(jié)論，并最終輸出分析結(jié)果。算法技術(shù)就是將輸入值轉(zhuǎn)化為輸出值的關(guān)鍵步驟［3］。

算法產(chǎn)生社會(huì)作用需經(jīng)過兩個(gè)步驟：算法設(shè)計(jì)階段與算法應(yīng)用階段。算法設(shè)計(jì)是算法應(yīng)用的前提，是由算法研發(fā)者基于應(yīng)用目的開發(fā)算法程序的階段。算法應(yīng)用是算法使用者部署應(yīng)用算法技術(shù)，使算法作用于社會(huì)領(lǐng)域的步驟。算法設(shè)計(jì)者與使用者掌握算法運(yùn)行機(jī)理、明確算法目的，依靠算法技術(shù)獲得利益，擁有強(qiáng)大的算法能力，規(guī)制算法本質(zhì)上是規(guī)制算法主體的行為，必然需要將算法主體納入監(jiān)管范圍，對其濫用算法侵犯社會(huì)公共利益與個(gè)人權(quán)利的行為承擔(dān)相應(yīng)的責(zé)任。

（二）“算法黑箱”引發(fā)社會(huì)風(fēng)險(xiǎn)

算法本身擁有高度的技術(shù)復(fù)雜性和專業(yè)性。算法運(yùn)行的整個(gè)過程涉及龐大的數(shù)據(jù)資料和繁雜的算法方法，并以計(jì)算機(jī)語言——數(shù)字代碼的形式出現(xiàn)，不能被大多數(shù)人理解。在算法技術(shù)應(yīng)用中，由于技術(shù)公司研發(fā)算法而掌握算法技術(shù)，政府公共部門僅掌握輸入數(shù)據(jù)以及輸出結(jié)果，社會(huì)公眾則被完全排除在算法之外。由此，算法的不透明性導(dǎo)致了“算法黑箱”的產(chǎn)生。“算法黑箱”究其根本屬于技術(shù)的“黑箱”［4］，對于算法設(shè)計(jì)者、使用者而言，其創(chuàng)造、控制算法必然掌握算法機(jī)理，對于技術(shù)人員之外的普通公眾，因難以跨越技術(shù)知識(shí)的鴻溝、難以探明其運(yùn)行內(nèi)部結(jié)構(gòu)和運(yùn)行程序而被排除在算法程序之外。

“算法黑箱”為算法主體違法行為的實(shí)施提供了不易察覺的封閉空間，在潛移默化的算法應(yīng)用過程中悄無聲息地侵害公共利益，導(dǎo)致社會(huì)風(fēng)險(xiǎn)的發(fā)生。

首先，私益操縱算法損害社會(huì)利益。算法作為人工智能的技術(shù)工具，理應(yīng)是客觀公正的，但由于算法自身的“黑箱”特征以及算法技術(shù)運(yùn)用不當(dāng)，在現(xiàn)實(shí)運(yùn)用中往往難免陷入偏私與歧視。作為算法設(shè)計(jì)者的私人企業(yè)往往以利益驅(qū)動(dòng)為導(dǎo)向，收集算法使用者的數(shù)據(jù)信息，通過設(shè)計(jì)不同算法模型針對不同情況作出相應(yīng)的場景分析，并基于算法分析結(jié)果獲利。算法主體違法收集個(gè)人數(shù)據(jù)、忽視算法漏洞導(dǎo)致輸出結(jié)果錯(cuò)誤、設(shè)計(jì)歧視性算法程序，最終使算法擁有者通過算法工具造成個(gè)人權(quán)益和社會(huì)公共利益嚴(yán)重受損的惡果。

其次，私權(quán)控制公權(quán)風(fēng)險(xiǎn)。政府部門由于缺乏專業(yè)知識(shí)和技術(shù)人才，在設(shè)計(jì)公用算法程序時(shí)往往無奈選擇與私人企業(yè)合作，將所擁有的公民個(gè)人信息、基礎(chǔ)數(shù)據(jù)的所有權(quán)與控制權(quán)移交給算法公司，并將算法設(shè)計(jì)、運(yùn)行以及結(jié)果分析的權(quán)限全權(quán)交給私人企業(yè)，私人企業(yè)擁有了全面的數(shù)據(jù)信息，掌握核心的算法技術(shù)而政府部門卻逐漸喪失了對于關(guān)鍵數(shù)據(jù)、算法技術(shù)的控制權(quán)，導(dǎo)致算法與資本甚至是公權(quán)力相連接，造成私人資本控制公權(quán)力的風(fēng)險(xiǎn)。

最后，政府監(jiān)管失靈風(fēng)險(xiǎn)。政府作為監(jiān)管者，具有對算法設(shè)計(jì)與運(yùn)用進(jìn)行監(jiān)督管理的職責(zé)。然而限于算法程序的復(fù)雜性與極度專業(yè)化特性，公權(quán)力部門往往很難察覺算法運(yùn)行漏洞與算法缺陷的出現(xiàn)，對于算法的糾正與治理更是無從下手。政府部門無法識(shí)別和判斷病灶所在，難以對算法問題進(jìn)行及時(shí)、正確的問責(zé)與糾正，埋下政府監(jiān)管失靈的隱患。算法“黑箱”使得算法流程呈現(xiàn)不透明狀態(tài)，公眾的知情權(quán)必然在一定程度上受到損害。公眾對于政府監(jiān)管失靈以及算法公共應(yīng)用的隱憂也引發(fā)了社會(huì)對算法風(fēng)險(xiǎn)的合理懷疑，從而造成了公眾對于政府的信任危機(jī)。

二、規(guī)制難題：監(jiān)管模式現(xiàn)實(shí)困境

如何確保算法的合理性與正當(dāng)性、有效提升政府監(jiān)管能力、化解政府信任危機(jī)，必須回歸監(jiān)管問題?，F(xiàn)行監(jiān)管方式從主體而言具體可劃分為政府監(jiān)管、公司自我監(jiān)管、社會(huì)公眾監(jiān)督、行業(yè)協(xié)會(huì)自律監(jiān)管。算法專業(yè)化特性使得現(xiàn)行監(jiān)管模式無法適應(yīng)算法技術(shù)監(jiān)管。

政府監(jiān)管是為保證算法合法、合理使用而利用公權(quán)力實(shí)現(xiàn)對算法的強(qiáng)制監(jiān)管，本質(zhì)上是規(guī)制算法設(shè)計(jì)者、算法使用者，現(xiàn)實(shí)中通常以市場微觀主體即私人企業(yè)為被監(jiān)管對象。但是算法高度專業(yè)化和不透明性使政府監(jiān)管部門缺乏專業(yè)性，難以有效實(shí)施管制。算法現(xiàn)階段還屬于新興技術(shù)，更多地將算法納入商業(yè)秘密或知識(shí)產(chǎn)權(quán)進(jìn)行保護(hù)，私人企業(yè)期望擁有獨(dú)家技術(shù)而保持自身市場話語權(quán)以獲取巨大經(jīng)濟(jì)利益。企業(yè)將技術(shù)牢牢掌握在自己手中，若要求算法對行政機(jī)關(guān)進(jìn)行公開，必然損害市場主體積極性，阻礙經(jīng)濟(jì)的發(fā)展。

自我監(jiān)管是對算法主體提出道德要求，期望算法設(shè)計(jì)者、使用者以良好職業(yè)倫理、道德標(biāo)準(zhǔn)要求自己，對自身違法違規(guī)行為自查自糾，保證算法正當(dāng)。從算法技術(shù)風(fēng)險(xiǎn)產(chǎn)生的源頭即算法主體著手監(jiān)管雖然能直接防范、化解算法風(fēng)險(xiǎn)，然而算法主體的趨利性往往使得對行為主體提出高度的道德自律要求是不現(xiàn)實(shí)的，僅依靠主體自我監(jiān)管太過理想化。

社會(huì)公眾是輸入層基礎(chǔ)數(shù)據(jù)的所有者，賦予社會(huì)公眾算法監(jiān)督的權(quán)利，提升監(jiān)督范圍、影響力的廣泛性和普遍性。然而社會(huì)公眾因缺乏專業(yè)性被排除在算法“黑箱”之外，對算法監(jiān)督的途徑、方式阻塞，未打通公眾與算法的連接渠道，也就無法實(shí)現(xiàn)社會(huì)公眾有效監(jiān)督。

政府監(jiān)督、企業(yè)自我監(jiān)督、社會(huì)監(jiān)督的嚴(yán)重弊端，使得行業(yè)自律監(jiān)管的優(yōu)勢凸顯。行業(yè)協(xié)會(huì)作為管理下級企業(yè)、溝通上級行政機(jī)關(guān)的中間層組織，具有一定程度的管理權(quán)，了解專業(yè)知識(shí)，以促進(jìn)行業(yè)發(fā)展為宗旨，能夠有效彌補(bǔ)政府監(jiān)管、自我監(jiān)管及社會(huì)監(jiān)管的不足，實(shí)現(xiàn)算法行業(yè)的有效監(jiān)督管理。構(gòu)建以行業(yè)協(xié)會(huì)自律監(jiān)管為中心結(jié)合配套監(jiān)管措施的算法治理架構(gòu)，彌補(bǔ)“算法黑箱”導(dǎo)致的監(jiān)管空白。

三、制度進(jìn)路：以行業(yè)協(xié)會(huì)監(jiān)管為核心的全面監(jiān)管模式

面對因“黑箱”化暴露出來的算法風(fēng)險(xiǎn)，我國目前還未確立相應(yīng)的監(jiān)管機(jī)構(gòu)。德國建立的由技術(shù)專家和資深媒體人為主的非營利性組織，用以監(jiān)測、評估公共社會(huì)領(lǐng)域算法運(yùn)用和決策過程，率先借助第三方獨(dú)立組織的力量規(guī)制算法技術(shù)。隨著人工智能的廣泛應(yīng)用，我國相繼出現(xiàn)了許多互聯(lián)網(wǎng)相關(guān)行業(yè)自律組織，這些行業(yè)協(xié)會(huì)擁有專業(yè)技術(shù)人員和齊全設(shè)備，掌握行業(yè)全面信息，選擇行業(yè)協(xié)會(huì)作為規(guī)制算法風(fēng)險(xiǎn)的核心機(jī)構(gòu)具有良好基礎(chǔ)。

（一）制定算法技術(shù)統(tǒng)一標(biāo)準(zhǔn)

算法本質(zhì)上是計(jì)算機(jī)技術(shù)，是算法設(shè)計(jì)企業(yè)向其他私人公司或政府提供的技術(shù)產(chǎn)品。行業(yè)協(xié)會(huì)擁有專業(yè)技術(shù)知識(shí)和算法信息，由其牽頭主導(dǎo)制定統(tǒng)一的算法技術(shù)標(biāo)準(zhǔn)最為合適。經(jīng)營者使用算法技術(shù)的目的不同，其所采取的技術(shù)手段和使用計(jì)算機(jī)代碼設(shè)計(jì)的算法系統(tǒng)必然完全不同且不為非專業(yè)人士所知，統(tǒng)一的算法技術(shù)標(biāo)準(zhǔn)有利于追蹤、監(jiān)管算法設(shè)計(jì)與運(yùn)行，從技術(shù)層面實(shí)現(xiàn)算法對于行業(yè)監(jiān)管主體的相對透明性。此外，算法技術(shù)標(biāo)準(zhǔn)要求設(shè)計(jì)者在創(chuàng)造算法時(shí)必須符合技術(shù)標(biāo)準(zhǔn)，在一定程度上限制設(shè)計(jì)者的行為，能夠糾正算法設(shè)計(jì)之初就存在的人為導(dǎo)致的歧視與偏私，保持算法工具的中立性。當(dāng)然，算法不是一成不變的，算法技術(shù)標(biāo)準(zhǔn)也應(yīng)隨之而變，但需始終堅(jiān)持算法技術(shù)標(biāo)準(zhǔn)是以實(shí)現(xiàn)算法公正合理為核心內(nèi)涵。

（二）建立算法備案制度

算法備案制要求研發(fā)者在算法設(shè)計(jì)完成后投入應(yīng)用前向行業(yè)協(xié)會(huì)進(jìn)行算法備案。對算法信息包含設(shè)計(jì)主體、技術(shù)標(biāo)準(zhǔn)、運(yùn)行模式、應(yīng)用領(lǐng)域、算法漏洞、可能產(chǎn)生的算法風(fēng)險(xiǎn)以及解決方式等信息進(jìn)行全面?zhèn)浒?。行業(yè)協(xié)會(huì)在收到算法備案申請后，應(yīng)當(dāng)核查信息準(zhǔn)確性、真實(shí)性，若發(fā)現(xiàn)違反算法技術(shù)標(biāo)準(zhǔn)、可能導(dǎo)致算法歧視、引發(fā)算法風(fēng)險(xiǎn)的算法應(yīng)當(dāng)不予備案并退回研發(fā)主體進(jìn)行更改和糾正，直至符合備案條件才準(zhǔn)予備案，并同意該算法程序投入應(yīng)用。對于可能引發(fā)重大風(fēng)險(xiǎn)或設(shè)計(jì)主體拒不彌補(bǔ)算法漏洞的，行業(yè)協(xié)會(huì)有權(quán)決定不予備案。備案是算法進(jìn)入使用階段的必經(jīng)程序，賦予行業(yè)協(xié)會(huì)備案核查權(quán)，能夠利用行業(yè)協(xié)會(huì)的專業(yè)性替代行政機(jī)構(gòu)進(jìn)行技術(shù)核驗(yàn)，防止“不良”算法投入使用后發(fā)生算法風(fēng)險(xiǎn)引起社會(huì)恐慌。但同時(shí)應(yīng)建立算法設(shè)計(jì)者的申訴渠道，允許對于不予備案決定有異議的研發(fā)者向上級組織或相應(yīng)行政機(jī)構(gòu)申請救濟(jì)，請求其進(jìn)行核查，防止行業(yè)協(xié)會(huì)過度干預(yù)算法。

（三）建立行業(yè)“黑名單”制度

對于違反法律法規(guī)與行業(yè)規(guī)章、嚴(yán)重破壞行業(yè)秩序、違背行業(yè)倫理道德、違規(guī)算法備案或逃避算法備案以及有其他可能引發(fā)或造成重大算法風(fēng)險(xiǎn)的企業(yè)，由行業(yè)協(xié)會(huì)列入“黑名單”，并向社會(huì)公示。對“黑名單”實(shí)行分級管理，實(shí)行不同的懲罰措施。對于惡意造成嚴(yán)重社會(huì)風(fēng)險(xiǎn)的算法主體，應(yīng)實(shí)行行業(yè)禁入。政府部門采購算法技術(shù)時(shí)也應(yīng)以此作為重要考量因素，其他市場主體也可以依據(jù)“黑名單”選擇交易對象。在一定程度上限制算法主體的交易機(jī)會(huì)，發(fā)揮警示作用，督促算法主體嚴(yán)格合法合規(guī)開發(fā)算法技術(shù)。

同時(shí)，未來算法領(lǐng)域相關(guān)立法還應(yīng)賦予行業(yè)協(xié)會(huì)一定的處罰權(quán)，對已經(jīng)引發(fā)重大算法風(fēng)險(xiǎn)、未經(jīng)備案就直接投入應(yīng)用的嚴(yán)重違規(guī)者進(jìn)行處罰，以提高行業(yè)協(xié)會(huì)監(jiān)管效率與效力。

（四）建立公司自我審查制度

算法公司既包括算法研發(fā)公司也包括算法應(yīng)用公司，它們作為算法的開發(fā)主體和實(shí)際運(yùn)用主體對于算法治理應(yīng)承擔(dān)相應(yīng)責(zé)任。首先，算法主體應(yīng)向政府和行業(yè)協(xié)會(huì)提供真實(shí)且充足的算法信息，例如公開源代碼，為監(jiān)管提供基礎(chǔ)的設(shè)計(jì)信息和數(shù)據(jù)資料，積極配合監(jiān)管。其次，公司應(yīng)注重技術(shù)人員職業(yè)道德、社會(huì)道德的培養(yǎng)，在算法設(shè)計(jì)過程中嵌入算法倫理［5］，防止算法偏私，保持算法設(shè)計(jì)階段的中立性、正當(dāng)性，實(shí)現(xiàn)算法源頭治理。同時(shí)算法主體還應(yīng)主動(dòng)、定期對所擁有的算法進(jìn)行全流程的自我檢查，完善算法漏洞，對于算法應(yīng)用向有關(guān)部門提交風(fēng)險(xiǎn)應(yīng)急預(yù)案，防止可能引發(fā)的算法風(fēng)險(xiǎn)。