改革實(shí)踐文章編號(hào)：1673-9973（2024）02-0116-03

收稿日期：2024-03-20

基金項(xiàng)目：2023年四川省第三批高校思想政治工作精品項(xiàng)目“‘E宣講’深度融合的全媒體實(shí)踐育人體系重構(gòu)與探索”（SCSZJP0010）

作者簡(jiǎn)介：鄧若玉（1988-），女，四川成都人，副教授，法學(xué)博士，主要從事馬克思主義倫理觀研究。

摘" 要：人工智能是現(xiàn)代計(jì)算機(jī)科學(xué)領(lǐng)域發(fā)展下的重要產(chǎn)物，可從理論、方法、技術(shù)等層面實(shí)現(xiàn)人的智能延伸。在為社會(huì)發(fā)展提供便利的同時(shí)，人工智能的泛化應(yīng)用也催生了對(duì)應(yīng)的倫理風(fēng)險(xiǎn)，諸如算法歧視、責(zé)任界定困難等，需以特定防范舉措加以控制。分析人工智能催生的倫理風(fēng)險(xiǎn)及其成因，以算法審計(jì)的應(yīng)用作為化解風(fēng)險(xiǎn)的路徑，在厘清其應(yīng)用原則的前提下，可擬建科學(xué)實(shí)踐路徑，以供參考。

關(guān)鍵詞：人工智能；倫理風(fēng)險(xiǎn)；算法審計(jì)

中圖分類號(hào)：F239.4

文獻(xiàn)標(biāo)識(shí)碼：A""" DOI：10.13411/j.cnki.sxsx.2024.02.023

Ethical Risk Prevention of AI and Its Algorithm Audit Application

DENG Ruoyu

（School of Marxism， Chengdu Institute of Technology， Chengdu 610000，China

）

Abstract：Artificial intelligence is an important product under the development of modern computer science， which can realize the extension of" human intelligence from the aspects of theory， method， and technology. While providing convenience for social development， the widespread application of artificial intelligence has also generalized corresponding ethical risks， such as algorithmic discrimination and difficulty in defining responsibilities， which need to be controlled through specific preventive measures. Based on the analysis of the ethical risks and their causes， this paper takes the application of algorithm audit as the path to resolve the risks， and proposes a scientific practice path for reference on the premise of clarifying its application principles.

Key words：artificial intelligence; ethical risk; algorithm audit

人工智能技術(shù)普及范圍持續(xù)拓展的當(dāng)前，衍生的倫理風(fēng)險(xiǎn)也隨之增多，本質(zhì)上屬于技術(shù)缺陷與理性失衡共同導(dǎo)致的局限性，亟需以有效的防范手段加以干預(yù)。算法審計(jì)——一般包含代碼審計(jì)、間接算法邏輯推斷等——作為一種檢測(cè)算法技術(shù)是否遵循倫理準(zhǔn)則、符合道德要求的系統(tǒng)性審查方法，與人工智能環(huán)境下的倫理風(fēng)險(xiǎn)防范訴求問(wèn)題高度契合，通過(guò)剖析算法與社會(huì)規(guī)范之間的交互關(guān)系來(lái)達(dá)成倫理治理目的。因此，基于進(jìn)一步防范人工智能倫理風(fēng)險(xiǎn)的治理需求，有必要進(jìn)一步解構(gòu)算法審計(jì)的應(yīng)用原則及其中邏輯，找準(zhǔn)科學(xué)應(yīng)用方向，調(diào)整算法結(jié)果失衡現(xiàn)狀。

一、人工智能催生的倫理風(fēng)險(xiǎn)及其成因

隨著人工智能的技術(shù)拓展與功能延伸，近年來(lái)在社會(huì)各個(gè)行業(yè)、領(lǐng)域的應(yīng)用范圍呈現(xiàn)明顯的擴(kuò)張態(tài)勢(shì)，催生的倫理風(fēng)險(xiǎn)類型也隨之增多。從宏觀視角來(lái)看，人工智能在倫理層面的負(fù)面影響主要分為兩類，一是人工智能在人類事務(wù)決策制定方面占比過(guò)高，而由于人工智能天然缺乏倫理判斷能力，導(dǎo)致決策結(jié)果的合理性與人文性無(wú)法達(dá)到預(yù)期；二是人類對(duì)人工智能技術(shù)進(jìn)行過(guò)度開(kāi)發(fā)利用，且缺乏符合倫理準(zhǔn)則的邊界意識(shí)，致使技術(shù)濫用現(xiàn)象普遍，陷入倫理誤區(qū)［1］。具體而言，目前常見(jiàn)的人工智能倫理風(fēng)險(xiǎn)類型主要有算法歧視（含性別歧視、價(jià)格歧視等）、算法失真（含人為造假、技術(shù)局限等）、審計(jì)事故責(zé)任認(rèn)定困難、人的主體地位弱化等。

人工智能倫理風(fēng)險(xiǎn)成因主要包含以下幾個(gè)方面：一是主觀層面的利益碰撞造成理性失衡，如過(guò)度依賴算法紅利帶來(lái)的經(jīng)濟(jì)效應(yīng)，為追求利益而忽視部分群體權(quán)益，進(jìn)而引發(fā)數(shù)據(jù)泄露、算法模型盜用等倫理風(fēng)險(xiǎn)；二是客觀層面的理論與技術(shù)局限，人工智能算法所依托的社會(huì)數(shù)據(jù)無(wú)法脫離社會(huì)本身，因此社會(huì)中存在的偏見(jiàn)與局限也難免折射于算法中，造成算法歧視等倫理風(fēng)險(xiǎn)涌現(xiàn)；三是規(guī)范層面的教育體系及法規(guī)體系缺位，當(dāng)公眾對(duì)于人工智能缺乏正確的倫理認(rèn)知及道德約束，便容易在人工智能應(yīng)用中發(fā)生越界現(xiàn)象，催生潛在倫理風(fēng)險(xiǎn)。

二、基于人工智能倫理風(fēng)險(xiǎn)防范目標(biāo)的算法審計(jì)原則

自2022年6月中共中央全面深化改革委員會(huì)第26次會(huì)議明確提出“推動(dòng)算法審計(jì)”這一要求后，社會(huì)各領(lǐng)域?qū)λ惴▽徲?jì)的重視度及認(rèn)知度提升，對(duì)其內(nèi)涵、功能的闡釋也進(jìn)入新的階段［2］。結(jié)合人工智能環(huán)境下的倫理風(fēng)險(xiǎn)類型及防范需求，可將算法審計(jì)的應(yīng)用原則歸納為以下幾個(gè)維度。

（一）公共利益原則

人工智能技術(shù)支持下的算法平臺(tái)往往存在一定的利益傾向，即在面對(duì)算法審計(jì)時(shí)，可能會(huì)遮蔽、造假等形式維護(hù)平臺(tái)利益，進(jìn)而對(duì)公眾利益造成損害［3］。因此，算法審計(jì)需秉承公共利益原則，同步面向?qū)徲?jì)方與被審計(jì)方做出約束，最大化維護(hù)利益平衡。一方面，針對(duì)算法審計(jì)人員的審計(jì)行為做出限制，嚴(yán)格防范動(dòng)機(jī)不良、技術(shù)越界等情況的發(fā)生，確保算法審計(jì)始終圍繞審計(jì)文化精神內(nèi)核開(kāi)展，避免算法審計(jì)最終成為惡意黑客的“工具”。另一方面，公共利益原則要求被審計(jì)者在理解審計(jì)內(nèi)涵的前提下，主動(dòng)識(shí)別并整改潛在的審計(jì)問(wèn)題，主動(dòng)平衡利益相關(guān)主體的核心利益，重視邊緣人群的權(quán)益保護(hù)，盡可能規(guī)避倫理風(fēng)險(xiǎn)的產(chǎn)生。

（二）介入無(wú)害原則

在法律法規(guī)允許的范圍內(nèi)，審計(jì)人員開(kāi)展介入算法平臺(tái)或賬戶以獲取數(shù)據(jù)信息的行為時(shí)，應(yīng)充分考慮對(duì)應(yīng)條件及后果，防止對(duì)被審計(jì)者的正當(dāng)利益造成損害，即介入無(wú)害原則。譬如，介入頻率與介入方式應(yīng)控制在合理范圍，以不干擾算法的正常運(yùn)行為基準(zhǔn)，可在特定的時(shí)間范圍內(nèi)反復(fù)發(fā)送少量介入請(qǐng)求，既保證數(shù)據(jù)信息的全面性，又可避免對(duì)服務(wù)器造成過(guò)重負(fù)擔(dān)。同時(shí)，審計(jì)人員還需建立充分的用戶隱私保護(hù)意識(shí)，在開(kāi)展算法審計(jì)的過(guò)程中，不可對(duì)外泄露保密性數(shù)據(jù)，防止因數(shù)據(jù)流失、數(shù)據(jù)篡改而侵害被審計(jì)者的利益。

（三）最小必要原則

算法審計(jì)中，數(shù)據(jù)源搜集邊界的設(shè)定應(yīng)以數(shù)據(jù)的夠用程度為衡量標(biāo)準(zhǔn)，即在能夠洞察審計(jì)信息的前提下，將搜集的個(gè)人信息類型與數(shù)量控制在最小范圍，避免影響審計(jì)安全。譬如，審計(jì)人員在爬取算法平臺(tái)的數(shù)據(jù)時(shí)，應(yīng)首先衡量出實(shí)現(xiàn)審計(jì)目的所需的必要數(shù)據(jù)類型、數(shù)據(jù)體量，確定“最小必要”的標(biāo)準(zhǔn)，再?gòu)膶?shí)際需求出發(fā)，控制數(shù)據(jù)獲取頻率，防止因頻率過(guò)高而導(dǎo)致對(duì)審計(jì)效率及用戶利益造成負(fù)面影響。

（四）情境理解原則

維持人工智能算法公平的一大關(guān)鍵在于從具體的問(wèn)題情境出發(fā)，由審計(jì)人員在特定的情境中判斷審計(jì)行為、審計(jì)問(wèn)題、審計(jì)結(jié)果的合理性，在此過(guò)程中，能夠準(zhǔn)確理解并代入情境至關(guān)重要。情境理解原則要求審計(jì)人員在算法審計(jì)中充分理解算法的應(yīng)用情境，依托算法設(shè)計(jì)原理及審計(jì)標(biāo)準(zhǔn)，綜合考慮算法設(shè)計(jì)的邏輯、算法受眾的目標(biāo)、審計(jì)方法的側(cè)重點(diǎn)，從而由不同視角客觀分析算法審計(jì)的實(shí)施準(zhǔn)度，提高算法審計(jì)對(duì)于解決算法倫理問(wèn)題的效能［4］。

三、基于人工智能倫理風(fēng)險(xiǎn)防范的算法審計(jì)優(yōu)化應(yīng)用路徑

目前，我國(guó)針對(duì)人工智能領(lǐng)域的算法審計(jì)應(yīng)用框架設(shè)計(jì)仍未成體系，在應(yīng)用實(shí)踐中面臨著方向混亂、秩序失衡等問(wèn)題。為強(qiáng)化算法審計(jì)監(jiān)管效能，可從以下幾個(gè)方向綜合構(gòu)建優(yōu)化應(yīng)用路徑，有效應(yīng)對(duì)人工智能環(huán)境下的倫理風(fēng)險(xiǎn)。

（一）確立政府主導(dǎo)核心，鞏固市場(chǎng)認(rèn)知根基

算法審計(jì)在國(guó)內(nèi)人工智能環(huán)境的應(yīng)用仍處于初期階段，無(wú)法以規(guī)范的市場(chǎng)化運(yùn)作形成體系，還需在政府主導(dǎo)、市場(chǎng)發(fā)育的模式下，遏制算法市場(chǎng)亂象，發(fā)揮算法審計(jì)效能。一方面，結(jié)合當(dāng)?shù)卣呶募?，明確算法審計(jì)主體及其對(duì)應(yīng)的權(quán)責(zé)范圍，緊跟人工智能技術(shù)的迭代升級(jí)趨勢(shì)，構(gòu)建算法審計(jì)規(guī)范運(yùn)作模式，圍繞算法平臺(tái)的數(shù)據(jù)體量及數(shù)據(jù)類型，找準(zhǔn)算法審計(jì)的切入點(diǎn)，以適當(dāng)?shù)慕槿腩l率、介入方法來(lái)獲取準(zhǔn)確的審計(jì)信息，及時(shí)識(shí)別審計(jì)問(wèn)題。另一方面，以培育“全民數(shù)字素養(yǎng)”為目標(biāo)，針對(duì)人工智能環(huán)境下的一系列風(fēng)險(xiǎn)進(jìn)行大眾向普及，在當(dāng)?shù)卣囊龑?dǎo)下，開(kāi)展專業(yè)化的智能算法市場(chǎng)培育工作，重點(diǎn)面向相關(guān)被審計(jì)主體加強(qiáng)算法審計(jì)知識(shí)的宣傳，共同應(yīng)對(duì)人工智能倫理難題，同時(shí)以審計(jì)公開(kāi)的形式鼓勵(lì)市場(chǎng)及公眾進(jìn)行共同監(jiān)督，逐步建立起大眾層面的倫理風(fēng)險(xiǎn)共治意識(shí)，自覺(jué)抵制可能涉及倫理風(fēng)險(xiǎn)的算法應(yīng)用，由認(rèn)知建設(shè)層面夯實(shí)算法審計(jì)的大眾配合根基。

（二）構(gòu)建算法審計(jì)制度，強(qiáng)化實(shí)踐應(yīng)用效能

算法審計(jì)的實(shí)施目的在于維護(hù)算法倫理的平衡；通過(guò)明確算法審計(jì)制度的實(shí)施主體、對(duì)象、方法，可從根本上加固風(fēng)險(xiǎn)防線，提高算法審計(jì)應(yīng)用實(shí)效。在審計(jì)主體層面，分設(shè)政府、企業(yè)、第三方審計(jì)組織等主體，并引進(jìn)倫理學(xué)學(xué)者、算法技術(shù)工程師、法律顧問(wèn)等符合時(shí)代發(fā)展訴求的人才，依照對(duì)應(yīng)的崗位要求來(lái)完善權(quán)責(zé)管理體系，促使主體監(jiān)管制度的最終形成。在審計(jì)對(duì)象層面，將被審計(jì)主體的算法研發(fā)及應(yīng)用活動(dòng)納入審計(jì)范疇，包括為滿足某種算法需求而設(shè)計(jì)的算法模型、數(shù)據(jù)集等，用作轉(zhuǎn)化審計(jì)依據(jù)、識(shí)別倫理風(fēng)險(xiǎn)、調(diào)整算法結(jié)構(gòu)的支撐。在審計(jì)方法層面，可在組織面談、現(xiàn)場(chǎng)檢查等常規(guī)審計(jì)方法的基礎(chǔ)上，加入更符合人工智能環(huán)境特征的審計(jì)環(huán)節(jié)，以達(dá)成針對(duì)性審計(jì)應(yīng)用成效，如通過(guò)代碼審計(jì)來(lái)解決參數(shù)權(quán)重不均所導(dǎo)致的算法歧視問(wèn)題；通過(guò)非侵入式審計(jì)來(lái)突破用戶與平臺(tái)之間的信息繭房困境；通過(guò)代理審計(jì)來(lái)創(chuàng)建大量虛擬用戶，進(jìn)而提高對(duì)算法結(jié)果的分析準(zhǔn)度，降低“算法黑箱”出現(xiàn)的可能性；通過(guò)抓取審計(jì)來(lái)重復(fù)獲取隨機(jī)數(shù)據(jù)，解決算法失真或完整性不足等問(wèn)題。

（三）開(kāi)展審計(jì)跟蹤記錄，增強(qiáng)算法解釋保障

算法解釋即通過(guò)增加算法的公開(kāi)性、透明性、可追溯性，為相關(guān)主體提供更清晰精準(zhǔn)的信息了解渠道，在認(rèn)識(shí)規(guī)則、厘清事實(shí)的基礎(chǔ)上做出有效決策。因此，提高算法的可解釋性成為降低人工智能倫理風(fēng)險(xiǎn)的重要一環(huán)，可通過(guò)開(kāi)展全程式審計(jì)跟蹤記錄這一路徑，來(lái)向人們闡釋算法背后的邏輯與緣由，確保相關(guān)主體能夠獲悉算法決策產(chǎn)生的過(guò)程，并在必要時(shí)做出適當(dāng)?shù)男拚⒄铡度斯ぶ悄茉O(shè)計(jì)的倫理準(zhǔn)則》，要求自動(dòng)化系統(tǒng)必須具備可解釋性，算法審計(jì)的開(kāi)展也應(yīng)圍繞“可解釋性”進(jìn)行標(biāo)準(zhǔn)層面的設(shè)計(jì)，如審計(jì)主體有權(quán)在合理范圍內(nèi)要求被審計(jì)主體提供決策相關(guān)的數(shù)據(jù)信息，并據(jù)此提供不可篡改的審計(jì)跟蹤記錄，確保決策所依據(jù)的事實(shí)具有真實(shí)性與可追溯性，并在發(fā)生倫理糾紛時(shí)，發(fā)揮對(duì)應(yīng)的判斷支持作用，輔助糾正人工智能自動(dòng)化決策可能發(fā)生的偏差［5］。

（四）設(shè)置審查反饋機(jī)制，提供專業(yè)人力補(bǔ)充

人工智能在現(xiàn)階段仍難以做出可完全滿足人類需求的自動(dòng)化決策，加上攻擊技術(shù)的存在，可能由于輸入樣本被人為篡改而引發(fā)一些安全性倫理風(fēng)險(xiǎn)。因此，可通過(guò)以人力補(bǔ)充人工智能算法缺口的方式，設(shè)置事前預(yù)測(cè)、事中審查、事后聽(tīng)證的審查反饋機(jī)制，及時(shí)察覺(jué)并糾正算法中存在的錯(cuò)誤。一方面，審計(jì)人員要充分樹(shù)立合理質(zhì)疑、科學(xué)求證的審計(jì)意識(shí)，規(guī)避過(guò)度依賴人工智能決策結(jié)果的誤區(qū)，對(duì)自動(dòng)化決策形成的各個(gè)步驟進(jìn)行分析判斷，快速阻斷某個(gè)錯(cuò)誤造成的負(fù)反饋，提高后續(xù)的算法預(yù)測(cè)準(zhǔn)度。另一方面，設(shè)置獨(dú)立的算法審計(jì)崗位，定期對(duì)特定算法進(jìn)行檢測(cè)，出具對(duì)應(yīng)審計(jì)意見(jiàn)，針對(duì)人工智能自動(dòng)化系統(tǒng)中的潛在風(fēng)險(xiǎn)隱患進(jìn)行人工排查，修正錯(cuò)誤代碼及算法，維護(hù)自動(dòng)化決策系統(tǒng)的正常運(yùn)作。人工智能技術(shù)在發(fā)展中不斷迭代，其中反饋機(jī)制屬于重要的糾錯(cuò)保障，將此邏輯代入至算法審計(jì)中，可知審查反饋機(jī)制設(shè)立的必要性，以人工干預(yù)并優(yōu)化算法模型的形式目前仍不可替代，可在干預(yù)形式或角度方面做出靈活變通。

結(jié)語(yǔ)

綜上所述，算法審計(jì)屬于規(guī)范人工智能應(yīng)用體系、抵制算法霸權(quán)的有效規(guī)制路徑，對(duì)于降低人工智能倫理風(fēng)險(xiǎn)及維護(hù)算法平衡具有重要意義。為進(jìn)一步發(fā)揮算法審計(jì)在人工智能倫理風(fēng)險(xiǎn)防范中的價(jià)值功能，應(yīng)結(jié)合人工智能環(huán)境下的主要倫理風(fēng)險(xiǎn)及成因，重新明確算法審計(jì)的應(yīng)用原則，并從機(jī)構(gòu)主導(dǎo)、制度確立、算法解釋、人工糾錯(cuò)等方向彰顯審計(jì)文化內(nèi)核，推進(jìn)算法審計(jì)優(yōu)化應(yīng)用，從而突破人工智能技術(shù)高速發(fā)展與社會(huì)人文環(huán)境維護(hù)訴求沖突下的治理壁壘。

參考文獻(xiàn)：

［1］李巍.智能+技術(shù)背景下基于聚類算法的自動(dòng)化審計(jì)研究［J］.佳木斯大學(xué)學(xué)報(bào)（自然科學(xué)版），2023，41（5）：131-134.

［2］王兆毓.生成式人工智能視閾下算法審計(jì)的制度構(gòu)建與路徑創(chuàng)新［J］.網(wǎng)絡(luò)安全與數(shù)據(jù)治理，2023，42（8）：6-12.

［3］徐明華，魏子瑤.算法倫理的治理新范式：算法審計(jì)的興起、發(fā)展與未來(lái)［J］.當(dāng)代傳播，2023，（1）：80-86.

［4］張永忠，張寶山.算法規(guī)制的路徑創(chuàng)新：論我國(guó)算法審計(jì)制度的構(gòu)建［J］.電子政務(wù)，2022（10）：48-61.

［5］邊瑩，張世國(guó).智能技術(shù)背景下基于聚類算法的自動(dòng)化審計(jì)研究［J］.貴陽(yáng)學(xué)院學(xué)報(bào)（自然科學(xué)版），2022，17（2）：15-19.

［責(zé)任編輯：黨" 婷］