康寧 蘭州財經大學

在算法技術方面，中國發(fā)展非常迅速，但相應的道德研究沒有跟上，目前的研究比較膚淺。因此，本文收集了國內算法的道德研究，并對國外研究人員的觀點進行了分析和總結。算法是基于概念設計技術，考察的進步，發(fā)展的希望，和發(fā)展?jié)摿Φ娘L險，找到了把道德問題，諸如算法相關的事，根據(jù)他們的道德問題，提出算法的解決方案或有能力提供服務的設施問題的理論和道德責任，給社會不公的算法提供前提理論和援助，給我們的道德問題的研究做鋪墊，推動算法的進步，也可以更好地為人民服務，推動社會的進步。

本文對算法倫理學的分析和解決措施的設想，可以促進科技倫理學的發(fā)展，目的是從倫理學的角度全面、系統(tǒng)地分析算法產生的倫理問題，找出算法不公平的倫理問題產生的原因和特征。算法技術是新穎和獨特的，系統(tǒng)分析算法的倫理問題，能夠在解決現(xiàn)有問題的基礎上，充分防范新的倫理問題。人工智能、大數(shù)據(jù)、分布式和非公平的倫理問題正在產生影響。它們影響了人們的生活，人們對算法的興趣不僅有助于解決自身的倫理問題，而且也提高了人們對算法技術的理解，以期降低其不良影響。

一、算法概述

（一）算法的定義

目前，國內外許多學者對算法有不同的定義。Rapaport 認為計算機科學中經常討論算法的定義，算法的定義具有明確性和一定的規(guī)律性，可以根據(jù)給定的數(shù)據(jù)得到相應的結果[1]。根據(jù)Kleene 的說法，算法是一種特定的程序，其步驟有限，是為特定的目標而設計的。馬爾可夫（馬爾可夫）算法是一系列的指令，告訴計算機做什么，且這組指令必須精確，不能模糊，因此，計算機可以執(zhí)行，他認為人們不能理解的東西，直到他們可以使用一個算法來表達——“如果我不能創(chuàng)造一個東西，那么你不能理解它[2]”。研究人員的定義因角度和焦點不同而不同，但通常會根據(jù)不同的輸入進行解釋。綜上所述，本文將算法定義為算法工程師（設計師或程序員）編寫的一種工具或路徑，它可以在算法工程師（設計師或程序員）知道自己想要實現(xiàn)什么目標的前提下，將原始輸入轉換為目標輸出。

（二）算法的特征

Robin K Hill 認為，“算法是有限的、抽象的、有效的復合控制結構”，本文對該算法的基本定義進行了總結，總結了算法的三個基本特征：確定性、限制性和有效性。確定性是指算法從一種狀態(tài)過渡到另一種狀態(tài)，需要提供從輸入到輸出的信息，包括過程，該過程必須是不模糊的，算法的清晰度不僅僅是消除代碼的模糊，這也要求工程師們對他們設計的算法有深入的了解。限制性是指需要在有限的時間和空間范圍內表達的算法。數(shù)不清的步驟顯然是不可能的，一般的算法是不可能實現(xiàn)的，使用算法技術的局限性就是高性能。即工程師應該設計他們能力有限的流程。一種可能性，也稱為執(zhí)行能力，它需要算法的步驟和結果，它必須要求算法工程師了解現(xiàn)實中可能發(fā)生的情況。

二、算法產生的倫理問題

（一）算法歧視

1.算法歧視概述

以算法的強大操作功能和邏輯判斷能力為基礎，人們會逐漸決策任務算法（算法的決策是指為了實現(xiàn)一個目標，大數(shù)據(jù)信息技術支持的基礎上，提出各種各樣的可行解，并使用專業(yè)的科學標準方案比較，最終選擇最優(yōu)解）的過程。如果員工就業(yè)、信用貸款、治安和刑事審判和有重大社會影響，如股票交易在做決定之前，是由人類——通常是由專家——現(xiàn)在支持或直接由算法決定，在這種趨勢下，人們將會慢慢認為人類的決定弱于算法的決定，甚至開始單純迷戀“技術至上”。

2.算法歧視危害

有學者支持算法決策的發(fā)展和應用，認為它可以有效降低歧視的風險。首先，人類的決策方式隨著科技的發(fā)展而改變，這是社會進步的體現(xiàn)。在沒有文字的時代，人們通過綁繩子、刻石頭等方式記錄信息來做決定。在造紙之前，來自竹子和絲綢的信息被用于決策。在電腦發(fā)明之前，人們用書籍、報紙和其他紙張來做決定。如果他們有更方便和有效的信息來源，就不會使用舊的方法了。而現(xiàn)在，隨著大數(shù)據(jù)等算法技術的發(fā)展，人們對決策信息的綜合性和可及性有了很大的提高，傳統(tǒng)的決策方法徹底可以被拋棄。其次，人類決策的客觀信息和數(shù)據(jù)的應用也隨著時代進步而逐漸改善，大數(shù)據(jù)是被高度重視的，可以說，大數(shù)據(jù)和世界是均勻的和傳統(tǒng)的人工決策信息，數(shù)據(jù)記錄的人類，事物在轉化成文字的過程中容易受到人的主觀因素的影響。最后，由于數(shù)據(jù)的算法決定只是冰冷的數(shù)字計算機，而算法本身也是一個機械項目，輸出結果是更多的權威，可以避免歧視?？傊?，從技術進步的角度來看，從數(shù)據(jù)和算法的客觀性可以克服人類決策缺陷的角度來看，算法決策可以更好地降低歧視的風險，這一點應該得到推廣。

本文認為這種觀點有錯誤。首先，算法的決策較于傳統(tǒng)決策略有優(yōu)勢；其次，本文對候選決策信息有不同的看法，不同于傳統(tǒng)決策，當消費者群體根據(jù)他們的行為信息進行決策時，可以建立用戶的偏好。然而，身份的改變會讓人們的行為在不知不覺中發(fā)生。最后，算法可以繼承社會排斥和法律規(guī)避。人們設計算法是為了避免決策的模糊歧視的結果。但這個想法忽略的隱藏自己的偏見和算法的敏感性數(shù)據(jù)，人民隱瞞自己的偏見是基于社會政治、經濟或文化等因素，這是或多或少的我們不知道的偏見。

（二）算法不公

1.算法不公概述

公平是“以正確、適當?shù)姆绞綄Υ恳粋€人，并給予每一個人應得的利益”。公平包括絕對公平和相對公平，當以相同的規(guī)模分配食物時，本文更傾向于相對公平。本文定義算法不公是算法技術的一種表現(xiàn)，它使傳統(tǒng)社會失去了平衡，從而形成一種更加不公平的格局。

2.算法不公的危害

本文認為算法技術使社會更加公平，因為算法技術給人們提供了一個機會，讓人們能夠更公平地看待問題。我們認為，弱勢和優(yōu)勢在技術優(yōu)勢的群體之間產生，使更好的社會觀點之間的差距代替不了現(xiàn)實，將在信息技術差距的影響下，信息技術將使優(yōu)勢群體進一步加強。但是算法損害了社會正義。

（三）道德分析的算法公平

算法的發(fā)展越來越有利于整個人類社會的發(fā)展，并具有廣泛而深刻的意義。它在技術上帶來了另一種變化，擴大了人類技術探索的范圍。無論是醫(yī)學成像技術、自動駕駛汽車、區(qū)塊鏈還是面部識別，都是由算法產生的。但算法技術的一個特點是，隨著時間的推移，隨著技術的進步和機器學習的加深，它將變得越來越不受控制。從長遠來看，雖然算法有不公平的道德問題，但它也在社會進步中發(fā)揮了重要作用。我們無法準確地衡量。從長遠來看，由于算法系統(tǒng)的指數(shù)增長速度，算法將加速自己的創(chuàng)新，直到它們達到一個技術奇點，它們開始把人類拋在后面。雖然我們還沒有達到技術的奇點，但我們仍然需要警惕算法技術的未來發(fā)展。由于技術差距和技術異常的兩個原因，不同算法造成的社會不平等是無限的。

三、算法倫理問題的解決途徑

（一）算法蘊含倫理價值

一些學者將簡單的算法與工具進行比較，算法實際上影響到人類自身，技術作為一種工具只是為了達到算法的目的，它本身并不具有價值，所以尋找算法的道德問題的解決方案，道德對象只要使用就不需要開始討論算法的價值。本文認為這一觀點是一維的，算法的價值可以作為一種工具來表達，價值是解決算法道德問題的重要途徑之一。我不認為算法在兩方面都沒有價值。首先，這篇文章認為，算法價值理論沒有考慮算法的社會屬性，而是反復強調它的自然屬性。算法是一種擴展人類能力的技術。沒有算法，大量的數(shù)據(jù)的收集、分析和存儲不能用大數(shù)據(jù)來完成。沒有算法，汽車無法自動駕駛，智能房子不再智能，面部識別無法識別。算法的出現(xiàn)，增強了改變人類世界的能力，增強了人類的主觀性。其次，我們的算法確定，當人們做出選擇時，媒體可以干擾他們的行為。因此，算法不僅僅是一種工具，它本身也包含著道德價值，因為算法的特殊性可能是一種冷漠的媒體，它會干擾人類社會的許多領域，因此算法本身帶有惡意的因素之一觀點更應該被人們接受。

（二）價值嵌入的實現(xiàn)途徑

技術本身不具有價值傾向，算法技術亦技術。但是算法設計師作為獨立人是帶有價值傾向的，他們可以進行價值嵌入。如果算法設計者按照好的標準來進行算法設計，算法會提示人們選擇好的，反之亦然?？偠灾惴ㄔO計師在進行算法設計時，就會有目的和標準，而通過代碼將目的和標準寫入算法，就是價值嵌入的實現(xiàn)方式。人類不會設計一個沒有目的的算法，這樣的算法是沒有靈魂的?；谒惴ǖ哪康暮蜏蕜t的重要性，我們可以認為，價值嵌入是解決算法倫理問題的最根本途徑。

（三）解決道德問題的算法責任

1.政府加強法律法規(guī)和監(jiān)督執(zhí)行力度

第一，加強各領域合作，尋求合理的道德指導。政府應以國家戰(zhàn)略政策為指導，推動各領域（如社會學、法律、道德、計算機科學等）的算法合作，共同開發(fā)算法的理論基礎，為算法的價值提供理論基礎，規(guī)制算法的使用者以及設計者。

第二，成立一個算法道德委員會。委員會的主要任務是研究最高的道德標準和審查道德的規(guī)則，但它也必須考慮建立地方和省政府的下級機構，加強局部算法的評估道德倫理的定位和個性化，以此來促進算法倫理的規(guī)范。

2.算法工程師的倫理責任承擔

（1）誠實可靠

第一是誠實地設計算法，而不是因為各種利益來設計算法。第二是充分發(fā)揮算法對用戶的作用，讓用戶充分發(fā)揮自身的知情權。由于算法的技術水平尚未得到充分解決，算法的應用應該詳細的告知用戶其可能存在的風險。第三是不要侵犯用戶的隱私，在收集用戶信息的過程中，盡可能避免收集其隱私。

（2）盡職盡責

第一，進行良性算法設計。作為工程師，每天根據(jù)用戶需求來設計算法，用戶們也是千面的，其中不乏一些人對工程師提出不合理的算法要求。第二，注意自己的產品。建筑工程師不能逃避豆腐渣工程事故的責任，算法產品也不能。算法產品需要依賴工程師來維護和更新，以避免不必要的變化，減少道德問題的風險。第三，當算法工程師們發(fā)現(xiàn)異常產品數(shù)據(jù)時，積極督促生產廠家召回產品。算法產品種類居多并大量生產，一旦產品的數(shù)據(jù)不正常，壞的變化就可能從在線系統(tǒng)傳播開來，擴散危害。

（3）算法用戶的倫理價值培養(yǎng)

第一，積極學習算法科學技術相關知識，深刻理解算法的原理和應用，清楚地認識算法歧視、不公平和責任的產生和危害，避免其負面影響。第二，我們不能盲目地接受廣告和媒體宣傳，而是從政策和新聞中獲取數(shù)字學習技術的新進展，以理解數(shù)字學習的優(yōu)勢，以合理的方式尋找我們的基本權利和利益。第三，通過合法渠道獲取算法產品，而不是貪婪的小利潤。在使用算法產品之前，首先要求制造商或專業(yè)人士注意算法產品的潛伏的危險，合理規(guī)避，不要利用算法產品的缺陷牟取個人利益。

四、結語

由于作者能力的不足，本文還存在許多問題，如算法的倫理學研究大多來源于文獻和信息，缺乏實地調查，因此沒有科學數(shù)據(jù)來支持它所造成的危害，缺乏說服力，除了解決方案有點少之外，沒有進一步細化分類并對每一個倫理問題進行詳細的說明，這將是今后研究的方向。算法還會繼續(xù)更新與進步，有了算法的推動，社會形態(tài)必然會層次更高、更有活力，以此促使人們不斷地去探索社會各個領域。但探索之前，我們必須謹慎對待算法倫理問題，與算法一同前行。