李輝

且不論美國政府把人工智能與價(jià)值觀聯(lián)系在一起的新聞背后有著怎樣的邏輯，其做法至少具有一個(gè)效果，就是將人工智能的倫理問題顯性化。人工智能的任何發(fā)展，恐怕都不可能將倫理問題作為可有可無的點(diǎn)綴。

2019年初，美國總統(tǒng)特朗普簽署行政命令，正式啟動(dòng)美國人工智能計(jì)劃。當(dāng)時(shí)白宮發(fā)文稱：“美國是人工智能的早期開發(fā)者，也是這一領(lǐng)域的國際領(lǐng)導(dǎo)者，并且在人工智能的發(fā)展中獲益匪淺。然而，隨著全球人工智能創(chuàng)新步伐的加快，美國不能無所作為。美國必須確保人工智能的發(fā)展繼續(xù)受到美國人在知識(shí)上的推動(dòng)，同時(shí)，還應(yīng)反映美國的價(jià)值觀，并為美國人民的利益服務(wù)。”較少被人們所關(guān)注的是，人工智能的發(fā)展，在白宮看來，與價(jià)值觀緊密相關(guān)。

2020年初，特朗普政府發(fā)布了一份旨在限制人工智能軟件出口的條例。根據(jù)這份條例，出口某些地理空間圖像軟件的美國公司必須申請?jiān)S可，才能將上述軟件發(fā)送到海外（加拿大除外）。文件顯示，應(yīng)用于智能化傳感器、無人機(jī)、衛(wèi)星和其他自動(dòng)化設(shè)備的目標(biāo)識(shí)別軟件（無論民用或軍用）都在限制范圍之內(nèi)。而限制這類人工智能軟件的出口，是美國防止敏感技術(shù)被對手國家掌握的手段之一。實(shí)際上，新近這份條例是美國商務(wù)部根據(jù)2018年的一部法律的要求而最終敲定的第一項(xiàng)措施，該法律要求商務(wù)部制定具體規(guī)則，出于確保經(jīng)濟(jì)和安全的目的，加強(qiáng)監(jiān)管出口敏感技術(shù)的力度。

美國政府針對人工智能與價(jià)值觀、安全的新聞其實(shí)不止這些。關(guān)于其背后的邏輯有各種說法，其中不乏從國際競爭或者一些惡意的角度來考慮。筆者個(gè)人認(rèn)為，美國的做法至少具備了一個(gè)效果，就是將人工智能的倫理問題顯性化。任何關(guān)于人工智能的發(fā)展，恐怕都不可能把倫理問題作為可有可無的點(diǎn)綴。

在傳統(tǒng)的技術(shù)治理領(lǐng)域，比較主要的是針對大規(guī)模殺傷性武器的治理，或者是針對生命醫(yī)學(xué)技術(shù)的治理，由于有廣泛達(dá)成的“禁區(qū)”，因此治理相對容易控制。但是人工智能是復(fù)雜的技術(shù)群，而且具有平臺(tái)性，因此對于人工智能的開發(fā)和應(yīng)用，其針對性的倫理治理，就更具復(fù)雜性。正因?yàn)槿斯ぶ悄艿膫惱砭哂袠O大的復(fù)雜性和不確定性，目前還是學(xué)術(shù)界和政策界廣泛討論的議題。實(shí)際上，目前人工智能的倫理還沒有達(dá)成廣泛的共識(shí)。但是美國的種種做法（實(shí)際上歐盟的措施更多），倒逼這一領(lǐng)域的研究必須加速。

人工智能的倫理問題中，現(xiàn)在討論比較多的是“電車難題”，這是人工智能帶來倫理問題的經(jīng)典問題。從細(xì)分問題的角度，根據(jù)目前學(xué)術(shù)界和智庫的研究，基于人工智能的技術(shù)特點(diǎn)和應(yīng)用效應(yīng)，其人工智能的倫理問題主要包括技術(shù)本身的倫理問題，尤其是數(shù)據(jù)倫理和算法倫理，也包括技術(shù)應(yīng)用后的社會(huì)影響等方面的間接倫理問題，比如數(shù)據(jù)、算法和產(chǎn)品倫理。

數(shù)據(jù)倫理。人工智能當(dāng)前的主流技術(shù)路線依賴數(shù)據(jù)的“喂養(yǎng)”，所以如何占有數(shù)據(jù)和使用數(shù)據(jù)，包含了很多倫理要求。但是由于各國、各地區(qū)的法律傳統(tǒng)、文化背景不同，圍繞這一問題出現(xiàn)了很多爭論。尤其個(gè)人數(shù)據(jù)與隱私息息相關(guān)，而隱私問題又具有價(jià)值觀和意識(shí)形態(tài)屬性，所以成為很多國家和地區(qū)建立倫理或者法律規(guī)則的重要領(lǐng)域。

算法倫理。當(dāng)前人工智能主要技術(shù)路線是深度學(xué)習(xí)，但是深度學(xué)習(xí)是機(jī)器來學(xué)習(xí)，機(jī)器在學(xué)習(xí)過程中產(chǎn)生了跟人的學(xué)習(xí)和決策不一致的地方，也存在倫理問題。比較專業(yè)性的關(guān)于倫理問題的討論有公平性（fairness）、責(zé)任性（faccountability）和透明性（transparency）等。公平性的問題——比如用算法來篩選簡歷是不是對一些人不公平，責(zé)任性的問題——比如無人汽車出事到底誰來負(fù)責(zé)，透明性的問題——比如“大數(shù)據(jù)殺熟”。

產(chǎn)品倫理。對于制造業(yè)來說，智能產(chǎn)品的安全問題尤其重要。一旦機(jī)器學(xué)習(xí)等算法嵌入到物體中，成為新型產(chǎn)品，就必須有倫理的約束?！半娷囯y題（Trolley Problem）”是倫理學(xué)領(lǐng)域最為知名的思想實(shí)驗(yàn)之一，大致內(nèi)容是：一個(gè)瘋子把五個(gè)無辜的人綁在電車軌道上。一輛失控的電車朝他們駛來，并且片刻后就要碾壓到他們。幸運(yùn)的是，你可以拉一個(gè)拉桿，讓電車開到另一條軌道上。然而，那個(gè)瘋子在另一個(gè)電車軌道上也綁了一個(gè)人。考慮以上狀況，你是否應(yīng)拉拉桿？而人工智能時(shí)代，遇到這種情況機(jī)器應(yīng)該怎么選擇？

當(dāng)然，制造業(yè)隨著人工智能的應(yīng)用，也會(huì)面臨工作崗位調(diào)整的問題。隨著人工智能不可避免地取代人類的一些工作，工作形態(tài)、工作場所等相關(guān)方面都會(huì)發(fā)生變化。這意味著必須對大量勞動(dòng)者進(jìn)行再培訓(xùn)，傳統(tǒng)的教育體系也需要改革。還有，如果機(jī)器人不納稅，人工智能對公共財(cái)政也將產(chǎn)生大的影響。這些問題背后也蘊(yùn)含著倫理問題，那就是，憑什么讓機(jī)器來替代人的崗位？