劉道宏

隨著科技的不斷進(jìn)步，人工智能已經(jīng)成為當(dāng)今社會(huì)的熱門話題。從智能助手到自動(dòng)駕駛汽車，人工智能正逐漸滲透到我們的日常生活和工作中。人工智能技術(shù)的發(fā)展給我們帶來(lái)了許多便利，也引發(fā)了一系列潛在的社會(huì)問(wèn)題。

帶來(lái)失業(yè)問(wèn)題

人工智能在某些領(lǐng)域的應(yīng)用已經(jīng)顯著提高了生產(chǎn)效率，與此同時(shí)，也帶來(lái)了失業(yè)問(wèn)題。許多傳統(tǒng)行業(yè)的工作崗位可能會(huì)因?yàn)樽詣?dòng)化和智能化的發(fā)展與普及而逐漸消失。例如，制造業(yè)中的機(jī)械工人可能會(huì)被自動(dòng)化機(jī)器人所取代，銀行和超市的自助服務(wù)也可能使柜員和收銀員不再被需要。那些掌握了先進(jìn)技術(shù)和資源的人和組織將更有可能從人工智能技術(shù)領(lǐng)域獲得巨大的經(jīng)濟(jì)利益，而那些沒(méi)有接觸到人工智能技術(shù)或技術(shù)應(yīng)用能力較低的人可能會(huì)被逐漸邊緣化。高盛公司的經(jīng)濟(jì)學(xué)家預(yù)計(jì)，由于人工智能領(lǐng)域取得的最新突破，多達(dá)3億個(gè)全職工作崗位可能會(huì)實(shí)現(xiàn)自動(dòng)化，在歐洲和美國(guó)，有三分之二的工作人員會(huì)受到基于人工智能的自動(dòng)化轉(zhuǎn)型的影響。這將導(dǎo)致大量的勞動(dòng)力流失，加劇經(jīng)濟(jì)不平等。同時(shí)，人工智能的應(yīng)用還可能加速部分企業(yè)的壟斷，造成財(cái)富集中和社會(huì)分化，給社會(huì)帶來(lái)不穩(wěn)定因素。

泄露隱私與數(shù)據(jù)

人工智能技術(shù)的廣泛應(yīng)用產(chǎn)生了大量的個(gè)人數(shù)據(jù)，這些數(shù)據(jù)對(duì)于訓(xùn)練和改進(jìn)人工智能至關(guān)重要；然而，數(shù)據(jù)收集和使用的不規(guī)范也帶來(lái)了隱私泄露和數(shù)據(jù)安全的問(wèn)題。如果這些數(shù)據(jù)被濫用或遭到黑客攻擊，可能導(dǎo)致用戶的個(gè)人信息泄露和身份被盜用。我們都有過(guò)這樣的體驗(yàn)，如果喜歡在手機(jī)上看某類文章或者視頻，相關(guān)的應(yīng)用程序就會(huì)不停地推送該類型的內(nèi)容。這說(shuō)明用戶的喜好（個(gè)人隱私）已經(jīng)被程序運(yùn)營(yíng)商掌握；每個(gè)人的智能手機(jī)上現(xiàn)在都裝有多個(gè)應(yīng)用程序，我們有時(shí)候會(huì)發(fā)現(xiàn)，使用聊天軟件和朋友討論某個(gè)品牌的商品后不久，相關(guān)購(gòu)物應(yīng)用程序就會(huì)向自己推送該品牌的商品廣告，這說(shuō)明購(gòu)物應(yīng)用程序可以跨界竊取用戶的隱私；臉書（Facebook）曾發(fā)生過(guò)大規(guī)模數(shù)據(jù)泄露事件，有5億多用戶的個(gè)人數(shù)據(jù)，包括姓名、電話號(hào)碼、居住地和生日等敏感信息，被泄露到了黑客論壇上。這一數(shù)據(jù)泄露引發(fā)了廣泛關(guān)注和批評(píng)，暴露了社交媒體平臺(tái)面臨的隱私保護(hù)和數(shù)據(jù)安全問(wèn)題。

制造偏見(jiàn)和歧視

人工智能系統(tǒng)的訓(xùn)練數(shù)據(jù)來(lái)源于人類創(chuàng)造的數(shù)據(jù)集，這些數(shù)據(jù)可能包含偏見(jiàn)和歧視性內(nèi)容，由此導(dǎo)致一些人工智能系統(tǒng)在進(jìn)行決策和推薦時(shí)表現(xiàn)出歧視性，這意味著我們需要重新審視人工智能的訓(xùn)練數(shù)據(jù)和算法。例如，2018年，亞馬遜公司不得不放棄一款基于人工智能的招聘工具，因?yàn)樗鼘?duì)女性候選人存在偏見(jiàn)。該系統(tǒng)的訓(xùn)練數(shù)據(jù)來(lái)自過(guò)去10年的簡(jiǎn)歷提交記錄，其中大多數(shù)為男性申請(qǐng)者。因此，人工智能算法學(xué)會(huì)了對(duì)包含與女性相關(guān)的術(shù)語(yǔ)的簡(jiǎn)歷進(jìn)行扣分或降級(jí)，導(dǎo)致招聘中的性別歧視。在信貸領(lǐng)域，某些人工智能驅(qū)動(dòng)的信用評(píng)分系統(tǒng)可能會(huì)根據(jù)歷史借貸數(shù)據(jù)，對(duì)特定群體的貸款申請(qǐng)進(jìn)行不公平的拒絕。例如，如果歷史數(shù)據(jù)顯示某個(gè)少數(shù)族裔或社會(huì)經(jīng)濟(jì)群體的貸款違約率較高，那么人工智能算法可能會(huì)傾向于拒絕來(lái)自該群體的貸款申請(qǐng)，忽略個(gè)體的實(shí)際信用風(fēng)險(xiǎn)。人工智能信貸評(píng)估系統(tǒng)還可能會(huì)在決定貸款的利率和條件時(shí)對(duì)特定群體存有偏見(jiàn)，導(dǎo)致特定群體獲得更差的貸款條件，或被收取高于其實(shí)際信用風(fēng)險(xiǎn)所應(yīng)支付的利率。

與人類智能沖突

隨著人工智能技術(shù)的進(jìn)步，某些領(lǐng)域的人工智能已經(jīng)顯示出了與人類智能相媲美甚至超越人類智能的能力。例如， 2016年，谷歌公司旗下的AlphaGo在與世界頂級(jí)圍棋棋手李世石的對(duì)弈中取得了勝利。這一事件標(biāo)志著人工智能具有了在復(fù)雜游戲中超越頂級(jí)人類棋手的水平。之后的AlphaGo Zero甚至不需要人類棋譜數(shù)據(jù)，僅通過(guò)自我對(duì)弈學(xué)習(xí)，就能達(dá)到超越人類職業(yè)棋手的實(shí)力。又如，自然語(yǔ)言處理領(lǐng)域的人工智能系統(tǒng)在語(yǔ)義理解和生成方面取得了顯著進(jìn)步。OpenAI公司的GPT-4模型在自然語(yǔ)言理解和生成任務(wù)上展現(xiàn)了出色的實(shí)力，能夠?qū)懳恼?、回答?wèn)題、生成對(duì)話等，其表現(xiàn)水平與人類接近。當(dāng)人工智能開(kāi)始接替我們完成跟同事、朋友和親人的交流溝通時(shí)，這是否有可能剝奪了一些對(duì)我們而言更重要的東西？它是否在模糊我們的個(gè)性，消解與其他人互動(dòng)的樂(lè)趣？甚至，這種自動(dòng)完成技術(shù)會(huì)不會(huì)改變?nèi)祟惔竽X的工作方式？

如此種種，人工智能對(duì)人類智能潛在的超越挑戰(zhàn)了人類的自尊心，可能引發(fā)人與機(jī)器之間的界限問(wèn)題以及關(guān)于人工智能是否有可能擁有類似人類意識(shí)和情感的爭(zhēng)議。

武器化問(wèn)題

2023年2月，美國(guó)軍火商洛克希德·馬丁公司發(fā)布消息稱，人工智能軟件已在2022年12月駕駛一架經(jīng)過(guò)改裝的F-16戰(zhàn)斗機(jī)飛行了超過(guò)17個(gè)小時(shí)，機(jī)上沒(méi)有任何人類駕駛員。這是人工智能首次駕駛軍用飛機(jī)。美國(guó)國(guó)防部于2023年1月25日發(fā)布一項(xiàng)命令，要求軍方加強(qiáng)對(duì)自主武器的開(kāi)發(fā)和使用。北約已于此前的2022年10月13日發(fā)布了一項(xiàng)相關(guān)實(shí)施計(jì)劃，旨在保持該聯(lián)盟在“殺手機(jī)器人”方面的“技術(shù)優(yōu)勢(shì)”。這意味著武器化的人工智能有可能成為未來(lái)戰(zhàn)爭(zhēng)對(duì)抗的方式。

人工智能是某些武器系統(tǒng)日益增強(qiáng)的自主性的核心。人們關(guān)注的關(guān)鍵功能，如目標(biāo)鎖定和自主反擊等，可能很快就會(huì)被軍事部門掌握。在俄烏沖突中能清晰看見(jiàn)人工智能在戰(zhàn)場(chǎng)上的使用，其應(yīng)用范圍包括目標(biāo)鎖定輔助和先進(jìn)的巡飛彈等。這種技術(shù)可能會(huì)在戰(zhàn)場(chǎng)上取代人類士兵的角色，引發(fā)道德責(zé)任問(wèn)題。例如，相關(guān)武器系統(tǒng)可能無(wú)法辨別戰(zhàn)斗人員與非戰(zhàn)斗人員和平民，導(dǎo)致無(wú)差別攻擊與誤殺。烏克蘭并不是首個(gè)在戰(zhàn)場(chǎng)上進(jìn)行這種部署的國(guó)家，早在2019年，土耳其制造的“卡爾古”-2（Kargu-2）自殺式無(wú)人機(jī)已經(jīng)參與了在敘利亞和土耳其邊境的行動(dòng)。“卡爾古”-2自殺式無(wú)人機(jī)是第一款公開(kāi)宣稱可以發(fā)動(dòng)“蜂群”攻擊的自殺式無(wú)人機(jī)，它們不僅可以組成“蜂群”，而且能同時(shí)對(duì)不同目標(biāo)實(shí)施攻擊，還具有面部識(shí)別等其他功能，戰(zhàn)場(chǎng)實(shí)用性較好。

現(xiàn)在，人工智能武器化被視為世界主要軍事大國(guó)之間競(jìng)爭(zhēng)的核心。這種競(jìng)爭(zhēng)為國(guó)際社會(huì)中那些呼吁維持和規(guī)范人類對(duì)武器系統(tǒng)的控制的主張敲響了警鐘。如果不及早采取行動(dòng)，人類可能很快就會(huì)喪失監(jiān)管人工智能武器的最佳時(shí)機(jī)。

遭遇道德和責(zé)任問(wèn)題

隨著人工智能技術(shù)的不斷進(jìn)步，我們也需要認(rèn)真思考人工智能的道德責(zé)任問(wèn)題。如果一個(gè)人工智能系統(tǒng)因?yàn)樽龀鲥e(cuò)誤決策而造成了客觀損害，誰(shuí)來(lái)承擔(dān)責(zé)任？倫理學(xué)中有一個(gè)經(jīng)典思維實(shí)驗(yàn)—電車難題（trolley problem），它指的是圍繞電車產(chǎn)生的倫理上的二元對(duì)立局面：正在行駛中的電車剎車失靈，如果沒(méi)有外力干預(yù)將會(huì)撞上前方正在施工的10名工人。如果有人搬動(dòng)道閘讓電車駛向另一條鐵軌，10名工人將得救，但是另一條軌道上也有1名工人在施工。到底是救10個(gè)人，還是救1個(gè)人？在這種情況下，人工智能是否有權(quán)做出決策？其行為方式將依據(jù)怎樣的倫理？又如，在藝術(shù)領(lǐng)域，如果某位藝術(shù)家從電腦上獲取了草圖，他還是真正的藝術(shù)家嗎？藝術(shù)的初創(chuàng)往往是創(chuàng)作過(guò)程中難度最大的，這也是人類創(chuàng)造力的核心。如果把它交由人工智能完成，這個(gè)過(guò)程似乎更像是一條流水生產(chǎn)線，人類在其中僅僅充當(dāng)檢查員的角色?；蛘?，藝術(shù)家會(huì)發(fā)現(xiàn)自己陷入技術(shù)進(jìn)步的寄生循環(huán)中。由于人們不斷糾正人工智能創(chuàng)造的作品，人工智能的創(chuàng)作技巧將會(huì)得到改進(jìn)，人類參與的程度也將越來(lái)越少。在這種情況下，藝術(shù)家聲稱對(duì)自己的作品享有版權(quán)是否會(huì)遭遇道德困境？

失控的風(fēng)險(xiǎn)

隨著人工智能技術(shù)的不斷發(fā)展，一些專家擔(dān)心人工智能可能會(huì)失去控制，給人類社會(huì)帶來(lái)嚴(yán)重威脅。以今天的深度學(xué)習(xí)系統(tǒng)為例，它面臨著“黑匣子”問(wèn)題—以一種對(duì)專家來(lái)說(shuō)過(guò)于不透明的方式處理信息。AlphaGo在2016年擊敗了世界圍棋冠軍李世石，它在比賽中執(zhí)行了完全意想不到的一手棋，扭轉(zhuǎn)了賽局并展示了復(fù)雜的網(wǎng)絡(luò)通過(guò)我們無(wú)法理解的方式做出的決策。如果人類仍然在為第37手棋而冥思苦想；那么，可以說(shuō)，在互聯(lián)網(wǎng)超級(jí)系統(tǒng)的背景下，“黑匣子”問(wèn)題會(huì)更加嚴(yán)重。如今的人工智能使用自我改進(jìn)算法，即掃描系統(tǒng)以尋找改進(jìn)自己的可能并最終實(shí)現(xiàn)自我升級(jí)。隨著系統(tǒng)改進(jìn)，算法再次運(yùn)行，從而創(chuàng)建出另一個(gè)改進(jìn)版本，如此循環(huán)往復(fù)，無(wú)窮無(wú)盡。人類觀察者將無(wú)法跟上它們所處理的內(nèi)容，因?yàn)橄到y(tǒng)在不斷變化，變得更加復(fù)雜、更加自主。因此，“自我改進(jìn)”算法可能會(huì)引入自主行為。最終的結(jié)果可能是人類失去對(duì)超級(jí)系統(tǒng)的掌控。

我們創(chuàng)造了一種人類既無(wú)法預(yù)測(cè)也無(wú)法理解的新型智能。研究人員目前尚不清楚除了對(duì)計(jì)算機(jī)進(jìn)行基本的物理限制之外，對(duì)人工智能是否還有其他硬性的限制。如果搞不清楚這個(gè)問(wèn)題并制定有效的防范措施，可能會(huì)對(duì)人類社會(huì)產(chǎn)生災(zāi)難性的后果。

人工智能的發(fā)展為社會(huì)帶來(lái)了巨大的機(jī)遇和挑戰(zhàn)。盡管可能引起一系列潛在的社會(huì)問(wèn)題，但我們不能因?yàn)閾?dān)心產(chǎn)生問(wèn)題而停止對(duì)人工智能技術(shù)的研究。相反，我們需要認(rèn)真面對(duì)這些問(wèn)題，并采取積極的措施來(lái)解決它們。只有這樣，我們才能充分發(fā)揮其潛力，以期推動(dòng)人工智能的健康發(fā)展，真正造福于人類社會(huì)。