摘要：科技進(jìn)步是推動(dòng)社會(huì)變革的動(dòng)力源，人工智能作為計(jì)算機(jī)領(lǐng)域的新興產(chǎn)物伴隨著深入的研究和發(fā)展，其逐步應(yīng)用滲入到生活中的各個(gè)領(lǐng)域并發(fā)揮著重要作用，但同時(shí)也受到社會(huì)各界的關(guān)注和探討。不可否認(rèn)的是人工智能為我們的生活提供了極大的便利，但科技永遠(yuǎn)是一把雙刃劍，我們?cè)谙硎苋斯ぶ悄軒?lái)改變的同時(shí)也應(yīng)該著眼于其本身存在的諸多風(fēng)險(xiǎn)，考慮其將會(huì)引發(fā)的新風(fēng)險(xiǎn)以及社會(huì)倫理問(wèn)題。本文將對(duì)人工智能技術(shù)進(jìn)行簡(jiǎn)要概述并將對(duì)其風(fēng)險(xiǎn)進(jìn)行分析，也會(huì)對(duì)其引發(fā)的倫理問(wèn)題進(jìn)行闡述，提出可行性建議。

關(guān)鍵詞：人工智能;風(fēng)險(xiǎn)規(guī)避;倫理問(wèn)題;透明性

一、引言

自20世紀(jì)50年代圖靈提出“圖靈測(cè)試”以來(lái)，人工智能技術(shù)相關(guān)研究取得了不菲的成果。隨著人工智能和相關(guān)產(chǎn)業(yè)的發(fā)展，其產(chǎn)品正與日俱增迅速地融入人們?nèi)粘５纳a(chǎn)生活中，并推動(dòng)著社會(huì)逐漸智能化的變革。毋庸置疑的是我們充分享受了其帶來(lái)的便利，但更無(wú)法忽略的是人工智能技術(shù)帶來(lái)的風(fēng)險(xiǎn)和倫理問(wèn)題。只有進(jìn)一步了解人工智能技術(shù)的風(fēng)險(xiǎn)和可能出現(xiàn)的倫理問(wèn)題，才能促進(jìn)其健康發(fā)展，最終達(dá)到“科技向善”的目的。

二、人工智能的相關(guān)概述

（一）概念

人工智能（Artificial Intelligence）是計(jì)算機(jī)科學(xué)的一個(gè)分支，其核心是利用計(jì)算機(jī)系列理論和相關(guān)技術(shù)，引導(dǎo)計(jì)算機(jī)可以模仿人類智慧，從思維模式到行為對(duì)外界作出反應(yīng)，并完成一系列的機(jī)器人性化操作。而人工智能作為一門極具挑戰(zhàn)性的綜合性學(xué)科覆蓋了計(jì)算機(jī)科學(xué)與技術(shù)、心理學(xué)、哲學(xué)等人類重要學(xué)科，研究領(lǐng)域拓展極其廣闊包含機(jī)器人、圖像識(shí)別、語(yǔ)言識(shí)別、機(jī)器學(xué)習(xí)等等。學(xué)界通常將其分類為弱人工智能、強(qiáng)人工智能與超人工智能。弱人工智能是指只是通過(guò)系統(tǒng)能夠完成一定的指令，智能產(chǎn)品本身不具備自我意識(shí)。強(qiáng)人工智能是指具有自我意志、情感，能夠擁有像人類一樣的學(xué)習(xí)能力、價(jià)值觀體系，能夠自主進(jìn)行決策。超人工智能是指在智力、學(xué)習(xí)能力和行動(dòng)能力都超越人類，這多出現(xiàn)在科幻片中，但也引起人們一定程度上的擔(dān)憂[1]。

（二）特點(diǎn)

人工智能需要通過(guò)嚴(yán)密的實(shí)驗(yàn)進(jìn)行研究，其最鮮明的特點(diǎn)在于能夠充分融到人們的生產(chǎn)生活中。人工智能的優(yōu)勢(shì)首先在于高效率，通過(guò)大數(shù)據(jù)和云計(jì)算等高新技術(shù)的加持，它能夠從檢索、收集到運(yùn)算、分析，高效地處理數(shù)據(jù)得出結(jié)論。另一方面還體現(xiàn)在能夠快速利用數(shù)據(jù)產(chǎn)生的結(jié)果，模仿人類思維后行動(dòng)，這種先進(jìn)的仿生計(jì)算成果能夠有效地解決相應(yīng)的問(wèn)題。其次人工智能具有極高的便捷性，它的運(yùn)行不受時(shí)間空間的限制和環(huán)境的影響，其主要原因在于能夠模仿人類，實(shí)現(xiàn)低級(jí)別的感知和行動(dòng)能力。最后，人工智能具有雙面性的特點(diǎn)，一方面人工智能正引領(lǐng)著人們向智能社會(huì)邁進(jìn)，另一方面人工智能技術(shù)的發(fā)展還未成熟，而當(dāng)前開發(fā)的弱人工智能并不能完全代表人工智能的盡頭，而強(qiáng)人工智能的開發(fā)所承擔(dān)的風(fēng)險(xiǎn)只會(huì)更大。

三、人工智能的風(fēng)險(xiǎn)分析

（一）風(fēng)險(xiǎn)思考的現(xiàn)實(shí)性

現(xiàn)階段人們更多的是在享受人工智能給我們生活帶來(lái)的便利，而對(duì)于負(fù)面影響的了解少之又少。如研發(fā)不透明的黑箱操作，從“虛擬化”到研發(fā)過(guò)程中的“黑箱效應(yīng)”環(huán)境使得其在一定程度上易脫離監(jiān)管從而引發(fā)失控。其次算法的主觀性和部分偏差也是人工智能誘發(fā)風(fēng)險(xiǎn)的主要來(lái)源，如谷歌公司推出的智能曾識(shí)別黑人為大猩猩，微軟推出的智能聊天機(jī)器人模仿少女行為后出現(xiàn)了種族主義等偏見現(xiàn)象。而行業(yè)的失業(yè)問(wèn)題成為人們風(fēng)口浪尖上的話題，工廠的自動(dòng)化流水線生產(chǎn)，無(wú)人超市和無(wú)人酒店的出現(xiàn)，餐飲行業(yè)的機(jī)器人送菜服務(wù)等對(duì)于勞動(dòng)力的需求量正在減少，而面臨著失業(yè)的工作者又應(yīng)該何去何從？從現(xiàn)實(shí)意義上來(lái)看，我們應(yīng)該思考潛在的風(fēng)險(xiǎn)，分析社會(huì)所承擔(dān)的相關(guān)責(zé)任，提出切合實(shí)際的應(yīng)對(duì)措施，更好地促進(jìn)人工智能產(chǎn)業(yè)綠色發(fā)展。

（二）具體風(fēng)險(xiǎn)狀況

1.透明性

透明性是現(xiàn)代社會(huì)成功的關(guān)鍵要素，無(wú)論是在政治、商業(yè)和職業(yè)領(lǐng)域，還是在社會(huì)、文化與宗教生活中均是如此[2]?，F(xiàn)今弱人工智能尚未能完全獨(dú)立，而人工智能涉及技術(shù)的專業(yè)性、復(fù)雜性使得人工智能具有不透明性的特點(diǎn)，其通常被稱為“黑匣子”，主要體現(xiàn)在消費(fèi)者對(duì)于人工智能的決策和行為的背后命令不甚了解。對(duì)于使用者來(lái)講，它們對(duì)于充滿未知性產(chǎn)品的信任程度較低，用戶并不知道在使用過(guò)程中收集了多少數(shù)據(jù)又傳輸?shù)搅四睦?，是否發(fā)揮了人工智能應(yīng)該能達(dá)到的作用。也正因?yàn)槿绱?，?dāng)人工智能產(chǎn)品的一些行為出現(xiàn)嚴(yán)重問(wèn)題時(shí)，其責(zé)任的歸屬已然成為嚴(yán)重問(wèn)題，無(wú)論是人為還是錯(cuò)誤指令，對(duì)產(chǎn)品不了解的使用者來(lái)講都將處于十分弱勢(shì)的位置，而這樣的問(wèn)題逐漸演化為倫理問(wèn)題。

2.技術(shù)失控

人們對(duì)人工智能發(fā)生技術(shù)失控的擔(dān)憂遠(yuǎn)超于人類的其他技術(shù)。雖然人工智能的發(fā)展曾經(jīng)歷過(guò)低谷，但隨著云計(jì)算、大數(shù)據(jù)等技術(shù)的飛速發(fā)展，人工智能的研究實(shí)現(xiàn)了突破。1997 年 ，IBM 的“深藍(lán)”在國(guó)際象棋比賽中，戰(zhàn)勝了人類象棋冠軍加里·卡斯帕羅夫，再到后來(lái)Alphago的不斷進(jìn)化，人工智能闖入大眾視野，沖擊著人們的認(rèn)知。人工智能的發(fā)展建立在不斷地模仿再到對(duì)抗上最后逐漸形成自我學(xué)習(xí)模式。而以強(qiáng)力法和訓(xùn)練法為代表的智能成果其不斷進(jìn)步的思維發(fā)展到一定程度可能會(huì)跟上人類的腳步，而敏捷的對(duì)抗性思維也可能不會(huì)及時(shí)被控制，造成嚴(yán)重系統(tǒng)事故，導(dǎo)致難以控制的場(chǎng)面出現(xiàn)，而智能意志也有可能演化成一個(gè)與人類相沖突的意志，甚至?xí)霈F(xiàn)所謂的奇點(diǎn)。

3.監(jiān)管約束

人工智能逐漸融入人們的日常生活，但在如何監(jiān)管和約束中存在著極大的風(fēng)險(xiǎn)隱患。從開發(fā)到使用，似乎還未出現(xiàn)明確的規(guī)章制度去監(jiān)管產(chǎn)業(yè)的發(fā)展，也沒(méi)有法明確律條文約束人工智能。直到現(xiàn)在人們很難去給人工智能產(chǎn)品下一個(gè)明確的定義，也無(wú)法讓人工智能作為承擔(dān)責(zé)任的主體。且公眾監(jiān)督作為社會(huì)治理的有效辦法在機(jī)器人身上似乎很難實(shí)現(xiàn)，而在現(xiàn)實(shí)中對(duì)于人工智能行為的規(guī)范顯然并沒(méi)有很大的突破，因此監(jiān)管約束風(fēng)險(xiǎn)仍然是發(fā)展過(guò)程中還未逾越的鴻溝。

4.依賴性

長(zhǎng)期以來(lái)，人們的目標(biāo)是將人工智能發(fā)展到等同于人類的程度，能夠自我學(xué)習(xí)和思考，而如今人工智能的新功能不斷增加，使得人們對(duì)其的依賴感越來(lái)越強(qiáng)。小到智能音箱、掃地機(jī)器人、智能空調(diào)，大到餐館的上菜機(jī)器人、工廠的自動(dòng)化生產(chǎn)流水線、智能識(shí)別系統(tǒng)都能看到人工智能的影子，而有些產(chǎn)品已經(jīng)成為生活中不可或缺的一部分，如智能支付幾乎已經(jīng)遍布到社會(huì)中的各行各業(yè)。再而人類的許多發(fā)明創(chuàng)造來(lái)自一些意想不到的啟發(fā)、各種機(jī)緣巧合、以及對(duì)生活的觀察，而人們對(duì)于智能的依賴在一定程度上會(huì)影響思考，甚至人工智能的自我學(xué)習(xí)和思考能力發(fā)展到一定程度，在一些領(lǐng)域的趨勢(shì)預(yù)測(cè)能力要?jiǎng)龠^(guò)人類的預(yù)測(cè)。而對(duì)于空口無(wú)憑，人們更容易去相信精確的數(shù)據(jù)計(jì)算和匯總分析，人類如果想與智能形成共生關(guān)系，首先要解決依賴性問(wèn)題，更要讓自己的認(rèn)知達(dá)到更高水平，保證物種的獨(dú)特性。

四、人工智能面臨的倫理問(wèn)題

對(duì)于人類而言，智慧是存在的核心，目前的人類文明，皆是人類智慧的產(chǎn)物。人工智能研究的初衷是使機(jī)器勝任一些通常需要人類智慧才能完成的復(fù)雜工作，但新技術(shù)應(yīng)用產(chǎn)生了系列嚴(yán)重的負(fù)面效應(yīng)。首先是人工智能技術(shù)的非正當(dāng)使用違背了社會(huì)公認(rèn)的倫理道德，由于透明性的問(wèn)題，人們無(wú)從得知技術(shù)是不是誤用還是濫用，尤其使涉及用戶隱私、數(shù)據(jù)安全等問(wèn)題引起了較大反響。同時(shí)人工智能面臨著人機(jī)交互失敗的問(wèn)題，決策者對(duì)于系統(tǒng)反饋的認(rèn)知能力不同，人工智能對(duì)于緊急情況下規(guī)則和道德之間的取舍，使得面臨突發(fā)事件的處理并未能夠像人類一樣靈活。其次人們更擔(dān)心的是，人工智能沖擊了傳統(tǒng)產(chǎn)業(yè)對(duì)于勞動(dòng)力和生產(chǎn)力的要求，工作崗位總體上的大量減少，人類現(xiàn)有對(duì)于發(fā)展趨勢(shì)的分析預(yù)測(cè)不僅嚴(yán)重不足，而且預(yù)測(cè)方法也不適應(yīng)新形勢(shì)的需要[3]，這些問(wèn)題都將會(huì)對(duì)社會(huì)發(fā)展產(chǎn)生深遠(yuǎn)影響。而具有人思維的機(jī)器出現(xiàn)的倫理和道德上的問(wèn)題，從責(zé)任主體角度來(lái)講，是機(jī)器的開發(fā)者負(fù)責(zé)還是操作者負(fù)責(zé)，其次人工智能是否具有道德地位又該如何去界定，這些都將成為新的倫理風(fēng)險(xiǎn)。

五、應(yīng)對(duì)風(fēng)險(xiǎn)和問(wèn)題的措施

雖然人工智能的發(fā)展面臨著諸多風(fēng)險(xiǎn)與倫理問(wèn)題，但現(xiàn)如今其發(fā)展并未完全成熟，而人工智能對(duì)人類思維的模擬只會(huì)走向更精密化，對(duì)于人類社會(huì)的發(fā)展來(lái)說(shuō)既是機(jī)遇也是挑戰(zhàn)。應(yīng)對(duì)風(fēng)險(xiǎn)和問(wèn)題首先要以人類為中心，人工智能的研發(fā)、使用更應(yīng)該致力于提高人類幸福生活指數(shù)。雖然人工智能地出現(xiàn)在一定程度上沖擊了人類的自我權(quán)力意識(shí)，但人工智能的使用不能夠侵害基本人權(quán)，人類應(yīng)該自我判斷如何使用人工智能并對(duì)其帶來(lái)的后果和責(zé)任進(jìn)行明確的規(guī)定。更要聚焦責(zé)任主體，建立健全對(duì)人工智能的追溯和問(wèn)責(zé)制度，從根源上解決人與人、人與機(jī)器人之間產(chǎn)生的各種矛盾沖突。其次發(fā)展人工智能需要有正確的價(jià)值觀和設(shè)計(jì)原則，目前發(fā)展中出現(xiàn)的各種問(wèn)題造成了人類對(duì)于人工智能的不信任最直接的原因是源于對(duì)價(jià)值觀上的道德衡量和透明性原則的堅(jiān)持，而為了能更好處理兩者之間的關(guān)系就需要秉持正確的科技觀引領(lǐng)人工智能技術(shù)向“善”發(fā)展，通過(guò)深度學(xué)習(xí)使其能夠形成一定的社會(huì)道德觀念和判斷力，從而更好地促進(jìn)人類社會(huì)對(duì)人工智能的接納。最后要控制應(yīng)用場(chǎng)景，現(xiàn)在的弱人工智能局限性很大，能夠掌握的技能很單一，但也不能夠把尚未成熟的智能技術(shù)投入生產(chǎn)生活中，要通過(guò)反復(fù)的模擬和測(cè)試 ，最大限度地填補(bǔ)漏洞，避免出現(xiàn)大面積的技術(shù)失控。最后要加強(qiáng)交流溝通，人工智能研發(fā)過(guò)程中的保密性極易誘發(fā)壟斷現(xiàn)象，要想減少類似事件發(fā)生的概率就應(yīng)該堅(jiān)持公平正義原則，抓住機(jī)遇合作共贏，更應(yīng)該制定相關(guān)法律法規(guī)抵制各種層面上的壟斷，防止數(shù)字鴻溝等惡劣現(xiàn)象的發(fā)生。

六、結(jié)束語(yǔ)

雖然在科技發(fā)展的道路上會(huì)有著大大小小的絆腳石，但智能社會(huì)正逐步地向我們走來(lái)，而先決條件在于人類能夠?qū)θ斯ぶ悄芟到y(tǒng)建立信任。人類應(yīng)該對(duì)自己創(chuàng)造的科技產(chǎn)物有著理性的認(rèn)知，不僅要承認(rèn)其存在的必要性，也不能夸大其詞似的盲目發(fā)展。對(duì)于大眾媒體而言，需要引導(dǎo)公眾全方面認(rèn)識(shí)到人工智能的兩面性，要更多地關(guān)注人工智能的安全可靠性，同時(shí)也要維護(hù)公眾的知情權(quán)等合法權(quán)利。而負(fù)責(zé)相關(guān)產(chǎn)業(yè)的科技工作者也有義務(wù)向公眾普及人工智能的相關(guān)知識(shí)，也要對(duì)于可透明和不可透明的部分進(jìn)行相關(guān)解釋，既能夠消除公眾對(duì)于智能技術(shù)產(chǎn)生的疑慮，也能夠促進(jìn)公眾對(duì)智能技術(shù)的接受程度，逐漸將智能趨勢(shì)這種社會(huì)文化慢慢浸入到人們的心里。最重要的是，要想實(shí)現(xiàn)人工智能技術(shù)的綠色發(fā)展，就要在技術(shù)層面上強(qiáng)化開發(fā)者的理論學(xué)習(xí)和職業(yè)素養(yǎng)盡可能地解決實(shí)際問(wèn)題，在源頭上降低和規(guī)避風(fēng)險(xiǎn);在道德層面上要提升公民的整體倫理道德素養(yǎng)，不斷強(qiáng)化人的權(quán)力意識(shí)，保證人的主體地位。在社會(huì)層面上，要以寬廣的胸襟和包容的態(tài)度接納新事物的產(chǎn)生，要以辯證的目光去看待新技術(shù)的發(fā)展。人工智能是人類智慧的一部分，是為人類而服務(wù)的，但人類作為人工智能的源頭也應(yīng)該以一名良師的角度出發(fā)引導(dǎo)智能的有序發(fā)展，促使人工智能與人類社會(huì)深度融合，從而更好地造福人類。

作者單位：李沂修? ? 貴州師范大學(xué)國(guó)際教育學(xué)院

參? 考? 文? 獻(xiàn)

[1]蔡思欣.人工智能發(fā)展帶來(lái)的倫理困境及對(duì)策探究[J].機(jī)器人產(chǎn)業(yè)，2021（05）：86-93.

[2]杜嚴(yán)勇.論人工智能系統(tǒng)的透明性[J/OL].科學(xué)學(xué)研究：1-11[2022-02-06].

[3]陳小平.人工智能：技術(shù)條件、風(fēng)險(xiǎn)分析和創(chuàng)新模式升級(jí)[J].科學(xué)與社會(huì)，2021，11（02）：1-14.