楊會(huì)軍 程啟華

摘要：人工智能是人類第四次工業(yè)革命進(jìn)程中的關(guān)鍵技術(shù)，將會(huì)深刻影響人類社會(huì)的發(fā)展進(jìn)程。人工智能技術(shù)的發(fā)展伴隨著一系列倫理問(wèn)題，例如安全隱患、隱私泄露，以及自主選擇權(quán)的放棄等。通過(guò)對(duì)人工智能技術(shù)及其倫理問(wèn)題的分析，可以得出人工智能技術(shù)和倫理之間的辯證關(guān)系，并提出應(yīng)對(duì)人工智能技術(shù)倫理問(wèn)題的若干策略。堅(jiān)持“以人為本”的科學(xué)發(fā)展精神，使得人工智能能夠始終走在向善、為人類福祉服務(wù)的發(fā)展道路上。

關(guān)鍵詞：人工智能，技術(shù)倫理，對(duì)策

人工智能是人類第四次工業(yè)革命進(jìn)程中的關(guān)鍵技術(shù)，通過(guò)模擬人類智能和學(xué)習(xí)能力，計(jì)算機(jī)系統(tǒng)完成類似人類智能的任務(wù)和活動(dòng)。當(dāng)今社會(huì)受人工智能技術(shù)影響較深，主要表現(xiàn)在以下方面：

第一，對(duì)產(chǎn)業(yè)結(jié)構(gòu)的影響。科學(xué)技術(shù)是第一生產(chǎn)力，人工智能技術(shù)作為新一代科技革命的代表，將極大地推動(dòng)已有產(chǎn)業(yè)結(jié)構(gòu)的變革。高附加值崗位，如以“復(fù)雜智力”為代表的職位，逐漸取代了以“簡(jiǎn)單體力”為代表的低附加值崗位。

第二，對(duì)供需關(guān)系的影響。人工智能和人類生產(chǎn)和生活緊密結(jié)合，社會(huì)生產(chǎn)力的發(fā)展導(dǎo)致供需關(guān)系產(chǎn)生變化，從而培育出新的價(jià)值增長(zhǎng)點(diǎn)。

人工智能技術(shù)一方面提高了生產(chǎn)效率，方便了人們的生活；另一方面，如果不加以引導(dǎo)，技術(shù)發(fā)展可能帶來(lái)適得其反的不良后果，并引發(fā)大量倫理問(wèn)題。因此，人工智能的倫理規(guī)范至關(guān)重要。包括為智能機(jī)器人預(yù)設(shè)道德準(zhǔn)則、設(shè)定人工智能技術(shù)研發(fā)及應(yīng)用標(biāo)準(zhǔn)、建立人工智能產(chǎn)品本身的道德指引，以及規(guī)范科研人員的倫理行為[1]。本文針對(duì)人工智能技術(shù)發(fā)展過(guò)程中所伴生的倫理問(wèn)題，從技術(shù)和倫理兩個(gè)角度進(jìn)行研究，分析技術(shù)倫理和人工智能之間的辯證關(guān)系，并提出解決人工智能倫理問(wèn)題的若干對(duì)策。

一、人工智能技術(shù)及其倫理問(wèn)題

（一）人工智能技術(shù)及其存在的問(wèn)題

1956年的達(dá)特茅斯會(huì)議上首次提出了人工智能的概念，隨后相關(guān)技術(shù)取得了突破性進(jìn)展，其發(fā)展日新月異。

人工智能的本質(zhì)是對(duì)人類思維的模擬。這種模擬可以通過(guò)結(jié)構(gòu)模擬和功能模擬來(lái)實(shí)現(xiàn)[2]。采用類比的方法來(lái)仿真人腦的組織結(jié)構(gòu)，創(chuàng)造出類似人腦的機(jī)器；功能模擬對(duì)人腦進(jìn)行抽象分析，將人腦分解為若干功能模塊，在功能上模擬人類思維過(guò)程。相較于結(jié)構(gòu)模擬，功能模擬更為簡(jiǎn)化。隨著人類對(duì)人腦研究深入，基于結(jié)構(gòu)模擬的人工智能產(chǎn)品將具備更多人類智慧，也給人類帶來(lái)更大的挑戰(zhàn)。

在人工智能發(fā)展的早期階段，人類通過(guò)簡(jiǎn)單的程序來(lái)控制機(jī)器設(shè)備，機(jī)器設(shè)備是執(zhí)行者，按照指令完成工作，本身沒(méi)有自學(xué)習(xí)能力。但隨著以機(jī)器學(xué)習(xí)、深度學(xué)習(xí)為代表的人工智能技術(shù)的進(jìn)步，機(jī)器設(shè)備通過(guò)模擬人類的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)獲得了自學(xué)習(xí)能力。機(jī)器的智力水平和學(xué)習(xí)效果與其所接觸的樣本數(shù)量有關(guān)。再加上機(jī)器學(xué)習(xí)的速度遠(yuǎn)超人類的學(xué)習(xí)速度，可以預(yù)見，人工智能將對(duì)人類智能帶來(lái)挑戰(zhàn)。

科學(xué)技術(shù)是一把“雙刃劍”，既可以造福人類，也可能帶來(lái)災(zāi)難[3]。同樣，人工智能也存在著一些潛在的風(fēng)險(xiǎn)和倫理問(wèn)題，需要人們?cè)谄浒l(fā)展過(guò)程中加以重視和規(guī)范，確保其積極影響人類社會(huì)。

1.便利與危險(xiǎn)并存

在新型冠狀病毒肆虐的疫情期間中，人工智能起到了重要作用。新型冠狀病毒傳染性極強(qiáng)，為了切斷傳播路徑，國(guó)家實(shí)行動(dòng)態(tài)清零的抗疫政策。并利用人工智能技術(shù)分析與感染人員（區(qū)域）有交叉的相關(guān)人員的時(shí)空數(shù)據(jù)。及時(shí)通知并做好備案篩查工作，使得疫情能夠及時(shí)得到控制。同時(shí)，利用融合了人工智能技術(shù)的措施，如疫情防控健康碼和核酸檢測(cè)數(shù)據(jù)的實(shí)時(shí)更新，也起到了良好的抗疫效果。另一方面，在疫情防控期間，有些不法分子在社交平臺(tái)上有目的地散布虛假信息，制造恐慌和混亂。人工智能技術(shù)也起到了很好的作用，通過(guò)自動(dòng)化的文本分析和情感識(shí)別技術(shù)，快速識(shí)別和篩查出不實(shí)信息。此外，人工智能還可以幫助監(jiān)測(cè)大數(shù)據(jù)中的信息流動(dòng)，及時(shí)發(fā)現(xiàn)和追蹤病例的傳播路徑，從而更有效地進(jìn)行疫情控制?？傮w而言，人工智能在新冠疫情期間發(fā)揮了重要作用，為防控工作提供了有力支持。

無(wú)人駕駛技術(shù)是指在無(wú)需人類干預(yù)的情況下，實(shí)現(xiàn)車輛自主控制與操作，從而實(shí)現(xiàn)汽車駕駛自動(dòng)化技術(shù)。無(wú)人駕駛可以將人類從單調(diào)乏味的駕駛過(guò)程中解放出來(lái)，讓人們專注于風(fēng)景或工作，大大提高了駕駛的舒適度。然而，機(jī)器的智能化控制是由“智能芯片+驅(qū)動(dòng)模塊”組成的，代表了電子產(chǎn)品的可靠性問(wèn)題。例如，程序控制中可能出現(xiàn)的“程序跑飛”現(xiàn)象。雖然這種情況發(fā)生的概率很低，但人們對(duì)將自己的生命完全交給“智能芯片+驅(qū)動(dòng)模塊”需要有很大的勇氣。在2023年4月，谷歌旗下自動(dòng)駕駛公司W(wǎng)aymo的無(wú)人駕駛車輛在接送乘客過(guò)程中遇到了交通管制。交警示意車輛靠邊停車，但無(wú)人駕駛車沒(méi)有立即做出反應(yīng)，而乘客也無(wú)法使汽車按照交警的手勢(shì)行駛。而在2018年3月，美國(guó)亞利桑那州一名女子不幸被一輛處于自動(dòng)駕駛模式的Uber汽車撞傷，后來(lái)不幸身亡。因此，目前來(lái)看，人工智能系統(tǒng)存在系統(tǒng)漏洞和能力缺陷。

2.數(shù)據(jù)的消費(fèi)者與隱私的失控

大數(shù)據(jù)被譽(yù)為“未來(lái)的新石油”，是人工智能學(xué)習(xí)和判斷的基礎(chǔ)。因此，人工智能需要不斷地從物理世界中獲取數(shù)據(jù)、分析數(shù)據(jù)、挖掘數(shù)據(jù)，從而為人們提供實(shí)時(shí)精準(zhǔn)的服務(wù)。

每個(gè)人既是數(shù)據(jù)的貢獻(xiàn)者，也是數(shù)據(jù)的消費(fèi)者。這些數(shù)據(jù)既包括公共數(shù)據(jù)，也包括私有數(shù)據(jù)。如果私有數(shù)據(jù)被不法分子濫用的話，將會(huì)帶來(lái)隱私的失控，給個(gè)人帶來(lái)傷害。在萬(wàn)物互聯(lián)的時(shí)代，人們享受到了高效、便捷的生活，但個(gè)人的性格特點(diǎn)、興趣愛好、意識(shí)形態(tài)、行蹤軌跡等都被系統(tǒng)記錄下來(lái)且無(wú)法消除。這些交織在一起的數(shù)據(jù)信息在毫無(wú)防備的情況下不受控地流向何方，人們根本無(wú)從所知。未來(lái)的人工智能依靠這些汲取的信息不斷地進(jìn)化迭代出新一代的智能體，因此很難說(shuō)是人掌控著塑造出來(lái)的人工智能，還是人被人工智能所掌控？

3.被動(dòng)的“多”和主動(dòng)的“少”

在20世紀(jì)，人們主要通過(guò)查閱書刊和積累經(jīng)驗(yàn)來(lái)獲取信息。然而，在當(dāng)今的信息時(shí)代，人們可以通過(guò)百度、谷歌等搜索工具快速獲取未知領(lǐng)域的信息。人工智能能夠根據(jù)搜索關(guān)鍵詞分析用戶的興趣點(diǎn)，并定期推送相關(guān)主題的信息，大大提高了信息獲取的效率。導(dǎo)航軟件如百度地圖和高德地圖可以根據(jù)實(shí)時(shí)路況信息為人們規(guī)劃不同的路徑選擇。旅游類APP如攜程和同程旅游能夠?yàn)槿藗兲峁┙煌ā嬍?、住宿、?dǎo)游等一條龍服務(wù)。網(wǎng)上購(gòu)物平臺(tái)可以根據(jù)人們的瀏覽記錄推送相關(guān)商品選擇。從用戶的角度來(lái)看，人們?cè)诒粍?dòng)地選擇，有時(shí)甚至不需要選擇，系統(tǒng)已經(jīng)給出了答案。這有可能造成人們自身主動(dòng)性的逐漸喪失，把它交給了人工智能，讓人工智能來(lái)做選擇，這很可能會(huì)使人們陷入“信息繭房”[4]的困境。

當(dāng)人們信賴人工智能時(shí)，其實(shí)是無(wú)條件接受了人工智能背后的規(guī)則。而這些規(guī)則對(duì)人們就像一個(gè)“黑箱”，但又并不能準(zhǔn)確地分析和描述“黑箱”背后的工作流程以及“黑箱”操作背后的規(guī)則。由于個(gè)體的差異，這些規(guī)則并不能適合于每一個(gè)人。只是被動(dòng)地接受人工智能提供的若干選項(xiàng)，將自身的主動(dòng)權(quán)和決策權(quán)交給了自己并不了解的人工智能。而人工智能提供給人們的信息是根據(jù)開發(fā)者制定的規(guī)則和依據(jù)篩選出來(lái)的，因此，人們所獲得的信息是不完整的，這又嚴(yán)重局限了人們的思維，只能在有限的信息空間內(nèi)思考問(wèn)題。

4.表面的“得到”與背后的“失去”

人工智能技術(shù)的應(yīng)用使得人們的生活日益便捷，享受著高科技帶來(lái)的無(wú)憂生活。通過(guò)對(duì)天氣的預(yù)測(cè)，人們可以決定是否添加衣物或外出；通過(guò)對(duì)景區(qū)人流的動(dòng)態(tài)監(jiān)測(cè)，人們可以規(guī)劃自己的旅行目的地；通過(guò)對(duì)實(shí)時(shí)路況信息的獲取，人們可以提前規(guī)劃行程，避開擁堵地段，提高效率；通過(guò)美食的建議和推送，人們可以選擇享受美食的地點(diǎn)；全球互聯(lián)網(wǎng)技術(shù)大大降低了信息獲取的成本，人工智能基于網(wǎng)絡(luò)數(shù)據(jù)為用戶提供個(gè)性化服務(wù)，人們的衣食住行更加便捷，享受到了像保姆般的貼心服務(wù)，促進(jìn)了社會(huì)的繁榮。

在日常生活中，無(wú)論是否愿意，每個(gè)人都直接或間接成為數(shù)據(jù)的貢獻(xiàn)者。人工智能正在融入并改變著人們的生活，但人工智能所帶來(lái)的結(jié)構(gòu)性失業(yè)、算法歧視、隱私泄露等問(wèn)題讓人們喪失了自主性、獨(dú)立性和創(chuàng)造性。笛卡爾曾說(shuō)過(guò)“我思故我在”，人的價(jià)值體現(xiàn)在于主觀的能動(dòng)性、獨(dú)立性和創(chuàng)造性。沒(méi)有了主動(dòng)思考能力的人類將面臨更大的失去。如果沒(méi)有技術(shù)倫理的限制，人類終有一天會(huì)被自己的技術(shù)產(chǎn)品所取代。

（二）人工智能技術(shù)和倫理之間的關(guān)系

在萬(wàn)物互聯(lián)的時(shí)代，人和物本質(zhì)上都是數(shù)據(jù)的貢獻(xiàn)者和消費(fèi)者。人工智能技術(shù)通過(guò)對(duì)人的思維過(guò)程，賦予智能體學(xué)習(xí)能力，但這也帶來(lái)了復(fù)雜的倫理、法律和安全問(wèn)題。人工智能技術(shù)倫理的目標(biāo)是從道德角度規(guī)范科技開發(fā)人員的活動(dòng)，確?？萍蓟顒?dòng)不會(huì)損害人類的生存條件和健康，保障人類切身利益，實(shí)現(xiàn)可持續(xù)發(fā)展[5]。

人工智能技術(shù)和其伴生的技術(shù)倫理問(wèn)題之間存在著辯證關(guān)系。一方面，技術(shù)與倫理之間存在矛盾。技術(shù)追求的是改變、先進(jìn)和效率，而倫理強(qiáng)調(diào)的是規(guī)范和秩序。通常情況下，倫理問(wèn)題滯后于技術(shù)發(fā)展，因此面對(duì)新技術(shù)的浪潮，倫理上往往會(huì)產(chǎn)生巨大的恐慌。然而，機(jī)遇與挑戰(zhàn)并存，絕對(duì)禁止這些新技術(shù)，一味地保守可能使人類和新技術(shù)的發(fā)展失去平衡。另一方面，技術(shù)與倫理之間又是統(tǒng)一的。歷史上可以看到，開放包容會(huì)帶來(lái)科技文化的巨大發(fā)展，而閉關(guān)鎖國(guó)則會(huì)導(dǎo)致科技文化走向衰落。開放包容并不意味著盲目接受，而是有選擇地進(jìn)行揚(yáng)棄。技術(shù)倫理也是如此，其初衷是為了使技術(shù)獲得更好的發(fā)展，通過(guò)挖掘優(yōu)勢(shì)、舍棄劣勢(shì)，讓人工智能始終走在道德善良、造福人類的發(fā)展道路上。技術(shù)和技術(shù)倫理可以看作問(wèn)題的兩個(gè)方面，可讓人們能更全面地看待新技術(shù)，在對(duì)立統(tǒng)一中實(shí)現(xiàn)人工智能技術(shù)的良性發(fā)展。

二、應(yīng)對(duì)人工智能技術(shù)倫理問(wèn)題的策略

每位科技工作者都應(yīng)該承擔(dān)起時(shí)代的責(zé)任和擔(dān)當(dāng)，并主動(dòng)將自己的工作融入人類時(shí)代發(fā)展的大潮之中，為社會(huì)的進(jìn)步貢獻(xiàn)自己的力量。人工智能作為一種新技術(shù)，是一個(gè)客觀的存在，技術(shù)本身并不包含社會(huì)文化和道德層面的因素，但是該技術(shù)的研究方法、研究過(guò)程、研究成果及其應(yīng)用卻具有社會(huì)文化和倫理道德的影響因素。因此，人工智能技術(shù)的發(fā)展需要受到技術(shù)倫理的道德引導(dǎo)。針對(duì)人工智能技術(shù)的倫理問(wèn)題，可以從以下幾個(gè)方面入手。

第一，鼓勵(lì)公眾參與?？萍汲晒苿?dòng)生產(chǎn)力的進(jìn)步，并最終影響到公眾的生活。因此，公眾應(yīng)該擁有更多的知情權(quán)。在制定決策前，廣泛且深入地討論人工智能可能存在的倫理問(wèn)題，采集公眾的建議，并公之于眾，形成諸多成果。在新技術(shù)的良性發(fā)展中，公眾的態(tài)度和意見將提供重要參考，“兼聽則明，偏信則暗”。

第二，開展大學(xué)生工程倫理教育。大學(xué)生是未來(lái)人工智能技術(shù)研究的主力軍。因此，在大學(xué)工科教育階段，要及時(shí)對(duì)相關(guān)專業(yè)的大學(xué)生進(jìn)行工程倫理教育。使其在學(xué)習(xí)專業(yè)技術(shù)的同時(shí)，充分了解工程倫理的概念和內(nèi)涵，能辯證地看待技術(shù)和倫理之間的關(guān)系。牢固樹立“以人為本”的科學(xué)發(fā)展精神。目前，國(guó)內(nèi)高校都在開展工程教育認(rèn)證工作，畢業(yè)要求第六節(jié)明確要求評(píng)價(jià)“工程方案對(duì)社會(huì)、健康、安全、法律以及文化的影響，并理解應(yīng)承擔(dān)的責(zé)任”。在理工科大學(xué)教育中全面推進(jìn)工程倫理教育已成為工程界、教育界和政府相關(guān)部門的共識(shí)。

第三，提高科研人員的人文素養(yǎng)?？蒲腥藛T在工作過(guò)程中，企業(yè)應(yīng)主動(dòng)承擔(dān)科研人員的人文素養(yǎng)教育。在開展科技研究的過(guò)程中，要將技術(shù)能力和職業(yè)道德并舉，企業(yè)效益和社會(huì)責(zé)任兩手抓，兩手都要硬。在科技管理中，加強(qiáng)科研人員的職業(yè)素養(yǎng)教育，提高科研人員遵紀(jì)守法、追求真理、誠(chéng)實(shí)守信、杜絕弄虛作假等職業(yè)道德，弘揚(yáng)風(fēng)清氣正的科研環(huán)境。

第四，發(fā)揮政府的指導(dǎo)性作用。政府針對(duì)人工智能發(fā)展中存在的社會(huì)問(wèn)題進(jìn)行研究，出臺(tái)相關(guān)行政規(guī)章制度，并設(shè)立專門的機(jī)構(gòu)進(jìn)行規(guī)范和監(jiān)督，除了禁止與人性倫理道德完全相違背的技術(shù)及其應(yīng)用外，對(duì)于大多數(shù)具有一般性倫理問(wèn)題的新技術(shù)，可以引入一種倫理“軟著陸”的機(jī)制[6]。在剛性規(guī)則不成熟的情況下，政府和企業(yè)可以聯(lián)合出臺(tái)指導(dǎo)性的行業(yè)規(guī)約，對(duì)技術(shù)的研究和應(yīng)用進(jìn)行約束，并周期性評(píng)估執(zhí)行過(guò)程中的規(guī)約，實(shí)現(xiàn)倫理在科技應(yīng)用中的“軟著陸”。

第五，進(jìn)行同行評(píng)議。號(hào)召不同區(qū)域、不同單位的專家學(xué)者對(duì)人工智能技術(shù)及其倫理問(wèn)題進(jìn)行評(píng)議和審核，同行具有比外行更專業(yè)的知識(shí)結(jié)構(gòu)，相互之間的評(píng)議更有說(shuō)服力。此外，專家學(xué)者之間還存在知識(shí)結(jié)構(gòu)互補(bǔ)，同行評(píng)議方式可以對(duì)他人的研究成果進(jìn)行監(jiān)督和規(guī)范。

第六，開展跨學(xué)科專業(yè)論壇。組織召開跨學(xué)科專業(yè)論壇，參與者可以是利益相關(guān)者，擁有廣泛的視角和經(jīng)驗(yàn)。包括人工智能技術(shù)專家、生物醫(yī)學(xué)家、社會(huì)學(xué)家、倫理學(xué)家、決策者、管理者、研究資助者、公共利益的擁護(hù)者、行業(yè)代表和公眾成員等。從不同的角度看待以人工智能為代表的專業(yè)技術(shù)，了解不同學(xué)科的需求和關(guān)切，收集廣泛的意見和建議，最終達(dá)成共識(shí)。

三、結(jié)束語(yǔ)

人工智能技術(shù)的快速發(fā)展必然帶來(lái)一系列倫理問(wèn)題。在人工智能技術(shù)產(chǎn)業(yè)發(fā)展過(guò)程中，需要充分考慮人工智能技術(shù)倫理問(wèn)題對(duì)產(chǎn)業(yè)發(fā)展的影響。這意味著社會(huì)在肯定人工智能推動(dòng)人類社會(huì)進(jìn)步的同時(shí)，也要及時(shí)發(fā)現(xiàn)技術(shù)存在的不足之處，使人工智能的倫理研究能夠走在技術(shù)發(fā)展的前面。針對(duì)人工智能技術(shù)及其存在的問(wèn)題，本文提出了應(yīng)對(duì)人工智能技術(shù)倫理問(wèn)題的若干策略，以保證人工智能的發(fā)展受到道德倫理的約束。

作者單位：楊會(huì)軍 南京工程學(xué)院信息與通信工程學(xué)院

程啟華 南京工程學(xué)院工業(yè)中心

參? 考? 文? 獻(xiàn)

[1]吳漢東.人工智能時(shí)代的制度安排與法律規(guī)制[J]. 法律科學(xué)（西北政法大學(xué)學(xué)報(bào)）， 2017， 35 （05）： 128-136.

[2]朱欣文. 5G+人工智能時(shí)代辦公室工作模式與應(yīng)對(duì)策略[J]. 秘書之友， 2020 （02）： 4-7.

[3]張全潔. 人工智能的倫理準(zhǔn)則研究[D]. 蘇州大學(xué)， 2020.

[4]王紹源， 趙君. “物倫理學(xué)”視閾下機(jī)器人的倫理設(shè)計(jì)——兼論機(jī)器人倫理學(xué)的勃興[J]. 道德與文明， 2013 （3）： 133-138.

[5]王蒲生，雷毅.技術(shù)的報(bào)復(fù)——科技倫理與科技人員的倫理責(zé)任[J]. 科學(xué)中國(guó)人， 2002（05）： 42-44.

[6]劉大椿. 在真與善之間——科技時(shí)代的倫理問(wèn)題與道德抉擇[M]. 北京： 中國(guó)社會(huì)科學(xué)出版社， 2000.

基金項(xiàng)目：江蘇省教育廳高校哲學(xué)社會(huì)科學(xué)研究項(xiàng)目資助（2022SJYB0449）。

楊會(huì)軍（1979.10-），男，漢族，河南長(zhǎng)葛，博士，高級(jí)工程師，研究方向：電磁信息數(shù)據(jù)及應(yīng)用；

程啟華（1979.07-），女，漢族，四川成都，博士，副教授，研究方向：智能測(cè)控系統(tǒng)。