【摘" 要】 在人工智能技術(shù)快速發(fā)展的背景下，人工智能參與決策過(guò)程的深度不斷拓展，這在提升組織決策效率和精準(zhǔn)化的同時(shí)，也給社會(huì)治理帶來(lái)了嚴(yán)峻的挑戰(zhàn)。文章探析了人工智能參與決策過(guò)程中面臨的挑戰(zhàn)，并基于此闡述了人工智能參與決策過(guò)程的圖景。

【關(guān)鍵詞】 人工智能；決策過(guò)程；權(quán)責(zé)體系

人工智能的發(fā)展史可追溯至20世紀(jì)50年代，人工智能在經(jīng)歷了系列進(jìn)化和突破后，從簡(jiǎn)單的圖像識(shí)別發(fā)展到如今的自主決策，簡(jiǎn)化為四個(gè)階段（見(jiàn)圖1）。

2017年，我國(guó)頒發(fā)了《新一代人工智能發(fā)展規(guī)劃》，明確提出要把握住人工智能發(fā)展的重大戰(zhàn)略機(jī)遇，這為人工智能技術(shù)的發(fā)展指明了方向。此后，人工智能技術(shù)獲取了更為廣泛的應(yīng)用，特別是廣泛地參與到?jīng)Q策過(guò)程中，提升了決策效率和質(zhì)量，實(shí)現(xiàn)了決策的精準(zhǔn)化。然而，人工智能參與決策過(guò)程中仍然面臨著較大的挑戰(zhàn)。

一、人工智能參與決策過(guò)程面臨的挑戰(zhàn)

（一）決策信息資源不足

與傳統(tǒng)人工決策相比，人工智能能通過(guò)大數(shù)據(jù)技術(shù)獲取大量的數(shù)據(jù)，并高效地對(duì)這些數(shù)據(jù)進(jìn)行整理、分析，這是人工智能參與決策過(guò)程的重大優(yōu)勢(shì)。然而，這并不意味著人工智能能獲取與決策相關(guān)的所有信息資源。相反，人工智能參與決策仍然面臨數(shù)據(jù)來(lái)源不足的問(wèn)題，這在很大程度上影響了決策結(jié)果的科學(xué)性和正確性，甚至?xí)霈F(xiàn)較大的決策失誤。人工智能參與決策過(guò)程的信息資源不足主要體現(xiàn)在兩個(gè)方面。一方面，人工智能參與決策過(guò)程的信息獲取缺乏動(dòng)態(tài)調(diào)整。人工智能在參與決策過(guò)程中，算法開(kāi)啟后就按照程序的指定開(kāi)始運(yùn)行，而決策的信息資源大都是在算法開(kāi)啟前獲取的數(shù)據(jù)，在決策過(guò)程中難以實(shí)現(xiàn)人類決策的溝通水平。也就是說(shuō)，人工智能參與決策過(guò)程中既難以獲取外部環(huán)境的變化，也難以與利益相關(guān)者進(jìn)行充分的交流與溝通，這在很大程度上降低了人工智能參與決策過(guò)程的科學(xué)性。另一方面，人工智能參與決策過(guò)程難以獲取非正式溝通信息資源。正式溝通是獲取信息資源的官方渠道，也是人工智能獲取信息資源的主要來(lái)源。然而，非正式溝通同樣蘊(yùn)含著大量的信息資源，甚至在某些場(chǎng)景下，非正式溝通中才能獲取人員的真實(shí)想法和動(dòng)機(jī)。因此，非正式溝通對(duì)于決策具有重要的意義。從這一維度來(lái)看，人工智能對(duì)非正式溝通信息資源的忽視，決定了人工智能參與決策過(guò)程面臨著巨大挑戰(zhàn)。

（二）人工智能系統(tǒng)的運(yùn)作黑箱

傳統(tǒng)組織決策行為多發(fā)生在人與人之間，決策過(guò)程和決策結(jié)果都具有明確的理性邏輯和流程，因此決策具有很強(qiáng)的可理解性和可解釋性，這既是讓人感知到?jīng)Q策公平性的重要因素，也是影響決策公信力的重要條件。然而，人工智能系統(tǒng)存在著天然的運(yùn)作“黑箱”。人工智能參與決策過(guò)程主要基于算法，這主要分為兩類：一是傳統(tǒng)算法，即邏輯嚴(yán)密的算法被程序員提前內(nèi)置到系統(tǒng)中，從而根據(jù)獲取的信息進(jìn)行決策；二是新算法，即人工智能具有模擬思維的能力，可以根據(jù)獲取的信息進(jìn)行自我學(xué)習(xí)，實(shí)現(xiàn)算法的自我迭代，從而在更復(fù)雜的環(huán)境中做出決策。實(shí)際上，人工智能參與決策過(guò)程中，新算法所占的比例正逐漸加大，這也意味著決策結(jié)果只能依靠數(shù)據(jù)計(jì)算來(lái)解釋，而無(wú)法依靠理性邏輯去理解和解釋其中的邏輯關(guān)系，從而造成人工智能參與決策過(guò)程的透明度不足。這給人工智能參與決策過(guò)程帶來(lái)了挑戰(zhàn)。一方面，人工智能基于算法參與決策過(guò)程，將人進(jìn)行物化，人類的情感、人性都轉(zhuǎn)化為可量化的數(shù)據(jù)，忽略了人的人格和情感。另一方面，人工智能參與決策過(guò)程由于缺乏可解釋性，這會(huì)讓相關(guān)利益主體感受到不公平，不利于決策的公信力，也導(dǎo)致大眾監(jiān)督變得愈發(fā)困難。

（三）決策過(guò)程中的價(jià)值理性沖擊

人工智能在參與決策過(guò)程中按照既定的算法來(lái)得出決策結(jié)果，這無(wú)疑在很大程度上擺脫了人的情緒和感性方面的影響，使得決策結(jié)果更加客觀。然而，在人工智能的運(yùn)行邏輯中，人的行為和思想都轉(zhuǎn)化為可量化的數(shù)據(jù)，而且程序只要開(kāi)始運(yùn)行，就會(huì)按照設(shè)定的算法運(yùn)行下去，不會(huì)由于內(nèi)外部環(huán)境的變化而輕易改變，即使決策過(guò)程和結(jié)果已經(jīng)與社會(huì)價(jià)值觀產(chǎn)生沖突和偏離，這就可能導(dǎo)致人工智能參與決策過(guò)程中的價(jià)值理性沖擊。人工智能體系能為決策提供更豐富的信息，但往往無(wú)法確定哪方面的數(shù)據(jù)要給予更多的權(quán)重；人工智能體系能根據(jù)大數(shù)據(jù)技術(shù)迅速計(jì)算出哪個(gè)決策結(jié)果更有效率，更節(jié)約成本，但是卻從社會(huì)價(jià)值和社會(huì)倫理的維度去判斷，也無(wú)法量化人類的真實(shí)情感。由于人工智能體系可能脫離社會(huì)大環(huán)境，對(duì)人類的生活經(jīng)驗(yàn)和常識(shí)缺乏理解，也不具有這方面的矯正機(jī)制，因此相關(guān)的決策結(jié)果可能會(huì)違背常理，帶來(lái)道德風(fēng)險(xiǎn)和倫理風(fēng)險(xiǎn)。若人工智能體系在決策過(guò)程中處于輔助的作用，人類還可以進(jìn)行人為矯正和價(jià)值調(diào)控，而在人工智能主導(dǎo)的決策過(guò)程中，價(jià)值理性會(huì)受到嚴(yán)重的沖擊。

（四）決策選擇中的權(quán)責(zé)體系失衡

組織決策是一項(xiàng)系統(tǒng)的工程，涉及眾多的利益相關(guān)者和復(fù)雜的數(shù)據(jù)，根據(jù)決策過(guò)程的不同會(huì)產(chǎn)生不同的備選方案。因此，如何去選擇出一個(gè)決策結(jié)果是一個(gè)重大的現(xiàn)實(shí)問(wèn)題，作出選擇也意味著要承擔(dān)對(duì)應(yīng)的決策責(zé)任。在傳統(tǒng)決策過(guò)程中，人類是決策的中心，遵循“誰(shuí)決策，誰(shuí)負(fù)責(zé)”的原則，同時(shí)在承擔(dān)決策失敗風(fēng)險(xiǎn)的同時(shí)，也能享受到?jīng)Q策成功的紅利。這意味著傳統(tǒng)決策過(guò)程中的權(quán)責(zé)體系是平衡的。然而，在人工智能參與決策過(guò)程中，決策選擇中的權(quán)責(zé)體系出現(xiàn)失衡的現(xiàn)象。特別是隨著人工智能參與決策的深度不斷拓展，并逐漸取代人類在決策過(guò)程中的主導(dǎo)地位，然而人工智能卻不具備承擔(dān)決策責(zé)任的能力。在決策過(guò)程中人類主導(dǎo)地位下降主要源于兩方面的因素：一是人類的主動(dòng)讓渡，即人類認(rèn)識(shí)到人工智能在決策上的高效率和高質(zhì)量，主動(dòng)將決策權(quán)讓渡給人工智能；二是被迫讓渡，即在信息爆炸時(shí)代，受限于現(xiàn)實(shí)條件，人類不得不將部分決策權(quán)讓渡給人工智能。即便人類具有強(qiáng)烈的自主決策意愿，但所獲取的信息實(shí)際上是人工智能處理過(guò)的，甚至部分“事實(shí)要素”也是人工智能參與的結(jié)果?；诖?，決策權(quán)威從人類轉(zhuǎn)變到人工智能，然而人工智能卻不具備作為責(zé)任主體的能力，這也意味著一些重大決策中沒(méi)有主體為其決策結(jié)果承擔(dān)責(zé)任，造成決策選擇中的權(quán)責(zé)體系失衡。

二、人工智能參與決策過(guò)程的圖景

（一）增強(qiáng)人工智能的信息獲取能力

人工智能參與決策過(guò)程中表現(xiàn)出整體上的信息獲取和處理能力優(yōu)勢(shì)，但在某些領(lǐng)域的信息獲取上還存在短板，特別是在與人的實(shí)時(shí)交流和認(rèn)知上存在障礙。因此，人工智能參與決策過(guò)程要增強(qiáng)信息獲取能力。首先，要強(qiáng)化人工智能參與決策過(guò)程的實(shí)時(shí)溝通能力。在信息時(shí)代，各行業(yè)、各領(lǐng)域外部環(huán)境變化迅速，正如美國(guó)作家斯賓塞·約翰遜所言：唯一不變的就是變化。在此背景下，組織決策要根據(jù)內(nèi)外部環(huán)境變化來(lái)進(jìn)行及時(shí)調(diào)整，才能保證決策結(jié)果的科學(xué)性。在人工智能參與決策過(guò)程的圖景上，要優(yōu)化人工智能系統(tǒng)技術(shù)上的信息共享功能，并強(qiáng)化人與人工智能系統(tǒng)的交互功能，使人工智能系統(tǒng)通過(guò)人機(jī)交互，以及機(jī)機(jī)交互來(lái)獲取內(nèi)外部環(huán)境變化信息，并應(yīng)用于決策過(guò)程。其次，要強(qiáng)化人工智能獲取非正式溝通信息的能力。非正式溝通信息是決策過(guò)程中不可缺少的信息資源，因此人工智能參與決策過(guò)程中要充分了解各參與主體在非正式溝通場(chǎng)合表露出的態(tài)度和意見(jiàn)。實(shí)際上，非正式溝通信息難以獲取的一個(gè)重要原因是其中包含了大量的非結(jié)構(gòu)化信息，包括語(yǔ)音、視頻和用戶畫(huà)像等，還包括人類在溝通過(guò)程中的肢體語(yǔ)言、微表情等。因此，人工智能技術(shù)要加強(qiáng)非結(jié)構(gòu)化信息資源的收集和處理能力，進(jìn)而提升獲取非正式溝通信息的能力，實(shí)現(xiàn)人工智能參與決策過(guò)程的科學(xué)性。

（二）建立“解釋與理解”雙向發(fā)展的人工智能體系

人工智能參與決策過(guò)程中，人類仍然占據(jù)著重要的作用和地位，因此要建立人工智能主動(dòng)解釋和人類主動(dòng)理解的雙向發(fā)展的人工智能體系。研究表明，信任和人工智能的可解釋性呈現(xiàn)出正相關(guān)的關(guān)系，可解釋性強(qiáng)的決策能得到更多人的認(rèn)可。人類對(duì)人工智能可解釋性的訴求源于人工智能系統(tǒng)的運(yùn)作“黑箱”，因此，人工智能要更好地參與決策過(guò)程，就要實(shí)現(xiàn)算法的公開(kāi)與透明，采用通俗的、易懂的社會(huì)語(yǔ)言，而非抽象的、專業(yè)性強(qiáng)的計(jì)算機(jī)語(yǔ)言去向利益相關(guān)者闡釋人工智能參與決策過(guò)程的機(jī)理，提升人對(duì)人工智能決策的認(rèn)知，從而更好地保障其監(jiān)督權(quán)，實(shí)現(xiàn)人工智能參與決策過(guò)程的科學(xué)性。此外，現(xiàn)階段人與技術(shù)交互之間還存在一定的障礙，這對(duì)于技術(shù)水平不高的人來(lái)說(shuō)，將自己的意圖傳達(dá)給機(jī)器存在較大的困難，同時(shí)也難以理解人工智能的運(yùn)行邏輯。因此，要優(yōu)化人與機(jī)器交互的端口，實(shí)現(xiàn)更人性化的人機(jī)交互機(jī)制，使人與機(jī)器的溝通、互動(dòng)能更加便捷，從而增強(qiáng)人類對(duì)人工智能決策的可理解性。

（三）完善公共價(jià)值治理

人類以共同體的形式生活在社會(huì)之中，離不開(kāi)所有社會(huì)成員共同的公共價(jià)值。無(wú)論人工智能技術(shù)如何發(fā)展，其落腳點(diǎn)都在于為人類的共同價(jià)值服務(wù)。因此，人工智能參與決策過(guò)程中，要不斷完善公共價(jià)值治理，實(shí)現(xiàn)決策實(shí)質(zhì)上的價(jià)值理性。一方面，要明確人工智能技術(shù)的決策輔助地位。由于信息不對(duì)稱和算法的不透明性，導(dǎo)致決策責(zé)任很難被明確。若人工智能主導(dǎo)決策過(guò)程，很有可能造成決策結(jié)果與公共價(jià)值的背離。因此，要始終將人工智能作為人類決策的工具，明確人工智能在決策過(guò)程中的輔助性地位，降低不正確授權(quán)而對(duì)價(jià)值理性的沖擊。另一方面，要將公共價(jià)值內(nèi)化于人工智能算法中?，F(xiàn)階段，公共價(jià)值如何量化到人工智能技術(shù)之中是一大挑戰(zhàn)，也是人工智能參與決策過(guò)程的偉大圖景。在信息獲取過(guò)程中，要對(duì)算法進(jìn)行優(yōu)化，采用賦予權(quán)重的方式來(lái)引導(dǎo)算法向公共價(jià)值靠攏，同時(shí)探索出更先進(jìn)的信息獲取技術(shù)，對(duì)非結(jié)構(gòu)化信息和非正式溝通信息進(jìn)行準(zhǔn)確識(shí)別。在決策過(guò)程中，要將是否遵循公共價(jià)值作為決策選擇的一票否決因素，保證決策結(jié)果與公共價(jià)值相匹配。

（四）健全人工智能決策的權(quán)責(zé)體系

由于人工智能無(wú)法成為決策的責(zé)任主體，因此在人工智能參與決策過(guò)程中，要將人類作為決策過(guò)程和結(jié)果的權(quán)責(zé)主體，明確人工智能在決策過(guò)程中所產(chǎn)生風(fēng)險(xiǎn)的具體責(zé)任人。政府機(jī)構(gòu)可以采用嚴(yán)格的制度標(biāo)準(zhǔn)來(lái)落實(shí)責(zé)任體系，對(duì)于決策過(guò)程中的風(fēng)險(xiǎn)，若決策風(fēng)險(xiǎn)是由于違反開(kāi)發(fā)準(zhǔn)入制度造成的，則決策責(zé)任由技術(shù)開(kāi)發(fā)者來(lái)承擔(dān)；若決策風(fēng)險(xiǎn)是由于違反生產(chǎn)制度標(biāo)準(zhǔn)造成的，則決策責(zé)任由技術(shù)使用者來(lái)承擔(dān)；若決策符合制度標(biāo)準(zhǔn)，仍然出現(xiàn)決策風(fēng)險(xiǎn)，則要反思準(zhǔn)入制度是否科學(xué)、合理，根據(jù)實(shí)際情況對(duì)準(zhǔn)入制度進(jìn)行優(yōu)化和調(diào)整。同時(shí)，要對(duì)符合準(zhǔn)入制度的決策風(fēng)險(xiǎn)進(jìn)行補(bǔ)救，由政府機(jī)構(gòu)承擔(dān)治理責(zé)任。政府機(jī)構(gòu)可以成立專門針對(duì)人工智能決策風(fēng)險(xiǎn)的專項(xiàng)委員會(huì)，除了對(duì)技術(shù)風(fēng)險(xiǎn)進(jìn)行識(shí)別外，最主要的還是承擔(dān)著技術(shù)風(fēng)險(xiǎn)補(bǔ)救職責(zé)，對(duì)因人工智能決策造成損失的相關(guān)主體進(jìn)行救濟(jì)，減輕相關(guān)主體的損失。

三、結(jié)語(yǔ)

隨著人工智能在各個(gè)領(lǐng)域的廣泛應(yīng)用，人類與AI的協(xié)作開(kāi)始變得普遍。AI可以提供建議和相關(guān)信息，因此其在決策過(guò)程中的角色逐漸凸顯。然而，人工智能參與決策過(guò)程并非一帆風(fēng)順，面臨著決策信息資源不足、人工智能系統(tǒng)的運(yùn)作黑箱、決策過(guò)程中的價(jià)值理性沖擊、決策選擇中的權(quán)責(zé)體系失衡等諸多挑戰(zhàn)。為了解決這一系列問(wèn)題，需要增強(qiáng)人工智能的信息獲取能力、建立“解釋與理解”雙向發(fā)展的人工智能體系、完善公共價(jià)值治理、健全人工智能決策的權(quán)責(zé)體系。只有如此，才能充分發(fā)揮人類與AI協(xié)作的潛力，為AI輔助決策提供保障。

參考文獻(xiàn)：

［1］ 王鋒，劉瑋. 人工智能參與決策過(guò)程的挑戰(zhàn)與圖景［J］. 求實(shí)，2023（03）：18-29.

［2］ 孫立會(huì). 人工智能之于教育決策的主體性信任危機(jī)及其規(guī)避［J］. 電化教育研究，2023，44（03）：21-27+43.

［3］ 杜昕怡，肖澤晟. 人工智能算法輔助行政決策的法治風(fēng)險(xiǎn)及其化解路徑［J］. 學(xué)習(xí)論壇，2023（03）：122-130.

［4］ 蘇麗，張卓玉. 人工智能參與行政決策的法治風(fēng)險(xiǎn)探究［J］. 石家莊學(xué)院學(xué)報(bào)，2023，25（04）：155-160.

［5］ 余樂(lè)安. 基于人工智能的預(yù)測(cè)與決策優(yōu)化理論和方法研究［J］. 管理科學(xué)，2022，35（01）：60-66.

［6］ 孔祥維，王子明，王明征，等. 人工智能使能系統(tǒng)的可信決策：進(jìn)展與挑戰(zhàn)［J］. 管理工程學(xué)報(bào)，2022，36（06）：1-14.

［7］ 柳亦博，高潔，李軼倩. 人工智能參與決策對(duì)行政倫理的影響及其治理之道［J］. 中共天津市委黨校學(xué)報(bào)，2022，24（06）：55-63.

［8］ 吳進(jìn)進(jìn)，符陽(yáng). 算法決策：人工智能驅(qū)動(dòng)的公共決策及其風(fēng)險(xiǎn)［J］. 開(kāi)放時(shí)代，2021（05）：194-206.