朱子葉

摘要：人工智能技術(shù)的快速發(fā)展，推動了公共管理方式創(chuàng)新，同時產(chǎn)生一定應用風險，如基礎(chǔ)設(shè)施層、算法層、應用層出現(xiàn)的部分風險。本文就人工智能在公共管理中應用的風險探析。

關(guān)鍵詞：人工智能;公共管理;應用風險

1.引言

人工智能在公共管理應用初期，管理者不僅需發(fā)掘新技術(shù)的應用紅利，同時需對新技術(shù)的應用風險進行評估，及時對其風險漏洞進行處理，保證公共管理工作的整體開展安全性與可靠性。為達到人工智能技術(shù)預期應用價值，需對其應用風險進行針對性分析，進而合理優(yōu)化完善。

2.基礎(chǔ)設(shè)施層，數(shù)據(jù)安全風險

在現(xiàn)代社會公共管理過程中，人工智能技術(shù)主要依靠基礎(chǔ)設(shè)施，即大數(shù)據(jù)平臺、儲存平臺、調(diào)度系統(tǒng)、運算系統(tǒng)。通過對公共大數(shù)據(jù)進行分析可知，海量的公共大數(shù)據(jù)、高質(zhì)量、多領(lǐng)域的數(shù)據(jù)資料，則可以客觀真實的反饋公共事務(wù)的復雜關(guān)系，進而訓練得出高精度的智能算法，為公共管理提供真實、可行、客觀的分析參考結(jié)果。為達到預期公共管理效果，需在實際公共管理過程中，將相關(guān)公共信息進行量化處理，為人工智能處理提供數(shù)據(jù)支持[1]。

如政府進行智慧政務(wù)平臺搭建時，需對政務(wù)工作開展模式進行改革創(chuàng)新，合理應用現(xiàn)代網(wǎng)絡(luò)信息技術(shù)，使得用戶“足不出戶”利用手機終端完成事務(wù)辦理，而用戶開展政務(wù)辦理時，則會產(chǎn)生一定公共數(shù)據(jù)，智慧政務(wù)平臺將對數(shù)據(jù)信息進行收集整理。部分政務(wù)系統(tǒng)管理時，設(shè)定人臉識別閘機，預先對政務(wù)工作人員的人臉信息進行采集，將其個人信息轉(zhuǎn)化為代碼程序，為后續(xù)政務(wù)系統(tǒng)運行鋪墊基礎(chǔ)。2020年伊始出現(xiàn)的新冠疫情，給公共事務(wù)開展造成直接沖擊，為保證社會公共服務(wù)的正常運行，相關(guān)公共服務(wù)部門推出在線辦公、在線會議等工作模式，加速了公共管理實踐決策端到服務(wù)端的轉(zhuǎn)變。

3.算法層，風險解析

3.1算法監(jiān)管風險

在算法層運行過程中，由于監(jiān)管力度不足，導致算法監(jiān)管風險的增加，如部分地區(qū)的無人駕駛、無人售貨、隱私合規(guī)等，給市場運行監(jiān)管造成一定難度。因為，人工智能在公共管理工作中應用時，將出現(xiàn)產(chǎn)品許可、研發(fā)監(jiān)督、侵權(quán)責任等不同監(jiān)管問題。

在人工智能技術(shù)研發(fā)過程中，可能會涉及到技術(shù)專利，因此使得外部人員介入監(jiān)管的成本非常高昂，無法在算法出現(xiàn)重大問題前進行預防，給公共管理工作造成一定影響。由于智能算法的設(shè)計特殊性，無法簡要進行設(shè)計程序解釋，導致智能算法監(jiān)管工作出現(xiàn)短板。人工智能算法運行時，算法運算與推理機制都處于密封的“黑盒”當中，公共管理人員與監(jiān)管方案只可以輸入數(shù)據(jù)，由算法進行自主訓練，直到最終輸出數(shù)據(jù)運算結(jié)果，而監(jiān)管方與管理方，則無法了解算法的訓練學習模式與內(nèi)在邏輯體系。鑒于算法黑盒運行過程的不可解釋性，無法滿足公共管理的監(jiān)管基本要求，使得算法結(jié)果的整體可靠性與可信度降低[2]。

3.2算法偏見風險

在算法輸入大數(shù)據(jù)平臺時，可能會帶有一定算法偏見，而公共管理部門無法覺察到算法偏見，導致部分信息量輸入到智能算法系統(tǒng)當中，算法程序則會對輸入的數(shù)據(jù)信息進行深度挖掘，使得人工智能“學習”過程中產(chǎn)生一定算法偏見，該偏見問題的存在，將導致人工智能做出錯誤判斷，進而衍生出算法偏見風險。

算法設(shè)計者精心設(shè)計的算法系統(tǒng)，本人認為算法系統(tǒng)完美無缺，但由于智能算法沒有得到同行專家審查，并沒有對算法的偏見性進行考察，且未設(shè)計抵御偏見算法的相關(guān)機制，導致算法偏見風險一旦出現(xiàn)，則無法進行很好解決。在實際算法應用過程中，工程師將目標任務(wù)轉(zhuǎn)化為智能算法可識別的程序代碼，在代碼程序設(shè)定時，將具有很強的主觀意識，進而導致輸出結(jié)果受到一定影響。在算法程序設(shè)定過程中，出資利益集團為保證核心利益，將引導算法出現(xiàn)一定偏好，導致智能算法成為資本操控與政治內(nèi)嵌的助手，進而對公共管理系統(tǒng)進行操控，引導人民大眾的盲目信任，不利于社會可持續(xù)穩(wěn)定發(fā)展。

3.3技術(shù)精度風險

人工智能技術(shù)基于特殊算法形成應用價值，但由于算法技術(shù)方案的差異性，無法保證算法方案的可靠性，導致算法層，出現(xiàn)技術(shù)精度風險。在人工智能技術(shù)開發(fā)過程中，基于實驗室的良好條件完成算法運行，但并不表示算法技術(shù)方案，在現(xiàn)實復雜環(huán)境中應用具有一定可靠性。由此可見，人工智能技術(shù)的應用穩(wěn)定性仍需考證。

在公共管理服務(wù)合作過程中，由于合作雙方的視域鴻溝，導致無法對人工智能技術(shù)穩(wěn)定性與可靠性進行全面評估，給后續(xù)公共管理工作埋下安全隱患。同時，公共管理部門缺乏技術(shù)創(chuàng)新意識，沒有打造核心工程師團隊，導致無法對人工智能技術(shù)進行科學評估，進而引發(fā)人工智能技術(shù)精度風險。

4.應用層，風險剖析

公共管理應用層出現(xiàn)的風險，主要是基礎(chǔ)設(shè)施層與算法層，產(chǎn)生的風險傳導形成應用層風險。筆者以隱私泄露風險為例分析，基礎(chǔ)設(shè)施層的用戶隱私數(shù)據(jù)，遭到黑客攻擊后，將可能受到算法層相關(guān)利益集團的操控，對用戶的隱私進行截取，導致用戶應用隱私不斷泄漏。

5.結(jié)束語

綜上，文中對人工智能技術(shù)，在公共管理中的應用風險進行分析。筆者基于基礎(chǔ)設(shè)施層、算法層、應用層進行風險闡述，旨在說明人工智能技術(shù)應用的實際效果。未來人工智能技術(shù)應用過程中，應當對人工智能技術(shù)進行不斷完善，保證人工智能技術(shù)應用的可靠性與安全性，推動我國人工智能技術(shù)的可持續(xù)發(fā)展，使其發(fā)揮出一定社會公共服務(wù)價值。

參考文獻：

[1]胡象明，陳一帆.人工智能在公共管理中應用的風險分析[J].科技智囊，2020（01）：66-70.

[2]鮑源濤.淺談人工智能在公共管理中的應用[J].中國新通信，2019，21（01）：138.