王麗麗 桂婷

摘要：人工智能是一把雙刃劍，在推動人類社會發(fā)展的同時，也帶來了多重潛在風險。如何保證人工智能技術(shù)安全、可靠、可控引發(fā)廣泛討論。目前，美國、英國等均已逐步開展人工智能治理實踐，以規(guī)避技術(shù)發(fā)展帶來的風險。關(guān)于人工智能這一類新興科技的發(fā)展，我國一直是采取鼓勵與監(jiān)管并行的道路，并且在近年來越發(fā)重視新興科技監(jiān)管方面的建設(shè)。文章梳理了歐美國家有代表性的舉措，總結(jié)了人工智能治理的最新實踐做法，為我國制定政策提供參考。

關(guān)鍵詞：人工智能；監(jiān)管；風險；政策建議

中圖分類號：TP18 文獻標識碼：A

文章編號：1009-3044（2024）05-0018-03

科技的發(fā)展已經(jīng)讓人工智能從科幻走入現(xiàn)實。近年來，人工智能已深入影響人們的生活，在諸多領(lǐng)域獲得廣泛應(yīng)用。2022年11月推出的ChatGPT更是讓生成式人工智能炙手可熱。同時，與人工智能相關(guān)的網(wǎng)絡(luò)安全、數(shù)據(jù)安全、虛假信息等負面消息也始終伴隨其發(fā)展，展示出一些令人擔憂的趨勢，圍繞如何對人工智能進行監(jiān)管的討論不斷。本文通過研究目前國內(nèi)外關(guān)于人工智能監(jiān)管的策略和措施，為我國下一步促進人工智能健康發(fā)展提供政策建議。

1 人工智能發(fā)展存在多重潛在風險

1） 人工智能帶來的網(wǎng)絡(luò)攻擊和信息泄露易引發(fā)犯罪或威脅國家安全。人工智能是一把雙刃劍。目前，全球范圍內(nèi)，已有多項研究顯示，隨著人工智能的普及，勒索軟件攻擊增加了一倍。人工智能可能會被濫用于網(wǎng)絡(luò)釣魚、虛假信息和網(wǎng)絡(luò)犯罪，造成個人信息泄露、被篡改或被濫用，導(dǎo)致社會資源浪費或國家安全受損等后果。例如，現(xiàn)實生活中，不少不法分子利用網(wǎng)絡(luò)平臺進行各種“換臉”詐騙；惡意偽造視頻、圖片和文本等信息，向公眾傳播虛假信息，破壞社會的穩(wěn)定和政治的安全；采用AI技術(shù)，將勒索軟件轉(zhuǎn)化為武器化工具，以更有效地策劃針對國防、城市、公共交通、醫(yī)院、商業(yè)等相關(guān)領(lǐng)域的攻擊行動。

2） 人工智能或?qū)蜆I(yè)造成沖擊，其算法偏見或加劇社會不公?！叭斯ぶ悄苁欠駮?dǎo)致大規(guī)模的失業(yè)”一直是互聯(lián)網(wǎng)上的熱門話題。毫無疑問，人工智能會導(dǎo)致大量的自動化，一定會取代一些低技能、低附加值的工作。律師、會計師等部分需要高度專業(yè)知識的工作，也可能被機器人所取代。人工智能正在挑戰(zhàn)社會就業(yè)結(jié)構(gòu)，人們抑或會進入一個技術(shù)性失業(yè)率不斷上升的時代，社會壓力和不安定感可能會進一步加劇。同時，由算法所引發(fā)的偏見和歧視還將影響人工智能判斷的公平性，可能會導(dǎo)致社會不公平現(xiàn)象的加劇，增加社會緊張和不穩(wěn)定的風險。例如，在就業(yè)、教育和醫(yī)療等領(lǐng)域，機器學(xué)習算法可能會根據(jù)用戶的性別、種族、宗教或社會地位等因素進行不公正的推薦，從而加劇社會的不穩(wěn)定[1]。

3） 人工智能開發(fā)或危及人類“文明控制權(quán)”。2023年3月，馬斯克和人工智能領(lǐng)域頂尖專家約書亞·本吉奧等千名大佬在一封公開信上簽名，呼吁立即停止開發(fā)比GPT-4更強大的人工智能系統(tǒng)，認為AI 對人類和社會構(gòu)成多重風險，并拋出疑問：“我們是否應(yīng)該發(fā)展最終可能在數(shù)量上超過我們、在智能上超越我們、能夠淘汰并取代我們的非人類思維？”[2]這一事件再次將人工智能是否會威脅人類的話題拋到大眾跟前。新興科技正在重塑人類的社會秩序和倫理規(guī)范，不道德地使用人工智能，是否會導(dǎo)致人工智能取代人的功能，甚至取代人的主體地位，成為人工智能發(fā)展必須考慮的問題。同時，如果某個國家或國際組織獨占一些關(guān)鍵的技術(shù)、數(shù)據(jù)和算法，就可能占據(jù)全球智能產(chǎn)業(yè)的主導(dǎo)地位，從而影響全球文明的走向和人類的未來。

2 國內(nèi)外關(guān)于人工智能監(jiān)管的策略和措施

有關(guān)人工智能的監(jiān)管問題討論已久。面對迅猛發(fā)展的人工智能技術(shù)，美國、英國等皆有監(jiān)管行動。斯坦福大學(xué)在發(fā)布的一份報告中提到，通過對127個國家的立法記錄進行調(diào)查可以發(fā)現(xiàn)，2016年到2022 年，通過立法的與“人工智能”相關(guān)的法案，從僅1個增長到37個[3]。下面就目前推行的有關(guān)人工智能監(jiān)管的策略和措施進行梳理匯總。

2.1 國際上關(guān)于人工智能監(jiān)管的策略和措施

1） 聯(lián)合國。當?shù)貢r間2023年6月12日，聯(lián)合國秘書長古特雷斯表示，支持人工智能行業(yè)一些高管的提議，即成立一個像國際原子能機構(gòu)的國際人工智能監(jiān)管機構(gòu)。當?shù)貢r間2023年7月18日，聯(lián)合國安理會在美國紐約首次就人工智能與安全問題舉行高級別公開會。聯(lián)合國秘書長古特雷斯表示，聯(lián)合國計劃9 月任命一個人工智能顧問委員會，監(jiān)管人工智能發(fā)展，為聯(lián)合國可能采取的行動做準備[4]。同時，2023年7月，聯(lián)合國教科文組織發(fā)布了《生成式人工智能與教育的未來》的報告，對生成式AI帶來的影響進行了批判性反思，呼吁加強對生成式人工智能的審查和監(jiān)管，以確保生成式人工智能與教育的融合符合教育目標和人類價值觀。

2） 美國。2020年3月，《國家人工智能倡議法》提出應(yīng)警惕具有自主意識或者不受控制的AI，建立可信賴的AI系統(tǒng)。2021年1月，美國正式頒布《2020年國家人工智能倡議法案》，設(shè)立國家人工智能倡議辦公室，承擔“監(jiān)督和實施美國國家人工智能戰(zhàn)略”等職責。2022年10月，白宮科學(xué)和技術(shù)政策辦公室發(fā)布了《人工智能權(quán)利法案藍圖》，其中列舉了算法歧視保護措施。2023年1月，美國NIST（國家標準與技術(shù)研究院）實施了《人工智能風險管理框架1.0》，目的是為相關(guān)機構(gòu)設(shè)計和管理可信賴的人工智能提供一個管理框架，從而避免產(chǎn)生負面后果。2023年4月11日，美國商務(wù)部針對ChatGPT等技術(shù)的問責措施正式地公開廣泛征求意見，包括是否應(yīng)在人工智能模型發(fā)布前進行核準認證程序。2023年5月，美國國家科學(xué)基金會稱擬撥款1.4億美元，為7所國家人工智能研究院的啟動提供資金。2023年5月16日，在美國參議院隱私、技術(shù)和法律小組委員會聽證會上，美國國會成員公開支持成立一個新的聯(lián)邦機構(gòu)，專門負責人工智能的監(jiān)管和許可。美國雖然尚未頒布專門針對AI監(jiān)管的全國性法律，然而，一些州開始在AI領(lǐng)域推出相關(guān)立法。據(jù)美國媒體報道，僅2023年就至少有25個州、波多黎各和哥倫比亞特區(qū)推出了人工智能法案。得克薩斯州、北達科他州、西弗吉尼亞州和波多黎各的立法機構(gòu)成立了咨詢機構(gòu)來研究和監(jiān)控各自國家機構(gòu)正在使用的人工智能系統(tǒng)，而路易斯安那州則成立了一個新技術(shù)和網(wǎng)絡(luò)安全委員會來研究人工智能對國家運營、采購和政策的影響。

3） 歐盟。從之前發(fā)布的《塑造歐洲數(shù)字未來》到《人工智能白皮書》、GDPR、《數(shù)字服務(wù)法案》《數(shù)字市場法案》等看出，歐盟在數(shù)字領(lǐng)域和人工智能領(lǐng)域一直走在前列，而且整體推進力度也較強。早在2021年4 月21 日，歐盟委員會就提出了《人工智能法案（AIAct） 》的監(jiān)管法案，旨在為人工智能引入一個共同的監(jiān)管和法律框架。2023年6月14日，歐洲議會投票通過了《人工智能法案》，禁止實時面部識別，并對Chat?GPT等生成式人工智能工具提出了新的透明度要求。歐盟批準的法律版本提出，任何應(yīng)用于就業(yè)、邊境管制和教育等“高風險”用例的人工智能都必須遵守一系列安全要求，包括風險評估、確保透明度和提交日志記錄。該法案不會自動將ChatGPT等“通用”AI視為高風險，但對“基礎(chǔ)模型”或經(jīng)過大量數(shù)據(jù)訓(xùn)練的強大AI系統(tǒng)施加了透明度和風險評估要求。法案預(yù)計將在今年年底獲得最終批準，隨后是企業(yè)和組織適應(yīng)的寬限期，通常約為兩年。

4） 英國。2023年3月底，英國發(fā)布了名為《支持創(chuàng)新的人工智能監(jiān)管方式》的政策文件，為人工智能發(fā)展提出意見。該份文件提出了人工智能在所有經(jīng)濟部門的發(fā)展和使用需遵守的五項原則：安全性和穩(wěn)健性、透明度和可解釋性、公平性、問責制和管理、可競爭性和補救性。為達到風險評估一致性，英國政府計劃匯集來自行業(yè)、監(jiān)管機構(gòu)、學(xué)術(shù)界和民間社會的前沿專家，在監(jiān)管機構(gòu)的協(xié)助下組建中央風險職能部門。5月4日，英國競爭和市場管理機構(gòu)宣布，將對人工智能市場展開審查，涉及ChatGPT 等工具背后的技術(shù)。

5） 其他國家。意大利的個人數(shù)據(jù)保護機構(gòu)2023 年3月31日宣布，禁止使用ChatGPT，限制其開發(fā)公司使用和處理意大利用戶的信息，并對此進行立案調(diào)查。隨后，法國國家信息自由委員會（CNIL） 以及西班牙數(shù)據(jù)保護機構(gòu)也決定對ChatGPT立案并展開調(diào)查。4月12日，澳大利亞工業(yè)、科學(xué)、能源和資源部一名發(fā)言人表示，堪培拉政府要求澳大利亞主要科學(xué)咨詢機構(gòu)提供關(guān)于如何應(yīng)對人工智能的建議。5月9日，日本首相岸田文雄透露，擬設(shè)置磋商制定利用AI相關(guān)規(guī)則等的“AI戰(zhàn)略會議”。

2.2 我國目前關(guān)于人工智能監(jiān)管的策略和措施

關(guān)于人工智能這一類新興科技的發(fā)展，我國一直是采取鼓勵與監(jiān)管并行的道路，并且在近年來越發(fā)重視新興科技監(jiān)管方面的建設(shè)。

2022年3月，中國開始實施對算法推薦的管理規(guī)定，對網(wǎng)絡(luò)服務(wù)平臺運用大數(shù)據(jù)分析用戶喜好、向用戶推送、精選、過濾信息的過程進行監(jiān)管。2023年1 月10日，中國開始實施與深度偽造相關(guān)的管理措施，要求服務(wù)提供商對那些“可能導(dǎo)致公眾混淆或者誤認的”AI生成內(nèi)容進行“顯著標識”。2023年4月，科技部針對《科技倫理審查辦法（試行）》進行公開征求意見，人工智能等科技的倫理審查制度初具雛形。2023 年8月15日，我國實施了《生成式人工智能服務(wù)管理暫行辦法》，成為首份監(jiān)管生成式AI的規(guī)范性文件，幫助我國人工智能產(chǎn)業(yè)監(jiān)管實現(xiàn)“彎道超車”。

地方層面，北京、深圳、成都等多地紛紛出臺人工智能相關(guān)舉措，希望贏在起跑線上?！渡钲谑屑涌焱苿尤斯ぶ悄芨哔|(zhì)量發(fā)展水平應(yīng)用行動方案（2023—2024 年）》《成都市進一步促進人工智能產(chǎn)業(yè)高質(zhì)量發(fā)展的若干政策措施（征求意見稿）》《北京市加快建設(shè)具有全球影響力的人工智能創(chuàng)新策源地實施方案（2023—2025年）》《上海市促進人工智能產(chǎn)業(yè)發(fā)展條例》等紛紛為人工智能的發(fā)展提供了政策指引[5]。

3 下一步做好監(jiān)管和促進健康發(fā)展的政策建議

目前美國、英國、歐盟等的技術(shù)發(fā)達地區(qū)在人工智能監(jiān)管上還未達成非常有效的、一致性的意見。縱觀全球人工智能監(jiān)管政策，我國的政策落實較快，措施比較到位。下一步，要從政策上多措并舉做好人工智能的監(jiān)管，促進其健康發(fā)展。

1） 充實監(jiān)管內(nèi)容，創(chuàng)新監(jiān)管手段，細化監(jiān)管體系。人工智能的監(jiān)管內(nèi)涵豐富，監(jiān)管范圍、監(jiān)管方式、監(jiān)管標準、數(shù)據(jù)隱私保護、安全風險防范等內(nèi)容皆應(yīng)納入監(jiān)管考慮。在此基礎(chǔ)上，應(yīng)不斷創(chuàng)新監(jiān)管手段，例如檢測虛假信息的技術(shù)等，盡早在技術(shù)手段方面進行布局。在監(jiān)管細化上，比如構(gòu)建人工智能監(jiān)管分行業(yè)、分場景、分應(yīng)用、分平臺、分技術(shù)的區(qū)別化監(jiān)管體系，兼顧各方權(quán)利與責任。

2） 采用包容審慎的軟性法律，為人工智能提供靈活的配套監(jiān)管舉措。需要遵循包容審慎的理念，實現(xiàn)精準監(jiān)管和鼓勵發(fā)展的開放性思路。同時依靠監(jiān)管之外的多元化措施，如標準、指南、試點等，來共同促進我國的技術(shù)創(chuàng)新和產(chǎn)業(yè)發(fā)展。通過差異化的技術(shù)標準與規(guī)范，應(yīng)用設(shè)計的安全默認原則、系統(tǒng)測試方案的評估與審核等，為人工智能應(yīng)用的發(fā)展提供更靈活的配套監(jiān)管舉措。

3） 必須切實加強國際合作，積極推動國際人工智能標準設(shè)定。除了面向國內(nèi)的政策舉措，歐美也在積極建立相關(guān)的國際聯(lián)盟、“數(shù)據(jù)俱樂部”等，希冀主導(dǎo)數(shù)據(jù)流動、數(shù)字稅收以及AI技術(shù)、倫理、治理等方面的國際標準。作為人工智能大國的中國，我國也應(yīng)考慮積極投身人工智能領(lǐng)域的國際治理合作與標準制定，重視AI倫理，加強AI治理，積極倡導(dǎo)人工智能發(fā)展理念，從而進一步提升科技競爭力和規(guī)則話語權(quán)。

4 總結(jié)

人工智能發(fā)展迅速，如何對其進行有效監(jiān)管也一直備受世界矚目。我國應(yīng)密切關(guān)注國際監(jiān)管動向，取長補短、因地制宜，用好“他山之石”，走出屬于中國的特色監(jiān)管道路。

參考文獻：

[1] 陳龍，曾凱，李莎，等.人工智能算法偏見與健康不公平的成因與對策分析[J].中國全科醫(yī)學(xué)，2023，26（19）：2423-2427.

[2] 周馳.馬斯克等千人簽署公開信，人工智能開發(fā)危及“文明控制權(quán)”？[N/OL]. 中國新聞網(wǎng)，2023-03-30.[2023-08-16].https：//baijiahao.baidu.com/s？id=1761720385220967465&wfr=spider&for=pc.

[3] 斯坦福大學(xué)以人為本人工智能研究所.2023年人工智能指數(shù)報告[R/OL].（2023-04-03）.[2023-08-16].https：//www.sen?sorexpert.com.cn/article/186064.html.

[4] 南博一，劉煒康，等.聯(lián)合國敦促對人工智能實施監(jiān)管：擔憂技術(shù)發(fā)展威脅世界和平[N/OL]. 澎湃新聞網(wǎng)，2023-07-19.[2023-08-16]. https：//baijiahao. baidu. com/s？ id=1771819994007179064&wfr=spider&for=pc.

[5] 蘇德悅.人工智能產(chǎn)業(yè)健康發(fā)展路在何方？[N].人民郵電報，2023-08-08（6）.

【通聯(lián)編輯：代影】