2024年12月26日，韓國國會(huì)全體會(huì)議經(jīng)表決通過《旨在構(gòu)建人工智能發(fā)展與信賴基礎(chǔ)的人工智能基本法》（以下簡稱《人工智能基本法》），使韓國成為繼歐盟之后，第二個(gè)制定人工智能基本法的國家。據(jù)悉，該法案將在國會(huì)表決公布后1年，即2026年1月開始正式施行。

韓國人工智能產(chǎn)業(yè)發(fā)展現(xiàn)狀

韓國政府高度重視人工智能的發(fā)展，2019年12月韓國政府公布了《人工智能國家戰(zhàn)略》，旨在凝聚國家力量、發(fā)揮自身優(yōu)勢，加快經(jīng)濟(jì)和社會(huì)的創(chuàng)新發(fā)展，為產(chǎn)業(yè)注入新的活力，實(shí)現(xiàn)從“IT強(qiáng)國”到“人工智能強(qiáng)國”的轉(zhuǎn)變。2024年8月，韓國進(jìn)一步出臺(tái)第一期《國家戰(zhàn)略技術(shù)培育基本計(jì)劃（2024—2028）》，其中涉及人工智能的50項(xiàng)重點(diǎn)技術(shù)。據(jù)相關(guān)報(bào)道，至2023年，已有超過80%的韓國人工智能相關(guān)公司產(chǎn)生了營收，在2020年至2023年期間韓國人工智能公司的營收增長了超過100%；同時(shí)，在研發(fā)上的投入，近3年平均每年增長17%。

全球人工智能治理浪潮等待迫切回應(yīng)。歐盟《人工智能法案》、美國《人工智能權(quán)利法案》等國際立法加速推進(jìn)，旨在搶占人工智能倫理與規(guī)則制定的主導(dǎo)權(quán)。韓國作為科技強(qiáng)國，需通過立法回應(yīng)國際規(guī)范，避免在全球競爭中落后。

《人工智能基本法》的主要內(nèi)容

韓國《人工智能基本法》以“發(fā)展與規(guī)制并重”為核心邏輯，既要抓住技術(shù)紅利推動(dòng)產(chǎn)業(yè)升級，又要通過法律框架防范風(fēng)險(xiǎn)、保障民生，同時(shí)在國際競爭中確立規(guī)則話語權(quán)，從而構(gòu)建安全、可信、包容的人工智能社會(huì)。

該法案主要包括以下內(nèi)容：

為人工智能全面治理建立相關(guān)組織體系。根據(jù)《人工智能基本法》，韓國將設(shè)立如下三個(gè)機(jī)構(gòu)：國家人工智能委員會(huì)，在總統(tǒng)領(lǐng)導(dǎo)下設(shè)立，負(fù)責(zé)審議和決定與人工智能發(fā)展和建立信任基礎(chǔ)的重大政策有關(guān)的事項(xiàng)，為人工智能基本計(jì)劃等具體舉措的實(shí)施提供宏觀方向引領(lǐng)和戰(zhàn)略布局。人工智能政策中心，隸屬于科技通信部，負(fù)責(zé)為人工智能總體規(guī)劃提供專業(yè)技能支持、研究分析人工智能的社會(huì)影響并協(xié)助相關(guān)政策的制定和業(yè)務(wù)延伸。人工智能安全研究所，以保護(hù)公眾生命、身體及財(cái)產(chǎn)安全為核心，承擔(dān)人工智能安全技術(shù)研究、風(fēng)險(xiǎn)評估標(biāo)準(zhǔn)制定、安全事故應(yīng)急處理等工作，為人工智能技術(shù)的安全應(yīng)用提供技術(shù)與監(jiān)管支持，確保人工智能在安全可控的框架內(nèi)發(fā)展。

為人工智能技術(shù)開發(fā)和產(chǎn)業(yè)培育提供合作支持。技術(shù)創(chuàng)新支持：通過提供研發(fā)資金、搭建數(shù)據(jù)共享與管理平臺(tái)等方式，支持與推進(jìn)有關(guān)促進(jìn)人工智能技術(shù)研發(fā)、應(yīng)用與傳播的項(xiàng)目落地；制定人工智能技術(shù)標(biāo)準(zhǔn)、進(jìn)行標(biāo)準(zhǔn)化研發(fā)、推動(dòng)標(biāo)準(zhǔn)化項(xiàng)目，提升跨行業(yè)技術(shù)應(yīng)用的兼容性與安全性。產(chǎn)業(yè)生態(tài)構(gòu)建：為中小企業(yè)提供技術(shù)咨詢、融資支持，降低技術(shù)應(yīng)用門檻；設(shè)立人工智能產(chǎn)業(yè)集群，集中資源培育高附加值產(chǎn)業(yè)，如智能醫(yī)療、自動(dòng)駕駛等。人才與國際合作：培養(yǎng)和支持人工智能和人工智能技術(shù)相關(guān)專業(yè)人才，吸引海外專家與外資投資，支持企業(yè)參與人工智能國際標(biāo)準(zhǔn)制定，提升全球競爭力。

提出人工智能管理原則及風(fēng)險(xiǎn)防范、責(zé)任追究機(jī)制。倫理與透明度要求：制定 AI 倫理原則，強(qiáng)調(diào)安全性、公平性和人類尊嚴(yán)；強(qiáng)制標(biāo)注生成式人工智能內(nèi)容來源，防止虛假信息傳播。風(fēng)險(xiǎn)分級管控：明確“高影響人工智能”的定義（對人類生命、身體健康或基本權(quán)利產(chǎn)生重大影響或存在潛在風(fēng)險(xiǎn)的人工智能系統(tǒng)），對醫(yī)療、交通等領(lǐng)域?qū)嵤﹪?yán)格安全評估，要求企業(yè)建立風(fēng)險(xiǎn)監(jiān)測與應(yīng)急響應(yīng)體系。責(zé)任追溯機(jī)制：賦予政府調(diào)查權(quán)，對違規(guī)企業(yè)可責(zé)令整改或處罰，最高達(dá)3000萬韓元罰款；對于未在韓國設(shè)立實(shí)體的境外人工智能服務(wù)方，要求設(shè)立境內(nèi)代表處并落實(shí)同等法律義務(wù)。

《人工智能基本法》的影響與面臨的挑戰(zhàn)

《人工智能基本法》的通過是韓國為應(yīng)對人工智能技術(shù)顛覆性變革的系統(tǒng)性回應(yīng)，將對韓國整體社會(huì)產(chǎn)生深刻影響。

保護(hù)公眾權(quán)益、增強(qiáng)公眾信任。一方面，明確禁止被視為對人們的安全、生計(jì)和基本權(quán)利構(gòu)成明顯威脅的人工智能系統(tǒng)，這能夠有效避免利用人工智能剝削弱勢群體或操縱人類的行為；另一方面，對高影響人工智能規(guī)定嚴(yán)格的確認(rèn)程序與經(jīng)營者義務(wù)，對人工智能應(yīng)用提出透明度與安全性要求，防止公眾隱私或個(gè)人信息被濫用，甚至遭受深度偽造技術(shù)的傷害。

規(guī)范行業(yè)秩序、促進(jìn)人工智能產(chǎn)業(yè)發(fā)展。通過制定與更新人工智能基本計(jì)劃、推動(dòng)人工智能園區(qū)與數(shù)據(jù)中心建設(shè)等方式，為產(chǎn)業(yè)發(fā)展提供方向和資源；培育技術(shù)人才、扶持中小企業(yè)發(fā)展，促進(jìn)人工智能產(chǎn)業(yè)繁榮，為相關(guān)技術(shù)應(yīng)用筑牢安全防線，確保技術(shù)在安全可靠的前提下服務(wù)社會(huì)。

助力國際合作與競爭。韓國以該法案為契機(jī)，積極參與全球人工智能治理，在國際規(guī)則制定中爭取話語權(quán)；該法的實(shí)施還可能降低相關(guān)企業(yè)成本，激勵(lì)更多投資和創(chuàng)新，提升韓國人工智能產(chǎn)業(yè)在全球的競爭力。

然而，法案的全面實(shí)施依然面臨諸多困難與挑戰(zhàn)。

產(chǎn)業(yè)促進(jìn)與安全監(jiān)管存在內(nèi)在矛盾。一些業(yè)內(nèi)人士認(rèn)為對人工智能技術(shù)的過度監(jiān)管可能會(huì)阻礙創(chuàng)新，而政策制定者則認(rèn)為需要專門的立法來規(guī)制這項(xiàng)技術(shù)；法案本身也更偏向產(chǎn)業(yè)利益，對高影響人工智能雖有規(guī)制但缺乏針對特定領(lǐng)域的禁止性條款（如國防軍事領(lǐng)域），處罰力度（最高3000萬韓元）也不算太大且未區(qū)分企業(yè)規(guī)模設(shè)定梯度處罰標(biāo)準(zhǔn)，可能導(dǎo)致“大企業(yè)違規(guī)收益高于違規(guī)處罰”的局面。

法律自身滯后性與技術(shù)快速迭代之間的沖突。該法案雖給予下位法調(diào)整空間，但未明確相關(guān)技術(shù)標(biāo)準(zhǔn)的更新頻率，可能難以應(yīng)對快速演進(jìn)的人工智能技術(shù)。此外，韓國未將監(jiān)管沙盒納入法律框架，可能導(dǎo)致企業(yè)在醫(yī)療診斷、自動(dòng)駕駛的高新技術(shù)領(lǐng)域創(chuàng)新缺乏安全的測試環(huán)境，從而造成風(fēng)險(xiǎn)評估與技術(shù)落地相脫節(jié)。

公眾信任與行業(yè)接受度的雙重挑戰(zhàn)。法律對“高影響人工智能”雖然規(guī)定了事前審查、安全性、可靠性保障等各種義務(wù)，但其具體內(nèi)容大部分委托給實(shí)施令，當(dāng)實(shí)施令中規(guī)定了企業(yè)難以實(shí)際履行的義務(wù)或不明確的標(biāo)準(zhǔn)時(shí)，可能導(dǎo)致企業(yè)通過模糊解釋逃避責(zé)任，或者因企業(yè)不適應(yīng)從長期寬松的運(yùn)營環(huán)境向相對嚴(yán)格的監(jiān)管環(huán)境轉(zhuǎn)變，通過游說延緩合規(guī)進(jìn)程。

執(zhí)行資源與跨部門協(xié)作的結(jié)構(gòu)性缺陷。成功實(shí)施《人工智能法案》將需要仔細(xì)規(guī)劃、政府機(jī)構(gòu)和私營部門之間的有效協(xié)調(diào)，科學(xué)技術(shù)信息通信部（MSIT）作為牽頭部門，需協(xié)調(diào)二十多個(gè)中央機(jī)構(gòu)，地方政府的人才資源缺乏或?qū)?dǎo)致政策執(zhí)行碎片化。以人工智能教育領(lǐng)域?yàn)槔?，根?jù)相關(guān)媒體報(bào)道，人工智能教科書推廣面臨行政程序、技術(shù)問題等多重阻礙，韓國AI教科書整體普及率仍停留在較低水平，反映出公共部門在技術(shù)應(yīng)用中的資源瓶頸。

編輯：沈析宇" " 175556274@qq.com