2024年12月26日,韓國國會(huì)全體會(huì)議經(jīng)表決通過《旨在構(gòu)建人工智能發(fā)展與信賴基礎(chǔ)的人工智能基本法》(以下簡稱《人工智能基本法》),使韓國成為繼歐盟之后,第二個(gè)制定人工智能基本法的國家。據(jù)悉,該法案將在國會(huì)表決公布后1年,即2026年1月開始正式施行。
韓國政府高度重視人工智能的發(fā)展,2019年12月韓國政府公布了《人工智能國家戰(zhàn)略》,旨在凝聚國家力量、發(fā)揮自身優(yōu)勢,加快經(jīng)濟(jì)和社會(huì)的創(chuàng)新發(fā)展,為產(chǎn)業(yè)注入新的活力,實(shí)現(xiàn)從“IT強(qiáng)國”到“人工智能強(qiáng)國”的轉(zhuǎn)變。2024年8月,韓國進(jìn)一步出臺(tái)第一期《國家戰(zhàn)略技術(shù)培育基本計(jì)劃(2024—2028)》,其中涉及人工智能的50項(xiàng)重點(diǎn)技術(shù)。據(jù)相關(guān)報(bào)道,至2023年,已有超過80%的韓國人工智能相關(guān)公司產(chǎn)生了營收,在2020年至2023年期間韓國人工智能公司的營收增長了超過100%;同時(shí),在研發(fā)上的投入,近3年平均每年增長17%。
全球人工智能治理浪潮等待迫切回應(yīng)。歐盟《人工智能法案》、美國《人工智能權(quán)利法案》等國際立法加速推進(jìn),旨在搶占人工智能倫理與規(guī)則制定的主導(dǎo)權(quán)。韓國作為科技強(qiáng)國,需通過立法回應(yīng)國際規(guī)范,避免在全球競爭中落后。
韓國《人工智能基本法》以“發(fā)展與規(guī)制并重”為核心邏輯,既要抓住技術(shù)紅利推動(dòng)產(chǎn)業(yè)升級,又要通過法律框架防范風(fēng)險(xiǎn)、保障民生,同時(shí)在國際競爭中確立規(guī)則話語權(quán),從而構(gòu)建安全、可信、包容的人工智能社會(huì)。
該法案主要包括以下內(nèi)容:
為人工智能全面治理建立相關(guān)組織體系。根據(jù)《人工智能基本法》,韓國將設(shè)立如下三個(gè)機(jī)構(gòu):國家人工智能委員會(huì),在總統(tǒng)領(lǐng)導(dǎo)下設(shè)立,負(fù)責(zé)審議和決定與人工智能發(fā)展和建立信任基礎(chǔ)的重大政策有關(guān)的事項(xiàng),為人工智能基本計(jì)劃等具體舉措的實(shí)施提供宏觀方向引領(lǐng)和戰(zhàn)略布局。人工智能政策中心,隸屬于科技通信部,負(fù)責(zé)為人工智能總體規(guī)劃提供專業(yè)技能支持、研究分析人工智能的社會(huì)影響并協(xié)助相關(guān)政策的制定和業(yè)務(wù)延伸。人工智能安全研究所,以保護(hù)公眾生命、身體及財(cái)產(chǎn)安全為核心,承擔(dān)人工智能安全技術(shù)研究、風(fēng)險(xiǎn)評估標(biāo)準(zhǔn)制定、安全事故應(yīng)急處理等工作,為人工智能技術(shù)的安全應(yīng)用提供技術(shù)與監(jiān)管支持,確保人工智能在安全可控的框架內(nèi)發(fā)展。
為人工智能技術(shù)開發(fā)和產(chǎn)業(yè)培育提供合作支持。技術(shù)創(chuàng)新支持:通過提供研發(fā)資金、搭建數(shù)據(jù)共享與管理平臺(tái)等方式,支持與推進(jìn)有關(guān)促進(jìn)人工智能技術(shù)研發(fā)、應(yīng)用與傳播的項(xiàng)目落地;制定人工智能技術(shù)標(biāo)準(zhǔn)、進(jìn)行標(biāo)準(zhǔn)化研發(fā)、推動(dòng)標(biāo)準(zhǔn)化項(xiàng)目,提升跨行業(yè)技術(shù)應(yīng)用的兼容性與安全性。產(chǎn)業(yè)生態(tài)構(gòu)建:為中小企業(yè)提供技術(shù)咨詢、融資支持,降低技術(shù)應(yīng)用門檻;設(shè)立人工智能產(chǎn)業(yè)集群,集中資源培育高附加值產(chǎn)業(yè),如智能醫(yī)療、自動(dòng)駕駛等。人才與國際合作:培養(yǎng)和支持人工智能和人工智能技術(shù)相關(guān)專業(yè)人才,吸引海外專家與外資投資,支持企業(yè)參與人工智能國際標(biāo)準(zhǔn)制定,提升全球競爭力。
提出人工智能管理原則及風(fēng)險(xiǎn)防范、責(zé)任追究機(jī)制。倫理與透明度要求:制定 AI 倫理原則,強(qiáng)調(diào)安全性、公平性和人類尊嚴(yán);強(qiáng)制標(biāo)注生成式人工智能內(nèi)容來源,防止虛假信息傳播。風(fēng)險(xiǎn)分級管控:明確“高影響人工智能”的定義(對人類生命、身體健康或基本權(quán)利產(chǎn)生重大影響或存在潛在風(fēng)險(xiǎn)的人工智能系統(tǒng)),對醫(yī)療、交通等領(lǐng)域?qū)嵤﹪?yán)格安全評估,要求企業(yè)建立風(fēng)險(xiǎn)監(jiān)測與應(yīng)急響應(yīng)體系。責(zé)任追溯機(jī)制:賦予政府調(diào)查權(quán),對違規(guī)企業(yè)可責(zé)令整改或處罰,最高達(dá)3000萬韓元罰款;對于未在韓國設(shè)立實(shí)體的境外人工智能服務(wù)方,要求設(shè)立境內(nèi)代表處并落實(shí)同等法律義務(wù)。
《人工智能基本法》的通過是韓國為應(yīng)對人工智能技術(shù)顛覆性變革的系統(tǒng)性回應(yīng),將對韓國整體社會(huì)產(chǎn)生深刻影響。
保護(hù)公眾權(quán)益、增強(qiáng)公眾信任。一方面,明確禁止被視為對人們的安全、生計(jì)和基本權(quán)利構(gòu)成明顯威脅的人工智能系統(tǒng),這能夠有效避免利用人工智能剝削弱勢群體或操縱人類的行為;另一方面,對高影響人工智能規(guī)定嚴(yán)格的確認(rèn)程序與經(jīng)營者義務(wù),對人工智能應(yīng)用提出透明度與安全性要求,防止公眾隱私或個(gè)人信息被濫用,甚至遭受深度偽造技術(shù)的傷害。
規(guī)范行業(yè)秩序、促進(jìn)人工智能產(chǎn)業(yè)發(fā)展。通過制定與更新人工智能基本計(jì)劃、推動(dòng)人工智能園區(qū)與數(shù)據(jù)中心建設(shè)等方式,為產(chǎn)業(yè)發(fā)展提供方向和資源;培育技術(shù)人才、扶持中小企業(yè)發(fā)展,促進(jìn)人工智能產(chǎn)業(yè)繁榮,為相關(guān)技術(shù)應(yīng)用筑牢安全防線,確保技術(shù)在安全可靠的前提下服務(wù)社會(huì)。
助力國際合作與競爭。韓國以該法案為契機(jī),積極參與全球人工智能治理,在國際規(guī)則制定中爭取話語權(quán);該法的實(shí)施還可能降低相關(guān)企業(yè)成本,激勵(lì)更多投資和創(chuàng)新,提升韓國人工智能產(chǎn)業(yè)在全球的競爭力。
然而,法案的全面實(shí)施依然面臨諸多困難與挑戰(zhàn)。
產(chǎn)業(yè)促進(jìn)與安全監(jiān)管存在內(nèi)在矛盾。一些業(yè)內(nèi)人士認(rèn)為對人工智能技術(shù)的過度監(jiān)管可能會(huì)阻礙創(chuàng)新,而政策制定者則認(rèn)為需要專門的立法來規(guī)制這項(xiàng)技術(shù);法案本身也更偏向產(chǎn)業(yè)利益,對高影響人工智能雖有規(guī)制但缺乏針對特定領(lǐng)域的禁止性條款(如國防軍事領(lǐng)域),處罰力度(最高3000萬韓元)也不算太大且未區(qū)分企業(yè)規(guī)模設(shè)定梯度處罰標(biāo)準(zhǔn),可能導(dǎo)致“大企業(yè)違規(guī)收益高于違規(guī)處罰”的局面。
法律自身滯后性與技術(shù)快速迭代之間的沖突。該法案雖給予下位法調(diào)整空間,但未明確相關(guān)技術(shù)標(biāo)準(zhǔn)的更新頻率,可能難以應(yīng)對快速演進(jìn)的人工智能技術(shù)。此外,韓國未將監(jiān)管沙盒納入法律框架,可能導(dǎo)致企業(yè)在醫(yī)療診斷、自動(dòng)駕駛的高新技術(shù)領(lǐng)域創(chuàng)新缺乏安全的測試環(huán)境,從而造成風(fēng)險(xiǎn)評估與技術(shù)落地相脫節(jié)。
公眾信任與行業(yè)接受度的雙重挑戰(zhàn)。法律對“高影響人工智能”雖然規(guī)定了事前審查、安全性、可靠性保障等各種義務(wù),但其具體內(nèi)容大部分委托給實(shí)施令,當(dāng)實(shí)施令中規(guī)定了企業(yè)難以實(shí)際履行的義務(wù)或不明確的標(biāo)準(zhǔn)時(shí),可能導(dǎo)致企業(yè)通過模糊解釋逃避責(zé)任,或者因企業(yè)不適應(yīng)從長期寬松的運(yùn)營環(huán)境向相對嚴(yán)格的監(jiān)管環(huán)境轉(zhuǎn)變,通過游說延緩合規(guī)進(jìn)程。
執(zhí)行資源與跨部門協(xié)作的結(jié)構(gòu)性缺陷。成功實(shí)施《人工智能法案》將需要仔細(xì)規(guī)劃、政府機(jī)構(gòu)和私營部門之間的有效協(xié)調(diào),科學(xué)技術(shù)信息通信部(MSIT)作為牽頭部門,需協(xié)調(diào)二十多個(gè)中央機(jī)構(gòu),地方政府的人才資源缺乏或?qū)?dǎo)致政策執(zhí)行碎片化。以人工智能教育領(lǐng)域?yàn)槔?,根?jù)相關(guān)媒體報(bào)道,人工智能教科書推廣面臨行政程序、技術(shù)問題等多重阻礙,韓國AI教科書整體普及率仍停留在較低水平,反映出公共部門在技術(shù)應(yīng)用中的資源瓶頸。
編輯:沈析宇" " 175556274@qq.com