高榮偉

《人工智能法案》將提高AI系統(tǒng)的透明度和公平性，減少歧視和偏見現(xiàn)象的發(fā)生。

經(jīng)過馬拉松式的談判之后，2023年12月8日，歐洲議會(huì)、歐盟成員國和歐盟委員會(huì)三方就《人工智能法案》達(dá)成協(xié)議。這項(xiàng)法案有望成為全球第一部關(guān)于人工智能領(lǐng)域的全面監(jiān)管法規(guī)。

在科技飛速發(fā)展的今天，人工智能（AI）已經(jīng)深入影響到人們生活的方方面面。然而，隨著AI技術(shù)的不斷進(jìn)步，其帶來的倫理和監(jiān)管問題日益增加，在歐盟各國表現(xiàn)尤其突出。德國工業(yè)聯(lián)合會(huì)（BDI）表示，歐洲目前在人工智能關(guān)鍵技術(shù)方面，面臨落后危險(xiǎn)，因此，迫切需要制定一部人工智能領(lǐng)域的全面監(jiān)管法規(guī)。

2019年以來，歐盟一直在立法方面對(duì)人工智能監(jiān)管領(lǐng)域進(jìn)行布局，先后發(fā)布人工智能倫理準(zhǔn)則并出臺(tái)了《人工智能白皮書》。隨著生成式人工智能的蓬勃發(fā)展，歐洲官員們抓緊更新規(guī)則。2021年，歐盟公布了人工智能規(guī)則手冊(cè)的初稿。同年4月，歐盟委員會(huì)提議制定一部《人工智能法案》。在2023年人工智能大模型引發(fā)廣泛關(guān)注后，歐盟加快了推進(jìn)《人工智能法案》的步伐。2023年6月，歐洲議會(huì)以499票贊成、28票反對(duì)和93票棄權(quán)，高票通過了《人工智能法案》談判授權(quán)草案，推動(dòng)了該法案進(jìn)入立法程序的最后階段，即舉行歐洲議會(huì)、歐盟成員國和歐盟委員會(huì)的“三方談判”，以確定法案的最終條款。

歐洲議會(huì)、歐盟成員國和歐盟委員會(huì)三方終于在漫長談判后，就《人工智能法案》達(dá)成協(xié)議。這份法案的達(dá)成是歷史性的一刻，標(biāo)志著歐盟在人工智能監(jiān)管方面邁出了關(guān)鍵一步?！都~約時(shí)報(bào)》在報(bào)道中則表示，《人工智能法案》的關(guān)鍵輪廓已經(jīng)確定，為那些尋求利用這項(xiàng)技術(shù)潛在好處的國家設(shè)定了一個(gè)新的全球基準(zhǔn)。

歐盟各國一致認(rèn)為，發(fā)展人工智能能使歐盟獲得競爭優(yōu)勢，在未來全球治理中贏得話語權(quán)。法案的起草過程困難重重。對(duì)此，有專家表示，歐盟各方最終就《人工智能法案》達(dá)成協(xié)議，是各方做出妥協(xié)的結(jié)果，這既有來自歐盟內(nèi)部的迫切需求，也有來自外部環(huán)境的壓力。事實(shí)上，談判人員在談判初期就設(shè)法達(dá)成初步妥協(xié)，盡管以法國為首的反對(duì)方呼吁自我監(jiān)管。

《人工智能法案》旨在以全面的、基于倫理的方式監(jiān)管AI，法案內(nèi)容包括對(duì)AI系統(tǒng)的安全性、透明度、可追溯性、公平性和道德標(biāo)準(zhǔn)的評(píng)估和管理，以及對(duì)AI系統(tǒng)的監(jiān)管、執(zhí)法和司法審查等方面的規(guī)定。該法案按照不同的風(fēng)險(xiǎn)類別為人工智能技術(shù)應(yīng)用進(jìn)行了分類，由低到高劃分為四個(gè)等級(jí)，從“不可接受”，也就是必須禁止的技術(shù)，到高、中、低風(fēng)險(xiǎn)的人工智能，通過識(shí)別不同風(fēng)險(xiǎn)來進(jìn)行監(jiān)管。

第一，對(duì)于眼下備受關(guān)注的生成式人工智能如何監(jiān)管，也就是包括Chat GPT在內(nèi)的先進(jìn)人工智能模型如何監(jiān)管，是此次談判的爭論點(diǎn)之一。有歐盟委員提出，時(shí)下，像Chat GPT這樣的生成式人工智能系統(tǒng)突然闖入人們的視野，它們居然能夠生成類似人類創(chuàng)作的文字、照片和歌曲，這樣的功能讓人驚嘆不止。不過，這項(xiàng)快速發(fā)展的技術(shù)對(duì)就業(yè)、隱私和版權(quán)保護(hù)，甚至人類生命本身構(gòu)成了風(fēng)險(xiǎn)。對(duì)此，歐盟要求其在投放市場前需要起草技術(shù)文件、遵守歐盟版權(quán)法等。歐盟官員表示，希望新的法案可以幫助歐盟地區(qū)的人工智能技術(shù)更好地發(fā)展，提升行業(yè)競爭力。

第二，根據(jù)該法案，被視為有“系統(tǒng)性風(fēng)險(xiǎn)”的模型將受到額外的約束。其草案明確規(guī)定，所有通用型人工智能系統(tǒng)的開發(fā)者都必須滿足基本的透明度要求。具體來看，其透明度要求包括：具有可接受的使用策略、更新訓(xùn)練大模型的最新信息、遵守歐盟版權(quán)法以及報(bào)告用于訓(xùn)練其模型的數(shù)據(jù)信息。對(duì)于那些高風(fēng)險(xiǎn)的人工智能技術(shù)應(yīng)用，歐盟將在使用相關(guān)技術(shù)的產(chǎn)品投放市場前，進(jìn)行嚴(yán)格評(píng)估，并根據(jù)用于訓(xùn)練模型的計(jì)算能力來確定這種風(fēng)險(xiǎn)。根據(jù)協(xié)議，那些構(gòu)成最大“系統(tǒng)性風(fēng)險(xiǎn)”的先進(jìn)基礎(chǔ)模型將受到額外審查，包括被要求披露更多信息。

第三，對(duì)于人類安全具有不可接受風(fēng)險(xiǎn)的人工智能系統(tǒng)，包括有目的地操縱技術(shù)、利用人性弱點(diǎn)或根據(jù)行為、社會(huì)地位和個(gè)人特征等進(jìn)行評(píng)價(jià)的系統(tǒng)等，將被禁止使用。文件還規(guī)定，禁止利用分類系統(tǒng)來推斷用戶種族、宗教信仰等個(gè)人信息。消費(fèi)者有權(quán)提出投訴并獲得相應(yīng)解釋，違規(guī)者將被罰款。

第四，有關(guān)另一項(xiàng)頗具爭議的生物識(shí)別監(jiān)控技術(shù)，協(xié)議中規(guī)定，各國政府只能在公共場所使用實(shí)時(shí)生物識(shí)別監(jiān)控，防止像恐怖襲擊等可預(yù)見的威脅公共安全的事件，以及搜索犯罪嫌疑人等。事實(shí)上，關(guān)于生物識(shí)別監(jiān)控技術(shù)，歐洲議會(huì)希望能夠全面禁止。

值得一提的是，該法案的達(dá)成并非一蹴而就。對(duì)于該法案，業(yè)內(nèi)一直存在不同的聲音。在此之前，歐盟內(nèi)部就AI技術(shù)的監(jiān)管問題進(jìn)行了長期的討論和爭議。

一些人認(rèn)為，過度的監(jiān)管可能會(huì)阻礙AI技術(shù)的發(fā)展和應(yīng)用，影響經(jīng)濟(jì)發(fā)展和社會(huì)進(jìn)步。而另一些人則認(rèn)為，AI技術(shù)的廣泛應(yīng)用已經(jīng)帶來了嚴(yán)重的倫理和安全問題，必須加強(qiáng)監(jiān)管以保護(hù)公眾利益。據(jù)《紐約時(shí)報(bào)》報(bào)道，歐洲議會(huì)和歐盟27個(gè)成員國的談判代表，為協(xié)議的達(dá)成克服了巨大的分歧。“2023年12月中旬，三方展開了最后馬拉松式的閉門談判，其中一次談判就持續(xù)了22個(gè)小時(shí)?！笔聦?shí)上，直到談判的最后一分鐘，立法者和歐盟各國仍在為“如何在促進(jìn)創(chuàng)新與防范可能的傷害間取得平衡”這一問題進(jìn)行激烈的辯論。參與談判的西班牙數(shù)字化和人工智能國務(wù)秘書卡梅·阿蒂加斯表示，為確?！袄锍瘫健钡谋O(jiān)管法案的達(dá)成而付出的這些巨大努力是值得的。法案一旦頒布實(shí)施，其影響將會(huì)涉及人工智能的研發(fā)、人工智能產(chǎn)品和服務(wù)的設(shè)計(jì)與運(yùn)行。該法案也將促進(jìn)AI產(chǎn)業(yè)的健康發(fā)展，增強(qiáng)消費(fèi)者對(duì)AI系統(tǒng)的信任和安全感，提高整個(gè)社會(huì)的福祉水平。首先，該法案會(huì)影響各類人工智能企業(yè)的市場格局、業(yè)務(wù)模式、運(yùn)營方式乃至發(fā)展前景。從執(zhí)法和實(shí)施的前景來看，對(duì)于人工智能企業(yè)是一個(gè)比較大的挑戰(zhàn)，同時(shí)也是一個(gè)業(yè)務(wù)重構(gòu)、業(yè)務(wù)設(shè)計(jì)的過程。具體來看，《人工智能法案》不僅會(huì)影響谷歌、Meta、微軟和OpenAI等主要人工智能開發(fā)商，還會(huì)影響使用該技術(shù)的教育、醫(yī)療保健、銀行等領(lǐng)域。政府部門因?yàn)榻陙碓诠矘I(yè)務(wù)方面更多地轉(zhuǎn)向人工智能，也將受到影響。其次，法案正式頒布實(shí)施后，各成員國將基于本國的公共政策基礎(chǔ)，做出一定的變通適用。與此同時(shí)，它還將為全球其他國家和地區(qū)提供一個(gè)參考和借鑒的范例，從而推動(dòng)全球AI監(jiān)管體系的建立和完善。美國哥倫比亞大學(xué)法學(xué)院教授、歐盟和數(shù)字監(jiān)管專家阿努·布拉德福德就曾表示，歐盟制定強(qiáng)有力且全面的監(jiān)管措施，“可以為許多考慮監(jiān)管的政府樹立良好的樣板”。其他國家“可能不會(huì)照搬每一項(xiàng)條款，但其中很多條款提到的很多方面會(huì)被效仿”。對(duì)此，歐盟委員會(huì)內(nèi)部市場專員蒂埃里·布雷東坦言，這份協(xié)議將有助于歐洲“在全球人工智能競賽中領(lǐng)跑”。

展望未來，《人工智能法案》的實(shí)施將為歐盟乃至全球帶來一系列積極影響。首先，該法案將提高AI系統(tǒng)的透明度和公平性，減少歧視和偏見現(xiàn)象的發(fā)生。其次，嚴(yán)格的監(jiān)管將促使企業(yè)和研究機(jī)構(gòu)更加注重AI技術(shù)的倫理和道德問題，推動(dòng)AI向更加可持續(xù)的方向發(fā)展。此外，該法案還將為其他領(lǐng)域提供借鑒和參考，推動(dòng)全球范圍內(nèi)的人工智能監(jiān)管體系的建立和完善?？偠灾摲ò笇?duì)歐盟乃至全球的人工智能發(fā)展格局和立法格局帶來非常重大的影響。據(jù)悉，該法案最早要到2025年才會(huì)生效。預(yù)計(jì)他們還將就相關(guān)細(xì)則的制定展開進(jìn)一步談判。

編輯：薛華? ? icexue0321@163.com