嚴 馳

(同濟大學法學院 上海 200092)

1 問題的提出

當前,全球人工智能的發(fā)展進入了新一輪躍升期.以GPT-4為標志的生成式人工智能(generative artificial intelligence, GAI)技術上的突破正在加速從專用人工智能邁向通用人工智能(artificial general intelligence, AGI)的進程,有望催生出人工智能新范式和新生態(tài),進一步擴展人工智能的應用場景,全方位深度融入人類社會.2023年4月,中央網信辦起草了《生成式人工智能服務管理辦法(征求意見稿)》(以下簡稱《征求意見稿》).短短3個月后,2023年7月,國家網信辦等7部門就聯合公布了《生成式人工智能服務管理暫行辦法》(以下簡稱《暫行辦法》)[1].《暫行辦法》是中國首次針對GAI技術和服務作出的明確規(guī)定,也是全球首個生效的GAI專門行政立法.不僅奠定了未來中國GAI技術和服務的發(fā)展基調,還引領了國際范圍內的GAI治理實踐.

面對人工智能技術發(fā)展帶來的機遇與挑戰(zhàn),亟需推進國家層面的人工智能領域立法,把人工智能裝入制度的“籠子”里[2].2023年5月發(fā)布的《國務院2023年度立法工作計劃》中正式將《人工智能法草案》列為預備提請全國人大常委會審議的34項立法草案之一,終結了是否應在全國層面進行人工智能專門立法的爭論,接下來《人工智能法草案》擬定過程中需要思考的是如何更好地保障人工智能技術的健康、快速發(fā)展.目前《人工智能法草案》尚處于預備提請審議階段,未列入擬提請審議的法律案名單,距離真正落地還需經過較長一段時間.《暫行辦法》的出臺為《人工智能法草案》的完善提供了思路參考.今后應以《暫行辦法》中的相關規(guī)定為借鑒,明確人工智能法制定時應關注的4個重點問題,以期構建更科學合理的人工智能領域頂層設計方案,推動科技向善.首先,在總體層面考慮采用促進型立法模式;其次,在立法內容上減少使用準用性規(guī)范;再次,明確立法中分類分級監(jiān)管的思路;最后,加強國際交流與合作.對此,本文將分為4節(jié)進行詳細闡述.

2 采用促進型立法模式

有學者指出,現有的立法模式大致分為3個階段:第一階段以規(guī)范主體行為為特征,主要體現為刑事立法、行政立法及民商事立法領域的“設范型立法”;第二階段以調控管理社會經濟事務為特征,包括經濟調控、社會保障、環(huán)境保護領域的“管理型立法”;第三階段的“促進型立法”是在設范型立法和管理型立法基礎上的調整和完善[3],旨在提倡和促進某項事業(yè)發(fā)展,通常面向于社會關系尚未得到良好發(fā)育、市場規(guī)模尚未形成的新興領域[4],是國家干預經濟和社會發(fā)展的重要體現,對新興產業(yè)或事業(yè)的發(fā)展起到積極的促進、引導和推動作用.1996年頒布的《促進科技成果轉化法》中首次出現“促進”的字樣,此后頒布的10部促進型立法在名稱中均以“促進法”為尾綴.促進型立法經過30年的探索與創(chuàng)新,形成了獨具特色的立法經驗.具體體現為和人民生活緊密相連,立法范圍主要為薄弱性產業(yè)、改革中事業(yè)與發(fā)展中行業(yè),貫徹了“為人民服務”的立法理念,充分反映了人民意愿[5].

人工智能作為一種新興技術,廣義上屬于科技法的規(guī)制范疇.以“科技”“科學技術”為關鍵詞在國家法律法規(guī)數據庫進行檢索,可以找到《促進科技成果轉化法》《科學技術進步法》和《科學技術普及法》3部法律.從廣義上來看,3部法律均屬于促進型立法,其立法意圖分別是促進科技成果轉化、推動科學技術進步和普及科學技術.反觀人工智能法的名稱,只能反映出規(guī)范對象是人工智能,無法體現更多的信息.盡管《暫行辦法》全稱中帶有“管理”的字樣,看似屬于管理型立法.但是,從《暫行辦法》的具體內容中可以看出其促進型立法屬性.如《暫行辦法》第1條提出,立法目的是“促進生成式人工智能技術的健康發(fā)展和規(guī)范應用”.在法律依據上,《暫行辦法》也比《征求意見稿》中增加了《科學技術進步法》.《暫行辦法》第3條還指出,《暫行辦法》堅持的主要原則是“發(fā)展和安全并重、促進創(chuàng)新和依法治理相結合”,弱化了《征求意見稿》中強調監(jiān)管的基調,在排序上將“發(fā)展”“創(chuàng)新”置于“安全”“治理”之前.

2022年9月起,多地陸續(xù)發(fā)布了人工智能領域的地方性促進型立法,如《深圳經濟特區(qū)人工智能產業(yè)促進條例》《上海市促進人工智能產業(yè)發(fā)展條例》《北京市促進通用人工智能創(chuàng)新發(fā)展的若干措施》等,推動了當地人工智能產業(yè)的高質量發(fā)展.鑒于人工智能技術虛實結合的特性,立法缺乏有效的參考點,以“軟法”治理人工智能是此前傳統(tǒng)的全球治理范式.促進法是典型的不依靠國家強制力保證實施的軟法規(guī)范,能有效彌補道德、政策等其他社會規(guī)范的缺陷[6],相較于傳統(tǒng)的管理型立法,人工智能法更應采用促進型立法模式.同時,為更好地鼓勵和支持中國人工智能產業(yè)的發(fā)展,還可以考慮將“人工智能法”的名稱調整為更為直觀的“人工智能產業(yè)促進法”.從語言哲學的角度來看,可以借用柏拉圖的論斷,認為討論的一切名稱都是用于說明事物的本性[7].立法名稱不僅是法律文本的重要組成部分,也是確保法律實施效果的關鍵,具有區(qū)分、識別和系統(tǒng)集成等重要功能,應簡明扼要地反應法律的內容和主旨[8].雖然《人工智能法草案》已經進入了“預備提請審議”階段,但并不代表“人工智能法”的名稱已蓋棺定論.相關的名稱調整早有先例,如《家庭教育促進法》起草時最初的名稱就是《家庭教育法》,后來為了和法律內容保持一致進行了修改.

3 減少使用準用性規(guī)范

《暫行辦法》是一部全面完整的針對GAI技術和服務的規(guī)范性文件,系統(tǒng)地規(guī)定了GAI領域涉及的概念定義、治理規(guī)則、服務規(guī)范、監(jiān)督檢查和法律責任等內容.為應對人工智能領域不斷變化的技術發(fā)展和市場情況,在鼓勵GAI創(chuàng)新發(fā)展的同時實現依法治理,《暫行辦法》與《征求意見稿》相比在適用范圍、監(jiān)管方式、處罰措施等方面都產生了重大的變化,由于《暫行辦法》具體內容和改動之處并非文章探討的重點,故在此不再贅述.

“準用性規(guī)范”是指法律條文中未規(guī)定規(guī)范的完整邏輯結構,轉而指出適用另一法律文件中的某個規(guī)范[9],在我國立法尤其是民商事立法中并不少見.如《證券法》第11條指出,設立股份有限公司公開發(fā)行股票應符合《公司法》的相關規(guī)定.據統(tǒng)計,《征求意見稿》短短21條中出現了多達6處的準用性規(guī)范.《暫行辦法》保留了《征求意見稿》中大部分的準用性規(guī)范,主要有第7條、第12條、第17條和第21條.其中第7條是對GAI服務提供者開展訓練數據處理活動的規(guī)定,應遵守《中華人民共和國網絡安全法》(以下簡稱《網絡安全法》)、《中華人民共和國數據安全法》(以下簡稱《數據安全法》)、《中華人民共和國個人信息保護法》(以下簡稱《個人信息保護法》)中的相關監(jiān)管要求;第12條是關于“標識義務”的規(guī)定,GAI服務提供者應按照《互聯網信息服務深度合成管理規(guī)定》(以下簡稱《深度合成管理規(guī)定》)第16～18條的規(guī)定對內容進行標識;第17條是“安全評估和備案義務”規(guī)定,提供具有輿論屬性或者社會動員能力的GAI服務,應按照《互聯網信息服務算法推薦管理規(guī)定》(以下簡稱《算法推薦管理規(guī)定》)第24條的規(guī)定履行備案和變更、注銷備案手續(xù)[10];第21條是處罰措施,GAI服務提供者在違反《暫行辦法》規(guī)定時,有關主管部門應依照《網絡安全法》《數據安全法》《個人信息保護法》《科學技術進步法》的規(guī)定進行處罰.

準用性規(guī)范是一種法條擴展技術,其實質是類推適用,關鍵是相似性判斷[11].立法中過多的準用性規(guī)范會帶來嚴重的法律解釋問題.一方面可能會模糊法條定位,造成概念界定和認知上的偏差,導致法律規(guī)制的失敗.如《暫行辦法》第7條中,GAI服務提供者在開展數據預訓練、優(yōu)化訓練時,遵守相關法律規(guī)定本就是應有之義.目前表現優(yōu)異的GAI大模型均達到千億參數級別.《暫行辦法》類似于相關規(guī)范的場景補丁,單獨轉置相應條款雖然在形式上體現出規(guī)定的重要性,但容易混淆GAI技術涉及海量數據使用的特征.另一方面,轉置后的規(guī)范在內容上相對而言更為全面具體,如《暫行辦法》第12條提出內容標識上和《深度合成管理規(guī)定》進行銜接.《深度合成管理規(guī)定》詳細指出,服務提供者應采取技術措施添加標識并依法依規(guī)保存日志信息,在生成或者編輯的信息內容的合理位置或區(qū)域進行顯著標識且任何組織和個人不得采用技術手段刪除、篡改、隱匿相關標識[12].由此觀之,原法條存在被架空的風險.

明確性原則是對立法的基本要求,是一種具有實踐理性的拘束性規(guī)定[13].人工智能法的立法內容應以確定性規(guī)范為主,增強法條的可操作性和可執(zhí)行性,力求文本內容規(guī)范具體[14],減少準用性規(guī)范的數量.同時,積極增進制度協(xié)調,做好轉置后規(guī)范和原法條的銜接,避免內容的沖突和重疊,更好地讓人工智能技術在法律框架下釋放價值.

4 明確分類分級監(jiān)管思路

此前,分類分級保護制度在我國常見于算法和數據領域.在算法層面,2021年9月印發(fā)的《關于加強互聯網信息服務算法綜合治理的指導意見》首次提出“推進算法分級分類安全管理”的概念;2021年11月通過的《算法推薦管理規(guī)定》第23條進一步明確要“建立算法分級分類安全管理制度”.在數據層面,《數據安全法》第21條明確提出要從中央和地方2個層面建設“國家數據分類分級保護制度”;《網絡安全法》第21條中也提到“采取數據分類”;《個人信息保護法》第51條則提出“對個人信息實行分類管理”.如前所述,《算法推薦管理規(guī)定》《網絡安全法》《數據安全法》《個人信息保護法》均是《暫行辦法》中準用性規(guī)范的轉置對象,《暫行辦法》在制定過程中對以上監(jiān)管方案多有借鑒,分級分類治理的思路也得到了賡續(xù).《暫行辦法》第3條明確提出,在監(jiān)管方式上,對GAI服務實行包容審慎和分類分級監(jiān)管;第6條提到“推動公共數據分類分級有序開放”;第16條再次強調,國家有關主管部門應針對GAI技術特點及其在有關行業(yè)和領域的服務應用制定分類分級監(jiān)管規(guī)則和指引[15].

人工智能領域分類分級監(jiān)管的思路肇始于歐盟出臺的《人工智能法案》(AIA),AIA在經過多次談判和修正后明確加入了對GAI大模型采取嚴格監(jiān)管的規(guī)定.2023年6月,歐洲議會以絕對多數票通過了AIA草案.按照立法程序,AIA已經進入了最終協(xié)商階段.歐盟AIA將人工智能系統(tǒng)分為4個風險類別進行監(jiān)管.首先,嚴格禁止產生“不可接受的風險”(unacceptable risk)的人工智能系統(tǒng)并附加高額處罰;其次,明確“高風險”(highrisk)的人工智能系統(tǒng)將遵守風險管理措施并接受全生命周期評估;再次,對“有限風險”(limited risk)的人工智能系統(tǒng)設定特定的公開要求和透明度義務;最后,放棄對“低風險和最小風險”(low and minimal risk)級別人工智能系統(tǒng)的監(jiān)管[16].AIA的附錄劃定了高風險覆蓋的8大領域,包括生物測定,重要基礎設施,教育與職業(yè)培訓,就業(yè)與員工管理,提供私人和公共服務,法律執(zhí)行,移民、庇護和邊境控制,司法和民主程序.根據定義,具有透明度的聊天機器人屬于有限風險人工智能系統(tǒng),而像GPT-4這樣未履行透明度義務的GAI則屬于“提供私人和公共服務”的高風險人工智能系統(tǒng),AIA對其規(guī)定了嚴格的監(jiān)管要求.

分類分級是人工智能監(jiān)管的應有之義,其好處在于避免了“一刀切”式的粗獷立法,有利于增強法律的針對性、科學性,提升監(jiān)管的精確性、有效性,促進我國人工智能產業(yè)的進一步發(fā)展.《暫行辦法》中雖然提出了GAI服務分類分級治理的原則,但并未進一步展開具體的監(jiān)管規(guī)則.今后應拓寬立法視野,參考AIA中的歐盟標準,制定符合我國現實國情和需求的風險評估機制,提前做好未來的合規(guī)準備.實踐中我國其他領域的分類分級治理方案為人工智能法的構建提供了有益的經驗借鑒.以數據領域為例,雖然現行法律法規(guī)或部門規(guī)章中還停留于分類分級的總體要求,但是在部委發(fā)布的指引性文件和標準中可以看到一些具體方案[17].如2020年2月工信部發(fā)布的《工業(yè)數據分類分級指南(試行)》第二章綜合考慮行業(yè)差別、業(yè)務規(guī)模大小等情況,將工業(yè)企業(yè)和平臺企業(yè)的工業(yè)數據進行了分類.第三章則根據工業(yè)數據遭篡改、破壞、泄露或非法利用后的潛在影響分為3個級別[18].

5 加強國際交流與合作

人工智能革命的歷史進程中不可避免地嵌入國家角色并產生作用力,也不可避免地引發(fā)國家間圍繞人工智能革命的新博弈與新競爭[19].《暫行辦法》第6條在《征求意見稿》第3條中提到“國際合作”的基礎上,進一步強調開展國際交流與合作,參與國際規(guī)則制定的重要性.人工智能法制定過程中應放眼全球,在反制科技制裁和封鎖的同時,將中國價值和中國方案進一步對外推廣,爭取人工智能領域的國際話語權.

新加坡是全球較早啟動國家人工智能戰(zhàn)略的國家之一,在東南亞地區(qū)的人工智能治理規(guī)則制定中占據著領導地位.同時,新加坡還是世界范圍內數字經濟協(xié)定的倡導者和先行者,已經陸續(xù)和5個國家完成了關于4個數字經濟協(xié)定的談判.2020年6月,新加坡、新西蘭和智利3國通過視頻會議的方式,線上簽署了《數字經濟伙伴關系協(xié)定》(DEPA).DEPA是新加坡領導下簽署的全球范圍內首個區(qū)域性數字經濟協(xié)定,有學者稱其為中美歐之外全球數字經貿規(guī)則發(fā)展中的“第四種力量”[21].2021年11月,中國正式向新西蘭方遞交了加入DEPA的申請.新加坡在DEPA之后又陸續(xù)完成了《新加坡-澳大利亞數字經濟協(xié)定》(SADEA)、《英國-新加坡數字經濟協(xié)定》(UKSDEA)和《韓國-新加坡數字伙伴關系協(xié)定》(KSDPA)的談判,并與歐盟初步建立了“歐盟-新加坡數字伙伴關系”(EUSDP)框架協(xié)議.此前的國際貿易協(xié)定中從沒涉及與人工智能相關的具體技術層面的問題[22].DEPA是全球首個涵蓋人工智能規(guī)則的數字經濟協(xié)定,隨后簽署的SADEA,UKSDEA,KSDPA和EUSDP中也均含有人工智能條款,SADEA和KSDPA中還附有旨在發(fā)展和鼓勵人工智能治理合作的諒解備忘錄(MOU).

新加坡在數字經濟協(xié)定中搭建起一個初步的國際人工智能治理框架,通過雙邊或多邊數字經濟協(xié)定(不局限于數字經濟協(xié)定)的形式,加強國際交流和合作,與更多的國家間在人工智能治理事項上達成共識.新加坡和中國之間有著良好的經貿合作基礎,2國不僅簽署了《中國-新加坡自由貿易協(xié)定》(CSFTA)并完成了協(xié)定的升級,而且還均為《區(qū)域全面經濟伙伴關系協(xié)定》(RCEP)的締約國[23].雖然新加坡在貿易體量和中國存在較大差距.但是,新加坡在人工智能領域的國際合作經驗對我國而言有很高的借鑒價值.今后人工智能法的制定過程中應貫徹落實《暫行辦法》中“開展國際交流與合作、參與國際規(guī)則制定”的要求,充分借鑒新加坡的發(fā)展模式,和已經建立起緊密聯系的“一帶一路”沿線國家或RCEP成員國之間探索小范圍人工智能試點合作的可行性[24].同時,積極推進加入DEPA的進程,與新加坡等成員國共同參與人工智能國際治理規(guī)則的制定,提升中國在人工智能領域的影響力和話語權.

6 結 語

隨著人工智能技術層面的創(chuàng)新突破和應用層面的廣泛落地,人工智能正在成為引領新一輪科技革命的重要引擎.人工智能法作為國家層面的人工智能基礎性法律,屬于“1+N”規(guī)則體系中的“1”,在我國的人工智能治理中發(fā)揮著總攬全局、協(xié)調各方的核心統(tǒng)領作用.《暫行辦法》則是“1+N”中的N之一,是人工智能法在GAI領域的下位法.通過“1”和“N”的有效結合,才能實現對人工智能的全方位監(jiān)管.如今人工智能法正處于立法進程之中,《暫行辦法》的先行出臺是對我國人工智能整體性監(jiān)管的及時應對和有益嘗試,給未來統(tǒng)一的人工智能法預留了充分的發(fā)揮空間.可以預計,未來我國的人工智能立法無論是從橫向的時代性還是從縱向的歷史性來看都會更趨全面和完善.今后應結合《暫行辦法》的成功經驗,順應時代發(fā)展趨勢,從立法模式、規(guī)則構造、監(jiān)管思路和國際合作4方面出發(fā),積極探索構建具有中國特色的人工智能治理規(guī)則,確保人工智能法能夠真正地推動我國科技進步,助力社會經濟發(fā)展.