整理/張宏羽

Q&A

主持人

趙瑋

最高人民檢察院第四檢察廳主辦檢察官

2023外灘大會檢察分論壇以“數(shù)字時代的司法治理：技術(shù)、法律與社會的交匯”為主題。在本次論壇的“圓桌與談”環(huán)節(jié)，與會嘉賓就“人類與人工智能如何實現(xiàn)共生發(fā)展”等問題展開交流討論，探尋數(shù)字時代的治理之道。

趨勢

趙瑋：人工智能已經(jīng)被廣泛應(yīng)用并逐漸融入生產(chǎn)生活的方方面面，我們無不感受到人工智能帶給社會的無窮變化和無限可能。那么，人工智能目前的應(yīng)用情況如何，又呈現(xiàn)出怎樣的發(fā)展趨勢？

伍大勇：從技術(shù)發(fā)展的視角出發(fā)，結(jié)合ChatGPT（一款聊天機器人模型）的推出所帶來的影響來看，大模型在人工智能領(lǐng)域的產(chǎn)業(yè)應(yīng)用趨勢主要有四個方面：第一，改變信息獲取方式。大模型可以根據(jù)用戶需求提供相關(guān)內(nèi)容，大幅提高信息獲取效率。第二，革新內(nèi)容生產(chǎn)模式，高效創(chuàng)作高質(zhì)量內(nèi)容。大模型可以快速自動生成內(nèi)容，徹底改變內(nèi)容創(chuàng)作的生產(chǎn)模式。第三，通過對話自然交互方式完成各類任務(wù)，提高用戶體驗和工作效率。第四，提高工作效率并推動創(chuàng)新。大模型技術(shù)逐漸賦能各個行業(yè)，包括在教育、醫(yī)療、工業(yè)、辦公、科研等領(lǐng)域。如在教育領(lǐng)域，實現(xiàn)個性化學(xué)習(xí)推薦、智能輔導(dǎo)等；在醫(yī)療健康領(lǐng)域，實現(xiàn)疾病診斷、治療方案推薦等；在制造業(yè)領(lǐng)域，實現(xiàn)生產(chǎn)過程優(yōu)化、設(shè)備維護預(yù)測等，幫助制造企業(yè)提高生產(chǎn)效率，降低成本。由此我們可以發(fā)現(xiàn)，大模型技術(shù)打開了通用人工智能的大門。

唐云佳：從網(wǎng)絡(luò)安全的視角出發(fā)，結(jié)合打擊犯罪的實際來看，人工智能被涉網(wǎng)違法犯罪利用后打擊犯罪呈現(xiàn)出多種新趨勢：一是傳統(tǒng)的犯罪手法、技術(shù)等衍生出新變種。傳統(tǒng)共識因為人工智能新技術(shù)被非法使用而受到挑戰(zhàn)，如在涉詐騙、網(wǎng)絡(luò)淫穢犯罪中換臉、換頭、合成虛假視頻等新技術(shù)的應(yīng)用，導(dǎo)致“眼見不一定為實，耳聽不一定為真”。二是網(wǎng)絡(luò)違法犯罪出現(xiàn)新的技術(shù)支撐。涉網(wǎng)犯罪鏈條中，出現(xiàn)了人工智能的身影，幫助信息網(wǎng)絡(luò)犯罪或者提供黑客工具。三是大模型本身擁有強大算力，作為被侵害方，偷取算力或偷取經(jīng)過大數(shù)據(jù)、大模型加工的數(shù)據(jù)事件隨之發(fā)生。

挑戰(zhàn)

趙瑋：人工智能時代下機遇和挑戰(zhàn)并存，對于法律工作者來說，如何去認(rèn)識和把握挑戰(zhàn)，化調(diào)整為機遇，是我們必須考慮的問題。圍繞人工智能技術(shù)在執(zhí)法、司法領(lǐng)域的應(yīng)用可能帶來的風(fēng)險，或者人工智能發(fā)展對傳統(tǒng)執(zhí)法、司法體系的運作和決策過程的影響，請各位專家結(jié)合自身研究領(lǐng)域和工作實際分享看法。

黃道麗：從技術(shù)與法律交融的角度來看，由于人工智能技術(shù)尚未完全成熟，加上公安執(zhí)法本身的復(fù)雜性，在提升工作效能的同時也面臨諸多風(fēng)險，主要包括：第一，人工智能技術(shù)本身的特性或存在的缺陷會帶來應(yīng)用中的共性安全問題。第二，技術(shù)應(yīng)用過程可能帶來數(shù)據(jù)安全風(fēng)險。第三，人工智能應(yīng)用于公安執(zhí)法這一特定場景下的安全風(fēng)險。因此，執(zhí)法與技術(shù)的關(guān)系是復(fù)雜而多面的，人工智能的執(zhí)法應(yīng)用不僅要考慮技術(shù)本身的問題，也要考慮地域差異、法律環(huán)境、執(zhí)法需求，平衡好價值取向，在現(xiàn)有執(zhí)法司法制度、法律體系框架之下嵌入，作出審慎恰當(dāng)?shù)木駬瘛?/p>

蔣紅珍：從數(shù)據(jù)安全的角度來看，尤其是對于個人隱私和數(shù)據(jù)秩序，人工智能技術(shù)的應(yīng)用帶來不小的挑戰(zhàn)：數(shù)據(jù)的隱私保護在《民法典》和《個人信息保護法》的基本法律框架之下，最核心的保護機制是“知情—同意”規(guī)則。圍繞于此，形成公益排除，以及最小必要原則。生成式人工智能技術(shù)的高度自動化和復(fù)雜性特點，導(dǎo)致其很難在自動收錄用戶個人信息的同時，讓信息主體充分全面了解個人信息的處理過程和結(jié)果，容易對“知情—同意”規(guī)則的構(gòu)架產(chǎn)生沖擊，最小必要原則也可能會被架空。技術(shù)更迭與權(quán)利保護本位之間產(chǎn)生的張力需要生成式人工智能對個人信息處理符合明確、合理的處理目的，以及通過對當(dāng)事人權(quán)益影響最小的方式進行信息處理。

Q&A

嘉 賓

黃道麗

公安部第三研究所網(wǎng)絡(luò)安全法律研究中心主任、研究員

Q&A

嘉 賓

唐云佳

上海市公安局網(wǎng)安總隊三支隊副支隊長

Q&A

嘉 賓

伍大勇

科大訊飛股份有限公司北京研究院執(zhí)行院長

Q&A

嘉 賓

蔣紅珍

上海交通大學(xué)凱原法學(xué)院教授、博士生導(dǎo)師

Q&A

嘉 賓

蔣科

中共上海市委網(wǎng)絡(luò)安全和信息化委員會辦公室網(wǎng)絡(luò)管理處處長

蔣科：從網(wǎng)信管理的視角出發(fā)，結(jié)合網(wǎng)絡(luò)監(jiān)管實際來看，對于未來大模型安全的風(fēng)險，我們可以從兩個維度來探討：一是傳統(tǒng)的普遍性的維度，從“數(shù)據(jù)安全——內(nèi)容安全——技術(shù)安全”看待風(fēng)險。數(shù)據(jù)安全方面主要包括14歲以下未成年人的信息、成年人的身份、行蹤軌跡、金融賬戶、生物特征等；內(nèi)容安全方面主要指違法違規(guī)的內(nèi)容，包括損害國家形象的、違法犯罪的、有偏見和歧視的內(nèi)容等；技術(shù)安全方面主要包括可能會發(fā)生的大模型被竊取、惡意篡改等。二是內(nèi)容生產(chǎn)環(huán)節(jié)維度，從“輸入端——中間端——輸出端”看待監(jiān)管。輸入端是指問答指令的輸入，是不是有違規(guī)的詞組、有惡意、挑逗式的問題需要進行攔截；中間端是數(shù)據(jù)的選擇和清洗的環(huán)節(jié)，有害數(shù)據(jù)是不能夠選擇使用的同時，對數(shù)據(jù)選擇之后還要大量進行標(biāo)注，包括機器標(biāo)注和人工的標(biāo)注，把高位敏感的清洗掉，再通過人工標(biāo)注進行細(xì)化；輸出端則是對生成內(nèi)容進行攔截。網(wǎng)信部門作為網(wǎng)絡(luò)安全主管部門，未來從環(huán)節(jié)端應(yīng)對安全風(fēng)險更加具有可控性，否則會對司法、教育、金融等多領(lǐng)域產(chǎn)生影響。

共生

趙瑋：人工智能時代出現(xiàn)新的風(fēng)險、新的問題和新的沖突，需要我們樹立新的理念、建立新的機制和采取新的舉措，從而實現(xiàn)人機共生發(fā)展，同向而行。那么，如何真正實現(xiàn)技術(shù)、法律與社會的共生發(fā)展？人工智能如何為高質(zhì)量發(fā)展提供更多的支持和幫助呢？

伍大勇：從ChatGPT處理能力的角度來看，以大模型為代表的人工智能新技術(shù)的產(chǎn)生，打開了人工智能的一扇門，讓人工智能和社會的結(jié)合越來越緊密。一方面，人工智能解放了人類的智力勞動，可以處理文本、圖像生成、機器翻譯等，可以說開啟了“第四次工業(yè)革命”；另一方面，人工智能開始處理多模感知，更接近客觀世界，隨著其迅速發(fā)展，各種處理能力的不斷上升，在未來會給我們的社會生活帶來更大的變化與變革。

蔣科：在網(wǎng)絡(luò)監(jiān)管方面，需要堅持以下兩個原則：一是分類監(jiān)管原則，針對具有輿論屬性和社會動員能力的重點平臺重點領(lǐng)域進行分類監(jiān)管，如資訊平臺、社交平臺、音視頻平臺、直播平臺、搜索引擎、問答社區(qū)及公眾賬號。二是包容審慎原則。通過備案+承諾制，企業(yè)開展自我評估后提供評估報告，按照備案要求提交備案表及其模型服務(wù)協(xié)議、數(shù)據(jù)標(biāo)注的規(guī)則、關(guān)鍵詞的列表及測試題的測試結(jié)果等材料，經(jīng)過一定的期限后自行發(fā)布。上述兩大原則將促進大模型更加健康規(guī)范地發(fā)展。

黃道麗：從大模型發(fā)展安全保障的角度來看，每個國家對人工智能帶來的安全風(fēng)險的治理路徑是多元化的，與每個國家的環(huán)境、價值取向、立法基礎(chǔ)密切相關(guān)。盡管各國都倡導(dǎo)安全、透明等原則性的人工智能監(jiān)管理念，但在具體思路和方式上，存在諸多不同。目前，我國在人工智能領(lǐng)域的規(guī)定采用區(qū)分業(yè)務(wù)領(lǐng)域、區(qū)分技術(shù)方向的措施。人工智能技術(shù)蓬勃發(fā)展，當(dāng)下階段性的管理辦法難以窮盡技術(shù)層面的細(xì)節(jié)，在分類分級監(jiān)管規(guī)則、輿論屬性和社會動員能力標(biāo)準(zhǔn)等領(lǐng)域尤其如此。過往監(jiān)管實踐預(yù)示我國傾向于建立一套“1+N”式法律框架，以基礎(chǔ)性和原則性規(guī)定組成為主，以特定問題和技術(shù)領(lǐng)域的專項規(guī)則和指南為輔，確保對人工智能技術(shù)全面監(jiān)管。值得指出的是，人工智能的治理需要軟法與硬法有機結(jié)合，關(guān)注價值觀、治理體系、治理對象以及效果評價。我們要正確認(rèn)識并協(xié)調(diào)“破壞性創(chuàng)新”與“試驗性監(jiān)管”之間的關(guān)系。對人工智能的監(jiān)管應(yīng)該是一個持續(xù)優(yōu)化的體系，有一個能夠快速吸收、修復(fù)、完善的路徑。

唐云佳：隨著人工智能的迅速發(fā)展，法律監(jiān)管需要快速適應(yīng)和調(diào)整，以平衡技術(shù)創(chuàng)新與法律監(jiān)管。這是一個慢慢磨合互相適應(yīng)的過程。在這個過程中，一些細(xì)分賽道的人工智能，能更快更好的與當(dāng)前的監(jiān)管體系達成平衡態(tài)。大模型的產(chǎn)品，由于多方位的發(fā)展，需要的磨合適應(yīng)調(diào)整的周期會更長。

蔣紅珍：從個人權(quán)利保障的角度來看，人工智能健康發(fā)展、共生發(fā)展，需要平衡人工智能技術(shù)的發(fā)展和個人權(quán)利保護之間的矛盾，需要立法機制和相關(guān)配套機制的完善，為如何平衡人工智能技術(shù)發(fā)展與個人權(quán)利保護劃定必要的界限；需要推進人工智能技術(shù)發(fā)展的公司需要強化社會責(zé)任意識和守法合規(guī)的意識，積極采取自我規(guī)制，提高對個人隱私和信息使用的保護；需要監(jiān)管部門在對個人信息保護提出合規(guī)要求時，既要嚴(yán)格執(zhí)法，也要包容審慎。

趙瑋：數(shù)字時代的司法治理需要重點處理好三大關(guān)系：第一，安全和發(fā)展的關(guān)系。數(shù)字時代司法治理首先要堅持安全底線，沒有網(wǎng)絡(luò)安全就沒有國家安全。法律在重點發(fā)展領(lǐng)域明確界限的同時，也要給予合理的試錯時間和空間，給予更多的人性化的指引。第二，人工和智能的關(guān)系。一方面，在大模型的構(gòu)建中，需要把人的正能量精神、高質(zhì)量需求和理性的分析能力滲透融入其中，從而使大數(shù)據(jù)模型真正成為理性的模型。另一方面，通過大數(shù)據(jù)模型、人工智能發(fā)展，推動和促進人類的發(fā)展，促進智能時代的人類更具有創(chuàng)新能力、規(guī)則意識和協(xié)作精神。法律需要統(tǒng)籌二者的關(guān)系。第三，將來和未來的關(guān)系。對于可預(yù)見、可希望的內(nèi)容，需要法律提出規(guī)范性意見、指引意見。同時，人工智能是研究當(dāng)代的問題，更是研究跨代的問題，因為人工智能接近人類的空間和可能變得越來越大，法律層面需要提供更多的回應(yīng)與指引。

（聲明：本內(nèi)容僅代表嘉賓觀點，不代表本刊立場）