亚洲免费av电影一区二区三区,日韩爱爱视频,51精品视频一区二区三区,91视频爱爱,日韩欧美在线播放视频,中文字幕少妇AV,亚洲电影中文字幕,久久久久亚洲av成人网址,久久综合视频网站,国产在线不卡免费播放

        ?

        我國(guó)數(shù)字政府建設(shè)應(yīng)用ChatGPT模型的探索與思考

        2023-04-29 00:00:00韓廣召
        現(xiàn)代管理科學(xué) 2023年4期

        [摘要]數(shù)字政府建設(shè)是否能夠應(yīng)用ChatGPT最先進(jìn)的技術(shù)成果,既是持續(xù)推進(jìn)數(shù)字政府建設(shè)的必要考慮,也是數(shù)字政府建設(shè)創(chuàng)新驅(qū)動(dòng)的內(nèi)在要求。旨在探究ChatGPT模型與數(shù)字政府建設(shè)的契合之處,梳理模型本身的適用性及其在數(shù)字政府建設(shè)中的應(yīng)用邏輯?;贑hatGPT模型塑造數(shù)字和政府的交互構(gòu)造、交融模型和共生行動(dòng),分析ChatGPT模型與數(shù)字政府在原理上存在的創(chuàng)新、效率、服務(wù)三重共識(shí)。數(shù)字政府應(yīng)當(dāng)是法治政府,首先要構(gòu)建數(shù)據(jù)分級(jí)制度,搭建第一道門檻;其次要實(shí)現(xiàn)責(zé)任追溯模式,確立第二重保障;最后要完成科技倫理規(guī)訓(xùn),延長(zhǎng)第三棒交匯。以此為基礎(chǔ),我國(guó)應(yīng)當(dāng)在事前,通過立法機(jī)關(guān)承擔(dān)風(fēng)險(xiǎn)預(yù)防義務(wù),實(shí)現(xiàn)數(shù)字政府的有法可依;在事中,通過執(zhí)法機(jī)關(guān)的侵害排斥義務(wù),實(shí)現(xiàn)數(shù)字政府的運(yùn)作保障;在事后,通過司法機(jī)關(guān)的權(quán)利救濟(jì)義務(wù),實(shí)現(xiàn)數(shù)字政府的信任維持。

        [關(guān)鍵詞]數(shù)字政府;ChatGPT;數(shù)據(jù)分析;法律責(zé)任

        一、 問題的提出

        隨著新一代人工智能交互軟件ChatGPT在全球范圍內(nèi)的“爆火”,人工智能也進(jìn)入新的發(fā)展階段。國(guó)內(nèi)版本的ChatGPT也隨之出現(xiàn):復(fù)旦大學(xué)邱錫鵬教授團(tuán)隊(duì)于今年2月發(fā)布國(guó)內(nèi)首個(gè)對(duì)話式大型語(yǔ)言模型MOSS,百度于今年3月發(fā)布大語(yǔ)言模型、生成式AI產(chǎn)品“文心一言”,阿里巴巴也于今年4月推出了超大規(guī)模語(yǔ)言模型“通義千問”,而華為也擬在今年7月推出多模態(tài)千億級(jí)大模型“盤古chat”?;贑hatGPT模型強(qiáng)大的技術(shù)潛力以及廣闊的應(yīng)用場(chǎng)景,各大科技公司已經(jīng)在悄無聲息中開始了關(guān)于ChatGPT模型的爭(zhēng)奪戰(zhàn)。中國(guó)社會(huì)科學(xué)院數(shù)量經(jīng)濟(jì)與技術(shù)經(jīng)濟(jì)研究所助理研究員端利濤表示,生成式AI在代碼編程、金融分析、醫(yī)學(xué)、教育等領(lǐng)域都顯著提升了效率并改善了用戶的體驗(yàn),作為技術(shù)發(fā)展的趨勢(shì),以ChatGPT模型為代表的大模型已經(jīng)是互聯(lián)網(wǎng)企業(yè)繞不開的技術(shù)[1]。ChatGPT模型預(yù)示著當(dāng)前人工智能技術(shù)發(fā)展的新方向。各大科技公司爭(zhēng)相采納和持續(xù)推進(jìn)這一技術(shù)以實(shí)現(xiàn)產(chǎn)品和服務(wù)躍升的行動(dòng)也為數(shù)字政府建設(shè)的推高提供了新的啟示:充分發(fā)掘ChatGPT模型在優(yōu)化數(shù)據(jù)、暢通人機(jī)交互、提升服務(wù)效率和質(zhì)量等方面的技術(shù)潛力,能夠?yàn)閿?shù)字政府建設(shè)的進(jìn)一步發(fā)展和完善提供助益。數(shù)字政府建設(shè)是否能夠以及如何吸取這一最先進(jìn)的技術(shù)成果,既是持續(xù)推進(jìn)數(shù)字政府建設(shè)的必要考慮,也是數(shù)字政府建設(shè)創(chuàng)新驅(qū)動(dòng)的內(nèi)在要求[2]?;诖?,本文將對(duì)ChatGPT模型是否能夠助益數(shù)字政府建設(shè)、為何能夠助益數(shù)字政府建設(shè)以及如何助益數(shù)字政府建設(shè)展開探討。

        二、 ChatGPT模型輔助數(shù)字政府建設(shè)重要意義

        ChatGPT是一種大型語(yǔ)言交互模型,其技術(shù)優(yōu)勢(shì)是優(yōu)化交互結(jié)構(gòu)。ChatGPT在應(yīng)用于社會(huì)治理問題時(shí)能夠構(gòu)造一種雙重偶聯(lián)的“間性”治理模式,服務(wù)于技術(shù)善治的目標(biāo)。因此,將ChatGPT模型引入數(shù)字政府建設(shè)中,無論是從宏觀到微觀,抑或是從靜態(tài)(制度安排)到動(dòng)態(tài)(治理實(shí)踐)都有助于數(shù)字政府的建設(shè)。

        1. 結(jié)構(gòu)塑造:數(shù)字與政府的“交響”

        第一,有助于重塑數(shù)字政府技術(shù)聯(lián)結(jié)。ChatGPT模型是多種技術(shù)的整合,例如大數(shù)據(jù)、物聯(lián)網(wǎng)和云計(jì)算等,能夠?qū)崿F(xiàn)數(shù)據(jù)共享、互聯(lián)互通和人機(jī)協(xié)同[3]。可以強(qiáng)化數(shù)字政府的技術(shù)聯(lián)結(jié)能力。通過人機(jī)對(duì)話的形式,ChatGPT模型可以讓行政相對(duì)人明顯地感覺到其所面對(duì)的智能系統(tǒng)對(duì)于數(shù)據(jù)、資源以及人類智識(shí)的整合運(yùn)用。

        第二,ChatGPT模型有助于優(yōu)化數(shù)字政府治理結(jié)構(gòu)。ChatGPT將人工智能技術(shù)整合在一起,在對(duì)數(shù)據(jù)整合的同時(shí)增強(qiáng)了政府部門之間的協(xié)同聯(lián)動(dòng)。在傳統(tǒng)科層制下,政府部門存在高度分工,但現(xiàn)代社會(huì)的治理要求各個(gè)部門要綜合治理。ChatGPT模型的應(yīng)用順應(yīng)了這一要求,其本身建基于“人+環(huán)境+AI”的交互,是一個(gè)跨越時(shí)空和層級(jí)的高度協(xié)同系統(tǒng)[5]。

        2. 模式塑造:自動(dòng)與決策的“交融”

        第一,有助于提高行政決策的科學(xué)性??茖W(xué)決策是對(duì)政府決策的內(nèi)在要求,ChatGPT模型的應(yīng)用能夠提高行政決策的科學(xué)性,具體表現(xiàn)在:一是,ChatGPT模型擁有先進(jìn)的算法系統(tǒng),能夠幫助行政機(jī)關(guān)獲得更多的決策信息并進(jìn)行歸類整理,提升了決策依據(jù)的科學(xué)性;二是,ChatGPT能夠?qū)崿F(xiàn)自動(dòng)抓取、精準(zhǔn)識(shí)別和風(fēng)險(xiǎn)規(guī)避等傳統(tǒng)“拍腦袋”決策所不能實(shí)現(xiàn)的高效便捷;三是,ChatGPT進(jìn)行自動(dòng)化決策,自動(dòng)輸出決策結(jié)果,減少了人工輸入和輸出的風(fēng)險(xiǎn)和錯(cuò)誤。

        第二,有助于推動(dòng)電子政務(wù)的公平化。一方面,ChatGPT模型由于依托智能算法系統(tǒng),能夠更大程度地降低算法歧視風(fēng)險(xiǎn)。這尤其體現(xiàn)在數(shù)據(jù)收集方面,ChatGPT模型能夠全方位收集用戶偏好,從而避免社會(huì)群體由于學(xué)歷、年齡、職業(yè)等因素而被區(qū)別對(duì)待。另一方面,ChatGPT提高了公共服務(wù)均等化水平,友好的人機(jī)交互性大大提高了行政主體和行政相對(duì)人的智能化接受能力。

        3. 行動(dòng)塑造:智能與精準(zhǔn)的“交織”

        ChatGPT的優(yōu)勢(shì)在于人機(jī)交互性大大提高,ChatGPT擁有更為高超的對(duì)話技巧和對(duì)話能力,在人們的使用中更加親民。ChatGPT的交互優(yōu)勢(shì)在數(shù)字政府建設(shè)中尤為重要,它表現(xiàn)在以下兩方面:

        第一,人機(jī)溝通的智能化。相比于傳統(tǒng)AI模型,ChatGPT能夠真正實(shí)現(xiàn)對(duì)人類對(duì)話的模仿,這是由于ChatGPT的數(shù)據(jù)收集和機(jī)器學(xué)習(xí)能力得到了巨大提升,能夠處理包括語(yǔ)言翻譯、日常問答和文本摘要在內(nèi)的諸多任務(wù)類型。這些文本以類似人類對(duì)話的方式呈現(xiàn)給用戶,并且ChatGPT能夠根據(jù)對(duì)上下文的理解,完成后續(xù)對(duì)話任務(wù)。

        第二,人機(jī)溝通的對(duì)稱性。在傳統(tǒng)行政模式中,行政主體和行政相對(duì)人處于不平等的地位之中,兩者的對(duì)話也不是對(duì)稱性的,而是伴隨著一系列規(guī)范要求。ChatGPT的應(yīng)用有利于打破傳統(tǒng)模式的僵硬,實(shí)現(xiàn)行政主體和行政相對(duì)人的相對(duì)平等交流,這種平等交流體現(xiàn)在信息的輸出和表達(dá)更為親民,行政信息的公開更能滿足公眾的知情權(quán)。

        三、 ChatGPT模型輔助數(shù)字政府建設(shè)的理論邏輯

        從理論層面看,ChatGPT模型能夠輔助數(shù)字政府建設(shè),其內(nèi)在的邏輯就在于它契合數(shù)字政府建設(shè)三大本質(zhì)要求——?jiǎng)?chuàng)新、效率、服務(wù)。

        1. 數(shù)字政府與ChatGPT模型的創(chuàng)新共識(shí)

        數(shù)字政府是推動(dòng)數(shù)字中國(guó)建設(shè)的關(guān)鍵要素,政府部門不斷創(chuàng)新應(yīng)用場(chǎng)景,關(guān)注數(shù)字化公共能力和智能化創(chuàng)新應(yīng)用場(chǎng)景。數(shù)字政府旨在形成“用數(shù)據(jù)對(duì)話、用數(shù)據(jù)決策、用數(shù)據(jù)服務(wù)、用數(shù)據(jù)創(chuàng)新”的現(xiàn)代治理模式[5]。2022年6月,中共中央、國(guó)務(wù)院印發(fā)《關(guān)于加強(qiáng)數(shù)字政府建設(shè)的指導(dǎo)意見》,提出加強(qiáng)數(shù)字政府建設(shè)是適應(yīng)新一輪科技革命和產(chǎn)業(yè)變革趨勢(shì)、引領(lǐng)驅(qū)動(dòng)數(shù)字經(jīng)濟(jì)發(fā)展和數(shù)字社會(huì)建設(shè)、營(yíng)造良好數(shù)字生態(tài)、加快數(shù)字化發(fā)展的必然要求。數(shù)字政府建設(shè)是在數(shù)字化背景下黨和國(guó)家基于創(chuàng)新發(fā)展需要的要求,以新一代人工智能技術(shù)和大數(shù)據(jù)、云計(jì)算為支撐。ChatGPT作為目前最先進(jìn)的人工智能技術(shù),它的興起為數(shù)字政府建設(shè)帶來了全新的發(fā)展契機(jī),迎合了數(shù)字政府創(chuàng)新發(fā)展。ChatGPT模型背后的團(tuán)隊(duì)OpenAI有著強(qiáng)大的創(chuàng)新支撐機(jī)制,ChatGPT模型的研發(fā)模式創(chuàng)新,通過技術(shù)的不斷革新,反復(fù)調(diào)整人工指令和模型數(shù)據(jù),確保ChatGPT模型能夠更好地理解人類的意圖,保證轉(zhuǎn)換器的輸出更加接近人類語(yǔ)言的真實(shí)回答。由此可見,ChatGPT模型的出現(xiàn)得益于新一代人工智能對(duì)新技術(shù)的不斷吸收和采納,將ChatGPT模型輔助數(shù)字政府建設(shè)正是符合了數(shù)字政府建設(shè)創(chuàng)新的內(nèi)在要求。在數(shù)字政府建設(shè)過程中,應(yīng)鼓勵(lì)有條件的主體加強(qiáng)創(chuàng)新研發(fā)能力,并且加大對(duì)創(chuàng)新主體的支持,并推動(dòng)算法、數(shù)據(jù)、算力等各方面資源協(xié)同發(fā)展。數(shù)字政府建設(shè)尤其關(guān)注對(duì)人工智能技術(shù)的研究,政府信息公開、數(shù)據(jù)開放和信息服務(wù)的基礎(chǔ)在于數(shù)據(jù),著力打造服務(wù)精準(zhǔn)、科學(xué)智能的數(shù)字政府需要深度融合數(shù)據(jù)服務(wù)資源。ChatGPT模型迎合數(shù)字政府的創(chuàng)新需求,將會(huì)帶來生產(chǎn)力的大幅度提升,輔助數(shù)字政府改善服務(wù)質(zhì)量,推動(dòng)職能化、標(biāo)準(zhǔn)化工作。

        2. 數(shù)字政府與ChatGPT模型的效率共識(shí)

        傳統(tǒng)政府管理往往運(yùn)營(yíng)緩慢、程序繁瑣,缺少數(shù)字化工具和技術(shù),難以優(yōu)化流程、對(duì)政務(wù)需求做出快速反應(yīng)。數(shù)字政府以數(shù)字化提高政府運(yùn)行效率,大數(shù)據(jù)能夠幫助政府更快處理分發(fā)信息,高效決策行動(dòng),協(xié)調(diào)各個(gè)部門之間的工作,在數(shù)字化推動(dòng)下簡(jiǎn)化流程以避免政務(wù)資源的浪費(fèi)。數(shù)字化本身能夠?yàn)檎峁┝己玫臄?shù)據(jù)分析,政府通常把握高質(zhì)量的公民企業(yè)等主體數(shù)據(jù)信息,通過數(shù)字化智能系統(tǒng)將信息分析形成數(shù)據(jù),可以提高政務(wù)部門洞察力,幫助政府更好地了解公眾的需求,從而針對(duì)需求制定政務(wù)決策計(jì)劃。另外,數(shù)字化推動(dòng)政務(wù)公開透明,可以提高政府的公信力,幫助政府和公民、企業(yè)等市場(chǎng)主體更好地建立良性的合作關(guān)系。ChatGPT模型的引入能夠提高政府的智能化水平,通過在線問答系統(tǒng)、自助服務(wù)終端、政府服務(wù)熱線等人工智能交互應(yīng)用,提升政府服務(wù)的工作效率。合理地使用ChatGPT模型能夠高效地整合政府公開的信息,提高政府辦事效率,降低政府搜尋、查找、匯總的成本[3]。在內(nèi)部行政事務(wù)的處理方面,ChatGPT模型能夠幫助政府工作人員進(jìn)行數(shù)據(jù)分析,為政府機(jī)構(gòu)提供智能化的決策支持和數(shù)據(jù)預(yù)測(cè),提高政府行政事務(wù)的決策質(zhì)量和效率;通過自動(dòng)化和智能化的機(jī)器人和聊天系統(tǒng),使得政府機(jī)構(gòu)內(nèi)部的溝通和協(xié)作變得更加高效,可以更加便捷地解決各類行政事務(wù)問題。在外部行政事務(wù)的處理方面,ChatGPT模型可以幫助政府機(jī)構(gòu)提供更加快捷高效的在線問答服務(wù),以滿足民眾對(duì)于政策和行政事務(wù)類問題的咨詢和查詢需求;通過自動(dòng)化填報(bào)申請(qǐng)表、自動(dòng)化審核等,提高政府行政服務(wù)的效率和準(zhǔn)確性。此外,ChatGPT模型可以為政府機(jī)構(gòu)提供定制化的行政服務(wù),根據(jù)個(gè)人的需求和情況進(jìn)行精準(zhǔn)匹配,提高政府服務(wù)的個(gè)性化水平和滿意度。

        3. 數(shù)字政府與ChatGPT模型的服務(wù)共識(shí)

        數(shù)字政府建設(shè)的核心是為公民和企業(yè)提供高效便捷的服務(wù)。數(shù)字化技術(shù)推動(dòng)政務(wù)服務(wù)更加精準(zhǔn)、優(yōu)質(zhì),為政府工作帶來更高效、透明、智能的運(yùn)作方式,為政府提供更加良好的公共服務(wù)。我們生活之時(shí)代早已不再是一個(gè)金融交易只發(fā)生在實(shí)體交易所,政治磋商要經(jīng)由一小撮人在煙霧繚繞的暗室里達(dá)成共識(shí)的時(shí)代[6]。因此,相較于傳統(tǒng)政府服務(wù),數(shù)字政府能夠改善政府與公眾的溝通和互動(dòng),進(jìn)一步推動(dòng)服務(wù)品質(zhì)和用戶體驗(yàn)。數(shù)字政府的目的是依托數(shù)字技術(shù)、實(shí)現(xiàn)公共服務(wù)無紙化,推動(dòng)政府對(duì)施政方式、理念、手段和工具的變革[4]。ChatGPT模型能夠從根本上支撐數(shù)字政府理解用戶需求、滿足信息共享、提升服務(wù)質(zhì)量等要求。ChatGPT模型通過對(duì)用戶語(yǔ)言的理解分析,精準(zhǔn)對(duì)接用戶需求,改善政務(wù)服務(wù)。政府可以將ChatGPT模型整合進(jìn)其電子政務(wù)系統(tǒng)中,通過人機(jī)互動(dòng)或者自助平臺(tái)模式讓公眾方便快捷地咨詢政府服務(wù)信息。數(shù)字政府的建設(shè)需要公民和政府的雙向互動(dòng),ChatGPT模型利于數(shù)字政府建設(shè)的民主化,公民不必再線下等待政務(wù)人員的回應(yīng),經(jīng)歷繁瑣的流程。通過文本消息和語(yǔ)音交流,理解用戶的指令,在數(shù)據(jù)庫(kù)中進(jìn)行檢索,ChatGPT模型能夠分析用戶的語(yǔ)言滿足用戶的需求。數(shù)字政府需要滿足多方主體需求,ChatGPT模型能夠即時(shí)、準(zhǔn)確地回答和解決用戶的疑問,提升政府與公民之間的溝通效率。在溝通互動(dòng)過程中,ChatGPT模型將公民、企業(yè)等主體的反饋和需求反饋到政務(wù)服務(wù)系統(tǒng)中,幫助政府更好地了解和滿足公眾的需求,幫助政府提升公眾滿意度。因此,ChatGPT模型不僅可以提高政府服務(wù)的效率和質(zhì)量,還能夠?qū)崿F(xiàn)服務(wù)的人性化、智能化和定制化,進(jìn)一步提升數(shù)字政府建設(shè)的服務(wù)價(jià)值目標(biāo)導(dǎo)向。

        四、 ChatGPT模型輔助數(shù)字政府建設(shè)基本思路

        ChatGPT模型作為一項(xiàng)新的人工智能技術(shù),在輔助數(shù)字政府建設(shè)過程中遭遇了頻繁的法治問題,而法治問題在一定程度上影響著ChatGPT模型輔助數(shù)字政府建設(shè)的效果,因此充分控制ChatGPT模型技術(shù)應(yīng)用中的法律風(fēng)險(xiǎn)成為當(dāng)代數(shù)字政府建設(shè)的基本任務(wù),其主要是構(gòu)建以數(shù)據(jù)規(guī)范、責(zé)任導(dǎo)向、倫理價(jià)值為核心的完整體系。

        1. 數(shù)據(jù)分級(jí):ChatGPT模型介入數(shù)字政府的第一道門檻

        ChatGPT模型在輔助數(shù)字政府建設(shè)過程中與海量數(shù)據(jù)資源產(chǎn)生交集,由于這些數(shù)據(jù)的敏感程度不同,ChatGPT在處理過程中極易引發(fā)數(shù)據(jù)治理與國(guó)家主權(quán)安全的沖突,為此需要將數(shù)據(jù)分級(jí)分類制度作為數(shù)字政府建設(shè)的邏輯起點(diǎn),從源頭規(guī)制ChatGPT技術(shù)引發(fā)的數(shù)據(jù)風(fēng)險(xiǎn)。為降低ChatGPT模型在處理數(shù)據(jù)時(shí)所產(chǎn)生的負(fù)外部效應(yīng),更好地發(fā)揮數(shù)字政府的公共管理職能,應(yīng)當(dāng)根據(jù)《數(shù)據(jù)安全法》,以數(shù)據(jù)的敏感程度、運(yùn)作方式、運(yùn)行目的等信息為標(biāo)準(zhǔn),將數(shù)據(jù)類型化為不同等級(jí)和類別[7],打破當(dāng)前數(shù)據(jù)分類分級(jí)散亂的局面,建立由國(guó)家主導(dǎo)的“自上而下”的數(shù)據(jù)分類分級(jí)管理制度。為此國(guó)家數(shù)據(jù)主管部門與政府相關(guān)機(jī)構(gòu)應(yīng)當(dāng)分工協(xié)作,先由國(guó)家數(shù)據(jù)主管部門制定數(shù)據(jù)分類分級(jí)的目錄和總體框架,再由政府相關(guān)部門進(jìn)行細(xì)化,最后根據(jù)強(qiáng)制性適配規(guī)則要求必須適用,從而為ChatGPT模型輔助數(shù)字政府建設(shè)提供一個(gè)安全可靠、操作性強(qiáng)、資源豐富的數(shù)據(jù)庫(kù)。

        而針對(duì)上述“數(shù)據(jù)庫(kù)”ChatGPT模型應(yīng)建立針對(duì)性的數(shù)據(jù)處理標(biāo)準(zhǔn):(1)涉及國(guó)家主權(quán)安全、經(jīng)濟(jì)發(fā)展和社會(huì)公共利益的“核心數(shù)據(jù)”,ChatGPT模型背后的數(shù)據(jù)處理系統(tǒng)無權(quán)調(diào)取,政府部門在應(yīng)用ChatGPT模型時(shí)應(yīng)避開該類數(shù)據(jù)以保護(hù)這類核心數(shù)據(jù)的絕對(duì)安全性;(2)涉及公民個(gè)人隱私和公司商業(yè)秘密的“重要數(shù)據(jù)”,政府部門在使用該類數(shù)據(jù)時(shí),應(yīng)征得數(shù)據(jù)所有者的同意,同時(shí)明確ChatGPT模型處理該類數(shù)據(jù)的范圍,在這一情況下,公共利益和個(gè)人利益得到了充分的平衡,此外,基于政府與數(shù)據(jù)所有者“協(xié)商”這一前置要件,在一定程度上也能規(guī)范政府的自由裁量權(quán);(3)就“普通數(shù)據(jù)”而言,由于這類數(shù)據(jù)與國(guó)民隱私、國(guó)家重點(diǎn)行業(yè)和核心領(lǐng)域無關(guān),為提升ChatGPT模型輔助數(shù)字政府建設(shè)的效能,政府部門可以將該類數(shù)據(jù)向ChatGPT模型的數(shù)據(jù)處理系統(tǒng)開放,由其進(jìn)行任意處理。

        需要注意的是,盡管將數(shù)據(jù)分為不同類別和等級(jí),但ChatGPT模型在進(jìn)行數(shù)據(jù)處理時(shí)必須始終按照法律規(guī)定的范圍、方式和程序進(jìn)行。此外,在全球化視野下,我國(guó)在開展數(shù)據(jù)分類分級(jí)工作中,應(yīng)當(dāng)秉持科學(xué)、合作、動(dòng)態(tài)和可持續(xù)的發(fā)展原則,避免將過多的數(shù)據(jù)納入核心和重要數(shù)據(jù)的保護(hù)范圍而降低數(shù)據(jù)治理效能[8],把握好數(shù)據(jù)分類分級(jí)與數(shù)據(jù)治理效能之間的張力,客觀地制定數(shù)據(jù)分類分級(jí)目錄,從而提升ChatGPT模型輔助數(shù)字政府建設(shè)過程中數(shù)據(jù)治理的實(shí)效。

        2. 責(zé)任追溯:ChatGPT模型介入數(shù)字政府的第二重保障

        ChatGPT作為一項(xiàng)新型人工智能技術(shù),完善該模型的責(zé)任審查和承擔(dān)機(jī)制是保障這一生成式AI技術(shù)應(yīng)用于現(xiàn)代政府治理的必要前提。

        行政機(jī)關(guān)而言,應(yīng)對(duì)ChatGPT模型在數(shù)字政府建設(shè)過程中的決策失誤承擔(dān)行政責(zé)任,即在政府應(yīng)用ChatGPT模型所作的相關(guān)決策對(duì)行政相對(duì)人的合法權(quán)益產(chǎn)生不利影響時(shí),行政機(jī)關(guān)作為ChatGPT模型的使用者理應(yīng)承擔(dān)相關(guān)行政責(zé)任。這一責(zé)任承擔(dān)方式體現(xiàn)出政府對(duì)算法、大數(shù)據(jù)、5G、ChatGPT等技術(shù)的審慎注意義務(wù),按照ChatGPT模型進(jìn)入數(shù)字政府輔助建設(shè)的階段可以將這一責(zé)任分為安全審查責(zé)任和結(jié)果審查責(zé)任兩類。一方面是ChatGPT模型引入數(shù)字政府建設(shè)階段的安全審查責(zé)任。因?yàn)樾姓C(jī)關(guān)應(yīng)用ChatGPT技術(shù)的目的是提升行政服務(wù)效率,優(yōu)化政務(wù)服務(wù)方式,也是推進(jìn)政府治理現(xiàn)代化的主動(dòng)選擇,而行政機(jī)關(guān)作為公主體所負(fù)有的公共管理職能,使得行政機(jī)關(guān)負(fù)有審慎選擇“技術(shù)服務(wù)”提供方的義務(wù),即政府理應(yīng)檢測(cè)服務(wù)方技術(shù)水平、謹(jǐn)慎擬定服務(wù)合作協(xié)議、充分了解服務(wù)方經(jīng)營(yíng)情況等影響ChatGPT模型輔助數(shù)字政府建設(shè)提升服務(wù)效能的事項(xiàng),以此保證前期審慎義務(wù)的合格而避免承擔(dān)安全審查責(zé)任。另一方面是ChatGPT模型應(yīng)用數(shù)字政府建設(shè)階段的結(jié)果審查責(zé)任。就“ChatGPT”這個(gè)新技術(shù)來說,其屬于“生成式 AI”(Generative AI)的范疇[9],換句話說它本質(zhì)上仍然是根據(jù)提示詞概率分布關(guān)系生成關(guān)聯(lián)內(nèi)容的語(yǔ)言模型[10]。在這一情況下,提示工程師(Prompt Engineer)成為科技領(lǐng)域最熱門的工作,這表明大型智能語(yǔ)言模型的輸出結(jié)果在很大程度上取決于輸入質(zhì)量與輸入方式。在數(shù)字政府建設(shè)中全程應(yīng)用ChatGPT模型成為政府治理現(xiàn)代化的趨勢(shì),因此行政機(jī)關(guān)在使用和管理ChatGPT模型時(shí),應(yīng)對(duì)ChatGPT模型所使用的數(shù)據(jù)進(jìn)行篩選、過濾以及整合,選擇合適的語(yǔ)言輸入其中保證輸出結(jié)果的合理性,避免落入“算法至上”和“唯技術(shù)論”所誘發(fā)的行政決策失誤的陷阱中,進(jìn)而承擔(dān)這一階段的結(jié)果審查責(zé)任。

        ChatGPT技術(shù)服務(wù)的提供者,應(yīng)對(duì)ChatGPT模型在數(shù)字政府建設(shè)過程中造成的錯(cuò)誤決策承擔(dān)相應(yīng)的民事責(zé)任。ChatGPT模型在研發(fā)階段,開發(fā)者便在模型依托的算法上進(jìn)行精心設(shè)計(jì),創(chuàng)造了編碼器、解碼器和語(yǔ)言模型,這三個(gè)主要組件直接決定了算法的內(nèi)部構(gòu)造和外部輸出能力,實(shí)現(xiàn)了ChatGPT模型在提供服務(wù)時(shí)使用者對(duì)算法導(dǎo)出結(jié)果的控制。需要注意的是,數(shù)字政府在建設(shè)過程中使用了具有缺陷或瑕疵的ChatGPT模型,進(jìn)而造成決策失誤或者引發(fā)了其他更為嚴(yán)重的問題,行政機(jī)關(guān)也有權(quán)依據(jù)服務(wù)合作協(xié)議的約定,對(duì)模型服務(wù)開發(fā)者主張相應(yīng)的違約責(zé)任,包括但不限于經(jīng)濟(jì)賠償、單方解除協(xié)議、納入政府采購(gòu)黑名單等責(zé)任承擔(dān)方式[11]。行政機(jī)關(guān)可以將上述模型提供者支付的經(jīng)濟(jì)賠償作為因ChatGPT模型而導(dǎo)致的行政決策失誤造成行政相對(duì)人損害的賠償或補(bǔ)償?shù)膶m?xiàng)費(fèi)用。此外,ChatGPT模型開發(fā)者輔助政府進(jìn)行數(shù)字化建設(shè)是由雙方簽訂的“服務(wù)合作協(xié)議”所決定,該協(xié)議在性質(zhì)上屬于民法上的合同,所以協(xié)議雙方的地位是平等的,不因行政機(jī)關(guān)是公主體而享有特權(quán),但ChatGPT技術(shù)服務(wù)的提供者應(yīng)認(rèn)真履行相應(yīng)的合同義務(wù),其作為政府選擇的合作方對(duì)數(shù)字政府的建設(shè)具有重大影響,一旦違反相關(guān)協(xié)議,導(dǎo)致行政決策失誤侵害公共利益時(shí),應(yīng)從重追究違約責(zé)任。

        3. 倫理規(guī)訓(xùn):ChatGPT模型介入數(shù)字政府的第三棒交匯

        ChatGPT技術(shù)在輔助數(shù)字政府建設(shè)過程中能夠轉(zhuǎn)變政府服務(wù)方式、提升政府服務(wù)效能、推動(dòng)社會(huì)進(jìn)步,同時(shí),也會(huì)引發(fā)一定的社會(huì)風(fēng)險(xiǎn)和倫理挑戰(zhàn)[12]。在科技發(fā)展的過程中,始終伴隨著科技倫理失靈而導(dǎo)致的科技危機(jī),在人工智能時(shí)代這一科技危機(jī)仍在加重,為此構(gòu)建規(guī)范有序的科技倫理治理體系成為人工智能時(shí)代科技發(fā)展的重要議題。早在2004年美國(guó)國(guó)家電子政務(wù)中心創(chuàng)始人、馬薩諸塞大學(xué)教授簡(jiǎn)·芳汀(Jane E.Fountain)就指出,信息技術(shù)產(chǎn)生的變革是以怎樣的方式影響制度結(jié)構(gòu),這是所有國(guó)家在發(fā)展科學(xué)技術(shù)時(shí)都必須首先明確的問題[13]。愛因斯坦提出“科學(xué)是強(qiáng)有力的工具,怎樣用它,究竟是給人帶來幸福還是災(zāi)難,全取決于人自己,而不取決于工具”,因此在建設(shè)科技倫理體系時(shí),必須著眼于技術(shù)對(duì)現(xiàn)有倫理的沖擊與不良影響,在此情況下發(fā)揮人的主觀能動(dòng)性,即明確科技發(fā)展的最終目的是成為捍衛(wèi)國(guó)家主權(quán)、保護(hù)公民權(quán)利的工具。

        在ChatGPT模型輔助數(shù)字政府建設(shè)的過程中,數(shù)字政府遇到的倫理問題不只是技術(shù)對(duì)于傳統(tǒng)隱私、公平、安全等價(jià)值的回應(yīng)和實(shí)現(xiàn),更獨(dú)特的是技術(shù)本身會(huì)沖擊既有的行政倫理觀,形成同一行政鏈條上不同環(huán)節(jié)的倫理標(biāo)準(zhǔn)相互對(duì)立的情況[14]。為解決這一問題,必須引入我國(guó)法治建設(shè)的靈魂“社會(huì)主義核心價(jià)值觀”,即在ChatGPT模型服務(wù)數(shù)字政府建設(shè)沖擊行政倫理觀,導(dǎo)致倫理標(biāo)準(zhǔn)對(duì)立時(shí),社會(huì)主義核心價(jià)值觀應(yīng)作為基本理念,消解和調(diào)和這一過程中產(chǎn)生的科技倫理危機(jī)[15]??傊趹?yīng)用ChatGPT模型建設(shè)數(shù)字政府時(shí)理應(yīng)在我國(guó)社會(huì)主義核心價(jià)值觀的指導(dǎo)下進(jìn)行,防止應(yīng)用途中商業(yè)資本入侵腐蝕我國(guó)行政系統(tǒng)的組織架構(gòu)進(jìn)而導(dǎo)致權(quán)力腐敗,有論者提出,“以信息化平臺(tái)固化行政權(quán)力事項(xiàng)運(yùn)行流程,推動(dòng)行政審批、行政執(zhí)法、公共資源交易等全流程數(shù)字化運(yùn)行、管理和監(jiān)督,促進(jìn)行政權(quán)力規(guī)范透明運(yùn)行,形成目標(biāo)精準(zhǔn)、講求實(shí)效、穿透性強(qiáng)的新型督查模式,提升督查效能,把權(quán)力關(guān)進(jìn)‘?dāng)?shù)據(jù)鐵籠’” [16],因此規(guī)范有序的科技倫理可以反促數(shù)字政府的建設(shè)與治理,ChatGPT模型服務(wù)數(shù)字政府建設(shè)引發(fā)的科技倫理問題無法避免,建立以社會(huì)主義核心價(jià)值觀為內(nèi)核的規(guī)范有序的科技倫理體系,已成為時(shí)代賦予的新使命。

        五、 加快ChatGPT模型輔助數(shù)字政府建設(shè)的政策建議

        若要加快ChatGPT模型在數(shù)字政府建設(shè)中的應(yīng)用,還應(yīng)當(dāng)搭建起一套立足于“事前—事中—事后”的保障機(jī)制。

        1. 事前保障機(jī)制:立法機(jī)關(guān)風(fēng)險(xiǎn)預(yù)防義務(wù)

        風(fēng)險(xiǎn)社會(huì)的到來警示人們應(yīng)當(dāng)對(duì)技術(shù)運(yùn)用的風(fēng)險(xiǎn)提前預(yù)判,并采取措施規(guī)避未來可能產(chǎn)生的風(fēng)險(xiǎn),否則一旦風(fēng)險(xiǎn)發(fā)生,彌補(bǔ)損害以及將社會(huì)修復(fù)至風(fēng)險(xiǎn)發(fā)生前的狀態(tài)將可能付出極大代價(jià)[17]。在ChatGPT模型與數(shù)字政府建設(shè)相結(jié)合當(dāng)中,立法機(jī)關(guān)通過法律規(guī)范的設(shè)定提前預(yù)防風(fēng)險(xiǎn)是將人工智能引入良性發(fā)展軌道的首要前提。具體而言,我國(guó)的立法應(yīng)當(dāng)將重心放在優(yōu)化當(dāng)前《中華人民共和國(guó)個(gè)人信息保護(hù)法》下文簡(jiǎn)稱《個(gè)人信息法》所建構(gòu)的個(gè)人信息利用的“知情—同意”原則之上,明確ChatGPT模型在收集、分析、處理個(gè)人數(shù)據(jù)時(shí),必須以一種明晰、全面、客觀的方式取得數(shù)據(jù)權(quán)主體的同意。

        2021年通過的《個(gè)人信息保護(hù)法》為個(gè)人信息的利用設(shè)置了“知情—同意”原則,即數(shù)據(jù)處理者無論是在收集、分析數(shù)據(jù)還是利用個(gè)人信息形成數(shù)據(jù)產(chǎn)品時(shí),都需要取得個(gè)人的明確同意。但是在具體的現(xiàn)實(shí)當(dāng)中,數(shù)據(jù)處理者采取各種手段規(guī)避法律為其設(shè)定的義務(wù),如采取混合同意與默示同意的方式要求個(gè)人用戶在隱私保護(hù)協(xié)議書、風(fēng)險(xiǎn)告知書等文件當(dāng)中提前同意其所有的數(shù)據(jù)處理行為,導(dǎo)致《個(gè)人信息保護(hù)法》所設(shè)立的規(guī)則在一定程度上被架空[18]?;诖耍托枰偨Y(jié)當(dāng)前實(shí)踐中出現(xiàn)的問題,在《個(gè)人信息保護(hù)法》的進(jìn)一步修訂當(dāng)中完善“知情—同意”的具體適用規(guī)則,通過法律手段要求數(shù)據(jù)處理者應(yīng)當(dāng)采取措施保障數(shù)據(jù)權(quán)主體作出的同意行為能夠清晰指向特定的個(gè)人信息處理行為,而非混沌一體。由此在立法層面預(yù)防ChatGPT模型輔助數(shù)字政府服務(wù)當(dāng)中可能存在的無限制收集個(gè)人信息行為。

        2. 事中保障機(jī)制:執(zhí)法機(jī)關(guān)侵害排除義務(wù)

        法律規(guī)則還需要通過執(zhí)法機(jī)關(guān)的嚴(yán)格執(zhí)行才能有效規(guī)范ChatGPT模型,但是囿于當(dāng)前對(duì)于技術(shù)還未透徹了解以及實(shí)踐經(jīng)驗(yàn)積累不足,法律規(guī)則的原則性更為重要,因此需要執(zhí)法機(jī)關(guān)在實(shí)踐當(dāng)中基于比例原則平衡各方主體權(quán)利義務(wù),在保障公民個(gè)人及組織的程序與實(shí)體權(quán)益的同時(shí),也要保障ChatGPT模型能夠在法律設(shè)定的框架內(nèi)收集到其輔助數(shù)字政府所需要的數(shù)據(jù),在考慮多方需求的基礎(chǔ)之上提升執(zhí)法效能,積累更多執(zhí)法實(shí)踐經(jīng)驗(yàn)。

        一方面,執(zhí)法機(jī)關(guān)應(yīng)當(dāng)為公民個(gè)人提供維護(hù)其權(quán)益的通道,數(shù)字政府的服務(wù)涉及公民生活的方方面面,如果僅依靠執(zhí)法機(jī)關(guān)的主動(dòng)調(diào)查便可能難以有效保障相對(duì)人權(quán)益。因此需要在ChatGPT模型與數(shù)字政府結(jié)合建設(shè)中為公民維護(hù)其權(quán)益開通有效渠道,相關(guān)人可以通過向行政機(jī)關(guān)舉報(bào)等方式積極地維護(hù)自身合法利益。行政機(jī)關(guān)則采取行政約談、行政處罰的監(jiān)管模式規(guī)范算法服務(wù)提供者的信息處理行為,為公民權(quán)益提供保障。另一方面,即使是作為數(shù)字化建設(shè)的受益者,政府也應(yīng)當(dāng)嚴(yán)格監(jiān)管人工智能算法的依法依規(guī)運(yùn)行,在具體的行政關(guān)系當(dāng)中,不應(yīng)當(dāng)偏袒任何一方,對(duì)于因算法隱匿、算法偏差等問題而導(dǎo)致相對(duì)人實(shí)體及程序權(quán)益受損的情況,執(zhí)法機(jī)關(guān)應(yīng)當(dāng)嚴(yán)格依照法律法規(guī)對(duì)違法者進(jìn)行調(diào)查處理,對(duì)不法行為加以制裁。

        3. 事后保障機(jī)制:司法機(jī)關(guān)權(quán)利救濟(jì)義務(wù)

        司法作為權(quán)利救濟(jì)的最后途徑應(yīng)當(dāng)為權(quán)益受損害者提供充分的救濟(jì)。前已述及,在ChatGPT模型融入數(shù)字政府建設(shè)當(dāng)中需要明確各方主體責(zé)任,具體而言,相關(guān)人權(quán)益有損害時(shí),行政機(jī)關(guān)應(yīng)當(dāng)承擔(dān)行政責(zé)任,智能算法模型服務(wù)的提供者則基于民事關(guān)系需要對(duì)其所提供服務(wù)造成的損害承擔(dān)違約、侵權(quán)等民事責(zé)任。因此,法院應(yīng)當(dāng)厘清其中各方主體的法律關(guān)系,在明確權(quán)益受損害者的請(qǐng)求權(quán)基礎(chǔ)之上準(zhǔn)確認(rèn)定各方主體責(zé)任。此外,人工智能算法在政府服務(wù)中的應(yīng)用還可能帶來“大規(guī)模輕微損害”的問題,即其可能對(duì)于相對(duì)人個(gè)體而言損害輕微,但是當(dāng)這些輕微損害大規(guī)模聚集起來時(shí),便不僅可能對(duì)公民個(gè)人的權(quán)益造成侵犯,更可能導(dǎo)致社會(huì)公共利益受損。因此,探索數(shù)據(jù)集體訴訟機(jī)制在當(dāng)前甚為關(guān)鍵,集體訴訟機(jī)制能夠平衡數(shù)據(jù)持有者與處理者在訴訟資源、能力上的失衡問題,同時(shí)借助于專門機(jī)構(gòu)的力量幫助相對(duì)人維護(hù)其合法權(quán)益,為其實(shí)體及程序權(quán)利的救濟(jì)提供支持。

        六、 結(jié)語(yǔ)

        ChatGPT模型預(yù)示人工智能的新發(fā)展方向和趨勢(shì),如何更好地利用ChatGPT模型,是今后我國(guó)開展數(shù)字治理,建設(shè)數(shù)字政府無法回避的問題。這期間,過于擔(dān)心技術(shù)帶來的風(fēng)險(xiǎn)會(huì)在一定程度上限制技術(shù)的應(yīng)用,不利于數(shù)字政府建設(shè),而對(duì)科技成果的全盤接納必然會(huì)引發(fā)一系列的倫理和侵權(quán)問題。由此可見,ChatGPT模型在服務(wù)數(shù)字政府建設(shè)的過程中,極端的態(tài)度是不可取的。只有加強(qiáng)頂層設(shè)計(jì),統(tǒng)籌技術(shù)賦能、技術(shù)風(fēng)險(xiǎn)和技術(shù)規(guī)制,才能最大程度地發(fā)揮技術(shù)效能,在數(shù)字政府的建設(shè)過程中利用好最前沿的工具,達(dá)到保障國(guó)家安全、公民合法權(quán)利的目的。政府在數(shù)字化轉(zhuǎn)型過程中要不斷加強(qiáng)業(yè)務(wù)自動(dòng)化,以達(dá)到透明、便捷、高效的目的。ChatGPT模型的引入加速了政府的數(shù)字化轉(zhuǎn)型,提升政府的辦事效率和公共服務(wù)水平,更好地服務(wù)公眾。同時(shí)也要意識(shí)到,科技革新帶來的法律和倫理風(fēng)險(xiǎn)依然是數(shù)字政府建設(shè)過程中面臨的主要問題。為解決面臨的問題,亟須建立一個(gè)涵蓋數(shù)據(jù)規(guī)范、責(zé)任導(dǎo)向、權(quán)利保障以及技術(shù)培育的完整鏈條。期間對(duì)于個(gè)人數(shù)據(jù)的保護(hù)是基礎(chǔ)問題,ChatGPT模型不斷進(jìn)行訓(xùn)練和優(yōu)化的過程涉及敏感個(gè)人數(shù)據(jù)的收集處理;ChatGPT具備了相當(dāng)?shù)耐评硌堇[能力,可能從交互信息中獲得更敏感的用戶數(shù)據(jù);ChatGPT功能強(qiáng)大,對(duì)于個(gè)人數(shù)據(jù)的處理方式可能非常復(fù)雜。這些問題可以通過完善立法、加強(qiáng)行政監(jiān)管和通過司法權(quán)利救濟(jì)的方式在事前、事中和事后保護(hù)公民基本權(quán)利。總之,ChatGPT模型要在法治的框架內(nèi)應(yīng)用。從政府角度,要前瞻布局,搭建相關(guān)的法律法規(guī)和倫理框架,讓ChatGPT模型在我國(guó)數(shù)字政府建設(shè)中發(fā)揮最大的價(jià)值。

        參考文獻(xiàn):

        [1] 李玉洋.“百模大戰(zhàn)”開打 突圍ChatGPT勝率幾何?[N].中國(guó)經(jīng)營(yíng)報(bào),2023-05-15(C01).

        [2] 譚必勇,劉芮.數(shù)字政府建設(shè)的理論邏輯與結(jié)構(gòu)要素——基于上海市“一網(wǎng)通辦”的實(shí)踐與探索[J].電子政務(wù),2020(8):64.

        [3] 劉永謀,馬亮,孫宇,等.ChatGPT對(duì)公共治理的挑戰(zhàn)與機(jī)遇(筆談)[J].東方論壇,2023(3):1-24.

        [4] 王偉玲.加快實(shí)施數(shù)字政府戰(zhàn)略:現(xiàn)實(shí)困境與破解路徑[J].電子政務(wù),2019(12):86-94.

        [5] 周文彰.數(shù)字政府和國(guó)家治理現(xiàn)代化[J].行政管理改革,2020(2):4-10.

        [6] 阿萊克斯·彭特蘭.智慧社會(huì):大數(shù)據(jù)與社會(huì)物理學(xué)[M].汪小帆,汪容,譯.杭州:浙江人民出版社,2015.

        [7] 周智博.ChatGPT模型引入我國(guó)數(shù)字政府建設(shè):功能、風(fēng)險(xiǎn)及其規(guī)制[J].山東大學(xué)學(xué)報(bào)(哲學(xué)社會(huì)科學(xué)版),2023(3):150.

        [8] 洪延青.國(guó)家安全視野中的數(shù)據(jù)分類分級(jí)保護(hù)[J].中國(guó)法律評(píng)論,2021(5):78.

        [9] 陳永偉.超越ChatGPT:生成式AI的機(jī)遇、風(fēng)險(xiǎn)與挑戰(zhàn)[J].山東大學(xué)學(xué)報(bào)(哲學(xué)社會(huì)科學(xué)版),2023(3):123.

        [10] 王樹義,張慶薇.ChatGPT給科研工作者帶來的機(jī)遇與挑戰(zhàn)[J].圖書館論壇,2023(4):115.

        [11] 王懷勇,鄧若翰.算法行政:現(xiàn)實(shí)挑戰(zhàn)與法律應(yīng)對(duì)[J].行政法學(xué)研究,2022(4):117.

        [12] 曹奕陽(yáng).科技倫理審查制度建設(shè)中的主體、程序與方法優(yōu)化[J].科技進(jìn)步與對(duì)策,2023(6):121.

        [13] 芳汀.構(gòu)建虛擬政府:信息技術(shù)與制度創(chuàng)新[M].邵國(guó)松譯.北京:中國(guó)人民大學(xué)出版社,2004.

        [14] 張雪帆,蔣忠楠.公共行政的數(shù)字陰影:數(shù)字政府建設(shè)中的倫理沖突[J].公共行政評(píng)論,2021(5):164-181.

        [15] 孫光寧.社會(huì)主義核心價(jià)值觀的法源地位及其作用提升[J].中國(guó)法學(xué),2022(2):204.

        [16] 黃未,陳加友.數(shù)字政府建設(shè)的內(nèi)在機(jī)理、現(xiàn)實(shí)困境與推進(jìn)策略[J].改革,2022(11):152.

        [17] 何珊君.高風(fēng)險(xiǎn)社會(huì)的表現(xiàn)、特征及緣由——基于風(fēng)險(xiǎn)社會(huì)理論的中國(guó)視角[J].西北師大學(xué)報(bào)(社會(huì)科學(xué)版),2018(1):121-128.

        [18] 王俐智.隱私政策“知情同意困境”的反思與出路[J].法制與社會(huì)發(fā)展,2023(2):210-224.

        基金項(xiàng)目:國(guó)家社會(huì)科學(xué)基金重點(diǎn)項(xiàng)目“國(guó)家治理現(xiàn)代化中社會(huì)治理共同體的生成邏輯與實(shí)現(xiàn)機(jī)制研究”(項(xiàng)目編號(hào):20AKS010)。

        作者簡(jiǎn)介:韓廣召(1987-),男,天津市委黨校馬克思主義學(xué)院助理研究員,研究方向?yàn)樯鐣?huì)治理。

        (收稿日期:2023-03-27" 責(zé)任編輯:蘇子寵)

        亚洲第一女人av| 特级毛片a级毛片在线播放www| av免费在线观看网站大全| 国产肥熟女免费一区二区| 亚洲av鲁丝一区二区三区黄| chinesefreexxxx国产麻豆| 东京热无码人妻中文字幕| 伊人久久大香线蕉av不变影院| 97人人模人人爽人人喊网| 亲子乱aⅴ一区二区三区下载 | 99日本亚洲黄色三级高清网站| 国产极品大秀在线性色| 人妻精品久久久久中文字幕| 美女视频黄的全免费的| 国产精品美女一级在线观看| 新久久国产色av免费看| 精品国产av一区二区三区| 亚洲第一成人网站| 亚洲精品高清av在线播放| 国产成人高清在线观看视频 | 一本色道av久久精品+网站| 久久精品国产88久久综合| 日韩国产精品一区二区三区 | 国模少妇一区二区三区| 音影先锋色天堂av电影妓女久久| 久久成人精品国产免费网站| 天天做天天摸天天爽天天爱| 处破痛哭a√18成年片免费| 一区二区三区国产高潮| 人妻少妇猛烈井进入中文字幕 | 国产午夜精品视频在线观看| 玩弄白嫩少妇xxxxx性| 欧美人与物videos另类xxxxx| 91国产自拍视频在线| 丝袜美腿av在线观看| 麻豆精品传媒一二三区| 欧美日韩a级a| 亚洲中文字幕日韩综合| 欧美性猛交xxxx富婆| 亚洲欧美日韩中文字幕网址 | 无码av一区二区大桥久未|