亚洲免费av电影一区二区三区,日韩爱爱视频,51精品视频一区二区三区,91视频爱爱,日韩欧美在线播放视频,中文字幕少妇AV,亚洲电影中文字幕,久久久久亚洲av成人网址,久久综合视频网站,国产在线不卡免费播放

        ?

        數(shù)字治理中的權(quán)力控制與權(quán)利破繭

        2022-11-26 02:40:13姚尚建
        理論與改革 2022年3期
        關(guān)鍵詞:信息

        姚尚建

        一、研究的緣起: 數(shù)字權(quán)力的連續(xù)性約束

        在羅素(Bertrand Russell)看來(lái),人與動(dòng)物的主要區(qū)別在于,人類(lèi)的某些欲望“是根本無(wú)止境的,是不能得到完全滿足的”[1]。當(dāng)這種欲望與支配能力結(jié)合起來(lái),權(quán)力就隨之產(chǎn)生。在多米尼克·邁爾(Dominik Meier)和克里斯蒂安·布魯姆(Christian Blum)看來(lái),數(shù)千年來(lái),不同的學(xué)科圍繞權(quán)力的爭(zhēng)論集中體現(xiàn)為兩個(gè)方面:第一,權(quán)力應(yīng)該被理解為以目標(biāo)為導(dǎo)向的行動(dòng)能力即行動(dòng)權(quán)(power to),還是應(yīng)該被理解為管控他人的能力即控制權(quán)(power over)?第二,權(quán)力是一種能夠被個(gè)人和集體所占有的資源,還是一種可以指導(dǎo)或決定個(gè)體行為的社會(huì)結(jié)構(gòu)?[2]

        伴隨著國(guó)家的崛起,權(quán)力控制成為政治學(xué)的核心話題之一?!懊系滤锅F的立法、行政、司法三權(quán)分立的主張,英國(guó)人對(duì)于制衡原則的傳統(tǒng)信任,邊沁的政治學(xué)說(shuō)以及十九世紀(jì)自由主義的全套理論,其目的都在于防止專(zhuān)橫地行使權(quán)力。”[3]因此,權(quán)力濫用在于有權(quán)者的內(nèi)在品質(zhì)及其難以克服的欲望,奧爾森(M.Olson)也發(fā)現(xiàn),權(quán)力的行使過(guò)程中,人的動(dòng)機(jī)是值得關(guān)注的,“人的行為極為復(fù)雜……歷史的結(jié)果確實(shí)既依賴(lài)握有權(quán)力的人的動(dòng)機(jī)和自利行為,也依賴(lài)他們的道德和性格”[4]。邁爾和布魯姆通過(guò)權(quán)力思想史的梳理,主張把權(quán)力理解為控制權(quán),即把權(quán)力看作個(gè)體或社會(huì)用以控制個(gè)人行為的工具。[5]邁爾和布魯姆更為杰出的貢獻(xiàn)在于其承認(rèn)關(guān)于權(quán)力的“商品模型帶有強(qiáng)烈的前理論直覺(jué),該模型認(rèn)為權(quán)力是能夠被有目的地使用和累積的,并將此發(fā)展成一個(gè)完好的理論,使得行為體間的權(quán)力不對(duì)等能夠被分析和量化”[6]。

        因此,作為一種控制力量,權(quán)力既涉及人與人的關(guān)系,也涉及人與社會(huì)的關(guān)系,權(quán)力還是一個(gè)可以被量化分析的對(duì)象。從源頭上看,權(quán)力的形成與權(quán)力的濫用也有很大聯(lián)系。當(dāng)權(quán)力的形成缺乏必要的制約機(jī)制時(shí),權(quán)力的濫用就變得可能。1949年后,新中國(guó)同樣面臨權(quán)力控制的話題,反對(duì)權(quán)力腐敗,實(shí)現(xiàn)人民至上的國(guó)家治理,既是世界主義的倫理關(guān)懷,也是中國(guó)政治發(fā)展的主要任務(wù)。習(xí)近平指出,要加強(qiáng)對(duì)權(quán)力運(yùn)行的制約和監(jiān)督,把權(quán)力關(guān)進(jìn)制度的籠子里,形成不敢腐的懲戒機(jī)制、不能腐的防范機(jī)制、不易腐的保障機(jī)制。[7]這一論斷為新時(shí)代中國(guó)的控權(quán)學(xué)說(shuō)提供了理論基礎(chǔ),使中國(guó)的權(quán)力治理具有明確的切入口。

        科技革命的發(fā)展與數(shù)字技術(shù)的加持,推動(dòng)了中國(guó)公共治理的數(shù)字化轉(zhuǎn)型。網(wǎng)絡(luò)的匿名性、流動(dòng)性使傳統(tǒng)社會(huì)結(jié)構(gòu)逐步虛擬化、流量化,“雪亮工程”“面部識(shí)別”等技術(shù)手段又使個(gè)體逐步清晰化、穩(wěn)定化,線上審批、數(shù)據(jù)運(yùn)行使政府逐步平臺(tái)化、流程化。數(shù)字治理改變了傳統(tǒng)的權(quán)力結(jié)構(gòu),也給權(quán)力控制這一傳統(tǒng)話題增加了變數(shù)。針對(duì)數(shù)字權(quán)力的巨大變化,我國(guó)數(shù)字經(jīng)濟(jì)先行地區(qū)——貴州省率先提出要打造“數(shù)據(jù)鐵籠”(data cage)。《貴陽(yáng)市全面推進(jìn)“數(shù)據(jù)鐵籠”工程建設(shè)的指導(dǎo)意見(jiàn)》《貴陽(yáng)市2016年全面推進(jìn)“數(shù)據(jù)鐵籠”工程建設(shè)工作實(shí)施方案》《貴州省“數(shù)據(jù)鐵籠”工作推進(jìn)方案》(下文簡(jiǎn)稱(chēng)《推進(jìn)方案》)先后發(fā)布,其中,《推進(jìn)方案》提出要運(yùn)用大數(shù)據(jù)手段,實(shí)現(xiàn)政府權(quán)力運(yùn)行全覆蓋、監(jiān)管過(guò)程“全留痕”、“三重一大”監(jiān)管和兩個(gè)責(zé)任落實(shí),減少和消除權(quán)力尋租空間,完善監(jiān)督和技術(shù)反腐體系,促進(jìn)黨風(fēng)廉政建設(shè),提升政府治理能力,為國(guó)家“把權(quán)力關(guān)進(jìn)制度籠子里”提供可復(fù)制推廣的貴州經(jīng)驗(yàn)和模式。[8]“數(shù)據(jù)鐵籠”試圖在制度建設(shè)的前提下,通過(guò)程序性的監(jiān)管過(guò)程實(shí)現(xiàn)數(shù)字權(quán)力的連續(xù)性控制。

        與信息賦予的治理權(quán)力相對(duì)應(yīng)的是,越來(lái)越多的人們生活在自我選擇的信息之中,在海量的信息推送中,在熟悉的信息閱讀中,人們?nèi)找婷允Я俗约海⑦M(jìn)入了大小不等的“信息繭房”,“信息繭房”不僅體現(xiàn)為數(shù)字權(quán)力控制的社會(huì)性后果,更體現(xiàn)為數(shù)字權(quán)利的喪失?!靶畔⒗O房”的形成及其破繭的過(guò)程,也成為觀測(cè)中國(guó)數(shù)字權(quán)力控制與權(quán)利生長(zhǎng)的又一窗口。

        二、“信息繭房”的形成:算法偏差與權(quán)力偏好

        借用瑞士計(jì)算機(jī)科學(xué)家尼古拉斯·沃斯(Nicklaus Wirth)“程序=數(shù)據(jù)結(jié)構(gòu)+算法”這一著名的公式,數(shù)字社會(huì)的運(yùn)行意味著數(shù)字社會(huì)結(jié)構(gòu)與數(shù)字算法兩個(gè)方面的內(nèi)容。在數(shù)字社會(huì)中,人們通過(guò)信息獲取與信息使用進(jìn)行生活與工作;數(shù)字權(quán)力的運(yùn)行隱藏在數(shù)字社會(huì)之中,通過(guò)與算法的邏輯互動(dòng)塑造并改變著社會(huì)組織結(jié)構(gòu),信息繭房就是社會(huì)組織的一種極端形式。

        首先,數(shù)字社會(huì)的算法偏差。從計(jì)算機(jī)科學(xué)的角度,程序是計(jì)算機(jī)指令的組合,用于控制計(jì)算機(jī)的工作流程;算法是程序的邏輯抽象,是解決客觀問(wèn)題的過(guò)程;數(shù)據(jù)結(jié)構(gòu)是對(duì)現(xiàn)實(shí)世界中數(shù)據(jù)及其關(guān)系的映射,數(shù)據(jù)結(jié)構(gòu)既可以表示數(shù)據(jù)本身的物理結(jié)構(gòu),也可以表示計(jì)算機(jī)中的邏輯結(jié)構(gòu)。[9]因此,良好的數(shù)字治理一定是建立在良好的算法基礎(chǔ)之上,算法需要以精細(xì)的數(shù)據(jù)科學(xué)反映出社會(huì)的結(jié)構(gòu)性特征,從而為數(shù)字治理提供邏輯支持。但是基于科學(xué)認(rèn)知的漸進(jìn)性,算法也會(huì)存在偏差,閆坤如把算法偏差分為三種類(lèi)型:算法歧視、不公平競(jìng)爭(zhēng)和算法濫用?;谶@樣的類(lèi)型,他認(rèn)為“算法偏差一般指的是計(jì)算機(jī)程序或者人工智能系統(tǒng)在數(shù)據(jù)收集、數(shù)據(jù)選擇和使用的過(guò)程中因包含了人類(lèi)的隱含價(jià)值而在輸出中呈現(xiàn)出不公平現(xiàn)象,算法偏差是對(duì)算法客觀性的偏離”[10]。也就是說(shuō),算法偏差可能源自數(shù)據(jù)采集的不完整、數(shù)據(jù)分析的不嚴(yán)密和數(shù)據(jù)采用的不系統(tǒng),同時(shí)可能源自算法設(shè)計(jì)者的價(jià)值取向。

        從工具理性的角度來(lái)看,技術(shù)本身也可能導(dǎo)致算法的偏差。僅僅以并行算法(parallel algorithm)為例,并行計(jì)算機(jī)(即擁有多個(gè)處理單元的計(jì)算機(jī))在編程上都有共同之處,即使用靜態(tài)線程(static threading)。一般來(lái)說(shuō),這些線程共享一個(gè)相同的存儲(chǔ)器,操作系統(tǒng)加載一個(gè)線程到處理器上執(zhí)行代碼,并在其他線程需要運(yùn)行時(shí)再將其交換出來(lái)。然而,共享存儲(chǔ)計(jì)算機(jī)直接使用靜態(tài)線程編程比較困難甚至容易犯錯(cuò),其中一個(gè)原因就是,在計(jì)算之初,多線程負(fù)載均衡調(diào)度的實(shí)現(xiàn)十分困難;在計(jì)算過(guò)程中,即使并行計(jì)算機(jī)模型擁有同等計(jì)算能力的性能假設(shè),并假設(shè)算法的循環(huán)中所有迭代都能被并行執(zhí)行,并且多線程算法中沒(méi)有包含非法的競(jìng)爭(zhēng)代碼,這樣的代碼計(jì)算才可能達(dá)到滿意的結(jié)果。[11]遺憾的是,這一理想狀態(tài)并不總是存在,從任務(wù)分割、算力差異到代碼競(jìng)爭(zhēng),這些問(wèn)題伴隨著算法社會(huì)的全過(guò)程,其中任何一個(gè)環(huán)節(jié)的錯(cuò)誤都足以導(dǎo)致嚴(yán)重的社會(huì)后果,例如2003年北美大停電事件就源于算法中的一次代碼競(jìng)爭(zhēng)錯(cuò)誤。

        其次,算法的權(quán)力依賴(lài)與“信息繭房”的建成。大數(shù)據(jù)是信息社會(huì)的基本特征,在信息社會(huì)中擁有并支配信息是一種屬于多人的權(quán)力。算法在成為人類(lèi)生產(chǎn)生活活動(dòng)基本規(guī)則的同時(shí),也重新建構(gòu)了人類(lèi)社會(huì)的權(quán)力關(guān)系[12]。從信息科學(xué)與情報(bào)科學(xué)的角度來(lái)看,在海量信息或數(shù)據(jù)面前,用戶需求及信息的個(gè)性化服務(wù)必然涉及一個(gè)信息篩選的過(guò)程,這一過(guò)程就為算法的介入提供了條件,因此前文所提及的算法歧視、不公平競(jìng)爭(zhēng)和算法濫用,如果僅僅表述為數(shù)據(jù)的控制與算法設(shè)計(jì)者價(jià)值取向的不足,倒不如理解為算法背后的權(quán)力取向。算法介入提供了個(gè)性化的信息選擇并為多人權(quán)力的行使提供了便利,個(gè)人化的選擇帶來(lái)信息的偏向,也容易帶來(lái)“信息繭房”效應(yīng)。[13]

        信息社會(huì)的海量數(shù)據(jù)必然形成多人的權(quán)力,問(wèn)題卻在于,多人的權(quán)力何以形成“信息繭房”?這一回答必須從數(shù)據(jù)的蕪雜性及其對(duì)算法的依賴(lài)性入手方能解釋?!拔覀冎宦?tīng)我們選擇的東西和愉悅我們的東西的通訊領(lǐng)域?!盵14]一些研究認(rèn)為,用戶維度、信息維度和社會(huì)環(huán)境維度是“信息繭房”建成的三個(gè)維度,其中,用戶情感、信息能力和專(zhuān)業(yè)知識(shí)是影響網(wǎng)絡(luò)用戶形成信息繭房的重要因素。[15]但是越來(lái)越多的研究發(fā)現(xiàn),在用戶選擇背后,還有一種支配性的權(quán)力——一系列根據(jù)偏好而推進(jìn)的計(jì)算機(jī)算法及信息過(guò)濾,正是由于“信息過(guò)濾機(jī)制(包括算法推薦),讓我們只看到我們想看到的東西、只聽(tīng)到自己認(rèn)同的觀點(diǎn),只跟觀念相同的人交朋友,那些觀點(diǎn)不斷重復(fù)之后不斷加深,最終變成一個(gè)只能聽(tīng)到自己聲音的‘密室’,即信息的回聲室效應(yīng)”[16]。

        由于支配性權(quán)力的存在,算法瓦解了信息選擇的自由,人們被迫選擇了別人期待其選擇的答案。正是算法技術(shù)對(duì)于互聯(lián)網(wǎng)信息內(nèi)容單向化、窄化、精準(zhǔn)化的分發(fā),強(qiáng)化了不同個(gè)體間分享信息的差異化程度,解構(gòu)了社會(huì)共識(shí)的信息基礎(chǔ)。[17]更加需要注意的是,“信息繭房”關(guān)閉的人口并非少數(shù),絕大多數(shù)人都在“繭房”之中。算法依賴(lài)數(shù)據(jù)的統(tǒng)計(jì)分析,從統(tǒng)計(jì)學(xué)的角度看,來(lái)自足夠大規(guī)模的群體的統(tǒng)計(jì)性答案等同于全體人口范圍內(nèi)取樣的觀點(diǎn),谷歌的成功在于它知道什么是大多數(shù)搜索者想要的,而這些正是特定的大多數(shù)人想要的。[18]因此,只要了解少數(shù)人的信息需要,算法就能推送特定群體期待的信息,從而使越來(lái)越多的人深陷自身參與設(shè)計(jì)的“信息繭房”。進(jìn)一步講,從少數(shù)選擇的限制到多數(shù)共識(shí)的瓦解,算法偏差足以深刻改變數(shù)字社會(huì)結(jié)構(gòu),為數(shù)字社會(huì)治理增加變數(shù)。

        最后,“作繭”之人與權(quán)力的內(nèi)卷。信息化社會(huì)是一個(gè)高度依賴(lài)算法的社會(huì)。“數(shù)據(jù)結(jié)構(gòu)(Data Structure)描述的是按照一定的邏輯關(guān)系組織起來(lái)的待處理數(shù)據(jù)的表示及相關(guān)操作,涉及數(shù)據(jù)之間的邏輯關(guān)系、數(shù)據(jù)在計(jì)算機(jī)中的存儲(chǔ)和數(shù)據(jù)之間的操作(運(yùn)算)。”[19]數(shù)字社會(huì)結(jié)構(gòu)被演化為諸多數(shù)據(jù)及其邏輯關(guān)系的表述與運(yùn)算的過(guò)程,數(shù)字社會(huì)結(jié)構(gòu)的清晰化與算法互為支撐,互為結(jié)果。從數(shù)據(jù)、算法與權(quán)力的關(guān)系出發(fā),“信息繭房”支持了以下判斷:一是算法偏差是信息社會(huì)中被允許存在的誤差,即數(shù)據(jù)獲取、數(shù)據(jù)邏輯表述及數(shù)據(jù)處理都容易存在技術(shù)性偏差;二是在數(shù)據(jù)不充分的前提下推行的算法過(guò)程與社會(huì)結(jié)構(gòu)編織的過(guò)程,在技術(shù)上就是一種自我束縛的過(guò)程;三是由于數(shù)字個(gè)體的信息偏好以及事實(shí)上每個(gè)人都擁有大大小小的權(quán)力,因此任何人行使權(quán)力的過(guò)程都是集體編織“信息繭房”的過(guò)程;四是權(quán)力并不平等,算法背后存在著一個(gè)支配性權(quán)力;五是支配性權(quán)力同樣可以進(jìn)入公共領(lǐng)域,存在信息偏好的“作繭者”同樣會(huì)將其對(duì)于社會(huì)的理解反作用于算法之上。

        算法的偏差與權(quán)力的偏好支持了不完善的數(shù)字治理,扭曲了數(shù)字社會(huì)結(jié)構(gòu)。在國(guó)家與社會(huì)的關(guān)系中,技治主義的缺陷不僅僅體現(xiàn)為治理主義對(duì)計(jì)算機(jī)模擬技術(shù)的執(zhí)著,更體現(xiàn)為日益內(nèi)卷的權(quán)力偏向。當(dāng)復(fù)雜的社會(huì)問(wèn)題日益技術(shù)化時(shí),當(dāng)技術(shù)邏輯主宰社會(huì)結(jié)構(gòu)時(shí),算法也就遮蔽了數(shù)字治理的邏輯改進(jìn)。同時(shí),信息繭房使數(shù)字社會(huì)共識(shí)成為困難,并給數(shù)字社會(huì)共同體的營(yíng)建帶來(lái)阻礙,因此更完善的結(jié)構(gòu)分析、更清晰的信息處理、更科學(xué)的算法邏輯就成為數(shù)字治理優(yōu)化的必需。

        三、“數(shù)據(jù)鐵籠”的出場(chǎng)與權(quán)力控制的邊界

        數(shù)據(jù)是數(shù)字社會(huì)的基礎(chǔ)。無(wú)論是從能力還是從資源看,數(shù)據(jù)都支持了數(shù)字社會(huì)的權(quán)力生產(chǎn),因此數(shù)據(jù)的掌握與支配成為數(shù)字社會(huì)權(quán)力的表征。孟德斯鳩堅(jiān)信,“一切有權(quán)力的人都容易濫用權(quán)力,這是萬(wàn)古不易的一條經(jīng)驗(yàn)。有權(quán)力的人們使用權(quán)力一直到遇有界限的地方才休止……從事物的性質(zhì)來(lái)說(shuō),要防止濫用權(quán)力,就必須以權(quán)力約束權(quán)力”[20]。數(shù)字權(quán)力的使用同樣符合這一判斷:基于控制權(quán)原則,有權(quán)者將盡量增加自身基于數(shù)據(jù)的控制能力;基于資源型原則,數(shù)據(jù)日益成為其擴(kuò)權(quán)的基礎(chǔ)。而與之對(duì)應(yīng)的是,一些個(gè)體無(wú)權(quán)使用數(shù)據(jù),甚至日益蛻化為數(shù)據(jù)的一部分,而最終失去公共治理的主體性地位。

        首先,“數(shù)據(jù)鐵籠”的理論假設(shè)。如果說(shuō)由于人的無(wú)盡欲望,權(quán)力的行使必然帶來(lái)無(wú)盡的擴(kuò)張。在孟德斯鳩之后,越來(lái)越多的國(guó)家走向了憲制,而憲制史就是國(guó)家權(quán)力的控制史。數(shù)字社會(huì)中的公權(quán)力同樣必須得到控制。2015年2月14日,李克強(qiáng)在詳細(xì)了解了貴陽(yáng)利用執(zhí)法記錄儀和大數(shù)據(jù)云平臺(tái)監(jiān)督執(zhí)法權(quán)力情況后指出,把執(zhí)法權(quán)力關(guān)進(jìn)“數(shù)據(jù)鐵籠”,讓權(quán)力運(yùn)行處處留痕,為政府決策提供第一手科學(xué)依據(jù),實(shí)現(xiàn)“人在干、云在算”。[21]2018年,在前期試點(diǎn)的基礎(chǔ)上,貴州省提出“全面打造‘?dāng)?shù)據(jù)鐵籠’,運(yùn)用大數(shù)據(jù)改進(jìn)政府管理方式,實(shí)現(xiàn)政府負(fù)面清單、權(quán)力清單和責(zé)任清單的透明化管理,完善大數(shù)據(jù)監(jiān)督手段和技術(shù)反腐體系,促進(jìn)簡(jiǎn)政放權(quán)、依法行政”[22]。

        把數(shù)字權(quán)力關(guān)進(jìn)“數(shù)據(jù)鐵籠”主要建立在一種假設(shè)之上,即公權(quán)力必須基于數(shù)據(jù)資源方能行使,“數(shù)字社會(huì)權(quán)力生產(chǎn)的基礎(chǔ)條件是對(duì)數(shù)據(jù)的占有,這對(duì)國(guó)家和社會(huì)概莫能外。作為信息的符碼化載體,數(shù)據(jù)從最初國(guó)家統(tǒng)計(jì)權(quán)力中一種‘被收編的工具’,不僅發(fā)展為現(xiàn)代社會(huì)秩序中的重要驅(qū)動(dòng)力,而且成為逐漸稀釋權(quán)力專(zhuān)屬性、調(diào)整權(quán)力發(fā)生機(jī)制的關(guān)鍵入口,擁有數(shù)據(jù)以及掌握數(shù)據(jù)運(yùn)作尤其是算法制定等基礎(chǔ)能力,對(duì)于權(quán)力的生產(chǎn)至關(guān)重要”[23]。擁有數(shù)據(jù)、運(yùn)作數(shù)據(jù)、制定算法因此成為數(shù)字權(quán)力的重要內(nèi)容,數(shù)字權(quán)力的控制理論上同樣需要從三個(gè)方面著手,即數(shù)據(jù)控制、數(shù)據(jù)運(yùn)作及算法規(guī)則都必須同步控制。

        其次,數(shù)字權(quán)力行使的技術(shù)路線及其流程化控制?!皵?shù)據(jù)鐵籠”的實(shí)質(zhì)是運(yùn)用大數(shù)據(jù)思維和相關(guān)技術(shù),推動(dòng)政府行政權(quán)力運(yùn)行過(guò)程信息化、數(shù)據(jù)化、自流程化、融合化,實(shí)現(xiàn)對(duì)政府部門(mén)權(quán)力運(yùn)行的監(jiān)管、預(yù)警、分析、反饋、評(píng)價(jià)和展示,從而構(gòu)建一套基于數(shù)據(jù)的權(quán)力監(jiān)督及技術(shù)反腐體系。[24]這一定義從數(shù)字化思維入手,通過(guò)數(shù)據(jù)的流轉(zhuǎn)來(lái)觀測(cè)權(quán)力的運(yùn)作過(guò)程。研究發(fā)現(xiàn),大數(shù)據(jù)技術(shù)應(yīng)用于權(quán)力監(jiān)督實(shí)踐有一個(gè)共通的行為邏輯,即建立權(quán)力運(yùn)行過(guò)程與行為的規(guī)范化、標(biāo)準(zhǔn)化體系和設(shè)定標(biāo)準(zhǔn)數(shù)據(jù)值→使用設(shè)備采集權(quán)力過(guò)程與行為數(shù)據(jù)→匯聚多類(lèi)型、多元數(shù)據(jù)形成大數(shù)據(jù)并建立數(shù)據(jù)平臺(tái)→數(shù)據(jù)融合、比對(duì)、分析與運(yùn)用。[25]從具體案例上看,“人在干、云在算”這一構(gòu)想建立在政府自我革命和技術(shù)中立的基礎(chǔ)上,其目的是對(duì)行政執(zhí)法中的自由裁量權(quán)進(jìn)行技術(shù)遏制。“數(shù)據(jù)鐵籠”的理論價(jià)值在于,執(zhí)法者是權(quán)力的負(fù)載者,其權(quán)力過(guò)程將體現(xiàn)為數(shù)據(jù)的流動(dòng),其行動(dòng)本身及其過(guò)程具有可計(jì)算性,也應(yīng)該被嚴(yán)格計(jì)算。以貴陽(yáng)市城管局“數(shù)據(jù)鐵籠”大數(shù)據(jù)融合分析平臺(tái)為例,不但街邊的煙酒雜貨鋪、公交車(chē)站都在數(shù)字地圖中要被清晰標(biāo)注,城管執(zhí)法人員及車(chē)輛也必須被特別標(biāo)注以方便在地圖上找到執(zhí)法軌跡,[26]從而為后來(lái)的數(shù)據(jù)分析提供基礎(chǔ)。

        從國(guó)家與社會(huì)的關(guān)系角度看,行政權(quán)是直面社會(huì)的權(quán)力,也是經(jīng)常引發(fā)不滿的權(quán)力。貴州省從這些具體的面向社會(huì)的權(quán)力入手來(lái)嘗試“數(shù)據(jù)鐵籠”的運(yùn)行,繼而“全面發(fā)展智能治理模式,聚焦政務(wù)服務(wù)、交通、醫(yī)療、環(huán)保、公共安全等領(lǐng)域熱點(diǎn)難點(diǎn)問(wèn)題,推動(dòng)各級(jí)政府部門(mén)將市場(chǎng)監(jiān)管、檢驗(yàn)檢測(cè)、違法失信、企業(yè)生產(chǎn)經(jīng)營(yíng)、投訴舉報(bào)、消費(fèi)維權(quán)等數(shù)據(jù)進(jìn)行匯聚整合和關(guān)聯(lián)分析,做到適時(shí)公示和預(yù)警,提升政府決策和風(fēng)險(xiǎn)防范能力,加強(qiáng)事中事后監(jiān)管和服務(wù),提高監(jiān)管和服務(wù)的針對(duì)性、有效性”[27]。在行政執(zhí)法中,權(quán)力運(yùn)行的過(guò)程就是一個(gè)數(shù)據(jù)集聚的過(guò)程,數(shù)據(jù)向特定節(jié)點(diǎn)集中的異常過(guò)程因此就成為權(quán)力監(jiān)控的病理學(xué)視角?!皵?shù)據(jù)鐵籠”的流程化控權(quán)思路是有價(jià)值的,這一思路包括以下技術(shù)路線:權(quán)力的數(shù)據(jù)化、權(quán)力的規(guī)范化、權(quán)力的清單化、權(quán)力的可視化,在這一基礎(chǔ)上,“數(shù)據(jù)鐵籠”建立大數(shù)據(jù)預(yù)警監(jiān)管平臺(tái),推進(jìn)權(quán)力歷程的規(guī)范化、數(shù)據(jù)化,是權(quán)力監(jiān)督的核心環(huán)節(jié)。[28]

        最后,數(shù)據(jù)控權(quán)的技術(shù)標(biāo)準(zhǔn)及生態(tài)依賴(lài)。如果僅僅把數(shù)字權(quán)力理解為一種數(shù)據(jù)的控制權(quán),那么這一判斷則沒(méi)有超越邁爾和布魯姆關(guān)于權(quán)力爭(zhēng)論的梳理。與農(nóng)業(yè)社會(huì)、工業(yè)社會(huì)的權(quán)力制度化呈現(xiàn)不同,數(shù)字社會(huì)中的權(quán)力有一個(gè)彌散的過(guò)程,這一過(guò)程既包括數(shù)據(jù)的采集與處理,也包括算法。在這一基礎(chǔ)上,“數(shù)據(jù)鐵籠”努力突破傳統(tǒng)的權(quán)力框架,把控權(quán)行為看作過(guò)程行為,即指以權(quán)力運(yùn)行和權(quán)力制約的信息化、數(shù)據(jù)化、自流程化和融合化為核心的自組織系統(tǒng)工程。[29]這一流程化的權(quán)力控制需要建立在良好的數(shù)字生態(tài)系統(tǒng)之上,建立在權(quán)責(zé)的明晰化、標(biāo)準(zhǔn)化與可計(jì)算性之上。然而,公共治理的復(fù)雜性與自由裁量的必要性之間無(wú)疑將形成一定的張力?,F(xiàn)有的“數(shù)據(jù)鐵籠”的表述中,要依托大數(shù)據(jù)產(chǎn)業(yè)優(yōu)勢(shì)加快網(wǎng)上政務(wù)建設(shè),把能夠納入網(wǎng)絡(luò)的行政權(quán)力全部納入網(wǎng)絡(luò)運(yùn)行,通過(guò)制定統(tǒng)一的數(shù)據(jù)技術(shù)標(biāo)準(zhǔn),優(yōu)化、細(xì)化、固化權(quán)力運(yùn)行流程和辦理環(huán)節(jié),合理、合法地分配各項(xiàng)職責(zé),實(shí)現(xiàn)權(quán)力運(yùn)行全程電子化、處處留“痕跡”,讓權(quán)力在“陽(yáng)光”下運(yùn)行,置于社會(huì)公眾的監(jiān)督之下。[30]也就是說(shuō),明確的標(biāo)準(zhǔn)是權(quán)力留痕的技術(shù)前提,脫離了技術(shù)標(biāo)準(zhǔn)的權(quán)力“留痕”既可能形成數(shù)字治理中的形式主義,也加重了行政執(zhí)法的負(fù)擔(dān)。

        現(xiàn)有的“數(shù)據(jù)鐵籠”的表述也對(duì)權(quán)力監(jiān)督生態(tài)提出要求,即不僅僅監(jiān)督者需要掌握行政權(quán)的法律依據(jù)、實(shí)施標(biāo)準(zhǔn)、救濟(jì)路徑,公眾也需要突破數(shù)字監(jiān)督的技術(shù)門(mén)檻,并具備實(shí)施數(shù)字監(jiān)督的知識(shí)前提。然而值得關(guān)注的是,數(shù)據(jù)的掌握及標(biāo)準(zhǔn)的制定恰恰與現(xiàn)有權(quán)力密切相關(guān)。僅僅以數(shù)據(jù)占有為例,目前我國(guó)各級(jí)政府掌握約80%的數(shù)據(jù),因此讓擁有20%數(shù)據(jù)的民眾監(jiān)督擁有80%數(shù)據(jù)的政府,在數(shù)字邏輯和數(shù)字生態(tài)上就是存疑的。為了優(yōu)化數(shù)字生態(tài),權(quán)力監(jiān)督指向了數(shù)據(jù)開(kāi)放,數(shù)據(jù)開(kāi)放又指向了政府內(nèi)部的權(quán)力配置甚至機(jī)構(gòu)設(shè)置。研究發(fā)現(xiàn),貴州的政府機(jī)構(gòu)為了實(shí)現(xiàn)數(shù)據(jù)監(jiān)督權(quán)力,還需要有組織機(jī)構(gòu)以專(zhuān)事數(shù)據(jù)收集、融合、分析,運(yùn)用數(shù)據(jù)平臺(tái)形成部門(mén)間數(shù)據(jù)信息的比對(duì)、分析,這些不僅涉及相應(yīng)的機(jī)構(gòu)安排,也涉及原有責(zé)權(quán)關(guān)系的調(diào)整。[31]數(shù)字權(quán)力最終指向政府部門(mén)而非數(shù)字生態(tài)和民眾參與,必將強(qiáng)化政府部門(mén)的內(nèi)部監(jiān)督,促進(jìn)數(shù)字權(quán)力的固化,并最終背離權(quán)力監(jiān)督的政策初衷。

        四、以數(shù)字權(quán)利為中心的權(quán)力制衡

        “權(quán)力和自由之間互為條件、相互危害的悖論只能得到證明,卻無(wú)法得到解決,這是我們作為社會(huì)人的基本構(gòu)成。不斷地在二者中進(jìn)行合理權(quán)衡和調(diào)整是我們的實(shí)際任務(wù)?!盵32]數(shù)字權(quán)力的監(jiān)督與數(shù)字自由密切相關(guān),當(dāng)數(shù)據(jù)沿著權(quán)力的邏輯分布時(shí),對(duì)數(shù)字權(quán)力的監(jiān)督就必須沿著同樣的邏輯展開(kāi)。然而,痕跡主義的權(quán)力制約既增加了行政成本,也使數(shù)字權(quán)力運(yùn)作無(wú)法實(shí)現(xiàn)現(xiàn)代治理的權(quán)利主義邏輯,在這樣的前提下,數(shù)字社會(huì)中的權(quán)力與權(quán)利的關(guān)系討論再次成為必需。

        首先,數(shù)字權(quán)力的法律控制。郭春鎮(zhèn)認(rèn)為,雖然數(shù)字社會(huì)中國(guó)家、企業(yè)乃至個(gè)人的關(guān)系發(fā)生了新變化,但是本質(zhì)上仍處在傳統(tǒng)的“權(quán)力—權(quán)利”軌道之上:國(guó)家在數(shù)字賦能之后,所掌握的權(quán)力得到了進(jìn)一步強(qiáng)化,如果說(shuō)國(guó)家權(quán)力可以滲透整個(gè)國(guó)家的肌體中,那么經(jīng)過(guò)數(shù)字技術(shù)的加持,國(guó)家權(quán)力能夠延伸至各個(gè)毛細(xì)血管,甚至更加精細(xì)微末之處。[33]因此,是數(shù)字權(quán)力的彌散性,給數(shù)字權(quán)力的控制帶來(lái)了困難。在數(shù)字社會(huì)的運(yùn)行過(guò)程中,數(shù)據(jù)與算法構(gòu)成了數(shù)字權(quán)力研究的兩個(gè)入口:數(shù)字權(quán)力的分布依次可以劃分為基于數(shù)據(jù)的權(quán)力分布和基于算法的權(quán)力分布。從前者的角度,數(shù)據(jù)的處理過(guò)程就是權(quán)力分布的過(guò)程;從后者的角度,算法作用的結(jié)果,就是權(quán)力“反馴”的結(jié)果。數(shù)字權(quán)力研究的兩個(gè)入口同樣為法律的介入提供了思路。

        從數(shù)據(jù)類(lèi)型看,數(shù)據(jù)有私人數(shù)據(jù)與公共數(shù)據(jù)之分,國(guó)家在法律范圍內(nèi)采集數(shù)據(jù),并依法開(kāi)放政務(wù)數(shù)據(jù)?!吨腥A人民共和國(guó)數(shù)據(jù)安全法》規(guī)定:“國(guó)家機(jī)關(guān)為履行法定職責(zé)的需要收集、使用數(shù)據(jù),應(yīng)當(dāng)在其履行法定職責(zé)的范圍內(nèi)依照法律、行政法規(guī)規(guī)定的條件和程序進(jìn)行;對(duì)在履行職責(zé)中知悉的個(gè)人隱私、個(gè)人信息、商業(yè)秘密、保密商務(wù)信息等數(shù)據(jù)應(yīng)當(dāng)依法予以保密,不得泄露或者非法向他人提供……國(guó)家制定政務(wù)數(shù)據(jù)開(kāi)放目錄,構(gòu)建統(tǒng)一規(guī)范、互聯(lián)互通、安全可控的政務(wù)數(shù)據(jù)開(kāi)放平臺(tái),推動(dòng)政務(wù)數(shù)據(jù)開(kāi)放利用。”[34]公共數(shù)據(jù)尤其是政務(wù)數(shù)據(jù)的依法公開(kāi)、私人數(shù)據(jù)的依法保護(hù),成為限制數(shù)字公共權(quán)力的法定途徑。

        從算法角色看,“算法標(biāo)志著管理功能的自動(dòng)化,同時(shí)也意味著算法將扮演全部或部分的管理者角色”[35]。作為管理者的算法,其權(quán)力運(yùn)行一靠技術(shù)壟斷,二靠空間隔離?!八惴ㄐ惺箼?quán)力的方式,并非由人來(lái)發(fā)號(hào)施令強(qiáng)迫用戶遵從,而是以技術(shù)的面貌出現(xiàn),是一整套復(fù)雜的規(guī)則和程序,很容易因?yàn)槿狈χ黧w意志而被誤認(rèn)為是客觀公正的裁決。用戶在面對(duì)算法命令時(shí),即使存在不滿,也無(wú)法看到其他人的抗議,技術(shù)制造出的隔離空間,使用戶不能得到同情和支援,從而提升接納意愿?!盵36]為了打開(kāi)算法黑箱,《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》規(guī)定,“算法推薦服務(wù)提供者應(yīng)當(dāng)以顯著方式告知用戶其提供算法推薦服務(wù)的情況,并以適當(dāng)方式公示算法推薦服務(wù)的基本原理、目的意圖和主要運(yùn)行機(jī)制等”[37]。依托算法的治理由此進(jìn)入治理算法的階段,而法律,正是這一轉(zhuǎn)變的重要推動(dòng)者。

        其次,數(shù)字權(quán)利的普遍彰顯。數(shù)據(jù)壟斷、算法壟斷與空間隔離,賦予了數(shù)字權(quán)力運(yùn)行的資源及其無(wú)處不在的場(chǎng)域;同時(shí),數(shù)字社會(huì)無(wú)法擺脫國(guó)家與社會(huì)關(guān)系的基本邏輯,也無(wú)法擺脫權(quán)力與權(quán)利關(guān)系的基本立場(chǎng)。馬長(zhǎng)山認(rèn)為,信息社會(huì)帶來(lái)了第四代人權(quán),“它以雙重空間的生產(chǎn)生活關(guān)系為社會(huì)基礎(chǔ)、以人的數(shù)字信息面向和相關(guān)權(quán)益為表達(dá)形式,以智慧社會(huì)中人的全面發(fā)展為核心訴求,突破了前三代人權(quán)所受到的物理時(shí)空和生物屬性的限制,實(shí)現(xiàn)自由平等權(quán)利、經(jīng)濟(jì)社會(huì)文化權(quán)利、生存發(fā)展權(quán)利的轉(zhuǎn)型升級(jí)”[38]。劉志強(qiáng)不贊同第四代人權(quán)的提法,他認(rèn)為從人權(quán)的代際劃分原理來(lái)看,“數(shù)字人權(quán)”的概念即使成立,也只屬于三代人權(quán)范疇的內(nèi)容,可以在既有人權(quán)體系的框架內(nèi)得到合理解釋?zhuān)粋€(gè)人數(shù)據(jù)信息類(lèi)權(quán)利的出現(xiàn),未構(gòu)成人權(quán)的代際革新。[39]

        兩位法學(xué)家的爭(zhēng)論核心在于,在數(shù)字社會(huì)中,數(shù)字人權(quán)是一種新興的權(quán)利還是僅僅表現(xiàn)為一種基于數(shù)字的權(quán)利。在政治學(xué)的視野中,與電報(bào)、電話一樣,作為科技革命的成果,數(shù)字技術(shù)歸根到底仍然是一種階段性的科學(xué)技術(shù),而權(quán)利作為現(xiàn)代社會(huì)的恒久命題,是人類(lèi)發(fā)展的內(nèi)在軸線,因此在這一背景下,數(shù)字權(quán)利仍然是制約權(quán)力擴(kuò)張的重要利器。在直面數(shù)據(jù)與算法的雙重壓制時(shí),數(shù)字社會(huì)的權(quán)力控制需要擺脫技術(shù)主義的窠臼,需要擺脫權(quán)力制約權(quán)力的迷思。技術(shù)阻斷的是權(quán)利,數(shù)字社會(huì)的根本性缺陷在于權(quán)利的計(jì)算。[40]也就是說(shuō),在權(quán)利不被充分彰顯的前提下,“數(shù)據(jù)鐵籠”無(wú)法遏制權(quán)力的自我膨脹,更無(wú)法把社會(huì)個(gè)體從信息繭房中逐一救出。數(shù)字社會(huì)是一種流量社會(huì),“是數(shù)字化技術(shù)通過(guò)快速、大規(guī)模的信息數(shù)據(jù)流動(dòng)去整合社會(huì)”[41]。流量社會(huì)同樣是權(quán)利擴(kuò)散的社會(huì),在這一流動(dòng)性的社會(huì)結(jié)構(gòu)中,一些地方在疫情期間,通過(guò)多人在線編輯文檔、線上擴(kuò)散求助信息的行為充分說(shuō)明,人們可以通過(guò)數(shù)據(jù)流動(dòng)形成跨越地域、跨越階級(jí)的社會(huì)聯(lián)盟,正是這一信息聯(lián)盟到權(quán)利聯(lián)盟的過(guò)渡,使普遍性的數(shù)字權(quán)力約束得以可能。

        最后,個(gè)體數(shù)字權(quán)利的技術(shù)糾偏:反篩選與自我干預(yù)。個(gè)體是社會(huì)的組成單元,數(shù)字社會(huì)中的每一個(gè)個(gè)體都承載著數(shù)字權(quán)利,但是在數(shù)字社會(huì)中,數(shù)字權(quán)利的匱乏往往率先在個(gè)體身上得到顯示,人們往往以技術(shù)門(mén)檻來(lái)解釋這一個(gè)體性數(shù)字權(quán)利的匱乏;但是數(shù)字社會(huì)的技術(shù)剝削并不會(huì)放過(guò)任何個(gè)體,在技術(shù)對(duì)于社會(huì)的強(qiáng)制中,老人無(wú)法使用智能手機(jī)從而無(wú)法出行、農(nóng)民工無(wú)法通過(guò)軟件搶購(gòu)返鄉(xiāng)火車(chē)票、程序員倦于程序、外賣(mài)小哥困于算法,這些數(shù)字社會(huì)中的極端案例告訴我們,如果僅僅依賴(lài)相對(duì)滯后的法律而缺乏必要的個(gè)體行動(dòng),每個(gè)人都將在數(shù)字剝削之中,每個(gè)人都參與了這場(chǎng)剝削他人的盛宴。數(shù)字權(quán)利的匱乏啟發(fā)了人們對(duì)于個(gè)體樸素權(quán)利的思考,當(dāng)技術(shù)馴化社會(huì)并最終異化了社會(huì)形態(tài),數(shù)字社會(huì)的技術(shù)糾偏事實(shí)上就必須體現(xiàn)為兩個(gè)方面的內(nèi)容:反篩選與自我干預(yù)。

        從反篩選的角度看,個(gè)體是數(shù)字社會(huì)的治理主體而非數(shù)據(jù)自身。在個(gè)體行動(dòng)中,反對(duì)被動(dòng)的信息提取、反對(duì)濫用個(gè)人信息成為近期推動(dòng)數(shù)字立法行動(dòng)的重要?jiǎng)恿?;從自我干預(yù)的角度看,個(gè)體能夠在技術(shù)社會(huì)中恰當(dāng)而充分地表達(dá)意見(jiàn)是民主社會(huì)的內(nèi)在之意。從技術(shù)糾偏的角度看,個(gè)體參與算法過(guò)程同樣是重要的?!八惴ㄊ腔跈C(jī)器語(yǔ)言的清晰指令系統(tǒng)地描述和解決問(wèn)題的策略機(jī)制?!盵42]這一表述事實(shí)上揭示了清晰指令對(duì)于解決問(wèn)題的重要性,一旦指令模糊,問(wèn)題的解決就會(huì)出現(xiàn)困難?!痘ヂ?lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》第十七條規(guī)定了個(gè)體的技術(shù)性救濟(jì)手段:“算法推薦服務(wù)提供者應(yīng)當(dāng)向用戶提供不針對(duì)其個(gè)人特征的選項(xiàng),或者向用戶提供便捷的關(guān)閉算法推薦服務(wù)的選項(xiàng)。用戶選擇關(guān)閉算法推薦服務(wù)的,算法推薦服務(wù)提供者應(yīng)當(dāng)立即停止提供相關(guān)服務(wù)。”[43]在這一規(guī)定出臺(tái)之后,越來(lái)越多的應(yīng)用程序如淘寶、微信、抖音等上線算法關(guān)閉鍵,用戶可以自行關(guān)閉個(gè)性化推薦來(lái)進(jìn)行算法干預(yù),體現(xiàn)出“參與式文化在數(shù)字媒介時(shí)代的延伸”[44]的特點(diǎn)。從群體救濟(jì)的角度看,基于權(quán)利的聯(lián)盟還可以通過(guò)諸如評(píng)分等集體性技術(shù)行動(dòng),遏制無(wú)所不在的權(quán)力擴(kuò)張。一種觀點(diǎn)認(rèn)為,“從商業(yè)和公共管理的邏輯出發(fā),廣泛采用評(píng)分機(jī)制是更好的策略,不僅可以幫助將更多細(xì)節(jié)行為納入管理,還可以為進(jìn)一步優(yōu)化法律和平臺(tái)成文規(guī)則提供數(shù)據(jù)支撐”。[45]有鑒于此,數(shù)字化背景下的管理重生必須實(shí)現(xiàn)“由控制勞動(dòng)向解放勞動(dòng)的管理范式突破”[46]。

        結(jié) 語(yǔ)

        現(xiàn)代社會(huì)是技術(shù)社會(huì),更是權(quán)利社會(huì),自由的喪失大多表現(xiàn)為權(quán)利的喪失。借助于商業(yè)繁榮帶來(lái)的平等關(guān)系以及工業(yè)革命形成的技術(shù)手段,人類(lèi)可以正視自身的地位并形成權(quán)利的聯(lián)盟。從數(shù)據(jù)出發(fā),社會(huì)形成了新的社會(huì)結(jié)構(gòu)與社會(huì)形態(tài),也形成了新的權(quán)利結(jié)構(gòu)。但是由于權(quán)利對(duì)于數(shù)字的技術(shù)性依賴(lài),數(shù)字權(quán)利需要借助于數(shù)據(jù)篩選方能達(dá)成。在這一背景下,人們?cè)诤A康男畔⒑Y選中失去部分自由并深陷“信息繭房”。更為隱蔽的是,“信息繭房”的形成恰恰隱藏在多人權(quán)力行使的過(guò)程之中,換言之,是人們?cè)谥饾u行使權(quán)力的過(guò)程中放棄了權(quán)利。

        權(quán)力具有強(qiáng)制性,權(quán)力控制是權(quán)利解放的前提,數(shù)字社會(huì)同樣面臨權(quán)力控制的任務(wù)。正是數(shù)字權(quán)力的隱蔽性,使數(shù)字社會(huì)的個(gè)體進(jìn)入了“信息繭房”。但是從數(shù)字社會(huì)的基本構(gòu)成出發(fā),數(shù)據(jù)是數(shù)字社會(huì)的基礎(chǔ),是權(quán)利的基礎(chǔ);數(shù)據(jù)同樣是權(quán)力的基礎(chǔ)。從委托代理關(guān)系入手,“數(shù)據(jù)鐵籠”遏制代理方的權(quán)力擴(kuò)張,從而延續(xù)了工業(yè)革命以來(lái)的權(quán)力制衡路徑。然而作為一種技術(shù)性想象,“數(shù)據(jù)鐵籠”并非是“信息繭房”的解決方案,在數(shù)據(jù)權(quán)力之后,算法才是更加隱蔽的強(qiáng)制性權(quán)力。由于權(quán)力與權(quán)利關(guān)系的數(shù)字化延伸,數(shù)字社會(huì)的權(quán)力控制歸根到底要落實(shí)到權(quán)利解放上。在數(shù)字社會(huì)中,數(shù)字權(quán)利同樣遵循兩條遞進(jìn)的路徑:從數(shù)據(jù)出發(fā),共享公共數(shù)據(jù)是權(quán)利破繭的法律基礎(chǔ);從算法出發(fā),個(gè)體參與并干預(yù)算法是權(quán)利維持的外部條件。也只有在這樣的前提下,數(shù)字權(quán)利才能得到充分的保障,從而構(gòu)建數(shù)字共同體的基本結(jié)構(gòu),并形成數(shù)字權(quán)力的連續(xù)性控制。

        猜你喜歡
        信息
        訂閱信息
        中華手工(2017年2期)2017-06-06 23:00:31
        展會(huì)信息
        信息超市
        展會(huì)信息
        展會(huì)信息
        展會(huì)信息
        展會(huì)信息
        展會(huì)信息
        信息
        健康信息
        祝您健康(1987年3期)1987-12-30 09:52:32
        亚洲丝袜美腿精品视频| 最新国产三级| 欧洲亚洲色一区二区色99| 精品久久中文字幕一区| 激情内射亚洲一区二区三区| 看全色黄大色大片免费久久| 亚洲精品国产一二三无码AV| 亚洲精品成人久久av| 人妻少妇偷人精品久久性色av| 激情第一区仑乱| 国内精品伊人久久久久av| 亚洲无av高清一区不卡| 国产精品亚洲第一区二区三区| 激情影院内射美女| 亚洲一级无码片一区二区三区| 亚洲一区二区三区美女av| 大桥未久av一区二区三区| 国产sm调教视频在线观看| 青青国产成人久久91| 精品国产av一区二区三区| 久久99精品久久久久久噜噜| 亚洲爱婷婷色婷婷五月| 国产桃色精品网站| 人妻少妇艳情视频中文字幕| 久久精品国产成人| 欧美日韩亚洲色图| av成人资源在线观看| 日本丰满少妇xxxx| 亚洲欧美日韩中文无线码| 国产精品无码mv在线观看| 国产在线91精品观看| 少妇aaa级久久久无码精品片| 日韩免费小视频| 看中文字幕一区二区三区| 日韩视频在线观看| 精品国产黑色丝袜高跟鞋| 亚洲香蕉av一区二区蜜桃| 中文字幕人妻饥渴浪妇| 欲色天天网综合久久| 国产真实伦视频在线视频| 国产亚洲精品久久情侣|