亚洲免费av电影一区二区三区,日韩爱爱视频,51精品视频一区二区三区,91视频爱爱,日韩欧美在线播放视频,中文字幕少妇AV,亚洲电影中文字幕,久久久久亚洲av成人网址,久久综合视频网站,国产在线不卡免费播放

        ?

        “大數(shù)據(jù)殺熟”行為政府治理路徑探討

        2021-04-08 10:50:36李南宇
        行政與法 2021年3期
        關(guān)鍵詞:規(guī)制個人信息消費者

        摘? ? ? 要:“大數(shù)據(jù)殺熟”行為嚴重損害了消費者權(quán)益。相對于傳統(tǒng)商業(yè)“殺熟”行為,“大數(shù)據(jù)殺熟”行為更隱蔽,消費者維權(quán)更艱難。這種利用算法應用技術(shù)損害消費者權(quán)益的行為嚴重違背商業(yè)倫理,不僅關(guān)乎消費者個人權(quán)益,更會影響公共利益,僅憑市場調(diào)節(jié)難以糾正,需要通過法律進行救濟。政府應在遵循輔助性原則的前提下,通過算法應用技術(shù)備案、建立“政府-社會”合作規(guī)制等制度,用新制度規(guī)制新技術(shù),更好地發(fā)揮政府在治理“大數(shù)據(jù)殺熟”行為過程中的作用,保護消費者權(quán)益和社會公共利益。

        關(guān)? 鍵? 詞:政府參與治理;商務平臺;“大數(shù)據(jù)殺熟”;APP用戶;個人信息數(shù)據(jù)

        中文分類號:F724.6? ? ? ? 文獻標識碼:A? ? ? ? 文章編號:1007-8207(2021)03-0084-11

        收稿日期:2020-05-19

        作者簡介:李南宇,復旦大學法學院憲法學與行政法學2019級碩士研究生,研究方向為憲法學與行政法學。

        一、問題的提出

        大數(shù)據(jù)時代,互聯(lián)網(wǎng)商務企業(yè)可以利用收集的海量數(shù)據(jù)來分析用戶的消費習慣、水平、偏好和需求,勾勒出互聯(lián)網(wǎng)用戶的私人“畫像”,進而提供更為精準的個性化服務。[1]若互聯(lián)網(wǎng)商務企業(yè)合理使用互聯(lián)網(wǎng)用戶的信息,則可以提供更優(yōu)質(zhì)的服務,降低雙方成本。然而當下互聯(lián)網(wǎng)商務企業(yè)不合理利用互聯(lián)網(wǎng)用戶的消費信息侵害消費者權(quán)益的事件仍時有發(fā)生。2018年3月以來,網(wǎng)約車、在線旅游等服務行業(yè)的商務平臺(以下簡稱平臺)頻頻爆出濫用APP用戶(以下簡稱用戶)消費信息進行差異性定價,被指責為“大數(shù)據(jù)殺熟”,其具體表現(xiàn)為使用平臺的老用戶比新用戶價格高、會員比普通用戶價格高。[2]“大數(shù)據(jù)殺熟”行為不合理利用了用戶對平臺的依賴心理以及信息不對稱的優(yōu)勢來獲取用戶的消費信息,最大程度地攫取“消費者剩余”。這種不同用戶消費價格不同的定價策略引起了平臺消費用戶的“憤怒”,社會各界也強烈呼吁從法律制度上對其進行規(guī)范、懲治,以保護消費者權(quán)益。但目前,相關(guān)法律法規(guī)并沒有明確禁止這種“殺熟”行為,“大數(shù)據(jù)殺熟”仍處于法律規(guī)制的灰色地帶,一定程度上折射出在算法應用技術(shù)和大數(shù)據(jù)開發(fā)領(lǐng)域政府的監(jiān)管力量尚顯薄弱。

        在利潤最大化面前,對個人信息安全保護不能僅僅依賴平臺基于商業(yè)道德的自我規(guī)制,還需要相應法律予以規(guī)制。具體而言,針對無良平臺不合理使用用戶消費信息進而損害消費者權(quán)益的行為,利害相關(guān)人可以提起侵權(quán)之訴以捍衛(wèi)自己受法律保護的權(quán)益。這種屬于平等主體之間的糾紛本不需要國家公權(quán)力的干涉。然而,與金融市場類似,由于用戶和平臺實際地位的巨大差距,僅依靠司法救濟不能實現(xiàn)對處于弱勢地位的用戶進行充分保護,也無法促進新興產(chǎn)業(yè)的健康發(fā)展。公共規(guī)制的另一途徑——行政規(guī)制可以通過政府特定部門依靠現(xiàn)代化的治理體系、治理能力解決新興產(chǎn)業(yè)帶來的社會問題,引導、幫助和促進數(shù)據(jù)生態(tài)健康有序發(fā)展,為用戶提供更加公平、合理和便捷的服務。

        “大數(shù)據(jù)殺熟”這種攫取幾十上百塊消費者剩余的“小事”似乎不值得政府“大動干戈”去治理,然而,該問題如得不到及時處理就會帶來許多社會問題?!按髷?shù)據(jù)殺熟”導致什么法益被侵害,現(xiàn)行法律框架能否提供充足的救濟,司法實踐中相關(guān)案例是否具有代表性,政府該秉持什么理念參與治理,應該在消費者、企業(yè)之間發(fā)揮什么樣的作用以及采取什么樣的方法和措施,這些都是努力構(gòu)建和諧的信息生態(tài)以及建設(shè)數(shù)字政府不能回避的問題。

        二、“大數(shù)據(jù)殺熟”行為的本質(zhì)和危害

        在“算法經(jīng)濟”的驅(qū)動下,互聯(lián)網(wǎng)商務企業(yè)已具備諸多線下市場難以比擬的優(yōu)越性。在互聯(lián)網(wǎng)不發(fā)達的時代,需要通過旅行社預定旅游車票和住宿,如今只需要打開“去哪兒”“飛豬”或者“攜程”等APP,就可以得到從車票到住宿到景區(qū)門票的全部服務。第一次打開APP,其會要求用戶同意開放一些權(quán)限,包括允許平臺獲得用戶的地理位置、通訊信息、儲存空間,如果用戶不同意,就會自動退出平臺。用戶若要登錄平臺就必須同意這些請求。此外,對于初次使用APP的用戶平臺會給予很多優(yōu)惠,使用戶很樂于接受并逐漸對APP的便捷產(chǎn)生依賴,此時的用戶對平臺提供的價格并不敏感,直到網(wǎng)上曝出用戶正在使用的APP存在“大數(shù)據(jù)殺熟”行為,即用戶的“消費者剩余”被平臺攫取時,用戶才意識到平臺正在“殺熟”。

        (一)“大數(shù)據(jù)殺熟”:算法應用技術(shù)濫用

        “大數(shù)據(jù)殺熟”是基于網(wǎng)絡(luò)消費平臺的蓬勃發(fā)展和日漸純熟而產(chǎn)生的現(xiàn)象,是指平臺收集用戶消費數(shù)據(jù)后,通過算法應用技術(shù)計算出“熟客”的價格敏感度和接收度、消費依賴度,衡量其消費能力、支付意愿而對老客戶制定高于新客戶的價格,以此盡可能多地奪取“消費者剩余”,從而實現(xiàn)私利最大化的行為。[3]由上述概念可以看出,“大數(shù)據(jù)殺熟”行為的本質(zhì)既包括價格歧視行為,也包括濫用算法應用技術(shù)侵犯消費者權(quán)益的行為。

        ⒈價格歧視?!皻⑹臁敝附?jīng)營者依據(jù)消費者個人的消費偏好數(shù)據(jù),利用忠誠客戶的路徑依賴和信息不對稱就同一商品或服務向其索取高于新用戶售價的行為。盡管媒體和學界對“大數(shù)據(jù)殺熟”概念持有兩種觀點,即一種觀點認為“殺熟”需要以攫取利益為目的,而另一種觀點認為不需要。但雙方都認同這種“看人下菜碟”定價行為的本質(zhì)就是價格歧視。[4]功能強大的平臺為用戶省去了大量搜索時間,降低了查詢成本,消費者開始更加依賴平臺提供的信息作出消費決策。[5]但就是此種依賴性使得平臺處于一種優(yōu)勢地位,為價格歧視提供了前提。

        此外,平臺的歧視性定價行為若想獲得成功需滿足兩個條件,即差別化的定價能力和有限的套利空間。[6]大數(shù)據(jù)時代,只要肯投入,平臺就可以具備差異化的定價能力。通過精妙的算法,“企業(yè)得以具備數(shù)據(jù)挖掘與交易、模式識別、需求預測、價格優(yōu)化的能力”。[7]這被稱為是“為了幫助消費者作出正確的決策”?!按髷?shù)據(jù)殺熟”對平臺經(jīng)營者也許是“正確”的,但其卻是建立在損害用戶權(quán)益的基礎(chǔ)上。技術(shù)的進步讓平臺經(jīng)營者進行完全價格歧視(一級價格歧視)成為可能。雖然運用算法應用技術(shù)估算消費者愿意支付的最高價格需要海量數(shù)據(jù)作為支撐,對數(shù)據(jù)的挖掘也需要精妙的算法作為前提,但這不能阻礙“一人一價”愿望的實現(xiàn),通過機器自我學習更新算法應用技術(shù)和跨設(shè)備用戶追蹤等手段,經(jīng)營者可以“矢志不渝”地朝利潤最大化邁進,哪怕平臺經(jīng)營者利潤的增加是以損害用戶的利益為代價的?!按髷?shù)據(jù)殺熟”的第二個條件很容易滿足。所謂套利空間,可以等同于平臺上的消費者利用平臺“倒買倒賣”的可能性從經(jīng)驗判定,其絕大部分都是為了享受平臺提供的服務,而不是為了賺差價。基于對使用APP進行消費的用戶的實證研究表明,“大數(shù)據(jù)殺熟”對顧客忠誠度有顯著的負向影響,[8]用戶不會容忍自己被“殺熟”。

        ⒉算法應用技術(shù)的異化。評價技術(shù)難以斷然給出結(jié)論。技術(shù)的影響是積極的還是消極的往往取決于使用者的價值判斷,算法應用技術(shù)作為一種分析工具也如此。消費者已身處的“數(shù)據(jù)化”時代,其日常行為和偏好都可以轉(zhuǎn)化為數(shù)據(jù)資源?,F(xiàn)在算法應用技術(shù)已經(jīng)與我們生活的方方面面相結(jié)合,淘寶APP有淘寶推薦“算法”,滴滴APP有路線規(guī)劃“算法”,就餐有餐廳APP引導“算法”,新聞有頭條APP推送“算法”。客觀地說,大多數(shù)算法技術(shù)應用是有益而無害的,能帶來顯著的社會或經(jīng)濟價值,包括效率的顯著提高、更加便捷的消費體驗以及技術(shù)中立論者所認為的客觀公正等。[9]但“算法”歧視、“算法”霸權(quán)讓人們認識到算法應用技術(shù)存在倫理風險,本應為用戶提供更好的個性化服務的“算法”已異化為幫助平臺經(jīng)營者攫取消費者利益、實現(xiàn)利潤最大化的工具。

        除了攫取用戶利益外,通過算法應用技術(shù)作出推測,向消費者進行推薦,還可能誘使人們進行超前消費或者購買自己并不需要的東西,以至在某種程度上調(diào)控用戶的消費行為。以淘寶APP為例,瀏覽淘寶APP是免費的,但需要注冊賬號,淘寶APP用戶瀏覽留下的各種行為軌跡都使得淘寶APP可以積累其使用的習慣數(shù)據(jù),并通過算法應用技術(shù)作出推測,推薦給用戶,之后又通過用戶的點擊行為進一步分析用戶的行為邏輯,從而更好地預測和引導用戶消費行為。如此,平臺可以通過算法應用技術(shù)高效率地對用戶進行持續(xù)性的行為調(diào)控。有時算法應用技術(shù)對用戶行為的調(diào)控的確是為了回應用戶本身的需求,但最終仍導向行為調(diào)控而獲取利潤。[10]同時,算法應用技術(shù)的決策過程是一個不透明、不公開的過程,容易形成“算法黑箱”。[11]在電子商務領(lǐng)域,消費者在線上交易過程中往往不了解自己的個人數(shù)據(jù)被如何利用,在算法決策過程中,消費者只是一個被分析的客體,使得平臺利用信息不對稱的優(yōu)勢對消費者進行產(chǎn)品與服務的價格設(shè)計。而當消費者對此侵害有所察覺時,即使要求平臺對算法推薦的原理進行解釋,算法使用者也可主張算法屬于商業(yè)秘密提出抗辯。[12]綜上,面對利用算法應用技術(shù)的平臺“大數(shù)據(jù)殺熟”以及用戶知情權(quán)因“算法黑箱”的不透明被侵害的風險,加快建立針對“大數(shù)據(jù)殺熟”行為的專項法律治理模式成為當務之急。

        ⒊對用戶消費數(shù)據(jù)的不正當利用。平臺的優(yōu)惠券、免費券需要通過用戶的個人信息來換取。當用戶同意平臺收集信息時,其就進入了個人信息安全保護的“灰色地帶”。之所以說這屬于個人信息保護“灰色地帶”,是因為平臺在聲明為提供更優(yōu)質(zhì)的服務而需要收集利用用戶個人信息并征得其同意后,就可以對用戶信息(消費者的個人資料、選擇偏好、流量軌跡、行為標記、興趣愛好等)進行處理分析,形成對用戶的綜合評價,依此進行“殺熟”。然而,相關(guān)法律并沒有明確禁止這種利用信息行為,因此,目前這種信息濫用行為尚處于法律規(guī)制的“灰色地帶”。

        由于我國尚未建立明確的個人信息法律保護體系,因而平臺和用戶的信息權(quán)限處于不平衡的情形。首先,這種不平衡體現(xiàn)在收集信息階段。傳統(tǒng)的個人信息安全保護制度以知情同意機制為核心,然而在大數(shù)據(jù)時代,大量的隱私協(xié)議導致數(shù)據(jù)主體無暇閱讀,大數(shù)據(jù)技術(shù)的復雜性也導致數(shù)據(jù)主體無法真正理解其隱私風險而可能作出非理性選擇。數(shù)據(jù)控制者取得的用戶同意往往不是真正的同意,知情同意機制淪為一紙空文。[13]如果平臺能遵守協(xié)議,在指定的范圍內(nèi)利用數(shù)據(jù),“大數(shù)據(jù)殺熟”這類為用戶畫像卻損害其權(quán)益的事件就不會出現(xiàn),但現(xiàn)實恰恰相反。其次,對于信息的控制,平臺優(yōu)勢更大。以淘寶APP為例,其用戶所能做的只是刪除本機的訂單記錄(類似撕毀購買商品的發(fā)票),對于自己在平臺留下的“痕跡”沒有直接的控制權(quán),只能與客服聯(lián)系刪除,這時用戶信息的控制權(quán)被掌握在平臺手里,平臺是否同意用戶查看個人信息沒有明確的標準,恣意性較強。

        鑒于此,平臺在收集和利用用戶信息時需要做到對個人信息合規(guī)操作,在合規(guī)收集信息后更要合規(guī)利用,在向用戶推薦高價位服務時也必須呈現(xiàn)所有價位,保障用戶具有相同的知情權(quán)和選擇權(quán),這應當是商業(yè)倫理和立法保護的底線。

        (二)“大數(shù)據(jù)殺熟”對消費者合法權(quán)益的損害

        ⒈侵害用戶(消費者個人)權(quán)益。從消費者權(quán)益的角度分析,“大數(shù)據(jù)殺熟”行為侵害了消費者知情權(quán)和公平交易權(quán)。我國《消費者權(quán)益保護法》第8條明確規(guī)定消費者享有知情權(quán)利,第10條規(guī)定消費者享有公平交易權(quán)利。因此,在平臺根據(jù)算法應用技術(shù)制定可能損害消費者利益的價格時應當承擔告知將對其“殺熟”的義務。換句話說,平臺在制定價格時,應當將定價模式以某種方式告知消費者。因為,在平臺消費中,消費者無法像線下交易一樣與經(jīng)營者進行面對面的磋商,導致喪失知情的主動權(quán)。[14]用戶有權(quán)獲得質(zhì)量保障、價格合理、計量正確等公平交易條件,而在“大數(shù)據(jù)殺熟”事件中,用戶獲得的卻是普通人難以接受的受到歧視的高價,并沒有獲得合理的價格。這種行為還存在侵犯個人信息權(quán)和隱私權(quán)的風險。我國《民法典》第111條明確規(guī)定自然人的個人信息受法律保護,《消費者權(quán)益保護法》第29條也明確了經(jīng)營者對消費者個人信息應當承擔的義務。在平臺不合理使用用戶信息行為中,各平臺通過算法應用技術(shù)可以輕松勾勒出用戶的偏好、習慣,并且只要用戶有一定程度的使用,就可能成為個人信息權(quán)被侵犯的對象,且侵害對象范圍很廣。用戶個人無法有效地保護自己的隱私權(quán),各平臺通常在用戶使用平臺前要求用戶同意的關(guān)于用戶隱私信息利用的格式條款,協(xié)議條款往往十分龐雜,動輒數(shù)百上千條,用戶往往沒有耐心閱讀就點擊同意,[15]從而同意平臺對個人消費信息等隱私的利用。將自己置于不能確保隱私權(quán)得到保護的劣勢地位。個人信息被不當使用導致用戶個人利益受損的風險大大增加。我國雖然已經(jīng)初步建立起對個人信息保護的法律框架,但具體規(guī)定的缺失使對個人信息權(quán)的保護條款難以實施并發(fā)揮應然的保障和救濟功能。

        ⒉對市場秩序和公共利益產(chǎn)生負面影響。除了對個人合法權(quán)益的侵害,“大數(shù)據(jù)殺熟”行為也會對市場秩序和公共利益產(chǎn)生負面影響。[16]對于市場整體來說,該行為違背了誠實信用原則。我國《民法典》第7條、第509條,《消費者權(quán)益保護法》第4條都規(guī)定了交易行為要遵循誠實信用原則。然而,“大數(shù)據(jù)殺熟”的原理正是平臺利用老顧客的忠誠度攫取最大化的“消費者剩余”。這種行為顯然違背了市場交易必需遵守的誠實信用原則,透支了消費者對該交易平臺的信任,違背了商業(yè)倫理。不僅如此,濫用私人信息的行為還會產(chǎn)生嚴重的負外部性,影響社會的總體福利。[17]這種行為表面上僅侵害了單個消費者的利益,然而一旦被發(fā)現(xiàn),不僅該平臺的利益會遭受重大損失,新產(chǎn)業(yè)的聲譽和前景也會受到間接的影響,產(chǎn)生的連鎖反應會危及市場正常秩序。因此,建立完善的信用保障機制,形成“誠信受益,失信懲戒”的良好秩序,需要通過立法規(guī)范算法技術(shù)被濫用行為,從而保護用戶消費信息。

        誠然,價格歧視的影響也不完全是負面的。如果價格歧視的首要目標是實現(xiàn)社會共同目標而不是利潤最大化,如果這種價格歧視處在透明公正的市場環(huán)境中,如果產(chǎn)品整體品質(zhì)能夠因此提升,那么這種價格歧視就不應該抵制。[18]但若平臺僅為了獲利,利用價格歧視來最大化“消費者剩余”,就難以維系平臺和用戶間的信任紐帶,平臺也會因違反市場公平正義造成極大的負面影響。

        綜上所述,“大數(shù)據(jù)殺熟”行為既侵害了因信息不對稱而處于弱勢的用戶的合法權(quán)益,也存在濫用個人信息的風險,給線上交易環(huán)境帶來不良影響。而且僅僅依賴道德約束不能見效,需要進行法律規(guī)制。目前,針對“大數(shù)據(jù)殺熟”行為,用戶可以選擇通過自力救濟或社會救濟的方式維護權(quán)益,也可以通過民事訴訟這種公力救濟方式尋求保護。雖然為了提高市場經(jīng)濟效率,保護企業(yè)和經(jīng)營者的創(chuàng)新創(chuàng)造行為,政府不會直接對市場經(jīng)濟行為進行干預,但是,當市場面對消費者個人信息保護“灰色地帶”無法自行調(diào)處時,就需要政府有條件的介入。[19]

        三、政府治理“大數(shù)據(jù)殺熟”行為的現(xiàn)狀:實踐和文本檢視

        (一)實踐檢視

        ⒈基于法院裁判。司法實踐中,隨著平臺使用的增加和侵權(quán)事件的頻頻發(fā)生,用戶開始通過訴訟方式保護自己在個人信息數(shù)據(jù)方面的權(quán)益。在檢索結(jié)果中,以“大數(shù)據(jù)殺熟”為由提起訴訟的案件較少,僅有一起公布案件。盡管只是消費者維權(quán)的一次嘗試,但在一定程度上也體現(xiàn)了消費者面對價格歧視時的“憤怒”。在原告劉某與被告北京三快科技有限公司侵權(quán)責任糾紛一案中,劉某認為被告對其多收取的一元錢配送費是“大數(shù)據(jù)殺熟”區(qū)別定價,侵犯了其知情權(quán)、公平交易權(quán)等,遂訴至法院。被告辯稱配送費會因騎手的數(shù)量、接單意愿等產(chǎn)生波動,并非“大數(shù)據(jù)殺熟”。一審法院駁回了原告的訴求,認定三快科技公司根據(jù)平臺交易量對配送費進行動態(tài)調(diào)整是自身的經(jīng)營行為,不構(gòu)成對劉某的侵權(quán)。二審維持了原判,裁判理由是現(xiàn)有證據(jù)不足以證明被告利用大數(shù)據(jù)區(qū)別定價。最終,原告承擔了兩次審理費。從本案可以窺見,即使用戶能意識到自己被區(qū)別對待,也難以找到證據(jù)證明這是不合理的對待,更難以證明這種對待是由大數(shù)據(jù)和算法應用技術(shù)支撐得出的判斷。

        盡管目前以價格歧視為由與平臺對抗的案例稀少,但以平臺侵犯個人信息安全為由的案例卻初現(xiàn)端倪。在這些案例中,平臺似乎并未攫取“消費者剩余”,卻在收集、儲存、利用消費者數(shù)據(jù)的過程中出現(xiàn)差錯,給平臺使用者造成更大的損失,違背了收集消費者個人數(shù)據(jù)是為了提供更好的服務和用戶體驗的承諾。在申某訴攜程、支付寶(平臺)侵權(quán)責任糾紛一案中,原告申某稱正是因為攜程和支付寶(平臺)泄露了其個人信息,導致在退票時被詐騙分子騙取118900元,法院最終認為泄露的信息能識別申某,屬于民法保護的個人信息,法院認定“攜程存在泄露申某涉案個人信息的高度可能”。在舉證責任方面也偏向處于弱勢地位的申某,判決攜程(平臺)賠償申某5萬元。在某種程度上,法院的判決體現(xiàn)了個人信息保護法律體系對個人信息的確認和保障。而在另一起不正當競爭糾紛案中,微博訴稱脈脈(平臺)非法抓取、使用其用戶信息,并非法獲取用戶手機通訊錄聯(lián)系人與微博用戶的對應關(guān)系信息,以此提供服務及牟利。最終法院認定脈脈(平臺)危害到新浪微博平臺用戶信息安全,損害了新浪微博的合法競爭利益,對新浪微博構(gòu)成不正當競爭。在解決兩個企業(yè)糾紛的同時,法院也認識到數(shù)據(jù)在流動、易手的同時,可能導致個人信息主體及收集、使用個人信息的組織和機構(gòu)喪失了對個人信息的控制能力,造成個人信息擴散范圍和用途的不可控,倡議平臺運營者在采集利用用戶數(shù)據(jù)時應履行管理義務。

        案例表明,平臺作為用戶個人信息控制者所需要承擔的管理責任已經(jīng)引起法院的重視,對于因為平臺管理不當造成信息泄露給用戶造成損失的情況,將舉證責任更多地讓處于強勢地位的平臺承擔,但對于“大數(shù)據(jù)殺熟”這種“輕微”的行為態(tài)度極為寬松,因數(shù)目不大、舉證不足,用戶只能忍氣吞聲,沒有彌補權(quán)益損失的好辦法。

        ⒉有關(guān)部門的執(zhí)法行動。在執(zhí)法領(lǐng)域,行政機關(guān)對用戶信息保護行動也在進行,但針對價格歧視行為,可能會因界定困難、執(zhí)法結(jié)果具有不確定性而保持謹慎態(tài)度,沒有介入。

        2019年以來,行政機關(guān)開始積極介入個人信息安全領(lǐng)域,保護個人隱私和信息安全。大體而言,分為專項組專項治理、舉報平臺監(jiān)督等一系列事后處罰方式。中央網(wǎng)信辦、工業(yè)和信息化部、公安部、市場監(jiān)管總局決定,自2019年1月至12月,在全國范圍組織開展APP違法違規(guī)收集使用個人信息專項治理工作。成立APP專項治理工作組,研究并制定了一系列APP個人信息保護相關(guān)技術(shù)指導文件和政策文件,為平臺自查自糾和網(wǎng)民社會監(jiān)督提供參照,對侵害消費者信息安全的行為提供了確認標準。2019年9月,在國家網(wǎng)絡(luò)安全宣傳周期間,中央網(wǎng)信辦相關(guān)負責人介紹,專門針對APP違法違規(guī)收集使用個人信息的舉報平臺已經(jīng)建立完成,截至9月,已收到近8000條舉報信息,其中實名舉報占比近三分之一,并向100多家平臺發(fā)送了整改建議函,評估發(fā)現(xiàn)的問題得到了有效整改。專項治理多采取通報、下架、責令整改等方式。由此可見,在用戶個人信息保護領(lǐng)域,中央網(wǎng)信辦、工業(yè)和信息化部、公安部、市場監(jiān)管總局聯(lián)合專項治理已通過“運動式”執(zhí)法的方式,集中、高效打擊了違規(guī)違法信息收集利用行為,健全舉報渠道也為專項治理找準“標靶”創(chuàng)造了條件。

        目前,處于監(jiān)管“灰色地帶”的“大數(shù)據(jù)殺熟”行為,主管部門和執(zhí)法部門還沒有給予足夠的重視,一方面,對于被動接受價格的大部分用戶,“殺熟”是難以察覺的,“不夠精明”的用戶不會貨比三家,而平臺卻能利用大數(shù)據(jù)和算法應用技術(shù)攫取“消費者剩余”;另一方面,監(jiān)管部門多采用事后監(jiān)管的方式,只有在“殺熟”達到一定程度的破壞力時才會監(jiān)管,起到“亡羊補牢”的作用。

        在大數(shù)據(jù)領(lǐng)域,行政機關(guān)監(jiān)管的目標是找到行業(yè)安全和行業(yè)創(chuàng)新的平衡點,既要確保企業(yè)積極創(chuàng)新,又要保障市場發(fā)展秩序,但現(xiàn)有行政規(guī)制能力與該目標的實現(xiàn)并不完全匹配。首先,規(guī)制工具單一。我國《行政許可法》體現(xiàn)了有限政府的原則,但這并不表示政府應該對新業(yè)態(tài)、新技術(shù)“袖手旁觀”,反而要求特定監(jiān)管部門創(chuàng)新監(jiān)管方式,實現(xiàn)治理能力現(xiàn)代化。在事前監(jiān)管無法可依時,事中和事后監(jiān)管就越發(fā)重要,但實踐中,行政機關(guān)為追求治理效率,一方面傾向于采用強制、處罰等規(guī)制工具,[20]對其他柔性工具的接納程度和使用頻率都處于較低水平;另一方面對規(guī)制工具的創(chuàng)新未予重視,信息工具等新型措施沒有得到充分利用。[21]其次,平臺規(guī)制難點在于業(yè)態(tài)錯綜復雜,利益多元交織。以平臺為代表的企業(yè)、以用戶為代表的社會、以公權(quán)力為代表的政府,各自的利益追求也各不相同。用戶個人勢單力薄,需要通過行業(yè)協(xié)會(如消費者協(xié)會)來維護自己和集體的權(quán)益。行業(yè)自律也是保護個人信息安全的重要補充,可作為權(quán)利救濟的途徑之一。然而,規(guī)制主體呈現(xiàn)扁平化狀態(tài),較多地是依賴行政機關(guān)達到行政目的。如果行業(yè)出現(xiàn)的糾紛只能通過行政手段解決,不僅會造成行政資源浪費,還可能為權(quán)力尋租提供土壤。

        (二)規(guī)范文本考察:個人信息保護立法框架審視

        2017年,我國《網(wǎng)絡(luò)安全法》正式實施,成為網(wǎng)絡(luò)時代個人信息保護的基礎(chǔ)法律規(guī)范。近年來,個人信息保護的專項立法也在不斷推進。自2019年開始,中央網(wǎng)信辦、工信部、公安部、市場監(jiān)督管理局等部門加快了涉及個人信息保護和數(shù)據(jù)安全的部門規(guī)章及其他規(guī)范性文件的制定,相對于《網(wǎng)絡(luò)安全法》,近期發(fā)布的大量涉及個人信息保護的規(guī)范性文件,制定的個人信息收集使用規(guī)則,對個人信息的收集、保存、使用、更新等都有了更加明確和詳細的規(guī)定。

        在法律層面,我國《消費者保護法》第32條,《網(wǎng)絡(luò)安全法》第41條、第43條,《電子商務法》第18條為消費者消費信息保護提供了規(guī)范依據(jù);《電子商務法》第77條,《網(wǎng)絡(luò)安全法》第64條,《侵害消費者權(quán)益行為處罰辦法》第3條等,亦作出了相關(guān)的行政處罰規(guī)定。然而,用戶信息利用的規(guī)制和面向用戶的價格歧視規(guī)制以及具體的規(guī)定屈指可數(shù)。2019年,文化和旅游部研究起草的《在線旅游經(jīng)營服務管理暫行規(guī)定(征求意見稿)》中,對“大數(shù)據(jù)殺熟”這種價格歧視行為作出禁止性規(guī)定,然而該暫行規(guī)定只針對在線旅游經(jīng)營者,僅屬于平臺種類中的一類。

        總體而言,立法層面對用戶信息數(shù)據(jù)保護由一部《網(wǎng)絡(luò)安全法》統(tǒng)領(lǐng),由網(wǎng)信辦、公安部和工業(yè)、信息化部等不同部門若干部門規(guī)章作基石,以APP專項治理工作組發(fā)布的規(guī)范性文件和指南進行細化認定,配套《個人信息安全規(guī)范》等國家或行業(yè)標準,構(gòu)成了當下APP用戶信息保護的法律框架。但對于濫用信息的行為,如對“大數(shù)據(jù)殺熟”行為的重視程度還不夠,急需出臺專項規(guī)制方案。2020年3月6日,國家市場監(jiān)督管理總局國家標準化管理委員會正式發(fā)布2020版《個人信息安全規(guī)范》,其中7.4明確規(guī)定了對用戶畫像的使用限制,7.4.b(1)規(guī)定了畫像不能用于侵害公民的合法權(quán)益,為阻止“大數(shù)據(jù)殺熟”提供了標準層面的依據(jù)。7.5對個性化展示的區(qū)分體現(xiàn)了對消費者知情權(quán)的尊重,7.7也對自動決策機制(包括算法應用技術(shù))要求提出實施前和實施中評估并提供投訴渠道的要求。該規(guī)范在進一步保護消費者對自己信息數(shù)據(jù)的自決權(quán)和知情權(quán)方面有所進步,而這些針對企業(yè)的建議或要求也是對用戶信息保護加強的重要指引。

        四、政府參與治理“大數(shù)據(jù)殺熟”行為的可能進路

        消費者個人信息濫用對社會公共利益所造成的侵害是政府進行治理的充分條件。然而,行政參與同樣具有負外部性,政府過度或強勢監(jiān)管很有可能阻礙新興產(chǎn)業(yè)的發(fā)展,違背公共利益,損害消費者整體利益。并且,服務型政府建設(shè)要求行政人員樹立“社會本位、權(quán)利本位”的理念,政府與公眾的關(guān)系將轉(zhuǎn)化為服務供給者與消費者的關(guān)系。從這個意義上講,企業(yè)與消費者都是政府公共服務的接受者,政府監(jiān)管的目標是找到數(shù)據(jù)產(chǎn)業(yè)安全和創(chuàng)新的平衡點,如何把握好“度”,即在消費者和互聯(lián)網(wǎng)商務企業(yè)出現(xiàn)沖突時發(fā)揮好“疏通”和“指導”作用,亦是當下數(shù)字政府建設(shè)中不可回避的問題。

        (一)發(fā)揮個人信息安全保障職能應遵守輔助性原則

        遵循輔助性原則對政府治理平臺“大數(shù)據(jù)殺熟”至關(guān)重要。輔助性原則是指社會、個人不能或者不愿從事經(jīng)濟活動或獲得福祉時,國家才可以介入,從而賦予國家介入行為的正當性。[22]借助于輔助性原則,可以明確什么時候需要國家出面來履行經(jīng)濟調(diào)節(jié)、市場監(jiān)管、社會管理和提供公共服務的職能。[23]遵循這一原則,只有在權(quán)利受侵害的私主體(如被“殺熟”的用戶)無法結(jié)成組織,或即使結(jié)成也無力保障其對抗強大的平臺時,行政規(guī)制主體才能對平臺進行規(guī)制,對弱勢消費者提供“生存照顧”。這不僅是為了避免政府過早的“照顧”會讓私主體喪失“為權(quán)利而斗爭”的主動性,也是為了避免國家在公益的幌子下擴張權(quán)力,最終成為個體權(quán)利的“唯一保護者”。[24]

        在技術(shù)快速發(fā)展的時代,法律制度的更新經(jīng)常落后于技術(shù)的進步。針對濫用算法應用技術(shù)侵害消費者權(quán)益行為,在立法沒有及時跟進的情況下,需要行政規(guī)制部門以公共利益為目標,在法律的拘束下發(fā)揮能動性,與時俱進地不斷進行改革,以形成推進經(jīng)濟建設(shè)和社會發(fā)展的管理方式。[25]貫徹輔助性原則的行政理念,是政府治理市場又不損害社會總體福利的前提要件。在提升國家治理能力的新時代,政府對弱勢群體的保護不應也不能缺席。遵循輔助性原則不能因為互聯(lián)網(wǎng)經(jīng)濟一出現(xiàn)問題就馬上動用政府監(jiān)管或者傳統(tǒng)思路的政府監(jiān)管。在政府確實需要進行監(jiān)管并作出重大監(jiān)管決策之前,應該進行必要的比例原則分析和成本收益分析。[26]明確政府權(quán)力介入經(jīng)濟領(lǐng)域的啟動原則和條件,既符合當下“放管服”改革的趨勢,也是逐步實現(xiàn)國家治理能力現(xiàn)代化的體現(xiàn),同時也有助于互聯(lián)網(wǎng)平臺合作治理土壤的形成。

        (二)對使用的算法應用技術(shù)應采取事前備案方式

        算法應用技術(shù)作為一種工具,在使用過程中會發(fā)現(xiàn)用戶的價值取向,若能采取事前備案制就能對其使用是否合法合理作出預測,降低被濫用的風險。因在技術(shù)層面可能涉及企業(yè)的商業(yè)秘密,若采取強制披露的方式不利于市場提供創(chuàng)新服務,采取審批或核準制則可能有損效率,因此對其采取相對溫和的備案制可能是一個適當?shù)男姓?guī)制手段。

        有研究者認為,智能互聯(lián)網(wǎng)時代形成了“公權(quán)力——私權(quán)力——私權(quán)利”之間復雜博弈的新格局,三者之間都可能發(fā)生合作或?qū)?,這在很大程度上改變了以往國家與社會、權(quán)力與權(quán)利的關(guān)系結(jié)構(gòu)與功能。[27]正是由于平臺構(gòu)建和算法應用技術(shù)采用可能出現(xiàn)的倫理風險、行為調(diào)控以及“算法黑箱”的不透明,使三者中“私權(quán)力”迅速擴張,“私權(quán)力”的擴張產(chǎn)生了新的欲望(如對“消費者剩余”最大化的攫?。瑢е铝税ā按髷?shù)據(jù)殺熟”在內(nèi)的侵害用戶權(quán)益問題的存在。如果對算法應用技術(shù)解釋的權(quán)力、解釋數(shù)據(jù)利用方式的權(quán)力集中在平臺,難以避免權(quán)力的濫用,就必然存在平臺利用算法實施對消費者“霸凌”的風險,平臺“大數(shù)據(jù)殺熟”也許只是“冰山”一角。“私權(quán)力”對“私權(quán)利”的侵犯成為對“私權(quán)力”進行約束的前提條件。算法應用技術(shù)使用的不透明會使私權(quán)利尋求救濟變得困難,商業(yè)秘密成為平臺不披露算法模型的“擋箭牌”。政府秉持輔助性原則進場,則必然在事前就對“算法”邏輯進行監(jiān)管,以減少平臺肆意濫用算法應用技術(shù)的風險,在平臺借助備案提升市場形象的同時使其必須承擔信息合規(guī)的責任,為三方“共贏”提供可能。具體而言,政府可以采用備案的方法掌握平臺使用的算法邏輯,防范其采用歧視性算法侵害消費者權(quán)益帶來的風險。算法應用技術(shù)使用事前備案,要求義務人向監(jiān)管機構(gòu)備案其“算法模型”或“算法邏輯”,并且監(jiān)管機構(gòu)應全面掌控和不向社會公開這些信息。通過這種形式上的審查,保證平臺在追求利潤的同時頭上懸著“達摩克里斯之劍”,為實現(xiàn)公共善保留最低程度的公平、非歧視道德底線。當然,這種形式的審查不會影響企業(yè)技術(shù)創(chuàng)新、提供更優(yōu)質(zhì)服務的積極性,只是將違法、違背商業(yè)倫理追求利潤的想法剔除出市場競爭。

        (三)促進“政府—社會”合作規(guī)制制度的建立

        在“公權(quán)力——私權(quán)力——私權(quán)利”之間復雜博弈的新格局中,對于個人信息,平臺在公權(quán)力之前取得了技術(shù)層面的優(yōu)勢,公權(quán)力要想獲得制衡“私權(quán)力”的籌碼,就需要更新技術(shù)以匹配新規(guī)制。大數(shù)據(jù)時代,新興產(chǎn)業(yè)的專業(yè)性是數(shù)字政府建設(shè)過程中不可回避的問題,也是對新時代行政管理能力提出的挑戰(zhàn)。因此,對“大數(shù)據(jù)殺熟”行為的治理必須重視技術(shù)層面能力水平的提升。行政監(jiān)管機關(guān)可以通過相關(guān)專業(yè)人才的選拔、專家顧問制度、大數(shù)據(jù)管理專員設(shè)置等多種方式提高監(jiān)管水平,用制度規(guī)制技術(shù),使規(guī)制能力與規(guī)制目的相匹配。部門合作的進步也需要技術(shù)的加持。針對部門合作問題,2016年,國務院以建立消費者權(quán)益保護工作部際聯(lián)席會議制度來強化部門間協(xié)作配合。2019年9月12日,國務院發(fā)布的《國務院關(guān)于加強和規(guī)范事中事后監(jiān)管的指導意見》要求“構(gòu)建協(xié)同監(jiān)管格局,打破條塊分割,建立健全跨部門、跨區(qū)域執(zhí)法聯(lián)動響應和協(xié)作機制”。然而,面對新興產(chǎn)業(yè)出現(xiàn)的問題,僅靠文件不足以建立完善的協(xié)調(diào)配合機制,還需要通過技術(shù)手段加以協(xié)調(diào),構(gòu)建“互聯(lián)網(wǎng)+”行政執(zhí)法的新生態(tài),如借助信息平臺推進行政執(zhí)法一體化,[28]打破部門間“信息孤島”,發(fā)揮行政機關(guān)合力的作用。

        在政府規(guī)制能力提升的同時,行業(yè)自我規(guī)制也不可或缺。未來互聯(lián)網(wǎng)行業(yè)協(xié)會自我規(guī)制的發(fā)展需要政府更多的賦權(quán)。[29]如美國非常重視個人信息保護的行業(yè)自律,希望通過行業(yè)間的自我約束來實現(xiàn)對個人信息的合法合理處理,以期達到實現(xiàn)個人信息最優(yōu)化配置的同時保護個人信息。[30]我國香港特別行政區(qū)《個人資料保護條例》將行業(yè)自律規(guī)范稱為“實務守則”,在第三部門作了專門規(guī)定,以期提高行業(yè)自律準則的法律效力位階,增強自律規(guī)范的強制性。[31]目前,我國行業(yè)協(xié)會、商會管理體制還需要進一步完善,在平臺侵害用戶利益事件曝光后,行業(yè)協(xié)會等社會組織并未發(fā)揮公私協(xié)作、協(xié)同治理的作用,原因之一就是在自身動力不足的情況下缺乏外部的約束力。因此,過度依靠行業(yè)自律很難得到滿意的結(jié)果。在這種情況下,將政府的執(zhí)行角色趨于最小化是一種可能的出路,這里可以引入公共規(guī)制領(lǐng)域“自我規(guī)制”的概念,即外部規(guī)制者有意促使規(guī)制對象本身針對公共問題,作出內(nèi)部式的、自我規(guī)制性質(zhì)的回應。[32]個人信息泄露的主要原因并非安全技術(shù)漏洞,而是公司內(nèi)部管理不善。若政府將部分規(guī)制權(quán)下放到社會,由行業(yè)內(nèi)部進行自我規(guī)制并將效果反饋給規(guī)制者,從而達到政府與社會的合作規(guī)制,更有利于網(wǎng)絡(luò)信息安全生態(tài)的建立。平臺可以通過制定行業(yè)自律公約、編制行業(yè)發(fā)展評估報告等方式建立行業(yè)自律模式。如電商龍頭企業(yè)應帶頭制定平臺行業(yè)規(guī)范、自律條款進行引導和示范。政府行使規(guī)制權(quán),出臺規(guī)制政策或作出其他重大決策前,應當廣泛聽取行業(yè)協(xié)會的意見,以保證決策的科學性和可接受性。

        總之,政府應遵循輔助性原則,采取“算法備案”等措施,用新制度規(guī)制新技術(shù),努力建設(shè)數(shù)字化監(jiān)管體系。政府與社會的合作規(guī)制也應針對新領(lǐng)域?qū)で笮姓?guī)制的可能進路,轉(zhuǎn)變觀念與其相匹配,在保障市場經(jīng)濟基本秩序和效率的同時,保護消費者利益,維護市場經(jīng)濟秩序,發(fā)揮服務型政府應有的作用。

        【參考文獻】

        [1]盧文,陳沛.大數(shù)據(jù)時代價格歧視行為的法律規(guī)制路徑[J].網(wǎng)絡(luò)信息法學研究,2019,(1).

        [2]李美儒,龐允琛.大數(shù)據(jù)殺熟的法律規(guī)制與市場監(jiān)管體制[J].北方經(jīng)貿(mào),2019,(6).

        [3]于夕媛,陳潤澤.大數(shù)據(jù)“殺熟”的法律規(guī)制[J].經(jīng)濟師,2019,(5):56;鄒開亮,劉佳明.大數(shù)據(jù)“殺熟”的法律規(guī)制困境與出路——僅從《消費者權(quán)益保護法》的角度考量[J].價格理論與實踐,2018,(8).

        [4]詹好,邵靳天,黃智威.“大數(shù)據(jù)殺熟”:概念澄清及解決方案[J].軟件,2019,(8).

        [5][6][7][18](英)阿里爾·扎拉奇,(美)莫里斯·E·斯圖克.算法的陷阱:超級平臺、算法壟斷與場景欺騙[M].余瀟譯.北京:中信出版社,2018.

        [8]王雪婷,孫曉雅.大數(shù)據(jù)“殺熟”對顧客忠誠度的影響實證研究[J].電子商務,2019,(7).

        [9]解正山.算法決策規(guī)制——以算法“解釋權(quán)”為中心[J].現(xiàn)代法學,2020,(1).

        [10]張凌寒.算法權(quán)力的興起、異化及法律規(guī)制[J].法商研究,2019,(4):63-75.

        [11]許可.人工智能的算法黑箱與數(shù)據(jù)正義[J].社會科學報,2018,(6).

        [12]張凌寒.商業(yè)自動化決策的算法解釋權(quán)研究[J].法律科學(西北政法大學學報),2018,(3).

        [13]謝琳.大數(shù)據(jù)時代個人信息使用的合法利益豁免[J].政法論壇,2019,(1):75.

        [14]王樺宇,李想.運用法律完善互聯(lián)網(wǎng)行業(yè)監(jiān)管[J].檢察風云,2019,(14):18-19.

        [15]趙佳慧.大數(shù)據(jù)背景下網(wǎng)絡(luò)隱私侵權(quán)的探究——以“殺熟”事件為視角[J].改革與開放,2019,(12).

        [16]何躍軍,周婕,楊淑琴. 新興行業(yè)行政規(guī)制的正當性與界限——基于打車軟件行業(yè)的現(xiàn)實主義觀察[J].寧波大學學報(人文科學版),2016,(6).

        [17]沈廣明.分享經(jīng)濟的規(guī)制策略——以輔助性原則為基點[J].當代法學,2018,(3).

        [19]郎佩娟.政府干預經(jīng)濟的原則與界限[J].中國政法大學學報,2018,(4).

        [20]張效羽.互聯(lián)網(wǎng)分享經(jīng)濟對行政法規(guī)制的挑戰(zhàn)與應對[J].環(huán)球法律評論,2016,(5).

        [21]李帥.互聯(lián)網(wǎng)數(shù)據(jù)治理的時代挑戰(zhàn)及行政法應對[J].華南理工大學學報(社會科學版),2019,(3).

        [22]沈廣明.分享經(jīng)濟的規(guī)制策略——以輔助性原則為基點[J].當代法學,2018,(3).

        [23]劉莘,張迎濤.輔助性原則與中國行政體制改革[J].行政法學研究,2006,(4).

        [24]劉學濤,安子明.論行政給付中的國家輔助性原則[J].行政與法,2017,(6).

        [25]楊建順.中國行政規(guī)制的合理化[J].國家檢察官學院學報,2017,(3).

        [26]沈巋.互聯(lián)網(wǎng)經(jīng)濟的政府監(jiān)管原則和方式創(chuàng)新[J].國家行政學院學報,2016,(2).

        [27]馬長山.智能互聯(lián)網(wǎng)時代的法律變革[J].法學研究,2018,(4).

        [28]袁雪石.建構(gòu)“互聯(lián)網(wǎng)+”行政執(zhí)法的新生態(tài)[J].行政管理改革,2016,(3).

        [29]李洪雷.論互聯(lián)網(wǎng)的規(guī)制體制——在政府規(guī)制與自我規(guī)制之間[J].環(huán)球法律評論,2014,(1).

        [30]孔令杰.個人資料隱私的法律保護[M].武漢:武漢大學出版社,2009.

        [31]齊愛民.拯救信息社會中的人格——個人信息保護法總論[M].北京:北京大學出版社,2009.

        [32](英)科林·斯科特.規(guī)制、治理與法律:前沿問題研究[M].北京:清華大學出版社,2018.

        (責任編輯:牟春野)

        Analysis on the Approach of Government Participation in the Gover-

        nance of “Big Data Kills Maturity” of App Business Platform

        Li Nanyu

        Abstract:In recent years,some app business platforms “big data killing” have damaged the rights and interests of consumers,and attracted widespread attention of the society.Compared with the traditional commercial “kill familiar” behavior,APP business platform “big data killing” is more hidden,and consumers' rights protection is more difficult.This kind of behavior which damages consumers' rights and interests by using algorithm application technology is seriously against business ethics,which is not only related to the personal rights and interests of consumers,but also affects public interests.It is difficult to correct by market regulation,and public relief is required through law.However,it is difficult for the current law to regulate such acts that damage the rights and interests of consumers,making it a “grey zone” of legal regulation.Although the legislation of our country has strengthened the protection of personal information data security of APP users,and the law enforcement departments are also acting,they have not attracted the attention of law enforcement and legislation departments.Therefore,the government should,on the premise of following the principle of auxiliary,regulate new technology by means of algorithm application technology filing,establishing the “government society” cooperation regulation system,and so on,and better play the role of government participating in governance of “big data killing” on app business platform,and protect consumer rights and social public interests.

        Key words:government participation in governance;business platform;big data kills maturity;app user;personal information data

        猜你喜歡
        規(guī)制個人信息消費者
        如何保護勞動者的個人信息?
        工會博覽(2022年16期)2022-07-16 05:53:54
        個人信息保護進入“法時代”
        主動退市規(guī)制的德國經(jīng)驗與啟示
        南大法學(2021年4期)2021-03-23 07:56:10
        消費者網(wǎng)上購物六注意
        警惕個人信息泄露
        綠色中國(2019年14期)2019-11-26 07:11:44
        保護與規(guī)制:關(guān)于文學的刑法
        刑法論叢(2018年4期)2018-05-21 00:44:30
        知識付費消費者
        論《反不正當競爭法》的規(guī)制范疇
        法治研究(2016年4期)2016-12-01 03:41:40
        悄悄偷走消費者的創(chuàng)意
        悄悄偷走消費者的創(chuàng)意
        国产中文字幕亚洲精品| 免费无遮挡无码视频在线观看| 国产在线精品一区二区三区不卡 | 美女裸体自慰在线观看| 免费 无码 国产精品| 一区二区三区在线日本视频 | 日韩精品欧美激情国产一区| 精品久久精品久久精品| 国产 精品 自在 线免费| 一区二区三区免费看日本| …日韩人妻无码精品一专区| 久久精品夜夜夜夜夜久久| 日韩少妇无码一区二区免费视频| 亚洲精品在线观看自拍| 一区二区三区国产在线视频| 亚洲成av人片在线观看www| 日韩爱爱网站| 人妻熟女妇av北条麻记三级| 久久精品亚洲熟女av蜜謦| 国产精品成人久久电影| 国产精品乱一区二区三区| 精品av一区二区在线| 精品国产粉嫩内射白浆内射双马尾 | 亚洲AV无码乱码一区二区三区| 日韩中文字幕一区在线| 国产精品一区二区久久国产| 亚洲国产精品va在线播放| ZZIJZZIJ亚洲日本少妇| 亚洲国语对白在线观看| 韩国三级在线观看久| 国产精品 高清 尿 小便 嘘嘘 | 久久综网色亚洲美女亚洲av| 国产真人性做爰久久网站 | 精品免费一区二区三区在| 中文字幕日韩精品人妻久久久| 精品福利一区二区三区蜜桃| 18女下面流水不遮图| 无码在线观看123| 免费人成黄页网站在线一区二区| 国产精品午夜福利视频234区| 蜜桃无码一区二区三区|