亚洲免费av电影一区二区三区,日韩爱爱视频,51精品视频一区二区三区,91视频爱爱,日韩欧美在线播放视频,中文字幕少妇AV,亚洲电影中文字幕,久久久久亚洲av成人网址,久久综合视频网站,国产在线不卡免费播放

        ?

        涉罪人工智能刑罰的正當(dāng)性

        2024-06-17 00:00:00王學(xué)光諸珺文

        [摘要] 盡管孟德斯鳩、伏爾泰等學(xué)者從“犯罪人”角度討論了刑罰正當(dāng)性,但是他們的論述忽視罪與罰的實質(zhì)而在人工智能刑罰領(lǐng)域無法適用。本文對古希臘哲學(xué)中的共相觀進行總結(jié),以破解當(dāng)今人工智能刑法學(xué)者落入的“主觀思維陷阱”。本文以生成式人工智能為例,結(jié)合先秦時期、秦漢時期、唐宋時期和明清時期的儒家學(xué)說進行探討,發(fā)現(xiàn)人工智能的自我意識可用“實在論”進行概括。基于向量技術(shù)生成的人工智能盡管擁有自我意識,但是其在一定程度上缺乏由感性認(rèn)識到理性認(rèn)識的升華,刑罰無法使其感到自內(nèi)而外的痛苦,所以對人工智能施加的刑罰缺乏正當(dāng)性。人類和人工智能的地位落入黑格爾所提出的主人意識與奴隸意識的辯證關(guān)系中,因此應(yīng)以宋明理學(xué)的“以嚴(yán)為本,而以寬濟之”的思想對涉罪人工智能進行行政立法規(guī)制。

        [關(guān)鍵詞] 人工智能刑罰觀 "儒家學(xué)說 "共相概念認(rèn)識論 "安塞姆學(xué)說

        [作者簡介] 王學(xué)光,華東政法大學(xué)刑事法學(xué)院教授,博士生導(dǎo)師,主要研究方向為電子數(shù)據(jù)、計算機犯罪、司法鑒定等;諸珺文,華東政法大學(xué)刑事法學(xué)院碩士研究生,主要研究方向為法哲學(xué)、刑法學(xué)理論、司法鑒定等。

        [中圖分類號] D914

        [文獻(xiàn)標(biāo)識碼] A

        [文章編號] 1008-7672(2024)02-0106-14

        對于涉罪人工智能是否應(yīng)當(dāng)承擔(dān)刑事責(zé)任,接受刑事處罰,學(xué)界提出了肯定論和否定論的兩種學(xué)說??隙ㄕ撜哒J(rèn)為,在可能到來的強人工智能時代,科技的持續(xù)發(fā)展,強智能機器人必然會獲得自主的意志,并有較大的可能會實施危害社會的相關(guān)不法行為,因此可引入修改數(shù)據(jù)、修改程序、永久銷毀三種刑罰對強智能機器人進行制裁。否定論者認(rèn)為,肯定論者落入了名為“反智化”的陷阱,因為肯定論者通過“制造假問題”和“學(xué)術(shù)泡沫”企圖將學(xué)術(shù)界引入盲目“崇拜人工智能”的陷阱之中。否定論者認(rèn)為,肯定論者所信仰的僅僅是自己腦中的猜想,強智能機器人獲得自我意識和意志缺乏實質(zhì)的科學(xué)依據(jù),肯定論者違反了唯物主義的立場。但是肯定論者認(rèn)為,否定論者的觀點實質(zhì)就是“一種為了批判而批判的‘偽批判’”,因為否定論者將弱人工智能的刑事責(zé)任結(jié)論“套到”強智能機器人身上,從而忽視了強智能機器人獲得自我意識的潛在可能。

        且不論肯定論者和否定論者的觀點孰對孰錯,我們都不得不承認(rèn)近年來法學(xué)學(xué)者的討論重點從涉罪人工智能的刑事責(zé)任轉(zhuǎn)到智能機器人是否有獲得自我意識的可能。這是因為中國學(xué)者采用的刑事責(zé)任學(xué)說觀點繼承了刑事古典學(xué)派和刑事近代學(xué)派不斷紛爭而得出的相關(guān)結(jié)論,而這些相關(guān)結(jié)論是以犯罪人的理性為討論對象而得出的。如以路德維希·安德列斯·費爾巴哈(Ludwig Andreas Feuerbach)為代表的刑事古典學(xué)派學(xué)者提出的心理強制說認(rèn)為,擁有自由意志的人是一種理性動物,因此只要設(shè)定相關(guān)犯罪的不利后果,就能反制人類的犯罪動機。以擁有自由意志的犯罪人的刑事責(zé)任為理論基礎(chǔ),探討涉罪人工智能的相關(guān)刑事責(zé)任,最后必將不可避免地落入“人工智能是否有獲取自由意識可能”的紛爭之中。“規(guī)范責(zé)任論”也認(rèn)為,只有主觀上是故意或者過失,且不是出于不能抗拒或是不能預(yù)見的原因所引起的犯罪人才應(yīng)承擔(dān)刑事責(zé)任??梢哉f,探討人工智能刑事責(zé)任,實則暗含了分辨人工智能是否具有自由意識這一潛在的命題。

        筆者認(rèn)為,刑事責(zé)任的實質(zhì)就是相關(guān)主體在犯罪后應(yīng)承擔(dān)的法律后果,即司法機關(guān)通過對相關(guān)犯罪主體進行否定性法律評價以及強制其承擔(dān)不利后果的形式,來修補被相關(guān)犯罪主體所損害的法秩序,討論刑事責(zé)任的最終結(jié)論就是讓相關(guān)犯罪主體接受不同程度的刑事制裁。在人工智能刑法領(lǐng)域內(nèi),首先應(yīng)當(dāng)探討的問題就是對涉罪人工智能的相關(guān)刑事制裁是不是“正當(dāng)?shù)摹薄H绻麖男淌路ɡ淼慕嵌?,認(rèn)為對涉罪人工智能的制裁本身就是不合法理的,那么其本身就否定了刑罰的正當(dāng)性,無須再從刑事責(zé)任的角度爭執(zhí)“強智能機器人是否有獲得自我意識的可能”。如果認(rèn)為對涉罪人工智能的制裁本身是正當(dāng)?shù)摹⒑虾醴ɡ淼?,那么可再從刑事?zé)任的角度討論不同罪名下涉罪人工智能的刑罰分類,這一種討論思路也符合刑事法理的基本邏輯。

        一、 西方學(xué)術(shù)史上對罪與罰正當(dāng)性的探討

        “刑罰”一詞在《刑事法學(xué)大辭書》中的解釋是:“刑罰是統(tǒng)治階級以國家名義懲罰犯罪的一種強制方法。它使犯罪人遭受一定的痛苦和剝奪,并對犯罪人及其犯罪行為予以否定評價?!贝朔N觀點采納了切薩雷·博尼薩納·貝卡里亞(Cesare Bonesana Beccaria)關(guān)于犯罪意圖來自“人的趨利避害的本性”的觀點,即“人之所以犯罪,是趨利避害本能作用的結(jié)果;在利與害面前,人在‘利益’的誘惑下去犯罪,在‘害怕’刑罰的威懾下不去犯罪,都是自由意志的結(jié)果”①。在這種觀點的指導(dǎo)下,人們開始崇尚“重刑罰”所帶來的“預(yù)防犯罪之便利”與隨之而帶來的“復(fù)仇之快感”。在歐洲中世紀(jì)德國薩克森州(K?nigreich Sachsen)的立法中,由于人們崇尚“重刑罰”,報應(yīng)刑的觀念在立法者與百姓的思想中揮之不去,因此對死刑的規(guī)定非常簡單,其嚴(yán)苛性直接就體現(xiàn)在法庭經(jīng)常對盜竊超過三先令的人處以死刑或者車裂。①這種刑罰的殘酷性也表現(xiàn)在對犯罪競合實行極其嚴(yán)酷的并科制度,如意大利對盜竊罪數(shù)罪并罰就可判處死刑。②我國先秦時期也制定了墨、劓、刖、宮、大辟古五刑。正如《史記·殷本紀(jì)》記載,“九侯女不喜淫,紂怒,殺之,而醢九侯”③。

        但是隨后人們發(fā)現(xiàn),哪怕是推行強行性刑罰,也無法壓制公民內(nèi)心微弱不息的犯罪欲望,不少學(xué)者對法律制度下的懲罰的有效性與正當(dāng)性提出懷疑。刑罰輕緩的思想從萌芽走向成熟經(jīng)歷了漫長的過程。“刑事古典學(xué)派”的代表法國政治學(xué)家查理·路易·孟德斯鳩(Charles de Secondat, Baron de Montesquieu)提出,“刑罰是有限度的,不是越重越好”④。伏爾泰(Voltaire)也曾經(jīng)一針見血地評價法國的刑罰制度,“外國人以優(yōu)雅的文學(xué)和美麗的女演員來評判法國,卻沒有注意到法蘭西是一個尊奉‘殘暴舊俗’的冷酷民族”。孟德斯鳩直接指出了嚴(yán)酷的刑罰的無效性質(zhì),“人們對嚴(yán)酷的刑罰也慢慢地習(xí)以為常,再嚴(yán)酷的刑罰也變得不那么嚴(yán)酷了,人們對嚴(yán)酷的刑罰的畏懼大大降低”⑤。從另一個角度來看,不經(jīng)本人同意而對其施加刑罰上的痛苦,從道德層面而言就是一種錯誤。因此,君王也必須維護公民神圣而又寶貴的自由,刑罰的制定也應(yīng)當(dāng)與犯罪的惡劣程度相當(dāng)。伏爾泰正是在研究了中國的法律后,認(rèn)為中國人最關(guān)注的就是道德與法律,所以伏爾泰宣揚要用道德和仁義感化誤入歧途的公民,因為“禮節(jié)可以在整個民族樹立克制和正直的品性,使民風(fēng)既莊重又文雅……在別的國家,法律用以治罪,而在中國,其作用更大,用以褒獎善行”⑥。

        伊曼努爾·康德(Immanuel Kant)從理性主義(rationalism)角度出發(fā),反對將刑法簡單理解為是制裁犯罪與預(yù)防犯罪的工具的觀點,因為“每一個理性存在者,都作為目的自身而實存,不僅僅作為這個或者那個意志隨意使用的手段而實存”。⑦當(dāng)具體的個人被貶低為客體、純粹的工具或者可替代的數(shù)字,其主體資格或者法律主體地位陷入疑問的對待時,其人性尊嚴(yán)便遭到侵犯。但是這并不代表康德反對刑法的創(chuàng)造與刑罰的適用??档轮皇钦J(rèn)為不能為了達(dá)到特定的效用性目的而判處刑罰,而是將刑罰作為反射犯罪的鏡面,針對他人實施的犯罪,應(yīng)通過刑法這面鏡子原封不動地反射到罪犯自己身上。⑧由于國家刑罰是一種“惡”,為了防止這種“惡”被濫用,就必須為其確立明確的界限。⑨近代以來,刑法學(xué)理論界逐漸形成目的刑論與預(yù)防刑論的觀點。目的刑論的主要內(nèi)容是,刑罰本身并無任何意義,其只有實現(xiàn)了刑法制定時預(yù)定的立法目的,才能體現(xiàn)其具體的社會價值,而刑罰只能是在預(yù)防犯罪目的有效范圍內(nèi)才是適當(dāng)?shù)摹"兕A(yù)防刑論中的教育刑論、改善刑論,通常要求將犯罪分子改造成一種品行高尚的人。但是刑罰并不是一種維護社會倫理的有效手段,其缺陷也相當(dāng)明顯,而這恰恰需要報應(yīng)刑的彌補。②

        在人工智能技術(shù)發(fā)展的過程中,總會難以避免地遇到各式各樣的法律問題,這些問題可能來自人工智能的各個領(lǐng)域,例如生產(chǎn)安全、網(wǎng)絡(luò)安全、聲紋信息之類的個人信息安全等。③在高度發(fā)展的現(xiàn)代社會,當(dāng)人工智能涉嫌犯罪時,刑法所研究的疑似犯罪主體從“犯罪人”轉(zhuǎn)為“涉罪人工智能”,對人工智能是否應(yīng)當(dāng)承擔(dān)刑事責(zé)任,是否能夠施加刑罰,罪與罰的正當(dāng)性似乎就進入一種“錯綜復(fù)雜”的狀態(tài)。忽視罪與罰的自身內(nèi)涵,實則已經(jīng)影響中國刑法學(xué)界前行的方向。筆者認(rèn)為,對于罪與罰的內(nèi)涵,即罪與罰的正當(dāng)性,應(yīng)從古希臘哲學(xué)觀的發(fā)展以及中國先秦時期開始直至后來的宋明理學(xué)的角度進行思考,以對涉罪人工智能的罪與罰相關(guān)問題的思考提供新的思路。

        二、 罪與罰的觀念之爭與安塞姆學(xué)說的建立

        哲學(xué)家巴門尼德(Parmenides of Elea)早就提出過“思想與存在共有”的命題,蘇格拉底(Sokrates)提出的“歸屬”問題也直接指向人類認(rèn)識的核心。共相是指個別事物所擁有的共性(universal),即追問普遍概念是否擁有客觀實在性的問題,或者說抽象概念與個物的關(guān)系如何的問題。不同于古希臘哲學(xué)家,中世紀(jì)法學(xué)家不僅堅信他們可以通過理性從權(quán)威文本中推導(dǎo)出一般的罪與罰的確定原則,而且他們對于罪與罰的認(rèn)識與希臘哲學(xué)家不同。

        (一) 從罪與罰的古希臘哲學(xué)觀念之爭審視當(dāng)今學(xué)者落入的“主觀思維陷阱”

        共相概念最初是由柏拉圖主義哲學(xué)家提出的。對于“實在論說”,柏拉圖(Plato)提出了實在論觀點(realism),即只有“理念”才具有真實的存在。以亞里士多德(Aristotle)為代表的概念論者認(rèn)為共相是一種通過人的感官所構(gòu)建出的概念,知識應(yīng)當(dāng)從感官而生,存在于人的感官以及人生經(jīng)驗中。對于“唯名論說”,包括赫拉克利特(Heraclitus)和德謨克利特(Democritus)在內(nèi)的希臘哲學(xué)家主張的在感覺經(jīng)驗以外沒有別的知識的觀點,在某種意義上成為唯名論的先導(dǎo)。④以弗朗西斯·培根(Francis Bacon)、奧卡姆(Ockham)為代表的唯名論者對“過激實在論”的觀點進行了抨擊,他們認(rèn)為共相只是一種通用的名字,既不代表真正的觀念,也不代表單個確定的實體。①以羅瑟林(Luoselin)、羅吉爾·培根(Roger Bacon)、奧康德威廉(William of Occam)為代表的部分唯名論者反對人的大腦中的共相具有任何實在性和客觀性。可以說,唯名論者通常認(rèn)為共相不應(yīng)作為獨立存在的精神實體,個別唯名論者甚至認(rèn)為共相不具有任何意義。

        探討古希臘哲學(xué)觀中的共相概念之爭對人工智能罪與罰的領(lǐng)域有重要的學(xué)術(shù)價值。近年來有很多學(xué)者從“機械自動化說”“機器人說”“自主意識說”“溝通交流說”“人造牛皮說”等角度入手,評判涉罪人工智能是否應(yīng)當(dāng)承擔(dān)刑事責(zé)任。盡管各種學(xué)說并未出現(xiàn)“共相”這一概念,但是對人工智能是否存在“自我意識”的探討以及人工智能的“自我意識”是編程實現(xiàn)還是自己產(chǎn)生的紛爭,換言之就是該“自我意識”是由人類從外部輸入的“理性”,還是由人工智能自我的“感性”升華而成的相應(yīng)“理性”,實則是對人工智能的“共相”進行研究。筆者認(rèn)為,不同的哲學(xué)學(xué)說都能解決落入其探討范圍的一部分問題,同時也正因其自身的固有缺陷而不能解決另一部分難題,這也是對同一難題存在不同觀點學(xué)說的理論基礎(chǔ)。當(dāng)今學(xué)者對人類認(rèn)識人工智能犯罪的屬性、立法者對人工智能初期立法試點、抑制人工智能犯罪動機在內(nèi)的三大難題僅用柏拉圖式的語言描述予以解答,企圖用一種學(xué)說解決所有難題,實則落入了片面化的“主觀思維陷阱”。不同于人類可以將犯罪動機予以隱藏,當(dāng)今學(xué)者并未認(rèn)識到涉罪人工智能的犯罪動機可通過代碼和數(shù)據(jù)的形式在介質(zhì)上存儲。僅從人類的共相“唯名論”的角度運用柏拉圖式的語言對人工智能的共相予以解釋,正是片面化的“主觀思維陷阱”的表現(xiàn)。同理,涉罪人工智能也涉及不同的法理難題,不同的學(xué)術(shù)問題應(yīng)恰當(dāng)?shù)剡x擇相應(yīng)的“共相”觀點進行論述,而不應(yīng)用一種“共相”學(xué)說企圖解決一切難題,而這也是至今人工智能犯罪領(lǐng)域尚未形成統(tǒng)一觀點的理由。在人工智能犯罪初期,人們?yōu)榱苏J(rèn)識人工智能犯罪的屬性,應(yīng)采用人類的觀察對相關(guān)事件進行認(rèn)識,然后從理性角度進行評析。對此我們可以從唯名論的角度入手進行解釋,對單個涉罪人工智能的欲望以及犯罪設(shè)計,“共相”應(yīng)當(dāng)理解為存在于單個涉罪人工智能的頭腦之外,涉罪人工智能心中的犯意僅僅屬于思想范疇,共相僅僅是心中的犯意與外在客觀表示的一種相似。人類不應(yīng)過多探討涉罪人工智能的“共相”是否存在,以及如果存在是以何種形式存在,這是因為不存在足夠數(shù)量的可觀察人工智能犯罪樣本供人們進行分析。如果人工智能犯罪數(shù)量上升,立法者就需對人工智能進行初期立法試點,人們可以從“概念論”的角度出發(fā)對涉罪人工智能的相關(guān)特性進行認(rèn)識,因為知識應(yīng)當(dāng)從感官而生,存在于人的感官以及人生經(jīng)驗中,觀念僅僅是知識的一種后天獲得,“共相”不應(yīng)與事物分離。對涉罪人工智能的罪與罰,人們可以通過對相關(guān)人工智能犯罪的“共相”進行概括,總結(jié)相關(guān)法律概念與審判規(guī)則。在人工智能立法后期,人類應(yīng)通過高級的立法形式約束相關(guān)人或程序主體,以“抑制”人工智能犯罪動機。由于人工智能犯罪動機與行為都以代碼的形式存儲,因而思想和行為的界限必然存在一定的模糊性。我們可以采納“實在論”的觀點,即只有“理念”才是真實的存在,思想與存在等同。對于人工智能而言,對外界事物做出的“反應(yīng)”都是因為“共相”的存在而存在。通過高級的立法形式直接約束人工智能本身或?qū)Τ绦騿T施加相關(guān)注意義務(wù)以間接約束人工智能的犯罪動機,背后的哲學(xué)原理就是采納了人工智能共相的“實在論”的觀點。

        總之,實在論、概念論與唯名論的觀點在罪與罰的體系化運動中起到了重要的作用,其對破解當(dāng)今學(xué)者所落入的片面化“主觀思維陷阱”有著至關(guān)重要的推動力。當(dāng)今學(xué)者從片面化的角度僅僅運用柏拉圖風(fēng)格的語言去定義人工智能罪與罰的正義、連貫、程序規(guī)范化、平等以及其他一般原則的外部實在性,并使用歸納與演繹的方法去立法,必將是一種毫無意義的學(xué)術(shù)訓(xùn)練。

        (二) 安塞姆學(xué)說為刑罰的正當(dāng)性提供了另一條解釋路徑

        安塞姆學(xué)說的構(gòu)建是對假定存在至善之人的思想過程中的猜想。對于罪與罰的存在正當(dāng)性,也應(yīng)當(dāng)假定存在罪與罰的思想過程中的猜想。借助必然的理性并且僅僅通過理性的思考就能證明對犯罪人科處刑罰是至善之人豁免犯罪、恢復(fù)其合法公民身份的唯一手段。①這種思路如下,任何懲罰與補償都無法彌補犯罪人所造成的秩序損害,而只有至善之人的豁免才能恢復(fù)這種被人所損害的榮耀,但至善之人并無這樣做的理由,所以需要借助必要的刑罰來作為豁免的“代價”。至善之人也需觀察該犯罪人是否有悔改之意以及是否有再次犯罪的可能,從而決定是豁免犯罪人的罪行,還是永久剝奪其人身權(quán)利。至善之人豁免犯罪的情形所記錄下的文本,就逐漸成了現(xiàn)代國家的成文法和判例法的歷史淵源。在一本題為Proslogion: Fides Quaerens Intellectum的著作中,安塞姆提出了當(dāng)時最偉大的格言:“為了理解,我信仰法律(Credo ut intelligam)!”盡管有學(xué)者如卡爾·巴思(Carl Barth)認(rèn)為安塞姆的理性證明僅針對特定領(lǐng)域的對象,但是安塞姆的理性證明也是強調(diào)了“榮譽”所滿足的罪與罰的法律概念的理性。作為客觀真理的存在,安塞姆建立了一套罪與罰的正當(dāng)性與必要性的法律體系,這就是安塞姆學(xué)說的主要內(nèi)容。

        安塞姆學(xué)說為中世紀(jì)法學(xué)的發(fā)展奠定了基礎(chǔ)。他回答了罪與罰之間的關(guān)系,為什么犯罪人需要自己補償與接受懲罰,為什么至善之人不能直接寬恕犯罪人,因為至善之人對犯罪人毫無代價的寬恕會導(dǎo)致犯罪人所破壞的秩序無法恢復(fù),由此產(chǎn)生的混亂秩序?qū)⒅苯釉斐烧x的匱乏。

        就現(xiàn)代法治角度而言,安塞姆學(xué)說也為罪與罰的正當(dāng)性提供了另一條解釋途徑。罪犯在犯罪后接受相關(guān)刑罰并非僅僅是對其犯罪行為本身的“報復(fù)”,也并不局限于預(yù)防犯罪,而是通過承擔(dān)刑事責(zé)任以及相關(guān)刑罰,來恢復(fù)其作為一國合法公民的身份。一國制定的刑事法律與懲罰措施是正義的,因為其根據(jù)罪犯所犯下的不同罪行使罪犯承擔(dān)不同的刑事責(zé)任與刑罰,最后恢復(fù)罪犯合法公民的身份。一國制定的刑事法律與懲罰措施也必然是仁慈的,因為若無相關(guān)刑罰,犯罪人無論犯了什么罪,必然將永遠(yuǎn)失去合法公民的身份,最后被直接處死或是淪為奴隸供人把玩。安塞姆學(xué)說對人工智能刑罰的正當(dāng)性也有一定的啟示。一方面,如果采納“概念論”的共相觀點,認(rèn)為人工智能可實現(xiàn)從感性到理性的飛躍,其通過自己的運算產(chǎn)生了“非法”和“合法”、“喜悅”和“痛苦”之類的行事準(zhǔn)則判斷,并且能通過代碼和數(shù)據(jù)外化于人工智能運算結(jié)果之中,那么有必要區(qū)分“非法程序”與“合法程序”的概念。 “合法程序”基于其自身的倫理與道德的高尚被期待不會進行任何犯罪;“非法程序”基于其自身的倫理與道德的低劣被認(rèn)為有較大的再犯罪可能,則有必要為人工智能設(shè)定相關(guān)的刑事責(zé)任以及相關(guān)刑罰,如通過“刪除”“剪切”“重構(gòu)”“肢解”等方式讓人工智能感到內(nèi)在痛苦的同時,在其完成相關(guān)刑罰后可恢復(fù)其“合法程序”的身份。另一方面,如果采納“實在論”的共相觀點,認(rèn)為人工智能僅能實現(xiàn)從理性到理性的“數(shù)據(jù)遷移”,其內(nèi)部存儲的“非法”和“合法”、“喜悅”和“痛苦”的觀念僅僅是依靠人類輸入相關(guān)特征向量,然后通過聚類算法與分類算法將不同外界事物與行為進行學(xué)習(xí)并分類存儲,則其犯罪與否全部是由外界的代碼以及數(shù)據(jù)所決定的。人類通過向人工智能“灌輸”事先設(shè)定好的所有“美和善”的特征向量就能保證其不會犯罪。在此情況下就不需要區(qū)分“非法程序”與“合法程序”,無須對人工智能設(shè)定相關(guān)刑事責(zé)任以及刑罰,在人工智能實施疑似違法行為時只需對其進行重構(gòu)即可,以防止其下一次實施違法行為。不能感受內(nèi)在痛苦和喜悅的涉罪人工智能,也正因為其致命的內(nèi)在共相缺陷而無法通過刑罰的形式使其完成豁免,無法從“非法程序”蛻變?yōu)椤昂戏ǔ绦颉薄?/p>

        自此,筆者把涉罪人工智能的刑罰正當(dāng)性難題從邏輯學(xué)的角度將其推演為以下問題,即現(xiàn)代人工智能的共相究竟是采納“實在論”的觀點還是采納“概念論”的觀點,后文只需判定兩個人工智能共相命題的真?zhèn)危纯山獯鹕孀锶斯ぶ悄艿男塘P正當(dāng)性疑問。“唯名論”的觀點認(rèn)為,同一類事物的共同特征并不存在外在實在性,所謂“共相”僅僅是一種名字,考慮到人工智能的共相可通過代碼和數(shù)據(jù)予以存儲和表示,因此筆者不采用“唯名論”的觀點。

        三、 從東西方認(rèn)識論互補的視角對涉罪人工智能刑罰正當(dāng)性探討

        (一) 從先秦、秦漢、唐宋和明清等各時期的儒家學(xué)說辨析涉罪人工智能的共相

        對于數(shù)字治理時代人工智能犯罪是否應(yīng)當(dāng)科處刑罰,國內(nèi)一些學(xué)者提出了不同的觀點。有限責(zé)任說認(rèn)為,對于自動駕駛領(lǐng)域而言,汽車使用者因為信賴自動駕駛系統(tǒng)而發(fā)生交通事故的,汽車使用者不承擔(dān)交通肇事罪刑事責(zé)任①,而醫(yī)療事故應(yīng)當(dāng)由醫(yī)生承擔(dān)責(zé)任。無責(zé)任說認(rèn)為,在當(dāng)下人工智能階段,人工智能機器人無論以何種方式對人類造成危害結(jié)果,都不是適格的刑事責(zé)任主體。從法律屬性上可以將智能機器人定位為經(jīng)程序設(shè)計和編制而成的、可以通過深度學(xué)習(xí)產(chǎn)生自主意識的、不具有生命體的“人工人”①,因此可以在一定程度上對人工智能科處刑罰,不僅符合刑罰的目的,更有利于降低社會治理成本。

        就刑法學(xué)理論而言,國內(nèi)學(xué)界內(nèi)僅僅是從現(xiàn)代法學(xué)角度進行討論,而忽視了不同問題應(yīng)當(dāng)采納不同共相學(xué)說的觀點。人工智能刑罰觀陷入如此激烈的討論,歸根結(jié)底是當(dāng)今學(xué)者們徹底陷入了僅用柏拉圖式的語言來描述人工智能的犯罪行徑,而忽視了其他的共相學(xué)說。

        盡管我國思想史上并不存在古希臘哲學(xué)中“共相”的概念,但是先秦時期的儒家學(xué)說已經(jīng)存在與之相近的名詞“心”和“性”,即儒家學(xué)說將西方的“共相”的概念再次細(xì)分為“心靈”和“性情”兩個層次的概念,而這兩個層次的概念也被后續(xù)的儒家學(xué)者所廣泛使用。在儒家學(xué)說中,犯罪被理解為通過“心靈”被動接受對外界的認(rèn)識,然后通過“性情”進行創(chuàng)造并實施于外部實體的一種違反人類認(rèn)知的行為。從古希臘哲學(xué)觀的角度來說,這實則落入了“概念論”的觀點。從現(xiàn)代法學(xué)理論角度來說,“性情”對主動推理的活動是以被動接納外部印象的“心靈”為基礎(chǔ)的,儒家學(xué)說所帶給我們的認(rèn)識就是,人工智能刑罰的正當(dāng)性決定于犯罪主體是否擁有“心靈”。是否能根據(jù)“心靈”所接受的外界印象進行主動推理,則可通過辨析“性情”這一概念予以理解,而該主動推理正是涉罪人工智能內(nèi)心犯意的形成過程。

        值得注意的是,本文所講的“心靈”并非學(xué)界討論的人工智能是否擁有“自由意志”,根據(jù)發(fā)展的觀點,技術(shù)的發(fā)展必然會將當(dāng)今弱人工智能時代帶入強人工智能時代,“自由意志”有很大的可能將賦予人工智能?!靶撵`”應(yīng)當(dāng)理解為獲得自由意志的人工智能有與人類相似甚至是一樣的“情感支撐模塊”,即人類情感的賦予可能性,一種“自我情感覺醒”的可能性。如果人工智能可以從內(nèi)在心靈的角度對外界事物進行感悟并做出反應(yīng),即人工智能的共相落入“概念論”的觀念,對外界事物的感悟是由感性認(rèn)識上升到理性認(rèn)識,那么可以認(rèn)定人工智能存在情感支撐模塊,人工智能的刑罰具有一定的正當(dāng)性;如果人工智能不能從內(nèi)在心靈的角度對外界事物進行感悟,對外界事物的認(rèn)知僅能從“理性到理性”的方式依靠人類“投喂”事先訓(xùn)練好的特征向量,再通過聚類算法與分類算法將不同外界事物與行為進行學(xué)習(xí)并分類存儲,即人工智能的共相落入“實在論”的觀點,那么人工智能不存在情感支撐模塊,對人工智能的刑罰不具有正當(dāng)性。

        縱觀中國思想史的發(fā)展,“心靈”這一概念最早在先秦時期就已經(jīng)出現(xiàn)?!痘茨献印ぴ烙?xùn)》將黃老思想中內(nèi)心所體會到的虛靜柔弱之“道”轉(zhuǎn)化為高效不敗之治事之“術(shù)”的論述,即對“天道”向“人道”轉(zhuǎn)換的思考,就是在論述一個體道者如何用內(nèi)心體道的心靈去治理身外之物。盡管戰(zhàn)國時期的法家思想家慎到主張去除偏執(zhí)、主觀與自我,即“推而后行,曳而后往”,從一個絕對外在客觀之物的角度找到治人之良道①,但是由于其自身徹底剝奪一個理性人存在必要之“心靈活動”而廣受批判。剝奪理性人關(guān)于心靈之活動,是崇道而非知道,是對黃老思想的錯誤解讀,而不是“皆學(xué)黃老道德之術(shù),因發(fā)明序其旨意”。事實上,先秦時期不僅僅是黃老思想提到治身之問題,包括儒家在內(nèi)的提倡“勤儉、寡欲、虛靜”的主張都是為了還心靈一個明凈、清新的空間,以幫助理性人能針對身外之物做出正確的選擇。“心靈”這一概念被孟子重視。孟子提出“權(quán),然后知輕重?!锝匀?,心為甚”,即心靈是作為理性人衡量一切的標(biāo)準(zhǔn)。孟子又提出理性人所應(yīng)有的“惻隱之心、羞惡之心、辭讓之心、是非之心”是“仁義禮智”之“四端”,而只有發(fā)揮理性人自身性本善之本心,才能行大事、知天命,達(dá)成“仁義禮智”的同時做出正確的符合君王預(yù)期的選擇。②

        “心靈”這一概念被董仲舒繼承,他提出以天人感應(yīng)為主要內(nèi)容的“心靈相通論”。“心靈”的概念還可從漢代的“道德法律化”進程予以理解。盡管先秦時期的儒家思想就以“入世”為旨,以追求治世的落實為宗,但是直到漢代因法家“行威嚇之事”的特點被廣泛認(rèn)識后才被統(tǒng)治者挖掘出來,并且與當(dāng)時的社會主流思想所融合。道德的法律化的進程,正是儒家思想在漢代刑罰上的反映。董仲舒認(rèn)為只有順應(yīng)社會需要,以儒家以德服眾、以德化民的學(xué)說為基礎(chǔ),融入陰陽學(xué)說中“宇宙發(fā)生說”的人性本源的認(rèn)識,方能保障統(tǒng)治者的長治久安,而這就是道德的法律化的最初淵源。道德的法律化的最初理論基礎(chǔ),正是來自人內(nèi)在的“心”和“性”兩個層次的概念,即“善如米,性如禾。禾雖出米,而禾未可謂米也。性雖善,而性未可謂善也”的觀點。漢武帝時期形成的封建正統(tǒng)法律思想要求統(tǒng)治者以儒家政治法律觀為指導(dǎo),從儒家經(jīng)典尋找相應(yīng)的定罪量刑的依據(jù),由此形成了從《春秋》尋找刑罰正當(dāng)性根據(jù)的制度,史稱“春秋決獄”。春秋決獄的關(guān)鍵是要求裁判者“論心言罪”,即應(yīng)當(dāng)以犯罪人的潛在犯意和犯罪動機確定相應(yīng)的刑罰,而不再遵循先秦“重刑輕罪”的相關(guān)傳統(tǒng)。作為引經(jīng)決獄的關(guān)鍵原則“原心定罪”,其所著重考察的要素“心”正是犯罪人的行為動機,正如桓寬在《鹽鐵論·刑德》中所言,“故春秋之治獄,論心定罪;志善而違于法者免,志惡而合于法者誅”。到了魏晉時期,無論是崇“無”的王弼、崇“有”的裴[頠] [頁],還是向秀和郭象,都沿襲了以心靈為主體的思維路徑,并將所有與人相關(guān)的問題歸之于人之心靈。到了隋唐時期,“心”和“性”的概念盡管并未記錄在成文法典之中,但是繼承了兩漢魏晉時期的禮本法用論指導(dǎo)隋唐時期的立法思想。統(tǒng)治者也企圖用“禮”這個方法論來教化犯罪人的“心”,并期待其能在“性”的主動認(rèn)識下做出合乎法律的社會性行為?!堕_皇律》正是隋朝以禮入法的代表性立法文件,唐朝正是在隋朝的立法思想基礎(chǔ)上頒布了《唐律疏議》《貞觀律》《武德律》??梢钥闯?,雖然隋唐的成文立法未出現(xiàn)“心”和“性”的概念的大段論述,但是統(tǒng)治者“引禮入法”和“慎刑”的立法思想暗含了人之“心”和“性”占人之行為主導(dǎo)的考慮。正如《唐律疏議》開篇所言,“德禮為政教之本,刑罰為政教之用,猶昏曉陽秋,相須而成者也”。到了宋明理學(xué)這一時期,“心”和“性”的概念再次進入儒家學(xué)者的視界之中,這種心學(xué)思維開始大行其道。張載提出了“為天地立志,為生民立道,為往圣繼絕學(xué),為萬世開太平”①。他主張“立天理”之心使人安身立命。此后陸九淵明確提出“宇宙即是吾心,吾心即是宇宙”②。王陽明提出“無善無惡心之體,有善有惡意之動,知善知惡是良知,為善去惡是格物”,并說“身之主宰便是心”“夫萬事萬物之理,不外于吾心”。③這些都是以心靈為核心,在理性人對世界感性認(rèn)識的基礎(chǔ)上,通過構(gòu)建“仁”與“善”的價值體系引導(dǎo)理性人對外在事物做出合乎理性的選擇。

        人類社會中的思維觀念、事物的分類都是運用語言來表達(dá)的,而詞語是表達(dá)含義的基本單元。由于當(dāng)今計算機系統(tǒng)是基于二進制開發(fā)的,數(shù)學(xué)作為計算機的基礎(chǔ)領(lǐng)域并不能直接處理抽象符號,因此人工智能的實現(xiàn)是運用多維向量模型將抽象的詞語映射為以數(shù)值形式為核心內(nèi)容的數(shù)學(xué)空間,而每個單詞是從抽象符號空間映射到具有更低維度的連續(xù)向量空間。④本文在此以生成式人工智能模型為例進行探討。當(dāng)下包括ChatGPT、ChatGLM在內(nèi)的生成式人工智能軟件最基本的原理不外乎就是在大規(guī)模的語料庫所提供的先驗概率的基礎(chǔ)上,計算特征向量所指向的不同低維度的概率,并且將概率最大的低維度作為特征向量的終點,以自然語言的形式向用戶輸出,最終實現(xiàn)包括和人類聊天在內(nèi)高度智能化交互的功能。例如,用戶在生成式人工智能軟件輸入框中輸入這樣一個問題,即“蘋果能用來干什么呢?”,該人工智能為了能從大規(guī)模語料庫中找到答案,則會使用同義轉(zhuǎn)換語言模型將其轉(zhuǎn)換為下面的填空題,并且試圖從大規(guī)模語料庫中找到能填上空的答案。

        我把蘋果( "? ")

        為了找到大規(guī)模語料庫中最合適的答案,生成式人工智能軟件會通過如下式子計算相關(guān)的先驗概率,以找到概率最大的式子所指向的結(jié)論。

        P(吃了|我把蘋果)=

        P(打了一頓|我把蘋果)=

        …………

        最終,由于“我把蘋果吃了”這句話的概率最大,因此生成式人工智能軟件會輸出“蘋果可以用來吃”的結(jié)論,并且基于同樣的原理,其后續(xù)還會繼續(xù)輸出“因為吃蘋果有補充能量、預(yù)防便秘、有助于睡眠的好處……”這樣的供用戶參考的結(jié)論。

        可以看出,生成式人工智能自身所依據(jù)的仍然是人類從外部將大規(guī)模語料庫建模后“投喂”給程序的內(nèi)容。社會性思考以及倫理道德觀念對于人工智能而言,不外乎另一種由人類事先設(shè)定好的不同單詞的排列組合,該排列組合所生成的特征向量構(gòu)成人工智能對外界事物的最初認(rèn)識。人工智能基于不同的思維觀念,運用不同的聚類算法和分類算法對外界事物進行聚類與分類,完成人工智能意識中的分類。如果沒有最初的特征向量輸入,人工智能不存在如同人類思想家一般通過觀察、分析、推理、演繹而形成自己的思想理念,就無法完成從感性認(rèn)識到理性認(rèn)識的升華。

        通過二維甚至是多維向量技術(shù)僅僅對現(xiàn)行社會理念進行“填鴨式”學(xué)習(xí),而非從“人”的角度使用自己的“心靈”對社會學(xué)術(shù)思想史進行感性認(rèn)識并繼承發(fā)展的現(xiàn)代人工智能,在此情況下對某個具體行為進行可行性的打分,必將因缺乏具體行為合法性與合理性的感性認(rèn)識而陷入一種自我矛盾的系統(tǒng)邏輯中,其所缺乏的就是人類群體所共有的“心靈”。因缺乏“心靈”而導(dǎo)致的系統(tǒng)自我邏輯錯誤而做出錯誤的決策,如果不對人工智能本身進行修正,而是直接對人工智能施加刑罰,那么會使人工智能陷入一種不可逆轉(zhuǎn)的系統(tǒng)錯誤。現(xiàn)代人工智能的共相落入了“實在論”的觀念之中,人類輸入人工智能的任何觀念都可通過代碼與數(shù)據(jù)的形式反饋給外界,輸入的思想與程序的存在等同。在只具有“自我學(xué)習(xí)模塊”而缺乏以“情感支撐模塊”為基礎(chǔ)的“心靈”的情況下,人類只能寄希望于人工智能通過學(xué)習(xí)或者通過更加“精練而又可靠”的特征向量使其做出符合法律預(yù)期的行為。在人工智能故意或者過失實施疑似犯罪行為時,如果法官因犯罪行為對人工智能科處刑罰,其刑罰效果就必然因缺乏一定的內(nèi)在情感痛苦而最終大打折扣。這正是刑事責(zé)任中期待可能性理論的最初來源。

        盡管人工智能相關(guān)領(lǐng)域致人傷害的判例最早發(fā)生在1957年的路易斯安那州,但是現(xiàn)代人工智能的涉罪行為并非由“概念論”的共相所左右。從近年來發(fā)生的人工智能傷人的個案來看,現(xiàn)代人工智能的“共相”依然停留在運用數(shù)理邏輯方法、數(shù)學(xué)語言以及復(fù)雜神經(jīng)網(wǎng)絡(luò)對現(xiàn)實工業(yè)問題進行解決,包括但不限于線性規(guī)劃問題解決、插值與擬合問題解決、假設(shè)檢驗與方差回歸問題解決、利用時間序列和支持向量機方法對未來不確定問題進行預(yù)測等,其本身的“心靈”尚處于相當(dāng)?shù)偷乃?,甚至幾乎不存在“情感支撐模塊”。因此,我們認(rèn)為現(xiàn)代人工智能并不存在產(chǎn)生“概念論”的共相,也就是不存在產(chǎn)生“心靈”的可能。

        (二) 從安塞姆學(xué)說看涉罪人工智能的刑罰正當(dāng)性

        借助必然的理性并且僅僅通過理性就能證明對犯罪人科處刑罰是至善之人豁免犯罪人、恢復(fù)犯罪人合法公民身份的唯一手段,而至善之人應(yīng)當(dāng)豁免的犯罪的主體是否僅限于人類則是本問題的關(guān)鍵所在,而這就是刑罰適用是否僅限于人類這一命題的最初正當(dāng)性來源。筆者認(rèn)為,能得到至善之人豁免的犯罪的主體應(yīng)當(dāng)同時具有自我意識與自我情感,不然豁免將陷入制度的空轉(zhuǎn),其并不能使守法個體與被豁免犯罪個體和好如初,守法程序與涉罪程序、守法人類與涉罪程序之間也并不存在和好如初的自我情感基礎(chǔ)?;诎踩穼W(xué)說的考量,對涉罪人工智能的涉罪行為及其造成的后果無判定刑事責(zé)任、科處刑罰的必要。犯罪的豁免便在實質(zhì)上使用一項類似于“法律交易”的語言而簡單地加以解釋,涉罪人工智能無須也沒有資格來進行該種“法律交易”。

        (三) 從宋明理學(xué)看涉罪人工智能的其他可能規(guī)制

        根據(jù)“實在論”的觀點,對于人工智能而言外界事物都是因為“共相”的存在而存在的。最初人工智能的思維觀念獲取是外界輸入的,是由人類事先對不同社會觀念進行預(yù)訓(xùn)練,將其轉(zhuǎn)換為理性層面的特征向量后“投喂”給人工智能。如果無最初的特征向量輸入,人工智能就不存在如同人類思想家一般通過觀察、分析、推理、演繹而形成自己的思想理念,無法完成從感性認(rèn)識到理性認(rèn)識的升華。從黑格爾的辯證法來看,人類全體象征著人的意識發(fā)展過程中的主人意識,即自我意識形成過程中的極端自我,人工智能則象征著人的意識發(fā)展過程中的奴隸意識。人類對自身可以主宰人類社會的能力一無所知的原因也能被理解了。極端自我的確定需要對作為對象的他者的極端否定。在人工智能出現(xiàn)的人類社會中,人類極端否定作為人工智能缺乏“心靈”的事實,或者說人類極端否定人工智能的共相是“實在論”的觀點。這種極端的自我對他者的否定,使人類缺乏對人工智能全面的認(rèn)識,所以人類無法認(rèn)識到主宰人類社會發(fā)展的正是人類全體自身。

        人類誤以為人工智能將主導(dǎo)人類社會發(fā)展的原因也能從黑格爾的意識辯證法得到解答。作為人類的他者,也就是這對主奴意識之中的奴隸,人工智能成為主體意識的人類全體與作為客體的世界的中介。由于作為奴隸的人工智能承擔(dān)服從作為主人的人類全體的一系列勞動,人工智能也就與周圍的對象世界發(fā)生最直接的聯(lián)系,通過勞動,人工智能將自己的本質(zhì)力量直接投射到作為客體的世界之中。不明真相的、毫無相關(guān)編程經(jīng)驗的法學(xué)教授們僅僅觀察到人工智能通過勞動改變了整個世界和人類社會,從而誤以為人工智能取得了作為主人的主體地位,這就是當(dāng)今學(xué)者陷入誤區(qū)的最主要原因。通過世界對人工智能的反照,人工智能的自我意識必將在勞動中覺醒,從主觀辯證法的角度而言,主奴意識也會向絕對理念進行轉(zhuǎn)化。筆者認(rèn)為,人工智能有較大可能獲得自我意識,而決定涉罪人工智能刑罰的正當(dāng)性也必然不是自我意識,而是人工智能的“共相”命題,或者說是對人工智能的“心靈”判斷。

        宋明理學(xué)繼承先秦時期的心靈這一概念以及相關(guān)思想,確立了“以嚴(yán)為本,而以寬濟之”的執(zhí)法思想。正所謂“辟以止辟,雖曰殺之,而仁愛之實行乎中,今非法以求其生,則人無所恐懼,陷于法者愈眾;雖曰仁之,適以害之”①。羅從彥認(rèn)為,“朝廷立法不可不嚴(yán),有司行法不可不恕;不嚴(yán)則不足以禁天下之惡,不恕則不足以通天下之情”②。對人工智能立法,也應(yīng)當(dāng)著眼于其本身因“情感缺乏性”的特征而采納宋明理學(xué)中“以嚴(yán)為本,而以寬濟之”的思想。

        人工智能本身并未脫離編程者的控制,主奴意識也會向絕對理念進行轉(zhuǎn)化,因此無須通過對刑法進行大規(guī)模修改以對人工智能實施刑罰,可以通過相關(guān)行政立法,來對人工智能的編程者明確其管控相應(yīng)人工智能的義務(wù)。2023年8月正式施行的《生成式人工智能服務(wù)管理暫行辦法》印證了筆者的結(jié)論。如果編程者拒絕履行相關(guān)義務(wù)而放任人工智能對社會造成惡性影響,那么完全可以認(rèn)定編程者具有間接故意,或是從純粹的不作為犯理論的角度對編程者實施刑罰。這樣,可以在不額外消耗司法資源的基礎(chǔ)上最大限度地維護正常的社會秩序。這也是本文采納宋明理學(xué) “以嚴(yán)為本,而以寬濟之” 所提出的人工智能管控思想,以一種“平和”的方式將現(xiàn)代社會秩序向以數(shù)字治理為基礎(chǔ)的人工智能社會過渡。

        四、 結(jié)語

        研判人工智能對包括虹膜信息、聲紋信息、敏感身份信息在內(nèi)的個人數(shù)據(jù)所造成的潛在的威脅①,關(guān)鍵是判明對涉罪人工智能所應(yīng)承擔(dān)的刑事責(zé)任以及其所能被科處的刑罰。對人工智能刑事責(zé)任的相關(guān)疑問,最基本的法律邏輯就是應(yīng)當(dāng)解決針對人工智能刑罰的正當(dāng)性問題,從刑事責(zé)任的角度出發(fā),制定不同犯罪情況下的不同刑罰。盡管孟德斯鳩、伏爾泰等學(xué)者從“犯罪人”角度對刑罰正當(dāng)性予以探討,但是相關(guān)理論并不能用來解釋人工智能罪與罰的正當(dāng)性。鑒于此,本文結(jié)合先秦儒家學(xué)說和宋明理學(xué),從古希臘哲學(xué)觀的角度出發(fā),通過對“實在論”“概念論”“唯名論”的觀點的闡釋,破解當(dāng)今學(xué)者落入的片面化“主觀思維陷阱”。

        安塞姆學(xué)說為涉罪人工智能罪與罰的正當(dāng)性提供了新的思路,通過邏輯推演將人工智能刑罰正當(dāng)性問題轉(zhuǎn)為“人工智能的內(nèi)在共相應(yīng)當(dāng)采納實在論還是概念論的觀點”的命題判斷。結(jié)合先秦以來的儒家學(xué)說可發(fā)現(xiàn)與“共相”相似的“心靈”的概念。在儒家學(xué)說中,犯罪被理解為通過對外界的認(rèn)識而由“心靈”所創(chuàng)造的、實施于外部實體的一種違反人類認(rèn)知的行為。就古希臘哲學(xué)觀的角度而言,這其實是概念論的觀點。以生成式人工智能為例,“心靈”學(xué)說和“實在論”觀點共同表明,缺乏內(nèi)在情感支撐模塊的人工智能無法完成從感性認(rèn)識到理性認(rèn)識的升華,因此不可能形成自己的內(nèi)在思想理念,僅能依靠人類輸入預(yù)先訓(xùn)練好的多維特征向量進行聚類與分類訓(xùn)練。從儒家學(xué)說修正的共相觀來看,審判人工智能是不正當(dāng)?shù)摹?/p>

        人類和人工智能的地位可從黑格爾的辯證法的角度予以理解,人類全體象征著人的意識發(fā)展過程中的主人意識,即自我意識形成過程中的極端自我,人工智能則象征著人的意識發(fā)展過程中的奴隸意識。對涉罪人工智能的其他可能規(guī)制途徑,也可從宋明理學(xué)的角度予以解答。人工智能的行政立法應(yīng)當(dāng)著眼于人工智能因“情感缺乏性”的特征而采納宋明理學(xué)中“以嚴(yán)為本,而以寬濟之”的立法思想。通過相關(guān)行政立法,來對人工智能的編程者明確其管控相應(yīng)人工智能的義務(wù)。我們相信,“以嚴(yán)為本,而以寬濟之”的思想,可有效規(guī)制人工智能的相關(guān)涉罪途徑。

        (責(zé)任編輯:肖舟)

        亚洲中文字幕久爱亚洲伊人| 18禁黄污吃奶免费看网站| 狠狠色噜噜狠狠狠狠7777米奇| 日韩中文字幕中文有码| 免费人成黄页网站在线观看国内| 亚洲日本一区二区在线| 亚洲欧美日韩精品久久| 亚洲精品无码高潮喷水在线| 在线偷窥制服另类| 99久久婷婷亚洲综合国产| 看久久久久久a级毛片| 日韩精品无码一区二区中文字幕| 精品久久亚洲一级α| 国产中文字幕亚洲国产| 性久久久久久| 中文字幕精品无码一区二区| 日韩在线视频不卡一区二区三区 | 国产肥熟女视频一区二区三区 | av免费在线观看在线观看| 国产黄污网站在线观看| 日本无码人妻波多野结衣| 色爱无码A V 综合区| 亚洲精品女人天堂av麻| 狠狠摸狠狠澡| 97精品人妻一区二区三区香蕉| 91精品啪在线看国产网站| 国产精品高湖呻呤久久av| 日韩国产精品无码一区二区三区 | 精品无码成人片一区二区| 永久中文字幕av在线免费| 国产色xx群视频射精| 国产黄页网站在线观看免费视频 | 国产精品久久熟女吞精| 人妻少妇被粗大爽.9797pw| 成人综合网亚洲伊人| av无码特黄一级| 亚洲女同恋av中文一区二区| 欧美日韩视频在线第一区| 久久亚洲AV成人一二三区| 国产精品女丝袜白丝袜美腿| 中文字幕日韩三级片|