亚洲免费av电影一区二区三区,日韩爱爱视频,51精品视频一区二区三区,91视频爱爱,日韩欧美在线播放视频,中文字幕少妇AV,亚洲电影中文字幕,久久久久亚洲av成人网址,久久综合视频网站,国产在线不卡免费播放

        ?

        美國智庫對人工智能影響國際關(guān)系的觀點與啟示

        2025-03-06 00:00:00汪遒李國強
        智庫理論與實踐 2025年1期
        關(guān)鍵詞:人工智能

        摘要:[目的/意義]分析美國智庫對人工智能影響國際關(guān)系的研究觀點,有助于把握美國政府對華科技博弈戰(zhàn)略及走向,為中國發(fā)展人工智能、提升人工智能全球治理話語權(quán)提供支持。[方法/過程]本文以國際關(guān)系領(lǐng)域影響力、人工智能與跨學科研究能力和政治立場為標準,選取10家美國樣本智庫,梳理其研究成果,分析其對人工智能影響國際關(guān)系及維持美國人工智能領(lǐng)先地位的主要觀點,從中得出對中國的啟示。[結(jié)果/結(jié)論]美國智庫對人工智能影響國際關(guān)系的研究涉及人工智能對未來地緣政治形態(tài)的塑造、人工智能將成為大國競爭的關(guān)鍵要素、人工智能影響國際安全形態(tài)和人工智能全球治理挑戰(zhàn)等多個議題,并突出較強的競爭色彩,凸顯了美國在人工智能時代護持技術(shù)和話語霸權(quán)的謀劃。對此,中國智庫應(yīng)采取加強與各方互動、瞄準前瞻性研究、提升人工智能領(lǐng)域交流對話等舉措。

        關(guān)鍵詞:美國智庫" " 人工智能" " 國際關(guān)系" " 中美關(guān)系

        分類號:D81

        DOI: 10.19318/j.cnki.issn.2096-1634.2025.01.02

        1" 引言

        人工智能(artificial intelligence,AI)作為一種“顛覆性”和“革命性”技術(shù),正逐漸成為提升國家國防實力的重要途徑,在感知與信息處理、指揮決策、無人系統(tǒng)等軍事領(lǐng)域發(fā)揮越來越重要的作用,直接影響國家安全戰(zhàn)略的判斷(diagnosis)、決策(decision-making)及評估(assessment),從而對國家安全產(chǎn)生重要甚至決定性的影響[1]。

        隨著美國特朗普政府和拜登政府自2018年起先后成立人工智能特別委員會(Select Committee on Artificial Intelligence)、人工智能國家安全委員會(The National Security Commission on Artificial Intelligence)、聯(lián)合人工智能中心(Joint Artificial Intelligence Center)以及人工智能安全中心(AI Security Center)等機構(gòu),美國開始從戰(zhàn)略高度思考人工智能對國家安全、國際關(guān)系等領(lǐng)域可能帶來的影響。

        在美國人工智能戰(zhàn)略的形成過程中,智庫發(fā)揮了知識供給、決策咨詢、議程設(shè)置和輿論引導等關(guān)鍵作用。在世界進入動蕩變革期、中美戰(zhàn)略競爭將長期存在等背景下,厘清并分析美國主流智庫對人工智能影響國際關(guān)系的研究觀點,不僅有助于中國研判美國人工智能時代下的對外戰(zhàn)略走向,而且對中國推進人工智能與國際關(guān)系的跨學科研究,在中美人工智能競爭中保持“以我為主”的定位并不斷追趕超越,具有啟發(fā)意義。

        由此,本文意圖重點回答以下問題:當前美國主流智庫如何評估人工智能對國際關(guān)系演進的影響?圍繞美國如何適應(yīng)人工智能時代下的大國競爭,美國主流智庫提出了哪些政策建議?

        2" 智庫樣本選擇

        本文對智庫樣本的選擇基于如下3個標準。首先,在外交政策、國際安全、國際事務(wù)等研究領(lǐng)域,選取實力位居全球前列的美國智庫,尤其是關(guān)注與美國政策界具有較為密切互動關(guān)系的智庫。其次,考慮到本文考察的人工智能議題具有高度專業(yè)性和學科復雜性[2],在選取智庫樣本時,應(yīng)考慮到各家智庫在科技政策、人工智能與跨學科研究等領(lǐng)域的能力和專業(yè)特色,并且樣本智庫應(yīng)具有較為豐富的研究成果。最后,在選擇樣本智庫時,還應(yīng)考慮智庫在政治立場上的差異,并在選擇中注意平衡保守派、自由派和中立智庫的數(shù)目。

        綜合上述3個標準,本文選取了布魯金斯學會(Brookings Institution)、卡內(nèi)基國際和平基金會(Carnegie Endowment for International Peace)、戰(zhàn)略與國際研究中心(Center for Strategic and International Studies)、威爾遜中心(Wilson Center)、蘭德公司(RAND Corporation)、大西洋理事會(Atlantic Council)、貝爾弗科學與國際事務(wù)研究中心(Belfer Center for Science and International Affairs)、安全與新興技術(shù)中心(Center for Security and Emerging Technology)、紐約大學人工智能智庫(AI Now)、新美國安全中心(Center for a New American Security)作為信息獲取的樣本智庫。

        首先,所選取的智庫均具有較大的影響力。根據(jù)美國賓夕法尼亞大學“智庫和公民社會項目”(The Think Tanks and Civil Societies Program,TTCSP)發(fā)布的《全球智庫報告2020》(2020 Global Go to Think Tank Index Report),布魯金斯學會、卡內(nèi)基國際和平基金會、戰(zhàn)略與國際研究中心、威爾遜中心、蘭德公司和大西洋理事會進入全球外交政策與國際事務(wù)研究領(lǐng)域的前十名智庫榜單;蘭德公司躋身全球科技政策研究領(lǐng)域智庫前十榜單。此外,該報告還對從事人工智能政策與戰(zhàn)略研究的全球各智庫進行排名,其中布魯金斯學會、貝爾弗科學與國際事務(wù)研究中心、安全與新興技術(shù)中心、紐約大學人工智能智庫和威爾遜中心進入前十榜單(見表1)[3]。同時,本文所選取的智庫與美國政策界均保持著較為密切的互動。例如,布魯金斯學會就與美國政府長期保持密切關(guān)系,美國很多重要政策的制定、實施和評估,都參考了布魯金斯學會提供的參考資料[4]。

        其次,上述智庫在開展研究時的政治立場不盡相同。例如,卡內(nèi)基國際和平基金會、蘭德公司、戰(zhàn)略與國際研究中心、威爾遜中心以及成立時間較短的新美國安全中心等智庫均不與特定的政黨立場綁定。這些智庫中存在著一些研究領(lǐng)域較為全面的大型智庫,中立或不明顯的政治主張較有利于其廣泛地開展政策建議或游說工作。布魯金斯學會一般被認為是政治立場傾向中立的智庫,但從其近年來的研究成果以及其研究人員的背景來看,該智庫已偏向中左的政治立場[5]。大西洋理事會則屬于保守派陣營智庫。所選智庫政治立場的多樣化為本文更全面地把握美國智庫在相關(guān)問題上的研究面貌,理解其觀點的背后邏輯,提供了條件。

        需要指出的是,2022年11月,ChatGPT的正式發(fā)布標志著依靠算法和數(shù)據(jù)模仿人類智能的狹義人工智能技術(shù)向生成式人工智能的轉(zhuǎn)變[6]。自此,有關(guān)人工智能影響國際關(guān)系的討論逐漸增多。因此,本文主要以上述智庫及其研究人員2023年后發(fā)布的研究成果為素材,從中梳理智庫觀點。

        3" 美國智庫對人工智能影響國際關(guān)系的主要觀點梳理

        當前,美國智庫界普遍認識到人工智能已經(jīng)并將持續(xù)對國際關(guān)系產(chǎn)生持久且深刻的影響。這些影響包括人工智能將深刻塑造未來地緣政治形態(tài)、人工智能將成為大國競爭的關(guān)鍵要素、人工智能將影響國際安全形態(tài)以及人工智能全球治理面臨挑戰(zhàn)等方面。

        3.1" 人工智能將深刻塑造未來地緣政治形態(tài)

        當前,新一輪科技革命和產(chǎn)業(yè)變革深入發(fā)展。人工智能則是引領(lǐng)這一輪科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術(shù),具有溢出帶動性很強的“頭雁”效應(yīng)[7],其對地緣政治的影響也將遠超以往。蘭德公司研究認為,隨著科技的不斷發(fā)展,未來人工智能機器將作為一個行為體(actor)而非要素(factor)進入地緣政治互動中。這無疑將增加政治世界的復雜性。一方面,人工智能機器可能具有與人類相當乃至更高的智力,重大的科學發(fā)現(xiàn)將以人類可能無法理解的方式出現(xiàn);另一方面,人類目前仍無法理解人工智能的決策過程,對輸入人工智能系統(tǒng)的指令所能產(chǎn)生的二階和三階效應(yīng)了解有限,這使人工智能機器運行的動機和目的可能與人類的意圖大相徑庭,并潛藏著極強的破壞性。在這樣一個時代,人類對自身的認識以及人類對自己在世界中的定位都將隨之發(fā)生重要變化[8]。有美國智庫學者甚至表示,人類的“滅絕問題”值得被認真對待[9]。

        3.2" 人工智能將成為大國競爭的關(guān)鍵要素

        科技進步往往能夠帶來一國生產(chǎn)力的極大解放,包括產(chǎn)業(yè)結(jié)構(gòu)的升級和軍事能力的提升,進而帶來地緣政治變化。2024年1月,戰(zhàn)略與國際研究中心組織了題為“人工智能時代的全球技術(shù)競爭”的對話。美國共和黨參議員托德·揚(Todd Young)在參與對話時表示[10],歷史上不同國家和地區(qū)的不同增長率以及不同的技術(shù)發(fā)展速度,導致了國家之間差異化的軍事能力和開展軍事行動時的成功率??梢哉f,大國競爭的核心便是科技競爭[11]。威爾遜中心發(fā)布的《創(chuàng)新競賽:中美科技競爭與量子革命》(The innovation race: US-China science and technology competition and the quantum revolution)報告認為[12],中美科技競爭事實上也是兩種相互沖突的體制之間爭奪優(yōu)勢的競爭。

        從更為迫近的當下著眼,世界各國的興衰取決于各國如何利用和管理人工智能的發(fā)展。由此,美國智庫高度關(guān)注世界其他國家和地區(qū)在人工智能發(fā)展領(lǐng)域的最新動向,并對其發(fā)展特點和可能走向做出評估。研究成果既包括對世界主要國家和地區(qū)人工智能產(chǎn)業(yè)政策和發(fā)展情況的調(diào)查分析[13],也包括對不同地區(qū)和國家對人工智能技術(shù)的監(jiān)管進程[14]以及參與全球治理情況的跟蹤[15]。

        在美國智庫跟蹤分析的諸多國家和地區(qū)中,中國和俄羅斯是重點關(guān)注對象。其中,對俄羅斯的分析側(cè)重人工智能技術(shù)在軍事安全領(lǐng)域的應(yīng)用,并在2022年“俄烏沖突”后呈現(xiàn)明顯增長態(tài)勢;對中國則是涵蓋從技術(shù)發(fā)展到場景應(yīng)用的全領(lǐng)域關(guān)注。中美在人工智能領(lǐng)域的競爭不止硬實力本身,還包含對人工智能治理的規(guī)范話語權(quán)等軟實力之爭。例如,威爾遜中心研究員馬克·肯尼迪(Mark Kennedy)認為,在與中國展開科技競賽的過程中,關(guān)注人工智能治理過程中的標準訂立,杜絕中國占據(jù)治理規(guī)范的話語權(quán),是確保美國科技優(yōu)勢的重要環(huán)節(jié)[16]。此外,美國智庫還賦予對華技術(shù)競爭以極強的價值觀色彩,認為中美兩國的人工智能發(fā)展路徑基于完全不同的價值取向和組織模式,兩國在人工智能領(lǐng)域的競爭不僅關(guān)乎美國及其盟伴國家的經(jīng)濟競爭力和國家安全,還關(guān)乎自由主義價值觀的聲望和影響力,將對“民主社會”產(chǎn)生深遠影響,這使所觀察的中美科技關(guān)系具有二元對立性[17]。

        3.3" 人工智能將影響國際安全形態(tài)

        在人工智能技術(shù)的快速發(fā)展和地緣政治威脅日益加劇的背景下,美國智庫對人工智能影響國際安全形態(tài)的問題給予了較高的關(guān)注度。

        從傳統(tǒng)安全視域看,各國正加快把人工智能技術(shù)整合到國家安全體系中,以獲得相對優(yōu)勢。然而,美國智庫認為,應(yīng)該看到人工智能在大國間戰(zhàn)略穩(wěn)定中的兩面性影響。一方面,信息已構(gòu)成了一國軍事力量的關(guān)鍵組成部分,不僅遠程精確打擊和跟蹤敵方部隊行動的能力都取決于對數(shù)據(jù)的匯總和分析,而且對信息的處理能力越強,一國在與競爭對手的博弈中越有可能識別機會和風險之窗,并協(xié)調(diào)目標、方式和手段,從而在與敵手的討價還價過程中占據(jù)優(yōu)勢[18]。另一方面,考慮到軍事大國為了獲得比較優(yōu)勢而急于部署不安全、未經(jīng)測試或不可靠的人工智能和機器學習系統(tǒng)的可能性,人工智能系統(tǒng)對一國軍事安全決策、大國戰(zhàn)略穩(wěn)定帶來的風險也不容忽視。其中,最主要的風險是人工智能系統(tǒng)中的故障、事故或意外的緊急行為,這些情況可能給現(xiàn)實環(huán)境帶來不可預(yù)測的結(jié)果。此外,當前的人工智能(軍民)兩用模型預(yù)計還能夠降低非專業(yè)人士設(shè)計化學、生物、放射性或核武器的準入門檻,能夠?qū)﹃P(guān)鍵基礎(chǔ)設(shè)施進行網(wǎng)絡(luò)攻擊,并通過欺騙途徑逃避人類監(jiān)管[19]。

        人工智能技術(shù)主要從兩個方面增強了非傳統(tǒng)安全威脅的破壞能力。一是恐怖組織和反叛力量通過獲得人工智能支持的無人機技術(shù),具備了執(zhí)行空中偵察和遠程精確打擊的能力。戰(zhàn)略與國際研究中心分析認為,以無人機為主要載體的恐怖襲擊的技術(shù)條件正在成熟[20]。二是由人工智能技術(shù)衍生出的“深度偽造”(Deepfake)技術(shù)和大語言模型(large language models)迅速興起,這類技術(shù)可能被用于支持非國家武裝行為體的虛假信息散播、人員招募和情報搜集行為。在實戰(zhàn)中,沒有語言錯誤的生成式文本、視頻和音頻輸出可能加速“戰(zhàn)爭迷霧”的產(chǎn)生,從而混淆或干擾敵方,并在信息域制造更多誤導性內(nèi)容,包括在敵方內(nèi)部制造混亂、偽裝行動路線、夸大戰(zhàn)場勝利等。在網(wǎng)絡(luò)空間,生成式人工智能因降低了技術(shù)和人力成本而助長了勒索、間諜滲透和網(wǎng)絡(luò)攻擊等形式的犯罪行為??植乐髁x、極端主義勢力也將借由生成式人工智能技術(shù)的低門檻,更加輕易地展開諸如入侵政府數(shù)據(jù)庫、攻擊一國重要基礎(chǔ)設(shè)施等行為,以達到自身的政治目的[21]。

        需要注意的是,部分智庫(如新美國安全中心、布魯金斯學會等)高度關(guān)注其他國家運用人工智能技術(shù)開展“敘事之戰(zhàn)”的動向,無論這一動向是否針對美國,具體表現(xiàn)為對“俄烏沖突”雙方的信息作戰(zhàn)的追蹤[22]和對中國外宣工作的污名化[23]。

        3.4" 人工智能全球治理面臨挑戰(zhàn)

        美國智庫一直對人工智能全球治理議題保持密切關(guān)注。一方面,美國智庫對包括中國、日本,以及歐盟等在內(nèi)的行為體的人工智能監(jiān)管展開了研究,其認為,即使在西方世界內(nèi)部,各國在人工智能立法上的側(cè)重點也有所不同。歐盟的《人工智能法案》(Artificial Intelligence Act)和加拿大擬議的《人工智能和數(shù)據(jù)法案》(Artificial Intelligence and Data Act,AIDA)涵蓋了各個行業(yè),而日本、英國和美國則側(cè)重特定行業(yè)或基礎(chǔ)模型的人工智能法規(guī)。盡管重點有所不同,所有這些立法卻都著眼于高風險人工智能,旨在促進發(fā)展與確保安全之間取得平衡。特別是“七國集團”(Group of Seven,G7)成員國在核心原則上找到了共識,將人工智能治理策略植根于透明性、可解釋性、偏見預(yù)防以及人權(quán)和民主價值觀[24]。另一方面,對人工智能全球治理的前景總體持謹慎、樂觀的態(tài)度。雖然“七國集團”“二十國集團”(Group of 20,G20)、經(jīng)濟合作與發(fā)展組織(Organization for Economic Co-operation and Development,OECD)等相關(guān)方在有關(guān)人工智能發(fā)展和治理的廣義目標上具有較高一致性,但國際社會在推進人工智能全球治理方面依然任重道遠。在具體領(lǐng)域,各國對人工智能的定義、人工智能風險分類、人工智能信度構(gòu)成要素等問題的認識存在較大差異,這些差異以及由其反映的各方在人工智能治理理念上的分歧,將對人工智能監(jiān)管的范圍框定和效用發(fā)揮構(gòu)成較大影響[25]。

        4" 對美國在人工智能時代保持領(lǐng)先優(yōu)勢的建議

        依據(jù)前述人工智能技術(shù)帶來的變局,美國智庫從加強人力資本投入、完善出口管制體系、加強盟伴體系建設(shè)和開展人工智能治理多邊合作等角度,對美國如何在人工智能時代保持優(yōu)勢提出建議。

        4.1" 加強人力資本投入

        布魯金斯學會相關(guān)研究發(fā)現(xiàn),美國發(fā)展人工智能的技術(shù)、資金、市場等方面條件較為成熟,但是在人力資本的投入上存在短板?!敖^大多數(shù)”美國八年級學生在2020—2023年的美國國家教育進展評估數(shù)學科目(the National Assessment of Educational Progress Math Assessment)中的得分低于“熟練水平”(below proficiency),高等教育階段也有高達65%的社區(qū)大學學生需要參加至少一門非大學水平的補修課程[26]。對此,美國必須加大力度重振其STEM(science technology engineering mathematics)教育體系,并重點關(guān)注中小學階段的計算機科學教育,為推進美國人工智能戰(zhàn)略做好人才儲備。

        在人才組織上,相關(guān)智庫建議勞工部、教育部、商務(wù)部和美國國家科學基金會(National Science Foundation,United States,NSF)等機構(gòu),搭建一定規(guī)模的人才數(shù)據(jù)庫,以評估和跟蹤美國在包括人工智能和機器學習等特定技術(shù)領(lǐng)域內(nèi)的勞動力稀缺程度,為提高施政與投資的精準性提供參照。在增加人力資本投入的過程中,聯(lián)邦政府既需要綜合使用多種政策工具,也需要協(xié)調(diào)好與地方政府、市場、社會等方面的關(guān)系,形成保障人才培養(yǎng)和勞動力供給的合力[27]。

        部分智庫還關(guān)注到科技移民在美國人工智能發(fā)展中的重要作用?!澳軌蛭土糇∈澜缟献顑?yōu)秀的STEM領(lǐng)域人才”被視為是美國技術(shù)創(chuàng)新生態(tài)中的最大優(yōu)勢之一[28]。安全與新興技術(shù)中心建議從放寬對人工智能等新興領(lǐng)域外國人才的簽證限額、拓寬外籍人才移民渠道、調(diào)整不合理的政策約束等方面,改革現(xiàn)有的移民政策,提高科技移民赴美留美的積極性和便利性[29]。從最終結(jié)果來看,2023年10月,拜登總統(tǒng)簽署《關(guān)于安全、可靠和可信的AI行政命令》(Executive Order on Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence),要求國土安全部最長在180天內(nèi)簡化人工智能專家的簽證流程,放寬O-1A、EB-1、EB-2等簽證的資格,使人工智能和新興技術(shù)領(lǐng)域的高技能人才更容易移民到美國[30]。

        4.2" 完善出口管制體系

        為確保人工智能領(lǐng)域技術(shù)優(yōu)勢,護持美國科技霸權(quán),美國出口管制體系的完善成為重要政策課題。

        戰(zhàn)略與國際研究中心高級研究員威廉·因施(William Reinsch)曾主導撰寫報告建議:一方面,在維持既有出口管制措施的同時,對政策目標進行一定的調(diào)整,即應(yīng)著眼于保持領(lǐng)先對手國一至兩代的技術(shù)優(yōu)勢而非設(shè)置靜態(tài)的“規(guī)鎖高墻”,如此既能使美國企業(yè)通過出售舊式技術(shù)賺取利潤,并將利潤用于研發(fā),也能使對手國因能夠獲得美國相對落后但可應(yīng)用的技術(shù)而缺乏走自主研發(fā)道路的動力。這一目標使美國政府能夠視安全利益的變化對特定管制品類給予出口豁免,從而保持出口管制體系的靈活性。

        在制度以及組織的改革層面,針對人工智能的出口管制,首先,涉及用于模型訓練的原始數(shù)據(jù),以及中國企業(yè)通過其他渠道獲取芯片使用權(quán)的情況,戰(zhàn)略與國際研究中心建議對這項尚在發(fā)展中的技術(shù)制定更具針對性的管制政策。工業(yè)和安全局應(yīng)在商業(yè)管制清單(Commerce Control List,CCL)現(xiàn)行10個管制類別的基礎(chǔ)上增設(shè)第11個類別,即“無形品”,以更好地對不同的數(shù)據(jù)進行分類和管理[31]。在組織改革上,鑒于工業(yè)和安全局工作人員工作負荷與其組織規(guī)模高度不對稱的情況,建議增加對工業(yè)和安全局的預(yù)算投入,具體為:在5年內(nèi)每年增加2,500萬美元用于更新設(shè)備,提升數(shù)據(jù)處理和分析能力;每年增加1,840萬美元和48個崗位,以滿足執(zhí)法部門調(diào)查工作的需要;額外劃撥120萬美元用于執(zhí)法人員建設(shè)機密設(shè)施,以支持其開展部分涉密工作。如此,國會向工業(yè)和安全局追加預(yù)算的總規(guī)模將達至每年4,460萬美元。這一投入不僅將提高工業(yè)和安全局自身的工作能力,還將提升其與政府其他相關(guān)部門的協(xié)作水平,從而提升美國出口管制體系的總體效能[32]。

        4.3" 加強盟伴體系建設(shè)

        美國智庫強調(diào)與盟伴國家加強人工智能政策協(xié)調(diào)和行動配合的重要性。然而,鑒于在推進人工智能合作中出現(xiàn)的挑戰(zhàn),美國智庫近年對盟伴體系應(yīng)如何就出口管制、人工智能技術(shù)創(chuàng)新等議題展開合作產(chǎn)生了一些新的思考。從人工智能技術(shù)的標準方面來看,布魯金斯學會提出了“小院大蓬”(Small Yards, Big Tents)的概念,即著眼于建立旨在“解決風險、安全和韌性”的人工智能技術(shù)標準,同時根據(jù)國家安全的需要,與利益相關(guān)者合作滿足這些需求。需要注意的是,并非所有美國智庫對中國都持全然消極否定的態(tài)度。布魯金斯學會技術(shù)創(chuàng)新研究中心卡梅隆·克里(Cameron Kerry)認為,美國、中國,以及歐盟等方面的人工智能標準化的范式存在著關(guān)鍵的共性,人工智能的國際標準可以發(fā)揮實現(xiàn)不同法律、法規(guī)和政策制定范式之間的互操作性的橋梁作用。因此,應(yīng)承認中國為實現(xiàn)自己的目標而引導國際標準的努力,既不應(yīng)該夸大中國的作用,也不應(yīng)該對此過度反應(yīng)[33]。

        與此同時,戰(zhàn)略與國際研究中心的研究開始思考構(gòu)建“關(guān)鍵和新興技術(shù)多邊框架”(Multilateral Regime on Critical and Emerging Technologies,R-CET)的可能性。在這個綜合性框架下,美國與盟伴國家對包括人工智能在內(nèi)的關(guān)鍵和新興技術(shù)的“促進和保護”工作主要由3個支柱構(gòu)成:治理和使用規(guī)則、能力發(fā)展和技術(shù)轉(zhuǎn)讓(出口管制)。其中,治理和使用規(guī)則,涉及框架成員國為公共和私營部門就技術(shù)的規(guī)范使用協(xié)調(diào)制定基本的指導方針;能力發(fā)展,即支持各國制定具體戰(zhàn)略以提升在不同技術(shù)方面的能力,包括協(xié)調(diào)成員國的國內(nèi)投資,避免重復低效的補貼,同時調(diào)整安全措施以防范“受關(guān)注的國家和實體”從投資中受益;技術(shù)轉(zhuǎn)讓(出口管制),將以技術(shù)部門劃分委員會,全體框架成員國都可參與各委員會的所有會議,并可發(fā)表意見和表達專業(yè)見解,但各委員會中只有被認為對供應(yīng)鏈至關(guān)重要的成員國才有對管制措施的投票權(quán)。決議將以協(xié)商一致的方式做出,并對全體框架成員國有約束力,各委員會成員國的增減也將由投票情況決定。這樣一種統(tǒng)籌思維不僅能夠確保美國在國家安全問題上與盟伴國家形成統(tǒng)一戰(zhàn)線,也能確保全球范圍內(nèi)更大的技術(shù)進步的出現(xiàn),從而進一步促進經(jīng)濟繁榮[34]。2024年7月,拜登政府發(fā)布《美國政府關(guān)鍵和新興技術(shù)國家標準戰(zhàn)略:實施路線圖》(Implementing the national standards strategy for critical and emerging technology),明確表示要在確保關(guān)鍵和新興技術(shù)標準領(lǐng)域深化美國與盟伴國家的合作[35]。

        4.4" 開展人工智能治理多邊合作

        面對國際社會在人工智能治理領(lǐng)域中的碎片化態(tài)勢,一方面,美國智庫建議以美國為首的西方世界就人工智能治理開展更加廣泛的多邊合作,包括關(guān)注“全球南方”在人工智能治理中可能發(fā)揮的作用。大西洋理事會的分析認為,“全球南方”國家更傾向于將人工智能視為推動本國發(fā)展的機遇。如果美歐希望(自身)對人工智能的治理方式實現(xiàn)真正的“多邊化”,那么美歐需要考慮如何與“全球南方”中志同道合的合作伙伴展開合作而非僅僅制定規(guī)則[36]。從整個人工智能生態(tài)體系的視角出發(fā),大西洋理事會建議各國的人工智能安全研究所相互整合各自附屬的資源,并與包括私營部門、民間社會、政府官員和決策者等多方外部利益相關(guān)者展開接觸,共同構(gòu)建更廣泛的人工智能安全網(wǎng)絡(luò)[37]。

        另一方面,美國智庫所主張的對話,最終目的仍是服務(wù)于塑造以美國為首的西方世界在人工智能治理中的優(yōu)勢地位。2024年5月,在首爾召開的第二屆全球人工智能安全峰會凸顯了強烈的陣營化色彩,包括中國在內(nèi)的其他非西方陣營國家被排除在有關(guān)人工智能治理原則等討論議程外??▋?nèi)基國際和平基金會的研究觀點指出,諸如金磚合作機制、上海合作組織等“競爭性聯(lián)盟”(rival coalitions)將會通過推廣區(qū)別于西方陣營的規(guī)范,加速全球經(jīng)濟和世界秩序的分裂。為了避免這種危險,發(fā)達的市場民主國家需要與“全球南方”的民主國家合作,制定人工智能標準和協(xié)調(diào)監(jiān)管政策,而印度將是一個重要的合作伙伴[38]。

        盡管如此,考慮到中國的人工智能在技術(shù)和監(jiān)管等方面的發(fā)展速度,布魯金斯學會的研究主張美國和盟伴需要就管控軍事人工智能風險、數(shù)據(jù)共享、標準制定、監(jiān)管經(jīng)驗交流等領(lǐng)域與中國接觸。中美盡快就具體的合作議題開啟對話并取得早期收獲,不僅有利于中美關(guān)系發(fā)展,在監(jiān)管經(jīng)驗上的分享或許也是探索人工智能治理全球共識的好方法。格拉漢姆·韋伯斯特(Graham Webster)建議中美應(yīng)優(yōu)先考慮在軍事應(yīng)用人工智能、數(shù)據(jù)共享、保持對可能的新生領(lǐng)域的關(guān)注度等方面推進中美人工智能對話[39]。2023年,中美兩國元首在舊金山會晤時,對中美開展人工智能政府間對話達成共識;2024年,兩國元首在利馬會晤時,雙方確認有必要應(yīng)對人工智能系統(tǒng)的風險,提升人工智能安全性,加強國際合作,促進人工智能向善普惠[40]。由此可見,中美兩國元首共同推動下的人工智能對話與部分美國智庫的政策建議不謀而合。

        5" 對中國的啟示

        美國智庫對人工智能影響國際關(guān)系的研究,在研究方法、研究視野和政策建議等方面,均對中國智庫開展相關(guān)議題的研究提供了一定啟示。

        5.1" 加強智庫與各方互動

        分析人工智能對國際關(guān)系的影響,要求研究者具備跨學科的知識儲備。美國智庫不僅依托內(nèi)部具有計算機科學、公共政策、國際關(guān)系等專業(yè)背景和豐富從業(yè)經(jīng)歷的研究人員開展相關(guān)研究,還注重與人工智能產(chǎn)業(yè)界、政策界、學術(shù)界等外部方面保持互動,研究成果覆蓋政策報告、評論分析、播客訪談等多種形式,如此,既提升了美國智庫研究的專業(yè)性,也提高了外部各方參與智庫研究的靈活性。事實上,智庫所要扮演的正是“知識中介”的角色,在國家之間、行業(yè)之間、研究人員與政策決策者之間傳播知識,在不同文化之間架起橋梁,增進文化理解和人與人之間的聯(lián)系。這種理解和聯(lián)系不僅有助于提升智庫自身的專業(yè)水平,也有助于促進國家軟實力的提升。如今,很多智庫都關(guān)注到了這一點,并付諸實踐。以澳大利亞國際事務(wù)研究所為例,該研究所正在致力于促成歐盟–澳大利亞領(lǐng)袖論壇(EU-Australia Leadership Forum),這是一項由歐盟資助的公共外交項目,旨在促進人與人之間的交流,為自由貿(mào)易協(xié)定的協(xié)商等官方對話建言獻策。中國的一些智庫在這方面的工作表現(xiàn)十分突出[41]。

        5.2" 加強前瞻性研究

        美國對人工智能結(jié)合國際關(guān)系的研究涵蓋諸多具體議題,在研究方法上注重定性與定量相結(jié)合。例如,布魯金斯學會的研究人員采用了聚類分析法(cluster analysis),從數(shù)據(jù)管理、算法管理和人工智能治理等六個方面,系統(tǒng)評估了34國在發(fā)展人工智能技術(shù)上的優(yōu)劣勢[42]。此外,美國智庫已嘗試在研究中使用人工智能技術(shù)以及訂立相應(yīng)的工作規(guī)范[43],但是大多數(shù)智庫在技術(shù)賦能研究方面仍缺乏有組織的支持和培訓。

        因此,中國智庫在密切跟蹤美國智庫研究動向的同時,可結(jié)合本土實際情況加強前瞻性研究。一方面,廣闊的市場和豐富的應(yīng)用場景是中國人工智能得以迅速發(fā)展的重要條件;另一方面,總結(jié)國內(nèi)既有的人工智能立法經(jīng)驗,建立健全人工智能應(yīng)用的分級分類監(jiān)管制度和監(jiān)管措施也十分迫切[44]。又如,美國智庫高度關(guān)注人工智能全球治理的發(fā)展走向,其背后有爭奪治理主導權(quán)與領(lǐng)導敘事的謀劃,這也啟示中國應(yīng)加強對人工智能治理標準和規(guī)范的國際傳播研究,為提升中國在全球治理中的話語權(quán)提供智力支持。

        5.3" 中美智庫加強人工智能領(lǐng)域各議題的交流

        中美智庫就具體議題展開對話甚至形成相關(guān)研究成果,不僅能夠為兩國政策界的頂層設(shè)計提供智識先導,而且有助于兩國通過智庫交流密切人員往來。在互動中,中國智庫可及時對美國智庫涉及我國人工智能相關(guān)政策的曲解、誣蔑進行澄清,加以駁斥,進而增進雙方共識。如前所述,部分美國智庫同樣存在加強對華在人工智能標準化、人工智能全球治理等領(lǐng)域合作的聲音,相關(guān)的共同研究和項目也在推進。這些項目既可以通過高校、科研院所等牽頭發(fā)起、一定程度上沖抵對話的政治化顧慮,也可以借助“1.5軌”與”2軌”并舉的方式,廣泛利用好雙方前政府官員、企業(yè)界人士、學者的社會關(guān)系,在交流中增信釋疑。例如,自2019年起,清華大學戰(zhàn)略與安全研究中心(Center for International Security and Strategy,CISS)與布魯金斯學會就人工智能在國家安全中的作用保持了富有成效的接觸。對話表明,中美兩國專家有可能縮小分歧,破除對彼此在國家安全中運用人工智能方式的誤解[45]。截至2024年8月,中美兩國已舉行了兩次人工智能“2軌”對話會議,成員包括兩國各自的前政府官員、企業(yè)高管、高校學者等多個群體。

        6" 結(jié)語

        本文通過對美國主流智庫研究成果的梳理,探究美國智庫如何認知人工智能對國際關(guān)系帶來的重要影響。美國智庫對世界各國各地區(qū)人工智能的發(fā)展動態(tài)保持密切關(guān)注,并重點關(guān)注中國的人工智能發(fā)展;與此同時,其對人工智能結(jié)合國際關(guān)系的研究議題十分廣泛,并就美國如何在此輪技術(shù)發(fā)展中保持領(lǐng)先地位提出建議。

        對中國智庫而言,追蹤美國智庫的研究成果,一則,有助于把握人工智能與國際關(guān)系研究的面貌,并嘗試就共同關(guān)切的問題展開對話,增信釋疑;二則,有助于加強對美國有關(guān)中國人工智能政策的分析研判,把握美國對華產(chǎn)業(yè)脫鉤、出口管制等政策的最新趨勢及發(fā)展方向,提前做好政策準備;三則,有助于通過分析總結(jié)美國智庫的研究形式和方法,為更好地推進中國智庫在相關(guān)問題中的機制建設(shè)以及促進智庫界良性發(fā)展提供啟發(fā)。

        參考文獻:

        [1] KARLIN M. The Implications of artificial intelligence for national security strategy[EB/OL]. (2018-11-01)[2024-07-07]. https://www.brookings.edu/articles/the-implications-of-artificial-intelligence-for-national-security-strategy/.

        [2] 許春雷. 人工智能與國家政治安全[N]. 光明日報, 2022-06-26(007).

        [3] MCGANN J G. 2020 global go to think tank index reports[R]. Philadelphia: University of Pennsylvania, 2020: 166-174, 196-200, 350-353.

        [4] 金彩紅. 美國布魯金斯學會: 影響源自質(zhì)量[N]. 光明日報, 2015-02-11(015).

        [5] 李鼎鑫, 黃蕙. 走向右傾: 近年來美國主要智庫政治傾向與對華立場簡析[J]. 智庫理論與實踐, 2022, 7(4): 108-112, 135.

        [6] FIRTH-BUTTERFIELD K. These were the biggest AI developments in 2022. Now we must decide how to use them[R/OL]. (2023-01-20)[2024-11-02]. https://www.weforum.org/stories/2023/01/davos23-biggest-ai-developments-how-to-use-them/.

        [7] 新華社. 習近平在中共中央政治局第九次集體學習時強調(diào)加強領(lǐng)導做好規(guī)劃明確任務(wù)夯實基礎(chǔ) 推動我國新一代人工智能健康發(fā)展[EB/OL]. (2018-10-31)[2024-07-31]. https://www.gov.cn/xinwen/2018-10/31/content_5336251.htm.

        [8] PAVEL B, KE I, SPIRTAS M, et al. AI and geopolitics: How might AI affect the rise and fall of nations?[EB/OL]. (2023-11-03)[2024-08-07]. https://www.rand.org/pubs/perspectives/PEA3034-1.html.

        [9] MICHAEL FRANK. Managing existential risk from AI without undercutting innovation[R/OL]. (2023-07-10)[2024-10-10]. https://www.csis.org/analysis/managing-existential-risk-ai-without-undercutting-innovation.

        [10] Global technology competition in the age of AI [EB/OL]. (2024-01-24) [2024-07-29]. https://www.csis.org/analysis/global-technology-competition-age-ai.

        [11] 鄒平座, 宗良. 大國競爭的核心是科技競爭[J]. 中國經(jīng)濟評論, 2023(1): 43-45.

        [12] WILLIAMS B K. The innovation race: US-China science and technology competition and the quantum revolution[R/OL]. (2023-10-25)[2024-07-29]. https://www.wilsoncenter.org/publication/innovation-race-us-china-science-and-technology-competition-and-quantum-revolution.

        [13] KAK A, WEST S M. AI nationalism(s): Global industrial policy approaches to AI[EB/OL]. (2024-03)[2024-08-08]. https://ainowinstitute.org/ai-nationalisms.

        [14] The Brazilian Report. AI regulation still lagging in Brazil[EB/OL]. (2023-03-23)[2024-07-29]. https://www.wilsoncenter.org/blog-post/ai-regulation-still-lagging-brazil.

        [15] FRANK M. UK AI summit debrief part 2: The state of international AI safety governance[EB/OL]. (2023-12-07)[2024-07-29]. https://www.csis.org/analysis/uk-ai-summit-debrief-part-2-state-international-ai-safety-governance.

        [16] KENNEDY M. America must awaken from complacency to win the tech race[EB/OL]. (2024-03-06)[2024-07-10]. https://www.wilsoncenter.org/article/america-must-awaken-complacency-win-tech-race?gad_source=1amp;gclid=CjwKCAjw4ri0BhAvEiwA8oo6FznwKNKYPxiAnoYDoaUrZ46rQsUcWYeRU0FS-dEb6O6UcB_1YXVnGhoCURwQAvD_BwE.

        [17] MCINERNEY K. Yellow techno-peril: The “clash of civilizations” and anti-Chinese racial rhetoric in the US–China AI arms race[J]. Big Data amp; Society, 2024, 11(2): 1-13.

        [18] BENJAMIN J, YASIR A, JOSE M M. Algorithmic stability how AI could shape the future of deterrence[R/OL]. (2024-06-10)[2024-08-01]. https://www.csis.org/analysis/algorithmic-stability-how-ai-could-shape-future-deterrence.

        [19] EGAN J, MILANA D. Action on AI: Unpacking the executive order’s security implications and the road ahead, Belfer Center for Science and International Affairs[EB/OL]. (2023-11-08)[2024-07-10]. https://www.belfercenter.org/publication/action-ai-unpacking-executive-orders-security-implications-and-road-ahead.

        [20] GREGORY C A. Advanced technology: Examining threats to national security[EB/OL]. (2023-09-19) [2024-08-06]. https://www.csis.org/analysis/advanced-technology-examining-threats-national-security.

        [21] WIRTSCHAFTER V. The implications of the AI boom for nonstate armed actors[EB/OL]. (2024-01-16)[2024-07-31]. https://www.brookings.edu/articles/the-implications-of-the-ai-boom-for-nonstate-armed-actors/.

        [22] BENDETT S. Roles and implications of AI in the Russian-Ukrainian Conflict[EB/OL]. (2023-07-20) [2024-07-31]. https://www.cnas.org/publications/commentary/roles-and-implications-of-ai-in-the-russian-ukrainian-conflict.

        [23] BRANDT J. Propaganda, foreign interference, and generative AI[EB/OL]. (2023-11-08) [2024-07-31]. https://www.brookings.edu/articles/propaganda-foreign-interference-and-generative-ai/.

        [24] HABUKA H, David O. Shaping global AI governance: Enhancements and next steps for the G7 Hiroshima AI process[R/OL]. (2024-05-24)[2024-08-01]. https://www.csis.org/analysis/shaping-global-ai-governance-enhancements-and-next-steps-g7-hiroshima-ai-process.

        [25] ALLEN G C, THADAMI A. Advancing cooperative AI governance at the 2023 G7 Summit[R/OL]. (2023-04-26)[2024-08-01]. https://www.csis.org/analysis/advancing-cooperative-ai-governance-2023-g7-summit.

        [26] MA Y Y. U.S. security and immigration policies threaten its AI leadership[EB/OL]. (2024-04-04) [2024-08-01]. https://www.brookings.edu/articles/us-security-and-immigration-policies-threaten-its-ai-leadership/.

        [27] BRANDT J, KREPS S, MESEROLE C, et al. Succeeding in the AI competition with China: A strategy for action[EB/OL]. [2024-08-01]. https://www.brookings.edu/articles/succeeding-in-the-ai-competition-with-china-a-strategy-for-action/.

        [28] RAIMONDO G M. Remarks by U.S. secretary of commerce Gina Raimondo on the U.S. competitiveness and the China challenge[EB/OL]. (2022-11-30)[2024-08-01]. https://www.commerce.gov/news/speeches/2022/11/remarks-us-secretary-commerce-gina-raimondo-us-competitiveness-and-china.

        [29] ARNOLD Z, HESTON R, ZWETSLOOT R, et al. Immigration policy and the U.S. AI sector[EB/OL]. [2024-08-01]. https://cset.georgetown.edu/wp-content/uploads/CSET_Immigration_Policy_and_AI.pdf.

        [30] The White House. Executive order on the safe, secure, and trustworthy development and use of artificial intelligence[EB/OL]. (2023-10-30)[2024-12-08]. https://www.whitehouse.gov/briefing-room/presidential-actions/2023/10/30/executive-order-on-the-safe-secure-and-trustworthy-development-and-use-of-artificial-intelligence/.

        [31] REINSCH W, DENAMIEL T, SCHLEICH M, et al. Optimizing export controls for critical and emerging technologies[R/OL]. (2023-05-31)[2024-08-01]. https://www.csis.org/analysis/optimizing-export-controls-critical-and-emerging-technologies.

        [32] ALLEN G C, BENSON E, REINSCH W A. Improved export controls enforcement technology needed for U.S. national security[R/OL]. (2022-11-30)[2024-08-01].https://www.csis.org/analysis/improved-export-controls-enforcement-technology-needed-us-national-security.

        [33] KERRY C F. Small yards, big tents: How to build cooperation on critical international standards[R/OL]. (2024-03-11)[2024-08-01]. https://www.brookings.edu/articles/small-yards-big-tents-how-to-build-cooperation-on-critical-international-standards/.

        [34] REINSCH W, DENAMIEL T, SCHLEICH M. Optimizing U.S. export controls for critical and emerging technologies[R/OL]. (2023-05-31)[2024-08-01]. https://www.csis.org/analysis/optimizing-export-controls-critical-and-emerging-technologies.

        [35] The White House. FACT SHEET: Implementing the national standards strategy for critical and emerging technology[EB/OL]. [2024-07-26]. https://www.whitehouse.gov/briefing-room/statements-releases/2024/07/26/fact-sheet-implementing-the-national-standards-strategy-for-critical-and-emerging-technology/.

        [36] ANDRIJANI? M B, LAWLER N. Dispatch from Bletchley Park: Where does transatlantic AI cooperation stand?[EB/OL]. (2023-11-03)[2024-07-12]. https://www.atlanticcouncil.org/blogs/new-atlanticist/dispatch-from-bletchley-park-where-does-transatlantic-ai-cooperation-stand/.

        [37] LANG C. Advancing AI safety requires international collaboration. Here’s what should happen next[EB/OL]. (2024-07-05) [2024-08-05]. https://www.atlanticcouncil.org/blogs/new-atlanticist/advancing-ai-safety-requires-international-collaboration-heres-what-should-happen-next/.

        [38] KLEIN E, PATRICK S. Envisioning a global regime complex to govern artificial intelligence. [EB/OL]. (2024-03-21)[2024-08-06]. https://carnegieendowment.org/research/2024/03/envisioning-a-global-regime-complex-to-govern-artificial-intelligence?lang=en.

        [39] WEBSTER G, HASS R. A roadmap for a US-China AI dialogue[EB/OL]. [2024-01-10)][2024-08-06]. https://www.brookings.edu/articles/a-roadmap-for-a-us-china-ai-dialogue/.

        [40] 外交部. 外交部發(fā)言人全面介紹中美元首利馬會晤情況[EB/OL]. [2024-11-17]. https://www.mfa.gov.cn/web/wjdt_674879/zcjd/202411/t20241117_11527684.shtml.

        [41] 陳純真. 與國外專家對話智庫國際合作及影響力[N]. 中國社會科學報, 2018-04-04(006).

        [42] DENFORD J S, DAWSON G S, DESOUZA K C. A cluster analysis of national AI strategies[EB/OL]. (2023-12-13)[2024-08-06]. https://www.brookings.edu/articles/a-cluster-analysis-of-national-ai-strategies/.

        [43] MERAW S, WIRTSCHAFTER V. Putting research into practice: Brookings’ approach to the responsible use of generative AI[EB/OL]. (2023-12-13)[2024-08-06]. https://www.brookings.edu/articles/brookings-approach-to-the-use-of-generative-ai/.

        [44] 田永靜, 苑衛(wèi)國. 我國人工智能發(fā)展趨勢研究[J]. 人民論壇·學術(shù)前沿, 2024(8): 102-105.

        [45] HASS R, KAHL C. Laying the groundwork for US-China AI dialogue[EB/OL]. (2024-04-05)[2024-08-06]. https://www.brookings.edu/articles/laying-the-groundwork-for-us-china-ai-dialogue/.

        作者貢獻說明:

        汪" 遒:搜集資料、撰寫論文;

        李國強:搭建框架、修改定稿。

        The U.S. Think Tanks’ Research of Artificial Intelligence’s Impact on International Relations: Perspectives and Enlightenment

        Wang Qiu1" Li Guoqiang2

        1 College of Foreign Languages, University of Shanghai for Science and Technology, Shanghai 200093

        2 Development Research Centre of the State Council, Beijing 100010

        Abstract: [Purpose/Significance] This study analyzes the perspectives of U.S. think tanks on the impact of artificial intelligence (AI) on international relations, offering critical insights into the U.S. government’s strategic approach to technological competition with China. This analysis aims to support China in advancing its AI capabilities and strengthening its influence in global AI governance. [Method/Process] Ten prominent U.S. think tanks are selected based on their influence in the field of international relations, expertise in AI and interdisciplinary research, and political orientation. This study presents the key perspectives of these think tanks on the impact of AI for international relations and their recommendations for sustaining U.S. leadership in AI. Strategic insights for China are derived from these analyses. [Result/Conclusion] U.S. think tanks' research of AI’s impact on international relations spans several themes, including the role of AI in shaping future geopolitical landscapes, its emergence as a critical factor in major power competition, its impact on international security dynamics, and the challenges of global AI governance. This research highlights U.S. strategies which are aimed at maintaining technological and discursive dominance in the era of AI. In response, Chinese think tanks should adopt measures to enhance engagement with various stakeholders, prioritize forward-looking research, and advance dialogue and exchanges in the field of AI.

        Keywords: U.S. think tanks" " artificial intelligence (AI)" " international relations" " China-U.S. relations

        收稿日期:2024-08-17" " " 修回日期:2024-12-22

        *本文系上海理工大學外語學院博士科研啟動基金項目研究成果之一。

        作者簡介:汪遒,上海理工大學外語學院講師,博士,E-mail:wangqiu@usst.edu.cn;李國強,通信作者,國務(wù)院發(fā)展研究中心研究員,碩士,E-mail:bjliguoqiang2018@163.com。

        猜你喜歡
        人工智能
        我校新增“人工智能”本科專業(yè)
        用“小AI”解決人工智能的“大”煩惱
        汽車零部件(2020年3期)2020-03-27 05:30:20
        當人工智能遇見再制造
        2019:人工智能
        商界(2019年12期)2019-01-03 06:59:05
        AI人工智能解疑答問
        人工智能與就業(yè)
        基于人工智能的電力系統(tǒng)自動化控制
        人工智能,來了
        數(shù)讀人工智能
        小康(2017年16期)2017-06-07 09:00:59
        人工智能來了
        學與玩(2017年12期)2017-02-16 06:51:12
        两个黑人大战嫩白金发美女| 在线a亚洲视频播放在线播放| 午夜男女视频一区二区三区| 国产精品无码a∨精品影院| 玩中年熟妇让你爽视频| 中文字幕人成乱码熟女| 日韩一级黄色片一区二区三区| 熟女少妇精品一区二区三区| 一区两区三区视频在线观看| 亚洲av粉嫩性色av| 国产视频一区二区三区在线看| 91精品国产综合久久久蜜臀九色| 成人大片在线观看视频| 久久综合伊人有码一区中文字幕| 日本美女性亚洲精品黄色| 日本激情一区二区三区| 中文字幕亚洲在线第一页| 国产精品国产三级国产剧情 | 在线观看一区二区三区国产| 精品日韩一区二区三区av| av在线资源一区二区| 亚洲不卡高清av在线| 亚洲av一区二区在线| 蜜桃视频国产一区二区| 国产午夜精品av一区二区麻豆| 国产果冻豆传媒麻婆精东| 国产免费无遮挡吸奶头视频 | 国产md视频一区二区三区| 女人被狂躁c到高潮视频| 国产激情久久久久久熟女老人av| 97精品人人妻人人| 天天做天天躁天天躁| 国产真实乱人偷精品人妻| 免费黄色电影在线观看| 亚洲肥老太bbw中国熟女| 国产成人国产在线观看| 在线观看精品国产福利片100| 日本a在线免费观看| 久久久国产精品ⅤA麻豆百度| 久久久高清免费视频| 一区二区在线观看视频亚洲|