亚洲免费av电影一区二区三区,日韩爱爱视频,51精品视频一区二区三区,91视频爱爱,日韩欧美在线播放视频,中文字幕少妇AV,亚洲电影中文字幕,久久久久亚洲av成人网址,久久综合视频网站,国产在线不卡免费播放

        ?

        高校圖書館“人機(jī)協(xié)同”發(fā)展框架的構(gòu)建研究

        2024-01-09 15:14:24
        山東圖書館學(xué)刊 2023年6期
        關(guān)鍵詞:人機(jī)協(xié)同人機(jī)館員

        王 蕾

        (中國(guó)社會(huì)科學(xué)院大學(xué)圖書館,北京 102488)

        1 引言

        現(xiàn)代信息技術(shù)(ITs)時(shí)代人工智能的進(jìn)步每天都在發(fā)生,人工智能是一種基于大數(shù)據(jù)的顛覆性技術(shù),已經(jīng)成為21 世紀(jì)的眾多行業(yè)提高生產(chǎn)力和組織效率不可或缺的工具。 2022 年底,當(dāng)ChatGPT(只需簡(jiǎn)短提示即可生成合理連貫文本的大型語言模型),以及Midjourney、DALLE2(文本到圖像、視頻的智能藝術(shù)生成模型)等生成式人工智能模型的出現(xiàn)標(biāo)志著生成式AI 技術(shù)的重大突破,引燃了新一輪的AI 革命,人工智能飛躍性的“智能”進(jìn)步,令創(chuàng)造性、知識(shí)性工作領(lǐng)域的眾多從業(yè)人員感受到其強(qiáng)大的智慧性,并產(chǎn)生了深刻的危機(jī)與畏懼感,然而科技的飛速發(fā)展永遠(yuǎn)不會(huì)停滯,放眼未來,人工智能必將與人類攜手在教育、文化、科技等眾多精神文明領(lǐng)域共創(chuàng)一系列誘人的交叉、交互前景。 2023 年2 月13 日中國(guó)教育部部長(zhǎng)懷進(jìn)鵬在以“數(shù)字變革與教育未來”為主題的世界數(shù)字教育大會(huì)上提出“推動(dòng)教育治理高效化、精準(zhǔn)化,通過人工智能、大數(shù)據(jù)等技術(shù)應(yīng)用,實(shí)現(xiàn)業(yè)務(wù)協(xié)同、流程優(yōu)化、結(jié)構(gòu)重塑、精準(zhǔn)管理,從而更好提升教育管理效率和教育決策科學(xué)化水平”[1]。 高校圖書館作為高校重要的教育、教學(xué)、科研支持中心,內(nèi)嵌于高等教育這一生態(tài)系統(tǒng),勢(shì)必需要進(jìn)行數(shù)字變革并與未來教育的整體發(fā)展目標(biāo)看齊,思考人工智能時(shí)代高校圖書館新的功能、作用與價(jià)值,探索一套與人工智能、大數(shù)據(jù)等技術(shù)應(yīng)用相融合的管理、服務(wù)架構(gòu),優(yōu)化服務(wù)內(nèi)容,提供人機(jī)協(xié)同的支持服務(wù),對(duì)用戶通過人工智能進(jìn)行創(chuàng)造性、自適應(yīng)學(xué)習(xí)或開展協(xié)同性、增強(qiáng)性教學(xué)給予智能化支撐,為大學(xué)實(shí)現(xiàn)更加優(yōu)質(zhì)的教育做出新貢獻(xiàn)。 鑒于此,本文將探討如何構(gòu)建高校圖書館“人機(jī)協(xié)同”發(fā)展服務(wù)框架,并提出相關(guān)途徑和實(shí)施策略,以期為高校圖書館發(fā)展人機(jī)協(xié)同建設(shè),輔助推進(jìn)高等教育信息化改革,提供新的理論參考與研究思路。

        2 “人機(jī)協(xié)同”觀點(diǎn)的新探索

        工業(yè)革命4.0 如同其他重大革命一樣,對(duì)已經(jīng)建立的多領(lǐng)域系統(tǒng)和環(huán)境產(chǎn)生了重大的影響與改變,在這些變化的場(chǎng)景中,焦點(diǎn)落在社會(huì)中顛覆性技術(shù)的出現(xiàn)上,如人工智能(AI)、物聯(lián)網(wǎng)(IoT)、大數(shù)據(jù)和基于云的技術(shù),人工智能是當(dāng)前多種技術(shù)進(jìn)步的核心因素。 隨著人類的生活、學(xué)習(xí)和職業(yè)中越來越多的細(xì)微環(huán)節(jié)被人工智能所滲透,人工智能應(yīng)用程序也越來越多地進(jìn)入學(xué)習(xí)環(huán)境、工作場(chǎng)所,人類終將與AI 同行,使生活、學(xué)習(xí)、工作各個(gè)方面優(yōu)化到某種更實(shí)用、高效的目標(biāo)。 目前,人工智能已經(jīng)成為教育、圖情領(lǐng)域?qū)W術(shù)研究的熱點(diǎn),越來越多的研究在人機(jī)協(xié)作、人機(jī)融合方面呈現(xiàn)出大量新的關(guān)注點(diǎn),強(qiáng)調(diào)了人機(jī)協(xié)同的重要性,對(duì)于人工智能如何融入學(xué)習(xí)和知識(shí)實(shí)踐,促進(jìn)未來的教育,推動(dòng)圖書館事業(yè)提出了多方的見解。

        例如,Hermann 認(rèn)為ChatGPT 可以是一個(gè)很好的AI 助教在智能教育中發(fā)揮積極與重要作用[2]。Xu 提出了學(xué)習(xí)人工智能對(duì)教育工作者的重要性,即“知道如何使用人工智能的教育者可能會(huì)取代不知道如何使用的教育者,人工智能可以賦予教育者更多的能力并促進(jìn)他們的角色轉(zhuǎn)變,大幅提高管理效率和決策水平”[3]。 Yazdanian 等人認(rèn)為人工智能能夠準(zhǔn)確預(yù)測(cè)未來的新興技能,可以幫助教育機(jī)構(gòu)跟上勞動(dòng)力市場(chǎng)的快速變化,并為大學(xué)提升應(yīng)對(duì)新趨勢(shì)的反應(yīng)能力[4]。 Rahawan 指出教育關(guān)注的是讓人們做好駕馭復(fù)雜未來的準(zhǔn)備,未來的教育需要涉及與人工智能的積極參與和合作,需要構(gòu)建人類和機(jī)器學(xué)習(xí)交叉點(diǎn)的核心基礎(chǔ)理論,以及如何將這些理論如何應(yīng)用于教育系統(tǒng)方面的各個(gè)方面[5]。 Wise等人提出人工智能為對(duì)話學(xué)習(xí)提供了新的機(jī)會(huì),對(duì)教育提出了新的學(xué)習(xí)需求,即建立在計(jì)算機(jī)支持的協(xié)作學(xué)習(xí)需求[6]。 Luckin 等人提出了AI 就緒的概念,并探討了教育領(lǐng)域如何進(jìn)行AI 就緒,構(gòu)建了“EThICAL”七步框架,指出具備AI 就緒能力的教育工作者將能夠更好地利用人工智能為學(xué)生提供服務(wù)與支持[7]。 Rivero 的研究側(cè)重于圖情學(xué)科的人工智能學(xué)習(xí),描述人工智能如何融合應(yīng)用于圖書館職業(yè)培訓(xùn)以及工作場(chǎng)所應(yīng)用[8]。 Carvahlo 等人通過關(guān)注人工智能世界中的學(xué)習(xí),對(duì)人工智能世界中教育設(shè)計(jì)以及如何推進(jìn)未來教育的問題展開探討,建立人類與人工智能交互的教育設(shè)計(jì)模型,為人工智能如何支持、增強(qiáng)和指導(dǎo)學(xué)習(xí)提供指導(dǎo)[9]。 Markauskaite等人通過與多位專家訪談探索人類學(xué)習(xí)與人工智能領(lǐng)域的協(xié)同空間如何構(gòu)建[10]。

        3 圖書館人工智能應(yīng)用中的莫拉維克悖論現(xiàn)象

        《大學(xué)圖書館現(xiàn)代化指南針報(bào)告》中提出應(yīng)用大數(shù)據(jù)、人工智能等創(chuàng)新技術(shù)實(shí)現(xiàn)大學(xué)圖書館的全方位升級(jí)與轉(zhuǎn)型是其適應(yīng)快速發(fā)展的技術(shù)環(huán)境的必然要求。 大學(xué)圖書館技術(shù)應(yīng)用亟待突破的具體問題中重點(diǎn)涉及人工智能等新技術(shù)的應(yīng)用,要推進(jìn)人工智能等新技術(shù)在自動(dòng)編目與標(biāo)引、用戶咨詢、智能推送、行為數(shù)據(jù)挖掘等各個(gè)場(chǎng)景的實(shí)際應(yīng)用[11]。 如何通過大數(shù)據(jù)、人工智能等新一代信息技術(shù)的協(xié)作支持推進(jìn)管理模式改革、業(yè)務(wù)流程重組與優(yōu)化,提升管理效率和決策、服務(wù)能力,滿足高校師生在人工智能時(shí)代先進(jìn)性、個(gè)性化、彈性化、高效化、智能化等方面的要求,已成為高校圖書館現(xiàn)代化轉(zhuǎn)型、智慧化創(chuàng)新發(fā)展的主要需求驅(qū)動(dòng)力。 這迫使高校圖書館需要放眼社會(huì)的最新發(fā)展且立足現(xiàn)實(shí),及時(shí)響應(yīng)當(dāng)前的先進(jìn)技術(shù),以人工智能技術(shù)為基礎(chǔ)發(fā)展創(chuàng)新驅(qū)動(dòng),以人機(jī)協(xié)同的方式融入管理與服務(wù)的各環(huán)節(jié),增強(qiáng)在教學(xué)科研、學(xué)習(xí)交流、知識(shí)服務(wù)、資源建設(shè)等各方面的服務(wù)能力。

        近些年圖書館在圍繞數(shù)字化轉(zhuǎn)型,向著智慧圖書館進(jìn)化與發(fā)展的過程中,人工智能在其中的促進(jìn)作用尤為顯著。 圖情領(lǐng)域關(guān)于人工智能的研究在過去幾年里一直在增長(zhǎng),許多學(xué)者認(rèn)為人工智能可以合理地改變圖書館服務(wù),并逐漸發(fā)展圖書館圍繞人工智能進(jìn)行創(chuàng)新與發(fā)展的意識(shí),更加渴望在圖書館提供的具體服務(wù)中探索人工智能技術(shù)融入的可能性[12]。 例如,積極嘗試采用人工智能提供“替代教育服務(wù)”[13]等。 隨著ChatGPT 出現(xiàn),越來越多的圖情研究者也在思考人工智能是否已具備與館員相似的服務(wù)能力,能否真正獨(dú)立的面向用戶開展信息服務(wù),能否給用戶帶來更好的服務(wù)體驗(yàn)等問題。 對(duì)此,莫拉維克悖論提供了一種客觀分析人工智能“可為”與“不可為”的視角。 厘清圖書館人工智能應(yīng)用中的莫拉維克悖論現(xiàn)象,有助于理性地梳理館員的未來努力方向,正確引導(dǎo)人工智能在圖書館中的實(shí)踐與應(yīng)用。

        3.1 莫拉維克悖論

        20 世紀(jì)80 年代,一部分早期人工智能研究者意識(shí)到人工智能在現(xiàn)實(shí)世界中存在局限性,即人工智能的“智能”是有限的。 漢斯·莫拉維克(Hans Moravec)等研究者提出“計(jì)算機(jī)在智力測(cè)試或下棋游戲中展現(xiàn)出成人水平的表現(xiàn)能力相對(duì)容易,而讓計(jì)算機(jī)實(shí)現(xiàn)一歲小孩般的感知和行動(dòng)能力卻是相當(dāng)困難甚至是不可能”[14]。 這個(gè)理論被稱為“AI 的嬰兒悖論”,該理論的核心觀點(diǎn)是,雖然人工智能系統(tǒng)在某些方面可能會(huì)超越人類,但在另外一些方面,例如感知、理解和創(chuàng)造等方面可能會(huì)遠(yuǎn)遠(yuǎn)落后于人類。這是因?yàn)槿祟愔悄苁侨苏w所具有的功能[15],人類的感知和行動(dòng)能力是通過長(zhǎng)時(shí)間的進(jìn)化和學(xué)習(xí)過程逐步形成的,借助于知識(shí)、經(jīng)驗(yàn)、知覺等理性或非理性邏輯與外部情境發(fā)生作用從而產(chǎn)生意識(shí)和認(rèn)知,甚至內(nèi)化為本能反應(yīng)[16]。 而人工智能的本質(zhì)是基于人工制造的信息處理系統(tǒng)和預(yù)測(cè)模型,按照事先設(shè)置好的形式語言和算法規(guī)則通過大量的數(shù)據(jù)和算法優(yōu)化來實(shí)現(xiàn)類似的能力,難以靈活應(yīng)對(duì)外部情境的千變?nèi)f化,具有明顯的技術(shù)邏輯特征。 人工智能能夠快速地從數(shù)量極其龐大的線索中搜索到關(guān)聯(lián)信息并給出一個(gè)答案,而人類經(jīng)常是憑借經(jīng)驗(yàn)、直覺甚至是情緒情感、興趣偏好做出堪稱成功的選擇[17]。莫拉維克悖論恰好映射出人工智能和人類智能的本質(zhì)區(qū)別,清晰指明了人工智能“可及”與“不可及”的領(lǐng)域。 由于人工智能具有革命性的潛力,其多項(xiàng)技術(shù)正在侵蝕圖書館館員所占據(jù)的各項(xiàng)業(yè)務(wù)領(lǐng)域,導(dǎo)致部分業(yè)務(wù)崗位將會(huì)過時(shí)或不再是組織發(fā)展所必需的。 因此,圖書館勢(shì)必要重新思考管理、服務(wù)結(jié)構(gòu),結(jié)合人工智能的優(yōu)勢(shì)與劣勢(shì)考慮館員的未來服務(wù)重點(diǎn)、發(fā)展方向,以及對(duì)人機(jī)協(xié)同模式的探索。

        3.2 人工智能的“可及”與“不可及”

        當(dāng)前,在圖書館服務(wù)中,人工智能技術(shù)的主要應(yīng)用分支包括:專家系統(tǒng)、機(jī)器學(xué)習(xí)(深度學(xué)習(xí))、機(jī)器人、自然語言處理、機(jī)器視覺和語音識(shí)別。 例如,專家系統(tǒng)可以復(fù)制圖書館員的行為意圖,確保機(jī)器會(huì)像圖書管理員一樣做出戰(zhàn)略性的反應(yīng),并不斷跟蹤用戶的搜索行為,智能地滿足他們的查詢需求,輔助提升檢索精度。 機(jī)器學(xué)習(xí)基于算法和分析,通過讓計(jì)算機(jī)學(xué)習(xí)數(shù)據(jù)和經(jīng)驗(yàn)來改進(jìn)性能,支持圖書館分析用戶的搜索行為、資源獲取模式,預(yù)測(cè)讀者借書的需求、圖書館人流,制定更加科學(xué)的資源建設(shè)計(jì)劃,實(shí)現(xiàn)對(duì)館藏資源、空間建設(shè)的自主評(píng)估等。 以Chat-GPT 為代表的自然語言處理,具有強(qiáng)大的數(shù)據(jù)搜索與匯總整合功能,可以訪問數(shù)十億個(gè)參數(shù)和文本,在給定的研究數(shù)據(jù)范圍中進(jìn)行快速的數(shù)據(jù)搜索,只需幾句提示性短語即可在幾分鐘甚至更短的時(shí)間,生成合理規(guī)范的書面回應(yīng)。 另外,ChatGPT 具有強(qiáng)大的意圖理解與有效解決問題的功能。 ChatGPT 出現(xiàn)之前,前幾代人工智能聊天機(jī)器人的反應(yīng)往往局限于定義明確的任務(wù)或問題,意圖理解功能性較低,當(dāng)被要求回答預(yù)先編程內(nèi)容之外的問題時(shí),則會(huì)出現(xiàn)“亂跳”現(xiàn)象或者直接終結(jié)對(duì)話。 ChatGPT 基于全新的半監(jiān)督學(xué)習(xí)算法,使得它對(duì)用戶的意圖理解能力顯著增強(qiáng),能夠基于人類的純文本語言和口語通過上下文理解用戶的意圖,可以有效的識(shí)別各種問題,從互聯(lián)網(wǎng)的大量信息中,開展科學(xué)的推理,做出準(zhǔn)確的反應(yīng),生成有效的內(nèi)容,并通過與用戶越來越多的交互進(jìn)行自我改進(jìn)。 另外,該模型承認(rèn)自己的錯(cuò)誤,會(huì)試圖拒絕用戶不適當(dāng)?shù)恼?qǐng)求,可以針對(duì)提問提供一種較為道德和公正的回應(yīng)。 而且,在建立“個(gè)人”對(duì)話的過程中,可以設(shè)計(jì)ChatGPT 的人設(shè),使其充當(dāng)館員角色,完整地對(duì)話過程中無需人工館員的干預(yù),將其集成到圖書館的智能搜索管理平臺(tái)中,可以大量簡(jiǎn)化用戶的搜索模式,提高檢索效率,也可以成為虛擬館員向用戶提供學(xué)習(xí)與研究指南,向用戶定向推送圖書館的相關(guān)資源、事件和程序。計(jì)算機(jī)視覺通過讓計(jì)算機(jī)系統(tǒng)理解和處理圖像和視頻,可以實(shí)現(xiàn)自動(dòng)圖書識(shí)別、分類,以及機(jī)器巡檢等工作,該技術(shù)可以對(duì)圖書館館藏資源實(shí)現(xiàn)全面監(jiān)控和維護(hù),及時(shí)發(fā)現(xiàn)和處理資源的故障和問題,強(qiáng)化圖書館自動(dòng)化運(yùn)作及維護(hù)的能力。 總之,人工智能具有強(qiáng)大的智慧性,且具有無比的耐心去做人們需要它做的事情,即使是無窮重復(fù)的任務(wù),就像苦苦推石頭上山的西西弗一樣。 高校圖書館在面對(duì)日益龐大和復(fù)雜的信息資源時(shí),通過人工智能技術(shù)實(shí)現(xiàn)數(shù)據(jù)匹配和知識(shí)管理可以在信息服務(wù)和管理執(zhí)行上更加精準(zhǔn)、高效,且豐富了圖書館服務(wù)的形式,能夠讓用戶感受到更智能、便捷的現(xiàn)代化服務(wù),降低人為錯(cuò)誤率、優(yōu)化業(yè)務(wù)流程的同時(shí)減輕了館員的常規(guī)工作負(fù)擔(dān),可以將注意力更多地集中在提供更專業(yè)、更有針對(duì)性的服務(wù)上。

        盡管ChatGPT 的出現(xiàn),在人工智能發(fā)展歷史上是跨時(shí)代的大事件,我們承認(rèn)人工智能在“智力”方面實(shí)現(xiàn)了重大突破,但迄今為止,其仍然存在兩個(gè)明顯的缺陷:欠缺創(chuàng)造力和變通能力。 即便是ChatGPT 帶來了非常多迷人的特性與價(jià)值,例如強(qiáng)大的意圖理解功能,內(nèi)容生成功能,產(chǎn)生某種“創(chuàng)造性”跡象,但該“創(chuàng)作”并不是對(duì)創(chuàng)造力的證明,而僅是通過組合和聯(lián)想技能得以實(shí)現(xiàn)。 真正的創(chuàng)造力并不能還原為自由組合和聯(lián)想,而在于能夠提出新問題,或者改變舊問題,改變既有思路,重新建立規(guī)則和方法。 人工智能的“智能”在于能行范圍內(nèi)的運(yùn)算,即只能思考有限的、程序化的、必然的事情,卻不可能思考無限性、整體性和不確定性。 而人類用來思考整體性、無限性和不確定性的能力有時(shí)候被認(rèn)為是“理性直觀”能力[18]。 所以人工智能的局限性并不意味著人工智能的智力不如人類,而是不同于人類。由于人工智能遠(yuǎn)離了“具身”的人類智能,面對(duì)人的直覺、靈感、經(jīng)驗(yàn)、情感等影響用戶服務(wù)效果的心智要素,人工智能的應(yīng)對(duì)能力明顯遜色于人類智能,甚至可以說,凡屬“感” 的范疇,計(jì)算機(jī)都無能為力[19],所以人工智能的“無感”,注定了基于人工智能的服務(wù)應(yīng)用是“離身”的,對(duì)于高校圖書館向用戶服務(wù)和教育的“具身”需求勢(shì)必會(huì)發(fā)生矛盾。 另外,ChatGPT 只是一種AI 模型,是人所役使的“工具”,不存在具有自主的主體性,無法不以人類為目的,自主提供其強(qiáng)大功能、開展各項(xiàng)服務(wù)。 由此可見,人工智能的根本局限性并未消除,無法提供自主性、變通性的服務(wù)和開展創(chuàng)造性的工作等,即在此類場(chǎng)景中呈現(xiàn)出莫拉維克悖論現(xiàn)象。

        3.3 館員的“轉(zhuǎn)型”與“守正”

        圖書館員是圖書館智能信息服務(wù)成功的重要因素,在智能管理與服務(wù)中起著重要的作用。 在人工智能時(shí)代,信息技術(shù)的發(fā)展必將推動(dòng)圖書館員職能和作用發(fā)生深刻地轉(zhuǎn)變,但館員對(duì)組織的重要性和價(jià)值不會(huì)消失,人工智能無法完全取代人類館員,館員不應(yīng)該害怕被人工智能取代,恰恰相反,館員不僅擁有專業(yè)領(lǐng)域知識(shí)、技能和經(jīng)驗(yàn),還具有直覺、經(jīng)驗(yàn)、人際交往等人類獨(dú)有的技能,以及適應(yīng)性、靈活性、創(chuàng)造性等人類特有的屬性。

        面對(duì)人工智能的“可及”領(lǐng)域,聰明的館員應(yīng)該及時(shí)的“轉(zhuǎn)型”,使自己與時(shí)俱進(jìn),對(duì)新的思想和技術(shù)保持開放,學(xué)習(xí)獲得更廣泛的技能,將人工智能技術(shù)作為有效的工作手段為自己賦能,成為有效的信息專業(yè)人員,應(yīng)對(duì)未來用戶對(duì)于智能信息服務(wù)模式的要求。 具體來說,高校圖書館需要對(duì)圖書館員進(jìn)行更多關(guān)于人工智能在圖書館管理服務(wù)中潛在應(yīng)用的培訓(xùn),培養(yǎng)一些新技能來保持智能技術(shù)進(jìn)步的相關(guān)性和有效性,以便與人工智能系統(tǒng)進(jìn)行交互、協(xié)作。 例如,熟悉了解圖書館中的人工智能應(yīng)用程序,熟練使用自動(dòng)化編目、自動(dòng)化借還書流程等技術(shù),以提高圖書館服務(wù)的效率和質(zhì)量;學(xué)習(xí)機(jī)器學(xué)習(xí)算法、自然語言處理技術(shù)、計(jì)算機(jī)視覺技術(shù)構(gòu)建和優(yōu)化圖書館管理系統(tǒng);學(xué)習(xí)數(shù)據(jù)挖掘、數(shù)據(jù)分析和數(shù)據(jù)管理,從大量的圖書館數(shù)據(jù)中提取有用的信息和知識(shí),創(chuàng)建大量可用的元數(shù)據(jù),通過數(shù)據(jù)分析和管理來了解用戶的偏好和需求,并為其提供更有效的服務(wù)。

        對(duì)于人工智能“不可及”領(lǐng)域,專業(yè)的館員需要在相應(yīng)領(lǐng)域恪守基礎(chǔ)并尋求突破。 例如,館員需要穩(wěn)固專業(yè)領(lǐng)域知識(shí)并專注于培養(yǎng)人際交往和解決問題的能力,如溝通、協(xié)作、組織、策劃等能力,處理更加專業(yè)、復(fù)雜的工作任務(wù),提供更加貼近讀者需求的服務(wù)和建議,組織和推廣圖書館的各項(xiàng)創(chuàng)意類活動(dòng)等;培養(yǎng)批判性思維的技能,知道人工智能可能存在的局限性和弱點(diǎn),以及在每次應(yīng)用人工智能自動(dòng)化過程中可能會(huì)遺漏哪些重要的環(huán)節(jié),會(huì)出現(xiàn)哪些復(fù)雜的道德和法律問題,如隱私、知識(shí)產(chǎn)權(quán)和偏見等等,以便能夠做出道德和正確的決策,區(qū)分和確定什么業(yè)務(wù)應(yīng)該自動(dòng)化,什么業(yè)務(wù)不應(yīng)該自動(dòng)化;培養(yǎng)創(chuàng)新能力,拓展開放、敏銳、前瞻的思維方式,在工作與服務(wù)中不斷嘗試新方法、新技術(shù)、新模式開展新實(shí)踐,創(chuàng)造新價(jià)值來應(yīng)對(duì)新時(shí)代的機(jī)遇和挑戰(zhàn)。

        3.4 人工智能與館員的協(xié)同發(fā)展

        技術(shù)的洪流難以抵抗,但館員的專業(yè)性仍然不可替代,館員和人工智能都有各自擅長(zhǎng)且不可互相替代的優(yōu)勢(shì),人機(jī)協(xié)作各取其長(zhǎng)、協(xié)同互補(bǔ),創(chuàng)造更具價(jià)值的知識(shí)服務(wù)才是高校圖書館未來主要的發(fā)展方向,從而形成“人+機(jī)器”既大于人也大于機(jī)器的效果。 所以,人類智慧需要與人工智能產(chǎn)生接觸與碰撞,將人工智能輸出的內(nèi)容整合到人類認(rèn)知系統(tǒng)中,獲得其作為數(shù)字工具、思維工具所賦予的啟示、能力,進(jìn)而迸發(fā)出更高的認(rèn)知能力與更新的創(chuàng)造力。高校圖書館應(yīng)加快有效領(lǐng)導(dǎo)和管理變革,結(jié)合自身?xiàng)l件與實(shí)際情況,重新思考人工智能時(shí)代下圖書館新的功能、作用與價(jià)值,確立轉(zhuǎn)型目標(biāo)并制定“人機(jī)協(xié)同”的發(fā)展規(guī)劃,探索以人為本、技術(shù)為先的管理服務(wù)模式,構(gòu)建與技術(shù)驅(qū)動(dòng)和需求驅(qū)動(dòng)相對(duì)應(yīng)的內(nèi)部創(chuàng)新驅(qū)動(dòng)機(jī)制,向著“人機(jī)協(xié)同”的智慧管理、服務(wù)系統(tǒng)邁進(jìn)與升級(jí)。

        4 高校圖書館“人機(jī)協(xié)同”發(fā)展框架的構(gòu)建

        根據(jù)莫拉維克悖論在圖書館服務(wù)中的現(xiàn)實(shí)關(guān)照,我們可知人工智能技術(shù)在圖書館的應(yīng)用實(shí)踐中具有優(yōu)勢(shì)也存在局限,同時(shí)人工智能技術(shù)也必將為圖書館員創(chuàng)造新的機(jī)會(huì),打開新視野。 因此,館員的服務(wù)重點(diǎn)需要根據(jù)實(shí)際情況進(jìn)行調(diào)整,既要關(guān)注基礎(chǔ)服務(wù),也要關(guān)注人工智能技術(shù)的應(yīng)用和發(fā)展,圖書館需要根據(jù)任務(wù)的性質(zhì)和難度,平衡兩者之間的服務(wù),綜合考慮實(shí)際需求,根據(jù)具體情況進(jìn)行分析,以充分利用兩者的優(yōu)勢(shì),提高圖書館服務(wù)的效率和質(zhì)量。

        4.1 構(gòu)建“人機(jī)協(xié)同”發(fā)展框架的必要性

        Engelbart(1963)的研究曾提出人類和機(jī)器都需要共同進(jìn)化,以創(chuàng)造出增強(qiáng)智能的人機(jī)系統(tǒng)[20]。 隨著大數(shù)據(jù)、人工智能等新技術(shù)的發(fā)展,知識(shí)工作的未來是人類和人工智能協(xié)同的未來,高校圖書館作為學(xué)校信息資源中心和知識(shí)管理中心,一直是學(xué)術(shù)研究和學(xué)生成長(zhǎng)的重要支撐陣地,在科技飛速更迭的信息化時(shí)代背景下面臨數(shù)字化轉(zhuǎn)型、服務(wù)創(chuàng)新、管理優(yōu)化等諸多復(fù)雜挑戰(zhàn)。 無論從推動(dòng)高校智慧化校園建設(shè)、強(qiáng)化科技服務(wù)支持,進(jìn)而提升圖書館先進(jìn)、智能和高效形象與價(jià)值,還是從經(jīng)濟(jì)角度更好地整合資源、節(jié)省人力資源成本和科學(xué)管理來應(yīng)對(duì)未來的發(fā)展要求,高校圖書館都需要視人工智能為一個(gè)積極、平等的工作伙伴,積極探索與人工智能理想的工作配置,實(shí)現(xiàn)人類智慧和機(jī)器智能優(yōu)勢(shì)互補(bǔ)、平衡相融,向著“人機(jī)協(xié)同”的方向共同進(jìn)化和發(fā)展。

        因此,構(gòu)建一個(gè)“人機(jī)協(xié)同”發(fā)展框架是高校圖書館對(duì)未來趨勢(shì)的提前布局,不可回避且尤為重要。該框架將引導(dǎo)高校圖書館整體智慧化體系的構(gòu)建,幫助提高圖書館各項(xiàng)管理與服務(wù)的標(biāo)準(zhǔn)化程度,更好地針對(duì)業(yè)務(wù)場(chǎng)景靈活規(guī)劃應(yīng)對(duì)策略,優(yōu)化業(yè)務(wù)流程,促進(jìn)高校圖書館向著“人、機(jī)、信息、資源”多領(lǐng)域深度協(xié)同的知識(shí)中樞與實(shí)踐中心步步發(fā)展。

        4.2 “人機(jī)協(xié)同”五步發(fā)展框架

        本研究以高校圖書館工作與服務(wù)的本質(zhì)為核心,結(jié)合人機(jī)融合與協(xié)作的觀點(diǎn),思考高校圖書館轉(zhuǎn)型發(fā)展的整體設(shè)計(jì),探索如何與人工智能等數(shù)字技術(shù)架構(gòu)協(xié)同、有效地銜接,形成“人機(jī)協(xié)同”發(fā)展框架,使館員能夠發(fā)展、接受人工智能情景化工作方式,提升相關(guān)能力;分析、明確人工智能準(zhǔn)備活動(dòng)中組織面臨的主要挑戰(zhàn),正確理解組織的“本質(zhì)”,在“本質(zhì)”中嵌入所選擇的主要挑戰(zhàn),對(duì)人工智能技術(shù)進(jìn)行辨識(shí);此外,結(jié)合圖書館人工智能應(yīng)用中的莫拉維克悖論現(xiàn)象,必須了解人工智能優(yōu)于人類智能的方式,將人工智能視為圖書館面向讀者服務(wù)與管理中建立更好互聯(lián)的工具,同時(shí)也要認(rèn)識(shí)到人工智能的局限性以及人類智能的復(fù)雜性、適應(yīng)性、靈活性、創(chuàng)造性與決定性,在圖書館內(nèi)部建立有效使用人工智能技術(shù)的模式,從而構(gòu)成高校圖書館“人機(jī)協(xié)同”五步發(fā)展框架。 如圖1 所示。

        圖1 “人機(jī)協(xié)同”五步發(fā)展框架

        4.2.1 激發(fā)與認(rèn)知

        兩個(gè)認(rèn)知系統(tǒng)(人類認(rèn)知和人工智能),每個(gè)系統(tǒng)以不同的方式、不同的規(guī)模和不同的速度進(jìn)行認(rèn)知工作,具有不同的優(yōu)勢(shì)和能力。 要真正實(shí)現(xiàn)協(xié)作,兩個(gè)認(rèn)知系統(tǒng)需要共享認(rèn)知。 也就是說,人類和人工智能都必須雙向洞察并理解對(duì)方的知識(shí)。 所以,圖書館需要積極引導(dǎo)、激發(fā)館員學(xué)習(xí)人工智能技術(shù)的熱情和興趣,組織學(xué)習(xí)、交流、實(shí)踐等活動(dòng)促進(jìn)館員對(duì)人工智能進(jìn)行基礎(chǔ)與正確的認(rèn)知,了解什么是人工智能,并接受與發(fā)展人工智能協(xié)同工作的思想準(zhǔn)備,了解到人工智能可能給圖書館整體運(yùn)作及館員個(gè)人工作帶來的新可能性,以及發(fā)揮的新作用。另外,建立激勵(lì)機(jī)制,如技術(shù)獎(jiǎng)勵(lì)、晉升機(jī)會(huì)等,鼓勵(lì)館員積極學(xué)習(xí)和應(yīng)用人工智能技術(shù),提高應(yīng)用人工智能開展工作的積極性和創(chuàng)新能力。

        同時(shí),圖書館可以整理業(yè)務(wù)知識(shí)文檔,包括圖書館的規(guī)章制度、服務(wù)流程、常見問題解答等,作為人工智能系統(tǒng)學(xué)習(xí)的基礎(chǔ)材料,或建立一個(gè)知識(shí)圖譜,將不同業(yè)務(wù)領(lǐng)域的知識(shí)進(jìn)行分類和整理,利用人工智能技術(shù)進(jìn)行自動(dòng)化學(xué)習(xí)和更新,使其理解圖書館不同業(yè)務(wù)領(lǐng)域的知識(shí)與任務(wù),從而實(shí)現(xiàn)人機(jī)雙向認(rèn)知。

        4.2.2 辨識(shí)與提升

        在寬泛的人工智能范疇內(nèi),人工智能技術(shù)又有不同細(xì)分以及應(yīng)用領(lǐng)域,圖書館首先需要全面研究人工智能技術(shù),了解人工智能技術(shù)的發(fā)展趨勢(shì)和應(yīng)用場(chǎng)景,明確人工智能的作用和局限性,并開展技術(shù)評(píng)估,比較不同技術(shù)的優(yōu)劣,考慮技術(shù)應(yīng)用的成本效益,選擇最經(jīng)濟(jì)、最實(shí)用的技術(shù)應(yīng)用于圖書館業(yè)務(wù)。然后,進(jìn)行市場(chǎng)應(yīng)用調(diào)研,梳理業(yè)務(wù)流程和業(yè)務(wù)痛點(diǎn),確定需要應(yīng)用人工智能技術(shù)的業(yè)務(wù)領(lǐng)域,了解圖書館領(lǐng)域中人工智能技術(shù)的應(yīng)用案例、用戶的需求和期望、具體技術(shù)的成熟度和適用性。 以及,對(duì)適用的人工智能技術(shù)進(jìn)行試驗(yàn)和驗(yàn)證,評(píng)估技術(shù)的實(shí)際效果和應(yīng)用價(jià)值。

        另外,科技飛速發(fā)展的時(shí)代對(duì)館員專業(yè)知識(shí)和核心技能提出了更高的要求,高校圖書館要提升館員團(tuán)隊(duì)整體的人工智能技術(shù)應(yīng)用水平和應(yīng)用效果。一方面引進(jìn)相關(guān)領(lǐng)域的專業(yè)人才,另一方面,建立館員培訓(xùn)計(jì)劃,為館員提供學(xué)習(xí)資源,鼓勵(lì)館員加大對(duì)人工智能等新技術(shù)的批判性接觸,明確不同人工智能技術(shù)之間的差異,結(jié)合自身特定的業(yè)務(wù)內(nèi)容選擇適合的人工智能技術(shù),有針對(duì)性地開展技能培訓(xùn),提升數(shù)據(jù)技能、創(chuàng)新意識(shí)、快速學(xué)習(xí)能力、服務(wù)開發(fā)能力、數(shù)字工具使用能力等,保持自身在人工智能世界中工作和服務(wù)的相關(guān)性。

        4.2.3 分工與協(xié)作

        隨著人工智能功能性的大幅提升,使人類和機(jī)器之間智能、勞動(dòng)和權(quán)力的分配被重新洗牌。 就圖書館工作而言,雖然人工智能可以處理大量的數(shù)據(jù)和信息,比館員更快地執(zhí)行常規(guī)認(rèn)知任務(wù),但其并不具備館員豐富的專業(yè)知識(shí)和服務(wù)經(jīng)驗(yàn),不能替代館員開展人性化的人際交流和情感互動(dòng),無法根據(jù)用戶的需求和變化,靈活調(diào)整服務(wù)內(nèi)容。 所以,圖書館在對(duì)館員和人工智能進(jìn)行分工與協(xié)調(diào)時(shí),要確定人機(jī)協(xié)同服務(wù)的目標(biāo),是提高服務(wù)效率,優(yōu)化服務(wù)質(zhì)量,還是提高用戶體驗(yàn)等,需要綜合考慮多種因素。 第一,從用戶的需求和體驗(yàn)角度出發(fā),合理分配館員和人工智能技術(shù)的工作任務(wù),提高用戶的體驗(yàn)感和滿意度,避免各項(xiàng)服務(wù)對(duì)人工智能的過度依賴。 第二,充分尊重館員的意見和建議,利用館員的專業(yè)知識(shí)和經(jīng)驗(yàn)建立人機(jī)協(xié)作機(jī)制與人機(jī)協(xié)同服務(wù)模塊,制定人工智能技術(shù)的應(yīng)用規(guī)范和標(biāo)準(zhǔn),明確服務(wù)模塊的功能、流程、接口等,確保技術(shù)應(yīng)用的安全、可靠和服務(wù)體驗(yàn)的專業(yè)、有效。 第三,從服務(wù)效率和質(zhì)量的角度明確人工智能與館員的分工和責(zé)任,考慮館員和人工智能技術(shù)的各自優(yōu)勢(shì)項(xiàng)目、工作能力和效率,合理分配工作任務(wù)和時(shí)間,確保工作的順利協(xié)調(diào)和高效銜接,找尋最佳的協(xié)作模式,促進(jìn)雙方的優(yōu)勢(shì)互補(bǔ),并建立跨部門、跨機(jī)構(gòu)的合作機(jī)制,促進(jìn)技術(shù)應(yīng)用的協(xié)同和共享。

        例如,圖書館可以利用人工智能技術(shù)對(duì)一些重復(fù)性的工作流程進(jìn)行自動(dòng)化,處理某些簡(jiǎn)單、高頻的任務(wù),如自動(dòng)化編目書籍、自動(dòng)化流通書籍等,這樣可以減輕館員的工作量,提升服務(wù)效率;也可以將人工智分配在某項(xiàng)業(yè)務(wù)工作的部分環(huán)節(jié)里,例如通過智能閱讀平臺(tái)收集讀者的閱讀行為數(shù)據(jù),并對(duì)數(shù)據(jù)進(jìn)行分析,為下一環(huán)節(jié)館員根據(jù)數(shù)據(jù)分析結(jié)果識(shí)別不同讀者的閱讀需求,為讀者提供不同的服務(wù)內(nèi)容、反饋和指導(dǎo)打下基礎(chǔ),并優(yōu)化館藏管理和服務(wù)規(guī)劃;或者將人工智能視為工作助理貫穿業(yè)務(wù)始終,例如在參考咨詢服務(wù)中,人工智能作為館員的助理可以根據(jù)館員與學(xué)生的現(xiàn)有對(duì)話主動(dòng)搜索背景信息,這些信息可能包括學(xué)術(shù)文獻(xiàn)摘要、同類型問題、開放式網(wǎng)絡(luò)搜索等等,同時(shí)還可以提供參考咨詢服務(wù)期間的對(duì)話摘要,全程參與其中,幫助館員改進(jìn)服務(wù)方法,提升服務(wù)質(zhì)量;再或開發(fā)獨(dú)立工作任務(wù),在人工智能系統(tǒng)中創(chuàng)建例程,實(shí)現(xiàn)自動(dòng)化,如通過使用類似ChatGPT 的智能聊天機(jī)器人代替館員進(jìn)行讀者服務(wù),憑借其較強(qiáng)的意圖理解功能嘗試模擬人工館員以人性化的方式與讀者開展溝通與交流。

        4.2.4 決策與評(píng)估

        人類和人工智能之間的交集是當(dāng)人工智能產(chǎn)生知識(shí)輸出,由人類進(jìn)行最終仲裁。 所以當(dāng)館員與人工智能合作為用戶服務(wù)時(shí),既需要合理地組織與協(xié)調(diào),也需要綜合、果斷地決策與嚴(yán)謹(jǐn)、專業(yè)地評(píng)估。決策階段,圖書館需要考慮人工智能可以訪問哪些數(shù)據(jù),組織當(dāng)前可用的數(shù)據(jù),思考未來需要收集的數(shù)據(jù),對(duì)人機(jī)協(xié)同的業(yè)務(wù)做出全面和準(zhǔn)確的判斷,館員憑借自身業(yè)務(wù)知識(shí)和經(jīng)驗(yàn)對(duì)數(shù)據(jù)源進(jìn)行收集、識(shí)別、整理、挑選,對(duì)人工智能的工作環(huán)節(jié)引導(dǎo)方向。 同時(shí),對(duì)技術(shù)應(yīng)用的風(fēng)險(xiǎn)進(jìn)行判斷,排除技術(shù)應(yīng)用可能帶來的風(fēng)險(xiǎn)和影響,采取相應(yīng)的措施進(jìn)行管理和控制。 評(píng)估階段,圖書館需要建立評(píng)估標(biāo)準(zhǔn),確立評(píng)估人工智能輸出的內(nèi)容質(zhì)量標(biāo)準(zhǔn),包括安全性、準(zhǔn)確性、公正性、體驗(yàn)性等;以及道德影響的標(biāo)準(zhǔn),如是否尊重隱私、是否侵犯人權(quán)、是否造成社會(huì)不公等。 館員需要對(duì)人工智能分析輸出的內(nèi)容進(jìn)行專業(yè)化鑒別與評(píng)估,并對(duì)人機(jī)協(xié)同服務(wù)的效果和成效開展評(píng)估,為服務(wù)的改進(jìn)和優(yōu)化提供參考,以人為中心提升人工智能協(xié)同的可靠性與有用性,并使圖書館提供的服務(wù)更具創(chuàng)造性、啟發(fā)性、智慧性。

        4.2.5 推廣與改進(jìn)

        當(dāng)人機(jī)協(xié)同的業(yè)務(wù)模塊正式應(yīng)用于圖書館管理與服務(wù)中,需要積極開展推廣工作,通過宣傳材料、宣傳活動(dòng)、社交媒體、組織培訓(xùn)、咨詢服務(wù)等方式,向用戶宣傳人機(jī)協(xié)同服務(wù)系統(tǒng)的特點(diǎn)、功能和優(yōu)勢(shì),詳細(xì)介紹人機(jī)協(xié)同業(yè)務(wù)的使用方法、操作流程、注意事項(xiàng)和專業(yè)建議,讓更多的用戶了解并積極使用圖書館人機(jī)協(xié)同服務(wù)系統(tǒng)提供的智慧服務(wù)。 同時(shí),成立專業(yè)的團(tuán)隊(duì),負(fù)責(zé)人機(jī)協(xié)同服務(wù)系統(tǒng)的開發(fā)、維護(hù)和調(diào)研,建立用戶反饋渠道,收集用戶的意見和建議,增加對(duì)內(nèi)研討與對(duì)外交流,從內(nèi)部找問題與不足,從外部借鑒的經(jīng)驗(yàn)與做法,不斷對(duì)服務(wù)模塊進(jìn)行優(yōu)化,對(duì)用戶體驗(yàn)進(jìn)行改善,對(duì)技術(shù)系統(tǒng)進(jìn)行更新等,以提升服務(wù)的便捷性、易用性、穩(wěn)定性等使用價(jià)值和效果,適應(yīng)用戶的最新變化、需求和技術(shù)的發(fā)展趨勢(shì)。再有,加強(qiáng)數(shù)據(jù)安全和隱私保護(hù),確保用戶信息不被泄露或?yàn)E用,提高服務(wù)系統(tǒng)的可靠性,從而完成高校圖書館人機(jī)協(xié)同升級(jí)智慧服務(wù)體系的五步發(fā)展流程。

        5 結(jié)語

        “人機(jī)協(xié)同”五步發(fā)展框架的應(yīng)用對(duì)館員個(gè)人及組織群體的數(shù)字化能力提出了更高的要求。 該框架中技術(shù)鑒定評(píng)估、專業(yè)模塊分工、制定協(xié)同方案、技術(shù)風(fēng)險(xiǎn)判斷、流程優(yōu)化改進(jìn)等具體工作的落實(shí)難度較大,對(duì)于傳統(tǒng)的館員和組織存在一定的難度和挑戰(zhàn)。 所以,高校圖書館一方面需積極推進(jìn)內(nèi)部培訓(xùn)提升館員的人工智能素養(yǎng),引進(jìn)人工智能技術(shù)研究和應(yīng)用的專業(yè)人才,共同組建專業(yè)團(tuán)隊(duì);或通過外聘、外包等方式獲取相關(guān)資源、技術(shù)支持和解決方案。 另一方面,拓展合作范圍,與學(xué)校內(nèi)部的計(jì)算機(jī)科學(xué)、人工智能等專業(yè)學(xué)院、技術(shù)部門、管理部門或外部的數(shù)據(jù)商、科技公司等機(jī)構(gòu)合作建設(shè)人工智能實(shí)驗(yàn)室,共同營(yíng)造智能、開放的合作關(guān)系來保障“人機(jī)協(xié)同”框架的落實(shí)。

        此外,人工智能需要大量的數(shù)據(jù)來進(jìn)行訓(xùn)練和學(xué)習(xí),高校圖書館需要加大數(shù)據(jù)基礎(chǔ)設(shè)施建設(shè),為“人機(jī)協(xié)同”框架的實(shí)踐給予底層保障。 首先,建立完整的數(shù)據(jù)集,包括館藏資源、讀者信息、借閱數(shù)據(jù)、圖書館流通數(shù)據(jù)等,對(duì)密集采樣的、細(xì)粒度的、時(shí)間有序的主體活動(dòng)數(shù)據(jù)進(jìn)行跟蹤,為數(shù)據(jù)分析和應(yīng)用提供基礎(chǔ)。 其次,建立科學(xué)的數(shù)據(jù)存儲(chǔ)和管理系統(tǒng),包括數(shù)據(jù)備份、數(shù)據(jù)恢復(fù)、數(shù)據(jù)安全等,確保數(shù)據(jù)的完整性和安全性。 再有,實(shí)現(xiàn)數(shù)據(jù)共享和開放,提高數(shù)據(jù)的應(yīng)用價(jià)值,建立起更趨向于符合自身智能發(fā)展需求與支持用戶需求的數(shù)據(jù)空間。

        同時(shí),在引入人工智能技術(shù)時(shí),高校圖書館也需要注意平衡技術(shù)、服務(wù)、風(fēng)險(xiǎn)等多方面的關(guān)系,防范人工智能對(duì)高校圖書館帶來一些負(fù)面影響。 如,成本不可控,引入人工智能技術(shù)需要投入大量的資金和技術(shù)支持,這可能會(huì)增加高校圖書館的運(yùn)營(yíng)成本;過度技術(shù)依賴,高校圖書館可能會(huì)過度依賴人工智能技術(shù),而忽略傳統(tǒng)圖書館服務(wù)的價(jià)值和意義,導(dǎo)致用戶體驗(yàn)感和傳統(tǒng)服務(wù)質(zhì)量下降,對(duì)組織文化產(chǎn)生負(fù)面影響;技術(shù)更新存在風(fēng)險(xiǎn),隨著人工智能技術(shù)的不斷更新和升級(jí),高校圖書館需要不斷跟進(jìn)并更新技術(shù)設(shè)備和服務(wù),可能會(huì)帶來不確定的風(fēng)險(xiǎn)等問題有待未來繼續(xù)探索。

        猜你喜歡
        人機(jī)協(xié)同人機(jī)館員
        人機(jī)“翻譯員”
        從內(nèi)到外,看懂無人機(jī)
        南都周刊(2021年3期)2021-04-22 16:43:49
        青海省人民政府關(guān)于轉(zhuǎn)聘謝承華、斗尕館員為榮譽(yù)館員的決定
        人工智能環(huán)境下新聞報(bào)道的新趨勢(shì)
        大觀(2017年10期)2017-12-19 09:20:21
        從NLG到機(jī)器新聞寫作
        今傳媒(2017年10期)2017-11-04 16:23:12
        青海省人民政府關(guān)于轉(zhuǎn)聘謝佐等3位館員為榮譽(yù)館員的決定 青政〔2017〕32號(hào)
        “人機(jī)大戰(zhàn)”人類智慧遭遇強(qiáng)敵
        海外星云(2016年7期)2016-12-01 04:17:50
        未來深空探測(cè)中的人機(jī)聯(lián)合探測(cè)
        太空探索(2016年5期)2016-07-12 15:17:58
        雙輪自平衡車控制方法
        數(shù)字化技術(shù)為主導(dǎo)的人機(jī)協(xié)同制造
        无码中文字幕加勒比一本二本| 精品一区二区三区芒果| 国产乱人对白| 朝鲜女子内射杂交bbw| 亚洲AV无码未成人网站久久精品 | 日本一区二区三区四区啪啪啪| 医院人妻闷声隔着帘子被中出| 猫咪免费人成网站在线观看| 免费无码又爽又刺激又高潮的视频| 丝袜美腿一区在线观看| 疯狂三人交性欧美| 无码精品a∨在线观看十八禁 | 香蕉视频www.5.在线观看| 亚洲日韩AV无码美腿丝袜| 中文字幕乱码亚洲三区| 久久久国产打桩机| 狠狠久久久久综合网| 国产一区二区三区色区| 在线观看免费日韩精品| 国产精品久久久久久久久岛| 国产主播在线 | 中文| 少妇人妻精品一区二区三区视| 亚洲午夜精品一区二区| 亚洲精品久久久久久动漫| 无码91 亚洲| 日本视频一中文有码中文| 国产日产欧产精品精品| 99ri国产在线观看| 国产精品黑丝美女av| 日本精品久久久久中文字幕| 色悠久久久久综合欧美99| 亚洲AV秘 片一区二区三区| 久久中文字幕亚洲综合| 色爱无码av综合区| 亚洲婷婷丁香激情| 久久亚洲综合亚洲综合| 国产精品国产三级国产专播| 夜色阁亚洲一区二区三区| 日产精品一区二区在线| 国语自产视频在线| 狠狠色狠狠色综合日日不卡|