陸 康 潘小宇 劉 慧 任貝貝

（1.南京曉莊學院 南京 211171;2.上海市網絡技術綜合應用研究所 上海 200336）

引言

近年來，人工智能（Artificial Intelligence，AI）等新技術的發(fā)展引起了社會的廣泛關注。歐美已經開始探索AI的治理措施，我國也在2019年6月17日發(fā)布《新一代人工智能治理原則》[1]。2019年4月8日，歐盟委員會發(fā)布一份AI的道德準則，該準則由2018年12月公布的人工智能道德準則草案演變而來，提出了實現(xiàn)可信賴人工智能的七個要素，要求不得使用公民個人資料做出傷害或歧視他們的行為[2]。新時代的圖書館如同一個城市的“大腦”，凝聚著海量智慧信息，并利用最前沿的科技，將自身打造成一個更高效、更便捷、更精準、更智慧、更親民、更具吸引力的復合文化空間，以滿足公眾多樣的文化需求[3]。圖書情報學作為一門與計算機技術、數據、信息、知識等關系極其密切的學科，本身就與AI技術有極強的黏性，業(yè)界的相關研究也與AI發(fā)展基本一致[4]。AI需要圍繞數據倫理、算法倫理、安全倫理、法律責任四個方面進行治理[5]。我國圖書館職業(yè)倫理規(guī)范最初是借鑒國外的經驗，后逐漸發(fā)展形成適合國內圖書館實際情況的職業(yè)倫理規(guī)范與條例[6]。圖書館倫理規(guī)范隨法律、用戶、技術以及業(yè)務場景等環(huán)境因素的變化而發(fā)生改變。圖書館的發(fā)展離不開技術創(chuàng)新的支持。AI等技術創(chuàng)新應用是圖書館發(fā)展的動力。圖書館服務的優(yōu)化是AI等技術創(chuàng)新在圖書館應用的目標歸屬[7]。AI在圖書館的應用存在著數據安全與倫理困境等問題，未來在圖書館提供服務過程中如何避免安全問題與倫理危機的出現(xiàn)，這需要對AI等新技術加以規(guī)范約束，使其有效地為圖書館智慧服務提供支持，并以此促進智慧圖書館技術創(chuàng)新與制度完善。

1 文獻回顧

我國圖書館對AI的關注始于20世紀80年代，其時，劉衛(wèi)國在《圖書館學理論研究的幾個問題》中指出，大眾傳播、機器通信系統(tǒng)、圖書館系統(tǒng)、智能系統(tǒng)和人工智能等是直接設計人的信息傳播的系統(tǒng)[8]。徐高林于90年代中期介紹了有關開發(fā)應用前景的三大技術，并指出加強AI與其他技術的協(xié)同作用，才能更快地建成切實可行的智能化圖書情報系統(tǒng)[9]。根據CNKI的檢索結果，近三年來，圖書館的人工智能研究成果不斷涌現(xiàn)，從2017年的60篇，2018年的165篇， 發(fā)展到2019年的206篇。在“超星發(fā)現(xiàn)”中，以“人工智能+圖書館”為主題進行檢索（設定只檢索學術文章，檢索時間為2020年2月12日，如圖1所示），得到圖書18本，期刊文章1 003篇，學位論文230篇，會議論文30篇，但其中提到“倫理”的研究成果較少，只有6篇，顯然AI倫理問題未得到普遍關注。

《國際圖聯(lián)趨勢報告》 （IFLA Trend Report）將人工智能列為四大技術趨勢之一[10]。AI 為圖書館既帶來了機遇，也帶來了挑戰(zhàn)。圖書館受到大數據和人工智能創(chuàng)新發(fā)展的影響，圖書館的學術研究也面臨著環(huán)境和需求的雙重變化[11]。圖書館的AI研究可以分為兩個層面：以技術創(chuàng)新為代表的宏觀理論研究，結合智慧圖書館[12]、大數據等新技術[13]、新理念[14]驅動圖書館以及圖書館業(yè)務的變革[15]。以法規(guī)制度為代表的倫理危機研究，主要圍繞AI風險防范[16]、數據安全、用戶隱私等方面的研究。無論是互聯(lián)網AI、大數據等新技術創(chuàng)新發(fā)展的外部環(huán)境變化，還是圖書館內部的法律制度與新技術能力等因素都給圖書館事業(yè)發(fā)展帶來了機遇和挑戰(zhàn)[17]。AI產品是否具有人權，如何界定其權利和義務以及應遵循何種倫理標準[18]，這些問題的解決是圖書館服務創(chuàng)新所面臨的實際問題，也是圖書館事業(yè)發(fā)展所要解決的問題。文章圍繞以AI為代表的圖書館創(chuàng)新技術，通過治理的角度、圖書館的責任以及倡導的理念等方面，結合《新一代人工智能治理原則》，探討圖書館智慧服務的倫理規(guī)范等問題，以求為圖書館服務創(chuàng)新與事業(yè)發(fā)展提供參考依據。

圖1 “人工智能”+“圖書館”主題檢索知識點關聯(lián)分析

2 AI治理的三個層面與三個認知

互聯(lián)網中以AI為代表的新技術的治理，在全球范圍內得到了廣泛關注[2]。歐盟在2019年4月8日發(fā)布了“AI產品7大原則”，包括：“受人類監(jiān)管”“技術穩(wěn)健性與安全性”“隱私和數據治理”“透明度”“多元化，非歧視和公平性”“環(huán)境和社會福祉”“問責制”。近些年，我國也積極應對AI等創(chuàng)新技術發(fā)展與應用可能引發(fā)的潛在危機，《數據安全管理辦法》《民法典人格權編草案》《信息安全技術個人信息安全規(guī)范》《網絡生態(tài)治理規(guī)定》等都有所涉及?；ヂ?lián)網治理也從政府、企業(yè)、社會與用戶等主體協(xié)同治理信息內容逐步向推薦算法、深度偽造、流量造假與網絡暴力等熱點問題延伸。圖書館信息資源共享、用戶隱私保護等問題也隨著技術倫理危機的出現(xiàn)而持續(xù)發(fā)酵。但圖書館對國家互聯(lián)網治理一直缺乏正面回應[19]，因此圖書館急需從三個層面與認知角度，應對服務創(chuàng)新所帶來的管理弊端，提升管理能力與水平。

2.1 三個層面的挑戰(zhàn)

2019年3月，在聯(lián)合國教科文組織首次舉辦的“推動人性化人工智能全球會議”上，聯(lián)合國教科文組織總干事Audrey Azoulay在開幕致辭中提到:“AI是人性的新前沿, 必須確保AI以人為本的發(fā)展方向?！比斯ぶ悄懿粌H對教育、科技、衛(wèi)生和可持續(xù)發(fā)展等方面起關鍵性助力作用，同時也給人類帶來了一系列挑戰(zhàn), 特別是在倫理、人權和安全方面。聯(lián)合國經濟合作與發(fā)展組織秘書長安赫爾·古里亞認為：“如果人工智能沒有以人為中心的價值觀和包容性, 那么它就沒有任何價值?！盵20]AI技術支持著圖書館的服務創(chuàng)新，開拓了圖書館的人機協(xié)同、多元融合、共享共建、自主控制的智慧服務新時代，賦予了圖書館創(chuàng)新服務的能力，也對圖書館傳統(tǒng)權利、權責以及倫理方面產生了挑戰(zhàn)。

2.1.1 AI對傳統(tǒng)權利的挑戰(zhàn)

B.A.Wood等通過實證調研發(fā)現(xiàn)學術圖書館對AI的熱衷程度與法律、醫(yī)療衛(wèi)生等行業(yè)有差異，也與圖書館對其他新技術的引入態(tài)度不同[21]。圖書館對AI技術與業(yè)務融合存在著一定的顧慮，一方面由于館員對AI技術不能夠深入理解[22]，另一方面AI技術在文獻資源推薦系統(tǒng)和自然語言處理方面尚未達到預期的效果。以機器學習為代表的現(xiàn)代AI系統(tǒng)出現(xiàn)之前，人類是地球上唯一具備自主行為能力的主體，國家以及社會組織作為法律上擬定制度的人，其自身不具備行為能力，需要人來代表其行使相關權利。圖書館用戶服務，雖然從數字圖書館開始，增加了互聯(lián)網的渠道，但仍需要相應的館員與用戶交流，而服務系統(tǒng)只是起到“中介”的作用。從AI的概念、意義與應用價值綜合分析發(fā)現(xiàn)AI作為一個具有獨立自主能夠做出選擇的非自然的實體，具備“類人行為”特征，例如“自動駕駛汽車”“自動問答”，甚至“創(chuàng)作作品”等，給傳統(tǒng)的人類主體地位帶來了一定挑戰(zhàn)，其中最為突出的是AI服務產生的“后果”責任的承擔以及不符合傳統(tǒng)倫理道德等問題的解決。

2.1.2 AI對圖書館責任的挑戰(zhàn)

A.Comsa等介紹了一些圖書館利用AI進行智能化圖書管理的案例[23]。原屬于館員的圖書管理工作被交予AI處理，其自主性與不可預測性切斷了人與用戶之間的因果關系。AI引發(fā)的可能是“技術—經濟”決策導致的風險,也可能是法律保護的科技文明本身帶來的風險，這些問題產生的社會風險具有共生性、時代性、全球性等特點。由AI等技術創(chuàng)新引發(fā)的智慧革命給當前的法律規(guī)則與秩序帶來了一場前所未有的挑戰(zhàn)，與民事主體法、著作權法、侵權責任法、人格權法、交通法、勞動法等諸多現(xiàn)有法律制度形成沖突，也凸顯了法律制度產品供給的缺陷[24]。我國現(xiàn)有的圖書館法律制度，也存在著不適應互聯(lián)網技術創(chuàng)新帶來的圖書館服務危機，其中圖書館所承擔的責任問題無法做到合理的界定。例如，《公共圖書館法》第四十三條規(guī)定“公共圖書館應當妥善保護讀者的個人信息、借閱信息以及其他可能涉及讀者隱私的信息，不得出售或者以其他方式非法向他人提供?！痹谧x者信息保護方面，AI等技術都是以大數據為基礎，以讀者為服務對象，而感知讀者需求必然用到用戶數據，但AI顯然不能夠承擔圖書館的法律責任。所以，AI等服務創(chuàng)新技術的使用也需要對服務模式、責任承擔等改變圖書館傳統(tǒng)倫理的問題展開探討。

2.1.3 AI對圖書館倫理的挑戰(zhàn)

Adetoun A Oyelude研究了2017年度互聯(lián)網輿論的新技術軌跡[25]，發(fā)現(xiàn)圖書館的技術熱點逐漸從以AI為主的技術創(chuàng)新向信息素養(yǎng)轉移。然而因為館員、用戶等信息素養(yǎng)能力不足，無法適應技術創(chuàng)新帶來的變革，所以圖書館對AI發(fā)展存在著一定顧慮。AI 給圖書館帶來的倫理挑戰(zhàn)主要體現(xiàn)在兩個方面，第一，技術應用的范圍與邊界問題，包括圖書館之間、圖書館業(yè)務系統(tǒng)之間以及圖書館與用戶之間的AI服務對象以及服務的內容究竟有哪些。第二，技術創(chuàng)新發(fā)展改變了傳統(tǒng)的服務理念、方式、內容。對于圖書館來說，館員對新技術的依賴，必然降低其用戶服務的積極性，從而逐漸喪失業(yè)務能力，最終失去崗位。當AI超越館員服務水平的時候，重新考慮圖書館的AI服務活動的道德性問題將被提上日程。

當前在技術創(chuàng)新的背景下，AI正以更快的方式融入人類社會的方方面面[26]。如果AI達到與人類相近的思維能力與推理能力，那么對AI與人的道德地位的界定將面臨著挑戰(zhàn)。AI的責任問題也是社會層面不可回避的重要議題。AI功能的實現(xiàn)源自于計算機算法與程序支持，難免存在無法避免的失誤或者錯誤。圖書館雖然未涉及大規(guī)模的AI業(yè)務應用，但是也需要未雨綢繆提前謀劃AI等技術創(chuàng)新帶來的挑戰(zhàn)。圖書館技術創(chuàng)新能否解決新的倫理危機，需要館員加深對AI等技術創(chuàng)新的了解。

2.2 三個層面的認知

人類心智和認知分為神經、心理、語言、思維、文化五個層級[27]。從信息技術發(fā)展歷史來看，人類通過利用計算機的認知在逐漸發(fā)生改變?；ヂ?lián)網法律經歷了三次重大變革，并且每個階段都圍繞著特殊問題制定了相關的法律、標準規(guī)范進行約束，以規(guī)范互聯(lián)網發(fā)展。認知的第一階段關注的焦點是計算機，各國政府圍繞著計算機的安全問題，例如欺詐、濫用以及犯罪等制定了系列法律法規(guī)，美國在1986年頒布的《計算機欺詐和濫用法案（Computer Fraud and Abuse Act）》就誕生在第一階段。認知的第二階段關注的焦點是信息，各國政府圍繞著信息中涉及用戶隱私、信息保護、信息傳播與信息濫用等問題展開法律制定，例如歐盟1995年的《個人數據保護指令》、美國1996年的《通信規(guī)范法》以及我國在1997年由公安部發(fā)布的《計算機信息網絡國際聯(lián)網安全保護管理辦法》等。認知的第三個階段關注數據與AI算法等技術創(chuàng)新帶來的新挑戰(zhàn)，例如歐盟2019年4月8日發(fā)布的《人工智能道德準則（Ehtics Guidelines For Trustworthy AI）》（可信賴AI的倫理準則）以及我國在2019年5月25日發(fā)布的《人工智能北京共識》，主要針對人工智能研發(fā)、使用、治理三方面[28]。智慧圖書館的AI治理與應用，需要注意以下三點內容：

2.2.1 數據控制、處理者應遵循數據保護規(guī)則規(guī)范

AI發(fā)展離不開大數據的支持?；ヂ?lián)網大數據已經成為新的戰(zhàn)略資源。所以，只有規(guī)范數據的使用，才能夠為AI等以大數據為基礎的創(chuàng)新技術提供發(fā)展空間。Affonso[29]等調查了南美國家數字圖書館數據收集以及用戶隱私保護制度，并使用探索研究方法對特定國家的數字圖書館進行調研，識別這些圖書館在用戶意識和環(huán)境中明確存在隱私政策的情況下收集的數據。例如巴西的國家數字圖書館使用Wireshark工具來識別用戶交互過程中收集的隱私數據。通過調研發(fā)現(xiàn)只有兩個經過審查的數字圖書館提供用戶隱私保護的指導。大部分數字圖書館在收集數據時，用戶并不知情。用戶對數據收集的時間、方式和地點認識不足可能會涉及泄露隱私。數字圖書館隱私政策的可用性對于提高這一過程的認識至關重要。近些年來，無論是歐盟《通用數據保護條例》（General Data Protection Regulation，簡稱GDPR），還是我國的《信息安全技術 個人信息安全規(guī)范》都對用戶數據使用進行約束，“用戶知情權”成為其中的主要條款之一。圖書館作為數據的控制者，擁有較多權利的同時也有義務對用戶數據進行保護。用戶作為數據主體，數據隱私一直是其所困惑的問題之一。所以AI作為圖書館服務的工具涉及用戶數據的使用時，也要遵循圖書館數據使用的相關規(guī)則，接受制度的約束與監(jiān)管，盡量避免不當獲取情況的發(fā)生。只有這樣才能夠保護數據的安全、用戶的隱私。

2.2.2 AI治理需要采取積極包容審慎的規(guī)制方式

AI技術創(chuàng)新要革除現(xiàn)有的法律規(guī)則與傳統(tǒng)倫理障礙，避免過時的法規(guī)、制度與倫理要求阻礙AI發(fā)展。AI逐漸滲透至圖書館業(yè)務中，帶來了新的服務模式與內容，對傳統(tǒng)圖書館業(yè)務產生迭代作用，對其不能有過多的限制性條款。圖書館依托互聯(lián)網技術開展文獻資源服務，圖書館的服務創(chuàng)新也緊密聯(lián)系著互聯(lián)網技術創(chuàng)新，因此新舊技術、新技術與舊制度產生的沖突在圖書館將不斷增多。所以，圖書館的自我革新不應限于技術層面，而應該深入到制度、規(guī)范與倫理意識層面，這樣才能夠避免舊思維、舊思想阻礙新事物的發(fā)展。互聯(lián)網環(huán)境下的技術、服務模式快速迭代，讓制度無法跟上技術創(chuàng)新的步伐，完善的行業(yè)規(guī)范無法及時形成。但圖書館的技術創(chuàng)新不能因行業(yè)規(guī)范沒有形成而停滯不前，便只能采取事后監(jiān)管、追責或者出臺相應的標準、行業(yè)公約、倫理框架、實踐案例、技術指南等來規(guī)范圖書館AI等技術創(chuàng)新行為?！缎乱淮斯ぶ悄苤卫碓瓌t》就在此背景下發(fā)布的，以此加強治理各行業(yè)的AI應用。

2.2.3 AI技術特征與復雜性追求應圍繞算法透明

互聯(lián)網環(huán)境下，人類數字化的存在為數據平臺算法權利的形成和擴張?zhí)峁┝丝臻g[30]。算法的不可解釋性（黑箱）掩蓋了數據權利存在的弊端，從而進一步催生了數據歧視，并因此產生了權利侵害等問題。對算法的法律規(guī)制不應忽視其透明的維度。“透明”根基于大數據技術發(fā)展所催生的互聯(lián)網領域的公共空間，旨在克服算法等方面存在的技術偏私問題。正如社會層面要求政府信息公開一樣，用戶對技術透明也不是要求算法在每一個步驟、原理以及實現(xiàn)過程進行解釋，而且簡單的公開算法系統(tǒng)的源代碼也不能夠提供有效的透明度，反而進一步會對用戶數據隱私以及技術安全造成威脅。從AI技術角度來分析，圖書館普通館員、用戶以及其他從業(yè)者現(xiàn)階段對AI系統(tǒng)的理解比較困難，更別提對AI的決策、優(yōu)化或者完善能起到促進作用。通過解釋某一個結果的實現(xiàn)過程進而使算法透明方面公開化面臨著巨大的挑戰(zhàn)，處置不當將會限制AI應用。但是，如何使圖書館在AI系統(tǒng)行為與決策上實現(xiàn)有效的透明是值得探索的，這也可能會對提升圖書館的智慧服務效率起到促進作用。例如圍繞AI技術特征，分析現(xiàn)有的法規(guī)條款，發(fā)現(xiàn)歐盟的GDPR沒有規(guī)定對AI等自動化決策行為提出要求，僅僅要求提供內在邏輯意義的相關信息，以解釋AI等自動化決策的重要意義與預期的后果（危機判斷）等。所以，算法透明原則可被用來限制“算法黑箱”等產生的不利后果，但是對于社會層面，例如立法、行政、司法措施規(guī)制算法環(huán)境下,算法透明原則既不可行,也無必要[31]。因此，圖書館領域內的算法透明原則在算法規(guī)制譜系中應該處于非普適性、輔助性的位置。本質主義色彩濃厚、以算法透明為代表的事前規(guī)制，反而影響技術創(chuàng)新發(fā)展。所以，圖書館AI應用涉及算法等問題時，更加得當的規(guī)制策略應該是以實用主義為導向、以算法問責為代表的事后規(guī)制。

圖書館發(fā)展是一個不斷創(chuàng)新與迭代的過程。新技術替代舊方案，實現(xiàn)服務創(chuàng)新，是圖書館引以自豪的亮點。圖書館的技術創(chuàng)新、服務創(chuàng)新不能改變“以用戶為中心”的服務初心?；ヂ?lián)網不僅給圖書館帶來了發(fā)展機遇，也帶來了一定挑戰(zhàn)?；ヂ?lián)網的文獻資源服務內容與形式已經改變了用戶思維方式。圖書館也應該隨之進行自我革新，在遵循傳統(tǒng)倫理規(guī)范基礎上，引入AI等新技術，提升傳統(tǒng)服務的質量，讓圖書館時刻保持與社會同步。所以，現(xiàn)代圖書館不僅僅是文獻資源服務的中心，也是科技創(chuàng)新機構，需要承擔更多的倫理責任。

3 圖書館技術創(chuàng)新的倫理責任

每一種職業(yè)都有其服務對象，都有各自活動的環(huán)境、內容和方式，都承擔著不同的社會責任[32]。倫理責任取決于主體的責任意識和道德修養(yǎng)[33]。圖書館倫理責任主要是指圖書館主體在文獻資源服務等職業(yè)活動中所應承擔的道德義務及違反道德義務應承擔的后果，例如對道德評價、倫理的糾錯、倫理的問責等。圖書館作為社會公益性組織，責任始終處于圖書館倫理價值取向最重要的地位[34]?！耙杂脩魹橹行摹钡姆绽砟畈粩嗳谌雸D書館的各項業(yè)務中，發(fā)揮著重要作用。美國斯坦福大學在2019年3月18日宣布成立“以人為本”人工智能研究院（Stanford Human-Centered AI Institute， HAI）， 致力于推動人工智能領域的跨學科合作，讓科技以人為中心，并加強對人工智能社會影響的研究[35]。在當前AI技術應用創(chuàng)新背景下，圖書館應比任何時候都要更加注重技術與倫理之間的平衡。

3.1 圖書館技術創(chuàng)新的效率驅動

現(xiàn)代圖書館的功能可以概括為資源建設、讀者工作、宣傳推廣、系統(tǒng)保障、行政管理、技術創(chuàng)新、基礎設施和學術研究等八個維度[36]。圖書館的主要價值活動與輔助性價值活動可以拓展為圖書館的核心業(yè)務與創(chuàng)新服務。互聯(lián)網技術創(chuàng)新對圖書館價值活動產生了一定的驅動效果。一方面，圖書館對互聯(lián)網技術的引入意味著圖書館有提升服務效率的需求，圖書館應該發(fā)揮好技術的優(yōu)勢，善用、優(yōu)化技術來提高服務效率，從而產生一定的社會價值。另一方面，圖書館業(yè)務的實施離不開館員的支持。館員具有人性的一面，有一定的深度與價值，也會追求人性、維護人類固有的價值觀與實現(xiàn)自我，具有避免技術創(chuàng)新發(fā)展與應用突破人類倫理底線的能力。圖書館智慧服務的目標就是為了提高服務效率，但是圖書館作為公益性機構，不能一味追求自我價值而忽略肩負的社會責任。圖書館在技術創(chuàng)新環(huán)境下，更應該發(fā)揮其服務讀者、服務社會的職能，以實現(xiàn)社會影響與自我價值的統(tǒng)一。在商業(yè)領域，國內外的互聯(lián)網創(chuàng)新企業(yè)也開始承擔倫理責任，一方面注重技術創(chuàng)新對社會進步的影響，另一方面積極運用技術與制度方法規(guī)避技術濫用、數據濫用造成的倫理危機。S.W.Hawking、E.Musk以及Bill Gates等西方名人都意識到AI存在的道德風險，呼吁對AI等新技術的開發(fā)、使用要有審慎的態(tài)度。大學數字圖書館國際合作計劃（CADAL）是我國應用虛擬現(xiàn)實技術最為成功的項目,目前已有虛擬閱讀、資源評介與推薦、古籍資源利用等[37]，這些應用在不斷革新圖書館的傳統(tǒng)服務模式。但圖書館缺乏專門的倫理與社會部門來應對AI等技術創(chuàng)新所帶來的倫理與社會問題。在整個行業(yè)都對新技術、新理念、新模式日益青睞的背景下，技術設計與實施的多學科綜合評估是必要的。

3.2 圖書館技術創(chuàng)新的危機避免

2020年1月11日，在騰訊主辦的第三屆“千里之行”科技向善年度論壇中，麻省理工學院物理學終身教授、未來生命研究院創(chuàng)始人馬克思·泰格馬克暢談AI技術，呼吁更加廣泛的共同體，以實現(xiàn)真正惠及人類生活的美好愿景[38]。2018年被稱為是國際數據保護元年[39]。一方面由于在2018年，世界各國發(fā)生了多起用戶隱私泄露事件，從而引起了全球互聯(lián)網用戶的恐慌以及各國政府與國際組織的關注；另一方面，歐盟GDPR正式開始實施，新加坡、印度、巴西、澳大利亞等國數據保護法集中出臺以及我國個人信息保護法也進入了立法階段。圖書館技術創(chuàng)新離不開數據，智慧服務體系的實現(xiàn)，需要通過用戶數據來感知用戶所需?！凹夹g向善”的理念就是圍繞技術倫理的制度化建設，與圖書館的“以用戶為中心”理念有著異曲同工之處。圖書館的技術創(chuàng)新倫理危機最終歸集于用戶數據是否規(guī)范化使用的問題，即用戶數據隱私保護，其核心在于“善”與“度”兩個方面。所以圖書館在落實技術創(chuàng)新價值觀與方法論方面應該是多維度、多元化的，既要遵循現(xiàn)有的法律法規(guī)，例如《公共圖書館法》《網絡安全法》等有關條款以及《新一代人工智能治理原則》等，又要在圖書館內部建立倫理審核制度以及用戶權益保障機制等來落實圖書館服務創(chuàng)新所帶來的倫理危機。圖書館作為數據控制者，很容易讓用戶產生誤解。讓用戶擁有個人數據的知情權與決定權，是圖書館技術創(chuàng)新避免倫理危機的方法之一。

圖書館智慧服務的發(fā)展趨勢不可避免，這是由于互聯(lián)網數字技術與圖書館業(yè)務需求相互整合、相互構建的結果。圖書館高度的專業(yè)化、知識化與技術化使得其風險性與不確定性越來越高，圖書館需要從自身發(fā)展角度不斷反思，不斷探索AI等新技術的治理模式。圖書館的技術倫理教育能夠增進館員與用戶的倫理自覺，并時刻保持對技術創(chuàng)新應用潛在影響與防范的反思，這樣才能保障智慧圖書館的健康發(fā)展?！缎乱淮斯ぶ悄苤卫碓瓌t》對圖書館智慧服務的新技術應用，起到了一定的參考作用。

4 《新一代人工智能治理原則》對圖書館智慧服務的啟示

AI在圖書館領域的實踐已經初具規(guī)模，尤其在文獻資源服務方面已經與業(yè)務深入融合。如表1所示，圖書館領域對AI的探索仍然停留在技術創(chuàng)新方面，未從規(guī)則倫理角度進行宏觀規(guī)劃?！缎乱淮斯ぶ悄苤卫碓瓌t》的八項原則為圖書館AI治理提供了參考（如圖2所示）[41]。

表1 AI理論與圖書館實踐相關構成

圖2 智慧圖書館《新一代人工智能治理原則》的啟示

4.1 和諧友好的多場景智慧服務嵌入

AI發(fā)展的初衷就是為了增進人類共同福祉。圖書館的專家系統(tǒng)、智能檢索、智能推薦等弱AI系統(tǒng)的應用，符合圖書館長期以來遵從的“以用戶為中心”的文獻資源服務的價值觀和倫理道德。人臉識別、智能借閱等服務創(chuàng)新功能實現(xiàn)了服務人類文明進步的目標，促進了圖書館的發(fā)展。圖書館AI的實踐，目前還處于弱AI的初級階段，主要嵌入的是圖書館基本業(yè)務開展所需的技術升級。長期以來，圖書館重視安全保障工作，無論是空間安全，還是互聯(lián)網安全，都是對用戶、館員權益的尊重，這些理念也隨著社會文明的進步而得到落實細化。圖書館智慧服務開展的初衷就是為了更好地服務用戶。AI技術是支持圖書館智慧服務實施的工具，而且技術的嵌入也具有針對性。當前圖書館的智慧服務還處于初始階段，AI嵌入業(yè)務實施的單一性也避免了新技術的誤用、濫用以及惡用的情況發(fā)生。

4.2 公平公正的用戶與圖書館權益保障

AI的發(fā)展提倡公平公正，保障利益相關者的權益并促進機會的均等性?；ヂ?lián)網中的圖書館是一個復雜系統(tǒng)的集合體，既包括服務對象——用戶，也包括服務實施者——館員以及圖書館文獻資源與技術保障的支持者——供應商等。AI技術的復雜性預示著圖書館無法通過自身的技術力量升級至AI系統(tǒng)。這就需要圖書館之間、圖書館與館員、圖書館與用戶以及圖書館與技術支持者之間的合作，匯聚力量來完成圖書館智慧服務應用的升級改造。在涉及多重關系情況下，無論是用戶還是館員、供應商，都需要具備全局觀念，以相互協(xié)作的方式通過持續(xù)技術創(chuàng)新、管理方式改進，并且在數據設計、算法改進、技術開發(fā)、實踐探索和應用過程中逐漸消除偏見和歧視，以實現(xiàn)弱AI向強AI甚至超級AI的跨越式發(fā)展，實現(xiàn)圖書館智慧服務的全覆蓋。

4.3 包容共享的技術服務創(chuàng)新資源共享

AI也應該促進綠色發(fā)展，符合低能耗、資源節(jié)約型的要求。共享機制的建立有助于避免資源浪費。正如“數據鴻溝”一樣，“技術鴻溝”也同樣存在。AI的引入促進了圖書館服務創(chuàng)新，這必然會對傳統(tǒng)服務模式造成沖擊。例如智能借閱與智能推薦改變了傳統(tǒng)的文獻資源借閱模式。這類“沖擊”必然會引起部分館員的反感，會影響?zhàn)^員的價值體現(xiàn)?；ヂ?lián)網的創(chuàng)新理念、創(chuàng)新思維不斷影響著人類，也促進了各行各業(yè)的轉型發(fā)展。館員應該從發(fā)展角度推動AI技術在圖書館服務創(chuàng)新中的應用，接受AI教育與普及，提升弱勢群體的適應性，逐漸消除“技術鴻溝”，進而解決“數字鴻溝”“資源鴻溝”等問題，讓圖書館的文獻資源共享理念在AI等新技術的支持下最終實現(xiàn)。

4.4 尊重隱私的用戶數據的規(guī)范化使用

用戶隱私信息保護是圖書館用戶信息資源化的前提和基礎[42]。AI發(fā)展應尊重和保護圖書館用戶的個人隱私，也應該充分保障用戶個人的知情權和選擇權。歐盟GDPR以及我國《信息安全技術個人信息安全規(guī)范》對用戶個人信息（數據）的收集、存儲、處理、使用等各個環(huán)節(jié)中應該設置邊界以及建立制度的規(guī)范方面做了明確的條款說明?！缎乱淮斯ぶ悄苤卫碓瓌t》再次明確，并對完善個人數據授權撤銷機制，以及對竊取、篡改、泄露和其他非法收集利用個人信息的行為提出明確反對。圖書館智慧服務對象以及數據的關聯(lián)對象都是用戶，尊重用戶的隱私，制定并遵從規(guī)范化數據使用的制度，是圖書館智慧服務開展的重要前提與基礎。

4.5 安全可控的智慧服務與技術保障

信息安全是數字圖書館建設的重要內容之一。信息安全在經歷技術保障、管理保障和制度保障三個階段后，逐漸形成了一套完善的運行體系，并在圖書館領域得到了普及和推廣[43]。技術創(chuàng)新背景下的圖書館AI應用，應該圍繞著技術保障、管理保障以及制度保障三個方面完善信息安全內容。依托大數據、云計算、機器學習等技術，圖書館AI的信息安全體系也應該不斷深入至大數據安全、計算安全、機器學習算法安全等方面，從而不斷提升AI系統(tǒng)的透明性、可解釋性、可靠性、可控性，同時建立、實現(xiàn)可審核、可監(jiān)督、可追溯、可信賴的規(guī)范體系，為圖書館智慧服務提供完備的制度保障。圖書館應該高度關注AI系統(tǒng)的安全，提高AI抗干擾能力，形成AI的安全評估和管控能力，逐步形成圖書館領域獨特的AI治理規(guī)范體系。

4.6 共擔責任的圖書館共享機制構建

圖書館信息資源共享是社會發(fā)展的客觀要求與必然產物，是以計算機技術、互聯(lián)網技術、移動通信技術以及數字圖書館相關技術為依托所構建的綜合的數字圖書館服務平臺。技術創(chuàng)新為圖書館的信息資源共享帶來了跨時代的革命動力[44]。圖書館是AI研發(fā)的主導者、使用者，圖書館也應具有高度的社會責任感和自律意識，嚴格遵守法律法規(guī)、倫理道德和標準規(guī)范，讓AI等技術創(chuàng)新服務行為規(guī)范化。圖書館也是責任擔當者。AI等新技術的應用，應該建立AI研發(fā)、應用后果的問責機制，同時要明確研發(fā)者（系統(tǒng)集成商）、使用者（圖書館）和受用者（用戶）等的責任。圖書館AI應用過程中應確保人類（館員、用戶等）的知情權，告知（用戶、圖書館等）可能產生的風險與影響。同時圖書館的責任擔當也包括防范采用AI進行非法活動的行為，例如信息欺詐等。

4.7 開放合作的多學科機構之間的交流

圖書館、情報與文獻學具有鮮明的跨學科特征,在知識生產、積累與發(fā)展過程中,既有對其他學科基礎理論、方法論、學術觀點及實踐的借鑒、引用、移植和整合,也有向外輸出理論、方法和技術,對其他學科產生的輻射和影響[45]。圖書館的技術創(chuàng)新工作也應該借鑒、鼓勵跨學科、跨領域、跨地區(qū)、跨國界的交流合作。國際組織、政府部門、科研機構、教育機構、企業(yè)、社會組織、公眾在AI發(fā)展與治理中的協(xié)調互動，能夠有效促進AI應用與治理能力的整體提升。在充分尊重各國AI治理原則和實踐的前提下，開展國際對話與合作，可以推動形成具有廣泛共識的國際AI治理框架和標準規(guī)范?！秶H圖聯(lián)趨勢報告》已經將AI列為四大技術趨勢之一，教育學、統(tǒng)計學、計算科學、心理學、控制論、信息論、認知學以及圖書館、情報與文獻學等多學科的交流讓圖書館AI應用實現(xiàn)跨越式發(fā)展。

4.8 敏捷治理的科學化規(guī)范化的模式

治理是政府的行為。AI從發(fā)展至今，逐漸得到各國政府的關注，而發(fā)展過程中涉及的問題，不是企業(yè)與個人能夠解決的。所以，需要政府層面的治理，實現(xiàn)AI發(fā)展的科學化與規(guī)范化。AI驅動下的智慧圖書館服務的升級也需要科學化、規(guī)范化的治理模式加以指導[46]。圖書館“以用戶為中心”的服務理念以及“以人為本”的發(fā)展理念，通過“互聯(lián)網+業(yè)務”的融合，將“人”“資源”“空間”整合起來，運用AI等技術關聯(lián)，實現(xiàn)全新的智慧圖書館服務新模式。從圖書館的實踐創(chuàng)新角度看，AI將幫助圖書館重構“智慧服務”路徑，踐行圖書館知識服務的社會責任，進而推動圖書館管理服務工作的優(yōu)化升級。對于新技術的治理，圖書館需要圍繞政府層面的法律法規(guī)以及IFLA等機構層面的行業(yè)規(guī)范等開展治理工作。

圖書館需要尊重AI的發(fā)展規(guī)律，在推動AI在圖書館業(yè)務中實現(xiàn)創(chuàng)新、有序發(fā)展的同時，及時發(fā)現(xiàn)、解決可能引發(fā)的安全與倫理風險。圖書館也需要不斷豐富智慧服務的手段，優(yōu)化業(yè)務管理機制，完善技術服務治理體系，推動治理原則貫穿AI應用與服務的全生命周期，并對未來強AI以及超強AI的潛在風險持續(xù)開展研究和預判，確保AI始終朝著有利于智慧圖書館、智慧社會發(fā)展的方向得到應用。

5 結語

AI已廣泛應用到社會的各個領域，當前對AI治理的思考，重點應以維護人類的傳統(tǒng)倫理道德為先。AI技術在圖書館的應用，實現(xiàn)了AI從傳統(tǒng)的機器學習研發(fā)逐步走向實踐，從理論探索向普及應用方向發(fā)展。圖書館知識服務升級需要AI等技術進行技術迭代，以滿足長期受互聯(lián)網思維影響的用戶需求?！缎乱淮斯ぶ悄苤卫碓瓌t》的八項原則為圖書館AI治理提供了參考。圖書館肩負的倫理責任并踐行“技術向善”理念與“以用戶為中心”的服務理念有效融合，使得圖書館智慧服務逐步向規(guī)范化、制度化、人性化方向發(fā)展。智慧圖書館的發(fā)展需要AI等科學技術與人文精神的互動，只有不斷加強技術創(chuàng)新與服務創(chuàng)新的融合，推動技術理論與倫理規(guī)范教育，才能夠更好地利用AI實現(xiàn)提升圖書館服務效率的目標。