宋春艷

延展認知技術的五大倫理追問

宋春艷

延展認知技術是指將認知活動從人腦或身體延展到外部的認知環(huán)境的一類技術，互聯(lián)網是其中最為突出的代表。延展認知技術給人類自身和社會發(fā)展帶來了便捷，也引發(fā)了諸多倫理爭議。本文首先界定了延展認知技術并對相關概念進行了辨析，然后探討了延展認知技術引發(fā)的五大倫理追問，最后對倫理問題的治理提出了建議。

延展認知；延展認知技術；倫理問題；

當前，信息技術的飛速發(fā)展，導致人們工作方式甚至大腦運作方式發(fā)生深刻改變?；ヂ?lián)網成為外部認知環(huán)境與認知主體相互融合的最佳案例，也即延展人類心智的技術代表。從技術演變的歷史來看，延展認知技術大致經歷了語言、文字、紙張、印刷術、計算機、互聯(lián)網的歷史演變。目前，以大數(shù)據(jù)、云計算、普適計算和物聯(lián)網等技術為核心的新一代信息技術成為延展認知技術的主要代表，未來納米技術、生物技術、信息技術和認知科學的會聚發(fā)展，將由于技術對人類認知的超強延展性與大腦的深度融合，突破認知主體與外在媒介或是有機體與無機體的界限。延展認知技術對人類社會生活的快速滲透，不僅改變了傳統(tǒng)的人機關系，而且還影響到人們的思維方式、生活方式、知識創(chuàng)造、經濟生產甚至社會結構。這些可能產生革命性突破的技術在帶來便捷的同時還潛藏著許多未知的風險，對此保持恒定的警覺并進行超前的倫理考量變得日益緊迫和重要。

一、延展認知技術的界定及相關概念辨析

1.延展認知技術的概念界定

目前，學界并未明確提出“延展認知技術”（extended-cognitive technology）這一概念，因此有必要首先對其進行界定?！把诱拐J知技術”這一概念源自“延展認知”（extended cognition）或“延展心智”（extended mind）理論。“延展認知”以及“延展心智”由克拉克和查爾莫斯于1998年提出，其核心思想是“認知并不局限在顱骨之內”和“心智可以延展到身體之外”，強調了外在環(huán)境在驅動認知進程中的重要作用[1]（P12）。保羅在此基礎上提出了“網絡延展心智（web-extended mind）”，認為網絡系統(tǒng)的有關技術組件和數(shù)據(jù)資源也可以成為人類認知系統(tǒng)的功能性基礎[2]（P446）。還有學者更進一步地提出，主體認知不僅能夠延展到外部環(huán)境中的工具上，如筆記本或者互聯(lián)網，也能夠延展到其他人的大腦和身體上，這種延展認知稱之為“社會性延展認知”（socally extended cognition），社會性延展認知依賴高度的信任支持或有效的社會契約[3]（P48）。由此可見，延展認知理論伴隨著技術和社會的發(fā)展而逐漸深化。

如果說認知技術是指一系列對人類認知過程生物機制的模擬和強化[4]（P2），那么延展認知技術則是指將認知活動從人腦或身體延展到外部的認知環(huán)境的那部分技術；并且，這部分技術已經成為使用者心智或認知的不可或缺的構件。如果將人類認知分為神經層級、心理層級、語言層級、思維層級和文化層級[5]（P34），那么延展認知技術則是指那些對語言層級、思維層級和文化層級（即高階認知層級）進行模擬、強化或延展的技術。

雖然“延展認知”自一提出就備受推崇，然而也引起了學界的不少爭議，其焦點集中在認知主體與外在認知環(huán)境的關系的性質上。一些學者認為，延展認知的錯誤在于把與身體接觸和互動的物體所組成的耦合關系誤認為是構成關系，因此錯誤推導出認知的外溢。延展認知并不是真正的認知過程；并且，顱內大腦的認知所涉及的腦結構與大腦其他部分有著緊密聯(lián)系，這一點與孤立的外在媒介有著本質的不同。除此之外，福多還指出，如果外界事物統(tǒng)統(tǒng)因為對認知活動的參與而被賦予了認知者的角色，那么認知的延展終點將成為難題[6]（P107）?？偟膩砜矗涍^學界十多年的討論，人們已經不再糾結于延展心智是否存在，因為互聯(lián)網及會聚技術的發(fā)展讓人們真切地體驗到了延展認知技術對心智的延展，這些技術成為人類身體之外的環(huán)境而影響著大腦的認知活動。人們開始對延展認知技術帶來的哲學問題、倫理問題以及相應的解決途徑展開了思考和討論。

2.延展認知技術的其他相關概念辨析

雖然目前學界尚未對“延展認知技術”進行明確界定，但與之相關的概念有“認知增強技術”、“會聚技術”以及“云技術”、“大數(shù)據(jù)技術”、“普適計算技術”、“物聯(lián)網技術”等新一代信息技術。下面將通過闡釋這些相關概念的涵義、關聯(lián)和區(qū)別，以期得到關于“延展認知技術”的精確內涵和外延。

(1)認知增強技術

認知增強技術是指利用現(xiàn)代生物醫(yī)學技術增強認知力的那類技術。認知增強技術起源于對認知損傷的醫(yī)學治療，但目前已經發(fā)展到對健康個體認知能力的非醫(yī)學目的干預。從其利用的手段來看，認知增強技術主要包括藥物增強、植入器械、基因干預等三類[7]（P64）。與延展認知技術通過對認知環(huán)境延展而強化人類認知能力不同的是，認知增強技術強化的是人類身體，也即認知主體本身。

(2)會聚技術

會聚技術（NBIC）指的是納米技術、生物技術、信息技術和認知科學四大領域的協(xié)調綜合，其中每一個領域在當前都正處于突飛猛進的發(fā)展中。會聚技術提出的初衷就是為了提高人類能力，尤其是認知和交際能力。華萊士以這樣的豪言描繪了 NBIC的宏偉目標：如果認知科學家能夠想到它，納米工程師就能夠建造它，生物工程師就能夠實現(xiàn)它，信息技術工程師就能夠監(jiān)視和控制它[8]（P20）。由此可見，會聚技術對人類認知的延展，不局限于通過生物技術提高認知主體自身的認知能力，而且還通過改善認知環(huán)境來提高人類綜合認知水平。會聚技術的出現(xiàn)，打破了認知主體與認知環(huán)境的界限。

(3)信息技術

信息技術是當代延展認知技術的代表，一般認為包括傳感技術、通信技術和計算機技術，分別是人的感覺器官的延伸與拓展、人的神經系統(tǒng)的延展與拓展、人的大腦功能的延伸與拓展。近年來由于大數(shù)據(jù)技術、云技術、普適計算技術與物聯(lián)網技術等突飛猛進的進展而使得信息技術在延展人類認知方面取得了令人矚目的成績。大數(shù)據(jù)技術的獨特之處是它能從獲得的近似全面的信息中獲得最接近真實的調查結果，加快了信息通訊速度，大大節(jié)約了人類認知成本。云計算技術是大數(shù)據(jù)技術的核心[9]（P3-74）。普適計算和云計算一樣，都是實現(xiàn)服務的無處不在、不知不覺。普適計算技術以人的需求為中心，從根本上改變了人去適應機器計算的被動式思想[10]（P94）。物聯(lián)網技術是指在互聯(lián)網基礎上，通過遙感、定位、射頻等技術并利用終端設備實現(xiàn)智能監(jiān)控、跟蹤定位的技術的總稱，強調物物之間的互聯(lián)通信[11]（P81），增強了人類對認知環(huán)境的掌控。

以上研究表明：認知增強技術、會聚技術與信息技術與延展認知技術既有區(qū)別，也有關聯(lián)。認知增強技術與延展認知技術不能混為一談，雖然延展認知技術也能夠增強認知，但二者增強認知的手段并不相同，前者借助于認知環(huán)境中的某個要素共同構成認知載體，主要指信息技術或信息技術與其他技術的會聚，后者一般通過直接針對人類大腦或身體的生物技術來增強認知；會聚技術與延展認知技術雖有交叉，但二者并不完全等同，會聚技術中通過信息技術與其他技術會聚來改善認知環(huán)境的那部分技術屬于延展認知技術；信息技術屬于延展認知技術，尤其體現(xiàn)在大數(shù)據(jù)技術和物聯(lián)網技術方面?？偟膩砜矗畔⒓夹g和會聚技術表現(xiàn)出延展認知技術近似的功能屬性和發(fā)展目標，前者是延展認知技術現(xiàn)今的典型代表，而后者乃是未來主要發(fā)展趨勢。

二、延展認知技術的倫理追問

延展認知技術雖然自古就有，但是傳統(tǒng)的這類技術并未對人類的生活帶來如今天這般巨大的影響和倫理風險。伴隨著會聚技術的發(fā)展，未來延展認知技術呈現(xiàn)出無限發(fā)展的可能，這引發(fā)了人們的倫理擔憂。

1.延展認知技術是否威脅人類安全

當延展認知技術從外在認知環(huán)境因素“悄悄”變成心智構成因素時，我們面臨的第一個倫理追問就是，它是否會威脅到人類自身的安全，因為它離我們的心智是如此之近。其中，最直接的威脅莫過于隱私安全的威脅。在當今大數(shù)據(jù)時代，各個系統(tǒng)之間的數(shù)據(jù)可以彼此印證、互相解釋，通過數(shù)據(jù)整合與信息加總，幾乎可以完整再現(xiàn)一個人生活的全部軌跡，個人隱私已經無所遁形[12]（P73）；最嚴重的威脅莫過于生命安全的威脅。自主機器人殺手（LARs）的問世除了使人遠離戰(zhàn)火現(xiàn)場之外，還可以自主決定是否殺害目標。這讓學者和公眾都為全自動機器人能夠行使對人類的生殺大權感到極度恐慌[13]（P6）；最深遠的威脅莫過于種屬安全的威脅。智能機器人設計的初衷本來是幫助人類完成計算、記憶等認知活動，但是當阿爾法狗戰(zhàn)勝李世石之后，很多人擔心未來智能機器人將超越人類；加之科幻電影中機器人頻頻以反面角色出現(xiàn)，公眾甚至擔心未來智能機器人一旦擁有自我意識后可能會屠殺人類。

我覺得人物塑造有一些毛病，像陸浩然在停工之后有兩場戲感覺統(tǒng)統(tǒng)不對，廳長已經出面了工廠停工了，所以上任完以后自己已經被釘在墻上了，又到江潮涌家里夜訪那場戲，還有跟老太太那場戲，都需要改進。

2.延展認知技術是否對人的認知能力產生負面影響

當諸如互聯(lián)網這樣的延展認知技術成為大多數(shù)現(xiàn)代人生活不可缺少的認知構件時，人們就會習慣性地依賴它、信任它，甚至盲從它。以往遇到“不知道”的問題時，我們一般會仔細觀察和認真思考，有時會根據(jù)以往自我經驗或者訴諸權威，但在當前，網民毫不思索地選擇上百度檢索。這一方面似乎降低了溝通成本，但與此同時也慢慢影響到浸潤其中的人類的表達能力、記憶能力甚至溝通能力。因此，延展認知技術對人類認知能力是否產生負面影響就需要追問了。費爾貝克等認為，技術一旦處于使用中，必然會影響它們的使用者[14]（P39）。麥克盧漢指出，當我們觀看、使用或感知任何技術形式的延伸時，必然要經歷接踵而至的自我感知“關閉”[15]（P62）。芒福德以時鐘為例，論述了技術對人和自然的隔離，認為時鐘在幫助人們測量世界的同時，也導致了時間跟人們具體活動的事件割裂開來的后果[16]（P16）。卡爾認為，當我們把互聯(lián)網作為自己的萬能傳媒，全身心投入其中的時候，在我們作出的所有犧牲當中，最大的犧牲可能就是專注能力的喪失；而專注能力的喪失將會影響到人體神經細胞的生長和長期記憶的形成[17]（P206-208）。

3.延展認知技術的過失由誰負責

當我們使用延展認知技術來改變認知環(huán)境，從而使得認知環(huán)境成為使用者不可缺少的認知構件時，我們無法回避的一個問題就是，一旦認知行為的結果出現(xiàn)差錯，那么責任應該由誰承擔呢？對于機器或者計算機參與人類認知活動是否需要承擔道德責任，主要有兩類看法，一類認為應該由人類承擔責任。維納早在上個世紀中葉就指出，除非人類愿意承擔機器選擇導致的全部責任，否則不能將作善惡選擇的責任轉移給制造出來的機器人；如果人類將責任拋給了機器，就相當于把責任拋給了風，結果發(fā)現(xiàn)責任在旋風中正在返回[18]（P13）。而在當今依靠信息通信技術進行知識獲得和傳播活動中，有學者認為，這種集體行動的責任主體應該歸因于相關的人類實踐者、系統(tǒng)設計者、軟件工程師[19]（P200）。而另一些學者卻認為計算機系統(tǒng)具有道德代理關系。由于當前計算機系統(tǒng)已經部分取代了那些本該具有道德約束的人類服務人員，計算機系統(tǒng)從一種工具變成了代理人，那么計算機系統(tǒng)具有某種道德代理則是順理成章的事，因此設計一個在道德上評價計算機系統(tǒng)的框架變得緊迫而且必要[20]（P222-223）。但確切地說，是否計算機系統(tǒng)也能承擔道德責任的問題仍處于開放狀態(tài)。

4.延展認知技術是否會讓人類喪失自我

延展認知技術在協(xié)助人類完成認知活動發(fā)揮了不可替代的作用，尤其是某些特殊群體的工作已經無法離開這種技術。目前席卷全球的互聯(lián)網借助于智能手機這一便攜通訊平臺更是以強大的功能展現(xiàn)了獨特的魅力，但是人類也因此對技術產生了過度依賴，現(xiàn)代社會中的很多年輕人離開網絡或者智能手機往往感到無法正常生活。按照海德格爾的觀點，現(xiàn)代技術成為座架控制著人類的思維模式和行為模式，人類也變成了有用性的持存物，喪失了其主體性。正因為如此，很多倫理學者擔心延展認知技術會讓人類喪失自我。延展認知主體在其認知過程中將可能由于依賴的技術環(huán)境越來越復雜而導致主體個體的獨特性削弱，這將沖擊傳統(tǒng)的人以及人類理性的概念[21]（P56）。電子化生活通過改變我們與世界交流的方式來影響本體。如果IT影響了他人看待我的方式，特別是憑借這些方式，它改變了社會交流的各種形式，那么他將影響我看待自己的方式，我們關于自我的概念因此必將改變[22]（P117-118）。

5.延展認知技術是否會增強人類幸福

正因為當前以互聯(lián)網為代表的延展認知技術所展現(xiàn)出來的倫理問題以及未來的以會聚技術為代表的延展認知技術可能導致的潛在的倫理問題，我們更應謹慎推進會聚技術的發(fā)展，必要時設定暫時的技術禁區(qū)，確保技術的發(fā)展服務于人類的福祉[28]（P106）。

三、延展認知技術的倫理治理尚需時日

針對延展認知技術可能引發(fā)的倫理問題，學界一致認為應該建立法律與倫理機制去調控技術發(fā)展。陳萬求等根據(jù)技術產生過程的階段性特征，提出了“決策階段：倫理評估—研發(fā)階段：倫理自律—應用階段：道德立法—推廣階段：倫理矯正”的動態(tài)規(guī)約機制[29]（P77）。邱仁宗教授等提出大數(shù)據(jù)技術的順利推廣應用要求制訂評價在大數(shù)據(jù)方面所采取行動的倫理框架，為制訂行為準則、管理和立法建立倫理學基礎[30]（P36）。丁大尉等提出應對新興技術發(fā)展的潛在風險的四大措施：發(fā)揮政府引領作用、提高科學共同體參與、加強新興技術安全性評估、積極參與全球研發(fā)與風險治理[31]（P62）。王國豫等提出了基于行動的可行性倫理原則的框架，強調倫理學與科學結伴而行，共同應對技術的不確定性[32]（P69-70）。

但是，由于人類認知系統(tǒng)的局限，對發(fā)展中技術的道德認知絕不會完整；因此恒定的警覺是唯一明智的做法[27]（P118）。Macedo（2008）進一步指出，解決已經出現(xiàn)或即將出現(xiàn)的倫理或社會問題單單靠決策者或科學家或倫理學家都有局限，需要多元部門、多元學科共同參與，由此提出“倫理治理”（ethical governance）這一概念[30]（P4）。而倫理治理和社會治理的結合成為未來互聯(lián)網倫理構想的一個重要方向，如遵循社會公眾的期望來構想未來互聯(lián)網倫理[33]（P1），通過社會公眾來影響互聯(lián)網而不是約束互聯(lián)網的發(fā)展[34]（P27）。

總的看來，國內外關于延展認知技術倫理問題治理措施基本都還處于理論構想層面，實踐經驗較少，尤其存在倫理規(guī)約機制與其他社會治理措施脫節(jié)的問題。這意味著新興技術的倫理治理從理論到實踐還有很長一段路要走。

[1]Clark & Chalmers.The Extended Mind[J].Analysis,1998（58）：7-19.

[2]Smart，PaulR.TheWeb-ExtendedMind[J].Metaphilosophy，2012,43（4）：446-463.

[3]Merritt ，Michele.Instituting impairment：Extendedcognitionand the construction ofFe-male Sexual Dysfunction[J].Cognitive Systems Research，2013，（25-26）.47-53.

[4]盧文靜.當代認知技術的哲學分析[D].東南大學碩士學位論文，2013.

[5]蔡曙山.人類認知的五個層級和高階認知[J].科學中國人，2016（2）.

[6]范偉偉、王光榮.延展認知論及其爭議[J].心理學探新，2015（2）.

[7]馮燁.認知增強機器倫理社會問題探析[J].自然辯證法研究，2013（3）.

[8]羅科，班布里奇編.聚合四大科技提高人類能力：納米技術、生物技術、信息技術和認知科學[M].蔡曙山、王志棟、周允程等譯.北京：清華大學出版社，2010.

[9]劉智慧，張泉靈.大數(shù)據(jù)技術研究綜述[J].浙江大學學報（工學版），2014（6）.

[10]Weiser，Mark.（1991）.The Computer for the 21st Century[J].Scientific American.265（3）.

[11]江媛.物聯(lián)網技術發(fā)展與應用[J].電子測試，2016（5）.

[12]李軍林.大數(shù)據(jù)時代公民隱私安全保障機制建構[J].當代傳播，2016（3）.

[13]海恩斯報告——關于致命自主機器人系統(tǒng)的聯(lián)合 國 調 查 員 報 告 .2013-04-09.http：//www.docin.com/p-1010915039.html.

[14]Verbeek，Peter-Paul&Slob，Adriaan.User Behavior and Technology Development：Shaping SustainableRelationsbetweenConsumersandTechnologies[M].Netherlands：Spinger，2006.pp.386.轉引自：陳凡、陳多聞.文明進步中的技術使用問題[J].中國社會科學，2012（2）.

[15]麥克盧漢.理解媒介：論人的延伸[M].何道寬譯.南京：譯林出版社，2011.

[16]芒福德.技術與文明[M].陳允明、王克仁、李華山等譯.北京：中國建筑工業(yè)出版社，2009.

[17]卡爾.淺薄：互聯(lián)網如何毒化了我們的大腦[M].劉純毅譯.北京：中信出版社，2010.

[18]拜納姆.諾波特.維納和信息倫理學的興起//霍文、維克特主編.信息技術與道德哲學[M].趙迎歡、宋吉鑫、張勤等譯.北京：科學出版社，2014.

[19]米勒.集體責任、信息和通信技術//霍文、維克特主編.信息技術與道德哲學[M].趙迎歡，宋吉鑫，張勤等譯.北京：科學出版社.2014.

[20]約翰遜，波瓦斯.計算機作為代理者//霍文、維克特主編.信息技術與道德哲學[M].趙迎歡，宋吉鑫，張勤等譯.北京：科學出版社，2014.

[21]劉曉力.延展認知與延展心靈論辨析[J].中國社會科學，2010（1）.

[22]史蒂夫.馬修斯.本體與信息技術//霍文、維克特主編.信息技術與道德哲學[M].趙迎歡、宋吉鑫、張勤等譯.北京：科學出版社，2014.

[23]哈拉維.類人猿、賽博格和女人[M].陳靜等譯.鄭州：河南出版社，2012.

[24]Kass，Leon R.et al.Beyond Therapy：Bio-technology and the Pursuit of Happiness.A Report by the President’s Council on Bioethics，2003.

[25]克萊曼.科學技術在社會中[M].張敦敏譯.北京：商務印書館，2009.

[26]Gorman，E.M.，Groves，J.F.& Catalano，R.K.Societal Dimensions of Nannotechnology[J].IEEE Technology and Society Magazine，2004，23（4）.

[27]Moor.Why We Need Better Ethics for E-mergingTechnologies[J].Ethics andInformation Technology，2005，7（3）.

[28]胡明艷、曹南燕.人類進化的新階段[J].自然辯證法研究，2009（6）.

[29]陳萬求、賀冰心.會聚技術的發(fā)展機器倫理規(guī)約機制[J].倫理學研究，2013（4）.

[30]邱仁宗、黃雯、翟曉梅.大數(shù)據(jù)技術的倫理問題[J].科學與社會，2014（1）.

[31]丁大尉、李正風、胡明艷.新興技術發(fā)展的潛在風險及技術治理問題研究[J].中國軟科學，2013（6）.

[32]王國豫、龔超.倫理學與科學同行[J].哲學動態(tài)，2015（10）.

[33]Shilton，Katie.Anticipatory Ethics for a Future Internet：Analyzing Values During the Design of an Internet Infrastructure[J].Science& Engineering Ethics，2015（21）：1-18.

[34]Sharma，S.，Lomash，H.，& Bawa.S.Who Regulates Ethics in the Virtual World?[J].Science& Engineering Ethics，2015（21）.

宋春艷，湖南省社會科學院助理研究員，湖南師范大學哲學科研流動站博士后，博士。

國家社會科學基金重大項目“高科技倫理問題研究”（12&ZD117）；中國博士后科學基金資助項目“延展認知技術的倫理問題研究”（2016M592432）；湖南省社會科學院青年科研基金項目“延展認知技術的倫理問題及治理”（2015QNKT03）