摘 要:并行分布加工理論,即PDP理論,是認知心理學(xué)在20世紀80年代興起的一種新的理論范式和研究取向。從PDP理論的歷史演變?nèi)胧?,介紹了PDP理論中的基本框架結(jié)構(gòu)以及其主要研究領(lǐng)域。同時,還介紹了PDP在心理語言學(xué)和視知覺方面的應(yīng)用。最后,我們對PDP的優(yōu)點、局限性以及其未來的走勢進行了相應(yīng)的探討。
關(guān)鍵詞:PDP;神經(jīng)網(wǎng)絡(luò);認知
中圖分類號:B84-0 文獻標志碼:A 文章編號:1002-2589(2011)27-0037-02
并行分布式加工(PDP, Parallel Distributed Processing),也被稱為聯(lián)結(jié)主義,是以感知覺、言語理解、記憶提取等認知現(xiàn)象的微結(jié)構(gòu)為研究對象,通過簡單加工單元之間的聯(lián)結(jié)方式進行計算的一種研究取向。與符號主義將心理活動隱喻為計算機不同,聯(lián)結(jié)主義將心理活動隱喻為大腦的神經(jīng)網(wǎng)絡(luò)系統(tǒng)(黃成玲、王永慧,2007),通過構(gòu)建一系列更加簡單并抽象的人工神經(jīng)網(wǎng)絡(luò)來解釋各種認知現(xiàn)象。
一、PDP的歷史演變
1943年McCulloch和Pitts總結(jié)了生物神經(jīng)元的一些基本特征,提出了形式神經(jīng)元的數(shù)學(xué)推述與結(jié)構(gòu)。之后Rosenblatt的研究在他們形式神經(jīng)元思想的啟發(fā)下于1958年提出了第一個真正意義上的人工神經(jīng)網(wǎng)絡(luò)模型——感知器。
Rosenblat的感知器模型曾經(jīng)引起了人們的極大關(guān)注和興趣,Minsky和Papert也對這種感知機模型甚感興趣并對其能力進行了詳細研究,于1969年出版了《感知器》一書。該書中Minsky和Papert對感知器進行了批判,其認為簡單的感知器只能解決線性問題,其能力非常有限。在接下來的20年里聯(lián)結(jié)主義的發(fā)展一度處于低迷時期。
學(xué)術(shù)界公認,聯(lián)結(jié)主義模型研究的復(fù)興開始于20世紀80年代初期。1986年是聯(lián)結(jié)主義事業(yè)發(fā)展的一個鼎盛時期,因為這一年,由Rumelhart和McClelland共同編輯出版了聯(lián)結(jié)主義事業(yè)的“圣經(jīng)”——《并行分布加工:認知結(jié)構(gòu)的微觀探索》。從此時起,聯(lián)結(jié)主義開始蓬勃發(fā)展。
二、PDP模型
PDP模型由許多簡單的、類似神經(jīng)元的加工元素——單元——構(gòu)成,單元之間依靠加權(quán)的聯(lián)結(jié)相互作用,單元和聯(lián)結(jié)組成了PDP網(wǎng)絡(luò)的結(jié)構(gòu)。每個單元都處于一種“狀態(tài)”或者“興奮水平”,并由該單元所接收到的網(wǎng)絡(luò)中其他單元向其輸入的總和所決定。聯(lián)結(jié)的加權(quán)值可以是正的,也可以是負的,正值表示興奮,負值表示抑制。這些加權(quán)值的大小決定著聯(lián)結(jié)的重要性以及對通過它所聯(lián)結(jié)的單元之間的影響程度。
(一)PDP模型的結(jié)構(gòu)框架
基于PDP理論,研究者們針對不同的認知現(xiàn)象構(gòu)造出不同的模型,這些模型彼此間存在差異,但它們基本的構(gòu)成成分是相同的。PDP模型主要包括以下八個組成部分:一系列加工單元;興奮狀態(tài);每個單元的輸出函數(shù);單元之間的聯(lián)結(jié)模式;通過網(wǎng)絡(luò)中的聯(lián)結(jié)進行興奮模式傳遞的傳遞規(guī)則;用來把輸入值和該單元當(dāng)前興奮狀態(tài)結(jié)合起來從而得到一個新興奮狀態(tài)的興奮規(guī)則;通過經(jīng)驗對聯(lián)結(jié)模式進行修改的學(xué)習(xí)規(guī)則以及系統(tǒng)所處的環(huán)境。
三、PDP模型在心理學(xué)中的應(yīng)用
(一)TRACE模型
Mcclelland和Elman于1986年提出的TRACE模型,是用于口語詞匯識別的交互激活的PDP模型。TRACE模型模擬了大量實際中的口語識別現(xiàn)象。他們希望TRACE模型既能從計算層面幫助機器很好地模擬真實語言的識別過程,又能從心理層面解釋人類在口語識別過程中的表現(xiàn)。
TRACE模型包括由特征單元、音素單元和詞匯單元所組成的三個層面。同一層次的加工單元之間為興奮聯(lián)結(jié),不同層次的加工單元之間為抑制聯(lián)結(jié)。輸入的刺激和整個系統(tǒng)的興奮狀態(tài)決定了這些聯(lián)結(jié)是提高還是降低單元的興奮水平。
TRACE模型最重要的特征就在于它的交互性。通過在層與層之間傳導(dǎo)興奮,該模型能夠證實并對輸入刺激的特征、音素和詞匯作出相應(yīng)的反應(yīng)。
(二)形狀再認模型
為了解決視覺識別中自上而下和自下而上的加工問題以及Treisman和Schimidt在實驗中發(fā)現(xiàn)的幻想聯(lián)結(jié)問題,即人們在回憶時將之前呈現(xiàn)的刺激中圖形的位置和形狀進行錯誤的聯(lián)結(jié),并相信這就是自己之前所看到的而不是出于猜測,Hinton提出了形狀再認模型。
形狀再認模型包括四種不同的單元。處于最高層的每個單元分別代表特定的對象,它們和代表對象特征的單元相聯(lián)(這些特征都與相關(guān)的對象特征框架有聯(lián)系),對象特征單元又和對外界刺激進行描述的視網(wǎng)膜特征單元相聯(lián)。而這些聯(lián)結(jié)都由表征著對象特征框架的選擇的映射單元進行門控聯(lián)結(jié)。
四、對PDP的評價
PDP理論是在神經(jīng)生理學(xué)、心理學(xué)等學(xué)科的研究取得一定成果的基礎(chǔ)上提出來的認知心理學(xué)的一種研究取向或理論,被認為是對傳統(tǒng)人工智能理論的嚴重挑戰(zhàn)。由于它把將心理活動隱喻為大腦,因此,它對大腦的模擬更接近真實腦的實際情況,對認知活動的解釋更加具有說服力,被看做是“在認知解釋方面的一場哥白尼式的革命”。
作為認知心理學(xué)的元理論基礎(chǔ),PDP理論可以解釋人腦與電腦之間的某些差異和相似性。正是由于吸收了PDP的理論觀點,認知心理學(xué)才獲得了新生,有了突破性的進展。
但是,學(xué)界對PDP的評價并不盡是譽美之辭,也有人從根本上否認聯(lián)結(jié)主義理論是一種新發(fā)展,認為PDP只不過是“披著高科技外衣回到了聯(lián)想主義”、“把皮亞杰所支持的嘈雜的觀點翻新”的心理學(xué)或者僅是“披著計算機外衣的行為主義” 。Smolensky認為,PDP模型只是經(jīng)典符號模型與生物腦之間的中間模型,它不可能真正實現(xiàn)生物腦的功能。
此外,由于PDP理論是在哲學(xué)、神經(jīng)科學(xué)、心理學(xué)、控制論、系統(tǒng)論、信息論等眾多學(xué)科的綜合影響下而出現(xiàn)的,因此,它也不可避免地對這些學(xué)科產(chǎn)生或多或少的影響,當(dāng)把PDP理論應(yīng)用到其他學(xué)科中時,它在這些學(xué)科的發(fā)展中表現(xiàn)出巨大的應(yīng)用價值,在工程、軍事、計算科學(xué)等領(lǐng)域PDP的理論和應(yīng)用研究比心理學(xué)領(lǐng)域所取得的成果更為豐碩,因此在心理學(xué)領(lǐng)域,PDP理論不是要不要研究的問題,而是怎樣研究的問題,不僅僅是要研究PDP的理論問題,而且更要研究PDP在心理學(xué)中的應(yīng)用問題,使其為豐富心理學(xué)特別是認知心理學(xué)的研究作出應(yīng)有的貢獻。
參考文獻:
[1]Geoffrey E. Hinton, 1989, Connectionist Learning Procedur
es, Artificial Intelligence, 40, 185-234.
[2]Hinton G.E.,McClelland J.L. Rumelhart D.E,Distributed Repr
esentation,In D.E.Rumelhart,J.L.McClelland the PDP Resear
ch Group, Parallel distributed processing:Explorations in the microstructure of cognition.Volume 1:Foundations (pp.77109). Cambridge, MA:MIT Press.
[3]Hinton,G.E.Lang,K.J.,1985,Shape recognition and illusory co
njunctions.,Proceedings of the Ninth International Joint Co
nference on Artificial Intelligence,Los Angleles,pp 252-259.
[4]J.L.McClelland,D.E.Rumelhart G.E Hinton,The Appeal Of Para
llel Distributed Processing, In D.E.Rumelhart J.L. McClelland the PDP Research Group, Parallel distributed processing: Explorations in the microstructure of cognition.Volume 1: Foundations (pp. 3-44). Cambridge, MA:MIT Press;
[5]Jusczyk P W,Luce P A,2002,Speech perception and Spoken word recognition:Past and Present, Ear and Hearing,23(1):2-40.
[6]McClelland,J.L., Cleeremans,A.,2009,Connectionist models, . In T.Byrne,A.Cleeremans, P.Wilken (Eds.),?Oxford Companion to Consciousness.New York: Oxford University Press.
[7]郝玉龍,徐泰燕,王學(xué)智.BP神經(jīng)網(wǎng)絡(luò)的工作原理及其在字母識別中的應(yīng)用[J].2010,6,(3):1-3.
[8]黃成玲,王永慧.聯(lián)結(jié)主義模型及其在心理學(xué)中的應(yīng)用[J].廣州大學(xué)學(xué)報:社會科學(xué)版,2007,6,(11):18-21.
[9]賈林祥.認知心理學(xué)的聯(lián)結(jié)主義理論研究[D].南京師范大學(xué)博士論文,2002.
[10]賈林祥.試析聯(lián)結(jié)主義早期研究者Rosenblatt關(guān)于感知機的研究[J].內(nèi)蒙古師范大學(xué)學(xué)報:哲學(xué)社會科學(xué)版,2004,33,(2):24-26.
[11]楊盛春,賈林祥.心理表征哲學(xué)及其聯(lián)結(jié)主義詮釋[J].心智與計算,2007,1,(2):188-194.