亚洲免费av电影一区二区三区,日韩爱爱视频,51精品视频一区二区三区,91视频爱爱,日韩欧美在线播放视频,中文字幕少妇AV,亚洲电影中文字幕,久久久久亚洲av成人网址,久久综合视频网站,国产在线不卡免费播放

        ?

        伏隔核內(nèi)多巴胺在獎賞和強化學習中的作用?

        2018-10-11 06:51:06許本柯孫安邦陳運才
        解剖學雜志 2018年4期
        關鍵詞:多巴胺基底神經(jīng)元

        許本柯 何 云# 孫安邦 陳運才,2△

        (1 長江大學基礎醫(yī)學院人體解剖學教研室, 荊州 434000; 2 University of California, Irvine, CA 92697)

        多巴胺(dopamine, DA)屬兒茶酚胺類神經(jīng)遞質,在許多神經(jīng)精神疾病的發(fā)生、發(fā)展中扮演重要角色。多巴胺還參與調(diào)控獎賞環(huán)路中的諸多重要環(huán)節(jié),中腦邊緣多巴胺系統(tǒng)更被認為是大腦獎賞系統(tǒng)的神經(jīng)解剖學基礎。多巴胺的功能特征主要取決于多巴胺能神經(jīng)元胞體的所在腦區(qū)以及該神經(jīng)元軸突終末的投射靶區(qū)[1-3]?,F(xiàn)重點綜述中腦腹側被蓋區(qū)多巴胺能神經(jīng)元的投射靶區(qū)—伏隔核的相關研究進展以及伏隔核內(nèi)多巴胺的動態(tài)變化在獎賞相關的目標導向行為和學習過程中的作用。

        1 多巴胺獎賞環(huán)路

        中腦多巴胺能神經(jīng)元胞體主要集中在黑質和腹側被蓋區(qū)(ventral tegmental area, VTA)兩個腦區(qū),通過黑質紋狀體通路和中腦皮質邊緣通路影響神經(jīng)系統(tǒng)功能。與獎賞相關的中腦皮質邊緣通路又可分為中腦皮質通路和中腦邊緣通路,由腹側被蓋區(qū)及其投射靶區(qū)伏隔核(nucleus accumbens, NAc)、前額葉皮質、杏仁核、海馬等組成,是多巴胺獎賞環(huán)路的主要結構(圖1)。該通路是獎賞和強化學習的神經(jīng)結構基礎,參與神經(jīng)精神疾病及藥物成癮相關的獎賞效應[4-5]。研究顯示,給予可卡因、腦刺激或者獎賜性伴侶均可以誘導多巴胺以位相性方式釋放到伏隔核,多巴胺的作用及其作用機制存在明顯的區(qū)域差異[6-7]。

        圖1獎賞環(huán)路與多巴胺在獎賞和強化學習中的作用

        在功能方面,伏隔核是邊緣系統(tǒng)和錐體外系的整合中樞。伏隔核的多棘神經(jīng)元不僅與腹側被蓋區(qū)的傳入纖維形成突觸聯(lián)系,也接收來源于海馬和前額葉皮層的軸突終末。因此核和殼內(nèi)的神經(jīng)元可以整合來源于多巴胺能以及因此核和殼內(nèi)的神經(jīng)元可以整合來源于多巴胺能以及皮質、邊緣區(qū)域谷氨酸能神經(jīng)纖維的投射信息,從而協(xié)調(diào)上傳的感知信息(如動機與目標導向)和下行的動作反應,在行為、動機、應激、獎賞以及毒品成癮等多種功能活動中發(fā)揮重要作用[1,2,8,9]。近年來,對伏隔核的研究側重于其在與獎賞相關的學習編碼方面的作用,特別是該核團與其他邊緣結構之間的環(huán)路鏈接及其分子調(diào)控機制。

        2 多巴胺與動機行為、獎賞學習

        多巴胺能神經(jīng)元與伏隔核內(nèi)的多棘神經(jīng)元共同參與處理動機與目標導向,建立獎賞機制。在獎賞的處理過程中,核和殼內(nèi)多巴胺的釋放具有明顯差異[10]。在動機行為的學習過程中,有研究認為,伏隔核中多巴胺的釋放對于階段性神經(jīng)編碼而言是必需的,也是足夠的,但是也有研究結果顯示,核和殼內(nèi)多巴胺釋放與學習編碼之間沒有明確的聯(lián)系。在動機行為的測試過程中,同步檢測多巴胺釋放和記錄多棘神經(jīng)元的電生理特征。結果顯示,伏隔核中多巴胺的快速釋放與核團內(nèi)某些特定的多棘神經(jīng)元的活動相關;而且多巴胺釋放與多棘神經(jīng)元活動的強度偶合,即神經(jīng)元活動強度越大,多巴胺釋放越多。當腹側被蓋區(qū)多巴胺神經(jīng)元釋放多巴胺到伏隔核時,這些多巴胺如何選擇性調(diào)節(jié)一些多棘神經(jīng)元,而其他細胞卻不受影響。表達不同受體亞型的多棘神經(jīng)元對多巴胺的反應可能不同。因為D2受體的高親和力,即使是在多巴胺水平較低時,這些表達D2受體的多棘神經(jīng)元也可以處于活動狀態(tài),而那些表達低親和力D1受體的多棘神經(jīng)元則不會被激活;相反,當多巴胺水平較高時,表達D1受體的多棘神經(jīng)元更易受影響[11]。

        3 多巴胺與巴甫洛夫條件反射中的強化刺激

        獎賞環(huán)路中的許多神經(jīng)元具有信息編碼的功能,參與巴甫洛夫條件反射的建立。當條件反射尚未建立時,給予猴子1個即將獲得果汁獎勵的信號,當猴子獲得該果汁獎勵時,多巴胺能神經(jīng)元的活動最大;然而,當條件反射已經(jīng)建立,猴子知道該提示信號預示果汁,當接收果汁獎勵時,多巴胺能神經(jīng)元的放電顯著減小。這些數(shù)據(jù)表明多巴胺能神經(jīng)元編碼的不是獎勵價值本身,而是預期結果與實際結果之間的誤差。為了更好地研究多巴胺能神經(jīng)元活動在“誤差評估”中的作用,研究人員分析了多巴胺釋放與評估行為之間的相關關系。當動物“預期”不會獲得食物(0),而實際卻獲得1份(1)時,實際結果與預期之間的差異是+1;如果預期會獲得1份食物(1),結果也是1份(1),則誤差為0[12]。因此當預期值和實際價值相差甚遠時,需要學習或訓練的時間就越久。

        微透析結果證實,當信號與預測的獎勵關聯(lián)時,多巴胺能神經(jīng)元投射靶區(qū)—伏隔核核內(nèi)的多巴胺分泌增高,而殼內(nèi)多巴胺分泌不受影響。在訓練大鼠建立條件反射的過程中,伏隔核核內(nèi)釋放的多巴胺逐漸增加,當大鼠學會判斷獎賞結果時,核內(nèi)多巴胺釋放量達到最大值;與此同時,大鼠意外獲得獎勵食物時,多巴胺釋放量最大,而當食物是在意料之中時,多巴胺釋放較低。這些結果表明,中腦多巴胺環(huán)路在價值預測、評估中具有重要作用。急性電解損毀伏隔核的核和殼損害巴甫洛夫條件反射的建立,但不能完全阻斷條件反射。神經(jīng)毒性損毀伏隔核也不損害簡單的巴甫洛夫條件反射的建立。但是也有實驗結果顯示,即使小范圍損毀伏隔核的核,也會損害動物的評判能力。上述差異可能是因為當伏隔核受損時,條件反射的建立發(fā)生了改變,即病理狀態(tài)下,條件反射的建立與正常狀態(tài)下條件反射的建立不一樣。有研究結果表明,伏隔核受損后,動物不能正確評判強化信號(如食物)的價值。類似的,選擇性損傷伏隔核的核后,大鼠對于強化信號的改變(包括食物數(shù)量的改變以及食物種類的改變)不能做出正確回應[13]。因此,在建立巴甫洛夫條件反射時,伏隔核核(殼)的可能作用是整合中性的刺激信號與強化刺激的價值及特性。采用電生理記錄,Saddoris等[14]記錄了條件反射建立后伏隔核神經(jīng)元的電生理特征和反應。他們發(fā)現(xiàn),核和殼內(nèi)的多數(shù)神經(jīng)元參與編碼強化刺激信號,核內(nèi)神經(jīng)元更傾向于編碼中性的刺激信號,參與強化刺激(價值)的評估。

        4 伏隔核在決策功能中的作用

        一般認為,與決策功能密切相關的大腦結構是背側紋狀體(dorsal striatum)。最近的研究結果表明,伏隔核在價值決策中具有重要作用[15]。在決策動物模型研究中,研究人員將不同的線索信號與不同的價值回饋聯(lián)系在一起(1個選項對應1個結果),受試動物可以選擇不同的線索信號以獲取相應的的價值回饋?;仞伣Y果可能是食物數(shù)量上的不同,也可能是食物品質上的不同(如香蕉丸或者橙子丸),這些回饋結果對應于不同的按壓方式,如按壓力度和數(shù)量。實驗結果表明,損害伏隔核可以破壞動物的正常決策能力。當獎賞結果只是量多、量少的差異時,伏隔核的核可能并不重要,但是損害伏隔核核或者暫時滅活核內(nèi)神經(jīng)元時,動物不再對風險高的選擇(如需要等候的高回報或者幾率很小的高回報)做出回應[16]。損害伏隔核殼似乎不會導致上述影響,損害伏隔核殼后,動物的行為與對照組比較沒有明顯差異。然而,近期的研究也顯示,滅活殼內(nèi)神經(jīng)元或者滅活核和殼內(nèi)神經(jīng)元后,動物對獎勵的敏感度減低。當這些動物在同樣回報率下被迫選擇少量(2粒)或者大量(4?;蚋?食物時,他們對大量的食物回饋似乎興趣不大[16,17]。在這些研究中,多巴胺的確切作用目前尚不清楚。

        多巴胺釋放可能與回饋價值相關聯(lián)。有假說認為,多巴胺釋放增加時動物更易對一些高風險的回饋做出反應。當多巴胺釋放時,動物個體更能在客觀上做出更好的選擇,例如,以較小的努力獲得更高的獎賞。在復雜的決策實驗中,伏隔核核和殼中的多巴胺釋放都參與“信號-結果”的編碼處理[18,19];然而,伏隔核核與殼之間的作用似乎有差異。在伏隔核核與殼內(nèi)的FCSV記錄結果顯示,核偏向于價值的編碼,特別是在參與處理低付出和高回報事件時。此外,在“提示線索-回饋食物”的訓練過程中,受試動物伏隔核殼中可以觀測到多巴胺釋放。與核內(nèi)多巴胺的作用不同,殼內(nèi)多巴胺釋放在強化學習中的作用尚需進一步研究證實[19]。

        5 特定神經(jīng)元環(huán)路聯(lián)系在動機、獎賞學習中的作用

        伏隔核接受來自于前額葉皮層、杏仁復合體的基底外側核和海馬等區(qū)域的纖維傳入。事實上,來源于每個不同結構的傳入信號都參與調(diào)節(jié)學習過程的不同環(huán)節(jié)。其中,基底外側核到伏隔核的纖維通路已經(jīng)得到較好的研究?;淄鈧群松窠?jīng)元可投射到伏隔核的核和殼,不對稱損傷該通路明顯影響學習的動機。研究人員采用“Discriminative Operant Task” 訓練大鼠獲得基本的操作技能,其中獎賞信號提示按壓食物桿可以獲得食物,而對照信號刺激則預示按壓食物桿不會獲得食物。電生理記錄結果顯示,與對照信號相比,獎賞信號導致伏隔核核內(nèi)神經(jīng)元超強活動。可是,當這些動物的基底外側核被巴氯芬和麝香草醇短暫滅活后,與獎賞信號刺激相關的神經(jīng)元活動受損;而且,這種損害發(fā)生在同側基底外側核被滅活時。當滅活對側基底外側核時,伏隔核內(nèi)的神經(jīng)元編碼不受影響[20]。與此類似,在提示演示期間刺激基底外側核時,伏隔核中的神經(jīng)元編碼活動增強。盡管基底外側核神經(jīng)元同時投射到核和殼,滅活基底外側核僅僅影響核內(nèi)神經(jīng)元的編碼活動,而殼內(nèi)神經(jīng)元的編碼不受影響[21]。

        上述損傷實驗結果表明,在目標導向行為的學習過程中,基底外側核和伏隔核之間的聯(lián)系非常重要,但是,這些研究尚不能清楚顯示,基底外側核對伏隔核的影響是直接的,還是間接的,例如是否通過前額葉皮質神經(jīng)元的中轉。為了區(qū)分這些可能性,采用光遺傳學技術,結合病毒束路追蹤技術,現(xiàn)在可以研究基底外側核到伏隔核的谷氨酸能投射的特異性作用。將載有光敏受體(ChR2-EYFP)的腺病毒載體注射到基底外側核轉染谷氨酸能興奮性神經(jīng)元,因為這些病毒載體表達熒光蛋白EYFP,而且可以順軸突轉運,因此基底外側核興奮性神經(jīng)元的胞體及其投射靶區(qū)的軸突終末可以在熒光顯微鏡下直接觀察;同時,因為他們表達光敏受體通道視紫紅質(ChR2),ChR2受光照刺激(如1-20Hz, 5-ms light pulses)時,細胞去極化,穩(wěn)定放電。由于這些特點,研究人員可以在離體腦片和在體動物直接觀察基底外側核神經(jīng)元興奮對伏隔核細胞的影響。光遺傳學研究結果表明,基底外側核到伏隔核的興奮性傳入通路對目標導向行為非常重要[21],這也與早期的損毀實驗結果一致。滅活基底外側核神經(jīng)元影響伏隔核內(nèi)多巴胺的釋放。當基底外側核到伏隔核的傳入纖維被完全損毀時,按理說,基底外側核功能的變化將不再直接影響多巴胺功能。然而,損毀基底外側核神經(jīng)元的功能只是降低伏隔核核內(nèi)多巴胺的快速釋放[20]。因此,有必要進一步明確其他腦區(qū),如前額葉皮層各亞區(qū)內(nèi)的神經(jīng)元對伏隔核的影響。

        6 伏隔核的核和殼的差異

        伏隔核在動機-行動中的作用已被確認。但是深層次的細節(jié)問題,如強化刺激的價值取向、采取何種行動,以及如何獲取最大價值等問題尚需進一步探討。從解剖學和神經(jīng)化學的角度來看,核與殼的細胞構筑明顯不同,多棘神經(jīng)元和中間神經(jīng)元之間的突觸聯(lián)系方式差異顯著。迄今為止,尚無令人滿意的研究結果或者理論來展示或者解釋核與殼之間結構、功能上的特異性及其協(xié)同性。

        伏隔核的核不僅參與編碼巴甫洛夫條件反射,而且涉及目標導向動作的完成以及如何在不同的價值物之間做出取舍。核好象是1個計算中心,接受前額葉皮層、杏仁復合體、海馬等的纖維傳入,在此處理后,發(fā)出指令而表現(xiàn)出不同的行動。因此,當伏隔核的核發(fā)生病變時,影響的是動物在預期結果發(fā)生改變時做決定的能力。同樣的,伏隔核核內(nèi)多巴胺釋放主要與決定和決策相關,而與行動選擇本身關系不大。

        伏隔核殼在獎賞編碼中的作用已經(jīng)得到肯定。滅活殼內(nèi)神經(jīng)元導致動物在評判獎賞結果的大小時出現(xiàn)損害[17]。動物在壓桿之前,多巴胺的釋放量隨著刺激強度的增加而增加[6],表明殼在價值的尋求方面發(fā)揮關鍵作用,即殼的作用體現(xiàn)在追逐回饋的價值,至于成本,似乎不在其考慮范圍之內(nèi)。在正常狀態(tài)下,核與殼之間的協(xié)調(diào)活動促成動物在考量成本和報酬后做出判斷和選擇。神經(jīng)解剖學上,核內(nèi)神經(jīng)元投射到殼,但只有稀疏的纖維從殼投射到核。因此,源于核的信息可能僅僅是“借道”殼而已。隨著光遺傳學等新技術的應用,人們將會更明白這一復雜的獎賞系統(tǒng)。

        猜你喜歡
        多巴胺基底神經(jīng)元
        活力多巴胺
        欣漾(2024年2期)2024-04-27 12:03:09
        正確面對焦慮
        《我要我們在一起》主打現(xiàn)實基底 務必更接地氣
        中國銀幕(2022年4期)2022-04-07 21:28:24
        《從光子到神經(jīng)元》書評
        自然雜志(2021年6期)2021-12-23 08:24:46
        How music changes your life
        跟蹤導練(四)(4)
        躍動的神經(jīng)元——波蘭Brain Embassy聯(lián)合辦公
        可溶巖隧道基底巖溶水處理方案探討
        基于二次型單神經(jīng)元PID的MPPT控制
        電源技術(2015年5期)2015-08-22 11:18:38
        毫米波導引頭預定回路改進單神經(jīng)元控制
        国产美女高潮流白浆在线观看| 97精品久久久久中文字幕| 国产av人人夜夜澡人人爽麻豆| 国产偷v国产偷v亚洲偷v| 免费毛片一区二区三区女同| 国产精品福利高清在线| 亚洲av无码一区二区三区人| 精品人妻少妇一区二区不卡| 日本一区二区亚洲三区| 三级日韩视频在线观看| 亚洲一区二区三区香蕉| 男女真实有遮挡xx00动态图| 最近亚洲精品中文字幕| 日本超级老熟女影音播放| 国产精品成人va在线观看| 无码欧亚熟妇人妻AV在线外遇| 区一区一日本高清视频在线观看 | 国产农村乱辈无码| 久久久久亚洲女同一区二区| 久久国产精品免费久久久| 狠狠色噜噜狠狠狠8888米奇| 亚洲精品中文字幕无码蜜桃 | 亚洲视频精品一区二区三区 | 国产高清在线精品免费| 日韩精品一二区在线视频| 蜜桃一区二区三区视频网址| 无码一区二区三区在线| 91人妻无码成人精品一区91| 亚洲中文乱码在线视频| 亚洲无线一二三四区手机| 学生妹亚洲一区二区| 国产一区二区三区免费主播| 日本肥老熟妇在线观看| 白白色发布会在线观看免费| 亚洲av无码一区二区三区不卡| 欧美国产亚洲精品成人a v| 男女视频在线观看一区二区| 女人被男人爽到呻吟的视频| 精品国产午夜福利在线观看| 亚洲视频在线观看青青草| 欧美牲交a欧美牲交|