生物神經網絡系統(tǒng)的突觸連接的可塑性與學習記憶功能

1、1,生物神經網絡系統(tǒng)的突觸連接的可塑性與學習記憶功能,目錄,一、生物神經網絡系統(tǒng)二、神經突觸可塑性動力學研究三、神經學習記憶功能研究四、一些思考,2,前言,生命體主要活動： 物質運動--- 機械、電磁、化學等作用 信息活動--- 生長信息、認知信息、集群信息 這兩種活動 密切相關，為此需要深入研究它們的相互作用。生物神經網絡系統(tǒng)的動力學研究突出地反映這個問題。復雜網絡系統(tǒng)的理論已經重要成果，當前的一個發(fā)展趨

2、勢是在生物網絡系統(tǒng)中的應用。,ian3,4,一、生物神經網絡系統(tǒng),神經元神經元集群腦的特定區(qū)域皮層的大規(guī)模組織全腦,大腦,,生物神經網絡系統(tǒng)概述（一）,生物神經系統(tǒng)作為產生感覺、學習、記憶和思維等認知功能的器官系統(tǒng)，是多層次的超大型信息網絡，也是目前發(fā)現的最復雜的非線性網絡系統(tǒng)。 神經信息傳導和整合過程是通過神經網絡系統(tǒng)實現的，因此神經系統(tǒng)的網絡動力學行為與其信息活動和認知功能密切相關。為了進一步探討腦神經

3、信息傳導過程和認知、思維、控制等功能的需要，必須深入研究神經網絡系統(tǒng)的豐富動力學問題。,6,7,生物神經網絡系統(tǒng)概述（二）,生物神經元的類型和連接形式的多樣性使得神經網絡系統(tǒng)具有復雜的拓撲結構和動態(tài)特性，表現出很強的非線性和復雜性。 在整個神經系統(tǒng)中，神經元對信息的反應是由神經元集群共同完成的，而不是單一神經元的功能，因此我們需要從復雜網絡動力學的觀點去考察耦合神經元系統(tǒng)放電的復雜活動和時空動力學行為，探索神經系統(tǒng)如何對

4、外界的信號進行加工、傳導和整合，進而深入理解神經高級認知功能。,8,生物神經網絡系統(tǒng)特點,生物神經網絡系統(tǒng)首先將外界的各種刺激轉化為神經電信號，通過 神經信息傳導和整合過程，實現生物的認知和運動控制的功能。 其復雜性表現為以下方面：海量維數——神經元和突觸的數目極其巨大（如人腦約有10^11個神經元，每個神經元有10^3-10^4個突觸）多種類型的神經元多層次——從分子層次直到認知和心理活動層次；每個層次都有

5、 十分復雜的動力學行為，且彼此緊密相關多時間尺度——從電脈沖的毫秒級，到一般感覺的秒級，到學習、記憶、辨識等的更長時間多功能——包括視、聽、嗅、味等感官和運動系統(tǒng)的功能多影響因素——神經元和突觸參數、網絡結構參數、時滯、噪聲等神經信息編碼與解碼高度的魯棒性、自調節(jié)性、自學習能力,生物神經網絡系統(tǒng)分類（一）,微觀　分子層次 ； 細胞層次；介觀 神經元集群（耦合振子集合 ）層次； 宏觀

6、 器官和運動控制系統(tǒng)層次,9,10,生物神經網絡系統(tǒng)分類（二）,結構性網絡(structural network )：從神經元之間直到腦功能區(qū)之間的連接關系的大腦網絡生理解剖結果功能性網絡(functional network) ：描述神經元集群（例如皮層區(qū)域）各節(jié)點之間的統(tǒng)計性連接關系所產生的信息結果效率性網絡(effective network) ：描述皮層神經網絡各節(jié)點非線性動力學行為之間的相互影響或信息流向，比功能性網

7、絡更強調節(jié)點之間相互因果作用 結構性或功能性網絡可以利用圖論方法, 同時采用各種技術手段（包括EEG，MEG，MRI，fMRI，CT，PET）和理論模型及其計算仿真一起去拼接出大腦網絡的圖景。但效率性網絡的研究尚少。,11,神經動力學（計算神經科學）,神經動力學（計算神經科學）研究生物神經元網絡的放電和信息活動,以及神經認知行為的動力學問題是非線性動力學、網絡科學和神經科學的跨學科交叉研究領域。建立神經科學的“理論、

8、計算和實驗相結合”的新研究模式。向神經系統(tǒng)的放電活動、信息編碼、網絡及認知行為提出了一系列嶄新研究方向和問題。,12,,,,,神經醫(yī)學與生物控制工程,生物神經元放電和編碼活動,生物控制科學,生物神經復雜網絡,智能機器人,神經生理解剖結構,神經認知科學,神經計算機,,,,,,神經醫(yī)學,13,二、神經突觸可塑性動力學研究,突觸概述突觸可塑性樹突對突觸可塑性的影響時滯、噪聲對神經網絡系統(tǒng)的放電同步和時空行為的影響,突觸概述,神經元之間

9、的信號傳遞通過精細的突觸結構。神經元通過突觸連接進行神經信息傳遞和轉導，以實現細胞間的信息交流。根據神經元的耦合機理，突觸傳遞分為電突觸和化學突觸兩類，再按響應特性又可分為興奮型和抑制型。突觸動力學用以刻畫在突觸中電信號和化學信號的相互轉化，信號的接收和傳遞等動力學過程。,14,15,神經元間的信號傳遞方式：突觸,突觸,16,電突觸與化學突觸,突觸耦合的數學模型,電耦合的數學模型為：Ie=ge(vpre(t – d) – vpost

10、(t))，這里 ge是耦合強度，vpre 和 vpost是突觸前和突觸后膜電位， d表示突觸延遲?；瘜W耦合有多種數學模型，如 Isyn = gsyn(v – vsyn) H(vpre(t - d) –vthresh) 這里 gsyn是耦合強度，vpre 和 vsyn是突觸前和突觸膜電位， vthresh是突觸閾值，d表示突觸延遲。,17,神經突觸可塑性,真實神經網絡系統(tǒng)通常是動態(tài)的。為此我們不僅要考慮神經元

11、動力系統(tǒng)和神經網絡拓撲結構的的高度非線性和復雜性，還要討論神經網絡系統(tǒng)的時變性、魯棒性和易損性等問題，其中涉及的一個重要問題是學習和記憶功能，這與突觸可塑性研究密切相關。,18,突觸可塑性的實驗基礎,Bliss（1973)在麻醉的家兔海馬上發(fā)現了長時程突觸增強效應（long-term potentiation, LTP)，單個脈沖測試引起群體峰電位或群體興奮性突觸后電位增高。Nicoll et al（1988）通過實驗驗證了聯合型LT

12、P。后來還發(fā)現突觸后電位也能產生與長時程突觸增強的相反方式，使用的刺激方式是長時間的低頻刺激，持續(xù)幾百次即可引起興奮性突觸后電位的持續(xù)降低(long-term depression, LTD) 。這些都為突觸的變化提供了可靠的證據。神經突觸的耦合系數受到突觸前后的神經元活動的相互作用的影響而隨時間變化，稱為突觸的可塑性。,19,Hebb突觸可塑性假說,20世紀中葉，神經心理學家D. O. Hebb根據長期實驗研究的結果，提出了學習過

13、程中突觸運作的基本規(guī)律，即”當某一突觸兩端的神經元同步激活（同為興奮或同為抑制）時，該連接強度增強，反之應減弱”的著名論斷，被稱為Hebb假說。,20,The Hebbian postulate for cellular learning,“When an axon of cell A is near enough to excite B and repeatedly or persistently takes part in fir

14、ing it, some growth process or metabolic change takes place in one or both cells such that A’s efficiency, as one of the cells firing B, is increased.”,21,Hebb突觸學習規(guī)則,令神經細胞A和B的電發(fā)放為Va和Vb，它的突觸連接系數為Wab。由于細胞A和細胞B的發(fā)放，引起它們之間突觸聯

15、系有個增量△Wab，根據Hebb規(guī)則有數學表達式： △Wab = f（Va，Vb）， 其中f表示某種函數關系。 Hebb的突觸學習律并沒有直接告訴我們這個函數f的形式如何。把神經元作為神經系統(tǒng)的基本單元，神經元之間的突觸系數作為一個變數?，F在借助數學，計算機科學和物理學理論，提出一些學習和記憶的數學理論，這些理論都是建立在突觸可塑性基礎之上。,22,Hebb的突觸可塑性假說的實驗

16、驗證,Hebb關于學習和記憶的突觸可塑性變化假說，在當時僅僅是一種猜想。而后，形態(tài)學研究以及電生理實驗開始證實這一假說，如Bliss（1973）等的工作。半世紀以來的神經生理學的實驗研究所取的證據都傾向于支持Hebb突觸修飾的假說。還有一些實驗表明，隨著某一神經回路的多次應用，該回路上的突觸數量增多，體積變大，甚至還長出新的突觸出來，學習和記憶功能得到顯著加強。,23,Hebb的突觸可塑性假說的實驗驗證（續(xù)）,近年來，特別是Markra

17、m、Bell、Amzica、Zhang及Bi 等人的實驗研究工作給出了較為完整的和準確的關于Hebb突觸的實驗證明，并給出了突觸修飾對于時間的敏感性以及發(fā)現了Hebb猜想中并未明確的突觸抑制（depression）機制。這些工作顯示：突觸可塑性對時間信號具有敏感性；正相關的突觸后放電將引起突觸聯系的增強，而負相關的突觸后放電將引起突觸聯系減弱。,24,樹突對突觸可塑性的影響,目前的神經元網絡建模中，大多數連接方式沒有考慮空間方面的影響。

18、實際上，突觸可塑性是由突觸前后的瞬時動作電位支配的，而突觸后電位又受到樹突棘結構性質的影響，因此樹突的可興奮性必然反映到突觸可塑性規(guī)律上面；同樣地，突觸在樹突上的位置也會間接地影響其可塑性規(guī)律。反之，突觸可塑性當然影響樹突的工作特性。,25,樹突對突觸可塑性的影響（續(xù)）,結論：在生物神經網絡模型時，必然存在突觸可塑性與樹突的可興奮性的相互作用回路特性。樹突的電性質不是靜態(tài)的，要受到神經調制機理和突觸活動的影響，因此突觸學習規(guī)律會隨著

19、樹突響應特性函數的 形式發(fā)生動態(tài)的變化。,26,三、神經學習記憶功能研究,學習和記憶是動物和人類的生存必需的重要腦基本功能，是兩個互相聯系的神經過程。學習是指獲得外界信號的神經過程，而記憶是將獲得的信息儲存和讀出的神經過程。 學習和記憶本身也不是單一過程，可以包含不同的神經過程： 學習可分為非聯合型學習和聯合型學習。 記憶可分為短時記憶和長時記憶；陳述性記憶和非陳述性記憶等。,27,H

20、ebb理論與學習記憶功能,突觸可塑性是學習和記憶的基礎。 Hebb提出的關于突觸傳遞變化的理論，設想在學習過程中突觸發(fā)生某些變化，導致突觸連接的增強和傳遞效能的提高。他提出重復持續(xù)的活動可以引起神經元連接的長時程變化并固定起來，即學習能力的增強。 他后來又進一步指出，記憶不是兩個神經元之間連接的變化，而是同時被激活的神經元集合的持續(xù)活動可以使細胞的相互聯系加強，從而實現對刺激的記憶。

21、 神經電脈沖到達突觸的時間是離散的，空間分布也是復雜的，因此突觸可塑性是統(tǒng)計的結果。,28,Hebb學習理論的發(fā)展（一）,Hebb突觸修飾假設無論對于神經科學還是計算神經科學都是重要的。 根據Hebb突觸假說，發(fā)展了各種突觸變化的學習律，如經典的Hebb學習律、加強學習律、相關學習律、協(xié)方差律、BCM律。這幾種學習律在具體執(zhí)行時往往會發(fā)生突觸系數無限增大，從而使系統(tǒng)不穩(wěn)定。限于神經生理學的研究，Hebb學習律還存在諸多問題，如Hebb

22、突觸的聯系效率只能增長卻無上限等。這在神經生理學上是沒有依據的。Hebb學習律的改進和發(fā)展依然是今后突觸可塑性研究的重要問題之一。,29,Hebb學習理論的發(fā)展（二）,Oja（1982）為了避免不穩(wěn)定性，提出了一種非監(jiān)督學習律，稱之為“Oja學習律”。Oja 學習規(guī)則作為Hebb 學習規(guī)則的一種改進算法, 它在單個神經元的權值變化中具有很好的收斂性 , 但是在規(guī)模比較大的生物神經網絡中, Oja 學習規(guī)則易使網絡的解產生發(fā)散。,30,H

23、ebb學習理論的發(fā)展（三）,鄭鴻宇等根據實際生物神經元之間的連接強度隨時間變化的特點，首先構造了一個Hodgkin-Huxley 方程為節(jié)點動力學模型的動態(tài)變權小世界生物神經網絡模型，然后研究了該模型神經元的興奮特性、權值變化特點和不同的學習系數對神經元的興奮統(tǒng)計特性的影響。 最有意義的結果是,在同樣的網絡結構、網絡參數及外部刺激信號的條件下，學習系數b 存在一個最優(yōu)值bopt ，使生物神經網絡的興奮度在bopt 處達到最大。,31,H

24、ebb學習理論的發(fā)展（四）,脈沖時間依賴的突觸可塑性（spike-timing dependent plasticity, STDP）現象的發(fā)現，使Hebb學習律更為精確定量，時間在數十毫秒之內，為時間編碼理論（而不是長時程的平均發(fā)放）提供了直接證據。STDP的發(fā)現也是Hebb的細胞集群理論的一個實驗證據。STDP的突觸修正規(guī)律是一種快速的變化，可能對學習效果產生影響，同時表明不同類型的時間窗口可能對學習的結果有關鍵性的作用。 因此

25、STDP的發(fā)現以及其理論可能對現有的學習算法產生重大影響。,32,Hebb學習理論的發(fā)展（五）,Dayan & Abbott（2001）提出了一個STDP規(guī)則指導下的學習律。它僅是描述了STDP的可塑性，這種方式的可塑性對學習過程究竟有什么好處，及多種窗口函數情況下學習過程有何不同等問題還需要進一步考慮。Johannes J. Letzkus 討論了局部突觸的時間依賴可塑性的學習規(guī)則，結果表明突觸是根據局部規(guī)則改變而不是全局的

26、，局部突觸是時間依賴可塑性的關鍵。,33,34,四、一些思考,,生物神經網絡系統(tǒng)的神經元特性、耦合方式和網絡拓撲結構與網絡動態(tài)特性和功能密切相關。神經突觸和樹突反映神經元的耦合特性，對神經信息的加工和傳導功能有十分重要影響，因此生物神經系統(tǒng)的突觸和樹突動力學研究對于了解和分析大腦的學習和記憶功能具有十分重要的理論意義和應用價值。 在研究中要注意針對真實的生物神經系統(tǒng)特點建模和分析，根據生理解剖結構和實驗數據

27、分析進行網絡模型的構建和動力學特性的預測。,一些思考（續(xù)一）,目前多數神經網絡研究基本考慮的是不依賴于時間的、雙向、對稱、無權連接矩陣的耦合方式。實際上，大腦的學習和記憶功能是與腦皮層神經元間連接強度的變化規(guī)律有關的，即通過突觸可塑性去實現，因此在生物神經網絡動力學研究中采用時變、加權、非對稱連接矩陣更為合理。 我們需要根據實驗結果建立各種神經突觸模型和進行突觸可塑性的定性和定量分析，供研究在生物神經網絡模型中時變連接方式之