脈沖神經元序列學習方法的影響因素研究

徐 彥，楊 靜

（1.南京農業大學信息科技學院，南京210095；2.北京師范大學珠海分校管理學院，廣東珠海519087）

·人工智能及識別技術·

脈沖神經元序列學習方法的影響因素研究

徐 彥1，楊 靜2

（1.南京農業大學信息科技學院，南京210095；2.北京師范大學珠海分校管理學院，廣東珠海519087）

遠程有監督方法（ReSuM e）通過計算神經元運行時的輸出脈沖和輸入脈沖的時間差調整突觸權值，是目前在理論基礎和實際應用上都較出色的脈沖神經元有監督學習方法，但是當期望輸出脈沖序列較長時，ReSuM e方法的學習精度較低。為解決該問題，分析影響ReSuM e方法性能的2個主要因素：在線、離線學習方式及學習過程中更新突觸權值時輸入脈沖的選取。在線學習精度一般高于離線學習，但是學習精度的差異隨著參數或者其他設置的不同有較大差別。針對輸入脈沖的選取，提出一種新的學習策略以改進ReSuM e方法，該策略在計算權值調整幅度時綜合考慮期望輸出與實際輸出脈沖序列，從而避免增強與減弱權值時輸入脈沖出現重疊干擾。實驗結果表明，新的學習策略可以有效提高ReSuMe方法的學習精度及其解決實際問題的能力。

脈沖神經元；遠程有監督方法；脈沖序列學習；脈沖神經網絡；脈沖反應模型

1 概述

在生物神經系統中，神經元之間通過具有特定頻率和形態的脈沖序列來傳遞信息［1］。這些信息通過激發率和激發時間2種方式進行編碼［2］。傳統人工神經元模型可以看成是激發率編碼的一種近似。但是，僅使用激發率編碼會使得以精確激發時間表達的信息丟失。因此，更加接近真實神經元運行方式的脈沖神經元和網絡被提出［3］。脈沖神經元以脈沖激發時間作為輸入和輸出，可以更好地模擬生物神經元，進而可以更有效地模擬人的智能活動。現已證明，脈沖神經網絡具有比傳統人工神經網絡更強的性能［4-5］。

在人工神經網絡的研究中，有監督學習理論一直都屬于核心研究內容。脈沖神經元與網絡的有監督學習也是其研究領域中一個極重要的組成部分。以脈沖激發時間編碼的脈沖神經網絡的有監督學習是在一段運行時間內輸出神經元通過學習能夠精確地在指定的時刻激發出脈沖。由于脈沖神經元的運行方式接近于真實的生物神經元，而人們對生物神經系統如何進行有監督學習的完整機理尚不清楚，因此脈沖激發時間編碼的脈沖神經網絡有監督學習方法研究有其自身的特點和難點。

脈沖神經元有監督學習方法的研究是實現更復雜的神經網絡有監督學習的基礎。基于時間編碼的脈沖神經元的有監督學習就是具有多個輸入突觸的單個脈沖神經元通過學習在期望時刻激發出脈沖，即脈沖序列，所以又稱為脈沖序列學習。為了更好地模擬真實神經元，大多數研究者都致力于尋找具有生物學基礎的有監督學習方法［6-7］。

文獻［8］提出一種稱為遠程有監督方法（Remote Supervised M ethod，ReSuM e）的脈沖神經元有監督學習方法。該方法由輸出脈沖序列與輸入脈沖序列結合時間相關可塑性（Spiking Tim ing Dependent Plasticity，STDP）規則［9］調整權值。ReSuM e方法具有明顯的優點［10］，但是研究者最初提出的ReSuM e方法存在著一些問題，其中較大的不足是當期望輸出脈沖序列的時間段較長時，ReSuM e方法的精度下降較快［11］，這直接影響了其解決復雜問題的能力。

針對ReSuMe方法進行深入研究可以得到提高其學習性能的方法，并且對脈沖神經網絡有監督學習的研究具有較高的理論和實際價值。本文著重對ReSuM e方法學習時涉及的2個因素進行研究：（1）ReSuM e方法以在線和離線方式學習時的神經元性能差別；（2）初始ReSuM e方法權值調整時需要選取輸入脈沖。

2 脈沖反應模型及ReSuM e方法

2.1 脈沖反應模型

雖然ReSuMe方法并不限定于適用某一種特定的脈沖神經元模型，但是本文以常用的脈沖反應模型（Spiking Response Model，SRM）［1］作為研究對象。對于其他脈沖神經元模型［1］，本文研究結果一樣適用。

在SRM模型中，神經元的輸入為沿著眾多突觸傳輸到神經元的離散脈沖的到達時間，每一個脈沖到達后都會在神經元內部產生一個突觸后電位（Postsynaptic Potential，PSP），神經元的內部狀態即膜電位值（m embrane potential）為所有的輸入脈沖產生的PSP在其各自傳輸突觸權值影響下的總和。

假設神經元有N個輸入突觸，第i個突觸有Gi個脈沖輸入，它們到達神經元的時間集合記為，在當前時刻t（＞0）之前最近的一次脈沖激發時刻為t（fr），則神經元的膜電位表達式為：

其中，wi是神經元第i個輸入突觸的權值。一個輸入脈沖產生的PSP由反應函數ε（t）決定，本文中脈沖反應函數表達式為：

其中，τ是決定反應函數性態的時間延遲常數。

當神經元的膜電位在某個時刻由低到高超過激發閾值?，神經元會在這個時刻激發出一個脈沖（本文用t（f）表示激發的脈沖及其激發時間），并且會進入一個在短時期內不會再次激發脈沖的過程，稱為絕對不應期［12］。隨后神經元會進入稱為相對不應期［12］的過程，這時膜電位值較低并且難于再次激發脈沖。膜電位表達式中的η（t-t（fr））描述相對不應期的影響，函數η（t）的表達式為：

其中，τR是決定不應期函數性態的延遲常數。本文中只考慮離當前時刻最近的一個脈沖激發產生的不應期影響而忽略更早的其他脈沖激發。本文中脈沖神經元的參數設置如下：?=1，τ=7，τR=80。

2.2 ReSuM e方法的權值更新規則

脈沖神經元的有監督學習是依據輸入與輸出脈沖序列通過調整神經元的突觸權值來實現的。ReSuM e方法的權值更新分為2個部分。

（1）權值的增強：當神經元運行時遇到任何一個期望輸出脈沖所在的時間點td，就要在這個時間點根據輸入脈沖的時刻計算增強突觸權值，對于第i個輸入突觸，其權值wi的增強調整規則［10］為：

其中，td-1為td之前最靠近td的一個期望輸出脈沖。

（2）權值的減弱：當神經元在運行過程中一旦激發出脈沖to，就要在這個實際輸出脈沖的時間點根據輸入脈沖的時刻計算減弱突觸權值，對于第i個輸入突觸，其權值wi的減弱調整規則［10］為：

其中，to-1為to之前最靠近to的一個實際輸出脈沖。

在式（4）、式（5）中的a是一個權值更新的常數，表示權值更新時一個恒定不變的更新量；β是學習速率。W（s）稱為學習窗口函數，它決定了根據輸入脈沖時刻與實際或者期望輸出脈沖時刻之間的間隔得到的權值更新幅度。

其中，A+是常數；τ+是決定學習窗口函數性態的時間延遲常數。本文實驗中ReSuM e權值更新規則參數設置如下：a=0.001，A+=0.5，τ+=5。

已有研究結果顯示，ReSuM e方法調整突觸權值可以使神經元以較高的精度激發出期望輸出脈沖序列。同時，ReSuM e方法具有較好的適用性，它可以適用于多種不同的脈沖神經元模型［10］。另外，ReSuM e方法采用的作為權值調整基礎的STDP規則是生物神經元突觸強度調整機制的理論總結，這使得ReSuM e方法具有十分明顯的生物學基礎。因此，無論在理論基礎還是實際應用上ReSuM e方法都是目前較出色的脈沖神經元有監督學習方法。

在脈沖序列學習中，評價學習結果的好壞就是判斷神經元在學習結束后實際激發的脈沖序列與期望輸出脈沖序列的接近程度。這實際上是度量2個脈沖序列之間的距離。本文采用基于相關性的度量C［13］來描述該距離：

其中，vd和vo分別為期望輸出脈沖序列和實際輸出脈沖序列與高斯低通濾波器作卷積（離散）之后得到的向量。等式中的分子是2個向量的內積，分母是2個向量模的乘積。當2個脈沖序列完全相同時C值為1，隨著它們的差別越來越大逐漸趨于0。

3 影響因素分析與學習策略的提出

3.1 在線與離線學習

已知傳統BP算法有2種常見的運行方式，即在線方式和批處理方式［14］。這2種方式各有利弊，批處理方式可以消除樣本學習順序對學習結果的影響，使得學習更加穩定，而且更適合理論研究和并行處理；在線方式則需要更少的存儲空間，當樣本順序正確時學習可以更快收斂，所以，通常性能更強。BP算法的這2種方式的區別為在線方式是在每一個訓練樣本輸入網絡計算后立刻調整權值，而批處理方式則是當所有樣本都計算完成后統一調整更新權值。

對于脈沖神經元有監督學習的ReSuM e方法，也可以討論類似2種學習方式在學習性能上的差異。根據ReSuM e方法的特點，神經元突觸權值的調整可以按2種方式處理：（1）在神經元運行過程中遇到實際或期望輸出脈沖時立刻調整更新權值；（2）在神經元運行過程中遇到輸出脈沖時不立刻更新權值，而是在神經元運行完成后根據實際與期望輸出脈沖序列計算更新權值。本文稱第（1）種為在線學習方式，第（2）種為離線學習方式。

本文通過一組實驗考察ReSuM e方法在這2種學習方式下性能。在實驗中神經元輸入與輸出脈沖序列的長度由短到長逐漸變化，而其他設置保持不變。神經元有400個輸入突觸；輸入與期望輸出脈沖序列的激發率分別為10 Hz和100 Hz的Poisson序列；脈沖序列的長度在200 ms～3 200 ms內以間隔200 ms逐漸增加。在每種長度下分別進行50次實驗，實驗結果如圖1所示。

圖1 初始ReSuM e方法基于在線和離線方式的學習效果對比

圖1（a）表示度量C可以達到的最大值在50次實驗下的平均值及均方誤差；圖1（b）表示度量C達到最大值所需要的學習周期數在50次實驗下的平均值以及均方誤差。由圖1（a）可知，在學習精度上，2種方式下ReSuM e方法呈現出相似的結果，即隨著期望輸出脈沖序列長度的增加精度會逐步降低，這也是脈沖序列學習的一個普遍規律。比較2種方式的學習精度，可以發現以在線方式運行的精度在每一個序列長度下都高于離線方式。在400 m s～1 200 m s這一范圍內在線方式的精度優勢更加明顯。例如在序列長度為600 ms時，在線方式的度量為C=0.936，而離線方式的度量僅為C=0.686。隨著脈沖序列長度的增加，在線方式與離線方式下學習精度的差別越來越小。對于學習效率，由圖1（b）可知離線方式下ReSuM e方法達到最大學習精度需要的平均學習周期數要少于在線方式。但是對于脈沖序列學習，在學習周期數沒有巨大差別的情況下，學習精度的差別對于學習算法的實際應用影響更大。

由這一組實驗可以發現，對于ReSuM e方法，在線方式在學習精度上優于離線方式。其原因為，除了在線方式固有的性能優勢之外，還有一個可能的原因來自于生物學基礎。脈沖神經元的運行方式仿照真實的生物神經元，而生物神經元是在有脈沖激發時按照一定的機制（如STDP）立刻調整突觸強度，即在線調整，所以，脈沖神經元按照ReSuM e方法以在線方式進行有監督學習更加符合這一生物學規律，因此也獲得了更高的學習精度。

3.2 輸入脈沖的選取

ReSuM e方法的權值更新幅度是通過實際輸出或期望輸出脈沖與輸入脈沖之間的時間差經過學習窗口函數計算得到的。在這些關鍵因素中期望輸出脈沖的時刻是固定的，實際輸出脈沖的時刻是由神經元運行產生的，這2個在計算權值更新的幅度時都不可更改。每個輸入突觸上輸入脈沖的時刻是固定的，學習過程中也不能更改。但是在每一個實際或者期望輸出脈沖之前需要考慮的輸入脈沖的個數，即在窗口函數計算中考慮的輸入脈沖個數是可以選擇的。

在初始的ReSuM e方法中，期望輸出脈沖序列與實際輸出脈沖序列在學習時是獨立的，即在遇到期望輸出脈沖增強權值時，增強幅度的計算只涉及輸入脈沖和當前期望輸出脈沖，并且由于神經元激發出脈沖之后存在不應期［13］，考慮的輸入脈沖只位于當前時刻和前一個期望輸出脈沖的時刻之間，如式（4）所示。對應地，在遇到實際輸出脈沖減弱權值時只涉及輸入脈沖和當前實際輸出脈沖，并且考慮的輸入脈沖只位于當前時刻和前一個實際輸出脈沖的時刻之間，如式（5）所示。

如圖2所示，Si為一個脈沖神經元的某一個輸入突觸，其上依時間次序傳輸到達神經元的輸入脈沖依次為…；神經元的期望輸出脈沖序列為Sd，其中前3個期望輸出脈沖依次為；在某一次運行過程中神經元的實際輸出脈沖序列為So，其中前2個實際輸出脈沖為。

圖2 ReSuM e方法學習時輸入脈沖的選取

神經元在這次運行過程中，按照時間順序最先到達的是第1個期望輸出脈沖的時刻。按照ReSuM e方法，在這個時刻需要增強輸入突觸的權值。按照文獻［8］中提出的初始ReSuM e方法，此刻對于輸入突觸Si的權值wi計算增強幅度需要考慮之前的輸入脈沖。隨著神經元的運行到達第一個實際輸出脈沖的時刻，按照ReSuM e方法，在這個時刻需要減弱輸入突觸的權值，由初始ReSuM e方法，由于期望輸出和實際輸出脈沖序列在學習時互相獨立，此刻對于權值wi計算減弱幅度需要考慮的輸入脈沖為。神經元的運行到達第2個期望輸出脈沖的時刻，此刻對于權值wi計算增強幅度需要的輸入脈沖將不再考慮之前的，只需考慮位于和之間的。同樣地，對于后面的期望輸出脈沖的時刻以及實際輸出脈沖的時刻，計算增強和減弱權值wi時將分別只考慮位于和之間的以及位于和之間。

上文直觀地分析了初始的ReSuM e方法學習時在每一個輸出脈沖的時刻計算權值更新時輸入脈沖的選擇方式，這種方式下期望輸出脈沖和實際輸出脈沖之間互不干擾、相互獨立。圖1中的實驗是按照這種方式進行的，由在線方式的實驗結果可知，這種方式下當期望輸出脈沖序列長度較長時，ReSuM e方法的學習精度會有明顯下降。例如，當脈沖序列的長度為600 ms時，學習精度可以達到度量C= 0.936，而當序列長度為1 200 ms時，度量下降為C= 0.606。這就是初始ReSuM e方法性能上的一個不足。分析原因，在這種方式下，輸入脈沖對于期望輸出脈沖和實際輸出脈沖的計算是可以有重疊的。例如圖2中，對和的計算都考慮了，而這種重疊會導致對同一輸入突觸權值增強和減弱之間發生干擾，這種干擾在一定程度上影響了初始ReSuM e方法的學習精度。

為了提高學習精度，本文對ReSuM e方法進行改進，提出一種新的學習策略，該策略改變學習過程中遇到期望輸出脈沖或者實際輸出脈沖時計算權值更新幅度所考慮的輸入脈沖選擇。其關鍵是對期望與實際輸出脈沖在調整權值時選擇的輸入脈沖避免出現重疊。

在遇到期望輸出脈沖td增強權值時，權值增強幅度的計算選擇位于當前期望輸出脈沖時刻和該時刻前最靠近該時刻的期望或實際輸出脈沖之間的輸入脈沖，其表達式為：

其中，td-1為td之前最靠近td的期望輸出脈沖；為 td之前最靠近td的實際輸出脈沖。

同樣地，在遇到實際輸出脈沖to減弱權值時選擇位于當前實際輸出脈沖時刻和該時刻之前最靠近該時刻的期望或實際輸出脈沖之間的輸入脈沖，其表達式為：

其中，to-1為to之前最靠近to的期望輸出脈沖；d為to之前最靠近to的期望輸出脈沖。

由上述學習策略可知，其消除了初始ReSuM e方法在權值更新過程中期望輸出脈沖和實際輸出脈沖互不干擾的特點，無論是增強權值還是減弱權值都要綜合考慮期望與實際輸出脈沖。

4 實驗與結果分析

通過實驗驗證ReSuM e方法的學習策略效果，為了表述方便，稱以本文提出的學習策略進行學習的ReSuM e方法為改進ReSuMe方法。前2組實驗分別采用在線和離線方式運行。實驗設定和圖1的實驗設定相同，即神經元有400個輸入突觸；輸入與

期望輸出脈沖序列的激發率分別為10 Hz和100 Hz的Poisson序列；脈沖序列的長度在200 m s～3 200 m s內以間隔200 m s逐漸增加。在每種長度下分別進行50次實驗，本節實驗中用于考察實驗結果的數據和圖1一致。實驗結果分別如圖3和圖4所示。

圖3 改進ReSuM e方法和初始ReSuM e方法基于在線方式的學習效果對比

圖4 改進ReSuM e方法和初始ReSuM e方法基于離線方式的學習效果對比

圖3 顯示在線方式下的實驗結果。由圖3（a）可知，本文提出策略有效提高了ReSuM e方法的在在線方式下的學習精度。從600 m s序列長度開始，改進ReSuMe方法的學習精度明顯高于初始ReSuM e方法。例如，在1 200 m s時，初始ReSuM e方法的學習精度C為0.606，而改進ReSuM e方法的度量C為0.983。在200 ms～1200 ms的范圍內，改進ReSuMe方法可以使C保持在0.98以上，即學習基本上接近完全成功。而初始ReSuM e方法只能在200 m s和400 m s 2點處獲得接近完全成功的學習精度。由圖3可以看出，在線方式下改進ReSuM e方法達到最大學習精度所需的平均學習周期數要少于初始ReSuM e方法，因此，本文策略也提高了ReSuM e方法的學習效率。

圖4顯示離線方式下的實驗結果。由圖4（a）可知，與在線方式下的結果相似，本文提出策略有效提高了ReSuM e方法在離線方式下的學習精度，而且相比初始ReSuMe方法，提高效果比在線方式下更加明顯。在1 200 ms時，初始ReSuM e方法的學習精度C為0.503，而改進ReSuMe方法的度量C為0.956。在200 ms～1 200 ms的范圍內，改進ReSuM e方法可以使度量C保持在0.95以上，雖然略低于在線方式，但對期望輸出脈沖序列的學習依然接近完全成功。圖4（b）顯示離線方式下改進ReSuM e方法達到最大學習精度所需的平均學習周期數在大多數情況下多于初始ReSuM e方法。

圖5比較了改進ReSuM e方法分別在在線和離線方式下的學習結果。圖5（a）顯示改進ReSuM e方法以在線方式運行的學習精度略高于離線方式下的學習精度，但是對比圖1中初始ReSuM e方法在線和離線方式下學習精度的差異，改進ReSuM e方法在2種方式下的精度差別較小。由此可以看出，影響ReSuMe方法在線與離線方式下精度的因素很大程度上源于學習時相關參數和細節的設置。為了更加全面地衡量改進ReSuM e方法的學習效果，下面進行另一組實驗。這組實驗中神經元輸入與輸出脈沖序列的激發率比前面的實驗高。更高的激發率會導致神經元需要學習激發的期望輸出脈沖的個數和輸入脈沖的個數增加，因此理論上學習的復雜程度和難度會相應增加。在實驗中，神經元有400個輸入突觸；輸入與期望輸出脈沖序列都為激發率為200 Hz的Poisson序列；脈沖序列的長度在200 m s～2 800 m s內以間隔200 m s逐漸增加。在每種長度下分別進行50次實驗。采用在線學習方式的實驗結果如圖6所示。由此可知，當輸入和輸出脈沖序列的激發率都為200 Hz時，改進ReSuM e方法的學習精度依然高于初始ReSuM e方法。但是對比圖3可以發現，此時改進ReSuM e方法優于初始ReSuM e方法的幅度要小于激發率較低時的情形。在200 ms～1 400 ms長度范圍內，改進ReSuM e方法相比初始ReSuM e方法的度量C高出0.09～0.15。在1 400 m s之后，兩者的差距逐漸縮小，到2 000 m s之后2種方法的精度基本沒有差別。由圖6（a）可以看出，在這一組實驗中改進ReSuM e方法的平均學習精度的均方誤差明顯低于初始ReSuM e方法。因此，當輸入輸出脈沖序列激發率較高時，改進ReSuM e方法學習精度的穩定性要優于初始ReSuM e方法。對于學習效率，由圖6（b）可以看出，在脈沖序列比較短時，改進ReSuM e方法達到最大學習精度所需的平均學習周期數少于初始ReSuM e方法，但是當序列長度超過1 000 m s時，初始ReSuM e方法的周期數又少于改進ReSuM e方法，兩者的差距隨著序列長度的增加變得越來越少。

圖5 改進ReSuM e方法基于在線和離線方式的學習效果對比

圖6 當脈沖序列激發率較高時改進ReSuM e方法和初始ReSuM e方法的學習效果對比

綜上所述，本文提出的學習策略通過改變學習窗口函數在計算時涉及的輸入脈沖，在多種實驗設定下都提高了ReSuM e方法的學習精度，該精度提高明顯并且具有較高的普遍性。

5 結束語

脈沖序列學習是利用脈沖神經網絡實現各種應用功能乃至人工智能的一個重要基礎，對脈沖序列學習方法的研究是促進脈沖序列學習理論和應用發展的有效途徑。ReSuM e方法是一種典型的脈沖序列學習方法。本文對ReSuM e方法在線與離線學習方式的分析結果表明，在線學習的精度一般都高于離線學習，但是精度的差異隨著參數或者其他設置的不同有較大差別。通過在計算權值調整幅度時綜合考慮期望與實際輸出脈沖序列，提出一種可避免增強與減弱權值時輸入脈沖出現重疊干擾的學習策略。實驗結果顯示，當期望輸出脈沖序列較長時，這一學習策略可以有效提高ReSuM e方法的學習精度。在今后工作中，將繼續深入研究ReSuM e方法以及脈沖序列學習的性質，探尋在期望輸出脈沖序列較長時具有較高學習精度的方法，并進一步將ReSuM e方法和其他有監督學習方法相結合以提高整體性能。

［1］ Gerstner W，Kistler W M.Spiking Neuron Models［M］. Cambridge，UK：Cam bridge University Press，2002.

［2］ Rullen R V，Thorpe S J.Rate Coding Versus Temporal Order Coding：W hat the Retinal Ganglion Cells Tell the Visual Cortex［J］.Neural Computation，2001，13（6）：1255-1283.

［3］ Maass W.Networks of Spiking Neurons：The Third Generation of Neural Network Models［J］.Neural Networks，1997，10（9）：1659-1671.

［4］ Maass W.Fast Sigmoidal Networks via Spiking Neurons［J］.Neural Computation，1997，9（2）：279-304.

［5］ Maass W.Noisy Spiking Neurons with Temporal Coding Have More Computational Power Than Sigmoidal Neurons［M］.Cam bridge，USA：M IT Press，1997.

［6］ Legenstein R，Naeger C，M aass W.W hat Can a Neuron Learn with Spike-timing-dependent Plasticity？［J］. Neural Computation，2005，17（11）：2337-2382.

［7］ Pfister JP，Toyoizumi T，Barber D，et al.Optimal Spiketiming-dependent Plasticity for Precise Action Potential Firing in Supervised Learning［J］.Neural Computation，2006，18（6）：1318-1348.

［8］ Ponulak F.ReSuM e——New Supervised Learning Method for Spiking Neural Networks［D］.Pozna，Poland：Poznan University of Technology，2005.

［9］ Bi G Q，Poo M M.Synaptic Modifications in Cultured Hippocam pal Neurons：Dependence on Spike Tim ing，Synaptic Strength，and Postsynaptic Cell Type［J］. Journal of Neuroscience，1998，18（24）：10464-10472.

［10］ Ponulak F，Kasinski A.Supervised Learning in Spiking Neural Networks with Resume：Sequence Learning，Classification and Spike Shifting［J］.Neural Computation，2010，22（2）：467-510.

［11］ Xu Yan，Zeng Xiaoqin，Han Lixin，et al.A Supervised Multi-spike Learning Algorithm Based on Gradient Descent for Spiking Neural Networks［J］.Neural Networks，2013，43：99-113.

［12］ Kandel E R，Schwartz J H，Jessell T M.Principles of Neural Science［M］.New York，USA：McGraw-Hill，2000.

［13］ Scheriber S，Fellous J M，Whitmer D，et al.A New Correlation-based Measure of Spike Timing Reliability［J］. Neurocomputing，2003，52-54：925-931.

［14］ Haykin S.神經網絡原理［M］.葉世偉，史忠植，譯.北京：機械工業出版社，2004.

編輯陸燕菲

Research on Affect Factors of Spiking Neuron Sequence Learning Method

XU Yan1，YANG Jing2
（1.College of Information Science and Technology，Nanjing Agricultural University，Nanjing 210095，China；2.School of Management，Zhuhai Cam pus，Beijing Normal University，Zhuhai 519087，China）

Remote Supervised Method（ReSuMe）ad justs the synaptic weights according to the time difference between output and input spiking during neuron runtime.Whether for the theoretical basis or the practical application，ReSuMe method is a kind of relatively excellent supervised learning method for spiking neurons.But when the desired output spriking sequence is long，the learning accuracy of ReSuMe method is relatively low.In order to discusse ReSuMe method more detailed and improve its learning performance，two factors that affect the learning performance of ReSuMe method are studied.The first factor is the offline or online learning model，the other is the choice of the input spiking considered when adjusting the synaptic weights.Online learning accuracy is generally higher than offline learning，but the different of learning precision is big with different parameters or other settings.And a new learning strategy is proposed for the second factor to improve the ReSuM e method，it considers input and output spiking sequence when calculates weight adjustment，avoids the overlap interference of input spiking when increases and decreases weights. Experimental results show that the new strategy can greatly improve the learning accuracy of ReSuMe method under different experiment settings.So it has a strong ability to solve practical problems.

spiking neuron；Remote Supervised Method（ReSuMe）；spiking sequence learning；spiking neural network；Spiking Response Model（SRM）

徐 彥，楊 靜.脈沖神經元序列學習方法的影響因素研究［J］.計算機工程，2015，41（11）：194-201.

英文引用格式：Xu Yan，Yang Jing.Research on Affect Factors of Spiking Neuron Sequence Learning Method［J］. Computer Engineering，2015，41（11）：194-201.

1000-3428（2015）11-0194-08

A

TP183

10.3969/j.issn.1000-3428.2015.11.034

國家自然科學基金資助項目（61403205）；中央高校基本科研業務費專項基金資助項目（KJQN201549）。

徐 彥（1979-），男，講師、博士，主研方向：人工神經網絡，模式識別；楊 靜，講師、博士。

2015-06-17

2015-07-17 E-m ail：xuyannn@njau.edu.cn