基于可變步長的Hopfield神經網絡盲檢測算法

季奎明，于舒娟，張 昀，吳光銀

(南京郵電大學電子科學與工程學院，江蘇南京210003)

近年來，在物聯網等技術的興起下以及4G時代的來臨，人們對通信系統的可靠性和時效性的要求更為嚴格。盲檢測技術就是在不借助訓練序列的情況下，僅依靠接收端獲得的信號來檢測出發送信號。如今，利用Hopfield神經網絡進行盲檢測的算法有了相當多的研究［1-3］。針對傳統Hopfield神經網絡盲算法收斂速度慢及容易陷入局部最優解的問題，一般改進思路有:改進神經網絡的激活函數，如文獻［4］提出一種新的激活函數來改善抗干擾性能;文獻［5］提出動態步長Hopfield神經網絡去解決數學領域中旅行商問題(Traveling Salesman Problem，TSP)，從而加快算法的收斂速度。文獻［6］指出使用反正切函數作為網絡的激活函數，相比采用Sigmoid函數作為激活函數，BP算法的收斂速度加快了3～10倍。

本文參考上述文獻的思路，受文獻［6］的思想啟發，將反正切函數作為Hopfield神經網絡的激活函數。在此基礎上將濾波器設計中可變步長的思想運用到Hopfield神經網絡盲檢測問題中，提出了一種基于可變步長Hopfield神經網絡(Variable Step Hopfield Neural Network，VSHNN)算法。仿真結果表明，該算法加快了能量函數的收斂速度，且誤碼性能有了一定的提高。

1 基于可變步長Hopfield神經網絡的盲檢測優化問題的建立

依據文獻［7-8］，不計噪聲的情況下，SIMO(Single-Input Multi-Output)數字通信系統中接收信號方程、盲處理方程為

式中:q是過采樣因子;M是信道階數;L是均衡器階數;S=［sL+M(k)，…，sL+M(k+N-1)］T=［sN(k)，…，sN(k-ML)］N×(L+M+1)是發送信號矩陣;(H)(L+1)q×(L+M+1)是 hj(j=0，1，…，M)構成的塊 Toeplitz矩陣;［h0，…，hM］q×(M+1)是信道的沖激響應是接收矩陣。式(2)表明，當H是列滿秩矩陣時，一定有滿足Q sN(k-d)=0，其中d=0，…，M+L。Uc是接收信號陣XN奇異值分解中的酉矩陣，。

此時可構造性能函數及優化問題［9］

可知，式(4)就是本文利用可變步長Hopfield神經網絡解決的帶約束條件的二次型函數優化問題。

由于STQS與Hopfield神經網絡的能量函數第一項形式相似，把兩者聯系起來。為了利用VSHNN這一有力工具求解式(4)的信號盲檢測問題，可將神經網絡的連接權矩陣配置如下

當VSHNN達到平衡時，即S(k+1)=S(k)，則能量函數的最小值點就是優化問題的解，得到的解點信號即為所需檢測的發送信號。

2 基于可變步長Hopfield神經網絡的盲檢測算法及穩定性證明

當前，文獻［5，10，11］利用神經網絡的方法解決眾多實際問題，但大部分網絡結構使用經典的Sigmoid型激活函數。參照文獻，本文提出了基于反正切函數的新激活函數

式中:C和μ是用來控制激活函數的變化趨勢的參數。圖1展示了當C和μ取不同值時激活函數的曲線圖。

圖1 新激活函數與傳統Sigmoid型激活函數的曲線

由圖1可知，新的網絡激活函數具備如下優點:

1)與經典Sigmoid型激活函數相似，當神經元輸入的絕對值較大時，可以加快收斂速度;

2)新激活函數f(x)在原點附近對神經元輸入值的敏感性顯著降低，對噪聲的抗干擾能力明顯增強。

激活函數為反正切函數的Hopfield網絡的動態方程如下

式中:A為神經元的衰減因子;W為神經網絡的連接權值;θ是神經元的偏置;x(t)為神經網絡的輸出;y(t)為神經網絡的輸入;f(·)為激活函數。

由式(7)描述的VSHNN結構模型如圖2所示。

圖2 可變步長Hopfield神經網絡模型

式(7)的微分方程可離散化為

式中:λ為計算步長，一般為較小的實數。

傳統HNN算法中，式(9)的λ是一個取值在區間(0，1)的固定常數。如果λ取值過大，就會導致算法連續抖動不能收斂。相反，如果λ取值過小，就會造成每次算法調整神經網絡輸入值的幅度偏小，導致算法容易陷入局部極小值而無法得到全局最優解。

本文提出的解決方案是將以往固定的步長值λ用可變的步長值λ(t)代換。式(9)和式(10)體現了傳統步長與改進后步長的不同之處:傳統步長λ是一個固定常數，而改進后步長λ(t)是動態可變的。為了加快能量函數的收斂速度，先采用大步長，隨著收斂過程的進行，逐漸減小步長的取值，從而使算法可以獲得精細的收斂效果。

λ(t)的取值可以依據式(11)，其中λ0是一個常數，α和β是控制步長函數變化趨勢的參數，圖3展示了當λ0，α和β是不同取值時步長λ(t)的值隨著迭代次數變化的情況。

VSHNN 穩定性分析如下［12-14］:

假設可變步長Hopfield神經網絡由N個神經元構成，權矩陣滿足W=WT，則VSHNN的能量函數可表示為

圖3 步長λ(t)隨迭代次數t變化的曲線

對能量函數E(t)求導得到式(13)，因為篇幅的關系，詳細推導過程參照文獻［5］

由于所選用的激活函數f(x)在區間(-∞，+∞)上為單調遞增函數，根據反函數性質可知f-1(x)在區間(-1，1)單調遞增的并且是連續有界的，則可以保證當且僅當，根據 Lyapunov 穩定性定理，說明該網絡在迭代運行的過程中能量值逐漸減少，網絡(7)是穩定的。

3 仿真實驗

仿真環境:發送信號序列為二進制移相鍵控(Binary Phase Shift Keying，BPSK)信號，加性高斯白噪聲，經過100次Monte Carlo實驗得到仿真結果。將誤碼率為零的點設為10-5以便于畫圖。仿真實驗參數的選取為:C=2/π，μ=1.5，λ0=0.75，α =-0.09，β =0.3。

實驗1:采用權值和延時固定的合成信道，不含公零點，固定發送信號數據量M=100，在同步更新模式下將基于VSHNN的盲檢測新算法和文獻［11］中3種盲檢測算法的誤碼率進行比較并記錄各算法的收斂時間如表1所示，各種盲檢測算法的誤碼性能如圖4所示。

表1 VSHNN算法與文獻算法收斂時間的對比

通過表1和圖4可知，本文提出的基于VSHNN盲檢測新算法的誤碼性能和收斂速度顯著優于傳統的HNN和TCHNN盲檢測算法;在保證與文獻［11］DS-TCHNN盲檢測算法收斂速度相差無幾的情況下，基于VSHNN盲檢測新算法的誤碼性能有了一定的提高。

圖4 VSHNN盲檢測算法與3種盲檢測算法誤碼率對比圖

實驗2:在信噪比為20 dB條件下，分別進行不同數據量時基于VSHNN盲檢測算法、基于HNN盲檢測算法、基于TCHNN盲檢測算法、基于DS-TCHNN盲檢測算法和文獻［15］二階統計量中的子空間算法(Subspace Algorithm，SSA)盲檢測算法的Monte Carlo實驗的誤碼率比較，如圖5所示。

圖5 VSHNN算法與其他算法不同數據量時的誤碼率比較

由圖5可知，SSA算法與文獻給出的要求一致，需要較大的數據量才能對信道進行準確的辨識以獲得較好的誤碼性能;本文的VSHNN盲檢測算法與其他算法相比，要求的接收數據量長度更短，且誤碼率更低，從而使算法的計算復雜度大大降低，運行速度得到提升。

實驗3:由于二階統計量算法需要較長數據量才能夠準確地辨識信道，因此固定發送信號數據量M=400，采用2種不同的經典信道，其中信道一(CH1)，采用權值和延時固定的合成信道，但含1個公零點;信道二(CH2)［16］，分別比較文獻［11］中的3種盲檢測算法、文獻［15］中二階統計量中的SSA以及本文基于 VSHNN的盲檢測算法的誤碼性能，如圖6所示。

從圖6a和圖6b可知，二階統計量SSA盲檢測算法對含公零點的信道失效;文獻［11］中的盲檢測算法和本文提出的基于VSHNN的盲檢測算法均適用于兩種經典信道，可以很好地解決信道含公零點的問題，具有一定的普適性，且本文基于VSHNN的盲檢測算法的誤碼性能均優于文獻［11］中的3種盲檢測算法。

圖6 兩種經典信道下VSHNN算法與其他盲檢測算法的誤碼性能比較

4 小結

本文使用反正切函數作為Hopfield神經網絡的激活函數，并將可變步長的思想運用到Hopfield神經網絡盲檢測算法中，實現以可變步長來進行能量函數的收斂，成功實現了BPSK信號盲檢測。仿真結果表明，本文提出的基于VSHNN的盲檢測新算法所需數據量短，適用于高速的通信環境中，其誤碼性能和收斂速度都明顯優于一些傳統文獻盲檢測算法，并且該算法對兩種常見的經典信道都是適用的，具備一定的普適性。

［1］ ZHANG Y，ZHANG Z Y.Blind multi-valued signals detection using discrete Hopfield network［C］//Proc.2010 Sixth International Conference on Natural Computation.Beijing:IEEE Press，2010:1079-1083.

［2］阮秀凱，張志涌.基于連續Hopfield型神經網絡的QAM信號盲檢測［J］.電子與信息學報，2011，33(7):1600-1605.

［3］張昀，張志涌.復數離散Hopfield網絡盲檢測64QAM信號［J］.電子與信息學報，2011，33(2):315-320.

［4］馮迪，于舒娟，張昀.一種改進激活函數的Hopfield盲檢測算法［J］.計算機科學與發展，2012，22(12):207-210.

［5］楊敏.Hopfield神經網絡的改進及其在無線通信優化中的應用［D］.濟南:山東大學，2013.

［6］倪志偉.BP網絡中激活函數的深入研究［J］.安徽大學學報:自然科學版，1997，21(3):48-51.

［7］張志涌，BAI E W.SIMO含公零點信道的直接盲序列檢測［J］.電子學報，2005，33(4):671-675.

［8］張昀.基于復數Hopfield神經網絡的盲信號檢測［D］.南京:南京郵電大學，2012.

［9］張昀，于大為，夏祎，等.基于自適應交叉變異量子免疫信號盲檢測算法［J］.電視技術，2014，38(23):112-115.

［10］ SENGUPTA D，ILTISR A.Neural solution to the multitarget tracking data association problem［J］.IEEE Trans.Aerospace and Electronic Systems，1989，25(1):96-108.

［11］于舒娟，宦如松，張昀，等.基于混沌神經網絡的盲檢測改進新算法［J］.物理學報，2014，63(6):1-7.

［12］張昀，張志涌.復數多值離散Hopfield神經網絡的穩定性研究［J］.物理學報，2011，60(9):200-207.

［13］ MA RN，CHU P，ZHANGSR.Stability conditions for discrete delayed Hopfield neural networks［C］//Proc.Third International Conference on Natural Computation.Haikou，China:IEEE Press，2007:468-472.

［14］ SHEN Y，WANG J.Robustness analysis of global exponential stability of recurrent neural networks in the presence of time delays and random disturbances［J］.IEEE Trans.Neural Networks and Learning Systems，2012，23(1):87-96.

［15］ MOULINES E，DUHAMEL P，CARDOSO J F，et al.Subspace methods for the blind identification of multichannel FIR filters［J］.IEEE Trans.Signal Processing，1995，43(2):516-525.

［16］ GIANNAKIS G B，STOICA P，HUA Y B.Signal processing advances in wireless and mobile communication［M］.Upper Saddle River，NJ，USA:Prentice Hall，2001.