半導體激光器儲備池計算系統(tǒng)的工作點選取方法*

花飛 方捻 王陸唐

(上海大學,特種光纖與光接入網(wǎng)重點實驗室,特種光纖與先進通信國際合作聯(lián)合實驗室,上海先進通信與數(shù)據(jù)科學研究院,上海 200444)

半導體激光器儲備池計算系統(tǒng)的性能受很多因素的影響,如虛節(jié)點間隔、激光器的偏置電流和反饋強度等.對于光注入信號方式,注入強度和頻率失諧的大小也會影響系統(tǒng)的性能,使得工作點更難確定.為此,本文以10階非線性自回歸移動平均任務為基礎,提出一種選取半導體激光器儲備池計算系統(tǒng)的最佳反饋強度與注入強度的方法.該方法通過尋找在某一反饋強度和連續(xù)光注入條件下,對應于儲備池的注入鎖定狀態(tài)的最小注入強度來確定注入鎖定狀態(tài)的邊緣;沿此邊緣,通過測試系統(tǒng)性能選取最佳反饋強度以及與之配套的注入強度.綜合前人對其他參數(shù)的研究,進一步提出完整工作點參數(shù)的選取方法.在所選取的工作點參數(shù)下,僅用50個虛節(jié)點即獲得低至0.3431的歸一化均方根誤差,說明所提出的工作點選取方法是可行的.通過混沌時間序列預測和手寫數(shù)字識別任務,驗證了該方法對回歸和分類問題的通用性.

1 引 言

半導體激光器在受到外部擾動,如光注入、光反饋和光電反饋等情況下會展現(xiàn)出豐富的非線性動力學狀態(tài),包括單周期、倍周期、多周期、混沌狀態(tài)等[1-10].這些非線性動力學狀態(tài)可用于產(chǎn)生光學頻率梳[3,4]、混沌保密通信[5-8]、隨機數(shù)產(chǎn)生[9]和儲備池計算 (reservoir computing,RC)[10]等領域,其中儲備池計算是一種簡化了訓練過程的遞歸神經(jīng)網(wǎng)絡.利用單個非線性節(jié)點加延遲反饋環(huán)結構的非線性動力學系統(tǒng)可以在硬件上實現(xiàn)儲備池計算[11-14].特別是利用光反饋半導體激光器構成的儲備池計算系統(tǒng),由于其固有的短的時間尺度,使得其可以更快地處理信息,引起了人們的廣泛關注.2013年1月Brunner等[10]首次提出半導體激光器儲備池計算系統(tǒng),輸入信號可以采用電或光兩種方式注入儲備池,并發(fā)現(xiàn)在激光器的偏置電流接近閾值電流時獲得的RC性能是最好的,最佳的虛節(jié)點間隔約為激光器的弛豫振蕩周期的0.2倍.之后,Hicke等[15]對比了不同反饋方式對于儲備池計算性能的影響.Nguimdo等[16]發(fā)現(xiàn)儲備池的相位響應比強度響應更快,也研究了自發(fā)輻射噪聲和輸出層噪聲對RC性能的影響.Oliver等[17]研究了不同反饋條件下偏置電流對半導體激光器一致性的影響.Nakayama等[18]以半導體激光器儲備池為基礎,提出用混沌Mask豐富節(jié)點動態(tài),提升了儲備池計算的性能.Qin等[19]將半導體激光器RC系統(tǒng)運用在光分組頭識別上,該應用是首個運用光儲備池計算解決光學實際問題的案例.Fischer等[20]研究了光反饋強度與頻率失諧對于儲備池一致性的影響,表明半導體激光器儲備池在較小的頻率失諧下更容易獲得一致性.Bueno等[21]研究了不同頻率失諧下儲備池的一致性與記憶能力的關系,認為最長的記憶能力位于調(diào)制光注入下注入鎖定狀態(tài)和部分注入鎖定狀態(tài)之間.Hou等[22]提出雙光反饋半導體激光器的儲備池結構,通過仿真驗證了該結構可以豐富儲備池的內(nèi)部動態(tài)響應、提升儲備池計算的性能.Argyris等[23]利用半導體激光器儲備池計算系統(tǒng)解決光纖傳輸中信號失真的問題.

綜上所述,對于半導體激光器儲備池計算系統(tǒng)的研究主要在不同因素對儲備池計算性能的影響和如何提升儲備池計算性能以及儲備池計算的具體應用等方面,對于如何選擇一個合適的工作狀態(tài),還沒有一個明確的方法.而半導體激光器儲備池計算系統(tǒng)的性能受很多因素的影響,特別是研究較多的采用光注入信號方式的系統(tǒng),其性能的影響因素更多,包括虛節(jié)點間隔[10,18,21]、偏置電流[10,15]、頻率失諧[20,21]、反饋強度和注入強度等.前三個參數(shù)已經(jīng)可以根據(jù)相關研究進行比較合理的設置.而對反饋強度和注入強度的選擇,大都是通過多次嘗試來確定,沒有方法可依,這給儲備池計算帶來了很大的不確定性[15].盡管文獻[18]提出最佳反饋強度在一致性邊緣,但那只是在特定的注入強度下得出的結論,當注入強度和反饋強度同時變化時,是否還成立,不得而知.因此,本文以 10階非線性自回歸移動平均 (nonlinear auto regressive moving average of the 10 th order,NARMA10)為基礎,通過仿真研究,對比不同注入強度下儲備池的一致性范圍和最佳反饋強度的大小,發(fā)現(xiàn)當注入強度較高時,最佳反饋強度與一致性邊緣無關.進一步研究發(fā)現(xiàn),對于不同的注入強度和反饋強度,RC的最佳性能都出現(xiàn)在連續(xù)光注入下儲備池的注入鎖定狀態(tài)的邊緣.因此,提出一種利用連續(xù)光注入下儲備池的注入鎖定狀態(tài)邊緣確定反饋強度和注入強度的方法.并綜合前人的研究成果,總結出一個完整工作點參數(shù)的選取方法.通過該方法,可以快速高效地選取包括反饋強度和注入強度在內(nèi)的多個參數(shù),避免了確定工作點參數(shù)時的盲目嘗試.

本文的結構安排如下: 第2節(jié)給出了半導體激光器儲備池計算系統(tǒng)的模型;第3節(jié)主要研究了同時改變注入強度和反饋強度對儲備池計算性能的影響以及連續(xù)光注入下儲備池的非線性狀態(tài)與其RC性能的關系,從而提出確定反饋強度和注入強度的方法以及完整工作點參數(shù)的選取方法;第4節(jié)通過時間序列預測和手寫數(shù)字識別任務驗證了所提工作點選取方法的通用性;第5節(jié)對全文進行了總結.

2 半導體激光器儲備池計算系統(tǒng)的模型

類似于傳統(tǒng)儲備池計算,半導體激光器儲備池計算系統(tǒng)也分為三層,分別是輸入層、儲備池層和輸出層,如圖1所示.由于儲備池層只有一個半導體激光器承擔非線性節(jié)點的功能,在輸入層無法像傳統(tǒng)RC那樣并行輸入,所以將輸入信號經(jīng)過預處理后,通過時分復用的方式輸入儲備池層.預處理過程主要包括對輸入信號的每個數(shù)據(jù)點保持一個T的時間,再乘以一個Mask信號.儲備池層則通過虛節(jié)點的形式將輸入信號映射到整個反饋環(huán)中.輸出層通過輸出連接權值與儲備池內(nèi)部虛節(jié)點狀態(tài)的加權求和得到輸出信號y.而輸出連接權值在訓練階段通過簡單的偽逆計算就可以得到.預處理后的輸入信號可以經(jīng)過光相位調(diào)制或者強度調(diào)制后注入到儲備池中.這里,我們選用相位調(diào)制進行信號注入.

該儲備池計算系統(tǒng)可以用半導體激光器加相位調(diào)制光注入的Lang-Kobayashi方程描述[17,24]:

圖1 半導體激光器儲備池計算系統(tǒng)示意圖Fig.1.Schematic diagram of semiconductor laser reservoir computing system.

其中E表示響應激光器的慢變電場復振幅,N表示載流子濃度,α表示線寬增強因子,G是增益系數(shù),N0表示透明載流子濃度,ε表示飽和增益系數(shù),τp和τs分別是光子壽命和載流子壽命,ξ是自發(fā)輻射噪聲,J和ω分別是響應激光器的偏置電流和角頻率,kf和τ分別表示反饋強度與反饋時延,Δf是驅動激光器與響應激光器的頻率失諧;Ed和kinj表示驅動激光器的電場和注入強度,Id是驅動激光器的輸出光強,S(t)=γ s(t),γ 為輸入尺度因子,s(t)為經(jīng)過預處理后的輸入信號.

3 工作點選取方法的研究

3.1 其他參數(shù)的選取

關于偏置電流、頻率失諧、虛節(jié)點間隔、反饋時延、輸入尺度因子對半導體激光器儲備池計算系統(tǒng)的影響,已經(jīng)有了比較深入的研究,因此,我們在前人研究的基礎上先對半導體激光器RC系統(tǒng)的這些參數(shù)進行了設置.根據(jù)文獻[10,15],響應激光器的偏置電流應該設置在閾值電流左右,這里我們?nèi)∑秒娏鳛殚撝惦娏鞯?.05倍.驅動激光器與響應激光器的頻率失諧一般固定在一個比較小的值,從而使光注入信號的半導體激光器儲備池更容易進入注入鎖定狀態(tài)[21],故令 Δf=—4 GHz.虛節(jié)點間隔一般設置為系統(tǒng)固有的時間尺度,即響應激光器的弛豫振蕩周期的五分之一左右,過大或者過小的虛節(jié)點間隔都會導致虛節(jié)點之間耦合能力的下降.該激光器在連續(xù)光注入時弛豫振蕩頻率為 5.7 GHz[18],因此,我們設置其虛節(jié)點間隔 θ為0.04 ns.我們的研究目標是確定工作點參數(shù),只關注不同參數(shù)下RC性能指標的相對大小,所以,虛節(jié)點數(shù)M不必取太大,以免運算時間過長.這里設置 M 為 50,則反饋時延 τ=(M+1)×θ=2.04 ns,即我們采用了去同步的預處理方法[13,18].不同任務需要的輸入尺度因子是不同的,但對于同一任務而言,其最佳輸入尺度因子是固定的,不會隨著其他參數(shù)的改變而改變[18].因此,我們隨機選擇一組參數(shù)值,測試某一任務的同一樣本在不同輸入尺度因子下的性能,選取性能最佳的那個輸入尺度因子為該任務的γ值.對于NARMA10任務,其γ值選為0.001.在仿真過程中用均值為零,方差為 2.5×108的高斯噪聲來模擬自發(fā)輻射噪聲.其他參數(shù)見表1.

3.2 NARMA10基準任務及其性能評價指標

儲備池計算適合處理與時間相關的任務,因此,我們以一個既需要較長記憶能力,同時也是與時間相關的NARMA10任務,作為儲備池計算的基準任務.NARMA10任務就是對一個離散的10階非線性自回歸移動平均的動態(tài)系統(tǒng)建模,是在儲備池計算領域廣為使用的一種基準任務,用來衡量一個儲備池計算系統(tǒng)的回歸性能.它的數(shù)據(jù)生成方程是[11]:

表1 部分仿真參數(shù)Table 1.Partial simulation parameters.

其中,yn+1是目標輸出;un是輸入數(shù)據(jù),是在 [0,0.5]之間按均勻分布隨機生成的實數(shù).由于當前的輸出與前1-10時刻的輸出以及前1個時刻和前10個時刻的輸入都有關,所以NARMA10要求儲備池有較長的記憶能力.

對于該任務,我們使用2000個數(shù)據(jù)點作為訓練樣本,1000個數(shù)據(jù)點作為測試樣本,并使用二進制Mask信號對訓練樣本和測試樣本進行預處理.使用歸一化均方根誤差作為半導體激光器儲備池計算系統(tǒng)對NARMA10任務處理性能的衡量指標.其值越小表示性能越好,歸一化均方根誤差定義如下[19]:

3.3 不同注入強度下儲備池的一致性隨反饋強度的變化

一致性是用來衡量一個非線性系統(tǒng)的可重復性的指標[21,22],它可以通過調(diào)制光注入下兩次不同初始狀態(tài)和不同噪聲情況下的響應激光器輸出功率的互相關值來量化表示.如果兩次輸出功率的互相關值為1,則該系統(tǒng)具有一致性,如果互相關值小于1,則沒有獲得一致性.互相關值的計算公式為[21]

其中 Cr1,r2表示激光器第一次和第二次輸出功率的互相關值,Pr1,r2分別是激光器第一次和第二次的輸出功率,σr1,r2是兩次輸出功率的方差,表示兩次輸出功率的平均值.

我們先固定注入強度為一個較弱的值,以預處理后NARMA10任務的信號作為調(diào)制信號,研究不同反饋強度下儲備池的一致性,并與相同條件下該RC系統(tǒng)對NARMA10任務的測試性能相比較.在注入強度為8 ns—1的時候,不同反饋強度下儲備池的一致性和系統(tǒng)對NARMA10任務的測試性能的結果如圖2所示.從圖2(a)可以看出,在注入強度不變的情況下,互相關值會隨著反饋強度的降低逐漸由小于1的值升高到1,在反饋強度為8 ns—1時,互相關值剛好達到1,儲備池獲得了一致性.不妨稱該反饋強度為一致性的臨界反饋強度kfc.在一致性區(qū)域內(nèi)繼續(xù)降低反饋強度,儲備池計算系統(tǒng)的性能指標NRMSE會先下降再升高,如圖2(b)所示.當反饋強度為 7 ns—1時,儲備池計算取得了最小 NRMSE.最佳反饋強度 7 ns—1與 kfc(8 ns—1)的差距 Δkf為 1 ns—1.驗證了在一致性的臨界反饋強度處,儲備池計算系統(tǒng)的性能并不是最好的,最佳性能要在一致性邊緣獲得[18].但是一致性邊緣有多大的范圍,或者Δkf有多大,文獻[18]卻沒有明確給出,而且也不確定注入強度對Δkf有多大影響.

圖2 在注入強度為 8 ns—1和不同反饋強度下,(a)儲備池一致性的互相關值,(b) NARMA10 任務的 NRMSEFig.2.(a) Cross correlation of the reservoir consistency;(b) NRMSE of NARMA10 task under the injection strength of 8 ns—1 and different feedback strengths.

于是,我們改變注入強度進行多次計算.結果發(fā)現(xiàn),當注入強度比較小時,確實可以在一致性邊緣找到最小NRMSE,但當注入強度繼續(xù)增加時,Δkf越來越大,很難再以一致性邊緣來確定儲備池計算的最佳反饋強度.圖3給出了一個較大的注入強度 23 ns—1下,儲備池的一致性和 NARMA10 任務的測試性能隨反饋強度的變化情況.最佳反饋強度 15 ns—1與 kfc(27 ns—1)的差距 Δkf增大為 12 ns—1.

因此,我們認為,利用一致性來尋找儲備池計算的最佳反饋強度只適合注入較弱的情況,在注入較強時,最佳反饋強度與一致性邊緣并無直接聯(lián)系,仍然需要反復嘗試才能確定.

圖3 在注入強度為 23 ns—1和不同反饋強度下,(a) 儲備池一致性的互相關值,(b) NARMA10 任務的 NRMSEFig.3.(a) Cross correlation of the reservoir consistency;(b) NRMSE of NARMA10 task under the injection strength of 23 ns—1 and different feedback strengths.

3.4 同時改變注入強度和反饋強度對儲備池計算性能的影響

既然不同注入強度下最佳反饋強度的大小不同,那么就有必要研究注入強度和反饋強度同時改變對儲備池計算系統(tǒng)性能的影響.固定其他參數(shù),僅改變反饋強度和注入強度,對比不同參數(shù)下半導體激光器儲備池計算系統(tǒng)對NARMA10任務的測試結果,如圖4所示.

圖4 不同反饋強度和注入強度下半導體激光器RC系統(tǒng)對NARMA10任務的測試性能Fig.4.Test performances of the RC system based on semiconductor lasers for NARMA10 task under different feedback strengths and injection strengths.

由仿真結果發(fā)現(xiàn),最佳性能基本處于斜率近似為1.5的兩條橙色虛線所夾的帶狀區(qū)域.在固定的注入強度下,NARMA10任務的NRMSE隨著反饋強度的增加先減小再增大,其中,當反饋強度穿過帶狀區(qū)域后,NRMSE 迅速上升.另一方面,只有當反饋強度超過 13 ns—1之后,NRMSE 才能小于0.3440,且反饋強度繼續(xù)增大,仍然可以得到比較好的結果,但超過 13 ns—1過多時,測試性能開始下降.這說明,當光反饋達到一定強度后,所提供的記憶能力已經(jīng)滿足該任務的要求,之后再增大反饋強度也無助于提高儲備池計算的性能,反而會使其下降.從儲備池的三大屬性來看,儲備池的漸衰記憶能力由半導體激光器的反饋強度決定[11].在反饋強度為 13 ns—1時,儲備池已經(jīng)滿足了 NARMA10任務對于記憶能力的需求.繼續(xù)增加反饋強度,記憶能力則持續(xù)增加,但過長的記憶能力只會引入很久以前輸入信號產(chǎn)生的狀態(tài),干擾了近期的輸入信號對當前狀態(tài)產(chǎn)生的影響,最終使得儲備池計算的性能降低.

3.5 連續(xù)光注入下儲備池的非線性狀態(tài)與其RC性能的關系

既然用一致性邊緣不能確定強光注入下的反饋強度,我們索性去掉調(diào)制信號,將連續(xù)光注入到儲備池中,觀察不同的儲備池工作狀態(tài)下,RC系統(tǒng)對NARMA10任務的處理性能.不斷改變反饋強度和注入強度,得到連續(xù)光注入下儲備池在不同參數(shù)下的非線性狀態(tài),其結果如圖5所示.圖5中,P1,P2,MP,CO 和 IL 分別代表單周期振蕩、倍周期振蕩、多周期振蕩、混沌振蕩和注入鎖定狀態(tài).這里,注入鎖定狀態(tài)指儲備池的響應激光器按照外部驅動激光器的光頻振蕩.通過光譜觀察法,根據(jù)響應激光器的振蕩頻率是否與驅動激光器的光頻一致,可以準確判斷響應激光器是否進入注入鎖定狀態(tài),或通過觀察相圖是否為一個穩(wěn)定的點,判斷響應激光器是否進入注入鎖定狀態(tài).當注入強度較小或者較大時,儲備池的非線性動態(tài)行為相對比較簡單,只出現(xiàn) IL,P1 和 CO 狀態(tài).但是儲備池受到中等強度的注入時,其非線性動態(tài)非常豐富,一般都會經(jīng)歷IL,P1,MP三個狀態(tài)重新回到P1狀態(tài),而在個別注入強度下,其動態(tài)行為變得更加豐富,隨反饋強度的增大,其狀態(tài)演化會經(jīng)歷IL,P1,MP,P2,MP 和 P1 等多個非線性狀態(tài).

圖5 連續(xù)光注入、不同反饋強度和注入強度下的儲備池的非線性狀態(tài)Fig.5.Nonlinear states of the reservoir under the injection of continuous waveform light,different feedback strengths and injection strengths.

對比圖5和圖4可以發(fā)現(xiàn),注入鎖定狀態(tài)與其他狀態(tài)的邊界和圖4中的帶狀區(qū)域非常相似,即在注入鎖定狀態(tài)的邊緣,儲備池計算系統(tǒng)都能獲得較好的性能.為了探究其原因,我們對比了RC性能較好和一般兩種情況對應的連續(xù)光注入下儲備池的輸出功率,如圖6所示,這里用標準化輸出功率,指輸出功率減去其均值后再除以其方差所得到的值.由圖6(a)可以看到,RC性能較好對應的連續(xù)光注入下儲備池的輸出功率的弛豫振蕩時間Tro1較長,此時儲備池處于較弱的注入鎖定狀態(tài).隨著注入強度的增加,連續(xù)光注入下的儲備池進入強注入鎖定狀態(tài),其輸出功率的馳豫振蕩時間變短(參見圖6(b)Tro2),說明儲備池的弛豫振蕩受到抑制,信號注入時所產(chǎn)生的瞬態(tài)響應也將受到抑制,從而使得儲備池計算對任務的處理能力有所下降.從儲備池的屬性來看,在連續(xù)光注入下,儲備池剛進入注入鎖定狀態(tài)時,對應的儲備池獲得了一致性.但是,隨著注入鎖定狀態(tài)程度的加強,儲備池產(chǎn)生動態(tài)變化的能力下降,儲備池的輸出與注入的信號完全相同,使得儲備池失去了漸衰記憶能力,最終使得儲備池計算性能降低.

圖6 RC 性能 (a)較好,(b)一般兩種情況對應的連續(xù)光注入下儲備池的輸出功率Fig.6.Output powers of the reservoir with the injection of continuous waveform light under (a) better RC performance,(b) general RC performance.

通過圖5和圖6也可以輔助說明,在圖2和圖3中為什么隨著反饋強度增加,NRMSE先下降后上升.因為在圖2和圖3中,當反饋強度較小時,響應激光器都工作在較強的注入鎖定狀態(tài),信號注入時產(chǎn)生的瞬態(tài)響應被抑制,而隨著反饋強度的增加,注入鎖定狀態(tài)的程度逐漸減弱,儲備池的瞬態(tài)響應逐漸豐富,所以NRMSE逐漸下降.當NRMSE下降到最低點時,響應激光器恰好處于注入鎖定狀態(tài)的邊緣.反饋強度繼續(xù)增加,響應激光器由注入鎖定狀態(tài)變成了單周期狀態(tài)或多周期狀態(tài),儲備池失去了一致性,其NRMSE開始上升.即使在一致性區(qū)域內(nèi),過大的反饋強度也會造成過長的記憶能力,干擾系統(tǒng)的性能,NRMSE 也會上升,如圖3 所示.因此,儲備池計算系統(tǒng)的性能明顯受響應激光器的動態(tài)行為影響,需要選取合適的參數(shù),使儲備池工作在需要的非線性狀態(tài).

3.6 工作點的選取方法

綜上所述,只要在連續(xù)光注入下儲備池的注入鎖定狀態(tài)邊緣選取反饋強度和注入強度即可.但只有儲備池的記憶能力與任務的需要相匹配才能取得好的性能,而記憶能力由反饋強度決定,因此我們可以順著注入鎖定狀態(tài)的邊緣,通過RC性能指標的對比,確定最佳的反饋強度和注入強度.性能指標最佳,說明記憶能力匹配,反饋強度就是最佳的.由于最佳反饋強度是在注入鎖定狀態(tài)邊緣選取的,此時的注入強度也是最佳的.

結合之前其他參數(shù)的確定方法,可以總結出半導體激光器儲備池計算系統(tǒng)的完整工作點參數(shù)的選取方法,其步驟如下: 1)設置偏置電流在閾值電流附近、頻率失諧為一個接近于零的較小值;通過對某一任務樣本在不同輸入尺度因子γ下的性能測試,選取最合適的γ值;根據(jù)連續(xù)光注入下半導體激光器儲備池的馳豫振蕩周期τ0設置虛節(jié)點間隔 θ在 0.2τ0左右,再根據(jù)需要的虛節(jié)點數(shù) M,確定反饋時延 τ=(M+k)θ,k 為整數(shù),且 0 ≤ k＜M;2)隨機初始化反饋強度和注入強度,把連續(xù)光注入半導體激光器儲備池,利用相圖或者其他方法判斷儲備池的工作狀態(tài),如果不是注入鎖定狀態(tài),則逐漸增加注入強度,反之則減少注入強度,直到找到注入鎖定狀態(tài)下的最小注入強度,即找到某一反饋強度下的注入鎖定狀態(tài)邊緣;3)在此參數(shù)下對儲備池計算系統(tǒng)進行訓練,然后把一個校驗信號輸入到儲備池中,計算測試結果的NRMSE或其他性能指標并記錄;4)同比例縮放反饋強度和注入強度,對比所取得的性能指標,最好的RC性能對應的注入強度和反饋強度即是最佳的,至此,半導體激光器儲備池計算系統(tǒng)的工作點參數(shù)全部確定.

從不同初始化狀態(tài)尋找最佳反饋強度和注入強度的過程如圖7所示.如果初始的反饋強度和注入強度在 Start 1 或者 Start 2 位置,則增加注入強度,直到儲備池剛進入注入鎖定狀態(tài).如果初始的反饋強度和注入強度處于Start 3位置,則減少注入強度,直到儲備池工作在注入鎖定狀態(tài)邊緣.找到注入鎖定狀態(tài)邊緣后,剩下的過程就都一樣了,即按照步驟 3),4)進行計算,便可找到最佳的反饋強度和注入強度.

按照該方法,找到的最佳反饋強度和注入強度分別是 15 ns—1和 23 ns—1,獲得的 NARMA10 任務的NRMSE為0.3431.僅用50個虛節(jié)點即獲得如此低的NRMSE,說明所提出的工作點選取方法是可行的.

圖7 從三種不同的初始化狀態(tài)選取最佳反饋強度和注入強度的過程Fig.7.The process of selecting the optimal feedback strength and injection strength from three different initialization states.

4 工作點選取方法的通用性驗證

我們分別利用Santa Fe時間序列預測任務和MNIST手寫數(shù)字識別任務,驗證該工作點選取方法對機器學習的兩大任務——預測和分類的通用性.Santa Fe 數(shù)據(jù)集包含 9000 個數(shù)據(jù)點,是由遠紅外激光器工作在混沌振蕩狀態(tài)產(chǎn)生,任務的目的是為了進行下一步預測[10,18].對于Santa Fe任務,選取數(shù)據(jù)集中的3000個點作為訓練數(shù)據(jù),1000個數(shù)據(jù)點用于測試,通過二進制Mask預處理后注入到儲備池中.手寫數(shù)字識別任務基于美國國家標準與技術局組建的MNIST數(shù)據(jù)庫[25].我們將原始手寫數(shù)字圖片的灰度值歸一化在0—1之間,并只選取數(shù)據(jù)集中的兩個數(shù)字“0”和“1”作為我們的數(shù)據(jù)集.對于手寫數(shù)字識別任務,選取1000張圖片作為訓練數(shù)據(jù),500張圖片作為測試數(shù)據(jù).與Santa Fe任務不同的是,由于手寫數(shù)字識別任務的每一個樣本數(shù)據(jù)都是一個二維的矩陣,因此,我們先將其轉換為一個一維的數(shù)據(jù),再用二進制Mask信號預處理后注入到儲備池中.

其他參數(shù)不變,根據(jù)圖5所示的連續(xù)光注入下儲備池的非線性狀態(tài)圖,選取一組剛處于注入鎖定狀態(tài)時的反饋強度和注入強度,分別為 6.5 ns—1和8 ns—1.在這些參數(shù)下,RC 系統(tǒng)對 Santa Fe 任務的NRMSE為0.1518,而手寫數(shù)字識別得到的錯誤率為7.6%.通過同比例改變反饋強度和注入強度的大小,Santa Fe 任務在反饋強度為 15 ns—1、注入強度為25 ns—1時,取得了最佳的結果,其NRMSE=0.1045.手寫數(shù)字識別則是在反饋強度為 9 ns—1、注入強度為 13 ns—1時,取得了最好結果,錯誤率為2.24%.這里,錯誤率指被錯誤識別的手寫數(shù)字樣本占總的測試數(shù)字樣本的百分比.

因為不同的任務有不同的記憶能力要求,記憶能力又與反饋強度有關,分類任務對記憶能力的要求較低,所以其最佳反饋強度較小,而預測任務對記憶能力要求較高,所需要的反饋強度就比較大.但從圖5可知,兩個任務需要的最佳工作點對應的儲備池工作狀態(tài)都屬于較弱的注入鎖定狀態(tài),即注入鎖定狀態(tài)的邊緣.在參數(shù)不斷改變的過程中,對于每個注入強度,其最佳性能對應的反饋強度都處于注入鎖定狀態(tài)的邊緣.

因此,利用本文提出的選取工作點的方法也可以快速找到Santa Fe時間序列預測和MNIST手寫數(shù)字識別兩個任務的最佳參數(shù).這說明,盡管工作點選取方法是基于NARMA10任務提出的,但對其他機器學習任務也是適用的,具有通用性.

5 結 論

本文通過比較不同注入強度下儲備池的一致性區(qū)域和最佳反饋強度的大小,發(fā)現(xiàn)當注入強度較高時,最佳反饋強度離一致性邊緣比較遠,無法通過一致性邊緣確定.通過對比連續(xù)光注入下不同反饋強度和注入強度的儲備池的非線性狀態(tài)與相應的RC系統(tǒng)對NARMA10任務的處理性能,發(fā)現(xiàn)最佳性能都出現(xiàn)在連續(xù)光注入下儲備池的注入鎖定狀態(tài)的邊緣.因此,提出了一種利用連續(xù)光注入下儲備池的注入鎖定狀態(tài)邊緣選取注入強度和反饋強度的方法.通過這種方法可以較快地設置最佳的反饋強度和注入強度,再結合前人對其他參數(shù)的研究,即可解決半導體激光器RC系統(tǒng)的工作點參數(shù)難以選取的問題.最后利用Santa Fe時間序列預測和MNIST手寫數(shù)字識別任務驗證了所提出的工作點選取方法的通用性.