花飛 方捻 王陸唐

(上海大學(xué),特種光纖與光接入網(wǎng)重點(diǎn)實(shí)驗(yàn)室,特種光纖與先進(jìn)通信國際合作聯(lián)合實(shí)驗(yàn)室,上海先進(jìn)通信與數(shù)據(jù)科學(xué)研究院,上海 200444)

半導(dǎo)體激光器儲備池計(jì)算系統(tǒng)的性能受很多因素的影響,如虛節(jié)點(diǎn)間隔、激光器的偏置電流和反饋強(qiáng)度等.對于光注入信號方式,注入強(qiáng)度和頻率失諧的大小也會影響系統(tǒng)的性能,使得工作點(diǎn)更難確定.為此,本文以10階非線性自回歸移動平均任務(wù)為基礎(chǔ),提出一種選取半導(dǎo)體激光器儲備池計(jì)算系統(tǒng)的最佳反饋強(qiáng)度與注入強(qiáng)度的方法.該方法通過尋找在某一反饋強(qiáng)度和連續(xù)光注入條件下,對應(yīng)于儲備池的注入鎖定狀態(tài)的最小注入強(qiáng)度來確定注入鎖定狀態(tài)的邊緣;沿此邊緣,通過測試系統(tǒng)性能選取最佳反饋強(qiáng)度以及與之配套的注入強(qiáng)度.綜合前人對其他參數(shù)的研究,進(jìn)一步提出完整工作點(diǎn)參數(shù)的選取方法.在所選取的工作點(diǎn)參數(shù)下,僅用50個虛節(jié)點(diǎn)即獲得低至0.3431的歸一化均方根誤差,說明所提出的工作點(diǎn)選取方法是可行的.通過混沌時間序列預(yù)測和手寫數(shù)字識別任務(wù),驗(yàn)證了該方法對回歸和分類問題的通用性.

1 引 言

半導(dǎo)體激光器在受到外部擾動,如光注入、光反饋和光電反饋等情況下會展現(xiàn)出豐富的非線性動力學(xué)狀態(tài),包括單周期、倍周期、多周期、混沌狀態(tài)等[1-10].這些非線性動力學(xué)狀態(tài)可用于產(chǎn)生光學(xué)頻率梳[3,4]、混沌保密通信[5-8]、隨機(jī)數(shù)產(chǎn)生[9]和儲備池計(jì)算 (reservoir computing,RC)[10]等領(lǐng)域,其中儲備池計(jì)算是一種簡化了訓(xùn)練過程的遞歸神經(jīng)網(wǎng)絡(luò).利用單個非線性節(jié)點(diǎn)加延遲反饋環(huán)結(jié)構(gòu)的非線性動力學(xué)系統(tǒng)可以在硬件上實(shí)現(xiàn)儲備池計(jì)算[11-14].特別是利用光反饋半導(dǎo)體激光器構(gòu)成的儲備池計(jì)算系統(tǒng),由于其固有的短的時間尺度,使得其可以更快地處理信息,引起了人們的廣泛關(guān)注.2013年1月Brunner等[10]首次提出半導(dǎo)體激光器儲備池計(jì)算系統(tǒng),輸入信號可以采用電或光兩種方式注入儲備池,并發(fā)現(xiàn)在激光器的偏置電流接近閾值電流時獲得的RC性能是最好的,最佳的虛節(jié)點(diǎn)間隔約為激光器的弛豫振蕩周期的0.2倍.之后,Hicke等[15]對比了不同反饋方式對于儲備池計(jì)算性能的影響.Nguimdo等[16]發(fā)現(xiàn)儲備池的相位響應(yīng)比強(qiáng)度響應(yīng)更快,也研究了自發(fā)輻射噪聲和輸出層噪聲對RC性能的影響.Oliver等[17]研究了不同反饋條件下偏置電流對半導(dǎo)體激光器一致性的影響.Nakayama等[18]以半導(dǎo)體激光器儲備池為基礎(chǔ),提出用混沌Mask豐富節(jié)點(diǎn)動態(tài),提升了儲備池計(jì)算的性能.Qin等[19]將半導(dǎo)體激光器RC系統(tǒng)運(yùn)用在光分組頭識別上,該應(yīng)用是首個運(yùn)用光儲備池計(jì)算解決光學(xué)實(shí)際問題的案例.Fischer等[20]研究了光反饋強(qiáng)度與頻率失諧對于儲備池一致性的影響,表明半導(dǎo)體激光器儲備池在較小的頻率失諧下更容易獲得一致性.Bueno等[21]研究了不同頻率失諧下儲備池的一致性與記憶能力的關(guān)系,認(rèn)為最長的記憶能力位于調(diào)制光注入下注入鎖定狀態(tài)和部分注入鎖定狀態(tài)之間.Hou等[22]提出雙光反饋半導(dǎo)體激光器的儲備池結(jié)構(gòu),通過仿真驗(yàn)證了該結(jié)構(gòu)可以豐富儲備池的內(nèi)部動態(tài)響應(yīng)、提升儲備池計(jì)算的性能.Argyris等[23]利用半導(dǎo)體激光器儲備池計(jì)算系統(tǒng)解決光纖傳輸中信號失真的問題.

綜上所述,對于半導(dǎo)體激光器儲備池計(jì)算系統(tǒng)的研究主要在不同因素對儲備池計(jì)算性能的影響和如何提升儲備池計(jì)算性能以及儲備池計(jì)算的具體應(yīng)用等方面,對于如何選擇一個合適的工作狀態(tài),還沒有一個明確的方法.而半導(dǎo)體激光器儲備池計(jì)算系統(tǒng)的性能受很多因素的影響,特別是研究較多的采用光注入信號方式的系統(tǒng),其性能的影響因素更多,包括虛節(jié)點(diǎn)間隔[10,18,21]、偏置電流[10,15]、頻率失諧[20,21]、反饋強(qiáng)度和注入強(qiáng)度等.前三個參數(shù)已經(jīng)可以根據(jù)相關(guān)研究進(jìn)行比較合理的設(shè)置.而對反饋強(qiáng)度和注入強(qiáng)度的選擇,大都是通過多次嘗試來確定,沒有方法可依,這給儲備池計(jì)算帶來了很大的不確定性[15].盡管文獻(xiàn)[18]提出最佳反饋強(qiáng)度在一致性邊緣,但那只是在特定的注入強(qiáng)度下得出的結(jié)論,當(dāng)注入強(qiáng)度和反饋強(qiáng)度同時變化時,是否還成立,不得而知.因此,本文以 10階非線性自回歸移動平均 (nonlinear auto regressive moving average of the 10 th order,NARMA10)為基礎(chǔ),通過仿真研究,對比不同注入強(qiáng)度下儲備池的一致性范圍和最佳反饋強(qiáng)度的大小,發(fā)現(xiàn)當(dāng)注入強(qiáng)度較高時,最佳反饋強(qiáng)度與一致性邊緣無關(guān).進(jìn)一步研究發(fā)現(xiàn),對于不同的注入強(qiáng)度和反饋強(qiáng)度,RC的最佳性能都出現(xiàn)在連續(xù)光注入下儲備池的注入鎖定狀態(tài)的邊緣.因此,提出一種利用連續(xù)光注入下儲備池的注入鎖定狀態(tài)邊緣確定反饋強(qiáng)度和注入強(qiáng)度的方法.并綜合前人的研究成果,總結(jié)出一個完整工作點(diǎn)參數(shù)的選取方法.通過該方法,可以快速高效地選取包括反饋強(qiáng)度和注入強(qiáng)度在內(nèi)的多個參數(shù),避免了確定工作點(diǎn)參數(shù)時的盲目嘗試.

本文的結(jié)構(gòu)安排如下: 第2節(jié)給出了半導(dǎo)體激光器儲備池計(jì)算系統(tǒng)的模型;第3節(jié)主要研究了同時改變注入強(qiáng)度和反饋強(qiáng)度對儲備池計(jì)算性能的影響以及連續(xù)光注入下儲備池的非線性狀態(tài)與其RC性能的關(guān)系,從而提出確定反饋強(qiáng)度和注入強(qiáng)度的方法以及完整工作點(diǎn)參數(shù)的選取方法;第4節(jié)通過時間序列預(yù)測和手寫數(shù)字識別任務(wù)驗(yàn)證了所提工作點(diǎn)選取方法的通用性;第5節(jié)對全文進(jìn)行了總結(jié).

2 半導(dǎo)體激光器儲備池計(jì)算系統(tǒng)的模型

類似于傳統(tǒng)儲備池計(jì)算,半導(dǎo)體激光器儲備池計(jì)算系統(tǒng)也分為三層,分別是輸入層、儲備池層和輸出層,如圖1所示.由于儲備池層只有一個半導(dǎo)體激光器承擔(dān)非線性節(jié)點(diǎn)的功能,在輸入層無法像傳統(tǒng)RC那樣并行輸入,所以將輸入信號經(jīng)過預(yù)處理后,通過時分復(fù)用的方式輸入儲備池層.預(yù)處理過程主要包括對輸入信號的每個數(shù)據(jù)點(diǎn)保持一個T的時間,再乘以一個Mask信號.儲備池層則通過虛節(jié)點(diǎn)的形式將輸入信號映射到整個反饋環(huán)中.輸出層通過輸出連接權(quán)值與儲備池內(nèi)部虛節(jié)點(diǎn)狀態(tài)的加權(quán)求和得到輸出信號y.而輸出連接權(quán)值在訓(xùn)練階段通過簡單的偽逆計(jì)算就可以得到.預(yù)處理后的輸入信號可以經(jīng)過光相位調(diào)制或者強(qiáng)度調(diào)制后注入到儲備池中.這里,我們選用相位調(diào)制進(jìn)行信號注入.

該儲備池計(jì)算系統(tǒng)可以用半導(dǎo)體激光器加相位調(diào)制光注入的Lang-Kobayashi方程描述[17,24]:

圖1 半導(dǎo)體激光器儲備池計(jì)算系統(tǒng)示意圖Fig.1.Schematic diagram of semiconductor laser reservoir computing system.

其中E表示響應(yīng)激光器的慢變電場復(fù)振幅,N表示載流子濃度,α表示線寬增強(qiáng)因子,G是增益系數(shù),N0表示透明載流子濃度,ε表示飽和增益系數(shù),τp和τs分別是光子壽命和載流子壽命,ξ是自發(fā)輻射噪聲,J和ω分別是響應(yīng)激光器的偏置電流和角頻率,kf和τ分別表示反饋強(qiáng)度與反饋時延,Δf是驅(qū)動激光器與響應(yīng)激光器的頻率失諧;Ed和kinj表示驅(qū)動激光器的電場和注入強(qiáng)度,Id是驅(qū)動激光器的輸出光強(qiáng),S(t)=γ s(t),γ 為輸入尺度因子,s(t)為經(jīng)過預(yù)處理后的輸入信號.

3 工作點(diǎn)選取方法的研究

3.1 其他參數(shù)的選取

關(guān)于偏置電流、頻率失諧、虛節(jié)點(diǎn)間隔、反饋時延、輸入尺度因子對半導(dǎo)體激光器儲備池計(jì)算系統(tǒng)的影響,已經(jīng)有了比較深入的研究,因此,我們在前人研究的基礎(chǔ)上先對半導(dǎo)體激光器RC系統(tǒng)的這些參數(shù)進(jìn)行了設(shè)置.根據(jù)文獻(xiàn)[10,15],響應(yīng)激光器的偏置電流應(yīng)該設(shè)置在閾值電流左右,這里我們?nèi)∑秒娏鳛殚撝惦娏鞯?.05倍.驅(qū)動激光器與響應(yīng)激光器的頻率失諧一般固定在一個比較小的值,從而使光注入信號的半導(dǎo)體激光器儲備池更容易進(jìn)入注入鎖定狀態(tài)[21],故令 Δf=—4 GHz.虛節(jié)點(diǎn)間隔一般設(shè)置為系統(tǒng)固有的時間尺度,即響應(yīng)激光器的弛豫振蕩周期的五分之一左右,過大或者過小的虛節(jié)點(diǎn)間隔都會導(dǎo)致虛節(jié)點(diǎn)之間耦合能力的下降.該激光器在連續(xù)光注入時弛豫振蕩頻率為 5.7 GHz[18],因此,我們設(shè)置其虛節(jié)點(diǎn)間隔 θ為0.04 ns.我們的研究目標(biāo)是確定工作點(diǎn)參數(shù),只關(guān)注不同參數(shù)下RC性能指標(biāo)的相對大小,所以,虛節(jié)點(diǎn)數(shù)M不必取太大,以免運(yùn)算時間過長.這里設(shè)置 M 為 50,則反饋時延 τ=(M+1)×θ=2.04 ns,即我們采用了去同步的預(yù)處理方法[13,18].不同任務(wù)需要的輸入尺度因子是不同的,但對于同一任務(wù)而言,其最佳輸入尺度因子是固定的,不會隨著其他參數(shù)的改變而改變[18].因此,我們隨機(jī)選擇一組參數(shù)值,測試某一任務(wù)的同一樣本在不同輸入尺度因子下的性能,選取性能最佳的那個輸入尺度因子為該任務(wù)的γ值.對于NARMA10任務(wù),其γ值選為0.001.在仿真過程中用均值為零,方差為 2.5×108的高斯噪聲來模擬自發(fā)輻射噪聲.其他參數(shù)見表1.

3.2 NARMA10基準(zhǔn)任務(wù)及其性能評價(jià)指標(biāo)

儲備池計(jì)算適合處理與時間相關(guān)的任務(wù),因此,我們以一個既需要較長記憶能力,同時也是與時間相關(guān)的NARMA10任務(wù),作為儲備池計(jì)算的基準(zhǔn)任務(wù).NARMA10任務(wù)就是對一個離散的10階非線性自回歸移動平均的動態(tài)系統(tǒng)建模,是在儲備池計(jì)算領(lǐng)域廣為使用的一種基準(zhǔn)任務(wù),用來衡量一個儲備池計(jì)算系統(tǒng)的回歸性能.它的數(shù)據(jù)生成方程是[11]:

表1 部分仿真參數(shù)Table 1.Partial simulation parameters.

其中,yn+1是目標(biāo)輸出;un是輸入數(shù)據(jù),是在 [0,0.5]之間按均勻分布隨機(jī)生成的實(shí)數(shù).由于當(dāng)前的輸出與前1-10時刻的輸出以及前1個時刻和前10個時刻的輸入都有關(guān),所以NARMA10要求儲備池有較長的記憶能力.

對于該任務(wù),我們使用2000個數(shù)據(jù)點(diǎn)作為訓(xùn)練樣本,1000個數(shù)據(jù)點(diǎn)作為測試樣本,并使用二進(jìn)制Mask信號對訓(xùn)練樣本和測試樣本進(jìn)行預(yù)處理.使用歸一化均方根誤差作為半導(dǎo)體激光器儲備池計(jì)算系統(tǒng)對NARMA10任務(wù)處理性能的衡量指標(biāo).其值越小表示性能越好,歸一化均方根誤差定義如下[19]:

3.3 不同注入強(qiáng)度下儲備池的一致性隨反饋強(qiáng)度的變化

一致性是用來衡量一個非線性系統(tǒng)的可重復(fù)性的指標(biāo)[21,22],它可以通過調(diào)制光注入下兩次不同初始狀態(tài)和不同噪聲情況下的響應(yīng)激光器輸出功率的互相關(guān)值來量化表示.如果兩次輸出功率的互相關(guān)值為1,則該系統(tǒng)具有一致性,如果互相關(guān)值小于1,則沒有獲得一致性.互相關(guān)值的計(jì)算公式為[21]

其中 Cr1,r2表示激光器第一次和第二次輸出功率的互相關(guān)值,Pr1,r2分別是激光器第一次和第二次的輸出功率,σr1,r2是兩次輸出功率的方差,表示兩次輸出功率的平均值.

我們先固定注入強(qiáng)度為一個較弱的值,以預(yù)處理后NARMA10任務(wù)的信號作為調(diào)制信號,研究不同反饋強(qiáng)度下儲備池的一致性,并與相同條件下該RC系統(tǒng)對NARMA10任務(wù)的測試性能相比較.在注入強(qiáng)度為8 ns—1的時候,不同反饋強(qiáng)度下儲備池的一致性和系統(tǒng)對NARMA10任務(wù)的測試性能的結(jié)果如圖2所示.從圖2(a)可以看出,在注入強(qiáng)度不變的情況下,互相關(guān)值會隨著反饋強(qiáng)度的降低逐漸由小于1的值升高到1,在反饋強(qiáng)度為8 ns—1時,互相關(guān)值剛好達(dá)到1,儲備池獲得了一致性.不妨稱該反饋強(qiáng)度為一致性的臨界反饋強(qiáng)度kfc.在一致性區(qū)域內(nèi)繼續(xù)降低反饋強(qiáng)度,儲備池計(jì)算系統(tǒng)的性能指標(biāo)NRMSE會先下降再升高,如圖2(b)所示.當(dāng)反饋強(qiáng)度為 7 ns—1時,儲備池計(jì)算取得了最小 NRMSE.最佳反饋強(qiáng)度 7 ns—1與 kfc(8 ns—1)的差距 Δkf為 1 ns—1.驗(yàn)證了在一致性的臨界反饋強(qiáng)度處,儲備池計(jì)算系統(tǒng)的性能并不是最好的,最佳性能要在一致性邊緣獲得[18].但是一致性邊緣有多大的范圍,或者Δkf有多大,文獻(xiàn)[18]卻沒有明確給出,而且也不確定注入強(qiáng)度對Δkf有多大影響.

圖2 在注入強(qiáng)度為 8 ns—1和不同反饋強(qiáng)度下,(a)儲備池一致性的互相關(guān)值,(b) NARMA10 任務(wù)的 NRMSEFig.2.(a) Cross correlation of the reservoir consistency;(b) NRMSE of NARMA10 task under the injection strength of 8 ns—1 and different feedback strengths.

于是,我們改變注入強(qiáng)度進(jìn)行多次計(jì)算.結(jié)果發(fā)現(xiàn),當(dāng)注入強(qiáng)度比較小時,確實(shí)可以在一致性邊緣找到最小NRMSE,但當(dāng)注入強(qiáng)度繼續(xù)增加時,Δkf越來越大,很難再以一致性邊緣來確定儲備池計(jì)算的最佳反饋強(qiáng)度.圖3給出了一個較大的注入強(qiáng)度 23 ns—1下,儲備池的一致性和 NARMA10 任務(wù)的測試性能隨反饋強(qiáng)度的變化情況.最佳反饋強(qiáng)度 15 ns—1與 kfc(27 ns—1)的差距 Δkf增大為 12 ns—1.

因此,我們認(rèn)為,利用一致性來尋找儲備池計(jì)算的最佳反饋強(qiáng)度只適合注入較弱的情況,在注入較強(qiáng)時,最佳反饋強(qiáng)度與一致性邊緣并無直接聯(lián)系,仍然需要反復(fù)嘗試才能確定.

圖3 在注入強(qiáng)度為 23 ns—1和不同反饋強(qiáng)度下,(a) 儲備池一致性的互相關(guān)值,(b) NARMA10 任務(wù)的 NRMSEFig.3.(a) Cross correlation of the reservoir consistency;(b) NRMSE of NARMA10 task under the injection strength of 23 ns—1 and different feedback strengths.

3.4 同時改變注入強(qiáng)度和反饋強(qiáng)度對儲備池計(jì)算性能的影響

既然不同注入強(qiáng)度下最佳反饋強(qiáng)度的大小不同,那么就有必要研究注入強(qiáng)度和反饋強(qiáng)度同時改變對儲備池計(jì)算系統(tǒng)性能的影響.固定其他參數(shù),僅改變反饋強(qiáng)度和注入強(qiáng)度,對比不同參數(shù)下半導(dǎo)體激光器儲備池計(jì)算系統(tǒng)對NARMA10任務(wù)的測試結(jié)果,如圖4所示.

圖4 不同反饋強(qiáng)度和注入強(qiáng)度下半導(dǎo)體激光器RC系統(tǒng)對NARMA10任務(wù)的測試性能Fig.4.Test performances of the RC system based on semiconductor lasers for NARMA10 task under different feedback strengths and injection strengths.

由仿真結(jié)果發(fā)現(xiàn),最佳性能基本處于斜率近似為1.5的兩條橙色虛線所夾的帶狀區(qū)域.在固定的注入強(qiáng)度下,NARMA10任務(wù)的NRMSE隨著反饋強(qiáng)度的增加先減小再增大,其中,當(dāng)反饋強(qiáng)度穿過帶狀區(qū)域后,NRMSE 迅速上升.另一方面,只有當(dāng)反饋強(qiáng)度超過 13 ns—1之后,NRMSE 才能小于0.3440,且反饋強(qiáng)度繼續(xù)增大,仍然可以得到比較好的結(jié)果,但超過 13 ns—1過多時,測試性能開始下降.這說明,當(dāng)光反饋達(dá)到一定強(qiáng)度后,所提供的記憶能力已經(jīng)滿足該任務(wù)的要求,之后再增大反饋強(qiáng)度也無助于提高儲備池計(jì)算的性能,反而會使其下降.從儲備池的三大屬性來看,儲備池的漸衰記憶能力由半導(dǎo)體激光器的反饋強(qiáng)度決定[11].在反饋強(qiáng)度為 13 ns—1時,儲備池已經(jīng)滿足了 NARMA10任務(wù)對于記憶能力的需求.繼續(xù)增加反饋強(qiáng)度,記憶能力則持續(xù)增加,但過長的記憶能力只會引入很久以前輸入信號產(chǎn)生的狀態(tài),干擾了近期的輸入信號對當(dāng)前狀態(tài)產(chǎn)生的影響,最終使得儲備池計(jì)算的性能降低.

3.5 連續(xù)光注入下儲備池的非線性狀態(tài)與其RC性能的關(guān)系

既然用一致性邊緣不能確定強(qiáng)光注入下的反饋強(qiáng)度,我們索性去掉調(diào)制信號,將連續(xù)光注入到儲備池中,觀察不同的儲備池工作狀態(tài)下,RC系統(tǒng)對NARMA10任務(wù)的處理性能.不斷改變反饋強(qiáng)度和注入強(qiáng)度,得到連續(xù)光注入下儲備池在不同參數(shù)下的非線性狀態(tài),其結(jié)果如圖5所示.圖5中,P1,P2,MP,CO 和 IL 分別代表單周期振蕩、倍周期振蕩、多周期振蕩、混沌振蕩和注入鎖定狀態(tài).這里,注入鎖定狀態(tài)指儲備池的響應(yīng)激光器按照外部驅(qū)動激光器的光頻振蕩.通過光譜觀察法,根據(jù)響應(yīng)激光器的振蕩頻率是否與驅(qū)動激光器的光頻一致,可以準(zhǔn)確判斷響應(yīng)激光器是否進(jìn)入注入鎖定狀態(tài),或通過觀察相圖是否為一個穩(wěn)定的點(diǎn),判斷響應(yīng)激光器是否進(jìn)入注入鎖定狀態(tài).當(dāng)注入強(qiáng)度較小或者較大時,儲備池的非線性動態(tài)行為相對比較簡單,只出現(xiàn) IL,P1 和 CO 狀態(tài).但是儲備池受到中等強(qiáng)度的注入時,其非線性動態(tài)非常豐富,一般都會經(jīng)歷IL,P1,MP三個狀態(tài)重新回到P1狀態(tài),而在個別注入強(qiáng)度下,其動態(tài)行為變得更加豐富,隨反饋強(qiáng)度的增大,其狀態(tài)演化會經(jīng)歷IL,P1,MP,P2,MP 和 P1 等多個非線性狀態(tài).

圖5 連續(xù)光注入、不同反饋強(qiáng)度和注入強(qiáng)度下的儲備池的非線性狀態(tài)Fig.5.Nonlinear states of the reservoir under the injection of continuous waveform light,different feedback strengths and injection strengths.

對比圖5和圖4可以發(fā)現(xiàn),注入鎖定狀態(tài)與其他狀態(tài)的邊界和圖4中的帶狀區(qū)域非常相似,即在注入鎖定狀態(tài)的邊緣,儲備池計(jì)算系統(tǒng)都能獲得較好的性能.為了探究其原因,我們對比了RC性能較好和一般兩種情況對應(yīng)的連續(xù)光注入下儲備池的輸出功率,如圖6所示,這里用標(biāo)準(zhǔn)化輸出功率,指輸出功率減去其均值后再除以其方差所得到的值.由圖6(a)可以看到,RC性能較好對應(yīng)的連續(xù)光注入下儲備池的輸出功率的弛豫振蕩時間Tro1較長,此時儲備池處于較弱的注入鎖定狀態(tài).隨著注入強(qiáng)度的增加,連續(xù)光注入下的儲備池進(jìn)入強(qiáng)注入鎖定狀態(tài),其輸出功率的馳豫振蕩時間變短(參見圖6(b)Tro2),說明儲備池的弛豫振蕩受到抑制,信號注入時所產(chǎn)生的瞬態(tài)響應(yīng)也將受到抑制,從而使得儲備池計(jì)算對任務(wù)的處理能力有所下降.從儲備池的屬性來看,在連續(xù)光注入下,儲備池剛進(jìn)入注入鎖定狀態(tài)時,對應(yīng)的儲備池獲得了一致性.但是,隨著注入鎖定狀態(tài)程度的加強(qiáng),儲備池產(chǎn)生動態(tài)變化的能力下降,儲備池的輸出與注入的信號完全相同,使得儲備池失去了漸衰記憶能力,最終使得儲備池計(jì)算性能降低.

圖6 RC 性能 (a)較好,(b)一般兩種情況對應(yīng)的連續(xù)光注入下儲備池的輸出功率Fig.6.Output powers of the reservoir with the injection of continuous waveform light under (a) better RC performance,(b) general RC performance.

通過圖5和圖6也可以輔助說明,在圖2和圖3中為什么隨著反饋強(qiáng)度增加,NRMSE先下降后上升.因?yàn)樵趫D2和圖3中,當(dāng)反饋強(qiáng)度較小時,響應(yīng)激光器都工作在較強(qiáng)的注入鎖定狀態(tài),信號注入時產(chǎn)生的瞬態(tài)響應(yīng)被抑制,而隨著反饋強(qiáng)度的增加,注入鎖定狀態(tài)的程度逐漸減弱,儲備池的瞬態(tài)響應(yīng)逐漸豐富,所以NRMSE逐漸下降.當(dāng)NRMSE下降到最低點(diǎn)時,響應(yīng)激光器恰好處于注入鎖定狀態(tài)的邊緣.反饋強(qiáng)度繼續(xù)增加,響應(yīng)激光器由注入鎖定狀態(tài)變成了單周期狀態(tài)或多周期狀態(tài),儲備池失去了一致性,其NRMSE開始上升.即使在一致性區(qū)域內(nèi),過大的反饋強(qiáng)度也會造成過長的記憶能力,干擾系統(tǒng)的性能,NRMSE 也會上升,如圖3 所示.因此,儲備池計(jì)算系統(tǒng)的性能明顯受響應(yīng)激光器的動態(tài)行為影響,需要選取合適的參數(shù),使儲備池工作在需要的非線性狀態(tài).

3.6 工作點(diǎn)的選取方法

綜上所述,只要在連續(xù)光注入下儲備池的注入鎖定狀態(tài)邊緣選取反饋強(qiáng)度和注入強(qiáng)度即可.但只有儲備池的記憶能力與任務(wù)的需要相匹配才能取得好的性能,而記憶能力由反饋強(qiáng)度決定,因此我們可以順著注入鎖定狀態(tài)的邊緣,通過RC性能指標(biāo)的對比,確定最佳的反饋強(qiáng)度和注入強(qiáng)度.性能指標(biāo)最佳,說明記憶能力匹配,反饋強(qiáng)度就是最佳的.由于最佳反饋強(qiáng)度是在注入鎖定狀態(tài)邊緣選取的,此時的注入強(qiáng)度也是最佳的.

結(jié)合之前其他參數(shù)的確定方法,可以總結(jié)出半導(dǎo)體激光器儲備池計(jì)算系統(tǒng)的完整工作點(diǎn)參數(shù)的選取方法,其步驟如下: 1)設(shè)置偏置電流在閾值電流附近、頻率失諧為一個接近于零的較小值;通過對某一任務(wù)樣本在不同輸入尺度因子γ下的性能測試,選取最合適的γ值;根據(jù)連續(xù)光注入下半導(dǎo)體激光器儲備池的馳豫振蕩周期τ0設(shè)置虛節(jié)點(diǎn)間隔 θ在 0.2τ0左右,再根據(jù)需要的虛節(jié)點(diǎn)數(shù) M,確定反饋時延 τ=(M+k)θ,k 為整數(shù),且 0 ≤ k＜M;2)隨機(jī)初始化反饋強(qiáng)度和注入強(qiáng)度,把連續(xù)光注入半導(dǎo)體激光器儲備池,利用相圖或者其他方法判斷儲備池的工作狀態(tài),如果不是注入鎖定狀態(tài),則逐漸增加注入強(qiáng)度,反之則減少注入強(qiáng)度,直到找到注入鎖定狀態(tài)下的最小注入強(qiáng)度,即找到某一反饋強(qiáng)度下的注入鎖定狀態(tài)邊緣;3)在此參數(shù)下對儲備池計(jì)算系統(tǒng)進(jìn)行訓(xùn)練,然后把一個校驗(yàn)信號輸入到儲備池中,計(jì)算測試結(jié)果的NRMSE或其他性能指標(biāo)并記錄;4)同比例縮放反饋強(qiáng)度和注入強(qiáng)度,對比所取得的性能指標(biāo),最好的RC性能對應(yīng)的注入強(qiáng)度和反饋強(qiáng)度即是最佳的,至此,半導(dǎo)體激光器儲備池計(jì)算系統(tǒng)的工作點(diǎn)參數(shù)全部確定.

從不同初始化狀態(tài)尋找最佳反饋強(qiáng)度和注入強(qiáng)度的過程如圖7所示.如果初始的反饋強(qiáng)度和注入強(qiáng)度在 Start 1 或者 Start 2 位置,則增加注入強(qiáng)度,直到儲備池剛進(jìn)入注入鎖定狀態(tài).如果初始的反饋強(qiáng)度和注入強(qiáng)度處于Start 3位置,則減少注入強(qiáng)度,直到儲備池工作在注入鎖定狀態(tài)邊緣.找到注入鎖定狀態(tài)邊緣后,剩下的過程就都一樣了,即按照步驟 3),4)進(jìn)行計(jì)算,便可找到最佳的反饋強(qiáng)度和注入強(qiáng)度.

按照該方法,找到的最佳反饋強(qiáng)度和注入強(qiáng)度分別是 15 ns—1和 23 ns—1,獲得的 NARMA10 任務(wù)的NRMSE為0.3431.僅用50個虛節(jié)點(diǎn)即獲得如此低的NRMSE,說明所提出的工作點(diǎn)選取方法是可行的.

圖7 從三種不同的初始化狀態(tài)選取最佳反饋強(qiáng)度和注入強(qiáng)度的過程Fig.7.The process of selecting the optimal feedback strength and injection strength from three different initialization states.

4 工作點(diǎn)選取方法的通用性驗(yàn)證

我們分別利用Santa Fe時間序列預(yù)測任務(wù)和MNIST手寫數(shù)字識別任務(wù),驗(yàn)證該工作點(diǎn)選取方法對機(jī)器學(xué)習(xí)的兩大任務(wù)——預(yù)測和分類的通用性.Santa Fe 數(shù)據(jù)集包含 9000 個數(shù)據(jù)點(diǎn),是由遠(yuǎn)紅外激光器工作在混沌振蕩狀態(tài)產(chǎn)生,任務(wù)的目的是為了進(jìn)行下一步預(yù)測[10,18].對于Santa Fe任務(wù),選取數(shù)據(jù)集中的3000個點(diǎn)作為訓(xùn)練數(shù)據(jù),1000個數(shù)據(jù)點(diǎn)用于測試,通過二進(jìn)制Mask預(yù)處理后注入到儲備池中.手寫數(shù)字識別任務(wù)基于美國國家標(biāo)準(zhǔn)與技術(shù)局組建的MNIST數(shù)據(jù)庫[25].我們將原始手寫數(shù)字圖片的灰度值歸一化在0—1之間,并只選取數(shù)據(jù)集中的兩個數(shù)字“0”和“1”作為我們的數(shù)據(jù)集.對于手寫數(shù)字識別任務(wù),選取1000張圖片作為訓(xùn)練數(shù)據(jù),500張圖片作為測試數(shù)據(jù).與Santa Fe任務(wù)不同的是,由于手寫數(shù)字識別任務(wù)的每一個樣本數(shù)據(jù)都是一個二維的矩陣,因此,我們先將其轉(zhuǎn)換為一個一維的數(shù)據(jù),再用二進(jìn)制Mask信號預(yù)處理后注入到儲備池中.

其他參數(shù)不變,根據(jù)圖5所示的連續(xù)光注入下儲備池的非線性狀態(tài)圖,選取一組剛處于注入鎖定狀態(tài)時的反饋強(qiáng)度和注入強(qiáng)度,分別為 6.5 ns—1和8 ns—1.在這些參數(shù)下,RC 系統(tǒng)對 Santa Fe 任務(wù)的NRMSE為0.1518,而手寫數(shù)字識別得到的錯誤率為7.6%.通過同比例改變反饋強(qiáng)度和注入強(qiáng)度的大小,Santa Fe 任務(wù)在反饋強(qiáng)度為 15 ns—1、注入強(qiáng)度為25 ns—1時,取得了最佳的結(jié)果,其NRMSE=0.1045.手寫數(shù)字識別則是在反饋強(qiáng)度為 9 ns—1、注入強(qiáng)度為 13 ns—1時,取得了最好結(jié)果,錯誤率為2.24%.這里,錯誤率指被錯誤識別的手寫數(shù)字樣本占總的測試數(shù)字樣本的百分比.

因?yàn)椴煌娜蝿?wù)有不同的記憶能力要求,記憶能力又與反饋強(qiáng)度有關(guān),分類任務(wù)對記憶能力的要求較低,所以其最佳反饋強(qiáng)度較小,而預(yù)測任務(wù)對記憶能力要求較高,所需要的反饋強(qiáng)度就比較大.但從圖5可知,兩個任務(wù)需要的最佳工作點(diǎn)對應(yīng)的儲備池工作狀態(tài)都屬于較弱的注入鎖定狀態(tài),即注入鎖定狀態(tài)的邊緣.在參數(shù)不斷改變的過程中,對于每個注入強(qiáng)度,其最佳性能對應(yīng)的反饋強(qiáng)度都處于注入鎖定狀態(tài)的邊緣.

因此,利用本文提出的選取工作點(diǎn)的方法也可以快速找到Santa Fe時間序列預(yù)測和MNIST手寫數(shù)字識別兩個任務(wù)的最佳參數(shù).這說明,盡管工作點(diǎn)選取方法是基于NARMA10任務(wù)提出的,但對其他機(jī)器學(xué)習(xí)任務(wù)也是適用的,具有通用性.

5 結(jié) 論

本文通過比較不同注入強(qiáng)度下儲備池的一致性區(qū)域和最佳反饋強(qiáng)度的大小,發(fā)現(xiàn)當(dāng)注入強(qiáng)度較高時,最佳反饋強(qiáng)度離一致性邊緣比較遠(yuǎn),無法通過一致性邊緣確定.通過對比連續(xù)光注入下不同反饋強(qiáng)度和注入強(qiáng)度的儲備池的非線性狀態(tài)與相應(yīng)的RC系統(tǒng)對NARMA10任務(wù)的處理性能,發(fā)現(xiàn)最佳性能都出現(xiàn)在連續(xù)光注入下儲備池的注入鎖定狀態(tài)的邊緣.因此,提出了一種利用連續(xù)光注入下儲備池的注入鎖定狀態(tài)邊緣選取注入強(qiáng)度和反饋強(qiáng)度的方法.通過這種方法可以較快地設(shè)置最佳的反饋強(qiáng)度和注入強(qiáng)度,再結(jié)合前人對其他參數(shù)的研究,即可解決半導(dǎo)體激光器RC系統(tǒng)的工作點(diǎn)參數(shù)難以選取的問題.最后利用Santa Fe時間序列預(yù)測和MNIST手寫數(shù)字識別任務(wù)驗(yàn)證了所提出的工作點(diǎn)選取方法的通用性.