亚洲免费av电影一区二区三区,日韩爱爱视频,51精品视频一区二区三区,91视频爱爱,日韩欧美在线播放视频,中文字幕少妇AV,亚洲电影中文字幕,久久久久亚洲av成人网址,久久综合视频网站,国产在线不卡免费播放

        ?

        基于改進回聲狀態(tài)神經(jīng)網(wǎng)絡的個股股價預測①

        2020-03-23 06:05:28莉,
        計算機系統(tǒng)應用 2020年2期
        關鍵詞:變異粒子神經(jīng)網(wǎng)絡

        李 莉, 程 露

        (江蘇大學 計算機科學與通信工程學院, 鎮(zhèn)江 212013)

        1 引言

        股市發(fā)展趨勢的變化在一定程度上反應了國民經(jīng)濟的強弱, 因此, 幾十年來, 對股市預測的研究是人們關注的重點之一.20 世紀, 國外的學者提出了ARMA系列模型, 該模型能較好地處理線性穩(wěn)定性問題, 在很長一段時間里, 成為了預測研究的熱點, 但是股市中遇到的大多是非平穩(wěn)和非線性的, ARMA 系列模型不能很好地處理這些問題.20 世紀后期, 一些學者提出ARIMA 模型, 在ARIMA 模型的基礎上對該模型進行了改進.以提高模型預測的精確度.

        近些年來, 隨著預測技術的逐步發(fā)展, 神經(jīng)網(wǎng)絡模型開始被人們應用到股價的預測研究中.神經(jīng)網(wǎng)絡具有良好的自適應能力和較強的非線性逼近能力, 能夠較好地解決股市中存在的非線性和非平穩(wěn)的特點.G??ken M 等[1]運用混合人工神經(jīng)網(wǎng)絡模型研究了股市指標與股市之間的關系.Adebiyi AA 等[2]對ARIMA模型和人工神經(jīng)網(wǎng)絡模型進行了對比研究, 利用股票數(shù)據(jù)進行了實驗, 對比了兩者的預測性能.盧輝斌等為了提高預測的準確性, 運用改進的PSO 對BP 神經(jīng)網(wǎng)絡進行優(yōu)化[3].由于經(jīng)典的神經(jīng)網(wǎng)絡預測模型(如BP神經(jīng)網(wǎng)絡), 使用梯度下降算法完成對權值和閾值的訓練, 但是, 如果沒有選擇正確的初始位置, 該算法將陷入局部最小值, 無法獲得全局最優(yōu)解.2004 年Jaeger 等[4]使用回聲狀態(tài)神經(jīng)網(wǎng)絡對時間序列進行了預測, 同比于之前的實驗, 效果得到了顯著的提高.

        回聲狀態(tài)神經(jīng)網(wǎng)絡(ESN)是遞歸神經(jīng)網(wǎng)絡的一種,遞歸神經(jīng)網(wǎng)絡擁有較好的非線性學習能力, 當前已成為時間序列預測的主流工具, 并且得到了學者們的認可, 但經(jīng)典的ESN 學習能力有限, 當用于實際問題下進行預測時, 其泛化能力有待提高.

        針對以上缺點, 本文提出一種基于改進的回聲狀態(tài)神經(jīng)網(wǎng)絡(ESNGTP)的個股股價預測模型, 使用改進的粒子群算法(GTPSO)對ESN 的輸出連接權進行搜索, 獲得較優(yōu)輸出連接權, 進而提高算法的學習能力.

        GTPSO 算法是在經(jīng)典的PSO 算法搜索的過程中,引入了禁忌搜索算法(TS)中禁忌的思想和遺傳算法(GA)中變異的思想, 降低PSO 陷入局部最小值的狀況, 同時提高PSO 搜尋全局的能力.

        2 回聲狀態(tài)神經(jīng)網(wǎng)絡(ESN)

        ESN 是遞歸神經(jīng)網(wǎng)絡的一種, 如圖1 所示.

        圖1 ESN 結構圖

        ESN 有3 層: 輸入層、儲備池和輸出層, 其中ESN 的儲備池, 在訓練過程中, 它類似于傳統(tǒng)神經(jīng)網(wǎng)絡的隱層.擁有 N 個節(jié)點, N的數(shù)值較大.因此, 它擁有一定的短期記憶能力.ESN 的輸入和輸出則分別有K 和L 個節(jié)點.圖1 中輸入層與儲備池之間的反饋用 Win表示, 儲備池內(nèi)部反饋矩陣用 W表示, 儲備池到輸出層的反饋以及輸出層到儲備池之間的反饋則分別用 Wout和Wback表示.當t 時刻時, 輸入層的輸入為u(t)=[u1(t),u2(t),···uK(t)]T, 儲備池內(nèi)部狀態(tài)為x(t)=[x1(t),x2(t),···xN(t)]T, 輸 出 層 的 輸 出 為 y(t )=[y1(t),y2(t),···yL(t)]T,xt和 yt的計算方式如式(1)和式(2)所示, 其中 f和F(·)為對應的激活函數(shù).

        ESN 在訓練的過程中, Win, Wback和 W是隨機初始化生成, 確定后將不再改變, 然而 Wout是通過訓練生成的, 所以, ESN 的學習過程能夠看作是 Wout的確定過程.

        ESN 的核心是用大規(guī)模的遞歸神經(jīng)網(wǎng)絡代替?zhèn)鹘y(tǒng)神經(jīng)網(wǎng)絡的隱層.某種意義上, 降低了算法因遞歸下降而陷入局部最小值的狀況, 同時減少了訓練過程中的計算量.但是在ESN 的學習過程中, 如果數(shù)據(jù)集略有偏差, 最終結果變化會較大, 存在過擬合和泛化能力降低等問題.

        3 粒子群優(yōu)化算法(PSO)

        粒子群優(yōu)化算法(PSO)首先是由Kennedy 等[5]在1995 年提出, 該算法將搜索最優(yōu)解的過程看成是鳥類覓食活動.一群鳥在一個地區(qū)尋找食物, 假設該地區(qū)只有一個食物.這些鳥之間相互分享信息, 并且它們知道自身的位置以及自身距離食物的位置, 但是它們不清楚食物的位置.PSO 從這一活動中受到了啟發(fā), 將每只鳥看成是一個擁有速度與位置的粒子, 食物是最優(yōu)位置, 尋優(yōu)的問題則看成是所有粒子在多維空間中搜索的過程.

        假定PSO 在 n 維空間中進行搜索, 將食物視為最優(yōu)解, 所有的粒子都清楚它們自身的位置.同時, 能夠依據(jù)適應度的值( fit nessi)判斷位置的優(yōu)劣.粒子根據(jù)它們自身的經(jīng)驗和群體的經(jīng)驗更新粒子的速度和方向.直到能夠達到停止條件為止.PSO 在搜索的過程中, 速度快, 結構簡單, 在網(wǎng)絡優(yōu)化和函數(shù)訓練中, 應用廣泛.首先對i 個粒子進行初始化, 粒子i的位置矢量和速度矢量分別記做 Xi=(xi1,xi2,xi3···,xin) 和Vi=(vi1,vi2,vi3···,vin) , 粒 子i 的 自身 最優(yōu) 解 為 Pbest, 記為Pi=(pi1,pi2,pi3···,pin), 群體最優(yōu)解為Gbest, 記為Gi=(gi1,gi2,gi3···,gin) , 在迭代迭代期間, 粒子依據(jù)以下公式更新 Xi和 Vi.

        其中, k 代表迭代期間的步驟, c1和 c2為學習因子.文獻[6]中總述了粒子群(PSO)在1995~2017 年的研究進展、改進、修改和應用, 這里不再一一復述.

        在PSO 的搜索過程中, 粒子之間會互相分享信息.這樣的分享方式可以讓粒子在剛開始的時候擁有較快的收斂速度.但是在迭代的后期, 粒子的更新受到限制,速度變慢, 陷入局部最優(yōu)的狀況增大.

        4 禁忌搜索算法

        禁忌搜索算法(TS)[7]首先是由Glover F 等1986年提出, Glover 在文獻[8,9]中提出了大部分禁忌搜索使用的原則.禁忌搜索算法如今被廣泛使用于解決路徑規(guī)劃和排序等問題, 例如Zhang 等利用改進后的禁忌搜索算法[10]解決了汽車排序問題.

        TS 模擬人的記憶思維模式, 本質(zhì)上, 它是一種全局逐步最優(yōu)搜索算法.在搜索的過程中將過去搜索的方案存儲在禁忌表中, 為了避免重復, 使用禁忌即禁止的方法, 這減少了搜索陷入局部最優(yōu)的狀況.同時在鄰域的方案中選擇最優(yōu)的方案, 并且引入特赦的原則, 釋放符合原則的禁忌對象, 可以在一定程度上避免搜索過程中因為早熟而達到局部優(yōu)化.

        禁忌搜索的核心是禁止重復之前的操作, 降低陷入局部最優(yōu)的概率, 但是TS 容易過分依賴初始解, 同時, 還需要提高全局搜索的能力.

        5 GTPSO 算法思想

        傳統(tǒng)的PSO 在搜索的過程中容易發(fā)生群體粒子集體向當前最優(yōu)解飛行的現(xiàn)象, 進而出現(xiàn)粒子過早收斂的情況, 提高了算法陷入局部最小值的狀況.為此,提出改進的PSO 算法—GTPSO 算法.通過引入TS 中禁忌的思想, 使粒子逃離局部最優(yōu)的束縛, 同時為了增強PSO 對全局的搜尋能力, 引入GA 中變異的思想, 并且根據(jù)repeatStep 的變化狀態(tài)來判斷是否變異, 變異率ρ可以取0.01 到0.1 之間的數(shù), ρ的增加在擴大搜索的范圍的同時也會加長搜索的時間, 經(jīng)過實驗證明, ρ取0.04 可以得到較好的結果.傳統(tǒng)使用GA 算法對PSO 算法進行優(yōu)化時, 是在每次迭代的過程中均發(fā)生變異, 這樣容易破壞粒子的結構, 并且減低了搜索的速度.基于此, 本文采用repeatStep 來判斷是否發(fā)生變異,只有當粒子群聚集嚴重時才會發(fā)生變異, 擴大了粒子搜索的范圍, 同時搜索速度相比于傳統(tǒng)的GA 算法對PSO 算法的優(yōu)化有所提升.

        GTPSO 算法思想如下:

        Step 1.初始化 Xi, Vi, 迭代次數(shù) Iter, 連續(xù)不發(fā)生改變次數(shù)的閾值 M axstep[11](經(jīng)過多次實驗可知 Ma xstep=10 可以取得較好的結果), 粒子群規(guī)模( m =20), m數(shù)量的多少影響著搜索的范圍和計算量, 取值范圍一般在20 到40 之間, 經(jīng)過實驗可知, m取20 可以得到較好的結果.設置粒子群維度n, ρ=0.04, 學習因子c 1=c 2=2, 設置禁忌列表( TL), T L長度設置為100.

        Step 2.計算PSO 中每個粒子的 fit nessi, 同時尋找PSO 最優(yōu)適應度值( fit nessbest ), Gbest和 Pbest, 記錄粒子群上一次最優(yōu)適應度值( fit nessbestbe fore).

        Step 3.判斷 fit nessbest連續(xù)不變的次數(shù)是否超過Maxstep , 如果是, 則按照變異率 ρ對粒子群中每個粒子的 Xi和Vi重新初始化, 同時更新 fit nessi, fitnessbest,Gbest, Pbest, r epeatS tep, 否則轉(zhuǎn)Step 4.

        Step 4.判斷當前 fit nessbest的值是不是小于fitnessbestbe fore 的值, 如果不是, Gbest不發(fā)生改變, 更新 Vi, Xi, fitnessi, fitnessbest , Gbest, Pbest, Vi, Xi,repeatS tep, 如果是轉(zhuǎn)Step 5.

        Step 5.判斷當前 fit nessbest 的 值是不是在 TL 中,如果不是將當前 fit nessbest 的值加入 TL中, 同時更新TL, 否則轉(zhuǎn)Step 6.

        Step 6.用該次迭代的次優(yōu)解取代Gbest, 同時判斷該次迭代次數(shù)是否超過最大迭代次數(shù), 如果是輸出最優(yōu)的Gbest, 如果不是轉(zhuǎn)Step 2.

        GTPSO 算法思想如圖2 所示.

        圖2 GTPSO 混合算法流程圖

        GTPSO 偽代碼如下:

        輸入: Iter, m, n, TL , Maxstep, c1, c2,ρ輸出:Gbest初始化:Randomly initialize Vi andXi Initialize TL for Iter from 1 to Iter do ifIter==1 update fitnessi , fitnessbest, G best ,Pbest

        end if if r epeatS tep> =Maxstep repeatStep=0 for it from 1 to n for it from 1 to m按照ρ 對 Vi 和 Xi 重新初始化u p d a t e fitnessi , fitnessbest , fitnessbestbe fore , Gbest , P best,repeatS tep(連續(xù)不變化的次數(shù))end for end for end if if fitnessbest <fitnessbestbe fore if fitnessbest 在TL 中用次優(yōu)解取代Gbest else 將 fit nessbest加入TL update TL end if else G best不發(fā)生改變for it from 1 to n for it from 1 to m update Vi ,Xi update fitnessi , fitnessbest , fitnessbestbe fore , Gbest , P best,repeatS tep(連續(xù)不變化的次數(shù))end for end for end if end for

        6 改進的回聲狀態(tài)神經(jīng)網(wǎng)絡

        針對ESN 的泛化能力有待提升的特點, 本文提出一種改進的回聲狀態(tài)神經(jīng)網(wǎng)絡算法—ESNGTP 算法.Dutoit 等[12]把對ESN 的 Wout的優(yōu)化看做是特征子集選取過程, 本文中使用GTPSO 算法完成對ESN 的Wout的選擇, 增強了ESN 的泛化能力.

        首先把ESN 儲備池和輸入神經(jīng)元的數(shù)量之和作為PSO 的維數(shù).接著把ESN 的誤差函數(shù)作為PSO 的適應度函數(shù), 然后將最優(yōu)值作為ESN 的 Wout.

        ESNGTP 算法思想如下.

        Step 1.初始化ESN 的參數(shù)以及、 Win和W , 其中Win和W 是隨機生成的, 一旦確定, 不再改變.同時初始狀態(tài) x(0)設置為0, 加載樣本數(shù)據(jù)到輸入與輸出, 更新x(t) , 確定優(yōu)化的粒子的維數(shù)n, n =K+N, K 和N 分別為ESN 輸入和儲備池神經(jīng)元數(shù)量, 初始化 Xi和Vi, 對數(shù)據(jù)進行處理以確保數(shù)據(jù)的完整性.

        Step 2.加載數(shù)據(jù)到輸入輸出, 更新 x(t), 使用Wiener-Hop f 的方法確定Wout.

        Step 3.使用GTPSO 算法對 Wout進行選擇, 得到Gbest, 即最優(yōu)

        Step 4.ESN 預測數(shù)據(jù), 最終獲得預測結果.

        ESNGTP 算法流程圖如圖3 所示.

        圖3 ESNGTP 混合算法流程圖

        7 實驗結果與分析

        7.1 實驗環(huán)境

        實驗計算機配置: CPU Core(TM)3.40 GHz, 內(nèi)存16 GB, 顯存8 GB; 操作系統(tǒng): Windows7; 軟件環(huán)境:Mtalab 2014.

        7.2 實驗數(shù)據(jù)獲取

        實驗數(shù)據(jù)的數(shù)量一定程度上影響實驗的預測效果,因此本文實驗數(shù)據(jù)選取金螳螂(002018) 2012 至2018 年每日收盤價價格和中國石油(601857) 2013 至2019 年每日收盤價價格作為實驗數(shù)據(jù)集.數(shù)據(jù)源來自于同花順, 首先對數(shù)據(jù)進行手動清理, 將缺失的數(shù)據(jù)及當日收盤價為0 的數(shù)據(jù)進行清除, 選取兩個個股的1152 天收盤價價格作為訓練數(shù)據(jù), 選取288 天收盤價價格作為測試數(shù)據(jù).將前10 天的收盤價作為輸入, 第11 天的收盤價作為輸出.

        7.3 評價標準

        使用平均絕對誤差(MAE)和平均絕對百分比誤差(MAPE)對算法的優(yōu)劣進行評估.MAE 越小, 預測值與真實值之間的誤差越小.在同組數(shù)據(jù)下進行實驗, 對比不同算法結果, MAPE 越小, 算法性能更優(yōu).

        7.4 ESNGTP 算法預測結果與分析

        建立ESN 模型, K, N, L 分別設置為10, 500, 1, 學習因子 c1 =c2=2, m =20, n =K+N, PSO 中粒子的Vi和 Xi在允許的范圍內(nèi)隨機產(chǎn)生.本文將金螳螂(002018)和中國石油(601857)兩支個股的每日收盤價作為實驗數(shù)據(jù), 金螳螂(002018)選取2012 年至2018 年1152 條數(shù)據(jù)作為訓練數(shù)據(jù), 選取288 條數(shù)據(jù)作為訓練數(shù)據(jù).中國石油(601857)選取2013 年至2019 年1152 條數(shù)據(jù)作為訓練數(shù)據(jù), 選取288 條數(shù)據(jù)作為訓練數(shù)據(jù).

        分別采用BP、ESN、ESN-PSO 和ESNGTP 算法對數(shù)據(jù)進行訓練, 同時針對訓練好的模型帶入實驗數(shù)據(jù)進行測試, 其中金螳螂(002018)測試結果如圖4 至圖6 所示, 中國石油(601857)測試結果如圖7 至圖9所示.為了使圖像效果更加清晰, 將ESNGTP 算法結果單獨畫出.對預測結果展開分析:

        (1) 由圖5 和圖8 可知, ESN 的效果明顯優(yōu)于BP 的預測結果, 因為ESN 可以較好的尋找歷史輸入與輸出之間的關系.

        (2) 由圖5 和圖8 可知, 為了提高實驗預測的精度,在接下來的實驗中對ESN 的 Wout進行優(yōu)化.ESNPSO 的效果優(yōu)于ESN.

        (3) 由圖4、圖6、圖7 和圖9 可知, 在個股收盤價的預測上, ESNGTP 相比于傳統(tǒng)的ESN 更加精準,對抗局部收斂的能力較強, 達到了預期的效果.

        圖4 ESNGTP 預測結果與真實值對比

        圖5 3 種算法預測結果對比

        圖6 ESNGTP 與ESN 相對誤差絕對值對

        圖7 圖7 ESNGTP 預測結果與真實值對

        將不同算法的預測結果進行分析, 結果如表1 所示.

        從表1 可以看出ESN 效果明顯優(yōu)于BP, 而ESNPSO 預測效果優(yōu)于ESN, 此外ESNGTP 算法的預測結果較好于傳統(tǒng)的ESN 和ESN-PSO, 在ESNGTP 算法中, 預測精度得到提升, 解決了傳統(tǒng)ESN 泛化能力不強的問題.

        圖8 3 種算法預測結果對比

        表1 不同數(shù)據(jù)集下算法預測誤差對比

        8 結論

        本文基于傳統(tǒng)的ESN 預測模型, 使用GTPSO 算法完成對ESN 的 Wout的選擇, 獲得較優(yōu)的 Wout, 進而使得預測更為精準.GTPSO 算法在傳統(tǒng)的PSO 算法中上提出了兩點創(chuàng)新, (1)引入GA 算法中變異的思想, 只有當粒子群聚集嚴重時才會發(fā)生變異, 重新初始化部分粒子, 擴大了PSO 算法搜索的范圍, 增強了PSO 的全局搜尋能力, 同時可以保持較快的前期尋優(yōu)速度.(2)引入TS 中禁忌的思想, TS 的局部尋優(yōu)能力較強,搜索的過程中擁有記憶, 降低算法陷入局部最小值的狀況.保持較快的后期尋優(yōu)能力, 當PSO 陷入局部最優(yōu)時, 可以通過禁忌逃離這種局部最優(yōu)的狀況.本文使用ESNGTP 算法對金螳螂(002018)和中國石油(601857)兩支個股收盤價進行預測.通過實驗說明ESNGTP 算法相比于傳統(tǒng)的ESN, 預測效果更為精準.在迭代的過程中, 從表1 可知ESNGTP 相比于ESNPSO 有較好的收斂效果.

        雖然引入的變異思想和禁忌思想提高了預測的精度, 但是在迭代的過程中消耗的時間稍長, 因此在時間上的消耗有待改進.此外, 實驗中對于個股股價的預測使用的是每日收盤價的數(shù)據(jù), 未曾考慮其他的影響因素, 下一步的工作, 需要考慮多種因素對收盤價的影響,同時依據(jù)影響因素重要性的不同, 給與不同的影響因素相適應的權重.

        猜你喜歡
        變異粒子神經(jīng)網(wǎng)絡
        變異危機
        變異
        支部建設(2020年15期)2020-07-08 12:34:32
        神經(jīng)網(wǎng)絡抑制無線通信干擾探究
        電子制作(2019年19期)2019-11-23 08:42:00
        基于粒子群優(yōu)化的橋式起重機模糊PID控制
        測控技術(2018年10期)2018-11-25 09:35:54
        基于粒子群優(yōu)化極點配置的空燃比輸出反饋控制
        基于神經(jīng)網(wǎng)絡的拉矯機控制模型建立
        重型機械(2016年1期)2016-03-01 03:42:04
        復數(shù)神經(jīng)網(wǎng)絡在基于WiFi的室內(nèi)LBS應用
        變異的蚊子
        百科知識(2015年18期)2015-09-10 07:22:44
        基于支持向量機回歸和RBF神經(jīng)網(wǎng)絡的PID整定
        基于Matlab的α粒子的散射實驗模擬
        物理與工程(2014年4期)2014-02-27 11:23:08
        国产精品国三级国产av| 亚洲欧美日韩中文在线制服| 妺妺窝人体色www在线图片| 在线成人tv天堂中文字幕| 日韩中文字幕网站| 一区二区三区日本视频| 小雪好紧好滑好湿好爽视频| 久久久久久久久毛片精品| 无码不卡av东京热毛片| 国产黄色片在线观看| 久久精品国产亚洲av麻豆四虎 | 无码人妻精品一区二区蜜桃网站| 中文字幕影片免费在线观看| 国产亚洲日韩AV在线播放不卡| 日本加勒比精品一区二区视频| 国产高清精品一区二区| 成人精品视频一区二区| 在线观看av中文字幕不卡| 女同性恋亚洲一区二区| 中文字幕女优av在线| 国产男女猛烈无遮挡免费网站| 中文字幕国产欧美| 色婷婷亚洲一区二区在线| 午夜视频在线观看视频在线播放| 亚洲国产精品日韩av不卡在线| 国产精品无码片在线观看| 日本高清无卡一区二区三区| 亚洲av无码乱码精品国产| 风韵多水的老熟妇| 亚洲av无码成人精品区在线观看| 美女裸体无遮挡免费视频国产| 99国产精品欲av麻豆在线观看| 日本道免费一区二区三区日韩精品| 天堂aⅴ无码一区二区三区| 久久亚洲伊人| 精品国产a毛片久久久av| 国产不卡视频一区二区三区| 国产精品高潮呻吟av久久无吗| 高清av一区二区三区在线| 久久国内精品自在自线| 日日噜噜噜夜夜爽爽狠狠视频|