亚洲免费av电影一区二区三区,日韩爱爱视频,51精品视频一区二区三区,91视频爱爱,日韩欧美在线播放视频,中文字幕少妇AV,亚洲电影中文字幕,久久久久亚洲av成人网址,久久综合视频网站,国产在线不卡免费播放

        ?

        基于交叉算子的反向梯度優(yōu)化算法

        2022-04-27 04:50:52程沖華江海新劉俊峰
        關(guān)鍵詞:測試函數(shù)算子梯度

        吳 蕓,程沖華 ,江海新,劉俊峰,李 進

        (1.九江學(xué)院 理學(xué)院,江西 九江 332005;2.浙江大學(xué) 控制科學(xué)與工程學(xué)院,工業(yè)控制技術(shù)國家重點實驗室,杭州 310027)

        梯度優(yōu)化算法(Gradient-based optimizer,GBO)[1]是Iman Ahmadianfar、Omid Bozorg-Haddad 等人于2020年提出的一種群體智能優(yōu)化算法.GBO的靈感來自于牛頓法,借助群智能優(yōu)化算法的思想,利用一組向量并結(jié)合梯度搜索規(guī)則(GSR)、局部逃逸算子(LEO)來進行搜索.

        GBO概念簡單易實現(xiàn),通過與灰狼優(yōu)化算法(GWO)[2],人工蜂群算法(ABC)[3],鯨魚優(yōu)化算法(WOA)[4]的比較,驗證了GBO具有較好的開發(fā)與探索能力,且在求解減速機、三桿桁架、工字鋼設(shè)計和懸臂梁等工程問題時性能顯著.GBO算法雖然性能表現(xiàn)卓越,但在解決某些復(fù)雜優(yōu)化問題時仍存在求解精度低、收斂速度慢且易陷入局部最優(yōu)等缺點,因此許多學(xué)者對GBO算法進行了不同的改進與應(yīng)用.Zhou Wei[5]等提了基于梯度的光伏模型參數(shù)提取優(yōu)化器,利用隨機學(xué)習(xí)機制來提高梯度優(yōu)化算法的性能;M H Hassan[6]等將曼塔射線覓食優(yōu)化(MRFO)與基于梯度優(yōu)化器(GBO)混合為MRFO-GBO,MRFO-GBO能有效求解單目標和多目標EED問題.

        為改善GBO的性能表現(xiàn),MGBO應(yīng)用了交叉算子和反向?qū)W習(xí)兩種策略進行改進.首先對每次迭代前的種群進行預(yù)處理,執(zhí)行交叉算子來提高解的質(zhì)量、增強種群多樣性,加快收斂速度;然后對搜索后更新的種群進行反向?qū)W習(xí),加強算法逃離局部最優(yōu)的能力,提高算法求解精度.通過對9個測試函數(shù)進行仿真實驗對比,結(jié)果表明改進算法效果顯著,收斂速度和求解精度得到較大的提升.

        1 基本梯度優(yōu)化算法

        梯度優(yōu)化算法的主要思想是將梯度搜索規(guī)則(GSR)和局部逃逸算子(LEO)相結(jié)合進行全局和局部搜索.

        1.1 梯度搜索規(guī)則 (GSR)

        GBO算法從一組隨機的初始解開始,并根據(jù)指定方向的梯度更新每個個體位置.為了保證算法的探索與開發(fā)能力之間的平衡,采用的ρ1如下:

        ρ1=2×rand×α-α

        (1)

        (2)

        (3)

        rand是[0,1]中的一個隨機數(shù),βmin=0.2,βmax=1.2,m為當前迭代次數(shù),M為總迭代次數(shù),參數(shù)ρ1基于正弦函數(shù)α進行更新.因此,GSR可以確定如下:

        (4)

        Δx=rand(1:N)×|step|

        (5)

        (6)

        (7)

        DM=rand×ρ2×(xbest-xn)

        (8)

        ρ2=2×rand×α-α

        (9)

        (10)

        (11)

        ypn和yqn表達式如下:

        (12)

        (13)

        (14)

        (15)

        (16)

        其中

        定義如下:

        (17)

        1.2 局部逃逸算子(LEO)

        ifrand

        End

        (18)

        f1是在[-1,1]范圍內(nèi)的均勻隨機數(shù),f2是來自均值為0、標準差為1的正態(tài)分布的隨機數(shù),pr是概率,u1、u2、u3是三個隨機數(shù),分別定義為:

        u1=L1×2×rand+(1-L1)

        (19)

        u2=L1×rand+(1-L1)

        (20)

        u3=L1×rand+(1-L1)

        (21)

        (22)

        其中L2是一個二進制參數(shù),其值為0或1.如果μ2小于0.5,則L2的值為1,否則為0.

        2 基于交叉算子和反向?qū)W習(xí)的GBO

        針對基本梯度優(yōu)化算法存在的求解精度低、收斂速慢、易陷入局部最優(yōu)等缺陷,MGBO分別從兩個方面進行改進:①利用交叉算子對當前種群進行處理,能豐富種群的多樣性,提高收斂速度和收斂精度;②通過對當前所得解進行反向?qū)W習(xí)來擴大解的搜索范圍以逃離局部最優(yōu),從而提高求解精度.

        2.1 交叉算子

        曹天問等[7]將兩點交叉算子運用于細菌覓食算法中,受此啟發(fā),MGBO也采用兩點交叉來進行改進,但又與他們不同,這處理的方式是將要淘汰的一半個體分別與當前種群最優(yōu)個體兩兩進行交叉,交叉過后所得種群代替即將被淘汰的個體.與原始算法相比這有利于降低時間復(fù)雜度且該過程將優(yōu)質(zhì)基因帶入到當前種群,優(yōu)質(zhì)基因的流入提高了種群多性,利于逃離局部最優(yōu),提高求解精度.交叉算子表達式如下:

        (23)

        2.2 反向?qū)W習(xí)

        反向?qū)W習(xí)(Opposition-based learning,OBL)是Tizhoosh教授在2005年提出來的一種優(yōu)化技術(shù),根據(jù)概率定律,當前解有0.5的概率比它的反向解更接近最優(yōu)解,目前反向?qū)W習(xí)已經(jīng)成功運用于果蠅優(yōu)化算法(FOA)[8],粒子群算法(OPSO)[9],差分算法(ODE)[10].

        2.3 基于交叉算子的反向梯度優(yōu)化算法(MGBO)

        MGBO算法流程大致如下:

        Step 1 初始化設(shè)置算法的基本參數(shù).

        Step 2 通過評估函數(shù)求出每個個體的適應(yīng)值,并記下最優(yōu)xbest和最差xworst位置.

        Step 7 對當前解的位置信息進行越界處理,隨后計算其適應(yīng)度,判斷是否優(yōu)于當前記錄中的全局最優(yōu)值,若是,則更新全局最優(yōu)值.

        Step 8 判斷算法是否滿足迭代終止條件,若滿足,則輸出全局最優(yōu)解,否則跳轉(zhuǎn)至Step 3進行下次迭代尋優(yōu).

        2.4 算法復(fù)雜度分析

        時間復(fù)雜度是指算法執(zhí)行所需要的計算工作量.在基本梯度優(yōu)化算法中,時間復(fù)雜度主要受到種群規(guī)模nP、最大迭代次數(shù)MaxIt、及問題維度D的影響.由GBO算法尋優(yōu)過程可知其時間復(fù)雜度為O(nP*MaxIt*D+nP).相比GBO算法,MGBO算法在迭代過程中,增加了將種群的一半個體與最優(yōu)個體兩兩進行交叉、反向?qū)W習(xí)操作,因此MGBO比GBO多(MaxIt*(nP*3/2+D))次運算量.

        3 實驗仿真及分析

        為了驗證本文提出的MGBO算法的有效性,選取了9個經(jīng)典基準函數(shù)進行數(shù)值實驗,并與基本梯度優(yōu)化算法、灰狼優(yōu)化算法、粒子群算法[11]、哈里斯鷹優(yōu)化算法[12]和鯨魚優(yōu)化算法進行比較.表1給出了測試函數(shù)的基本信息和相關(guān)參數(shù)設(shè)置,包含單峰、多峰等不同特征的測試函數(shù).表2為每個算法主要參數(shù)設(shè)置.

        表1 測試函數(shù)參數(shù)設(shè)置

        表2 算法主要參數(shù)設(shè)置

        為了降低算法的隨機性對實驗結(jié)果的影響,我們對獨立運行30次的實驗結(jié)果取平均,其中種群規(guī)模為50、最大迭代次數(shù)為1 100次.表3給出了改進算法(MGBO)、梯度優(yōu)化算法(GBO)、灰狼優(yōu)化算法(GWO)、粒子群算法(PSO)、哈里斯鷹優(yōu)化算法(HHO)和鯨魚優(yōu)化算法(WOA)在30維、50 維、100 維三種的情況下搜索得到的平均值、標準差,其中結(jié)果最好的用粗體顯示.

        表3 不同算法在不同維度下的平均值及標準差

        實驗環(huán)境為:Windows10 系 統(tǒng),8 GB 內(nèi) 存,CPU 2.00 GHz,算法基于 MATLAB 2016b 用M語言編寫.

        從表3知,無論是30、50、100維MGBO對于5個單峰函數(shù)(f1-f5)都是最優(yōu),特別在求解f1和f3時獲得了理論最優(yōu)值0.對于4個多峰函數(shù)(f6-f9),在30、50、100維上,MGBO在求解f6和f8時都獲得了理論最優(yōu)值0,MGBO雖在f7上無法取到理論最優(yōu)值,但平均值都優(yōu)于其對比算法的平均值,且求解f9函數(shù)時MGB0的結(jié)果都比對比算法要好.因此整體來說MGBO在求解單峰、多峰函數(shù)時都有更好的尋優(yōu)效果與可擴展性.標準差可以反映算法的穩(wěn)定性.由表3可知,MGBO獨立運行30次計算的標準差始終不大于對比算法,這說明MGBO對單峰、多峰、低維、高維測試函數(shù)的穩(wěn)定性好.

        表4 MAE算法排名

        可以看出,MGBO排名均為 1,與另外5種算法相比,MGBO提供了最小的MAE,進一步證明了MGBO的有效性.

        為了更好地對比六種算法的尋優(yōu)性能,圖1給了它們在不同函數(shù)上50維的收斂曲線,其中橫坐標為迭代次數(shù),所有函數(shù)其適應(yīng)度值都取以10為底的對數(shù).

        由圖1(a)-(e)可知,隨著迭代次數(shù)的增加,梯度優(yōu)化算法、灰狼優(yōu)化算法、粒子群算法、哈里斯鷹優(yōu)化算法和鯨魚優(yōu)化算法在單峰函數(shù)上均收斂速度均較慢、無法搜索到理論最優(yōu)值且MGBO的收斂曲線下降最快,速度得到了明顯的提高,這說明引入交叉算子增加了種群多樣性,使得算法加快收斂速度.圖(f)-(i)是多峰函數(shù)平均收斂曲線,MGBO在f6-f9上迭代收斂速度很快,尤其對f6和f8兩函數(shù)最明顯,這說明反向?qū)W習(xí)有效改善算法性能及交叉算子引入優(yōu)質(zhì)基因的作用是突出的.

        圖1 函數(shù)收斂曲線

        4 結(jié)語

        本文對GBO算法中存在早熟性收斂以及陷入局部最優(yōu),提出了一種應(yīng)用交叉算子和反向?qū)W習(xí)的梯度優(yōu)化算法(MGBO).交叉算子的引入可以豐富種群的多樣性,對單峰函數(shù)而言,尋優(yōu)能力和收斂速度得到了明顯的提高;反向?qū)W習(xí)策略是通過評價候選解和反向解的優(yōu)劣來擴大搜索空間,對于多峰函數(shù)而言有利于逃離局部最優(yōu)值轉(zhuǎn)向全局最優(yōu)值收斂,加快算法收斂速度.實驗證明,本文的算法不但有效地加快搜尋速度,且提高了解的精度.

        猜你喜歡
        測試函數(shù)算子梯度
        一個改進的WYL型三項共軛梯度法
        擬微分算子在Hp(ω)上的有界性
        一種自適應(yīng)Dai-Liao共軛梯度法
        各向異性次Laplace算子和擬p-次Laplace算子的Picone恒等式及其應(yīng)用
        一類Markov模算子半群與相應(yīng)的算子值Dirichlet型刻畫
        一類扭積形式的梯度近Ricci孤立子
        具有收縮因子的自適應(yīng)鴿群算法用于函數(shù)優(yōu)化問題
        Roper-Suffridge延拓算子與Loewner鏈
        帶勢函數(shù)的雙調(diào)和不等式組的整體解的不存在性
        約束二進制二次規(guī)劃測試函數(shù)的一個構(gòu)造方法
        亚洲精品一区久久久久一品av| 蜜臀av一区二区三区人妻在线| 日本一区二区日韩在线| 亚洲中文字幕人妻久久| 五月综合激情婷婷六月色窝| 日韩中文无线码在线视频观看| 国产一区二区三区四区色| 亚洲av乱码二区三区涩涩屋 | 日本第一区二区三区视频| 91九色国产老熟女视频| 亚洲欧美牲交| 粉嫩少妇内射浓精videos| 青青青草国产熟女大香蕉| 漂亮人妻被强了中文字幕| 99精品国产在热久久无码| 久久精品国产日本波多麻结衣| 免费国人成人自拍视频| 国产精品国三级国产a| 高清不卡一区二区三区| 精品人妻VA出轨中文字幕| 久久精品国产福利亚洲av| 日本三级香港三级人妇99| 久久亚洲精品成人av| 老熟女熟妇嗷嗷叫91| 久久国产精品色av免费看| 国产丝袜美女一区二区三区| 国内精品九九久久久精品| 国产精品一区二区av白丝在线| 国产精品高潮呻吟av久久黄| 亚洲狠狠婷婷综合久久久久图片| 国产精品18久久久久网站 | 曰韩精品无码一区二区三区 | 99国产精品人妻噜啊噜| 久久久久亚洲精品美女| 国产高清不卡二区三区在线观看| 国产亚洲精品美女久久久m| 小12萝8禁在线喷水观看| 亚洲一二三四五区中文字幕| 亚洲久悠悠色悠在线播放| 国产成人无码区免费内射一片色欲| аⅴ天堂一区视频在线观看|