亚洲免费av电影一区二区三区,日韩爱爱视频,51精品视频一区二区三区,91视频爱爱,日韩欧美在线播放视频,中文字幕少妇AV,亚洲电影中文字幕,久久久久亚洲av成人网址,久久综合视频网站,国产在线不卡免费播放

        ?

        基于遷移學(xué)習(xí)的NSGAⅡ算法

        2021-03-25 02:09:40璐,蔣
        軟件導(dǎo)刊 2021年3期
        關(guān)鍵詞:優(yōu)化

        劉 璐,蔣 艷

        (上海理工大學(xué)管理學(xué)院,上海 200093)

        0 引言

        進化優(yōu)化算法是一種基于模擬自然生物進化過程的算法,通過使用染色體表示問題的解,選擇適合的染色體群進行復(fù)制、交叉、變異和選擇,產(chǎn)生新的更能適合環(huán)境的染色體群[1]。此過程不斷循環(huán)迭代,直到找出最適合環(huán)境的個體,得到問題的最優(yōu)解。

        1993 年Srinivas 等[2]設(shè)計了非支配排序遺傳算法(Non-dominated Sorting Genetic Algorithm,NSGA),這是第一代多目標進化算法之一;2002 年Deb 等[3]對NSGA 算法進行改進,在此基礎(chǔ)上提出第二代多目標進化算法NSGAⅡ算法(Non-dominated Sorting Genetic Algorithm Ⅱ,NSGAⅡ)。NSGAⅡ算法由于提高了種群的進化水平和搜索效率,成為目前最流行的多目標進化算法之一;陶文華等[4]將差分進化融入NSGAⅡ算法,差分進化算法對初始種群進行交叉和變異操作得到新種群,該算法獲得的Pareto 最優(yōu)解集更均勻;路艷雪等[5]通過設(shè)計正態(tài)分布交叉算子和改進的自適應(yīng)變化變異算子,能夠快速獲取Pareto 最優(yōu)解集,提高了算法的收斂速度和精確度。

        傳統(tǒng)的進化優(yōu)化算法中初始種群都是隨機產(chǎn)生的,沒有考慮之前是否優(yōu)化過相似問題,都是從零開始搜索解。遷移學(xué)習(xí)[6-7]是通過已有知識解決具有相關(guān)性但不同源域問題的一種新的機器學(xué)習(xí)方法。相比于傳統(tǒng)機器學(xué)習(xí)方法,遷移學(xué)習(xí)并不要求訓(xùn)練樣本和測試樣本獨立分布,也不需要大量的訓(xùn)練樣本,適用于小數(shù)據(jù)樣本量訓(xùn)練。遷移學(xué)習(xí)在文本處理[8]、情感分類[9]、圖像數(shù)據(jù)處理[10]和推薦系統(tǒng)[11]等領(lǐng)域應(yīng)用很好。目前,遷移學(xué)習(xí)在進化優(yōu)化領(lǐng)域有了一定應(yīng)用,F(xiàn)eng 等[12]將遷移學(xué)習(xí)運用到車輛路徑問題中,提出文化基因進化框架;徐茂鑫等[13]提出新的遷移蜂群優(yōu)化算法并應(yīng)用到電力系統(tǒng)的無功優(yōu)化中;Dinh 等[14]在使用遺傳算法優(yōu)化神經(jīng)網(wǎng)絡(luò)權(quán)重時,將源任務(wù)得到的個體解集進行保存,在處理新任務(wù)時從個體解集中遷移出個體代替初始個體;邱立明[15]在動態(tài)多目標優(yōu)化的算法框架Tr-DMOEA 基礎(chǔ)上提出基于流形的遷移動態(tài)多目標優(yōu)化算法并運用到多任務(wù)優(yōu)化問題研究中;楊康[16]提出基于相似歷史信息遷移學(xué)習(xí)的骨干粒子群優(yōu)化算法并應(yīng)用到旅行商問題中。

        上述研究將遷移學(xué)習(xí)融入進化優(yōu)化算法,提高了算法性能,但都是對單目標和動態(tài)多目標問題的研究,并不適用于靜態(tài)多目標。鑒于此,本文基于NSGAⅡ算法融入遷移學(xué)習(xí)思想,設(shè)計了基于遷移學(xué)習(xí)的NSGAⅡ算法(Tr-NS?GAⅡ),解決靜態(tài)多目標優(yōu)化問題。

        1 相關(guān)工作

        1.1 多目標問題

        多目標優(yōu)化問題[1](Multi-objective Optimization Prob?lem,MOP)一般由決策變量、目標函數(shù)和約束條件組成,可以寫成如下形式:

        式中,x=(x1,x2,x3,...xn)∈D為決策變量,y=(f1,f2,...,fm)∈Y表示目標向量,D為決策空間,Y為目標空間。

        定義1(Pareto 支配)設(shè)MOP 的兩個可行解為x1、x2,對應(yīng)的目標F(x1)、F(x2)滿足以下條件時:

        稱x1支配x2,即x1?x2。

        定義2(Pareto最優(yōu)解集)對于MOP 的可行解x*滿足{x*|?x,x?x*},可行解x*稱為Pareto 最優(yōu)解,所有可行解組成的集合即為Pareto 最優(yōu)解集(POS,Pareto Optimal Set)。

        定義3(Pareto 最優(yōu)前沿)對于MOP 的最優(yōu)前沿POF(Pareto Optimal Front,POF),是POS 映射在目標空間上的值,POF={y*|y*=F(x*),x*∈POS} 。

        1.2 NSGAⅡ算法

        NSGAⅡ算法[17]相較于NSGA 算法采用了快速非支配排序,從而降低了算法的計算復(fù)雜度。同時NSGAⅡ算法提出擁擠度和擁擠度比較算子兩個概念,代替原NSGA 算法需要適應(yīng)度共享策略。NSGAⅡ算法還引入精英策略,擴大采樣空間,將父代種群和子代種群合并,保證優(yōu)良個體能夠留存下來??焖俜侵渑判蚝蛽頂D度距離計算步驟如下:

        (1)快速非支配排序。首先計算出所有個體兩兩之間的支配關(guān)系,得到當(dāng)前群體的非支配解集,記為第一層;再從剩余的個體中找出非支配解集,記為第二層,循環(huán)到所有個體都被分層。

        (2)擁擠度距離。擁擠度距離是估量一個解的空間周圍解的聚集程度。對于每個目標函數(shù),先對非支配解集中的解按照函數(shù)值大小排序,再計算周圍兩個解構(gòu)成的立方體平均邊長,結(jié)果即為擁擠度距離,另外邊界的擁擠度距離設(shè)為無窮。

        1.3 遷移學(xué)習(xí)

        1.3.1 最大均值差異

        定義4(最大均值差異)將源域和目標域的數(shù)據(jù)通過特征映射函數(shù)映射后,求兩者的均值之差即為最大均值差異[18](Maximum Mean Discrepancy,MMD),其中φ表示χ→H的映射,公式如下:

        1.3.2 遷移成分分析

        遷移學(xué)習(xí)按照學(xué)習(xí)方法劃分為基于樣本的遷移學(xué)習(xí)、基于特征的遷移學(xué)習(xí)、基于模型的遷移學(xué)習(xí)和基于關(guān)系的遷移學(xué)習(xí)4 類。本文設(shè)計的算法采取基于特征的遷移學(xué)習(xí)中的遷移成分分析。Pan 等[19]提出遷移成分分析(Transfer Component Analysis,TCA)方法。TCA[20-21]在處理領(lǐng)域自適應(yīng)問題時,當(dāng)源域和目標域邊緣分布不同時,通過映射函數(shù)將兩個領(lǐng)域的數(shù)據(jù)映射到一個高維的再生核希爾伯特空間(Reproducing Kernel Hilbert Space,RKHS),使得映射后的數(shù)據(jù)在映射空間中分布相似,數(shù)據(jù)距離縮小,屬性相近。在TCA 算法中引入核矩陣K 和L 如下所示:

        令φ(x)=WTκx,則K 可以寫成:

        將K 帶入MMD 公式,其中K 是一個對稱矩陣:

        最終將TCA 優(yōu)化目標化簡得到公式(6),其中H是一個中心矩陣H=In1+n2-1/(n1+n2)11?,I是(n1+n2)維單位矩陣,μtr(W?W) 是懲罰項,(KLK+μI)-1KHK的前m 個特征值就是源域和目標域降維后的數(shù)據(jù)。

        2 Tr-NSGAⅡ算法

        傳統(tǒng)的進化優(yōu)化算法都是從定義域中隨機產(chǎn)生初始種群,本文引入遷移學(xué)習(xí)思想設(shè)計Tr-NSGAⅡ算法。首先建立一個儲存庫,存儲函數(shù)的一些歷史信息,包括目標維數(shù)、決策變量維數(shù)、特殊函數(shù)(例如三角函數(shù)、冪函數(shù)等)和函數(shù)的最高次冪等特征,及函數(shù)的Pareto 最優(yōu)解集,將其作為源域記為Xs,其中Pareto 最優(yōu)解集內(nèi)解的個數(shù)為S。當(dāng)獲得新任務(wù)時,提取目標函數(shù)特征,與儲存庫中的函數(shù)比較,找出最相似的函數(shù);再對目標函數(shù)隨機產(chǎn)生初始種群并進行非支配排序,得到的種群T記為目標域Xt。將Xs 和Xt 通過TCA 算法學(xué)習(xí)得到Xs_new 和Xt_new。針對Xs_new 中每個個體s計算Xt_new 中個體t與其歐幾里得距離,得到L(l1,l2,...,ls),li為一個s與Xt_new 中所有t的歐幾里得距離,并對每個li進行內(nèi)部排序,取第一個數(shù)li1構(gòu)成M;在M中返回Xt_new 中個體序號,找出Xt 中對應(yīng)個體形成新的種群。如果M中元素個數(shù)過少,為了保證種群的多樣性,源域和目標域的定義域不一定相同,以避免局部收斂,按照一定比例r選取li,r的取值范圍為[10%,20%]。Tr-NSGAⅡ算法流程如下:

        輸入:多目標優(yōu)化問題F(x),個體數(shù)N,進化代數(shù),核函數(shù),儲存庫;

        輸出:問題的最優(yōu)解,儲存庫;

        (1)建立儲存庫,提取目標函數(shù)的特征,與儲存庫中的函數(shù)比較,找出最相似的原函數(shù),并記其Pareto 最優(yōu)解集為Xs,Xs 為源域。

        (2)對于目標函數(shù)F(x)隨機產(chǎn)生初始種群N,對種群進行非支配排序,并進行選擇、交叉和變異得到種群Q,記為Xt,Xt 為目標域。

        (3)通過TCA 算法學(xué)習(xí),選擇合適核函數(shù)將源域(Xs)和目標域(Xt)映射到高維希爾伯特空間,得到映射后的源域(Xs_new)和目標域(Xt_new)。

        (4)設(shè)置初始種群P 為空集。

        (5)對于Xs_new 中的每個個體,計算Xt_new 中的個體與其歐幾里得距離,找出最小值,返回Xt_new 中個體序號,并在Xt 中找出對應(yīng)個體并入種群P。

        (6)當(dāng)P 小于N 時,隨機產(chǎn)生N-P 個個體,并入P。

        (7)令進化代數(shù)為零,利用NSGAⅡ算法對種群P 進行快速非支配排序、擁擠度距離排序和精英選擇策略進行更新。

        (8)得到目標函數(shù)最優(yōu)解,將目標函數(shù)放入儲存庫,更新儲存庫。

        3 Tr-NSGAⅡ算法實驗

        3.1 實驗環(huán)境及測試函數(shù)

        本實驗采用Python3.7 實現(xiàn)所提出的算法,測試環(huán)境為Intel(R)Core(TM)、1.30GHzCPU、16GBRAM。儲存庫里的函數(shù)為ZDT1~4、ZDT6 系列、BNH 和Belegundu,目標函數(shù)共有10 個[1],具體形式見表1。

        3.2 實驗方法

        本文選用4 種不同的評價指標,從解的收斂性、解集的均勻性和算法的綜合性能來評價解的有效性。

        (1)收斂性。GD 表示算法所獲得的非支配解集P 與問題真實的Pareto 前沿P*之間的平均最小距離,GD 越小表示算法的收斂性越好,計算公式如下:

        (2)均勻性。Spacing 表示每個解到其它解的最小距離標準差,Spacing 越小表示解集越均勻,計算公式如下:

        (3)算法綜合性能。IGD 表示算法所獲得的非支配解集與問題真實的Pareto 前沿P*距離的平均值。IGD 越小表示算法的綜合性能越好,即算法的收斂性和解集多樣性越好,計算公式如下:

        3.3 實驗結(jié)果分析

        將兩種算法分別運行30 次,找出其中最優(yōu)解。對于收斂性指標GD,有80% 的函數(shù)下降,其中兩個函數(shù)變化率在5% 以下,一個函數(shù)變化率在5%~50% 之間,5 個函數(shù)變化率增加了50% 以上。函數(shù)TNK 最多改善99.97%,說明Tr-NSGAⅡ算法相對于NSGAⅡ算法收斂性能得到很好優(yōu)化。對于解集均勻性指標Spacing,有60% 函數(shù)下降,其中一個函數(shù)變化率在5% 以下,3 個函數(shù)變化率在5%~50%之間,兩個函數(shù)在50% 以上,函數(shù)TNK 收斂性能優(yōu)化率達到100%,說明Tr-NSGAⅡ算法所得到的解集分布較為均勻。對于算法綜合性能指標IGD,80% 的函數(shù)綜合性能得到改善。函數(shù)Con 和函數(shù)4 變化率在5% 以下,有3 個函數(shù)變化率在5%~50%,3 個函數(shù)變化率在50%~100% 之間,其中修改后的ZDT1 函數(shù)和修改后的ZDT6 函數(shù)綜合性能都得到很好改善,變化率在95% 以上,表明Tr-NSGAⅡ算法收斂性和解集的多樣性較NSGAⅡ提高很多,即Tr-NS?GAⅡ算法的綜合性能更好。綜上,引入歷史信息的Tr-NSGAⅡ算法在種群的搜索效果明顯好于NSGAⅡ算法,解集的均勻性和多樣性得到提高。測試函數(shù)實驗結(jié)果如表2所示,Tr-NSGAⅡ和NSGAⅡ之間不同指標變化率實驗結(jié)果如表3 所示。

        Table 1 Objective functions表1 目標函數(shù)

        4 結(jié)語

        本文設(shè)計了基于遷移學(xué)習(xí)思想的Tr-NSGAⅡ算法,在存有歷史信息的儲存庫中找出相似的歷史問題得到源域,通過TCA 算法將源域和目標域映射到高維再生核希爾伯特空間,即將歷史信息遷移到新的目標函數(shù)中,得到含有歷史信息的種群,再利用NSGAⅡ算法繼續(xù)求解目標函數(shù)。對10 個改進的多目標測試函數(shù)進行試驗,結(jié)果證明Tr-NSGAⅡ算法有效提高了種群的搜索效率,算法的收斂性能得到改善,優(yōu)化了解集的均勻性和多樣性,表明遷移學(xué)習(xí)可以融入進化優(yōu)化算法解決靜態(tài)多目標問題。但是本文所用的歷史任務(wù)和新任務(wù)之間屬性類似,實驗數(shù)據(jù)集來源于標準的多目標函數(shù)測試集,當(dāng)面對實際問題(如選址問題、背包問題和車間調(diào)度問題)時,歷史任務(wù)和新任務(wù)之間匹配策略應(yīng)該如何設(shè)計還需進一步研究。

        Table 2 Experimental results of algorithm optimization test function表2 比較算法優(yōu)化測試函數(shù)實驗結(jié)果

        Table 3 Experimental results of different index change rates between Tr-NSGA Ⅱand NSGA Ⅱ表3 Tr-NSGAⅡ和NSGAⅡ之間不同指標變化率實驗結(jié)果

        猜你喜歡
        優(yōu)化
        超限高層建筑結(jié)構(gòu)設(shè)計與優(yōu)化思考
        PEMFC流道的多目標優(yōu)化
        能源工程(2022年1期)2022-03-29 01:06:28
        民用建筑防煙排煙設(shè)計優(yōu)化探討
        關(guān)于優(yōu)化消防安全告知承諾的一些思考
        一道優(yōu)化題的幾何解法
        由“形”啟“數(shù)”優(yōu)化運算——以2021年解析幾何高考題為例
        圍繞“地、業(yè)、人”優(yōu)化產(chǎn)業(yè)扶貧
        事業(yè)單位中固定資產(chǎn)會計處理的優(yōu)化
        4K HDR性能大幅度優(yōu)化 JVC DLA-X8 18 BC
        幾種常見的負載均衡算法的優(yōu)化
        電子制作(2017年20期)2017-04-26 06:57:45
        窝窝午夜看片| 久久精品国产亚洲av网站| 久久久中文字幕日韩精品| 久久99热狠狠色精品一区| 亚洲国产精品成人久久| av无码天堂一区二区三区| 国产福利酱国产一区二区| 女同同成片av免费观看| 人妻夜夜爽天天爽三区麻豆av| 精品九九人人做人人爱| 蜜臀av 国内精品久久久| 麻豆五月婷婷| 日本久久黄色高清视频| 日韩免费视频| 美女av一区二区三区| 亚洲精品国产精品国自产观看| 久久国产亚洲AV无码麻豆| 国产一区二区一级黄色片| 久久国语露脸国产精品电影| 三级特黄60分钟在线观看| 全部免费国产潢色一级| 国产一区在线视频不卡| 无码人妻久久一区二区三区蜜桃 | 小荡货奶真大水真多紧视频 | 久久99精品免费一区二区| 欧美综合自拍亚洲综合百度| 国产精品熟女视频一区二区三区| 精人妻无码一区二区三区| 中文字幕免费不卡二区| 欧美成人免费观看国产| 黄色网页在线观看一区二区三区 | 亚洲综合精品亚洲国产成人| 精品水蜜桃久久久久久久| 伊人亚洲综合网色AV另类| 国产女人av一级一区二区三区 | 免费人成视频网站在线| 午夜视频在线观看国产19| 深夜放纵内射少妇| 精品国产乱码久久久软件下载| 9久久精品视香蕉蕉| 亚洲乱码av中文一区二区第八页|