亚洲免费av电影一区二区三区,日韩爱爱视频,51精品视频一区二区三区,91视频爱爱,日韩欧美在线播放视频,中文字幕少妇AV,亚洲电影中文字幕,久久久久亚洲av成人网址,久久综合视频网站,国产在线不卡免费播放

        ?

        關于一類記憶梯度算法收斂速度的研究

        2016-11-08 08:14:05劉麗敏
        科學中國人 2016年29期
        關鍵詞:石油大學對角單調

        劉麗敏

        中國石油大學勝利學院基礎科學學院

        關于一類記憶梯度算法收斂速度的研究

        劉麗敏

        中國石油大學勝利學院基礎科學學院

        本文研究基于稀疏對角擬牛頓技術的Gu N.Z.非單調曲線搜索的記憶梯度算法,給出了算法的線性收斂性分析。

        記憶梯度算法;線性收斂速度;無約束

        1 引言

        文獻[1]中提出了一種基于對角稀疏擬牛頓技術,結合曲線搜索步長規(guī)則、Gu N.Z。非單調技術,建立的一種新的求解無約束最優(yōu)化問題的記憶梯度算法,同時,給出了算法的全局收斂性分析。數值例子表明:算法是有效的,適合求解大規(guī)模問題。

        性質1若xk不是問題(p)的穩(wěn)定點,則有:

        性質2若xk不是問題(p)的穩(wěn)定點,則:

        性質3設{}xk是由算法NMDSMG產生的序列,則有:

        1)f(xk+1)≤Dk,?k;2)f(xk)≤Dk,?k;3){Dk}是單調不增序列。

        2 收斂速度

        線性收斂速度分析需要以下假設條件:

        (H1)目標函數f(x)在Rn上有下界。

        (H2)目標函數的梯度g(x)=?f(x)在包含水平集L(x0)={x∈Rn|f(x)≤f(x0)}的開凸集B上Lipschitz連續(xù),即存在L〉0滿足:‖g(x)-g(y)‖≤L‖x-y‖,?x,y∈B。

        (H3)f(x)是強凸函數,即存在常數r〉0滿足:

        定理1設{xk,αk,gk} 是由算法產生的序列,假設(H1)~(H3)成立,如果有界,則存在θ∈()0,1滿足:

        f(xk)-f(x?)≤θk(f(x0)-f(x?)),?k.即{fk}R-線性收斂于f(x?)。

        設x?是f的惟一最優(yōu)解,在式(2)中令y=x?得

        由f()xk+1≤Dk,?k和{}Dk是單調不增序列知{}xk?L()x0

        再有Cauchy-Schwarz不等式、性質1、性質2及式(6)可得

        由假設(H2)及式(7)可知:

        由假設條件知:

        其中D0=hˉ..因此

        其中b0=1+LD0.

        事實上,如果‖gk‖2≥b1(Dk-f(x?)),則

        故有Dk+1-f(x*)=ηkDk+(1-ηk)f(xk+1)-f(x*)

        再由性質3,知f(xk)-f(x?)≤Dk-f(x?)=θk(f(x0)-f(x?)).定理得證。

        3 結論

        記憶梯度法是共軛梯度法[3]的一種變形,相比較而言,它的收斂速度更快。與其他需要計算梯度的無約束優(yōu)化方法相比,它能充分利用前面迭代點的一些信息,從而避免了信息浪費,且能有效避免存貯和計算矩陣,適合求解大規(guī)模無約束優(yōu)化問題[4]。除此之外,該算法還增加了參數選擇的自由度,由此更有利于構造快速穩(wěn)定的收斂算法。從理論上分析,該算法不僅具有全局收斂性,而且在一定條件下還具有線性收斂速度。

        [1]劉麗敏,吳玉敏.基于對角稀疏擬牛頓技術的非單調曲線搜索的記憶梯度算法[J].中國石油大學勝利學院學報,2015,29(3):28-31

        [2]孫清瀅,徐琳琳,劉麗敏,等.基于稀疏對角擬牛頓方向的非單調超記憶梯度算法[J].工程數學學報,2012,29(3)∶375-385

        [3]Cohen A.I..Stepsize analysis for descent methods[J].JOTA,1981,33(2):187-205

        [4]Cantrell,J.W..Relation between the memory gradient method and the Fletcher-Reeves method[J].Journal of Optimization Theory and Applications,1969,4(1)∶67-71

        猜你喜歡
        石油大學對角單調
        砥礪奮進中的西南石油大學法學院
        砥礪奮進中的西南石油大學法學院
        數列的單調性
        數列的單調性
        對數函數單調性的應用知多少
        擬對角擴張Cuntz半群的某些性質
        東北石油大學簡介
        旋轉擺的周期單調性
        《中國石油大學學報(自然科學版)》2013年第37卷總目錄
        非奇異塊α1對角占優(yōu)矩陣新的實用簡捷判據
        国产精品亚洲αv天堂无码| 8x国产精品视频| 国产一区二区三区久久精品| 婷婷色香五月综合激激情| 夜夜未满十八勿进的爽爽影院| 99久久夜色精品国产网站| 久久国产乱子伦精品免费强| 四虎国产精品永久在线无码| 亚洲欧美日韩中文综合在线不卡| 免费av在线视频播放| 熟女免费视频一区二区| 国产精品一区二区久久国产| 性做久久久久久久| 免费a级毛片无码a∨免费软件| 亚洲综合网在线观看首页| 国产精品欧美亚洲韩国日本| 色综合久久五十路人妻| 亚洲中文字幕剧情类别| 少妇被又大又粗又爽毛片| 人人爽久久涩噜噜噜av| 日韩欧美亚洲综合久久影院d3| 日本道免费精品一区二区| 亚洲综合天堂av网站在线观看| 亚洲综合中文字幕日韩| 亚洲中文字幕无码av永久| 玩弄放荡人妻少妇系列视频| 国产成人无码精品久久99| 国产精品三级av一区二区 | 亚洲熟妇色xxxxx欧美老妇y| 国产又黄又爽又无遮挡的视频| 最新国产av网址大全| 精品一区二区三区人妻久久福利| 亚洲小说区图片区色综合网| 亚洲美女又黄又爽在线观看| 国产91色在线|亚洲| 一区二区三区在线蜜桃| 久久日本视频在线观看| 日韩亚洲欧美久久久www综合| 国产乱人视频在线播放| 精品五月天| 日本精品人妻在线观看|