亚洲免费av电影一区二区三区,日韩爱爱视频,51精品视频一区二区三区,91视频爱爱,日韩欧美在线播放视频,中文字幕少妇AV,亚洲电影中文字幕,久久久久亚洲av成人网址,久久综合视频网站,国产在线不卡免费播放

        ?

        關于一類記憶梯度算法收斂速度的研究

        2016-11-08 08:14:05劉麗敏
        科學中國人 2016年29期
        關鍵詞:石油大學對角單調

        劉麗敏

        中國石油大學勝利學院基礎科學學院

        關于一類記憶梯度算法收斂速度的研究

        劉麗敏

        中國石油大學勝利學院基礎科學學院

        本文研究基于稀疏對角擬牛頓技術的Gu N.Z.非單調曲線搜索的記憶梯度算法,給出了算法的線性收斂性分析。

        記憶梯度算法;線性收斂速度;無約束

        1 引言

        文獻[1]中提出了一種基于對角稀疏擬牛頓技術,結合曲線搜索步長規(guī)則、Gu N.Z。非單調技術,建立的一種新的求解無約束最優(yōu)化問題的記憶梯度算法,同時,給出了算法的全局收斂性分析。數值例子表明:算法是有效的,適合求解大規(guī)模問題。

        性質1若xk不是問題(p)的穩(wěn)定點,則有:

        性質2若xk不是問題(p)的穩(wěn)定點,則:

        性質3設{}xk是由算法NMDSMG產生的序列,則有:

        1)f(xk+1)≤Dk,?k;2)f(xk)≤Dk,?k;3){Dk}是單調不增序列。

        2 收斂速度

        線性收斂速度分析需要以下假設條件:

        (H1)目標函數f(x)在Rn上有下界。

        (H2)目標函數的梯度g(x)=?f(x)在包含水平集L(x0)={x∈Rn|f(x)≤f(x0)}的開凸集B上Lipschitz連續(xù),即存在L〉0滿足:‖g(x)-g(y)‖≤L‖x-y‖,?x,y∈B。

        (H3)f(x)是強凸函數,即存在常數r〉0滿足:

        定理1設{xk,αk,gk} 是由算法產生的序列,假設(H1)~(H3)成立,如果有界,則存在θ∈()0,1滿足:

        f(xk)-f(x?)≤θk(f(x0)-f(x?)),?k.即{fk}R-線性收斂于f(x?)。

        設x?是f的惟一最優(yōu)解,在式(2)中令y=x?得

        由f()xk+1≤Dk,?k和{}Dk是單調不增序列知{}xk?L()x0

        再有Cauchy-Schwarz不等式、性質1、性質2及式(6)可得

        由假設(H2)及式(7)可知:

        由假設條件知:

        其中D0=hˉ..因此

        其中b0=1+LD0.

        事實上,如果‖gk‖2≥b1(Dk-f(x?)),則

        故有Dk+1-f(x*)=ηkDk+(1-ηk)f(xk+1)-f(x*)

        再由性質3,知f(xk)-f(x?)≤Dk-f(x?)=θk(f(x0)-f(x?)).定理得證。

        3 結論

        記憶梯度法是共軛梯度法[3]的一種變形,相比較而言,它的收斂速度更快。與其他需要計算梯度的無約束優(yōu)化方法相比,它能充分利用前面迭代點的一些信息,從而避免了信息浪費,且能有效避免存貯和計算矩陣,適合求解大規(guī)模無約束優(yōu)化問題[4]。除此之外,該算法還增加了參數選擇的自由度,由此更有利于構造快速穩(wěn)定的收斂算法。從理論上分析,該算法不僅具有全局收斂性,而且在一定條件下還具有線性收斂速度。

        [1]劉麗敏,吳玉敏.基于對角稀疏擬牛頓技術的非單調曲線搜索的記憶梯度算法[J].中國石油大學勝利學院學報,2015,29(3):28-31

        [2]孫清瀅,徐琳琳,劉麗敏,等.基于稀疏對角擬牛頓方向的非單調超記憶梯度算法[J].工程數學學報,2012,29(3)∶375-385

        [3]Cohen A.I..Stepsize analysis for descent methods[J].JOTA,1981,33(2):187-205

        [4]Cantrell,J.W..Relation between the memory gradient method and the Fletcher-Reeves method[J].Journal of Optimization Theory and Applications,1969,4(1)∶67-71

        猜你喜歡
        石油大學對角單調
        砥礪奮進中的西南石油大學法學院
        砥礪奮進中的西南石油大學法學院
        數列的單調性
        數列的單調性
        對數函數單調性的應用知多少
        擬對角擴張Cuntz半群的某些性質
        東北石油大學簡介
        旋轉擺的周期單調性
        《中國石油大學學報(自然科學版)》2013年第37卷總目錄
        非奇異塊α1對角占優(yōu)矩陣新的實用簡捷判據
        中文字幕文字幕一区二区 | 久久精品国产99久久无毒不卡| 国产婷婷色综合av蜜臀av| 亚洲国产欧美在线成人| 无遮挡粉嫩小泬| 蕾丝女同一区二区三区| 亚洲av无码专区在线| 国产福利酱国产一区二区| 亚洲AV永久天堂在线观看| 少妇一级内射精品免费| 男女无遮挡高清性视频| 亚洲日产精品一二三四区| 最新国产在线精品91尤物| 久久精品这里就是精品| 日本人妻免费一区二区三区| 精品无码久久久久久国产| 欧美一欧美一区二三区性| 男女男在线精品免费观看| 女同精品一区二区久久| 国产av丝袜旗袍无码网站| 国产精品区一区二区三在线播放 | 亚洲一区二区三区1区2区| 色综合天天综合网国产成人网| 国产xxxx99真实实拍| 国产情侣一区在线| 久久精品一区一区二区乱码| 一本一道vs无码中文字幕| 成人免费网站视频www| 青青青国产免A在线观看| 日本一区二区免费在线看| 国产精品v片在线观看不卡| 国产成人久久综合热| 超短裙老师在线观看一区二区| 日本中文一区二区在线观看| 老熟妇乱子伦av| 高清一级淫片a级中文字幕| 风流熟女一区二区三区| wwww亚洲熟妇久久久久| 一本到无码AV专区无码| 久久色悠悠综合网亚洲| 国产欧美亚洲精品第一页|