趙建衛(wèi)， 景書杰

(河南理工大學 數(shù)學與信息科學學院,河南 焦作 454000)

關(guān)于非單調(diào)擬牛頓算法的一個改進

趙建衛(wèi)， 景書杰

(河南理工大學 數(shù)學與信息科學學院,河南 焦作 454000)

對于無約束優(yōu)化問題提出了一類新的非單調(diào)擬牛頓算法.該算法在修正的擬牛頓方程基礎(chǔ)上添加參數(shù)，從而推廣了已有的擬牛頓方程.采用非單調(diào)線性搜索準則，并在一定條件下證明了新的非單調(diào)擬牛頓算法具有全局收斂性.

無約束優(yōu)化;非單調(diào);擬牛頓方程;線性搜索準則;全局收斂性

0 引言

1 新算法的提出

在文獻[8]中，韋增欣等利用目標函數(shù)的泰勒展式提出了一種新的擬牛頓方程

(1)

其中

(2)

對(1)和(2)，引入?yún)?shù)m(0≤m≤1)進行加權(quán)處理，可以得到如下新算法：

(3)

2 新算法的收斂性分析

(4)

證明 先證明1).根據(jù)假設(shè)，

(5)

其中，ε=xk+θsk,ε3=xk+θ1ksk,ε4=xk+θ2ksk，θ,θ1k,θ2k∈(0,1).

(6)

再證明2).

(7)

(8)

證明 根據(jù)引理2和引理3式可得

令

ρk=ε0ε1min{(rk)2,(rk)(2-p)/(1-p)}.

根據(jù)引理1可得

(9)

(10)

(11)

根據(jù)引理3，還可以得到

[1] 袁亞湘，孫文瑜．最優(yōu)化理論與方法[M]. 北京：科學出版社，1997：183-218．

[2] 焦寶聰.一類超線性收斂的廣義擬牛頓算法[J].高等學校計算數(shù)學學報,1999,21(6):178-188.

[3] 楚添定,馬柏林.基于新的擬牛頓方程的Broyden-Fletcher-Goldfarb-Shanno算法[J].應用數(shù)學與計算數(shù)學學報,2012, 26(4):360-367.

[4] 劉輝.解非線性方程的牛頓迭代法及其應用[J].重慶工學院學報：自然科學版,2007,21(8):5-8.

[5] 陳蘭平,焦宗聰.一般無約束優(yōu)化問題的廣義擬牛頓法[J].數(shù)學進展,2007, 36(1):81-85.

[6] WEI ZENGXIN, LI GUOYIN, QI LIQUN. New quasi-Newton methods for unconstrained optimization problems [J]. Applied Mathematics and Computation，2006，175(2): 1 156-1 188.

[7] XIAO WEI，SUN FENGJIAN．On quasi-Newton methods with modified quasi-Newton equation[C]//JIANG YONG，LI JIANLIANG. Proceeding of 2008 International Pre-Olympic Congress on Computer Science，Volume Ⅱ：Information Science and Engineering.Waltham: World Academic Press, 2008:359-363.

[8] 韋增欣，謝品杰，顧能柱.一類擬牛頓算法的收斂性[J].廣西科學，2006,13(4)：282-287.

[9] SUN WENYU, ZHOU QUNYAN. An unconstrained method using non-monotone second order Goldstein’s line search[J]．Science in China Series A：Mathematics，2007, 6(10)：1 389-1 400.

[10] 王海濱.基于新擬牛頓方程的一類超線性收斂的改進BFGS算法[J].蘭州理工大學學報,2007,33(4):150-152.

A Revised Non-monotone Quasi-Newton Algorithm

ZHAO Jianwei, JING Shujie

(CollegeofMathematicsandInformationScience,HenanPolytechnicUniversity,Jiaozuo454000,China)

For unconstrained optimization problem, a class of new non-monotone quasi-Newton algorithm is put forward. This new algorithm adds two parameters based on modified quasi-Newton equation, generalizing the existing quasi-Newton equation. Using non-monotonic linear search criteria, and under certain condition, it proves that the new non-monotone quasi-Newton algorithm has global convergence.

unconstrained optimization; non-monotone; quasi-newton equation; linear search criteria; global convergence

2015-09-07

國家自然科學基金資助項目(10671057)；河南省一級重點學科支持項目；河南理工大學校級重點學科支持項目

趙建衛(wèi)(1988—)，男，河南濟源人，河南理工大學數(shù)學與信息科學學院在讀碩士研究生.

10.3969/j.issn.1007-0834.2015.04.004

O221

A

1007-0834(2015)04-0013-03