楊麗

(西華師范大學(xué)數(shù)學(xué)與信息學(xué)院， 四川南充637002)

?

Hilbert空間中解凸集約束優(yōu)化問(wèn)題的梯度投影算法

楊麗

(西華師范大學(xué)數(shù)學(xué)與信息學(xué)院， 四川南充637002)

梯度投影算法是求解非線性約束最優(yōu)化問(wèn)題的基本方法之一，多年來(lái)一直吸引著許多學(xué)者對(duì)其進(jìn)行研究。在Hilbert空間H中，利用梯度投影算法解決有約束條件的凸集C上的凸函數(shù)f的最優(yōu)問(wèn)題，引入CKQ方法，與以往研究的差異是在定理中新增加了集合Kn，并證明了改進(jìn)的梯度投影算法的強(qiáng)收斂性。所得結(jié)果將文獻(xiàn)中的梯度投影算法推廣為Ishikawa形式。

梯度投影算法；CKQ方法；強(qiáng)收斂

引言

近年來(lái)，利用梯度投影算法解決有限制凸集優(yōu)化的問(wèn)題受到了廣泛的關(guān)注[1-6]。設(shè)H是Hilbert空間，C是H的一個(gè)非空閉凸子集，考慮有約束條件的凸集C上f的最優(yōu)問(wèn)題：

(1)

xn+1=PC(xn-γ▽f(xn),n≥0

(2)

或者更一般地

xn+1=PC(xn-γn▽f(xn),n≥0

(3)

其中，γ和γn都是正實(shí)數(shù)。(2)式和(3)式是否收斂取決于梯度函數(shù)▽f。事實(shí)上，如果▽f是利普希茲連續(xù)的且是強(qiáng)單調(diào)的，即存在L>0和α>0，使得

(4)

且

〈▽f(x)-▽f(y),x-y〉≥

(5)

(6)

(7)

并證明了當(dāng)▽f利普希茲連續(xù)且γn滿足條件(6)式時(shí)，xn→PSx0，這里S是問(wèn)題(1)的解集。

本文在實(shí)Hibert空間中改進(jìn)(7)式，引入了CKQ方法，證明了改進(jìn)的梯度投影算法的強(qiáng)收斂性。本文中，H都為Hilbert空間。

1 預(yù)備知識(shí)

定義3假設(shè)γ>0，T是γ—逆強(qiáng)單調(diào)(γ-ism)，當(dāng)且僅當(dāng)

引理3[9]令C是H的非空閉凸子集，點(diǎn)x,y,z,w∈H，a是實(shí)數(shù)，那么集合

是閉凸集。

2 主要結(jié)果

(8)

那么有xn→PSx0。(當(dāng)n→∞)。

先證S?Cn∩Kn∩Qn，對(duì)任意的p∈S，因Vp=p，即得到

(9)

從而p∈Cn，對(duì)所有的n≥0，因此S?Cn。又因zn=PC(xn-γ▽f(yn)及▽f的利普希茲連續(xù)性，由引理4并結(jié)合引理1有

▽f(p),p-yn〉+〈▽f(p),p-yn〉+

〈▽f(yn),yn-zn〉≤

2〈xn-γ▽f(yn)-yn,zn-yn〉

(10)

又因?yàn)?/p>

〈xn-γ▽f(yn)-yn,zn-yn〉=

〈xn-γ▽f(xn)-yn,zn-yn〉+

〈γ▽f(xn)-γ▽f(yn),zn-yn〉≤

〈γ▽f(xn)-γ▽f(yn),zn-yn〉≤

(11)

結(jié)合(10)式和(11)式,得到：

注意到

Qn={z∈C:≤0}

特別地，有

(12)

xn+1-xn,xn-x0>≤

又注意到xn+1∈Cn，從而有

得到

(13)

最后結(jié)合(12)式和引理5得到xn→q(n→∞)，即xn→PSx0，(當(dāng)n→∞)。

3 結(jié)束語(yǔ)

本文主要研究了Hilbert空間中解凸集約束優(yōu)化問(wèn)題的梯度投影算法，并證明了算法的強(qiáng)收斂性，所得結(jié)果將文獻(xiàn)[1]中的梯度投影算法推廣為Ishikawa的形式。與以往研究不同的是，在定理1中新增加了一個(gè)集合Kn，這樣的好處是使收斂速率有所提高，今后可以考慮在收斂速率這方面作進(jìn)一步的研究。

[1] Xu H K.Averaged Mappings and the Gradient-Projection Algorithm[J].J.Optim.Theory.Appl,2011,150(2):360-378.

[2] Su M,Xu H K.Remarks on the gradient-Projection algorithm[J].J.Nonl.Anal.Optim,2011,1(1):35-43.

[3] Ceng L C,Guu S M,Yao J C.Hybrid methods with regularization for minimization problems and asymptotically pseudocontractive mappings in the intermediate sense[J].J Glob Optim,2014,60(4):617-637.

[4] Ryu S,Chen A,Choi K.A modified gradient projection algorithm for solving the elastic demand traffic assignment problem[J].Computer& Operations Research,2014,1(47):61-71.

[5] Liu Z Y,Wei Z H,Sun W Y.An iteratively approximated gradient projection algorithm for sparse signal reconstruction[J].Applied Mathematics and computation,2014,2(228):454-462.

[6] Ceng L C,Guu S M,Yao J C.Hybrid methods with regularization for minimization problems and asymptotically pseudocontractive mappings in the intermediate sense[J].J Glob Optim,2014,60(4):617-637.

[7] Levitin E.S,Polyak B T.Constrained minimization methods[J].Zh.Vychisl.Mat.Fiz,1966,6:787-823.

[8] Goebel K,Kirk W A.Topics in Metric Fixed Point Theory[M].Cambridge:Cambridge University Press,1990.

[9] Halpern B.Fixed points of nonexpanding maps[J].Bull.Am.Math.Soc,1967(73):957-961.

[10] Baillon J B,Haddad G.Quelques proprietes des operateurs angle-bornes et n-cycliquement monotones[J].Israel J.Math,1977,26(2):137-150.

Gradient Projection Algorithms for Solution Convex Sets Constraints Optimization Problem In Hilbert Space

YANGLi

(School of Mathematics and Information, China West Normal University, Nanchong 637002, China)

The gradient projection operator is one of the basic approaches for solving nonlinear constrained optimization problem, so it has been attracting many scholars to research. In Hilbert space, the gradient projection algorithm is used to solve optimization problems of convex functionfonconvexsetwithconstraintcondition,andtheCKQmethodisintroduced,asetKnisaddedintheoremwhichisdifferentfrompreviousstudy,andthestrongconvergenceofimprovedgradientprojectionalgorithmisproved.TheobtainedresultsmakethegradientprojectionalgorithminliteraturesgeneralizedtobeIshikawaform.

gradient projection operator; CKQ method; strong convergence

2015-04-21

國(guó)家自然科學(xué)基金項(xiàng)目(11371015)

楊 麗(1980-)，女，四川大邑人，講師，碩士，主要從事非線性分析及最優(yōu)化方面的研究，(E-mail)yangli@cwnu.edu.cn

1673-1549(2015)03-0086-04

10.11863/j.suse.2015.03.18

O224

A