羅 俊,劉 健
(1.南京郵電大學(xué) 理學(xué)院,江蘇 南京 210023;2.南京郵電大學(xué) 通信與信息工程學(xué)院,江蘇 南京 210003)
Hilbert空間上多集合分裂可行問題的KM迭代算法
羅 俊1,劉 健2
(1.南京郵電大學(xué) 理學(xué)院,江蘇 南京 210023;2.南京郵電大學(xué) 通信與信息工程學(xué)院,江蘇 南京 210003)
多集合分裂可行問題就是尋找與一族非空閉凸集距離最近的點,并使得該點在線性變換下的像與另一族非空閉凸集的距離最近。分裂可行問題是一類重要的最優(yōu)化問題,產(chǎn)生于工程實踐,在醫(yī)學(xué)、信號處理和圖像重建等領(lǐng)域中有著廣泛的應(yīng)用。文中基于n維線性空間上求解分裂可行問題的KM迭代算法,目的是要將算法在Hilbert空間中加以推廣應(yīng)用。通過在Hilbert空間中運用投影壓縮定理,并且利用逼近函數(shù)將多集合分裂可行問題轉(zhuǎn)化為最小值問題,方便了對算法的推導(dǎo)證明。利用上述方法可得,多集合分裂可行問題的KM迭代算法在Hilbert空間中也有較好的收斂性。因此,可以將多集合分裂可行問題的KM迭代算法在Hilbert空間中加以推廣。
多集合分裂可行問題;優(yōu)化問題;KM迭代;Hilbert空間
分裂可行問題(Split Feasibility Problem,SFP)是一類非常重要的約束優(yōu)化問題,它最早出現(xiàn)在Censor和Elfving(1994)的文獻[1]中,定義如下:
設(shè)A是實矩陣且A∈Rm×n,C,Q分別是Rn,Rm中的非空閉凸子集,分裂可行問題就是要尋找這樣的元素x(如果這樣的元素x是存在的),使得x∈C,Ax∈Q。
多集合分裂可行問題(Multiple-SetsSplitFeasibilityProblem,MSSFP)是SFP的推廣,是很多問題的反問題的數(shù)學(xué)模型。MSSFP是這樣一個問題:
多集合分裂可行問題產(chǎn)生于工程實踐,是一類重要的最優(yōu)化問題,在醫(yī)學(xué)[3]、信號處理[2]和圖像重建[4]等領(lǐng)域中有著廣泛的應(yīng)用。MSSFP是SFP的推廣與泛化,XuHongkun在文獻[2]中最早提出了MSSFP。已經(jīng)有不少人對MSSFP的求解算法進行了研究,也取得了一定的進展。Censor等在文獻[3-4]中給出了一種求解MSSFP的投影算法:
定義逼近函數(shù):
隨著人們對分裂可行問題研究的深入,衍生了一系列反問題,定義如下:
設(shè)C,Q分別是Rn,Rm中的非空閉凸子集,A是Rm×n中實矩陣,A+是A的Moore-Penrose廣義逆。SFP的反問題ISFP形如:尋找元素y(如果這樣的y存在):
y∈Q,A+y∈C
根據(jù)SFP與ISFP的對偶性,可以通過研究SFP的求解算法進而研究ISFP的求解。楊慶之[5]給出了一種ISFP問題的求解算法,迭代格式如下:
在此基礎(chǔ)上,王新艷和屈彪[6]給出了下列推廣形式:
推廣之后的算法在迭代點的選取上具有更大的靈活性與更多的選擇性。
后來,在前人的基礎(chǔ)之上,Krasnoselski-Mann提出了形如式(1)的迭代格式稱為KM迭代[7]。
xk+1=(1-ηk)xk+ηkN(xk),k=0,1,…
(1)
其中,N是Rn中的非擴張算子;ηk∈(0,1),特別地,當(dāng)N是強制非擴張算子時[8],ηk∈(0,2)。
KM迭代的目標(biāo)是尋找算子N的不動點,許多領(lǐng)域的很多問題及反問題都可以歸結(jié)為尋找某個算子N的不動點[9]。雖然KM迭代格式簡單,但是它在求非擴張算子N的不動點時效果非常顯著,并且為許多領(lǐng)域的算法提供了一個統(tǒng)一的框架。在文獻[5]中,給出了Rn空間中的一些算法。為了擴展算法的適用范圍,而不僅僅局限于Rn空間,現(xiàn)在希望將其中的某些算法在Hilbert空間中加以推廣利用。
定義1[10]:假設(shè)X為帶有內(nèi)積〈·,·〉和范數(shù)‖·‖的Hilbert空間,對給定的Ω∈X,v∈X,如下問題:
min{‖u-v‖|u∈Ω}
的解稱之為v在Ω上的投影,記作PΩ(v)??梢詫懗桑?/p>
PΩ(v)=arg min{‖u-v‖|u∈Ω}
若Ω是閉凸集,則對?v∈X,PΩ(v)是唯一存在的。
定義2[10]:設(shè)Ω是非空閉凸集,X1,X2為Hilbert空間;F是Ω?X1到X2的映射。
(4)如果存在常數(shù)λ>0,使得‖F(xiàn)(u)-F(v)‖≤λ‖u-v‖,?u,v∈Ω,那么稱F在Ω上是Lipschitz連續(xù)的,特別地,λ=1時,稱F為非擴張算子;
定義3[10]:
(2)給定?ρ≥0,Hilbert空間中算子H1,H2的ρ-距離定義為:
Dρ(H1,H2)=
(2)
(3)設(shè)C1,C2是Hilbert空間中非空閉凸子集,C1,C2之間的ρ-距離定義為:
dρ(C1,C2)=
(3)
投影的性質(zhì)有以下定理:
定理1[12]:若Ω是Hilbert空間X中的非空閉凸集,則有:
證明:根據(jù)投影定義得到
‖v-PΩ(v)‖2≤‖v-w‖2,?w∈Ω
因為Ω?X是非空閉凸集,則對于?u∈Ω,0<σ<1有:
整理后得:
令σ→0+,得:
證畢。
定理2[11-12]:若Ω?X是非空閉凸集,?v,u∈X,z∈Ω則有:
下面介紹收斂性分析中需要用到的KM定理。
xk+1=(1-ηk)xk+ηkHk(xk)
(4)
對于多集合分裂可行問題,首先作下面的假設(shè):
(H1)MSSFP的解集非空;
(H3)對?x∈X1,至少存在一個次梯度ξ∈?ci(x),其中
對?y∈X2,至少存在一個次梯度η∈?qj(y),其中
為了求解MSSFP,定義逼近函數(shù):
那么尋找MSSFP的一個解,就可以轉(zhuǎn)化為求解如下最小值問題:
Censor等提出了以下的迭代公式:
后來又有研究者對單集合分裂可行問題的CQ算法進行了改進,令上述迭代公式中s=αk=βγmk,其中β,γ是給定的常數(shù),且滿足β>0,γ∈(0,1),mk是使下列不等式:
f(xk+1)≤f(xk)-σ
成立的最小非負(fù)整數(shù),常數(shù)σ∈(0,1)。
將算法將推廣到多集合分裂可行問題,在已有算法的基礎(chǔ)上,利用KM迭代得到一種自適應(yīng)不精確算法1。
(5)
其中,λk=γlmk,mk是使下式成立的最小非負(fù)整數(shù)。
(6)
令
(7)
(8)
定義算子:
(9)
(10)
由于正交投影PCi,k是強制非擴張算子,于是有:
‖Hkx-Hky‖2
所以,Hk是強制非擴張算子。同理,H也是強制非擴張算子。
由式(8)知式(7)可以寫成:
xk+1=(1-ηk)xk+ηkHk(xk)
(11)
(12)
證明:記
(13)
(14)
對?x∈H,‖x‖≤ρ,ρ>0有
(15)
由于正交投影是非擴張的,所以
‖yk-y‖
(16)
將式(13)、(14)代入式(15)再結(jié)合式(16)得到:
‖Hk(xk)-H(xk)‖≤
(17)
根據(jù)對任意有界線性算子B[14],有‖Bx‖≤‖B‖‖x‖,可以得到:
‖Hk(xk)-H(xk)‖≤
由式(2)和式(3)得到:
(18)
多集合分裂可行問題在現(xiàn)實中的許多領(lǐng)域有著廣泛的應(yīng)用。到目前為止,多集合分裂可行問題的許多算法的求解都是在Rn空間中完成的,而在Hilbert空間中的推廣應(yīng)用還有待完善。文中基于Rn空間中求解多集合分裂可行問題的KM迭代算法,給出了Hilbert空間中的一種自適應(yīng)不精確算法,以及算法的收斂性證明。
[1]CensorY,ElfvingT.Amulti-projectionalgorithmusingBregmanprojectionsinaproductspace[J].NumberAlgorithms,1994,8:221-239.
[2]XuHongkun.AvariableKrasnosel’ski-Mannalgorithmandthemultiple-setsplitfeasibilityproblem[J].InverseProblems,2006,22:2021-2034.
[3]CensorY.Row-actionmethodsforhugeandsparsesystemsandtheirapplications[J].SIAMReview,1981,23(4):444-466.
[4]CensorY,BortfeldT,MartinB,etal.Unifiedapproachforinversionproblemsinintensity-modulatedradiationtherapy[J].PhysicsinMedicineandBiology,2006,51:2353-2365.
[5] 楊慶之,趙金玲.分裂可行問題(SFP)的投影算法[J].計算數(shù)學(xué),2006,28(2):121-132.
[6] 王新艷,屈 彪.求解分裂可行問題逆問題的算法推廣[J].泰山學(xué)院學(xué)報,2010(6):10-14.
[7]ZhaoJinling,YangQingzhi.AnoteontheKrasnoselski-Manntheoremanditsgeneralizations[J].InverseProblems,2007,23:1011-1016.
[8]CensorY,MotovaA,SegalA.Perturbedprojectionsandsubgradientprojectionsforthemultiple-setssplitfeasibilityproblem[J].JournalofMathematicalAnalysisandApplications,2007,327(2):1244-1256.
[9]BauschkeHH,BorweinJM.Onprojectionalgorithmsforsolvingconvexfeasibilityproblems[J].SIAMReview,1996,38:367-426.
[10]EickeB.Iterationmethodsforconvexlyconstrainedill-posedproblemsinHilbertspace[J].NumericalFunctionalAnalysisandOptimization,1992,13(5-6):413-429.
[11]WangC,XiuN.Convergenceofthegradientprojectionmethodforgeneralizedconvexminimization[J].ComputationalOptimizationandApplications,2000,16(2):111-120.
[12]ZarantonelloEH.ProjectionsonconvexsetsinHilbertspaceandspectraltheory[D].Wisconsin:UniversityofWisconsin,1971.
[13] 何炳生.論求解單調(diào)變分不等式的一些投影收縮算法[J].計算數(shù)學(xué),1996(1):97-103.
[14] 徐成賢,陳志平,李乃成.近代優(yōu)化方法[M].北京: 科學(xué)出版社,2002:18-35.
KM Iterative Algorithm for Multiple-sets Split Feasibility Problem in Hilbert Space
LUO Jun1,LIU Jian2
(1.College of Science,Nanjing University of Posts & Telecommunications,Nanjing 210023,China;2.College of Communication and Information Engineering,Nanjing University of Posts &Telecommunications,Nanjing 210003,China)
The multiple-sets spilt feasibility problem requires finding a point closest to a family of closed convex sets in one space,so that its image under a linear transformation will be closest to another family of closed convex sets in the image space.The multiple-sets spilt feasibility problem is an important type of optimization problem,which is generated from engineering practice and already has been widely applied in medical science,signal processing,image reconstruction.Based on KM iterative methods for solving the multiple-sets spilt feasibility problem in Rn space,try to spread this algorithm in Hilbert Space.Using projection compression theorem and approximation function transformed the multiple-sets spilt feasibility problem into a minimum value problem,making the algorithm proving more easily.By deducing and proving,the multiple-sets spilt feasibility problem has good convergence in Hilbert Space.So the result shows that the KM iterative methods are spread in Hilbert Space perfectly.
multiple-sets split-feasibility problem;optimization problem;KM iteration;Hilbert Space
2015-04-22
2015-07-23
時間:2016-01-04
國家自然科學(xué)基金面上項目(61070234)
羅 俊(1989-),男,碩士研究生,研究方向為數(shù)值方法與應(yīng)用。
http://www.cnki.net/kcms/detail/61.1450.TP.20160104.1505.036.html
TP
A
1673-629X(2016)01-0043-05
10.3969/j.issn.1673-629X.2016.01.009