Hilbert空間中解凸集約束優化問題的梯度投影算法

楊麗

(西華師范大學數學與信息學院， 四川南充637002)

?

Hilbert空間中解凸集約束優化問題的梯度投影算法

楊麗

(西華師范大學數學與信息學院， 四川南充637002)

梯度投影算法是求解非線性約束最優化問題的基本方法之一，多年來一直吸引著許多學者對其進行研究。在Hilbert空間H中，利用梯度投影算法解決有約束條件的凸集C上的凸函數f的最優問題，引入CKQ方法，與以往研究的差異是在定理中新增加了集合Kn，并證明了改進的梯度投影算法的強收斂性。所得結果將文獻中的梯度投影算法推廣為Ishikawa形式。

梯度投影算法；CKQ方法；強收斂

引言

近年來，利用梯度投影算法解決有限制凸集優化的問題受到了廣泛的關注[1-6]。設H是Hilbert空間，C是H的一個非空閉凸子集，考慮有約束條件的凸集C上f的最優問題：

(1)

xn+1=PC(xn-γ▽f(xn),n≥0

(2)

或者更一般地

xn+1=PC(xn-γn▽f(xn),n≥0

(3)

其中，γ和γn都是正實數。(2)式和(3)式是否收斂取決于梯度函數▽f。事實上，如果▽f是利普希茲連續的且是強單調的，即存在L>0和α>0，使得

(4)

且

〈▽f(x)-▽f(y),x-y〉≥

(5)

(6)

(7)

并證明了當▽f利普希茲連續且γn滿足條件(6)式時，xn→PSx0，這里S是問題(1)的解集。

本文在實Hibert空間中改進(7)式，引入了CKQ方法，證明了改進的梯度投影算法的強收斂性。本文中，H都為Hilbert空間。

1 預備知識

定義3假設γ>0，T是γ—逆強單調(γ-ism)，當且僅當

引理3[9]令C是H的非空閉凸子集，點x,y,z,w∈H，a是實數，那么集合

是閉凸集。

2 主要結果

(8)

那么有xn→PSx0。(當n→∞)。

先證S?Cn∩Kn∩Qn，對任意的p∈S，因Vp=p，即得到

(9)

從而p∈Cn，對所有的n≥0，因此S?Cn。又因zn=PC(xn-γ▽f(yn)及▽f的利普希茲連續性，由引理4并結合引理1有

▽f(p),p-yn〉+〈▽f(p),p-yn〉+

〈▽f(yn),yn-zn〉≤

2〈xn-γ▽f(yn)-yn,zn-yn〉

(10)

又因為

〈xn-γ▽f(yn)-yn,zn-yn〉=

〈xn-γ▽f(xn)-yn,zn-yn〉+

〈γ▽f(xn)-γ▽f(yn),zn-yn〉≤

〈γ▽f(xn)-γ▽f(yn),zn-yn〉≤

(11)

結合(10)式和(11)式,得到：

注意到

Qn={z∈C:≤0}

特別地，有

(12)

xn+1-xn,xn-x0>≤

又注意到xn+1∈Cn，從而有

得到

(13)

最后結合(12)式和引理5得到xn→q(n→∞)，即xn→PSx0，(當n→∞)。

3 結束語

本文主要研究了Hilbert空間中解凸集約束優化問題的梯度投影算法，并證明了算法的強收斂性，所得結果將文獻[1]中的梯度投影算法推廣為Ishikawa的形式。與以往研究不同的是，在定理1中新增加了一個集合Kn，這樣的好處是使收斂速率有所提高，今后可以考慮在收斂速率這方面作進一步的研究。

[1] Xu H K.Averaged Mappings and the Gradient-Projection Algorithm[J].J.Optim.Theory.Appl,2011,150(2):360-378.

[2] Su M,Xu H K.Remarks on the gradient-Projection algorithm[J].J.Nonl.Anal.Optim,2011,1(1):35-43.

[3] Ceng L C,Guu S M,Yao J C.Hybrid methods with regularization for minimization problems and asymptotically pseudocontractive mappings in the intermediate sense[J].J Glob Optim,2014,60(4):617-637.

[4] Ryu S,Chen A,Choi K.A modified gradient projection algorithm for solving the elastic demand traffic assignment problem[J].Computer& Operations Research,2014,1(47):61-71.

[5] Liu Z Y,Wei Z H,Sun W Y.An iteratively approximated gradient projection algorithm for sparse signal reconstruction[J].Applied Mathematics and computation,2014,2(228):454-462.

[6] Ceng L C,Guu S M,Yao J C.Hybrid methods with regularization for minimization problems and asymptotically pseudocontractive mappings in the intermediate sense[J].J Glob Optim,2014,60(4):617-637.

[7] Levitin E.S,Polyak B T.Constrained minimization methods[J].Zh.Vychisl.Mat.Fiz,1966,6:787-823.

[8] Goebel K,Kirk W A.Topics in Metric Fixed Point Theory[M].Cambridge:Cambridge University Press,1990.

[9] Halpern B.Fixed points of nonexpanding maps[J].Bull.Am.Math.Soc,1967(73):957-961.

[10] Baillon J B,Haddad G.Quelques proprietes des operateurs angle-bornes et n-cycliquement monotones[J].Israel J.Math,1977,26(2):137-150.

Gradient Projection Algorithms for Solution Convex Sets Constraints Optimization Problem In Hilbert Space

YANGLi

(School of Mathematics and Information, China West Normal University, Nanchong 637002, China)

The gradient projection operator is one of the basic approaches for solving nonlinear constrained optimization problem, so it has been attracting many scholars to research. In Hilbert space, the gradient projection algorithm is used to solve optimization problems of convex functionfonconvexsetwithconstraintcondition,andtheCKQmethodisintroduced,asetKnisaddedintheoremwhichisdifferentfrompreviousstudy,andthestrongconvergenceofimprovedgradientprojectionalgorithmisproved.TheobtainedresultsmakethegradientprojectionalgorithminliteraturesgeneralizedtobeIshikawaform.

gradient projection operator; CKQ method; strong convergence

2015-04-21

國家自然科學基金項目(11371015)

楊 麗(1980-)，女，四川大邑人，講師，碩士，主要從事非線性分析及最優化方面的研究，(E-mail)yangli@cwnu.edu.cn

1673-1549(2015)03-0086-04

10.11863/j.suse.2015.03.18

O224

A