馬文亞

(重慶師范大學(xué)數(shù)學(xué)學(xué)院，重慶401331)

?

一類修正DY 共軛梯度法及其全局收斂性

馬文亞

(重慶師范大學(xué)數(shù)學(xué)學(xué)院，重慶401331)

摘要:對DY共軛梯度方法進(jìn)行修正，使得修正的共軛梯度方法( MDY*)在Wolfe線搜索下滿足充分下降條件和全局收斂性．

關(guān)鍵詞:修正DY共軛梯度法; Wolfe線搜索;充分下降性;全局收斂性

1基礎(chǔ)知識

考慮無約束優(yōu)化問題:

其中f: Rn→R是一個(gè)連續(xù)可微的函數(shù)．

共軛梯度法是求解問題( 1)的具有如下的迭代格式一類方法:

其中，‖·‖為歐幾里得范數(shù)，yk－1=gk－gk－1．

其中HS方法被公認(rèn)為是數(shù)值效果較好的方法，而DY方法則有較好的收斂性．最近，文獻(xiàn)［3］對文獻(xiàn)［4］的MHS公式進(jìn)行改進(jìn)，得到如下新的k公式:

并證明了由新公式產(chǎn)生的算法在Wolfe線搜索條件下滿足充分下降性和全局收斂性．

Dai和Wen［5］對文獻(xiàn)［6］的NHS公式進(jìn)行改進(jìn)，得到如下新的k公式:

并證明了由新公式產(chǎn)生的算法不僅每步迭代都可以產(chǎn)生一個(gè)充分下降方向，且在Wolfe線搜索條件下全局收斂．

在共軛梯度法的許多理論分析和數(shù)值實(shí)現(xiàn)中，常常使用Wolfe線搜索，其要求k滿足

2算法

MDY*算法:

初始步:給定初始點(diǎn)x0Rn，δ( 0，1)，( 0，1)，＞1，＞0，令d0=－g0，k: =0;

步驟1:若g0≤，則停止;

步驟3:令xk+1=xk+kdk，若gk+1≤，則停止;

步驟5:令k: =k+1，轉(zhuǎn)步驟2．

3 MDY*算法的收斂性

為了證明新算法的全局收斂性，首先給出兩個(gè)假設(shè):

引理1［7］假設(shè)( A) ( B)成立，設(shè)序列{ gk}和{ dk}由MDY*算法產(chǎn)生，并設(shè)步長k由Wolfe線搜索式( 7)、( 8)計(jì)算，則

引理2假設(shè)( A) ( B)成立，設(shè)序列{ gk}和{ dk}由MDY*算法產(chǎn)生，并設(shè)步長k由Wolfe線搜索式( 7)、( 8)計(jì)算，則對所有的k≥0，有

證明用歸納法證明．

假設(shè)n=k－1( k≥1)時(shí)，式( 11)成立，則由式( 8)得

由式( 6)得

因此，有

定理1假設(shè)( A) ( B)成立，設(shè)序列{ gk}和{ dk}由MDY*算法產(chǎn)生，并設(shè)步長k由Wolfe線搜索式( 7) ( 8)計(jì)算，假設(shè)存在一個(gè)正常數(shù)*滿足k≥*，則

證明由假設(shè)( A) ( B)知，存在一個(gè)常數(shù)M＞0，使得

由式( 10)、( 11)、( 16)，知式( 14)成立．

參考文獻(xiàn):

［1］HESTENES M R，STIEFEL E．Methods of Conjugate Gradients for Solving Linear Systems［M］．NBS，1952

［2］DAI Y H，YUAN Y X．A Nonlinear Conjugate Gradient Method with a Strong Global Convergence Property［J］．SIAM Journal on Optimization，1999，10( 1) : 177-182

［3］江羨珍，馬國棟，簡金寶．Wolfe線搜索下的一個(gè)新的全局收斂性共軛梯度法［J］．工程數(shù)學(xué)學(xué)報(bào)，2011，28( 6) : 779-786

［4］YAO S W，WEI Z X，HUANG H．A Note about WYL＇s Conjugate Gradient Method and Its Applications［J］．Applied Mathematics and Computation，2007( 2) : 381-388

［5］DAI Z F，WEN F H．Another Improved Wei-Yao-Liu Nonlinear Conjugate Gradient Method with Sufficient Descent Property［J］．Applied Mathematics and Computation，2012( 14) : 7421-7430

［6］ZHANG L．An Improved Wei-Yao-Liu Nonlinear Conjugate Gradient Method for Optimization Computation［J］．Applied Mathematics and Computation，2009( 6) : 2269-2274

［7］ZOUTENDIJK G．Nonlinear Programming，Computational Methods，in Integer and Nonlinear Programming［M］．North-Holland，Amsterdam，1970

A Class of Modified DY Conjugate Gradient Method and Its Global Convergence

MA Wen-ya

( College of Mathematics Science，Chongqing Normal University，Chongqing 401331，China)

Abstract:Dai-Yuan conjugate gradient method is modified to make it satisfy sufficient descent condition and global convergence with Wolfe line search．

Key words:modified Dai-Yuan conjugate gradient method; Wolfe line search; sufficient descent condition; global convergence

作者簡介:馬文亞( 1988-)，女，陜西楊凌人，碩士研究生，從事最優(yōu)化計(jì)算方法及理論研究．

收稿日期:2014－08－24;修回日期: 2014－10－11．

doi:10．16055/j．issn．1672－058X．2015．0005．005

中圖分類號:O224

文獻(xiàn)標(biāo)識碼:A

文章編號:1672－058X( 2015) 05－0017－03