徐瑩瑩，張　惠

?

一類改進(jìn)的擬牛頓算法

*徐瑩瑩，張惠

(鄭州工業(yè)應(yīng)用技術(shù)學(xué)院基礎(chǔ)教學(xué)部河南，鄭州 451150)

在利用擬牛頓算法求解非線性無(wú)約束優(yōu)化問(wèn)題中，本文在文獻(xiàn)[8]提出的擬牛頓方程基礎(chǔ)上，通過(guò)加權(quán)形式構(gòu)造一類改進(jìn)擬牛頓方程，產(chǎn)生了修正的BFGS校正公式，進(jìn)而提出改進(jìn)的擬牛頓算法，在一定條件下證明新算法的全局收斂性。數(shù)值實(shí)驗(yàn)結(jié)果表明，與文獻(xiàn)[12]中的擬牛頓算法對(duì)比，新算法在迭代次數(shù)上更有優(yōu)勢(shì)。

無(wú)約束優(yōu)化；擬牛頓方程；線性搜索準(zhǔn)則；全局收斂性

0 引言

1　新擬牛頓方程的提出

2006年，Wei在文獻(xiàn)[8]中利用目標(biāo)函數(shù)的泰勒展式提出了一種新的擬牛頓方程

其中

結(jié)合式（2）、式（3），考慮它們的加權(quán)形式，有：

進(jìn)而構(gòu)造出一類新的擬牛頓方程

由（4）式給出如下校正公式

2 　新擬牛頓算法的提出

新算法采用wolfe搜索準(zhǔn)則，其算法步驟如下：

Step3 利用wolfe線性搜索準(zhǔn)則

3　算法收斂性分析

我們做如下假設(shè)：

4 數(shù)值試驗(yàn)

計(jì)算結(jié)果見表1：

表1 數(shù)值實(shí)驗(yàn)結(jié)果

5 結(jié)語(yǔ)

本文通過(guò)加權(quán)形式構(gòu)造了一類改進(jìn)的擬牛頓方程，提出了一類改進(jìn)的擬牛頓算法，在一定條件下證明了新算法的全局收斂性。并通過(guò)數(shù)值試驗(yàn)表明新算法是有效的，相對(duì)文獻(xiàn)[14]在迭代次數(shù)上有一定提高。并希望通過(guò)新算法，結(jié)合文獻(xiàn)[16]的研究方向，求解非線性方程組。

[1] 袁亞湘,孫文瑜. 最優(yōu)化理論與方法[M].北京:科學(xué)出版社,1997(7):183-218.

[2] 劉輝．解非線性方程的牛頓迭代法及其應(yīng)用[J]．重慶工學(xué)院學(xué)報(bào):自然科學(xué)版,2007,21(8):5-8．

[3] 楚添定,馬柏林. 基于新的擬牛頓方程的Broyden- Fletcher-Goldfarb-Shanno算法[J].應(yīng)用數(shù)學(xué)與計(jì)算數(shù)學(xué)學(xué)報(bào),2012,26(4):360-367.

[4] 王海濱. 基于新擬牛頓方程的一類超線性收斂的改進(jìn)BFGS算法[J].蘭州理工大學(xué)學(xué)報(bào),2007,33(4):150-152.

[5] 鄭發(fā)美,劉輝輝. 一類新擬牛頓算法的全局收斂性與數(shù)值試驗(yàn)[J].河南師范大學(xué)學(xué)報(bào):自然科學(xué)版,2010,38(2): 35-38.

[6] 陳蘭平,焦宗聰. 一般無(wú)約束優(yōu)化問(wèn)題的廣義擬牛頓法[J]. 數(shù)學(xué)進(jìn)展,2007,36(1):81-85．

[7] 焦寶聰. 一類超線性收斂的廣義擬牛頓算法[J].高等學(xué)校計(jì)算數(shù)學(xué)學(xué)報(bào),1999,21(6):178-188.

[8] Wei Zengxin, Li Guoyin, Qi Liqun. New quasi-Newton methods for unconstrained optimization problems[J]. Applied Mathematics and Computation 2006,175: 1156-1188.

[9] 時(shí)平平,王希云. 基于新擬牛頓方程的擬牛頓法對(duì)一般目標(biāo)函數(shù)的全局收斂性[J].太原科技大學(xué)學(xué)報(bào),2008, 29(3):1673-2057.

[10] Li Donghui,Fukushima．On the global convergence of the BFGS method for nonconvex unconstrained optimization problems[J]．SIMA J．Optim．Anal,2001(4)：1054-1064．

[11] Xiao Wei,Sun Fengjian．On quasi-Newton methods with modified quasi-Newton equation[C]．In Proceeding of 2008 International Pre—Olympic CongressonComputer Science,Volume II:Information Science and Engineering，edited by Yong Jiang and JianLiang Li. World- AcademicPress.2008:359-363.

[12] Yuan Gonglin, Wei Zengxin. The superlinear convergence analysis of a non-monotone BFGS algorithm on convex objectivefunctions[J]. Acta Mathmatic Sinica English- Series,2008,19(1):35-42.

[13] 趙云彬,段虞榮. 偽Newton-δ族算法對(duì)一般目標(biāo)函數(shù)的收斂性[J].數(shù)值計(jì)算與計(jì)算機(jī)應(yīng)用,1996(1):36-47．

[14] 趙云彬,易正俊. 偽Newton-δ族的導(dǎo)出和全局收斂性[J].數(shù)值計(jì)算與計(jì)算機(jī)應(yīng)用,1995(1):53-62．

[15] 宮恩龍,段立寧,高苗苗,等. 基于修正擬牛頓方程的兩階段非單調(diào)稀疏對(duì)角變尺度梯度投影算法[J].數(shù)學(xué)的實(shí)踐與認(rèn)識(shí),2017,47(6):233-242．

[16] 徐林．基于改進(jìn)擬牛頓法求解非線性方程組[J]．濟(jì)寧學(xué)院學(xué)報(bào),2016,37(6):54-57.

A CLASS OF NEW MODIFIED QUASI-NEWTON ALGORITHM

*XU Ying-ying，ZHANG Hui

(Zhengzhou University of Industrial Technology, Zhengzhou, Henan 451150, China)

In solving nonlinear unconstrained optimization problem by using quasi - Newton algorithm. Though the weighted form a class of new quasi-newton algorithm is constructed based on the quasi-newton equation and the method of literature. Furthermore, a new quasi-newton algorithm is proposed combining the modified BFGS correction formula of the new quasi-newton equation. The new global convergence of the algorithm is proved under certain conditions. Finally, through numerical experiments show that this new algorithm has much more advantages in the number of iterations.

unconstrained optimization; quasi-Newton equation; linear search; global convergence

1674-8085(2018)01-0021-03

O224

A

10.3969/j.issn.1674-8085.2018.01.005

2017-04-11；

2017-09-20

*徐瑩瑩(1988-)，女，河南焦作人，碩士生，主要從事最優(yōu)化理論與算法研究(E-mail: xy010007@126.com);張惠(1990-)，女，河南新鄭人，碩士生，主要從事計(jì)算數(shù)學(xué)研究(E-mail: piaoyao3652@126.com).