DFP算法的全局收敛性分析

1引言理论分析和大量数值试验表明，在求解（1．1）的各种算法中，拟Newton法是效果最好的一类方法．DFP算法是最早提出的拟Newton法，它首先由Davidon［2］给出并由Fletcher和Powell【3］修改DFP算法的计算步骤如下：算法1．1．1”．取二R”，BIE＊”“”对称正定，k：＝1．2”．计算gb＝7八kh），若gb—0，则终止，得解kk．否则，转入下一步．3O．dk——BK‘gb．4“．进行线搜索确定步长aa．在上面的算法中，步长0。的确定有两种方式：其一，精确线搜索，即。。满足：其M，非精确线搜索．本文考察WOlfe线搜索，即a＆满足：其中o…     

一类新的信赖域算法的全局收敛性

本文对于无约束最优化问题提出了一类非单调的信赖域算法，它是通常的单调信赖域算法的推广。当目标函数是有下界的连续可微函数，而且它的二阶导数的近似的模是线性地依赖于迭代次数时，我们证明了新算法的整体收敛性。     

DFP算法全局收敛性的几个充分性条件

本文在目标函数是一致凸且采用Ｗｏｌｆｅ线搜索的条件下，给出无约束最优化问题的ＤＦＰ算法的全局收敛性的几个充分性条件，并与「１」中的条件进行了比较。     

结合一种新搜索的Broyden算法类的全局收敛性

本文提出了一种与回追搜索（backtrackinglinesearch）有关的可行线性搜索．在通常的条件下，证明了结合这一新的搜索的Broyden算法类具有全局收敛性．     

非凸无约束优化问题的广义拟牛顿法的全局收敛性

本文对无约束优化问题提出一类新的广义拟牛顿法,并采用一类非精确线搜索证明了算法对一般非凸目标函数极小化问题的全局收敛性.     

在一个新步长规则下梯度投影算法的全局收敛性

考虑约束最优化问题：minx∈Ωf(x)其中:f:R^n→R是连续可微函数，Ω是一闭凸集。本文研究了解决此问题的梯度投影方法，在步长的选取时采用了一种新的策略，在较弱的条件下，证明了梯度投影响方法的全局收敛性。     

带一类非精确搜索的Broyden族的全局收敛性

带一类非精确搜索的Ｂｒｏｙｄｅｎ族的全局收敛性刘光辉，韩继业（中国科学院应用数学研究所）ＧＬＯＢＡＬＣＯＮＶＥＲＧＥＮＣＥＯＦＴＨＥＢＲＯＹＤＥＮ＇ＳＦＡＭＩＬＹＷＩＴＨＡＣＬＡＳＳＯＦＩＮＥＸＡＣＴＬＩＮＥＳＥＡＲＣＨＥＳ￥ＬｉｕＧｕａｎｇ－ｈｕｉ...     

在Goldstein搜索下一类共轭梯度法的全局收敛性

本文证明了文「１」提出的一类共轭梯度法在Ｇｏｌｄｓｔｅｉｎ非精确线性搜索下具有全局收敛性。     

一种改进的进化规划算法及其收敛性

1　引　言进化算法是一类借鉴生物界自然选择和自然遗传机制的随机搜索算法 ,主要包括遗传算法 ( genetic algorithms,GA)、进化规划 ( evolutionary programming,EP)和进化策略( evolution strategies,ES) [1 ] .遗传算法 ,进化策略和进化规划分别由 J.H.Holland,I.Rechenberg和 L.J.Fogel提出[2 ,3,4] .这些算法有许多相似性 ,且近年来都被应用于实值连续函数全局优化问题 ,并取得了较好的效果 .一些学者对进化算法的收敛性进行了分析[5,6,7,8] ,但总的说来 ,有关进化算法的理论研究成果目前还不是很多 ,尤其是进化规划和进化策略几…     

求解无约束最优化问题的非奇异Broyden算法的全局收敛性

求解无约束最优化问题的非奇异Ｂｒｏｙｄｅｎ算法的全局收敛性李董辉（湖南大学应用数学系）ＧＬＯＢＡＬＣＯＮＶＥＲＧＥＮＣＥＯＦＮＯＮＳＩＮＧＵＬＡＲＢＲＯＹＤＥＮ＇ＳＭＥＴＨＯＤＦＯＲＳＯＬＶＩＮＧＵＮＣＯＮＳＴＲＡＩＮＥＤＯＰＴＩＭＩＺＡｆＩＯＮＳ￥...     

一种修正的HS共轭梯度法及全局收敛性

<正>1引言考虑无约束极小化问题:(?),(1)其中f(x)连续可微,其梯度函数用g(x)表示.共轭梯度法求解(1)的常用迭代格式为:x_(k+1)=x_k+α_kd_k,(2)(?)(3)其中g_k=▽f(x_k),α_k≥0是由某种线搜索得到的步长因子;d_k为搜索方向,β_k为标量,β_k的不同选择产生了不同的共轭梯度法.著名的β_k公式有:     

无约束最优化线搜索一般模型及BFGS方法的整体收敛性

本文给出了无约束最优化的算法中线性搜索的可接受的步长选择律的一种一般形式，它概括了大多数已有的步长律为其特例，并且研究了它基本性质，最后证明了此线性搜索一般模拟相结合的无约束优化的ＢＦＧＳ算法的整体收敛性。     

OPTIMAL GLOBAL RATES OF CONVERGENCE OF M－ESTIMATES FOR MULTIVARIATE NONPARAMETRIC REGRESSION

ＯＰＴＩＭＡＬＧＬＯＢＡＬＲＡＴＥＳＯＦＣＯＮＶＥＲＧＥＮＣＥＯＦＭ－ＥＳＴＩＭＡＴＥＳＦＯＲＭＵＬＴＩＶＡＲＩＡＴＥＮＯＮＰＡＲＡＭＥＴＲＩＣ　ＲＥＧＲＥＳＳＩＯＮＳＨＩＰＥＩＤＥ（施沛德）（ＩｎｓｔｉｔｕｔｅｏｆＳｙｓｔｅｍｓＳｃｉｅｎｃｅ，ｔｈ...     

一种改进的共轭梯度法及全局收敛性

本文在DY共轭梯度法的基础上对解决无约束最优化问题提出一种改进的共轭梯度法.该方法在Wolfe线搜索下能够保证充分下降性,并在目标函数可微的条件下,证明了算法的全局收敛性.大量数值试验表明,该方法是很有效的.     

一类新共轭梯度法的全局收敛性

共轭梯度法是求解无约束最优化问题的有效方法.本文在βkDY的基础上对βk引入参数,提出了一类新共轭梯度法,并证明其在强Wolfe线性搜索条件下具有充分下降性和全局收敛性.     

由FR共轭梯度法控制的两类优化算法的全局收敛性

１引言 考虑无约束优化问题其中ｆ：Ｒｎ→Ｒ是一阶可微函数．求解（１）的非线性共轭梯度法具有如下形式：其中ｇｋ＝　ｆ（ｘｋ）,ａｋ是通过某种线搜索获得的步长,纯量βｋ的选取使得方法（２）—（３）在ｆ（ｘ）是严格凸二次函数且采用精确线搜索时化为线性共轭梯度法［１］．比较常见的βｋ的取法有Ｆｌｅｔｃｈｅｒ－Ｒｅｅｖｅｓ（ＦＲ）公式［２］和Ｐｏｌａｋ－Ｒｉｂｉｅｒｅ－Ｐｏｌｙａｋ（ＰＲＰ）公式［３－４］等．它们分别为其中　　　取欧几里得范数．对于一般非线性函数,ＦＲ方法具有较好的理论收敛性［５－６］,而…     

GLOBAL CONVERGENCE OF NONMONOTONIC TRUST REGION ALGORITHM FOR NONLINEAR OPTIMIZATION

§ 1　 IntroductionIn this paper we study the following nonlinear equality constrained optimization prob-lem:minimize f(x) ,subjectto h(x) =0 ,(P)where h(x) =(h1 (x) ,h2 (x) ,...,hm(x) ) T,f and hi(i=1 ,2 ,...,m) are Rn→R twice conti-nously differentiable(m≤n) .Many authors have studied the problem(P) with trustregion method(see,references[1～ 3 ] ) .These methods have the same property:to enforce strict monotonicity for meritfunction at every iteration.Paper[4 ] shows thatstrictmonotonic …