DFP算法收敛性的一个结果

变尺度算法作用于非凸函数,是否具有全局收敛性,有关这方面的研究是十分重要的。[1]在▽f满足Lipschitz条件且算法产生的点列收敛的假设下证明了DFP算法的全局收敛件。本文给出一个与Lipschitz条件互不包含的新的条件,在此条件下,我们证明了若算法产生的点列收敛于某点,则此点必为函数的稳定点。一、引言对于非线性最优化问题:_(x∈R~n)~min f(x),其中f:R~n→R~1连续可微,用变尺度算法来求解通常是有效的。而在众多的变尺算法中,DFP算法(Davidon、Fletcher and     

一个新的超线性收敛性算法

本文在[1]的基础上对具有线性约束的非线性规划问题提出了一个新的算法,并采用[2]的证明思想,给出了它的超线性收敛性.其特点是不再使用 polak 扰动和ε-约束,有关背景参见[1—3].     

一个新的连分式算法及其收敛性

本文利用连分式插值,得到了一个新的一维搜索方法——连分式算法.用此算法,每迭代一次,只需计算三个点的函数值;在计算连分式插值式的每个系数时,只需一次除法.因此,数值稳定性较好.本文还证明了此算法的收敛性,收敛速度较快,收敛阶近似1.8393.按效能指标E=P~(1/μ)评价,此算法是一个较好的局部一维搜索方法.如果用此法于不精确的一维搜索,因只需计算三个点的函数值,故它是一个较好的、不精确的一维搜索方法,同时也是解超越方程的一个新算法.数值例子表明,它确实有效.     

近似邻近点算法收敛性的一个注记

近似邻近点算法在最优化理论与方法研究中具有重要作用.在不同误差准则下,近似邻近点算法具有不同的收敛性.利用极大单调算子等工具给出了一个具体的例子,解释了在一些误差准则下近似邻近点算法的收敛性.     

一个使用负曲率方向的算法及其收敛性

对于无约束最优化问题: min f(x),x∈R~n (1)来说,牛顿法是一个古老而十分重要的方法。它的第一个改进形式是阻尼牛顿法。然而阻尼牛顿法仍然不能处理Hessian矩阵非正定的情形。进一步的改进措施大致可分为两类:强迫矩阵正定的策略和使用负曲率方向的策略。而如何更有效地使用这两种策略,已成为近年来对牛顿型算法研究的一个中心课题。这里应该特别提到的是FF方     

一个求总极值的实现算法及其收敛性

1978年,郑权等首先提出了一种用积分─水平集求总极值的方法及用Monte－Carlo随机投点实现的实现其法,其实现算法是否收敛未解决的问题．本文提出一种用数论方法实现的实现算法,并证明了该实现其法是收敛的．初步的数值结果表明,该实现其法是较有效的．     

修正积分水平集算法的一个实现算法及其收敛性证明

郑权等（1978）在“一个求总极值的方法”一文中给出了一个积分水平集求总极值的概念性算法及Monte-Carlo随机投点的实现算法,其收敛性一直未得以解决,本文在张连生,邬冬华等提出的修正算法的基础上,利用数论中一致分布佳点集列,给出了一个实现算法及全局收敛性的证明,为了提高算法的计算效率,文中对算法进行了并行化处理。     

一个数列的收敛性

给定实数c,令则由递推式(1)得到数列x_n,对于x_n的敛散性,菲赫金哥尔茨著的《微积分学教程》第一卷第一分册中,对c≥-3的情形作了详细的论证,其结果列表如下:     

一个求总极值的变测度算法及其收敛性

利用积分中值定理阐述了积分型方法的实质,指出了其优点与不足,提出相应的改进方法—变测度算法,并对变测度算法的收敛性进行了证明.     

一个正定几何规划的对偶算法及收敛性

由于正定几何规划的对偶规划只含线性等式约束和非负约束,处理起来似乎要方便得多.然而,实际上许多对偶算法实施起来却往往失败(见[2,8,9]),这是由于对偶规划所特有的“块性质”以及目标函数在某些点的不可微性质引起的.因此,近年来主要的努力集中在克服这二个困难上。主要的工作有:1975年Beck和Ecker的修正凹单纯形     

关于补几何规划算法的收敛性

几何规划是非线性规划的一个分支. Zener,Duffin与Peterson最初以几何平均≤算术平均这一著名的不等式为基础发展了一套研究正项几何规划     

THE CONVERGENCE OF FLETCHER-REEVES ALGORITHM

1 IntroducbonConjugate gradient method is a kind of method which lies between the steepest descentmethod and the Newton method. It overcomes the lower convergence rate about steepest descent method. Meanwhile, it avoids the neceSSity to cakulate and store the information of thesecond Order gradient. It was the first time to use it for Hestenes and Stiefel (1952) to workout a system Of linear equations. Fletcher and Reeves (1964) gave the conjugate gradientmethod to solve unconstrained minA…     

惯性算法的收敛性和稳定性

1．引言对于非线性发展方程，人们感兴趣的是解的渐近行为．当某一物理参数人很小时，非定常解趋向定常解，而当入充分大时，非定常解的渐近行为完全表现在一个吸引子的结构上，这个吸引子可能是具有分数维数的分形结构．在试图逼近这个吸引子的设想当中，惯性流形显示了它的巨大优越性［1－4］．一个系统的惯性流形是一个光滑的有限维流形，它以指数级速度逼近吸引子．在这个光滑的流形上，一个偏微系统可以用它的惯性形式即有限维常微系统来得到．然而在目前状况下，人们知道存在惯性流形的非线性发展方程为数不多．而绝大部分非线性发展…     

关于一种近似牛顿法的收敛性

§1.前言 设X和Y是Banach空间,p(x)是定义在区域G X上并取值于Y的非线性算子。假定p(x)有Frechet导算子p’(x),为了近似解算子方程 p(x)=0, (1)研究了如下的迭代程序: x_(n 1)=x_n-A_np(x_n), A_(n 1)=2A_n-A_np(x_(n 1)A_n,(2)这里x_0∈G和A_0∈(Y→X)都是初始近似,其中x_0是方程(1)的近似解,而A_0则是p(x_0)的近似过算子。[1]在一些条件下证明了程序(2)收敛于方程(1)的解。     

SUPERLINEAR CONVERGENCE OF THE DFP ALGORITHM WITHOUT EXACT LINE SEARCH

Broyden algorithms are very efficient methods for solving the nonlinear programmingproblem:minWith exact line search, Powell[1] proved that the rate of convergence of these algorithms isone-step Q-superlinear for a twice continuously differentiable and uniformly convex function,and Pu[2] extended this result for LC1 function. Pu and Yu[3] proved that if the points whichare given by these algorithms are convergent they are globally convergent for continuouslydifferentiable functions without c…     

符号算法在φ-混和输入情况下的收敛性

本文在E.Eweda 2000年文章结果的基础上,用符号算法(SA)考察了一类自适应辨识系统.证明了在输入和噪声信号是φ-混合情况下,对充分小的步长和任意初始权向量,权数偏离的绝对均值具有时间平均渐进收敛性.     

DFP算法全局收敛性的几个充分性条件

本文在目标函数是一致凸且采用Ｗｏｌｆｅ线搜索的条件下，给出无约束最优化问题的ＤＦＰ算法的全局收敛性的几个充分性条件，并与「１」中的条件进行了比较。     

一种改进的进化规划算法及其收敛性

1　引　言进化算法是一类借鉴生物界自然选择和自然遗传机制的随机搜索算法 ,主要包括遗传算法 ( genetic algorithms,GA)、进化规划 ( evolutionary programming,EP)和进化策略( evolution strategies,ES) [1 ] .遗传算法 ,进化策略和进化规划分别由 J.H.Holland,I.Rechenberg和 L.J.Fogel提出[2 ,3,4] .这些算法有许多相似性 ,且近年来都被应用于实值连续函数全局优化问题 ,并取得了较好的效果 .一些学者对进化算法的收敛性进行了分析[5,6,7,8] ,但总的说来 ,有关进化算法的理论研究成果目前还不是很多 ,尤其是进化规划和进化策略几…