基于信赖域技术和修正拟牛顿方程的非单调共轭梯度算法

1引言考虑无约束最优化问题(?)其中f(x):R~n→R~1是一阶连续可微函数.求解问题(1)的非线性共轭梯度算法结构简单、收敛速度快、存储量小,适于求解大     

一个自调节Polak-Ribiere-Polyak型共轭梯度法

共轭梯度法是求解大规模无约束优化问题最有效的方法之一.基于Polak-RibièrePolyak(PRP)共轭梯度法具有较弱的收敛性和较好的数值表现,而Fletcher-Reeves(FR)共轭梯度法则反之,本文研究PRP共轭梯度法的一个自调节改进.在PRP公式引入调节因子,并据此提出了一个自调节PRP共轭梯度法.改进的方法具有PRP方法所特有的性质(*)及FR方法良好的收敛性·在强Wolfe非精确线搜索条件和常规假设下,证明了新方法不仅满足充分下降条件,而且全局收敛.最后,对新算法进行数值测试并与其他同类方法进行比较,结果表明所提方法是有效的.     

使用信赖域策略的投影梯度方法解约束优化问题

本文使用信赖域策略结合投影梯度算法来解约束优化问题,并给出算法及其收敛性。进一步,给出了收敛点具有满足约束问题一阶和二阶必要性的性质。     

Banach空间中求解线性反问题的对偶梯度流方法

本文考虑求解不适定问题Ax=y,并确定该问题的R-极小解,其中A:X→Y是Banach空间X到Hilbert空间Y的有界线性算子, R:X→(-∞,∞]为强凸函数.针对数据带噪声的情形,本文研究一种对偶梯度流方法.由于问题的不适定性会导致方法产生半收敛现象,需要选择合适的停止时间以保证重构解的正则性.本文讨论不同的选取方式(如先验选取、偏差原则和启发式偏差原则)下相应的收敛结果,并且基于解的变分源条件建立方法的收敛阶.数值实验结果展示了对偶梯度流方法在求解线性反问题中的有效性.     

一类新的曲线搜索下的记忆梯度法

提出一类新的求解无约束优化问题的记忆梯度法,在较弱条件下证明了算法具有全局收敛性和线性收敛速率.算法采用曲线搜索方法,在每一步同时确定搜索方向和步长,收敛稳定,并且不需计算和存储矩阵,适于求解大规模优化问题.数值试验表明算法是有效的.     

时间分数阶扩散方程的数值解法

分数阶微分方程在许多应用科学上比整数阶微分方程更能准确地模拟自然现象.考虑时间分数阶扩散方程,将一阶的时间导数用分数阶导数α(0<α<1)替换,给出了一种计算有效的隐式差分格式,并证明了这个隐式差分格式是无条件稳定和无条件收敛的,最后用数值例子说明差分格式是有效的.     

梯度法简述

梯度法是一类求解优化问题的一阶方法。梯度法形式简单、计算开销小,在大规模问题的求解中得到了广泛应用。系统地介绍了光滑无约束问题梯度法的迭代格式、理论框架。梯度法中最重要的参数是步长,步长的选取直接决定了梯度法的收敛性质与收敛速度。从线搜索框架、近似技巧、随机技巧和交替重复步长四方面介绍了梯度步长的构造思想及相应梯度法的收敛性结果,还对非光滑及约束问题的梯度法、梯度法加速技巧和随机梯度法等扩展方向做了简要介绍。     

有界变差函数的Durrmeyer-Bézier算子收敛阶的估计

在Zeng等人对有界变差函数f的Durrmeyer-Bézier算子在区间(0,1)上收敛于(1/(α+1))f(x+)+(α/(α+1))f(x-)的收敛阶进行研究的基础上,利用基函数的概率性质等方法,对其所给的Durrmeyer-B啨zier算子收敛阶估计结果作进一步的改进,得到其收敛阶的精确估计.     

解无约束优化问题的一种新的谱梯度方法[英文]

本文提出一种解大规模无约束非线性优化问题的利用新的非单调策略的修正谱梯度方法. 这种方法借助广义弱拟牛顿方程来计算初始步长. 在合理的假设条件下, 新算法全局收敛. 初步数值结果表明新方法是有效且有竞争力的.     

一类求解无约束优化问题的混合含参数共轭梯度法

正1引言考虑大规模无约束优化问题min f(x) from x∈R~n,(1)其中f(x)是一阶连续可微函数.共轭梯度法的基本迭代格式可描述为     

A Linear Hybridization of Dai-Yuan and Hestenes-Stiefel Conjugate Gradient Method for Unconstrained Optimization

Conjugate gradient methods are interesting iterative methods that solve large scale unconstrained optimization problems. A lot of recent research has thus focussed on developing a number of conjugate gradient methods that are more effective. In this paper, we propose another hybrid conjugate gradient method as a linear combination of Dai-Yuan (DY) method and the Hestenes-Stiefel (HS) method. The sufficient descent condition and the global convergence of this method are established using the generalized Wolfe line search conditions. Compared to the other conjugate gradient methods, the proposed method gives good numerical results and is effective.     

初始点任意的解非线性不等式约束优化问题的结合共轭梯度参数的超记忆梯度广义投影算法

本文利用广义投影矩阵，对求解无约束规划的超记忆梯度算法中的参数给出一种新的取值范围以保证得到目标函数的超记忆梯度广义投影下降方向，并与处理任意初始点的方法技巧结合建立求解非线性不等式约束优化问题的一个初始点任意的超记忆梯度广义投影算法，在较弱条件下证明了算法的收敛性．同时给出结合FR，PR，HS共轭梯度参数的超记忆梯度广义投影算法，从而将经典的共轭梯度法推广用于求解约束规划问题．数值例子表明算法是有效的．     

解带线性或非线性约束最优化问题的三项记忆梯度Rosen投影算法

利用Rosen投影矩阵，建立求解带线性或非线性不等式约束优化问题的三项记忆梯度Rosen投影下降算法，并证明了算法的收敛性．同时给出了结合FR，PR，HS共轭梯度参数的三项记忆梯度Rosen投影算法，从而将经典的共轭梯度法推广用于求解约束规划问题．数值例子表明算法是有效的。     

一般线性或非线性约束下的共轭投影变尺度方法

梯度投影法是一类有效的约束最优化算法，在最优化领域中占有重要的地位．但是，梯度投影法所采用的投影是正交投影，不包含目标函数和约束函数的二阶导数信息·因而；收敛速度不太令人满意．本文介绍一种共轭投影概念，利用共轭投影构造了一般线性或非线性约束下的共轭投影变尺度算法，并证明了算法在一定条件下具有全局收敛性．由于算法中的共轭投影恰当地包含了目标函数和约束函数的二阶导数信息，因而收敛速度有希望加快．数值试验的结果表明算法是有效的．     

Global Convergence of a Modified Gradient Projection Method for Convex Constrained Problems

In this paper, the continuously differentiable optimization problem min{f（x） ： x∈Ω}, where Ω ∈ R^n is a nonempty closed convex set, the gradient projection method by Calamai and More （Math. Programming, Vol.39. P.93-116, 1987） is modified by memory gradient to improve the convergence rate of the gradient projection method is considered. The convergence of the new method is analyzed without assuming that the iteration sequence {x^k} of bounded. Moreover, it is shown that, when f（x） is pseudo-convex （quasiconvex） function, this new method has strong convergence results. The numerical results show that the method in this paper is more effective than the gradient projection method.     

约束优化问题的修正共轭梯度投影算法

对闭凸集约束的非线性规划问题构造了一个修正共轭梯度投影下降算法,在去掉迭代点列有界的条件下,分析了算法的全局收敛性.新算法与共轭梯度参数结合,给出了三类结合共轭梯度参数的修正共轭梯度投影算法.数值例子表明算法是有效的.     

一个新的共轭投影梯度算法及其超线性收敛性

利用共轭投影梯度技巧，结合SQP算法的思想，建立了一个具有显示搜索方向的新算法，在适当的条件下，证明算法是全局收敛和强收敛的，且具有超线性收敛性，最后数值实验表明算法是有效的。     

从常步长梯度方法的视角看不可微凸优化增广Lagrange方法的收敛性

增广Lagrange方法是求解非线性规划的一种有效方法.从一新的角度证明不等式约束非线性非光滑凸优化问题的增广Lagrange方法的收敛性.用常步长梯度法的收敛性定理证明基于增广Lagrange函数的对偶问题的常步长梯度方法的收敛性,由此得到增广Lagrange方法乘子迭代的全局收敛性.     

An efficient numerical method for preconditioned saddle point problems

In this paper, we consider the solution of linear systems of saddle point type by a preconditioned numerical method. We first transform the original linear system into two sub-systems with small size by a preconditioning strategy, then employ the conjugate gradient (CG) method to solve the linear system with a SPD coefficient matrix, and a splitting iteration method to solve the other sub-system, respectively. Numerical experiments show that the new method can achieve faster convergence than several effective preconditioners published in the recent literature in terms of total runtime and iteration steps.     

Wolfe线搜索下新的共轭梯度法的全局收敛性

共轭梯度法是求解无约束优化问题的一种重要的方法.本文提出一族新的共轭梯度法,证明了其在推广的Wolfe非精确线搜索条件下具有全局收敛性.最后对算法进行了数值实验,实验结果验证了该算法的有效性.