约束优化问题的一个变尺度投影算法的全局收敛性

利用投影算子 PxΩ 建立了求解问题 ( P)的变尺度投影算法 ,并讨论了算法的全局收敛性 .     

约束优化的曲线搜索信赖域算法及其全局收敛性

本文通过对无约束优化ＯＤＥ算法的信赖域分析,提出了约束优化问题的曲线搜索信赖域算法,给出了算法步骤,并讨论了该算法的全局收敛性。     

非线性规划的序列仿射尺度投影内点算法

本文提出了求解非线性规划的一种序列二次规划内点算法,与其他算法的不同之处在于引进了仿射尺度变换,且避免了一维搜索,这使得该算法的计算量获得了明显的减少,本文给出了算法的详细迭代步骤并讨论了算法的收敛性。     

线性约束优化的信赖域仿射尺度算法

对线性约束优化问题提出一种信赖域仿射尺度算法，在没有非退化假设的条件下，证明了该算法产生的无限序列{x-k}的任一极限点都满足一阶必要条件，且至少存在一个极限点满足二阶必要条件.     

Armijo搜索下的记忆梯度法及其收敛性

本文提出一种新的无约束优化记忆梯度算法,在Armijo搜索下,该算法在每步迭代时利用了前面迭代点的信息,增加了参数选择的自由度,适于求解大规模无约束优化问题。分析了算法的全局收敛性。     

框式线性规划的原—对偶仿射尺度算法

本文对框式线性规划问题设计了一个原－对偶仿射尺度算法，并证明该算法的迭代复杂性面式同时。     

带有广义Wolfe线搜索的变尺度算法的收敛性

本文提出一类广义Ｗｏｌｆｅ线搜索模型，并且把它与著名的ＢＦＧＳ方法相结合，对于所得到的算法证明了：对于凸函数算法具有全局收敛性和超线性收敛速度，这推广了参考文献［１］中的结果．     

一个结构简单的约束变尺度算法

本文我们考虑具有线性约束凹函数的最优化问题，利用我们的算法和变尺度修正公式，提出了一个结构简单的组合算法，并在「２」，「３」和「４」同样的假设条件下，证明了该算法的收敛性和超线性收敛速度，从而使该算法比原有各算法更具实用性。     

凸约束优化的非单调信赖域算法的收敛性

本文对凸约束优化问题提出一类新的非单调信赖域算法,在二次模型Hesse矩阵{Bk}一致有界条件下,证明了算法具有强收敛性;在{Bk}线性增长的条件下,证明了算法具有弱收敛性;这推广了现有约束或凸约束优化问题的各种信赖域算法,改进了收敛性结果。     

利用Armijo型线性搜索HZ共轭梯度法的全局收敛性

由William W.Hager和张洪超提出的一种新的共轭梯度法(简称HZ方法),已被证明是一种有效的方法.本文证明了HZ共轭梯度法在Armijo型线性搜索下的全局收敛性.数值实验显示,在Armijo型线性搜索下的HZ共轭梯度法比在Wolfe线性搜索下更有效.     

Local Convergence of the Affine-Scaling Interior-Point Algorithm for Nonlinear Programming

This paper addresses the local convergence properties of the affine-scaling interior-point algorithm for nonlinear programming. The analysis of local convergence is developed in terms of parameters that control the interior-point scheme and the size of the residual of the linear system that provides the step direction. The analysis follows the classical theory for quasi-Newton methods and addresses q-linear, q-superlinear, and q-quadratic rates of convergence.     

Convergence of the DFP Algorithm Without Exact Line Search

In this paper, we consider the DFP algorithm without exact line search. We strengthen the conditions on the line search and prove that, under the new line search conditions, the DFP algorithm is globally convergent, Q-superlinearly convergent, and n-step quadratically convergent.     

带非精确线搜索的调整搜索方向DFP算法

本文介绍一类新的带调整搜索方向的Broyden算法．我们着重讨论带调整搜索方向的DFP算法的收敛性，在某些非精确线搜索的情况下，我们证明对连续可微目标函数，这算法是整体收敛的，而对一致凸目标函数，收敛速度是一步超线收敛的．从这篇文章的证明过程中，可以得到对一致凸目标函数，DFP算法具有一步超线形收敛．     

求解一般界约束优化问题的积极集信赖域方法

本文提出了一种求解一般界约束优化问题的新方法. 每步迭代分为两个阶段. 在第一阶段, 从 当前迭代点x_k 出发, 沿着经过仿射变换后的梯度步, 得到试探点x_k¹, 记录下它的积极集. 这里用到的仿射变换矩阵不仅依赖于变量到边界的距离, 还依赖于当前迭代点的梯度以及该步迭代中的信赖域半 径. 在第二阶段, 从x_k¹ 出发, 通过在积极约束的零空间里面求解一个信赖域子问题得到新的试探点. 然后判断是否接受这个试探点作为下一个迭代点. 文中证明了算法的全局收敛性, 并且迭代点列的每 个聚点都是一阶稳定点. 文中还对国际著名的CUTEr 算例库中所有的界约束优化问题进行了测试. 数值结果表明我们的方法是有效的, 并且可以与L-BFGS-B 方法相媲美.     

基于模矢搜索和遗传算法的混合约束优化算法

近年,免梯度方法又开始引起大家的注意，由于不需要计算函数的梯度．特别适合用来求解那些无法得到梯度信息或需要花很大计算量才能得到梯度信息的问题．本文构造了一个基于模矢搜索和遗传算法的混合优化算法．在模矢搜索方法的搜索步，用一个类似于遗传算法的方法产生一个有限点集．算法是全局收敛的.     

一类无需线性搜索的记忆梯度法

提出一类新的求解无约束优化问题的记忆梯度法,证明了算法的全局收敛性.当目标函数为一致凸函数时,对其线性收敛速率进行了分析.新算法在迭代过程中无需对步长进行线性搜索,仅需对算法中的一些参数进行预测估计,从而减少了目标函数及梯度的迭代次数,降低了算法的计算量和存储量.数值试验表明算法是有效的.     

A Rapidly Convergence Algorithm for Linear Search and its Application

The essence of the linear search is one-dimension nonlinear minimization problem, which is an important part of the multi-nonlinear optimization, it will be spend the most of operation count for solving optimization problem. To improve the efficiency, we set about from quadratic interpolation, combine the advantage of the quadratic convergence rate of Newton's method and adopt the idea of Anderson-Bjorck extrapolation, then we present a rapidly convergence algorithm and give its corresponding convergence conclusions. Finally we did the numerical experiments with the some well-known test functions for optimization and the application test of the ANN learning examples. The experiment results showed the validity of the algorithm.     

On Superlinear Convergence of Infeasible Interior-Point Algorithms for Linearly Constrained Convex Programs

This note derives bounds on the length of the primal-dual affinescaling directions associated with a linearly constrained convexprogram satisfying the following conditions: 1) the problem has asolution satisfying strict complementarity, 2) the Hessian of theobjective function satisfies a certain invariance property. Weillustrate the usefulness of these bounds by establishing thesuperlinear convergence of the algorithm presented in Wright andRalph [22] for solving the optimality conditions associatedwith a linearly constrained convex program satisfying the aboveconditions.     

一种改进的禁忌搜索算法及其在连续全局优化中的应用

禁忌搜索算法是一种元启发式的全局优化算法,是局部搜索算法的一种推广,已被成功地应用于许多组合优化问题中。本文针对有界闭区域上的连续函数全局优化问题,提出了一种改进的禁忌搜索算法,并进行了理论分析和数值实验。数值实验表明,对于连续函数全局优化问题的求解该算法是可行有效的,并且结构简单,迭代次数较少,是一种较好的全局启发式优化算法。     

Globally and Superlinearly Convergent QP-Free Algorithm for Nonlinear Constrained Optimization

A new, infeasible QP-free algorithm for nonlinear constrained optimization problems is proposed. The algorithm is based on a continuously differentiable exact penalty function and on active-set strategy. After a finite number of iterations, the algorithm requires only the solution of two linear systems at each iteration. We prove that the algorithm is globally convergent toward the KKT points and that, if the second-order sufficiency condition and the strict complementarity condition hold, then the rate of convergence is superlinear or even quadratic. Moreover, we incorporate two automatic adjustment rules for the choice of the penalty parameter and make use of an approximated direction as derivative of the merit function so that only first-order derivatives of the objective and constraint functions are used.