一种求解序列二次规划结合信赖域的多维滤子算法

求解非线性规划问题最有效的方法之一为序列二次规划。但是,由于序列二次规划结合信赖域时,会出现可能无解的情况(即不相容性)。而本文针对不相容性提出了一类序列二次规划结合信赖域的多维相容滤子算法。首先,本文根据一般文献中提及的方法对其约束条件引进参数变量,对其目标函数加以惩罚,即实行了可行化处理(也就是无需可行性恢复阶段),从而克服了不相容性。其次,本文提出了多维滤子条件来对迭代步进行选择性的接受,从而避免了传统二维滤子算法的严格条件,使得对迭代步的接受程度大大的放松。最后针对可能出现的maratos效应,我们通过二阶校正策略提出了一种修改后的多维滤子算法。同时,在一定的假设条件下算法具有全局收敛性。     

带NCP函数的信赖域滤子方法

滤子方法最初是由Fletcher和Leyffer在2002年提出的.这种方法的原理是:在一个试探步,如果相应的目标函数值或约束违反度函数值下降,那么该试探步就会被接受.利用Fischer-Burmeister NCP函数来修正滤子中的约束违反度函数,同时证明了这个新的滤子方法具有全局收敛性.     

求解一类约束优化信赖域方法的子问题

１引言设Ｈ为一给定的ｎ×ｎ对称矩阵,ｃＲ＂,本文考虑如｝的约束优化问题这里ａ＞０为给定的参数,Ｃ＝｛ｘＲｎｘ＜ａ是Ｒ”中的一个球体,Ｋ是一个简单凸闭集．当Ｋ＝Ｒｎ时,问题（Ｐ）便是无约束优化的信赖域子问题．当Ｋ＝｛ｘＲｎμ≤ｘ≤υ５,（μ１,μ２,…,μｎ）Ｔ,υ＝（υ１,υ２…,υｎ）Ｔ,且—∞＜μｉ＜υｉ＜ｖ＜＋∞,ｉ＝１,２,…,ｎ时,问题（Ｐ）便是用信赖域方法求解带上下界约束的优化问题时遇到的子问题．对于无约束信赖域方法的子问题已经有了比较成熟的算法［８,１２－１３,１５－１６］．Ｋ＝Ｒ…     

求解一般界约束优化问题的积极集信赖域方法

本文提出了一种求解一般界约束优化问题的新方法. 每步迭代分为两个阶段. 在第一阶段, 从 当前迭代点x_k 出发, 沿着经过仿射变换后的梯度步, 得到试探点x_k¹, 记录下它的积极集. 这里用到的仿射变换矩阵不仅依赖于变量到边界的距离, 还依赖于当前迭代点的梯度以及该步迭代中的信赖域半 径. 在第二阶段, 从x_k¹ 出发, 通过在积极约束的零空间里面求解一个信赖域子问题得到新的试探点. 然后判断是否接受这个试探点作为下一个迭代点. 文中证明了算法的全局收敛性, 并且迭代点列的每 个聚点都是一阶稳定点. 文中还对国际著名的CUTEr 算例库中所有的界约束优化问题进行了测试. 数值结果表明我们的方法是有效的, 并且可以与L-BFGS-B 方法相媲美.     

结合滤子技术的牛顿折线法及其实现

成功将多维滤子技术应用到牛顿折线法,提出了多维滤子牛顿折线法.新算法增加了牛顿点以及信赖域的试探点被接收作为下一步迭代点的几率.在一定的假设条件下证明了算法的全局收敛性.数值试验表明,滤子牛顿折线法适合于求解等势线呈峡谷状的函数.     

解决大规模信赖域子问题的一种新算法

信赖域方法是解决无约束优化问题的一类有效的方法,而求解信赖域子问题又是信赖域方法的一个重要的组成部分。在本文中,我们首先介绍Hager[4]的序列子空间方法,并分析了对于不同的子空间序列,该算法所具有的性质。随后我们在以上分析的启发下,给出SSM算法的一种改进算法,改进后的算法不仅是全局收敛的,而且进一步减少了矩阵运算量。最后我们给出一些初步的数值试验报告。     

求解非线性系统的有效集信赖域方法

该文给出了一个求解非线性系统的信赖域方法.主要思想是通过引入松弛变量,将问题等价地转化为带非负约束的最优化问题.作者利用有效集策略,在每次迭代中只需求解一个低维的信赖域子问题,该信赖域子问题是通过截断共轭梯度法来近似求解的.在较弱的条件下,获得了一个更一般的收敛性结果.     

解约束优化问题的相容SQP滤子方法

提出了解约束优化问题的一类相容SQP滤子算法.利用序列二次规划方法结合信赖域技术计算试探步,而用滤子接受准则选择接受试探步.对二次规划子问题的不相容问题,应用Powell1978年于文[9]提出的方法对其约束引进参数进行了可行化处理.在一般条件下,算法具有全局收敛性.最后,数值试验显示了较好的结果.     

等式约束优化的组合信赖域与拟牛顿算法

本文对等式约束问题提出了一个种组合信赖域与拟牛顿算法。该算法的特点是若Lagrangian函数的近似Ｈessian阵在等式约束Jacobi阵的零空间正定的,则选择拟牛顿算法,否则用信赖域算法,在通常信赖域算法的收敛假设下,该文证明了组合算法的全局收敛性。     

An ODE-Based Trust Region Filter Algorithm for Unconstrained Optimization

In this article, an ODE-based trust region filter algorithm for unconstrained optimization is proposed. It can be regarded as a combination of trust region and filter techniques with ODE-based methods. Unlike the existing trust-region-filter methods and ODE-based methods, a distinct feature of this method is that at each iteration, a reduced linear system is solved to obtain a trial step, thus avoiding solving a trust region subproblem. Under some standard assumptions, it is proven that the algorithm is globally convergent. Preliminary numerical results show that the new algorithm is efficient for large scale problems.     

解等式约束优化的既约Hessian依赖域方法

本文提出了解等式约束优化的一个信赖域方法,该方法以既约Hessian逐步二次规划为基础,它享有信赖域方法与既约Hessian方法的优点,在通常条件下,证明了算法的全局收敛性。     

等式约束优化非单调信赖域算法

设计了一个新的求解等式约束优化问题的非单调信赖域算法.该算法不需要罚函数也无需滤子.在每次迭代过程中只需求解满足下降条件的拟法向步及切向步.新算法产生的迭代步比滤子方法更易接受,计算量比单调算法小.在一般条件下,算法具有全局收敛性.     

无约束优化的自适应信赖域方法

本文对无约束优化问题提出一个自适应信赖域方法,每次迭代都充分利用前迭代点的信息自动产生一个恰当的信赖域半径,在此区域内,二次模型与原目标函数尽可能一致,避免盲目的尝试,提高了计算效率。文中在通常条件下证明了全局收敛性及局部超线性收敛结果,给出了新算法与传统信赖域方法的数值结果,证实了新方法的有效性。     

A Line Search and Trust Region Algorithm with Trust Region Radius Converging to Zero

In this paper, we present a new line search and trust region algorithm for unconstrained optimization problem with the trust region radius converging to zero. The new trust region algorithm performs a backtracking line search from the failed, point instead of resolving the subproblem when the trial step results in an increase in the objective function. We show that the algorithm preserves the convergence properties of the traditional trust region algorithms. Numerical results are also given.     

带非线性不等式约束优化问题的信赖域算法

借助于KKT条件和NCP函数,提出了求解带非线性不等式约束优化问题的信赖域算法.该算法在每一步迭代时,不必求解带信赖域界的二次规划子问题,仅需求一线性方程组系统.在适当的假设条件下,它还是整体收敛的和局部超线性收敛的.数值实验结果表明该方法是有效的.     

使用信赖域策略的投影梯度方法解约束优化问题

本文使用信赖域策略结合投影梯度算法来解约束优化问题,并给出算法及其收敛性。进一步,给出了收敛点具有满足约束问题一阶和二阶必要性的性质。     

一类约束非光滑优化的非单调信赖域算法

提出了求解一类带一般凸约束的复合非光滑优化的信赖域算法 .和通常的信赖域方法不同的是 :该方法在每一步迭代时不是迫使目标函数严格单调递减 ,而是采用非单调策略 .由于光滑函数、逐段光滑函数、凸函数以及它们的复合都是局部Lipschitz函数 ,故本文所提方法是已有的处理同类型问题 ,包括带界约束的非线性最优化问题的方法的一般化 ,从而使得信赖域方法的适用范围扩大了 .同时 ,在一定条件下 ,该算法还是整体收敛的 .数值实验结果表明 :从计算的角度来看 ,非单调策略对高度非线性优化问题的求解非常有效     

一种双割线折线法求解信赖域子问题

结合利用Hessian阵的特征值性质,本文提出求解信赖域子问题的一种双割线折线法,它不同于Powell的单折线,Dennis的双折线和赵英良的切线单折线.在适当条件下,分析双割线折线路径的性质,且证明了算法的收敛性.数值试验表明,这种新算法是有效且可行的.