一个新锥模型信赖域算法

1引言本文考虑的无约束最优化问题为(?)f(x),(1.1)其中f(x)为连续可微函数.解此问题的很多算法一般都采用二次函数模型去逼近f(x) ([10],[15]).对于一些非二次性态强、曲率变化剧烈的函数,用二次函数模型去逼近可能效果不好,因此Davidon于1980年首次提出了解无约束优化问题的锥模型方法.锥模型是二次模型的推广,比二次函数具有更多的自由度,因此期望能够更充分地逼近原函数.对于一些在极小点附近很不对称,或曲率变化剧烈的函数,或在某个区域内变化大的函数,全部或部分用锥模型去逼近的效果可能好于用二次模型去逼近.     

一个锥模型的自适应信赖域算法及其收敛性

本文研究了无约束最优化问题的基于锥模型的自适应信赖域算法.利用理论分析得到一个新的自适应信赖域半径.算法在每步迭代中以变化的速率、当前迭代点的信息以及水平向量信息调节信赖域半径的大小.从理论上证明了新算法的全局收敛性和Q-二阶收敛性.用数值试验验证了新算法的有效性.推广了已有的自适应信赖域算法的可行性和有效性.     

基于锥模型的一般信赖域算法收敛性分析

本文给出了锥模型信赖域算法的一般模型，它不仅包含通常的信赖域算法一相当于锥模型算法中bk＝0的情形，而且文献[1]的算法也可看作其子类．我们研究这个模型的较强的全局收敛性，并讨论保证算法具有超线性收敛速率的条件，从而推广了文[1]和文[4]中的若干结果．     

CONIC TRUST REGION METHOD FOR LINEARLY CONSTRAINED OPTIMIZATION

In this paper we present a trust region method of conic model for linearly constrained optimization problems.We discuss trust region approaches with conic model subproblems.Some equivalent variation properties and optimality conditions are given.A trust region algorithm based on conic model is constructed.Global convergence of the method is established.     

一个解无约束优化问题的过滤信赖域方法

1 引言 本文中,我们考虑一般的无约束极小化问题: minx∈Rn f(x), (1.1) 其中f:Rn→R二次连续可微. 信赖域方法是解问题(1.1)的一类非常成功的算法.在标准信赖域算法框架([2][11][1])中,迭代点列是单调下降的,对于一些坏条件问题,会出现收敛非常缓慢的情形.针对这种问题,人们提出了非单调技术([2][3][13][14][15]),来加快算法在实际计算中的收敛速度,取得了很好的数值效果.     

A NEW FAMILY OF TRUST REGION ALGORITHMS FOR UNCONSTRAINED OPTIMIZATION

Trust region (TR) algorithms are a class of recently developed algorithms for nonlinear optimization. A new family of TR algorithms for unconstrained optimization, which is the extension of the usual TR method, is presented in this paper. When the objective function is bounded below and continuously, differentiable, and the norm of the Hesse approximations increases at most linearly with the iteration number, we prove the global convergence of the algorithms. Limited numerical results are reported, which indicate that our new TR algorithm is competitive.     

解无约束最优化的基于锥模型的过滤集- 信赖域方法

锥模型优化方法是一类非二次模型优化方法, 它在每次迭代中比标准的二次模型方法含有更丰富的插值信息. Di 和Sun (1996) 提出了解无约束优化问题的锥模型信赖域方法. 本文根据Fletcher 和Leyffer (2002) 的过滤集技术的思想, 在Di 和Sun (1996) 工作的基础上, 提出了解无约束优化问题的基于锥模型的过滤集信赖域算法. 在适当的条件下, 我们证明了新算法的收敛性. 有限的数值试验结果表明新算法是有效的.     

基于有理函数模型的一维最优化方法

在本文中提出了基于有理函数模型的一维最优化方法。这些方法比二次模型方法有较好的数值性态和适应性。我们给出了有理反差商方法和Ｎｅｖｉｌｅ型方法，并将其与二次插值方法进行了数值比较。     

解新锥模型信赖域子问题的折线法

本文以新锥模型信赖域子问题的最优性条件为理论基础,认真讨论了新子问题的锥函数性质,分析了此函数在梯度方向及与牛顿方向连线上的单调性.在此基础上本文提出了一个求解新锥模型信赖域子问题折线法,并证明了这一子算法保证解无约束优化问题信赖域法全局收敛性要满足的下降条件.本文获得的数值实验表明该算法是有效的.     

有奇异解的无约束最优化问题的一种混合法

本文研究求解含有奇异解的无约束最优化问题算法 .该类问题的一个重要特性是目标函数的Hessian阵可能处处奇异 .我们提出求解该类问题的一种梯度 -正则化牛顿型混合算法 .并在一定的条件下得到了算法的全局收敛性 .而且 ,经一定迭代步后 ,算法还原为正则化 Newton法 .因而 ,算法具有局部二次收敛性 .     

解无约束优化问题的一个新的带线搜索的信赖域算法

在传统信赖域方法的基础上, 提出了求解无约束最优化问题的一个新的带线搜索的信赖域算法. 该算法采用大步长 Armijo 线搜索技术获得迭代步长, 克服了每次迭代求解信赖域子问题时计算量较大的缺点, 因而适用于求解大型的优化问题. 在适当的条件下, 我们证明了算法的全局收敛性. 数值实验结果表明本文所提出的算法是有效的.     

A trust-region method with a conic model for unconstrained optimization

In this paper, we propose and analyze a new conic trust-region algorithm for solving the unconstrained optimization problems. A new strategy is proposed to construct the conic model and the relevant conic trust-region subproblems are solved by an approximate solution method. This approximate solution method is not only easy to implement but also preserves the strong convergence properties of the exact solution methods. Under reasonable conditions, the locally linear and superlinear convergence of the proposed algorithm is established. The numerical experiments show that this algorithm is both feasible and efficient. Copyright © 2008 John Wiley & Sons, Ltd.     

无约束优化问题的一个下降方法

本文研究了无约束优化问题.利用当前和前面迭代点的信息以及曲线搜索技巧产生新的迭代点,得到了一个新的求解无约束优化问题的下降方法.在较弱条件下证明了算法具有全局收敛性.当目标函数为一致凸函数时,证明了算法具有线性收敛速率.初步的数值试验表明算法是有效的.     

一个无正则条件下一般约束最优化问题的信赖域算法的收敛性

本文我们对[1]的算法给出一个修正并在无正则条件下对这一算法给出了收敛性分析，与[1]不同，我们不需要(SBSQ)约束条件。因此本文的结果是[1]的结果的推广和加强。     

解非线性优化问题的锥模型信赖域方法

Trust region methods are powerful and effective optimization methods. The conic model method is a new type of method with more information available at each iteration than standard quadratic-based methods. The advantages of the above two methods can be combined to form a more powerful method for constrained optimization. The trust region subproblem of our method is to minimize a conic function subject to the linearized constraints and trust region bound. At the same time, the new algorithm still possesses robust global properties. The global convergence of the new algorithm under standard conditions is established.     

一类新型DL共轭梯度法研究

提出了求解无约束优化问题的新型DL共轭梯度方法. 同已有方法不同之处在于,该方法构造了一种修正的Armijo线搜索规则,它不仅能给出当前迭代步步长, 而且还能同时确定计算下一步搜索方向时需要用到的共轭参数值. 在较弱的条件下, 建立了算法的全局收敛性理论. 数值试验表明,新型共轭梯度算法比同类方法具有更好的计算效率.     

A FILTER-TRUST-REGION METHOD FOR LC^1 UNCONSTRAINED OPTIMIZATION AND ITS GLOBAL CONVERGENCE

In this paper we present a filter-trust-region algorithm for solving LC1 unconstrained optimization problems which uses the second Dini upper directional derivative. We establish the global convergence of the algorithm under reasonable assumptions.     

A NEW NONMONOTONE TRUST REGION ALGORITHM FOR SOLVING UNCONSTRAINED OPTIMIZATION PROBLEMS

Based on the nonmonotone line search technique proposed by Gu and Mo （Appl. Math. Comput. 55, （2008） pp. 2158-2172）, a new nonmonotone trust region algorithm is proposed for solving unconstrained optimization problems in this paper. The new algorithm is developed by resetting the ratio ρk for evaluating the trial step dk whenever acceptable. The global and superlinear convergence of the algorithm are proved under suitable conditions. Numerical results show that the new algorithm is effective for solving unconstrained optimization problems.     

一类新的信赖域算法的全局收敛性

本文对于无约束最优化问题提出了一类非单调的信赖域算法，它是通常的单调信赖域算法的推广。当目标函数是有下界的连续可微函数，而且它的二阶导数的近似的模是线性地依赖于迭代次数时，我们证明了新算法的整体收敛性。