凸约束非线性方程组的一种无导数投影方法

推广LCG共轭梯度方法并建立一种求解凸约束非线性单调方程组问题的无导数投影方法.在适当的条件下,证明了方法的全局收敛性.方法不需要任何导数信息,而且继承了共轭梯度方法储存量小的特征,因此它特别适合求解大规模非光滑的非线性单调方程组问题.大量数值结果和比较表明方法是有效的和稳定的.     

解凸约束非线性单调方程组的无导数谱PRP投影算法

本文在著名PRP共轭梯度算法的基础上研究了一种无导数谱PRP投影算法,并证明了算法在求解带有凸约束条件的非线性单调方程组问题的全局收敛性.由于无导数和储存量小的特性,它更适应于求解大规模非光滑的非线性单调方程组问题.数值试验表明,新算法对给定的测试问题是有效的和稳定的.     

谱HS投影算法求解非线性单调方程组

借助谱梯度法和HS共轭梯度法的结构, 建立一种求解非线性单调方程组问题的谱HS投影算法. 该算法继承了谱梯度法和共轭梯度法储存量小和计算简单的特征, 且不需要任何导数信息, 因此它适应于求解大规模非光滑的非线性单调方程组问题. 在适当的条件下, 证明了该算法的收敛性, 并通过数值实验表明了该算法的有效性.     

凸约束伪单调方程组的无导数投影算法

基于HS共轭梯度法的结构,本文在弱假设条件下建立了一种求解凸约束伪单调方程组问题的迭代投影算法.该算法不需要利用方程组的任何梯度或Jacobian矩阵信息,因此它适合求解大规模问题.算法在每一次迭代中都能产生充分下降方向,且不依赖于任何线搜索条件.特别是,我们在不需要假设方程组满足Lipschitz条件下建立了算法的全...     

非线性伪单调方程组的谱LS型投影算法

基于谱梯度法和著名LS共轭梯度法的结构,该文建立了求解凸约束非线性伪单调方程组问题的谱LS型无导数投影算法.通过构建适当的谱参数,该算法在每一次迭代中都能保证搜索方向的充分下降性,并且独立于线搜索条件.在适当的假设条件和经典无导数线搜索条件下,算法具有全局收敛性.通过数值实验发现,该算法继承了LS共轭梯度法优秀的计算性能,并提高了稳定性.     

解凸约束非线性单调方程组的无导数低存储Broyden族投影法

拟牛顿法是求解非线性方程组的一类有效方法.相较于经典的牛顿法,拟牛顿法不需要计算Jacobian矩阵且仍具有超线性收敛性.本文基于BFGS和DFP的迭代公式,构造了新的充分下降方向.将该搜索方向和投影技术相结合,本文提出了无导数低存储的投影算法求解带凸约束的非线性单调方程组并证明了该算法是全局且R-线性收敛的.最后,将该算法用于求解压缩感知问题.实验结果表明,本文所提出的算法具有良好的计算效率和稳定性.     

带凸约束的非线性方程组的无导数记忆法

基于无导数线搜索技术和投影方法,本文提出了一种新的求解带凸约束的非线性方程组的无导数记忆法.该方法在每步迭代时不需要计算和贮存任何矩阵,因而适合求解大规模非线性方程组问题.在较弱条件下,该算法具有全局收敛性.数值试验结果及其相关的比较表明该算法是比较有效的.     

一类带凸约束的单调非线性方程组的无导数投影法收敛率分析

在适当的条件下,本文进一步研究带凸约束的单调非线性方程组的超记忆梯度型方法,并建立了它的次线性收敛率.同时,本文还给出求解带凸约束的单调非线性方程组的无导数投影法的更一般的算法框架,并分析了其收敛性及其收敛率.两个说明性的数值计算实例表明了该算法框架的可行性.     

基于非单调自适应信赖域法求解非线性方程组

本文提出了求解非线性方程组的非单调自适应信赖域法.在适当的条件下证明了非单调自适应信赖域法的局部及全局收敛性质.基本的数值实验表明该方法在处理某些非线性方程组是非常有效的.     

强单调对称非线性方程组的BFGS算法

提出一种求解强单调非线性方程组的BFGS算法,该算法的一个明显优点是Bκ的条件数比Li-Fukushima^[3]提出的GNBFGS中Bκ的条件数小得多。且该算法是一种无需计算导数的下降算法。在一定的条件下,证明了算法的全局收敛性和超线性收敛性。最后进行数值试验,结果表明,本文算法具有较好的数值结果。而且验证了本文所提出的算法中Bκ的条件数要比GNBFGS算法的条件数小得多。     

Spectral DY-Type Projection Method for Nonlinear Monotone Systems of Equations

In this paper, we propose a spectral DY-type projection method for nonlinear monotone systems of equations, which is a reasonable combination of DY conjugate gradient method, the spectral gradient method and the projection technique. Without the differentiability assumption on the system of equations, we establish the global convergence of the proposed method, which does not rely on any merit function. Furthermore, this method is derivative-free and so is very suitable to solve large-scale nonlinear monotone systems. The preliminary numerical results show the feasibility and effectiveness of the proposed method.     

利用Fisher函数解非线性不等式约束优化问题的梯度投影算法

本文将利用梯度投影与Fisher函数提出一个新的二阶段搜索方向,给出相应的解非线性不等式约束优化问题的梯度投影算法,并证明了该算法具有全局收敛性.     

An Liu-Storey-Type Method for Solving Large-Scale Nonlinear Monotone Equations

An algorithm for solving nonlinear monotone equations is proposed, which combines a modified Liu-Storey conjugate gradient method with hyperplane projection method. Under mild conditions, the global convergence of the proposed method is established with a suitable line search method. The method can be applied to solve large-scale problems for its lower storage requirement. Numerical results indicate that our method is efficient.     

一类新的共轭投影梯度算法

本文利用[5]引进的共轭投影的概念,结合堵丁柱［3］中的思想,提出一类新的共轭梯度投影算法．在一定的条件下,证明了该算法具有全局收敛性和超线性收敛速度．     

A gradient projection method for the sparse signal reconstruction in compressive sensing

Many problems arising from machine learning, compressive sensing, linear inverse problem, and statistical inference involve finding sparse solutions to under-determined or ill-conditioned equations. In this paper, a gradient projection method is proposed to recover sparse signal in compressive sensing by solving the nonlinear convex constrained equations. The global convergence is established with the backtracking line search. Preliminary numerical experiments coping with the sparse signal reconstruction in compressive sensing are performed, which show that the proposed method is very effective and stable.     

解非线性单调方程组的投影自调比对称秩1拟牛顿法

本文给出了求解非线性单调方程组的两个自调比对称秩1牛顿法,即投影SSR1法和投影有限储存SSR1法.这两个算法将自调比对称秩1校正参数进行了一个简单的修改并采用了保守策略.在非线性单调函数满足李普希茨连续的条件下,证明了算法的全局收敛性,并与相同类型的BFGS法进行了初步的数值比较试验,试验结果表明自调比对称秩1类投影算法求解非线性单调方程组与相同类型的BFGS数值结果相当.     

Superlinear Convergence of a Newton-Type Algorithm for Monotone Equations

We consider the problem of finding solutions of systems of monotone equations. The Newton-type algorithm proposed in Ref. 1 has a very nice global convergence property in that the whole sequence of iterates generated by this algorithm converges to a solution, if it exists. Superlinear convergence of this algorithm is obtained under a standard nonsingularity assumption. The nonsingularity condition implies that the problem has a unique solution; thus, for a problem with more than one solution, such a nonsingularity condition cannot hold. In this paper, we show that the superlinear convergence of this algorithm still holds under a local error-bound assumption that is weaker than the standard nonsingularity condition. The local error-bound condition may hold even for problems with nonunique solutions. As an application, we obtain a Newton algorithm with very nice global and superlinear convergence for the minimum norm solution of linear programs.This research was supported by the Singapore-MIT Alliance and the Australian Research Council.     

约束优化问题的修正共轭梯度投影算法

对闭凸集约束的非线性规划问题构造了一个修正共轭梯度投影下降算法,在去掉迭代点列有界的条件下,分析了算法的全局收敛性.新算法与共轭梯度参数结合,给出了三类结合共轭梯度参数的修正共轭梯度投影算法.数值例子表明算法是有效的.     

避免导数计算的一个新的迭代公式

Newton迭代是非线性方程求根的一个非常有效的方法,它只需计算一阶导数值,不必计算高阶导数值,且具有二阶的收敛速度.本文给出一个新的迭代公式,只需计算函数值,同样也具有二阶的收敛速度,它具有形式简单,计算量小的特点,数值试验表明该迭代公式是非常有效的.