对Rosen的梯度投影法收敛性的讨论

一、引言 Rosen的梯度投影法发表于1960,是非线性规划的一个基本方法。方法简单,实际应用的数值效果好。方法的重要性还在于,一些更有效的近代算法继续采用了它的基本思想,在这些算法中,有代表性的是Goldfarb方法。 从Rosen方法发表到现在,已有二十余年了,但它的收敛性问题尚未解决,所谓收敛性问题,是指,当算法产生一无穷序列时,其聚点是否是所求的解。或者从点到集映像的收敛性理论出发,在几何上可解释为,算法是否会由于jamming(zigzaging)的现象而导     

拓广的Rosen梯度投影法及其整体收敛性证明

§1.引言 Rosen梯度投影法是求解非线性规划问题的基本方法之一,方法简便,实际应用的数值效果好,而且许多近代的更有效的算法继续采用了它的基本思想和技巧。在这些算法中最有代表性的是Goldfarb方法和Murtagh-Sargents方法,其收敛性自然在某种程度上依赖于Rosen方法的收敛性。但是,Rosen方法之严格的收敛性证明尚未取得。尽管D.G.Luenberger在其著作中应用Zangwill的总体收敛性充分性定理说     

一个新的转轴法与Levitin-Polyak梯度投影法的简化及其收敛特征

文献[1]给出了一个新的转轴法,从而成功地解决了“既约梯度”法的收敛性。本文先证明了这种转轴方法的两个基本性质,然后利用转轴及其性质,在线性约束的情况下给出并证明了Levitin-Polyak梯度投影法(简称L-P法)的两个简化的收敛程序(Ⅰ)与(Ⅱ)。     

非负矩阵分解的一种新型交替投影梯度方法

正1引言随着科学技术的发展,人类社会进入了大数据时代,高维数据普遍出现在医学、生物学和信息技术等领域.直接处理这些高维数据存在很大的困难,经典方法难以适用.为了发现高维数据相关特征,必须有效处理高维数据,其中关键在于降低数据维数.矩阵分解技术是解决这个问题的有效途径之一.     

一个记忆梯度投影方法

本文将记忆梯度法推广到求解带有线性约束的非线性规划问题中去,将记忆梯度投影到适当的线性子空间而得其可行方向,在适当的条件下,证明了算法的整体收敛性。     

一个新的梯度投影方法

Rosen的梯度投影法自问世以来获得了广泛的注意和系统的研究。它的收敛问题经Polak和章祥荪的研究已获基本解决.但是,目前的梯度投影法都有如下两个问题:     

简约梯度法与ROSEN梯度投影法的一个关系

1 引 言 考虑如下非线性规划问题 min{f(x)|A_1x=b,a_i~Tx≤b_i,i∈I},(1.1)其中I表示所有不等式约束指标集合。设R为(1.1)的可行域,对任意x∈R记A~T(x)=(A_1~T:A_2~T(x)),其中A_2(x)是以a_i,i∈I(x)为行的矩阵,I(x)={i|a_i~Tx=b_i,i∈I},对不同的可行点x∈R,A~2(x)可能不同 问题(1.1)的假设条件。 〈H1〉f一阶连续可微, 〈H2〉x∈R,A(x)行满秩。 1960年Rosen对问题(1.1)给出一种梯度投影法,其基本定理为     

一族非线性约束条件下的摄动梯度投影法

对问题(P),堵丁柱改变了以往的做法,利用对约束切空间的摄动技巧,给出了一个收敛的梯度投影方法.本文推广了[1]中方法,给出了一个更一般的收敛算法,它无需[1]中对约束函数的凸性假设,也不须多次求投影梯度.本文中算法的收敛性证明是建立在[3]中引理10.2.6的简单推广得到的引理3的基础上的.本文引理3减弱了引理10.2.6中的条件3,因而更具实用性.可以简化许多算法的收敛性证明.     

求解界约束优化的一种新的非单调谱投影梯度法

本文给出求解界约束优化问题的一种新的非单调谱投影梯度算法. 该算法是将谱投影梯度算法与Zhang and Hager [SIAM Journal on Optimization,2004,4（4）：1043-1056]提出的非单调线搜索结合得到的方法. 在合理的假设条件下,证明了算法的全局收敛性.数值实验结果表明,与已有的界约束优化问题的谱投影梯度法比较,利用本文给出的算法求解界约束优化问题是有竞争力的.     

冲击接触问题的一种双共振投影梯度算法

根据冲击接触计算模型所需满足的基本控制方程和非线性互补条件,应用非线性互补问题与约束优化的等价关系将非线性互补接触问题转变成一个非线性规划问题,系统地推导建立了冲击接触问题的一种双共轭投影梯度计算方法．增广Lagrange乘子法克服了罚函数要求减小迭代步长以达到计算稳定的限制,即使对于冲击接触问题亦可以采用较大迭代步长,在形成的与原互补问题等价的无约束规划模式下,应用双共轭投影梯度算法提高非线性搜索速度和计算效率．算法模型计算结果表明,所建立的双共轭投影梯度计算理论及方法是正确有效的．     

A SIMPLE WAY CONSTRUCTING SYMPLECTICRUNGE-KUTTA METHODS

1.IntroductionandPreliminariesLetfibeademainintheorientedEuclideanspaceRZdofpoint(p,q)~((PI,...5pd)",(ql,'5qd)").IfH(P,q)isasufficientlysmoothrealfunctiondefinedinfi,thentheHamiltoniansystemofdifferentialequationswithHamiltonianH(P,q)isgivenbydpiOHdqiOH~~~~~:fi(p,q),}qi~OH~.dtoqidtOPtTheintegerdiscalledthenumberofdegreesoffreedomandfiisthephasespace.HereweassumethatallHamiltoniansconsideredareautonomous,i.e.,time--independent.Definition1.1.Aone-stepmethodiscalledsymplecticif,asappl…     

一种改进的共轭梯度法及全局收敛性

本文在DY共轭梯度法的基础上对解决无约束最优化问题提出一种改进的共轭梯度法.该方法在Wolfe线搜索下能够保证充分下降性,并在目标函数可微的条件下,证明了算法的全局收敛性.大量数值试验表明,该方法是很有效的.     

一种修正的HS共轭梯度法及全局收敛性

<正>1引言考虑无约束极小化问题:(?),(1)其中f(x)连续可微,其梯度函数用g(x)表示.共轭梯度法求解(1)的常用迭代格式为:x_(k+1)=x_k+α_kd_k,(2)(?)(3)其中g_k=▽f(x_k),α_k≥0是由某种线搜索得到的步长因子;d_k为搜索方向,β_k为标量,β_k的不同选择产生了不同的共轭梯度法.著名的β_k公式有:     

基于函数下降量的共轭梯度法

本文提出了一种计算共轭梯度法中主要参数βk的新形式,它的计算与目标函数的下降量有关.并且还构造了它的一种杂交形式.利用了βk的新形式及其杂交形式的共轭梯度法都是收敛的.大量的数值实验表明它们是非常有效和稳健的,能用于大规模科学计算.     

层次分析的广义梯度特征向量法

在层次分析中提出了一种广义梯度特征向量法,并给出它的标准形,讨论了和其它排序方法的关系.     

矩阵化为 Jordan 形的一种简便方法

本文给出了化矩阵为Jordan 标准形的一种简便方法.     

A CHARACTERIZATI0N OF SUBMETACOMPACTNESS

The following results are obtained: 1.A space is submetacompact iff it is almost discretely $\[\theta \]$-expandable and strictly qnasi-paracompact. 2.A space is paracompact iff it is $\[\theta \]$-expandable and strictly quasi-paracompact.     

一类非散度型椭圆方程解的梯度估计

得到了一类非散度型二阶椭圆方程解的梯度在 Lp中的局部估计 ,其中 p >0 .方程形式为 :L0 u+ b .　Δu -vu =f,L0 为具 H lder连续系数的非散度型椭圆算子 ,f有界可测 ,| b| 2 与 v均属于 Kato类