求解大规模极大极小问题的光滑化三项共轭梯度算法

基于指数罚函数,对最近提出的一种求解无约束优化问题的三项共轭梯度法进行了修正,并用它求解更复杂的大规模极大极小值问题.证明了该方法生成的搜索方向对每一个光滑子问题是充分下降方向,而且与所用的线搜索规则无关.以此为基础,设计了求解大规模极大极小值问题的算法,并在合理的假设下,证明了算法的全局收敛性.数值实验表明,该算法优于文献中已有的类似算法.     

求解一类矩阵迹极小化问题的非线性共轭梯度法

本文研究了图分割问题中的矩阵迹极小化问题.利用半正定矩阵的Gramian表示,将该问题转化为无约束优化问题,设计了Armijo线搜索下的非线性共轭梯度方法进行求解.数值例子表明新方法是可行的.     

试探算法与SSOR预处理共轭梯度算法的拟最佳因子

1引言在求解系数矩阵为对称正定的大型线性代数方程组Au=b (1．1)的迭代法方面,七十年代以来发展了各种预处理共轭梯度法．由于SSOR分裂中具有对称因子,可用于加速共轭梯度法,称为SSOR预处理共轭梯度法(简记为;SSORPCG．同时,由于当松弛因子ω∈(0,2)时,SSOR迭代法收敛,从而进一步发展了m步SSOR预处理共轭梯度法(简记为:m-step SSORPCG．胡家赣证明,经过最优的SSOR预条件,预优     

一类拟可微函数的极小化算法

本文给出一类拟可微函数的极小化问题min f(x)=f₀(x)-maxf_i(x),x∈Rⁿ的算法,其中f₀是凸函数,f_i是连续可微函数,I是一个有限的指标集.算法的核心是对次微分作外接多面体近似.该算法属于下降算法.有关算法的理论作了详细的论述.     

共轭梯度法的直观解释

在回顾传统共轭梯度法的基础上,利用数形结合的方式,比较细致地分析了共轭梯度法的基本思想和运算关系,并且利用数值例子和在高维空间的推广情况作了讨论和推广.这有助于初学者更好地理解共轭梯度法的深层含义,对该部分的教学具有一定的参考价值.     

梯度Q-线性收敛的光滑凸极小化的一阶算法

受性能估计问题(PEP)方法的启发,通过考察最坏函数误差的收敛边界(即效率),优化了迭代点对应的梯度满足Q-线性收敛的光滑凸极小化的一阶方法的步长系数.介绍新的有效的一阶方法,称为QGM,具有与优化梯度法(OGM)类似的计算有效形式.     

关于共轭梯度法的下降性和收敛性

本文给出了重新开始的一个准则,其准则是为保证共轭梯度法的下降性,我们不仅得到了具有不同参数选择的一般共轭梯度法的收敛性,而且将Ｒｅｆ．１中的结论给予推广。     

Chan-Vese模型的共轭梯度算法

随着图像采集设备的发展和对图像分辨率要求的提高,人们对图像处理算法在收敛速度和鲁棒性方面提出了更高的要求.从优化的角度对Chan-Vese模型进行算法上的改进,即将共轭梯度法应用到该模型中,使得新算法有更快的收敛速度.首先,简单介绍了Chan-Vese模型的变分水平集方法的理论框架;其次,将共轭梯度算法引入到该模型的求解,得到了模型的新的数值解方法;最后,将得到的算法与传统求解Chan-Vese模型的最速下降法进行了比较.数值实验表明,提出的共轭梯度算法在保持精度的前提下有更快的收敛速度.     

列正交约束下广义Sylvester方程极小化问题的有效算法

研究列正交约束下广义Sylvester方程极小化问题的有效算法.基于Stiefel流形的几何性质和欧氏空间中的MPRP共轭梯度法,构造一类黎曼MPRP共轭梯度迭代求解算法,给出算法全局收敛性.该迭代格式得到的搜索方向总能保证该目标函数下降.数值实验和数值比较验证所提出算法对于问题模型是高效可行的.     

改进HS共轭梯度算法及其全局收敛性

１．引 言 １９５２年 Ｍ．Ｈｅｓｔｅｎｅｓ和Ｅ．Ｓｔｉｅｆｅｌ提出了求解正定线性方程组的共轭梯度法［１］．１９６４年Ｒ．Ｆｌｅｔｃｈｅｒ和Ｃ．Ｒｅｅｖｅｓ将该方法推广到求解下列无约束优化问题： ｍｉｎｆ（ｘ）,ｘ∈Ｒｎ,（１）其中ｆ：Ｒｎ→Ｒ１为连续可微函数,记ｇｋ＝ ｆ（ｘｋ）,ｘｋ∈ Ｒｎ． 若点列｛ｘｋ｝由如下算法产生：其中 βｋ＝［ｇＴｋ（ｇｋ－ｇｋ－１）］／［ｄＴｋ－１（ｇｋ－ｇｋ－１）］．（Ｈｅｓｔｅｎｅｓ－Ｓｔｉｅｆｅｌ）　　（４）则称该算法为 Ｈｅｓｔｅｎｅｓ—Ｓｔｉｅｆｅｌ共轭梯度算…     

一个新的共轭投影梯度算法及其超线性收敛性

利用共轭投影梯度技巧，结合SQP算法的思想，建立了一个具有显示搜索方向的新算法，在适当的条件下，证明算法是全局收敛和强收敛的，且具有超线性收敛性，最后数值实验表明算法是有效的。     

基于函数下降量的共轭梯度法

本文提出了一种计算共轭梯度法中主要参数βk的新形式,它的计算与目标函数的下降量有关.并且还构造了它的一种杂交形式.利用了βk的新形式及其杂交形式的共轭梯度法都是收敛的.大量的数值实验表明它们是非常有效和稳健的,能用于大规模科学计算.     

A RESTARTING DIRECTION FOR THE CONJUGATE GRADIENT METHOD

The main purpose of this paper is to provide a restarting direction for improving on the standard conjugate gradient method.If a drastic non-quadratic behaviour of the objective function is observed in the neighbour of xk,then a restart should be done.The scaling symmetric rank-one update with Davidon's optimal criterion is applied to generate the restarting direction.It is proved that the conjugate gradient method with this strategy retains the quadratic termination.Numerical experiments show that it is successful.     

一种修正的HS共轭梯度法及全局收敛性

<正>1引言考虑无约束极小化问题:(?),(1)其中f(x)连续可微,其梯度函数用g(x)表示.共轭梯度法求解(1)的常用迭代格式为:x_(k+1)=x_k+α_kd_k,(2)(?)(3)其中g_k=▽f(x_k),α_k≥0是由某种线搜索得到的步长因子;d_k为搜索方向,β_k为标量,β_k的不同选择产生了不同的共轭梯度法.著名的β_k公式有:     

一类新的具有充分下降条件和强收敛性的共轭梯度法

本文研究了求解无约束优化问题的WYL共轭梯度法.利用修正迭代格式,得到了算法在每步迭代能产生不依赖于搜索条件的充分下降方向.同时,在原算法中关于Wolfe条件中参数去掉的情况下,获得了本文算法是强收敛的.数值实验说明本文算法可以有效求解测试问题.     

非单调Frame型直接搜索共轭梯度法

基于非单调的frame概念,提出了一个求解无约束最优化问题的直接搜索共轭梯度算法.该算法不使用充分下降条件而能够在网格(grid)之外进行搜索,这一点不同于GSS(generating setsearch)算法框架,后者为了实现网格之外的搜索必须使用充分下降条件或者移动网格(movinggrids)技术或者有理点阵(r...     

一类新的共轭梯度法

本文提出了一类新的共轭梯度法，在算法的迭代过程中，迭代方向保持下降性，并在一类非精确性搜索条件下证明了其全局收敛性。