一种求解非线性无约束优化问题的充分下降的共轭梯度法

共轭梯度法是一类具有广泛应用的求解大规模无约束优化问题的方法. 提出了一种新的非线性共轭梯度(CG)法,理论分析显示新算法在多种线搜索条件下具有充分下降性. 进一步证明了新CG算法的全局收敛性定理. 最后,进行了大量数值实验,其结果表明与传统的几类CG方法相比,新算法具有更为高效的计算性能.     

一个具有充分下降性的混合共轭梯度法

混合共轭梯度法是一个改进的新共轭梯度法,有着比较好的数值表现.在Jia提出的混合共轭梯度法基础上,建立了一个新的具有充分下降性的混合共轭梯度算法;并证明了该算法在强Wolfe型线搜索下具有全局收敛性.数值实验结果表明该算法是有效的.     

求解线性方程组的一般共轭梯度法（英文）

本文在求解线性方程组的共轭方向法的基础上,通过引入非奇异对称矩阵,给出一般的共轭梯度法.该方法推广了共轭梯度法(CG),且不同于预优共轭梯度法(PCG).数值例子表明该方法有效.     

测地线活动轮廓模型的图像分割快速算法

从最优化理论的角度来看,目前求解图像分割的测地线活动轮廓(geodesic active contour,GAC)模型大多采用固定步长的最速下降算法.而众所周知,该算法收敛速度较慢,这在能量泛函的梯度较小时尤为明显.对求解GAC模型的快速算法进行了研究.首先,回顾了GAC模型的演化方程;随后,将共轭梯度(conjugate gradient,CG)算法引入到GAC模型的求解中,形成一种新的求解图像分割问题的数值方法,即GAC模型的CG算法;最后,通过试验对比传统的数值方法,表明CG算法具有良好的收敛性.     

一个自调节Polak-Ribiere-Polyak型共轭梯度法

共轭梯度法是求解大规模无约束优化问题最有效的方法之一.基于Polak-RibièrePolyak(PRP)共轭梯度法具有较弱的收敛性和较好的数值表现,而Fletcher-Reeves(FR)共轭梯度法则反之,本文研究PRP共轭梯度法的一个自调节改进.在PRP公式引入调节因子,并据此提出了一个自调节PRP共轭梯度法.改进的方法具有PRP方法所特有的性质(*)及FR方法良好的收敛性·在强Wolfe非精确线搜索条件和常规假设下,证明了新方法不仅满足充分下降条件,而且全局收敛.最后,对新算法进行数值测试并与其他同类方法进行比较,结果表明所提方法是有效的.     

一个充分下降的改进HS共轭梯度法

共轭梯度法是求解大规模无约束优化问题最有效的方法之一.对HS共轭梯度法参数公式进行改进,得到了一个新公式,并以新公式建立一个算法框架.在不依赖于任何线搜索条件下,证明了由算法框架产生的迭代方向均满足充分下降条件,且在标准Wolfe线搜索条件下证明了算法的全局收敛性.最后,对新算法进行数值测试,结果表明所改进的方法是有效的.     

Wolfe线搜索下新的共轭梯度法的全局收敛性

共轭梯度法是求解无约束优化问题的一种重要的方法.本文提出一族新的共轭梯度法,证明了其在推广的Wolfe非精确线搜索条件下具有全局收敛性.最后对算法进行了数值实验,实验结果验证了该算法的有效性.     

带参数共轭梯度法簇的全局收敛性

共轭梯度法是最优化中最常用的方法之一,广泛地应用于求解大规模优化问题,其中参数β_k的不同选取可以构成不同的共轭梯度法.给出了一类含有三个参数的共轭梯度算法,这种算法能够在给定的条件下证明选定的β_k在每一步都能产生一个下降方向,同时在强Wolfe线搜索下,这种算法具有全局收敛性.     

建立在非二次模型上的最优化方法

本文简要介绍了近年来出现的一些基于非二次模型的最优化方法,包括推广的共轭梯度法与变尺度法两大类.这些新算法在某些情况下较之传统的算法具有明显的优越性,是最优化方法中一个引人注目的新方向.     

改进共轭梯度法求解无约束二次凸规划问题

针对共轭梯度法求解无约束二次凸规划时,在构造共轭方向上的局限性,对共轭梯度法进行了改进.给出了构造共轭方向的新方法,利用数学归纳法对新方法进行了证明.同时还给出了改进共轭梯度法在应用时的基本计算过程,并对方法的收敛性进行了证明.通过实例求解,说明了在求解二次无约束凸规划时,该方法相比共轭梯度法具有一定的优势.     

基于凸组合共轭梯度法的ARIMA模型参数估计

提出了一种凸组合共轭梯度算法,并将其算法应用到ARIMA模型参数估计中.新算法由改进的谱共轭梯度算法与共轭梯度算法作凸组合构造而成,具有下述特性:1)具备共轭性条件;2)自动满足充分下降性.证明了在标准Wolfe线搜索下新算法具备完全收敛性,最后数值实验表明通过调节凸组合参数,新算法更加快速有效,通过具体实例证实了模型的显著拟合效果.     

一种具有充分下降性的三项共轭梯度法

提出了一种带两个参数的三项共轭梯度法,新算法具有如下特点:1)满足共轭性条件;2)自动具有充分下降性;3)新的搜索方向具有更大的下降量.在合适的条件下,证明了算法在强Wolfe线搜索下具有全局收敛性.最后对新算法进行了数值实验,结果表明算法对求解无约束优化问题是有效的.     

Wolfe线搜索下一类混合共轭梯度法的全局收敛性

本文给出了一个新的共轭梯度公式,新公式在精确线搜索下与DY公式等价,并给出了新公式的相关性质.结合新公式和DY公式提出了一个新的混合共轭梯度法,新算法在Wolfe线搜索下产生一个下降方向,并证明了算法的全局收敛性,并给出了数值例子.     

Chan-Vese模型的共轭梯度算法

随着图像采集设备的发展和对图像分辨率要求的提高,人们对图像处理算法在收敛速度和鲁棒性方面提出了更高的要求.从优化的角度对Chan-Vese模型进行算法上的改进,即将共轭梯度法应用到该模型中,使得新算法有更快的收敛速度.首先,简单介绍了Chan-Vese模型的变分水平集方法的理论框架;其次,将共轭梯度算法引入到该模型的求解,得到了模型的新的数值解方法;最后,将得到的算法与传统求解Chan-Vese模型的最速下降法进行了比较.数值实验表明,提出的共轭梯度算法在保持精度的前提下有更快的收敛速度.     

推广的Wolfe搜索下一族共轭梯度法的全局收敛性

共轭梯度法是求解无约束优化问题的一种重要的方法,尤其适用于大规模优化问题的求解.本文提出一族包含FR方法和CD方法的新的共轭梯度法,证明了其在推广的Wolfe非精确线搜索条件下具有全局收敛性.最后对算法进行了数值试验,试验结果验证了该算法的有效性。     

一个具有n步二阶收敛速率的算法

本文考虑求解非线性方程组。从非线性ABS算法出发,建立了一类新算法。这类新算法具有更好的收敛性质;与求解无约束最优化的数值方法相对照,在某种意义上原非线性ABS算法对应于共轭梯度法,而本文的算法则对应于变度量法。     

一个自适应Dai-Liao共轭梯度法

共轭梯度法是求解大规模无约束优化问题的经典方法之一.基于搜索方向矩阵的谱条件数,给出了一个Dai-Liao(DL)共轭梯度法中参数的自适应形式,提出一种自适应DL共轭梯度算法.在适当的条件下,对于一致凸的目标函数证明了该方法具有全局收敛性.数值结果表明,提出的方法是可行的.     

线性约束最优化的一个共轭投影梯度法

本结合共轭梯度法及梯度投影法的思想,建立线性等式约束最优化的一个新算法,称之为共轭投影梯度法。分别对二次凸目标函数和一般目标函数分析和论证了算法的重要性质和收敛性。     

约束优化问题的修正共轭梯度投影算法

对闭凸集约束的非线性规划问题构造了一个修正共轭梯度投影下降算法,在去掉迭代点列有界的条件下,分析了算法的全局收敛性.新算法与共轭梯度参数结合,给出了三类结合共轭梯度参数的修正共轭梯度投影算法.数值例子表明算法是有效的.     

无约束优化的一个充分下降共轭梯度算法

在修正PRP共轭梯度法的基础上,提出了求解无约束优化问题的一个充分下降共轭梯度算法,证明了算法在Wolfe线搜索下全局收敛,并用数值实验表明该算法具有较好的数值结果.