无约束优化的一个充分下降共轭梯度算法

在修正PRP共轭梯度法的基础上,提出了求解无约束优化问题的一个充分下降共轭梯度算法,证明了算法在Wolfe线搜索下全局收敛,并用数值实验表明该算法具有较好的数值结果.     

Wolfe线搜索下一个全局收敛的混合共轭梯度法

对无约束优化问题, 本文给出了一个新的混合共轭梯度法公式. 在标准Wolfe非精确线搜索下,证明了由新公式所产生的算法具有下降性和全局收敛性, 并对算法进行了数值试验, 其结果表明该算法是有效的.     

一个自适应Dai-Liao共轭梯度法

共轭梯度法是求解大规模无约束优化问题的经典方法之一.基于搜索方向矩阵的谱条件数,给出了一个Dai-Liao(DL)共轭梯度法中参数的自适应形式,提出一种自适应DL共轭梯度算法.在适当的条件下,对于一致凸的目标函数证明了该方法具有全局收敛性.数值结果表明,提出的方法是可行的.     

一个拟极小化左共轭梯度算法及其数值表现

左共轭梯度法是求解大型稀疏线性方程组的一种新兴的Krylov子空间方法.为克服该算法数值表现不稳定、迭代中断的缺点,本文对原方法进行等价变形,得到左共轭梯度方向的另一迭代格式,给出一个拟极小化左共轭梯度算法.数值结果证实了该变形算法与原算法的相关性.     

Wolfe线搜索下新的共轭梯度法的全局收敛性

共轭梯度法是求解无约束优化问题的一种重要的方法.本文提出一族新的共轭梯度法,证明了其在推广的Wolfe非精确线搜索条件下具有全局收敛性.最后对算法进行了数值实验,实验结果验证了该算法的有效性.     

Wolfe线搜索下一类混合共轭梯度法的全局收敛性

本文给出了一个新的共轭梯度公式,新公式在精确线搜索下与DY公式等价,并给出了新公式的相关性质.结合新公式和DY公式提出了一个新的混合共轭梯度法,新算法在Wolfe线搜索下产生一个下降方向,并证明了算法的全局收敛性,并给出了数值例子.     

一个自调节Polak-Ribiere-Polyak型共轭梯度法

共轭梯度法是求解大规模无约束优化问题最有效的方法之一.基于Polak-RibièrePolyak(PRP)共轭梯度法具有较弱的收敛性和较好的数值表现,而Fletcher-Reeves(FR)共轭梯度法则反之,本文研究PRP共轭梯度法的一个自调节改进.在PRP公式引入调节因子,并据此提出了一个自调节PRP共轭梯度法.改进的方法具有PRP方法所特有的性质(*)及FR方法良好的收敛性·在强Wolfe非精确线搜索条件和常规假设下,证明了新方法不仅满足充分下降条件,而且全局收敛.最后,对新算法进行数值测试并与其他同类方法进行比较,结果表明所提方法是有效的.     

推广AS-GN混合共轭梯度算法

本文提出了一种求解无约束优化问题的新算法,使Touati-Ahmed, Storey提出的混合共轭梯度法(以下简称AS)和Gilbert, Nocedal提出的混合共轭梯度法(以下简称GN)成为新算法在精确线性搜索下的特例.通过构造新的$\beta_{k}$计算公式,新算法自然满足下降性条件,且这个性质与线性搜索和目标函数的凸性均无关.在一般的条件下,我们证明了新算法的全局收敛性.数值结果表明该算法对测试函数是有效的.     

一种改进的Wolfe线搜索下的FR共轭梯度法

文献[3]中的改进的Wolfe线搜索算法,对于计算目标函数梯度花费较大的情形可以节省一定的计算量.本文将这种改进的Wolfe线搜索算法用于FR共轭梯度法,并证明了该算法在参数σ≤1/2的情况下与Wolfe线搜索下的FR共轭梯度法具有相同的理论性质.数值实验表明该算法是可行的和有效的.     

面向全局优化基于分形的混合混沌优化算法

Julia集具有分形结构,一旦确定吸引域边界上任一点,就可通向任一个吸引周期点的吸引域.Newton-Raphson法利用此性质可计算方程所有根,并可精确计算BFGS法和共轭梯度法中下降方向步长,将两种算法分别与混沌优化算法结合,因而从新的视角建立一种融合分形理论的混合混沌优化算法.研究表明,所提出算法的计算效率高于利用Wolf一维不精确搜索求得步长的混合算法,而且混合混沌BFGS算法的优化能力优于混合混沌共轭梯度算法,也说明BFGS的局部搜索能力比共轭梯度法强.     

一种多参数谱三项共轭梯度法

通过求解带有罚参数的优化问题设计共轭梯度法是一种新思路.基于Fatemi的优化问题求解,通过估计步长和选择合适的罚参数建立一个谱三项共轭梯度法,为证得算法的全局收敛性对谱参数进行修正.在标准Wolfe线搜索下证明了该谱三项共轭梯度算法的充分下降性以及全局收敛性.最后,在选取相同算例的多个算法测试结果中表明新方法数值试验性能表现良好.     

一类共轭梯度法的全局收敛性

共轭梯度法是求解大规模元约束优化同题的一种有效方法，本文提出一种新的共轭梯度法，证明了在推广的Wolfe线搜索条件下方法具有全局收敛性。最后对算法进行了数值试验，试验结果表明该算法具有良好的收敛性和有效性。     

谱HS投影算法求解非线性单调方程组

借助谱梯度法和HS共轭梯度法的结构, 建立一种求解非线性单调方程组问题的谱HS投影算法. 该算法继承了谱梯度法和共轭梯度法储存量小和计算简单的特征, 且不需要任何导数信息, 因此它适应于求解大规模非光滑的非线性单调方程组问题. 在适当的条件下, 证明了该算法的收敛性, 并通过数值实验表明了该算法的有效性.     

推广的Wolfe搜索下一族共轭梯度法的全局收敛性

共轭梯度法是求解无约束优化问题的一种重要的方法,尤其适用于大规模优化问题的求解.本文提出一族包含FR方法和CD方法的新的共轭梯度法,证明了其在推广的Wolfe非精确线搜索条件下具有全局收敛性.最后对算法进行了数值试验,试验结果验证了该算法的有效性。     

一种改进的共轭梯度法及全局收敛性

本文在DY共轭梯度法的基础上对解决无约束最优化问题提出一种改进的共轭梯度法.该方法在Wolfe线搜索下能够保证充分下降性,并在目标函数可微的条件下,证明了算法的全局收敛性.大量数值试验表明,该方法是很有效的.     

求解无约束最优化问题的非单调MFR,MPRP方法

本文在求解无约束最优化问题的MFR共轭梯度法和MPRP共轭梯度法中引入两种非单调线性搜索技术.我们证明在适当条件下采用非单调线性搜索的MFR算法和MPRP算法具有全局收敛性.数值结果表明非单调线性搜索具有优越性.     

一类特殊矩阵方程的并行预处理变形共轭梯度算法

研究了求解一类矩阵方程AXB=C,提出了一种并行预处理变形共轭梯度法．该方法给出一种迭代法的预处理模式．首先给出的预处理矩阵是严格对角占优矩阵,构造并行迭代求解预处理矩阵方程的迭代格式,进而使用变形共轭梯度法并行求解．通过数值试验,预处理变形共轭梯度法与直接使用变形共轭梯度法相比较,该算法不仅有效提高了收敛速度,而且具有很高的并行性．     

修正HS共轭梯度法在大规模信号重构问题中的应用

本义研究了压缩感知在大规模信号恢复问题中应用的问题.利用修正HS共轭梯度法及光滑化方法,获得了具有较好重构效果的算法.数值实验表明用修正HS共轭梯度法解决大规模信号恢复问题是可行的.     

一族新的共轭梯度法的全局收敛性

共轭梯度法是求解无约束优化问题的一种重要的方法,尤其适用于大规模优化问题的求解。本文提出一族新的共轭梯度法,证明了其在推广的Wolfe非精确线搜索条件下具有全局收敛性。最后对算法进行了数值试验,试验结果验证了该算法的有效性。     

种求解非线性无约束优化问题的充分下降的共轭梯度法

共轭梯度法是一类具有广泛应用的求解大规模无约束优化问题的方法.提出了一种新的非线性共轭梯度(CG)法,理论分析显示新算法在多种线搜索条件下具有充分下降性.进一步证明了新CG算法的全局收敛性定理.最后,进行了大量数值实验,其结果表明与传统的几类CG方法相比,新算法具有更为高效的计算性能.