新的全局收敛的混合共轭梯度法

新的全局收敛的混合共轭梯度法王宇平（西安电子科技大学应用数学系，西安７１００７１）游兆永（西安交通大学应用数学研究中心，西安７１００４９）一、前言对于无约束最优化问题共轭梯度法是通过如下的迭代序列来逼近ｆ（ｘ）的极小点，其中Ｓｋ为第ｋ次迭代的搜索方向...     

用向量组共轭化方法改进Powell法

本文利用共轭化变换提高向量组共轭度的方法,对Powell法及修正Powell法作了改进。这一改进保持了原算法的二次终止性和关于连续可微严格凸函数的收敛性。文末用十六个公认的考机题检验了这一改进的效果。计算表明,改进后的Powell法及修正的Powell法比原算法收敛得快。     

具有精确线性搜索的改进共轭梯度法

其中g_k=f(x_k),β_k为参数.β_k的不同选法形成了各种共轭梯度法,其中Fletcher-Reeves法(简记为FR法)是理论较完整的一个方法,对水平集有界的二阶连续可微函数,Powell和Baali分别在精确和不精确线搜索下证明了其全局收敛性.Polak-Ribiere法     

一类非精确线性搜索共轭梯度新算法

本文通过对迭代参数的适当选取，给出了一类共轭梯度新算法。在算法的迭代过程中，迭代方向保持下降性，在一般的非精确线性搜索条件下，算法的全局收敛性得到了证明。     

一类共轭梯度算法的全局收敛性

本文证明了一类共轭梯度算法的全局收敛性,其中参数βk满足|βk|≤β,并且αk满足放宽了的强Wolfe线搜索（max｛σ1,σ2｝≤1／2）．     

无约束最优化的Polak-Ribière和Hestenes-Stiefel共轭梯度法的全局收敛性

本文在很弱的条件下得到了关于无约束最优化的Ｐｏｌａｋ—Ｒｉｂｉｅｒｅ和Ｈｅｓｔｅｎｅｓ－Ｓｔｉｅｆｅｌ共轭梯度法的全局收敛性的新结果,这里 ＰＲ方法和ＨＳ方法中的参数β_k~(PR)和β_k~HS可以在某个负的区域内取值,这一负的区域与ｋ有关．这些新的收敛性结果改进了文献中已有的结果．数值检验的结果表明了本文中新的 ＰＲ方法和 ＨＳ方法是相当有效的．     

解无约束最优化问题的块共轭方向法

在给出块共轭概念的基础上，提出了适合并行计算的向量组的块共轭化方法，进而得到解无约束最优化问题的并行块共轭方向法．有大量数值结果表明块共轭方向法具有工作量少．适用函数范围广等特点，是一种比较有效的无约束最优化方法．     

一种混合的HS-DY共轭梯度法

本文在HS方法和DY方法的基础上,综合两者的优势,提出了一种求解无约束优化问题的新的混合共轭梯度法.在Wolfe线搜索下,不需给定下降条件,证明了算法的全局收敛性.数值试验表明,新算法较之HS方法和PR方法更加有效.     

改进的共轭梯度法及其收敛性

本文对无约束最优化问题提出一类改进的共轭梯度法。该算法采用一类非精确线搜索,扩大了迭代参数的选取范围,并在目标函数连续可微的条件下,证明了算法的全局收敛性。     

谱Hestenes-Stiefel共轭梯度算法及其收敛性

谱共轭梯度算法是求解大规模无约束最优化问题的有效算法之一.基于Hestenes-Stiefel算法与谱共轭梯度算法,提出一种谱Hestenes-Stiefel共轭梯度算法.在Wolfe线搜索下,算法产生的搜索方向具有下降性质,且全局收敛性也能得到证明.通过对CUTEr函数库中部分著名的函数进行试验,利用著名的DolanMore评价体系,展示了新算法的有效性.     

Banach空间的保持端点

在本文中，我们定义了（Ｒ１），（Ｒ２），（Ｒ３）和ｗＭＬＵＲ，它们是一些与严格凸较接近且所有端点都是保持端点的凸性。我们还讨论了它们的性质以及它们之间的相互关系。     

基于BP模型的优化方法研究及其应用

首先根据BP算法的基本原理,推导出了BP模型中输出对输入的偏导.然后基于已有数据,利用BP模型进行拟合,保留训练后的BP模型的权值和阈值.在此基础上,利用变步长梯度法实现了BP模型的最优化.本文是对BP模型优化方法的一种新的理论探讨.     

基于破产理论的我国极端洪水保险风险组合随机优化模型

极端洪水给人类造成了巨大损失,极端洪水保险是分散极端洪水风险的一种有效手段.基于政府、市场和公众合作的极端洪水保险模式是适合我国国情的.在此模式下,建立政府有效参与的保险公司和保险区域风险组合随机优化模型,保证极端洪水保险的有效供给和需求,为合理厘定保险费率提供理论基础.随机优化模型中充分考虑了保险公司的破产概率、稳定性经营和保险区域的灾后恢复能力.最后给出了此模型的收敛性定理.     

四种无约束优化算法的比较研究

从数值试验的角度 ,通过对 3个测试问题 (其中构造了一个规模大小可变的算例 )的求解 ,对共轭梯度法、BFGS拟牛顿法、DFP拟牛顿法和截断牛顿法进行比较研究 ,根据测试结果的分析 ,显示截断牛顿法在求解大规模优化问题时具有优势 ,从而为大规模寻优算法的研究提供了有益的借鉴 .     

The convergence of conjugate gradient method with nonmonotone line search

The conjugate gradient method is a useful and powerful approach for solving large-scale minimization problems. Liu and Storey developed a conjugate gradient method, which has good numerical performance but no global convergence under traditional line searches such as Armijo line search, Wolfe line search, and Goldstein line search. In this paper we propose a new nonmonotone line search for Liu-Storey conjugate gradient method (LS in short). The new nonmonotone line search can guarantee the global convergence of LS method and has a good numerical performance. By estimating the Lipschitz constant of the derivative of objective functions in the new nonmonotone line search, we can find an adequate step size and substantially decrease the number of functional evaluations at each iteration. Numerical results show that the new approach is effective in practical computation.     

一类特殊优化问题的光滑梯度法

对一类在压缩感知、图像处理等相关领域有广泛应用的特殊非光滑优化问题进行了研究,给出了求解此类问题的光滑梯度法及算法的全局收敛性证明,相关的数值实验表明算法的有效性.     

基于熵权TOPSIS-PSO-ELM的制造企业绿色创新能力评价模型及实证研究

为客观和准确地评价制造企业绿色创新能力,本文构建了制造企业绿色创新能力评价指标体系,提出了基于熵权TOPSIS的粒子群(PSO)优化极限学习机(ELM)集成学习算法的制造企业绿色创新能力评价模型。首先运用熵权法客观确定指标权重,结合TOPSIS测度并综合评价制造企业绿色创新能力,然后将评价值作为先验样本进行极限学习机的训练与测试,训练过程中利用PSO优化极限学习机的网络结构与连接权值,从而对绿色创新能力进行全面的分析和评价。最后以60家制造企业为例进行实证分析,并将熵权TOPSIS-PSO-ELM算法与极限学习机回归拟合算法对比,结果表明:基于熵权TOPSIS-PSO-ELM模型所得评价结果较已有方法更为准确可靠。此外,为进一步提高我国制造企业绿色创新发展能力提出了理论建议。     

一种基于脉冲噪声的新型迭代滤波算法

在局部极值噪声检测和迭代中值滤波的基础上,基于图像结构和脉冲噪声的特征分析,有效结合局部极值检测和幅度差阈值、梯度差阈值的检测方法,提出了一种基于噪声检测的迭代脉冲噪声滤除算法.并通过仿真实验和算法评价,验证了该算法不仅能够达到很好的去噪效果,而且在保留图像细节信息方面也取得了一定的成效.     

On the Method of Shortest Residuals for Unconstrained Optimization

The paper discusses several versions of the method of shortest residuals, a specific variant of the conjugate gradient algorithm, first introduced by Lemaréchal and Wolfe and discussed by Hestenes in a quadratic case. In the paper we analyze the global convergence of the versions considered. Numerical comparison of these versions of the method of shortest residuals and an implementation of a standard Polak–Ribière conjugate gradient algorithm is also provided. It supports the claim that the method of shortest residuals is a viable technique, competitive to other conjugate gradient algorithms.     

求解界约束优化问题的有效集算法综述

主要介绍了求解界约束优化问题的有效集方法,包括投影共轭梯度法和有效集识别函数法,讨论了各自的优点和不足.最后,指出了有效集法的研究趋势及应用前景.