关于二次函数的约束优化的算法研究

在本篇论文中,我们尝试用共轭方向法来处理二次函数的约束优化问题．我们 首先讨论了一下正定时的情况,再讨论负定时的情况．对于正定二次函数的优化问题,我 们提出一个算法,可以构造一列收敛到最优点的数列．对于负定二次函数的优化问题,我 们给出了一些结果．     

降维梯度法

§1.引言 本文研究降维梯度法,它具有共轭梯度法的一切性质.对于正定二次函数,用不着精确的一维搜索,只要在每步加入两个校正项,即可将高阶问题转化为低阶问题,保证了二     

基于非线性尺度不变性的CCG法

１．引言 ＣＧ法对于变量个数很多的问题,是很有用的．１９７０年后它有了许多改进和发展,ＣＣＧ法以正定圆锥函数为基础［１］,它的一般方法是：设圆锥函数为 ２］其中： Ｖ＝ Ｖ（ｘ）＝１＋ ａＴｘ ≠ ０;, ｒ ∈Ｒ１为常量; ａ,ｇ ∈ Ｒｎ为常向量;ｘ ∈ Ｒｎ为变向量;Ａ∈Ｒｎ×ｎ为对称正定矩阵．算法［１］：预先给出初始近似点ｘ０∈ Ｒｎ及初始搜索方向 ｐ０;满足：其中“Ｉ”是单位矩阵, Ｖ０＝ Ｖ（ｘ０）＝ １＋ ａｔｘ０及记号“”是函数的梯度．迭代格式为： ｘｋ＋１＝ ｘｋ ＋λｋｐｋ,ｋ＝ ０,１,２,…（３…     

预处理技术与PCG算法

1 共轭梯度法 1952年M·R·Hestenes和E.Stiefel从极小化的观点来讨论代数方程组Ax=b的解,给出了著名的共轭梯度法(Conjugate Gradient,简称CG).若A是N阶对称正定实矩阵,记向量x和y的内积为(x,y),定义x的二次函数     

修正共轭梯度法的不变性及收敛性

共轭梯度法(CGM)是解无约束优化问题的一个有效方法.本文提出一种修正共轭梯度法——MCGM(Modified Conjugate Gradient Method),它是基于算法对非线性尺度的不变性而提出的.MCGM不但保持了古典CGM的简单性和收敛性,而且对于除二次函数外的一类函数也具有有限步终止性.实际计算表明修正算法优于古典算法.     

一种带参数的不完全Cholesky分解共轭梯度法

共轭梯度法在解高阶稀疏线性方程组方面有许多其它经典的迭代法所没有的优点,但当线性方程组相当病态、系数矩阵条件数很坏时,共轭梯度法的收敛速度很慢.因此,又产生了预条件处理共轭梯度法. 我们用预条件处理共轭梯度法求解线性方程组Ax=b(这里A是对称正定稀疏阵且条件数很大).预条件处理共轭梯度法旨在寻找一适当的正定矩阵C,C通常写成     

正性除环上矩阵的正定自共轭分解

本文给出了正性除环上矩阵有正定自共轭分解与全正定自共轭分解的充要条件。     

非奇异阵特征极值和条件数的近似计算

本文从共轭梯度法的公式推导出对称正定阵A与三对角阵B的相似关系,B的元素由共轭梯度法的迭代参数确定.因此,对称正定阵的条件数计算可以化成三对角阵条件数的计算,并且可以在共轭梯度法的计算中顺带完成.它只需增加O(s)次的计算量,s为迭代次数.这与共轭梯度法的计算量相比是可以忽略的.当A为非对称正定阵时,只要A非奇异,即可用共轭梯度法计算ATA的特征极值和条件数,从而得出A的条件数.对不同算例的计算表明,这是一种快速有效的简便方法.     

求解大规模问题的谱共轭梯度法（英文）

共轭梯度法是求解大规模无约束优化问题的一类重要方法.由于共轭梯度法产生的搜索方向不一定是下降方向,为保证每次迭代方向都是下降方向,本文提出一种求解无约束优化问题的谱共轭梯度算法,该方法的每次搜索方向都是下降方向.当假设目标函数一致凸,且其梯度满足Lipschitz条件,线性搜索满足Wolfe条件时,讨论所设计算法的全局收敛性.     

解无约束最优化问题的块共轭方向法

在给出块共轭概念的基础上，提出了适合并行计算的向量组的块共轭化方法，进而得到解无约束最优化问题的并行块共轭方向法．有大量数值结果表明块共轭方向法具有工作量少．适用函数范围广等特点，是一种比较有效的无约束最优化方法．     

(H,Ω)共轭函数理论

在非线性凸规划中,凸共轭函数理论对建立对偶理论起着重要作用.本文试图对这一凸共轭函数概念加以推广,建立一类广义的共轭函数理论-(H,(?))共轭函数理论.在凸分析中,一个函数的凸共轭是通过一簇线性函数确定的.事实上,设     

一个具有 n 步二次收敛性的直接法算法

在非线性最优化的直接法算法中,Powell 算法具有一定的代表性,但我们已知Powell 算法对正定二次函数一般不具有二次终结性,为此围绕着改善 Powell 算法的算法特性,出现了一系列 Powell 算法的改进型.其中俞文(鱼此)教授提出了一个新的方法——PY 算法,其基本思想基于,对正定二次的目标函数算法迭代过程中每一轮迭代     

高考题中的二次函数模型

<正>二次函数是中学阶段出现的第一个非线性函数,也是中学数学中最常用的一个初等函数.初中阶段只简单学习了二次函数的基本概念、解析式、图形和最基本的一些性质.而二次函数在高中数学问题的应用是十分广泛,本文通过近几年的几个具体高考问题来阐述二次函数在高考数学中的应用,期望能给高中学生理解和应用二次函数模型一些帮     

关于共轭程度与搜索效果定理的新证明

共轭性是非线性规划中最重要的概念之一,关于搜索方向的共轭程度上搜索效果之间的联系有如下定理([1]第六章定理7或[2]定理2),本文给出该定理一个简洁的新证明。 定理 考虑严格凸二次函数     

两个四元数自共轭矩阵乘积的特征值估计

设A和B都是四元数自共轭半正定矩阵，或者其中之一是正定的，而另一个是自共轭的，本文改进并推广了[2]对乘积AB的特征值估计.     

一类满足充分下降条件和自适应共轭性的修正THREECG方法北大核心CSCD

基于CG_DESCENT方法和自适应的共轭条件,本文提出了一类修正的THREECG共轭梯度法.该方法在每步迭代中都不依赖于函数的凸性和搜索条件而自行产生充分下降方向.在适当的条件下,获证了在Wolfe搜索下算法求解一般函数时具有全局收敛性.同时,数值实验表明本文算法可以有效求解测试问题.     

一类满足充分下降条件和自适应共轭性的修正THREECG方法

基于CG_DESCENT方法和自适应的共轭条件,本文提出了一类修正的THREECG共轭梯度法.该方法在每步迭代中都不依赖于函数的凸性和搜索条件而自行产生充分下降方向.在适当的条件下,获证了在Wolfe搜索下算法求解一般函数时具有全局收敛性.同时,数值实验表明本文算法可以有效求解测试问题.     

正定自共轭四元数矩阵的均值

本文引进了两个正定自共轭四元数矩阵的算术均值，几何均值，调和均值三概念，给出了正定自共轭四元数矩阵的算术－几何－调和均值不等式，得到了正定自共轭四元数矩阵的几何均值的一个最大性质及其相关的某些性质．     

非重迭型区域分解预处理共轭梯度法

本文讨论含有内部交叉点(cross point)的非重迭型区域分解预处理共轭梯度法。称一个点是交叉点,如果有三个或三个以上的子区域以该点做为共同边界点,该点为区域内点。 本文根据在对称正定块对角矩阵类中对角块是对称正定矩阵比较有效的预处理器的理论,通过简单自然的刚度矩阵分裂,基于代数方式,构造了一类预处理器并给出了预处     

带等式约束非线性规划的一个几何特征

在R~n上,求解二次函数的无约束优化问题已形成了一大类算法。尤其当函数是具有对称正定Hesse矩阵的二次函数时,其极小点h的求出更为简单。它可以通过直线而达到,且h=x(1)。其中H和g分别是f的阵和梯度向量。很显然,将二次函数极小化的这些优点引入到一般的非线性规划将是有价值的工作。 Mcdowell[1],[2]已就无约束优化问题做了一定的工作。本文进一步讨论约束非线性规划的情况。我们在约束流形中极小点h的邻域内,诱导了一类特殊的仿射联