求解一类特殊二次规划问题的分布式牛顿算法

针对二次规划问题,现有的基于对偶分解和梯度方法的分布式算法由于没有充分利用目标函数的二阶信息,算法并不高效.针对一类特殊二次规划问题提出分布式牛顿算法,算法在计算对偶向量时使用Jacobi迭代,使算法不仅能够分布式执行并且可以并行运算.通过证明Jacobi矩阵的谱半径小于1保证了迭代的收敛性.最后通过数值实验说明分布式牛顿算法在运行时间上的高效性.     

基于新的Hessian近似矩阵的稀疏重构算法

一般来说,基于二次近似模型的优化算法具有良好的数值表现.然而,当基于二次近似模型的优化算法求解大规模优化问题时,若使用稠密矩阵近似目标函数在迭代点的Hessian矩阵,需要花费大量的计算成本和存储成本,因此设计Hessian矩阵合适的标量近似矩阵特别重要.对于正则化模型,利用最近三次迭代的信息,设计粗糙的标量矩阵,使用拟牛顿公式进行更新,结合近似最优梯度法的思想和梯度法的延迟策略,构造Hessian矩阵新的含有更多二阶信息的标量近似矩阵.结合非单调线搜索,提出基于新的Hessian近似矩阵的稀疏重构算法,并进行收敛性分析.实验结果表明,与经典稀疏重构算法算法相比,基于新的Hessian近似矩阵的稀疏重构算法在重构效果相似的情况下能较大地减少迭代次数和较快地重构信号.     

基于二维随机震源的地震波全波形反演研究

全波形反演利用全部的波场信息做反演求解,兼顾了地震波的运动学特征和动力学特征,是一种直接基于波动方程描述地震波在地下介质中的传播过程,能够获得地质结构和岩性资料的方法.但是作为一种非线性反演算法,如何提高全波形反演的计算速度和成像精度是目前优化反演的难点和重点.针对全波形反演的效率问题,采用分层和模块化的matlab工...     

求解地震波反演问题的一类预处理共轭梯度方法

地质勘探中的全波形反演模型可以转化为一个求解带微分方程约束的最小二乘问题,这类模型通过扩大了搜索区域,减少了变量的储存,提高了计算效率.基于上述模型,采用有限差分方法离散Helmholtz方程,提出一类预处理共轭梯度法求解地震波场,并交替更新地层信息.数值实验中测试和比较了对角预处理、Gauss-Seidel预处理和不完全LU分解三种预处理方法,实验结果表明这类预处理方法应用到共轭梯度法中能够减少迭代步数、改善实验精度,加快反演迭代效率.     

有奇异解的无约束最优化问题的一种混合法

本文研究求解含有奇异解的无约束最优化问题算法 .该类问题的一个重要特性是目标函数的Hessian阵可能处处奇异 .我们提出求解该类问题的一种梯度 -正则化牛顿型混合算法 .并在一定的条件下得到了算法的全局收敛性 .而且 ,经一定迭代步后 ,算法还原为正则化 Newton法 .因而 ,算法具有局部二次收敛性 .     

无约束优化问题的精细修正牛顿算法

针对牛顿法在求解一般非凸函数极小值过程中,迭代点处Hessian矩阵不一定正定的情况,提出了一种精细修正的牛顿法.该方法充分利用迭代点处目标函数的一阶、二阶信息,合适选取搜索方向,是最速下降法、牛顿法和已有修正牛顿法相混合的一种方法.在较弱的条件下建立了算法的全局收敛性.进一步的数值实验验证了提出的算法比以往同类算法计...     

关于求解随机用户均衡问题的截断拟牛顿型信赖域法研究

信赖域法是一种保证全局收敛性的优化算法,为避免Hessian矩阵的计算,基于拟牛顿校正公式构造了求解带线性等式约束的非线性规划问题的截断拟牛顿型信赖域法.首先给出了截断拟牛顿型信赖域法的构造过程及具体步骤;然后针对随机用户均衡模型中变量和约束的特点对算法进行了修正,并将多种拟牛顿校正公式下所得结果与牛顿型信赖域法的结果进行了比较,结果发现基于对称秩1校正公式的信赖域法更为合适.最后基于数值算例结果得到了一些在算法编程过程中的重要结论,对其它形式信赖域法的编程实现具有一定的参考意义.     

多参数结构特征二阶灵敏度

提出了一种有效计算多参数结构特征值与特征向量二阶灵敏度矩阵--Hessian矩阵的方法.将特征值和特征向量二阶摄动法转变为多参数形式,推导出二阶摄动灵敏度矩阵,由此得到特征值和特征向量的二阶估计式.该法解决了无法用直接求导法计算特征值和特征向量二阶灵敏度矩阵的问题.数值算例说明了该算法的应用和计算精度.     

非饱和土壤水流问题的CN有限元格式

首先给出二维非饱和土壤水流问题基于Crank-Nicolson(CN)方法的具有时间二阶精度的半离散化格式,然后直接从CN时间半离散化格式出发,建立具有时间二阶精度的全离散化CN有限元格式,并给出误差估计,最后用数值例子说明全离散化CN有限元格式的优越性.这种方法可以绕开关于空间变量的半离散化格式的讨论,提高时间离散的精度,极大地减少时间方向的迭代步,从而减少实际计算中截断误差的积累,提高计算精度和计算效率.     

不等式约束最优化无严格互补条件下的快速收敛序列线性方程组算法

本文讨论无严格互补性的非线性不等式约束最优化问题,建立了一个新的序列线性方程组算法。算法每次迭代只需解一个线性方程组或计算一次广义梯度投影,并不要求Lagrange函数的近似Hessian阵正定。在较弱的假设下,证明了算法的整体收敛性、强收敛性、超线性收敛性及二次收敛速度。还对算法进行了有效的数值试验。     

二维土壤溶质输运问题的CN有限元法

首先给出二维土壤溶质输运问题时间二阶精度的Crank-Nicolson(CN)时间半离散化格式,然后直接从CN时间半离散化格式出发,建立具有时间二阶精度的全离散化CN有限元格式,并给出CN有限元解的误差分析,最后用数值例子验证全离散化CN有限元格式的优越性.这种方法提高了时间离散的精度,并极大地减少时间方向的迭代步,从而减少实际计算中截断误差的积累,提高计算精度和计算效率.而且方法绕开对空间变量半离散化有限元格式的讨论,使得理论研究更简便.     

广义特征值极小扰动问题的一类黎曼共轭梯度法

研究含参数$l$非方矩阵对广义特征值极小扰动问题所导出的一类复乘积流形约束矩阵最小二乘问题.与已有工作不同,本文直接针对复问题模型,结合复乘积流形的几何性质和欧式空间上的改进Fletcher-Reeves共轭梯度法,设计一类适用于问题模型的黎曼非线性共轭梯度求解算法,并给出全局收敛性分析.数值实验和数值比较表明该算法比参数$l=1$的已有算法收敛速度更快,与参数$l=n$的已有算法能得到相同精度的解.与部分其它流形优化相比与已有的黎曼Dai非线性共轭梯度法具有相当的迭代效率,与黎曼二阶算法相比单步迭代成本较低、总体迭代时间较少,与部分非流形优化算法相比在迭代效率上有明显优势.     

非饱和土壤水流方程的CN广义差分法

首先给出二维非饱和土壤水流方程时间二阶精度的Crank-Nicolson(CN)时间半离散化格式,然后直接从CN时间半离散化格式出发,建立具有时间二阶精度的全离散化CN广义差分格式,并给出误差分析,最后用数值例子验证全离散化CN广义差分格式的优越性.这种方法能提高时间离散的精度,极大地减少时间方向的迭代步,从而减少实际计算中截断误差的积累,提高计算精度和计算效率.而且该方法可以绕开对空间变量的半离散化广义差分格式的讨论,使得理论研究更简便.     

求解陀螺系统特征值问题的收缩二阶Lanczos方法

本文研究陀螺系统特征值问题的数值解法,利用反对称矩阵Lanczos算法,提出了求解陀螺系统特征值问题的二阶Lanczos方法.基于提出的陀螺系统特征值问题的非等价低秩收缩技术,给出了计算陀螺系统极端特征值的收缩二阶Lanczos方法.数值结果说明了算法的有效性.     

利用改进的同伦算法求解特征值问题

矩阵特征值问题是机器学习、数据处理以及工程分析和计算中经常需要解决的问题之一.同伦算法是求解矩阵特征值的经典方法;自动微分可以有效、快速地计算出大规模问题相关函数的导数项,并且可以达到机器精度.充分利用自动微分的优点,设计自动微分技术与同伦算法相结合的方法求解矩阵特征值问题.数值实验验证了该算法的有效性.     

方差分量模型协方差阵的谱分解

本文对平衡方差分量模型, 给出了其协方差阵的新的谱分解算法. 该方法的特点是计算简单, 易于理解, 无须复杂的数学知识. 且能够明确显示协方差阵的不同特征值的个数, 以及谱分解中不同特征值所对应的投影阵的显式表示. 基于新方法我们进一步研究了平衡方差分量模型的一些相关性质.本文还研究了一般方差分量模型, 我们首先定义了一般方差分量模型协方差阵的简单谱分解,给出了一般方差分量模型可以进行简单谱分解的充要条件, 并研究了协方差阵简单谱分解的一些性质. 对于协方差阵可以进行简单谱分解的方差分量模型, 本文研究了简单谱分解在其统计推断中的应用.     

基于全牛顿求解P*(κ)阵水平线性互补问题的内点算法

提出一种求解P_*(k)阵水平线性互补问题的全牛顿内点算法,全牛顿算法的优势在于每次迭代中不需要线性搜寻.当给定适当的中心路径邻域的阈值和更新势垒参数,证明算法中心邻域的全牛顿是局部二次收敛的,最后给出算法迭代复杂性O(√n)log(n+1+k)/εμ₀.     

解含多个复杂分量函数无约束minimax问题的积极集光滑化算法

本文利用分段三次多项式方程构造了一种积极集策略的二次连续可微的光滑化max函数,给出积极集及稳定的光滑化max函数的计算方法.基于该光滑化max函数,结合Armijo线搜索,负梯度和牛顿方向及光滑化参数的更新策略,给出一种解含多个复杂分量函数无约束minimax问题的积极集光滑化算法.初步的数值实验表明了该算法的有效性.     

无约束广义几何规划的一种最新算法

1　引　　言近十几年来 ,几何规划新的有效数值求解方法成果很少 ,但几何规划在工程中的应用却十分广泛 ,随着线性、二次规划和非线性规划的各种新的数值方法的出现 ,必将把几何规划推向新阶段 .本文充分利用广义几何规划的特点 ,根据目标函数的梯度及 Hessian阵具有简单的特殊表达式 ,再结合信赖域算法构造了一种特殊算法 ,每次迭代只需解一类特殊的线性方程组 ,并在相对弱的条件下证明了全局收敛性和局部二次收敛性 ,具有比采用一般非线性规划求解速度快、精度高、占用内存少等优点 .考虑如下无约束的广义几何规划问题minh(t) = mj=1cj n…     

一种双割线折线法求解信赖域子问题

结合利用Hessian阵的特征值性质,本文提出求解信赖域子问题的一种双割线折线法,它不同于Powell的单折线,Dennis的双折线和赵英良的切线单折线.在适当条件下,分析双割线折线路径的性质,且证明了算法的收敛性.数值试验表明,这种新算法是有效且可行的.