变步长轴向搜索法在非凸情形的性质

§1.引言变步长轴向搜索法亦称变步长坐标方向法,它作为一个最优化方法,其特点是:不采用一维搜索,且各方向的步长按照搜索的成功或失败而独立地增加或缩减.它可以作为缓慢而可靠的方法来使用,也可作为Rosenbrock方法的基本组成部分.由于它的上述特点,特别是各个方向的步长独立变化的特点,它不能被纳入[3]中定步长下山法的框架,因而给它的理论分析带来了困难.文[4]对变步长轴向搜索法在目标函数为凸性的情形下的收敛性给出了证明,其中对目标函数的下降量采用了特殊的估计手段.本文在[4]的基础上,在     

关于解一维抛物型方程组的差分格式

Caapck曾经研究过解多维抛物型方程组的经济格式.用他的方法解一维问题时,是将抛物型方程组的系数矩阵写成一个下三角形矩阵和一个上三角形矩阵之和,然后采用分数步长法求解.如果未知函数的个数为M,则对于每一个时间步长,需要用2M次追赶法.格式的收敛速度为Ο(τ~(1/2) h~2),这里τ和h分别为时间和空间步长.本文提出一种解一维抛物型方程组的绝对稳定的差分格式.对于每一个时间步长,求解差分方程组只要用M次追赶法,它的收敛速度为Ο(τ h~2)。     

数值最优化的弧搜索方法

非线性最优化算法主要包括两个步骤:一是利用目标函数和约束函数的导数或相关信息来确定搜索方向,二是利用一维搜索和信赖域方法来确定沿搜索方向步长.一维直线搜索在各种教科书及参考文献中被广泛地讨论过,而另一种搜索方法弧搜索方法,在某些情况下更有效却鲜为人知.本文讨论弧搜索方法的一些细节及在各种最优化问题中的应用,并指出弧搜索技术比直线搜索对某些问题更具优越性.     

变步长轴向搜索法的分析

在变步长轴向搜索法中,步长按照搜索的成功或失败而随时增减.长期以来,它只是一种经验方法,而且它主要是作为一种比较有效的直接搜索法——Rosenbrock 方法的基本组成部分.在这一工作中,我们对目标函数的下降数量作了较为细致的估计,从而对变步长     

一种修正的HS共轭梯度法及全局收敛性

<正>1引言考虑无约束极小化问题:(?),(1)其中f(x)连续可微,其梯度函数用g(x)表示.共轭梯度法求解(1)的常用迭代格式为:x_(k+1)=x_k+α_kd_k,(2)(?)(3)其中g_k=▽f(x_k),α_k≥0是由某种线搜索得到的步长因子;d_k为搜索方向,β_k为标量,β_k的不同选择产生了不同的共轭梯度法.著名的β_k公式有:     

一种求解非线性约束优化问题的无罚函数无滤子的方法

借助于强次可行方向法的思想和滤子法的思想,给出了一种求解非线性约束优化问题的无罚函数无滤子的方法.方法借助于广义投影技术产生搜索方向,直接通过原目标函数和约束违反度函数作为搜索函数来产生步长,有效地避免了消耗计算成本的恢复阶段.最后在适当的假设条件下,给出了算法的全局收敛性和有效性.     

变步长轴向搜索法的分析

变步长轴向搜索法是指在搜索过程中各个方向之步长可随时变化的轴向搜索法,长期以来它只是一种经验方法。本文在这一方法中引入下山门槛,给出目标函数下降量的细致的估计,证明了这一方法对可微的目标函数具有收敛性。     

约化为三对角矩阵的改进Newton算法

一、引言 本文用g(x)表示目标函数的梯度,G(x)表示目标函数f(x)在x点的Hessain矩阵,p(x)表示在x点进行一维搜索的方向。用Newton法求目标函数f(x)极小时是通过所谓求解方程组     

一类非单调算法的收敛性质

1.搜索步长和搜索方向对于无约束最优化问题(?)f(x),其中f:R~n→R~1,f∈C~1,一般采用形如x_(k+1)=x_k+λ_kd_k(k=1,2,…)的迭代算法来求解,这里λ_k为搜索步长,d_k为搜索方向.     

一类非单调算法的收敛性质

1.搜索步长和搜索方向对于无约束最优化问题(?)f(x),其中f:R~n→R~1,f∈C~1,一般采用形如x_(k 1)=x_k λ_kd_k(k=1,2,…)的迭代算法来求解,这里λ_k为搜索步长,d_k为搜索方向.