求解界约束优化的一种新的非单调谱投影梯度法

本文给出求解界约束优化问题的一种新的非单调谱投影梯度算法. 该算法是将谱投影梯度算法与Zhang and Hager [SIAM Journal on Optimization,2004,4（4）：1043-1056]提出的非单调线搜索结合得到的方法. 在合理的假设条件下,证明了算法的全局收敛性.数值实验结果表明,与已有的界约束优化问题的谱投影梯度法比较,利用本文给出的算法求解界约束优化问题是有竞争力的.     

非线性约束优化的光滑化平方根罚函数

介绍一种非线性约束优化的不可微平方根罚函数,为这种非光滑罚函数提出了一个新的光滑化函数和对应的罚优化问题,获得了原问题与光滑化罚优化问题目标之间的误差估计. 基于这种罚函数,提出了一个算法和收敛性证明,数值例子表明算法对解决非线性约束优化具有有效性.     

等式约束优化一个修正的投影变尺度法

本文研究了等式约束优化问题.利用罚函数和投影变尺度方法,得到了一个修正的算法及其全局收敛与超线性收敛率.改进了文献[J]中的方法.     

具有算子约束的Lipschitz规划的最优性条件

Barbu等人在文[1]中时目标函数和约束算子都是Frechet可微的情况下证明了具有算子约束的数学规划的最优性必要条件．本文将这一问题推广为目标函数为非光滑的情形,给出了具有算子约束的Lipschitz规划的最优性充分条件和必要条件．     

非光滑稀疏约束优化问题的最优性条件及算法

针对目标函数非光滑的稀疏约束优化问题,给出基本可行性和λ-平稳性两个必要最优性条件,利用所给出的必要最优性条件构造出稀疏次梯度投影算法.在理论上分析了算法的收敛性,证明了由该算法所产生序列的任意聚点都是λ-平稳点.最后,通过两个数值实例验证了算法的收敛性、有效性和优化能力.     

一个解带线性或非线性约束最优化问题的梯度投影方法

§1 引言 Rosen在[1,2]中利用梯度投影建立了带约束非线性规划问题的可行方向算法,称为梯度投影方法.由于此方法简单易行,计算的每一步都是显式迭代,而不必去解复杂的线性规划或二次规划问题,因此人们颇为注意.现在梯度投影方法已成为非线性规划算法     

非线性互补约束问题一个全局收敛的SQP算法

本文研究非线性互补约束优化问题,利用Fischer-Burmeister函数将非线性互补问题转化为非光滑方程,提出一个求解非线性互补约束问题的SQP算法,并在适当的假设下证明这个算法是全局收敛的.     

不等式约束优化问题的低阶精确罚函数的光滑化算法

对不等式约束优化问题提出了一个低阶精确罚函数的光滑化算法. 首先给出了光滑罚问题、非光滑罚问题及原问题的目标函数值之间的误差估计,进而在弱的假
设之下证明了光滑罚问题的全局最优解是原问题的近似全局最优解. 最后给出了一个基于光滑罚函数的求解原问题的算法,证明了算法的收敛性,并给出数值算例说明算法的可行性.     

求解约束优化问题的记忆梯度Goldstein-Lavintin-Polyak投影算法

给求解无约束规划问题的记忆梯度算法中的参数一个特殊取法,得到目标函数的记忆梯度G o ldste in-L av in tin-Po lyak投影下降方向,从而对凸约束的非线性规划问题构造了一个记忆梯度G o ldste in-L av in tin-Po lyak投影算法,并在一维精确步长搜索和去掉迭代点列有界的条件下,分析了算法的全局收敛性,得到了一些较为深刻的收敛性结果.同时给出了结合FR,PR,HS共轭梯度算法的记忆梯度G o ldste in-L av in tin-Po lyak投影算法,从而将经典共轭梯度算法推广用于求解凸约束的非线性规划问题.数值例子表明新算法比梯度投影算法有效.     

带约束的变界截尾随机逼近算法

自从50年代 Robbins-Monro 提出随机逼近算法用来求回归函数的零点或极值以来,人们不仅用概率的方法而且用微分方程的方法去处理它.近几年来,出现了随机变界截尾算法,它克服了事先假定算法有界的本质困难.[6]、[7]研究了二步算法,去掉了对某一 Liapunov 函数存在性的要求,[8]将[5]和[6]的方法结合起来,在较弱的条件下求解了优化问题.[9]用这些思想给出了连续时间变界截尾的两步算法.[5—9]讨论的是无约束随机逼近问题.对于有约束的确定性系统的极值问题,我们可以用 Lagrange 乘子法,也可以用罚函数的算法,A.Miele 将 Lagrange 乘子和罚函数结合提出了罚-乘子算法,Kushner 将罚-乘子算法用在有约束的随机逼近算法中,在假定算法有界的条件下证明了收敛性.本文将变界截尾的随机逼近算法和罚-乘子算法结合起来,用到带约束的优化问题中,既不事先假定算法有界,也不要求存在某一 Liapuaov 函数,得到了算法的收敛性.     

有界约束半光滑方程组的非单调投影信赖域方法

投影信赖域策略结合非单调线搜索算法解有界约束非线性半光滑方程组.基于简单有界约束的非线性优化问题构建信赖域子问题,半光滑类牛顿步在可行域投影得到投影牛顿的试探步,获得新的搜索方向,结合非单调线搜索技术得到回代步,获得新的步长.在合理的条件下,证明算法不仅具有整体收敛性且保持超线性收敛速率.引入非单调技术能克服高度非线性的病态问题,加速收敛性进程,得到超线性收敛速率.     

互补约束数学规划问题的一个广义梯度投影罚算法

结合罚函数思想和广义梯度投影技术,提出求解非线性互补约束数学规划问题的一个广义梯度投影罚算法.首先,通过扰动技术和广义互补函数,将原问题转化为序列带参数的近似的标准非线性规划;其次,利用广义梯度投影矩阵构造搜索方向的显式表达式.一个特殊的罚函数作为效益函数,而且搜索方向能保证效益函数的下降性.在适当的假设条件下算法具有全局收敛性.     

仿射内点既约投影Hessian算法解非线性约束优化

本文结合非单调内点回代技术,提供了新的仿射信赖域方法解含有非负变量约束和非线性等式约束的优化问题.为求解大规模问题,采用等式约束的Jacobian矩阵的QR分解和两块校正的双边既约Hessian矩阵投影,将问题分解成零空间和值空间两个信赖域子问题.零空间的子问题为通常二次目标函数只带椭球约束的信赖域子问题,而值空间的子问题使用满足信赖域约束参数的值空间投影向量方向.通过引入Fletcher罚函数作为势函数,将由两个子问题结合信赖域策略构成的合成方向,并使用非单调线搜索技术回代于可接受的非负约束内点步长.在合理的条件下,算法具有整体收敛性且两块校正的双边既约Hessian投影法将保持超线性收敛速率.非单调技术将克服高度非线性情况,加快收敛进展.     

一类约束非光滑优化的非单调信赖域算法

提出了求解一类带一般凸约束的复合非光滑优化的信赖域算法 .和通常的信赖域方法不同的是 :该方法在每一步迭代时不是迫使目标函数严格单调递减 ,而是采用非单调策略 .由于光滑函数、逐段光滑函数、凸函数以及它们的复合都是局部Lipschitz函数 ,故本文所提方法是已有的处理同类型问题 ,包括带界约束的非线性最优化问题的方法的一般化 ,从而使得信赖域方法的适用范围扩大了 .同时 ,在一定条件下 ,该算法还是整体收敛的 .数值实验结果表明 :从计算的角度来看 ,非单调策略对高度非线性优化问题的求解非常有效     

仿射内点既约投影Hessian算法解非线性约束优化

本文结合非单调内点回代技术,提供了新的仿射信赖域方法解含有非负变量约束和非线性等式约束的优化问题.为求解大规模问题,采用等式约束的Jacobian矩阵的QR分解和两块校正的双边既约Hessian矩阵投影,将问题分解成零空间和值空间两个信赖域子问题.零空间的子问题为通常二次目标函数只带椭球约束的信赖域子问题,而值空间的子问题使用满足信赖域约束参数的值空间投影向量方向.通过引入Fletcher罚函数作为势函数,将由两个子问题结合信赖域策略构成的合成方向,并使用非单调线搜索技术回代于可接受的非负约束内点步长.在合理的条件下,算法具有整体收敛性且两块校正的双边既约Hessian投影法将保持超线性收敛速率.非单调技术将克服高度非线性情况,加快收敛进展.     

局部误差的有界约束非线性方程组的非单调信赖域算法

本文提供了在没有非奇异假设的条件下,求解有界约束半光滑方程组的投影信赖域算法.基于一个正则化子问题,求得类牛顿步,进而求得投影牛顿步.在合理的假设条件下,证明了算法不仅具有整体收敛性而且保持超线性收敛速率.     

约束非线性l_1问题的光滑近似算法

针对约束非线性l_1问题不可微的特点,提出了一种光滑近似算法.该方法利用" "函数的光滑近似函数和罚函数技术将非线性l_1问题转化为无约束可微问题,并在适当的假设下,该算法是全局收敛的.初步的数值试验表明算法的有效性.     

约束非线性ι1问题的光滑近似算法

针对约束非线性ι1问题不可微的特点,提出了一种光滑近似算法.该方法利用“ “函数的光滑近似函数和罚函数技术将非线性ι1问题转化为无约束可微问题,并在适当的假设下,该算法是全局收敛的.初步的数值试验表明算法的有效性.     

参数非光滑优化的微分稳定性

本文研究了含有向量参数的非光滑优化问题的极值函数或叫做边缘函数的连续性及某种意义下的微分性质。给出了目标函数及不等式约束为李普希兹函数,等式约束为连续可微函数,并且带有闭凸约束集C的非凸非光滑问题的最优值函数的几种方向导数的界,把[4],[1]中关于一个参数的单边扰动推广到向量参数的扰动,亦可认为是把[2]由光滑函数类推广到李普希兹函数类。     

求解含平衡约束数学规划的熵函数法

提出求解含平衡约束数学规划问题(简记为MPEC问题)的熵函数法，在将原问题等价改写为单层非光滑优化问题的基础上，通过熵函数逼近，给出求解MPEC问题的序列光滑优化方法，证明了熵函数逼近问题解的存在性和算法的全局收敛性，数值算例表明了算法的有效性。