非光滑约束问题的既约次梯度法

１引言 对带约束的不可微的非线性规划问题,由于不能使用梯度,求极小点就比较困难．本文给出解决此问题的一种有效的算法． ２　非光滑约束问题的既约次梯度法 １）非线性规划问题的Ｌａｅｒａｎｅ对偶理论 考虑下面非线性规划问题其中ｇ（ｘ）＝（ｇ１（ｘ）,…,ｇｒ（ｘ））Ｔ,ｈ（ｘ））＝（ｈ１（ｘ）,…,ｈｍ（ｘ））Ｔ,ｆ（ｘ）＝　　　　　　Ｒｎ中是Ｌｉｓｐｓｃｈｉｔｚ连续的ｉ＝１,２,…,ｒ,ｊ＝１,２,…,ｍ相应的Ｌａｇｒａｎｇｅ对偶问题为其中　　（ｕ,　）＝ｉｎｆＬ（ｘ;ｕ,ｖ）＝ｉｎｆ（ｆ（ｘ）＋ｕＴ…     

基于次梯度选取的非光滑优化强次可行方向法

本文结合次梯度选取技术及割平面法和强次可行方向法的思想,提出了一个求解目标函数非光滑约束优化问题的强次可行方向算法.通过设计一个新的寻找搜索方向子问题和构造新型线搜索,算法不仅能接受不可行的初始点,而且能保持迭代点的强次可行性,同时避免在可行域外目标函数值的不适度增加.算法具备全局收敛性,且初步的数值试验表明算法是稳定有效的.     

一个线性约束优化问题的广义梯度投影法

本文对线性约束优化问题提出了一个新的广义梯度投影法，该算法采用了非精确线性搜索，并在每次迭代运算中结合了广义投影矩阵和变尺度方法的思想确定其搜索方向．在通常的假设条件下，证明了该算法的整体收敛性和超线性收敛速度．     

线性约束不可微凸规划的既约次梯度法

本文研究形式为 minf(x) (1.1) x∈R的非线性规划问题,其中x=(x_1,x_2,…,x_n)~T∈E~n,f:E~n→E为给定的凸函数,它可以是不可微的.可行集R为     

线性约束非线性规划的梯度投影法

我们考虑问题(LNP) minf(x),x∈R={x|A~Tx≤b,x∈R~n},其中A是n×m矩阵,b为m维向量,R~n为n维欧氏空间f(x)∈C~1.记I(x)={i|a_i~Tx=b_i,i=1,…,m},P_(I(x))为R~n到U_(I(x))={x|a_i~Tx=0,i∈I(x)}的投影矩阵.特别记I_k=I(x~k),U_k=U(I_k),N(I_k)=(a_i~T,i∈I_k)~T.本文恒假定秩N_(I(x))=|I(x)|,(即I(x)中的元素个数).     

线性约束最优化的一个共轭投影梯度法

本结合共轭梯度法及梯度投影法的思想,建立线性等式约束最优化的一个新算法,称之为共轭投影梯度法。分别对二次凸目标函数和一般目标函数分析和论证了算法的重要性质和收敛性。     

凸约束非光滑方程组一个新的谱梯度投影算法

基于寻找分离超平面的三种经典线搜索技术,本文提出了一种自适应线搜索技术.结合谱梯度投影法,提出了凸约束非光滑单调方程组的一个谱梯度投影算法.该算法不需要计算和存储任何矩阵,因而适合求解大规模非光滑的非线性单调方程组.在较弱的条件下,证明了方法的全局收敛性,并分析了算法的收敛率.数值试验结果表明算法是有效的和鲁棒的.     

特定约束凸规划的族次梯度投影算法Ⅱ

本文讨论［４］提出的族次梯度投影算法的收敛性．     

线性约束下的共轭投影梯度法及其超线性收敛性

本文考虑线性约束非线性规划问题，提出了一类共轭投影梯度法，证明了算法的全局收敛性，并对算法的二次终止性，超线性收敛特征进行了分析，算法的优点是（１）采用计算机上实现的Ａｒｍｉｊｏ线性搜索规则，（２）初始点不要求一定是可行点，可以不满足线性等式约束，（３）具有较快的收敛速度。     

有界约束半光滑方程组的非单调投影信赖域方法

投影信赖域策略结合非单调线搜索算法解有界约束非线性半光滑方程组.基于简单有界约束的非线性优化问题构建信赖域子问题,半光滑类牛顿步在可行域投影得到投影牛顿的试探步,获得新的搜索方向,结合非单调线搜索技术得到回代步,获得新的步长.在合理的条件下,证明算法不仅具有整体收敛性且保持超线性收敛速率.引入非单调技术能克服高度非线性的病态问题,加速收敛性进程,得到超线性收敛速率.     

一类约束非光滑优化的非单调信赖域算法

提出了求解一类带一般凸约束的复合非光滑优化的信赖域算法 .和通常的信赖域方法不同的是 :该方法在每一步迭代时不是迫使目标函数严格单调递减 ,而是采用非单调策略 .由于光滑函数、逐段光滑函数、凸函数以及它们的复合都是局部Lipschitz函数 ,故本文所提方法是已有的处理同类型问题 ,包括带界约束的非线性最优化问题的方法的一般化 ,从而使得信赖域方法的适用范围扩大了 .同时 ,在一定条件下 ,该算法还是整体收敛的 .数值实验结果表明 :从计算的角度来看 ,非单调策略对高度非线性优化问题的求解非常有效     

线性约束下的共轭投影变尺度法及其超线性收敛性

§1.引言 对于线性约束非线性规划问题,自从Zoutendijk于1960年提出容许方向法以来,相继出现了很多可行方向法,特别是Rosen和Goldfarb的梯度投影法引人注目。很多作者对他们的方法进行了各种形式的改进,把线性约束的情形推广到非线性约束的情形,从凸规划的可行方向法发展到非凸规划的可行方向法,通过引进ε-有效约束集的概念,从     

非单调投影梯度方法解不等式约束优化

本文提出了投影梯度算法结合非单调信赖技术解不等式约束优化问题，获得了算法的整体收敛性的证明．     

求解界约束优化的一种新的非单调谱投影梯度法

本文给出求解界约束优化问题的一种新的非单调谱投影梯度算法. 该算法是将谱投影梯度算法与Zhang and Hager [SIAM Journal on Optimization,2004,4（4）：1043-1056]提出的非单调线搜索结合得到的方法. 在合理的假设条件下,证明了算法的全局收敛性.数值实验结果表明,与已有的界约束优化问题的谱投影梯度法比较,利用本文给出的算法求解界约束优化问题是有竞争力的.     

一种约束非光滑优化问题的信赖域算法

提出了一种易实施的求解带线性约束的非光滑优化问题的信赖域算法，并在一定的条件下证明了该算法所产生的迭代序列的任何聚点都是原问题的稳定点．有限的数值例子表明，该方法是行之有效的．     

非光滑稀疏约束优化问题的最优性条件及算法

针对目标函数非光滑的稀疏约束优化问题,给出基本可行性和λ-平稳性两个必要最优性条件,利用所给出的必要最优性条件构造出稀疏次梯度投影算法.在理论上分析了算法的收敛性,证明了由该算法所产生序列的任意聚点都是λ-平稳点.最后,通过两个数值实例验证了算法的收敛性、有效性和优化能力.     

非光滑约束规划的最优性条件

本文以方向可微和一致方向可微为工具,建立了约束非光滑规划的最优性条件,推广并改进了[1]中的主要结果。     

线性均衡约束最优化的一个广义投影强次可行方向法

本文讨论带线性均衡约束最优化问题,首先利用摄动技术和一个互补函数将问题等价转化为一般约束最优化问题,然后结合广义投影技术和强次可行方向法思想,建立了问题的一个新算法.算法在迭代过程中保证搜索方向不为零,从而使得每次迭代只需计算一次广义投影.在适当的条件下,证明了算法的全局收敛性,并对算法进行了初步的数值试验.