线性约束最优化的局部正基方向搜索法(英文)

讨论下列线性约束最优化问题其中。对于X中的能行点,定义了局部能行锥与相应的局部正基——即生成该锥的一组正独立的向量,给出了沿着局部正基方向进行目标函数值比较与迭代点移动的算法模型,简称为局部正基方向搜索法,本文并证明了这算法的收敛性定理: 定理 设约束集合非空有界且非退化,目标函数f(x)连续可微,{y_i}是局部正基方向搜索法产生的某个点列,那末{y_i}的任意极限点x_*必是问题(LNP)的Kuhn-Tucker点。     

A DIRECT SEARCH METHOD BY THE LOCAL POSITIVE BASIS FOR LINEARLY CONSTRAINED OPTIMIZATION

讨论下列线性约束最优化问题 \[LNP{\kern 1pt} {\kern 1pt} {\kern 1pt} \mathop {\min }\limits_{{\text{x}} \in X} {\kern 1pt} {\kern 1pt} {\kern 1pt} {\text{f}}(x),X = \{ x|x \in {R^n},{({a^i})^T}x \geqslant {a_i},i \in {I_m}\} \] 其中\[{I_m} = \{ 1,2,...,m\} \]，对于X中的能行点，定义了局部能行锥与相应的局部正基一 即生成该锥的一组正独立的向量，给出了沿着局部正基方向进行目标函数值比较与迭代 点移动的算法模型，简称为局部正交基方向搜索法，本文并证明了这算法的收敛性定理： 定理 设约束集合\[X = \{ x|{({a^i})^T}x \geqslant {a_i},i \in {I_m}\} \]非空有界且非退化，目标函数f(x)连续可微，{yi}是局部正基方向搜索法产生的某个点列，那么{yi}的任意极限点x*必是问题（TNP）的Kuhn-Tucker点。     

非线性约束最优化问题的局部正基方向法

本文对非线性约束最优化问题min{f(x)|h_i(x),1≤i≤m}给出了一个新的局部正基方向法。在f(x),h_i(x)(1≤i≤m)都连续可微,约束集非退化的条件下,证明了算法的整体收敛性。     

结合广义Armijo步长搜索的超记忆梯度算法及其收敛特征

对无约束规划 ( P) :minx∈ Rnf ( x) ,其中 f ( x)是 Rn→ R1上的一阶连续可微函数 ,设计了一个超记忆梯度求解算法 ,并在去掉迭代点列 { xk}有界和广义 Armijo步长搜索下 ,讨论了算法的全局的收敛性 ,证明了算法具有较强的收敛性质     

求解多目标优化问题的邻近牛顿法

针对一类特殊的多目标优化问题,其每个目标函数为一个二阶连续可微凸函数与一个真凸但不必可微函数之和,提出了邻近牛顿法.我们引入了带线搜索的邻近牛顿法和不带线搜索的邻近牛顿法.在适当的条件下,我们证明了由这两类算法产生的序列的每个聚点是多目标优化问题的Pareto平稳点.此外,我们给出了它们在约束多目标优化和鲁棒多目标优化...     

一类线性约束下不可微最优化问题的可行下降方法

本文给出了一类线性约束下不可微量优化问题的可行下降方法，这类问题的目标函数是凸函数和可微函数的合成函数，算法通过解系列二次规划寻找可行下降方向，新的迭代点由不精确线搜索产生，在较弱的条件下，我们证明了算法的全局收敛性     

带集合约束的分布式随机凸优化

本文研究了一个受集合约束的优化问题:minΣ~N_(i=1)f_i(x),s.t.x∈X,提出了一个基于多智能体系统的算法来求解这个问题.每个自主体i有其自身的一个局部目标函数f_i(x)以及全局约束集X.通过与相邻自主体的通信,每个自主体都能获取局部信息用来实现分布式控制律.本文证明了在所设计的分布式控制律的作用下,每个自主体的状态最终趋于一致并进入到全局目标函数的最优解集中,同时也满足约束x∈X.在大多数已有的算法里,每个自主体在每个采样时刻都需要进行以下的计算:(1)约束集投影;(2)次梯度搜索;(3)加权平均.然而在本文所提出的算法中,每个自主体在每个采样时刻只需要随机进行:(1)保持当前状态;(2)约束集投影;(3)次梯度搜索中的一项计算,然后再与相邻自主体的信息进行加权平均.与传统的确定性算法相比,本文的所提出的算法降低了每个采样时刻各个自主体的计算量.     

采用增广拉格朗日乘子形式的罚函数作线性搜索的递归等式约束二次逼近算法

1.引言 本文所讨论的问题如下: Min f(x) x∈R~n, s.t. c_i(x)=0,i=1,…,q,(1.1) c_i(x)≤0,i=q+1,…,p.解此问题的递归等式约束二次逼近算法,是由Murry(1969)提出,而后由Biggs(1972)发展的.此项研究是从罚函数的轨迹出发,建立一个只包含等式约束的二次规划子问题,从而可用代数的方法求得搜索方向.并沿该方向作线性搜索而完成一次迭代过程.Biggs将二次罚函数作为效应函数用于线性搜索,并证明了该算法具有全局收敛性和局部超线     

多元函数可微性的几个充分性定理

<正> 现行《数学分析》和《高等数学》各本教材中,都有二元函数的可微性充分条件的定理:如果函数z=f(x,y)的编导数在点P(x,y)连续,则函数在该点的全微分存在.由于此定理要求两个偏导数在点(x_0,y_0)都连续.这对函数f(x,y)的要求是比较苛刻的,可是我们经常会遇到函数u=f(z,y)在点(x_0,y_0)的某一个偏导数存在而不连续,而另一个偏导数存在且连续.遇到这类函数就无法用可微性充分条件定理去判定函数u=f(x,y)在点(x_0,y_0)是否可微.     

高阶偏导数存在不能保证函数连续性、可微性的例子

<正> 多元函数的连续性、偏导数、可微性是高等数学中的基本概念,它们的相互关系与一元函数的连续、可导、可微之间的关系是不同的。在工科高等数学教材(?)理科的数学分析教材中都叙述并证明了定理:若f′_x(x,y,),f′_y(x,y)在点(x_0,y_0)处连续,则f(x,y)在点(x_0,y_0)     

一个解界约束非线性方程组的无导数回溯线搜索仿射内点信赖域方法（英文）

文章给出了一个求解界约束非线性方程组的无导数回溯线搜索仿射内点信赖域方法.该方法利用非线性方程组的特点,对方程组中每一个函数建立插值模型.通过利用信赖域模型和回溯先搜索技术的结合,利用插值信赖域子问题子问题求解搜索方向,并利用回溯先搜索技术保证可行性.在合理的假设条件下,证明了算法的全局和快速局部收敛性.并且,通过数值实验表明该种无导数算法对求解界约束非线性方程组问题是有效的.     

不等式约束优化全局收敛的滤子线性方程组算法

设计了求解不等式约束非线性规划问题的一种新的滤子序列线性方程组算法,该算法每步迭代由减小约束违反度和目标函数值两部分构成.利用约束函数在某个中介点线性化的方法产生搜索方向.每步迭代仅需求解两个线性方程组,计算量较小.在一般条件下,证明了算法产生的无穷迭代点列所有聚点都是可行点并且所有聚点都是所求解问题的KKT点.     

一个平行的广义Kuhn—Tucker必要条件

本文引入能行锥的概念,得到一个新的约束品性,给出了最优化问题在一般约束条件下,目标函数f(x)在x 取得局部极小值的一个平行的广义Kuhn-Tucker 必要条件。     

非线性半定规划一个全局收敛的无罚无滤子SSDP算法

提出了一个求解非线性半定规划的无罚函数无滤子序列二次半定规划(SSDP)算法. 算法每次迭代只需求解一个二次半定规划子问题确定搜索方向; 非单调线搜索保证目标函数或约束违反度函数的充分下降, 从而产生新的迭代点. 在适当的假设条件下, 证明了算法的全局收敛性. 最后给出了初步的数值实验结果.     

非光滑优化的二阶必要条件

1 引言 对无约束最优化问题,其必要条件要求在局部极小点x处沿任何方向的梯度为零,曲率为正。而对约束最优化问题,首先它的局部极小点必须是可行点,其次不仅要求验证局部 极小点的某个邻域内的二阶项(曲率),而且也要认识到约束曲率也起相当重要的作用。现实中存在这样的问题,在x点处G正定,而它不是局部极小点。因此必须考虑约束最优化问题的二阶必要性条件。 本文研究了非线性规划的二阶必要性条件,其约束函数的一阶导数为方向Lipschitz连续。 2 方向Lipschitz连续函数的性质 定义2.1 设f是R~n上的一个广义实值函数,f在x∈R~n处有限,称f在x处是方向Lipschitz连续的,如果至少存在一点y∈R~n使得 其中( 定义2.2 设f如定义2.1,定义f在R~n处的次导数集如下 其中 本文多次引用f↑(x;y),因此我们首先介绍f↑(x;y)的3个基本性质:     

关于多元函数可微性的几个充分性定理

<正> 现行《数学分析》和《高等数学》各本教材中,都有二元函数的可微性充分条件的定理为:如果函数z=f(x,y)的偏导数?z/?x,?z/?y在点P(x,y)连续,则函数在该点的全微分存在。由于此定理要求两个偏导数在点(x_0,y_0)都连续,所以对函数f(x,y)的要求就比较苛刻,可是我们经常会遇到函数u=f(x,y)在点(x_0,y_0)的某一个偏导数存在但这个偏导数不连续,而     

基于简单二次函数模型的带线搜索的新信赖域算法

基于简单二次函数模型,结合非精确大步长Armijo线搜索技术,建立了一个新的求解无约束最优化问题的组合信赖域与线搜索算法,在目标函数梯度▽f(x)在R~n上一致连续条件下证明了算法的全局收敛性.数值例子表明算法是有效的,适合求解大规模问题.     

一类规划问题的最优性讨论

本首先给出一类新的目标函数的分子和分母及约束函数都含有支撑函数的单目标分式规划问题模型，并打破f(x)，g(x)，h,(x)可微的限制，率先利用凸分析理论讨论了f(x)，g(x)，hj(x)不可微(从而目标函数和约束函数可微性不定)时的最优性条件。     

一类带等式约束非光滑最优化问题的逐次二次规划方法

本文对一类带等式的非光滑最优化问题给出了一种逐次二次规划方法。这类问题的目标函数是非光滑合成函数，约束函数是非线性光滑函数。该方法通过逐次解二阶规划寻找搜索方向，使用ｌ１－罚函数的非精确线搜索得到新的迭代点。我们证明了算法的全局收敛性并给出了数值试验结果。     

约化为三对角矩阵的改进Newton算法

一、引言 本文用g(x)表示目标函数的梯度,G(x)表示目标函数f(x)在x点的Hessain矩阵,p(x)表示在x点进行一维搜索的方向。用Newton法求目标函数f(x)极小时是通过所谓求解方程组