一类正则化参数自由的线性约束凸优化问题的预测-校正算法

我们对文章的结构做这样的安排:第二节给出本文需要的预备知识;第三节简述单个目标函数问题(1.1)的己有算法和求解可能遇到的困难,第四节给出解决问题的预测-校正方法;第五节和第六节对问题(1.2)分别陈述己有方法的固有困难和我们提出的解决方案.最后,在第七节中,我们为提出的方法给出统一的算法框架,证明这类算法的收敛性和遍历意义下的收敛速率,同时给出我们的一些结论.     

Schwarz混乱松弛法(S-COR)及同步和异步并行算法

早在1985年,[1]就把Schwarz交替法推广到任意多个子区域分解情形,并且提出了带松弛因子ω的S-COR算法.就一般的二阶自共轭椭圆问题而言,[1]断言:当ω∈(0,2)时,S-COR算法收敛,并在[1]和[2]中给出了收敛性证明.但在证明中有几处不严密的论证.本文利用Lions的理论给出一个收敛性证明,并提出几个同步和异步并行算法.其收敛性可由S-COR算法的收敛性导出.     

Schwarz混乱松弛法(S-COR)及同步和异步并行算法

早在1985年,[1]就把Schwarz交替法推广到任意多个子区域分解情形,并且提出了带松弛因子ω的S-COR算法.就一般的二阶自共轭椭圆问题而言,[1]断言:当ω∈(0,2)时,S-COR算法收敛,并在[1]和[2]中给出了收敛性证明.但在证明中有几处不严密的论证.本文利用Lions的理论给出一个收敛性证明,并提出几个同步和异步并行算法.其收敛性可由S-COR算法的收敛性导出.     

凸可行问题的一种强收敛算法

无限维Hilbert空间中,解凸可行问题的平行投影算法通常是弱收敛的.本文对一般的平行投影算法进行改进,设计了一种解凸可行问题的具有强收敛性的新算法.该算法主要是在原有算法基础上引入了一个参数序列,在参数序列满足一定的控制条件下保证了算法的强收敛性.为了简单证明算法的强收敛性,我们构建了一个新的积空间,然后把原空间的这种改进平行投影算法转换为积空间中的交替投影算法.这样,改进的平行投影算法的强收敛性就可以通过交替投影算法的收敛性证明得到.     

半无限规划的一个序列线性方程组方法

本基于离散技术，给出了任意初始点下的半无限规划的一个序列线性方程组算法和算法的全局收敛性的证明。并在一定的假设下，证明了算法的一步超线性收敛性。     

带误差项的下降算法的收敛性

本文考虑了Solodov和Svaiter提出的带误差项的下降算法的收敛性．其重要特征是在收敛性的证明过程中没有应用梯度函数的Hlder连续性．因此,我们在较弱的条件下得到了该算法的收敛性结果．     

优化算法的复杂度分析

优化算法的收敛性分析是优化中很重要的一个领域,然而收敛性并不足以作为比较不同算法效率的标准,因此需要另外一套衡量优化问题难易程度以及优化算法效率高低的理论,这套理论被称为优化算法的复杂度分析理论.本文共分为5个部分.第1节介绍复杂度分析的背景和理论框架,给出复杂度分析的定义、方法和例子,并总结本文中的复杂度结论.第2节介绍光滑优化问题的复杂度分析,给出不同优化问题的复杂度上界和下界,并给出加速梯度法收敛性分析的框架.第3节介绍非光滑优化问题的复杂度上界,介绍次梯度法、重心法、椭球法和近似点梯度法的复杂度分析.第4节介绍条件梯度法的复杂度分析,介绍条件梯度法的复杂度上界和下界,以及加速条件梯度法的框架.第5节介绍随机优化算法的复杂度分析,比较随机优化算法在凸和非凸问题下收敛的置信水平和复杂度.     

级联算法在Besov和Triebel—Lizorkin空间上的有界性和收敛性（Ⅱ）

本文利用联合谱半径刻画了级联算法在Besov和Triebel-Lizorkin空间上的收敛性,给出了级联算法初值函数矩条件的新证明,并利用到细分分布的光滑性和非齐次细分方程解的存在性等方面,特别地,在某些条件下,我们证明了级联算法的有界性和收敛性相互等价。     

基于非均匀变异的进化算法对高维多峰函数的收敛性分析

对基于非均匀变异算子的进化算法的实验和机理分析已经证明了该算法模型的良好特性,最近基于非均匀变异算子的进化算法模型求解一维多峰函数问题的收敛性已经得到证明.基于马尔科夫过程理论,对基于非均匀变异算子的一般性进化算法模型和一般性高维多峰函数的收敛性给出证明,并基于典型算例与同类典型算法进行性能比较,数值试验表明算法模型具有很好的性能表现和应用前景.     

带有固定步长的非单调自适应信赖域算法

提出了求解无约束优化问题带有固定步长的非单调自适应信赖域算法.信赖域半径的修正采用自适应技术,算法在试探步不被接受时,采用固定步长寻找下一迭代点.并在适当的条件下,证明算法具有全局收敛性和超线性收敛性.初步的数值试验表明算法对高维问题具有较好的效果.     

级联算法在Besov和Triebel-Lizorkin空间上的有界性和收敛性(Ⅱ)(英文)

本文利用联合谱半径刻画了级联算法在Ｂｅｓｏｖ和Ｔｈｉｅｂｅｌ－Ｌｉｚｏｒｋｉｎ空间上的收敛性,给出了级联算法初值函数矩条件的新证明,并利用到细分分布的光滑性和非齐次细分方程解的存在性等方面．特别地,在某些条件下,我们证明了级联算法的有界性和收敛性相互等价．     

关于解椭圆型问题的多子域D-N交替算法

构造一个求解椭圆型边值问题的多子域D—N交替算法，导出对应的容度方程和等价的迭代法，证明算法的收敛性。     

求解一类非线性规划问题的K-K-T点的全局收敛性算法

提出了一组无界性条件,在此基础上给出了求解一类无界非凸非线性规划问题的K-K-T点的一种高效的全局收敛性算法,在适当的条件下,给出了算法的收敛性证明.结果把已有的研究结果推广到无界区域上,进一步扩大了算法的求解区域.     

带阈值的模糊感知器的收敛性

1 前言各种神经网络被广泛用来解决有导师分类问题．对于模糊感知器,文献[1]提出一种新的训练算法,并证明当样本可分时,该算法有限收敛．文献[2]在模糊神经元中加入阈值 v∈[0,1]．对某些模糊神经网络学习算法如FBP(见文献[3]),阈值在收敛性证明中起着重要的作用．那么,在模糊感知器中加入阈值是否还能得到算法的收敛性?本文将对这个问题进行讨论．     

拓广的Rosen梯度投影法及其整体收敛性证明

§1.引言 Rosen梯度投影法是求解非线性规划问题的基本方法之一,方法简便,实际应用的数值效果好,而且许多近代的更有效的算法继续采用了它的基本思想和技巧。在这些算法中最有代表性的是Goldfarb方法和Murtagh-Sargents方法,其收敛性自然在某种程度上依赖于Rosen方法的收敛性。但是,Rosen方法之严格的收敛性证明尚未取得。尽管D.G.Luenberger在其著作中应用Zangwill的总体收敛性充分性定理说     

关于DC函数最小化邻近点算法的注记

本文证明DC函数最小化问题邻近点算法的一个收敛性定理,并对此问题提出一类非精确邻近点算法．     

无约束最优化的一类非单调信赖域算法

提出无约束最优化的一类非单调信赖域算法 .在适当的条件下 ,证明此算法的全局和Q 二次收敛性 ,还讨论了步长和信赖域半径的几种选取规则 .     

弱非线性椭圆型方程的Ritz—Galerkin解法和差分解法探讨

本文给出了Ｒｉｔｚ－Ｇａｌｅｒｋｉｎ解法的收敛性，并对模型问题的块Ｊａｃｏｂｉ和平行弦方法进行了收敛性分析。Ｂｅｒｓ在１９６４年给出模型问题差分方法收敛性的证明，这里得到了块Ｊａｃｏｂｉ块ＳＯＲ、块Ｎｅｗｔｏｎ－Ｊａｃｏｂｉ和块Ｎｅｗｔｏｎ－Ｓｏｒ四种算法的收敛性结果。以上这些Ｊａｃｏｂｉ算法都适合于并行计算，最后给出两个具体数值例子。     

一类分式规划问题的ε-近似算法

本文针对一类复杂的分式规划问题,提出一种全局最优ε-近似解算法,并从理论上证明该算法的收敛性和计算复杂性,数值结果表明本文算法有效可行.     

非单调投影梯度方法解不等式约束优化

本文提出了投影梯度算法结合非单调信赖技术解不等式约束优化问题，获得了算法的整体收敛性的证明．