一种改进的进化规划算法及其收敛性

1　引　言进化算法是一类借鉴生物界自然选择和自然遗传机制的随机搜索算法 ,主要包括遗传算法 ( genetic algorithms,GA)、进化规划 ( evolutionary programming,EP)和进化策略( evolution strategies,ES) [1 ] .遗传算法 ,进化策略和进化规划分别由 J.H.Holland,I.Rechenberg和 L.J.Fogel提出[2 ,3,4] .这些算法有许多相似性 ,且近年来都被应用于实值连续函数全局优化问题 ,并取得了较好的效果 .一些学者对进化算法的收敛性进行了分析[5,6,7,8] ,但总的说来 ,有关进化算法的理论研究成果目前还不是很多 ,尤其是进化规划和进化策略几…     

一类改进BFGS算法及其收敛性分析

本文针对无约束最优化问题,基于目标函数的局部二次模型近似,提出一类改进的BFGS算法,称为 MBFGS算法。其修正 B_k的公式中含有一个参数θ∈[0,l],当 θ= 1时即得经典的BFGS公式;当θ∈[0、l）时,所得公式已不属于拟Newton类。在目标函数一致凸假设下,证明了所给算法的全局收敛性及局部超线性收敛性。     

模拟退火算法的原理及实现

１问题的由来在自然科学、管理科学和工程技术等科技领域,存在着大量的组合优化问题（Ｃｏｍｂｉｎａ－ｔｏｒｉａｌＯｐｔｉｍｉｚａｔｉｏｎＰｒｏｂｌｅｍ）,其中的ＮＰ完全问题（ＮｏｎｄｅｔｅｒｍｉｎｉｓｔｉｃＰｏｌｙｎｏｍｉａｌＣｏｍｐｌｅｔｅＰｒｏｂｌｅｍ）,其求解时间随问题规模呈指数级增长,当规模稍大时就会因时间限制而失去可行性（Ｆｅａｓｉｂｉｌｉｔｙ）［１－４］．如著名的货郎担问题（Ｔｒａｖｅｌｉｎｇ　Ｓａｌｅｓｍａｎ　Ｐｒｏｂｌｅｍ,简记为ＴＳＰ）,即在ｎ个顶点的完全图中找一条最小Ｈａｍｉｌｔ…     

一类新的信赖域算法的全局收敛性

本文对于无约束最优化问题提出了一类非单调的信赖域算法，它是通常的单调信赖域算法的推广。当目标函数是有下界的连续可微函数，而且它的二阶导数的近似的模是线性地依赖于迭代次数时，我们证明了新算法的整体收敛性。     

一类非拟Newton算法及其收敛性

本文对求解无约束最优化问题提出一类非拟Ｎｅｗｔｏｎ算法，此方法同样具有二次终止性，产生的矩阵序列保持正定对称传递性，并证明了新类中的任何一种算法的全局收敛和超线性收敛性。     

一类锥模型非单调信赖域算法及收敛性分析

本文对无约束优化问题提出了一类基于锥模型的非单调信赖域算法.二次模型非单调信赖域算法是新算法的特例.在适当的条件下,证明了算法的全局收敛性及Q-二次收敛性.     

约束优化的曲线搜索信赖域算法及其全局收敛性

本文通过对无约束优化ＯＤＥ算法的信赖域分析,提出了约束优化问题的曲线搜索信赖域算法,给出了算法步骤,并讨论了该算法的全局收敛性。     

DFP算法的全局收敛性分析

1引言理论分析和大量数值试验表明，在求解（1．1）的各种算法中，拟Newton法是效果最好的一类方法．DFP算法是最早提出的拟Newton法，它首先由Davidon［2］给出并由Fletcher和Powell【3］修改DFP算法的计算步骤如下：算法1．1．1”．取二R”，BIE＊”“”对称正定，k：＝1．2”．计算gb＝7八kh），若gb—0，则终止，得解kk．否则，转入下一步．3O．dk——BK‘gb．4“．进行线搜索确定步长aa．在上面的算法中，步长0。的确定有两种方式：其一，精确线搜索，即。。满足：其M，非精确线搜索．本文考察WOlfe线搜索，即a＆满足：其中o…     

一类非单调修正PRP算法的全局收敛性

本文给出一类非单调线性搜索下的修正PRP算法,该方法保证每次迭代中的搜索方向是充分下降的.在较弱的条件下,我们证明了此类非单调修正PRP算法具有全局收敛性.     

模拟退火猫群优化算法

猫群优化算法(Cat Swarm Optimization,CSO)是建立在猫的行为模式和群体智能基础上的一种新型群体智能优化算法。为提高猫群优化算法的性能,把模拟退火算法应用于猫群优化算法,提出模拟退火猫群优化算法(Simulated Annealing Cat Swarm Optimization,SACSO),通过变异算子调整所要优化的种群。其基本过程为先行产生随机初始种群,接着进行搜索,并设置初始温度,继而应用模拟退火算法获取全局最优替代值,再依据位置和速度公式更新新解,然后在个体较优位置再运用变异运算,进行进一步地搜索。然后分别将猫群优化算法、模拟退火粒子群算法(Simulated Annealing Particle Swarm Optimization,SAPSO)、模拟退火猫群优化算法在11个典型的基准测试函数下进行仿真对比,结果表明模拟退火猫群优化算法不仅增加了全局收敛性,而且在收敛速度和精度方面均优于其它两种算法。     

一种改进的模拟退火算法

1 引言 在过去的几十年中,最优化的任务在诸如以下不同领域中表现为稳步上升趋势,如电子工程、操作系统、计算机科学和通信等,其中的NP完全问题不易得出最优解,它被所解问题大小的一个多项式函数所限制,且其求解时间随问题规模呈指数级增长,当规模稍大时就会因时间限制而失去可行性。     

一个等式约束问题的SQP方法及其收敛性

本文提出一个SQP算法,其效益函数为Flether^[1]提出的连续可微精确罚函数。该算法具有全局收敛性和超线性收敛速度,并且能自动调节罚参数,能有效地处理计算搜索方向的二次子规划的不可行问题。     

无约束优化问题模拟退火算法的改进

考虑如下无约束优化问题(Ｐ)　　　　　　　　　ｍｉｎｘ ｆ(ｘ)ｆ(ｘ)是Ｒｎ 中连续可微的函数 求解 (Ｐ)有多种有效方法 ,但基本上都只能保证求得 (Ｐ)的局部最优解 ,而不能保证求出整体最优解 1 983年 ,Ｋｉｒｋｐａｔｒｉｃｋ[1] 等人将固体退火过程与优化问题进行类比 ,提出了求组合优化问题整体最优解的模拟退火算法 这种方法与以往的一些算法相比 ,具有描述简单 ,使用灵活运行效率高和较少受初始条件限制等优点 ,而且特别适合并行计算 ,因此引起了广泛注意及进一步的工作[2 ] 受此方法的启发 ,1 987年 ,Ｃｈｉａｎｇ[3 ] 等人提…     

无约束非光滑优化问题的信赖域算法及收敛性

1．引言考虑下列无约束非光滑优化问题：其中f为R”上的局部LIPSChitZ函数．本文将11·112简记为11·l．信赖域算法是通过求解一系列子问题3＊B（二，凸）：来求解问题（1）的，其中拉x，·）为j在x点的一阶近似，B为nxn阶对称阵．下面给出信赖域的基本算法TRA：步1·给定...     

DFP算法全局收敛性的几个充分性条件

本文在目标函数是一致凸且采用Ｗｏｌｆｅ线搜索的条件下，给出无约束最优化问题的ＤＦＰ算法的全局收敛性的几个充分性条件，并与「１」中的条件进行了比较。     

基于非均匀变异的进化算法对高维多峰函数的收敛性分析

对基于非均匀变异算子的进化算法的实验和机理分析已经证明了该算法模型的良好特性,最近基于非均匀变异算子的进化算法模型求解一维多峰函数问题的收敛性已经得到证明.基于马尔科夫过程理论,对基于非均匀变异算子的一般性进化算法模型和一般性高维多峰函数的收敛性给出证明,并基于典型算例与同类典型算法进行性能比较,数值试验表明算法模型具有很好的性能表现和应用前景.     

不等式约束优化一个具有超线性收敛的可行序列二次规划算法

建立了一个新的SQP算法,提出了一阶可行条件这一新概念．对已有SQP型算法进行改进,减少计算工作量,证明了算法具有全局收敛及超线性收敛性．数值实验表明算法是有效的．     

AN IMPLEMENTABLE ALGORITHM AND ITS CONVERGENCE FOR GLOBAL MINIMIZATION WITH CONSTRAINS

With the integral-level approach to global optimization, a class of discontinuous penalty functions is proposed to solve constrained minimization problems. In this paper we propose an implementable algorithm by means of the good point set of uniform distribution which conquers the default of Monte-Carlo method. At last we prove the convergence of the implementable algorithm.     

一种快速且全局收敛的BP神经网络学习算法

目前误差反向传播(BP)算法在训练多层神经网络方面有很多成功的应用.然而,BP算法也有一些不足:收敛缓慢和易陷入局部极小点等.提出一种快速且全局收敛的BP神经网络学习算法,并且对该优化算法的全局收敛性进行分析和详细证明.实证结果表明提出的算法比标准的BP算法效率更高且更精确.