基于光滑化方法求解非线性l1问题

讨论了求解非线性l1问题的一种新的光滑函数法.通过对非线性l1问题模型的转化,将该问题化为一个不可微优化问题,据此提出了基于BFGS迭代的非线性l1问题的光滑函数法,介绍了非线性l1问题的光滑函数的有关性质、算法步骤及其收敛性.数值仿真显示了提出的光滑函数方法可以避免数值计算的溢出,具有一定的有效性.     

一类非单调保守BFGS算法研究

基于非单调线搜索在寻求优化问题最优解中的优越性,提出了一类新的非单调保守BFGS算法.同已有方法不同,该算法中用来控制非单调性程度的算法参数不是取固定值,而是利用已有目标函数和梯度函数的信息自动调整其取值,以改善算法的数值表现.在合适的假设条件下,建立了新的非单调保守BFGS算法的全局收敛性.用基准测试优化问题测试了算...     

求解非线性方程组的一种新的全局收敛的Levenberg-Marquardt算法

本文提出了求解非线性方程组的一种新的全局收敛的Levenberg-Marquardt算法,即μk=ακ(θ||F_k|| (1-θ)||J_k~TF_k||),θ∈[0,1],其中ακ利用信赖域技巧来修正.在不必假设雅可比矩阵非奇异的局部误差界条件下,证明了该算法是全局收敛和局部二次收敛的.数值试验表明该算法能有效地求解奇异非线性方程组问题.     

非凸函数极小问题的BFGS算法

本对于非凸函数的无约束优化问题，给出一类修正的BFGS算法。算法的思想是对非凸函数的近似Hesse矩阵进行修正，得到下降方向，并且保证拟牛顿条件成立，当步长采用线性搜索一般模型时，证明了该算法的局部收敛性。     

大规模无约束优化的一族LBFGS类算法

尝试在有限存储类算法中利用目标函数值所提供的信息.首先利用插值条件构造了一个新的二次函数逼近目标函数,得到了一个新的弱割线方程,然后将此弱割线方程与袁[1]的弱割线方程相结合,给出了一族包括标准LBFGS的有限存储BFGS类算法,证明了这族算法的收敛性.从标准试验函数库CUTE中选择试验函数进行了数值试验,试验结果表明...     

大规模无约束优化的一族LBFGS类算法

尝试在有限存储类算法中利用目标函数值所提供的信息.首先利用插值条件构造了一个新的二次函数逼近目标函数,得到了一个新的弱割线方程,然后将此弱割线方程与袁[1]的弱割线方程相结合,给出了一族包括标准LBFGS的有限存储BFGS类算法,证明了这族算法的收敛性.从标准试验函数库CUTE中选择试验函数进行了数值试验,试验结果表明这族算法的数值表现都与标准LBFGS类似.     

一个带有线搜索的新信赖域方法及其收敛性

本文利用一个修正的BFGS公式,提出了一个结合Armijo线搜索条件技术的BFGS信赖域方法,并在一定条件下证明了该方法的全局收敛性和超线性收敛性.初步的数值实验结果表明该方法是有效的.     

一个新的BFGS信赖域算法

本文对于无约束最优化问题提出了一个新的BFGS信赖域算法.利用BFGS方法和信赖域方法,提出了改进的BFGS信赖域方法.推广了文献[3,5]中的两种算法,得到一个新的BFGS信赖域算法,在适当条件下证明了算法的全局收敛性.     

求解非线性P_0互补问题的非单调磨光算法

提出了一种新的磨光函数,在分析它与已有磨光函数不同特性的基础上,研究了将它用于求解非线性P_0互补问题时,其磨光路径的存在性和连续性,进而设计了求解一类非线性P_0互补问题的非单调磨光算法.在适当的假设条件下,证明了该算法的全局收敛性和局部超线性收敛性.数值算例验证了算法的有效性.     

MBFGS修正在SQP算法中的应用—算法及其局部收敛性

本研究了SQP算法中保持矩阵正定性的方法．利用Li—Fukmshima提出的求解无约束问题的修正BFGS(MBFGS)公式，提出了求解等式约束问题的SQP算法．证明了若在问题的解处二阶充分条件成立，则相应的SQP算法具有2一一步超线性收敛性．     

Implicitly restarted projection algorithm for solving optimization problems

An algorithm for solving the problem of minimizing a quadratic function subject to ellipsoidal constraints is introduced. This algorithm is based on the impHcitly restarted Lanczos method to construct a basis for the Krylov subspace in conjunction with a model trust region strategy to choose the step. The trial step is computed on the small dimensional subspace that lies inside the trust region.

One of the main advantages of this algorithm is the way that the Krylov subspace is terminated. We introduce a terminationcondition that allows the gradient to be decreased on that subspace.

A convergence theory for this algorithm is presented. It is shown that this algorithm is globally convergent and it shouldcope quite well with large scale minimization problems. This theory is sufficiently general that it holds for any algorithm that projects the problem on a lower dimensional subspace.     

负权最短路问题的新算法

Bellman-Ford算法自1958年以来一直是负权最短路问题的公认的最好算法之一．1970年,Yen对其进行了改进,理论上可以节省一半的计算量．本文得到了一种比Bellman-Ford算法更加优越的算法．尽管在理论上新算法无法保证完全超越于Yen的改进算法,但在许多情况下需要更少的计算量．     

一种基于局部搜索算子的遗传算法

为了提高遗传算法的收敛速度及局部搜索能力,设计了一种基于优良模式的局部搜索算子.同时对传统免疫算法中基于浓度的选择算子进行了改进,设计了一种基于适应度值和浓度的混合选择算子,从而有效的阻止了算法出现"早熟"现象.进一步给出了算法的步骤,并利用有限马尔可夫链证明了该算法的收敛性,最后通过对四个经典测试算法性能的函数的数字仿真,说明该算法对多峰值函数优化问题明显优于基本遗传算法.     

基于变分不等式的支持向量机优化算法研究

由于标准支持向量机模型是一个二次规划问题,随着数据规模的增大,求解算法过程会越来越复杂.在K-SVCR算法结构的基础上,构造了严格凸的二次规划新模型,该模型的主要特点是可以将其一阶最优化条件转化为变分不等式问题,利用Fischer-Burmeister(FB)函数将互补问题转化为光滑方程组;建立光滑快速牛顿算法求解,并证明了该算法所产生的序列是全局收敛;利用标准数据集测试提出算法的有效性,在训练正确率和运行时间上与K-SVCR算法相比都有较好的表现,实验结果表明该算法可行且有效.     

QN THE CONVERGENCE ANALYSIS OF THE NONLINEAR ABS METHODS

In order to complete the convergence theory of nonlinear ABS algorithm, through a careful investigation to the algorithm structure, the author converts the nonlinear ABS algorithm into an inexact Newton method. Based on such equivalent variation, the Kantorovich type convergence of the ABS algorithm is established and the Convergence conditions of the algorithm that only depend on the initial conditions are obtained, which provides a useful basis for the choices of initial points of the ABS algorithm.     

A practicable steepest-edge simplex algorithm

It is shown that suitable recurrences may be used in order to implement in practice the steepest-edge simplex linear programming algorithm. In this algorithm each iteration is along an edge of the polytope of feasible solutions on which the objective function decreases most rapidly with respect to distance in the space of all the variables. Results of computer comparisons on medium-scale problems indicate that the resulting algorithm requires less iterations but about the same overall time as the algorithm of Harris [8], which may be regarded as approximating the steepest-edge algorithm. Both show a worthwhile advantage over the standard algorithm.     

基于相似性度量的改进DBSCAN算法

针对传统DBSCAN算法对高维数据集聚类效果不佳且参数的选取敏感问题,提出一种新的基于相似性度量的改进DBSCAN算法.该算法构造了测地距离和共享最近邻的数据点之间的相似度矩阵,克服欧式距离对高维数据的局限性,更好地刻画数据集的真实情况.通过分析数据的分布特征来自适应确定Eps和MinPts参数.实验结果表明,所提GS-DBSCAN算法能够有效地对复杂分布的数据进行聚类,且在高维数据的聚类准确率高于对比算法,验证了算法的准确性和可行性.     

自适应约束模糊C均值聚类算法

针对经典C均值聚类算法和模糊C均值聚类算法所存在的对初始聚类中心过分依赖以及需要预先知道实际聚类数目的问题,基于模糊C均值聚类算法提出了一种新算法:自适应约束模糊C均值(ACFCM)聚类算法,它在模糊C均值聚类算法的基础上,给目标函数加入了一个惩罚项,使得上述问题得以解决.并通过仿真实验证实了新算法的可行性和有效性.     

Multiobjective big data optimization based on a hybrid salp swarm algorithm and differential evolution

This paper developed a multiobjective Big Data optimization approach based on a hybrid salp swarm algorithm and the differential evolution algorithm. The role of the differential evolution algorithm is to enhance the capability of the feature exploitation of the salp swarm algorithm because the operators of the differential evolution algorithm are used as local search operators. In general, the proposed method contains three stages. In the first stage, the population is generated, and the archive is initialized. The second stage updates the solutions using the hybrid salp swarm algorithm and the differential evolution algorithm, and the final stage determines the nondominated solutions and updates the archive. To assess the performance of the proposed approach, a series of experiments were performed. A set of single-objective and multiobjective problems from the 2015 Big Data optimization competition were tested; the dataset contained data with and without noise. The results of our experiments illustrated that the proposed approach outperformed other approaches, including the baseline nondominated sorting genetic algorithm, on all test problems. Moreover, for single-objective problems, the score value of the proposed method was better than that of the traditional multiobjective salp swarm algorithm. When compared with both algorithms, that is, the adaptive DE algorithm with external archive and the hybrid multiobjective firefly algorithm, its score was the largest. In contrast, for the multiobjective functions, the scores of the proposed algorithm were higher than that of the fireworks algorithm framework.     

基于固定序的Bellman-Ford算法的改进

固定序算法是Bellman-Ford算法的一种基本改进算法。为了改变固定序算法在稀疏图上的劣势,本文通过预先订制参与迭代的点的计算顺序,对该算法进行了改进。实验表明,在稀疏图上, 改进后的算法相对于原算法计算效率提高了近50%, 并能够与国际流行的先进先出算法相媲美。本文的工作表明,固定序算法不仅在大规模稠密图上具有明显的优势,而且在稀疏图上也具有很强的竞争力。