支撑向量机回归的简化SMO算法

统计学习理论中提出的支撑向量机回归(SVR)遵循了结构风险最小化原则,从而避免了一味追求经验风险最小化带来的弊端。采用扩展方法使SVR与支撑向量机分类(SVC)具有相似的数学形式,并在此基础上提出了一种用于SVR的简化SMO算法。与SVR现有的SMO算法相比,简化算法的数学形式简洁直观,在不增加算法空间和时间复杂度的前提下避免了大量繁复的判别条件,较大幅度地简化了算法实现,有利于SVR的广泛使用。     

支撑向量机的多类分类方法

基于结构风险最小化原则的支撑向量机(SVM)具有良好的学习推广性。但是由于常规的SVM是从二类分类问题中推导出来的，在多类分类问题中就必须进行改进。文中讨论了支撑向量机的多类分类改进方法．运用在手写体数字识别中，并取得较好的结果。     

混沌灰狼优化算法训练多层感知器

灰狼优化算法(GWO)是一种新的基于灰狼捕食行为的元启发式算法,被证明是一种具有高水平的探索和开发能力的算法。但是存在开发和探索不平衡的问题,以至于其优化性能并不理想。该文将混沌理论引入GWO中,用于平衡GWO的探索和开发,提出一种改进的混沌灰狼优化算法(CGWO),并应用于多层感知器(MLPs)的训练。首先,基于Cubic混沌理论对GWO的位置更新公式进行改进,以增加个体的多样性,增大跳出局部最优的概率和对解空间进行深入的搜索;其次,设计一种非线性收敛因子,用于协调和平衡CGWO算法在不同迭代进化时期的探索和开发能力;最后,将CGWO算法作为MLPs的训练器,用于对3个复杂分类问题进行分类实验。结果表明：CGWO在分类准确率,避免陷入局部最优,全局收敛速度和鲁棒性方面相较于其他对比算法均具有较好的性能。

     

基于混淆交叉的多分类支撑向量机树

本文针对复杂模式分类和多分类问题,提出了一种基于混淆交叉的多分类支撑向量机树模型,其整体结构为二叉树,在树的每个中间节点上嵌入了支撑向量机。在训练阶段,引入混淆交叉因子,在同属一个父节点的中间节点样例间进行样例的混淆交叉,将那些对分类曲面有较大影响的样例纳入树型结构更深层次的训练过程,参与更精细的分类超曲面的构建。本文将提出的支撑向量机树与现有的其他方法作了比较,实验结果说明了本文提出的模型在解决复杂模式识别问题及多分类问题上具有高效准确性及优越的泛化性能。     

支撑向量机多类分类方法的研究

支撑向量机是一种基于统计学理论的新的学习算法,它采用了结构风险最小化原则,能有效地解决过学习问题,具有很强的泛化能力。传统支撑向量机针对两类分类问题,为了深入地分析实际应用中的大规模和多类别的问题,通过对一次性求解法、一对多、一对一、有向无环图方法的原理和实现方法进行分析,从速度和精度两方面对这些方法的优缺点进行了归纳和总结,并通过实验进行了验证和比较。实验结果表明,各种方法可以获得不同的分类器推广能力及训练速度和测试速度,也为今后如何更好地解决支撑向量机多类分类问题指明了方向。     

支持向量机训练算法及其应用

支持向量机是在统计学习理论基础上提出的一种新的机器学习方法。由于其出．色尊学习性能，该技术已成为机器学习界的研究热点，并成功地应用在模式识别、时间序列预测、苛线性系统辨识、控制及其它方面。本文简要介绍了支持向量机训练算法及其应用，并且讨论了未来的发展方向。     

基于K最近邻的支持向量机快速训练算法

传统支持向量机训练大规模样本时间和空间开销大,使其应用受到了很大限制。为了提高支持向量机的训练速度,根据支持向量机的基本原理,应用K最近邻思想来筛选训练样本集,提出了基于K最近邻的支持向量机快速训练算法(KNN-SVM)。算法首先选取一部分最有可能成为支持向量的样本——边界向量,然后用边界向量集代替训练样本集进行支持向量机训练,大幅度减少了训练样本的数量,使支持向量机的训练速度显著提高。同时,由于边界向量包含了支持向量,因此,支持向量机的分类能力没有受到影响。仿真实验结果表明,与传统支持向量机相比,在分类精度相同的情况下,算法能够有效地提高支持向量机的训练速度,而且还可以提高支持向量机的分类速度和推广能力。     

基于支撑向量机的地杂波虚警抑制技术

由于杂波的非均匀特性,传统杂波抑制技术的杂波滤除能力有限。在强杂波环境下,处理后回波仍残留大量虚警。文中提出了新的点迹滤波技术,用于抑制杂波虚警。针对地面动目标检测体制雷达,通过提取目标和杂波的五种分类特征和五种先验特征,使用主成分分析和支撑向量机方法过滤虚假点迹。试验结果表明:文中提取的特征和设计的分类器, 可在较少目标损失下,有效地抑制地杂波虚警。     

基于特征值分解的中心支持向量机算法

针对广义特征值中心支持向量机(GEPSVM)训练和决策过程不一致问题,该文提出一类改进的基于特征值分解的中心支持向量机,简称为IGEPSVM。首先针对二分类问题提出了基于特征值分解的中心支持向量机,然后基于一类对余类策略将其推广到多类分类问题。将GEPSVM求解广义特征值问题转化为求解标准特征值问题,降低了计算复杂度。引入了一个新的参数,可以调节模型的性能,提高了GEPSVM的分类精度。提出了基于IGEPSVM的多类分类算法。实验结果表明,与GEPSVM算法相比较,IGEPSVM不仅提高了分类精度,而且缩短了训练时间。     

基于模糊核聚类和支持向量机的鲁棒协同推荐算法

该文针对现有推荐算法在面对托攻击时鲁棒性不高的问题,提出一种基于模糊核聚类和支持向量机的鲁棒推荐算法。首先,根据攻击概貌间高度相关的特性,利用模糊核聚类方法在高维特征空间对用户概貌进行聚类,实现攻击概貌的第1阶段检测。然后,利用支持向量机分类器对含有攻击概貌的聚类进行分类,实现攻击概貌的第2阶段检测。最后,基于攻击概貌检测结果,通过构造指示函数排除攻击概貌在推荐过程中产生的影响,并引入矩阵分解技术设计相应的鲁棒协同推荐算法。实验结果表明,与现有的基于矩阵分解模型的推荐算法相比,所提算法不但具有很好的鲁棒性,而且准确性也有提高。     

一种基于密度法的支持向量预选取算法

针对大规模数据集的分类问题,支持向量机的训练成为一个难题。预先选取支持向量用于支持向量机的训练是解决这一难题的思路之一,但其的选择非常困难。本文提出了一种基于密度法的支持向量预选取方法。该方法不需要事先判定训练样本是否线性可分,具有较强的抗击孤立点干扰的能力,并且计算简单,易于实现。实验仿真证明这种方法是有效的。     

基于支持向量回归的光度配准算法

在空域内将图像之间的光度对应假设为线性的、或一些简单的非线性模型进行处理．配准后的图像仍存在较大的光度差异。将支持向量回归技术应用到光度配准中，利用支持向量回归估计图像问的光度对应关系，再根据估计得到的回归曲线对图像进行光度变换，消除图像间的光度差异，针对实际图像的对比实验表明，基于支持向量回归的光度配准算法。优于常用的空域内回归估计光度配准算法。     

DirectSVM: A Simple Support Vector Machine Perceptron

We propose a very simple learning algorithm, DirectSVM, for constructing support vector machine classifiers. This new algorithm is based on the proposition that the two closest training points of opposite class in a training set are support vectors, on condition that the training points in the set are linearly independent. The latter condition is always satisfied for soft-margin support vector machines with quadratic penalties. Other support vectors are found using the following conjecture: the training point that maximally violate the current hyperplane is also a support vector. We show that DirectSVM converges to a maximal margin hyperplane in M – 2 iterations, if the number of support vectors is M. DirectSVM is evaluated empirically on a number of standard databases. Performance-wise, the algorithm generalizes similarly as other implementations. Speed-wise, the proposed method is faster than a standard quadratic programming approach, while it has the potential to be competitive with current state-of-the-art SVM implementations.     

基于负相关学习的支持向量机集成算法

提出一种基于负相关学习理论的支持向量机集成方法，该方法能有效解除各支持向量机之问的相关性，使得集成个体有较大的差异。并采用了演化策略对支持向量机的核函数和相关参数白适应地进行选择。仿真实验表明．该方法不仅能有效地解决支持向量机模型选择的难题，而且能以很小的代价显著提高学习系统的泛化能力。     

支持向量机及其算法研究

本文首先概要介绍了支持向量机的理论背景,然后结合目前一些主要的SVM训练方法以及它们之间的联系,比较了各种算法的优缺点。重点阐述了其中最有代表性的序贯最小优化(SMO)算法及其多种改进方案。最后指出了SVM及其算法进一步研究和亟待解决的一些问题。     

支持向量机和BP网络改进模型的性能对比研究

通过引入支持向量机（SVM）方法，提出了基于SVM的遥感图像多类分类模型，分析了SVM多类分类器的构造及其参数选取问题，并结合实例，讨论了SVM分类器性能随其本身参数变化情况，最后与几种代表性的BP网络改进模型进行了系统的对比分析。实验表明，SVM方法的分类时间要远大于改进的BP模型，而分类精度优于BP网络改进模型中效果最好的几种优化算法3个百分点左右，是一种有效的图像分类方法。     

支持向量机及其在医学图像分类中的应用

支持向量机被看作是对传统分类器的一个好的替代,特别是在高维数据空间下,具有较好的泛化能力。本文首次采用支持向量机方法对医学图像进行了分类研究。为了检验该分类方法的有效性与稳健性,对不同的噪声图像进行试验,试验结果表明,即使存在噪声的情况下,支持向量机方法也能获得较好的分类结果。     

快速训练支持向量机的并行结构

序列最小优化（SMO）是一种常见的训练支持向量机（SVM）的算法，但在求解大规模问题时,它需要耗费大量的计算时间。文章提供SMO的一种并行实现方法。并行SMO是利用信息传递接口（MPI）开发的。首先将整个训练数据集分为多个小的子集，然后同时运行多个CPU处理器处理每一个分离的数据集。实验结果表明．当采用多处理器时，在Adult数据集上并行SMO有较大的加速比。