基于偏最小二乘回归的装备备件消耗预测

考虑了装备使用时间、行驶里程和配备时间等影响备件消耗的多种因素,依据装备备件的消耗特点,在分析偏最小二乘回归方法原理的基础上,运用方法对小样本数据条件下装备备件的消耗数量进行预测.应用示例表明,偏最小二乘回归方法比传统多元回归分析法、逐步多元回归分析法和删除多元回归分析法具有更高的预测精度.     

天然气消费量的偏最小二乘支持向量机预测

结合偏最小二乘法和支持向量机的优缺点,提出基于偏最小二乘支持向量机的天然气消费量预测模型。首先,利用偏最小二乘法确定影响天然气消费量的新综合变量,建立以新综合变量为输入,天然气消费量为输出的支持向量机模型,对天然气消费量进行了预测;然后,与多元回归、偏最小二乘回归、普通支持向量机做误差检验比较,验证该方法的可行性与正确性。结果表明,此天然气消费量预测模型具有较高的精确度和应用价值。     

基于混沌最小二乘支持向量机的时间序列预测研究

为了对这种具有非线性特性的时间序列进行预测,提出一种基于混沌最小二乘支持向量机.算法将时间序列在相空间重构得到嵌入维数和时间延滞作为数据样本的选择依据,结合最小二乘法原理和支持向量机构建了基于混沌最小二乘支持向量机的预测模型.利用此预测模型对栾城站土壤含水量时间序列进行了预测.结果表明,经过相空间重构优化了数据样本的选取,通过模型的评价指标,混沌最小二乘支持向量机的预测模型能精确地预测具有非线性特性的时间序列,具有很好的理论和应用价值.     

果蝇优化最小二乘支持向量机混合预测模型—以我国物流需求量预测为例

为解决最小二乘支持向量机参数设置的盲目性,利用果蝇优化算法对其参数进行优化选择,进而构建了果蝇优化最小二乘支持向量机混合预测模型.以我国物流需求量预测为例,验证了该模型的可行性和有效性.实例验证结果表明:与单一最小二乘支持向量机和模拟退火算法优化最小二乘支持向量机预测模型相比,该模型不仅能够有效选择参数值,而且预测精度更高.     

基于独立分量分析——最小二乘支持向量机的公路建设项目投资估算新模型

为快速、准确地进行公路建设项目投资估算,提出了一种新型的公路建设项目投资估算模型.该模型首先基于独立分量分析技术,根据最小互信息原理,有效分离出公路建设项目投资估算的独立影响因素源.然后,将这些独立影响因素源用于最小二乘支持向量机的训练,从而建立了基于独立分量分析技术—最小二乘支持向量机的公路建设项目投资估算模型.该模型将独立分量分析技术的盲信号分离能力与最小二乘支持向量机处理有限样本条件下非线性回归问题的优势有机结合,提高了模型预测的准确性.     

基于遗传算法和熵的缩减记忆式LS-SVM财务困境预测模型研究

为了提高财务困境预测的正确率,减少模型的训练样本数和训练时间,在传统支持向量机(SVM)预测模型的基础上,将遗传算法、信息熵和缩减记忆算法应用于最小二乘支持向量机(LS-SVM),提出了一种基于遗传算法和信息熵的缩减记忆式最小二乘支持向量机预测模型。并独立推导出了适合财务困境预测这一离散序列的熵以及支持向量机核函数的表达式,同时,给出了这一改进模型的实现步骤。实验结果表明,该模型无论是预测正确率,还是训练样本的数量和训练时间,都显著优于最小二乘支持向量机以及传统支持向量机模型。     

基于偏最小二乘法的AMT离合器片表面温度预测

采用偏最小二乘回归方法,经交叉有效性检验建立了接合正压力的平均值、接合转速、滑摩时间与摩擦片表面最高温度的关系模型,模型对各种因变量的累计解释能力超过90%,通过该模型计算得到的拟合值与实际值的平均相对误差为3.90%,优于最小二乘支持向量机的预测效果,为AMT离合器开发、控制设计的优化及实现过温保护提供了依据.     

助推偏最小二乘法（BPLS）及其应用

在生物统计以及数据挖掘中,分类预测是最基本的任务之一。本文将探讨一种新的方法-助推偏最小二乘法（BPLS）。它结合了一系列收缩的偏最小二乘模型,每个模型只有一个主成分。这种新方法和传统的偏最小二乘方法不同,它不需要选择一系列的偏最小二乘成分。只需要确定两个参数即可。通过对真实数据的训练,得以证明这种新方法比传统的偏最小二乘法在防止过度拟合方面有更好的表现,同时能够保证精确度。     

基于EEMD的LS-SVM和BP神经网络混合短期负荷预测

提出了基于总体平均经验模态分解(EEMD)、最小二乘支持向量机(LSSVM)和BP神经网络的实用综合短期负荷预测方法,进行电力系统短期负荷预测.首先运用EEMD方法将非平稳的负荷序列分解,然后根据分解后各分量的特点选用最佳的核函数,利用最小二乘支持向量机分别对各分量进行预测,最后对各分量预测结果采用BP神经网络重构得到最终的预测结果.对实测数据的分析表明基于该综合方法的电力系统短期负荷预测具有较高的精度.     

改进GM(2,1)模型的MATLAB实现及其应用

针对经济预测,根据灰色模型GM(1,1)的应用介绍了灰色模型GM(2,1)的原理,并利用最小二乘法改进GM(2,1)算法及其预测步骤,用MATLAB实现了预测,用中国经济增长率数据做了仿真,对观测时间序列拟合出数学模型.     

基于邻域粗糙集属性约简的对偶约束式LS-SVM财务困境预测模型研究

为了提高财务困境预测的正确率,改善模型预测的效果,将邻域粗糙集和遗传算法应用于对偶约束式最小二乘支持向量机,提出了一种基于邻域粗糙集属性约简的对偶约束式最小二乘支持向量机预测模型.同时,给出了这一改进模型的实现步骤.实证结果表明,通过邻域粗糙集指标预处理和遗传算法参数优化后,不但提高了模型预测的正确率,还降低了模型运行的时间,证实了该模型应用于财务困境预测是有效的.     

基于核主元分析的带可变惩罚因子最小二乘模糊支持向量机模型及其在信用分类中的应用

信用分类是信用风险管理中一个重要环节,其主要目的是根据信用申请客户提供的资料从申请客户中区分出可信客户和违约客户,以便为信用决策者提供决策依据.为了正确区分不同的信用客户,特别是违约客户,结合核主元分析和支持向量机算法构造基于核主元分析的带可变惩罚因子最小二乘模糊支持向量机模型对信用数据进行了分类处理.在基于核主元分析的带可变惩罚因子最小二乘模糊支持向量机模型中,首先对样本数据进行预处理,然后利用核主元分析以非线性方式降低数据的维数,最后利用带可变惩罚因子最小二乘模糊支持向量机模型对降维后数据进行分类分析.为了验证,选择两个公开的信用数据集来进行实证分析.实证结果表明：基于核主元分析的带可变惩罚因子最小二乘模糊支持向量机模型取得了较好的分类结果,可为信用决策者提供重要的决策参考依据.     

基于邻域粗糙集的网络入侵分类诊断组合模型研究

网络入侵诊断直接影响网络正常运行和安全.针对入侵类型复杂,现有分类诊断模型精度有限的问题,提出一种基于邻域粗糙集的网络入侵分类诊断优化模型.首先,运用邻域粗糙集对网络入侵数据进行条件属性的约简,确定关键属性,然后将其作为训练输入构建相关向量机分类诊断模型,并同时运用遗传算法进行超参数优化,提高模型诊断精度和速度.通过KDDCup99数据集对优化模型性能进行检验,结果表明,组合预测方法精确度高于支持向量机、相关向量机和BP神经网络.组合模型诊断精度高、速度快,具有优异的综合性能.     

基于GMDH的LSSVM预测模型及其实证

自从Suykens提出新型统计理论学习方法-最小二乘支持向量机(LSSVM)以来,这种方法引起了广泛的关注,它在预测方面的良好性能得到了广泛应用.应用自组织数据挖掘(GMDH)方法改进LSSVM,提升了预测精度.首先利用GMDH方法选择有效的输入变量,再将这些变量作为LSSVM模型的输入,进行时间序列的预测,从而建立LSSVM和GMDH组合的混合模型GLSSVM.并通过汇率时间序列对本文模型进行了实证.结果表明,混合模型预测精度得到了明显的提高.     

Multiblock latent root regression. Application to epidemiological data

Several papers have already stressed the interest of latent root regression and its similarities to partial least squares regression. A new formulation of this method which makes it even simpler than the original method to set up a prediction model is discussed. Furthermore, it is shown how this method can be extended not only to the case where it is desired to predict several response variables from a set of predictors but also to the multiblock setting where the aim is to predict one or several data sets from several other data sets. The interest of the method is illustrated on the basis of a data set pertaining to epidemiology.     

Extreme logistic regression

Kernel logistic regression (KLR) is a very powerful algorithm that has been shown to be very competitive with many state-of the art machine learning algorithms such as support vector machines (SVM). Unlike SVM, KLR can be easily extended to multi-class problems and produces class posterior probability estimates making it very useful for many real world applications. However, the training of KLR using gradient based methods or iterative re-weighted least squares can be unbearably slow for large datasets. Coupled with poor conditioning and parameter tuning, training KLR can quickly design matrix become infeasible for some real datasets. The goal of this paper is to present simple, fast, scalable, and efficient algorithms for learning KLR. First, based on a simple approximation of the logistic function, a least square algorithm for KLR is derived that avoids the iterative tuning of gradient based methods. Second, inspired by the extreme learning machine (ELM) theory, an explicit feature space is constructed through a generalized single hidden layer feedforward network and used for training iterative re-weighted least squares KLR (IRLS-KLR) and the newly proposed least squares KLR (LS-KLR). Finally, for large-scale and/or poorly conditioned problems, a robust and efficient preconditioned learning technique is proposed for learning the algorithms presented in the paper. Numerical results on a series of artificial and 12 real bench-mark datasets show first that LS-KLR compares favorable with SVM and traditional IRLS-KLR in terms of accuracy and learning speed. Second, the extension of ELM to KLR results in simple, scalable and very fast algorithms with comparable generalization performance to their original versions. Finally, the introduced preconditioned learning method can significantly increase the learning speed of IRLS-KLR.     

A regularized pairwise multi-classification knowledge-based machine and applications

This paper presents a novel knowledge-based linear classification model for multi-category discrimination of sets or objects with prior knowledge. The prior knowledge is in the form of multiple polyhedral sets belonging to one or more categories or classes and it is introduced as additional constraints into the formulation of the Tikhonov linear least squares multi-class support vector machine model. The resulting formulation leads to a least squares problem that can be solved using matrix methods or iterative methods. Investigations include the development of a linear knowledge-based classification model extended to the case of multi-categorical discrimination and expressed as a single unconstrained optimization problem. Advantages of this formulation include explicit expressions for the classification weights of the classifier(s) and its ability to incorporate and handle prior knowledge directly to the classifiers. In addition it can provide fast solutions to the optimal classification weights for multi-categorical separation without the use of specialized solver-software. To evaluate the model, data and prior knowledge from the Wisconsin breast cancer prognosis and two-phase flow regimes in pipes were used to train and test the proposed formulation.