偏最小二乘回归的应用效果分析

本文介绍了偏最小二乘回归 (PLS)的建模方法 ,比较了PLS与普通最小二乘回归 (OLS)及主成分回归的应用效果 ,并总结了PLS回归的基本特点 .     

偏最小二乘回归分析在均匀设计试验建模分析中的应用

本文分析了目前应用一般的最小二乘法建立均匀试验数据的二次多项式回归模型时存在的局限性,提出了应用偏最小二乘法(Partial least-square,PLS)建立二次多项式回归模型的技术,并且进一步介绍了偏最小二乘回归(PLS回归)在均匀设计中的应用。作者认为,PLS回归分析建模技术将为均匀设计的更广泛应用提供有力的技术支持。     

偏最小二乘回归法在武器装备研制费用估算中的应用

参数估算法作为 LCC的一种估算方法主要应用于武器装备研制费用的估算 .由于样本数据较少 ,且变量之间的线性相关程度高 ,如果使用传统的普通最小二乘法 (OLS)估算 ,则会严重降低估计结果的有效性 .而偏最小二乘回归法 (PLS)可以克服样本点少和高线性相关性的问题 ,使估算结果更趋于真值 .以某型无人侦察机的研制费用估算和美国军用飞机发动机研制费用估算为例 ,主要研究偏最小二乘回归法 (PLS)在武器装备研制费用估算中的应用     

一类小样本的统计方法建模及其可视化

针对一类高维小样本数据,利用统计方法的非参数检验与偏最小二乘回归(PLS)构造小样本预测模型,实现基于Wilcoxon秩和检验的变量选择与基于PLS的变量压缩降维.并通过DNA序列分类问题实现基于统计方法的小样本数据建模与可视化,计算结果表明方法对小样本具有可行性、有效性.     

偏最小二乘回归方法(PLS)在短期气候预测中的应用

对广西88个站冬季(12月、1月和2月)各月平均气温距平场作自然正交展开(EOF分解),选取累积方差贡献超过90%的前3个主成分作为预报量.从前期平均大气环流场和海温场中查找预报因子,对这些初选因子用偏最小二乘回归方法(PLS)进行信息筛选和成分提取,用提取的新综合变量(又称成分)作预报因子,分别建立各月平均气温前3个主成分的回归预报方程.经独立样本预报试验证明,偏最小二乘回归方法具备良好的因子信息提取能力,其预报建模方法对冬季月平均气温预报具有较好的预测效果.     

广义偏最小二乘(PLS)估计类

本文研究了一类含有偏最小二乘（partialleastsquaresPLS）估计的估计类．给出了PLS估计的一般代数形式；讨论了含有PLS估计的广义PPLS估计类的统计性质；给出了该估计类优于最小二乘估计的条件．     

基于灰色关联分析与PLS-LSSVM的航材备件需求预测模型

航材备件是保障航空装备日常训练和作战正常使用的重要影响因素,针对部分航材备件样本数据量少,影响因素多且复杂多变,预测结果与装备系统完好性要求偏差较大等问题.建立基于灰色关联分析(GRA)与偏最小二乘(PLS)及最小二乘向量机(LSSVM)相结合的航材备件预测模型,采集某无人机航材备件数据,通过对统计数据进行灰色关联分析,提取航材备件需求的相关因素作为模型训练样本,确定关键因素,利用偏最小二乘对关键因素特征提取,然后将偏最小二乘特征提取后的数据作为最小二乘向量机输入,进行模型构建及分析.通过实验验证了该方法的可行性与适用性,能够满足无人机航材备件预测的实际需要.     

偏最小二乘回归在选矿效益建模中的应用

选矿效益对矿管理有着重要意义。影响选矿效益的因素之间存在严重的多重共线性,采用PLS方法建立了选矿效益的偏最小二乘回归模型,避免了普通多元回归模型的不合理性和岭回归模型选择岭参数的主观性。     

偏最小二乘建模在R软件中的实现及实证分析

通过介绍偏最小二乘（PLS）的建模和显著性检验原理,解决了小样本多变量且变量间存在多重共线性的回归问题,建立了多变量对多变量的回归模型,并使用R软件（版本为Ri3862．15．1）实现了PLS建模;最后基于葡萄和葡萄酒理化指标数据进行了实证分析．     

PLS分析与RBF神经网络耦合环境模型

鉴于城市大气环境质量受到诸多复杂因素影响,且各因素间存在多重相关性,本文将偏最小二乘(PLS)分析与人工神经网络径向基网络(RBF)耦合,建立偏最小二乘径向基神经网络模型(PLSRBF),应用于贵阳大气环境质量的检验和预测。实例表明:PLSRBF模型可对原多自变量模型进行降维简化,并可有效提取解释变量信息,防止信息丢失,且具有较强的拟合能力。     

偏最小二乘(PartialLeast Square)方法的拟合指标及其在满意度研究中的应用

本文在对顾客满意度模型及PLS方法进行简单介绍的基础上,对PLS的拟合指标,包括共同因子、多元相关平方和冗余,进行了讨论。     

系统的PLS方法在满意度实证研究中的应用

满意度模型实证研究包括系统性方法和非系统性方法.系统性方法更有效地反映因果关系的有机联系,它包括PLS和SEM两种方法.本文在用方程系统表达满意度模型的基础上,说明PLS方法的基本原理,然后对一个具体的满意度模型在SEM方法失效的情况下,运用系统的PLS方法进行实证研究.结果表明,在SEM方法无法得到实证结果的情况下,PLS给出了很有价值的结论.     

On the convergence of the partial least squares path modeling algorithm

This paper adds to an important aspect of Partial Least Squares (PLS) path modeling, namely the convergence of the iterative PLS path modeling algorithm. Whilst conventional wisdom says that PLS always converges in practice, there is no formal proof for path models with more than two blocks of manifest variables. This paper presents six cases of non-convergence of the PLS path modeling algorithm. These cases were estimated using Mode A combined with the factorial scheme or the path weighting scheme, which are two popular options of the algorithm. As a conclusion, efforts to come to a proof of convergence under these schemes can be abandoned, and users of PLS should triangulate their estimation results.     

多元成分数据的对数衬度偏最小二乘通径分析模型

本文研究多元成分数据的路径关联关系的建模问题,提出多元成分数据的对数衬度PLS通径分析模型.将中心化对数比变换与PLS通径分析方法相结合建立模型,其主要优势在于:①PLS通径分析模型对数据没有严格的分布假设要求,特别适于成分数据这类分布复杂的数据建模;②成分数据中心化对数比变换后的变量完全多重相关,PLS方法能够有效解决这一问题;③PLS通径分析模型特别适于多元成分数据这类具有层次关系的数据结构的建模,通过结构模型揭示多元成分数据之间的整体性路径关联关系,通过测量模型揭示成分数据与其成分分量之间的构成关系.更重要的是,本文的方法研究遵循成分数据所特有的代数基本理论,推导出模型的成分数据对数衬度隐变量的表达形式,从理论上证明了该建模方法的科学合理性.最后,将本方法用于北京市三次产业的投资结构、GDP结构、就业结构的路径关联关系的分析中,通过实证研究验证模型的可行性和应用价值.     

An overview on the shrinkage properties of partial least squares regression

The aim of this paper is twofold. In the first part, we recapitulate the main results regarding the shrinkage properties of partial least squares (PLS) regression. In particular, we give an alternative proof of the shape of the PLS shrinkage factors. It is well known that some of the factors are >1. We discuss in detail the effect of shrinkage factors for the mean squared error of linear estimators and argue that we cannot extend the results to PLS directly, as it is nonlinear. In the second part, we investigate the effect of shrinkage factors empirically. In particular, we point out that experiments on simulated and real world data show that bounding the absolute value of the PLS shrinkage factors by 1 seems to leads to a lower mean squared error.     

PLS classification of functional data

Partial least squares (PLS) approach is proposed for linear discriminant analysis (LDA) when predictors are data of functional type (curves). Based on the equivalence between LDA and the multiple linear regression (binary response) and LDA and the canonical correlation analysis (more than two groups), the PLS regression on functional data is used to estimate the discriminant coefficient functions. A simulation study as well as an application to kneading data compare the PLS model results with those given by other methods.     

PLS and dimension reduction for classification

Barker and Rayens (J Chemometrics 17:166–173, 2003) offered convincing arguments that partial least squares (PLS) is to be preferred over principal components analysis (PCA) when discrimination is the goal and dimension reduction is required, since at least with PLS as the dimension reduction tool, information involving group separation is directly involved in the structure extraction. In this paper the basic results in Barker and Rayens (J Chemometrics 17:166–173, 2003) are reviewed and some of their ideas and comparisons are illustrated on a real data set, something which Barker and Rayens did not do. More importantly, new results are introduced, including a formal proof for the superiority of PLS over PCA in the two-group case, as well as new connections between PLS for discrimination and an extended class of PLS-like techniques known as “oriented PLS” (OrPLS). In the latter case, a particularly simple subclass of OrPLS procedures, when used to achieve the dimension reduction, is shown to always produce a lower misclassification rate than when “ordinary” PLS is used for the same purpose.     

偏最小二乘回归方法的局限性及改进算法

提出了偏最小二乘回归中的一类不适用情况,并从理论上分析,实例上验证,给出了针对这种情况的一种改进算法,从而拓宽了偏最小二乘回归的使用范围.