回归系数的主相关估计及其优良性

本文在回归系数的主成分估计的基础上，提出一种新的降维估计－主相关估计，讨论了它的优良性，并用实例说明主相关估计对主成分估计的改进效果。     

回归系数的stein型主成分估计

对于设计阵Ｘ呈病态的线性回归模型，本文提出了一种新的关于回归系数的有偏估计─ｓｔｅｉｎ型主成分估计，并在均方误差意义下，论证了在一定条件下ｓｔｅｉｎ型主成分估计优于主成分估计，因此也优于ｓｔｅｉｎ型ＯＬＳ估计与ＯＬＳ估计，最后，我们又对偏参数的存在性，最优性进行了讨论，并得出了一些重要结论．     

非主成份与广义岭型估计

针对线性回归模型Y=Xp e,e～(0,σ2I)在设计矩阵X呈病态(存在复共线性关系)时,从主成分估计的思想出发,结合岭估计减少均方误差的方法,提出并推导了一类新的估计β(k)=(X'X Φx2kΦ'2)-1X'Y,称之为广义岭型估计.优点是只对主成分和非主成分添加两个不同的常数,均方误差大幅度降低的同时,相对于一般的广义岭估计,计算量减少,相对于主成分估计,便于对原变量做出解释.文中进一步讨论了该估计与主成分估计和岭估计的优劣.     

岭型主成分估计的最小方差和

讨论了岭型主成分估计在一类降维估计中的方差性质，证明了在一定条件下岭型主成分估计的方差和最小．文「１」的结果是本文的特例。     

多元线性模型参数的组合主成分估计

本文对多元线性模型的参数β=vec（B）提出了一种新的主成分估计─—组合主成分估计β，得到了它的一些良好的性质，证明了在均方误差准则下，在一定的条件下，此估计优于最小二乘估计（LSE），并给出了实例．     

高维稳健主成分聚类方法及其应用研究

随着信息技术的高速发展,每条数据所包含的信息越来越丰富,使得数据不可避免地含有异常值,且随着维数的增加,异常值出现的可能性更大。传统的主成分聚类分析对异常值特別敏感,基于MCD估计的主成分聚类方法虽然对异常值具有防御作用,但是在高维数据下MCD估计的偏差过大,其稳健性显著降低,而且当维数大于观测值个数时MCD估计失效。为此本文提出了基于MRCD估计的稳健主成分聚类方法,数值模拟和实证分析表明,基于MRCD估计的主成分聚类分析的效果优于传统的主成分聚类分析和基于MCD估计的主成分聚类分析,尤其是在维数大于样本观测值的情况下,MRCD估计更为有效。     

岭型主成分估计的最优性

本文研究岭型主成分估计的回归最优性。证明了岭型降维估计类中，岭型主成分估计具有Φq^0最小、E－最小和D－最小性，且协方差阵的正交不变范数最小，推广了[2]中某些结果。     

岭型组合主成分估计

本文提出了回归系数的一种新的改进估计－岭型组合主成分估计，讨论了它的可容许性，约束条件下的可容许性和相合性问题，分别在均方误差意义下和Ｐｉｔｍａｎ接近原则下，证明了在一定条件下，它优于最二乘估计和岭估计，并且证明了它有比它们更好的抗干扰能力和稳健性。     

多元广义主成分估计类

本文提出了多元性模型中回归系统数阵的一个线性有偏估计类（称为多元广义主成分估计类），并讨论了它的种种优良性质。     

关于广义压缩最小二乘估计的注记

本文研究了广义压缩最小二乘估计（ＧＳＬＳＥ）的一些性质，给出了它的均方误差（ＭＳＥ）的一个无偏估计量（ＵＥ），采用极小该ＵＥ的方法确定了ＧＳＬＳＥ的参数选取公式，并把这个统一化的方法应用于广义岭估计，岭估计、Ｍａｓｓｙ主成分估计、Ｓｔｅｉｎ型压缩估计以及根方有偏估计等，从而得到了它们的一种选取参数的方法，最后，结合Ｈａｌｄ实例进行比较分析，结果表明，本文的方法是实用的，有效的。     

线性模型参数的稳健化有偏估计

本文讨论复共线性和粗差同时存在时线性模型的参数估计问题,基于等价权原理提出了一个稳健有偏估计类（稳健压缩估计）,并且建立了稳健压缩估计的计算方法,为了满足实际问题的需要,构造了许多很有意义的稳健有偏估计,例如稳健岭估计、稳健主成分估计,稳健组合主成估计、稳健单参数主成分估计、稳健根方估计等等,最后通过一个算例表明,本文提出的稳健有偏估计具有既可克服复共线性影响又可抵抗粗差干扰的良好性质。     

主成分估计的最优性

一、引言 自从Hotelling从概率结构引进主成分概念之后,主成分估计受到了统计工作者的广泛重视.它已成为多元分析中减少数据维数的有效工具.许多人从不同角度研究了主成分的最优性质.但是,这些性质都是关于协方差阵的.本文力图从更能反映一个估     

广义压缩最小二乘估计

本文引进了线性模型中回归系数的一个估计类。许多常用的估计,例如岭回归估计、主成分估计、压缩最小二乘估计以及迭代估计都属于这个估计类。本文讨论该估计类中估计的容许性问题以及矩阵均方误差准则下估计的比较问题。     

齐次线性约束回归模型参数的主成分压缩估计

当设计矩阵X复共线时,对齐次线性约束回归模型参数的约束最小二乘估计进行改进,提出参数的主成分压缩估计,并对新参数估计的性质进行了讨论,最后进行了数值模拟,验证了算法的参数估计优于约束最小二乘估计.     

单参数主成分回归估计

对于线性回归模型,本文提出了回归系数的一种单参数主成分估计,证明了它的可容许性、抗干扰性、有效性等主要性质。     

复共线性与广义岭型估计

针对线性回归模型Y=Xβ+l的典则形式Y=a01+Z+l,l~(0,σ2I)在设计阵X呈病态时,提出了一类新估计■(k;q)=〔Λ1OOkIq+Λ2〕-1Z′Y,称之为广义岭型估计.优点是结合主成分估计和岭估计的思想和方法,将X′X的特征值分为不同大小属性的两部分Λ1与Λ2,并分别添加不同的常数,致使新估计类的均方误差大幅降低的同时计算量大大减少,而且便于对原变量做出解释.文中进一步讨论了该估计优于岭估计的k的存在性以及充分条件.     

关于线性回归模型的有偏估计

有偏估计方法是近代回归分析的常用方法．本文研究了几种常用的有偏估计方法，澄清了这些方法的区别和联系．对有偏估计的一些关键点进行研究，给出了一种新的岭参数确定法和一种新的主成分概念，并讨论了这些方法的优良性．为了提高有偏估计的效率，提出了用比例因子规范模型的方法．最后，给出了说明本文方法的数值例子．     

岭型主成分估计的几条最优性质

本文计论岭型主成分估计的最优性质。证明了在岭型降维估计类中,它的方差有ｎ种最小性,同时证明了在正交不变范数下了具有最小性。     

回归系数的稳健主成分估计

自变量间多元共线关系的存在以及数据集中离群值的存在,对回归系数最小二乘估计产生较大的影响。主成分估计用以抗多元共线,稳健M-估计具有抗离群值的特性。本文探讨了离群值对主成分估计的影响和多元共线对M-估计的影响。在此基础上提出了回归系数稳健主成分估计(RPC),RPC是主成分估计与M-估计的有机结合,它能同时抗离群值和多元共线并保留主成分估计与M-估计的优点。本文应用Monte-Carlo方法,考证了在多元共线与离群值同时存在时,RPC优于Ls估计、主成分估计和M-估计,说明RPC具有一定的实用价值。     

基于Logistic回归的主成分估计及实证分析

应用主成分估计方法,对Logistic回归模型进行参数估计,并消除多重共线性影响.首先选取了累计贡献率达到85%以上的6个主成分,对因变量进行主成分估计,然后挑选出冠心病患者发病的主要影响因素,最后得到了因变量(冠心病发病)与6个主要影响因素(血压(sbp)、累计烟草量(tobacco)、低密度脂蛋白胆固醇(ldl)、心脏病家族史(famhist)、型表现(typea)和发病年龄(age))的回归模型.根据结果可知,心脏病家族史是导致心脏病发病最大的一个原因,它是一个不可控因素;在可控因素中,累计烟草量对冠心病发病的影响最大,因此建议患者应该控制烟草摄入量,以保证病情的稳定性.