复共线性与广义岭型估计

针对线性回归模型Y=Xβ+l的典则形式Y=a01+Z+l,l~(0,σ2I)在设计阵X呈病态时,提出了一类新估计■(k;q)=〔Λ1OOkIq+Λ2〕-1Z′Y,称之为广义岭型估计.优点是结合主成分估计和岭估计的思想和方法,将X′X的特征值分为不同大小属性的两部分Λ1与Λ2,并分别添加不同的常数,致使新估计类的均方误差大幅降低的同时计算量大大减少,而且便于对原变量做出解释.文中进一步讨论了该估计优于岭估计的k的存在性以及充分条件.     

生长曲线模型中基于奇异值分解的岭估计

在生长曲线模型中将设计阵的奇异值分解与普通的岭估计相结合,针对设计阵A与C至少有一个病态时的情况提出生长曲线模型中基于奇异值分解的岭估计.比较其在均方误差,均方误差矩阵,及PC准则下相对于最小二乘估计的优良性.证明其容许性并利用Hemmerle和Brantle用于确定广义岭估计参数的方法给出极小化均方误差的无偏估计法选取岭参数.     

增加试验数据对岭估计的均方误差的影响

在线性模型中,对于回归系数的岭估计和广义岭估计,本文给出了选择岭参数的条件,在此条件下,岭估计和广义岭估计不仅能改善LS估计,而且增加试验数据时,它们的均方误差都会减少。同时,本文将增加试验数据换成增加附加信息,从而讨论了附加信息对混合岭估计和混合广义岭估计的影响问题。     

方差分量模型参数的广义岭估计

本文先将方差分量模型的方差分量化为派生模型的均值参数，分别作出其相对于ＬＳＥ和ＢＬＵＥ的广义岭估计，再根据二步估计法作出原模型均值参数的广义二乘估计及其进行一步的岭估计。证明了这样不仅使方差分量估计的均方误差减少，而且使原模型均值参数估计的均方误差也不均加和地一步减少。本文还找到了岭参数仅仅依据于样本的估计，这样既将岭估计方法推进至方差分量模型，也改进了方差分量模型参数的离差均值对应方法。     

多元广义岭估计及K值选取的 Q(c)准则

当自变量间存在复共线性时,最小二乘估计就表现出不稳定并可能导致错误的结果.本文采用广义岭估计β(K)来估计多元线性模型的回归系数β=vec(B),通过岭参数K值的选取,可使广义岭估计的均方误差MSE小于最小二乘估计的MSE.指出了广义岭估计中根据MSE准则选取K值存在的主要缺陷,采用了一种选取K值的新准则Q(c),它包含MSE准则和最小二乘LS准则作为特例,从理论上证明和讨论了Q(c)准则的优良性,阐明了c值的统计含义,并给出了确定c值的方法.     

岭回归中确定K值方法的推广

给出了一种新的逐步改进岭参数 k的方法 .这种方法能够通过调整岭参数来进一步减少岭估计的均方误差 ,并改进了 Hoerl和 Kennard的结果 .     

岭型组合主成分估计

本文提出了回归系数的一种新的改进估计－岭型组合主成分估计，讨论了它的可容许性，约束条件下的可容许性和相合性问题，分别在均方误差意义下和Ｐｉｔｍａｎ接近原则下，证明了在一定条件下，它优于最二乘估计和岭估计，并且证明了它有比它们更好的抗干扰能力和稳健性。     

回归系数的综合岭估计

本文提出了回归系数的一种新的有偏估计－－综合岭估计，讨论了综合岭估计的优良性，可容许怀等性质，给出了其迭代和极小均方程误差的无偏估计解，在综合估计下，岭估计和根方估计作为其特例，从而统一了岭估计和根方估计理论。     

多元广义岭估计及K值选以的Q（c）准则

当自变量间存在复共线性时，最小二乘估计就表现出不稳定并可能导致错误的结果。本采用广义岭估计β（K）来估计多元线性模型的回归系数β=vec(B),通过岭参数K值的选取 ，可使广义岭估计的均方误差MSE小于最小二乘估计的MSE。指出了广义岭估计中根据MSE准则选取K值存在的主要缺陷，采用了一种选取K值的新准则Q（c），它包含MSE准则和最小二乘LS准则作为特例，从理论上证明和讨论了Q（c）准则的优良性，阐明了c值的统计 含义，并给出了确定c值的方法。     

增长曲线模型回归系数的广义岭估计

本文采用广义岭估计β（Ｋ）来估计增长曲线模型中回归系数β＝ｖｅｃ（Ｂ），通过Ｋ值的选取，可使其均方误差（ＭＳＥ）小于ＬＳ估计β的ＭＳＥ。同时对ＬＳ估计的任一线性变换，给出了其均方误差的一个无偏估计，并应用极小化β（Ｋ）的ＭＳＥ的无偏估计的方法，得到了确定岭参数的公式。     

Some recent and new results on the maximum entropy distribution

This letter concerns the maximum entropy (ME) distribution proposed by Theil and Laitinen (1980); it summarizes some of the results obtained with this distribution and its explores the conditioning of the ME covariance matrix as the number of variables increases.     

关于James-Stein估计的小样本性质

首先给出了Jam es-S te in估计优于岭估计的充分条件,随后在P itm an准则下给出了Jam es-S te in估计优于最小二乘估计的简短证明.     

基于岭估计的岭马田系统在复共线性数据中的应用

在多变量模式识别领域,变量间经常会存在复共线性,复共线性不仅会影响参数估计的效果,也会使变量的敏感性出现显著异常.马田系统是以马氏距离作为测量尺度的多变量模式识别方法,复共线性会通过马氏距离影响马田系统变量筛选的效果和判别的准确率.基于岭估计提出了一种新的测量尺度—岭马氏距离,利用岭迹法确定岭参数,将其引入马田系统使得马田系统对病态数据具有更好的耐受性.通过案例验证了岭马氏距离可以很好的克服复共线性,并提高马田系统的判别准确率.     

广义岭型主相关估计的方差最优性

本文在回归系数的岭型主相关估计的基础上,提出了广义岭型主相关估计,进一步研究其在降维估计类中方差最优性。     

The conditioning of the maximum entropy covariance matrix and its inverse

The maximum entropy covariance matrix is positive definite even when the number of variables p exceeds the sample size n. However, the inverse of this matrix can have stability problems when p is close to n, although these problems tend to disappear as p increases beyond n. We analyze such problems using the variance of the latent roots in a particular metric as a condition number.     

作物垄作的数学模型

应用高等数学中对面积的曲面积分等方法,建立了垄作种植中半椭圆形、抛物线型和三角形垄的数学模型,比较了不同垄形、垄宽、垄高在增加单位土地表面积和突出地面垄体体积的效果.     

回归系数的广义岭型主相关估计及其优良性

在回归系数的主相关估计基础上提出一种新的降维估计——广义岭型主相关估计,并讨论它的优良性.     

回归系数的岭型主相关估计及其优良性

本文研究了线性模型中的一种有偏估计,利用均方误差和残差平方和,得到了岭型主相关估计的一些性质,是对[1]中相关结果的推广.     

Post selection shrinkage estimation for high‐dimensional data analysis

In high‐dimensional data settings where p  ? n , many penalized regularization approaches were studied for simultaneous variable selection and estimation. However, with the existence of covariates with weak effect, many existing variable selection methods, including Lasso and its generations, cannot distinguish covariates with weak and no contribution. Thus, prediction based on a subset model of selected covariates only can be inefficient. In this paper, we propose a post selection shrinkage estimation strategy to improve the prediction performance of a selected subset model. Such a post selection shrinkage estimator (PSE) is data adaptive and constructed by shrinking a post selection weighted ridge estimator in the direction of a selected candidate subset. Under an asymptotic distributional quadratic risk criterion, its prediction performance is explored analytically. We show that the proposed post selection PSE performs better than the post selection weighted ridge estimator. More importantly, it improves the prediction performance of any candidate subset model selected from most existing Lasso‐type variable selection methods significantly. The relative performance of the post selection PSE is demonstrated by both simulation studies and real‐data analysis. Copyright © 2016 John Wiley & Sons, Ltd.