半参数回归的线性小波光滑

考虑半参数回归模型上未知函数,ｙｉ＝ｘ_ｉβ＋ｇ（ｔｉ）＋ｅｉ,１≤ｉ≤ｎ,ｇ（·）为Ｒ~１上未知参数,β∈Ｒ~ｐ为待估参数, Ａｎｔｏｎｉａｄｓ［３］中给出了非参数回归模型的小波估计,借鉴［３］我们利用偏残差法给出了β、ｇ（·）的小波估计β、ｇ（·）．本文研究了β、ｇ（·）的弱相合性及它们偏差和方差的渐近性质,并且得到了β的渐近正态性．     

半参数回归模型的估计的渐近性质

考虑半参数回归模型ｙｉ＝ｘｉ＾１β＋ｇ（ｔｉ）＋ｅｉ,１≤ｉ≤ｎ;其中ｇ为Ｒ上未知函数,σ０＾２＝Ｄ（ｅ１）柴根象等在１９９５年给出了β的二阶段估计βｎ,本文基于β１建立了σ０＾２的估计量σｎ＾２,研究了误差方差估计σｎ＾２的渐近正态性和强相合性,并且得到了可直接用于统计推断的统计量及其分布。     

污染数据回归分析中参数的最小一乘估计

考虑简单回归模型：ｙｉ＝ｘ′ｉβ＋ｅｉ,ｉ＝１,…,ｎ。其中Ｅｅｉ＝０,Ｅｅ＾２ｉ＝σ＾２１。假设ｙ１,ｙ２,…,ｙｎ受到另一独立同分布随机变量序列μ１,μ,…,μｎ的污染,我们仅能观察到污染数据ｙ＾＊ｉ＝（１－ν）ｙｉ,ν为未知的污染参数。本文用污染数据给出了β的最小一乘估计,并证明了它的渐近正态性和相合性。     

NA样本下部分线性模型中估计的强相合性

考虑回归模型：ｙｉ＝ｘｉβ＋ｇ（ｔｉ）＋σｉｅｉ，１＜ｉ＜ｎ，其中σ_ｉ～２＝ｆ（ｕｉ），（ｘｉ，ｔｉ，ｕｉ）是固定非随机设计点列，ｆ（·）和ｇ（·）是未知函数，β是待估参数，误差｛ｅｉ｝为ＮＡ变量．我们对β的最小二乘估计βｎ和加权最小二乘估计Ｂｎ，在适当的条件下得到了它们的强相合性．     

部分线性模型中估计的强相合性

考虑回归模型：ｙｉ＝ｘｉβ＋ｇ（ｔｉ）＋σｉｅｉ，１ｉｎ，其中σ２ｉ＝ｆ（ｕｉ），（ｘｉ，ｔｉ，ｕｉ）是固定非随机设计点列，ｆ（·）和ｇ（·）是未知函数，β是待估参数，ｅｉ是随机误差．对文［１］给出的基于ｇ（·）及ｆ（·）的一类非参数估计的β的最小二乘估计＾βｎ和加权最小二乘估计βｎ，我们在适当条件下证明了它们的强相合性．     

半参数回归估计的相合条件

设有半参数回归模型ｙｉ＝ｘ’，β＋ｆ（ｔｉ）＋ｅｉ，ｉ＝１，．．．ｎ，其中｛ｔｉ｝为常数列，本文对｛ｘｉ｝为设计点列的情形，给出了β、ｆ（ｔ）有相合估计的条件；在｛ｘｉ｝为随机的情形，建立了ｆ（ｔ）估计的相合性。     

污染数据半参数回归模型估计的渐近正态性

考虑半参数回归模型：ｙｉ＝ ｘｉβ＋ ｇ（ｔｉ）＋ ｅｉ,ｉ＝ １,２,…,ｎ．其中 Ｅｅｉ＝ ０, Ｅｅ２ｉ＝ σ２１ ＞ ０．假定ｙ１,ｙ２,…,ｙｎ 受到另一独立同分布随机变量序列 μ１,μ２,…,μｎ 的污染,｛μｉ｝与｛ｙｉ｝独立,且仅能观察到污染数据．文［１］对由污染数据作出的参数 β的估计 βｎ,证明了它的强相合性,而本文则证明了它的渐近正态性     

具有独立贡献的相依回归模型

考虑相依回归（ＳＵＲ）模型ｙｉ＝Ｘｉβｉ＿ｅｉ，ｉ＝１，２，…，ｍ，Ｅｅｉ＝０，ｉ，ｊ＝１；２，…ｍ，其中ｙｉ和ｅｉ是ｎ×１维随机向量，Ｘｉ是ｎ×ｐｉ已知矩阵，βｉ是ｐｉ×１维参数向量，∑＝（σｉｊ）ｍ×ｍ＞０．文中给出了两个概念：独立贡献和简洁估计．主要结果是如下五种叙述等价：（１）ＳＵＲ模型具有独立贡献；（２）βｉ的ＢＬＵＥ是简洁估计；（３）协方差改进估计是ＢＬＵＥＺ（４）βｉ的ＢＬＵＥ具有形式其中，ｊ＝１，２，…，ｍ；（５）ＰｋＮｉＮｊ＝０，ｉ≠ｊ，ｋ，Ｉ，ｊ＝１，２，…，ｍ     

随机删失场合部分线性模型中的核光滑方法

考虑模型Ｙ＝Ｘβ＋ｇ（Ｔ）＋ｅ。其中ｇ为［０，１］上的未知光滑函数，β为一维待估参数，为不可观察误差．当观察受到随机删失时，本文基于核光滑和综合数据方法导出了β和ｇ的估计βｎ＊和ｇｎ＊证明了βｎ＊的渐近正态性，并获得了ｇｎ＊的非参数收敛速度Ｏ（ｎ－１／３）     

固定设计下半参数回归模型的参数估计的Bootstrap逼近

考虑固定设计下的半参数回归模型： ｙ_ｉ＝ｘ_ｉβ＋ｇ（ｔ_ｉ）＋ ｅ _ｉ,ｉ ＝１, ２,…; ｎ． 对利用一般非参数估计法结合最小二乘法得到的参数分量β和误差方差σ~２的估计量β_ｎ和σ_ｎ~２,通 过重抽样的方法构造了β_ｎ和σ_ｎ~２的 Ｂｏｏｔｓｔｒａｐ统计量β_ｎ~＊和 σ_ｎ~（＊２）,并证明了在给定原样本的条件下,ｎ~（１／２） （β_ｎ－β_ｎ）和（σ_ｎ~（＊２）－σ_ｎ~２）分别与ｎ~（１／２）（β_ｎ－β）和ｎ~（１／２）（σ_ｎ~２－σ~２）有相同的渐近分布．     

异方差回归模型近邻型估计的相合性

本文研究异方差回归模型Ｙｉ＾（ｎ）＝ｇ（ｘｉ＾（ｎ））＋εｉ＾（ｎ）,ｉ＝１,…,ｎ,其中ｇ是右实函数,ｘｉ＾（ｎ）是非随机设计点列,εｉ＾（ｎ）是随机误差,文中定义了一类ｇ（ｘ）的近邻型估计ｇｎ（ｘ）＝（ｎ）∑（ｉ＝１）Ｗｍ（ｘ）Ｙｉ＾（ｎ）,得到了ｒ阶平均相全和渐近正态性,特别,在（∞）∑（ｎ＝１）（ｎ）∑（ｉ＝１）Ｅ／εｉ＾（ｎ）／＾ｓ／（ｎｉ）＾ｓ／ｒ〈∞,ｍａｘＥ（１≤ｉ≤ｎ）／εｉ（＾     

带多余参数的回归方程系统的两步估计

研究了带多余参数的回归方程系统，得到了参数的两步估计是某一特定形式的一个充要条件，并讨论了两步估计的有限样本性质。     

进货质量损失的统计评估

为了评估进货质量损失，考核进货渠道质量水平，本文建立一个数学模型，并用实例说明其应用。     

商业银行操作风险的Buhlmann估计模型

对银行操作风险产生的各类损失量,关于操作风险水平条件独立情况,建立一种新的银行操作风险损失额的Buhlmann估计模型。并对模型进行了实证分析。     

回归系数的stein型主成分估计

对于设计阵Ｘ呈病态的线性回归模型，本文提出了一种新的关于回归系数的有偏估计─ｓｔｅｉｎ型主成分估计，并在均方误差意义下，论证了在一定条件下ｓｔｅｉｎ型主成分估计优于主成分估计，因此也优于ｓｔｅｉｎ型ＯＬＳ估计与ＯＬＳ估计，最后，我们又对偏参数的存在性，最优性进行了讨论，并得出了一些重要结论．     

多元组内回归分析的模型及其算法

从工程实践的需要出发，提出多元组内回归分析的模型和算法。该模型参考逐步回归的思想，将副除的自变量转变为因变量，既充分利用数据信息，又获得完整的结果。该模型克服传统多元回归模型在因变量集合不确定的情况下难以应用的不足，应用前景广阔。     

Prior influence in linear regression when the number of covariates increases to infinity

It is becoming more typical in regression problems today to have the situation where “p>n”, that is, where the number of covariates is greater than the number of observations. Approaches to this problem include such strategies as model selection and dimension reduction, and, of course, a Bayesian approach. However, the discrepancy between p and n can be so large, especially in genomic data, that examining the limiting case where p→∞ can be a relevant calculation. Here we look at the effect of a prior distribution on the coefficients, and in particular characterize the conditions under which, as p→∞, the prior does not overwhelm the data. Specifically, we find that the prior variance on the growing number of covariates must approach zero at rate 1/p, otherwise the prior will overwhelm the data and the posterior distribution of the regression coefficient will equal the prior distribution.     

A Sparse-Group Lasso

For high-dimensional supervised learning problems, often using problem-specific assumptions can lead to greater accuracy. For problems with grouped covariates, which are believed to have sparse effects both on a group and within group level, we introduce a regularized model for linear regression with ?₁ and ?₂ penalties. We discuss the sparsity and other regularization properties of the optimal fit for this model, and show that it has the desired effect of group-wise and within group sparsity. We propose an algorithm to fit the model via accelerated generalized gradient descent, and extend this model and algorithm to convex loss functions. We also demonstrate the efficacy of our model and the efficiency of our algorithm on simulated data. This article has online supplementary material.     

线性回归诊断的若干问题

本文对于线性回归诊断提出了几种新的模型和方法。我们首次研究了方差加权和均值漂移的混合模型,得到了相应的诊断统计量。本文还引入了罚函数方法,并以此为工具,讨论了若干有偏估计的影响度量,最后,本文提出了基于重心的诊断统计量,对于识别异常点有较好的效果。     

Automatic selection of indicators in a fully saturated regression

We consider selecting a regression model, using a variant of the general-to-specific algorithm in PcGets, when there are more variables than observations. We look at the special case where the variables are single impulse dummies, one defined for each observation. We show that this setting is unproblematic if tackled appropriately, and obtain the asymptotic distribution of the mean and variance in a location-scale model, under the null that no impulses matter. Monte Carlo simulations confirm the null distributions and suggest extensions to highly non-normal cases. An erratum to this article can be found at