最小一乘估计快速算法

最小二乘估计容易受奇异点的影响, 最小一乘估计是稳健估计, 可以很好地克服这个缺陷, 但计算困难. 基于非退化模型假设下的稳定极点理论, 本文找到了快速准确求解最小一乘估计的迭代算法,并给出算法的计算过程及与线性规划求解的比较, 较好地解决了最小一乘估计计算难的问题, 使其成为有效的参数估计方法.     

污染数据回归分析中参数的最小一乘估计

考虑简单回归模型：ｙｉ＝ｘ′ｉβ＋ｅｉ,ｉ＝１,…,ｎ。其中Ｅｅｉ＝０,Ｅｅ＾２ｉ＝σ＾２１。假设ｙ１,ｙ２,…,ｙｎ受到另一独立同分布随机变量序列μ１,μ,…,μｎ的污染,我们仅能观察到污染数据ｙ＾＊ｉ＝（１－ν）ｙｉ,ν为未知的污染参数。本文用污染数据给出了β的最小一乘估计,并证明了它的渐近正态性和相合性。     

污染数据线性回归模型的最小一乘估计

对于线性回归模型,在因变量受到另一与之独立的随机变量序列的污染时,基于最小一乘的方法给出模型参数的估计.在一定条件下,证明了估计量的相合性和渐近正态性,并使用模拟对估计方法的小样本性质进行了分析.模拟结果显示,本文所提方法在小样本情况下表现良好.     

最小一乘法介绍

一元线性回归是处理两个变量之间关系的最简单的模型。在中学数学课本中,已知两点(x_1,y_1),(x_2,y_2)可唯一确定一条直线y=a+bx,这只需将两点坐标代入直线方程中解出a,     

随机删失数据非线性回归模型的最小一乘估计

研究了随机删失数据非线性回归模型的最小一乘(LAD)估计问题, 证明了LAD估计量的渐近性质, 包括相合性、依概率有界性和渐近正态性等. 模拟结果显示对删失数据回归问题, LAD估计仍比最小二乘估计(LSE)稳健.     

线性模型中最小一乘估计的渐近正态性

考虑线性回归模型(1.1),其中β。为未知的回归系数向量,e₁,e₂,…独立且各有中位数零,定义β。的最小一乘估计为极值问题(1.2)的解,本文首先论述了文献中关于渐近正态性的工作,并指出其中错误所在,然后在最一般的条件下证明了的渐近正态性(定理1).特别,对{经X_i}施加的条件与最小二乘估计的渐近正态性条件相同(见(1.6)式),说明这一条件是无可改进的。     

基于可调权重距离的最小一乘回归方法

不同时期数据对因变量的影响权重不同,若不考虑数据的时间特性而构建回归模型,可能不一定得到最佳的回归模型.针对经济领域中数据时间跨度大,样本少以及可能存在异常点的特点,提出基于可调权重距离的最小一乘回归方法.建立了可调权重距离的权重系数确定方法,并给出基于MATLAB的模型求解方法.通过某船舶使用费用预测的应用,表明通过方法构建的模型具有更高的精度,值得借鉴.     

非参数回归模型最小一乘估计的全局最优收敛速度

非参数回归模型最小一乘估计的全局最优收敛速度施沛德（中国科学院系统科学研究所，北京１０００８０）国家自然科学基金资助课题．１９９１年１１月２７日收到．一、引言考虑非参数回归模型这里为．随机误差序列，其分布的中位数为零；Ｘ１，Ｘ２，…为服从分布密度ｆ的...     

曲线拟合的广义最小一乘法

介绍了最小一乘法的方程式解法;讨论了这种方程式解法与最小一乘逼近之间的关系;说明了它不仅适用于线性函数类也适用于非线性函数类的最佳逼近的实现;提出了零偏差点附近数据变化的两个重要特征;建立了一种具有"人为"因素的广义最小一乘法;并给出了该法在预测方面的几个应用实例.     

最小一乘估计在多重检验中的应用——基于乳腺癌微阵列数据

运用多重检验方法对高维数据进行推断统计分析.首先将最小一乘估计算法应用在多重检验分析中,构造出新的估计真实零假设个数的方法.其次对最小一乘与最小二乘方法估计真实零假设个数的准确性进行模拟比较分析,模拟结果表明前者较后者估算结果更准确.最后,将上述估计方法应用于乳腺癌微阵列数据的分析中寻找有表达差异的基因.检验结果共找到118个差异基因,其中85个基因在生物学上是有效基因,实证表明该方法具有一定的实用性.     

Local Sensitivity Analysis in Estimation Problems

This article deals with the problem of local sensitivity analysis, that is, how sensitive are the results of a statistical analysis to changes in the data? A general methodology of sensitivity analysis is applied to some statistical problems. The proposed methods are applicable to any statistical problem that can be expressed as an optimization problem or that involves solving a system of equations. As some particular examples, the methodology is applied to the maximum likelihood method, the standard and constrained methods of moments and the standard and constrained probability weighted moments methods. Unlike the standard method of moments, the constrained method of moments ensures that the obtained estimates are always consistent with the data. Closed analytical formulas for the calculation of these local sensitivities are derived. The obtained sensitivities include: (a) the objective function sensitivities to data points and (b) the sensitivities of the estimated parameters to data points. The derived formulas for the sensitivities are based on recent results in the area of mathematical programming. Several examples of parameter estimation problems are used to illustrate the methodology.     

适应性最小相对误差估计

针对乘积回归模型提出一种适应性最小相对误差(ALRE)准则,准则是一种自适应的估计方法.对于不同数据,通过调整权重可提高模型的解释能力和参数估计的准确性.证明了ALRE准则下估计量的相合性和渐近正态性.实证研究和人体脂肪数据的应用分析进一步说明了ALRE准则的有效性和实用性.     

最小二乘法回归中的一些问题

最小二乘法估计通常基于：线性、独立、正态和方差齐性四个基本假定．在实际工作中，这些假定常很难满足，偏离时往往对估计结果带来影响．本文对偏离假定的情况予以讨论并给出发现和处理这些问题的方法；同时结合实例对回归中的影响点和异常点、共线性等问题予以说明．这将对我们实际工作中的数据分析具有指导性意义．     

Nonlinear Least Squares Estimation of Log-ACD Models

This paper studies a nonlinear least squares estimation method for the logarithmic autoregressive conditional duration (Log-ACD) model. We establish the strong consistency and asymptotic normality for our estimator under weak moment conditions suitable for applications involving heavy-tailed distributions. We also discuss inference for the Log-ACD model and Log-ACD models with exogenous variables. Our results can be easily translated to study Log-GARCH models. Both simulation study and real data analysis are conducted to show the usefulness of our results.     

Logistic回归中的加权最小二乘估计

本文引入因变量是虚拟变量的回归模型 ,并通过logistic函数拟合这种模型 ,分析它在控制和预测方面的不足之处 .在此基础上提出用加权最小二乘估计回归方程 .模拟结果表明 ,此方法是可行的     

生长曲线模型的惩罚最小二乘估计

主要考虑了生长曲线模型中的参数矩阵的估计.首先基于Potthoff-Roy变换后的生长曲线模型,采用不同的惩罚函数:Hard Thresholding函数,LASSO,ENET,改进LASSO,SACD给出了参数矩阵的惩罚最小二乘估计.接着对不做变换的生长曲线模型,直接定义其惩罚最小二乘估计,基于Nelder-Mead法给出了估计的数值解算法.最后对提出的参数估计方法进行了数据模拟.结果表明自适应LASSO在估计方面效果比较好.     

Least Absolute Deviation Estimation for Regression with ARMA Errors

The asymptotic normality for least absolute deviation estimates of the parameters in a linear regression model with autoregressive moving average errors is established under very general conditions. The method of proof is based on a functional limit theorem for the LAD objective function.     

On Least Squares Estimation for Stable Nonlinear AR Processes

Following a Markov chain approach, this paper establishes asymptotic properties of the least squares estimator in nonlinear autoregressive (NAR) models. Based on conditions ensuring the stability of the model and allowing the use of a strong law of large number for a wide class of functions, our approach improves some known results on strong consistency and asymptotic normality of the estimator. The exact convergence rate is established by a law of the iterated logarithm. Based on this law and a generalized Akaike's information criterion, we build a strongly consistent procedure for selection of NAR models. Detailed results are given for familiar nonlinear AR models like exponential AR models, threshold models or multilayer feedforward perceptions.     

基于最小截平方和估计的监测数据分析方法

水工程安全监测数据中不可避免地存在离群点,而应用最为广泛的最小二乘法(least square,LS)不具备剔除离群点的能力,反而更易吸收离群点,使回归曲线严重偏离实际。针对LS在此方面的缺陷,本文在最小化残差平方和理论的基础上,提出采用最小截平方和估计(least trimmed squares,LTS)方法来构建水工程安全监控模型。根据实际工程的监测资料并对监测资料分析处理,剔除离群点得到最优数据群。通过求解最优数据群的回归系数,进而得到最接近实际数据的拟合曲线。相比于LS估计,LTS估计所得结果更具有合理性、稳健性,且能够显著提高数据的预测精度。因此,LTS估计在水工程安全监测等数据分析中具有良好的应用前景。