随机回归模型选择的简单方法及其相合性

随机回归模型的选择是回归分析理论中的重要问题之一.本文对随机回归模型提供一种选择准则,它的计算简单,在一定的条件下,该准则具有强相合性.     

基于样条变换的PLS回归的非线性结构分析

基于样条变换的:PLS非线性回归模型既吸取了样条函数分段拟合以适应任意曲线连续变化的优点,又借鉴了偏最小二乘回归方法能够有效解决自变量集合高度相关的技术.针对多元加法模型,从理论和仿真试验的角度分别验证了,对于多个独立自变量对单因变量为非线性关系的数据系统,基于样条变换的PLS回归方法不仅能够有效实现自变量对因变量的整体预测,而且能够提取各维自变量对因变量的单独非线性作用特征,从而确定数据系统内部的复杂非线性结构关系,增强了模型的可解释性.     

追加数据对条件指数的影响<英>

克服线性回归模型中设计矩阵的复共线性,主要有三种方法:追加数据,自变量选择和非最小二乘法,本文研究追加数据在减少条件数中的作用,我们的研究表明,在可能情况下适当地选择追加数据,设计矩阵的条件指数可以被减少.我们用在回归最优设计中广泛被研究过的Gaylor-Merrill数据说明了本文理论结果的实用意义.     

面板数据分位回归中适应性LASSO调节参数的选择

在带有罚函数的变量选择中,调节参数的选择是一个关键性问题,但遗憾的是,在大多数文献中,调节参数选择的方法较为模糊,多凭经验,缺乏系统的理论方法.本文基于含随机效应的面板数据模型,提出分位回归中适应性LASSO调节参数的选择标准惩罚交叉验证准则(PCV),并讨论比较了该准则与其他选择调节参数的准则的效果.通过对不同分位点进行模拟,我们发现当残差E来自尖峰分布和厚尾分布时,该准则能更好地估计模型参数,尤其对于高分位点和低分位点而言.选取其他分位点时,PCV的效果虽稍逊色于Schwarz信息准则,但明显优于A1kaike 信息准则和交叉验证准则.且在选择变量的准确性方面,该准则比Schwarz信息准则、Akaike信息准则等更加有效.文章最后对我国各地区多个宏观经济指标的面板数据进行建模分析,展示了惩罚交叉验证准则的性能,得到了在不同分位点处宏观经济指标之间的回归关系.     

删失回归模型中的变量选择

在一个删失回归模型("Tobit"模型)中,我们常常要研究如何选择重要的预报变量.本文提出了基于信息理论准则的两种变量选择程序,并建立了它们的相合性.     

追加数据对条件指数的影响

克服线性回归模型中设计矩阵的复共线性，主要有三种方法追加数据自变量选择和非量小二乘法，本文研究追加数据在减少条件数中的作用，我们的研究表明，在可能情况下适当地选择追加数据，设计矩阵的条件指数可以被减少。我们用在回归最优设计中广泛初研Ｇａｙｌｏｒ－Ｍｅｒｒｉｌｌ数据说明了本文理论结果的实用意义。     

基于灰色系统理论的多元线性回归分析

运用灰色系统理论剔除了自变量观察数据中的噪声污染,对传统的多元线性回归分析方法进行了改进,建立了灰色多元线性回归分析模型.将模型应用于陕西省就业问题的研究,取得了满意的预测效果.     

多维时序定阶方法对偏最小二乘回归模型预报精度的改进

运用时间序列多维自回归模型的定阶方法 ,解决了偏最小二乘回归模型中自变量的选择问题 .通过对我国财政收入的预报分析表明 ,这两种统计模型的结合使用 ,较大程度地提高了预报精度     

包含多余回归变量的错误指定模型的随机约束Liu估计

对由于包含多余回归自变量而导致的错误指定线性回归模型,本文导出了回归系数的最小二乘估计,普通混合估计以及随机约束Liu估计,并在均方误差矩阵准则下对这三个估计的优良性进行了比较,给出了随机约束Liu估计优于最小二乘估计和普通混合估计的充要条件.此外,对它们所对应的经典预测值的优良性也进行了讨论.     

基于参数估计线性回归模型选择的研究

关于线性回归模型选择 ,[1 ]中介绍了许多方法 ,他们均基于残差平方和下建立的选择准则 .本文试基于参数估计的理论给出一种方法 ,从参数估计的优良性质上来说 ,我们认为是合理的 .同时给出了计算方法及应用实例 .     

Robust model selection criteria for robust Liu estimator

In linear regression analysis, outliers often have large influence in the model/variable selection process. The aim of this study is to select the subsets of independent variables which explain dependent variables in the presence of multicollinearity, outliers and possible departures from the normality assumption of the error distribution in robust regression analysis. In this study to overcome this combined problem of multicollinearity and outliers, we suggest to use robust selection criterion with Liu and Liu-type M(LM) estimators.     

Variable selection in model-based discriminant analysis

A general methodology for selecting predictors for Gaussian generative classification models is presented. The problem is regarded as a model selection problem. Three different roles for each possible predictor are considered: a variable can be a relevant classification predictor or not, and the irrelevant classification variables can be linearly dependent on a part of the relevant predictors or independent variables. This variable selection model was inspired by a previous work on variable selection in model-based clustering. A BIC-like model selection criterion is proposed. It is optimized through two embedded forward stepwise variable selection algorithms for classification and linear regression. The model identifiability and the consistency of the variable selection criterion are proved. Numerical experiments on simulated and real data sets illustrate the interest of this variable selection methodology. In particular, it is shown that this well ground variable selection model can be of great interest to improve the classification performance of the quadratic discriminant analysis in a high dimension context.     

How many bits of information does an independent variable yield in a multiple regression?

A simple measure from statistical information theory is proposed to measure the contribution of each independent variable in a multiple regression.     

多组变量典型相关分析SSQCOR准则的数值求解

本文研究多组变量相关分析SSQCOR.准则的数值方法.从KKT条件出发引入了Gauss-Seidel型方法,从SSQCOR出发引入了交替变量法.证明了前者是后者的非精确形式,都具有单调上升性.为了提高得到全局解的可能性,引入了初始点策略.用实际数据和模拟数据进行了数值试验以说明算法的有效性.     

经典的用回归模型进行统计控制中的问题

利用回归模型进行统计控制,在实际工作中一直得到广泛应用。通常采用的方法是利用回归模型y^=a+bx进行逆估计,即根据回归模型的变换x=(y^-a)/b,由应变量Y的取值范围反推自变量X的取值范围。本文指出这种方法是很不合理的;进一步提出二种相对合理取代的统计方法。     

一类线性模型中Bayes估计的优良性

本文研究了一类线性模型中参数的Bayes线性无偏估计的优良性.利用矩阵论的相关知识,分别在平衡损失准则和均方误差阵准则下,得到了Bayes线性无偏估计优于广义最小二乘估计的条件.     

再论线性模型自变元选择的BIC方法相容性条件

在许多情况下，对线性回归模型我们感兴趣于选择足够多的重要预测变量，本文指出了１中对著名的ＢＩＣ准则变量选择方法强相合性证明的错误，并重新给出了一组强相全性条件。在这组条件下，我们也证明了ＢＩＣ选择方法是强相合的，这组新的条件既容易验证又应用广泛。     

THE EXISTENCE OF CONNECTING ORBITS

In this paper,using the notion of an isolating block and Conley's attractor theory,an existence criterion of trajectories connecting a pair of invariant sets of ordinary differential equations is given.     

MODEL SELECTION METHOD BASED ON MAXIMAL INFORMATION COEFFICIENT OF RESIDUALS

The traditional model selection criterions try to make a balance between fitted error and model complexity. Assumptions on the distribution of the response or the noise, which may be misspecified, should be made before using the traditional ones. In this ar- ticle, we give a new model selection criterion, based on the assumption that noise term in the model is independent with explanatory variables, of minimizing the association strength between regression residuals and the response, with fewer assumptions. Maximal Information Coe~cient （MIC）, a recently proposed dependence measure, captures a wide range of associ- ations, and gives almost the same score to different type of relationships with equal noise, so MIC is used to measure the association strength. Furthermore, partial maximal information coefficient （PMIC） is introduced to capture the association between two variables removing a third controlling random variable. In addition, the definition of general partial relationship is given.