关于逐步回归分析的一个注记

逐步回归是多元回归分析筛选自变量的一种重要思想方法。利用矩阵消去变换的知识,证明了逐步回归第一步引入变量,第二步引入变量,第三步不可能剔除变量。最后对经典Hald数据利用SAS统计软件,编程实现逐步回归分析.     

基于WOE-Probit逐步回归的信用指标组合筛选模型及应用

依次使用证据权重法(WOE)、逐步回归法、Probit模型的系数显著检验法对信用评价指标进行三轮筛选,构建了一套精简且区分违约状态能力强的信用评价指标三重组合筛选模型,并以某商业银行信贷数据库中的782个微型企业样本进行了应用分析.通过ROC曲线对构建的评价指标体系进行检验,得到AUC值为0.9472,表明了基于WOE-Probit逐步回归的信用指标组合筛选模型的合理性.通过与WOE-Logistic逐步回归作对比,得到基于WOE-Probit逐步回归的信用指标组合筛选模型的AUC值大于基于WOE-Logistic逐步回归的信用指标组合筛选模型的AUC值,表明方法的优越性.     

多元回归中选择最优或较优方程的一种新方法——F 阈值浮动法

<正> 选择回归变量以取得最优或较优的回归方程是多元回归中引起关注和着重研究的课题之一.目前,已有许多关于在多元回归中选择变量,建立最优或较优方程的方法.主要有前进法、后退法、逐步回归法、反向逐步回归法、一切可能回归法、最优回归法,其中最流行的是逐步回归法.Beale、Mantel、Hocking对前进法、后退法以及逐步回归和一切可能回归法等进行了讨论.认为逐步回归法存在一些问题,最主要是可能遗漏最优方程.这里,最优是指在相同变量数的方程中残差平方和最小.我们认为遗漏的原因在于:逐步回归法是利用某一固定 F 界限(本文用 F_α 表示)来作为选择变量的阈值的.每次选入方程外回归贡献     

介绍一种回归方法──浮动法

本刊1983年第三期题为“逐步回归方法介绍”一文这样细地介绍了逐步回归的计算步骤.本文拟在此基础上进一步介绍在逐步回归基础上有所改进而提出的一种新方法─—浮动法. 在逐步回归中,每取一个界限F值,只能得到一个回归方程.在选择变量的过程中,某些变量由于其回归贡献的F值始终低于F界限值而没有机会进入方程,而这些变量可能组成较优的甚至是最优的方程.[1]有时为了得到合适的回归方程,采用不同的F界限值进行逐步回归计算,但有时即使采用不同的F值,可能得出相同的回归方程.浮动法对此作了一些修改,按照不断变动的界限来选择变量,同时将…     

最优线性回归的计算方法

本文指出利用常用的逐步回归方法可以计算出回归分析中常用的5种准则下的局部最优回归子集,而模拟结果显示,在大部分情形下,局部最优回归子集是相重合的.这就为逐步回归方法在应用上的重要性提供了科学依据.最后作者对现今著名的几个数字例子进行计算,其效果也是十分满意的.     

C_p统计量和回归方程的变量分析

一、引言 逐步回归的方法在我国已被广泛地应用于解决一些实际问题,并取得一定的效果。逐步回归的主要优点是当变量较多时,计算工作量较小。但是这个方法的缺点是每计算一步,只选取一个变量或淘汰一个变量。有时存在这样一种情况,单个变量对回归贡献很     

组合预测方法在黑龙江垦区大豆产量预测中的应用

首先建立了黑龙江垦区九三地区的大豆单产的Logistic模型,通过梯度法得出模型的参数估计值,并对模型进行了分析.其次,再利用逐步回归方法建立了大豆产量与气象因子的逐步回归模型,确定了影响九三地区大豆产量的主要气象因子,最后运用组合预测和最优权数计算的方法,建立了九三地区大豆产量的组合预测模型,进一步提高了模型的精度,这对指导大豆生产具有重要意义.     

基法逐步回归

本文对于回归中自变量的选择提出了一个新方法，这个方法是逐步回归的推广，假定自变量中有一组Ｋ个变量，如果因变量与组中每个自变量的相关系数都很大，而组中任意两个自变量之间的相关系数很小，则称这组Ｋ个自变量变一个基组。传统的逐步回归每次吸收或剔除一个自变量，而本文提出的方法则对每个可能Ｋ元基组考虑吸收或剔除。本文通过一个实例说明，与传统的逐步回归方法相比，新方法更为灵活并能得到更好的结果。     

老年人幸福度影响因素的统计分析

本文在问卷调查的基础上对影响老年人幸福的因素进行了相关分析 ,并通过逐步回归和因子分析方法给出了影响老年人幸福的主要因素。     

基于深度置信网络的影响广西热带气旋年频数预测方法研究

以气候系统监测指数集、NCEP/NCAR高度场和海温场逐月再分析资料为基础,将影响广西的热带气旋年频数作为预报量,先利用随机森林方法通过计算袋外数据误差判断特征变量重要性的能力,进行随机森林算法(Random Forest,RF)的热带气旋年频数预报因子重要度的分析,再进一步采用由多层无监督学习的受限玻尔兹曼机和一层有监督学习的BP网络构成的深度置信网络(Deep Belief Networks,DBN),建立了基于非线性深度学习的热带气旋年频数预测模型.在预报因子、预报建模样本及独立预报样本相同的情况下,分别采用这种深度学习预测建模方法和逐步回归方法对影响广西的热带气旋年频数进行了预报试验.结果表明,采用这种基于随机森林算法的深度置信网络预测建模分析方法,对10年(2009年-2018年)独立预报样本的预报结果比逐步回归预测模型具有更高的预测精度,其预测平均绝对误差为1.30个,而逐步回归方法的预报平均绝对误差为2.05个;在预测评分上,新模型的预测评分为83.33分,高于逐步回归方法的预测评分73.68分.进一步地,应用新模型对2019-2020年热带气旋年频数进行实际业务预测也获...     

预报因子选择的条件数方法及其在台风强度预报中的应用

选择合适的变量是建立多元线性回归方程的重要问题.以减弱诸多变量之间的复共线性为目标,采用条件数分析方法选择多元回归模型的自变量.最后以西北太平洋海域2001-2011年5-7月的台风强度为研究对象,利用条件数方法建立预报方程进行预报试验,并进一步将该预报方法与逐步回归方法进行对比分析.     

Spline Estimation of Discontinuous Regression Functions

Abstract

This article deals with regression function estimation when the regression function is smooth at all but a finite number of points. An important question is: How can one produce discontinuous output without knowledge of the location of discontinuity points? Unlike most commonly used smoothers that tend to blur discontinuity in the data, we need to find a smoother that can detect such discontinuity. In this article, linear splines are used to estimate discontinuous regression functions. A procedure of knot-merging is introduced for the estimation of regression functions near discontinuous points. The basic idea is to use multiple knots for spline estimates. We use an automatic procedure involving the least squares method, stepwise knot addition, stepwise basis deletion, knot-merging, and the Bayes information criterion to select the final model. The proposed method can produce discontinuous outputs. Numerical examples using both simulated and real data are given to illustrate the performance of the proposed method.     

用多因变量逐步回归作多类逐步判别

本文给出一种新的逐步判别算法,其主要思想是把多因变量逐步回归方法用于判别——回归模型,实现多类逐步判别计算.作者还证明,这种算法与近十年出现的基于 Wilks-A 统计量的逐步判别算法在舍选变量方面是完全等价的,但计算时间与存贮量都大有节省.     

中国城镇居民消费支出的多元非线性回归模型研究

以1993-2007年数据为根据,采用逐步回归方法,建立中国城镇居民消费支出的多元非线性回归模型.结果表明:影响居民消费支出的主要因素有收入、消费意愿、居住面积、商品零售价格.消费支出随着收入、消费意愿、商品零售价格的提高而提高,随着人均居住面积的增加而先增后减.而且多元非线性回归模型比线性回归模型更能准确描述客观实际结果.     

Stopping Distance from Observations by Stepwise Regression

In a regression equation with many terms stepwise regression allows to pick out significant terms and to exclude insignificant ones. This can be used to solve rank deficient equation systems. Yet significance is not condition. There is a rather simple method for stepwise regression starting from extended normal equations proposed by Efroymson 1960 [1] and improved by Breaux 1968 [2]. Numerically more stable methods apply orthogonal transformations (Eldén 1972 [3], Gragg-LeVeque-Trangenstein 1979 [4]). If symmetry is properly made use of [2, 5] the method of Efroymson is the most efficient one with respect to computing time. But reasonable results are obtained only if the terms in the regression equation are physically justified. This illustrates the search for a formula of the stopping distance derived from observations, an exercise given in [9], a book widely used on some universities. (© 2014 Wiley-VCH Verlag GmbH & Co. KGaA, Weinheim)     

部分线性模型在北京市税收分析和预测中的应用

首先运用主成分分析方法对北京市经济指标数据进行降维处理,然后基于降维后的数据拟合部分线性模型.将拟合后的模型对2008年北京市税收进行预测,所得结果优于常用的逐步线性回归分析方法的预测结果.     

基于多重共线性的处理方法

多重共线性简称共线性是多元线性回归分析中一个重要问题。消除共线性的危害一直是回归分析的一个重点。目前处理严重共线性的常用方法有以下几种:岭回归、主成分回归、逐步回归、偏最小二乘法、Lasso回归等。本文就这几种方法进行比较分析,介绍它们的优缺点,通过实例分析以便于选择合适的方法处理共线性。     

实证研究中预测模型的选择:从逐步回归到信息标准

本文首先对显著性变量同变量显著性之间的关系予以讨论并区分,进而评价逐步回归模型选择法的缺陷性。在此基础上,我们对以AIC和B IC为代表的各种基于信息标准的模型选择法予以介绍和评论。同逐步回归法相比,信息标准模型选择法有着坚实的统计理论基础及清晰而优良的统计性质。本文通过基于近十年中国股市数据的实证检验说明,信息标准同逐步回归相比往往能产生具有更强预测能力的计量模型,因此值得在未来的实证研究中注意并推广。