高维线性回归模型中非凸惩罚岭回归

非凸惩罚函数包括SCAD惩罚和MCP惩罚, 这类惩罚函数具有无偏性、连续性和稀疏性等特点,岭回归方法能够很好的克服共线性问题. 本文将非凸惩罚函数和岭回归方法的优势结合起来(简记为 NPR),研究了自变量间存在高相关性问题时NPR估计的Oracle性质. 这里主要研究了参数个数$p_n$ 随样本量$n$ 呈指数阶增长的情况. 同时, 通过模拟研究和实例分析进一步验证了NPR 方法的表现.     

一种惩罚最大似然方法估计混合回归模型

本文考虑具有正态误差假设下混合回归模型的参数估计问题.由于似然函数的无界性,混合回归模型普通的最大似然估计不存在.本文提出一种惩罚最大似然方法来估计混合回归模型的参数,证明惩罚最大似然估计量(penalized maximum likelihood estimation, PMLE)具有强相合和渐近正态性.通过深入模拟研究,从估计精确性角度看,惩罚最大似然估计量有很好的表现.本文还给出一个音调感知的例子来说明理论结果的应用.     

众数自适应Lasso回归的统计推断

本文给出了自适应Lasso的众数回归模型,用来对众数回归模型的变量进行选择.对比传统的均值回归模型和中位数回归模型,众数回归在解决重尾、多峰分布问题时更加稳健.众数回归模型的主要估计方法是核估计方法,当自变量的数目较大时,该方法会产生难以忽略的计算误差.本文在核估计方法的众数回归模型基础上添加惩罚项,并通过自适应Lasso方法进行参数估计,有效的剔除了贡献率低的自变量,同时提高了计算的准确性.本文详细阐述了该计算方法,并在一些正则条件下,给出了模型的参数的估计方法和估计值的渐近正态性.模拟实验和实证分析研究了所提方法在有限样本下的性质.对比均值回归模型和传统的众数回归模型,添加自适应Lasso惩罚项的众数回归模型极大地提高了参数估计的准确性.     

多类型复发事件下变系数加性乘积比率回归模型

本文基于多类型复发事件数据,讨论了一个新的加性乘积比率回归模型,该模型包括两部分,其中第一部分为可加Aalen模型,其中协变量影响为加性的且与时间有关.第二部分为Cox回归模型,其中协变量有乘性影响.利用估计方程的方法,给出了该模型中未知参数和非参数函数的一种估计方法,并利用现代经验过程理沦证明了所得估计的相合性和渐近正态性.     

面板数据分位数回归模型的参数估计与变量选择

本文研究了基于面板数据的分位数回归模型的变量选择问题.通过增加改进的自适应Lasso惩罚项,同时实现了固定效应面板数据的分位数回归和变量选择,得到了模型中参数的选择相合性和渐近正态性.随机模拟验证了该方法的有效性.推广了文献[14]的结论.     

超高维部分线性模型的PGFR变量筛选

本文考虑超高维部分线性模型,其中线性部分的维数p大于样本量n,且维数p随着样本量n呈指数阶增长.首先,利用半参数回归的profile方法,把超高维部分线性模型转化成超高维线性模型.其次,为了对高维线性分量进行有效的变量筛选,考虑到协变量之间的相关性,结合贪婪算法和向前回归变量筛选方法,针对部分线性模型,提出了profile贪婪向前回归(PGFR)变量筛选方法.在一定正则条件下,证明了所提PGFR方法具有筛选相合性.为了确定所选模型是否能够依概率趋于1包含真实模型,进一步提出了BIC准则.最后,通过模拟研究和实例分析验证了PGFR方法在有限样本下的完成情况.     

发散维数SICA惩罚Cox回归模型的一种修正BIC调节参数选择器

本文研究了发散维数SICA惩罚Cox回归模型的调节参数选择问题,提出了一种修正的BIC调节参数选择器.在一定的正则条件下,证明了方法的模型选择相合性.数值结果表明提出的方法表现要优于GCV准则.     

复发事件下加性乘积比率回归模型

本文基于复发事件数据,研究了半参数加性乘积比率回归模型的统计问题,利用估计方程的思想,给出了该模型中未知参数和非参数函数的一种估计方法,同时证明了所提出估计的相合性和渐近正态性．     

发散维数SICA惩罚Cox回归模型的一种修正BIC调节参数选择器（英文）

本文研究了发散维数SICA惩罚Cox回归模型的调节参数选择问题,提出了一种修正的BIC调节参数选择器.在一定的正则条件下,证明了方法的模型选择相合性.数值结果表明提出的方法表现要优于GCV准则.     

Tobit回归模型

Tobit回归模型在计量经济学研究中受到广泛地关注。本文对Tobit回归模型的参数估计、假设检验和变量选择等问题进行了文献综述。其次,对于参数维度随样本量增加的Tobit模型,我们构造了一个随机加权估计量,对模型中的参数进行推断,并得到了此估计的渐近性质:相合性和正态性。最后,利用数值模拟结果研究了所提方法的效果。     

局部权重调节的自适应惩罚样条回归模型

传统惩罚样条回归模型中的惩罚是均匀惩罚未考虑数据的局部异质性,因而对复杂数据的拟合缺乏自适应性.本文针对约束回归模型惩罚项的设置特点,设计一种局部惩罚权重向量并将其加入到模型中,构造基于B样条基的自适应惩罚样条回归模型.新模型在观测数据波动较大的区域,给予拟合曲线较小的惩罚,而在观测数据波动较小的区域,给予拟合曲线较大的惩罚,从而使拟合曲线能自适应的反映观测数据的局部变化特征.模拟和应用的结果显示新模型的拟合效果显著优于传统的惩罚样条回归模型.     

适应性最小相对误差估计

针对乘积回归模型提出一种适应性最小相对误差(ALRE)准则,准则是一种自适应的估计方法.对于不同数据,通过调整权重可提高模型的解释能力和参数估计的准确性.证明了ALRE准则下估计量的相合性和渐近正态性.实证研究和人体脂肪数据的应用分析进一步说明了ALRE准则的有效性和实用性.     

存在趋势和周期特征的非平稳时间序列的建模及其应用

本文研究存在未知周期和趋势的非平稳时间序列的估计问题.将经典的时间序列分解模型写成一个含有未知参数的部分线性模型,首先采用B-样条逼近未知时间趋势,然后利用惩罚最小二乘回归法得到未知周期、周期序列和趋势的估计.本文还给出估计量的理论性质,包括周期估计的相合性以及周期序列和趋势估计的渐近性质.模拟研究展现了本文方法的优越...     

固定效应空间自回归分位数模型的变量选择

本文研究了固定效应空间自回归分位数模型的变量选择问题.通过惩罚压缩相关参数,达到了同时识别空间效应、估计未知参数和选择解释变量的目的.此外,给出了变量选择的实现算法并证明了惩罚估计量的大样本性质.数值模拟和实例分析均表明了所提方法的优良表现.     

Lasso变量选择的分布式算法

Lasso是机器学习中比较常用的一种变量选择方法,适用于具有稀疏性的回归问题.当样本量巨大或者海量的数据存储在不同的机器上时,分布式计算是减少计算时间提高效率的重要方式之一.本文在给出Lasso模型等价优化模型的基础上,将ADMM算法应用到此优化变量可分离的模型中,构造了一种适用于Lasso变量选择的分布式算法,证明了...     

基于相邻选择的Ising模型的非凹惩罚估计

本文对Ising模型的局部条件似然施加非凹惩罚,得到相应参数的Oracle性和渐近正态性.在一致的界下,得到了Ising模型的参数矩阵的符号相合性估计,以及在矩阵Li范数下估计的收敛速度.随机模拟和实例分析表明,非凹惩罚估计的灵敏度普遍较高.     

基于径向基的自适应惩罚样条回归模型

传统惩罚样条回归模型中惩罚项的设置未考虑数据的空间异质性,因而对复杂数据的拟合缺乏自适应性.文章通过对径向基函数的几何意义分析,以节点两侧相邻区域内数据点的纵向极差为基础,构造局部惩罚权重向量并加入到约束回归模型的惩罚项中,构造了基于径向基的自适应惩罚样条回归模型.新模型在观测数据波动较大的区域,给予拟合曲线较小的惩罚,而在观测数据波动较小的区域,给予拟合曲线较大的惩罚,从而使拟合曲线能自适应地反映观测数据的局部变化特征.模拟和应用结果显示新模型的拟合效果显著优于传统的惩罚样条回归模型.     

截断与删失数据下的一个回归方法

对于截断与删失下的反映变量,我们提出了一类广义乘积限估计,并获得了它的弱收敛性.在回归分析中,利用这类广义乘积限估计来定义一种最小距离的参数估计,并获得了这种参数估计的相合性和渐近正态性.     

含测量误差的部分线性模型的发散参数估计(英文)

本文考虑了部分线性模型中,线性部分协变量含有测量误差,并且线性部分的参数随着样本量的增大而发散的估计问题.我们考虑了用可观测的替代变量来替代不可观察到的真实变量,这种替代变量的期望与真实变量存在线性关系.我们提出了估计方法,并研究了估计量的相合性与渐进正态性.此外,我们研究了发散参数的发散速度.我们通过模拟来说明该估计的实际效果.     

随机删失非参数回归模型的离差度量

主要研究了随机删失非参数固定设计回归模型的离差度量.首先利用随机删失非参数回归模型的性质和生存分布的Kaplan-Meier乘积限估计,将原模型转化为非参数回归模型进行研究;然后对模型作了离差度量分析,得到了模型的离差度量序列;最后通过实例分析,验证了上述诊断方法的有效性.