高维单指标门限回归模型的估计方法

本文考虑存在协变量阈值参数的高维单指标门限回归模型.本文提出基于l_1范数惩罚方法来估计回归系数和阈值参数,并且提出一种近端梯度算法来检测可能存在的变点.此外,在一定的稀疏条件下,本文得到回归系数估计量l_1范数下估计误差和预测误差的非渐近Oracle不等式.最后,通过数值模拟研究展示所提出方法的有限样本表现.     

非参数模型的稳健跳点检测估计

非参数模型是统计学中常用的一类模型.在实际应用中,回归函数可能不是连续的,即在某些未知的位置上存在跳点.检测这些跳点对于回归函数的估计非常重要.本文基于B样条和众数估计,提出一个稳健跳点检测方法.然后利用检测出的跳点给出了回归函数的稳健有效估计量,并讨论了参数的选择.数值模拟和实例分析验证了所提方法在有限样本下的表现.     

一种基于在线训练的交通信息实时预测快速算法

对于实时交通信息预测,预测精度与预测时间效率始终是一对难以解决的矛盾.重点研究如何提高预测时间效率问题.以精确在线支持向量回归算法(AOSVR)为基础,提出了基于云模型的sigmoid核函数简化计算方法,建立了改进的AOSVR交通信息实时预测模型.该模型应用于实际的交通流实时预测,预测结果表明,由于简化了计算,以损失较小回归精度的代价,显著提高AOSVR模型预测效率.     

偏正态数据下众数回归模型的统计诊断

为了更好地拟合偏态数据,充分提取偏态数据的信息,针对偏正态数据建立了众数回归模型,并基于Pena距离统计量对众数回归模型进行统计断研究,得到了众数回归模型的Pena距离表达式以及高杠杆异常点的诊断方法.利用EM算法与梯度下降法给出了众数回归模型参数的极大似然估计,根据数据删除模型计算似然距离、Cook距离和Pena距离统计量,绘制诊断统计图.通过Monte Carlo模拟试验和实例分析比较,说明文章提出的方法行之有效,并在一定条件下Pena距离对异常点或强影响点的诊断优于似然距离和Cook距离.     

装备系统的回归试验设计与分析优化算法

针对性能指标与影响因素间响应模型未知的试验设计与分析的优化问题进行理论研究和算例分析。利用装备系统的先验信息扩展回归基函数,构造二次回归模型来刻画系统的内在关系。基于模型驱动的最优设计,提出了相应的点交换迭代法以及梯度上升法选取最优试验点。为解决试验点数小于回归函数的维数时信息矩阵退化的问题,提出了基于成本和距离的"再筛选"方法,从已有的最优确切设计基础上"再筛选"试验点。将稀疏理论引入到回归试验设计中,把具有稀疏性的回归试验设计模型参数估计问题转换为稀疏重构问题。利用MP算法对回归模型进行参数估计,保证较高的参数估计精度。结合算例,对提出的试验设计优化方法和参数估计方法进行验证,表明最优确切设计比经典最大熵设计的精度更高。     

基于可调权重距离的最小一乘回归方法

不同时期数据对因变量的影响权重不同,若不考虑数据的时间特性而构建回归模型,可能不一定得到最佳的回归模型.针对经济领域中数据时间跨度大,样本少以及可能存在异常点的特点,提出基于可调权重距离的最小一乘回归方法.建立了可调权重距离的权重系数确定方法,并给出基于MATLAB的模型求解方法.通过某船舶使用费用预测的应用,表明通过方法构建的模型具有更高的精度,值得借鉴.     

基于改进萤火虫优化算法的SVR空气污染物浓度预测模型

为了对空气污染物浓度进行准确预测,提出了基于改进萤火虫优化方法(IGSO)的支持向量机回归(SVR)空气污染物浓度预测模型.首先,利用佳点集理论、拥挤度以及变步长策略对萤火虫优化算法进行改进;其次,根据空气污染物浓度时间序列数据构造训练集,运用IGSO算法寻找SVR的最优参数;最后,利用基于最优参数的SVR实现对空气污染物浓度的预测.通过两部分的实验说明文章所提方法的性能.1)在8个标准测试函数上进行多次对比实验,结果显示IGSO算法相比于基于其他改进策略的萤火虫优化方法能够寻找到更优的目标函数值且方差较小,实验表明改进萤火虫优化算法在稳定性及求解精度方面性能较优.2)对京津冀地区空气污染物浓度进行实验,结果显示如下,首先,相比于萤火虫优化算法、粒子群优化算法以及遗传算法,文章基于IGSO对SVR参数的多次寻优结果波动较小,并且所得SVR模型的交叉验证误差及其方差较小;其次,与基于上述其他优化算法的SVR、基于网格搜索的SVR以及BP神经网络相比,文章方法对测试集的预测精度较高.因此,基于IGSO的SVR空气污染物浓度预测模型具有较高稳定性及预测精度.     

基于L_(1/2)正则化Logistic回归的上市公司财务危机预警模型

针对财务危机预警模型指标存在信息冗余及Logistic回归模型预测精度有待提高的不足,利用L_(1/2)范数惩罚技术优化Logistic回归模型,构建基于L_(1/2)正则化Logistic回归的上市公司财务危机预警新模型.通过以沪深股市制造业股票交易得到特别处理(Special Treatment, ST)公司和非ST公司为研究对象,对比研究传统Logistic回归和L_1正则化Logistic回归模型的预测结果,实证研究表明:通过L_(1/2)正则化的Logistic回归模型不仅可以实现参数估计和变量选择,而且具有更高的预测精度和泛化能力.研究体现了新模型对预警问题的合理性和优越性,为上市公司财务危机预警后续研究提供一定的借鉴.     

基于MM算法的LAD回归的影响分析

基于Hunter and Lange(2000)提出的MM迭代算法,构造了一个代替L1目标函数的新的目标函数Qε(ββk);在此基础上研究了非线性LAD回归影响分析的若干问题.基于新的目标函数和MM迭代算法,证明了LAD回归模型中数据删除模型和均值漂移模型参数估计的等价性定理,并提出了一种新的影响度量.最后,几个数据实例说明了方法的有效性.     

改进的OWL-QN方法解稀疏logistic回归问题

稀疏logistic回归,是机器学习中一类重要的问题,它在控制论、管理科学和互联网等领域有着广泛的应用.本文提出了一种改进的基于分象限学习的拟Newton算法来求解稀疏logistic回归问题.新算法采用著名的Barzilai-Borwein步长策略自适应地近似代替目标函数的Hesse阵,并利用目标函数的整体梯度信息来构造拟Newton向量.在适当的条件下,证明了新算法的全局收敛性.数值实验表明新算法是可行的,并且是有效的.