基于XGBOOST的恒星光谱分类特征数值化

恒星光谱分类是研究恒星的基础性工作之一，常用的光谱分类是基于20世纪70年代Morgan和Keenan建立起来的并逐步完善的MK分类系统。然而基于MK规则的交互式决策分类系统对处理海量天文光谱数据存在着一定的困难。目前光谱巡天一般采用的自动化分类则是模版匹配方法而忽略对谱线特征的测量。怎样自动、客观地提取海量光谱中的分类特征并应用这些特征进行分类可以对天体的物理化学性质的统计分析至关重要。针对此问题，通过机器学习和计算光谱的谱线指数结合的方法，提取光谱特征，并通过大数据分析定量地确定对光谱特征谱线的分类判据（数值化），确定每一类光谱具有物理意义的特征谱线的强度分布。首先对LAMOST DR4恒星光谱测量其谱线指数作为输入，光谱的分类标记采用官方发布的分类结果。使用XGBoost算法进行自动分类及特征排序，从而获得已知或未知的对于分类决策最为敏感的谱线。首先，选取高信噪比（S/N>30）、被LAMOST标记为B，A，F和M的恒星光谱数据，总计约414万个。然后，对光谱数据计算谱线指数从而使其得到降维处理，过滤冗余信息。其次，将处理后的恒星光谱数据随机划分为训练集和测试集，通过适当调整算法参数，用训练集得到所需要的分类决策树模型，用测试集测试其稳定性和可用性，以防止出现过拟合，同时使用算法自带函数进行提取分类特征。最后，输出并整理实验中算法所得的决策树模型，并挑选其概率比较大的分支作为最终的决策树模型。通过实验，可以发现在固定参数下，XGBoost所得的模型有一定的自适应性，较少受数据集影响，总体准确率可达88.5%；同时其所输出的分类决策树与已知的特征较为吻合，而且可以获得基于大数据的、数值化的特征谱线对应分类的范围，为完善基于特征的分类提供定量的规则。     

基于梯度提升决策树的航班延误分类预测

考虑航空交通网络状态特征对航班延误的影响,将上游的航班延误状态特征加入到预测因素中,并使用梯度提升决策树(Gradient Boost Decision Tree,GBDT)的方法构建了航班延误预测模型.与以往的决策树算法、SVM分类算法、RF算法相比,GBDT算法在航班延误分类预测上具有更高的准确度,可有效提高机场运行管理效率.     

基于数据挖掘技术的航空客户流失与细分研究及R语言程序实现

提高航空客运的上座率既能使航空资源得到充分利用,更能显著的增加航空公司的效益.主要从某航空公司旅客乘机记录中对航空公司的客户进行行为分析,采用数据挖掘技术,首先利用决策树方法对客户进行流失预测,然后利用K-均值聚类进行客户细分,将客户划分为五类,同时对客户进行价值评估,挖掘出有价值的客户,最后综合分析客户流失与客户细分结果,并提出相应的营销策略,从而达到提高上座率和效益的目标.     

决策树分类模型在工程项目评标风险预警中的应用

本文将数据挖掘中的决策树分类方法运用到工程项目评标数据分析,从200多个天津市工程项目招投标打分数据中,随机抽取15个招投标项目中的67个承包商的评标专家打分数据进行分析,得到中标承包商技术和商务评分分界点,进而得到工程项目潜在风险的预警阈值,然后借助因子分析辨识出风险来源并进行预警。     

铁质破片的高光谱图像识别研究

高光谱成像凭借高的光谱分辨率、图谱合一、波段多的特点,能够为待分类目标提供多维的参考信息,从而提高分类精度。爆炸破片的识别回收能够为爆炸威力的评估和防爆措施的设计提供参考。针对当前破片检测中多采用可见光波段或红外波段等单个波段进行检测,忽略了破片目标与背景对不同波长的光有着不同的吸收程度,没有将多波段破片特征充分利用,为此结合高光谱检测手段,提出了一种空间分割结合光谱信息的爆炸破片识别方法。在实验室环境下,首先采集铁质破片、石头、树叶的高光谱图像,对采集的样本图像数据做预处理,包括去噪声以及黑白校正反演反射率信息等,感兴趣区域随机提取三类样本像素点共750个,随机选取600个点作为训练集其余作为测试集,通过训练后得到预测准确度分别为88%、 88%、 94%的决策树模型。其次模拟了铁质破片散落在含有石头树叶的沙土中的场景并采集其高光谱数据,通过前后级联的空谱融合方法,在空域经过图像增强和去噪等预处理之后,采用边缘检测结合区域生长以及形态学处理的方法对空间图像进行分割,得到沙土上有形态的目标,空间分割的交并比(IOU)达到93.5%,真阳率(TPR)达到97.4%;然后结合光谱域训练得到...     

融合学习模型的岩石光谱特征自动分类

岩石光谱综合反映了岩石的物理化学性质、成分及其结构构造。岩石光谱数据已被应用于岩石分类的研究,但是不同于矿物光谱,岩石光谱并无标准数据库,且受较多干扰因素影响,例如矿物组分、结构构造、化学成分、风化力度,测量仪器的误差等。传统岩石光谱分类模型先是对岩石光谱进行预处理排除干扰,然后采用不同方法对部分光谱特征分析,以达到分类目的。但对光谱数据特征遗失较多,使得分类准确率低下且操作过程繁琐、效率不高。因此,建立一个简单、快速、准确的岩石光谱自动分类模型具有重要意义。机器学习能够对获得的所有数据进行学习,不存在遗漏,大大提高了分类精度,且是对原始数据直接操作,不需预处理,简化流程。为此,选取辽宁兴城地区作为研究区,采集了若干种典型岩石样本,利用美国ASD便携式光谱仪实测光谱,最终获得608条数据,依据岩石光谱特征分为三类进行研究。首先利用决策树(DT)及决策树的升级模型--随机森林（RF）对数据进行分类,但当数据噪音较大时随机森林容易陷入过拟合;因而利用对异常值不敏感的K-最近邻（KNN）建模,但KNN需要对每个样本都考虑,数据量大时计算量会很大,效率不高;所以通过支持向量机（SVM）来提升分类准确率。从实验结果可以看出,4种分类模型的准确率排序为：SVM>KNN>RF>DT。为进一步提高岩石光谱特征的自动分类精度,采取了融合多个不同模型的办法,即对不同模型的分类结果进行投票,选择投票最多的作为最后分类结果。由于硬投票可在一定程度上减少过拟合现象的发生,更加适合分类模型,所以利用硬投票法融合了RF、KNN与SVM三个机器学习模型,最终的分类准确率可达到99.17%。综上所述,基于融合学习模型进行岩石光谱特征自动分类是切实可行且准确高效的。     

不确定信息处理及在归纳学习中的应用

信息的不确定性是由于模糊性、随机性、不完全性、不精确性等因素造成的,不确定性信息在现实世界中广泛存在.关于这方面的研究主要集中在模糊性这种不确定性上.我们课题组在此领域的研究已经持续20余年,概括起来讲,早期的研究兴趣在于模糊(非可加)测度与积分的理论建立,主要研究了传统的可加测度与积分理论到非可加情况的推广;尔后的兴趣转向为如何用数值方法确定非可加测度;近期的研究兴趣在于从已有数据中获取模糊控制规则以及具有模糊表示的归纳学习问题.近10年的研究曾得到了多项基金项目资助,出版专著3部,发表学术论文100余篇,30余篇被SCI收录,20余篇被EI收录,省级以上奖励3项.以下是我们近期研究工作的一个总结,主要包括模糊决策树归纳;基于模糊信息的决策表简化;产生模糊规则的扩张矩阵算法;模糊归纳学习在其他领域中的应用;基于示例学习的模糊控制等.     

一种识别病毒和蠕虫的算法

对现有的恶意软件检测算法进行研究之后发现,某些检测算法只能检测一种恶意软件,并且部分传统的检测算法在检测恶意程序时漏检率偏高。针对目前现有的检测算法缺乏综合性检测能力的短板,在此文中提出了一种新的检测算法,该检测算法具有一定的综合检测能力。新算法的思路如下：第一步区分某种软件是恶意软件还是非恶意软件,如果是恶意软件则提取其特征码,然后使用决策树根据恶意软件的特征码对恶意软件进行识别和分类,如果存在特征码不能识别的恶意软件,那么再根据病毒和蠕虫的特征使用相似性计算算法对未知的恶意软件进行相似性计算,最后使用决策系统对相似性算法计算的结果进行决策,该恶意软件是病毒还是蠕虫。将相似性计算算法,决策树和决策系统在检测恶意软件算法中进行应用是本文的创新之处。     

基于组合模型的上市公司高送转预测

本文基于中国市场3465家上市公司7年的数据,首先利用随机森林算法提取出43个因子,再利用Lasso方法进行特征选取,最后选出11个重要因子,然后分别采用logistic回归和决策树方法构建两种预测模型,最后基于损失函数确定权重将两种预测模型按权重进行线性组合建立组合模型.实证结果表明,基于组合模型的预测准确率相比单一模型提高了1.39%.