基于非参数回归与Adaboost的恒星光谱自动分类方法

通过对恒星光谱进行分析可以研究银河系的演化与结构等科学问题,光谱分类是恒星光谱分析的基本任务之一。提出了一种结合非参数回归与Adaboost对恒星光谱进行MK分类的方法,将恒星按光谱型和光度型进行分类,并识别其光谱型的次型。恒星光谱的光谱型及其次型代表了恒星的表面有效温度,而光度型则代表了恒星的发光强度。在同一种光谱型下,光度型反映了谱线形状细节的变化,因此光度型的分类必须在光谱型分类基础上进行。本文把光谱型的分类问题转化为对类别的回归问题,采用非参数回归方法进行恒星光谱型和光谱次型的分类;基于Adaboost方法组合一组K近邻分类器进行光度型分类,Adaboost将一组弱分类器加权组合产生一个强分类器,提升光度型的识别率。实验验证了所提出分类方法的有效性,光谱次型识别的精度达到0.22,光度型的分类正确率达到84%以上。实验还对比了两种KNN方法与Adaboost方法的光度型分类,结果表明,利用KNN方法对光度型分类精度低,而基于弱分类器KNN的Adaboost方法将识别率大幅提升。     

机器学习算法用于公安一线拉曼实际样本采样学习及其准确度比较

拉曼光谱设备在公安一线中正逐渐得到普及，主要用于检测易燃易爆及易制毒化学品。但在实际应用中，一线人员不会对拉曼设备进行非常准确的使用和操作，不具备专业知识条件的工作人员无法完全按照最佳条件进行检测，经常会发生离焦、偏移、采样时间过短等一系列问题，而检测结果也不可能完全符合标准测试库的算法，给最终结果比对造成非常大的影响。利用五种主流机器学习算法对实际检查、办案过程中采集到的原始数据进行学习分类，通过比较相应的准确度将最佳算法用于改善一线执法、检查过程中拉曼光谱设备的准确性。采集的数据均来自于公安部第三研究所自行研制的EVA3000型拉曼光谱仪，该光谱仪目前已在全国各省、市、地、县进行了一定的配备，一线检测人员会定期将采集的原始数据回传到EVA3000的后台管理系统。通过该管理系统，在线收集实际检查过程中产生的原始数据，以两类易制毒化学品和易燃易爆化学品为例，随机抽取已定性判定的苯乙酸、二氯甲烷、麻黄碱和硝基苯各40例共计160例，并分别利用决策树、随机森林、AdaBoost、支持向量机和人工神经网络算法各进行40，60，100，150，200，300和500次的交叉训练、预测、求取平均准确度。从实验结果可以看出，在五种学习算法中，对于实际样本的预测准确度排序大致为随机森林≈AdaBoost>决策树>SVM>人工神经网络。实际测试的结果与实验过程中的平均预测准确度大体一致。其中随机森林与AdaBoost的准确度相近，其原因在于两者的算法本质都是不断构建新的训练数据集并提高对于错误样本在下次学习中的权重，而SVM 和人工神经网络算法的本质都是基于感知器的算法。可见目前几种主流学习算法中，采用自举汇聚(bootstrap aggregating)方式的算法更适应于对实际样本的采样学习，其准确度也较高。在下一步的工作当中，将继续优化现有的算法，将其实现在后台管理系统上，并测试算法对于目前检测中无法定性物质的在线检测功能。该结果对于进一步将机器学习算法用于实际应用、在线分析，改善一线操作人员非正确使用设备对比对结果造成影响，具有重要意义。     

Boosting the Generalized Margin in Cost-Sensitive Multiclass Classification

The boosting algorithm is one of the most successful binary classification techniques due to its relative immunity to overfitting and flexible implementation. Several attempts have been made to extend the binary boosting algorithm to multiclass classification. In this article, a novel cost-sensitive multiclass boosting algorithm is proposed that naturally extends the popular binary AdaBoost algorithm and admits unequal misclassification costs. The proposed multiclass boosting algorithm achieves superior classification performance by combining weak candidate models that only need to be better than random guessing. More importantly, the proposed algorithm achieves a large margin separation of the training sample while attaining an L₁-norm constraint on the model complexity. Finally, the effectiveness of the proposed algorithm is demonstrated in a number of simulated and real experiments. The supplementary files are available online, including the technical proofs, the implemented R code, and the real datasets.     

基于Adaboost及高光谱的生菜叶片氮素水平鉴别研究

为了便于经济合理的生菜施肥,研究一种生菜叶片氮素水平智能鉴别方法。在温室大棚内无土栽培不同氮素水平的生菜样本,在特定生育期,采集各类氮素水平生菜样本,利用FieldSpec○R 3型光谱仪采集生菜叶片高光谱数据。由于原始高光谱数据存在噪声且冗余性强,利用标准归一化(SNV)对原始高光谱数据进行降噪处理,再利用主成分分析方法(PCA)对高光谱数据进行特征提取。分别利用K最近邻(KNN)和支持向量机(SVM)对降维后的光谱数据进行分类研究,由于自适应提升法(Adaboost)能提升弱分类器分类性能,将其分别引入到KNN和SVM两种分类器中,提出了Adaboost-KNN和Adaboost-SVM两种集成分类算法。分别利用上述四种分类算法对相同测试样本数据进行分类鉴别。结果表明,KNN,SVM,Adaboost-KNN和Adaboost-SVM四种算法的分类正确率分别为74.68%,87.34%,100%和100%,其中所提出的Adaboost-KNN与Adaboost-SVM分类效果都很好,且Adaboost-SVM分类算法的稳定性最好。因此,Adaboost-SVM算法适合作为基于高光谱的生菜氮素水平鉴别的建模方法,并且也为其他作物营养元素无损检测提供了一种新的方法。     

基于集成学习的水稻氮素营养及籽粒蛋白含量监测

利用高光谱遥感技术在水稻收获前对籽粒品质相关的蛋白质含量进行监测,一方面可以及时调整栽培管理方式,指导合理追肥,另一方面,有助于提前掌握籽粒品质信息,明确市场定位。该研究以广东省典型优质籼稻为研究目标,基于2019年和2020年两年氮肥梯度实验,以水稻分化期和抽穗期冠层尺度高光谱数据、水稻氮素参数,包括叶片氮素含量（LNC）、叶片氮素积累量（LNA）、植株氮素含量（PNC）、植株氮素积累量（PNA）及籽粒蛋白含量数据为基础,利用四种个体机器学习算法partial least square regression (PLSR)、K-nearest neighbor (KNN)、Bayesian ridge regression (BRR)、support vector regression (SVR),三种集成学习算法random forest (RF)、adaboost、bagging,针对水稻不同生育期氮素状况进行监测建模,在此基础上构建基于水稻冠层光谱信息、光谱信息结合水稻农学氮素参数的籽粒蛋白含量的监测模型,并对模型进行精度对比。研究结果表明,在水稻氮素营养监测方面,利用水稻冠层454~950 nm波段信息,采用RF及Adaboost算法,在水稻分化期、抽穗期及全生育期LNC、LNA、PNC及PNA模型R2均达到0.90以上,同时也具有较低的RMSE和MAE。在水稻籽粒蛋白品质监测方面,采用全波段光谱信息进行籽粒蛋白含量监测时,RF具有最高的精确度与稳定性,两生育期的RF模型对籽粒蛋白含量的监测结果R2分别为0.935和0.941,RMSE分别为0.235和0.226,MAE分别为0.189和0.152;两生育期以全波段光谱信息结合长势参数进行籽粒蛋白监测时,Adaboost模型具有最高的精确度和稳定性,其中分化期全波段光谱信息结合PNA作为输入参数,Adaboost模型R2为0.960,RMSE为0.175,MAE为0.150,以抽穗期全波段光谱信息结合PNC作为输入参数,R2为0.963,RMSE为0.170,MAE为0.137。研究结果表明,与PLSR,KNN,BRR和SVR几种个体学习器算法相比,集成算法RF,Adaboost和Bagging具备良好的处理多重共线性的能力,适合用于高光谱数据的分析与处理,在作物氮素营养监测及水稻品质的早期遥感监测方面具有明显优势。     

地表水总有机碳含量紫外-可见光谱检测方法

总有机碳是以碳含量评价水质有机污染的指标,可以反映水体受污染程度。目前地表水总有机碳检测多采用现场取样后实验室分析检测方法,该方法存在费时费力、操作复杂、二次化学污染等缺点。紫外-可见光谱法具有环保、操作简便、可实时在线原位检测等优点,在地表水总有机碳检测中具有很好的应用前景。针对总有机碳检测问题,采用了一种基于自适应增强学习的区间偏最小二乘回归方法,该方法将总有机碳吸收光谱波段分为若干子区间,初始化训练样本权重, 依次在各子区间建立偏最小二乘回归模型,根据子区间模型预测误差率计算该子区间预测结果的权重系数,并更新下一子区间训练样本权重,最后将各子区间模型预测结果线性加权得到总有机碳的检测结果。实验配制总有机碳标准溶液浓度25～150 mg·L-1共43个样品,第一时间段采集35个总有机碳标准样品光谱分为训练集和测试集,建立并验证总有机碳检测算法模型。为评价算法模型鲁棒性,在另一时间段采集剩余的8个标准样品光谱进行反测验证。实验结果表明,采用基于自适应增强学习的区间偏最小二乘回归法建立的总有机碳定量模型具有较高的精度和鲁棒性,分组验证和反测验证的预测均方根误差分别为1.304和1.533 mg·L-1,均优于偏最小二乘回归和极限学习机方法。为进一步验证该方法的有效性,使用该建模方法预测生活污水的总有机碳含量。实际地表水样本取样于河北石家庄藁城污水处理厂排污口污水及河北先河公司园区的生活污水,经稀释后共获得50组地表水样本,采用SPXY方法分为训练集33组水样,测试集17组水样。在实际水样检测中,采用净信号分析方法进行光谱预处理,降低总有机碳与其他水质参数间的交叉干扰;分组验证预测均方根误差为3.26 mg·L-1,平均绝对值百分比误差为3.46%。综上所述,基于自适应增强学习的区间偏最小二乘回归方法,可以快速准确地对地表水中总有机碳进行检测,为在线水质总有机碳检测提供了方法支撑。