基于卷积神经网络的烟叶近红外光谱分类建模方法研究

卷积神经网络(CNN)在图像分类识别领域应用广泛,但其在近红外光谱分类中的研究还未见报道,对基于CNN的近红外光谱分类建模方法进行了研究。针对近红外光谱数据的特点,提出了一种改进的卷积神经网络建模方法,对CNN经典模型LeNet-5所做改进：①将方形矩阵卷积核改为适用于一维近红外光谱的向量卷积核;②简化网络结构,将LeNet-5结构中C5,F6及输出层改为单层感知机。同时,采用隔点采样的方法对近红外光谱降维,加快收敛速度;并对卷积核尺寸对建模结果的影响进行了研究。以我国东北、黄淮、西南三大烤烟产区的600个中部烟叶样本的近红外光谱为实验对象,建立烟叶产区分类NIR-CNN模型。该模型对训练集和测试集的判别准确率为98.2%和95%。实验结果表明,应用卷积神经网络可对近红外光谱数据准确、可靠地判别分类;烟叶产区NIR-CNN建模方法可为卷烟企业烟叶原料科学合理利用提供指导,为维护卷烟产品的质量稳定有重要意义;基于卷积神经网络的近红外光谱判别方法也可推广到其他农产品的分类应用中。     

卷积神经网络用于近红外光谱预测土壤含水率

近红外光谱分析技术在土壤含水率预测方面具有独特的优势,是一种便捷且有效的方法。卷积神经网络作为高性能的深度学习模型,能够从复杂光谱数据中自主提取有效特征结构进行学习,与传统的浅层学习模型相比具有更强的模型表达能力。将卷积神经网络用于近红外光谱预测土壤含水率,并提出了有效的卷积神经网络光谱回归建模方法,简化了光谱数据的预处理要求,且具有更高的光谱预测精度。首先对不同含水率下土壤样品的光谱反射率数据进行简单的预处理,通过主成分分析减少光谱数据量,并将处理后的光谱数据变换为二维光谱信息矩阵,以适应卷积神经网络特殊的学习结构。然后基于卷积神经网络算法,设置双层卷积和池化结构逐层提取光谱数据的内部特征信息,并采用局部连接和权值共享减少网络参数、提高泛化性能。通过试验优化网络结构和各项参数,最终获得针对土壤光谱数据的卷积神经网络土壤含水率预测模型,并与传统的BP,PLSR和LSSVM模型进行对比实验。结果表明在训练样本达到一定数量时,卷积神经网络的预测精度和回归拟合度均高于三种传统模型。在少量训练样本参与建模的情况下,模型预测表现高于BP神经网络,但略低于PLSR和LSSVM模型。随着参与训练样本量的增加,卷积神经网络的预测精度和回归拟合度也随之稳定提升,达到并显著优于传统模型水平。因此,卷积神经网络能够利用近红外光谱数据对土壤含水率做出有效预测,且在较多样本参与建模时取得更好效果。     

基于卷积神经网络和近红外光谱的酒醅酸度分析方法研究

快速、准确检测酒醅酸度,可显著提高白酒出酒率和成品酒品质。近红外光谱(NIR)提供了分子的倍频和合频,即有机物中含氢基团(C—H、 N—H、 O—H)的振动信息,通常用于样品中含氢化合物的定性和定量分析。采用NIR能简单、迅速的测定酒醅酸度,克服了传统化学分析方法检测周期长、试剂消耗大、人为误差等不足。由于NIR是一种间接分析技术,如何建立校正模型是准确检测酒醅酸度的关键。作为深度学习中的典型模型,卷积神经网络(CNN)具有局部区域连接,分享权值等优点,不仅能从复杂的光谱数据中提取关键特征,还能减少网络模型的复杂度。因此,提出基于CNN和NIR的酒醅酸度定量分析方法,以某酒企生产线中采集的545个酒醅样本光谱数据作为研究对象,采用标准正态变换(SNV)、 Savitzky-Golay (SG)滤波和一阶求导(1^stD)三种算法相结合对原始光谱进行预处理;利用无信息变量消除法(UVE)选择光谱数据的特征波长;使用CNN建立酒醅酸度模型。结果表明：(1)对光谱数据进行预处理后,消除了原始光谱中的基线偏移,噪声等问题;经过预处理后的光谱数据模型相较于原始光谱建模,预测集...     

基于卷积神经网络和近红外光谱的太平猴魁茶产地鉴别分析

太平猴魁茶因其特有的“喉韵”深受广大消费者喜爱,不同产地太平猴魁茶市场价格相差较大,如何实现产地精准鉴别是目前促进绿茶产业发展的关键因素。依赖于人工经验的感官评审方法主观性强、稳定性差,无法应用于实际生产检测过程。作为目前主要的检测分析方法,化学分析方法周期长、检测成本高,而且目前没有用于茶叶产地鉴别的统一标准。近红外光谱（NIR）作为一种无损检测分析方法,具有快速、非破坏性、无污染等特点,但是不同产地太平猴魁茶主要内含成分及其含量基本相同,不同产地样本光谱特征峰分布相似,导致常规分析方法无法有效选择特征变量。卷积神经网络（CNN）作为经典深度学习网络模型之一,具有强特征提取和模型表达能力。采用太平猴魁茶产地光谱特征分析,利用一维卷积神经网络模型（1-D CNN）提取太平猴魁茶NIR特征,提出一种基于1-D CNN和NIR的太平猴魁茶产地鉴别分析方法。试验以6个不同产地共120个样本为研究对象,分析10 000~4 000 cm-1范围内的光谱信息;将样本随机划分为训练集（84,占70%）和测试集（36,占30%）,分别讨论不同间隔采样、网络结构、卷积核大小及激活函数对产地鉴别结果的影响,并引入Dropout方法对比分析模型过拟合现象;最终建立一个具有9层结构的1-D CNN模型。蒙特卡罗试验结果表明,相比于基于原始光谱数据（40.57%,7.06）和PCA方法（31.93%,6.96）的太平猴魁茶产地预测模型准确率和标准差,基于1-D CNN的太平猴魁茶产地鉴别模型预测精度和稳定性更高,其测试集预测准确率平均值和标准差分别为97.73%和3.47。因此,1-D CNN可有效提取太平猴魁茶不同产地NIR特征,提高太平猴魁茶产地鉴别精度,为太平猴魁茶精准产地鉴别及溯源分析提供参考。     

卷积神经网络和近红外光谱的土壤pH值预测

土壤pH值是影响土壤养分转化和土壤肥力的关键因素,使用近红外光谱技术对土壤pH值进行检测可为土壤资源的开发利用提供重要依据.卷积神经网络作为深度学习在人工智能方面的典型算法,由于其结构具备"局部感知,权值共享"的能力,因此不仅能够对复杂的光谱数据进行特征抽取,还能够减少网络的训练参数,提高网络的运算效率.将卷积神经网络...     

基于不同卷积尺度融合与近红外光谱的土地分类模型研究

为了提高基于近红外光谱的土地覆盖分类模型的准确率,以欧盟统计局发布的土壤近红外光谱数据为研究对象,研究基于短时傅里叶变换(STFT)预处理方法和不同卷积尺度融合的土地覆盖分类模型,实现耕地、林地和草地的快速区分。为适应二维卷积要求,将一维光谱的400～2 500 nm波段的4 200个波长进行短时傅里叶变换,转换成二维图像同时提取光谱数据的频谱信息。将样本按6∶2∶2的比例随机划分为训练集、验证集和测试集。建立单一尺寸卷积核卷积神经网络(CNN)以及多尺寸卷积核融合的卷积神经网络土地覆盖分类模型,为了防止模型出现梯度消失现象,网络采用ReLU激活函数以及批标准化(BN)、 Dropout等方法。并采用早停法(early stopping)训练网络,防止模型出现过拟合风险。首先,探讨了不同STFT窗口长度(64, 100和128)、不同卷积核尺寸(3×3, 5×5和7×7)等对模型分类效果的影响规律。实验结果显示：当STFT窗口长度为100、窗口重叠长度为50%时,模型总体分类准确率均最高;模型的分类准确率随卷积核尺寸的增大而降低,较小尺寸卷积核模型准确率更高,卷积核尺寸为3×3的CNN...     

基于扩张卷积注意力神经网络的高光谱图像分类

为了解决训练样本有限情况下高光谱图像分类精度低的问题,提出了一种结合扩张卷积与注意力机制的三维-二维串联卷积神经网络模型.首先,该模型以串联的三维-二维卷积神经网络作为基础结构,利用三维卷积同时提取高光谱图像的空谱特征,并采用二维卷积进一步提取高级空间语义信息;然后,通过引入扩张卷积增大卷积核感受野,构建了多尺度特征提...     

基于卷积神经网络与光谱特征的夏威夷果品质鉴定研究

夏威夷果含油量高,在开缝之后容易发生变质,现有关于夏威夷果品质鉴定的方法多为传统的破坏性检验,很难满足无损检测的需求。卷积神经网络(CNN)作为应用最广泛的深度学习网络模型之一,具有比浅层学习方法更强的特征提取与模型表达能力,在光谱数据方面的应用拥有很大潜力。基于夏威夷果在可见-近红外的光谱特征分析,研究用于提取夏威夷果光谱特征的卷积神经网络模型,并提出一种高效无损鉴定夏威夷果品质的方法。首先以三种不同品质的夏威夷果(好籽、哈籽及霉籽)为研究对象,分析样本在500~2 100 nm的光谱信息;在光谱数据预处理中引入白化处理方法,用以增强数据的相关性差异;然后在模型训练过程中,将样本随机分为训练集和预测集,探讨不同CNN结构、卷积层数、卷积核大小及个数、池化层类型、全连接层神经元个数以及激活函数对分类结果的影响,并采用激活函数ReLU和Dropout方法,预防样本数据过少引起的过拟合现象;最后通过分析模型分类准确率和计算效率,确定了一个6层结构的CNN模型： 输入层-卷积层-池化层-全连接层(200神经元)-全连接层(100神经元)-输出层。实验结果表明： 上述网络模型对校正集和预测集的分类准确率均达到100％。因此,改进后的卷积神经网络模型可充分学习夏威夷果的光谱特征并有效分类,将深度学习理论与光谱分析相结合的方法能够实现对夏威夷果品质的准确鉴定,同时为夏威夷果等坚果类食品的高效、无损、实时在线检测提供了新思路。     

深度卷积网络的多品种多厂商药品近红外光谱分类

近红外光谱（NIR）分析具有分析高效、样品无损、环境无污染以及可现场检测等优点,特别适合药品的快速建模分析。但NIR存在吸收强度弱以及谱带重叠等缺点,需要建立稳健可靠的化学计量学模型对其进行分析。深度卷积神经网络是深度学习方法中一个重要分支,它通过逐层抽取数据特征并进行组合、转换,形成更高层的语义特征,具有极强的建模能力,广泛应用于计算机视觉、语音识别等领域,而在药品NIR分析方面尚未见报道。基于深度卷积网络模型,对药品NIR多分类建模进行研究。针对药品NIR数据的特点,设计若干个面向多品种、多厂商药品NIR分类的一维深度卷积网络模型。模型中卷积层和池化层交叠排列用于逐层抽取NIR数据特征,输出层连接softmax分类器,对药品NIR数据进行分类概率预测。在输出层之前采用全局最大池化层,将特征图进行整体池化,形成一个特征点,用于解决全连接层存在的限制输入维度大小,参数过多的问题。同时,在网络模型中引入批处理操作和dropout机制,以防止梯度消失和减小网络过拟合的风险。在网络模型的设计过程中,通过设计不同的卷积网络层数以及不同的卷积核尺寸大小,分析其对建模效果的影响,同时分析五种经典数据预处理方法对NIR分析的影响。以我国7个厂商生产的头孢克肟片和11个厂商生产的苯妥英钠片样本NIR为实验对象, 建立药品的多品种、多厂商分类模型,该模型在二分类、多分类实验中取得了良好的分类效果。在十八分类实验中,当训练集与测试集比例为7∶3时,分类准确率为99.37±0.45,比SVM, BP, AE和ELM算法取得更优的分类性能。同时,深度卷积神经网络模型推理速度较快,优于SVM和ELM算法,但训练速度慢于二者。大量实验结果表明,深度卷积神经网络可对多品种、多厂商药品NIR数据准确、可靠地判别分类,且模型具有良好的鲁棒性和可扩展性。该方法也可推广到烟草、石化等其他领域的NIR数据分类应用中。     

基于卷积神经网络的光谱预处理方法

光谱的预处理在光谱分析中占有非常重要的地位。针对现有光谱去噪算法对弱峰保存能力差、基线校正算法对光谱能量过扣除、光谱特征峰定位不准确以及各种预处理算法串行处理造成的误差累计等问题,设计了一个端到端的卷积神经网络。该网络由两个模块组成：基线校正和去噪模块和特征峰定位模块。这两个模块相互连接又独立输出。理想条件下,可以依据光谱的线型函数和特征峰的位置拟合出无噪声无基线的光谱,所以在基线校正和光谱去噪模块中连接特征峰定位模块的输出可以有效的提高去噪和基线校正的精度;而高质量的光谱有助于更加精确的估计光谱峰的位置,因此这两个模块相互连接可以有效提高重建光谱的质量。光谱基线校正和去噪模块是一个前馈网络,该模块由多个卷积层、激活函数和批归一化层构成,每一层均连接了特征峰定位模块的输出。特征峰定位模块是一个多尺度特征融合网络,该模块使用不同尺寸的卷积核将光谱分为不同的尺度,融合大小不同尺度的特征估计光谱特征峰的具体位置。在网络训练时,使用不同温度、湿度和不同预热时间的光谱仪获得光谱作为输入样本,使用中国计量院的标准仪器获得光谱数据作为输出样本。在实验中,首先对合成的光谱分别添加不同信噪比的噪声和不同峰值的高斯基线,分别评价该网络在噪声抑制、基线校正、光谱特征峰校正的能力;然后将添加噪声和基线后的玉米的近红外光谱作为样本,用最先进的算法对它们进行预处理,然后用偏最小二乘法估计玉米中的水和油的浓度。估计的浓度与用标准仪器测量的真实浓度进行比较,以证明所提出的CNN的优势。实验证明,所设计的网络在单任务和多任务处理中均能取得良好的结果。而且经过该网络处理的光谱在定量分析中可以得到更准确的结果,具有较强的实用价值。     

基于卷积神经网络的恒星光谱自动分类方法

恒星光谱自动分类是研究恒星光谱的基础内容,快速、准确自动识别、分类恒星光谱可提高搜寻特殊天体速度,对天文学研究有重大意义。目前我国大型巡天项目LAMOST每年发布数百万条光谱数据,对海量恒星光谱进行快速、准确自动识别与分类研究已成为天文学大数据分析与处理领域的研究热点之一。针对恒星光谱自动分类问题,提出一种基于卷积神经网络(CNN)的K和F型恒星光谱分类方法,并与支持向量机(SVM)、误差反向传播算法(BP)对比,采用交叉验证方法验证分类器性能。与传统方法相比CNN具有权值共享,减少模型学习参数;可直接对训练数据自动进行特征提取等优点。实验采用Tensorflow深度学习框架,Python3.5编程环境。K和F恒星光谱数据集采用国家天文台提供的LAMOST DR3数据。截取每条光谱波长范围为3 500~7 500 部分,对光谱均匀采样生成数据集样本,采用min-max归一化方法对数据集样本进行归一化处理。CNN结构包括：输入层,卷积层C1,池化层S1,卷积层C2,池化层S2,卷积层C3,池化层S3,全连接层,输出层。输入层为一批K和F型恒星光谱相同的3 700个波长点处流量值。C1层设有10个大小为1×3步长为1的卷积核。S1层采用最大池化方法,采样窗口大小为1×2,无重叠采样,生成10张特征图,与C1层特征图数量相同,大小为C1层特征图的二分之一。C2层设有20个大小为1×2步长为1的卷积核,输出20张特征图。S2层对C2层20张特征图下采样输出20张特征图。C3层设有30个大小为1×3步长为1的卷积核,输出30张特征图。S3层对C3层30张特征图下采样输出30张特征图。全连接层神经元个数设置为50,每个神经元都与S3层的所有神经元连接。输出层神经元个数设置为2,输出分类结果。卷积层激活函数采用ReLU函数,输出层激活函数采用softmax函数。对比算法SVM类型为C-SVC,核函数采用径向基函数,BP算法设有3个隐藏层,每个隐藏层设有20,40和20个神经元。数据集分为训练数据和测试数据,将训练数据的40%,60%,80%和100%作为5个训练集,测试数据作为测试集。分别将5个训练集放入模型中训练,共迭代8 000次,每次训练好的模型用测试集进行验证。对比实验采用100%的训练数据作为训练集,测试数据作为测试集。采用精确率、召回率、F-score、准确率四个评价指标评价模型性能,对实验结果进行详细分析。分析结果表明CNN算法可对K和F型恒星光谱快速自动分类和筛选,训练集数据量越大,模型泛化能力越强,分类准确率越高。对比实验结果表明采用CNN算法对K和F型恒星光谱自动分类较传统机器学习SVM和BP算法自动分类准确率更高。     

Bearing Fault Diagnosis Method Based on Convolutional Neural Network and Knowledge Graph

An effective fault diagnosis method of bearing is the key to predictive maintenance of modern industrial equipment. With the single use of equipment failure mechanism or operation of data, it is hard to resolve multiple complex variable working conditions, multiple types of fault and equipment malfunctions and failures related to knowledge and data. In order to solve these problems, a fault diagnosis method based on the fusion of deep learning with a knowledge graph is proposed in this paper. Firstly, the knowledge rules of bearing data is used for entity extraction. Next, the multiscale optimized convolutional neural network (MOCNN) proposed in this paper is used for fault classification to achieve relationship extraction. Finally, the fault diagnosis graph of the bearing is constructed for fault-assisted decision-making as well as the detailed display of fault information. According to experiment analysis, the fault diagnosis model based on MOCNN proposed in this paper, which integrates the end-to-end convolutional neural network and the attention mechanism, still achieves an accuracy of 97.86% under the data set of 160 types of faults. Compared with the deep learning models such as Resnet and Inception in the noise environment of multiple working conditions and variable working conditions, the model proposed in this paper not only shows a faster convergence speed and stable performance, but also a higher accuracy in evaluation indicators, which is beneficial to practical use.     

高光谱和卷积神经网络的大白菜农残检测

针对大白菜农药残留传统化学检测手段存在前期处理过程繁琐、检测周期长等不足,提出了一种快速无损识别大白菜农药残留种类的方法.以1组无农药残留和4组含有均匀喷洒农药(毒死蜱、乐果、灭多威和氯氰菊酯)的大白菜样本为研究对象(药液浓度配比分别为0.10,1.00,0.20和2.00 mg·kg-1),经12小时自然吸收后,利用...     

基于可见光谱和卷积神经网络的贝类识别方法

目前卷积神经网络（CNN）在物体种类识别方面取得突破性进展。贝类作为农业经济的重要组成部分,种类繁多,特点复杂,大多贝类存在着相似度高,各类样本分布不均衡情况,以致CNN对贝类分类的准确率偏低。针对这一情况,提出了基于可见光谱和CNN的贝类识别方法,旨在提取更有效的贝类特征,从而提高贝类分类的准确率。首先,提出了一种包含输出熵度量和正交性度量的滤波器信息度量与特征选择方法,重新初始化修剪掉的滤波器并使其正交,捕获网络激活空间中的不同方向,使神经网络模型学习到更多有用的贝类特征信息,提升模型分类准确率;其次,提出了一种包含正则化项和焦点损失项的贝类分类目标函数,通过控制各类别样本对总损失的共享权重,来减少易分类样本的权重,以使模型注意力向预测不准的样本倾斜,均衡样本分布和样本分类难度,进一步提高贝类分类的准确率。贝类图像数据集由74类贝类组成,共11 803张图像。获取原始数据集后,对数据集图像进行水平翻转、垂直翻转、随机旋转、在[0, 30°]范围内旋转、在[0, 20%]范围内缩放和移动等数据增强操作,将图像数量从11 803张增加到119 964张。整个图像数据集按8∶1∶1的比例随机分为训练集95 947张图片、验证集11 996张图片和测试集12 021张图片。在建立贝类图像数据集的基础上进行了实验验证,达到了93.38%的分类准确率,将基准网络（Resnest）的准确率提高了1.18%,相较网络SN_Net和MutualNet,准确率分别提升了4.34%和0.85% ,并且训练时长为22 320 s,将基准网络（Resnest）的训练时长缩短了960 s,训练时长分别比SN_Net和MutualNet短3 180和2 460 s。实验结果证明了该方法的有效性。     

The Multi-Focus-Image-Fusion Method Based on Convolutional Neural Network and Sparse Representation

Multi-focus-image-fusion is a crucial embranchment of image processing. Many methods have been developed from different perspectives to solve this problem. Among them, the sparse representation (SR)-based and convolutional neural network (CNN)-based fusion methods have been widely used. Fusing the source image patches, the SR-based model is essentially a local method with a nonlinear fusion rule. On the other hand, the direct mapping between the source images follows the decision map which is learned via CNN. The fusion is a global one with a linear fusion rule. Combining the advantages of the above two methods, a novel fusion method that applies CNN to assist SR is proposed for the purpose of gaining a fused image with more precise and abundant information. In the proposed method, source image patches were fused based on SR and the new weight obtained by CNN. Experimental results demonstrate that the proposed method clearly outperforms existing state-of-the-art methods in addition to SR and CNN in terms of both visual perception and objective evaluation metrics, and the computational complexity is greatly reduced. Experimental results demonstrate that the proposed method not only clearly outperforms the SR and CNN methods in terms of visual perception and objective evaluation indicators, but is also significantly better than other state-of-the-art methods since our computational complexity is greatly reduced.     

对称点模式-深度卷积神经网络的红外光谱识别方法

红外光谱分析在自然科学、工程技术等诸多领域发挥着重要作用.随着计算机和人工智能技术的不断发展,对红外/近红外光谱分析提出了更高的要求.深度学习以人工神经网络为架构,通过对数据进行分层特征提取完成特征/表征学习,在解析数据细节特征方面具有独特的优势,在计算机视觉、语音识别、疾病诊断等多领域得到成功应用.尽管深度学习在图像...     

卷积神经网络用于近红外光谱古筝面板木材分级

目前,我国乐器制作行业在古筝面板用木材等级的筛选上主要依赖于技师主观评判,但此法缺少科学理论的依据,效率低,客观性及出材率的提高等方面受到限制,无法满足乐器市场的大量需求。实现古筝面板用木材快速、智能化的分级工作是一个急需解决的课题。近红外光谱非常适用于测量含氢的有机物质。古筝面板木材主要化学成分的化学键均由含氢基团组成,不同等级板材的化学成分存在差异,这些差异反映在近红外光谱中,为判断木材等级提供了可能。同时卷积神经网络对非线性数据具有较强的特征提取能力,所以提出一种应用卷积神经网络模型对光谱数据进行分析的方法,进而判别木材的等级。应用了Savitzky Golay一阶、二阶微分两种预处理方法和核主成分分析、连续投影算法两种数据压缩方法,通过所设计的卷积神经网络模型以样本识别准确率和模型构建过程中的损失值作为判定指标选出最佳预处理和数据压缩方法。为了提高模型提取分析光谱数据的能力和避免过拟合现象,应用了多通道卷积核、批量归一化和early stopping策略,将通过两层卷积层提取的特征信息送入全连接层,从而充分提取剩余信息,通过Softmax函数获得板材的最终预测等级,从而确定了最终模型。最终Savitzky Golay一阶微分和核主成分分析为最佳数据处理方法,同时得出用于区分不同等级的古筝面板用木材的主要关键谱带,分别为1 163~1 243, 1 346~1 375和1 525~1 584 nm。将该模型应用于测试集样本,古筝面板用木材的等级识别准确率为95.5%。实验结果表明所提出的方法可以高效地处理光谱数据,有效识别区分不同等级的古筝面板用木材的关键特征,从而为广阔的乐器市场提供一定的技术支持。