一种基于无监督主动学习的苹果品质光谱无损检测模型构建方法

利用光谱技术实现农产品、食品品质无损检测的实质是建立样本光谱信息与样本品质参数之间的机器学习模型。为了获得具有良好泛化性能的机器学习模型,通常需要大量的标记样本,然而,获取样本的光谱信息相对容易,但标注样本品质参数的过程往往涉及到大量的时间和经济成本,并且具有破坏性。主动学习是一种减少训练集有标记样本数量的方法,通过选择最有价值的样本进行标记,而不是随机选择。因此,主动学习能够控制向训练集添加哪些样本,模型不再是被动地接受用于建模的样本。在分类任务中已经提出较多关于主动学习的算法,但回归任务中的研究却相对较少,且现有的用于回归任务的主动学习算法大多是有监督的,即需要少量有标记样本训练初始模型。本文提出了一种基于无监督主动学习方法的训练样本选择策略。该方法首先通过层次凝聚聚类对无标记（标准值）光谱数据集进行多样性划分,获得不同的聚类簇;然后通过局部线性重建算法在每个聚类簇中选择最具代表性的样本构成训练样本集,最后基于训练集构建模型。利用两个年份三个品种苹果的近红外光谱数据,构建了其可溶性固形物含量和硬度的偏最小二乘预测模型,用于验证所提出方法的有效性。实验结果表明：所提出的方法要优于已有的样本选择策略,可以有效地提高模型精度,减少在模型训练中的破坏性理化实验。同时,与随机采样（RS）、Kennard-Stone算法（KS）、光谱-理化值共生距离算法（SPXY）这三种光谱领域常用的样本选择算法相比,该研究所提出的方法表现出了最佳的性能, 基于所提出的无监督主动学习算法选取200个样本作为训练集所建立的可溶性固形物含量预测模型的预测均方根误差相对于其他三种算法降低了2.0%~13.2%,硬度预测模型的预测均方根误差相对降低了1.2%~15.7%。     

融合主动学习的改进贝叶斯半监督分类算法研究

半监督学习是人工智能领域一个重要的研究内容;在半监督学习中,如何有效利用未标记样本来提高分类器的泛化性能,是机器学习研究的热点和难点;主动学习可解决未标记样本有效利用的问题,将主动学习引入到半监督分类中,并改进贝叶斯算法,提出了一种基于改进贝叶斯算法的主动学习与半监督学习结合算法;实验结果表明,该方法取得了较好的分类效果。     

基于Stacking集成学习的近红外光谱油页岩含油率预测

为了克服单一模型预测精度很难进一步提高的不足,利用近红外光谱分析结合基于Stacking框架的异构集成学习模型实现对油页岩含油率的检测。以松辽盆地某区块所取230个油页岩岩芯样本为研究对象,使用低温干馏法测量油页岩样本的含油率,同时扫描每个样本对应的近红外光谱数据。样本使用蒙特卡洛算法进行异常样本剔除,将剔除异常样本后的213个数据按照3∶1的比例随机划分为训练集和预测集。利用去趋势加基线校正方法进行预处理消除光谱数据中噪声和基线漂移,利用随机森林算法进行波长重要性排序并保留重要波长,在此基础上采用CARS算法进行特征波长提取,进一步降低数据维度。最后,构建以PLS, SVM, RF和GBDT为初级学习器,PLS回归模型为次级学习器的Stacking集成学习模型,各初级学习器模型参数使用网格搜索进行寻优。使用决定系数和预测均方根误差作为各模型的评价指标,探究单一模型和集成学习模型对油页岩含油率预测的准确性。研究结果表明,RF-CARS方法能够有效筛选重要波长,进而提高模型效率。基于Stacking的异构集成学习模型与单一模型(SVM和PLS)和同构集成学习模型(RF和GBDT)相比有更...     

考虑时间权重的可调谐滤波器温漂补偿方法

首先，充分考虑温漂序列数据前后之间的强相关性，在对光纤法布里-珀罗可调滤波器（FFP-TF）的温漂进行建模的过程中引入时间权重的概念，为每个样本赋予不同的时间属性。然后，采用支持向量机（SVM）作为弱学习器对温漂样本进行建模，使用AdaBoost框架对多个SVM模型进行集成学习。在集成预测过程中，不仅每个模型的预测性能会影响样本的权重分配，而且样本的时间属性也会影响样本权重的更新。实验结果表明：在2℃的窄范围缓慢变温环境中，传统AdaBoost-SVM算法的最大温漂补偿误差为10.83 pm，而基于时间权重的AdaBoost-SVM的最大温漂补偿误差降低到7.04 pm；在15℃的温度范围下，传统AdaBoost-SVM算法的最大误差达到11.57 pm，基于时间权重的AdaBoost-SVM的最大误差仅为4.05 pm。与传统硬件方法相比，所提出的方法不需要额外硬件，为可调谐滤波器的温漂补偿提供了一种新的思路。     

基于直推式学习的网络故障诊断算法

网络故障的及时诊断能够保证日常工作、学习和生活能够正常进行。传统的基于监督式学习的诊断方法依赖于大量具有鉴别意义的样本,这在实际情况中通常难以得到满足。针对上述问题,本文提出了一种基于直推式学习的诊断算法。针对大规模的网络管理的特征数据,本算法利用主成分分析对特征进行降维,并利用新的度量下的特征数据来构建拉普拉斯矩阵;该矩阵能够很好的描述带检测样本和训练样本之间的关系。在此基础上,本文设计了基于直推式学习的目标函数,并利用拉格朗日乘子法完成了优化。实验部分证明了本算法能够在有限数目的带标签的样本的前提下获得精确的分类结果,能够显著提高网络故障诊断的检测率。     

一种基于GAN和自适应迁移学习的样本生成方法

研究了基于生成式对抗网络(GAN)和跨域自适应迁移学习的样本生成和自动标注方法。该方法利用自适应迁移学习网络，基于已有的少量可见光图像样本集，挖掘目标在红外和可见光图像中特征内在相关性，构建自适应的转换迁移学习网络模型，生成标注好的目标图像。提出的方法解决了红外图像样本数量少且标注费时的问题，为后续多频段协同目标检测和识别获得了足够的样本数据。实验结果表明:自动标注算法对实际采集的装甲目标图像和生成的装甲目标图像各1 000张进行自动标注测试，对实际装甲目标图像的标注准确率达到95%以上，对生成的装甲目标标注准确率达到83%以上；利用真实图像和生成图像的混合数据集训练的分类器的性能和使用纯真实图像时基本一致。     

基于稀疏表示分类和近红外光谱的烟叶自动分级研究

以近红外光谱技术和深度学习算法为依托,提出了一种基于稀疏表示分类算法的烟叶分级方法。该方法首先将所有训练样本通过稀疏编码建立稀疏表示数据字典,并对所有测试样本在该字典下通过稀疏编码进行稀疏表示,然后计算每个测试样本在数据字典上的投影,将具有最小残差的等级作为测试样本的级别。本文算法与线性判别方法与粒子群支持向量机算法进行了比较和分析,实验结果表明本文所提出的稀疏表示分类算法不仅能够获得更高的分类正确率,同时具有更高的计算效率。本文所提出的方法能够对烟叶的不同等级进行准确识别,为烟叶收购中的质量等级评价提供了一种新技术。     

机器学习算法用于公安一线拉曼实际样本采样学习及其准确度比较

拉曼光谱设备在公安一线中正逐渐得到普及，主要用于检测易燃易爆及易制毒化学品。但在实际应用中，一线人员不会对拉曼设备进行非常准确的使用和操作，不具备专业知识条件的工作人员无法完全按照最佳条件进行检测，经常会发生离焦、偏移、采样时间过短等一系列问题，而检测结果也不可能完全符合标准测试库的算法，给最终结果比对造成非常大的影响。利用五种主流机器学习算法对实际检查、办案过程中采集到的原始数据进行学习分类，通过比较相应的准确度将最佳算法用于改善一线执法、检查过程中拉曼光谱设备的准确性。采集的数据均来自于公安部第三研究所自行研制的EVA3000型拉曼光谱仪，该光谱仪目前已在全国各省、市、地、县进行了一定的配备，一线检测人员会定期将采集的原始数据回传到EVA3000的后台管理系统。通过该管理系统，在线收集实际检查过程中产生的原始数据，以两类易制毒化学品和易燃易爆化学品为例，随机抽取已定性判定的苯乙酸、二氯甲烷、麻黄碱和硝基苯各40例共计160例，并分别利用决策树、随机森林、AdaBoost、支持向量机和人工神经网络算法各进行40，60，100，150，200，300和500次的交叉训练、预测、求取平均准确度。从实验结果可以看出，在五种学习算法中，对于实际样本的预测准确度排序大致为随机森林≈AdaBoost>决策树>SVM>人工神经网络。实际测试的结果与实验过程中的平均预测准确度大体一致。其中随机森林与AdaBoost的准确度相近，其原因在于两者的算法本质都是不断构建新的训练数据集并提高对于错误样本在下次学习中的权重，而SVM 和人工神经网络算法的本质都是基于感知器的算法。可见目前几种主流学习算法中，采用自举汇聚(bootstrap aggregating)方式的算法更适应于对实际样本的采样学习，其准确度也较高。在下一步的工作当中，将继续优化现有的算法，将其实现在后台管理系统上，并测试算法对于目前检测中无法定性物质的在线检测功能。该结果对于进一步将机器学习算法用于实际应用、在线分析，改善一线操作人员非正确使用设备对比对结果造成影响，具有重要意义。     

基于离线学习的野外架空地线检测算法

野外复杂环境下地线检测是高压输电线路巡检机器人自主越障的关键技术之一,光照变化和地线表面新旧程度是影响架空地线检测准确率的关键因素。针对这一问题,提出一种基于离线学习的野外架空地线检测算法。离线训练阶段,首先采用自适应同态滤波器对输入样本进行光照补偿,然后提取样本的局部二值模式直方图特征,结合离线学习算法支持向量机训练得到二类分类器;在线检测阶段,首先对样本分块,分类得到候选地线样本块,然后采用随机采样一致性算法去除误检块,拟合得到地线在图像坐标系中的位置参数。在野外新旧程度不同的线路上进行的大量实验表明,该方法对光照变化有良好的适应性,能较准确地检测不同新旧程度的架空地线,为后续的地线空间定位与抓线控制奠定了基础。     

基于深度学习的252Cf源驱动核材料浓度识别技术

针对核武器/核材料识别系统中核材料浓度识别的关键技术问题，采用Monte Carlo方法，通过建立252Cf源驱动核材料裂变中子信号样本库，模拟分析了随探测器距离和角度及核材料浓度变化的裂变脉冲中子信号特点，基于深度学习之卷积神经网络，构建了一种252Cf源驱动核材料浓度识别方法，实现了对测试样本浓度的识别，且还与BP神经网络和K最近邻方法进行了对比试验研究。结果表明，卷积神经网络算法进行核材料浓度识别，得到了高达92.05%识别准确率，不仅解决了因探测器距离和角度变化时对核材料浓度识别准确率影响的难题，而且还获得了优于BP神经网络和K最近邻算法对核材料浓度识别的认识，这为252Cf源驱动核材料浓度识别提供了一种新的途径。     

Chaotic diagonal recurrent neural network

We propose a novel neural network based on a diagonal recurrent neural network and chaos,and its structure and learning algorithm are designed.The multilayer feedforward neural network,diagonal recurrent neural network,and chaotic diagonal recurrent neural network are used to approach the cubic symmetry map.The simulation results show that the approximation capability of the chaotic diagonal recurrent neural network is better than the other two neural networks.     

基于深度学习的粒子场数字全息成像研究进展

粒子场的数字全息成像中，由一幅粒子场全息图重建出高精度的三维粒子场分布，是数字全息技术领域的经典问题之一。相比于传统反向重建算法，深度学习算法可以从单个全息图直接重建出三维粒子场来简化算法复杂度，提高计算效率和准确率。介绍国内外研究团队将深度学习算法结合数字全息技术实现粒子场数字全息成像的研究进展，从不同粒子表征方法入手，叙述了支持向量机、全连接神经网络、全卷积网络、U-Net网络、深度神经网络在粒子场数字全息成像中粒子表征及粒子场反向重建过程中的应用原理、实现途径和准确率。最后指出了深度学习算法在这一研究领域的优势及目前基于深度学习算法的不足，并对如何进一步提高该方法的准确率进行了展望。     

基于改进的径向基函数神经网络的铁磁谐振系统混沌控制

面向中性点直接接地电力系统发生的铁磁谐振过电压所显现的混沌特性，在径向基函数神经网络的基础上，提出引进一种极大熵学习算法对该混沌系统进行控制.该方法通过最优化一个目标函数导出中心向量的学习规则，充分利用网络隐层的聚类功能，极大改善网络的回归和学习能力.对具体的铁磁谐振系统的数值实验证实了该方法在针对铁磁谐振过电压混沌控制中的有效性和可行性. 关键词： 中性点直接接地系统 混沌控制 径向基函数 极大熵原理     

基于SOM和RBF网络的软测量方法研究

针对氢粉碎过程中钕铁硼粉碎状态不可知,为有效预测合金的反应状态,提出了一种基于自组织特征映射(SOM)神经网络和径向基函数(RBF)神经网络结合构建的网络模型。在该模型中,SOM神经网络作为聚类网络,采用无教师学习算法对输入样本进行自组织分类,并将分类中心及其对应的权值向量传递给RBF神经网络,作为径向基函数的中心;RBF神经网络作为基础网络,采用高斯函数作为径向基函数实现从输入到隐含层的非线性映射,输出层则采用有教师学习算法训练网络的权值,从而实现输入层到输出层的线性映射。并以钕铁硼氢粉碎过程合金中氢含量为检测对象,运用上述方法在MATLAB平台上建立了合金中氢含量预测模型,并完成了仿真验证。     

Chaos control of ferroresonance system based on RBF-maximum entropy clustering algorithm

With regards to the ferroresonance overvoltage of neutral grounded power system, a maximum-entropy learning algorithm based on radial basis function neural networks is used to control the chaotic system. The algorithm optimizes the object function to derive learning rule of central vectors, and uses the clustering function of network hidden layers. It improves the regression and learning ability of neural networks. The numerical experiment of ferroresonance system testifies the effectiveness and feasibility of using the algorithm to control chaos in neutral grounded system.     

基于神经网络的大孔径厚针孔成像复原算法研究

为了更好地获取低强度辐射源空间分布图像,提出一种使用神经网络算法将大孔径厚针孔退化图像复原的方法。建立了孔径5 mm、10 mm、15 mm的厚针孔模型,获得了3600个汉字形状辐射源的厚针孔退化图像集。基于DnCNN神经网络模型,建立了大孔径厚针孔退化图像复原神经网络,并与维纳滤波、Lucy-Richardson这些传统算法进行了比较。在考虑噪声影响后,利用迁移学习理论,对原神经网络模型进行迁移训练,再对含噪大孔径厚针孔退化图像进行复原。神经网络算法复原的RMSE明显低于传统方法,迁移学习显著减小了噪声的影响。证明了神经网络算法在大孔径厚针孔退化图像复原领域的优越性,并验证了神经网络方法复原含噪大孔径厚针孔退化图像的可行性。     

Widrow-cellular neural network and optoelectronic implementation

A new type of optoelectronic cellular neural network has been developed by providing the capability of coefficients adjusment of cellular neural network (CNN) using Widrow based perceptron learning algorithm. The new supervised cellular neural network is called Widrow-CNN. Despite the unsupervised CNN, the proposed learning algorithm allows to use the Widrow-CNN for various image processing applications easily. Also, the capability of CNN for image processing and feature extraction has been improved using basic joint transform correlation architecture. This hardware application presents high speed processing capability compared to digital applications. The optoelectronic Widrow-CNN has been tested for classic CNN feature extraction problems. It yields the best results even in case of hard feature extraction problems such as diagonal line detection and vertical line determination.     

基于RBF网络的断路器电流自适应保护研究

针对传统断路器电流保护方法存在受系统运行方式影响、整定困难、智能化低等问题,本文提出了基于RBF的断路器电流自适应保护算法,并给出了算法的模型。该算法融合了RBF神经网络的故障检测和电流自适应保护。首先通过RBF网络检测负载线路的电流故障,然后用电流自适应算法进行保护。在对神经网络进行训练时,利用PSO算法对RBF神经网络的参数进行优化以此来提高网络的泛化能力和学习能力;然后采用优化后的PSO-RBF神经网络对电流故障进行诊断。实验表明,该算法较大地提高了断路器智能化管理水平。     

Quantum M-P Neural Network

Quantum Neural Network (QNN) is a young and outlying science built upon the combination of classical neural network and quantum computing. Making use of quantum linear superposition, this paper presents a quantum M-P neural network based on the analysis of the conventional M-P neural network. Moreover, the working principle of this proposed network and its corresponding weight updating algorithm are expatiated in the two cases of input state being in the orthogonal and non-orthogonal basic set, respectively. In addition, this paper not only validates that this quantum M-P network can realize some network functions, such as “XOR”, but also verifies the feasibility and validity of its weight learning algorithm by some simple examples.     

一种适于光学实现的非线性神经网络模型及其蒙特卡洛学习算法

本文用计算机仿真研究了一种适于光学实现的非线性神经网络模型的存储客量α_c和寻址能力,提出了一个改进其触突互联矩阵的蒙特卡洛学习算法.数值研究表明,经过学习修正后的神经网络模型的寻址能力及存储容量都有较大的改进.