基于异构光子神经网络的多模态特征融合

当前光子神经网络的研究主要集中在单一模态网络的性能提升上,而缺少对多模态信息处理的研究。与单一模态网络相比,多模态学习可以利用不同模态信息之间的互补性,因此,多模态学习可以使得模型学习到的表示更加完备。本文提出了将光子神经网络和多模态融合技术相结合的方法。首先,利用光子卷积神经网络和光子人工神经网络相结合构建异构光子神经网络,并通过异构光子神经网络处理多模态数据。其次,在融合阶段通过引入注意力机制提升融合效果,最终提高任务分类的准确率。在多模态手写数字数据集分类任务上,使用拼接方法融合的异构光子神经网络的分类准确率为95.75%;引入注意力机制融合的异构光子神经网络的分类准确率为98.31%,并且优于当前众多先进单一模态的光子神经网络。结果显示：与电子异构神经网络相比,该模型训练速度提升了1.7倍。与单一模态的光子神经网络模型相比,异构光子神经网络可以使得模型学习到的表示更加完备,从而有效地提高多模态手写数字数据集分类的准确率。     

概率神经网络和FTIR光谱用于食道癌的辅助分析

利用正常与相应癌化食道组织的主要FTIR特征峰aυs,CH3、sυ,CH2、σCH2、aυs,po4-、υc-o、sυ,po2-及sυ,磷酸化蛋白作为概率神经网络的输入向量,对网络的主要参数(网络径向基函数分布spread(0~5))、输入向量和网络表现(m ean accurate rate of recogn ition)之间的关系进行了研究。主要结论如下:i)无论输入向量是哪种特征频率的组合,其平均识别正确率都高于71.40%;ii)当输入向量为特征频率sυ,po2、sυ,磷酸化蛋白或υc-0、sυ,po2、sυ,磷酸化蛋白时,网络表现较佳,平均识别正确率较好。当spread介于1.4~2.3时,两者均达到网络具有的最高平均识别正确率(85.71%);iii)大多数情况下,网络的平均识别正确率与spread之间呈现二个高峰的特征,即spread介于0.1~0.3和1.5~5.0之间时,网络均具有较高的平均识别正确率。研究表明,以傅里叶变换红外光谱的主要特征峰为概率神经网络的输入向量,用于食道组织样品的癌化识别分析是完全可能的,其平均识别正确率可达85.71%。     

变时滞Hopfield神经网络的全局吸引性和全局指数稳定性

对一类具时滞的Hopfeild型神经网络模型,在非线性神经元激励函数只要求满足Lipschitz连续的条件下,利用推广的Halanay时延微分析不等式、Dini导数以及泛函微分析技术,给出了这类模型的平衡点全局指数稳定性和全局吸引性的充分条件,这些条件易于检验,且改进和推广了前人的结论.此外,此文给出了研究神经网络模型的全局吸引性的微分不等式比较方法.     

基于CNN-SVM的地下目标形状识别

针对传统地下目标识别算法中特征提取方法的缺陷,鉴于深度学习中的卷积神经网络（CNN）能自动从数据中提取特征,但CNN自带的分类器不能很好的解决非线性分类问题,由于SVM具有良好的泛化分类能力,为此提出基于CNN-SVM的地下目标形状识别方法。本文首先在地表面光滑场景下,利用该方法对地下圆形和矩形目标识别,然后加大场景难度,在地表面粗糙场景下进行地下目标形状识别。实验结果表明,相比传统人工设计的特征分类方法,该算法利用CNN自动提取的特征联合SVM提高了CNN的分类准确率,并且在两种场景下都具有更高的地下目标识别精度。     

基于快速神经网络架构搜索的鲁棒图像水印网络算法

为解决深度学习在图像水印算法中计算量大且模型冗余的问题,提高图像水印算法在抵抗噪声、旋转和剪裁等攻击时的鲁棒性,提出基于快速神经网络架构搜索（neural architecture search,NAS）的鲁棒图像水印网络算法。通过多项式分布学习快速神经网络架构搜索算法,在预设的搜索空间中搜索最优网络结构,进行图像水印的高效嵌入与鲁棒提取。首先,将子网络中线性连接的全卷积层设置为独立的神经单元结构,并参数化表示结构单元内节点的连接,预先设定结构单元内每个神经元操作的搜索空间;其次,在完成一个批次的数据集训练后,依据神经元操作中的被采样次数和平均损失函数值动态更新概率;最后,重新训练搜索完成的网络。水印网络模型的参数量较原始网络模型缩减了92%以上,大大缩短了模型训练时间。由于搜索得到的网络结构更为紧凑,本文算法具有较高的时间性能和较好的实验效果,在隐藏图像时,对空域信息的依赖比原始网络更少。对改进前后的2个网络进行了大量鲁棒性实验,对比发现,本文算法在CIFAR-10数据集上对抵抗椒盐噪声和旋转、移除像素行（列）等攻击优势显著;在ImageNet数据集上对抵抗椒盐高斯噪声、旋转、中值滤波、高斯滤波、JPEG压缩、裁剪等攻击优势显著,特别是对随机移除行（列）和椒盐噪声有较强的鲁棒性。     

模拟退火-BP神经网络法测定无机铬的形态

提出了用神经网络方法测定无机铬的形态。在Back Propagation(BP)算法的基础上,吸取了模拟退火算法的优点,解决了BP算法容易陷入局部极小点的问题。经实际样品分析,结果满意。     

径向基函数神经网络荧光光度法同时测定痕量铝、镓、铟、铊

以径向基网络(RBF)对荧光光谱严重重叠的Al3 、Ga3 I、n3 、Tl3 四组分混合体系同时进行测定。通过正交设计安排样本,在激发波长390 nm下,测定446~615nm的发射光谱。以34个特征波长处的荧光强度值作为网络特征参数,经网络训练和计算得出Al3 、Ga3 、In3 、Tl3 四者的平均回收率分别为99.07%、103.49%、98.72%、95.04%,在时间和精度上都比LMBP网络优越。     

基于二阶段异质随机森林的汽油辛烷值预测

构建了基于二阶段异质随机森林的汽油辛烷值预测模型.首先利用样本-位点信息表知识约简模型,筛选出对汽油辛烷值影响大的位点数据作为第一阶段;然后,利用集成学习思想集成支持向量回归和动态时间序列神经网络,构建异质随机森林预测模型作为第二阶段.利用十折交叉法验证模型精度,结果表明该集成学习算法具有有效性和高精度.     

基于多尺度学习与深度卷积神经网络的遥感图像土地利用分类

土地利用信息是国土资源管理的基础和重要依据,随着高分辨率遥感图像数据的日益增多,迫切需要快速准确的土地利用分类方法。目前应用较广的面向对象的分类方法对空间特征的利用尚不够充分,在特征选择上存在一定的局限性。为此,提出一种基于多尺度学习与深度卷积神经网络（deep convolutional neural network,DCNN）的多尺度神经网络（multi-scale neural network,MSNet）模型,基于残差网络构建了100层编码网络,通过并行输入实现输入图像的多尺度学习,利用膨胀卷积实现特征图像的多尺度学习,设计了一种端到端的分类网络。以浙江省0.5 m分辨率的光学航空遥感图像为数据源进行了实验,总体分类精度达91.97%,并将其与传统全卷积网络（fully convolutional networks,FCN）方法和基于支持向量机（support vector machine,SVM）的面向对象方法进行了对比,结果表明,本文所提方法分类精度更高,分类结果整体性更强。     

卷积神经网络用于近红外光谱古筝面板木材分级

目前,我国乐器制作行业在古筝面板用木材等级的筛选上主要依赖于技师主观评判,但此法缺少科学理论的依据,效率低,客观性及出材率的提高等方面受到限制,无法满足乐器市场的大量需求。实现古筝面板用木材快速、智能化的分级工作是一个急需解决的课题。近红外光谱非常适用于测量含氢的有机物质。古筝面板木材主要化学成分的化学键均由含氢基团组成,不同等级板材的化学成分存在差异,这些差异反映在近红外光谱中,为判断木材等级提供了可能。同时卷积神经网络对非线性数据具有较强的特征提取能力,所以提出一种应用卷积神经网络模型对光谱数据进行分析的方法,进而判别木材的等级。应用了Savitzky Golay一阶、二阶微分两种预处理方法和核主成分分析、连续投影算法两种数据压缩方法,通过所设计的卷积神经网络模型以样本识别准确率和模型构建过程中的损失值作为判定指标选出最佳预处理和数据压缩方法。为了提高模型提取分析光谱数据的能力和避免过拟合现象,应用了多通道卷积核、批量归一化和early stopping策略,将通过两层卷积层提取的特征信息送入全连接层,从而充分提取剩余信息,通过Softmax函数获得板材的最终预测等级,从而确定了最终模型。最终Savitzky Golay一阶微分和核主成分分析为最佳数据处理方法,同时得出用于区分不同等级的古筝面板用木材的主要关键谱带,分别为1 163~1 243, 1 346~1 375和1 525~1 584 nm。将该模型应用于测试集样本,古筝面板用木材的等级识别准确率为95.5%。实验结果表明所提出的方法可以高效地处理光谱数据,有效识别区分不同等级的古筝面板用木材的关键特征,从而为广阔的乐器市场提供一定的技术支持。