基于实时样本采集的个性化手写汉字输入系统设计

手写汉字识别是手写汉字输入的基础。目前智能设备中的手写汉字输入法无法根据用户的汉字书写习惯,动态调整识别模型以提升手写汉字的正确识别率。通过对最新深度学习算法及训练模型的研究,提出了一种基于用户手写汉字样本实时采集的个性化手写汉字输入系统的设计方法。该方法将采集用户的手写汉字作为增量样本,通过对服务器端训练生成的手写汉字识别模型的再次训练,使识别模型能够更好地适应该用户的书写习惯,提升手写汉字输入系统的识别率。最后,在该理论方法的基础上,结合新设计的深度残差网络,进行了手写汉字识别的对比实验。实验结果显示,通过引入实时采集样本的再次训练,手写汉字识别模型的识别率有较大幅度的提升,能够更有效的满足用户在智能设备端对手写汉字输入系统的使用需求。     

基于生成对抗式神经网络的红外目标仿真方法

提出了一种应用于红外目标仿真的模型。利用训练后的条件深度卷积生成对抗网络,只需输入随机噪声和类别标签,便能够自动产生预期类别的红外目标仿真图像。在手写数字数据集(MNIST)和红外数据集上分别训练模型参数,再进行自动生成实验,均可以产生高真实度的样本图像;将判别网络提取的特征用于分类实验,并将所提方法合成的图像用于数据增强,以提升分类器性能。研究结果表明,所提方法能够有效模仿红外辐射特征。     

基于DCGAN的拉曼光谱样本扩充及应用研究

拉曼光谱检测方法依赖于化学计量学算法,深度学习是当下最炙手可热的方向,可应用于拉曼光谱进行建模。但是深度学习需要大样本进行训练,而拉曼光谱采集受制于器材和人力成本,获取大批量的样本需要更大成本,且易受荧光等因素干扰,这些问题都制约了将深度学习应用于拉曼光谱。针对以上问题,通过引入深度卷积生成对抗网络（DCGAN）提取拉曼光谱内部特征,对抗生成新的拉曼光谱,从而达到扩充数据集目的。同时和另一个扩充数据集的方法--偏移法进行对比,证明DCGAN的可靠性。设计生成光谱选取标准,选取高相似性的光谱填充数据集,为深度学习在拉曼光谱中的应用奠定基础。为了验证生成的光谱比原始光谱有更好的适用性,设计四组实验：（1）使用原始拉曼光谱输入到SVM进行分类,得到51.92%的分类准确率;（2）使用原始拉曼光谱输入到CNN进行分类,得到75.00%的分类准确率;（3）采用偏移法生成光谱,输入到CNN里进行分类,得到91.85%的分类准确率;（4）使用DCGAN生成光谱,输入到CNN里进行分类,得到98.52%分类准确率。实验结果表明,DCGAN能在只有少量拉曼光谱的情况下,通过对抗学习得到较好的生成光谱,且生成的光谱相比原光谱更加清晰,减少了可能的干扰因素,具有光谱预处理效果。通过DCGAN对抗生成大量高质量的数据填充到原有拉曼光谱数据集,扩充数据集的样本量,使得深度学习模型能够得到更好的训练,从而提高模型的准确率。该研究为深度学习方法应用于拉曼光谱分析技术提出了一个可行的方案。     

基于深度学习的船舶辐射噪声识别研究

为了改善船舶辐射噪声识别系统的性能,进一步提高船舶辐射噪声识别的正确率,该文提出采用一种基于深度学习的船舶辐射噪声识别方法。该方法首先提取了船舶辐射噪声的频谱、梅尔倒谱系数等特征,将提取特征后的图像样本分别用于训练卷积神经网络和深度置信网络,再对船舶辐射噪声进行识别。通过文中所给实例,将深度学习和支持向量机两种识别方法的性能进行比较,得出深度学习方法可以有效地提高船舶辐射噪声识别正确率的初步结论。     

基于改进sigmoid激活函数的深度神经网络训练算法研究

针对深度神经网络训练过程中残差随着其传播深度越来越小而使底层网络无法得到有效训练的问题,通过分析传统sigmoid激活函数应用于深度神经网络的局限性,提出双参数sigmoid激活函数。一个参数保证激活函数的输入集中坐标原点两侧,避免了激活函数进入饱和区,一个参数抑制残差衰减的速度,双参数结合有效的增强了深度神经网络的训练。结合DBN对MNIST数据集进行数字分类实验,实验表明双参数 sigmoid激活函数能够直接应用于无预训练深度神经网络,而且提高了sigmoid激活函数在有预训练深度神经网络中的训练效果。     

基于深度残差网络的高光谱遥感数据霾监测

霾监测是环境治理中的关键技术之一。目前地面观测站进行霾监测的耗费较大,基于多光谱遥感的霾识别精度较低。将深度学习用于高光谱遥感数据的霾监测,提出一种基于深度残差网络的高光谱霾监测方法,利用深度网络提取霾光谱曲线特征,再使用残差学习等方法降低网络训练难度,得到了霾监测模型。苏州地区Hyperion高光谱数据集上的实验表明,与其他遥感霾监测方法相比,所提方法的霾识别精度更高。     

基于深度学习的流场时程特征提取模型

特征识别是流体力学的重要研究方向,然而在中高雷诺数情况下物体的尾流流场复杂,难以通过传统方法实现特征的提取与识别.深度学习理论与技术的不断发展为复杂流场特征的识别提供了新方法.基于流场时程数据的深度学习模型,本文研究了4种模型对尾流场特征提取与识别的精度,得到了针对流场时程特征提取的高精度新方法.结果表明:所提出的模型能够识别尾流物理时程的不同特征,并通过流场时程实现了目标的外形识别,验证了方法的可行性;同时结果表明基于卷积运算的深度学习模型精度高,适用于流场时程数据的特征分析;深度学习网络结构更深、层间结构复杂的残差卷积网络识别精度最高,是尾流时程分析的高精度算法.本文所提方法从流场物理量时程的角度对流场特征进行了提取与识别,证明了深度学习方法具有较高的识别精度,是研究流场特征的重要途径.     

残差网络分层融合的高光谱地物分类

高光谱图像具有较高的空间分辨率,蕴含着丰富的空间光谱信息,近年来被广泛用于城市地物分类中。在高光谱图像分类过程中,空间光谱特征的提取直接影响着分类精度;传统的高光谱图像特征提取方法只利用了4或8邻域的像素进行简单卷积处理,因而丢失了大量的复杂、有效信息;卷积神经网络（CNN）虽然可以自动提取空间光谱特征,在保留图像空间信息的同时,简化网络模型,但是,随着网络深度增加,网络分类产生退化现象,而且网络间缺乏相关信息的互补性,从而影响分类精度。该工作引入CNN自动提取空间光谱特征,并且针对CNN深度增加所导致的退化问题,设计了面向地物分类的高光谱特征融合残差网络。首先,为了降低高光谱图像的光谱冗余度,利用PCA提取主要光谱波段;然后,为了逐级提取光谱图像的空间光谱特征,定义了卷积核为16,32,64的低、中、高3层残差网络模块,并利用64个1×1的卷积核对3层特征输出进行卷积,完成维度匹配与特征图融合;接着,对融合后的特征图进行全局平均池化(GAP)生成用于分类的特征向量;最后,引入具有可调节机制的Large-Margin Softmax损失函数,监督模型完成训练过程,实现高光谱图像分类。实验采用Indian Pines,University of Pavia和Salinas地区的高光谱图像来验证方法有效性,设置批次训练的样本集为100,网络训练的初始学习率为0.1,当损失函数稳定后学习率降低为0.001,动量为0.9,权重延迟为0.000 1,最大训练迭代次数为2×104,当3个数据集的样本块像素分别设置为25×25,23×23,27×27,网络深度分别为28,32和28时,3个数据集的分类准确率最高,其平均总体准确率（OA）为98.75%、平均准确率（AA）的评价值为98.1%,平均Kappa系数为0.98。实验结果表明,基于残差网络的分类方法能够自动学习更丰富的空间光谱特征,残差网络层数的增加和不同网络层融合可以提高高光谱分类精度;Large-Margin Softmax实现了类内紧凑和类间分离,可以进一步提高高光谱图像分类精度。     

深度学习在超声检测缺陷识别中的应用与发展*

深度学习（Deep Learning）是目前最强大的机器学习算法之一,其中卷积神经网络（Convolutional Neural Network, CNN）模型具有自动学习特征的能力,在图像处理领域较其他深度学习模型有较大的性能优势。本文先简述了深度学习的发展史,然后综述了深度学习在超声检测缺陷识别中的应用与发展,从早期浅层神经网络到现在深度学习的应用现状,并借鉴医学影像识别和射线图像识别领域的方法,分析了卷积神经网络对超声图像缺陷识别的适用性。最后,探讨归纳了目前在超声检测图像识别中使用CNN存在的一些问题,及其主要应对策略的研究方向。     

时频谱图和数据增强的水声信号深度学习目标识别方法*

水声目标识别一直是水声领域研究的重点问题之一,深度学习方法可以有效地解决目标识别问题,然而,水声样本的稀少限制了该方法的应用。该文 提出一种基于数据增强的水声信号深度学习目标识别方法,该方法以Mel功率谱作为网络的输入特征,通过对原始信号在时域和时频域的拉伸和掩蔽等变换,实现数据扩展和增加泛化性能的目的,最后,利用改进的VGG网络模型实现目标分类。实验结果表明,该文方法得到的水下目标识别准确率(95.2%) 要优于其他4种对比方法,证明了该文提出的网络模型和数据增强方法均有助于提高目标分类性能。     

Sparse representation-based classification algorithm for optical Tibetan character recognition

A sparse representation-based two-phase classification algorithm is proposed for off-line handwritten Tibetan character recognition. The first phase realizes coarse classification with the K-NN classifier by finding the K nearest neighbours of a test sample in the dictionary constructed by K-SVD with samples of all classes, and the classes of these neighbours are regarded as the candidate classes of the test sample. The second phase performs fine classification with the sparse representation classifier by sparsely representing the test sample with all elements of the dictionary constructed by K-SVD with samples of all candidate classes, and the test sample is finally classified into the candidate class with the maximal contribution in sparse representation. Experiments on the Tibetan off-line handwritten character database show that an optimal recognition rate of 97.17% has been reached and it is 2.12% higher than that of K-NN.     

Single-shot and lensless complex-amplitude imaging with incoherent light based on machine learning

We present a single-shot incoherent light imaging method for simultaneously observing both amplitude and phase without any imaging optics, based on machine learning. In the proposed method, an object with a complex-amplitude field is illuminated with incoherent light and is captured by an image sensor with or without a coded aperture. The complex-amplitude field of the object is reconstructed from a single captured image using a state-of-the-art deep convolutional neural network, which is trained with a large number of input and output pairs. In experimental demonstrations, the proposed method was verified with a handwritten character database, and the effect of a coded aperture printed on an overhead projector film in the reconstruction was examined. Our method has advantages over conventional wavefront sensing techniques using incoherent light, namely simplification of the optical hardware and improved measurement speed. This study shows the importance and practical impact of machine learning techniques in various fields of optical sensing.     

基于深度学习的故障检测方法

针对传统故障诊断方法中特征提取技术难度大、故障样本获取困难等问题,在深度学习计算框架下提出了一种半监督训练的故障检测方法,利用深度信念网络中的受限波茨曼机堆栈结构实现了数据高层特征的自动提取,结合支持向量数据描述方法实现了异常数据检测,只需利用正常工况的数据样本进行网络训练和模型拟合,无需故障样本数据,也无需人工干预进行信号特征提取,即能实现对故障数据进行的实时检测和判别。经采用标准轴承实验数据的三组故障数据进行验证,故障识别率达到100%,具有很强的工程应用价值。     

Improved Handwritten Digit Recognition using Quantum K-Nearest Neighbor Algorithm

Handwritten numeral recognition is a technology for automatic recognition and classification of handwritten numeral input through machine learning model. This is widely used in postal code digital automatic system to sort letters. The classical k-nearest neighbor algorithm is used in the traditional digital recognition training model. The recognized digital image classification is obtained through similarity measure or calculation and K value selection. Nonetheless, as the applied data volume exceeds a certain threshold, the time complexity of the model increases exponentially upon the similarity measure and K value search. This condition makes it hard to apply the model universally. In this paper, we introduce quantum computing, that is where digital image information is stored in the quantum state, and its similarity is calculated in parallel. Also, the most similar K points are obtained through the Grover algorithm. The theoretical analysis of the proposed improved algorithm shows that, handwritten numeral recognition based on quantum k-neighbor algorithm can improved upon time complexity of \( \mathrm{O}\left(\mathrm{R}\sqrt{kM}\right) \) of the existing algorithm.

     

水声JANUS信号的分数低阶时频谱迁移学习识别方法

非合作第三方水下标准协议信号识别在水声通信信号识别中具有重要研究意义。针对浅海水声JANUS信号的特征提取因易受脉冲噪声和多径效应等复杂水声环境影响而导致识别率低下的问题,提出一种分数低阶时频谱和ResNet18 （Residual Network 18）相结合的迁移学习识别方法。首先,选取JANUS固定前导作为识别对象,设计分数低阶傅里叶同步压缩变换（FLOFSST）,以分数低阶操作抑制脉冲噪声,以时频重排特性增强时频集中性。其次,将基于ImageNet的ResNet18预训练模型微调,迁移至JANUS信号和常见水声信号时频图集。仿真表明所提算法在信噪比为-10 dB时JANUS信号的识别率为96.15%,能够有效抑制脉冲噪声并减小多径效应影响,比传统算法识别性能好。海试中JANUS信号识别率达90.00%,证明算法识别准确率和网络的泛化性较高。