基于SFLA优化BP神经网络的语音信号分类

BP神经网络是一种多层前馈网络,数据经过网络的输入层、隐含层逐层处理后,由输出层进行输出,通过和期望输出的对比进行反向传播,调整网络参数使输出不断逼近期望输出;在使用BP神经网络对语音特征信号进行分类的过程中,会出现BP神经网络易陷入局部最优解、学习收敛速度慢的问题;针对此问题提出一种基于SFLA优化BP神经网络权值和阀值的方法,引入SFLA算法优化网络权值和阀值,利用SFLA优化后的BP网络模型进行语音特征信号分类;仿真结果表明,经SFLA优化后的BP神经网络与未优化的神经网络相比,不仅训练速度快, 而且误差小,语音特征信号分类的正确率平均提高1.31%。     

基于光谱技术的杨梅汁品种快速鉴别方法的研究

为了实现杨梅汁品种的快速无损鉴别,提出了一种用可见和近红外光谱技术快速鉴别杨梅汁品种的新方法。首先采用偏最小二乘法进行模式特征分析,经过交互验证法判别,确定最佳主成分数为9。完成特征提取后,将这9个主成分作为神经网络的输入变量,建立了三层BP神经网络,实现类别预测的同时也完成了数学建模与优化分析工作。3个品种的杨梅汁样本数均为20,共计60个样本。在神经网络学习中,将其分成训练集样本51个和预测集样本9个。对9个未知样本进行预测,准确率为100％。说明本文提出的基于光谱技术和模式识别的方法具有很好的分类和鉴别能力。     

The application of artificial neural networks to the inversion of the positron lifetime spectrum

A new method of processing positron annihilation lifetime spectra is proposed.It is based on an artificial neural network(ANN)-back propagation network(BPN).By using data from simulated positron lifetime spectra which are generated by a simulation program and tested by other analysis programs,the BPN can be trained to extract lifetime and intensity from a positron annihilation lifetime spectrum as an input.In principle,the method has the potential to unfold an unknown number of lifetimes and their intensities from a measured spectrum.So far,only a proof-of-principle type preliminary investigation was made by unfolding three or four discrete lifetimes.The present study aims to design the network.Besides,the performance of this method requires both the accurate design of the BPN structure and a long training time.In addition,the performance of the method in practical applications is dependent on the quality of the simulation model.However,the chances of satisfying the above criteria appear to be high.When appropriately developed,a trained network could be a very efficient alternative to the existing methods,with a very short identification time.We have used the artificial neural network codes to analyze data such as the positron lifetime spectra for single crystal materials and monocrystalline silicon.Some meaningful results are obtained.     

基于深度学习的气溶胶荧光光谱识别应用研究

空气中的高危病原微生物对人类社会存在着极大威胁,而传统的监测方法无法对空气中的微生物实现准确的识别与分类。因此采用激光诱导荧光技术原理,以单光子探测器为核心器件,设计并搭建了一种高效的荧光光谱仪用于空气中高危病原微生物的识别与分类,并且该光谱仪可以实现对微生物浓度的预测,其对于环境安全具有重要意义。对于该光谱仪采集的数据,探索了以一维向量和二维矩阵2种输入形式来实现荧光光谱的识别与分类,并研究对比了主成分分析网络、卷积神经网络和全卷积网络等深度学习网络的识别与分类效果。实验结果表明以矩阵形式输入的卷积神经网络模型在测试集中识别分类准确率达到98.05%。采用矩阵形式输入的全卷积网络模型在测试集中微生物浓度预测准确率达到98.97%。     

一种基于2D-CNN的激光超声表面缺陷检测方法

激光超声表面缺陷检测的过程中,缺陷的定量表征通常依赖于操作者的判断,易受到人为因素干扰,致使检测结果不稳定.针对这一问题,提出一种基于图像识别的二维卷积神经网络(2D-CNN)的缺陷自动分类检测方法.利用有限元方法模拟激光超声检测过程,并采集超声信号数据用于训练分类模型;使用连续小变换(CWT)处理超声信号得到小波时频...     

Acoustic identification of female Steller sea lions (Eumetopias jubatus)

Steller sea lion (Eumetopias jubatus) mothers and pups establish and maintain contact with individually distinctive vocalizations. Our objective was to develop a robust neural network to classify females based on their mother-pup contact calls. We catalogued 573 contact calls from 25 females in 1998 and 1323 calls from 46 females in 1999. From this database, a subset of 26 females with sufficient samples of calls was selected for further study. Each female was identified visually by marking patterns, which provided the verification for acoustic identification. Average logarithmic spectra were extracted for each call, and standardized training and generalization datasets created for the neural network classifier. A family of backpropagation networks was generated to assess relative contribution of spectral input bandwidth, frequency resolution, and network architectural variables to classification accuracy. The network with best overall generalization accuracy (71%) used an input representation of 0-3 kHz of bandwidth at 10.77 Hz/bin frequency resolution, and a 2:1 hidden:output layer neural ratio. The network was analyzed to reveal which portions of the call spectra were most influential for identification of each female. Acoustical identification of distinctive female acoustic signatures has several potentially important conservation applications for this endangered species, such as rapid survey of females present on a rookery.     

基于抑制性突触可塑性的神经元放电率自稳态机制

神经元放电率自稳态是指大脑神经网络的放电率维持在相对稳定的状态.大量实验研究发现神经元放电率自稳态是神经电活动的重要特征,并且放电率自稳态是实现神经信息处理及维持正常脑功能的基础,因此放电率自稳态的研究是神经科学领域的重要科学问题.脑神经网络是一个高度复杂的动态系统,存在大量输入扰动信号及由于动态链接导致的参数摄动,因此如何建立并维持神经元放电率自稳态及其鲁棒性仍有待深入研究.反馈神经回路是皮层神经网络的典型连接模式,抑制性突触可塑性对神经元放电率自稳态具有重要的调控作用.本文通过构建包含抑制性突触可塑性的反馈神经回路模型对神经元放电率自稳态及其鲁棒性进行计算研究.结果表明:在抑制性突触可塑性的作用下,神经元放电率可自适应地跟踪目标放电率,从而取得放电率自稳态;在有外部输入干扰和参数摄动的情况下,神经元放电率具有良好的抗扰动性能,表明放电率自稳态具有很强的鲁棒性;理论分析揭示了抑制性突触可塑性学习规则是神经元放电率自稳态的神经机制;仿真分析进一步揭示了学习率及目标放电率对放电率自稳态建立过程具有重要影响.     

Prediction of outdoor sound transmission loss with an artificial neural network

An artificial neural network is developed for rapid prediction of sound transmission loss (TL) during propagation outdoors. The network predicts TL for a nonturbulent atmosphere from inputs involving the source/receiver propagation geometry (height range: 0-5 m, horizontal separation distance: 100-900 m), source frequency (range: 20-200 Hz), ground properties, and atmospheric refractive profile characteristics. A parabolic equation (PE) code generates the training and test data sets for the network. To ensure that a minimal set of input parameters is used in the network training, a nondimensional version of the PE and accompanying boundary, initial, and atmospheric conditions is developed. A total of 10 independent, nondimensional input parameters are found to be necessary for the training. Approximately 27,000 random cases involving these 10 parameters are generated used to train networks with varying numbers of neurons. The root mean square (RMS) error between random test cases solved by the PE and corresponding neural network predictions was 2.42 dB when a sufficient number of neurons (about 44) are included in the hidden layer. Also, only 18% of the cases resulted in RMS errors that were greater than 2 dB.     

深度神经网络在红外光谱定量分析VOCs中的应用

鉴于浅层人工神经网络(ANN)需要依靠先验知识进行人工提取特征,同时较浅的网络结构限制了神经网络学习复杂非线性关系的能力,将深度神经网络(DNN)应用于利用傅里叶变换红外光谱(FTIR)对多组分易挥发性有机物(VOCs)进行的浓度反演研究,并利用仿真实验验证了算法的有效性。从美国环境保护署(EPA)的数据库中选取了包括苯、甲苯、 1,3-丁二烯、乙苯、苯乙烯、邻二甲苯、间二甲苯、对二甲苯在内的八种VOCs气体在8~12μm波长范围内的吸光度谱,每种气体有四种不同浓度下的谱线,依据Beer-Lambert定律从每种VOCs气体中选择一种浓度下的吸光度谱进行混合,得到65 536种不同的VOCs混合气体吸光度谱样本。随机选择5 000组混合气体的吸光度谱,其中4 000组作为训练样本, 1 000组作为预测样本。通过积分提取和主成分提取对光谱矩阵进行降维预处理,将光谱维度从3 457维降到30维。将光谱矩阵经过预处理后得到的新矩阵作为网络输入,对应八种VOCs的浓度矩阵作为输出,建立了30-25-15-10-8的深度神经网络回归预测模型来实现多组分VOCs浓度反演,反演得到样本的均方根误差为0.002 7×10-6,相比于前人利用非线性偏最小二乘拟合、人工神经网络等方法拟合的精度有了明显的提高。每种VOCs气体的均方根误差均不超过0.005×10-6,每个样本的均方根误差均不超过0.006×10-6,证明了深度神经网络预测模型具有良好的非线性拟合能力和良好的稳定性。当训练样本不足(典型值:小于500)时,深度神经网络无法充分地学习,网络误差较大,精度低于单隐藏层的人工神经网络,但随着训练样本数量的增加,深度神经网络的精度不断提高,当训练样本数充足时,相比浅层的人工神经网络,深度神经网络具有更强的非线性关系学习能力,预测精度更高,模型更为稳定。同时,由于训练前对光谱矩阵进行了降维处理,大大降低了算法的复杂度,有效提高了反演效率。分析表明,深度神经网络预测模型具有良好的非线性拟合能力和良好的稳定性,无需人工提取特征就能够充分学习数据特征,同时对多组分VOCs进行浓度反演并达到较高精度。     

近红外光谱的古筝面板用木材等级识别研究

目前民族乐器古筝面板用板材的等级主要依靠乐器技师凭借个人经验进行判断,此方法受限于有丰富经验的技师且容易受其主观判断影响。针对此现状,以用于制作古筝面板的泡桐木材为实验样本,提出了一种利用近红外光谱结合改进的BP神经网络方法,实现快速识别古筝面板用板材的不同等级。近红外光谱可以表征丰富的物质结构与组成信息,并且测量仪器成本较低,附件形式多样化,所以针对泡桐板材的近红外光谱实验分析有实用意义首先进行光谱去噪,消除系统误差等以提高光谱分辨率,根据均方根误差与信号平方和作为多种预处理方法评价指标,选取一阶导数为本实验最终预处理方式,15为合适的滤波去噪窗口大小,然后通过主成分分析法压缩数据以及马氏距离法剔除建模集异常样本,从而建立更具代表性的建模集。然后通过聚类分析无监督学习方法进行板材等级分析,证明板材分级的可行性。由于H₂O在近红外光谱区域具有较大吸收,根据实验光谱分析结果,不考虑其基频振动波段5 396.0～4 978.0 cm-1区域和第一泛音振动波段6 800～7 000 cm-1区域,仅考虑剩余近红外光谱波段信息,将不同光谱信息波段组合,共七种组合波段区域作为神经网络模型的输入,进行面板板材等级识别模型实验。对传统的BP神经网络模型作改进。BP神经网络中学习率的设置采用自适应学习率优化策略,弥补传统神经网络训练速率慢等劣势。同时采用交叉熵函数作为代价函数,从而加快权重的更新速度。选取Relu函数作为输入层与隐藏层之间的传递函数,提高了模型训练速度,有效防止过拟合的发生。选取Softmax函数作为最后一层的传递函数,以此减少复杂计算,构成该研究最终BP神经网络模型。选取不同数量的主成分变量所能提取的光谱信息量不同,通过不断增加主成分个数和调整参与模型的光谱波段区间,调整BP神经网络模型的输入,当主成分个数为11和光谱区间为10 000～7 000和4 976～4 000 cm-1时,未知样本识别率达到99.7%,所选光谱区间涵盖C-H等基团全部特征信息。研究结果表明,近红外光谱结合神经网络可以对不同等级的泡桐木材进行有效的识别,降低人工检测误差,缩短板材分级时间,更好地满足乐器市场需求。     

Effects of synaptic noise and filtering on the frequency response of spiking neurons

Noise can have a significant impact on the response dynamics of a nonlinear system. For neurons, the primary source of noise comes from background synaptic input activity. If this is approximated as white noise, the amplitude of the modulation of the firing rate in response to an input current oscillating at frequency omega decreases as 1/square root[omega] and lags the input by 45 degrees in phase. However, if filtering due to realistic synaptic dynamics is included, the firing rate is modulated by a finite amount even in the limit omega-->infinity and the phase lag is eliminated. Thus, through its effect on noise inputs, realistic synaptic dynamics can ensure unlagged neuronal responses to high-frequency inputs.     

一种基于卷积神经网络的恒星光谱快速分类法

恒星光谱数据的分类是天体光谱自动识别的最基本任务之一,光谱分类的研究能够为恒星的演化提供线索。随着科技的发展,天文数据也向大数据时代迈进,需要处理的恒星光谱数量越来越多,如何对其进行自动而精准地分类成为了天文学家要解决的难题之一。当前恒星光谱自动分类问题的解决方法相对较少,为此本文使用了一种基于卷积神经网络的方法对恒星光谱MK系统进行分类。该网络由数据输入层、四个卷积层、四个池化层、全连接层、输出层构成,与传统网络相比具有局部感知、参数共享等优点实验。在Python3.5的环境下编程,利用Tensorflow构建了一个简单高效的具有四个卷积层的卷积神经网络,并将Dropout作用于全连接层之后以防止过度拟合。Dropout的基本思想：当网络模型进行训练时,把一些神经网络节点按一定的比例丢弃,使其暂时不发挥作用。Dropout可以理解成是一种十分高效的神经网络模型平均方法,由于它不依赖于某些局部特征所以能够让网络模型更加鲁棒。实验中使用的一维恒星光谱图是取自LAMOST DR3数据库,首先进行预处理截取光谱3 600~7 300 Å的部分,均匀采样后使用min-max标准化法对其进行初始化。实验包括两部分：第一部分为依据恒星光谱MK系统对光谱进行分类,每一类的训练样本包含1 000条光谱数据,测试样本为400条光谱数据,首先通过训练样本对CNN网络进行训练,进行3 000次的迭代,用训练后的网络将测试样本进行分类以验证网络的准确性;第二部分为相邻两类的恒星光谱的分类,其中O型星数据集样本为250条光谱,其余类别恒星样本数据集均为4 000条光谱,将数据5等分,每次选取当中的一份当作测试集,其余部分当作训练集,采用5折交叉验证法求得模型准确率,用BP神经网络进行对比实验。选择对网络模型进行评估的指标包括精确率P、召回率R、F-score、准确率A。实验结果显示CNN在对六类恒星光谱进行分类时其准确率都在95%以上,在对相邻类别的恒星进行分类时,由于O型星样本量较少,所以得到的分类结果不太理想,对其余类别的恒星分类准确率都高于98%,以上结果都证明了CNN算法能够很好地解决恒星光谱的分类问题。     

Knowledge-Based Artificial Neural Network Models for Finline

Finline plays an important role in millimeter-wave integrated-circuit design. In this paper, a knowledge-based artifcial neural network is used to model the finline. Using prior knowledge input method and Bayesian regularization technique make the neural network models for finline reduce the amount of training data needed and prevent overfitting in neural network training. The neural network is electromagnetically developed with a set of training data that are produced by the fnite element method, which is robust both from the angle of time of computation and accuracy.     

稀疏降噪自编码算法用于近红外光谱鉴别真假药的研究

近红外光谱分析技术作为一种快速、无损检测技术十分适用于真假药品现场鉴别。自编码网络作为当前机器学习领域研究的热点受到广泛关注,自编码网络是一种典型的深度学习网络模型,它比传统的潜层学习方法具有更强的模型表示能力。自编码网络使用贪婪逐层预训练算法,通过最小化各层网络的重构误差,依次训练网络的每一层,进而训练整个网络。通过对数据进行白化预处理并使用无监督算法对输入数据进行逐层重构,使网络更有效的学习到数据的内部结构特征。之后使用带标签数据通过监督学习算法对整个网络进行调优。首先对真假琥乙红霉素片的近红外光谱数据进行预处理以及白化预处理,通过白化处理降低数据特征之间的相关性,使数据各特征具有相同的方差。数据处理之后利用稀疏降噪自编码网络针对真假药品光谱数据建立分类模型,并将稀疏降噪自编码网络模型与BP神经网络以及SVM算法在分类准确率及算法稳定性方面进行对比。结果表明对光谱数据进行白化预处理能有效提升稀疏降噪自编码网络的分类准确率。并且自编码网络分类准确率在不同训练样本数量下均高于BP神经网络,SVM算法在少量训练样本的情况下更有优势,但在训练数据集样本数达到一定数量后,自编码网络的分类准确率将优于SVM算法。在算法稳定性方面,自编码网络较之BP神经网络和SVM算法也更稳定。使用稀疏降噪自编码网络对真假药品近红外光谱数据进行建模,能对真假药品进行有效的鉴别。     

基于近红外光谱技术和人工神经网络的玉米品种鉴别方法研究

提出了一种采用近红外光谱技术结合人工神经网络对玉米品种进行鉴别的方法。在3 800～10 000 cm-1(波长1 000～2 632 nm)范围内采集四种玉米单粒完整籽粒的近红外漫反射光谱,经Savitky-Golay平滑和多重散 射校正预处理后,对数据进行主成分分析,再结合人工神经网络技术进行品种鉴别。主成分分析表明,前8个主成分的累积贡献率达到99.602%。以前8个主成分作为网络输入,品种类型作为输出,建立三层LMBP神经网络模型。每个品种 各取30粒共120个样本用于建模,10粒共40个样本用于预测。模型对建模集120个样本鉴别率为100%,对预测集40个样本的鉴别率为95%。实验结果说明该方法能快速无损地鉴别玉米品种,为玉米的品种鉴别提供了一种新方法。     

可见/近红外光谱分析技术快速鉴别航天育种番茄

提出了利用可见/近红外光谱技术快速无损鉴别航天育种番茄品种的方法,采用偏最小二乘法对光谱特征信息进行提取,与神经网络结合建立番茄品种的鉴别模型.该模型将提取后的主成分作为神经网络的输入,加速了神经网络的训练速度.同时采用小波变换对大量光谱数据进行压缩,并结合神经网络建立番茄品种鉴别模型,该模型将压缩后的数据作为神经网络...     

基于径向基函数神经网络的高光谱遥感图像分类

从径向基函数神经网络的理论出发,针对高光谱数据的特点,设计了有效的特征提取模型,再与径向基函数神经网络的输入层连接,建立了一个新的径向基函数神经网络的高光谱遥感影像分类模型,并用国产OMISII传感器获得的64波段数据进行试验。首先进行了最小噪声分离变换,提取了1～20个分量的数据,使用提取后的数据（20维）、提取后数据的纹理变换（20维）和主成分分析的前（20维）,组成了60维向量数据进行分类处理,这种分类器结构简单、容易训练、收敛速度快,其分类精度达到69.27%,高于BP神经网络分类算法(51.20%)以及常用的最小距离分类（MDC）算法(40.88%)。通过对结果和过程进行分析,实验证明径向基函数神经网络在高光谱遥感分类中具有较好的适用性。     

应用可见-近红外光谱技术快速无损鉴别婴幼儿奶粉品种

为了快速无损鉴别婴幼儿奶粉品种,提出了结合偏最小二乘(PLS)法和人工神经网络(ANN)综合预测婴幼儿奶粉品种的新方法。获取婴幼儿奶粉样本在400～1 000 nm波段的漫反射光谱,采取平均平滑法和多元散射校正(MSC)进行预处理,用PLS建立校正模型进行模式特征分析及主成分的提取。经过交互验证法判别,提取7个主成分作为神经网络的输入变量,奶粉的品种值作为输出,建立了三层BP神经网络。9个典型品种的婴幼儿奶粉各取样本30个,共计270个作为训练集。随机抽取的各个品种的10个样本,共90个作为预测检验样本,结果表明,90个未知样本的品种预测准确率为100％。说明提出的方法具有很好的分类和鉴别作用,为婴幼儿奶粉的品种快速无损鉴别提供了一种新方法。     

基于蝙蝠回波定位模型的材质识别方法研究

在蝙蝠的回波定位和目标识别模型的基础上完成了目标材质识别的工作。利用超声换能器发射超声脉冲，接收回波信号并对其进行处理；分别提取了时域包络、功率谱和短时傅里叶（STFT）系数作为BP（Back—Propagation）网络分类器的输入特征向量；完成了对纸板、泡沫板和木板的识别工作。实验结果表明识别正确率最高达到近90％。