无相位远场数据反演散射障碍的神经网络方法

针对无相位信息反演障碍物位置及形状的问题, 提出一种两层门控循环单元(GRU)神经网络对门控循环单元神经网络的方法(MGNN), 并给出该方法的收敛性分析. 首先, 以无相位远场数据与障碍物边界曲线方程参数作为输入和输出, 通过GRU神经网络控制门思想与长期记忆功能, 有选择性地更新网络状态, 保存数据特征; 其次, 应用梯度下降算法更新模型权重和偏置, 解决了无相位信息的远场数据反演障碍物位置及形状的难题; 最后, 利用数值实验说明该方法的有效性.     

基于循环神经网络的微地震数据降噪方法

针对微地震信号中存在大量噪声干扰, 导致其识别困难的问题, 提出一种深度双向门控循环单元循环神经网络的方法, 并将其应用于微地震数据降噪中. 首先, 构建多层双向门控循环单元循环神经网络模型, 并设计该模型的网络结构及训练算法; 然后, 采用Ricker子波正演模拟微地震数据验证模型的有效性, 并将该方法与其他4种方法进行对比; 最后, 将真实的含噪声微地震数据输入到训练好的模型中, 即可得到降噪后的微地震数据. 仿真实验结果表明, 利用该方法降噪后与降噪前信号的峰值信噪比相比约提高36 dB, 且信号之间的相关系数值由0.088 6上升至0.933 5. 实际应用结果也表明, 该方法可有效降低实际微地震数据中的噪声.     

基于注意力机制的DGA域名检测算法

DGA域名(Domain Generation Algorithm)检测是恶意CC通信检测的关键技术之一。已有的检测方法通常基于域名构成的随机性进行检测,存在误报率高等问题,对于低随机性DGA域名的检测准确率较低,主要是因为此类方法未能有效提取低随机性DGA域名中的部分高随机性,为此提出了域名的多字符随机性提取方法。采用门控循环单元(GRU)实现多字符组合编码及其随机性提取;引入注意力机制,加强域名中部分高随机性特征。构建了基于注意力机制的循环神经网络的DGA域名检测算法(ATT-GRU),提升了低随机性DGA域名识别的有效性。实验结果表明,ATT-GRU算法在检测DGA域名上取得了比传统方法更高的检测精确率和更低的误报率。     

基于改进门控循环单元神经网络的锂电池组荷电状态预测

准确预测锂电池组的荷电状态(state of charge, SOC)能够有效防止电池过度充电或者放电,是储能设备安全运行的重要保障。为了解决SOC无法通过测量直接获得的问题,提出了一种基于猎人猎物优化算法(hunter prey optimization, HPO)优化门控循环单元(gated recurrent unit, GRU)神经网络的预测模型。在GRU的基础上添加Dropout机制,来增强模型的泛化能力,并通过HPO算法优化GRU的超参数,使锂电池的数据特征与网络拓扑相匹配。为了验证HPO-GRU模型的有效性,以某储能公司现场采集的储能锂电池组历史数据进行仿真实验,并与反向传播神经网络(back propagation, BP)、长短期记忆网络(long short term memory, LSTM)和GRU 3种预测模型的预测结果进行对比分析。可得HPO-GRU模型预测值与真实值的误差最小,在5%以内。可见HPO-GRU模型的预测精度最高,具有良好的鲁棒性以及较强的泛化能力。     

基于忆阻器的门控循环单元电路

时间序列数据分析可用于识别长期趋势并进行正确的预测,与人工神经网络(artificial neural network, ANN)相比,门控循环单元(gated recurrent unit, GRU)可以处理时间序列信号,在自然语言处理、语音识别、机器翻译等方面有着广泛的应用。然而,由于参数和模型的复杂性,GRU模型在硬件实现中遇到了瓶颈。文章构建一个基于忆阻器的GRU硬件电路,具有完整的GRU功能,而且输入/输出参数更少。仿真结果表明,电路的平均误差为0.007 5,能够有效地实现GRU网络的功能。将设计的GRU电路应用在搭建的序列预测模型中,可以预测股票价格变化趋势,且其预测的R2分数达到0.923 4。因此基于忆阻器的GRU硬件电路的设计在机器学习和人工智能方面具有一定的应用潜力。     

基于CNN-GRU的移动APP流行度预测模型

移动APP流行度预测对应用推荐、广告投放等意义重大。但是现有方法大多依赖手工特征工程,工作量大且效率较低。为此,提出一种基于深度神经网络的移动APP流行度预测模型。利用最大信息系数进行特征相关性分析以确保特征选取有效性,结合历史流行度特征,通过门控循环单元(gate recurrent unit,GRU)和注意力机制构建长期演化模型来推演发展趋势,基于多尺度卷积神经网络(convolutional neural networks,CNN)和注意力机制构建短期波动模型以实现预测动态优化,结合其他重要特征利用GRU和注意力机制建立多因素影响模型。通过时间注意力模块将上述模型融合,实现流行度预测。实验结果表明,所提模型在移动APP流行度预测方面相对更为精准有效。     

基于门控循环单元的车载控制器局域网络总线入侵检测方法

针对车载控制器局域网络(controller area network,CAN)总线入侵检测准确率低与时效性差的问题,通过分析总线中入侵数据帧的特点,提出了基于门控循环单元(gated recurrent unit,GRU)的入侵检测方法.该方法搭建了由5层神经网络构成的入侵检测模型,以真实汽车采集的CAN数据为基础构造洪泛攻击、重放攻击、模糊攻击和虚拟节点攻击数据,提取出具有11个特征的特征向量序列用于模型的训练和测试.实验验证了模型参数对检测结果的影响,研究了二分类检测和多分类检测的准确率与时间开销.结果表明:该方法在二分类和多分类检测中的精度为99.9816％和99.8942％,召回率分别是0.9999和0.9991,达到与长短期记忆(long short-term memory,LSTM)模型相当的检测精度,并且具有更短的训练和检测时间.本文方法提高了入侵检测的时效性和可靠性,对保障汽车安全意义重大.     

基于关键 $n$-grams 和门控循环神经网络的文本分类模型

提出一种基于关键 $n$-grams 和门控循环神经网络的文本分类模型. 模型采用更为简单高效的池化层替代传统的卷积层来提取关键的 $n$-grams 作为重要语义特征, 同时构建双向门控循环单元(gated recurrent unit, GRU)获取输入文本的全局依赖特征, 最后将两种特征的融合模型应用于文本分类任务. 在多个公开数据集上评估模型的质量, 包括情感分类和主题分类. 与传统模型的实验对比结果表明: 所提出的文本分类模型可有效改进文本分类的性能, 在语料库 20newsgroup 上准确率提高约 1.95%, 在语料库 Rotton Tomatoes 上准确率提高约 1.55%.     

基于门控循环单元的全断面掘进机稳定段掘进性能预测

全断面隧道掘进机(tunnel boring machine, TBM)一个正常掘进循环分为空推段、上升段和稳定段3个阶段,其中稳定掘进段为主要施工阶段,稳定段掘进性能的好坏是TBM掘进的关键。为实现TBM安全高效掘进,建立一种基于门控循环单元(gated recurrent unit, GRU)神经网络的预测模型,预测TBM稳定段掘进性能。模型以新疆某供水工程Ⅱ标段TBM施工数据为依托,5种掘进循环上升段主要参数的时间序列数据作为主要输入,围岩等级作为辅助输入来考虑岩体对掘进性能的影响,输出为稳定段的总推进力和刀盘扭矩,为稳定段TBM性能预判提供参考。为显示预测效果,对比传统循环神经网络(recurrent neural network, RNN)预测模型,并分析不同长度时间序列输入对模型预测精度的影响。结果表明：GRU模型预测拟合优度均在0.9以上,平均绝对百分比误差均小于12.25%,同时能够适用不同长度时序输入。由此可见,所建模型具有较高预测精度,泛化能力较好,能够辅助预判掘进机稳定段性能。     

基于门控循环单元网络的低阻油层测井流体识别方法

研究区块低阻油层发育广泛,油层和水层的电阻率相差不大,导致测井流体识别较为困难。为了有效识别低阻油层,采用少数类过采样技术(synthetic minority oversampling technique, Smote)对油水同层,油层等少数类样本进行过采样使数据集均衡;并利用门控循环单元(gated recurrent unit, GRU)网络模型进行低阻油层的流体识别。通过相关性分析确定自然伽马(GR)、深侧向电阻率(RD)、密度(DEN)等8条测井曲线数据作为输入训练模型,应用于中实际资料中,并将GRU与传统RNN和其他3种机器学习算法对比。结果表明：序列数据模型的流体识别效果比传统机器学习模型好,且基于Smote-GRU的流体识别模型的符合率达到89.5%,相对传统循环神经网络(recurrent neural network, RNN)的81.1%,取得了较好的应用效果。通过对照试验还证实了Smote算法提高了分类器对少数类样本的识别率。所提出的方法可为样本不均衡的低阻油层的流体识别提供参考。     

新型递归神经网络求解时变矩阵Moore-Penrose逆

将传统梯度神经网络（GNN）与张神经网络（ZNN）巧妙结合,提出了一种新型的神经网络（NNN）模型.在相同的条件下,采用NNN,GNN,ZNN模型求解时变矩阵M-P逆,从理论上证明了NNN模型的有效性和优越性.计算机仿真结果表明NNN模型在有噪声的条件下求解矩阵M-P逆具鲁棒性.     

基于改进CNN-GRU网络的多源传感器故障诊断方法

提出一种复杂系统内多源传感器的故障诊断方法.利用多源传感器数据之间的相关性,使用卷积神经网络提取不同传感器之间的联系和特征.在卷积网络中,设计了传感器数据标定模块使得网络更关注学习与故障信号相关的传感器数据.利用循环网络对传感器自身的时序特征建模,引入跳跃连接和辅助损失函数降低网络的训练难度.最后综合时空特征,一次计算得到故障分类结果和故障参数估计.仿真结果表明,改进后的CNN-GRU网络能够实时准确地诊断传感器的固定偏差故障和漂移偏差故障,传感器数据标定模块和跳跃连接的引入有效地提高了诊断算法的准确率和精度.      

二次最小化问题的有限时间递归神经网络求解

利用一类递归神经网络模型来求解二次最小化问题,在该模型的基础上加入双符号幂激励函数,以加快递归神经网络的收敛速度,甚至达到有限时间收敛.通过调节设计参数λ的取值,递归神经网络的收敛性能可进一步提高.利用MATLAB软件对有限递归神经网络模型进行仿真,数值仿真结果验证了模型求解二次最小化问题的有效性和优越性.     

基于改进堆叠式循环神经网络的轴承故障诊断

提出基于改进堆叠式循环神经网络的轴承故障诊断模型.利用深层网络极强的非线性拟合能力以及循环神经网络特有的沿时间通道传播的特点,通过门控循环单元解决堆叠式循环神经网络梯度消失的问题,实现对轴承健康状况的分类识别.利用美国凯斯西储大学轴承数据集进行了轴承故障诊断试验,同时将支持向量机、粒子群优化的支持向量机、人工神经网络、卷积神经网络AlexNet以及循环神经网络作为对比以检验所提模型的分类性能.结果表明,提出的模型能够对轴承故障进行有效诊断,并且具有一定的可靠性与泛化能力.     

非均匀介质内障碍反散射的Bayes方法

用Bayes方法同时重构非均匀介质及其内嵌入声软障碍物.首先,将非均匀介质和嵌入障碍物参数化,并给出参数的先验信息;其次,用MCMC(Markov chain Monte Carlo)方法以及参数的先验信息求解参数的后验信息;最后,通过数值算例验证Bayes方法的可行性和有效性.     

反问题与神经网络相结合的混流泵叶片优化设计

针对三元扭曲叶片优化设计过程中设计变量较多的问题，采用动量矩为设计变量，再通过反问题计算得到叶片来间接对叶片进行参数化；针对评价函数计算量太大的问题，根据试验设计理论安排训练样本，采用神经网络建立设计变量与目标函数间的复杂的响应关系，并且详细研究了反向传播和径向基函数2种网络在对评价函数进行预测过程中的应用，建立了一种新的叶片优化设计方法，与传统的优化方法相比，其设计变量数目较少，以叶轮内的三维粘性流动分析为基础且大大缩短了计算时间，利用此方法对一台混流泵的扬程和效率进行优化，所得叶片性能良好，从而验证了此方法的有效性。     

若干特殊区域的逆散射惟一性问题

通过应用Helmholtz方程延拓公式,对其解的性质进行了详细的探讨分析,证明了对Sound-hard和Sound-Soft情况下的二维圆形或椭圆形区域的逆散射问题,通过一个入射波能惟一识别该圆形或椭圆形区域.     

一种基于组合神经网络的数据分类方法

为了克服单一Kohonen网络和BP网络用于数据挖掘的缺点,提出了一种基于Kohonen和BP组合神经网络的数据分类方法,并给出了该分类方法的基本思想和算法描述.电力变压器故障诊断的仿真实验结果表明,利用该分类方法可以提高数据分类的精确性.