基于多源信息的全局滤波器剪枝

针对现有神经网络剪枝方法未全面评估滤波器的重要性以及跨层滤波器的重要性间存在一定差异的问题,提出了一种基于多源信息的全局滤波器剪枝算法,建立了特征和权重信息间的连接.首先,根据特征信息较为丰富和权重信息受数据噪音影响低的特点,分别以特征间相关性和权重熵来评估滤波器的相对和绝对重要性.然后,将每层中不同压缩比例的滤波器看作一个整体,评估其对模型的全局重要性,按照压缩需求跨层剪掉模型中最不重要的部分.最后,采用知识蒸馏的方式来恢复剪枝后模型的精度,不依赖其他数据集就能完成模型的压缩与微调.为了验证所提方法的适用性,针对DeepLabV3、DABNet和U-Net网络在三个语义分割数据集上进行了大量的实验.也针对多种深度的ResNet网络在图像分类数据集上进行了验证.实验结果表明,通过多源信息可以更精确的评估单层中滤波器的重要性,通过全局重要性来指导跨层剪枝可以使模型的关键信息损失降到最低.     

轻量级(2+1)D卷积结构的动态手势识别研究

目前,基于卷积神经网络的动态手势识别方法取得了巨大的进展,但神经网络模型具有很大的参数量,计算成本和内存占用较大,很难应用在设备资源有限的场合.以减少计算量和参数量为出发点,提出了一种轻量级(2+1)D卷积结构.该结构在(2+1)D卷积结构的基础上,将其中的3D卷积替换为3D深度可分离卷积,在输出向量维度不变的前提下,进一步减少了(2+1)D卷积结构的计算量和参数量.为了弥补时空特征在表征动态手势上的不足,融合注意力机制模块,专注于对运动特征的提取,结合轻量级(2+1)D卷积结构提取的时空特征,可以更好地表征手势动作.实验结果表明,注意力机制模块的插入,在不增加太多额外计算和空间成本的前提下,进一步提高了模型的识别精度.基于以上结构构建的模型,在20BN-jester、EgoGesture和IsoGD数据集上分别取得了96.62%、91.83%和60.1%的识别精度,模型参数量和浮点计算量分别为5.05M和12.81GFLOPs,相比于其他手势识别模型,计算成本和内存占用大大减少,实时手势识别速度达到每秒70帧.     

基于图神经网络的联合用户调度与波束成形优化算法

协作多点（Co MP）传输技术具有降低同频干扰和提高频谱效率的特点。对于Co MP,用户调度与波束成形是2个分别位于媒体访问接入层和物理层的基本研究问题。在考虑用户服务质量需求下,重点研究用户调度与波束成形的联合优化问题,并以网络吞吐量最大化为目标。为了克服传统优化算法计算开销大且未有效利用网络历史数据信息的问题,提出了一种基于图神经网络联合用户调度与功率分配模型,并结合波束向量的解析公式,以实现联合用户调度与波束成形优化。仿真分析表明,所提算法能够以较低的计算开销实现与传统优化算法相匹配,甚至更优的性能表现。     

基于知识图谱的双重感知网络推荐算法

近年来,通过聚合知识图谱中附加的项目信息进行推荐取得了优异的成果,但用户信息来源相对较少,同时多重聚合会使项目自身特征表达不全,甚至发生噪音.针对以上两点,提出基于知识图谱的双重感知网络推荐算法KGDP.首先,从用户交互记录中随机选取部分项目作为用户相关项目,以及选取项目的邻居实体作为项目的相关实体;然后,将选取的用户相关项目经过深度神经网络融合为用户特征,丰富了用户特征,同时单独聚合项目的相关实体;其次,经过两个深度神经网络使用户分别感知项目特征和邻居特征,即非线性交互;最后,通过一个单层感知机调节交互特征的输出权重进行评分预测.在推荐算法常用的两个真实数据集上进行实验,较基线模型AUC指标分别提升了9.2%、2.4%;ACC指标提升了6.6%、1.9%,F1指标分别提升了7.0%、1.1%;Precision@N指标分别提升了28.8%、6.5%;Recall@N分别提升了4.0%、23.7%;F1@N指标分别提升了43.3%、8.4%.     

基于FPGA的脉冲神经网络模型设计与实现

现有的脉冲神经网络模型软件模拟通常具有处理速度慢、功耗高的缺点,同时利用硬件电路实现则具有开发难度大、灵活性差的缺点.为了探索合理实现脉冲神经网络模型的途径,在己有研究成果的基础上综合考虑两种方案的优缺点,提出了利用软件库模拟脉冲神经元数学模型以及网络的拓扑结构、并将网络运行时的关键计算任务以计算内核的方式交由基于OpenCL的FPGA并行计算的新思路.主要工作为:使用模块开发方式对脉冲神经网络软件开发库和OpenCL开发库进行了扩展、并将软件开发库中的重要模块重构成FPGA计算内核,使得软件开发库能够调用FPGA执行计算任务,最终达到利用两个库构建运行网络模型时能够同时满足易于开发、灵活性高、处理速度快、功耗低等要求的目的.基于MNIST图像数据集的图像分类实验表明,同一网络模型拓扑结构下,与在GPU上的软件模拟相比,提出方案的图像分类准确率并没有下降,同时以略微牺牲运行性能为代价,参考功率降低了约63.6%.     

基于多通道结构的卷积神经网络在图像分类中的研究

为解决传统的卷积神经网络的卷积结构单一、分类精度不佳且模型参数和计算量较大等问题,本文对经典的传统网络Alexnet进行网络结构优化进行多通道改进,构建了Tra-net、Mynet v1、Mynet v2三条不同的网络。将三种不同的卷积神经网络在公开数据集Caltech256上进行识别性能测试,其中Mynet v2网络最高识别准确率可达59.56%,且模型缩小至25MB左右。实验结果表明改进后网络Mynet v1、Mynet v2的识别性能均优于传统的神经网络Tra-net,使用瓶颈结构卷积模块的网络在提高识别准确率的同时大幅度降低了网络模型参数。     

基于SSA优化BP神经网络的冲击地压数据预测研究

为解决目前冲击地压实验数据误差较大,冗余信息较多的问题,结合神经网络和麻雀搜索算法各自的特点,提出基于麻雀搜索算法(SSA)优化BP神经网络的数据预测模型。结合三轴声发射试验的试验数据,运用MATLAB等软件进行综合仿真模拟实验,并将SSA-BP算法的预测结果与BP神经网络的模拟预测结果进行仿真比较。仿真结果表明,引用SSA算法优化BP神经网络避免了BP权值平衡的缺点,不仅提高了学习的速度,而且具有更高的计算精度。     

基于卷积神经网络的末敏弹复合探测信号识别方法北大核心CSCD

为了进一步提升末敏弹的目标识别性能,提出一种基于卷积神经网络(Convolutional Neural Network,CNN)的复合探测信号识别方法。首先针对毫米波辐射计、激光测距雷达和红外敏感器的复合探测信号特点,提出了3种构造输入样本的方法;然后根据不同的信息融合方式,提出了3种基本网络架构,分别构建了单通道、多通道CNN模型对输入信号进行特征提取和分类;最后通过高塔试验数据对模型进行训练和评估。测试结果表明,基于样本构造方案2和网络结构3的识别方法表现最佳,测试准确率达到了97.26%,所提样本构造方法和识别方法能够有效提取复合探测信号的特征,具有较高的识别精度。