特征规范化的图卷积神经网络推荐算法

为了提高推荐算法的推荐性能,针对现有的图卷积神经网络(graph convolutional neural network, GCN)的推荐算法中,2-3层的传播网络结构不利于较远距离节点之间进行信息交互,而加深网络层数又会导致性能急剧下降的问题,提出一种特征规范化的图卷积神经网络推荐算法。该方法为传播网络中每一层输出特征进行规范化处理,避免节点嵌入表示随着网络层数增加而变得过于相似;在预测阶段,使用自注意力机制(self-attention mechanism, SA)将各层的输出进行连接,以获得更好的节点最终表示。在3个真实数据集上与传统算法以及现有同类型推荐算法进行对比,验证了该模型的有效性。实验结果表明,所提模型与基准模型相比,在召回率Recall@N和归一化折损累计增益NDCG@N上有明显提高,平均提升1.675%,最高可提升3.406%。     

图卷积神经网络综述

图卷积神经网络是图论与深度学习的交叉,已成为机器学习领域的研究热点。基于此,介绍了图卷积神经网络的形成,梳理了两大类经典的图卷积神经网络：谱方法和空间方法,详细介绍了这两类图卷积神经网络模型,分析了图卷积操作的核心理论基础,介绍了图卷积神经网络在各领域的应用,总结了图卷积神经网络面临的主要挑战,展望了图卷积神经网络的发展趋势,并分析了图卷积神经网络在野外环境下蝴蝶识别任务中的潜在应用。     

基于知识图谱的轻量级图卷积网络推荐

知识图谱可以给推荐系统提供丰富的、结构化的信息,从而提高推荐准确性.最近的技术趋势是基于传播的方法设计端到端的模型,但有的基于传播的方法无法捕获项目的高阶协作信号.一般图卷积网络中包含的最常见形式是特征转换、非线性激活和邻域聚合,然而,经验表明,特征转换和非线性激活对协同过滤推荐不一定有积极的影响,更糟糕的是,它们可能会降低推荐性能,使训练更加困难.针对以上问题,提出基于知识图谱的轻量级图卷积网络推荐模型.首先,从实体邻居中抽取样本作为感受野,将知识图谱中的实体通过多次迭代嵌入传播来获取高阶邻域信息.感受野结合邻域信息和可能存在的偏差来计算实体表示,还可以扩展到多跳以模拟高阶连通性并捕获用户潜在的远距离兴趣.其次,使用邻域聚合以预测用户和项目之间的评分,这不仅简化了模型设计,还提高了模型的有效性和准确度.最后,在电影、书籍和音乐推荐这三个数据集中应用提出的模型,实验结果表明,提出的方法优于其他推荐基线.     

基于图卷积神经网络的电力变压器故障诊断

针对电力变压器故障多、诊断精确度低等问题,提出了一种基于图卷积神经网络(Graph Convolutional Network,GCN)电力变压器故障诊断的方法,该算法可以准确地识别电力变压器的故障类别,且实现了将数据结构转化成图结构.以电力变压器为实验对象,利用小波包变换(Wavelet Packet Transfo...     

融合实体信息的图卷积神经网络的短文本分类模型

提出一种融合实体信息的图卷积神经网络模型（ETGCN）,用于短文本分类.首先,使用实体链接工具抽取短文本中的实体;然后,利用图卷积神经网络对文档、实体和单词进行建模,丰富文本的潜在语义特征;将学习到的单词节点表示与BERT词嵌入进行拼接,通过双向长短期记忆网络,进一步挖掘文本上下文语义特征,再与图神经网络模型得到的文本特征进行融合,用于分类.实验结果表明,该模型在数据集AGNews、R52和MR上的分类准确率分别为88.38%、93.87%和82.87%,优于大部分主流的基线方法.     

基于图卷积神经网络的脑力负荷识别

针对生理信号特征提取过程依赖于先验知识,且传统深度学习算法不考虑通道间耦合关系的问题,构建了基于图卷积神经网络的脑力负荷识别模型。数据集包含多通道连续采集的近红外光谱,分别计算基于互信息、锁相值和皮尔森相关系数的连通性矩阵来反映通道间的内在联系,并将近红外光谱和连通性矩阵组成图结构输入到图卷积神经网络。实验结果表明,该模型具有良好的抽象特征提取能力,在输入中融合通道间相关性系数有助于提升脑力负荷的识别精度,且连通性矩阵的可视化结果表明大脑额叶区对脑力负荷变化较敏感。     

基于整体序列建模的会话推荐模型

会话推荐常用的循环神经网络根据会话的短期交互生成相关表示。循环神经网络采用多次迭代的方式逐步生成表示,在每次迭代中选取局部最优解,无法从全局角度考虑会话记录中各项目的重要性,使会话表示的性能受限。针对该问题,该文提出一种基于整体序列建模的会话推荐模型,通过综合考虑各项目内容对会话表示的重要性,生成更为有效的会话表示。为了更好地挖掘项目内容在会话推荐中的重要性,该文联合分析了该项目在会话历史中所处的位置和该项目与会话最新交互项目的关系等信息,衡量该项目在会话中的权重,最后融合会话历史中的各项目信息生成整体的会话表示。在3个公开数据集上进行的大量实验表明,该文方法明显优于现有方法,证明了其有效性。     

融合图卷积神经网络的文本情感分类

文档级别情感分类旨在预测用户对评论文本的情感极性标签。最近研究发现,利用用户和产品信息能有效地提升情感分类性能,然而,现有大多数研究只关注用户与评论、产品与评论的信息,忽略了用户与用户、产品与产品之间的内在关联,因此,本文提出一种融合图卷积神经网络的文本情感分类模型。首先,根据数据集构建了用户与用户关系图、用户与产品关系图;然后,融合两种关系图形成异质图,并使用图卷积神经网络学习用户与用户、产品与产品之间的内在联系,获得更好的用户和产品表示;最后,使用融合CNN的用户注意力和产品注意力机制的分层网络进行情感分类。实验结果表明,在公开数据集IMDB、Yelp2013和Yelp2014上,本文提出的模型能取得较好的分类效果。     

基于双编码器的会话型推荐模型

针对现有会话型推荐模型难以准确捕获物品间全局依赖的问题,提出了一种基于双编码器的会话型推荐模型(SR-BE)。该双编码器由基于自注意力网络的全局编码器和基于图神经网络的局部编码器组成,无论被浏览物品之间的时间间隔长还是短,全局编码器都能够利用注意力机制自适应地捕获被浏览物品之间的全局依赖,并将其编码为全局隐向量。为弥补自注意力网络没有结构信息而难以捕获邻近物品间局部依赖的不足,在局部编码器中,首先将会话序列构建成会话图,然后通过图神经网络在会话图上捕获邻近物品间的局部依赖,并将其编码为局部隐向量。最后将从双编码器得到的全局隐向量和局部隐向量线性组合为会话表示,再通过预测层解码会话表示得到每个候选物品被点击的概率。实验结果表明:将基于自注意力网络的全局编码器与基于图神经网络的局部编码器结合在一起,比单一地使用全局编码器或局部编码器在命中率上分别提高了3.11%和6.55%。通过与同类模型客观定量比较,SR-BE模型在两个公开数据集上取得了突出的效果,表明该模型有效、可行。     

基于多元语义特征和图卷积神经网络的短文本分类模型

在互联网和社交媒体迅猛发展的背景下,网络中出现了大量的短文本数据,这些数据在舆情监控、情感分析和新闻分类等自然语言处理领域展现出了非常高的经济和学术价值.但短文本数据固有的特征给短文本分类带来了不小的挑战,如文本稀疏和缺乏丰富的上下文语义等.针对这些问题,提出了一种结合多元语义特征和图卷积神经网络（GCN）的短文本分类模型,该模型通过哈尔滨工业大学的语言技术平台获取短文本的多种语义特征,并将这些语义特征同短文本一起构建一个多元异构图,然后将其作为GCN的输入,利用GCN学习短文本更深层特征,最后通过Softmax函数获取每个类别的概率分布,进而实现短文本分类.试验结果表明,本模型在短文本分类的F1评分上比传统单一模型提高了4%.     

基于图卷积神经网络的跨域行人再识别

针对由源域训练的行人再识别模型通常在目标域的泛化能力不强的问题,提出基于图卷积神经网络的跨域行人再识别方法,将源域数据学习到的整合邻居样本信息的能力迁移至目标域数据.首先,为经过特征提取后的源域数据建立亲属子图,并将源域数据特征和亲属子图作为所设计的图卷积神经网络模块的输入,以基于源域的监督信息训练图卷积神经网络模块;然后,对经过特征提取后的目标域数据建立亲属子图,将训练过的图卷积神经网络模块应用于目标域数据,为目标域数据赋伪标签;最后,联合源域数据和目标域数据训练得到一个泛化能力强的行人再识别模型.分别在两个大规模公开数据集Market-1501和DukeMTMC-reID上对所提出方法进行实验验证,结果表明所提出的方法与所选择的基准模型相比使得Market-1501的rank-1准确率和平均准确率均值(mAP)分别提高了7.4%和9.2%,而DukeMTMC-reID的rank-1准确率和m AP分别提高了14.2%和14.9%.     

提高会话推荐多样性的SRL推荐系统模型

现有的各种推荐多样性定义难以体现用户在会话期内推荐项目的多样性,且现有的各种提高推荐多样性的方法通常以牺牲推荐准确率为代价.提出了会话推荐多样性的概念,分析了现有推荐系统会话推荐多样性偏低的主要原因是推荐树中存在过多的重复节点.设计了一种会话推荐列表SRL(sessionrecommendationlist)推荐系统模型,为每个活跃用户建立会话推荐列表,能够有效避免推荐树中出现推荐环路或弱推荐环路.通过MovieLens数据集测试表明,SRL推荐系统模型可以大幅度提高会话推荐多样性,同时也提高了推荐准确率.     

基于图卷积神经网络的健美操难度动作识别方法

针对现有健美操难度动作识别方法中存在的识别效果差等问题,提出将图卷积神经网络应用到健美操难度动作识别中。将健美操视频划分为若干个图像,并消除健美操难度动作图像背景,设定灰度共生矩阵,估计难度动作图像局部区域模糊核,校正难度动作图像的视觉误差。在此基础上,对图卷积神经网络进行预训练,构建人体有向时空骨架图,对人体有向时空图表示与时序动态信息建模,实现健美操难度动作识别。实验结果表明,在复杂背景与简单背景下,基于图卷积神经网络的健美操难度动作识别方法识别的时间较短,并且错误识别的次数也较少,证明所提方法提高了健美操难度动作的识别效果。     

基于会话的双层注意力机制新闻推荐方法

随着新闻信息的爆炸式增长,个性化新闻推荐对用户快速找到感兴趣的新闻变得非常重要.基于会话的推荐旨在根据用户的行为序列向用户推荐下一个可能感兴趣的项目.但是,现有方法大都忽略了会话内用户阅读行为的随机性和偶然性,难以捕捉用户的主要兴趣,或者将用户会话视为单个序列,忽视了用户兴趣在不同会话之间的演变和关联.文中提出了一种基...     

基于图卷积网络的恶意代码聚类

许多新型恶意代码往往是攻击者在已有的恶意代码基础上修改而来,因此对恶意代码的家族同源性分析有助于研究恶意代码的演化趋势和溯源.本文从恶意代码的API调用图入手,结合图卷积网络(GCN),设计了恶意代码的相似度计算和家族聚类模型.首先,利用反汇编工具提取了恶意代码的API调用,并对API函数进行属性标注.然后,根据API对恶意代码家族的贡献度,选取关键API函数并构建恶意代码API调用图.使用GCN和卷积神经网络(CNN)作为恶意代码的相似度计算模型,以API调用图作为模型输入计算恶意代码之间的相似度.最后,使用DBSCAN聚类算法对恶意代码进行家族聚类.实验结果表明,本文提出的方法可以达到87.3%的聚类准确率,能够有效地对恶意代码进行家族聚类.     

基于图卷积循环神经网络的城市轨道客流预测

客流预测对于城市轨道交通运行组织和管理具有重要的意义.本文中组合图卷积网络和循环神经网络构建图卷积循环神经网络GCGRU模型,借助图卷积网络学习城市轨道网络的复杂拓扑结构,进而捕捉空间关联特征,通过循环神经网络变体门控循环单元学习多特征客流量的趋势变化规律从而捕捉时间特征.利用上海市1年的全网地铁断面客流量展开研究,并...     

基于图卷积的计算机辅助设计模型分类

计算机辅助设计(CAD)模型是一种带有顶点信息和网格信息的三维数据,三维模型数据存储方式常见的有点云、体素、网格模型等是典型的非欧氏空间数据。为了改进现有方法利用深度学习训练CAD模型的分类时,常有丢失局部信息或局部信息提取不足的情况。针对这种非欧氏空间的CAD数据,提出了一个结合CAD数据本身特点的基于图卷积的分类模型。首先通过图卷积网络(GCN)计算顶点的邻接矩阵和顶点的度矩阵。针对CAD模型的特点提出了不同于K近邻(KNN)的方法,直接根据CAD模型面片信息构建计算所需的邻接矩阵。其次,图卷积网络可以聚合邻近顶点的信息,设计通过拼接两层图卷积网络来提取不同尺度的局部特征。结果表明:在ModelNet40 CAD模型数据集上,若采用CAD模型面片信息建图的方法,本文方法为91.2%。而采用KNN建图的方法虽然比PointNet++模型低1%的精确度,比KD-NET模型低0.9%的精确度,但参数量要比PointNet++减少0.54 MB,比KD-NET减少6.54 MB。可见本文模型结合了CAD模型的特点和图卷积聚合邻接顶点提取局部信息的优势,使得分类的精确度相比PointNet++提高0.6%,用更少的模型参数量得到了更高的分类精确度。     

融合多源图信息的图神经网络会话推荐算法

现有的基于图神经网络的会话推荐算法通过将会话序列构筑为图形结构捕捉项目转换关系,能够有效提高推荐性能.然而多数图神经网络及其改进模型在建模会话时仅考虑会话序列中项目的单次转换关系,忽略了会话中包含的大量有效信息,同时缺乏对项目间隐藏关联性的分析.因此提出融合多源图信息的图神经网络会话推荐算法.将用户重复行为信息,项目内容关联信息纳入到会话图建模过程当中,有效提取项目更深层次的复杂转换关系,并通过线性转换进行聚合.此外采用外部注意力机制辅助获取会话序列项目隐藏关联信息,使得生成的会话向量在推荐过程中更加精确.在真实数据集Yoochoose和Diginetica上进行实验,实验结果表明该模型优于基准模型,特别地,相较于SR-GNN模型在MRR@20指标上提高了12.50%,能更好地预测用户的下一次点击项目.     

结合上下文词汇匹配和图卷积的材料数据命名实体识别

材料领域的文献中蕴含着丰富的知识, 利用机器学习和自然语言处理等手段对文献进行数据挖掘是研究热点. 命名实体识别(named entity recognition, NER)是高效利用挖掘和抽取数据中信息的首要步骤. 为了解决现有实体识别方法中存在的向量表示无法解决一词多义、模型常提取上下文特征而忽略全局特征等问题, 提出了一种基于上下文词汇匹配和图卷积命名实体识别方法. 该方法首先利用 XLNet 获取文本的上下文动态特征, 其次利用长短期记忆网络并结合文本上下文匹配词汇的图卷积神经网络(graph convolutional network, GCN)模型分别获取上下文特征与全局特征, 最终经过条件随机场输出标签序列. 2 种不同语料对模型进行验证的结果表明, 该方法在材料数据集上的精确率、召回率和 F1 值分别达到 90.05%、88.67% 和 89.36%, 可有效提升命名实体识别的准确率.