基于双向门控机制和层次注意力的方面级情感分析

针对传统情感分析模型将单词或词语作为单一嵌入,而忽略句子之间依存信息和位置信息的问题,提出基于双向门控机制和层次注意力的方面级情感分析模型（Based on Bi-GRU and Hierarchical Attention,BGHA）。首先,将文本数据转成词向量再加入位置编码信息,得到包含位置和语义信息的词向量后通过双向门控机制提取上下文特征;接着,分别在单词注意力层和句子注意力层用注意力机制对特征分配权重,突出重点词和重点句信息;最后,结合给定的方面信息选择性提取与其较匹配的情感特征。在SemEval 2014、SemEval 2016和Twitter短文本评论数据集上的实验结果表示,BGHA模型的准确率对比其他模型都有不同程度的提高,证明了模型的有效性。     

基于BERT融合多模块的方面级情感分析

现有的BERT模型大多关注初始层到中间层的语法信息,而更高层的语义信息往往被忽略。由于判断句子情感是需要语义的,本研究在BERT模型的基础上加入并行聚合和层次聚合两个模块,分别用于方面抽取（AspectExtraction, AE）和方面情感分类（Aspect Sentiment Classification, ASC）。同时选择条件随机场（Conditional Random Fields,CRF）作为序列标记任务,从而提取到更多的语义信息。在SemEval 2014、SemEval 2016数据集上的实验结果显示,微调后的模型准确率和F1值均优于对比模型,证实了该模型的有效性。