|
|||||
|
|
| 基于BERT-AWC的文本分类方法研究 | |
| 引用本文： | 李金彪,侯进,李晨,陈子锐,何川.基于BERT-AWC的文本分类方法研究[J].微电子学与计算机,2022(6):41-50. |
| 作者姓名： | 李金彪 侯进 李晨 陈子锐 何川 |
| 作者单位： | 1. 西南交通大学信息科学与技术学院智能感知智慧运维实验室;2. 西南交通大学综合交通大数据应用技术国家工程实验室;3. 西南交通大学计算机与人工智能学院 |
| 基金项目： | 四川省科技计划项目(2020SYSY0016)； |
| 摘 要： | 针对现有文本分类算法处理中文数据时存在的分类精度低、参数量庞大、模型难训练等问题，对BERT算法进行了优化.BERT算法处理中文文本时无法提取词向量特征，为此提出了均匀词向量卷积模块AWC.通过在传统卷积神经网络中引入注意力机制来提取可靠词向量特征，再进一步获取到文本的局部特征，由此弥补了BERT模型无法提取词向量的缺... |
| 关 键 词： | 文本分类 注意力机制 卷积神经网络 混合注意力机制 |