| 基于XLNet-BiLSTM的中文电子病历命名实体识别方法 |
| |
| 引用本文： | 沈宙锋,苏前敏,郭晶磊.基于XLNet-BiLSTM的中文电子病历命名实体识别方法[J].智能计算机与应用,2021,11(8):97-102. |
| |
| 作者姓名： | 沈宙锋 苏前敏 郭晶磊 |
| |
| 作者单位： | 上海工程技术大学电子电气工程学院,上海201620;上海中医药大学基础医学院,上海201203 |
| |
| 摘 要： | 中文临床电子病历命名实体识别是实现智慧医疗的基本任务之一.本文针对传统的词向量模型文本语义表示不充分,以及循环神经网络(RNN)模型无法解决长时间依赖等问题,提出一个基于XLNet的中文临床电子病历命名实体识别模型XLNet-BiLSTM-MHA-CRF,将XLNet预训练语言模型作为嵌入层,对病历文本进行向量化表示,解决一词多义等问题;利用双向长短时记忆网络(BiLSTM)门控制单元获取句子的前向和后向语义特征信息,将特征序列输入到多头注意力层(multi-head attention,MHA);利用MHA获得特征序列不同子空间表示的信息,增强上下文语义的关联性,同时剔除噪声;最后输入条件随机场CRF识别全局最优序列.实验结果表明,XLNet-BiLSTM-Attention-CRF模型在CCKS-2017命名实体识别数据集上取得了良好的效果.
|
| 关 键 词： | 电子病历 命名实体识别 XLNet 多头注意力 |
Named entity recognition model of Chinese clinical electronic medical record based on XLNet-BiLSTM |
| |
| SHEN Zhoufeng,SU Qianmin,GUO Jinglei.Named entity recognition model of Chinese clinical electronic medical record based on XLNet-BiLSTM[J].INTELLIGENT COMPUTER AND APPLICATIONS,2021,11(8):97-102. |
| |
| Authors: | SHEN Zhoufeng SU Qianmin GUO Jinglei |
| |
| Abstract: | |
| |
| Keywords: | |
| 本文献已被 万方数据 等数据库收录！ |
|
