来源:期刊VIP网 时间:
作者:廖薇;李启行;徐震;孟静雯;
单位:上海工程技术大学电子电气工程学院;上海工程技术大学机械与汽车工程学院;
摘要:针对大多数卷积神经网络(convolutional neural networks,CNN)与循环神经网络(recurrent neural network,RNN)结合的CNN-RNN文本分类模型采用单通道模式极大限制了模型对文本特征提取能力的问题,提出一种基于特征重利用的双通道文本分类模型。首先,模型在RNN通道中利用长短期记忆(long short-term memory,LSTM)神经网络与门控循环单元(gate recurrent unit,GRU)网络共同提取文本的上下文语义信息,同时利用CNN通道提取文本的局部特征;其次,在2个通道中分别引入注意力机制,以使模型能准确关注到文本中的关键词。此外,在RNN通道中对模型进行改进,实现原始特征的重利用,进一步增强模型对全局特征的提取能力。在THUCNews数据集上的评估结果显示,所提模型的分类准确率可达96.61%,取得了更好的分类效果。
关键词:文本分类;;注意力机制;;双通道;;特征提取;;特征重利用
基金资助:国家自然科学基金项目(编号:62001282);; “上海高校青年东方学者”岗位计划资助项目(编号:QD2017043)