来源:期刊VIP网 时间:
作者:徐仁楷;李艳婷;潘尔顺;
单位:上海交通大学机械与动力工程学院;
摘要:短文本由于其长度较短,常见的分类模型难以提取其中有效的文本结构和语义信息,导致模型性能下降。针对这一问题,提出了一种结合主题信息的图卷积神经网络与提示学习的短文本分类模型TGCNPL。该模型通过基于伪文档的主题建模(PTM)挖掘文本的潜在主题结构,并将这些主题信息融入图卷积神经网络中,以实现对文本全局结构特征的提取。同时,将PTM得到的主题信息与提示学习方法相结合,弥补短文本语义稀疏的问题,并利用预训练语言模型提取完善后的文本语义特征。最后,结合将通过图卷积神经网络获得的结构信息和预训练语言模型提取的语义信息,建立分类模型。在四个英文短文本数据集上的多次实验结果表明,TGCNPL模型相比基线模型具有更优越的分类性能。
关键词:短文本分类;;主题建模;;图卷积神经网络;;提示学习;;预训练语言模型