来源：期刊VIP网 时间：
作者：王坤朋;禹龙;王博;周铁军;田生伟;
单位：新疆大学软件学院;新疆大学网络与信息技术中心;新疆互联网信息中心;
摘要：针对BERT预训练与下游任务微调阶段存在不匹配差异，以及人工对文本数据进行情感倾向性标注可能存在误差的问题，提出一种基于MacBERT和标签平滑的网络模型(MacLMC).首先，在BERT的基础上引入MLM as correction策略，利用近义词替换被掩码词，通过MacBERT预训练模型获取词向量；其次，经过双层LSTM学习长距离依赖；再次，采用双通道多卷积核的卷积操作，分别提取信息的最大特征和均值特征；最后，利用标签平滑策略降低模型预测类别的概率，提升模型对于标签的容错能力，提高模型泛化性.实验结果表明：与现有主流模型相比，本文模型在多种数据集上性能表现更佳，能够更好地用于新冠疫情公众情感分析任务.
关键词：新冠疫情;;MacBERT;;标签平滑;;情感分析
基金资助：新疆维吾尔自治区重大科技专项(2020A03004-4);; 新疆维吾尔自治区重点研发项目(2021B01002);; 国家自然科学基金重点项目(U2003208)
