我们的服务符合学术规范和道德
专业 高端让您使用时没有后顾之忧

现代电子技术2024年第16期:基于SENT改进的远程监督关系抽取方法

来源:期刊VIP网 时间:


作者:赵明;刘胜全;岳柳;

单位:新疆大学软件学院;新疆大学计算机科学与技术学院;

摘要:远程监督关系抽取可以在非人工标注条件下自动构建数据集,而基线模型SENT可以将负训练思想引入到该场景进行关系抽取任务。但基线模型使用双向长短期记忆网络提取特征,主要注重长距离依赖关系的学习,在关注局部上下文中的特征方面存在不足,对于局部特征捕捉不够充分;同时基线模型在负训练训练模型时,未能重点关注与互补标签相关的特征,对互补标签信息的学习不足,这影响了对噪声数据的识别能力。为了解决这些问题,文中引入卷积神经网络,通过卷积核在输入关系序列上进行卷积操作,从而捕捉到输入关系实例中的局部信息,提高模型对于输入数据的局部特征学习能力。针对模型对互补标签特征未能关注的问题,引入逆向注意力机制,通过调整与互补标签相关的隐藏单元的权重,使模型能够有选择性地关注与互补标签相关的信息,从而提高模型对基于互补标签的噪声数据的识别性能,进一步改善模型关系抽取性能。通过NYT10数据集对所设计的方法进行了验证,结果表明,所提方法相较于基线模型在NYT10数据集关系抽取任务中F1值提高了4.84%,有效地提高了模型远程监督关系的抽取能力。

关键词:远程监督;;关系抽取;;基线模型SENT;;负训练;;注意力机制;;互补标签;;深度学习

基金资助:新疆维吾尔自治区重大科技项目(2022A02012-1);; 国家自然科学基金项目(61966034);; 国家重点研发计划项目(2022ZD0115801)