我们的服务符合学术规范和道德
专业 高端让您使用时没有后顾之忧

广西师范大学学报(自然科学版)2025年第03期:基于掩码注意力与多特征卷积网络的关系抽取方法

来源:期刊VIP网 时间:


作者:卢展跃;陈艳平;杨卫哲;黄瑞章;秦永彬;

单位:贵州大学文本计算与认知智能教育部工程研究中心;公共大数据国家重点实验室(贵州大学);贵州大学计算机科学与技术学院;

摘要:关系抽取旨在抽取2个命名实体之间的语义关系。近年来,提示学习通过拼接提示模板并进行掩码预测的方式,统一了预训练语言模型训练和微调过程的优化目标,在关系抽取领域取得优异的性能。然而,固定的提示模板与关系实例间的弱语义关联导致模型对复杂关系的语义感知能力差。针对这一问题,本文提出一种基于掩码注意力与多特征卷积网络的关系抽取方法。该方法采用三仿射注意力机制将提示模板中的掩码与关系实例的语义空间进行交互映射,形成二维掩码语义,并利用多特征卷积网络和多层感知机提取二维掩码语义中的关系信息。该方法通过建立掩码与关系实例间的显式语义依赖,增强提示模型对复杂关系的语义感知能力。该方法在数据集SemEval、SciERC和CLTC上的F_1值分别达到91.4%、 91.2%和82.6%,验证了该方法的有效性。

关键词:自然语言处理;;关系抽取;;提示学习;;三仿射注意力机制;;卷积神经网络

基金资助:贵州省科学技术基金重点项目([2024]003);; 国家重点研发计划(2023YFC3304500);; 国家自然科学基金(62166007)