来源:期刊VIP网 时间:
作者:何富威;张仕斌;卢嘉中;李晓瑜;
单位:成都信息工程大学网络空间安全学院(芯谷产业学院);先进密码技术与系统安全四川省重点实验室;先进微处理器技术国家工程研究中心(工业控制与安全分中心);喀什地区电子信息产业技术研究院;
摘要:基于事实信息的核查是目前不实信息核查研究的主流方法,但现有研究成果还存在文档检索中抽取的文档内容与待检测声明相关度不高、证据检索中忽略了句子间的内在联系以及声明验证中小语言模型的逻辑推理能力不足等问题。基于此,提出了一种融合大语言模型和证据抽取的事实核查模型。为提高待检测声明与文档内容的相关度,提出了DRCV(Document Retrieving for Claim Verification)文档检索算法;为了从文档中提取与声明最相关的句子作为证据,构建了“文档-声明对”训练证据检索模型,提出了基于关键词-注意力机制的证据检索方法;为增强模型的逻辑推理能力和提高事实核查的准确度,开发了基于大语言模型的声明验证模型,该模型选取参数量从5亿至1 300亿的七款大语言模型对声明进行验证,并利用其逻辑推理能力核查声明的事实性。基于真实数据集对提出的事实核查模型进行仿真实验,结果表明该模型进行事实核查的准确率比仅使用大语言模型高0.1%~34.0%,且比现有效果最好的模型准确率高1.8%。
关键词:虚假信息检测;;证据抽取;;事实核查;;大语言模型
基金资助:国家重点研发计划(2022YFB3103103);; 国家自然科学基金(62076042);; 四川省重点研发计划项目(2022YFS0571);; 成都市重点研发项目(2023-XT00-00002-GX)