来源:期刊VIP网 时间:
作者:吕佳;董保森;曾梦瑶;
单位:重庆师范大学计算机与信息科学学院;重庆师范大学重庆市数字农业服务工程技术研究中心;
摘要:针对基于度量学习的小样本学习分类模型存在对样本关键特征提取能力不足以及原型在度量空间中特征姿态完整性缺失的问题,提出了一个基于可变形自注意力的自适应原型算子互学习模型。利用可变形卷积自适应地将自注意力中查询向量和键值向量的感受野引导至重点区域,为自注意力提供更准确的上下文语义信息,进而动态捕获样本的关键特征;在考虑原型全局信息的基础上构建多个局部原型算子以获取局部信息,利用互学习的思想融合原型特征的全局信息和局部信息,补全原型在度量空间中的特征姿态;联合全局损失函数和局部损失函数对模型参数进行反向更新。文中使用ResNet10和ResNet12分别在2个小样本公用数据集上进行实验:在miniImageNet数据集上,所提出模型的分类准确率相较基准提升了2.31%~2.58%;在CUB数据集上,所提出模型的分类准确率相较基准提升了1.38%~2.96%。实验表明,该模型在不同粒度的数据集上,针对不同的骨干网络均有不同程度的性能提升。
关键词:小样本学习;;度量学习;;元学习;;可变形自注意力;;互学习
基金资助:国家自然科学基金重大项目(编号:11991024);; 重庆市教委“成渝地区双城经济圈建设”科技创新项目(编号:KJCX2020024);重庆市教委科研项目重点项目(编号:KJZD-K202200511);; 重庆市高校创新研究群体资助项目(编号:CXQT20015)