我们的服务符合学术规范和道德
专业 高端让您使用时没有后顾之忧

西北大学学报(自然科学版)2024年第02期:嵌入混合注意力机制的Swin Transformer人脸表情识别

来源:期刊VIP网 时间:


作者:王坤侠;余万成;胡玉霞;

单位:安徽建筑大学电子与信息工程学院;安徽省古建筑智能感知与高维建模国际联合研究中心;

摘要:人脸表情识别是心理学领域的一个重要研究方向,可应用于交通、医疗、安全和刑事调查等领域。针对卷积神经网络(CNN)在提取人脸表情全局特征的局限性,提出了一种嵌入混合注意力机制的Swin Transformer人脸表情识别方法,以Swin Transformer为主干网络,在模型Stage3的融合层(Patch Merging)中嵌入了混合注意力模块,该方法能够有效提取人脸面部表情的全局特征和局部特征。首先,层次化的Swin Transformer模型可有效获取深层全局特征信息。其次,嵌入的混合注意力模块结合了通道和空间注意力机制,在通道维度和空间维度上进行特征提取,从而让模型能够更好地提取局部位置的特征信息。同时,采用迁移学习方法对模型网络权重进行初始化,进而提高模型的精度和泛化能力。所提方法在FER2013、RAF-DB和JAFFE这3个公共数据集上分别达到了73.63%、87.01%和98.28%的识别准确率,取得了较好的识别效果。

关键词:表情识别;Transformer;注意力机制;迁移学习

基金资助:国家自然科学基金青年项目(62105002); 安徽省住房城乡建设科学技术计划项目(2023-YF113,2023-YF004); 安徽建筑大学智能建筑与建筑节能安徽省重点实验室开放课题(IBES2022ZR02)