来源:期刊VIP网 时间:
作者:呼伟;杨鸿杰;徐巧枝;智敏;萨和雅;于磊;
单位:内蒙古师范大学计算机科学技术学院;内蒙古自治区人民医院;
摘要:近年,基于Transformer的脑胶质瘤自动分割模型在性能上有了很大提升,但其存在参数量多、算力要求高、样本需求大、训练困难等问题,影响了模型的实际部署,为此提出一种轻量级的MRI脑胶质瘤分割模型MNATSPNet。首先,设计了一个轻量级组件MobileNAT,通过邻接注意力机制降低Transformer多头自注意力的复杂度。其次,引入L1结构化剪枝操作去除MobileNAT中多头邻接注意力和前馈神经网络层的冗余参数,实验结果证明了MobileNAT与结构化剪枝操作既可有效降低模型的参数量,又保持了稳定的分割性能。最后,通过与其他经典模型进行对比,MNATSPNet取得最佳效果。
关键词:脑胶质瘤分割;;注意力机制;;Transformer;;轻量化;;结构化剪枝
基金资助:国家自然科学基金项目(81660117);; 内蒙古自治区自然科学基金项目(2021MS06031);; 内蒙古师范大学基本科研业务费专项(2022JBYJ034);; 内蒙古自治区“十四五”社会公益领域重点研发和成果转化计划项目(2022YFSH0010);; 无穷维哈密顿系统及其算法应用教育部重点实验室开放课题项目(2023KFYB06)