一种基于Transformer特征金字塔的自蒸馏目标分割方法

来源：电子与信息学报杂志2025年第2期北京时间：

作者：陈雷, 杨吉斌, 曹铁勇, 郑云飞, 王杨, 张波, 林振华, 李文斌

单位：1.陆军工程大学指挥控制工程学院 南京 2100072.31150部队 南京 2100003.陆军炮兵防空兵学院南京校区 南京 2100004.国防科技大学外国语学院 南京 2100005.94895部队 汕头 515800

摘要：为在不增加网络参数规模的情况下提升目标分割性能，该文提出一种基于Transformer特征金字塔的自蒸馏目标分割方法，提升了Transformer分割模型的实用性。首先，以Swin Transformer为主干网构建了像素级的目标分割模型；然后，设计了适合Transformer的蒸馏辅助分支，该分支由密集连接空间空洞金字塔(DenseASPP)、相邻特征融合模块(AFFM)和得分模块构建而成，通过自蒸馏方式指导主干网络学习蒸馏知识；最后，利用自上而下的学习策略指导模型学习，以保证自蒸馏学习的一致性。实验表明，在4个公开数据集上所提方法均能有效提升目标分割精度，在伪装目标检测(COD)数据集上比次优的Transformer知识蒸馏(TKD)方法的Fβ值提高了约1.57%。

关键词：自蒸馏, Transformer, 目标分割, 特征金字塔

基金资助：国家自然科学基金(61801512, 62071484)，江苏省优秀青年基金(BK20180080)，陆军工程大学基础前沿项目(KYZYJKQTZQ23001)，国防科技大学2021年校立科研项目(ZK21-43)