基于知识蒸馏的图像异常检测方法

来源：计算机技术与发展杂志2024年第05期北京时间：

作者：王纪康;赵旭俊

摘要：图像异常检测中模型的浅层架构对细微差异有较弱的检测能力,寻找有效的特征表示来区分正负样本是一个挑战。 为此,提出了一种新的基于知识蒸馏的图像异常检测方法。 该方法提出一种新的知识蒸馏框架,由 T-S 模型和单类嵌入模块组成,通过迁移学习泛化新异常。 首先,高容量的 wide_resnet50_2 网络作为教师网络,通过单类嵌入模块在最低层次将多尺度特征聚合,保留普遍性和空间分辨率,增强了蒸馏模型对异常的表示能力。 其次,嵌入注意力机制的工作上,在保持网络结构完整性的同时,为预训练参数的有效利用提供了新的视角,提高了模型的性能。 最后,提出了一种新的异常表示方法,计算每对张量的余弦相似损失,累计多尺度异常得到异常分数图。 实验结果表明,该方法在 MVTec 数据集的纹理和物体类别上,平均 AUC 值分别达到了 97. 8% 和 95. 5% ,对图像中的细微异常具有优秀的检测能力。

关键词：图像异常检测;残差网络;知识蒸馏;注意力机制;迁移学习