渐进式融合知识蒸馏的工业异常检测方法

来源：电子测量技术杂志2026年第5期北京时间：

作者：赵智斌，王浩，朱建光，薛丹

单位：沈阳工业大学信息科学与工程学院 沈阳 110872

摘要：为解决知识蒸馏异常检测模型中出现知识冗余的问题，本文提出一种渐进式知识融合蒸馏的工业检测方法。本文采用反向知识蒸馏作为检测模型的基础网络，虽然反向知识蒸馏能阻止异常表征传播至学生网络，但是该方法下学生网络获取的知识不仅复杂且冗余，难以保证学生网络能够重建出对应的浅层表征。为转化教师网络输出的高层次复杂且冗余的信息，提出了渐进式知识融合机制。为转化复杂表征，该机制将基础几何知识逐步迁移至深层语义知识，促进学生网络有效地学习特征表示；为剔除多级教师网络输出的信息中的冗余知识，该机制采用可学习的特征权重分配方式，促进了学生网络重建，实现了模型异常检测能力的提升。该方法在MVTec AD数据集上进行实验，实验结果显示，在数据集各个类别下的评价指标AUROC-image为99%，AUROC-pixel为97.9%，AUPRO为94.8%，超越了绝大部分目前主流的检测模型，验证了方法的有效性和优越性。

关键词：知识蒸馏;异常检测;渐进式融合

基金资助：辽宁省教育厅基本科研面上项目（JYTMS20231213）、辽宁省科技计划联合计划面上项目（2024-MSLH-349）、国家自然科学基金 （62301339）、辽宁省科技厅联合计划项目 （2023JH2/101700279）资助