基于显著位置交互Transformer的小样本图像分类方法

来源：计算机工程杂志2026年第2期北京时间：

作者：宋朝琦, 刘颖, 何敬鲁, 李大湘

单位：1. 西安邮电大学图像与信息处理研究中心, 陕西 西安 7101212. 陕西省法庭科学电子信息实验研究中心, 陕西 西安 7101213. 陕西省无线通信与信息处理技术国际合作研究中心, 陕西 西安 710121

摘要：图像分类作为计算机视觉的基础任务, 目前在大规模数据集上的研究已取得显著成效。然而, 在低样本量数据条件下, 传统的深度学习方法受制于过拟合问题, 影响模型的泛化能力。为此, 设计一种新颖的小样本图像分类方法, 用于提升模型在样本数据稀缺时的分类性能。该方法基于显著位置相互作用Transformer与目标分类器, 借鉴ViT(Vision Transformer)模型的结构和优势, 引入具有显著位置选择的相互作用多头自注意力(HI-MHSA)模块, 同时增加对多头自注意力模块中各个注意力头之间的交互, 强化模型对输入图像中显著区域的关注, 节省计算资源, 并通过目标分类器的监督指导, 进一步提升模型的学习效率和准确性。实验结果表明, 在miniImageNet、tieredImageNet以及CUB数据集上, 该方法在5-way 1-shot任务中分类准确率分别约为67.09%、72.07%和79.82%, 在5-way 5-shot任务中分类准确率分别约为83.54%、85.62%和90.35%。实验结果显示, 该方法在小样本图像分类任务中具有优秀的性能和高度的实用性。

关键词：小样本图像分类,Transformer,注意力机制,小样本分类器,显著位置选择

基金资助：国家自然科学基金(62301427)