融合知识蒸馏与迁移学习的小样本学习方法
来源：计算机应用与软件杂志2025年第4期北京时间：
作者：黄友文, 胡燕芳, 魏国庆
摘要：针对样本数量过少易造成深度模型在训练数据上过拟合的问题，提出一种融合知识蒸馏与迁移学习的小样本学习方法。该文设计多代蒸馏网络结构，提高误差网络对小样本图像的特征表达能力；通过改进的迁移学习结构调整少量参数，进一步提升网络的泛化能力；结合多分类器对经过蒸馏和迁移得到的网络进行融合。在三个数据集上的实验结果表明，所提方法能够有效提高模型在新任务上的分类性能，使得小样本预测结果更加准确。
关键词：小样本学习, 图像分类, 知识蒸馏, 迁移学习, 集成学习
