面向小样本学习的动态分布校正方法

来源：计算机技术与发展杂志2023年第06期北京时间：

作者：赵金伟;';任文静;';周锦绣;';黑新宏;'*

单位：1. 西安理工大学 计算机科学与工程学院,陕西 西安 710048;2. 网络计算与安全技术陕西省重点实验室,陕西 西安 710048

摘要：近年来,机器学习在多领域取得巨大成功。 在现实世界的真实场景中,由于采集环境复杂或标注难,使得可用于训练的标准样本很少,导致机器学习模型往往出现过学习或欠学习的问题。 所以,小样本学习是具有挑战性的机器学习问题。 近期人们提出分布校正方法,他们假设特征表示中每个维度都服从高斯分布,利用基类的特征分布来校正新类的特征分布。 然而该方法易引入负迁移现象,并且易于淹没新类本身的特征分布。 为此,该文提出一种动态分布校正方法解决分布校正过程中的负迁移问题。 首先,基于阈值动态地选择近邻基类和远域基类;其次,新类样本的特征经过幂变换的操作后,增加特征标准化处理来消除不同量纲之间的差异;最后,该方法引入参数调节迁移分布与新类特征原分布之间的比例关系来实现新类的特征分布校准。 通过在常规数据集 miniImageNet 和 CUB 上与最新算法和传统算法的大量对比实验表明,该方法可以有效提升小样本分类任务的性能。

关键词：小样本学习;负迁移;分布校正;阈值;动态分布校正