基于线性注意力机制的单样本生成对抗网络研究

来源：计算机工程与科学杂志2022年第11期北京时间：

作者：陈曦, 赵红东, 杨东旭, 徐柯南, 任星霖, 封慧杰

单位：（1.河北工业大学电子信息工程学院，天津 300401;2.光电信息控制和安全技术重点实验室，天津 300308）

摘要：目前，使用单样本训练生成对抗网络已经成为研究人员关注的重点。但是，网络模型不容易收敛，生成的图像结构易崩塌，训练速度慢等问题依旧亟待解决。研究人员提出在生成对抗网络中使用自注意力模型用以获取样本更大范围的结构，提高生成图像的质量。但是，传统的卷积自注意力模型由于注意力图谱中的信息冗余，容易造成计算资源浪费。提出了一种新的线性注意力模型，在该模型中使用了双重归一化方法来缓解注意力模型对输入特征敏感的问题，并且基于该模型搭建了一种新的单样本生成对抗网络模型。此外，模型还使用了残差网络和光谱归一化方法用于稳定训练，降低了发生崩塌的风险。实验结果表明，相较于使用已有的网络结构，该模型具有训练速度快，生成图像的分辨率高且评价指标改善明显等特点。

关键词：生成对抗网络,单样本,线性注意力模型,自注意力机制,光谱归一化,

基金资助：光电信息控制和安全技术重点实验室基金（614210701041705）