改进Transformer模型的语音识别轻量化设计

来源：计算机工程与应用杂志2025年第16期北京时间：

作者：王艳红, 赵亮, 王官军

单位：1.西南科技大学 信息工程学院，四川 绵阳 621010；2.浙江芯劢微电子股份有限公司 成都分公司，成都 610041

摘要：语音识别作为AI的重要应用分支近年来取得了显著的成果，其中基于Transformer模型的语音识别发展尤为突出。然而Transformer模型较大的参数量和较高的计算复杂度，难以在边缘设备上实现部署，因此设计轻量化的Transformer模型用于语音识别部署是亟需解决的问题。设计了一种轻量化Transformer模型，通过将Query、Key、Value的线性操作替换为轻量级卷积操作，优化多头注意力机制以改善注意力分布，并在前馈神经网络中引入分块低秩分解以最大化模型压缩。实验结果表明，在AISHELL-1和LRS2数据集上，该模型在同等条件下模型大小减少68.03%，参数量减少67.06%，错词率相对降低23.19%。

关键词：Transformer,语音识别,轻量化,模型压缩,深度学习