基于多并行计算和存储的 CNN 加速器

来源：计算机技术与发展杂志2019年第07期北京时间：

作者：李宗凌;汪路元;禹霁阳;程博文;郝梁;张伟功

摘要：根据深度卷积神经网络(CNN)前向推理结构特点,设计了基于多并行计算和存储的深度卷积神经网络加速器,从运算效率与数据重用两个角度分析了卷积运算的并行特征,并研究了全连接层的全并行流水实现方式。 该加速器采用并行流水结构提升计算效率,在卷积层运算中,充分利用多种卷积运算并行架构平衡运算效率与参数及数据载入带宽的需求,通过三种加速方式实现卷积层内全流水加速;在全连接层运算中,将乘累加运算设计成全流水处理架构,流水延时不超过 20 个处理时钟,并通过并行计算实现 16 倍加速。在基于ImageNet公开数据集验证实验中,该加速器每周期最多运行 2 304 次乘累加运算,在 150MHz 的工作频率下,峰值运算速率达到 691.2 Gops,能效比为 i7-6700-CPU 的2 700 倍以上,为 GTX-1050-GPU 的 290 倍以上。 该加速器在硬件资源、计算精度、速度以及功耗等多方面达到良好平衡,便于在星载嵌入式环境应用。

关键词：卷积神经网络;并行计算和存储;加速器;VGG-16 模型;现场可编程逻辑器件