基于FPGA的量化推理CNN加速系统研究与设计

来源：计算机测量与控制杂志2022年第9期北京时间：

作者：何家俊,苏成悦,罗荣芳,施振华,陈堆钰,罗俊丰

单位：广东工业大学物理与光电工程学院

摘要：基于FPGA的量化推理设计了CNN加速系统。通过对主流的深度神经网络结构的运算特性分析，使用(Density-Based Spatial Clustering of Applications with Noise) DBSCAN聚类算法截取阈值的INT8量化推理方法，融合深度神经网络全连接，减少数据运算位宽和压缩网络大小，在准确率损失很小的情况下有效压缩了网络结构。基于LeNet-5、VGG-16与ResNet-50的CNN网络结构，设计出量化CNN加速系统并进行校验。实验结果表明，网络参数和输入特征数据量化精度为8-bits时，网络压缩率在25%的情况下，网络准确率的损失低于1%。在Xilinx XC7K325 平台上量化推理CNN加速系统的运行频率为450 MHz，与其他相似类型的加速器比较，其GOPS性能提升2倍。

关键词：卷积神经网络;量化推理;硬件加速;FPGA;DBSCAN

基金资助：广东省科技计划项目 （2017A020208063）； 广州市科技计划项目 （201804010384）