《计算机工程杂志》发表论文赏析

面向深度学习推理的矩阵乘法加速器设计

来源:计算机工程杂志2019年第10期北京时间:

作者:冉德成, 吴东, 钱磊

单位:数学工程与先进计算国家重点实验室, 江苏 无锡 214125

摘要:为满足深度学习推理中对不同规模矩阵乘法的计算需求,提出一种基于Zynq SoC平台的整数矩阵乘法加速器。采用基于总线广播的并行结构,充分利用片上数据的重用性并最小化中间累加结果的移动范围,以降低外部DRAM的访问需求。通过动态调整矩阵分块的大小,使加速器在计算形状不规则的矩阵乘时保持较高效率。实验结果表明,在DeepBench测试基准下,该加速器可对双核ARM Cortex-A9 CPU的矩阵乘运算实现8.4倍的加速效果。

关键词:整数矩阵乘法,加速器,可编程片上系统,深度学习推理,分块方案,DeepBench测试

基金资助:国家自然科学基金(61732010)。

填文献完整题目 获取完整文献

填写需求
联系方式
注:学术顾问会在1小时内联系您,请留意!