基于Intel平台的Winograd快速卷积算法研究与优化

来源：计算机研究与发展杂志2019年第4期北京时间：

作者：武铮,安虹,金旭,迟孟贤,吕国锋,文可,周鑫,

摘要：随着深度学习的快速发展，其在语音处理、图像识别和自然语言理解等领域被广泛应用，为科研产业以及日常生活带去了巨大的变革.Intel紧跟深度学习的浪潮，推出了第2代XeonPhi处理器KNL(knightslanding)，其后又发布了第3代XeonPhi处理器KNM(knightsmill)，为深度学习的蓬勃发展带去了新的活力.通过在Intel平台上进行快速卷积算法Winograd的研究与优化，对比IntelMKL(mathkernellibrary)DNN(deepneuralnetwork)中的卷积性能，推动IntelMKLDNN中深度神经网络接口的完善以及Intel平台上深度学习的发展.研究中结合Intel最新深度学习平台的AVX-512指令集、高速内存MCDRAM、多Memory/SNC模式、二维网格状内核结构等特性，并通过对内存分配、数据调度等情况的分析，设计优化Winograd算法，一方面选取典型的卷积神经网络(convolutionalneuralnetwork,CNN)网络模型VGG19，测试对比IntelMKLDNN的卷积实现，最终取得了2倍多的性能加速比；另一方面，通过测试常用卷积类型，对比IntelMKLDNN和NVIDIAcuDNN，验证了实现的Winograd对于常用卷积类型具有很好的适用性且具有实际使用价值.该研究工作期望为Intel平台在深度学习领域的发展提供重要的指导意义.

关键词：Winograd, 深度学习, 深度神经网络, 卷积神经网络, 向量化,