《计算机工程与科学杂志》发表论文赏析

一种不规则稀疏矩阵的SpMV方法

来源:计算机工程与科学杂志2024年第7期北京时间:

作者:施禹, 董攀, 张利军

单位:(1.国防科技大学计算机学院,湖南 长沙 410073;2.中国人民解放军32228部队24分队,福建 福州 350101)

摘要:稀疏矩阵-向量乘法SpMV是高性能计算领域的关键算子之一,在新兴的深度学习领域中有着重要应用。现有SpMV算子通常采用行列相等的稀疏矩阵,而对于不规则形状稀疏矩阵(行数与列数不等)的研究仍存在空缺,值得进一步深入探讨。相比于行列相等的稀疏矩阵,不规则形状稀疏矩阵凭借其行数与列数不对等的稀疏特点具有进一步优化的空间。因此,针对这种行数与列数不对等的不规则形状稀疏矩阵建立SpMV性能模型,分析得到其出现性能瓶颈的原因在于缓存和内存之间数据交互的带宽不足。同时做了以下2个方面的优化工作:(1)基于常用稀疏矩阵CSR存储格式,提出新型RCSR存储格式,其针对CSR存储格式中一个制约性能的数组进行了变换和压缩,使得SpMV更加高效;(2)结合国产处理器的SIMD指令扩展设计了基于RCSR格式的SpMV优化算法。在国产飞腾处理器上分别使用规则和不规则稀疏矩阵进行测试,在规则稀疏矩阵的情况下,通过采用RCSR存储格式和SIMD加速指令集,以GFLOPS为性能指标,实现了平均83.35%的性能提升;在不规则稀疏矩阵的情况下,性能提升与行列比相关,在行列不对等加剧时,具有更为明显的优化效果。

关键词:稀疏矩阵,不规则矩阵,向量乘法,多核性能,性能优化,

基金资助:国防科技重点实验室稳定支持基金(WDZC20235250111);国家自然科学基金(62002371);国防科技大学基金(ZK21-17)

2024年7期其他文献查阅:

NM-SpMM:面向国产异构向量处理器的半结构化稀疏矩阵乘算法

基于MLIR的数据流模型

MiniBranRAP:极小化分支判断数的AMG粗网格矩阵计算并行算法

面向高密度闪存的内存页大小探索

一种不规则稀疏矩阵的SpMV方法

基于RISC-V的超标量处理器的ROB压缩方法

基于分区层次图的海量高维数据学习索引构建方法

面向56 Gb/s高速SerDes接收机DSP设计

面向服务器无感计算的模型推理服务切换方法研究

一种基于随机森林分类器构建高性能应用程序性能分析模型的方法

基于因果关系的反取证擦除技术检测模型

基于异步分层联邦学习的数据异质性处理方法研究

基于改进北方苍鹰优化随机配置网络的网络流量预测模型

基于度量学习的跨摄像头运动目标重定位方法研究

改进YOLOv7网络在低空遥感图像目标检测中的应用

基于多尺度特征与互监督的拥挤行人检测

一次性条件下的三支序列模式挖掘

命名实体识别研究综述

RIB-NER:基于跨度的中文命名实体识别模型

基于BERT字句向量与差异注意力的短文本语义匹配策略

填文献完整题目 获取完整文献

填写需求
联系方式
注:学术顾问会在1小时内联系您,请留意!