面向商用存算一体架构矩阵乘算子协同优化策略研究

来源：电子与信息学报杂志2025年第9期北京时间：

作者：贺煜凯, 谢童欣, 朱振华, 高岚, 李冰

单位：1.首都师范大学信息工程学院 北京 1000482.清华大学电子工程系 北京 1000843.中国科学院微电子研究所 北京 100029

摘要：由于近存架构对数据密集型程序加速的潜力，Samsung等公司推出基于高带宽存储器与存内计算(HBM-PIM)的近存芯片用于大模型加速，得益于HBM的高带宽和天然并行特性，近存计算表现出对大模型极佳的加速。该文发现，矩阵规模变化时，HBM-PIM架构的加速性能表现出不稳定性，限制了大模型部署的加速提升。为了释放HBM-PIM的加速潜力，该文深度分析了不同规模算子在HBM-PIM上性能差异的根本原因在于当前HBM-PIM对矩阵乘数据划分、映射和执行的支持不足，进而提出融合动态Bank分配、奇偶Bank交错式地址映射与分片虚拟化计算优化方法，有效提高了资源利用率和计算并行性。评估结果表明，所提方法对不同规模的矩阵计算都取得了1.894～8.225的加速比，相比优化前，性能平均提升了2.7倍。该文所提方案有效增强了PIM体系结构在多尺度任务下的可扩展性与适配能力，为AI算子在存内计算平台上的高效映射与调度提供了有益参考。

关键词：存算一体, 算子性能优化, 矩阵乘算子, 数据并行, 地址映射策略

基金资助：国家自然科学基金(62204164)