《电子与信息学报杂志》发表论文赏析
作者:李源堃, 王泽, 张清天, 高滨, 吴华强
单位:清华大学集成电路学院 北京 100084
摘要:基于忆阻器(RRAM)的存算一体(CIM)芯片被认为是解决卫星任务在轨智能处理过程中功耗受限与效率瓶颈的一条重要出路,在提升深度神经网络推理效率方面展现出巨大潜力。然而面向星上处理任务的复杂性,RRAM-CIM架构需要探索匹配的神经网络结构来发挥其能效优势。在 RRAM-CIM 场景下,现有方法在任务性能搜索中多采用基于随机采样的一次性训练,容易导致训练过程不稳定;在硬件性能建模上则常依赖预测器或算子级建模,前者需要高昂的初始成本,后者则忽视了网络整体的硬件表现。为此,该文提出NAS4CIM搜索框架,并引入半解耦式蒸馏增强的梯度系数超网训练方法(DDE-GSCST),有效缓解候选算子间的干扰问题,提高搜索过程的稳定性和鲁棒性。同时,该文采用基于Top-K统计的算子选择策略,在保证任务精度的同时显著优化了硬件性能。在CIFAR-10与ImageNet数据集上的实验表明,该方法在相同硬件架构下较现有方法提升2.2%的最优精度,并降低33.3%的能耗-延迟积(EDP)。此外,基于真实RRAM宏单元的实片测试结果与仿真结果一致,进一步验证了方法的有效性。
关键词:存算一体, 忆阻器, 神经网络结构搜索, DDE-GSCST, 硬件-算法协同
基金资助:国家自然科学基金联合资助基金 (U2341221)