结构学习,进入 N:M 约束
SCHTs 将动态稀疏训练与细粒度、粗粒度 N:M 半结构化约束结合,探索能够衔接硬件计算模式的网络结构。
从模型到计算架构
官方摘要报告,所测脉冲神经网络在 90% 稀疏度下准确率超过稠密对照。研究也通过周期精确仿真探索 Trapezoid 架构的索引与计算效率。
对 SparseMind 的意义
研究将“学出怎样的结构”与“硬件如何执行”放入同一问题。它为模型—硬件协同提供研究依据,具体系统收益仍与平台、模型及执行环境相关。
依据会议官方摘要整理;具体实验配置与图表请参阅论文原文。