面向硬件效率的半结构化动态稀疏训练
将动态稀疏学习与 N:M 结构约束结合,连接模型训练与硬件设计。
论文原题
SCHTs: A Semi-Structured Dynamic Sparse Training Framework for Hardware-Efficient Deep Learning
智能,学习构建自身的结构。连接决定信息如何流动,CHT 以局部网络拓扑引导连接再生,让结构在稀疏训练中演化。
权重描述连接的强度,拓扑描述哪些单元相连。CHT 研究如何在学习中组织这些连接。核心并非一个静止的稀疏网络,而是一条结构持续更新的训练路线。
阅读 NeurIPS 2025 论文汇集已核验的 CHT 核心论文、公开预印本、理论基础与相关稀疏学习研究。相同研究的版本合并呈现;预印本与正式发表状态分别标明。
将动态稀疏学习与 N:M 结构约束结合,连接模型训练与硬件设计。
SCHTs: A Semi-Structured Dynamic Sparse Training Framework for Hardware-Efficient Deep Learning
以通道级拓扑扩展 CHT 在卷积网络中的应用。
Cannistraci-Hebb Channel-wise Dynamic Sparse Training of Convolutional Neural Networks with Contextual Modulation
将拓扑引导的动态稀疏训练带入脉冲神经网络。
Cannistraci-Hebb Training on Ultra-Sparse Spiking Neural Networks
研究连接稀疏与谱稀疏的对齐协同,扩展参数高效训练路径。
Alignment-Enhanced Integration of Connectivity and Spectral Sparsity in Dynamic Sparse Training of LLM
提出 CHTs24 与动态稀疏再训练流程,将学习结构与硬件格式相衔接。
Cannistraci-Hebb Training with N:M Semi-Structured Sparsity for Pre-Training and Re-Training
提出 CHTs 软规则,将拓扑探索与连接更新带入 Transformer 和语言模型。
Brain network science modelling of sparse neural networks enables Transformers and LLMs to perform as fully connected
建立 ESML 与 CHT 训练框架,研究极少连接下的结构学习。
Epitopological learning and Cannistraci-Hebb network shape intelligence brain-inspired theory for ultra-sparse advantage in deep learning
探索更高稀疏度的 N:M 训练及优化器协同。
Towards NVIDIA 1:4 Semi-Structured 75% Sparsity via Cannistraci–Hebb N:M Dynamic Sparse-to-Sparse Training
研究稀疏训练所得结构如何进入脉冲网络转换流程。
Constructing Brain-Inspired Sparse Topologies for Energy-Efficient ANN-to-SNN Conversion via Cannistraci-Hebb Training
探索卷积权重共享与局部感受野约束下的结构学习;作为早期研究单独列示。
Cannistraci-Hebb Training of Convolutional Neural Networks
拓展基于局部网络结构的链路预测规则,为结构学习提供方法基础。
Adaptive Cannistraci-Hebb Network Automata Modelling of Complex Networks for Path-based Link Prediction
研究局部拓扑驱动的连接生长与网络自组织。
Modelling Self-Organization in Complex Networks Via a Brain-Inspired Network Automata Theory Improves Link Reliability in Protein Interactomes
从脑网络重连研究拓扑学习的科学思想。
Can local-community-paradigm and epitopological learning enhance our understanding of how local brain connectivity is able to process, learn and memorize chronic pain?
将局部社区范式扩展到二分网络的拓扑链路预测。
Common neighbours and the local-community-paradigm for topological link prediction in bipartite networks
研究连接的局部组织如何影响复杂网络中的链路预测。
From link-prediction in brain connectomes and protein interactomes to the local-community-paradigm in complex networks
与 CHT 相衔接的拓扑初始化研究,并非 CHT 本身的替代名称。
A Dendritic-Inspired Network Science Generative Model for Topological Initialization of Connectivity in Sparse Artificial Neural Networks
从谱表示探索参数高效训练,与连接稀疏形成互补方向。
Sparse Spectral Training and Inference on Euclidean and Hyperbolic Neural Networks
研究模型压缩与推理表示,不将其结果等同于 CHT 性能。
Pivoting Factorization: A Compact Meta Low-Rank Representation of Sparsity for Efficient Inference in Large Language Models
核验日期:2026 年 11 月 15 日。以公开原始来源为依据,持续更新。