原创科学

Cannistraci–Hebb
Training

智能,学习构建自身的结构。连接决定信息如何流动,CHT 以局部网络拓扑引导连接再生,让结构在稀疏训练中演化。

从连接的强度,
到连接的组织。

权重描述连接的强度,拓扑描述哪些单元相连。CHT 研究如何在学习中组织这些连接。核心并非一个静止的稀疏网络,而是一条结构持续更新的训练路线。

阅读 NeurIPS 2025 论文
Cannistraci–Hebb TrainingNeurIPS 2025 · 图 1
CHTsI      II      III稀疏初始化
01

稀疏初始化

从稀疏连接结构出发。

论文原图分步阅读 · 查看来源

看见结构如何演化。

CHTs 过程:稀疏初始化、连接移除、网络清理和拓扑引导再生

NeurIPS 2025 · Zhang et al. · 图 1:CHTs 训练流程。点击放大。 来源

01稀疏初始化
02连接移除
03网络清理
04拓扑引导再生
05继续学习

一条原创路线,
多个计算方向。

  • 动态稀疏学习在训练中更新连接,研究稀疏结构如何适应任务。
  • 半结构化训练在 N:M 等结构约束内学习连接,与硬件支持的计算模式衔接。
  • 脉冲神经网络探索连接结构与事件驱动计算的协同。

从科学源头,
到不断延展的研究前沿。

汇集已核验的 CHT 核心论文、公开预印本、理论基础与相关稀疏学习研究。相同研究的版本合并呈现;预印本与正式发表状态分别标明。

CHT 核心研究

2026NeurIPS 2026 · 已录用

面向硬件效率的半结构化动态稀疏训练

将动态稀疏学习与 N:M 结构约束结合,连接模型训练与硬件设计。

论文原题

SCHTs: A Semi-Structured Dynamic Sparse Training Framework for Hardware-Efficient Deep Learning

阅读论文
2026NeurIPS 2026 · 已录用

具有上下文调制的通道级动态稀疏训练

以通道级拓扑扩展 CHT 在卷积网络中的应用。

论文原题

Cannistraci-Hebb Channel-wise Dynamic Sparse Training of Convolutional Neural Networks with Contextual Modulation

阅读论文
2026ICLR 2026

超稀疏脉冲神经网络中的 CHT

将拓扑引导的动态稀疏训练带入脉冲神经网络。

论文原题

Cannistraci-Hebb Training on Ultra-Sparse Spiking Neural Networks

阅读论文
2026ICLR 2026

融合连接稀疏与谱稀疏的大模型动态训练

研究连接稀疏与谱稀疏的对齐协同,扩展参数高效训练路径。

论文原题

Alignment-Enhanced Integration of Connectivity and Spectral Sparsity in Dynamic Sparse Training of LLM

阅读论文
2026CPAL 2026 · PMLR 328

面向预训练与再训练的 N:M 半结构化 CHT

提出 CHTs24 与动态稀疏再训练流程,将学习结构与硬件格式相衔接。

论文原题

Cannistraci-Hebb Training with N:M Semi-Structured Sparsity for Pre-Training and Re-Training

阅读论文
2025NeurIPS 2025

从稀疏结构学习走向 Transformer 与大语言模型

提出 CHTs 软规则,将拓扑探索与连接更新带入 Transformer 和语言模型。

论文原题

Brain network science modelling of sparse neural networks enables Transformers and LLMs to perform as fully connected

阅读论文
2024ICLR 2024

CHT 与超稀疏优势的原创研究

建立 ESML 与 CHT 训练框架,研究极少连接下的结构学习。

论文原题

Epitopological learning and Cannistraci-Hebb network shape intelligence brain-inspired theory for ultra-sparse advantage in deep learning

阅读论文

CHT 预印本与研究报告

2026预印本 · v1

迈向 1:4 半结构化稀疏训练

探索更高稀疏度的 N:M 训练及优化器协同。

论文原题

Towards NVIDIA 1:4 Semi-Structured 75% Sparsity via Cannistraci–Hebb N:M Dynamic Sparse-to-Sparse Training

阅读论文
2026预印本 · v3

借助 CHT 构建用于 ANN-to-SNN 转换的稀疏拓扑

研究稀疏训练所得结构如何进入脉冲网络转换流程。

论文原题

Constructing Brain-Inspired Sparse Topologies for Energy-Efficient ANN-to-SNN Conversion via Cannistraci-Hebb Training

阅读论文
2025预印本 · v1

卷积神经网络中的 CHT

探索卷积权重共享与局部感受野约束下的结构学习;作为早期研究单独列示。

论文原题

Cannistraci-Hebb Training of Convolutional Neural Networks

阅读论文

理论基础与网络科学

2025NeurIPS 2025

自适应 Cannistraci–Hebb 网络自动机

拓展基于局部网络结构的链路预测规则,为结构学习提供方法基础。

论文原题

Adaptive Cannistraci-Hebb Network Automata Modelling of Complex Networks for Path-based Link Prediction

阅读论文
2018Scientific Reports

脑启发网络自动机与复杂网络自组织

研究局部拓扑驱动的连接生长与网络自组织。

论文原题

Modelling Self-Organization in Complex Networks Via a Brain-Inspired Network Automata Theory Improves Link Reliability in Protein Interactomes

阅读论文
2017Applied Network Science

局部社区范式与脑网络中的拓扑学习

从脑网络重连研究拓扑学习的科学思想。

论文原题

Can local-community-paradigm and epitopological learning enhance our understanding of how local brain connectivity is able to process, learn and memorize chronic pain?

阅读论文
2015New Journal of Physics

二分网络中的局部社区范式

将局部社区范式扩展到二分网络的拓扑链路预测。

论文原题

Common neighbours and the local-community-paradigm for topological link prediction in bipartite networks

阅读论文
2013Scientific Reports

从脑连接组到局部社区范式

研究连接的局部组织如何影响复杂网络中的链路预测。

论文原题

From link-prediction in brain connectomes and protein interactomes to the local-community-paradigm in complex networks

阅读论文

相关稀疏学习研究

2026预印本 · v2

树突启发的稀疏网络拓扑初始化

与 CHT 相衔接的拓扑初始化研究,并非 CHT 本身的替代名称。

论文原题

A Dendritic-Inspired Network Science Generative Model for Topological Initialization of Connectivity in Sparse Artificial Neural Networks

阅读论文
2025ICML 2025 · PMLR 267

欧氏与双曲神经网络的稀疏谱训练

从谱表示探索参数高效训练,与连接稀疏形成互补方向。

论文原题

Sparse Spectral Training and Inference on Euclidean and Hyperbolic Neural Networks

阅读论文
2025ICML 2025 · PMLR 267

面向高效推理的紧凑低秩表示

研究模型压缩与推理表示,不将其结果等同于 CHT 性能。

论文原题

Pivoting Factorization: A Compact Meta Low-Rank Representation of Sparsity for Efficient Inference in Large Language Models

阅读论文

核验日期:2026 年 11 月 15 日。以公开原始来源为依据,持续更新。