SparseLLM

稀疏语言模型

基于公开的 8B 模型,探索更大模型和实际应用。

公开模型

Qwen3-8B 稀疏模型

公开的 8B 模型可供研究和评估。

模型基于 Qwen3-8B 进行结构化稀疏适配,权重和发布清单已公开。

SPARSEMIND / RELEASE 001
Qwen38B
2:4

指定权重矩阵的结构化稀疏

BF16

公开权重 · 基于 Qwen3-8B 适配

发布清单采用保留 2:4 零值的稠密 BF16 执行路径;系统效率取决于模型、硬件与负载。图形为格式示意。

下一步

27B 方向持续研发。联合评估将围绕指定负载,记录模型质量、吞吐、时延与成本。

01 定义目标

任务质量、模型版本、硬件环境与服务负载。

02 联合验证

固定基线与测量条件,分别记录质量、预填充、解码、端到端时延和资源。

提交你的模型与工作负载

了解更多

企业与芯片伙伴

定义模型、硬件与真实工作负载。

联系我们