概览
Clover-35B-A3B-Preview 是深圳初创公司 DiffuSpace(扩散智能)于 2026 年 10 月 28 日开源的扩散语言模型预览版(Clover 中文名「三叶」),也是该公司发布的第一个模型。它以 Qwen3.6-35B-A3B 为底座,把逐字生成的自回归解码改造成「块扩散」:每次并行生成一个 32 token 的块,在块内用双向注意力反复去噪、按置信度确定 token,从而在单请求场景下拿到比同规模自回归模型快得多的输出速度。模型是 MoE 结构,总参数约 35B、每 token 激活约 3B(40 层,256 个路由专家取 top-8,加 1 个共享专家,Gated DeltaNet 与全注意力混合),只处理文本,支持思考模式,上下文 128K(131,072 token,提示和输出合计)。官方定位是面向编码和智能体任务:自测 SWE-bench Verified 73.6、Terminal-Bench 2.1 51.7、τ³ Overall 65.3,在与 LLaDA2.2 flash、Mercury 2.5、Qwen3.6-35B-A3B、Qwen3.5-35B-A3B 的六项智能体评测对比中排第一,GPQA Diamond 83.8、MMLU-Pro 84.8;速度方面,单张 GB300 上 BF16、batch 1 跑内部智能体数据约 680 tokens/s,H200 上 515 tokens/s,INT4 量化后可以在 16GB 显存的 RTX 5070 Ti 上运行(MATH-500 约 101.8 tokens/s)。BF16 权重约 69 GB,推荐用 SGLang 部署(支持块扩散和自推测解码),也可用 llama.cpp 和 Transformers 5.19.0。官方说后续还会发布配套的决策模型,智能体 harness 和桌面编码客户端正在开发中;在线体验需在 chat.diffuspace.ai 申请。来源:https://diffuspace.ai/blog/clover-35b/ 、https://huggingface.co/Diffuspace/Clover-35B-A3B-Preview 、https://github.com/DiffuSpace/Clover-35B-A3B-Preview 、https://modelscope.cn/models/Diffuspace/Clover-35B-A3B-Preview (2026-10-28 核对)。 定价:权重免费下载、自行部署(Apache 2.0,可商用);官方目前没有公开 API 和 API 价格,在线体验需申请,输入 / 输出价留空。
- 模态
- 文本
- 参数量
- 35B(激活约 3B)
- 许可说明
- 开源 · Apache 2.0
能力
- 块扩散解码:不是逐 token 自回归,而是按 32 token 一块并行去噪生成(LowConfidence 策略,置信度阈值 0.95),块内双向注意力;SGLang 下还可叠加自推测解码
- 架构:基于 Qwen3.6-35B-A3B 改造的 MoE,总参数约 35B、每 token 激活约 3B;40 层,256 个路由专家取 top-8 + 1 个共享专家,Gated DeltaNet 与全注意力混合;支持思考模式(enable_thinking)
- 速度(官方自测):单张 GB300、BF16、batch 1 跑内部智能体数据约 680 tokens/s;H200 上 515 tokens/s(同条件 DFlash2 为 365);INT4 量化后在 16GB 的 RTX 5070 Ti 上 MATH-500 约 101.8 tokens/s(同规模 MiniCPM、Qwen 等对照约 48.5)
- 智能体与编码评测(官方自测):SWE-bench Verified 73.6、Terminal-Bench 2.1 51.7、τ³ Overall 65.3,与 LLaDA2.2 flash、Mercury 2.5、Qwen3.6-35B-A3B、Qwen3.5-35B-A3B 对比在六项智能体评测中领先;GPQA Diamond 83.8、MMLU-Pro 84.8、ZebraLogic 95.8、AA-LCR 72.0、BFCL-v4 67.9
- 运行与格式:上下文 128K(131,072 token,提示 + 输出合计);BF16 权重约 69 GB;推荐 SGLang(块扩散 + 自推测),也支持 llama.cpp(自推测)和 Transformers 5.19.0;权重 Apache 2.0,Hugging Face、ModelScope、GitHub 同步公开
