SenseNova-Loop-9B-Preview

概览

SenseNova-Loop-9B-Preview 是商汤科技 SenseNova 团队于 2026 年 10 月 30 日开源的预览版多模态模型，接受文本和图像输入、输出文本，面向长上下文和智能体工作流（文档理解、编程、调用外部工具）。它的特点是「循环」结构：32 层解码器中第 4 到第 27 层这一段用同一套权重执行两遍，总共 56 次层计算，从而在不复制参数的情况下加深计算路径；循环段用两条残差流和流形约束超连接（mHC）管理信息流动，注意力采用每 4 层 3 层线性注意力 + 1 层全注意力的混合方案。官方给出的规模为约 9B 总参数、约 14.6B 推理参数，训练序列最长 262,144 tokens，支持 MTP 加速推理（Dspark、Dflash2 草稿模型仍在训练中）。官方基准图中，它在 BIRD-Dev（71.38）、WorkBuddy Bench（66.89）、AIDABench（58.87）、TeamBench（48.89）、AutomationBench（13.72）、RaccoonPPTBench（70.70）上高于 Qwen3.5-27B 等对照模型，但 Terminal Bench 2.1（40.45）和 τ³-Banking（18.56）低于 Qwen3.5-27B，成绩均来自官方 README。官方示例由商汤小浣熊（Raccoon Work）生成；技术报告尚未发布。部署可用 Transformers 5.18.0（需 trust_remote_code）或 LightLLM，SGLang 支持仍在合并中。官方来源：https://huggingface.co/sensenova/SenseNova-Loop-9B-Preview 、https://github.com/OpenSenseNova/SenseNova-Loop （2026-10-31 核对）。 定价：Apache 2.0 开放权重，可免费下载自部署；官方没有提供该模型的 API 价格，输入 / 输出价留空。

模态

多模态

参数量

约 9B（官方 README：约 9B 总参数，循环执行后约 14.6B 推理参数）

许可说明

开源 · Apache 2.0

能力

• +循环（Looped）解码器：32 层中第 4–27 层共享权重再执行一遍，共 56 层次计算，不增加重复部分的参数
• +双流 mHC（流形约束超连接）管理循环段两条残差流的信息流动；每 4 层 3 层线性注意力 + 1 层全注意力
• +图文输入、文本输出，面向长文档理解、编程和工具调用等智能体工作流；训练序列最长 262,144 tokens
• +官方对比中 BIRD-Dev 71.38、WorkBuddy 66.89、RaccoonPPTBench 70.70 高于 Qwen3.5-27B 等对照模型；Terminal Bench 2.1 40.45 偏低
• +Apache 2.0 开放权重：支持 Transformers 5.18.0（trust_remote_code）、LightLLM，附 torchtitan 微调与 MTP 训练脚本