概览
mammoth-1 是推理云平台 Baseten 的研究实验室 Base Labs 于 2026 年 10 月 21 日开源的决策模型。决策模型是 2026 年 9 月由 TypeSafe（Jev、System One API）带起的新类别：它们不写回答，只对预设选项打分。比如把一封客服邮件交给它，同时问「是否要求退款」「该交给哪个团队」「有多紧急」，它一次计算就分别返回各选项的概率，你可以按置信度决定自动处理还是转人工。和让大模型生成文字再解析相比，这种方式更快、更便宜，也更容易量化把握度，官方给出的场景有工单分流与路由、垃圾和钓鱼邮件识别、提示词护栏与越狱检测，以及在小模型和前沿大模型之间路由请求。mammoth-1 由 Qwen3.5-27B 用 621 万条决策样本全量微调而来，官方称在 Jev Decision Index 0.4 上以 71.24 分位列 208 个模型第一，在 Artificial Analysis Decision Index 复现版上得 65.9 分；需要更多通用知识的任务选它，只要求快速判断可选 9B 的 elephant-1。权重以 MIT 许可发布在 Hugging Face，也可在 Baseten Model APIs 调用。评测均为官方自测。来源：https://www.baseten.co/blog/the-best-decision-models-in-the-world-mammoth-1-and-elephant-1/ 、https://huggingface.co/baselabs/mammoth-1 、https://www.baseten.co/library/mammoth-1/ 、https://labs.baseten.co/articles/mammoth-1-and-elephant-1-frontier-decision-models （2026-10-22 核对）。 定价：开放权重（MIT），可免费下载自托管；Baseten Model APIs 免费试用至 2026-10-27 23:59（美国太平洋时间），之后的托管单价官方暂未公布。
- 模态
- 文本
- 参数量
- 27B（基于 Qwen3.5-27B 全量微调）
- 许可说明
- 开源 · MIT
能力
- 决策模型：输入一段状态和一组问题，返回每个选项的概率（总和为 1），不输出自由文本，应用无需解析生成结果
- 三种题型：choice（从命名选项中选一个）、noul（是 / 否，返回 P(yes)）、score（有序等级打分）；多个问题共用同一段输入，一次共享前缀预填充全部作答
- 可设置置信度阈值：例如置信度 90% 以上自动分流，低于阈值转人工；训练时加入「我不知道」选项与 Brier 校准项，减少过度自信
- 架构：基于 Qwen3.5-27B 全量微调（只训练文本、冻结视觉编码器），全注意力层改用块双向注意力；最大序列长度 16,384 tokens，超长请求会被拒绝而不是截断
- 官方评测（自测）：Jev Decision Index 0.4 得分 71.24（208 个模型中第 1，高于 Perplexity Decider v1.2 的 69.42）；Artificial Analysis Decision Index 复现版 65.9（d1-ultra 为 65）
- 速度（官方）：与推理模型相比最多约 10 倍提速
- 训练：621 万条决策样本（核心决策技能 58.3%、安全与弃答 16.1%、评判与专业领域 16.1%、公开决策数据 9.5%），18 节点 × 4 张 GB300 训练 1 个 epoch
- 调用：Baseten Model APIs（POST https://inference.baseten.co/v1/systemone，model 填 decision-models/baseten-mammoth-27b-latest，默认零数据保留）；自托管用模型仓库内 setup.sh，需 1 张 CUDA GPU
