概览
Sarvam Prism 是印度 AI 公司 Sarvam 于 2026 年 11 月 3 日发布的决策模型，基于自家的 Sarvam 105B 混合专家模型训练，权重按 Apache-2.0 协议开放。它和一般聊天模型不同：你给它一段上下文（state）和一个或多个问题，每个问题附一组固定的候选答案，它在一次前向计算里为每个答案算出概率，不生成自由文本，所以输出一定是你给出的选项之一。问题分三类：多选一、是否判断，以及按有序等级打分并给出期望分值。官方把它定位为「System One」式快速判断模型，用在企业流程里的路由、工单分诊、内容审核、安全检查和给 Agent 运行结果打分等环节；由于置信度经过校准、且不受选项排列顺序影响，可以设定置信度阈值，只在高于阈值时自动执行。Sarvam 在同一套硬件上测了 25 个决策模型：Prism 在 Jev 决策指数（37 个公开基准）、自建的 Artificial Analysis 决策指数复刻版与内部印度语言基准上平均 71.8 分，单张 B200 上中位响应 44 毫秒，是 100 毫秒以内得分最高的；印度语言一项得 82.5。官方还拿通过 API 调用的 Claude Haiku 5.5 对比，后者中位约 2.5 秒、每千次约 0.64 美元。模型支持英语与 10 种印度语言，每个问题最长 131,072 token。自托管需要一张支持 FP8、约 120 GB 显存的 GPU（官方在 B200 上测试）和约 106 GB 磁盘，权重是为 prism.py 定制的 FP8 布局，不能用 AutoModelForCausalLM 或通用推理服务器直接加载。不想自备 GPU 也可以调用 Sarvam Token Factory 的托管 API（模型名 sarvam-prism）。官方来源：https://www.sarvam.ai/blogs/sarvam-prism 、https://huggingface.co/sarvamai/prism 、https://docs.sarvam.ai/api/token-factory/models/sarvam-prism （2026-11-09 06:20 Asia/Shanghai 核对）。 定价：开放权重免费自托管；官方托管 API 按印度卢比计价，每百万输入 token ₹4，输出 token 不收费（₹0），所有套餐同价。
- 模态
- 文本
- 参数量
- 105B
- 许可说明
- 开源 · Apache-2.0
能力
- 决策模型：给一段上下文和若干问题，单次前向就给出每个候选答案的概率，答案一定落在你给的选项里
- 三种题型：多选一（choice）、是否（yes_no）、有序打分（score），一个请求可同时问多题
- 速度快：单张 NVIDIA B200 上每请求中位 44 毫秒（95 分位 420 毫秒）
- 官方三项指数平均 71.8 分，是 25 个受测决策模型里 100 毫秒以内得分最高的；印度语言基准 82.5
- 置信度经过校准，选项顺序不影响结果，适合按阈值自动放行的路由、分诊、审核与 Agent 结果判定
- 支持英语与印地语、孟加拉语、泰米尔语等 10 种印度语言；每个问题上下文最长 131,072 token
- 自托管需一张支持 FP8、约 120 GB 显存的 GPU（如 B200、H200）与约 106 GB 磁盘；权重为自定义 FP8 布局，需用官方 prism.py 加载
