概览
Granite Switch 4.1 是 IBM Granite 团队 2026 年 10 月开源的模块化大模型（模型卡记 revision 4.1 发布于 10 月 14 日，官方博文 10 月 15 日发布），Apache 2.0 许可，有 8B 和 30B 两个尺寸，分别基于 Granite 4.1 8B / 30B，上下文 128K。它把一个基座模型、多个激活式 LoRA（aLoRA）适配器和一个语音识别编码器组装进同一个检查点，所以一个托管端点就能在自然语言回答、通用和专用决策判断、语音转文字之间切换，显存占用约等于基座模型本身，适配器之间还能复用 KV 缓存。当前内置两个适配器：decision 给出状态和一组带标签的选项后，一次前向计算返回各选项的概率；guardian-core 来自 granitelib-guardian-r1.0，用于检测有害内容、越狱、脏话、暴力、色情、社会偏见和不道德行为。语音部分内嵌 Granite Speech 5.0 TurboCTC（470M），自动识别语种，模型卡列 7 种语言（英、法、德、西、葡、意、日），输出带标点和大小写，转写结果直接拼进对话上下文；官方说明语音编码器与 LLM 尚未联合训练，转写错误可能静默影响后续回答。10 月 27 日的 4.1.1 修订版（博文 10 月 29 日）更新了 decision 适配器权重并完全向后兼容，博文称新版语音模型支持 10 种语言。官方自测 Jev Decision Index v0.3 总分：8B 46.72、30B 51.33。运行方式：pip install "granite-switch[vllm,audio]>=0.1.1" 后用 vLLM 起服务；另有不含语音、带完整 Granite Libraries 适配器的 3B / 8B / 30B preview 版本。来源：https://huggingface.co/blog/ibm-granite/granite-switch-4-1 、https://huggingface.co/blog/ibm-granite/granite-switch-4-1-1 、https://huggingface.co/ibm-granite/granite-switch-4.1-8b 、https://huggingface.co/ibm-granite/granite-switch-4.1-30b 、https://github.com/generative-computing/granite-switch （2026-10-31 核对）。 定价：开源权重（Apache 2.0），可免费下载自行部署；IBM 未公布这款模型的官方 API 单价，输入 / 输出价留空。
- 模态
- 多模态
- 参数量
- 8B / 30B
- 许可说明
- 开源 · Apache 2.0
能力
- 一个端点三种用法：把 Granite 4.1 基座模型、多个 aLoRA 适配
- 内置 2 个激活式 LoRA（aLoRA）适配器：decision（给出状态和带标签的选项，一次前向计算返回各选项的概率）与 guardian-core（检测有害、越狱、脏话、暴力、色情、社会偏见等风险，固定输出 {"score": "yes"/"no"}）；适配器之间可复用 KV 缓存
- 语音输入：内嵌 Granite Speech 5.0 TurboCTC（470M，非自回归 CTC），自动识别语种，模型卡列 7 种语言（英、法、德、西、葡、意、日），带标点和大小写；官方称是 OpenASR 榜上最快的 ASR；转写结果直接拼进对话上下文
- 两个尺寸：8B（基于 granite-4.1-8b）与 30B（基于 granite-4.1-30b），上下文 128K；4.1.1 修订版（10-27）更新 decision 权重并完全向后兼容；官方 Jev Decision Index v0.3 总分 8B 46.72、30B 51.33（官方自测）
- 部署：pip install "granite-switch[vllm,audio]>=0.1.1" 后用 vLLM 插件起服务，也可用 [hf] 做 HuggingFace 推理、用 [compose] 自己组装检查点；应用侧官方推荐用 Mellea 调用适配器
