概览
Meta 开放权重的 30B 端侧智能体模型：从 Muse Spark 蒸馏，读文本和图像，Apache 2.0 协议；4-bit 量化后可在 24–32GB 显存的消费级显卡或 Mac 上本地运行。 Muse Glimmer 是 Meta Superintelligence Labs 于 2026 年 8 月 10 日发布的开放权重模型，权重以 Apache 2.0 协议放在 Hugging Face（meta-models/Muse-Glimmer-30B）。它是 30B 参数的稠密多模态模型，从 Muse Spark 的输出蒸馏而来，接受文本和图像输入、输出文本，默认上下文 128K，训练数据覆盖 100 多种语言。官方定位是能在个人电脑上常驻运行的智能体模型：处理日程、草拟消息、整理文件等需要接触个人数据的任务时，数据和推理都留在本机。官方用约 4-bit 量化把语言模型压到 20GB 以下，配合 KV 缓存、视觉编码器和推测解码草稿模型，可在 24GB 或 32GB 显存内运行，并在 MacBook M4-Max、M5-Max 和 RTX 5090 上给出速度数据。可通过 vLLM、SGLang、llama.cpp、Ollama、LM Studio、MLX 等运行，也可在 Together AI、Fireworks AI、OpenRouter 上托管调用（第三方价格以各平台为准）。基准分数均为官方自测。来源：https://research.meta.ai/blog/introducing-muse-glimmer-open-agentic-model 、https://dev.meta.ai/docs/muse-glimmer 、https://huggingface.co/meta-models/Muse-Glimmer-30B （2026-10-21 核对），未补未核实字段。
- 模态
- 多模态
- 参数量
- 30B
- 许可说明
- 开源 · Apache 2.0
能力
- 定位：为「常驻本地」的智能体工作流优化，用于本地智能体与函数调用、本地编程、LLM-as-a-judge 评测等
- 架构：30B 稠密 decoder-only 多模态 Transformer，内置视觉（感知）编码器；从 Muse Spark 的输出蒸馏训练，而非从零训练
- 输入：文本与图像（可交错，能看截图、图表、文档）；输出：文本；推理时先逐步思考再作答
- 上下文：默认 128K tokens，支持更长上下文
- 语言：训练数据覆盖 100 多种语言
- 本地部署：官方用约 4-bit 量化把语言模型压到 20GB 以下，连同 KV 缓存、视觉编码器和推测解码草稿模型可放进 24GB 或 32GB 显存；官方在 MacBook M4-Max / M5-Max 与 RTX 5090 上测速
- 运行时：vLLM、SGLang、llama.cpp、Ollama、LM Studio、MLX、ExecuTorch、Unsloth 等；托管可用 Together AI、Fireworks AI、OpenRouter
- 官方文档另有提示模板、量化、推测解码与后训练指南
- 许可：Apache 2.0
