概览
Edge0-145B 是端侧 AI 公司 Edge0 在 2026 年 11 月 12 日开源的大模型，同时开源的还有较小的 Edge0-120B。它基于阿里 Qwen3.8-Flash-Next 改造，采用 Edge0 称为「latent MoE」的结构：48 层（混合注意力，每 4 层一次全注意力），每层 512 个路由专家加 1 个共享专家，每个 token 激活 10 个；专家的输入先从 2560 维压缩到 1792 维再计算，因此 145B 总参数里每步只有约 101.2 亿参与运算。模型从训练起就按本地运行的形态设计，原生 4-bit 训练，提供 Q3_K（约 40.8 GiB）和 NVFP4（约 47.8 GiB）两种权重，上下文 256K，另带一个用于推测解码的 MTP 头。 能在个人电脑上跑起来，靠的是模型和推理引擎一起设计：常用的「热」专家留在显存，其余专家放在系统内存里按需调入，约 51.2B 参数的 n-gram 嵌入表以 fp8 内存映射方式放在 SSD 上，CPU 与 GPU 并行计算。官方实测，Q3_K 版在 RTX 5090 D 24GB 上智能体解码约 121 tok/s、16K 输入预填充约 3555 tok/s，在 RTX 4090 上约 92 tok/s；把显存限制在 16GiB、内存限制在 20GiB 时仍有约 45 tok/s。官方自测成绩为 DeepSWE 1.1 64.6、Terminal-Bench 2.1 86.5、GPQA-Diamond 90.4、IFBench 80.6、HLE 35.4、AA-LCR 79.3，编程和智能体两项高于其基座 Qwen3.8-Flash-Next 与 DeepSeek-V4-Flash-0731（均为 Edge0 内部评测）。官方演示中，它在本地完成了 Blender 城市建模、小游戏开发、无人机控制程序和 KiCad PCB 设计等多轮任务。 目前 145B / 120B 只支持 Linux 或 Windows + NVIDIA GPU（CUDA 13），通过 Edge0 开源的 edge0-infer 的 `serve` / `chat` 命令调用 edge0-strata 引擎运行，提供 OpenAI 兼容的本地接口，也能接入 OpenCode 等编程智能体或用自带的 Edge0 Chat 界面对话；Apple M2 Ultra 上的测速只作参考，暂不代表 macOS 版已经可用。推理框架代码采用 Apache-2.0 协议；模型权重采用 Edge0 Community Model License 1.0：个人、研究、企业内部使用和输出内容的商用都免费，但出售模型、对外提供模型推理 API，以及做收费的独立编程或办公助手，需要另外取得 Edge0 商业授权，并且要遵守 Qwen 上游许可。官方来源：https://edge0.ai/blog/introducing-edge0-145b-frontier-ai-capabilities-on-your-own-computer 、https://github.com/Edge0-AI/Edge0 、https://huggingface.co/Edge0/Edge0-145B-q3k 。
- 模态
- 文本
- 参数量
- 145B（每 token 激活约 10.12B）
- 许可说明
- 开源 · Edge0 Community Model License 1.0