概览
Raon-1 mini 是韩国游戏公司 KRAFTON 旗下 KRAFTON AI 从零设计、训练的语言模型，2026 年 10 月 21 日以预览版形式发布，是 Raon 开源模型家族的第一款，官方说明这不是最终版，规格和成绩在正式版前可能变化。它是 30B 级别的混合 MoE：总参数 28.8B，每个 token 只激活 4.3B；25 层里 18 层是在 Kimi Delta Attention 基础上改出来的 Raon Delta Attention，状态大小固定，只有 7 层 MLA 需要 KV 缓存，所以 262K 原生上下文的显存开销比较可控；残差连接用的是对 DeepSeek mHC 降本改造过的 Raon-mHC。官方对照的是 Qwen3.6-35B-A3B、Gemma 4 26B-A4B 等同尺寸 MoE，在知识可靠性（AA-Omniscience）、科学推理、指令遵循、搜索、编程智能体和韩语对话上占优，但官方表格里 MMLU Pro（76.5，对手 85.9 / 82.9）和 Terminal-Bench Lite（47.0，对手 63.3 / 52.0）明显落后，长上下文 AA-LCR 67.3 也不领先。对中文用户来说，它的看点不在中文能力（训练语料含中文，但官方没有中文专项成绩），而在于一家游戏公司拿出了完整自研架构、Apache 2.0 权重和单卡消费级显卡可跑的量化版本。权重在 Hugging Face 需要点一下申请（自动通过），也可以直接在官网 Playground 免费聊，或申请 Raon 控制台邀请、限时免费调用 API。成绩均为官方说法。官方来源：https://huggingface.co/KRAFTON/Raon-1-mini-preview 、https://raon-mini.krafton.ai/en （2026-10-23 核对）。 定价：开源权重（Apache 2.0），可免费下载自托管；KRAFTON 托管 API 和 Playground 目前限时免费（结束时间官方未写），另适用单独的托管服务条款，官方保留日后收费的权利。
- 模态
- 文本
- 参数量
- 28.8B（激活 4.3B，MoE）
- 许可说明
- 开源 · Apache 2.0
能力
- 架构：从零训练的混合 MoE，25 层（18 层 Raon Delta Attention 线性注意力 + 7 层 Gated MLA），128 个路由专家中每 token 激活 6 个外加 1 个共享专家
- 上下文：原生支持 262,144 tokens；只有 7 层 MLA 保留 KV 缓存，BF16 下约每 token 8 KiB
- 推理：内置思考模式，官方不建议关闭；GPQA Diamond 84.3、AIME 2026 93.3（官方数据）
- 指令遵循与搜索：IFBench 84.2、BrowseComp Plus 55.7，官方称在同尺寸 MoE 对照模型中领先
- 编程与智能体：SWE-Verified 70.8（mini-SWE-agent）；支持工具调用，官方给出 Hermes Agent、Pi、OpenCode 接入配置
- 多语言：训练语料含韩、英、日、中、西、法、泰语，韩语最强，英语扎实
- 推测解码：同时发布 DFlash2 草稿模型，单张 B300 上输出吞吐最高约为自回归解码的 2.18 倍
- 量化与部署：提供 MXFP8 和 NVFP4，NVFP4 可在单张 RTX 5090（32GB）上推理；支持 Transformers、vLLM（beta）、llama.cpp、MLX
- 访问：Hugging Face 仓库需申请（自动通过）；官网 Playground 限时免费；API 需申请控制台邀请，限时免费
