FlashML

开源端侧 MoE 推理引擎 FreeToken 的开发团队。

更新于

系列
0
模型
0
产品
1

公司简介

FlashML 是开源推理引擎 FreeToken 的开发团队,GitHub 组织为 FlashML-org。FreeToken 主打在个人电脑和消费级 NVIDIA 显卡上跑前沿规模的开源 MoE 大模型,配套论文《FreeToken: Efficient Edge-Native MoE Serving with Bandwidth-Adaptive Execution》(arXiv 2608.16157)。官方来源:https://www.flashml.ai/ 、https://github.com/FlashML-org/FreeToken (2026-11-02 核对)。

旗下产品

1 项

同地区厂商