简介
Baseten 是专做 AI 模型推理的云平台，官方口号「Inference is everything」，核心是自研的 Baseten Inference Stack（模型运行时、跨云多集群自动扩缩容和开发者工作流）。开发者可以用它把自己的模型或开源模型部署成专属服务，按实际使用的 GPU 分钟计费；也可以不部署，直接调用 Baseten 托管并优化好的开源大模型 API，只需替换 OpenAI SDK 的地址，就能获得函数调用、结构化输出、日志和预算控制，官方称比闭源模型便宜 5–10 倍。平台同时提供训练 / 微调、模型库和多云、自托管、混合部署，官方列出的客户包括 Cursor、Notion、Lovable、Abridge、OpenEvidence、Retool 等。2026 年 10 月 21 日，Baseten 的研究实验室 Base Labs 开源了决策模型 mammoth-1 与 elephant-1，并上架 Model APIs。官方来源：https://www.baseten.co/ 、https://www.baseten.co/pricing/ 、https://www.baseten.co/products/model-apis/ 、https://docs.baseten.co/ （2026-10-22 核对）。 定价：Basic 方案月费 $0、按用量付费，新账户附送试用额度；专属部署按 GPU 分钟计费，如 T4 $0.01052/分钟、A100 $0.06667/分钟、H100 $0.10833/分钟、B200 $0.16633/分钟（训练同价）；Model APIs 按每百万 tokens 计费，如 DeepSeek V4.1 Flash 输入 $0.30 / 输出 $1.20、GLM-5.3 $1.40 / $4.40、Kimi K3 $3.00 / $15.00；Pro 与 Enterprise 提供批量折扣，需询价。
- Dedicated Inference为自研、微调或开源模型做专属部署，按分钟计费、闲置不收费，自动扩缩容、冷启动快
- Model APIs直接调用预先优化的热门开源模型（DeepSeek V4.1 Flash、Kimi K3、GLM-5.3、Nemotron 3.5 Super VL、Beam、Muse Spark Open、GPT OSS 120B 等），兼容 OpenAI 接口，支持函数调用、结构化输出，按百万 tokens 计费
- Base Labs 决策模型可在 Model APIs 试用 mammoth-1、elephant-1
- Training多节点训练与微调基础设施，支持模型缓存和检查点
- 部署方式Baseten 云、多云、自托管（你的 VPC）和混合部署；Enterprise 可用已有云承诺额度、选数据驻留地区
- 开源打包工具 Truss把任意框架的模型打包成可部署服务
- 合规SOC 2 Type II、HIPAA；官方称不存储推理输入和输出
- 支持Basic 为邮件和应用内聊天，Pro 起有 Slack / Zoom 专属支持，可配前置部署工程师
