Llama
llama.cpp 团队和 Hugging Face 推出的免费开源本地大模型应用：常驻 Mac 菜单栏或 Windows 托盘，一键下载推荐模型离线运行，Alt+Space 随时唤出聊天，还提供 OpenAI 兼容的本地 API。
更新于 2026-10
- API
- Linux
- Windows
- macOS
简介
Llama 是 llama.cpp 团队（ggml-org）与 Hugging Face 推出的本地大模型桌面应用，官网标语「Your AI, on your computer」。它把 llama.cpp 包装成一个常驻 Mac 菜单栏或 Windows 11 系统托盘的小工具：打开后会根据本机配置推荐合适的开源模型，一键从 Hugging Face Hub 下载，选择上下文长度时会显示对应的内存占用估算；模型统一存放在标准 Hugging Face 缓存目录，可与 llama.cpp 及其他 HF 工具共用。任何时候按 Alt+Space 都能在当前应用上方唤出聊天窗口，与已加载的模型对话。应用在后台管理 llama serve 进程，并在 localhost:9931/v1 提供 OpenAI 兼容的本地 API，方便其他程序接入。整个过程可离线运行，Windows 版 README 写明不发送任何遥测数据。Mac 版源码在 GitHub ggml-org/Llama-macOS（最新 0.45.0，2026-10-18），Windows 版是它的 WinUI 3 移植，源码在 ggml-org/Llama-Windows（v0.13.0，2026-10-20，提供 x64 与 ARM64 安装包），均为 MIT 开源许可；Windows 版于 2026 年 10 月 23 日（太平洋时间）登上 Product Hunt。Linux 用户可用 curl -LsSf https://llama.app/install.sh | sh 安装命令行版本。官方来源：https://llama.app/ 、https://github.com/ggml-org/Llama-macOS 、https://github.com/ggml-org/Llama-Windows （2026-10-26 核对）。 定价：免费，MIT 开源。
- 常驻菜单栏/托盘Mac 版在菜单栏，Windows 11 版在系统托盘，点开就能看到已装模型、推荐模型和当前 llama.cpp 版本
- 按机器推荐模型从 Hugging Face Hub 浏览并一键下载适合本机内存的模型，可选上下文长度并显示每档的内存估算
- 随时唤出聊天按 Alt+Space 在任意应用上方打开对话窗口，隐藏而不关闭，再次唤出对话仍在
- 本地 API在 localhost:9931/v1 提供 OpenAI 兼容接口，其他应用和脚本可直接调用本地模型
- 零配置 llama.cpp可沿用已安装的 llama.cpp，也可由应用自动下载；模型存放在标准 Hugging Face 缓存目录，与 llama.cpp 等工具共用
- 隐私可完全离线运行，Windows 版 README 写明不发送遥测、统计或安装 ID
