LM Studio 无界面版上手：用 llmster 和 lms 跑本地模型，接 OpenAI 兼容 API、有状态对话、结构化输出与工具调用

按 LM Studio 官方开发者文档（llmster 0.0.27 实测）：在没有图形界面的 Linux 上用官方脚本装好 llmster，用 lms 下载、估算、加载 Granite 4.0 Micro 并在终端对话；打开本地服务，用 OpenAI SDK 拿到符合 JSON Schema 的结构化输出，用 /api/v1/chat 的 previous_response_id 做有状态多轮对话，用 JIT 和 TTL 按需加载与自动卸载；再用 tools 参数和 lmstudio SDK 的 .act() 让模型调用函数，用 lms log stream 看真实提示词，了解鉴权与 systemd 开机自启。

入门3 课时65 分钟图文实操

免费学习无需登录

开始学习查看课程目录

你将学会

安装并启动 llmster
用 lms 下载和加载模型
用 OpenAI SDK 调本地模型
拿到 JSON Schema 结构化输出
用 REST 接口做有状态对话
让本地模型调用函数

适合谁

想在服务器上跑本地模型的开发者
想把 OpenAI 请求换成本地模型的团队
想把 LM Studio 当后台服务的用户

课前准备

会用终端和 curl
能看懂简单的 Python
约 3 GB 空闲磁盘

课程目录

3 课时 · 65 分钟

01装好 llmster，加载模型并在终端对话用官方脚本安装 llmster 并处理 ldconfig、下载被拦截两个常见坑，用 lms daemon 启动后台服务，lms get 下载 IBM Granite 4.0 Micro，lms load --estimate-only 先估内存，再带 --context-length、--identifier、--ttl 正式加载，最后用 lms chat -p --stats 对话并看速度。图文20 分钟开始本课
02本地服务、OpenAI SDK 与有状态对话用 lms server start 打开 1234 端口的本地服务，用 OpenAI Python SDK 加 JSON Schema 拿到可直接解析的待办清单，用 /api/v1/chat 的 response_id 和 previous_response_id 做多轮对话并对比 store: false，再卸载模型、用带 ttl 的请求触发 JIT 自动加载。图文25 分钟开始本课
03工具调用、日志排查与开机自启用 OpenAI tools 参数手动完成一轮查询订单的工具调用，用 lmstudio SDK 的 .act() 自动跑完乘法工具循环，用 lms log stream 看到套上对话模板的真实提示词；了解默认无鉴权、只监听本机的安全边界和 API Token，按官方文档写 systemd 开机自启单元，最后释放资源。图文20 分钟开始本课

课程说明

LM Studio 是常用的本地大模型桌面应用。从 0.4 版起，它的推理内核可以脱离图形界面，作为后台服务 llmster 单独运行，用命令行 lms 管理。没有显示器的 Linux 服务器、云主机、CI 机器都能装，装好后对外提供 OpenAI 兼容接口和 LM Studio 自己的 REST 接口，现有的 OpenAI SDK 代码改一下 base URL 就能接上本地模型，数据不出机器，也不按 token 付费。

本课按 LM Studio 官方开发者文档（https://lmstudio.ai/docs/developer ）和 CLI 文档（https://lmstudio.ai/docs/cli ）整理。2026-11-02 在一台没有显卡的 Linux x86_64 云主机上，用 llmster 0.0.27+1（lms CLI commit 43d4b26）、官方示例模型 IBM Granite 4.0 Micro（3B，Q4_K_M，2.10 GB）、Python 3.13 与 openai 3.42.0、lmstudio 1.5.0 两个 SDK，逐条实跑了安装、下载、加载、命令行对话、开服务、结构化输出、有状态对话、工具调用、按需加载和日志查看。「对照结果」都是真实输出，只做了节选和折行。开机自启用的 systemd 服务这一步，测试机没有 systemd，按官方文档整理，课内会单独注明。全课共 3 课时：

课时	你会做完的事	需要什么
1	装好 llmster，下载并加载模型，在终端里对话	终端，约 3 GB 磁盘
2	开本地服务，用 OpenAI SDK 拿结构化 JSON，用 REST 接口做多轮对话	同上，Python 3
3	让模型调用你的函数，按需加载与自动卸载，看日志，设开机自启	同上

适合

想在服务器或云主机上跑本地模型、不装图形界面的开发者
已经在用 OpenAI SDK，想把部分请求换成本地模型的团队
用过 LM Studio 桌面版，想把它变成后台服务的用户

先修

会用终端和 curl，能看懂简单的 Python
一台 Linux、macOS 或 Windows 电脑（官方给了 Linux/Mac 和 Windows 两条安装命令），内存 8 GB 以上，有显卡更快，没有也能跑
约 3 GB 空闲磁盘（安装包约 1.2 GB，模型约 2.1 GB）

你会学到

用官方脚本安装 llmster，用 lms daemon 启停后台服务
用 lms get、ls、load、ps、chat 下载、加载和试用模型
用 lms server start 开服务，用 OpenAI SDK 拿到符合 JSON Schema 的结构化输出
用 /api/v1/chat 的 previous_response_id 做有状态多轮对话，知道 store: false 的作用
用 OpenAI 的 tools 参数和 lmstudio SDK 的 .act() 让模型调用你的函数
用 JIT 按需加载、TTL 自动卸载、lms log stream 管好内存和排查问题

官方资料

无界面运行：https://lmstudio.ai/docs/developer/core/headless
llmster 开机自启：https://lmstudio.ai/docs/developer/core/headless_llmster
lms 命令行：https://lmstudio.ai/docs/cli
REST 接口快速开始：https://lmstudio.ai/docs/developer/rest/quickstart
OpenAI 兼容接口：https://lmstudio.ai/docs/developer/openai-compat
源码（lms）：https://github.com/lmstudio-ai/lms

绑定工具： LM Studio（https://www.kun.net/tools/lm-studio/ ）