Wicklee

私有 AI 推理机群的硬件感知可观测性:把瓦特、温控与 token 吞吐放到一起算真实成本。

更新于

系列
0
模型
0
产品
0

公司简介

官网 https://wicklee.dev/ 已打开核验。Wicklee 面向 Ollama/vLLM(llama.cpp 进行中)私有推理节点:一键安装后本机 localhost:7700 看仪表盘,强调不读请求/响应正文,默认可观测性数据留在本机。提供机群视图、按模型/节点成本归因、MCP 查询与 webhook。安装命令与许可以官网/GitHub 为准。

同地区厂商