简介
Cactus Needle 面向工具调用、设备使用与结构化抽取;官方称单二进制约 14MB、会话内存约 28MB 量级,可与 Cactus Hybrid 云端回退配合。栈见 GitHub cactus-compute/cactus。来源官网与 HN Show Needle2。
- ~14MB 端侧模型 工具调用与结构化抽取 Hybrid 云端回退 面向手机/可穿戴/机器人
界面截图
可左右滑动,或使用方向键、Home 和 End 浏览截图。
优缺点
优点
- 体积小、适合端侧部署;支持工具调用与结构化抽取;可结合 Hybrid 回退云端
