Anchorshell

Relay

自托管 LLM 网关:统一 API、智能路由与请求 pacing。

更新于 2026-09

产品概览
概览

简介

Relay(anchorshell/relay)是面向 Agent 的自托管 LLM 网关(Go):一个 API 对接 100+ 提供商,支持能力路由、队列优先调度、限流/pacing、回退、护栏、用量与成本跟踪及内置仪表盘。可 npx @anchorshell/relay 或源码构建;亦有托管版说明(以官方仓库与站点为准)。来源:GitHub anchorshell/relay。

  • 100+ 提供商统一 API
  • 队列优先路由
  • 限流与 pacing
  • 护栏与成本跟踪
  • 内置仪表盘
LLM 网关路由自托管Agent限流

界面截图