多模型,多协议
OpenAI Chat / Responses、Anthropic Messages、Gemini / Vertex。统一公开模型名,按能力适配协议或原生转发。
接入方式企业 AI 网关 · 自托管
从模型接入到业务落地,一个网关管理模型、权限、费用与安全。让平台团队掌握全局,让每个业务团队用好 AI。
Go 网关 / 中英文控制台 / Docker Compose
BUILT FOR YOUR ORGANIZATION
不止转发一次请求。将模型资源、使用者、策略与调用结果连接起来,覆盖企业 AI 的日常管理。
OpenAI Chat / Responses、Anthropic Messages、Gemini / Vertex。统一公开模型名,按能力适配协议或原生转发。
接入方式组织、团队、项目与分级角色;个人和服务虚拟密钥。按模型范围、有效期和成员关系管理访问。
权限规则按用户、密钥、团队、项目查看用量。预算、RPM / TPM、缓存读写、时段费率和历史价格快照。
费用与计价权重、负载、延迟、费用与用量策略;组织继承模板,组合路由组、分类回退、重试和冷却。
路由策略内置文本规则、密钥检测与外部审核适配。用 XGo 组合 HTTP、JSON、LLM 检查,执行拦截、脱敏或告警。
可编程护栏多轮对话与工具调用结构,Responses 历史续接,会话与调用追踪。在 Playground 验证流式结果与模型对比。
会话与运行按部署能力连接图片、音频、Embedding、Rerank 与视频任务;跟踪异步状态、结果、用量和结算。
媒体任务模型目录、接入诊断、调用与错误日志、费用明细、管理审计和健康检查,连接配置与实际运行。
运行与排查ONE WORKSPACE
管理员配置共享资源,成员发现可用模型。用同一套控制台完成接入、验证与追踪。

已配置实例的实际界面;新安装需先添加供应商和模型部署。
FROM SETUP TO SCALE
添加供应商凭证与部署,发布模型名。
配置团队、成员、模型权限与预算。
生成虚拟密钥,Playground 验证后集成。
核对用量与费用,调整策略并追踪问题。
统一模型目录与部门预算,让共享资源有清晰的管理边界。
管理服务密钥、工具调用与多轮会话,追踪使用情况。
将检索、对话和媒体任务纳入同一入口与用量体系。
START ON YOUR INFRASTRUCTURE
克隆仓库,在主机上构建镜像,再通过 Docker Compose 启动网关、控制台与存储。
需要 Git、Go 1.25、Node.js ≥24.14.1、npm ≥11.10.0、Docker Compose、Bash 和可读取的系统 CA bundle(可通过 XHUB_CA_CERT_FILE 指定)。Windows 请使用 WSL2。
完整安装与首次调用 →:3000网关 API :4000git clone https://github.com/qiniu/xhub.git
cd xhub
bash deploy/build.sh
docker compose up -d --no-buildfrom openai import OpenAI
client = OpenAI(
api_key="YOUR_XHUB_VIRTUAL_KEY",
base_url="http://localhost:4000",
)
response = client.chat.completions.create(
model="YOUR_PUBLIC_MODEL_NAME",
messages=[{"role": "user", "content": "Hello, XHub!"}],
)
print(response.choices[0].message.content)DOCUMENTATION
安装、管理、协议、权限、安全与运维。文档直接来自仓库,随版本同步更新。
浏览全部文档 →