企业 AI 网关 · 自托管

让企业 AI,
有序生长。

从模型接入到业务落地,一个网关管理模型、权限、费用与安全。让平台团队掌握全局,让每个业务团队用好 AI。

Go 网关 / 中英文控制台 / Docker Compose

YOUR AI INFRASTRUCTURE● 统一管理
Business appsAI agentsInternal tools
XXHubEnterprise AI Gateway
AccessBudgetGuardrailsRouting
OpenAIAnthropicGemini更多供应商
PostgreSQLRedisSelf-hosted
✓多协议接入✓组织与团队治理✓可编程护栏✓Agent 与多模态

BUILT FOR YOUR ORGANIZATION

统一入口,更完整的企业能力。

不止转发一次请求。将模型资源、使用者、策略与调用结果连接起来,覆盖企业 AI 的日常管理。

01

多模型,多协议

OpenAI Chat / Responses、Anthropic Messages、Gemini / Vertex。统一公开模型名,按能力适配协议或原生转发。

接入方式
02

组织治理,团队自治

组织、团队、项目与分级角色;个人和服务虚拟密钥。按模型范围、有效期和成员关系管理访问。

权限规则
03

费用有归属,计价有依据

按用户、密钥、团队、项目查看用量。预算、RPM / TPM、缓存读写、时段费率和历史价格快照。

费用与计价
04

让路由服从业务

权重、负载、延迟、费用与用量策略;组织继承模板,组合路由组、分类回退、重试和冷却。

路由策略
05

把安全规则写进调用链

内置文本规则、密钥检测与外部审核适配。用 XGo 组合 HTTP、JSON、LLM 检查,执行拦截、脱敏或告警。

可编程护栏
06

面向 Agent 的连续调用

多轮对话与工具调用结构,Responses 历史续接,会话与调用追踪。在 Playground 验证流式结果与模型对比。

会话与运行
07

从对话走向多模态

按部署能力连接图片、音频、Embedding、Rerank 与视频任务;跟踪异步状态、结果、用量和结算。

媒体任务
08

看得见,才能管得好

模型目录、接入诊断、调用与错误日志、费用明细、管理审计和健康检查,连接配置与实际运行。

运行与排查

THE XHUB DIFFERENCE

把特色放进真实业务。

规则可以编程

用 XGo 将企业检查编排为调用前护栏,草稿调试与实际调用共用执行器。

查看脚本与示例 →

策略沿组织传递

密钥、团队、组织逐层选择路由模板,清除绑定恢复继承;模板不会扩大模型权限。

理解模板继承 →

一次调用,一份费用依据

记录当次价格快照,区分响应缓存与提示词缓存,支持多维计价和异步任务结算去重。

了解计价机制 →

ONE WORKSPACE

平台团队与业务团队,各得其所。

管理员配置共享资源,成员发现可用模型。用同一套控制台完成接入、验证与追踪。

XHub / Model catalog
XHub 模型目录控制台

已配置实例的实际界面;新安装需先添加供应商和模型部署。

FROM SETUP TO SCALE

一条清晰的落地路径。

01

接入模型

添加供应商凭证与部署,发布模型名。

02

建立边界

配置团队、成员、模型权限与预算。

03

接入业务

生成虚拟密钥,Playground 验证后集成。

04

持续治理

核对用量与费用,调整策略并追踪问题。

从一个应用,到整个组织。

企业 AI 平台

统一模型目录与部门预算,让共享资源有清晰的管理边界。

业务助手与编码 Agent

管理服务密钥、工具调用与多轮会话,追踪使用情况。

RAG 与内容生产

将检索、对话和媒体任务纳入同一入口与用量体系。

START ON YOUR INFRASTRUCTURE

在自己的环境,开始第一步。

克隆仓库,在主机上构建镜像,再通过 Docker Compose 启动网关、控制台与存储。

需要 Git、Go 1.25、Node.js ≥24.14.1、npm ≥11.10.0、Docker Compose、Bash 和可读取的系统 CA bundle(可通过 XHUB_CA_CERT_FILE 指定)。Windows 请使用 WSL2。

完整安装与首次调用 →
控制台 :3000网关 API :4000
Docker Compose
git clone https://github.com/qiniu/xhub.git
cd xhub
bash deploy/build.sh
docker compose up -d --no-build
Python · OpenAI SDK
from openai import OpenAI

client = OpenAI(
    api_key="YOUR_XHUB_VIRTUAL_KEY",
    base_url="http://localhost:4000",
)

response = client.chat.completions.create(
    model="YOUR_PUBLIC_MODEL_NAME",
    messages=[{"role": "user", "content": "Hello, XHub!"}],
)
print(response.choices[0].message.content)

DOCUMENTATION

从了解产品,到用好每个能力。

安装、管理、协议、权限、安全与运维。文档直接来自仓库,随版本同步更新。

浏览全部文档 →

输入关键词搜索全文,例如:预算、路由、Docker