模型路由与护栏
配置可用模型、重试与请求保护。
模型与部署
应用发送公开模型名,网关选择可用部署。多个部署可服务同一公开名称,上游名称不必与公开名称一致。
路由模板
在路由模板配置权重、重试和超时并绑定到需要的范围。参数必须匹配部署协议;先在调试台验证。
护栏与日志
护栏按规则和执行阶段拦截、脱敏或放行。拦截时查看规则、响应与日志,区分策略拒绝和供应商故障。
配置可用模型、重试与请求保护。
应用发送公开模型名,网关选择可用部署。多个部署可服务同一公开名称,上游名称不必与公开名称一致。
在路由模板配置权重、重试和超时并绑定到需要的范围。参数必须匹配部署协议;先在调试台验证。
护栏按规则和执行阶段拦截、脱敏或放行。拦截时查看规则、响应与日志,区分策略拒绝和供应商故障。