模型配置
Root 配置全局模型行为、供应商适配和 io.net 模型部署。
模型配置位于 /system-settings/models，仅 Root 可访问。
模型配置简介
该工作区包含「全局模型配置」「Gemini」「Claude」「Grok」和「模型部署」五个分区。负责实例级的模型协议适配和模型部署集成。
| 分区 | 入口 | 主要用途 |
|---|---|---|
| 全局模型配置 | /system-settings/models/global | 请求透传、思考后缀豁免、ChatCompletions 转换、流式心跳。 |
| Gemini | /system-settings/models/gemini | Gemini/Vertex 转换默认值与思考适配。 |
| Claude | /system-settings/models/claude | Claude 请求头覆盖、默认输出上限与思考适配。 |
| Grok | /system-settings/models/grok | 使用规范违规的额外扣费。 |
| 模型部署 | /system-settings/models/model-deployment | io.net 托管部署的开关与凭证。 |
「路由可靠性」和「渠道亲和性」已移至请求策略配置，旧地址 /system-settings/models/routing-reliability、/system-settings/models/channel-affinity 会自动跳转到其中的「会话与重试」。
配置分区
模型域下有五个独立分区：
全局模型配置
- 模型-全局模型配置
- 请求透传
启用后，Relay 会在相关协议链路中把客户端原始请求体直接发送给上游，跳过许多请求体转换、字段移除、系统提示词合并和参数覆盖步骤。
- 不自动处理思考后缀的模型
此处列出的模型不会自动添加或移除 -thinking / -nothinking 后缀。命中的模型同时豁免 @ 修饰符解析与 400 校验。以 re: 开头的条目会按 Go 正则匹配完整模型名，例如 re:.@sha256:.。
- ChatCompletions → 响应兼容
渠道匹配与模型正则需要同时满足。页面提供「填充示例（指定渠道）」和「填充示例（全部渠道）」两个按钮。
字段说明：
| 字段 | 作用 |
|---|---|
enabled | 总开关；关闭时其他字段不生效。 |
all_channels | 为 true 时允许所有渠道参与匹配。 |
channel_ids | all_channels 为 false 时按渠道 ID 匹配，命中任一即通过。 |
channel_types | all_channels 为 false 时按渠道类型编号匹配，命中任一即通过。 |
model_patterns | 正则表达式数组；请求模型至少命中一项才转换。 |
注意
- 此功能为实验性功能。配置格式和行为可能会发生变化。
- 全局请求透传或目标渠道的请求体透传开启时不会进入该转换链路
- 保持连接心跳
| 页面字段 | 配置键 | 默认值 | 校验与范围 | 影响范围 | 备注 |
|---|---|---|---|---|---|
| 保持连接心跳 | general_setting.ping_interval_enabled | false | 布尔 | 适用的流式连接 | 定期发送 ping 帧以保持流连接处于活动状态。 |
| Ping 间隔（秒） | general_setting.ping_interval_seconds | 60 | 最小 1 | 心跳写入周期 | 建议保持此值较高，以避免上游限流。 |
Gemini
Gemini 分区控制 Gemini 和部分 Vertex 转换链路使用的实例级默认行为。
- 模型-Gemini
| 页面字段 | 默认值 | 校验与范围 | 说明 |
|---|---|---|---|
| 安全设置 | {"default":"OFF"} | JSON 字符串映射 | 以 JSON 格式提供按类别划分的安全覆盖。使用 default 作为回退值。 |
| 版本覆盖 | {"default":"v1beta","gemini-1.0-pro":"v1"} | JSON 字符串映射 | 将模型标识符映射到 Gemini API 版本。当未找到特定匹配项时，将应用 default 条目。 |
| 支持的 Imagine 模型 | 7 项内置模型 | JSON 字符串数组 | 接受支持 Imagine API 的模型标识符的 JSON 数组。 |
| 思考后缀适配器 | false | 布尔 | 支持 -thinking、-thinking-{{budget}}、-nothinking 以及 -high 等推理强度后缀，同时路由到正确的 Gemini 变体。关闭后模型名原样发送给上游。 |
| 预算令牌比例 | 0.6 | 0.002–1 | 预算令牌 = 最大令牌数 × 比例。接受 0.002 到 1 之间的十进制数。建议与上游计费保持一致。 |
| 启用 FunctionCall 思维签名填充 | true | 布尔 | 仅为使用 OpenAI 格式的 Gemini/Vertex 渠道填充 thoughtSignature |
| 移除 functionResponse.id 字段 | true | 布尔 | Vertex AI 不支持 functionResponse.id 字段，开启后将自动移除该字段 |
提示
- 「支持的 Imagine 模型」只改变转换时的输出模态，不会自动添加模型、价格或渠道能力；应填写模型映射后的上游名称。
- 即使禁用适配器，Gemini 也会继续自动检测思维模式。仅当您需要对定价和预算进行更精细的控制时才启用思考后缀适配器。
Claude
- 模型-Claude
| 页面字段 | 默认值 | 校验与范围 | 影响范围 | 说明 |
|---|---|---|---|---|
| 请求头覆盖 | {} | JSON 对象：模型名 → 请求头 → 值数组 | 命中模型的出站请求头 | 以 JSON 格式提供按模型划分的标头覆盖。可用于启用测试功能，例如扩展上下文窗口。 |
| 默认最大 Token 数 | {"default":8192} | JSON 对象；值为非负整数 | 缺失或为 0 的 max_tokens | 示例 { "default": 8192, "claude-3-haiku-20240307": 4096, "claude-3-opus-20240229": 4096, "claude-3-7-sonnet-20250219-thinking": 8192 } |
| 思考后缀适配器 | true | 布尔 | 后缀到原生思考参数的转换 | 将带 -thinking、-nothinking 以及 -high 等推理强度后缀的请求适配为 Anthropic 原生思考请求，并保持计费可预测。关闭后模型名原样发送给上游。 |
| 预算令牌比例 | 0.8 | 0.1–1 | 思考预算估算 | 预算令牌 = 最大令牌数 × 比例。接受 0.1 到 1 之间的十进制数。 |
Grok
- 模型-Grok
| 页面字段 | 配置键 | 默认值 | 校验与范围 | 说明 |
|---|---|---|---|---|
| 启用违规扣费 | grok.violation_deduction_enabled | true | 布尔 | 开启后，违规请求将额外扣费。 |
| 违规扣费金额 | grok.violation_deduction_amount | 0.05 | 非负数 | 基础金额，实际扣费 = 基础金额 × 系统分组倍率。 |
注意
- 只有在上游错误中出现受支持的违规标记（例如内容违反使用规范的提示）时才触发。普通上游错误、内容审核失败或所有 Grok 请求不会因此额外扣费；这类错误还会被标记为不可重试。
- 实际扣费按「基础金额 × 系统分组倍率」换算，并在正常预扣失败流程之外单独写入一条消费记录，排查时应同时查看原请求错误和违规费日志。页面提供指向 x.ai 官方说明的链接。
- 该设置直接扣减用户余额。启用或调整金额前应核对上游最新违规收费规则、分组倍率和面向用户的价格说明。
提示
原「渠道亲和性」分区已移至请求策略，现称「会话保持」，见会话与重试。
模型部署
当前模型部署集成支持 io.net。Root 从「系统设置 → 模型 → 模型部署」进入，或访问 /system-settings/models/model-deployment。本分区用于启用接入和配置凭证，不是创建部署资源的表单。
下图为开启「启用 io.net 部署」后的状态（默认关闭）。
- 模型-模型部署
字段与按钮说明
| 页面字段或按钮 | 默认或填写要求 | 说明 |
|---|---|---|
| 启用 io.net 部署 | 默认关闭 | 配置键为 model_deployment.ionet.enabled。开启界面开关后才显示密钥输入框、测试按钮和密钥获取说明；实际使用部署服务还需保存开启状态及有效密钥。 |
| io.net API 密钥 | 首次配置时填写 | 配置键为 model_deployment.ionet.api_key，用于 io.net 部署 API 授权。重新加载页面后不回显，输入框为空不表示尚未配置。 |
| 测试连接 | 可在保存前使用 | 使用当前输入的密钥测试；输入为空时回退到已保存密钥。只测试连接，不保存设置。 |
| 保存 io.net 设置 | 修改配置后点击 | 提交相对表单初始值发生变化的字段。开关和密钥逐项保存，不是一次整体事务。 |
配置流程
- 开启「启用 io.net 部署」，展开密钥配置区域。
- 点击「前往 io.net API 密钥」，打开 io.net API 密钥页面。创建或选择密钥时，将 Project 设置为
io.cloud。 - 复制密钥，粘贴到「io.net API 密钥」输入框。已有密钥且无需更换时，可保持重新加载后的空框不变。
- 点击「测试连接」。成功后页面显示连接成功提示；失败时根据错误信息检查密钥、项目和网络连接。没有输入密钥且没有已保存密钥时，测试会提示需要 API Key。
- 点击右上角「保存 io.net 设置」。
注意
关闭本分区的接入开关不会终止已有 io.net 部署，也不代表第三方费用停止。关闭后，New API 中查看、延长和终止已有部署的操作也会被拒绝。创建、延长和终止部署会改变第三方资源和费用，执行前应核对 io.net 账户、资源配置及账单；New API 不保证第三方容量、账单或部署成功率。
保存与生效
保存方式见系统设置概览，生效与多实例同步规则见生效范围与多实例同步。未特别说明时，保存后处理该请求的节点立即使用新值，其他节点随系统设置同步（默认 60 秒）；各配置项读取新值的时机如下：
| 配置项 | 保存方式 | 生效时机 |
|---|---|---|
| 全局模型配置 › 请求透传、不自动处理思考后缀的模型、ChatCompletions → 响应兼容；Gemini、Claude 的全部字段 | 页头「保存更改」 | 下一次请求起。 |
| 全局模型配置 › 保持连接心跳、Ping 间隔（秒） | 页头「保存更改」 | 每个流式响应开始时读取，新的流式请求起生效；已在进行的流沿用原设置。 |
| Grok › 违规扣费的开关和金额 | 页头「保存更改」 | 下一次出现违规标记、需要扣费时按新设置计算。 |
| 模型部署 › 启用 io.net 部署、io.net API 密钥 | 「保存 io.net 设置」 | 下一次查看、创建、延长或终止部署时按新值判断；关闭后这些操作被拒绝，已有部署不会终止。 |
| 模型部署 › 测试连接 | 不保存设置 | 用输入框中的密钥测试，输入为空时使用已保存的密钥。 |
补充说明
- 校验：页面检查 JSON 字段的格式。服务端另外校验两项：Gemini「安全设置」的阈值必须是允许的取值，Claude「默认最大 Token 数」不能为负数；校验不通过时该字段及其后的字段都不保存，提示见常见问题。
注意事项
- Grok 违规扣费直接扣减用户余额：见Grok。
- 关闭 io.net 部署不会终止已有部署：也不会停止第三方费用，见模型部署。
- 保存成功不代表上游接受：除上述两项取值外，其他配置是否被上游接受，要到实际请求时才能确定。
- 请求透传会绕过转换：全局或渠道级请求体透传开启时，ChatCompletions 转换、参数覆盖等不生效，见全局模型配置。
常见问题
相关文档
这篇文档对您有帮助吗？
最后更新于