New APINew API
使用指南部署安装API 参考AI 应用Skills插件帮助支持商务合作合规与使用政策
⚠️合规提示:本项目仅用于合法授权的 API 网关、内部管理和私有化部署场景。请遵守上游服务条款、平台规则、监管要求和内容安全要求。
管理员指南

请求处理

Root 添加请求处理实例,在请求发往上游前检查或修改请求:选择插件与适用范围、调整运行顺序、试运行,并在渠道中添加实例。

  • 仅 Root 可访问,从侧边栏「管理员」→「请求处理」进入。
  • 添加请求处理实例,在请求发往上游前检查或修改请求。
  • 请求处理插件在插件管理中安装、启停和管理版本,本页只添加和管理实例。

提示

  • 页面中的每一行是一个「实例」:选择一个请求处理插件并填写设置,保存后对匹配的请求生效。
  • 实例可以对所有请求或指定分组生效,也可以只添加到指定渠道,见在渠道中添加实例。
  • 渠道编辑抽屉「请求与响应」中标题同为「请求处理」的卡片(强制格式化、思维到内容等)是渠道自身的选项,与本页无关。

请求处理概览

  • 请求处理-实例列表

请求处理-实例列表页面

页面列出全部请求处理实例,每行一个,从上到下运行:

提示

请求被拒绝、客户端收到 HTTP 500 或实例没有生效时,查看常见问题。

字段说明:

字段定义填写要求和限制备注
顺序实例在列表中的位置,决定运行的先后。用序号右侧的上移、下移按钮调整。运行顺序见运行阶段与顺序。
名称实例名称。在实例对话框中修改,最多 64 个字符;默认与插件名相同。—
插件实例使用的插件。添加时选择,之后不能更换。显示插件图标和名称;插件已停用或未安装时显示插件 Key 和「插件已停用」,见实例状态。
适用范围实例处理哪些请求。在实例对话框的「用在哪里」中设置。显示「所有请求」、选中的分组名称或「仅渠道」。「仅渠道」即对话框中的「只在渠道添加」。只对指定模型生效时,下方显示「模型:…」。
已启用实例的启用开关。新建实例默认开启;切换后立即保存。各状态见实例状态。
操作编辑、删除。—见行操作。

常用操作

本节介绍添加、编辑、排序、启停和删除实例,以及试运行和在渠道中添加实例。

添加与编辑实例

  • 请求处理-添加请求处理

请求处理-添加请求处理页面

添加操作流程:

  1. 点击页面右上角「添加」。
  2. 在「添加请求处理」对话框中点击一个插件卡片。
  3. 需要时点击对话框顶部名称旁的铅笔图标修改实例名称。名称默认与插件名相同,最多 64 个字符,清空后恢复为插件名。
  4. 在「设置」中填写插件的设置项,各内置插件的设置见内置请求处理插件。
  5. 在「用在哪里」中,第一行选择适用范围,第二行选择适用的模型,选项见本节末的表。
  6. 需要时在右侧「试一试」中选择「示例请求」或「粘贴请求」,点击「运行」。
  7. 确认左下角「已启用」开关,点击「保存」。

提示

  • 对话框标题下方显示「选一个插件开始,设置之后随时可以改。」
  • 插件卡片显示插件的说明和运行阶段,运行阶段如「读取请求前」「发送前」「检查回复」。
  • 卡片还显示出错时的处理:「出错时跳过」或「出错时拒绝请求」。
  • 已有实例的插件,卡片上显示「已添加 … 个」。
  • 选错插件时,点击左下角「换个插件」重新选择。名称和设置恢复为新插件的默认值,「用在哪里」和「已启用」保留。
  • 设置不符合要求时,该项下方显示原因,如「此项必填」。
  • 服务端校验未通过时,「用在哪里」下方显示「请求处理实例 … 的设置无效:…」,对话框保持打开。
  • 保存成功后对话框关闭,新实例添加到列表末尾。
  • 点击「取消」不保存,再次打开时不保留未保存的改动。

「试一试」区域说明:

面板从上到下的区域如下,未满足显示条件的区域不显示。

区域显示条件说明
「运行」—面板右上角,用对话框中当前的设置运行。设置有错误时不可点击,下方显示「先修正设置里的问题再运行。」
「示例请求」—默认选中,显示插件自带的示例请求;插件没有示例时使用通用示例。
「附带的图片」示例请求含图片时显示示例图片的缩略图、格式、大小和像素尺寸。
「示例回复」选择「示例请求」,且插件会检查模型回复时显示示例中的模型回复。
「粘贴请求」—在下拉框中选择请求的格式:「OpenAI Chat Completions」(默认)、「OpenAI Responses」「Claude Messages」或「Gemini」,在「请求体」中粘贴 JSON。
提示原文:「请求体必须是 JSON 对象。」
「要检查的回复(可选)」选择「粘贴请求」,且插件会检查模型回复时填写要一并检查的模型回复。
底部提示—运行前显示「使用当前设置。」;运行后又修改了设置时,结果上方显示「设置改过了,再运行一次看看。」

「试一试」结果说明:

运行后结果替换示例,末行显示「用时 … 毫秒」。

情形面板显示
实例拒绝请求红框「这个请求会被拒绝」,下方为插件的提示和代码。
实例运行出错黄框,下方为错误原文。标题按插件「出错时」的处理和出错的阶段显示:
「出错时拒绝请求」:「插件出错,这个请求会被拒绝」
「出错时跳过」:「插件出错,请求会不带它的改动继续发送」
「出错时拒绝请求」,在「检查回复」阶段出错:「插件出错,这条回复会被中止」
「出错时跳过」,在「检查回复」阶段出错:「插件出错,回复会不带它的改动继续发送」
没有改动「没有改动,请求原样发给上游。」;带回复运行时为「没有改动,请求和回复都原样通过。」
压缩了图片「原图」和「发给上游」两张图片,以及节省的比例(如 −62%)。
改写了文本「原文」和「发给上游」的文字对比,标出改动处。
设置了推理强度「推理强度」的原值和新值;原来没有设置时显示「未设置」。
中止或遮盖了回复「这条回复会被中止」和插件的提示、代码;或「模型的回复」和「发给客户端」的对比。
会写入使用日志「使用日志里会显示」和日志中的记录。
无法运行结果上方红字显示错误原文,如「请求处理实例 … 的设置无效:…」。

提示

  • 「试一试」使用对话框中当前的设置,不需要先保存。
  • 只运行这一个实例。
  • 按「所有请求」「所有模型」运行,不受「用在哪里」和「已启用」的选择影响,也不经过渠道。
  • 「试一试」不发往上游,也不计费。
  • 「内容审核」会实际调用设置中的审核接口。

编辑操作流程:

  1. 点击实例所在行末的编辑图标。
  2. 按需修改名称、设置和「用在哪里」。
  3. 点击「保存」。

添加与编辑的差异:

编辑时使用与添加相同的对话框,下表只列不同之处。

项添加编辑
入口页面右上角「添加」,先在「添加请求处理」中选择插件。行末的编辑图标,直接打开设置。
「换个插件」显示在左下角。不显示,实例不能更换插件。
初始值名称为插件名,设置为插件的默认值,「所有请求」「所有模型」,已启用。实例已保存的值。
保存后的位置列表末尾。位置不变。
插件已停用或未安装时不会出现:选择插件时只列出可用的插件。「设置」中显示「此插件已停用或未安装,实例不会运行,设置会保留。」
不显示「试一试」。
保存时原设置保留,「用在哪里」仍可修改。
「已启用」开启时无法保存,需先关闭。

「用在哪里」选项说明:

新建实例默认选择「所有请求」和「所有模型」。

选项说明
「所有请求」不论分组和渠道,所有请求都运行。
「指定分组」只处理选中分组的请求。在下方「选择分组」中至少选择一个分组。
「只在渠道添加」在渠道设置里加上才生效,见在渠道中添加实例。
「所有模型」不论请求哪个模型都运行。
「指定模型」只处理选中模型的请求。
在下方「选择模型或添加自定义模型」中至少选择一个模型,也可输入列表中没有的模型名。
最多 100 个模型,每个模型名最多 128 个字符。
按客户端请求的模型名匹配(模型映射之前)。

调整顺序、启用或删除实例

以下操作在实例列表中直接进行,每次操作立即保存整张列表,成功时没有提示。

列表内操作:

  • 调整顺序:点击「顺序」列序号右侧的上移、下移按钮。
  • 启用或停用:点击「已启用」列的开关。保存失败时开关恢复原状。
  • 修改设置:见添加与编辑实例。

删除实例操作流程:

  1. 点击实例所在行末的删除图标。
  2. 在「删除实例?」确认框中点击「删除」。

注意

  • 确认框提示「… 将停止处理请求,包括添加了它的渠道。」,删除后无法恢复。
  • 删除不会从渠道中移除对它的引用,渠道中显示「已删除」,见在渠道中添加实例。
  • 保存失败时弹出服务端的错误原文,列表不变。
  • 常见的失败原因是有已启用的实例使用了已停用的插件,见实例状态。

试运行

  • 请求处理-试运行

请求处理-试运行页面

「试运行」用示例请求运行已保存的实例,不发往上游,也不计费。「内容审核」实例会实际调用审核接口。

操作流程:

  1. 点击页面右上角「试运行」。
  2. 选择「格式」,填写「模型」。
  3. 需要时填写「分组」和「渠道 ID」。
  4. 在「请求体」中填写示例请求,点击「运行」。
  5. 查看「结果」。

提示

  • 只运行已保存且已启用的实例,不运行「检查回复」阶段。
  • 遇到拒绝请求或使请求失败的出错时停止,后面的实例不再运行。
  • 关闭对话框后再打开,所有输入恢复默认值。

结果说明:

区块显示内容
首行结论「请求通过了所有实例。」:没有实例拒绝请求,也没有使请求失败的出错;「出错时」为「跳过」的实例出错时也显示这一句,执行步骤的「操作」列为 fail。
「被 … 拒绝:…(代码:…)」:该实例拒绝了请求,后面的实例不再运行。
「… 运行失败:…」:「出错时」为「拒绝请求」的实例出错,如审核接口无法访问;实际请求会收到 HTTP 500,见常见问题。
执行步骤每个实例的「实例」(下方为插件名)、「阶段」「操作」「修改数」「命中」和「耗时」。「操作」为「通过」「拒绝」或「未检查」;出错时显示 fail 和错误原因。「命中」为「规则 (类别) × 次数」,没有时为「—」。没有实例运行时显示「没有实例对此请求运行。」
请求体实例对请求体的修改;没有修改时显示「请求体未改变。」
请求头变更设置或移除的请求头;没有时显示「请求头没有变更。」
推理强度有实例设置了推理强度时显示「推理强度:…」。
用户在日志中看到的内容用户在使用日志中能看到的记录,如「已拦截(代码:…)」;没有时显示「用户日志中不会显示此请求的处理内容。」

配置项说明:

对话框不分区,下表按对话框中的顺序排列。

配置项定义填写要求和限制默认值
格式示例请求的格式。「OpenAI Chat Completions」「OpenAI Responses」「Claude Messages」或「Gemini」;切换时「模型」和「请求体」恢复为该格式的默认值。OpenAI Chat Completions
模型请求的模型名。必填,为空时「运行」不可点击;决定「指定模型」的实例是否运行。随格式而定,如 gpt-4.1-mini
分组请求所在的分组。选填,可选择或输入分组名;留空时不运行「指定分组」的实例。空
渠道 ID按此渠道运行。选填,填写时同时运行此渠道添加的实例。
提示原文:「请输入有效的渠道 ID。」「渠道不存在」
空
请求体示例请求。必须是 JSON 对象,否则提示「请求体必须是 JSON 对象。」该格式的示例请求

在渠道中添加实例

「用在哪里」为「只在渠道添加」的实例,只在添加了它的渠道上运行。其他实例添加到渠道后,也会在该渠道的请求上运行。

操作流程:

  1. 在渠道管理中编辑渠道,打开「请求与响应」页签。
  2. 在「覆盖规则」中找到「请求处理插件」,从「添加实例」下拉框中选择实例。
  3. 需要时用上移、下移按钮或拖动调整顺序,点击 × 移除实例。
  4. 点击「更新渠道」保存。

提示

  • 「请求处理插件」字段只对拥有「绑定任务插件」权限的账号显示。
  • 修改「请求处理插件」属于渠道的敏感项。
  • 实例已因「所有请求」或分组在该请求上运行过时,不会再次运行。

配置项说明:

渠道表单的其余配置项见渠道管理。

配置项定义填写要求和限制默认值
请求处理插件为本渠道添加的实例。说明为「对所有请求或对此渠道分组生效的实例也会运行。」下拉框列出尚未添加的全部实例,包括已停用的实例,选中后添加到末尾;全部添加后显示「没有更多实例」。列表顺序即本渠道添加的实例的运行顺序。
标记:已停用的实例显示「已禁用」,不运行;已删除的实例显示「已删除」和实例 ID。
空

注意

实例被删除后,渠道中仍保留的引用显示「已删除」,移除后才能保存渠道。未移除时,保存渠道会提示「请求处理实例 … 不存在」。

规则与机制

本节说明实例的运行阶段和顺序、请求被拦截时的处理和记录,以及六个内置请求处理插件的设置。

运行阶段与顺序

每个插件声明自己在哪些阶段运行,阶段显示在插件卡片和实例对话框顶部。

运行阶段说明:

  • 「读取请求前」:收到请求后、选择渠道前,检查或修改客户端的请求;渠道添加的实例在选定渠道后运行。
  • 「转换格式前」:选定渠道后、把请求转换为渠道的格式之前。
  • 「发送前」:每次发往渠道之前,早于渠道的参数覆盖。
  • 「最终检查」:渠道的参数覆盖之后,检查即将发往上游的请求,只能拒绝,不能修改。
  • 「检查回复」:检查模型的回复,命中时中止回复。

运行顺序:

  • 列表上方的说明为「实例从上到下运行:先运行对所有请求生效的实例,再运行请求所在分组的实例,最后运行渠道添加的实例。」
  • 每组内按列表顺序运行,渠道添加的实例按渠道中的顺序运行。
  • 顺序不同,结果可能不同,修改顺序后用试运行检查。
  • 对所有渠道生效的参数规则用全局参数覆盖实例设置。

拦截与日志

实例拒绝请求或运行出错时,客户端收到错误,使用日志中留下记录。

客户端收到的错误:

情况客户端收到是否发往上游
实例拒绝请求HTTP 400,错误码 request_rejected
消息:插件的提示(如请求过滤的「拒绝提示」;内容审核为英文提示),未设置时为「请求被策略拒绝」;末尾附「(code: …)」,如请求过滤的 request_filtered、请求脱敏的 sensitive_content、内容审核的 moderation.flagged
否,也不换渠道重试
实例运行出错,
插件「出错时」为「拒绝请求」
(如审核接口无法访问)
HTTP 500,错误码 request_plugin_failed
消息:「请求处理插件执行失败」
否,也不换渠道重试
实例运行出错,
插件「出错时」为「跳过」
—是,跳过该实例,请求照常发送
检查回复时中止回复错误码 response_rejected;非流式回复为 HTTP 400,流式回复在已发出的内容之后返回一条错误后结束
消息:插件的提示,未设置时为「回复被策略中止」;末尾附「(code: …)」
是,中止的是模型的回复

日志中的记录:

以下内容在使用日志中查看。

位置显示内容备注
日志列表模型名下方显示「已处理」,悬停显示「请求处理:…」请求经请求处理修改、发现内容或被拦截时显示
日志详情「请求处理」区各实例做了什么;拒绝请求或「出错时」为「拒绝请求」的实例出错时显示「已拦截(代码:…)」,中止回复时显示「已中止(代码:…)」被渠道参数覆盖替换的修改标注「已被渠道设置覆盖」;实例未能读取请求时标注「未检查」,见注意事项
日志详情「请求处理步骤」每个实例的阶段、耗时和错误仅管理员可见
错误日志被拦截的请求写入一条错误日志,不写消费日志仅在开启错误日志记录时写入,见请求决策记录

内置请求处理插件

New API 内置以下六个请求处理插件(随版本更新,以实际列表为准)。也可以在插件管理中上传或从插件市场安装其他请求处理插件。

插件说明:

「出错时」为「拒绝请求」的插件运行出错时,请求被拒绝,见拦截与日志;为「跳过」的插件跳过该实例,请求照常发送。

插件运行阶段出错时用途
请求过滤(request-filter)读取请求前、最终检查、检查回复拒绝请求拒绝文本命中关键词或正则表达式的请求,见请求过滤。
请求脱敏(request-redact)读取请求前、最终检查、检查回复拒绝请求发送前替换请求文本中的个人信息和密钥,见请求脱敏。
内容审核(content-moderation)读取请求前、检查回复拒绝请求使用 OpenAI 兼容的审核接口检查用户内容,拒绝被标记的请求,见内容审核。
全局参数覆盖(param-override)发送前拒绝请求对所有请求、指定分组或指定模型应用参数覆盖规则,见全局参数覆盖。
自动推理强度(auto-reasoning)转换格式前跳过根据请求的规模设置推理强度,见自动推理强度。
图片压缩(image-compress)发送前跳过发送到上游前压缩请求中的大图片,见图片压缩。

提示

各插件的设置见下面各小节,「默认值」为新建实例时的值。

请求过滤

  • 请求处理-请求过滤配置

请求处理-请求过滤配置页面

拒绝文本命中关键词或正则表达式的请求。在「读取请求前」检查请求中的全部文本:各角色的消息、系统提示词、工具定义和调用参数、工具结果、提示词,以及附带的文本、PDF、DOCX 文件;在「最终检查」阶段再检查一次即将发往上游的请求,渠道参数覆盖加入的文本也在其中。命中时客户端收到 HTTP 400、错误码 request_rejected,消息为「拒绝提示」,末尾附 (code: request_filtered)。

配置项说明:

配置项定义填写要求和限制默认值
规则命中任一规则时拒绝请求;点击「添加规则」逐条添加选填,最多 500 条无
规则 › 关键词或表达式要匹配的关键词或正则表达式必填,1–1024 个字符;正则表达式以 (?i) 开头时不区分大小写;表达式无效时无法保存—
规则 › 匹配方式「关键词」或「正则表达式」—关键词
规则 › 区分大小写是否区分大小写—关闭
规则 › 规则 ID命中时记录在使用日志中选填,最多 64 个字符;留空时按顺序编号为 rule-1、rule-2…空
关键词列表每行一个,请求中出现任意一个时拒绝选填,适合大量关键词;只命中关键词列表时,日志中记为 keywords空
关键词区分大小写关键词列表是否区分大小写—关闭
拒绝提示返回给客户端的提示选填,最多 256 个字符;留空时为「请求被策略拒绝」;输入框中的灰字是示例空
检查回复同时中止命中规则的模型回复中止时客户端收到错误码 response_rejected;流式回复会暂缓发出末尾一小段文字,以免关键词被拆在两段之间而漏检关闭

请求脱敏

  • 请求处理-请求脱敏配置

请求处理-请求脱敏配置页面

在「读取请求前」把请求文本中的个人信息和密钥替换为替换文本,再继续处理请求。替换范围是消息、系统提示词和提示词,不含工具定义;先按「内置类型」替换,再按「自定义规则」替换。附带的文本文件一并替换;PDF、DOCX 等文件无法改写,其中含有此类信息时按「发送前检查」处理。

配置项说明:

配置项定义填写要求和限制默认值
内置类型要替换的信息类型:邮箱地址、电话号码、身份证号、银行卡号、API 密钥和令牌、IPv4 地址点击标签选择,可多选;电话号码指中国大陆手机号和带 + 的国际号码;身份证号、银行卡号通过校验位才替换除「IPv4 地址」外全选
自定义规则在内置类型之后应用的正则表达式;点击「添加规则」逐条添加选填,最多 50 条无
自定义规则 › 正则表达式匹配到的文本会被替换必填,1–1024 个字符;表达式无效时无法保存—
自定义规则 › 替换文本该规则的替换文本选填,最多 64 个字符;留空时使用「默认替换文本」空
自定义规则 › 规则 ID命中时记录在使用日志中选填,最多 64 个字符;留空时按顺序编号空
默认替换文本替换每处匹配的文本最多 64 个字符[REDACTED]
发送前检查即将发送的请求仍含此类信息时的处理方式:「拒绝请求」或「关闭」「拒绝请求」时,以下情况拒绝请求,消息为「请求被策略拒绝」,末尾附 (code: sensitive_content):「最终检查」阶段发现请求仍含此类信息(如渠道参数覆盖加入的);附带的文件无法改写;需要替换的位置超过 512 处、无法全部替换。「关闭」时这些情况都照常发送,无法全部替换时只替换前 512 处拒绝请求
遮盖回复同时遮盖模型回复中的这些类型和规则回复中匹配的文字统一替换为 ***,不使用替换文本;流式回复会暂缓发出末尾一小段文字关闭

提示

「IPv4 地址」默认不选:版本号、示例地址与 IPv4 地址形式相同,容易被误替换。

内容审核

  • 请求处理-内容审核配置

请求处理-内容审核配置页面

在「读取请求前」把用户消息(以及其中的图片和附带文档的文字)发给 OpenAI 兼容的审核接口,被标记时拒绝请求:客户端收到 HTTP 400、错误码 request_rejected,消息为 The request was flagged by content moderation (code: moderation.flagged)(仅英文)。只检查用户消息和补全、嵌入、图片生成等请求的提示词,不检查系统提示词和工具。需要一个可访问的审核接口,例如 OpenAI 的审核接口。

配置项说明:

配置项定义填写要求和限制默认值
审核接口地址接受 OpenAI 审核请求的接口必填,以 http:// 或 https:// 开头的完整地址,最多 2048 个字符https://api.openai.com/v1/moderations
API 密钥调用审核接口的密钥,以 Bearer 令牌发送选填,接口无需密钥时留空;最多 1024 个字符空
审核模型发给审核接口的模型名留空时使用接口的默认模型;最多 128 个字符omni-moderation-latest
检查的文本发送给审核接口的用户消息:「最后一条用户消息」或「全部用户消息」文本过长、无法全部送审时拒绝请求,消息为 The request is too long for content moderation (code: moderation.too_long)(仅英文)最后一条用户消息
检查图片同时把用户消息中的图片发给审核接口每个请求最多送审 3 张图片开启
拦截的类别只拒绝被标记为所选类别的请求,共 13 个类别,如「骚扰」「仇恨」「暴力」点击标签选择,可多选;都不选时拒绝所有被标记的请求都不选
审核回复同时审核模型回复,被标记时中止回复非流式回复整段送审;流式回复约每 1000 字送审一次,通过后才发给客户端。中止时客户端收到错误码 response_rejected,消息为 The reply was flagged by content moderation (code: moderation.flagged)(仅英文)关闭

注意

  • 用户消息、图片和附带文档的文字会发送到「审核接口地址」,只填写可信任的服务。
  • 每个请求都会调用审核接口,开启「审核回复」后回复也会,响应时间和审核接口的用量随之增加;在「试一试」「试运行」中运行时同样会调用。
  • 审核接口无法访问、返回错误或单次调用超过 15 秒时,按运行出错处理:请求被拒绝,客户端收到 HTTP 500,见拦截与日志。

全局参数覆盖

  • 请求处理-全局参数覆盖配置

请求处理-全局参数覆盖配置页面

对所有请求、指定分组或指定模型应用参数覆盖规则,语法与渠道的参数覆盖相同,见参数覆盖系统。它在每次发往渠道前的「发送前」阶段运行,早于渠道自己的参数覆盖:同一参数以渠道的设置为准,规则中的请求头修改也在渠道的请求头覆盖之前应用。

配置项说明:

配置项定义填写要求和限制默认值
参数覆盖参数覆盖规则JSON 对象;可直接编辑,或点击「可视化编辑」使用与渠道相同的编辑器;下方「示例」可供参考;为 {} 时不做任何修改。规则中的 return_error 会拒绝请求:客户端收到 HTTP 400、错误码 request_rejected,消息为其中的消息,末尾附其中的代码;return_error 中设置的状态码不生效{}

提示

只修改单个渠道时,直接使用该渠道的参数覆盖。

自动推理强度

  • 请求处理-自动推理强度配置

请求处理-自动推理强度配置页面

按请求的规模(消息数、工具数、文本长度、是否含图片)设置推理强度,在「转换格式前」运行。运行出错时跳过该实例,请求照常发送。

配置项说明:

配置项定义填写要求和限制默认值
规则按顺序检查,第一条命中的规则决定推理强度;点击「添加规则」逐条添加,可用箭头调整顺序最多 50 条;一条规则中填写的条件都满足才命中,空着的条件不限制两条:「最少工具数」1 →「高」;「文本总长度」4000 →「高」
规则 › 最少消息数消息数不少于此值时命中选填,不小于 0 的整数空
规则 › 最少工具数工具数不少于此值时命中选填,不小于 0 的整数空
规则 › 最后一条用户消息长度最后一条用户消息的字数不少于此值时命中选填,不小于 0 的整数,单位为字符空
规则 › 文本总长度全部文本的字数不少于此值时命中选填,不小于 0 的整数,单位为字符空
规则 › 仅限含图片是否仅在请求含图片时命中关闭时不限制关闭
规则 › 推理强度规则命中时设置的推理强度必填:「关闭」「极低」「低」「中」「高」「极高」「最高」;「关闭」表示关闭思考—
默认推理强度没有规则命中时设置的推理强度「不设置」时不修改请求不设置
最低推理强度低于此强度时提高到此强度—不设置
最高推理强度高于此强度时降低到此强度—不设置
覆盖请求中的推理强度是否替换请求中已设置的推理强度关闭时,请求已设置推理强度(包括通过模型名设置的)就不做任何修改,「最低推理强度」「最高推理强度」也不生效关闭

注意

不支持推理的模型可能拒绝带推理强度的请求,请在「用在哪里」第二行选择「指定模型」,只选支持推理的模型。

图片压缩

  • 请求处理-图片压缩配置

请求处理-图片压缩配置页面

在「发送前」压缩请求中以 base64 内嵌的大图片,以 URL 引用的图片不处理。运行出错时跳过该实例,图片原样发送。

配置项说明:

配置项定义填写要求和限制默认值
压缩方式「无损」或「有损」无损只把 PNG、GIF 图片转为 WebP,保留全部像素、不缩小尺寸,上游需要支持 WebP;JPEG、WebP 图片不处理无损
最小图片大小不小于此大小的图片会被压缩不小于 0;单位可选 B、KB、MB(1 KB 按 1000 字节计)512 KB
最长边边长超过此值的图片会被压缩并等比缩小「压缩方式」为「有损」时显示;16–16384,单位 px。有损时图片达到「最小图片大小」或最长边超过此值,满足其一即压缩2048
输出格式「自动」「JPEG」或「PNG」;自动时有透明部分的图片用 PNG,其余用 JPEG「压缩方式」为「有损」时显示自动
JPEG 质量越高越清晰,节省的空间越少「压缩方式」为「有损」且「输出格式」为「自动」或「JPEG」时显示;1–10085

提示

  • 压缩后不比原图小时保留原图。
  • 超过 20 MiB 或 4000 万像素的图片和 GIF 动图不处理。
  • 每个请求最多压缩 32 张,其余原样发送。

操作项说明

页面按钮与筛选

页头:

操作位置说明
节点同步状态页面右上角,「试运行」左侧多实例部署且在线节点不少于 2 个时显示,点击查看各节点是否已载入最新的实例设置,见节点同步状态。
试运行页面右上角实例列表加载完成后可点击,见试运行。
添加页面右上角实例列表加载完成且没有保存进行中时可点击,见添加与编辑实例。

行操作

实例列表:

操作位置说明
上移、下移「顺序」列序号右侧与上一行或下一行交换位置,立即保存;第一行不能上移,最后一行不能下移。见调整顺序、启用或删除实例。
已启用「已启用」列的开关启用或停用实例,立即保存;保存失败时开关恢复原状。
编辑图标行末打开实例对话框,见添加与编辑实例。
删除图标行末,编辑图标右侧打开「删除实例?」确认框,见调整顺序、启用或删除实例。

提示

有保存进行中时,以上按钮和开关都不可点击。

状态项说明

实例状态

实例列表中显示以下状态:

状态含义备注
已启用(开关开启)实例按「用在哪里」运行。新建实例默认开启。实例使用的插件必须可用才能以开启状态保存。
已停用(开关关闭)实例不运行,设置保留。渠道中添加了它的行显示「已禁用」。
插件已停用实例使用的插件已停用、未安装或已删除,实例不会运行。「插件」列显示插件 Key 和灰色「插件已停用」。
实例仍开启时,列表的任何改动都无法保存,提示「插件 … 未安装或已停用」。
到插件管理启用插件,或先停用该实例。

列表状态

实例列表区域显示以下状态:

状态含义备注
暂无请求处理还没有实例。下方显示「添加实例,在请求到达模型前检查或修改请求。」
糟糕!出错了实例列表加载失败。下方显示错误原文,点击「重试」重新加载。

节点同步状态

多实例部署且在线节点不少于 2 个时,页面右上角显示以下摘要之一:

状态含义备注
已在 … 个节点生效各在线节点都已载入最新的实例设置。点击后在「节点」中逐个显示「已生效」。
…/… 个节点已更新部分节点还在载入。未完成的节点显示「更新中」,同步时间见保存与生效。
… 个节点更新失败有节点载入失败。失败的节点显示「更新失败」,下方列出「设置」和错误原文。

保存与生效

本页没有统一的保存按钮:添加、编辑、删除、调整顺序和启停后,整张实例列表立即保存。实例保存为系统设置:处理该请求的节点立即生效,其他节点约 3 秒内随系统设置同步(最迟一个同步周期,默认 60 秒)。

操作保存方式生效时机
添加、编辑实例对话框中点击「保存」下一次请求起按新设置运行。
调整顺序、启用、停用点击上移、下移按钮或「已启用」开关,立即保存;成功时没有提示下一次请求起按新顺序和状态运行。
删除实例确认框「删除实例?」中点击「删除」;成功时没有提示下一次请求起不再运行,添加了它的渠道也不再运行。
在渠道中添加实例渠道抽屉中点击「更新渠道」见渠道管理。

补充说明:

  • 试运行不保存:「试运行」只用已保存的实例,对话框中的「试一试」只用当前未保存的设置,两者都不改变实例列表。
  • 插件开关:插件管理页的「启用插件」全局开关不影响请求处理;单个请求处理插件被停用后,使用它的实例不运行,设置保留,见实例状态。
  • 保存失败:列表操作保存失败时弹出服务端的错误原文,列表保持原状;对话框保存失败时,错误原文显示在「用在哪里」下方。

注意事项

  • 删除会影响添加了它的渠道:确认框提示「… 将停止处理请求,包括添加了它的渠道。」,删除后无法恢复。
  • 拦截不重试:实例拒绝的请求直接返回 HTTP 400,不换渠道重试,见拦截与日志。
  • 顺序决定结果:每组实例按列表顺序运行,顺序不同,结果可能不同;修改顺序后用「试运行」检查,见运行阶段与顺序。
  • 透传请求体时部分实例不运行:渠道开启「透传请求体」或系统设置「全局模型配置」中开启「启用请求透传」时,请求原样发往上游,「转换格式前」「发送前」阶段的实例(自动推理强度、图片压缩、全局参数覆盖)不运行,渠道添加的实例在「读取请求前」也不运行;「最终检查」「检查回复」照常运行,「最终检查」检查原样请求。使用日志中,未运行的「发送前」实例和渠道添加实例的「读取请求前」标注「未检查」。
  • 自动推理强度只用于支持推理的模型:应在「用在哪里」第二行选择「指定模型」,只选支持推理的模型,见自动推理强度。
  • 内容审核会发送用户文本:用户消息、图片和附带文档的文字会发到设置中的审核接口地址,见内容审核。

常见问题

相关文档

这篇文档对您有帮助吗?

最后更新于