缺少提供者时,平台返回一种有类型的状态
为某个提供者声明的任务,要么这个提供者已经配置,要么没有。提供者缺失时,平台返回一种操作者看得见的、有类型的状态。这个状态就是结果。需要该提供者的工作停在这个状态上,缺口因此留在记录里,而不是被一个看起来说得通的答案埋掉。评估者可以引用这个状态,说明所问的配置仍然是空的。工作停住,是这个状态要让人看见的事。
静默替换是这个状态要防止的失败。落到另一个提供者,会在操作者所问的配置仍为空的时候呈现出成功。路由拒绝这种替它补上的做法。以后的提供者要靠一次故意的配置变更加进来。在那次变更之前,任何人可以引用的结果都是这个有类型的缺席。缺席保持可见,是为了不让另一条路径替它交卷。配置仍空着的时候,画面上不应当出现一次被当成成功的完成。
配置屏上的提供者是空的时候,任务的结果应当就是这份空,而不是另一个提供者悄悄完成的输出。空被写成有类型的状态,引用时可以指出是哪一个提供者缺席。要让任务继续,先做配置变更,再重新提交。路由不会替这次提交挑选一个替补。
生产配置拒绝仅限外部开发的提供者
外部模型 API 只在所有者决定为开发打开的地方被允许,并且只在部署配置不是生产的时候。提供者带有主权标记:仅限外部开发。部署配置为生产时,加载器拒绝它。这个拒绝才是执行。重复这条规则的段落,包括本段,本身并不拦截那次调用。写下规则,不等于加载器已经在那次加载里拒绝。执行点在加载器。
实际加载的配置是这句主张的一部分。开发用的一套栈,在配置不是生产时,仍可能到达一个被允许的外部 API。那是开发事实。它不是生产加载器也会放行同一次调用的证据。评估者在把一次成功的开发响应当成生产结果之前,先看配置。生产配置下的拒绝,不会被一次开发配置下的成功回答所取消。两套配置要分开引用。
同一次演示若在开发配置下得到外部 API 的响应,记录里要写下当时的部署配置。生产配置会让加载器拒绝仅限外部开发的提供者。把开发响应抄进生产结论,等于跳过这个拒绝。本段把规则再写一遍,并不代替加载器在那一次加载里做出的拒绝。
开发路径上送出的内容是仓库里的合成样本
开发过程如果确实调用外部 API,送出的内容是本仓库为测试和演示保存的合成样本。样本就是这条路径被允许携带的全体。它们被写成明显不真实,并且保持为这次调用的边界。样本之外的文本不在这条路径的许可范围里。调用可以发生在开发配置下,携带的内容仍然停在这些样本上。
来自真实环境的文本在路径之外。本篇不描述一家生产推理供应商,也不描述一条把业务提示词送出去的通道。需要真实业务文本的演示,为外部模型选错了目的地。改正的办法是让外部调用留在样本上,或者取消这次外部调用,而不是为了一次会议放宽样本规则。合成样本的边界不因会议需要而被改写。真实环境的文本不进入这次外部调用。
样本被写成一看即假,是为了让调用的边界肉眼可辨。评估会上若改用一封真实业务邮件或一段真实提示词,这次外部调用就该停下,或改回样本。为一次会议放宽,边界就不再是仓库里那一组合成样本。真实环境的文本仍留在路径之外。外部调用允许携带的内容,到这组合成样本为止。
裁决路径不靠生成式模型来完成动作
热路径上没有生成式模型,这是规定的形态,不是一处等着用悄悄外拨来补上的故障。动作由字节上限、策略快照和确定性层装配而成。别扭的提示词仍然留在这套装配上。它们不会被交给一个通用模型去处理难例。裁决路径不调用生成式模型来完成动作。难例也留在这套装配里,不构成向外呼叫模型的理由。
编码器分数受同一条纪律约束。存在替代编码器时,它的输出不是动作。本 POC 不公布它的精确率、召回率或质量数字。这条路径上的 p95 延迟字段保持为空。缺失的模型不应当被几次开发调用的耗时数字盖住,因为那个数字会看起来像一次测量,而字段被故意留空,就是为了避免这种看起来像测量的数。编码器分数同样不能被叙述成裁决。空着的延迟字段保持为空。
难例留在确定性装配上,查看器仍能按快照重放。若只在难例上呼叫生成式模型,重放会在最需要核对的地方断开。裁决路径不调用生成式模型来完成动作。编码器的分数可以出现,它不替换动作。几次开发调用的耗时,也不写入仍然为空的 p95 字段。
看得见的缺失不会把模块推上成熟度阶梯
这种有类型的失败,是评估可以在本 POC 实际运行的工作上看见的东西。它让 AI 使用可观测性留在即将推出的标签上,也让其余乘员方向留在设计合作伙伴路线图上。看见一个清楚的失败状态,不是一次晋级。模块的标签留在阶梯原来放它的地方。失败被说清楚,并不把尚未提供评估的方向变成已经提供。标签跟着阶梯,不跟着演示看起来有多完整。
隔离联网的说法在旁边有它自己的限度。在生产配置下拒绝仅限外部开发的提供者,阻止的是该配置里的这一类模型调用。这是一项控制。它不是对一台正在运行的设备从不向外连线的测量。运行时出站尚未验证。这句话的完整说法在可隔离联网那一篇。生产配置的拒绝和运行时出站的测量要分开写。拒绝了一类外部提供者,并不构成运行时出站已经测过的记录。
阶梯上的标签不因失败被说清楚而移动。可观测性仍是即将推出,其他乘员方向仍在设计合作伙伴路线图上。生产配置拒绝仅限外部开发的提供者,管的是那一类模型调用。运行时出站尚未验证,完整说法在可隔离联网那一篇。这次拒绝测不出一台正在运行的设备有没有向外连线。
如何阅读这张表
| 把它读成 | 意思是 | 不要读成 |
|---|---|---|
| 未配置的提供者 | 可见的、有类型的失败 | 安静的回退 |
| 外部 API | 配置为生产时拒绝 | 热路径上的开发捷径 |
| 裁决路径 | 不调用生成式模型 | 把编码器分数当作动作 |