SentraMind

入门

先确定性,再谈其他

受治理的 AI 安全决策为何先做字节上限、解析与确定性检测,然后才考虑模型形态的步骤。

字节上限先于解析

热路径从测量输入开始。超过字节上限的内容不会进入解析,后面的步骤也就收不到一份没有边界的正文。这道上限是读者不看图也能复述的第一项控制。一份巨大的粘贴不能靠体积本身跳过其余设计,因为体积在解析之前就已经被挡住。策略和确定性层只看见上限放进来的那一份。超限的正文不会先被解析、再在后面的步骤里被悄悄丢掉。

这句主张停在准入。上限决定的是解析会不会开始。本 POC 里裁决的 p95 延迟为空,所以这篇入门不给上限配上一个速度,也不把少数几次开发请求的耗时提升成可以对外引用的数字。空着的字段保持为空。开发机器上随手得到的几次耗时,和一次按额定负载做完的测量,是两件不同的事。评估材料若要引用延迟,引用的应当是已经测量并写入字段的数。字段为空时,能说的是尚未测量。

演示若从一段超长粘贴讲起,听众应当看见它停在上限之外,而不是看见检测器对它给出动作。上限之外没有动作可讲。材料若紧接着出现毫秒数,应当还能指出裁决的 p95 字段仍是空的,那些毫秒来自开发请求,不是已经公布的测量。

策略运行在上限已经放行的正文上

正文落在上限之内并完成解析之后,路径使用的是已经编译好的策略快照。这份快照就是本次请求的决定依据。返回给调用方的动作,就是快照算出来的动作。有效策略查看器通过同一个求值器读取同一份快照。试运行、查看器和执行因此对着同一份决定依据说话。读者复述这次决定时,复述的是这一份快照,而不是屏幕旁边另画的一张说明。

旁边再放一套私下的策略,这句复述就会失真。试运行、查看器和执行故意共用一个引擎。演示如果让查看器放行一段正文,而执行却拦截同一段正文,这次演示就把引擎拆开了。修复的办法是让两个调用方回到同一份快照。在屏幕上把分歧解释成展示需要,分歧仍在。查看器允许而执行拦截,说明正在被评估的构建与“一个引擎”这句设计不一致。

试运行得到的动作,应当就是执行路径上会返回的动作。评估者不必在两块屏幕之间做一次心算,把查看器的结果翻译成执行的结果。一旦需要翻译,就说明两套决定依据还没有回到同一份快照。旁注可以解释分歧,不能代替把调用方并回去。

确定性层可以单独完成动作

策略之后的这一层是确定性的。在当前构建里,它是一次 RE2 扫描。需要反向引用或后顾断言的模式,会被运行时执行的静态检查拒绝。这些写法不能作为扫描器置之不理的风格偏好留下来。同一批字节配上同一份快照,得到的是同一个动作。读者可以把这句话当成这一层的定义:可重复,来自同字节与同快照,而不是来自一次临场判断。

这里被命名的性质是可重复。本 POC 不公布这一层的精确率,也不公布召回率,并且没有一份来自真实环境、已经标注过的语料可以用来计算这些数字。样本上稳定命中的模式,仍可能对一份样本从未像过的文档给出错误命中。稳定和适用是两句话,本篇只主张第一句。把样本上的稳定命中讲成对客户文档已经测过的结果,超出了这一层实际能说的范围。

包在进入扫描之前就经过这道检查。后顾断言和反向引用停在检查上,不会带着这些构造去扫正文。买方因此不能把“运行时也许认得”当作把这类模式留在包里的理由。模式在样本上每次都命中,只重复那一次命中,不回答它是否适用于另一份文档。

生成式模型不参与完成这个动作

动作由字节上限、策略快照和确定性层完成。通用模型或生成式模型不会被叫来处理这一层觉得别扭的情形。若真的叫来,查看器就不能再单靠快照重放这个动作,决定也会依赖这条路径故意排除的系统。难例仍然留在上限、快照和确定性层这三样东西上。裁决路径上没有生成式模型。难例也不会被移交出去,交给一个通用模型专门处理。

配置了编码器时,编码器也不取代策略。那一层给出的分数不是裁决。编码器缺席时,缺席保持为看得见的状态,路径不会编造一个替代模型来填上空缺。本 POC 也不公布编码器层的质量数字,因此一个分数不能被叙述成已经测得的结果。没有质量数字的分数,不能被讲成这一层已经被评估过。生成式模型留在路径之外。编码器的缺席保持可见。

屏幕上若同时出现编码器分数和裁决动作,动作仍以快照为准。分数可以显示,它不改写记录、警告或拦截。缺席的编码器留下可见的空状态。用一个通用模型把空状态填上,查看器就失去单靠快照重放这次动作的资格。裁决路径上没有生成式模型。

后面的标签留在它们自己的工作上

本篇描述的是当前可以拿来评估的热路径,范围是平台核心和生成式 AI 提示词 DLP。AI 使用可观测性属于即将推出。其余乘员方向留在设计合作伙伴路线图上,直到证据和所有者决定把它们推进一步。这些标签可以放在一次裁决旁边讨论。它们不进入裁决已经返回的那个动作。讨论一个尚未提供评估的方向,不会改变热路径刚刚给出的记录、警告或拦截。

同一块屏幕上的替代物继续带着自己的名字。官员密钥是软件密钥,硬件令牌缺席,保管停留在软件保管。机器证书来自软件开发 CA。端点清单是一支模拟舰队。合成文本上的一个确定性结果,不会把这些标注从原地挪走。软件保管、软件开发 CA 和模拟舰队,在确定性结果出现之后仍然是软件保管、软件开发 CA 和模拟舰队。

同一次演示可以一边给出裁决,一边摆着路线图卡片。卡片上的方向可以讨论,讨论不写进已经返回的动作。动作旁边若标着软件保管、软件开发 CA 或模拟舰队,这些词保持原样。确定性层给出的结果,不把它们收成已经换上的生产控制。

如何阅读这张表

如何阅读这张表
把它读成意思是不要读成
先字节上限,再策略,再确定性层 相同输入、相同快照、相同动作 用模型分数代替裁决
RE2 单次扫描 反向引用和后顾断言会被拒绝 运行时不理会的风格指南
编码器缺失 缺失保持可见 静默换上另一个模型

本页的产品表述遵循 POC 成熟度阶梯。即将推出或路线图中的能力不在当前评估范围内。