SentraMind

判断

公共生成式 AI 是一条数据暴露路径

为何向公共模型的粘贴、上传和连接器流量即使网络路径看起来合法,仍是披露问题。

暴露发生在正文里

通往公共模型的一次会话可以被代理放行,也可以带着熟悉的主机名,请求正文里仍然可以放进标识、源码或业务记录。披露就发生在这份正文里。域名解析和允许清单都可以看起来整洁,文本照样离开。

人们从浏览器、桌面客户端、编辑器和脚本访问这些主机。每一种调用方,在文本离开之前被看见的机会都不一样。因为目的地是同一个品牌就把它们当成一条管道,没有人在检查的那个调用方就被藏起来了。

粘贴、上传和浏览器路径是不同的证据

粘贴、用户附上的文件和用户键入的文本,是进入同一目的地的几扇不同的门。覆盖矩阵把这些门分开,简报也必须分开。标为模拟的路径,已由测试工具跑过;标为路线图的路径,已有规格但尚未建成。

本阶段的浏览器扩展确实能拿到一次裁决,途径是回环中继,中继出示软件机器证书机构签发的叶子证书。这条路径上的行为者记为未归属,要求用户确认的警告一律变成硬拦截,执行在一个合成站点上展示。粘贴、拖放、附件和打印所走的企业连接器路径是一项已写明的缺口。矩阵对浏览器路径的用语是“渲染器辅助”:网络后盾在强制安装下有效,并且弱于那个连接器。

事后写下的一行记录的是已经发生的损失

提示词检查对准的是提供者拿到文本之前的那一刻。那一刻之后写下的日志行,对调查仍然有用,但它记录的是文本已经离开。买方要评估的控制,是还能把文本扣住的那一个。

本 POC 能展示的裁决,是快照为一条已批准的合成提示词指定的动作。这块屏幕是关于这条提示词和这份快照的证据。一个组织拦住了多少次披露,从未被测量过,所以旁边没有这个计数。

被准许的目的地仍然带着正文

准许是策略里目的地的一种属性。一个已批准的主机,对某个团队可以是对的地方,对某一段文字可以是错的地方。文本检查在被准许的主机上继续,用的就是把该主机标为已准许的那份快照。

策略仍然可以选择在这里只记录,而在别的目的地拦截。这个选择在快照里看得见,有效策略视图和执行路径应当对它一致。准许是适用组织所写规则的理由,不是跳过正文的理由。

一次评估可以得出什么

对这种暴露的评估可以得出:一条指定的合成提示词,在一份指定的快照下,在本 POC 实际运行的路径上,产生了一个明确的动作。也可以得出:桌面客户端、编辑器插件和直接调用接口的调用方,在浏览器拦截之外。这些调用方在本构建里若看得见,是作为元数据、经由合成日志源看得见的;对它们的任何拦截来自组织自己运行的出站控制,不来自扩展。

结果同时记下本构建留下的空白。工作者托管的套接字仍是写明的缺口,证明所用的站点是合成站点。裁决路径上没有生成式模型,报告既不携带延迟数字,也不携带检测质量分数。

如何阅读这张表

如何阅读这张表
把它读成意思是不要读成
暴露的是 正文里的文本 模型主机的域名
控制 提交前拦截 提供者拿到文本之后的日志
被允许的使用 一种目的地策略 不再阅读文本的理由

本页的产品表述遵循 POC 成熟度阶梯。即将推出或路线图中的能力不在当前评估范围内。