public-model.example 的提示词在版本 6 下被拦截(hard-block)并密封。发往 assistant.internal.example.local 时仅作记录(log-only),不密封内容。 - public-model.example
- hard-block
- assistant.internal.example.local
- log-only
- sealedFor
- public-model.example
36 个字段,包括密封记录和密文样本
输入
- occurredAt
- 2026-11-03T09:14:00.000Z
- promptMasked
- Summarise the case notes for NRIC S•••••••D before the review.
- identifierMasked
- S•••••••D
检测
- classesScanned
- 11
- detectorClass
- id.sg.nric
- tier
- deterministic
- confidence
- 1
- matchCount
- 1
策略快照
- versionNumber
- 6
- compiledAt
- 2026-11-02T18:00:00.000Z
- snapshotHash
- 143059541e19c2746ba6f7db2e740e6ac6fcc4a5e79bc676ba96a0ad4b90db22
public-model.example
- sanctionedState
- unsanctioned
- ruleName
- National IDs to unsanctioned AI
- stage
- enforce
- action
- hard-block
- winningClause
- rule
- evidenceCapture
- full
assistant.internal.example.local
- sanctionedState
- internal
- ruleName
- National IDs to the approved internal assistant
- stage
- enforce
- action
- log-only
- winningClause
- rule
- evidenceCapture
- none
密封记录 密封
- sealedFor
- public-model.example
- evidenceClass
- prompt-payload
- aeadAlgorithm
- aes-256-gcm
- keyWrapAlgorithm
- aes-256-gcm-keywrap
- plaintextByteLength
- 62
- ciphertextBytes
- 78
- nonceBytes
- 12
- wrappedDekBytes
- 125
- standIn
- software-custody-token
- plaintextFoundInRecord
- false
密文样本 密封
遮蔽后提示词的可复现样本,所用一次性密钥任何人都能推导。
- nonce
- /grhlLC7NEDWFr8N
- ciphertext
- BRd/lpzLVH4W6JdEwhyOJMLBuGbl21ZRZVp8HBctML6ZKMBr9CgRVdKXKAdvQJ4ooXrENHg2dmI6/zbx7MW2/mmsgtJwKd6kp1h5zwlX
- ciphertextSha256
- 044680a506a47db5c39badd04bea36f3ff6afc2745580d480bfb5fc136ed5da6
09:14:分析人员按下发送
2026 年 11 月 3 日 09:14(UTC),一名分析人员处理案件时向公共模型 public-model.example 求助。本页只展示遮蔽后的提示词:Summarise the case notes for NRIC S•••••••D before the review.,大意是请模型在审查前汇总这个新加坡身份证号(NRIC)名下的案件记录。系统实际判定的提示词里是一个完整的合成身份证号,校验和有效。
提示词没有发出去。浏览器扩展弹出对话框,标题是“已阻断”,正文是“无法将其发送到该目的地。请改用已批准的目的地。”,并写明类别“新加坡身份证号(NRIC/FIN)”。分析人员可以关闭对话框。对话框上也有申诉按钮,但在这个版本里,申诉只停留在浏览器内。没有可以强行发送的按钮。
为什么被拦下
这次拦截由两个独立的步骤得出。这次运行扫描了检测器注册表中的全部 11 个类别,命中一个:id.sg.nric,来自确定性层,匹配 1 处,置信度 1。实际路径上只扫描已启用规则点名的类别。全程没有模型参与。检测只负责说出这段文本属于哪一类。
拦不拦由策略决定。生效的是版本 6,编译于前一天 18:00。规则 National IDs to unsanctioned AI(身份证号发往未批准的 AI)覆盖这一类别发往未批准目的地(unsanctioned)的情形,动作是 hard-block。这份策略没有为任何组单独设置推行阶段,所以适用部署默认值 enforce,它按规则写明的动作执行。
同一条提示词,改按内部助手判定
作为对照,同一条提示词又被当作发往 assistant.internal.example.local 的请求,按同一版本判定了一次。这个目的地登记为内部(internal)。检测到的类别相同,命中的却是另一条规则 National IDs to the approved internal assistant(身份证号发往已批准的内部助手),动作是 log-only。如果真的发到这里,提示词会照常发出,分析人员也看不到任何对话框。
这里的阶段同样是 enforce。阶段只能压低动作的力度,不能抬高,所以 enforce 不会把它变成拦截。团队若想在这里拦截,就要改规则并发布新版本。目的地在内部并不换来豁免:文本照样被扫描,也照样由规则决定。按这份策略,身份证号可以进入内部助手,是有人明文写下的选择,可以查阅,也可以质疑。
记录了什么
发往公共模型的那条决策写明了规则、阶段、动作和证据捕获 full,决策的追踪显示,设定动作的是 rule 子句。它通过快照哈希与版本 6 绑定,该哈希以 14305954 开头。提示词用 AES-256-GCM 密封,62 字节明文变成 78 字节密文,在密封记录中搜索明文一无所获。
内部助手那条决策的证据捕获是 none,没有任何内容被密封。
本案例中没有人读过密封的提示词,因为没有执行解封。解封是由安全官完成的、解密提示词的流程。本 POC 的安全官密钥是软件密钥,因此这里不涉及硬件保管。
结果与局限
提示词没有到达公共模型。在实际运行的路径上,安全团队会持有这条决策和一份不能随意读取的密封记录。结果仅此而已:一条提示词,不构成任何统计。
- 这次运行直接调用了检测器、策略求值器和密封代码。裁决服务、数据库、审计链和浏览器都没有运行。
- 对话框文字取自扩展的代码。这条路径只在合成站点上验证过,记录中的操作者标为未归属。
- 版本 6 的哈希来自控制平面的编译计算,其中的 id 固定,因此可以复现。
- 密封代码自行随机生成密钥和 nonce,所以字节数来自一次真实密封,字节内容本身不公开。本案例附带的密文样本密封的是遮蔽后的提示词,所用的一次性密钥任何人都能推导出来。
如何阅读这张表
| 把它读成 | 意思是 | 不要读成 |
|---|---|---|
| 公共目的地 | 检出 id.sg.nric,规则动作为 hard-block,提示词未发出 | 事件数量 |
| 内部目的地 | 检出相同,规则动作为 log-only,不密封内容 | 免于扫描,或被阶段抬高为拦截 |
| 证据 | 软件密钥下的密文,本次未做解封 | 明文提示词,或硬件保管 |