程序员小柯
越权问答不是模型幻觉,是过滤顺序决定的。先过滤在延迟上付钱,后过滤在召回上付钱;令牌里那份「我能看什么」的清单还会因为数量和嵌套对不上;权限收回以后,索引仍然会继续答一段时间。写给正在把内部知识库接给全公司用的团队。
2026 年 11 月 16 日
一次答对了的越权
先过滤,还是先取 top-k
先过滤,还是先取 top-k
| 索引规模 | 过滤后保留 | 预过滤相对后过滤的吞吐 |
|---|---|---|
| 10 万向量、1536 维 | 不到 0.1% | 约 1/2 |
| 100 万向量、1536 维 | 不到 2% | 约 1/7 |
| 10 亿向量、96 维 | 不到 10% | 约 1/7 |
const groups = token.groups ?? null
if (groups === null) {
// 超额声明:令牌没给,要么去 Graph 补齐,要么直接拒绝
return await fetchGroupsFromGraph(token.sub)
}「我能看什么」这份清单也不可靠
小测验
令牌里没有 groups 声明(收到的是超额声明)时,检索的过滤条件该怎么处理?
空集合会让全公司谁都搜不到东西,跳过过滤是直接越权;部门前缀是从名字里猜的,和真实权限没有关系,只是把错误换了一个地方发生。
| 粒度 | 权限写在哪 | 能做到什么 | 代价 |
|---|---|---|---|
| 文档级 | 每个片段带一份文档的 ACL 副本 | 实现最直接,多数场景够用 | 一份文件里有一段敏感,整份都进不来 |
| 段落级 | 切块时按权限边界切开,各自带 ACL | 同一份文件可以部分开放 | 切块得跟着权限边界走,切错一处漏一处 |
| 行级 | 查询时把行级权限表下推成过滤条件 | 报表、台账、客户名单这类内容 | 每次查询多一次权限求交,延迟和成本都上去 |
离职、转岗、项目结束,权限被收回。索引里那份 ACL 是副本,不会自己跟着变。三条路:等 TTL 重刷,窗口最长;让权限系统推事件过来更新,要写消费者,还会漏消息;每次查询回源,最准也最贵。窗口期内,Agent 会继续答他本来已经看不到的东西。
这个窗口消不掉,只能选一个长度,并且说得出它是多长。审计问「最长多久」的时候,「十五分钟」和「不知道」是两种答案。
内容上也有同一类麻烦:制度改版以后,按旧条文写下的答案不会自己消失。站里那套做法是 给每处依据锁定当时的版本,依据变了能反查出所有受影响的文章。权限和版本是同一个问题:索引里存的都是副本,副本得有人负责追。
把权限做进检索,做到最后会发现要解决的是身份:谁的组、哪个系统的组、嵌套算不算、超额了怎么办、收回后多久生效。检索只是这些问题最后显形的地方。
所以顺序应该是先权限、后准确率。准确率不行的助手,用户会少用;权限不对的助手,用户会拿它去查本来查不到的东西。前者是产品问题,后者是事故。
程序员小柯