企业知识库接上 Agent,第一个出事的不是准确率,是权限
目录
一次答对了的越权#
有个员工在内部助手里问:我们部门这次组织调整会拆吗。助手答了,答得挺准,还引了方案里的原话。那份《组织调整方案 v3》的权限范围是 HR 总监以上。
这里没有幻觉,检索也没出错。它取到了全公司最相关的三段,然后照着答了。错的地方在于它不认识「权限」这个词:向量里存的是语义,没有「谁能看」。
试点阶段不会出事,因为那时库里只有几十份文档,参与的人本来就都能看全部。一接上全公司的文档库,第一周就会有人问出不该答的问题。这些人多半不是有意试探,他们只是问了一个自己工作里的真问题,而那个问题的答案恰好躺在机密文档里。
ACL 感知检索就是在查询里带上调用者的访问控制信息,只返回他有权查看的内容。这句话本身不难,难在落地时它逼你在两个都不舒服的位置里选一个。
权限信息不在索引里#
索引是按「这段话和问题像不像」建的。谁能看哪份文件,存在另一个系统里:文档库、网盘、wiki,或者某个没人想动的老 OA。两边数据模型对不上,所以每个片段都得自带一份 ACL 副本,或者每次查询现去问。
只要 ACL 是副本,后面就跟着一串问题:副本什么时候过期,组改了名怎么同步,权限被收回的那几分钟里索引还认旧副本。这些留在最后说。先看更靠前的一个选择:过滤放在检索的哪一边。
站里那两篇讲的是路线之争,一个说 RAG 与 LLM Wiki 的分岔,一个说向量检索为什么答不出多跳关系,都停在「怎么检得准」。这篇讲接给全公司以后,检索被权限按住的那一层。
LLM Wiki:让模型替你维护知识库,和 RAG 有什么不一样RAG 每次提问都从头翻资料,读懂过的东西留不下来。LLM Wiki 让模型在资料进来时就读懂、整理成一份 wiki,知识编译一次、一直更新。拿读《三体》走一遍收资料,再看它最大的坑:写错的说法也会越积越多。 张三的上上级:向量检索查不到,GraphRAG 为什么能答案拆在两条笔记里:张三向李四汇报,李四的上级是王五。用真实的中文向量模型给 14 条笔记打分,看问题为什么找不到第二条;再看 GraphRAG 怎样在建索引时把两条连起来,又要付出什么代价。先过滤,还是先取 top-k#
三种过滤时机被做成了一个参数:遍历中生效、分片过滤后取交集、先取全局 top-k 再过滤。三种顺序,三种结果。
先取再过滤理论上就可能返回不足 k 条。原因很朴素:top-k 是按「像不像」选的,它不知道这 k 条里有几条是你能看的。
代价也是真的。100 万向量的索引过滤到只剩 2% 时,预过滤的吞吐约为后过滤的七分之一。
| 索引规模 | 过滤后保留 | 预过滤相对后过滤的吞吐 |
|---|---|---|
| 10 万向量、1536 维 | 不到 0.1% | 约 1/2 |
| 100 万向量、1536 维 | 不到 2% | 约 1/7 |
| 10 亿向量、96 维 | 不到 10% | 约 1/7 |
而知识库的权限往往是最极端的选择性:一个人能看的,常常只是全公司文档的一小块。也就是说,你正好落在预过滤最贵的那一段。
选预过滤,在延迟和吞吐上付钱,机器加一档;选后过滤,在召回上付钱,付的是「漏掉的那一条正好是答案」。没有第三种付法。文末有一段二十行的模拟,可以自己改 k 和可见比例,看结果怎么变。
「我能看什么」这份清单也不可靠#
就算索引里存了组名,令牌里那份组清单也未必是你要的那份。
JWT 令牌里最多装 200 个组,超过就只发一个超额声明,应用得自己调 Graph 去查。组过滤这个动作本身还有门槛,用户属于 1000 个以上的组时就不执行。
更隐蔽的是嵌套。嵌套组在组成员声明里会展开,在按组分配应用角色时不会展开。同一个人,走「令牌里带组」这条路能看到他的嵌套归属,走「给组分配应用角色」那条路就看不到。两种建权限的方式,对同一个人给出两个答案。
所以代码里那个兜底值得单独看一眼:
const groups = token.groups ?? null
if (groups === null) {
// 超额声明:令牌没给,要么去 Graph 补齐,要么直接拒绝
return await fetchGroupsFromGraph(token.sub)
}「查到了,是空的」和「根本没查着」是两件事。把后者当成空数组塞进过滤条件,结果是全公司谁也搜不到东西;把后者当成「不用过滤」,结果是越权。两种后果都不小,而它们的分界只是一行 ?? []。
小测验
令牌里没有 groups 声明(收到的是超额声明)时,检索的过滤条件该怎么处理?
空集合会让全公司谁都搜不到东西,跳过过滤是直接越权;部门前缀是从名字里猜的,和真实权限没有关系,只是把错误换了一个地方发生。
粒度:文档、段落、行#
| 粒度 | 权限写在哪 | 能做到什么 | 代价 |
|---|---|---|---|
| 文档级 | 每个片段带一份文档的 ACL 副本 | 实现最直接,多数场景够用 | 一份文件里有一段敏感,整份都进不来 |
| 段落级 | 切块时按权限边界切开,各自带 ACL | 同一份文件可以部分开放 | 切块得跟着权限边界走,切错一处漏一处 |
| 行级 | 查询时把行级权限表下推成过滤条件 | 报表、台账、客户名单这类内容 | 每次查询多一次权限求交,延迟和成本都上去 |
企业里真正卡人的是第二行。《员工手册》里有一章写薪酬带宽,你不能因为这一章把整本书挡住,也不能把这一章放出去。文档级做不到,行级太重,只能在这一份文件上做段落级。而这意味着切块策略要跟着权限边界走,不能只跟着语义走:同一份文件里权限不同的部分,要先切开再分块,顺序反了,敏感段落就会跟着相邻的正常段落一起进索引。
权限收回以后,索引还愿意答多久#
离职、转岗、项目结束,权限被收回。索引里那份 ACL 是副本,不会自己跟着变。三条路:等 TTL 重刷,窗口最长;让权限系统推事件过来更新,要写消费者,还会漏消息;每次查询回源,最准也最贵。窗口期内,Agent 会继续答他本来已经看不到的东西。
这个窗口消不掉,只能选一个长度,并且说得出它是多长。审计问「最长多久」的时候,「十五分钟」和「不知道」是两种答案。
内容上也有同一类麻烦:制度改版以后,按旧条文写下的答案不会自己消失。站里那套做法是 给每处依据锁定当时的版本,依据变了能反查出所有受影响的文章。权限和版本是同一个问题:索引里存的都是副本,副本得有人负责追。
这不是检索问题#
把权限做进检索,做到最后会发现要解决的是身份:谁的组、哪个系统的组、嵌套算不算、超额了怎么办、收回后多久生效。检索只是这些问题最后显形的地方。
所以顺序应该是先权限、后准确率。准确率不行的助手,用户会少用;权限不对的助手,用户会拿它去查本来查不到的东西。前者是产品问题,后者是事故。
附:二十行的模拟#
把片段换成一维的距离,省掉向量计算,排序和过滤的行为不变。改 k、改 me 里的组,可以看漏召回是怎么发生的。
const chunks = [
{ name: '组织调整方案 v3', dist: 0.08, acl: 'hr' },
{ name: '薪酬带宽表 2026', dist: 0.12, acl: 'hr' },
{ name: '高管继任计划', dist: 0.15, acl: 'mgmt' },
{ name: '并购标的尽调摘要', dist: 0.18, acl: 'mgmt' },
{ name: '绩效强制分布细则', dist: 0.21, acl: 'hr' },
{ name: '裁员补偿测算表', dist: 0.24, acl: 'mgmt' },
{ name: '差旅与报销管理办法', dist: 0.31, acl: 'all' },
{ name: '员工手册 2026 版', dist: 0.35, acl: 'all' },
{ name: '年终奖发放时间说明', dist: 0.39, acl: 'hr' },
{ name: '考勤与请假流程', dist: 0.42, acl: 'all' },
{ name: '职级评审材料模板', dist: 0.47, acl: 'hr' },
{ name: '内部转岗申请指引', dist: 0.52, acl: 'all' },
]
const me = new Set(['all']) // 我是普通员工,只能看 all
const canSee = (c) => me.has(c.acl)
const k = 3
const ranked = [...chunks].sort((a, b) => a.dist - b.dist)
const post = ranked.slice(0, k).filter(canSee) // 先取 top-k,再按权限过滤
const pre = ranked.filter(canSee).slice(0, k) // 先按权限过滤,再取 top-k
console.log('先取 top-3 再过滤:', post.length, '条', post.map((c) => c.name))
console.log('先过滤再取 top-3:', pre.length, '条', pre.map((c) => c.name))
console.log('我本来能看到的片段里,最相关的是第', ranked.indexOf(pre[0]) + 1, '名')把 k 改小,先取后过滤空得更快;把 me 加上 hr,两种顺序就一致了。返回 0 条时并没有报错,这正是它在生产里难被发现的原因:
先取 top-3 再过滤: 0 条 []
先过滤再取 top-3: 3 条 [ '差旅与报销管理办法', '员工手册 2026 版', '考勤与请假流程' ]
我本来能看到的片段里,最相关的是第 7 名