- 企业知识库接上 Agent,第一个出事的不是准确率,是权限越权问答不是模型幻觉,是过滤顺序决定的。先过滤在延迟上付钱,后过滤在召回上付钱;令牌里那份「我能看什么」的清单还会因为数量和嵌套对不上;权限收回以后,索引仍然会继续答一段时间。写给正在把内部知识库接给全公司用的团队。
- LLM Wiki:让模型替你维护知识库,和 RAG 有什么不一样RAG 每次提问都从头翻资料,读懂过的东西留不下来。LLM Wiki 让模型在资料进来时就读懂、整理成一份 wiki,知识编译一次、一直更新。拿读《三体》走一遍收资料,再看它最大的坑:写错的说法也会越积越多。
- KV 缓存:模型为什么越写不会越慢大模型每写一个字都要回头看前面所有字。KV 缓存把算过的 K、V 存起来,本机实测生成 200 个字从 19 秒降到 2.6 秒;代价是内存,跨请求时还只认开头一模一样的前缀。
- Agent 跑着换掉 shell,为什么不留残余:DSH 底下的 Cordis一个 agent harness 要装几十种互相依赖、还要随时替换的能力。Cordis 的回答是三句话:能力都是插件,插件之间只隔着 ctx,登记过的都能撤销。顺着这三句话一层层拆开 DeepSeek Harness,再跟着“跑一下测试”这一条请求走完整条链路。
- 张三的上上级:向量检索查不到,GraphRAG 为什么能答案拆在两条笔记里:张三向李四汇报,李四的上级是王五。用真实的中文向量模型给 14 条笔记打分,看问题为什么找不到第二条;再看 GraphRAG 怎样在建索引时把两条连起来,又要付出什么代价。
- 二分查找:为什么敢跳过一半找 81 元,先看 55。它已经小了,左边更小的还用看吗?跟着这几个价格,把每次排除一边的理由讲明白。
- 在网页里运行用户代码,Web Worker 还不够给代码块加了运行按钮,读者填进一段死循环怎么办?从 Galley 的实现看 Worker、QuickJS 和执行预算各自负责什么,并用三个可运行的例子验证。