LLM Wiki:让模型替你维护知识库,和 RAG 有什么不一样
目录
每问一次,都从头翻一遍#
这一期按 Andrej Karpathy 的 gist《LLM Wiki》来讲。RAG 每次提问都从头检索、重新发现知识;LLM Wiki 让知识编译一次,之后保持更新。
三层:资料、wiki、规则#
原始资料只读,是真相的来源;wiki 由模型全权负责;规则文件规定结构和流程。
三个动作:收、问、查#
收资料时 写摘要、更新相关页面和目录、记流水账;提问时 先读目录,答案带引用,好答案存回 wiki;体检时 找矛盾、过时说法、孤儿页。
读完一章《三体》,wiki 动了哪些页#
原文举的用法里就有边读一本书边建一个伴读 wiki,并说一份资料可能动到 10 到 15 个页面。下面拿《三体》做示意,页面是举例。
读到后面推翻前面,和写错了怎么办#
体检会找出被新资料推翻的过时说法。原文没有专门讲模型自己写错的情况;维基百科要求内容能在可靠来源中查证,没有来源的可能被移除。下面《三体》的页面内容是示意。
它从哪来,该用在哪#
原文把 LLM Wiki 接到 1945 年 Vannevar Bush 设想的 Memex 上:Bush 没解决的是谁来维护,这部分交给 LLM。