有人在GitHub上把整本报告拆成了一棵树。
就是那个叫PageIndex的东西。它做的事说起来有点反常识:现在大家做检索,基本都靠向量数据库,把文字切块、算相似度、找最近的那些。它不用。它把文档转成一个树形结构,然后让模型像人一样,顺着这棵树走——先翻目录,再找到那一章,再翻到那一节。
我一开始觉得这不就是把索引换个说法。看到它自己讲的那句话才反应过来:相似不等于相关。你搜一个词,它给你一堆长得像的,但真正要的那一段,可能一个关键词都不沾。它举的例子是AlphaGo,说当年围棋也是把穷举换成了推理。
它自己列的对比表里,向量检索那一列写的是"不透明,vibe retrieval",意思是搜出来那几条你也不知道为什么是它们。PageIndex这边说的是能追到明确的出处。这个区别在长文档上很要命——财报、法律文件、监管申报,你搜出来一句得知道它从哪一页哪一节来的。
它给的建议也挺实在:做索引的模型用个基本的就行,树结构本来就是从文档版式里抽出来的,模型只负责总结和润色;真正搜树那个chat模型,用你能买得起的最好的。
还有个八月更新的本地模式,装完能在自己机器上跑完索引、检索、对话,用你自己的模型key。这点对不愿意把合同传出去的人挺重要。