RAG存储以及检索怎样做到更高召回率,更精准的回答结果
提问
召回率和精准度不是靠调一个参数解决的,而是先想清楚“用户问什么、该召回哪几段”,再决定切分、是否转文字和检索方式;多模态内容不必全部转文字。
先定“该召回什么”,再选切分和存储
材料里的观点固定 size 切分、embedding、top-k 这套流程听起来完整,但到了真实场景往往没用,因为真正要回答的是:用户这个问题该召回哪些资料、召回几段、同样内容该切几段。切太大,答案被无关信息淹没;切太小,一个答案被切散,两种情况都会同时伤到召回和精准1。所以更实际的做法是先拿几个真实问题,人工标出“理想答案应该来自哪几段”,再回头决定切分粒度和召回数量,而不是先定切分规则再套问题。
多模态不必全转文字,按检索需求分层
结合提问者的处境pptx、pdf 里的图、音频、视频要不要全部转文字,取决于你希望它们被“按什么方式找到”。如果用户只会用文字提问,转文字(或转成图片描述)能让它们进入同一套检索;但如果内容本身是图表、版式或画面,硬转文字会丢掉信息,反而降低精准度。一个可试的做法是先只处理最常被问到的那几类文档,观察哪些问题召回不到、哪些召回了却答错,再决定要不要给图片、音视频单独建索引。
出处 1
名词会过时,检索这件事不会
材料里的观点RAG 的“分块、向量化、检索”是 2023 年上下文窗口小、模型不太会调工具时的产物;真正要学的是信息检索本身,懂了它,RAG 一个周末就能上手2。有团队早期也用向量数据库,后来发现让 agent 自己搜索效果更好,用的就是最简单的命令行查找2。这对你的启发是:与其在 fastgpt、WeKnora 里反复调向量参数,不如先确认你的问题是不是“检索”问题——有些场景把相关内容整体交给长上下文模型,效果反而更好2。
材料没有给出针对 pptx、音视频的具体处理方案,也没有 fastgpt、WeKnora 的配置细节,以上是判断思路而非现成参数。
回到2份原文
直接讲切分、embedding、top-k 在真实场景为何失效,适合核对“该召回什么”这一层判断。
把 RAG 拆成“包装”和“一直存在的问题”,适合理解为什么不必追向量数据库等名词。