RAG 知识库入门：为什么上传文档后，AI 仍可能答错

把一批 PDF 放进知识库，并不意味着系统已经准确理解了所有内容。RAG 的价值是让模型在回答时参考检索到的资料；它的效果同时取决于资料质量、检索结果和回答方式。理解这条链路，比不断增加文档数量更有用。

先理解“检索后再回答”

RAG 是检索增强生成。系统先从资料集合中查找与问题相关的片段，再把这些片段作为上下文交给模型组织回答。Microsoft 的文档也把检索、索引和生成放在同一流程中说明。这不等于模型永久记住了上传的文件，也不意味着每次回答都会读取整个资料库。

一个学习资料库的例子

假设你保存了软件安装手册、课程笔记和一份旧版本迁移说明。问题是“升级后配置文件应该放在哪里”。若系统只找到旧手册中的路径，模型可能写出逻辑流畅却不适用于新版的答案。此时先检查检索片段的版本，比修改回答语气更重要。

建立知识库前，先整理材料

• 一个主题保留清晰的主文档，并标注标题、来源和版本。
• 把重复下载的文件区分开，不要让同名旧版混在一起。
• 表格、代码和扫描件先检查是否能被正确提取文字。
• 对内部资料设置访问范围，检索权限不能比原文件权限更宽。

这份清理清单是编辑建议，并不要求购买某个特定向量数据库。小规模学习资料也可以先用普通全文搜索验证需求。

用问题集验收，而不是只看演示

准备几道能在原文中找到明确答案的问题，再加几道资料中没有答案的问题。前者检查是否能答对并给出可核对引用，后者检查系统会不会承认缺少依据。遇到答错，记录“有没有检索到正确片段”，不要把所有问题都归到模型能力上。

本文的练习可以很简单：选三份自己熟悉的资料，写出十个问题及对应页码。先手动核对一次，再用相同问题测试知识库。问题和答案清单保留下来，后续换模型或更新资料时仍然可以复用。

资料与延伸阅读

• Microsoft：检索增强生成与索引

继续阅读：提示词的五个组成部分 · 如何整理资讯阅读清单

资料查阅与编辑日期：2026年9月22日。作者：玖柒。