企业 RAG 为什么会幻觉？怎么治理才有效

企业里抱怨「RAG 老胡说」，常见根因有三类：知识源不可用或权限混乱、检索召回不对、上线后没有评测与更新闭环。

常见根因

1. 源数据：过时制度、重复版本、扫描件无法切分。
2. 检索：切块过大/过小、无权限隔离、TopK 乱配。
3. 生成：无拒答策略，模型在证据不足时仍硬答。
4. 运营：没有错误归因，也没有内容更新节奏。

有效治理顺序

1. 先建评测集：核心问题 + 期望证据 + 可否拒答。
2. 再查召回：答错时先看「有没有检索到对的段落」。
3. 再谈 Prompt/模型：证据链路通了再调生成。
4. 最后建值班：谁改知识、多久回归、怎么回滚。

常见问题

换更大模型能解决幻觉吗？

有时能缓解，但解决不了过时知识与错误召回。没有评测集就换模型，往往无法证明变好了。