跳转至

RAG 检索增强 面试题

涵盖分块索引、向量数据库、搜索策略、元数据过滤、企业知识库。共 130 题:基础 52、进阶 46、高级 32。

基础题(难度:⭐)

1. 什么是 RAG?

参考答案: Retrieval-Augmented Generation,检索增强生成。先从知识库检索相关文档,再拼入 Prompt 供 LLM 生成答案。解决 LLM 知识时效性、幻觉与私有知识问题,无需微调。

2. RAG 的核心流程是什么?

参考答案: 离线:文档加载→分块→Embedding→存向量库。在线:用户 query→Embedding→向量检索 top-k→拼入 Prompt→LLM 生成答案。检索质量决定 RAG 效果。

3. RAG 相比 Fine-tuning 的优势?

参考答案: 无需训练成本低;知识更新即时;来源可溯源;无灾难性遗忘;适合知识密集型问答。Fine-tuning 更适合改变能力/风格而非增知识。

4. 什么是文档分块(Chunking)?

参考答案: 将长文档切分为较小片段(如 500-1000 Token)以便 Embedding 与检索。分块大小与策略影响检索精度,需平衡上下文完整性与检索精度。

5. 常见的分块策略有哪些?

参考答案: 固定大小分块(简单);按句子/段落分块(保语义);递归分块(按层级分隔符);语义分块(按语义相似度);文档结构分块(按标题/章节);滑动窗口(overlap 避免割裂)。

6. 什么是 chunk overlap(分块重叠)?

参考答案: 相邻分块保留部分重叠内容(如 50-100 Token),避免在边界处割裂语义,保证检索时上下文完整。但增加存储与冗余。

7. 为什么需要 Embedding?

参考答案: 将文本转为稠密向量,使语义相近的文本向量距离相近,支持基于语义的相似度检索,是 RAG 检索的基础。比关键词匹配更懂语义。

8. 什么是向量数据库?

参考答案: 专门存储与检索向量的数据库,支持近似最近邻搜索(ANN),如 Pinecone、Milvus、Qdrant、Weaviate、Chroma。是 RAG 的核心存储组件。

9. 常见的向量数据库有哪些?

参考答案: 云服务:Pinecone、Weaviate Cloud;开源自部署:Milvus、Qdrant、Chroma、Faiss(库)、pgvector(PostgreSQL 扩展)。选型看规模、性能、运维、成本。

10. 什么是 ANN(近似最近邻)搜索?

参考答案: 在高维向量空间中近似查找与 query 最相似的 top-k 向量,牺牲少量精度换取大幅速度提升。常见算法:HNSW、IVF、PQ、LSH。

11. 什么是 Cosine 相似度?

参考答案: 衡量两向量方向相似性的指标,值域 [-1,1],越接近 1 越相似。OpenAI Embedding 已归一化,Cosine 相似度等同点积。常用于文本检索排序。

12. 什么是 top-k 检索?

参考答案: 检索与 query 最相似的前 k 个文档片段(如 k=5)。k 太小可能遗漏,太大引入噪声与成本。需根据任务与文档质量调整。

13. RAG 中 Prompt 如何组织?

参考答案: system prompt 定义角色与规则("基于资料回答");context 注入检索到的文档片段(标注来源);user 问题;指令"仅基于资料,引用来源,不足时说明"。

14. 什么是元数据(Metadata)?

参考答案: 附加在文档片段上的结构化信息:来源、标题、时间、作者、类别、权限等。用于过滤、排序与溯源,提升检索精度与可管理性。

15. 什么是元数据过滤?

参考答案: 检索时按元数据条件筛选(如"只查 2024 年的文档"、"只查销售部门"),缩小检索范围提升精度与性能。向量库多支持预过滤或后过滤。

16. RAG 的常见失败模式有哪些?

参考答案: 检索不相关(召回差);检索遗漏关键信息;文档过时;分块割裂语义;上下文超长;模型忽略检索内容;幻觉仍存在。需分别诊断优化。

参考答案: 结合稠密向量检索(语义)与稀疏检索(BM25 关键词),取长补短。向量懂语义,关键词精确匹配专有名词/代码。用 RRF 等融合排序。

18. 什么是 BM25?

参考答案: 经典基于词频的稀疏检索算法,改进 TF-IDF,考虑文档长度归一化与词频饱和。精确匹配关键词,适合专有名词/代码/ID 检索。Elasticsearch 默认。

19. 什么是 Rerank(重排)?

参考答案: 召回 top-k 后用 Cross-Encoder 精排,重新计算 query-doc 相关性,提升最终精度。召回快但粗,rerank 慢但精,是 RAG 标配。

20. Cross-Encoder 与 Bi-Encoder 区别?

参考答案: Cross-Encoder 将 query-doc 拼接输入模型输出相似度,精度高但慢,适合 rerank;Bi-Encoder 分别编码再算相似度,可预计算快,适合召回。RAG 中结合使用。

21. 什么是 query 改写(Query Rewriting)?

参考答案: 用 LLM 改写用户原始 query 提升检索效果:补充关键词、消除歧义、扩展同义词、分解多子问题。原始 query 可能口语化或不利于检索。

22. 什么是 HyDE?

参考答案: Hypothetical Document Embeddings,先让 LLM 生成一个假设性答案文档,用其 Embedding 检索真实文档。假设答案与真实文档语义更接近,提升召回。

23. 什么是多查询检索(Multi-Query)?

参考答案: 用 LLM 生成多个不同角度的 query,分别检索后合并去重。覆盖更全面,降低单 query 漏检风险,但增加调用成本。

24. 什么是 RAG-Fusion?

参考答案: 多查询检索 + RRF 融合排序。生成多个 query 各自检索,用 Reciprocal Rank Fusion 融合排序得最终 top-k。综合多视角提升检索质量。

25. 什么是 RRF(Reciprocal Rank Fusion)?

参考答案: 融合多个排序列表的方法:对每个文档在各列表中的排名取倒数求和。无需分数归一化,简单有效,常用于混合检索与多查询融合。

26. 什么是 Parent-Document 检索?

参考答案: 用小块(child)Embedding 检索保证精度,返回其所属大块(parent)保证上下文完整。兼顾检索精度与上下文充分性。

27. 什么是 Self-RAG?

参考答案: 模型自主决定是否检索、检索什么、是否使用检索结果。通过反思 token 控制检索与引用,提升相关性与事实性,但需训练特定模型。

28. 什么是 Corrective RAG(CRAG)?

参考答案: 检索后评估结果质量,低质时触发 web 搜索补充或重写 query 重检索。用检索评估器改进检索质量,提升鲁棒性。

29. 什么是 GraphRAG?

参考答案: 构建知识图谱(实体-关系),检索时结合图结构与向量检索。捕获实体间关系与全局信息,适合多跳推理与全局摘要,但构建成本高。

30. RAG 的离线处理流程?

参考答案: 文档加载(PDF/HTML/Office)→清洗→分块→Embedding→存向量库(含元数据)。需文档解析、去噪、结构保留、增量更新、版本管理。

31. 常见文档解析工具?

参考答案: PDF:PyPDF2、pdfplumber、Unstructured、Marker;HTML:BeautifulSoup;Office:python-docx/openpyxl;多格式:Unstructured、LlamaParse。需处理表格、图片、版式。

32. 什么是文档清洗?

参考答案: 去除文档中的噪声:页眉页脚、水印、乱码、多余空白、导航链接、OCR 错误。清洗质量影响 Embedding 与检索效果。

33. 表格数据如何处理?

参考答案: 保留表格结构(Markdown/HTML);按行或整表分块;表格摘要+原文;可用多模态模型理解表格;或转 SQL 查询。表格是 RAG 难点。

34. 图片数据如何处理?

参考答案: OCR 提取文本;多模态 Embedding(CLIP);图片描述生成;按需调用视觉模型。RAG 对图片支持较弱,常需特殊处理。

35. 什么是增量更新?

参考答案: 文档变更时只更新变化部分而非重建全部索引。检测变更(hash/时间戳)、删除旧块、添加新块。降低更新成本与延迟。

36. 什么是索引重建?

参考答案: 删除并重建全部向量索引。Embedding 模型升级或 schema 变更时需重建。成本高,需计划窗口或双索引切换无缝迁移。

37. 什么是 Embedding 维度?

参考答案: Embedding 向量的维度数(如 1536/3072)。维度高表达力强但存储与计算成本高;维度低成本低但语义区分度弱。需权衡。

38. 如何选择 Embedding 模型?

参考答案: 看检索基准(MTEB/BEIR)召回率与 NDCG;领域适配(中英文/代码/医疗);维度与成本;推理速度;是否支持指令化与降维。需在自己数据上评测。

39. 什么是 MTEB?

参考答案: Massive Text Embedding Benchmark,大规模文本 Embedding 评测基准,覆盖检索、分类、聚类、相似度等任务,是选择 Embedding 模型的权威参考。

40. 常用 Embedding 模型有哪些?

参考答案: OpenAI text-embedding-3-small/large;开源 BGE 系列(中英文优秀)、E5、GTE、jina-embeddings、Cohere embed。需按语言与场景选型。

41. 什么是 Embedding 缓存?

参考答案: 缓存已计算的 Embedding 避免重复计算。文档 Embedding 离线计算存储;query Embedding 可短期缓存(相同 query)。降本提速。

42. 什么是上下文窗口管理?

参考答案: 控制注入 Prompt 的检索结果总 Token 不超窗口。需截断、去重、按相关性排序、分块大小调整、多文档压缩。影响质量与成本。

43. 什么是来源溯源?

参考答案: RAG 答案标注引用的文档来源(文件名/段落/链接),增强可信度与可验证性。需在检索时保留元数据,Prompt 要求模型引用来源编号。

44. 什么是幻觉检测?

参考答案: 检查 RAG 答案是否与检索内容一致,避免编造。可用 NLI 模型判断答案是否被检索内容支持;或 LLM-as-Judge 评估;不一致时重生成或拒答。

45. RAG 的成本构成?

参考答案: Embedding 计算(文档+query)、向量库存储与计算、LLM 调用(生成+可能的改写/rerank)、文档处理。LLM 调用占大头,检索其次。

46. 什么是 RAG 的评测?

参考答案: 检索质量(召回率/NDCG/MRR)、生成质量(相关性/准确性/完整性/幻觉)、端到端(任务成功率/用户满意度)。需标注数据集与多维指标。

47. 什么是 RAGAS?

参考答案: RAG 评估框架,自动评估 RAG 系统的检索与生成质量:context precision/recall、answer faithfulness/relevance。用 LLM 自动评分,无需人工标注。

48. 什么是召回率(Recall)?

参考答案: 检索到的相关文档占全部相关文档的比例。召回率低意味着漏检关键信息。RAG 需保证高召回,再用 rerank 提精度。

49. 什么是 NDCG?

参考答案: Normalized Discounted Cumulative Gain,归一化折损累积增益。考虑相关性分级与排序位置的检索质量指标,越相关的文档排越前分数越高。是检索标准指标。

50. 什么是 MRR?

参考答案: Mean Reciprocal Rank,平均倒数排名。第一个相关文档排名的倒数的均值。适合"找到正确答案即可"的任务,关注首个相关结果的位置。

51. 什么是知识库?

参考答案: 结构化或非结构化的知识集合,供 RAG 检索。含文档、FAQ、手册、数据库等。知识库质量与组织直接影响 RAG 效果。

52. RAG 适合什么场景?

参考答案: 企业知识问答、文档检索、客服、研究助手、法律/医疗咨询、技术文档查询。需引用来源、知识频繁更新、私有数据的场景。不适合纯生成创作。

进阶题(难度:⭐⭐)

1. 如何选择分块大小?

参考答案: 平衡检索精度与上下文充分性。小块(200-500 Token)检索精准但上下文不足;大块(1000-2000)上下文全但检索粗且费 Token。需按文档类型、模型窗口、任务评测调优,常 500-1000+overlap。

2. 分析语义分块(Semantic Chunking)的原理与优劣。

参考答案: 按 Embedding 相似度检测语义断点分块,保持语义完整。优点:分块自然;缺点:计算成本高、大小不均、需调阈值。适合对分块质量要求高的场景。

3. 如何处理结构化文档(如带标题的Markdown)?

参考答案: 按标题层级分块保留结构;元数据记录标题路径("第1章>第2节");检索时可按章节过滤;Parent-Document 用小节检索返回整节;保留标题提升上下文理解。

4. 设计一个支持多格式文档的解析流水线。

参考答案: 统一用 Unstructured/LlamaParse 解析多种格式;按格式选解析器;保留结构(标题/表格/列表);图片 OCR 或多模态;清洗去噪;输出统一中间格式(如 Markdown);分块入库。

5. 如何评估与选择 Embedding 模型?

参考答案: MTEB 基准作参考;在自己领域数据上评测召回率/NDCG;测试中英文/代码/专业术语;考虑维度与成本;推理速度;是否支持指令化与降维;A/B 在线验证。

6. 对比 HNSW、IVF、PQ 等索引算法。

参考答案: HNSW 多层图,查询快召回高,内存大;IVF 聚类分桶,可调 probe 精度速度,适合大规模;PQ 量化压缩省内存,精度损失;常组合 IVF+PQ+HNSW。按规模与延迟选。

7. 分析预过滤与后过滤的权衡。

参考答案: 预过滤先按元数据筛再向量检索,精度高但可能漏召回(候选少);后过滤先向量检索再筛元数据,召回稳但可能不足 top-k。数据分布与选择性决定选型,部分库支持混合。

8. 如何实现高效的混合检索?

参考答案: 向量库(稠密)+ BM25(稀疏,如 OpenSearch/ES)并行检索;各自取 top-k;RRF 融合排序;可选 rerank 精排。需管理两套索引与同步,权衡精度与复杂度。

9. 设计一个多阶段检索流水线。

参考答案: Stage1:粗召回(向量+BM25 混合,大 top-k);Stage2:rerank 精排(Cross-Encoder,小 top-k);Stage3:上下文压缩/筛选;Stage4:LLM 生成。逐层提精度降成本。

10. 如何处理多语言 RAG?

参考答案: 多语言 Embedding(BGE/E5 多语言);跨语言检索(query 与文档不同语言);按语言分索引+路由;翻译对齐;多语言评测;文化适配;混合语言文档处理。

11. 分析 query 改写的策略与效果。

参考答案: 策略:补充关键词、消歧、同义扩展、口语转书面、分解子问题、加元数据约束。效果:提升召回与精度,但增 LLM 调用成本与延迟。需评测改写前后检索质量对比。

12. 实现 HyDE 并分析其适用场景。

参考答案: LLM 生成假设答案→Embedding→检索真实文档→生成最终答案。适合 query 简短但答案详细的场景(假设答案与文档语义更近)。不适合 query 与答案语义差异大的场景。

13. 如何处理 RAG 中的表格数据?

参考答案: 保留表格 Markdown/HTML 结构;整表或按行分块;生成表格摘要辅助检索;表格+描述双索引;复杂查询转 Text-to-SQL;多模态模型理解表格图片;评测表格检索效果。

14. 设计一个支持权限控制的 RAG 系统。

参考答案: 文档元数据含权限标签(部门/角色/用户);检索时按用户权限过滤;向量库支持元数据过滤;Prompt 仅含授权内容;审计日志;缓存按权限隔离;定期校验权限一致性。

15. 如何实现 RAG 的增量更新?

参考答案: 文档变更检测(hash/时间戳/事件);删除旧分块(按 doc_id);重新分块+Embedding+入库;更新元数据与版本;可选双索引切换无缝;失败回滚;监控索引一致性。

16. 分析 RAG 的上下文长度管理策略。

参考答案: 控制检索 top-k 与分块大小;按相关性排序截断;rerank 精选;多文档摘要压缩;Parent-Document 按需扩展;长文档分段处理;上下文窗口预算分配;超长时 Map-Reduce。

17. 如何实现 RAG 的来源溯源?

参考答案: 检索时保留文档元数据(来源/位置);Prompt 注入带编号的片段;指令"引用来源编号";后处理校验引用存在;前端展示引用可点击跳转原文;增强可信度与可验证性。

18. 设计一个 RAG 的幻觉检测与缓解方案。

参考答案: 生成后用 NLI 模型判断答案是否被检索内容支持;或 LLM-as-Judge 评估一致性;不一致时重生成或拒答;Prompt 强调"仅基于资料";降低 Temperature;引用来源;人工抽检。

19. 分析 Self-RAG 的工作机制。

参考答案: 模型通过反思 token 自主决定:是否需要检索(Retrieve)、检索结果是否相关(Relate)、答案是否被支持(Critique)。灵活按需检索与引用,提升事实性,但需训练特定模型。

20. 实现 Corrective RAG(CRAG)。

参考答案: 检索后用评估器判断结果质量(相关/模糊/不相关);相关直接用;模糊触发 web 搜索补充;不相关重写 query 重检索或拒答;多层纠错提升鲁棒性。

21. 分析 GraphRAG 的优势与挑战。

参考答案: 优势:捕获实体关系、支持多跳推理与全局摘要。挑战:图谱构建成本高(LLM 抽取实体关系)、更新难、查询复杂、存储与计算开销大。适合关系密集型领域。

22. 如何评估 RAG 检索质量?

参考答案: 标注 query-相关文档对;统计召回率(Recall@k)、精确率(Precision@k)、NDCG、MRR;对比不同配置(分块/Embedding/top-k/混合检索);A/B 在线验证;持续监控。

23. 设计一个 RAG 评测数据集构建流程。

参考答案: 收集真实 query;人工标注相关文档与标准答案;覆盖多样场景与难度;包含否定/多跳/模糊案例;定期更新;数据增强(LLM 生成);标注规范与一致性校验;隐私脱敏。

24. 如何优化 RAG 的延迟?

参考答案: 并行检索(向量+BM25);缓存 query Embedding 与结果;rerank 用轻量模型;控制 top-k;批量 Embedding;向量库优化(HNSW 参数/分片);流式生成;预计算热 query;CDN。

25. 分析 RAG 的成本优化策略。

参考答案: 小模型路由简单 query;缓存复用;Batch Embedding;控制 top-k 与上下文长度;降维 Embedding;自部署开源 Embedding 模型;混合检索减少 LLM 调用;监控用量。

26. 如何处理 RAG 中的冲突信息?

参考答案: 检测冲突(多文档说法不一);按权威性/时效性/来源排序优先;Prompt 指示说明冲突与各来源;让模型权衡或询问用户澄清;保留多观点;避免武断选择;溯源标注。

27. 设计一个支持多租户的企业知识库 RAG。

参考答案: 租户隔离(独立索引/schema/命名空间);权限过滤;按租户配额与限流;知识库管理与上传;配置隔离(Embedding/分块);审计日志;监控按租户;数据加密;合规。

28. 如何实现 RAG 的 A/B 测试?

参考答案: 配置变体(分块/Embedding/检索策略/Prompt);随机分流;采集检索质量与用户满意度;统计显著性;灰度放量;回滚;需大样本与长期观察;控制变量。

29. 分析 RAG 与长上下文模型的协同。

参考答案: 长上下文(如 1M Token)可塞入更多文档但成本高、中间遗忘;RAG 精准检索降本。协同:RAG 召回相关文档→长上下文模型深度分析;或长上下文处理单文档+RAG 跨文档检索。融合是趋势。

30. 如何处理 RAG 中的时效性数据?

参考答案: 文档元数据含时间戳;检索时按时间过滤或加权(最新优先);定期更新知识库;过期文档标记或删除;web 搜索补充实时信息;Prompt 说明数据时效;监控过期。

31. 设计一个 RAG 的多轮对话管理方案。

参考答案: 保留对话历史;当前问题结合历史改写 query(解决指代);检索相关历史;上下文窗口管理(摘要早期);状态跟踪;话题切换检测;记忆固化关键信息。

32. 如何实现 RAG 的多跳推理?

参考答案: 检索-生成-再检索循环(每轮基于前文检索新信息);query 分解为子问题分别检索;GraphRAG 捕获实体关系;思维链推理;多步 rerank;监控步数防爆炸。

33. 分析 RAG 的"中间遗忘"问题。

参考答案: 检索文档放 Prompt 中间易被忽略(Lost in the Middle)。对策:最相关放首尾;控制数量;rerank 后按相关性排序;分块精炼;多轮检索按需;重要信息强调。

34. 如何设计 RAG 的监控体系?

参考答案: 检索指标(召回/NDCG/延迟);生成指标(相关性/幻觉率);使用指标(QPS/成本/缓存命中);错误监控(空结果/超时);用户反馈(评分/纠正);告警;看板;持续优化。

35. 实现 RAG 的语义缓存。

参考答案: query Embedding→向量检索相似历史 query→相似度阈值判断→命中返回缓存答案(校验时效性)。适合 FAQ 高频查询。需处理缓存失效、个性化、时效敏感内容。降本但需评估准确率。

36. 如何处理 RAG 中的长文档?

参考答案: 按结构分块(章节);Parent-Document 检索;摘要+原文双索引;Map-Reduce 分段处理;层级检索(先摘要定位再原文细查);多模态处理图表;元数据导航。

37. 分析 RAG 的失败诊断方法。

参考答案: 分阶段诊断:检索是否召回相关(看 top-k);rerank 是否排序合理;上下文是否充分;LLM 是否利用检索内容(看输出是否引用);幻觉是否与检索冲突。针对性优化各环节。

38. 如何实现 RAG 的个性化?

参考答案: 注入用户画像(角色/偏好/历史);按用户权限过滤;个性化 rerank(按历史点击);记忆跨会话偏好;Prompt 适配用户水平;A/B 验证;隐私保护;避免信息茧房。

39. 设计一个 RAG 的文档版本管理方案。

参考答案: 文档版本化(时间戳/版本号);分块关联版本;检索可指定版本或默认最新;历史版本可查;变更日志;版本回滚;多版本共存(如法规不同年份);过期清理策略。

40. 如何处理 RAG 中的代码与技术文档?

参考答案: 代码按函数/类分块保留结构;代码与注释一起 Embedding;BM25 精确匹配 API 名/函数名;按语言分索引;示例代码特殊处理;API 文档结构化;评测代码检索准确率。

41. 分析 RAG 与微调的协同。

参考答案: 微调改模型能力/风格/领域理解;RAG 增知识与时效性。协同:微调模型更好地利用检索内容、遵循引用规则;RAG 注入最新知识。先 RAG 验证,再微调固化能力,持续 RAG 更新知识。

42. 如何实现 RAG 的跨模态检索?

参考答案: 多模态 Embedding(CLIP 对齐图文);图片描述文本索引;OCR 文本索引;按模态分索引混合检索;查询可指定模态;结果多模态呈现;评测跨模态效果。

43. 设计一个 RAG 的知识库管理系统。

参考答案: 文档上传与管理(CRUD);自动解析分块入库;增量更新与版本管理;权限与租户;质量评测;低质文档检测;知识库分类与标签;使用统计;过期清理;审计日志。

44. 如何处理 RAG 中的低质量文档?

参考答案: 文档质量评分(完整性/清晰度/时效);低质标记或过滤;自动清洗去噪;分块质量检测;用户反馈收集低质;定期清理或更新;Prompt 处理不确定性;监控对答案影响。

45. 分析 RAG 的可扩展性挑战。

参考答案: 文档规模增长→索引膨胀、检索慢;并发查询增加→向量库压力;多租户隔离;增量更新一致性;跨区域部署;成本控制。需分片、缓存、读写分离、水平扩展、监控。

46. 如何实现 RAG 的可观测性?

参考答案: 全链路 Trace(query→改写→检索→rerank→生成);各阶段输入输出日志;检索质量指标;延迟与成本;用户反馈;错误监控;回放调试;LangSmith/Langfuse 集成;看板与告警。

高级题(难度:⭐⭐⭐)

1. 设计一个生产级企业 RAG 系统架构。

参考答案: 分层:数据层(文档管理/解析/分块/Embedding/向量库);检索层(多路召回/rerank/过滤/改写);生成层(LLM/上下文管理/Prompt);应用层(多租户/权限/对话);可观测层;安全层。支持增量更新、A/B、灰度、监控。

2. 如何系统化优化 RAG 的端到端质量?

参考答案: 分阶段优化:文档质量→分块策略→Embedding 选型→检索策略(混合/改写/多查询)→rerank→上下文管理→Prompt→模型。建立评测集量化各环节指标,定位瓶颈针对性优化,A/B 验证,持续迭代。

3. 分析 RAG 检索质量瓶颈的诊断方法。

参考答案: 逐环节分析:召回率低→改 query 改写/换 Embedding/调 top-k/混合检索;精度低→加 rerank/调分块;上下文不相关→改过滤/压缩;LLM 未利用→改 Prompt/换模型。需标注数据集与指标对比。

4. 设计一个支持实时数据更新的 RAG 架构。

参考答案: 文档变更事件触发(CDC/webhook);流式处理(解析/分块/Embedding);实时写入向量库;查询时检索最新;版本控制防读到半更新;失败重试队列;一致性校验;监控延迟与一致性。

5. 如何实现 RAG 的大规模文档处理?

参考答案: 分布式文档解析与分块;批量 Embedding(Batch API 降本);向量库分片与集群;并发控制与限流;断点续传与失败重试;增量更新;成本监控;可扩展架构(队列+worker)。

6. 设计一个 RAG 的多阶段检索优化方案。

参考答案: Stage1 粗召回(混合检索大 top-k,求高召回);Stage2 rerank 精排(Cross-Encoder,小 top-k);Stage3 上下文压缩(去冗余/摘要);Stage4 相关性校验(过滤不相关);Stage5 LLM 生成。逐层提精度降成本。

7. 分析 GraphRAG 与传统 RAG 的融合。

参考答案: 传统 RAG 擅长事实查询,GraphRAG 擅长关系与多跳推理。融合:向量检索找相关文档+图检索扩展关联实体;图作为补充上下文;混合索引;按 query 类型路由(事实→RAG,关系→GraphRAG)。

8. 如何实现 RAG 的自适应检索策略?

参考答案: 按 query 类型/难度动态调整:简单事实→单次向量检索;复杂多跳→多轮检索;关系查询→GraphRAG;时效性→web 搜索;模糊 query→改写+多查询。用分类器或 LLM 决策路由。

9. 设计一个 RAG 的质量保障体系。

参考答案: 离线:评测集定期回归(检索+生成指标);在线:实时质量监控(空结果率/幻觉检测/用户反馈);告警异常;A/B 验证变更;低质 case 收集入库;定期优化迭代;文档质量治理;模型版本管理。

10. 分析 RAG 的"知识冲突"处理。

参考答案: 检索到矛盾信息时:检测冲突(NLI/LLM 判断);按权威性/时效/来源排序;Prompt 说明冲突与各来源;让模型权衡或询问用户;保留多观点;避免武断;溯源标注;人工介入高危。

11. 如何实现 RAG 的跨语言检索优化?

参考答案: 多语言 Embedding(BGE/E5);query 与文档语言对齐(翻译或跨语言 Embedding);按语言分索引+路由;混合语言文档处理;多语言 rerank;评测各语言效果;本地化分块策略。

12. 设计一个 RAG 的成本效益优化方案。

参考答案: 分层:小模型路由简单 query;语义缓存复用;控制 top-k 与上下文;Batch Embedding;降维;自部署开源 Embedding;混合检索减少 LLM 调用;监控成本归因;按 ROI 优化环节;预算控制。

13. 分析 RAG 与 Agent 的融合架构。

参考答案: Agent 决策何时检索、检索什么、如何用结果;RAG 作为 Agent 的工具;多轮检索-推理循环;工具调用编排;记忆系统整合;规划与反思;可观测追踪;安全约束。Agentic RAG 是趋势。

14. 如何实现 RAG 的细粒度权限控制?

参考答案: 文档/分块级权限标签(部门/角色/用户/项目);检索时按用户身份过滤;向量库支持高效元数据过滤;Prompt 仅含授权内容;多级权限(读/引用/展示);审计;缓存隔离;权限变更同步。

15. 设计一个 RAG 的知识图谱增强方案。

参考答案: 从文档抽取实体关系构建图;向量检索找相关文档+图检索扩展关联实体/路径;图作为补充上下文;支持多跳推理;图谱与向量库同步更新;按 query 路由;评测关系查询效果。

16. 分析 RAG 的"上下文窗口"极限挑战。

参考答案: 长上下文模型缓解窗口限制但成本高、中间遗忘、并非越长越好。RAG 仍需精准检索而非全塞入。策略:相关性强排序、控制数量、压缩摘要、多轮按需检索、Parent-Document 按需扩展、分阶段处理。

17. 如何实现 RAG 的多文档摘要与聚合?

参考答案: Map-Reduce:各文档分别生成摘要→汇总综合答案;按主题聚类文档;多文档 rerank 选代表;分层次摘要(细→粗);冲突检测处理;引用多来源;控制总长度;评测聚合质量。

18. 设计一个 RAG 的持续学习与优化闭环。

参考答案: 收集用户反馈(评分/纠正/点击);分析失败 case;标注入库扩充评测集;优化分块/Embedding/Prompt;A/B 验证;灰度发布;监控指标;定期迭代;自动化流水线;人工审核关键变更。

19. 分析 RAG 的"检索-生成"对齐问题。

参考答案: 检索内容与生成需求不对齐导致效果差。需:query 改写对齐检索;rerank 对齐生成需求;Prompt 引导利用检索内容;生成后校验是否用了检索;反馈优化检索;评测各环节一致性。

20. 如何实现 RAG 的多模态融合检索?

参考答案: 统一 Embedding 空间(CLIP 对齐图文);多模态索引(文本/图片/表格);混合检索;按 query 类型路由模态;结果多模态呈现;多模态 rerank;评测跨模态效果;处理模态缺失。

21. 设计一个 RAG 的高可用与容灾方案。

参考答案: 向量库多副本与分片;跨区域部署;故障自动切换;缓存兜底;降级(无检索直接 LLM 或拒答);熔断保护;队列重试;监控告警;定期演练;RTO/RPO 目标;数据备份与恢复。

22. 分析 RAG 的"知识时效性"管理。

参考答案: 文档时间戳与有效期;检索按时间过滤或加权最新;定期更新知识库;过期文档标记/归档/删除;web 搜索补充实时;Prompt 说明数据时效;监控过期率;按领域设更新频率。

23. 如何实现 RAG 的细粒度分块优化?

参考答案: 按文档结构(标题/段落/列表/表格)智能分块;语义分块保完整性;Parent-Document 小块检索大块返回;分块大小按文档类型调;overlap 防割裂;元数据记录位置;评测分块质量。

24. 设计一个 RAG 的查询理解与路由系统。

参考答案: 意图识别(事实/关系/摘要/多跳);难度评估;query 改写与扩展;按意图路由检索策略(向量/BM25/GraphRAG/web);按难度调 top-k 与 rerank;按场景选模型;动态适配提升效果与成本。

25. 分析 RAG 的"幻觉根因"与系统性缓解。

参考答案: 根因:检索不相关/不足、模型忽略检索、模型编造、上下文冲突。系统性缓解:提升检索质量、Prompt 强调基于资料与引用、降低 Temperature、生成后 NLI 校验、不一致重生成、拒答机制、人工抽检。

26. 如何实现 RAG 的多用户并发与性能优化?

参考答案: 向量库连接池;并发检索限流;缓存 query Embedding 与结果;异步非阻塞 IO;读写分离;分片负载均衡;rerank 轻量化;流式生成;水平扩展;监控 P99 延迟;容量规划。

27. 设计一个 RAG 的知识库治理方案。

参考答案: 文档生命周期管理(创建/审核/发布/更新/归档/删除);质量评分与治理;重复/过时检测;分类与标签体系;权限与审计;版本管理;使用统计与价值评估;责任人制度;定期复盘。

28. 分析 RAG 的"长尾 query"处理。

参考答案: 长尾 query 检索效果差。对策:query 改写与扩展;多查询检索;HyDE;web 搜索补充;兜底回复与转人工;收集长尾 case 优化知识库;FAQ 扩充;持续学习;评测长尾覆盖率。

29. 如何实现 RAG 的可解释性与可信度?

参考答案: 来源溯源与引用;检索过程可视化(top-k 与分数);答案与检索片段对齐标注;置信度评估;不确定性说明;冲突透明展示;审计日志;可重放;用户反馈机制;评测一致性。

30. 设计一个 RAG 的演进路线图。

参考答案: 阶段1:基础 RAG(向量检索+LLM);阶段2:混合检索+rerank;阶段3:query 改写+多查询+自适应路由;阶段4:Agentic RAG(多轮检索+工具);阶段5:GraphRAG+多模态+持续学习。按价值与难度渐进。

31. 分析 RAG 的"知识规模化"挑战。

参考答案: 文档海量→索引膨胀、检索慢、噪声多、成本高。对策:分片与集群;高效索引(HNSW/IVF);精准过滤减少候选;分级检索(粗→精);缓存;按域分索引;冷热分层;压缩量化;评测规模扩展性。

32. 如何实现 RAG 的端到端自动化评测平台?

参考答案: 评测集管理(标注/版本/扩充);自动检索评测(召回/NDCG);自动生成评测(RAGAS/LLM-Judge:faithfulness/relevance);端到端任务成功率;对比基线与变体;A/B;可视化看板;回归 CI;持续监控。从人工走向自动化。