AI 基础面试题¶

涵盖 Agent 概念、LLM 原理、Token、Embedding、Prompt 基础、RAG 概念、多智能体概念。共 140 题：基础 56、进阶 49、高级 35。

基础题（难度：⭐）¶

1. 什么是 AI Agent？¶

参考答案： AI Agent 是能够感知环境、自主决策、执行动作以完成目标的智能体。它以 LLM 为大脑，结合工具调用、记忆与规划能力，形成"感知-推理-行动"闭环，区别于单轮问答的 Chatbot。

2. Agent 与 Chatbot 的核心区别是什么？¶

参考答案： Chatbot 仅根据输入生成回复，无状态无行动；Agent 具备目标导向、自主规划、工具调用、状态记忆与环境交互能力，能多步推进任务直至完成。

3. LLM 的全称是什么？它本质在做什么？¶

参考答案： Large Language Model，大语言模型。本质是基于 Transformer 架构，在海量文本上自监督训练，学习语言统计规律，根据上下文预测下一个 Token 的概率分布。

4. 什么是 Token？¶

参考答案： Token 是 LLM 处理文本的最小单位，可以是词、子词或字符。英文约 1 Token ≈ 0.75 词，中文一个汉字常对应 1-2 个 Token。Token 数量影响上下文长度与计费。

5. 什么是上下文窗口（Context Window）？¶

参考答案： 指模型一次推理能处理的最大 Token 数，包含输入与输出。如 GPT-4o 为 128K。超出则需截断、压缩或检索。

6. 什么是 Embedding？¶

参考答案： Embedding 是将文本等离散数据映射为稠密向量（如 1536 维）的过程，使语义相近的文本向量距离也相近，是检索、聚类、RAG 的基础。

7. 什么是 Prompt？¶

参考答案： Prompt 是输入给模型的提示文本，用于引导模型生成期望输出。包含系统提示、指令、上下文、示例等要素。

8. 什么是 Temperature 参数？¶

参考答案： Temperature 控制采样随机性，取值 0-2。值越低输出越确定、重复性高；值越高越多样、随机，但可能不连贯。Agent 任务通常设较低（0-0.3）。

9. 什么是 Top-p（核采样）？¶

参考答案： Top-p 从累积概率达到 p 的候选 Token 中采样，截断长尾。p=1 等同不截断。常与 Temperature 配合控制输出质量。

10. 什么是 RAG？¶

参考答案： Retrieval-Augmented Generation，检索增强生成。先从知识库检索相关文档，再拼入 Prompt 供 LLM 生成，解决知识时效性与幻觉问题。

11. LLM 的"幻觉"（Hallucination）指什么？¶

参考答案： 模型生成看似合理但事实错误的内容。源于训练数据局限与概率生成本质。可通过 RAG、事实校验、低 Temperature 缓解。

12. 什么是 Fine-tuning（微调）？¶

参考答案： 在预训练模型基础上，用领域数据继续训练，调整模型权重以适配特定任务或风格。常见方式有全参微调、LoRA、QLoRA 等。

13. Agent 的三大核心要素是什么？¶

参考答案： 通常指：规划（Planning）、记忆（Memory）、工具使用（Tool Use）。再加感知与行动，构成完整 Agent 闭环。

14. 什么是 Zero-shot 学习？¶

参考答案： 不提供示例，仅靠指令让模型完成任务。依赖模型预训练能力，适合通用任务。

15. 什么是 Few-shot 学习？¶

参考答案： 在 Prompt 中提供少量示例（通常 1-5 个），引导模型按示例模式输出，提升准确率与格式一致性。

16. Transformer 的核心机制是什么？¶

参考答案： Self-Attention 自注意力机制，让序列中每个位置关注所有其他位置，捕获长程依赖，支持并行计算。

17. GPT 与 BERT 的区别？¶

参考答案： GPT 是 Decoder-only，自回归从左到右生成，适合生成任务；BERT 是 Encoder-only，双向注意力，适合理解分类任务。

18. 什么是模型参数量？常见规模有哪些？¶

参考答案： 参数量指模型权重数量，常用 B（十亿）表示。常见有 7B、13B、70B、175B 等。参数越多能力通常越强，但成本越高。

19. 什么是多模态模型？¶

参考答案： 能同时处理文本、图像、音频等多种模态输入输出的模型，如 GPT-4o、Gemini。Agent 可借此处理更丰富的环境信息。

20. 什么是 ReAct 模式？¶

参考答案： Reasoning + Acting，模型先推理（Thought）再行动（Action）观察（Observation）循环推进，是 Agent 经典范式。

21. 什么是 Function Calling（函数调用）？¶

参考答案： 模型根据用户意图输出结构化函数调用（名称+参数），由外部代码执行后回传结果，是 Agent 调用工具的标准方式。

22. 什么是 System Prompt？¶

参考答案： 位于对话最前的高优先级指令，定义模型角色、规则、约束与输出格式，贯穿整个会话。

23. Agent 的记忆分为哪两类？¶

参考答案： 短期记忆（上下文窗口内的对话历史）与长期记忆（外部存储如向量库，跨会话持久化）。

24. 什么是 Chain-of-Thought（CoT）？¶

参考答案： 思维链，引导模型逐步展示推理过程再给结论，能显著提升数学、逻辑等任务准确率。

25. 什么是模型对齐（Alignment）？¶

参考答案： 通过 RLHF 等方法使模型输出符合人类价值观与意图，确保有用、诚实、无害（HHH）。

26. RLHF 的全称与作用？¶

参考答案： Reinforcement Learning from Human Feedback，基于人类反馈的强化学习。用人类偏好数据训练奖励模型，再优化策略，提升输出质量与安全性。

27. 什么是知识截止日期（Knowledge Cutoff）？¶

参考答案： 模型训练数据的最新时间点，之后的信息模型不了解。需通过 RAG 或联网工具补充。

28. 什么是 Agent 的目标（Goal）？¶

参考答案： Agent 要完成的最终任务，如"帮我订一张明天去上海的机票"。目标驱动规划与行动。

29. 多智能体系统（Multi-Agent System）是什么？¶

参考答案： 多个 Agent 协作或竞争完成任务的系统，各 Agent 可有不同角色、工具与记忆，通过通信协调。

30. 什么是向量数据库？¶

参考答案： 专门存储与检索向量的数据库，支持近似最近邻搜索（ANN），如 Pinecone、Milvus、Qdrant，是 RAG 核心组件。

31. 什么是余弦相似度？¶

参考答案： 衡量两向量方向相似性的指标，值域 [-1,1]，越接近 1 越相似。常用于文本语义相似度计算。

32. 什么是提示工程（Prompt Engineering）？¶

参考答案： 设计优化 Prompt 以引导模型产生期望输出的方法学，包含指令设计、示例编排、格式约束等。

33. LLM 推理的两个阶段是什么？¶

参考答案： Prefill（预填充，处理输入 Prompt）与 Decode（解码，逐 Token 生成输出）。Prefill 可并行，Decode 串行。

34. 什么是 KV Cache？¶

参考答案： 推理时缓存已计算 Key/Value 向量，避免重复计算，加速自回归生成，是流式响应的基础。

35. 什么是模型量化（Quantization）？¶

参考答案： 将模型权重从高精度（FP16）降至低精度（INT8/INT4），减少显存与推理成本，代价是少量精度损失。

36. 什么是 LoRA？¶

参考答案： Low-Rank Adaptation，冻结原模型权重，仅训练低秩矩阵附加层，大幅降低微调参数与显存，高效适配。

37. Agent 与 Workflow 的区别？¶

参考答案： Workflow 是预定义流程的确定性编排；Agent 由 LLM 动态决策下一步动作，具备自主性与非确定性。

38. 什么是 Tool Use（工具使用）？¶

参考答案： Agent 调用外部工具（搜索、计算、API、代码执行）扩展能力边界，弥补 LLM 静态知识局限。

39. 什么是 Agent 的观察（Observation）？¶

参考答案： Agent 执行动作后从环境获取的反馈信息，作为下一步推理的输入，形成感知闭环。

40. 什么是上下文学习（In-Context Learning）？¶

参考答案： 模型无需更新权重，仅凭 Prompt 中的示例与指令学习新任务，是 GPT 系列的核心能力。

41. 常见 LLM 应用开发框架有哪些？¶

参考答案： LangChain、LlamaIndex、OpenAI Agents SDK、AutoGen、CrewAI、Semantic Kernel 等，提供 Agent 编排、记忆、工具抽象。

42. 什么是 Stop Sequence？¶

参考答案： 指定遇到即停止生成的字符串序列，用于控制输出边界，如函数调用结束符。

43. 什么是 Max Tokens 参数？¶

参考答案： 限制模型单次生成的最大 Token 数，防止超长输出与控制成本。

44. 什么是 Logit Bias？¶

参考答案： 调整特定 Token 出现概率的参数，可抑制或促进某些词，用于精细控制输出。

45. 模型的"涌现能力"指什么？¶

参考答案： 模型规模达一定程度后突然出现的能力（如复杂推理、CoT），小模型不具备，呈非线性的能力跃升。

46. 什么是 Tokenizer？¶

参考答案： 将文本切分为 Token 的工具，常见有 BPE、WordPiece、SentencePiece。同一模型 Tokenizer 固定。

47. 什么是 BPE？¶

参考答案： Byte-Pair Encoding，字节对编码。从字符开始迭代合并最高频字节对构建词表，平衡词表大小与序列长度，GPT 系列采用。

48. Agent 的自主性（Autonomy）体现在哪？¶

参考答案： 自主决策下一步动作、自主选择工具、自主规划步骤、自主判断任务完成，无需人工逐步指令。

49. 什么是 ReAct 中的 Thought？¶

参考答案： Agent 的推理步骤，展示其思考过程，决定下一步 Action，提升可解释性与正确性。

50. 什么是 Agent 的反射（Reflection）？¶

参考答案： Agent 回顾自身行动与结果，反思改进，类似 Self-Refine，提升后续决策质量。

51. 什么是 Instruction Tuning？¶

参考答案： 指令微调，用"指令-响应"数据训练模型遵循人类指令，使其从"续写"转向"听从指令"。

52. 什么是模型蒸馏（Distillation）？¶

参考答案： 用大模型（教师）输出去训练小模型（学生），让小模型逼近大模型能力，便于部署降本。

53. 什么是 AGI？¶

参考答案： Artificial General Intelligence，通用人工智能，指能像人类一样跨领域学习完成任意智力任务的智能。当前 LLM 仍属弱 AI。

54. 什么是 Agent 的奖励（Reward）？¶

参考答案： 评估 Agent 动作好坏的信号，驱动学习或选择。RL Agent 优化累积奖励，LLM Agent 常用反馈作隐式奖励。

55. 什么是 Thought-Action-Observation 循环？¶

参考答案： ReAct 的核心循环：思考（Thought）→ 行动（Action）→ 观察（Observation）→ 再思考，直至任务完成。

56. 为什么 Agent 需要记忆？¶

参考答案： 上下文窗口有限且会遗忘早期信息；跨会话需持久化用户偏好与历史；长期记忆让 Agent 积累经验、保持人格一致性。

进阶题（难度：⭐⭐）¶

1. 解释 Self-Attention 的计算过程。¶

参考答案： 输入向量经线性变换得 Query、Key、Value；计算 Attention Score = softmax(QKᵀ/√dk)；再与 Value 加权求和输出。让每个位置动态关注全序列。

2. 为什么 Attention 除以 √dk？¶

参考答案： 当 dk 较大时点积方差变大，使 softmax 进入梯度饱和区。除以 √dk 稳定方差，保证梯度有效传播。

3. MHA、MQA、GQA 的区别？¶

参考答案： MHA 每个头独立 Q/K/V；MQA 所有头共享 K/V，省显存但质量降；GQA 分组共享 K/V，是折中方案，Llama 2 等采用。

4. RoPE 位置编码原理与优势？¶

参考答案： 旋转位置编码，通过对 Query/Key 施加旋转矩阵注入相对位置信息。优势：支持长上下文外推、相对位置感知、计算高效。

5. KV Cache 如何影响显存占用？¶

参考答案： KV Cache 大小正比于 batch×layers×seq_len×hidden_dim×2。长上下文下显存激增，是长序列推理瓶颈，需用 PagedAttention 等优化。

6. 对比 Greedy、Beam Search、Sampling 解码。¶

参考答案： Greedy 每步取最高概率，易重复；Beam Search 保留 top-k 序列，质量高但慢且缺乏多样性；Sampling 按概率随机采样，多样性强。LLM 推理多用 Sampling。

7. 为什么 LLM 会重复输出？如何解决？¶

参考答案： 高概率 Token 反复被选、训练数据重复、低 Temperature。解决：调高 Temperature/Top-p、加 repetition_penalty、freq_penalty，或改用 Sampling。

8. 对比稠密检索与稀疏检索。¶

参考答案： 稠密检索用 Embedding 向量相似度，捕获语义，泛化好；稀疏检索（BM25）基于词项匹配，精确关键词强。RAG 常用混合检索取长补短。

9. 解释 Embedding 模型的维度选择权衡。¶

参考答案： 高维（如 1536）表达力强但存储与计算成本高；低维（如 384）成本低但语义区分度弱。需根据数据规模、召回精度、延迟权衡。

10. 为什么 Cosine 相似度比欧氏距离更适合文本检索？¶

参考答案： 文本 Embedding 的语义相似度更关注方向而非幅度；Cosine 只比较方向，对向量长度不敏感，归一化后更稳定，适合检索排序。

11. 对比 Zero-shot、Few-shot、Fine-tuning 适用场景。¶

参考答案： Zero-shot 适合通用任务快速验证；Few-shot 适合格式/风格固定但无需改权重；Fine-tuning 适合领域深、数据多、需本质能力提升的场景。

12. CoT 为什么能提升推理能力？¶

参考答案： 将复杂问题分解为中间步骤，激活模型分布式的推理能力；中间 Token 为最终答案提供额外计算"步数"，类似增加推理深度。

13. Self-Consistency 如何提升 CoT 效果？¶

参考答案： 对同一问题采样多条 CoT 推理路径，对最终答案投票取多数。利用多样性降低单条路径错误风险，显著提升数学推理准确率。

14. 解释 ReAct 相比纯 CoT 的优势。¶

参考答案： ReAct 在推理中穿插外部工具调用，获取实时信息与计算结果，弥补 LLM 静态知识与计算弱项，更适于复杂实际任务。

15. Agent 规划的常见策略有哪些？¶

参考答案： 任务分解（Task Decomposition，把大目标拆为子任务）、Plan-and-Execute（先规划再执行）、ReAct 边走边想、树搜索（ToT）多路径探索。

16. 短期记忆与长期记忆如何配合？¶

参考答案： 短期记忆承载当前任务上下文与近期对话；长期记忆存储历史会话、用户画像、知识库，按需检索注入短期记忆，实现跨会话连续性。

17. 对比 Buffer、Summary、Vector Store 记忆策略。¶

参考答案： Buffer 保留原始对话，简单但易超长；Summary 滚动摘要压缩，省 Token 但丢细节；Vector Store 向量化存储按需检索，容量大但需管理。

18. Agent 如何判断任务完成？¶

参考答案： 显式终止工具（如 finish/submit）；模型自判目标达成；外置校验器检查输出条件；最大步数兜底防止死循环。

19. Function Calling 与 ReAct 文本解析的优劣？¶

参考答案： Function Calling 原生结构化、可靠、无解析错误，但依赖模型支持；ReAct 文本解析通用但易格式错乱、需鲁棒解析。生产优先 Function Calling。

20. 多 Agent 通信的常见模式？¶

参考答案： 中心化（Orchestrator 调度）、对话式（Agent 间消息传递）、黑板模式（共享状态）、流水线（顺序传递）、竞争投票（多 Agent 独立求解后融合）。

21. 解释幻觉的三种主要成因。¶

参考答案： 训练数据噪声或过时；概率生成本质导致"编造"；上下文冲突或 Prompt 模糊。分别需数据治理、RAG/校验、Prompt 优化缓解。

22. RAG 相比 Fine-tuning 的优势？¶

参考答案： 无需训练成本低、知识更新即时、来源可溯源、无灾难性遗忘；适合知识密集型问答。Fine-tuning 更适合改变能力/风格而非增知识。

23. 为什么 RAG 检索结果不全要用？¶

参考答案： 检索结果可能不相关、冗余、超长，全塞入 Prompt 增成本、降准确率、超窗口。需 rerank、去重、截断、相关性过滤后再用 top-k。

24. 解释 Token 计费与上下文长度关系。¶

参考答案： 计费按输入+输出 Token 总量。长上下文输入成本高，且模型在长上下文中"中间遗忘"（Lost in the Middle），并非越长越好。

25. 什么是 Lost in the Middle 现象？¶

参考答案： 模型对长上下文首尾信息关注强，中间信息易被忽略。RAG 应将最相关文档放首尾，或控制检索数量。

26. 对比 GPT-4、Claude、Llama 系列定位差异。¶

参考答案： GPT-4 综合能力强、生态完善、闭源；Claude 长上下文与写作优秀、安全性高；Llama 开源可自部署、定制灵活，是私有化首选。

27. 开源与闭源 LLM 选型考量？¶

参考答案： 闭源能力强但数据隐私与成本受限；开源可私有化、可微调、可控，但需自建推理基建与运维。按数据敏感度、成本、能力需求权衡。

28. 解释 LLM 推理的 Prefill 与 Decode 阶段特点。¶

参考答案： Prefill 并行处理 Prompt，计算密集，GPU 利用率高；Decode 逐 Token 串行，访存密集，GPU 利用率低，是推理瓶颈，需 batching 优化。

29. 为什么连续批处理（Continuous Batching）能提升吞吐？¶

参考答案： 动态将新请求加入正在执行的 batch，避免等所有序列完成才换批，减少空泡，提升 GPU 利用率与吞吐，vLLM 等采用。

30. PagedAttention 解决什么问题？¶

参考答案： 借鉴 OS 分页机制管理 KV Cache，消除显存碎片，提升显存利用率与 batch 容量，支持更大并发，是 vLLM 核心技术。

31. 解释 Agent 的工具选择决策机制。¶

参考答案： 模型根据工具描述（name/description/parameters）与当前任务语义匹配，输出选择的工具与参数。工具描述质量直接影响选择准确率。

32. 工具描述（Tool Schema）应包含哪些要素？¶

参考答案： 清晰名称、功能描述（何时用/不用）、参数说明（类型/必填/含义/约束）、返回格式。越具体模型选择越准。

33. Agent 循环为什么会死循环？如何避免？¶

参考答案： 工具反复失败、模型反复尝试同一动作、缺乏终止信号。避免：限制最大步数、记录失败动作避免重复、错误反馈引导改用其他工具。

34. 对比 ReAct 与 Plan-and-Execute。¶

参考答案： ReAct 边推理边执行，灵活但易发散、步数多；Plan-and-Execute 先生成完整计划再分步执行，结构清晰但计划僵化、不易适应变化。

35. Tree of Thoughts（ToT）适用场景？¶

参考答案： 需探索多条路径、可回溯的复杂搜索任务（如数学证明、谜题、规划）。开销大，简单任务不值得，性价比低于 ReAct。

36. 多 Agent 系统的角色设计原则？¶

参考答案： 角色职责单一明确、能力互补、通信接口清晰、有协调者避免混乱、可独立验证产出。避免角色重叠与循环依赖。

37. Agent 评测的常见维度？¶

参考答案： 任务成功率、步数效率、成本 Token 数、延迟、工具调用准确率、鲁棒性、安全性。需结合人工与自动评测。

38. 解释 AgentBench、GAIA、ToolBench 等评测基准。¶

参考答案： AgentBench 评估多场景 Agent 能力；GAIA 测真实复杂任务多步推理；ToolBench 测大规模工具调用。各侧重不同维度，选基准要匹配业务。

39. 什么是 LLM 的对数线性扩展（Scaling Law）？¶

参考答案： 模型损失随参数量、数据量、算力按幂律下降。指导模型训练规模决策，但能力提升需三者协同增长。

40. Chinchilla 定律指出最优训练数据量约为多少？¶

参考答案： 约为参数量的 20 倍 Token。Chinchilla 70B 用 1.4T Token 优于 280B 的 GPT-3（300B Token），说明数据配比很关键。

41. 解释 SFT、RLHF、DPO 的关系。¶

参考答案： SFT 监督微调教格式与基础能力；RLHF 用奖励模型+PPO 对齐偏好，复杂；DPO 直接用偏好对优化，省奖励模型，更简单稳定。

42. 灾难性遗忘（Catastrophic Forgetting）是什么？如何缓解？¶

参考答案： 微调新数据导致旧能力丢失。缓解：混合旧数据回放、低学习率、LoRA 等参数高效方法冻结主干、EWC 等正则化。

43. 解释向量检索的 ANN 算法类别。¶

参考答案： 基于图（HNSW）、基于量化（PQ/SQ）、基于哈希（LSH）、基于树（Annoy）。HNSW 综合性能优，最常用。

44. HNSW 的核心思想？¶

参考答案： 构建多层近邻图，上层稀疏快速定位区域，下层密集精确搜索，类似跳表。查询从顶层逐层细化，兼顾速度与召回。

45. 乘积量化（PQ）如何加速检索？¶

参考答案： 将高维向量切分为子向量，每段聚类编码为码本索引，原始向量变为短码。检索用码本近似计算距离，大幅省内存与计算。

46. 解释 Embedding 模型的指令化（Instruction-tuned Embedding）。¶

参考答案： 在 Embedding 训练中加入任务指令（如"检索相关文档"），使同一模型适配多种检索场景（如 BGE、E5），提升领域适应性。

47. 交叉编码器（Cross-Encoder）与双编码器（Bi-Encoder）区别？¶

参考答案： Cross-Encoder 将 query-doc 拼接输入模型输出相似度，精度高但慢，适合 rerank；Bi-Encoder 分别编码再算相似度，可预计算快，适合召回。

48. 为什么 RAG 需要 Rerank？¶

参考答案： 向量召回重召回率但精度有限，可能混入不相关项。Rerank 用 Cross-Encoder 精排 top-k，显著提升最终相关性，是 RAG 标配。

49. 多智能体协作的挑战有哪些？¶

参考答案： 通信成本高、角色冲突、错误传播、一致性难保证、调试困难、token 消耗大。需精简角色、明确协议、加校验节点。

高级题（难度：⭐⭐⭐）¶

1. 从工程视角分析 Agent 可靠性难点与应对。¶

参考答案： 难点：LLM 非确定性、工具调用失败、状态膨胀、错误传播。应对：结构化输出约束、工具重试与降级、状态机校验、关键步骤人工审批、可观测日志与回放。

2. 如何设计一个支持长程任务的 Agent 记忆系统？¶

参考答案： 分层：工作记忆（当前上下文）、情景记忆（会话历史向量化）、语义记忆（知识库）、程序记忆（技能/工具用法）。配合摘要、检索、遗忘机制与重要性评分（类似 Generative Agents）。

3. 分析上下文窗口扩展的技术路线与权衡。¶

参考答案： 路线：原生长上下文训练（GPT-4 128K）、位置编码外推（YaRN/NTK-aware）、KV 压缩、检索注入。权衡：长窗口成本高、中间遗忘、外推质量降。按需用 RAG 比全塞入更优。

4. 如何评估一个 Agent 系统的质量？设计评测方案。¶

参考答案： 多维度：任务成功率（端到端）、过程质量（步骤合理性）、效率（步数/Token）、鲁棒性（扰动测试）、安全（越狱测试）。方法：标准数据集自动评测 + 人工抽检 + LLM-as-Judge + 在线 A/B。

5. 讨论 LLM-as-Judge 的偏差与缓解。¶

参考答案： 偏差：偏好长答案、偏好自家模型、位置偏差、自我增强。缓解：随机化顺序、多模型交叉评判、细粒度评分标准、人工校准、对比配对评测。

6. Agent 中如何处理 LLM 输出格式不稳定问题？¶

参考答案： 强制结构化输出（JSON Schema/Function Calling/Tool Mode）、Schema 校验失败重试、宽松解析容错、Few-shot 示范格式、用 Pydantic 校验、提供格式修复工具。

7. 分析 Agent 步数过多导致上下文爆炸的解决方案。¶

参考答案： 滚动窗口保留近期+摘要早期、外部状态存储按需检索、子 Agent 隔离上下文、显式状态机替代对话历史、压缩工具返回结果、分阶段清理无关中间结果。

8. 如何在 Agent 中实现可控性（Controlled Generation）？¶

参考答案： 约束解码（grammar/regex）、结构化输出模式、工具白名单限制可调用工具、状态机限定流转、关键动作人工审批、规则后处理校验与拒答。

9. 多 Agent 系统的工程化挑战与架构设计。¶

参考答案： 挑战：编排复杂、通信开销、状态一致性、故障传播。架构：消息总线解耦、Orchestrator 集中调度、共享黑板状态、独立故障隔离与重试、可观测追踪、限流防雪崩。

10. 讨论 Agent 自我改进（Self-Improvement）的可行性与风险。¶

参考答案： 可行：Reflection 自我反思、经验库积累、RLAIF 自训练。风险：奖励黑客、错误强化、能力越界、安全失控。需人工监督、安全护栏、可回滚与对齐约束。

11. 如何平衡 Agent 的自主性与可控性？¶

参考答案： 分级自主：低风险全自主、高风险人工审批；沙箱限制动作范围；工具权限分级；可解释决策供审计；明确终止条件与回退路径；保留人工接管接口。

12. 分析 RAG 与长上下文模型的未来关系。¶

参考答案： 长上下文不能完全替代 RAG：成本、中间遗忘、时效性、可溯源性、知识规模。RAG 仍用于大规模知识与溯源；长上下文适合单文档深度分析。二者将融合：长上下文+精准检索。

13. 如何设计 Agent 的可观测性（Observability）体系？¶

参考答案： 全链路追踪（Trace/Span）、每步输入输出与工具调用日志、Token 与成本统计、延迟分布、错误率与重试、状态快照、回放调试。集成 LangSmith/Langfuse 等工具。

14. 讨论 Agent 的安全风险与防御。¶

参考答案： 风险：Prompt 注入、越狱、工具滥用、数据泄露、权限提升。防御：输入过滤、工具权限最小化、输出审查、沙箱隔离、人工审批关键动作、红队测试、审计日志。

15. Prompt 注入（Prompt Injection）原理与防御？¶

参考答案： 攻击者在数据中嵌入恶意指令劫持模型。防御：输入输出分离、数据转义、指令放在数据后并强化边界、检测过滤可疑指令、限制工具权限、人工审批高危动作。

16. 如何设计支持流式响应的 Agent 架构？¶

参考答案： SSE/WebSocket 推送增量 Token；工具调用时先输出思考过程再执行；工具结果异步回传；前端增量渲染与状态管理；后端事件流式编排与背压控制。

17. 分析 Agent 的成本构成与优化策略。¶

参考答案： 成本：输入 Token（占大头）、输出 Token、工具调用、Embedding、存储。优化：精简 Prompt、缓存复用、小模型路由简单任务、压缩上下文、限制步数、批量请求。

18. 模型路由（Model Routing）如何降本？¶

参考答案： 用小模型处理简单任务、大模型处理复杂任务；基于规则或分类模型路由；级联：小模型先答，不确定再升级大模型。可降 50%+ 成本，需平衡准确率。

19. 讨论 Agent 的延迟优化策略。¶

参考答案： 流式响应降低首字节延迟；并行工具调用；小模型快速决策；预测性预计算；KV Cache 复用；批处理提升吞吐；边缘部署就近响应；前端乐观渲染。

20. 如何设计 Agent 的失败恢复机制？¶

参考答案： 工具调用重试与超时降级；检查点（Checkpoint）保存中间状态；幂等设计支持重放；事务化多步动作可回滚；备用模型/工具降级；人工接管接口；死信队列处理。

21. 分析多 Agent 间知识共享与隔离的平衡。¶

参考答案： 共享提升协作效率但易污染、耦合；隔离安全但重复造轮。设计：共享只读知识库、私有工作记忆、显式消息接口通信、版本化共享状态、权限控制访问。

22. 讨论 Agent 的人格（Persona）一致性问题。¶

参考答案： 长对话中角色漂移、记忆冲突导致人格不一致。需：稳定 System Prompt、长期记忆固化人格设定、关键事件摘要、定期人格校准、版本化人格配置。

23. 如何评估 Embedding 模型质量？¶

参考答案： 检索基准（MTEB/BEIR）召回率与 NDCG；领域数据集人工标注相关性；下游任务（RAG 端到端准确率）；多语言覆盖；推理速度与维度成本。

24. 讨论小模型在 Agent 中的角色与限制。¶

参考答案： 角色：工具选择、意图分类、简单问答、摘要降本。限制：复杂推理弱、工具调用易错、指令遵循差。需明确边界、复杂任务仍用大模型、可级联升级。

25. 如何设计 Agent 的版本管理与回归测试？¶

参考答案： Prompt/工具/模型版本化；测试集覆盖核心场景与边界；CI 自动跑评测对比指标；灰度发布新版本；A/B 在线验证；回滚机制。变更需可追溯与可回滚。

26. 分析 Agent 的"过度自信"问题与缓解。¶

参考答案： 模型对错误答案也高置信，源于训练偏好与概率本质。缓解：让模型给置信度并校准、多采样投票、不确定性显式表达、关键决策人工复核、工具验证事实。

27. 讨论 Agent 在企业落地的核心障碍。¶

参考答案： 准确率不够稳定、数据隐私与合规、成本高、与现有系统集成难、缺乏评测体系、运维复杂、用户信任不足。需场景选型、渐进落地、人机协同、可观测与兜底。

28. 如何设计 Agent 的权限模型？¶

参考答案： 最小权限原则；按角色与场景分配工具；只读优先、写操作需审批；分级授权（用户级/会话级/动作级）；权限可撤销；审计所有敏感动作；沙箱隔离高危操作。

29. 讨论 Agent 与传统软件的边界。¶

参考答案： Agent 适合模糊、开放、需灵活决策的任务；传统软件适合确定、高可靠、强一致的任务。Agent 应嵌入传统系统处理智能部分，关键流程仍由确定性代码保障。

30. 分析 Agent 的"思考预算"（Thinking Budget）设计。¶

参考答案： 限制推理步数/Token 防止过度思考；简单任务低预算快速完成，复杂任务高预算深度推理；动态调整预算基于任务难度；平衡质量与成本延迟。

31. 如何处理 Agent 工具调用返回超长结果？¶

参考答案： 工具端分页/截断；返回摘要而非全文；结构化提取关键字段；流式返回按需取用；二次检索精炼；压缩去噪；存外部仅返回引用。

32. 讨论 Agent 在多语言场景的挑战。¶

参考答案： 工具描述与 Prompt 语言不一致；低资源语言能力弱；跨语言检索精度低；输出语言漂移。需统一语言策略、多语言 Embedding、显式语言指令、本地化评测。

33. 如何设计可解释的 Agent 决策？¶

参考答案： 强制 Thought 输出推理过程；工具调用记录理由；决策树可视化；置信度标注；关键步骤可追溯；提供"为何这么做"反查接口；面向用户的简化解释层。

34. 分析 Agent 评测中的"数据污染"问题。¶

参考答案： 评测集可能已入训练数据，导致虚高。需用最新/私有数据、动态生成题、对抗样本、多版本评测对比、关注过程而非仅结果，避免过拟合基准。

35. 讨论 AGI 路径上 Agent 的角色与当前差距。¶

参考答案： Agent 是 AGI 的关键载体，整合感知-推理-行动-学习。差距：长程规划弱、泛化差、无真正学习与自我改进、缺乏世界模型、安全对齐未解。仍处弱 AI 阶段。

AI 基础 面试题¶