1. 面试现场还原：Transformer、RAG、多Agent 到底在考什么
大模型应用开发岗的面试，最近一年明显从「你会不会调 API」转向「你能不能把整条链路讲清楚」。我面过也旁听过不少场，面试官的问题基本围绕三块：Transformer 的注意力机制能不能手推、RAG 检索链路的设计取舍、多 Agent 协作的工程落地。这三块分别对应基础层、核心层、进阶层，任何一块答得含糊，追问两轮就会露馅。
先说清楚这三个概念是什么、能做什么、适合谁关注。Transformer 是当前几乎所有大模型的底层架构，核心是自注意力机制，它决定了模型如何理解上下文；RAG（检索增强生成）是在模型外部挂一个知识库，先检索再生成，解决模型知识过时和幻觉问题；多 Agent 则是把复杂任务拆给多个角色化的模型实例协作完成，适合流程长、需要分工的场景。适合谁看？准备跳槽的 NLP 工程师、正在做 AI 应用落地的开发者、以及需要评估团队技术深度的技术管理者。
面试官追问的套路很固定：先让你讲原理，再让你讲工程取舍，最后给你一个业务场景让你现场设计。比如「电商客服长会话怎么分块」「企业知识库检索怎么保证召回率」「在线教育智能导师怎么设计多 Agent 协作」。这些问题没有标准答案，但答得好不好，取决于你有没有真正跑通过链路。
我自己的经验是，光背概念没用，面试官一句「你实际怎么验证的」就能问穿。所以这篇不只是复盘题目，还会给出可复制的自测清单和最小验证 Demo 配置，让你在本地就能把多模型对比跑起来。这里会用到 TaoToken 的统一 Key 和 API 通道，一个 Key 就能切换不同模型做对比验证，省去到处申请账号的麻烦。下面按面试的三层结构展开，每层都给原理、工程取舍和可操作的验证步骤。
2. Transformer 注意力机制推导与上下文工程面试自测
2.1 自注意力到底在算什么
面试官最爱问的第一句是「Transformer 的注意力机制你怎么理解」。很多人张口就是「每个 Token 和其他 Token 建立联系」，这句话对，但太浅。追问「那 Q、K、V 分别是什么，为什么要除以根号 d_k」，就卡住了。
自注意力的本质是一次加权求和。输入序列经过三个线性变换得到 Query、Key、Value 三组向量。每个位置的 Query 和所有位置的 Key 做点积，得到注意力分数，softmax 归一化后作为权重，对 Value 加权求和。公式是 Attention(Q,K,V) = softmax(QK^T / √d_k) V。除以 √d_k 是因为点积结果随维度增大而变大，softmax 会进入饱和区导致梯度消失，缩放让分布更平滑。
多头注意力是把这套计算并行做 h 次，每个头关注不同的子空间。比如一个头关注语法依赖，另一个头关注指代关系。最后把 h 个头的输出拼接再线性变换。残差连接和层归一化是训练稳定的关键，残差让梯度能直接回传，缓解深层网络的退化问题。
位置编码补充序列顺序信息，因为自注意力本身是置换不变的。正弦位置编码是原始方案，现在更多用可学习的位置嵌入或 RoPE 旋转位置编码。
2.2 上下文窗口与 Token 的工程取舍
面试官接着会问「上下文窗口和 Token 什么关系」。Token 是模型处理的最小单位，中文大致一个字对应 1 到 2 个 Token，英文一个词可能拆成多个 Token。上下文窗口是模型一次能处理的最大 Token 数，超出就要截断或分块。
工程上的坑在于：窗口大不代表效果好。中间位置的信息容易被忽略，这就是所谓的「lost in the middle」现象。所以长文档不能简单塞进去，要做 Chunking。常见策略有固定长度切分、按语义切分、带 Overlap 的滑动窗口切分。Overlap 是为了防止关键信息正好被切在边界上。
Prompt Engineering 在这里的作用是引导模型关注重点。Zero-shot 直接给任务说明，Few-shot 给几个示例，Chain-of-thought 让模型分步推理。模板化 Prompt 和 Prompt Chaining 能把复杂任务拆成多步，每步的输出作为下一步的输入。
2.3 可复制的自测清单
下面这份清单可以直接拿来对着练，每一条都能展开讲两分钟才算过关：
| 考点 | 自测问题 | 合格标准 |
|---|---|---|
| 自注意力 | Q/K/V 怎么来的，为什么缩放 | 能写出公式并解释梯度问题 |
| 多头 | 为什么要多头，头之间怎么合并 | 能说清子空间和拼接逻辑 |
| 残差与归一化 | 解决什么问题 | 能联系梯度消失和训练稳定性 |
| 位置编码 | 为什么需要，RoPE 优势 | 能对比正弦编码和旋转编码 |
| 上下文窗口 | 窗口大为什么不一定好 | 能说出 lost in the middle |
| Chunking | Overlap 的作用 | 能给出具体切分参数 |
把这张表过一遍，基础层基本稳了。接下来进入 RAG，这是面试区分度最高的部分。
3. RAG 检索链路设计与最小验证 Demo 配置
3.1 RAG 的完整链路
RAG 的核心思路是：模型本身的知识有限且可能过时，那就外挂一个知识库，用户提问时先检索相关文档，把检索结果作为上下文喂给模型生成答案。链路分两段：离线索引和在线检索。
离线索引阶段，把文档切块，每块用 Embedding 模型转成向量，存进向量数据库。在线检索阶段，用户问题也转成向量，在数据库里做相似度搜索，召回 Top-K 文档，再经过 Rerank 精排，最后拼进 Prompt 交给模型。
检索策略上，纯向量检索擅长语义匹配，但对精确关键词不敏感；BM25 是稀疏检索，擅长关键词匹配。Hybrid 检索把两者结合，通常效果更好。Rerank 用交叉编码器对召回结果重新打分，精度高但慢，所以只对 Top-K 做。
3.2 缓存与知识更新
Embedding Cache 缓存已经算过的文档向量，避免重复计算。Prompt Cache 缓存相同前缀的 Prompt 计算结果，提升响应速度。知识更新有两条路：定时全量刷新索引，或者增量更新，只处理新增和修改的文档。增量更新对向量数据库的删除和插入能力有要求。
多模态 RAG 是把文本和图片分别 Embedding，检索时统一召回。高并发场景下，向量数据库的连接池和异步请求是关键，HikariCP 这类连接池能显著降低延迟。
3.3 用 TaoToken 统一 Key 跑通多模型对比
面试里经常被问「你怎么选 Embedding 模型和生成模型」。光说理论没用，得实际对比。这里给出可复制的配置，用 TaoToken 的统一 Key 和 API 通道，一个 Key 切换多个模型做对比验证。
先配置环境变量，把 Key 和 Base URL 设好：
export TAOTOKEN_API_KEY="你的Key" export TAOTOKEN_BASE_URL="https://taotoken.net/api"然后写一个最小验证脚本，对比不同模型的 Embedding 和生成效果：
import os from openai import OpenAI client = OpenAI( api_key=os.environ["TAOTOKEN_API_KEY"], base_url=os.environ["TAOTOKEN_BASE_URL"], ) # 生成模型对比 def compare_models(prompt, models): for model in models: resp = client.chat.completions.create( model=model, messages=[{"role": "user", "content": prompt}], temperature=0.3, ) print(f"[{model}] {resp.choices[0].message.content[:120]}") compare_models( "用一句话解释 RAG 的检索链路", ["gpt-4o-mini", "claude-3-5-sonnet", "deepseek-chat"], )这段代码的关键是 base_url 指向 TaoToken 的 API 通道，model 参数换成你要对比的模型 ID 即可。跑一次就能看到不同模型对同一问题的回答差异，面试时你就能说「我实测过，这个场景下哪个模型更稳」。
如果你用的是 Claude Code 这类编码工具，配置方式类似，把 Base URL、Key、Model ID 三件套填进配置文件即可。Model ID 要填你实际要用的模型标识，不要留空。
3.4 RAG 自测清单
| 环节 | 自测问题 | 合格标准 |
|---|---|---|
| 切块 | 切块大小和 Overlap 怎么定 | 能结合文档类型给参数 |
| Embedding | 选型依据是什么 | 能说出维度、语言、成本权衡 |
| 检索 | 向量和 BM25 怎么融合 | 能解释 Hybrid 打分逻辑 |
| Rerank | 为什么只对 Top-K 做 | 能说清精度和延迟的取舍 |
| 缓存 | 两种 Cache 分别缓存什么 | 能区分 Embedding 和 Prompt |
| 更新 | 增量更新怎么做 | 能说出删除和插入流程 |
RAG 这块答得好，面试基本能进下一轮。接下来是多 Agent，这是拉开差距的地方。
4. 多 Agent 协作工程落地与上下文记忆设计
4.1 多 Agent 的架构模式
多 Agent 的核心是把一个复杂任务拆给多个角色。常见架构有两种：Planner-Worker 和 Supervisor-Worker。Planner-Worker 是一个 Agent 负责规划任务步骤，多个 Worker 并行执行；Supervisor-Worker 是一个 Supervisor 负责调度和审核，Worker 执行具体子任务，适合流程复杂、需要质量把控的场景。
Memory Sharing 让 Agent 之间共享上下文，避免重复劳动。LangGraph 能自定义 Agent 之间的流转关系，把每个 Agent 当成图里的节点，边定义流转条件。AutoGen 更适合并发 Agent 的对话式协作。
4.2 上下文记忆与遗忘机制
短期记忆用 Conversation Buffer，把最近几轮对话保留在上下文里。长期记忆用向量存储或知识图谱，把重要信息持久化，需要时检索回来。
遗忘机制是面试官爱追问的点。Sliding Window 只保留最近 N 轮，简单但会丢早期信息。Decay Function 给每条记忆一个随时间衰减的权重，权重低于阈值就丢弃。更精细的做法是按重要性打分，重要信息长期保留。
4.3 工程化运维
Prompt 版本管理用 Git，每次改动都有记录，方便回滚和对比。Prompt Injection 防御靠输入过滤和权限隔离，把用户输入和系统指令分开处理。LLM Observability 记录每次调用的输入输出、延迟、Token 消耗，方便排查问题。
A/B 测试用 Precision@K、Recall@K、响应一致性、延迟等指标评估。Precision@K 衡量召回结果里相关文档的比例，Recall@K 衡量相关文档被召回的比例，两者要平衡。
4.4 多 Agent 自测清单
| 考点 | 自测问题 | 合格标准 |
|---|---|---|
| 架构选型 | Planner 和 Supervisor 怎么选 | 能结合任务复杂度说明 |
| 记忆 | 短期和长期怎么配合 | 能说出 Buffer 和向量库分工 |
| 遗忘 | Sliding Window 和 Decay 区别 | 能解释各自适用场景 |
| 版本管理 | Prompt 怎么管 | 能说出 Git 工作流 |
| 安全 | 注入怎么防 | 能给出输入过滤方案 |
| 评估 | 用什么指标 | 能说出 Precision 和 Recall |
多 Agent 这块能讲清楚工程取舍，面试官会觉得你有实战经验，而不是只会调 API。
5. 本篇常见报错排查：401、local proxy failed、reading choices、OAuth
跑 Demo 的时候最容易踩的坑集中在几类报错上，这里逐个对照排查。
401 Unauthorized：最常见的原因是 Key 没设对或者环境变量没生效。检查TAOTOKEN_API_KEY是否导出成功，可以用echo $TAOTOKEN_API_KEY确认。如果 Key 里有特殊字符，注意引号包裹。还有一种情况是 Key 复制时带了空格，肉眼看不出来，重新复制一遍。
local proxy failed：这个报错通常是本地网络配置或代理设置导致的。检查你的 HTTP_PROXY、HTTPS_PROXY 环境变量是否指向了不可用的地址，如果有就 unset 掉。另外确认 base_url 拼写正确，不要多斜杠或少斜杠。
reading choices 相关报错：一般是响应结构解析失败。检查返回的 JSON 里 choices 字段是否存在，有些模型返回格式略有差异。打印完整响应体看结构，确认resp.choices[0].message.content路径正确。如果用的是流式输出，要按 chunk 逐个解析。
OAuth 相关报错：如果你用的是 Claude Code 这类工具，OAuth 报错通常是登录态过期或配置文件里的认证方式冲突。检查配置文件里是否同时存在 API Key 和 OAuth 两种认证，保留一种即可。Base URL、Key、Model ID 三件套要填完整，缺一个都可能触发认证异常。
排查顺序建议：先确认环境变量，再确认 base_url，然后打印完整响应，最后检查模型 ID 是否正确。大部分问题出在前两步。
6. 面试复盘后的验证路径与工具选择
面试复盘完，最重要的是把知识盲区补上。我的建议是：每讲一个概念，就动手跑一个最小 Demo 验证。Transformer 的注意力可以手写一遍矩阵运算，RAG 的检索链路可以用真实文档跑一遍，多 Agent 可以用两个角色模拟一次协作。
验证模型对比的时候，用 TaoToken 的统一 Key 能省很多事，一个通道切换不同模型，快速看出差异。如果你要长期做编码类任务或者 Agent 开发，可以了解 Coding Plan，适合持续性的开发场景。想直接体验模型对话做对比验证，可以从模型对话入口进。需要管理多个 Key 或者查看用量，去控制台。接入文档里有完整的参数说明和示例代码，遇到问题先查文档。
把这篇里的自测清单过一遍，每个考点都能展开讲，再配合实际跑通的 Demo，面试时你就有底气说「这个我实测过」。技术这东西，讲得清楚不如跑得通，跑得通不如踩过坑还能讲出取舍。
