腾讯面试官问:Prompt、RAG、微调,什么时候分别值得上?
16 道 Agent 工程高频判断题,从 workflow 到上线上一课我们讨论了单 Agent 和 Multi-Agent 的拆分边界。这课继续往底层走:效果不理想时,应该先改 Prompt、补 RAG,还是直接谈微调?

16 道 Agent 工程高频判断题,从 workflow 到上线
上一课我们讨论了单 Agent 和 Multi-Agent 的拆分边界。这课继续往底层走:效果不理想时,应该先改 Prompt、补 RAG,还是直接谈微调?
一、面试现场
面试题
“我们做一个研究报告生成系统,效果总是不稳定。你会优先改 Prompt、补 RAG,还是直接上微调?”
腾讯某 AI 应用平台组终面。岗位是做行业研究与内容生成的 Agent 工程。面试官给了一个很像真实项目的场景:同一套系统,要给消费、汽车、金融三个行业生成周报。候选人听完马上说:“效果不好就微调,微调完更稳。”本文按截至 2026 年 4 月仍然通用的工程判断口径来讨论,不追逐短期模型榜单。
面试官没有否定,只追问了一句:“你确定这是模型不会,还是模型不知道?”这道题真正考的,不是你会不会背术语,而是你能不能先判断问题的根因,再决定该往哪条路上加复杂度。
这不是某一次面试的原题,而是从真实面经和 AI 工程岗 JD 中提炼的高频判断题。
二、大多数人怎么答的
常见回答大概分三类:一种是“先疯狂改 Prompt,总能调出来。”另一种是“加个 RAG,什么知识问题都能补。”还有一种是“直接微调,省事也稳定。”
问题是,这三种回答都默认自己已经知道问题在哪。但工程里最贵的,不是“选错技术”,而是在没有定位问题前就开始加方案。模型输出差,有可能是指令不够清楚;也可能是缺你自己的行业知识;还可能是你想要的其实是一种长期稳定的固定风格和决策偏好。三个根因,对应三条完全不同的路。

典型误判
“效果不好就上微调。” —— 很多时候不是模型不会做,而是你还没把“行为问题”和“知识问题”分开。
三、正确判断框架
这道题更合适的回答顺序只有一句话:缺行为先看 Prompt,缺知识先看 RAG,只有稳定模式已经足够明确且高频重复时,才考虑微调。
先拆三个概念。Prompt 解决的是“怎么做”:角色、步骤、格式、约束、输出风格。RAG 解决的是“知道什么”:企业文档、行业数据、FAQ、实时信息。微调解决的是“长期稳定地总是这样做”:某类输入到某类输出的固定模式、稳定口吻、特定决策偏好。

判断 1:知识是不是在模型外面?
如果答案依赖公司制度、私有文档、实时数据、行业库,优先补 RAG。违反后果:你把“模型不知道”误当成“模型不会”,最后花钱微调一个仍然拿不到当前数据的模型。
判断 2:问题是不是可通过指令显式描述?
如果你能清楚写出步骤、字段、结构、禁止项,先做 Prompt 工程,包括 few-shot、system/user 分层、版本管理和 eval 对比。违反后果:本来靠一轮 prompt 重构就能解决的事,被你升级成一个长期维护项目。
判断 3:输入到输出的模式是不是已经稳定到可标注?
如果同类任务高频出现、成功样本足够多、验收标准明确,微调才值得谈。违反后果:样本不够、目标不稳,微调出来的只是把当前噪声固化进模型。
判断 4:维护成本谁最低?
知识变化快时,RAG 更新索引通常比重新微调便宜;规则经常改时,Prompt 比重新造数据集更灵活。违反后果:你选了最重的方案,结果每次业务变动都要大修。
真正成熟的团队很少一上来就说“我们要微调”。他们更像在做诊断:先用 Prompt 验证行为边界,再用 RAG 补知识缺口,最后才问——有没有一块模式已经稳定到值得固化进模型。
四、面试官追问链
追问 1
“你怎么判断一个 Prompt 已经到天花板了,不是你写得还不够好?”
回答思路:不要靠感觉,靠表现特征。其一,同类输入产出方差仍然很大;其二,长尾 case 只能靠不断补示例,越补越碎;其三,格式和语气总在概率上漂移,不能稳定收敛。出现这三种信号,说明 Prompt 已经把“行为约束”压到上限,再硬调的性价比就很差。

追问 2
“如果一个项目既缺知识又缺风格,你先做哪个?”
回答思路:先补知识,再调风格。因为模型连事实都拿不到时,先谈语气和版式没有意义。工程上通常是:RAG 补行业资料与数据口径,Prompt 定义章节结构和表达要求,如果仍然要求某个垂直领域保持长期一致口吻,再评估微调是否划算。
加分题
“为什么很多所谓微调需求,其实是检索没做好?”
方向:因为模型答错的根因常常不是能力不够,而是上下文里根本没有正确证据。检索召回不到、切块不对、数据过期,微调也补不回缺失事实。
五、落地案例
实战拆解
研究报告生成系统:从“只会堆 Prompt”到“Prompt + RAG”,最后只对一类固定风格评估微调
**起步版本只有 Prompt。**团队先做了很细的提示词:规定标题层级、摘要格式、风险提示和结论段落,还给了两篇 few-shot 示例。结果消费行业报告还能看,换到汽车和金融就开始露怯——不是结构乱,而是细节空、事实弱、引用不稳。
**根因判断:**这里先不是风格问题,而是知识缺口。模型知道怎么写研究报告,却不知道你们公司的行业口径、历史周报、券商模板和当前指标解释。于是下一版接入 RAG:检索内部行业数据库、近三个月周报、关键指标定义和事件时间线。
**Prompt + RAG 接上后,知识问题明显缓解。**报告引用更准了,行业背景不再靠猜。但新的问题暴露出来:金融行业的输出仍然不够稳定。同一个输入,有时偏卖方研报腔,有时像公司内部周报,结论口吻忽松忽紧。
**这时才轮到微调评估。**团队没有对整套系统一把梭微调,而是把问题缩到一个稳定、高频的子任务:金融行业周报结论段。因为这里样本足够多、验收标准明确、输出格式固定,才有资格谈微调。最终做法是:绝大多数内容继续走 Prompt + RAG,只有金融结论段进入专门模型或适配层。

这条路线最重要的不是“最后有没有微调”,而是每一步都先回答了一个工程问题:现在缺的是行为、知识,还是稳定模式。这样做,成本和复杂度都能被控制在需要的范围里。
六、上线坑点
坑 1:没 baseline 就谈微调
如果你不知道 Prompt + RAG 已经能做到什么程度,就根本没法证明微调带来了净收益。最后只会得到一个更贵、但提升来源说不清的系统。
坑 2:Prompt 不做版本管理
一条 system prompt 改动,可能让整套系统的语气、步骤、风险提示同时变化。没有版本号、没有 eval 对比、没有回滚点,线上行为一漂就找不到是谁改坏的。
坑 3:拿微调掩盖链路设计问题
检索召回差、切块不合理、数据过期、输出 schema 模糊,这些都不是微调该背的锅。系统设计没补齐时,微调只是在更高成本上把问题包装得没那么明显。
七、本课总结与面试锦囊
一句话结论
缺行为先看 Prompt,缺知识先看 RAG,只有当稳定模式足够明确且高频重复时,才考虑微调。
面试锦囊
先说: 先定位问题根因——到底是行为没约束住,还是知识没补进去。
再说: Prompt 管行为,RAG 管外部知识,微调只处理已经稳定且高频的输入输出模式。
最后补: 任何时候都先跑 baseline 和 eval,对比方案提升,再决定是否值得上更重的路线。
判断 Checklist
☐ 问题主要是格式、步骤、角色约束没说清 → 先调 Prompt
☐ 需要企业私有知识、实时数据、行业文档 → 先补 RAG
☐ 同类任务高频、样本足够、验收标准清楚 → 才评估微调
☐ 方案升级前先有 baseline 和回滚点
别再踩的坑
• 把“效果不好”直接翻译成“该微调了”
• RAG 没补好就开始讨论模型定制
• Prompt、检索、微调三条链路没有独立评估,改完不知道哪里真的变好了
**适合谁:**已经在做内容生成、问答、审核、Copilot 这类 AI 应用,但总在 Prompt、RAG、微调之间摇摆的工程师。
**不适合谁:**如果你现在连 baseline、样本集和评估口径都没有,先别急着谈微调,先把诊断链路补起来。
**怎么用在自己项目里:**先各抽 20 个真实样本,分别验证 Prompt 是否已说清规则、RAG 是否真能拿到证据,再决定微调有没有资格进入候选清单。
学AI大模型的正确顺序,千万不要搞错了
🤔2026年AI风口已来!各行各业的AI渗透肉眼可见,超多公司要么转型做AI相关产品,要么高薪挖AI技术人才,机遇直接摆在眼前!
有往AI方向发展,或者本身有后端编程基础的朋友,直接冲AI大模型应用开发转岗超合适!
就算暂时不打算转岗,了解大模型、RAG、Prompt、Agent这些热门概念,能上手做简单项目,也绝对是求职加分王🔋

📝给大家整理了超全最新的AI大模型应用开发学习清单和资料,手把手帮你快速入门!👇👇
学习路线:
✅大模型基础认知—大模型核心原理、发展历程、主流模型(GPT、文心一言等)特点解析
✅核心技术模块—RAG检索增强生成、Prompt工程实战、Agent智能体开发逻辑
✅开发基础能力—Python进阶、API接口调用、大模型开发框架(LangChain等)实操
✅应用场景开发—智能问答系统、企业知识库、AIGC内容生成工具、行业定制化大模型应用
✅项目落地流程—需求拆解、技术选型、模型调优、测试上线、运维迭代
✅面试求职冲刺—岗位JD解析、简历AI项目包装、高频面试题汇总、模拟面经
以上6大模块,看似清晰好上手,实则每个部分都有扎实的核心内容需要吃透!
我把大模型的学习全流程已经整理📚好了!抓住AI时代风口,轻松解锁职业新可能,希望大家都能把握机遇,实现薪资/职业跃迁~
这份完整版的大模型 AI 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】

更多推荐

所有评论(0)