作为国内最早一批大模型技术创业团队,在过去的几年中,我们团队不仅积累了大量的技术落地经验,而且也面试了不下上百名大模型技术人。

目前2025秋招在即,为了帮助大家更快速的入行,赋范空间将开设一整个系列的公开课,站在面试官的角度,为正在准备求职的同学们详细讲解2025秋招大模型技术岗面试热点问题。

接下来我将围绕大模型微调、RAG知识库问答、MCP技术、Agent开发技术等四个核心技术模块来帮大家梳理面试热点问题!

每个模块约讲解20-30个问题,总共讲解100个面试热点问题。将采用每天更新的方式分四周逐步上线,同时我还会为大家提供每个问题的满分问答模板,以及各模块配套学习参考资料!

除了「100+道面试真题带刷」还有「30+节大模型精讲课程」、「工业级实战直播」、「全栈技能图谱」领取~
在这里插入图片描述

相信刷完这100道面试热点问题,一定能帮大家斩获心仪的Offer!

这也是我们团队筹备了一个月、接下来还要录制一个多月的系列视频,如此诚意满满,欢迎点赞、转发!

接下来我们将按照大模型微调、RAG知识库问答、MCP技术、Agent开发四个模块的顺序开始刷题,本期视频作为第一期,让我们先从第一个模块、也就是大模型微调技术里面的一个基础问题开始。

这个问题是:“请问什么时候用微调技术、什么时候用RAG技术?”

这是一个偏向考察技术认知的一个经典问题,同时也是真实应用场景下普遍会遇到的一个技术问题。回答这个问题,第一段需要先简明扼要给出准确答案:
“对于精细化、非常细节的问题检索,如查看某年某月发生了什么事情,推荐采用RAG技术对文档进行检索,而对于一些相对固定的领域知识,如一些法律知识、医学知识、行业规范等,则可以采用较多主题一致、但内容多样的文档进行微调,从而实现知识灌注。”

这段其实是用于描述RAG技术和微调技术的本质区别。

所谓RAG技术,指的是在每次问答前将与问题相关联的文档片段作为背景信息进行输入,此时模型会完整的浏览文档片段,因此能很好的把握各项细节信息,进而能够进行非常精准的回答。

例如文档库里有一篇这样的新闻稿,此时如果用户问到,“2023 年 5 月中国最高人民法院发布了哪些新的司法解释?”,那么借助RAG系统,在回答问题之前模型就能关联这篇5月的新闻稿,并作为背景信息进行输入,

标题:最高人民法院发布最新司法解释
日期:2023 年 5 月 15 日
2023 年 5 月 15 日,中华人民共和国最高人民法院发布了《关于适用〈民法典〉继承编若干问题的解释(一)》。该解释对遗嘱效力、遗产分割、代位继承等问题作出进一步明确规定,旨在统一司法裁判标准,保障继承权利人的合法权益。
同日,最高人民法院还发布了《关于审理金融借贷合同纠纷案件若干问题的解释(二)》,就民间借贷利率计算、逾期利息认定等问题进行了调整,以适应当前经济形势和金融监管要求。
这两份司法解释自 2023 年 6 月 1 日起正式实施。

然后,模型就能做出这样的一个非常精准的回答:

根据 2023 年 5 月最高人民法院发布的新闻稿,当月共出台了两项新的司法解释:
《关于审理网络侵权责任纠纷案件适用法律若干问题的解释(二)》——规范了网络平台在侵权责任中的法律义务。
《关于审理民间借贷案件适用法律若干问题的补充规定》——明确了利率司法保护上限的认定标准。
这两项司法解释主要聚焦于 网络侵权责任 和 民间借贷纠纷,进一步完善了相关领域的司法适用规则。

不过呢,RAG系统也有自己的局限,那就是不能无限制地增加上下文,假设如果我们想让模型系统的学习完一整套法律知识,并深入理解法律条文的基本概念和表述逻辑,那就只能依靠大模型微调了,例如我们可以创建如下这种主题一致但内容多样的数据集,带入到模型中来进行微调训练,

[
  {
    "instruction": "请解释“民事责任”的含义。",
    "input": "",
    "output": "民事责任是指因违反民事义务而应当承担的法律后果,主要表现为停止侵害、返还财产、赔偿损失、恢复原状等形式。其核心目的是保护民事权利人的合法权益。"
  },
  {
    "instruction": "请解释“刑事责任”的含义。",
    "input": "",
    "output": "刑事责任是指行为人因实施了触犯刑法的犯罪行为而应当承担的法律后果,通常表现为刑罚,包括管制、拘役、有期徒刑、无期徒刑以及死刑等。其主要目的在于惩罚犯罪、维护社会秩序和公共安全。"
  },
  {
    "instruction": "请比较民事责任与刑事责任的区别。",
    "input": "",
    "output": "民事责任与刑事责任的主要区别在于:① 性质不同:民事责任属于私法范畴,刑事责任属于公法范畴;② 后果不同:民事责任通常表现为赔偿损失或恢复原状,而刑事责任则表现为刑罚;③ 启动方式不同:民事责任一般由当事人请求法院确认或追究,刑事责任由国家机关依职权追究。"
  },
  {
    "instruction": "请用法律专业语言说明为什么“刑事责任”比“民事责任”更为严厉。",
    "input": "",
    "output": "刑事责任之所以更为严厉,在于其所追究的对象是触犯刑法、危害社会公共利益的行为。刑事责任的制裁手段包括剥夺自由甚至生命,而民事责任主要是补偿和修复权利人的损失。因此,刑事责任体现了国家对社会秩序的强制性保护。"
  }
]

经过微调后的模型,就能更加清晰的理解“民事责任”与“刑事责任”这组概念,当我们提出这样的问题,“请用法律专业术语来解释‘民事责任’与‘刑事责任’的区别。”的时候,模型就能做出如下回答:

在我国法律体系中,民事责任与刑事责任具有本质差异:
性质不同
民事责任属于私法责任,主要调整平等主体之间的财产关系与人身关系。其根本目的是补偿损失、恢复权利。
刑事责任则属于公法责任,针对严重危害社会的行为,旨在惩罚犯罪、预防再犯、维护社会秩序。
承担方式不同
民事责任的主要形式包括:赔偿损失、返还财产、停止侵害、恢复原状、消除影响等。
刑事责任的承担形式则表现为刑罚,包括管制、拘役、有期徒刑、无期徒刑乃至死刑。
追究主体不同
民事责任的追究主要依当事人的意思自治,通常由受害人提起诉讼。
刑事责任则由国家通过司法机关依职权进行追诉,具有强制性与不可处分性。
综上,民事责任强调的是权利救济与补偿功能,刑事责任强调的是惩戒与预防功能,两者在性质、目的及承担方式上均有显著区别。

当然啦,RAG技术和微调技术也并不是对立的,很多时候需要结合进行使用,所以最好在回答面试官这个问题的时候再补充一段:
“在实际应用中,微调与RAG技术往往需要结合使用,我们可以先通过微调让模型掌握稳定的核心知识与专业表达风格,然后在必要的场景中,通过RAG技术让模型能够动态的获取最新信息。二者结合可以在保证回答的专业性与一致性的同时,避免知识过时,兼顾长期记忆与实时更新,从而显著提升系统的可靠性与实用性。”

如此一来,你的回答就非常完整并且非常精彩了。

不过既然是考察大模型微调的技术认知,面试官往往还会问一些与之关联的问题,例如:

“你觉得大模型微调能提升模型的哪些能力?”

这个问题其实很能考察候选人的技术经验,你可以这么进行回答

“根据目前业内的实践经验,大模型微调可以用于优化模型问答的语气风格、可以进行知识灌注,可以用于修改模型的自我认知,也可以提升模型指令跟随能力、提升模型工具调用与Agent能力等等等等”。

此外,面试管很有可能还会问:“模型微调可能存在哪些风险?”,你可以这么回答:“微调最大的风险是可能会使得模型丧失原有能力,也就是所谓的灾难性遗忘,此外还有可能造成训练数据过拟合,或者在训练数据中带入隐私数据,后期使用不当间接导致模型在回答问题时造成隐私数据泄露等等等等”。

另外,微调技术还与近期非常热门的模型蒸馏技术高度相关,因此面试官还有可能询问:“请问模型微调和模型蒸馏有什么区别?”

此时你应该这么回答:

“模型蒸馏指的是借助更强大的教师模型产生的数据,来训练小尺寸的学生模型,目前模型蒸馏分为黑箱蒸馏和白箱蒸馏,黑箱蒸馏过程中教师模型不会公开中间输出,学生模型只能学习教师模型的输入和输出,此时学生模型的训练过程本质上就是有监督微调,二者没有区别,典型例子就是DeepSeek R1模型蒸馏Llama 3系列小模型和Qwen3系列小模型的过程,其实就是有监督微调。而白箱蒸馏则要求教师模型输出中间预测结果,在透明的情况下,学生模型不仅能模仿最终答案,还能学习教师模型的推理链路、注意力分布、隐藏层表示等更丰富的信息。这种方式能更好地提升学生模型的推理能力和对齐效果,但同时也依赖于教师模型内部结构的开放程度。”
在这里插入图片描述
好了,以上就是大模型岗位面试热点问题第一期视频的全部内容,总的来说技术认知类问题几乎是每场面试开场的必考题,大家一定要对各项技术理解到位。本期视频面试问题的满分回答模板、以及相关的大模型微调实战教程,都会在活动中逐步解锁!
在这里插入图片描述
快帮助自己在2025秋招季斩获心仪的offer!

Logo

有“AI”的1024 = 2048,欢迎大家加入2048 AI社区

更多推荐