前面学长总结过一期关于机器学习的八股的问题，八股重点是考察对每个算法模型透彻的了解。现在大家都习惯使用AI工具进行编程，对于机器学习深度学习的基础概念算法可能掌握的不够透彻

这一期学长继续来总结一些机器学习深度学习常见八股，适合算法岗或者相关岗位的同学进行自查

有同学已经根据学长总结的这个八股文拿到大厂的offer了，大家学起来

大家如果看着题目能想到答案，就说明你是真的掌握，但是应该有不少同学是只能讲个大概，会遗漏挺多细节的，对于这种不能完全掌握的，建议大家记录下来，定期查看，复习两三遍，你就能记住了

八股不难，理解不了，就强行硬记。下面是具体的问题（★表示重要性或者频率）：

首先是XGBoost的全家桶：

RF和XGBoost算法的对比（★★）：可以从模型结构，节点分裂，训练数据，正则化这几个方面来进行描述

XGBoost和LightGBM（★★★）：这个面试中大概率会问到，可以从分裂策略，性能与速度，内存使用情况进行对比

XGBoost中有哪些并行化策略（★）：从特征并行化，数据并行化，树节点并行化，直方图并行化进行说明即可

XGBoost有什么调参方法（★）：首先考虑调什么参数，比如最大树深度，学习率等，调参可以考虑正则化，早停机制，网格搜索，随机搜索，贝叶斯优化等

XGBoost和GBDT对比（★★★）：非常重要的一个问题，可以从基分类器的类型，一阶二阶泰勒展开，数据采样，缺失值处理这些角度来分析✅以上几个基本上就囊括了大部分的xgboost考点

ID3, C4.5和CART的对比（★★）：可以从节点分裂指标，缺失值处理，离散连续特征支持情况来考虑

其次Transformer全家桶：

Transformer全家桶（★★★）：每逢面试必考

首先是模型结构（上面那个图一定要牢牢记在脑海中），其次是embedding的作用，为什么要位置编码，而RNN不需要，MHA在Encoder和Decoder中有什么不同，Encoders提供的是QKV中的什么矩阵，为什么Transformer采用LN而不采用BN，还有其他标准化方法吗，残差连接为什么能缓解梯度消失，输出层的结构是怎么样的，CNN,RNN,Transformer作为三大特征提取器，请对比分析一下

这个真的非常非常重要，考点也很多，硬背也要背下来，复习几遍

k-means（★）：初始中心中心怎么选，以及怎么优化，比如让初始中心尽可能分散等；K-means++是怎么改进的

再来信息熵全家桶（十次面试可能问6-7次）：

信息熵全家桶（★★★）：超级重要的点，信息熵，条件熵，固定值，信息增益，信息增益率，基尼指数，交叉熵损失，互信息，KL散度这些指标之间的关系，以及计算公式概率一定要区分清楚，和Transformer一样重要✅

正则化操作（★★★）：正则化操作包括哪些，除了常规的L1，L2正则化，还有dropout，BN，early stopping，权重衰减，剪枝等✅

过拟合和欠拟合（★★★）：虽然概念很简单，但是常考，记住过拟合和欠拟合可以采取什么策略✅

逻辑回归中损失函数（★★）：交叉熵损失函数要会写，交叉熵损失函数在二分类和多分类中公式区别

Python中的深拷贝和浅拷贝（★）：简单来说，原来的对象变化，浅拷贝也会变化，深拷贝中拷贝对象和原来的数据是独立的，不受影响

Dict的底层实现（★★）：python中字典底层采用哈希表来实现的，哈希表会存在哈希冲突，怎么解决的要清楚，这也是一个比较重要的点

PCA原理（★）：大家很可能会遗忘PCA，因为比较少面试中会问到，但是一旦问到，可能就一击必碎

机器学习和深度学习的八股文对于大家提升模型的基础理解还是很有帮助的，有需要的同学可以自查一下，如果都会了，那说明基础非常扎实

想入门 AI 大模型却找不到清晰方向？备考大厂 AI 岗还在四处搜集零散资料？别再浪费时间啦！2025 年 AI 大模型全套学习资料已整理完毕，从学习路线到面试真题，从工具教程到行业报告，一站式覆盖你的所有需求，现在全部免费分享！

👇👇扫码免费领取全部内容👇👇

​

一、学习必备：100+本大模型电子书+26 份行业报告 + 600+ 套技术PPT，帮你看透 AI 趋势

想了解大模型的行业动态、商业落地案例？大模型电子书？这份资料帮你站在 “行业高度” 学 AI：

1. 100+本大模型方向电子书

2. 26 份行业研究报告：覆盖多领域实践与趋势

报告包含阿里、DeepSeek 等权威机构发布的核心内容，涵盖：

• 职业趋势：《AI + 职业趋势报告》《中国 AI 人才粮仓模型解析》；
• 商业落地：《生成式 AI 商业落地白皮书》《AI Agent 应用落地技术白皮书》；
• 领域细分：《AGI 在金融领域的应用报告》《AI GC 实践案例集》；
• 行业监测：《2024 年中国大模型季度监测报告》《2025 年中国技术市场发展趋势》。

3. 600+套技术大会 PPT：听行业大咖讲实战

PPT 整理自 2024-2025 年热门技术大会，包含百度、腾讯、字节等企业的一线实践：

• 安全方向：《端侧大模型的安全建设》《大模型驱动安全升级（腾讯代码安全实践）》；
• 产品与创新：《大模型产品如何创新与创收》《AI 时代的新范式：构建 AI 产品》；
• 多模态与 Agent：《Step-Video 开源模型（视频生成进展）》《Agentic RAG 的现在与未来》；
• 工程落地：《从原型到生产：AgentOps 加速字节 AI 应用落地》《智能代码助手 CodeFuse 的架构设计》。

二、求职必看：大厂 AI 岗面试 “弹药库”，300 + 真题 + 107 道面经直接抱走

想冲字节、腾讯、阿里、蔚来等大厂 AI 岗？这份面试资料帮你提前 “押题”，拒绝临场慌！

1. 107 道大厂面经：覆盖 Prompt、RAG、大模型应用工程师等热门岗位

面经整理自 2021-2025 年真实面试场景，包含 TPlink、字节、腾讯、蔚来、虾皮、中兴、科大讯飞、京东等企业的高频考题，每道题都附带思路解析：

2. 102 道 AI 大模型真题：直击大模型核心考点

针对大模型专属考题，从概念到实践全面覆盖，帮你理清底层逻辑：

3. 97 道 LLMs 真题：聚焦大型语言模型高频问题

专门拆解 LLMs 的核心痛点与解决方案，比如让很多人头疼的 “复读机问题”：

三、路线必明： AI 大模型学习路线图，1 张图理清核心内容

刚接触 AI 大模型，不知道该从哪学起？这份「AI大模型 学习路线图」直接帮你划重点，不用再盲目摸索！

路线图涵盖 5 大核心板块，从基础到进阶层层递进：一步步带你从入门到进阶，从理论到实战。

L1阶段:启航篇丨极速破界AI新时代

L1阶段：了解大模型的基础知识，以及大模型在各个行业的应用和分析，学习理解大模型的核心原理、关键技术以及大模型应用场景。

L2阶段：攻坚篇丨RAG开发实战工坊

L2阶段：AI大模型RAG应用开发工程，主要学习RAG检索增强生成：包括Naive RAG、Advanced-RAG以及RAG性能评估，还有GraphRAG在内的多个RAG热门项目的分析。

L3阶段：跃迁篇丨Agent智能体架构设计

L3阶段：大模型Agent应用架构进阶实现，主要学习LangChain、 LIamaIndex框架，也会学习到AutoGPT、 MetaGPT等多Agent系统，打造Agent智能体。

L4阶段：精进篇丨模型微调与私有化部署

L4阶段：大模型的微调和私有化部署，更加深入的探讨Transformer架构，学习大模型的微调技术，利用DeepSpeed、Lamam Factory等工具快速进行模型微调，并通过Ollama、vLLM等推理部署框架，实现模型的快速部署。

L5阶段：专题集丨特训篇 【录播课】

四、资料领取：全套内容免费抱走，学 AI 不用再找第二份

不管你是 0 基础想入门 AI 大模型，还是有基础想冲刺大厂、了解行业趋势，这份资料都能满足你！
现在只需按照提示操作，就能免费领取：

👇👇扫码免费领取全部内容👇👇

​

2025 年想抓住 AI 大模型的风口？别犹豫，这份免费资料就是你的 “起跑线”！