本文全面介绍大模型基础知识，包括AI核心概念与大模型特性。重点解析Prompt工程技巧，详细说明如何编写高质量提示词；深入探讨AI Agent架构，阐述其与大模型的协同关系；系统讲解RAG技术，解决大模型幻觉问题。文章通过实例和图解，帮助程序员快速掌握大模型应用核心技术，提升工作效率，是入门大模型时代的实用指南。

1、 基础概念扫盲

在谈到AI（Artificial Intelligence，人工智能）时，可能会听到模型、算法、训练、推理等概念。

用一个猫狗分类的例子来简单说明上述概念。例如：给定一张猫或狗的图片，刚出生的小宝宝是无法区分的。

• • 模型：刚出生的小宝宝。
• • 训练：教模型认识猫狗的一个过程。给模型展示大量不同的猫狗的图片，并告诉ta猫狗的不同之处，猫狗的特征是什么，如：猫的尾巴、耳朵，狗的鼻子、体型等等。模型就能根据其学到的知识，来做出区分。
• • 算法：用什么方法来教模型。训练模型时使用的具体方法技术，训练过程中，算法会知道模型如何学习、处理图片特征。
• • 推理：模型学习完毕后，给模型一张新的猫or狗的图片，模型根据学到的知识区分猫狗。模型解题的过程就是推理。
• • 数据集：模型学习的知识。一般分为训练集和测试集，训练集用于训练模型；测试集用于验证模型学习的效果。
• • 参数：参数决定了模型如何根据输入数据生成预测或输出结果。模型本质上是一个函数（比如最简单的 y=wx+b），其中的 w（权重）和 b（偏置）就是模型的参数。通过分析大量数据样本（x, y），模型会自动调整这些参数，使得它能够尽可能准确地拟合数据，找到最能解释输入和输出之间关系的参数值。
• • 泛化能力：模型对于未见过的新数据的预测能力。
• • 过拟合：模型对训练数据学习得过于精确。模型变成了“书呆子”，只会死记硬背，不会融会贯通。
• • 神经网络：模拟人脑认知的分层学习系统，通过不断调整各层"神经元"之间的连接参数，从大量数据中逐步学会区分猫狗，最终能对新数据做出智能判断。

2、 关于大模型

2.1 什么是大模型？

大模型（Large Model），或者称为基础模型 （Foundation Model），指的是包含超大规模参数（通常在十亿个以上）的神经网络模型。这些参数使得大模型能够处理和理解复杂的任务，如自然语言处理、图像识别等。

“大” 主要体现在以下几个方面：

• • 参数规模大
• • 架构规模大
• • 训练数据大
• • 算力需求大

以上“大”衍生出模型能力的强大。

我们常说到的大模型，指的是最常用的一类，大语言模型（LLM，Large Language Model），如：ChatGPT、DeepSeek等都是大语言模型。注：本文后续的大模型均代指大语言模型（LLM)

2.2 大模型两大能力

2.2.1 涌现能力

涌现能力（Emergent Abilities）：训练数据规模及参数数量的提升，大模型解锁了一系列新的能力，如：上下文学习、常识推理、数据运算、代码生成等能力。脑子突然“开窍”了，不再仅仅是复述知识，而是能够理解知识，并且能够发散思维。

2.2.2 泛化能力

泛化能力（Generalization Abilities）：在面对未见过的新任务、新领域或新数据时，仍能有效完成任务的能力。这种能力使模型不仅限于复现训练数据中的模式，而是能灵活适应多样化场景。

3、 Prompt工程

随着大语言模型（LLM）的出现，提示工程（Prompt Engineering）变得越来越重要。很多人将 Prompt 视为大模型的咒语，其好坏直接影响模型输出的结果。

3.1 什么是Prompt？

Prompt（提示词）：发送给大模型的指令，通常以自然语言文本的形式出现。核心目的在于清晰地描述模型应该执行的任务，以引导模型生成特定的文本、图像、音频等内容。

3.2 什么是Prompt工程？

Prompt 提示词很大程度决定生成回答的质量。

Prompt工程（Prompt Engineering，提示工程）：专注于如何编写Prompt的技术。

一个高质量的Prompt包含以下基本要素：

• • 任务说明：向模型明确提出具体的任务要求。任务说明应当清晰、直接，并尽可能详细地描述期望模型完成的任务。
• • 上下文：向模型提供的任务相关背景信息，用以增强模型其对任务的理解以及提供解决任务的思路。如：特定的知识前提、目标受众的背景、相关任务的示例等。
• • 问题：向模型描述用户的具体问题或需要处理的信息。
• • 输出格式：期望模型给出的回答的展示形式。包括输出的格式，以及任何特定的细节要求，如简洁性或详细程度。

3.3 如何编写一个好的Prompt

核心技巧：把大模型当人看

3.3.1 编写规范的Prompt

编写规范的Prompt是与大语言模型进行有效沟通的基础。

经典的Prompt通常由任务说明，上下文，问题，输出格式等部分中的一个或几个组成以下是规范编写Prompt需要满足的要求。

3.3.1.1 任务说明要明确

清晰、具体的任务说明能够保证模型准确理解任务要求，产生符合预期的输出。

以下是任务编写的技巧：

• • 使用明确的动词：选择能够清晰表达动作的动词。如：“判断”、“生成”等；避免使用模糊的动词，如：“处理”、“操作”等。
• • 具体的名词：使用具体的名词来定义任务的输出或目标
• • 简洁明了：任务说明应简洁且直接，避免冗长或复杂的句子结构，使模型能够快速抓住任务的核心要求。
• • 结构化布局：在较长的 Prompt 中，将任务说明放置在开头和结尾，因为模型通常更关注这些部分的信息。

3.3.1.2 上下文丰富且清晰

丰富且清晰的上下文能够显著提升模型的回答准确率。

丰富体现在：内容可以是与问题直接相关的背景信息、具体的演示示例、或是对话历史等。 清晰体现在：上下文信息必须与问题紧密相关，避免包含冗余或是不必要的信息。

3.3.1.3 输出格式要规范

规范的输出格式对于确保模型的输出的可用性至关重要。

通过指定明确的输出格式，使模型的输出结构化，便于下游任务直接提取、使用生成内容。或者直接提供输出格式的具体示例，使模型按照期望的输出格式输出内容。

3.3.1.4 排版要清晰

• • 使用一致的分隔符：选择并坚持使用一种或集中分隔符来区分不同的prompt部分。如：# - 、 等；
• • 合理使用空白、缩进；增强Prompt可读性，帮助模型区分不同的内容块；
• • 清晰的标题和子标题：帮助模型快速识别每个部分的主题；

3.3.2 合理归纳提问

• • 复杂问题拆解：将复杂问题拆解成更小、更易于理解的子问题，引导模型逐一回答，确保子问题得到充分考虑和解答。随后将子问题的答案汇总，形成全面回答。
• • 追问：根据回答去做追问。

3.3.3 善用心理暗示

• • 角色扮演：为大模型设定一个详尽的角色。在指令中包含具体属性、职责、知识和技能。

• • 情景代入：将特定情境下所需的专业知识、历史背景等信息嵌入到模型的响应中。

4、 AI Agent

如果最近有关注科技新闻，一定会被一款名为 Manus 的AI Agent刷屏。Manus一经发布，就引起广泛关注，内测资格甚至一度被炒至高价。到底什么是AI Agent？AI Agent与大模型又是什么关系？

4.1 为什么需要AI Agent？

设想一个场景，我们想要规划一次跨国旅行，涉及到机票的预定、酒店的选择、当地天气以及景点推荐等方面。

如果借助大模型帮助我们规划的话，需要我们自己先思考，将任务拆分成订酒店、订机票、推荐景点等任务，然后我们需要根据拆分好的任务，不断输入任务指令，不断调整，才能完成这件事。任务是交互式的，即通过提示词一步一步来回答问题。

如果有一个智能助手，也就是Agent，我们只需要给出“规划一次跨国旅行”的指令，由助手帮助我们拆解任务、执行任务，不需要我们自己动脑子、做格外的操作，我们只关心助手最终反馈的结果。

总结来说，需要Agent的理由如下：

• • 能够处理复杂任务：单一工具（如：LLM）无法直接完成多步骤、多工具协作的任务；
• • 能够自主决策：=能根据用户偏好（如预算、时间）自动调整计划，例如优先选择低价航班或高评分酒店；
• • 能够弥补大模型的不足：大模型无法直接访问实时数据（如最新航班价格），但Agent可以通过API获取。

4.2 什么是AI Agent？

如果查询Agent的中文释义，意思是：代理人，代理商，或是经纪人。

可以将Agent理解为一个中间人的角色，代替别人做事。如：艺人的经纪人帮助艺人去完成商务活动的谈判、对接等工作，无需艺人自己操心，艺人只关心结果。

AI Agent：可以理解为用户和大模型（LLM）之间的中间人，由Agent代替用户去操作大模型。用户只需要给出简单指令，Agent便会自己独立解决问题，而不是“指哪打哪”，整个过程无需用户的干预。

4.2 AI Agent与LLM是什么关系？

Agent = LLM（大模型）+ Planning（规划）+ Memory（记忆）+ Tools（工具）

AI Agent是一种能利用大模型进行自主的任务规划、决策与执行的系统。如果把Agent看作一个人，那么大模型（LLM）就是Agent的大脑。

如果说大模型是一本百科全书，而AI Agent就像一个办事能力强的助手。助手会根据需求，把任务拆解成多个步骤，并主动找到资源或工具来完成任务。

Agent关键组成部分如下：

规划（Planning）： Agent 通过规划来决定如何实现目标，把大任务拆解为子任务，并规划执行任务的流程；并在任务执行的过程中进行思考和反思，决定是继续执行任务，或判断任务完结并终止运行。

记忆（Memory）： Agent 拥有的存储器，可用来存储短期记忆或长期记忆。

• • 短期记忆：执行任务过程中的上下文，会在子任务的执行过程产生和暂存，在任务完结后被清空；
• • 长期记忆：如记录使用者的任务历史、个人信息、兴趣偏好等，长时间保留的信息，一般存到外部数据库。

工具（Tools）： Agent 的手脚。可以自动调用各种工具API，例如：计算器、搜索工具、代码执行器、数据库查询工具等。有了这些工具API，可以扩展Agent的能力，执行任务。

行动（Action）：智能体根据规划的结果采取的实际行动。

总结来说：LLM 扮演了 Agent 的 “大脑”，在 Agent 这个系统中提供推理、规划等能力。

5、检索增强生成（RAG）

5.1 为什么需要RAG？

举个常见的例子：让大模型比较13.8和13.11哪个大，它可能会很自信地告诉你13.11更大。这种明显违背数学常识的回答，暴露了大模型在回答某些问题时，可能会存在一本正经胡说八道的情况。

正如上述例子展示的那样，大模型并非无所不能，有些时候会胡言乱语，即产生“幻觉”。可以从两方面去理解幻觉：

• • 模型自身导致的“幻觉”。大模型实际上是依赖于统计概率来预测下一个最可能的词语，而非基于事实查询。由于训练数据和参数学习上的不足，可能会出现“幻觉”，即生成看似合理实则逻辑混乱或者违背事实的回答。
• • 训练数据导致的“幻觉”。大模型的回答都是从已有的知识（数据）中学习到的，而知识可能存在以下问题：
• • 知识过时：训练模型时所用的数据是过时的数据；
• • 知识边界：垂直领域或者私有的知识，大模型可能不清楚；
• • 知识偏差：训练数据的正确性无法保证，可能存在错误的知识。

针对大模型存在的“幻觉”问题，可以通过增强检索生成（RAG）技术来补足短板，从而提高大模型的回答质量。

5.2 什么是RAG？

RAG（Retieval-Augmented Generation，检索增强生成）：建立一个外部数据库，将大模型不知道的知识存储在外部数据库中，供大模型进行检索调用，用于提高大模型回答的质量。

用户提问后，根据用户的问题到外部数据库中检索得到上下文（context），得到的上下文与用户的问题整合后，作为Prompt提示词送入大模型，供大模型搜索答案。

5.3 RAG三大好处

• • 减少大模型的幻觉；
• • 为大模型提供最新的知识，帮助大模型生成质量更高的答案；
• • 相较于模型微调，效率更高 、成本更低。

5.4 RAG工作流程

5.4.1.1 向量嵌入

向量嵌入（Vector Embeddings）：将复杂数据（如：图像、文本、音频等）转换为数值向量的过程和结果。向量通常是高维的数字数组，向量中可以体现数据间的语义信息，语义相近的数据向量值接近，在向量空间中距离更近。

例如，给定三个词Cat、kitty、Apple，将这三个词转换为向量，可以看到，语义相近的Cat、kitty向量值比较接近，而Apple与其他词值相差较大，体现在向量空间中，语义相近的词距离更近。

5.4.1.2 嵌入模型

嵌入模型（Embedding Model）：将复杂数据（如：词语、句子或文档）等转换为向量的技术。

5.4.1.3 向量数据库

向量数据库（Vector Database）：用于存储和检索高维向量数据的数据库，处理与相似性搜索相关的任务，通过语义来搜索。可作为AI的长期记忆库。

相似性搜索（Similarity Search）：利用向量空间中对象间的接近程度来识别和检索相似的对象，这种基于相似度检索的方法，就是相似性搜索。

5.4.2 RAG工作流程详解

总体流程可分为四步；

• • 构建外部知识库：针对知识库中各类格式的文档（如：PDF、Word等）进行处理。对知识库中的文档进行分割（Split），将分割后的文本块（Text Chunk）利用嵌入模型转为嵌入向量，存储到向量数据库中。
  文档分割的质量决定了检索的准确性和生成模型的效果。
• • 检索（Retreive）: 将用户输入的问题利用嵌入模型转换为向量，到向量数据库中进行相似性搜索，找到相似度最大的向量，输出为上下文（Context）。
• • 增强（Augment）：上下文与用户问题结合作为提示词（Prompt）送入大模型。
• • 生成（Generation）：大模型根据提示词（Prompt）生成回答，生成的回答返回给用户。

作为普通人，入局大模型时代需要持续学习和实践，不断提高自己的技能和认知水平，同时也需要有责任感和伦理意识，为人工智能的健康发展贡献力量。

最后

近期科技圈传来重磅消息：行业巨头英特尔宣布大规模裁员2万人，传统技术岗位持续萎缩的同时，另一番景象却在AI领域上演——AI相关技术岗正开启“疯狂扩招”模式！据行业招聘数据显示，具备3-5年大模型相关经验的开发者，在大厂就能拿到50K×20薪的高薪待遇，薪资差距肉眼可见！

业内资深HR预判：不出1年，“具备AI项目实战经验”将正式成为技术岗投递的硬性门槛。在行业迭代加速的当下，“温水煮青蛙”式的等待只会让自己逐渐被淘汰，与其被动应对，不如主动出击，抢先掌握AI大模型核心原理+落地应用技术+项目实操经验，借行业风口实现职业翻盘！

深知技术人入门大模型时容易走弯路，我特意整理了一套全网最全最细的大模型零基础学习礼包，涵盖入门思维导图、经典书籍手册、从入门到进阶的实战视频、可直接运行的项目源码等核心内容。这份资料无需付费，免费分享给所有想入局AI大模型的朋友！

👇👇扫码免费领取全部内容👇👇

部分资料展示

1、 AI大模型学习路线图

2、 全套AI大模型应用开发视频教程

从入门到进阶这里都有，跟着老师学习事半功倍。

3、 大模型学习书籍&文档

4、 AI大模型最新行业报告

2025最新行业报告，针对不同行业的现状、趋势、问题、机会等进行系统地调研和评估，以了解哪些行业更适合引入大模型的技术和应用，以及在哪些方面可以发挥大模型的优势。

5、大模型大厂面试真题

整理了百度、阿里、字节等企业近三年的AI大模型岗位面试题，涵盖基础理论、技术实操、项目经验等维度，每道题都配有详细解析和答题思路，帮你针对性提升面试竞争力。

6、大模型项目实战&配套源码

学以致用，在项目实战中检验和巩固你所学到的知识，同时为你找工作就业和职业发展打下坚实的基础。

👉学会后的收获：👈

• 基于大模型全栈工程实现（前端、后端、产品经理、设计、数据分析等），通过这门课可获得不同能力；

• 能够利用大模型解决相关实际项目需求： 大数据时代，越来越多的企业和机构需要处理海量数据，利用大模型技术可以更好地处理这些数据，提高数据分析和决策的准确性。因此，掌握大模型应用开发技能，可以让程序员更好地应对实际项目需求；

• 基于大模型和企业数据AI应用开发，实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能， 学会Fine-tuning垂直训练大模型（数据准备、数据蒸馏、大模型部署）一站式掌握；

• 能够完成时下热门大模型垂直领域模型训练能力，提高程序员的编码能力： 大模型应用开发需要掌握机器学习算法、深度学习框架等技术，这些技术的掌握可以提高程序员的编码能力和分析能力，让程序员更加熟练地编写高质量的代码。

• 👇👇扫码免费领取全部内容👇👇

  

这些资料真的有用吗？

这份资料由我和鲁为民博士(北京清华大学学士和美国加州理工学院博士)共同整理，现任上海殷泊信息科技CEO，其创立的MoPaaS云平台获Forrester全球’强劲表现者’认证，服务航天科工、国家电网等1000+企业，以第一作者在IEEE Transactions发表论文50+篇，获NASA JPL火星探测系统强化学习专利等35项中美专利。本套AI大模型课程由清华大学-加州理工双料博士、吴文俊人工智能奖得主鲁为民教授领衔研发。

资料内容涵盖了从入门到进阶的各类视频教程和实战项目，无论你是小白还是有些技术基础的技术人员，这份资料都绝对能帮助你提升薪资待遇，转行大模型岗位。

这份完整版的大模型 AI 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】