本文系统介绍智能体(Agent)的框架与核心能力建设，从功能、核心能力和工程技术三个维度解析架构，详细阐述规划能力(思维链、思维树等)、工具使用(Function call和MCP协议)以及记忆系统(短期与长期记忆)。深入探讨Agent如何通过与环境交互完成任务，提供实用技术实现方法，为开发者构建高效智能体提供全面指导。

1，Agent 架构

Agent架构可以从功能，核心能力以及工程技术维度进行定义。

1.1，功能维度

复旦大学张奇团队在关于Agent的综述中，将基于大语言模型的智能体分为三功能模块：大脑 Brain、感知 Perception) 与行动 Action。大脑模块 作为控制中心，承担记忆、思考与决策等基础任务；感知模块负责接收并处理来自外部环境的多模态信息；行动模块则借助工具执行任务并影响环境。比如，询问 “是否会下雨“ 时，感知模块将指令转化为LLM可理解的表示形式；大脑模块根据当前天气和网络气象信息进行推理；最终行动模块作出回应，并将雨伞递给人类。通过重复这一过程，智能体能够持续获取反馈并与环境互动。

1.2，核心能力维度

前openAl Weng Lilian，在博客中认为 Agent 需要具备三大核心能力即：规划 Planning，记忆 Memory 和工具使用 Tool use。 规划中主要目标是对任务进行合理的拆解，需要三种能力相互的融合，即三种能力相互依赖共同对任务进行拆解，得到可验证的子步骤，也有论文称之为 reasoning-planning，或者谋略deliberation。

记忆可以分为短期和长期记忆，短期记忆通过上下文学习的Prompt 工程进行，而长期记忆通过最大内积搜索（Maximum Inner Product Search MIPS）策略，主要是对记忆进行编码，存储和检索的能力。在执行阶段借助工具扩充Agent的能力边界，如何认识工具，使用工具和制作工具等成为关键。

图1，Agent 技术能力框架

1.3，工程技术维度

模块化推理、知识与语言 (Modular Reasoning, Knowledge and Language MRKL) 通过将通用大语言模型作为 “路由器” (router)，将用户的查询或任务动态分配给不同 “专家模块” 。MRKL系统主要由两部分构成：

• • 通用大语言模型。接收输入如用户问题、任务指令，通过自然语言理解和推理，判断任务类型或所需工具，并选择最合适的专家模块处理。
• • 专家模块。针对特定任务设计的专用工具或模块，例如计算器、数据库查询接口、逻辑推理引擎、外部API（如天气查询、代码执行器）等。处理 LLM 不擅长或无法高效完成的任务（如精确计算、实时数据访问、符号推理等），确保结果的准确性和可靠性。

目前流行的Agent开源项目有：AutoGPT、 BabyAGI、Generative Agents、MetaGPT等。一个智能体的所具有的核心能力是一致的，本文以Planning、Memory和Tool use 为框架进行介绍。

2，规划 Planning

从完成任务的维度，智能体对任务进行拆解，然后对拆解的步骤进行反思。

2.1，任务拆解

• • 思维链（Chain of Though CoT）

思维链CoT是一种让模型在给出最终答案前，模拟人类的思考过程，生成一系列中间推理步骤的提示技术。它通过 “Let’s think step by step" 等提示，将复杂的推理任务转化为一系列更简单的步骤。

主要解决的问题：

问题1：直接回答的局限性。对于需要多步逻辑推理的问题，如数学题、逻辑谜题，模型直接生成答案的错误率很高。

问题2：提升透明度和可信度。CoT使模型的思考过程变得可见，便于人类理解和验证其结论的合理性，而不是一个“黑箱”答案。

举例： “一个篮子里有5个苹果，你拿走了2个，又放进去3个，最后有多少个苹果? ”

可以分为三个步骤进行拆解：

步骤1：初始有5个苹果。

步骤2：拿走2个，剩下5-2=3个苹果。

步骤3：又放进去3个，现在有3+3=6个苹果。

最终答案：6个。

• • 思维树（Tree of Though ToT）

思维树 ToT是CoT的泛化。它不再局限于一条线性的推理链，而是在每一步思考时，同时探索多种可能的推理路径，从而形成一个树状结构，并通过某种评估标准如模型自我评分，来选择最有希望的路径继续深入，必要时进行回溯。这更接近人类的“深思熟虑”。

主要解决的问题：

问题1：CoT的单路径局限。CoT就像一条独木桥，一旦某一步走错，整个推理就会失败。对于棋类游戏、战略规划等需要探索、权衡和回溯的复杂问题，CoT能力不足。

问题2：全局决策优化。ToT允许模型在决策点“瞻前顾后”，评估不同选择的长期后果，从而做出更优的全局决策。

举例：解决一个数独游戏

步骤1：模型会识别出当前可填的、可能性最少的空格。

步骤2：对于这个空格，模型生成所有可能的合法数字（如可能是2、4、6)，形成多条分支。

步骤3：对每条分支（假设填2)，向前推理几步，评估其可行性（是否导致冲突）。

步骤4：如果填2导致冲突，则回溯到决策点，尝试下一个选项（填4)，继续探索。通过这种启发式搜索，最终找到解。

• • self-consistency 自一致性

自一致性旨在提升CoT可靠性，其核心思想是，对于同一个问题，通过多次采样或使用不同的推理路径提示，生成多条不同的推理链和答案，然后选择其中出现最频繁的答案作为最终答案。“真理往往掌握在多数手中”。

主要解决的问题：

问题1：CoT的随机性。由于大模型生成具有随机性，单次CoT推理可能会因为一步的随机错误而得到错误答案。

问题2：提升鲁棒性和准确性。通过“投票”机制，过滤掉那些因随机性而产生的错误路径，使得最终答案更加稳定和准确。

举例：问题“如果一本书打8折后是16元，原价是多少?”

采样1(CoT路径A)：16元是80%，所以1%是16/80=0.2元，原价(100%)是0.2*100=20元。答案：20

采样2 (CoT路径B)：设原价为X，0.8 * X=16，所以 X=16/0.8=20。答案：20

采样3(CoT路径C)：8折是16元，那1折就是2元，所以10折是20元。答案：20

采样4 (CoT路径D)：（可能出错的路径）16*1.2=19.2。答案：19.2

答案20出现了3次，答案19.2出现了1次。最终采纳答案20。

2.2，自我反思

• • ReAct “知行合一”

ReAct 是一种将推理与行动交替进行的范式。它打破了传统Agent先推理完再行动，或者只行动不推理的模式，让模型在每一步行动前先生成推理轨迹，在行动后观察反馈，形成“思考-行动-观察”的闭环循环。

主要解决的问题：

问题1：幻觉与事实错误。纯CoT推理容易产生事实性幻觉，缺乏外部信息支撑；ReAct通过Acting引入外部工具获取真实信息修正推理。

问题2：行动缺乏逻辑支撑。纯行动策略往往缺乏宏观规划，容易迷失目标；ReAct通过Reasoning保持对任务目标的跟踪和策略调整。

问题3：无法处理由于环境变化带来的推理中断：ReAct允许模型根据每一步的观察结果动态调整下一步计划。

举例：“刚才在格菜美获奖的那位歌手，他的第一张专辑叫什么?”。ReAct流程：

Thought：我需要先查一下刚才谁获得了格莱美奖。
Action：Search(“latest Grammy winners”)
Observation：搜索结果显示Taylor Swift获奖了。
Thought：现在我知道是Taylor Swift了，我需要查她的第一张专辑。
Action：Search(“Taylor Swift first album name”)。
Observation：搜索结果显示是《Taylor Swift》。
Final Answer：他的第一张专辑叫《Taylor Swift》。

• • Reflexion 反思

Reflexion 是一种基于语言反馈的强化学习框架（但在实际实现中常简化为Prompt工程)。它要求Agent在完成任务失败后，通过回顾之前的轨迹 Trajectory，生成一段口头”反思“，指出哪里做错了以及下次该如何改进。这个”反思”会作为短期记忆加入到下一次尝试的上下文中，指导模型避开之前的坑。

主要解决的问题：

问题1：重复试错效率低。普通的重试机制往往会让Agent在一个错误路径上反复横跳；Reflexion通过显式的”自我批评”强制改变推理路径。

问题2：缺乏长短期记忆的利用。模型通常 “做完即忘”，Reflexion将失败经验转化为语义记忆，即时提升后续表现。

问题3：复杂任务成功率低：在需要多步推理的复杂场景中，单次Pass率极低，Reflexion通过迭代式优化显著提升成功率。

举例：编写一个Python函数解决特定的算法题。

尝试1：Agent生成了代码A->运行测试用例->报错；这部分逻辑导致数组越界。

Reflexion阶段：Agent分析报错，生成反思：”我在处理循环边界时使用了range(n)，但在访问i计1时导致了越界，下次我应该使用 range(n-1)或者增加边界检查。”

尝试2：Agent读取题目+上一轮的反思->生成代码B（修正了边界问题）->测试通过。

• • chain of Hindsight CoH

CoH 是一种利用”后见之明”数据进行微调或提示的方法。它不仅向模型展示正确答案，还同时展示一系列带有反馈注解的历史输出（包括正面反馈的好的输出，和负面反馈的坏的输出)。模型通过学习“因为做了X导致了坏结果，因为做了Y导致了好结果“这种成对的对比信息，从而理解如何生成更符合人类偏好的答案。

主要解决的问题

问题1：不仅知其然，更知其所以然：普通的SFT（监督微调）只教模型“什么是对的”，CoH通过对比教模型“根据反馈调整输出”。

问题2：对齐人类偏好的通用性：解决RLHF （人类反馈强化学习）训练过程复杂、不稳定得问题，用类似于监督学习的方式达到将反馈融入生成的目的。

问题3：细粒度控制生成质量：允许用户在推理时通过指定”目标反馈”（例如：“给我就像那个得了满分的答案一样的输出”）来控制生成结果。

举例，“写一段关于苹果的描述”。

训练/提示数据构造

输入：写一段关于苹果的描述。

负面反馈：“这句话太简单了，像小学生写的。” -> 对应输出：“苹果是红的，好吃的。”

正面反馈：“这句话辞藻华丽，富有想象力。” ->对应输出：“那是一枚诱人的深红果实，宛如伊甸园中遗落的宝石，散发着秋日清晨的甜香。”

推理应用

Prompt：参考上述反馈模式，请给我生成一个“富有想象力”的关于梨子的描述。

Mode输出：（模仿正面反馈的风格生成关于梨子的高质量文本）。

3，Tool use

大模型在完成任务时有以下问题：

• • 记忆限制：基于大语言模型的 Agent 无法记住所有的训练数据，可能无法准确回忆特定知识。
• • 知识幻觉与偏差：Agent 可能生成不存在的“幻觉”知识，或受上下文提示影响而导向错误答案。
• • 领域知识不足：对于特定专业领域如医疗、金融，Agent的专业能力有限。

MRKL中的专家系统实际就是Agent中需要使用的工具。工具拓展了使用者的能力边界，对于Agent也一样。工具可以作为一种”即插即用”的模块，为Agent 增强专业知识和适应领域需求。并且工具将Agent 从一个纯“语言大脑”升级为一个可以调用外部专业能力的“行动者”。

大模型使用工具有不同的层级，初级阶段是open AI 使用的 function call 模式，更像是通过规则匹配到特定的函数进行使用。更进一步是MCP，是一个标准，将不同的工具统一调用的格式，减少了大模型理解和使用的成本。

以上工具使用的方式都需要经历的过程是：认识工具，使用工具和制作工具。可借助大语言模型的零样本和少样本学习能力，认识特定的工具。在认识工具的基础上，Agent需要通过实践来掌握工具的使用技巧，并具备适应不同场景的泛化能力。可以通过两种方式学习如何使用工具，模仿学习和和反馈学习。为了让工具更契合Agent的需求，最高阶的能力是能够创造新工具。专为Agent设计的工具应更具模块化，并拥有更友好的输入输出格式。在指令和示例的引导下，Agent可以编写全新的可执行程序作为工具，以及将多个现有工具封装成功能更强大的复合工具，并具备自我调试能力。

3.1，函数调用 Function call

这是工具调用的初始落地形态，以 OpenAI 的 Function Call 为代表，核心是 “让模型按预设规则触发工具”。适用场景是简单、独立的单点工具调用（如天气查询、计算器、单一 API 调用）

核心流程：

• • 开发者手动定义工具的函数列表，并传入大模型；
• • 模型接收用户查询后，判断是否需要调用工具，生成符合函数格式的调用指令；
• • 外部执行器执行函数，获取结果并回填到模型上下文，模型整合结果生成回答。

核心痛点

• • 无统一标准：每个工具的函数描述、参数格式都不同，新增工具需重新配置，模型需逐一学习，适配成本随工具数量线性上升；
• • 协同能力弱：仅支持单一工具的单点调用，无法实现多工具的串联 / 并行协同（如 “先查股票价格，再计算收益率，最后生成报告”）；
• • 容错性差：参数格式错误直接导致调用失败，对模型的参数生成准确性要求极高。

3.2，模型上下文协议 MCP

为解决 Function Call 的 “碎片化” 问题，MCP(Model Context Protocol) 作为标准化协议应运而生，核心是 “定义一套通用的工具调用语言，让所有工具按同一标准封装”。

核心改进

• • 统一工具描述：所有工具必须遵循 MCP 定义的元数据 schema（如工具名称、功能、输入输出类型、权限范围），消除格式差异；
• • 标准化调用流程：定义 “模型请求 - 工具响应 - 结果回填” 的通用交互范式，模型只需学习一套流程即可调用任意 MCP 兼容工具；
• • 增强上下文管理：支持多轮调用的上下文流转、调用失败重试、参数自动校验等机制，提升调用稳定性。

核心价值：实现 “一次适配，多工具复用”，大幅降低模型的理解成本和开发者的适配成本，为多工具协同奠定基础。

MCP 不是替代 Function Call，而是对 Function Call 的 “标准化封装”。Function Call 是 “具体的执行动作”，MCP 是 “执行动作的通用规则”。例如，按 MCP 封装的get_stock_price函数，其调用指令格式与get_weather函数完全一致，模型无需分别学习。

4，Memory

文本将记忆分为短期记忆和长期记忆。短期记忆特点为，即来即用一般为当前对话的上下文等。而长期记忆需要进行相关知识的补充来辅助判断，关键的技术是如何的检索知识。

最大内积搜索 MIPS 是一种向量检索技术，核心目标是在大规模向量集合中，快速找到与查询向量的内积值最大的一组向量。在大模型 Agent 的外部记忆场景中，内积值可直接衡量两个向量的相似度，是实现 “记忆检索” 的核心算法。MIPS 对应的是长期记忆的 “检索” 环节，完整流程如下：

记忆编码：对需要长期存储的信息如历史对话、领域知识文档，通过大模型的 Embedding 接口转化为固定维度的向量；

记忆存储：将向量写入支持 MIPS 的向量数据库，并构建 ANN 索引；

记忆检索： 首先将查询文本转化为向量；其次向量数据库执行 MIPS，返回 Top-k 最相关的向量；最后将向量对应的原始文本 / 数据回填到大模型的上下文窗口；

记忆更新：新的记忆向量会持续写入数据库，索引也会定期更新以保证检索精度。

MIPS检索中常用的最近邻 ANN技术包括：LSH，ANNOY，HNSW，FAISS，ScaNN

技术	核心优势	核心劣势	适用向量规模	适用向量维度	推荐场景
LSH	理论扎实，易并行	高维精度差，调优复杂	亿级	低维（<512）	推荐系统粗召回、分布式检索
ANNOY	实现简单，内存低	高维精度差，不适合亿级	十万～百万级	低～中维（<1024）	个人项目、原型验证、增量更新
HNSW	高维精度与速度双优，支持增量	索引构建慢，内存高于 ANNOY	百万～亿级	高维（1024~2048）	大模型 Agent 实时记忆检索、向量数据库
FAISS	集成多种算法，CPU/GPU 加速，超大规模	API 复杂，参数调优难	十亿级	低～高维	超大规模向量检索、企业级系统
ScaNN	超大规模下精度高，内存低	索引构建慢，调优复杂	十亿级	低～高维	企业级搜索与推荐系统

如何学习大模型 AI ？

由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线科技企业深耕十二载，见证过太多因技术卡位而跃迁的案例。那些率先拥抱 AI 的同事，早已在效率与薪资上形成代际优势，我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在大模型的学习中的很多困惑。我们整理出这套 AI 大模型突围资料包：

• ✅ 从零到一的 AI 学习路径图
• ✅ 大模型调优实战手册（附医疗/金融等大厂真实案例）
• ✅ 百度/阿里专家闭门录播课
• ✅ 大模型当下最新行业报告
• ✅ 真实大厂面试真题
• ✅ 2025 最新岗位需求图谱

所有资料 ⚡️ ，朋友们如果有需要 《AI大模型入门+进阶学习资源包》，下方扫码获取~

① 全套AI大模型应用开发视频教程

（包含提示工程、RAG、LangChain、Agent、模型微调与部署、DeepSeek等技术点）

② 大模型系统化学习路线

作为学习AI大模型技术的新手，方向至关重要。 正确的学习路线可以为你节省时间，少走弯路；方向不对，努力白费。这里我给大家准备了一份最科学最系统的学习成长路线图和学习规划，带你从零基础入门到精通！

③ 大模型学习书籍&文档

学习AI大模型离不开书籍文档，我精选了一系列大模型技术的书籍和学习文档（电子版），它们由领域内的顶尖专家撰写，内容全面、深入、详尽，为你学习大模型提供坚实的理论基础。

④ AI大模型最新行业报告

2025最新行业报告，针对不同行业的现状、趋势、问题、机会等进行系统地调研和评估，以了解哪些行业更适合引入大模型的技术和应用，以及在哪些方面可以发挥大模型的优势。

⑤ 大模型项目实战&配套源码

学以致用，在项目实战中检验和巩固你所学到的知识，同时为你找工作就业和职业发展打下坚实的基础。

⑥ 大模型大厂面试真题

面试不仅是技术的较量，更需要充分的准备。在你已经掌握了大模型技术之后，就需要开始准备面试，我精心整理了一份大模型面试题库，涵盖当前面试中可能遇到的各种技术问题，让你在面试中游刃有余。

以上资料如何领取？

为什么大家都在学大模型？

最近科技巨头英特尔宣布裁员2万人，传统岗位不断缩减，但AI相关技术岗疯狂扩招，有3-5年经验，大厂薪资就能给到50K*20薪！

不出1年，“有AI项目经验”将成为投递简历的门槛。

风口之下，与其像“温水煮青蛙”一样坐等被行业淘汰，不如先人一步，掌握AI大模型原理+应用技术+项目实操经验，“顺风”翻盘！

这些资料真的有用吗？

这份资料由我和鲁为民博士(北京清华大学学士和美国加州理工学院博士)共同整理，现任上海殷泊信息科技CEO，其创立的MoPaaS云平台获Forrester全球’强劲表现者’认证，服务航天科工、国家电网等1000+企业，以第一作者在IEEE Transactions发表论文50+篇，获NASA JPL火星探测系统强化学习专利等35项中美专利。本套AI大模型课程由清华大学-加州理工双料博士、吴文俊人工智能奖得主鲁为民教授领衔研发。

资料内容涵盖了从入门到进阶的各类视频教程和实战项目，无论你是小白还是有些技术基础的技术人员，这份资料都绝对能帮助你提升薪资待遇，转行大模型岗位。

以上全套大模型资料如何领取？