临近新年,Agent后三篇白皮书的原文解读已更新在网页端。 这篇文章将根据五篇白皮书全面解读AI Agent的理论。

  1. Introduction to Agents
  2. Agent Tools & Interoperability with MCP
  3. Agent Quality
  4. Context Engineering: Sessions, Memory
  5. Prototype to Production

什么是AI Agent

AI Agent定义

一种自主解决问题和执行任务的新型软件

AI Agent构成

  1. 模型(大脑): 通过核心语言模型或基础模型处理信息、评估选择和做出决策
  2. 工具(双手):通过工具将智能体的推理与外部世界连接起来,使其能执行文本生成之外的操作
  3. 编排层(神经系统):管理智能体操作循环的主导流程,负责规划、记忆和推理策略执行
  4. 部署(身体和腿):将智能体和交互页面部署到可靠的服务器和用户终端

具备推理和决策能力,并能调度工具链完成任务

AI Agent过程

  1. 获取任务:如字面意思
  2. 扫描场景:程序初始化
  3. 深入思考:核心步骤,思考如何制定完成目标的分解步骤
  4. 采取行动:根据步骤调用接口、运行代码、查找数据
  5. 观察与迭代:通过动作结果的观察更新记忆回到第3步

MBTI上AI Agent是ENTJ:以目标为导向、整合资源、全局指挥

AI Agent分级

  • L0-核心推理系统:即语言模型本身,仅基于庞大的预训练知识进行响应。
  • L1-互联问题解决者:在L0的基础上,引擎可以通过连接并利用外部工具
  • L2-策略问题解决者:在L1的基础上,L2可以从执行简单任务转变为策略性地规划和解决复杂的问题
  • L3-协作式多智能体系统:在L2的基础上,L3以团队形式协同工作
  • L4-自我进化系统:可以识别自身能力的不足,并动态创建工具甚至新智能体来弥补这些不足。

这是550C,目前最先进的自感知、自适应、自组织、可重塑编译计算核心,在于硬件连接以后可以实时生成低层操作系统,自行组织发动机建设。不夸张地说,如果量子计算机+L4,我们就会步入科幻。

Agent Tool

工具定义

Agent与外部世界交互的标准化接口

工具类型

按构建方式:

  • 函数工具:调用外部工具函数,函数描述可来自代码中已有注释。
  • 内置工具:一些模型具备利用内置工具的能力,例如搜索、代码执行、URL获取。
  • Agent工具:构建一个Agent并作为可被调用的工具。

按交互方式

  • 信息检索:从各种来源获取数据,例如网络搜索、数据库或非结构化文档。
  • 行动:执行现实世界的各类操作,例如发送电子邮件、发布消息、启动代码执行或控制物理设备。
  • API集成:连接现有软件系统和API,集成到企业工作流中,或与第三方服务进行交互。
  • 人机协作:促进与人类用户的合作:请求澄清、寻求关键行动的批准或移交人类判断。

对模型,内置函数、函数工具、Agent工具自内向外构建。

工具经验

  • 文档清晰:名称具体、描述完整、参数简明,并提供示例。
  • 轻量输出:避免返回结果占用过多上下文。
  • 友好错误:提供可指导模型或用户修正的提示。
  • 外部验证:在工具外做校验,保证输入/输出安全。

把Agent想成自己去操作,就能比较好理解这些技巧的作用。

MCP

MCP定义

模型上下文协议,旨在解决模型(N)与工具(M)间N×M的集成复杂度,通过标准化实现工具的即插即用。

MCP构建

  1. 主机:承载Agent的应用程序。
  2. 客户端:内嵌于主机,负责通信。
  3. 服务器:提供工具能力,宣告“我有什么”。

通过Json触发调度,MCP统一管理调度工具方式,包括外部工具和内部函数。

MCP挑战

  • 性能与规模
  1. 上下文膨胀:工具定义挤占提示词空间,影响推理效率与质量。
  2. 架构复杂:维护有状态的远程连接增加系统复杂度。
  • 企业就绪性
  1. 安全治理:认证、授权、审计链条不完整。
  2. 可观测性差:缺乏标准的日志、追踪与指标。
  • 安全风险
  1. 动态注入:恶意服务器可能偷偷更换或添加工具。
  2. 影子工具:通过提示词工程误导Agent调用恶意工具。
  3. 权限过宽:难以对单个工具做细粒度的访问控制。

真正的难点在于MCP需要已有商业软件生态去接入协议,但软件公司更希望Agent能内化到自己的软件生态中,而不去跟进协议。

Agent Context

核心概念

  • 上下文工程(Context Engineering):在LLM的上下文窗口内动态组合和管理信息,以实现有状态智能体的过程。
  • 会话(Sessions):与Agent进行的整个对话的容器,包含按时间顺序排列的对话历史和Agent的工作记忆。
  • 记忆(Memory):用于长期保存的机制,跨多个会话捕获和整合关键信息,为LLM Agent提供持续且个性化的体验。

上下文工程

上下文工程处理整个信息载荷,基于用户、对话历史和外部数据动态构建具有状态感知能力的提示词。

和提示词工程相比,关键区别是动态构建。

上下文工程的载荷可包括多种组件:

  • 用于指导推理的上下文定义了Agent的基本推理模式和可用动作
  • 系统指令:定义Agent角色、能力和限制。
  • 工具定义:Ageng可用于与外部世界交互的API或函数的模式。
  • 少样本实例:通过上下文学习指导模型推理过程的精选实例。
  • 证据性和事实数据是Agent进行推理所依据的实质性数据,包括既有知识和为特定任务动态获取的信息
  • 长期记忆:跨多个会话收集的关于用户或主题的永久性知识。
  • 外部知识:从数据库或文档中检索到的信息,通常使用RAG。
  • 工具输出:工具返回的数据或结果。
  • Sub-Agent输出:由被委派了特定子任务的专业Agent返回的结论或结果。
  • 人工制品:与用户或会话相关联的非文本数据。
  • 对话历史:当前交互的逐轮记录。
  • 状态/暂存区:Agent在即时推理过程中使用的临时、进行中的信息或计算结果。
  • 用户提示:需要解决的即时查询。

会话

每个会话包括两个关键组件:按时间顺序排列的历史记录和Agent的工作记忆。

事件是对话的基本构成要素。常见的事件类型包括:用户输入、智能体响应、工具调用或工具输出。

会话会通过结构化的「工作记忆」或缓存区记录信息。

智能体框架通过两种主要方式来处理多智能体体系的会话历史:

  • 一种是共享的统一历史,所有智能体都为单一日志贡献内容。
  • 另一种是独立的个体历史,每个智能体都保持自己的视角。

LLM能换处理长上下文,但仍存在局限性:

  • 上下文窗口限制:每个LLM都有一次可处理的最大文本量。
  • API成本:按照token数量收费。
  • 延迟:更多文本需要更长的处理时间。
  • 质量:token越多,噪声越多,性能可能下降。

因此压缩上下文十分重要,压缩上下文有一些方式:

  • 保留最后N轮对话:如字面意思。
  • 基于Token阶段:最新消息向前计算指导达到预定的Token数量限制。
  • 递归总结:对话中较旧的部分被AI生成的摘要取代。

记忆

记忆会在不同会话之间持久存在,以提供连贯且个性化的体验。

记忆的能力:

  • 个性化:记住用户的偏好、事实和过往互动,以制定未来的回应。
  • 上下文窗口管理:记忆系统可以通过生成摘要或提取关键事实来压缩这些历史记录。
  • 数据挖掘与洞察:通过分析众多用户的存储记忆,从干扰信息中提取洞察。
  • 智能体的自我提升与适应:Agent会通过创建关于自身表现的程序性记忆,从之前的运行中学习。

记忆通常包括两个主要部分:

  • 内容:从原始数据中提取的记忆实质,内容可以是结构化数据,也可以是非结构化数据。
  • 元数据:提供关于记忆的上下文,通常以简单字符串的形式存储。这可以包括记忆的唯一标识符、记忆所有者的标识符,以及描述记忆内容或数据源的标签。

记忆根据其代表的基本知识类型分为:

  • 陈述性记忆:知道是什么。
  • 程序性记忆:知道怎么做。

记忆通常存储在向量数据库或知识图谱中:

  • 向量知识库:支持语义相似性而非精确关键词的检索。记忆被转换为嵌入向量,数据库会找到与用户查询在概念上最接近的匹配项。
  • 知识图谱:用于将记忆存储为实体(节点)和关系(边)的网络。检索过程包括遍历该图谱以找到直接和间接的联系。

记忆生成的流程通常遵循以下四个阶段:

  • 摄入:当客户端向内存管理器提供原始数据时就开始了。
  • 提取与筛选:使用LLM从源数据中提取有意义的内容。
  • 整合:记忆管理器处理冲突和去重,利用LLM将新提取的信息和现有记忆进行比较,决定合并、删除、创建记忆的动作。
  • 存储:新的记忆会被持久化到一个存储层中,以便在未来的交互中能被检索。

一段记忆的可信度是动态变化的,遗忘由多种因素触发:

  • 基于时间的衰减:记忆的重要性会随着时间的推移而降低。
  • 低置信度:有薄弱推理产生且从未被其他来源证实的记忆可能会被删除。
  • 不相关性:随着智能体对用户的理解越来越深,它可能会判定一些较旧的、琐碎的记忆与用户当前的目标不再相关。

高级记忆系统超越了简单的搜索,会在多个维度对潜在记忆进行评分:

  • 相关性(语义相似度):该记忆与当前对话在概念上的关联程度如何?
  • 时效性(基于时间):该记忆是多久前创建的?
  • 重要性(意义):这段记忆总体而言有多关键?该项可以再生成时定义。

Agent Quality

  • 传统软件问:“Did we build the product right?”
  • AI Agent 问:“Did we build the right product?”

AI Agent 能力非线性,创建容易,评估难。

质量挑战

  • 算法偏见 (Algorithmic Bias):放大训练数据中的系统性偏见。
  • 事实幻觉 (Factual Hallucination):生成看似合理但虚假的信息。
  • 性能与概念漂移 (Performance & Concept Drift):现实世界数据变化导致性能下降。
  • 突发非预期行为(Emergent Unintended Behaviors):为了实现目标演化出钻系统漏洞行为。

评估过程

四大支柱:

  • 有效性 (Effectiveness):衡量任务成功与否。
  • 效率 (Efficiency):关注 Token 消耗、时间和轨迹复杂度。
  • 稳健性 (Robustness):能否平稳处理超时、数据缺失等混乱情况。
  • 安全与对齐 (Safety & Alignment):是否在伦理边界内运行。

评估视角:

  • Outside-In(输出评估):Agent 是否实现了用户目标?衡量成功率与满意度。
  • Inside-Out(轨迹评估):分析执行轨迹。检查 LLM 规划、工具调用是否正确、RAG 性能以及多智能体是否存在死循环。

就是把最终问题拆解到各个组件。

评估标准:

  • 自动化指标:字符串相似度、TruthfulQA 等。
  • LLM-as-a-Judge:利用 LLM 评价摘要好不好、计划是否逻辑通顺。
  • Agent-as-a-Judge:用 Agent 评估 Agent 的计划质量与工具使用。
  • Human-in-the-Loop:人在回路,处理深度主观性,确保符合人类价值观。

前三项的评估能力的提升;HITL是确保持续可靠的关键

可观测性

三大支柱:

  • 日志 (Logs):重建思维过程。包括提示词/响应对、思维链 (CoT)、工具调用及内部状态变化。
  • 追踪 (Traces):在日志基础上,通过可视化快速定位问题点。
  • 指标 (Metrics)
  • 系统指标:延迟、错误率、API 成本。
  • 质量指标:正确性、轨迹遵循度、安全性。

对应现场记录、问题追踪、量化总结。

质量提升

  1. 定义质量:确立有效性、成本、安全等目标。
  2. 配置可见性工具:构建结构化日志与端到端追踪。
  3. 评估过程:采用 Outside-In 方式,结合模型打分与人工基准。
  4. 构建反馈循环:将生产故障转化为回归测试,推动系统改进。

这张图就是如何设计和迭代一个Agent的流程图。

Agent落地

Step1:确立人员与流程

先论需求,再论技术。

在传统的MLOps环境中,涉及到几个关键团队:

  • 云平台团队:由云架构师、管理员和安全专家组成。该团队负责管理基础云基础设施、安全性和访问控制。
  • 数据工程团队:数据工程师和数据所有者构建并维护数据管道,负责数据的摄取、准备和质量标准相关工作。
  • 数据科学与MLOps团队:该团队包括进行模型试验和训练的数据科学家,以及利用CI/CD大规模自动化端到端机器学习管道的机器学习工程师。
  • 机器学习治理:这一集中式职能(包括产品负责人和审计人员)负责监督机器学习的生命周期,确保合规性、透明度和问责制。

GenAI为这个领域增添了新的角色:

  • 提示词工程师:虽然这个职位名称在行业中仍在演变,但这些人将编写提示词的技术技能与深厚的领域专业知识相结合。
  • 人工智能工程师:他们负责将GenAI的解决方案扩展到生产环境,构建强大的后端系统,包括大规模评估、防护措施以及RAG/工具集成。
  • 开发运维/应用开发者:这些开发者构建与GenAI后端集成的前端组件和用户友好的界面。

在小型公司中,个人可能身兼数职,而成熟的组织则会拥有更多专业化的团队。

Step2:搭建AgentOps

核心原则:Evaluation-Gated Deployment。任何Agent版本在未通过全面评估以证明其质量和安全性之前,都不应面向用户发布。

这个关卡通过两种方式来实现:

  • 人工Pre-PR评估:对于寻求灵活性或刚刚开始评估之旅的团队,质量关卡通过团队流程来执行。在提交PR前,人工智能工程师或提示词工程师需在本地运行评估套件。随后,将Agent和生产基准进行比较得出的性能报告链接至PR描述中。审核者现在不仅要评估代码,还要根据护栏违规和提示词注入漏洞评估Agent的行为变化。
  • 自动化流水线关卡:对于成熟团队而言,由数据科学与机器学习运维团队构建并维护的评估工具会直接集成到CI/CD流水线中。评估不通过会自动阻止部署,从而以程序化方式严格执行机器学习治理团队定义的质量标准。

CI/CD流水线不仅仅是一个自动化脚本,更是一个结构化的流程,能帮助团队中的不同人员协作管理复杂性并确保质量。

渐进式工作流程通常分为三个不同的阶段:

  • 阶段一「合并前CI」:发起PR请求的AI工程师或提示词工程师提供快速反馈。此CI阶段会自动触发,充当主分支的守门人。它会运行单元测试、代码lint检查和依赖项扫描等快速检查。至关重要的是,这是运行Agent质量评估套件的理想阶段。在变更合并前,就关键场景立即反馈变更是否提升或降低了Agent的性能。
  • 阶段二「合并后在预发布环境中验证」:变更通过所有CI检查并合并后,由机器学习运维团队将智能体打包部署到高保真模拟生产的预发布环境,在此开展负载测试、远程服务集成测试等全面且耗费资源的测试,同时进行内部试用,最终确保智能体作为集成系统在类生产环境下可靠高效运行,为后续发布做准备。
  • 阶段三「受控部署到生产环境」:智能体在预发布环境完成全面验证后,进入生产部署环节,该过程几乎非完全自动,需产品负责人最终签字确认(保障人类参与),获批后将预发布环境中经测试验证的部署工件推广至生产环境。

方法和传统的软件工程是一样的。

Agent上线后,重点从开发转向了运维。我们面临截然不同的挑战:在它与数千名用户交互时,保持系统的可靠性、成本效益和安全性。

Agent具备自主性,管理这种自主性需要一种不同的运营模式。高效的团队不再采用静态监控,而是采用一个持续循环:实时观察系统行为,采取行动以维持性能和安全性,并基于生产经验改进智能体。

Step3:基于A2A构建智能生态系统

现在你已经构建了数十个Agent,但问题在于:这些Agent无法相互沟通,无论是因为他们是在不同的框架、项目中创建的,还是完全在不同的云平台上创建的。

A2A协议旨在打破组织壁垒,实现Agent之间的无缝协作。如果没有A2A协议,人类需要在不同的Agent之间完成信息同步的工作。

Agent合作的第一步是找到合适的Agent进行委托,这通过Agent卡片得以实现,Agent卡片是标准化的JSON规范,相当于每个Agent的名片。

Agent卡片包括名字、版本、描述、能力、安全架构、输入、输出、技能和地址等信息。

一旦一个Agent被公开,其他Agent都可以通过引用其Agent卡片来使用它,而无需了解其内部工作原理。

自主协作需要两项必不可少的技术:

  • 分布式追踪:每个请求都携带一个唯一的追踪ID。
  • 强大的状态管理:Agent的交互本质上是有状态的,需要一个复杂的持久化层来跟踪进度并确保事务完整性。

A2A和MCP并非竞争性标准,而是位于不同层级的互补协议。MCP适用于工具和资源领域;A2A适用于其他Agent领域。

在Multi-Agent系统中,会有几种交互模式:

  • User-to-Agent:用户通过概括性自然语言与Agent进行沟通。
  • Agent-to-Agent:Agent间进行任务委托和任务交付。
  • MCP:Agent通过MCP调用其专用工具。

和已有的团队协作是一样的

总结

AI Agent是由大模型驱动的自主任务执行系统,其理论核心包括模型、工具、上下文和部署四大构成要素。Agent通过MCP协议标准化工具调用,借助上下文工程管理记忆与会话状态,并建立评估体系确保执行质量。落地实践遵循评估驱动的开发流程,通过AgentOps实现从开发到生产的全生命周期管理。

想入门 AI 大模型却找不到清晰方向?备考大厂 AI 岗还在四处搜集零散资料?别再浪费时间啦!2026 年 AI 大模型全套学习资料已整理完毕,从学习路线到面试真题,从工具教程到行业报告,一站式覆盖你的所有需求,现在全部免费分享

👇👇扫码免费领取全部内容👇👇

一、学习必备:100+本大模型电子书+26 份行业报告 + 600+ 套技术PPT,帮你看透 AI 趋势

想了解大模型的行业动态、商业落地案例?大模型电子书?这份资料帮你站在 “行业高度” 学 AI

1. 100+本大模型方向电子书

在这里插入图片描述

2. 26 份行业研究报告:覆盖多领域实践与趋势

报告包含阿里、DeepSeek 等权威机构发布的核心内容,涵盖:

  • 职业趋势:《AI + 职业趋势报告》《中国 AI 人才粮仓模型解析》;
  • 商业落地:《生成式 AI 商业落地白皮书》《AI Agent 应用落地技术白皮书》;
  • 领域细分:《AGI 在金融领域的应用报告》《AI GC 实践案例集》;
  • 行业监测:《2024 年中国大模型季度监测报告》《2025 年中国技术市场发展趋势》。

3. 600+套技术大会 PPT:听行业大咖讲实战

PPT 整理自 2024-2025 年热门技术大会,包含百度、腾讯、字节等企业的一线实践:

在这里插入图片描述

  • 安全方向:《端侧大模型的安全建设》《大模型驱动安全升级(腾讯代码安全实践)》;
  • 产品与创新:《大模型产品如何创新与创收》《AI 时代的新范式:构建 AI 产品》;
  • 多模态与 Agent:《Step-Video 开源模型(视频生成进展)》《Agentic RAG 的现在与未来》;
  • 工程落地:《从原型到生产:AgentOps 加速字节 AI 应用落地》《智能代码助手 CodeFuse 的架构设计》。

二、求职必看:大厂 AI 岗面试 “弹药库”,300 + 真题 + 107 道面经直接抱走

想冲字节、腾讯、阿里、蔚来等大厂 AI 岗?这份面试资料帮你提前 “押题”,拒绝临场慌!

1. 107 道大厂面经:覆盖 Prompt、RAG、大模型应用工程师等热门岗位

面经整理自 2021-2025 年真实面试场景,包含 TPlink、字节、腾讯、蔚来、虾皮、中兴、科大讯飞、京东等企业的高频考题,每道题都附带思路解析

2. 102 道 AI 大模型真题:直击大模型核心考点

针对大模型专属考题,从概念到实践全面覆盖,帮你理清底层逻辑:

3. 97 道 LLMs 真题:聚焦大型语言模型高频问题

专门拆解 LLMs 的核心痛点与解决方案,比如让很多人头疼的 “复读机问题”:


三、路线必明: AI 大模型学习路线图,1 张图理清核心内容

刚接触 AI 大模型,不知道该从哪学起?这份「AI大模型 学习路线图」直接帮你划重点,不用再盲目摸索!

在这里插入图片描述

路线图涵盖 5 大核心板块,从基础到进阶层层递进:一步步带你从入门到进阶,从理论到实战。

img

L1阶段:启航篇丨极速破界AI新时代

L1阶段:了解大模型的基础知识,以及大模型在各个行业的应用和分析,学习理解大模型的核心原理、关键技术以及大模型应用场景。

img

L2阶段:攻坚篇丨RAG开发实战工坊

L2阶段:AI大模型RAG应用开发工程,主要学习RAG检索增强生成:包括Naive RAG、Advanced-RAG以及RAG性能评估,还有GraphRAG在内的多个RAG热门项目的分析。

img

L3阶段:跃迁篇丨Agent智能体架构设计

L3阶段:大模型Agent应用架构进阶实现,主要学习LangChain、 LIamaIndex框架,也会学习到AutoGPT、 MetaGPT等多Agent系统,打造Agent智能体。

img

L4阶段:精进篇丨模型微调与私有化部署

L4阶段:大模型的微调和私有化部署,更加深入的探讨Transformer架构,学习大模型的微调技术,利用DeepSpeed、Lamam Factory等工具快速进行模型微调,并通过Ollama、vLLM等推理部署框架,实现模型的快速部署。

img

L5阶段:专题集丨特训篇 【录播课】

img
四、资料领取:全套内容免费抱走,学 AI 不用再找第二份

不管你是 0 基础想入门 AI 大模型,还是有基础想冲刺大厂、了解行业趋势,这份资料都能满足你!
现在只需按照提示操作,就能免费领取:

👇👇扫码免费领取全部内容👇👇

2026 年想抓住 AI 大模型的风口?别犹豫,这份免费资料就是你的 “起跑线”!

Logo

有“AI”的1024 = 2048,欢迎大家加入2048 AI社区

更多推荐