一个多月前，全球两大技术顶流，围绕Multi-Agent吵的天翻地覆。

一方是开发 Claude 的 Anthropic，他们认为Multi-Agent更有效。在他们的实验中，多 Agent 协作成功率比单一 Agent 高出 90.2%。

另一方则是推出「Devin」的 Cognition，他们看来：单一 Agent 配合长上下文压缩与精细调度，其实更加稳健、好用、成本低。

表面上看，这是 Multi-Agent 的路线之争，但本质上，这场讨论的核心，其实是：如何管理Agent的上下文？

打个比方，*如果说大语言模型是CPU，那么上下文窗口就是RAM——它是模型的工作内存。

但一个问题是，硬件的**RAM是有限的，模型的上下文长度，也是有限的。**但对于AI智能体，尤其是多智能体这种场景来说，其多步骤、长时间的复杂任务，会产生海量信息，导致AI"消化不良"。这会引发几个致命的问题：

• 信息超载：超出AI的"记忆容量"，直接卡死
• 成本飙升：处理信息越多，花钱越多，延迟越高
• 性能下降：信息太杂乱，AI反而变笨了

那么如何解决这个问题，Langchain、Lossfunk、manus在内，业内有几个不同的思路，在本文中，我们将为大家一一解读。

01

langchain的Context Engineering的四大策略

langchain看来，agent的上下文管理问题，可以归纳为四种：

• 上下文污染：错误信息混进来，AI开始胡说八道

• 上下文分散：有用信息被垃圾信息淹没

• 上下文混淆：无关信息太多，AI搞不清重点

• 上下文冲突：前后矛盾的信息让AI精神分裂

  

面对这些挑战，Langchain团队深入研究后，提出了Context Engineering的四大核心策略：写入、选择、压缩、隔离。

1.写入上下文：给AI装上"便签纸"

就像我们做复杂工作时会记笔记一样，AI处理复杂任务时也需要把关键信息写下来，避免重复分析。

比如在代码审查中，AI会把每个文件的问题清单和修改建议记录下来，而不是每次都重新扫描整个代码库。这样既省时间又避免遗漏。

2.选择上下文：只看重要的信息

不是所有信息都值得进入AI的视野。Windsurf团队在处理大型代码库时发现，必须结合语法分析、知识图谱检索等技术，才能从成千上万行代码中找出真正相关的片段。这就像在图书馆里精准找到需要的那几本书。

3.压缩上下文：把长故事变成要点

Claude Code的"auto-compact"功能展示了最佳实践：当对话记录快撑爆"内存"时（使用率超过95%），自动把几百轮对话压缩成核心要点。

4.隔离上下文：分工合作，各司其职

LangGraph的多智能体架构把复杂任务拆解成独立模块，每个子任务在专门的"房间"里处理，避免相互干扰。

Anthropic也指出，经过隔离上下文的multi-agent表现会优于单一智能体，因为每个子智能体都会拥有独立的上下文，探索一个问题的不同角度。

就像项目团队中每个成员专注自己的模块，最后整合成完整方案。这样既提高效率，又避免了"一锅粥"的混乱。

这四种策略相互配合，形成了完整的上下文管理体系。掌握这些方法，能让你的AI系统处理信息更高效、响应更准确。

02

Lossfunk 的6个上下文管理技巧

[Insight #1] 将任务拆分为人类可在 10–15 分钟内完成的小块

• 核心观点：LLM 成功执行任务的概率与人类完成该任务所需时间强相关。根据 METR 研究，任务耗时越短，LLM 成功率越高（10 分钟任务 ≈ 90% 成功率）。
• 工程建议：不要期望 LLM 能在一个长 session 内完成复杂任务。应该将其拆分为原子化任务，每个子任务能在模型当前上下文内自洽完成。

[Insight #2] 一体化 Agent + 长上下文胜于多 Agent + RAG

• 观点：如果模型的上下文窗口够大，应尽量将完整文件或数据一次性塞进 context，而不是碎片化检索（RAG），后者的知识是碎片化的。
• 经验引用：Cline 项目和 SWE-bench-Verified benchmark 都证明完整上下文效果更佳。以前使用 diff 模型组合处理更新，误差高达 20%；改用 LLM 生成 REPLACE block，误差降到 5%。
• 隐含逻辑：绕过成本的工程取巧（如快照 diff 模型）往往带来质量牺牲。随着基础模型变强，应少用 workaround，多信任模型原生能力。

[Insight #3] 长流程易失败，务必构建逐步验证机制

• 挑战：任务流程越长，出错概率越大，且错误会层层积累。
• 应对策略：

• 将每一步设计为尽可能 无状态的函数调用，减少上下文依赖；
• 每一步任务完成后进行显式验证，模型必须能区分成功与失败，否则会带着错误一路狂奔。

• 目标：降低耦合度、增强可测试性，使每步可观察、可诊断、可回滚。

[Insight #4] 把 LLM 当失忆天才，持续喂任务和上下文

• 原理：模型容易遗忘早期输入。尤其在长对话中，前面的任务指令可能会被挤出上下文窗口。
• 实践建议：

• 不断重复 todo list 或关键任务信息；
• 在 prompt 中显式列出当前步骤、目标和注意事项；
• 引导模型先读文件再执行，有助于自建思路。

• 提示：你不需要一次性把所有上下文硬塞进 prompt，而是让模型通过指令主动拉取信息。

[Insight #5] 给模型工具权限，让它主动构建自己的上下文

• 新范式：别只往 context 塞内容，而是让模型自己去读写——就像人一样，动手比死记更强。
• 设计重点：

• 工具（如读文件、查数据库）需精心构建，避免信息过载或不足；
• 工具调用的返回内容应简洁明确（如：“查询成功，有10k条，这里展示前5条”）；
• 出错时，提供恰当量级的信息以便恢复，而非一味输出全量堆栈。

• 总结：工具接口设计是门信息设计的艺术。

[Insight #6] 多轮对话成本呈二次增长，务必保持上下文不可变

• 事实：每增加一次对话轮次，如果上下文每次都变，LLM 无法命中 KV cache，成本激增。

• 50 轮时 ≈ $2.5/response，100 轮时可飙升至 $100/response；
• 如果上下文不变，命中 KV cache 成本可下降到 1/10。

• 工程对策：

• 只追加上下文，不要替换；
• 设计结构化 memory 和状态保存策略，以节省 token；
• 明确你的 agent 是否值得花这么多钱运行（用户真的愿意为它花钱吗？）。

03 Manus的七个agent小技巧

Manus 不久前正式公开了其产品逻辑，以及踩坑经验，并且给出了七大context 工程设计原则：

1️⃣ 设计围绕 KV-Cache 展开：缓存命中率是王道

• 核心观点：生产级 agent 的最关键指标就是 KV-cache 命中率，直接影响成本与响应时间（TTFT）。
• 原因：Agent 的输入越来越长（大量上下文与工具调用记录），但输出短（如函数调用），prefill 成本极高。
• 优化策略：

• 保持 prompt prefix 稳定，避免加入每秒变动的时间戳等干扰缓存；
• 上下文追加而非修改，JSON 序列化时使用确定性顺序；
• 明确打上缓存断点标记，在某些模型框架中需手动设置。

2️⃣ 工具动态加载容易毁掉 Agent，应该使用 “屏蔽” 而非 “删除”

• 问题：随着工具越来越多（甚至用户自定义数百个），模型选择工具时更容易出错或卡住。
• 教训：

• 动态插入/移除工具会使 KV-cache 失效，并引发引用未定义工具的问题；

• 解决方案：

• 不删除，只屏蔽：使用 token masking 技术动态调整可调用工具集；
• 工具命名应有统一前缀（如 browser_），便于分组与限制；
• 使用 Hermes 格式或 API 支持的 function-calling prefill 来控制选择空间。

3️⃣ 文件系统是无损上下文的最佳外部内存

• 挑战：128K 上下文看似足够，但遇到大网页、PDF 等非结构数据时依然吃紧；
• 常规压缩问题：过早丢弃信息容易导致未来步骤丧失上下文；
• Manus 的方法：

• 让 agent 使用文件系统读写，把数据外部化；
• 删除网页内容但保留 URL，清除文档但保留路径，确保信息可恢复；
• 实现类似“长期记忆”系统，也为未来用更轻量架构（如 SSM）打下基础。

4️⃣ 利用 Recitation 操控注意力，保持任务对齐

• 机制：Manus 会不断更新 todo.md，将未完成目标“复述”到上下文尾部；
• 好处：

• 避免“lost-in-the-middle”问题；
• 提升模型在长流程中保持目标一致性的能力；

• 总结：通过自然语言“自我提醒”是目前最有效的 attention 操控方式之一。

5️⃣ 不要隐藏错误，保留失败痕迹让模型自我修正

• 错误是常态：语言模型总会有 hallucination、环境崩溃、调用失败等问题；
• 通病：很多系统习惯清除失败痕迹、重试或 reset；
• 正确做法：保留失败记录，包括栈追踪或观察结果；

• 这有助于模型调整 belief，避免重复同样错误；

• 结论：错误恢复能力是 agent 智能的真正表现。

6️⃣ 别被 few-shot 绑架，打破模式有助提升表现

• 问题：模型会“模仿”上下文模式；

• 如果你放了太多重复的 few-shot 示例，它就会陷入固定思路；

• 案例：当 Manus 批量评审简历时，模型会机械重复行为；
• 解决策略：

• 在 action-observation 模板中加入轻微变化（格式、顺序、措辞）；
• 引入结构化噪声，打破固定模式；

• 总结：保持上下文多样性，避免 agent 变得脆弱僵化。

7️⃣ Context Engineering 胜于 Fine-Tuning，灵活快、省钱多

• 历史经验：manus早年使用 BERT 等模型需数周迭代 fine-tune，如今这种方式效率低、成本高；
• Manus 的选择：坚定押注“context engineering”而非 end-to-end 训练；
• 收益：

• 产品更新周期从数周缩短为数小时；
• 模型更新可以无缝接入，无需重新适配或训练；
• 让产品变成可以灵活移动的“船”，而非“钉死在海底的柱子”。

04 几个Context Engineering神器推荐

在这里，我们有几个神器推荐

1.上下文不够怎么办？用Milvus向量数据库

在实际应用中，面对海量外部知识、历史对话和多模态数据，如何高效存储、检索和动态调用上下文，是AI-Agent的核心挑战之一。

以向量数据库为例，像Milvus这类高性能数据库能够支持文本、图片等多模态数据的向量化存储和高效检索，帮助AI-Agent实时获取最相关的知识片段和历史信息。通过与LangChain、LlamaIndex等主流AI-Agent框架集成，可以实现RAG（检索增强生成）系统，提升智能体的知识获取和推理能力。

简单SDK调用流程：开发者可通过Milvus的Python SDK快速实现上下文的存储与检索闭环，降低技术门槛。

from pymilvus import MilvusClient
# 创建本地Milvus实例
client = MilvusClient("demo.db")
# 创建向量集合
client.create_collection(collection_name="knowledge_base", dimension=768)
# 向知识库批量插入向量化数据
client.insert(collection_name="knowledge_base", data=embedding_vectors)
# 检索最相关的上下文信息
query_vector = embedding_fn.encode_queries(["什么是Context Engineering？"])
results = client.search(
    collection_name="knowledge_base",
    data=query_vector,
    limit=3,
    output_fields=["text", "source"]
)

2.Context Engineering的工具选型推荐

2.1 TRAE SOLO 模式

就在前几天TRAE推出了2.0版本新增了SOLO模式，该模式本质是一个高度自动化的 AI 开发****agent，它会根据用户输入（自然语言、语音、文件等）自动拆解需求、生成代码、测试、预览和部署。其 context engineering 体现在：

2.2Kiro 的 spec 专家模式

最近AWS推出爆火的IDE工具Kiro。其中有一个spec 专家模式，强调用结构化规范（spec）来规划和驱动开发流程，其 context engineering 体现在：

无论是 TRAE 的 SOLO 还是 Kiro 的 spec 专家模式，本质上都在通过工程化手段管理 AI/Agent 的上下文，以提升智能体的任务完成能力和效率。这正是 context engineering 的核心思想。

结语

随着AI模型能力提升，Context Engineering的重要性愈发突出。

在这里，有一点经验可以分享：

对于上下文依赖弱、信息集中明确的任务，例如事实查询或简单问答，最有效的策略是“选择 + 压缩”。无需大量写入和记录历史内容，系统就可以迅速从现有数据中筛选相关内容并进行压缩提炼，以实现快速响应和低成本运行。这种策略广泛应用于智能客服、搜索问答等场景中，强调速度优先和资源节省。

而对于长期且具有线性结构的任务，如代码开发或文档撰写，则需要采用“写入 + 选择 + 压缩”的组合策略。这类任务要求系统能够逐步积累内容，保持上下文的连贯性，同时不断对内容进行选择性提取和压缩，以避免信息冗余并确保文档质量。此策略特别适合多轮编辑、协同创作等场景，强调信息积累与组织能力的协同优化。

面对复杂且需要并行处理的任务，例如研究分析或数据处理，最佳实践是引入“隔离 + 写入 + 选择”的策略组合。这类任务通常包含多个并行子任务或分析维度，若直接写入可能导致上下文混乱，因此需通过“隔离”机制将不同任务空间划分清晰，再辅以写入和选择策略对结果进行整合。此组合能显著提升处理量和效率，同时避免信息污染。

最后，在创意探索类任务中，如创意设计或头脑风暴，推荐使用“写入 + 选择”的策略。这类任务强调自由生成、思维发散和灵活性，因此不宜在初期过度压缩内容。系统应尽可能保留多样化的想法，并在后续阶段通过选择机制筛选出有价值的思路。这一策略鼓励创新，适用于设计工作坊、品牌构思等需要灵感迸发的环境。

如何学习大模型 AI ？

由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

第一阶段（10天）：初阶应用

该阶段让大家对大模型 AI有一个最前沿的认识，对大模型 AI 的理解超过 95% 的人，可以在相关讨论时发表高级、不跟风、又接地气的见解，别人只会和 AI 聊天，而你能调教 AI，并能用代码将大模型和业务衔接。

• 大模型 AI 能干什么？
• 大模型是怎样获得「智能」的？
• 用好 AI 的核心心法
• 大模型应用业务架构
• 大模型应用技术架构
• 代码示例：向 GPT-3.5 灌入新知识
• 提示工程的意义和核心思想
• Prompt 典型构成
• 指令调优方法论
• 思维链和思维树
• Prompt 攻击和防范
• …

第二阶段（30天）：高阶应用

该阶段我们正式进入大模型 AI 进阶实战学习，学会构造私有知识库，扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架，抓住最新的技术进展，适合 Python 和 JavaScript 程序员。

• 为什么要做 RAG
• 搭建一个简单的 ChatPDF
• 检索的基础概念
• 什么是向量表示（Embeddings）
• 向量数据库与向量检索
• 基于向量检索的 RAG
• 搭建 RAG 系统的扩展知识
• 混合检索与 RAG-Fusion 简介
• 向量模型本地部署
• …

第三阶段（30天）：模型训练

恭喜你，如果学到这里，你基本可以找到一份大模型 AI相关的工作，自己也能训练 GPT 了！通过微调，训练自己的垂直大模型，能独立训练开源多模态大模型，掌握更多技术方案。

到此为止，大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗？

• 为什么要做 RAG
• 什么是模型
• 什么是模型训练
• 求解器 & 损失函数简介
• 小实验2：手写一个简单的神经网络并训练它
• 什么是训练/预训练/微调/轻量化微调
• Transformer结构简介
• 轻量化微调
• 实验数据集的构建
• …

第四阶段（20天）：商业闭环

对全球大模型从性能、吞吐量、成本等方面有一定的认知，可以在云端和本地等多种环境下部署大模型，找到适合自己的项目/创业方向，做一名被 AI 武装的产品经理。

• 硬件选型
• 带你了解全球大模型
• 使用国产大模型服务
• 搭建 OpenAI 代理
• 热身：基于阿里云 PAI 部署 Stable Diffusion
• 在本地计算机运行大模型
• 大模型的私有化部署
• 基于 vLLM 部署大模型
• 案例：如何优雅地在阿里云私有部署开源大模型
• 部署一套开源 LLM 项目
• 内容安全
• 互联网信息服务算法备案
• …

学习是一个过程，只要学习就会有挑战。天道酬勤，你越努力，就会成为越优秀的自己。

如果你能在15天内完成所有的任务，那你堪称天才。然而，如果你能完成 60-70% 的内容，你就已经开始具备成为一名大模型 AI 的正确特征了。

这份完整版的大模型 AI 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】