【干货收藏】上下文工程:提升大模型效能的四大阶段详解
上下文工程是"在正确时间、以正确格式,把正确信息递给大模型"的艺术与科学。它包含四个基本阶段:编写上下文(将信息存于上下文窗口外)、读取上下文(载入相关信息)、压缩上下文(去除冗余)和隔离上下文(防止上下文污染)。类比于传统机器学习中的特征工程,通过精心设计上下文流水线,使大模型能够获取精准信息,从而显著提升性能和效果。
上下文工程是"在正确时间、以正确格式,把正确信息递给大模型"的艺术与科学。它包含四个基本阶段:编写上下文(将信息存于上下文窗口外)、读取上下文(载入相关信息)、压缩上下文(去除冗余)和隔离上下文(防止上下文污染)。类比于传统机器学习中的特征工程,通过精心设计上下文流水线,使大模型能够获取精准信息,从而显著提升性能和效果。
上下文工程正变得愈发关键,但我们发现不少人仍对其真正含义感到困惑。
今天,让我们来循序渐进地吃透上下文工程的所有要点!
开始吧——
一句话:上下文工程就是“在正确的时间,以正确的格式,把正确的信息递给大模型”的艺术与科学。
以下是 Andrej Karpathy 对上下文工程的评述……
要理解“上下文工程”,首先得弄清“上下文”到底指什么。
如今的智能体早已不只是聊天机器人。
下图概括了智能体正常运转所需的 6 类上下文:
- 指令
- 示例
- 知识
- 记忆
- 工具
- 护栏
这告诉我们,光给智能体“扔一句提示”远远不够——你必须把输入(即上下文)当成工程问题来设计。
可以这样理解:
- 如果把大模型(LLM)比作 CPU。
- 那么上下文窗口就是内存(RAM)。
你其实是在这块“内存”里,为 AI 写入最恰当、最精密的指令。
具体怎么做?
上下文工程可拆成 4 个基本阶段:
- 编写上下文
- 挑选上下文
- 压缩上下文
- 隔离上下文
我们来逐个拆解——
- 编写上下文(Writing Context)
把信息先“写出去”,存到上下文窗口之外,供智能体随用随取。常见落盘位置:
-
长期记忆(跨会话持久)
-
短期记忆(会话内持久)
-
状态对象(结构化变量)
- 读取上下文(Read Context)
在需要时把相关信息“读进来”,载入上下文窗口,来帮助智能体来执行某个具体任务。来源可以是:
-
工具返回
-
记忆系统
-
知识库(文档、向量数据库等)
- 压缩上下文(Compressing Context)
只保留任务真正需要的 token,去掉冗余。
多轮工具调用易产生重复内容,既费钱又干扰模型;可通过摘要、去重、信息融合等手段瘦身。
- 隔离上下文(Isolating Context)
把上下文按职责切开,防止互相污染。常用手段:
-
多智能体/子智能体,各自持有私有上下文
-
为代码执行单独起沙箱
-
用状态对象显式划分作用域
所以,所谓上下文工程,就是设计一条“上下文流水线”:作为一名上下文流水线的工程师,你能够让 LLM 在正确的时间、以正确的格式、看到正确的信息。
类比传统 ML:
-
无用特征要删掉
-
高度相关特征有时反而添乱
……同理,对 LLM 也要“特征工程”——只是这里的特征就是上下文。
这没什么玄学。
大模型未来如何发展?普通人如何抓住AI大模型的风口?
※领取方式在文末
为什么要学习大模型?——时代浪潮已至
随着AI技术飞速发展,大模型的应用已从理论走向大规模落地,渗透到社会经济的方方面面。
- 技术能力上:其强大的数据处理与模式识别能力,正在重塑自然语言处理、计算机视觉等领域。
- 行业应用上:开源人工智能大模型已走出实验室,广泛落地于医疗、金融、制造等众多行业。尤其在金融、企业服务、制造和法律领域,应用占比已超过30%,正在创造实实在在的价值。
未来大模型行业竞争格局以及市场规模分析预测:
同时,AI大模型技术的爆发,直接催生了产业链上一批高薪新职业,相关岗位需求井喷:
AI浪潮已至,对技术人而言,学习大模型不再是选择,而是避免被淘汰的必然。这关乎你的未来,刻不容缓!
那么,我们如何学习AI大模型呢?
在一线互联网企业工作十余年里,我指导过不少同行后辈,经常会收到一些问题,我是小白,学习大模型该从哪里入手呢?我自学没有方向怎么办?这个地方我不会啊。如果你也有类似的经历,一定要继续看下去!这些问题,也不是三言两语啊就能讲明白的。
所以呢,这份精心整理的AI大模型学习资料,我整理好了,免费分享!只希望它能用在正道上,帮助真正想提升自己的朋友。让我们一起用技术做点酷事!
ps:微信扫描即可获取
加上后我将逐一发送资料
与志同道合者共勉
真诚无偿分享!!!
适学人群
我们的课程体系专为以下三类人群精心设计:
-
AI领域起航的应届毕业生:提供系统化的学习路径与丰富的实战项目,助你从零开始,牢牢掌握大模型核心技术,为职业生涯奠定坚实基础。
-
跨界转型的零基础人群:聚焦于AI应用场景,通过低代码工具让你轻松实现“AI+行业”的融合创新,无需深奥的编程基础也能拥抱AI时代。
-
寻求突破瓶颈的传统开发者(如Java/前端等):将带你深入Transformer架构与LangChain框架,助你成功转型为备受市场青睐的AI全栈工程师,实现职业价值的跃升。
※大模型全套学习资料展示
通过与MoPaaS魔泊云的强强联合,我们的课程实现了质的飞跃。我们持续优化课程架构,并新增了多项贴合产业需求的前沿技术实践,确保你能获得更系统、更实战、更落地的大模型工程化能力,从容应对真实业务挑战。资料内容涵盖了从入门到进阶的各类视频教程和实战项目,无论你是小白还是有些技术基础的技术人员,这份资料都绝对能帮助你提升薪资待遇,转行大模型岗位。
01 大模型系统化学习路线
作为学习AI大模型技术的新手,方向至关重要。 正确的学习路线可以为你节省时间,少走弯路;方向不对,努力白费。希望这份最科学最系统的学习成长路线图和学习规划,带你从零基础入门到精通!
👇微信扫描下方二维码即可~
本教程比较珍贵,仅限大家自行学习,不要传播!更严禁商用!
02 大模型学习书籍&文档
新手必备的权威大模型学习PDF书单来了!全是一系列由领域内的顶尖专家撰写的大模型技术的书籍和学习文档(电子版),从基础理论到实战应用,硬核到不行!
※(真免费,真有用,错过这次拍大腿!)
03 AI大模型最新行业报告
2025最新行业报告,针对不同行业的现状、趋势、问题、机会等进行系统地调研和评估,以了解哪些行业更适合引入大模型的技术和应用,以及在哪些方面可以发挥大模型的优势。
04 大模型项目实战&配套源码
学以致用,在项目实战中检验和巩固你所学到的知识,同时为你找工作就业和职业发展打下坚实的基础。
05 大模型大厂面试真题
面试不仅是技术的较量,更需要充分的准备。在你已经掌握了大模型技术之后,就需要开始准备面试,我精心整理了一份大模型面试题库,涵盖当前面试中可能遇到的各种技术问题,让你在面试中游刃有余。
06 全套AI大模型应用开发视频教程
(包含提示工程、RAG、LangChain、Agent、模型微调与部署、DeepSeek等技术点)
由于篇幅有限
只展示部分资料
并且还在持续更新中…
ps:微信扫描即可获取
加上后我将逐一发送资料
与志同道合者共勉
真诚无偿分享!!!
最后,祝大家学习顺利,抓住机遇,共创美好未来!
更多推荐
所有评论(0)