本文探讨了AI时代软件工程师的核心能力将从写代码转向Agent Orchestration,即如何将AI Agent从Demo转化为生产系统并持续运营。文章指出,企业购买的不是AI技术而是数字员工,强调了业务理解、系统设计、集成和运营在Agent应用中的重要性。随着Coding Agent的出现,开发不再是瓶颈,真正的挑战在于如何让Agent在企业环境中有效运作。未来,Agent应用工程师将成为软件行业人数最多的岗位,其核心价值在于管理AI完成工作,而非替代AI。

上个月帮一个 制造业客户 做 Agent 落地。他们的 IT 总监带了一个五人团队来接项目,清一色的 Java 后端,简历上写满了 Spring Boot 和微服务。

我让他们用 Coding Agent 开发一个采购审批 Agent。 两个小时后,代码写完了 。

然后空气安静了。

没有人知道接下来该干什么 。ERP 怎么接?权限怎么配?审批流走错了怎么回滚?Agent 半夜跑飞了谁来兜底?Token 烧超了怎么控?

五个人面面相觑。代码不是问题。 问题是代码写完之后的所有事。

那一刻我意识到:AI 时代最稀缺的能力,不是写代码,而是 把一个 Agent 从 Demo 变成生产系统,再把它运营成一个靠谱的数字员工 。

做这件事的人,我称之为 Agent 应用工程师 。

图片

— Agent 应用工程师:三层分工金字塔

1、分工正在发生一次静默的迁移

过去二十年,软件工程师的核心动作是 写代码 。

今天,这个动作正在被拆解:

2005-2015 人写代码

2016-2024 人管理 AI 辅助写代码(Copilot 时代)

2025-now 人管理 Coding Agent 写代码

2026-? 人管理多个 Agent 完成整个业务流程

注意这个趋势的方向: 工程师的核心能力正在从 Coding 转向 Agent Orchestration 。

我在 《从做网站到做 Agent:工程师没变,交付物变了》 中说过,软件工程方法没有变——需求分析、架构设计、编码、测试、部署、迭代,每一步都还在。但「编码」这一步的权重正在急剧下降。

当 Coding Agent 能在两小时内写完一个采购审批 Agent 的全部代码时, 写代码不再是瓶颈 。

真正的瓶颈转移到了:

做什么

哪些业务流程值得变成 Agent?

怎么做

Agent 的工具、权限、知识、工作流怎么设计?

如何上线

怎么接入企业现有的 ERP、OA、CRM?

如何运营

Agent 跑错了怎么办?Token 超了怎么控?用户不信任怎么办?

这四个问题, 没有一个是「写代码更快」能解决的 。

「未来最值钱的工程师,不是写代码最快的人,而是最懂业务、最会组织 Agent 工作的人。」

2、模型趋同,价值下移

很多人对 AI 行业的第一直觉是:最值钱的人是 训练大模型的人 。

这个判断在 2023 年是对的。但到了 2026 年,情况变了。

GPT、Claude、Gemini、Qwen——主流模型在绝大多数企业任务上的能力差距已经缩小到 几个百分点 (基于我在多个客户项目中横向对比的经验判断,非精确测量)。模型在变成 基础设施,就像今天的数据库和操作系统。你不会因为用了 PostgreSQL 而不是 MySQL 就获得竞争优势。

我在 《模型与 Agent 的边界正在消失》 中讨论过:模型在「吞噬」Agent 的能力层,function calling、multi-step reasoning 都变成了模型原生能力。但企业真正需要的差异化不在模型层,而在:

企业知识

你的工艺参数、客户画像、供应商评分

企业流程

你的审批链、质检 SOP、销售打法

企业权限

谁能看什么、谁能批什么、谁能改什么

企业系统

你的 ERP、MES、WMS、OA

企业数据

你的历史订单、客诉记录、良率曲线

这些东西不在任何 Foundation Model 里。 竞争优势越来越来自 Agent,而不是 Model。

这意味着产业价值链正在下移:

┌─────────────────────────────────────────┐

│ Foundation Model(趋同,基础设施化) │ ← 少数玩家,资本密集

├─────────────────────────────────────────┤

│ Agent Platform(框架、运行时、MCP) │ ← 中等数量,技术密集

├─────────────────────────────────────────┤

│ Agent Application(设计、部署、运营) │ ← 海量需求,业务密集

└─────────────────────────────────────────┘

最上面一层,全球只需要几百个团队。中间一层,需要几千个工程师。 最下面一层,需要几十万、上百万人。

因为企业里的 Workflow 太多了。 每一个 Workflow 都可能变成一个生产型 Agent 。

3、企业买的不是 AI,是数字员工

跟企业客户聊多了,你会发现一个反直觉的事实: 他们不关心你用了什么模型,不关心你的 RAG 架构多精巧,不关心你的 Prompt 工程多优雅。

他们关心的是:

「我能不能有一个数字员工,像我的老张一样,每天把采购审批处理完,不出错,不摸鱼,不请假?」

企业真正购买的不是 AI 能力,而是 一个能够自己完成工作的数字员工 。

销售 Agent、客服 Agent、采购 Agent、HR Agent、财务 Agent、研发 Agent——每一个数字员工的背后,都需要有人:

工作具体内容
设计岗位这个 Agent 的职责边界是什么?能做什么、不能做什么?
配置工具接哪些 API?用哪些 MCP Server?
配置权限能看哪些数据?能批多大金额?能通知谁?
接入知识企业 SOP、历史案例、产品文档怎么喂进去?
编排 Workflow多步骤任务怎么拆解?失败了怎么回退?
持续优化分析失败案例、调整 Prompt、更新 Memory、部署新版

这六件事,没有一件是「训练模型」能解决的。也没有一件是「写代码更快」能解决的。

这就是 Agent 应用工程师的工作。

我在 《工作流即软件,软件即 Agent》 中讲过一个制造业客户的 47 页质检 SOP。那套 SOP 是他们最值钱的资产,但执行全靠人。把 SOP 变成数字员工,需要的不是算法,而是 有人理解这 23 个检查节点的业务逻辑,设计 Agent 的工具链和权限模型,然后持续运营它 。

4、Coding Agent 为什么是催化剂

有人可能会问:Agent 应用工程师这个概念,和传统的「实施顾问」「解决方案架构师」有什么区别?

区别在于 Coding Agent 。

传统实施顾问的瓶颈是:每个客户的定制开发成本太高。一个 SAP 实施项目动辄几百万、做一年。不是因为顾问不懂业务,而是因为 把业务逻辑变成可运行系统的成本太高 。

Coding Agent 把这个成本降低了 一个数量级 。

我在 《我写了一行代码,AI 写了剩下 6773 行》 中做过一个完整的全栈应用——从需求到上线,编码环节几乎全部由 AI 完成。在 《钉钉 FDE 的一天》 中,一个 FDE 一天之内完成了从业务调研到 Agent 上线的全流程。

这意味着什么?

开发不再是瓶颈。

当编码成本趋近于零,真正的稀缺资源变成了:

知道做什么

业务理解

知道怎么做对

系统设计

知道怎么上线

企业集成

知道怎么持续跑

运营能力

Coding Agent 不是替代了工程师,而是 重新定义了工程师的核心价值 。写代码从「主要工作」变成了「工具之一」。

Coding Agent 消灭的不是工程师,而是「只会写代码」的工程师。

5、 三层分工:未来软件团队的样子

基于上面的推演,我认为未来的软件团队会演化成 三层 :

┌──────────────────────────────────────────────────────┐

│ Foundation Model Engineer │

│ 训练和优化大模型。全球几百个团队。 │

│ 关键词:算法、数据、算力、论文 │

├──────────────────────────────────────────────────────┤

│ Agent Platform Engineer │

│ 构建 Agent 运行时、框架、MCP 协议、沙箱、可观测性。 │

│ 关键词:Runtime、Sandbox、Protocol、Infra │

├──────────────────────────────────────────────────────┤

│ Agent Application Engineer ← 人数最多,增长最快 │

│ 设计、开发、部署、运营生产型 Agent。 │

│ 关键词:业务、Workflow、权限、集成、运营 │

└──────────────────────────────────────────────────────┘

为什么最下面一层人数最多?

不是因为技术最复杂,而是因为 企业里的 Workflow 太多 。

一家中型制造企业可能有 200+ 个业务流程(基于我对制造业客户 IT 系统清单的估算,不同行业差异很大)。一家连锁零售企业可能更多。每一个流程都可能变成一个生产型 Agent。每一个 Agent 都需要有人设计、部署、接入、运营。

这不是一个「做完就走」的项目。Agent 是活的——它会遇到新情况、犯新错误、需要新知识。它需要持续运营,就像你招了一个新员工需要持续培训一样 。

「Agent 应用工程师不是在写软件,是在运营数字员工。」

6、Agent 应用工程师的一天

说了这么多抽象的,来看一个具体的日子。

小林是一个 Agent 应用工程师 ,负责一家制造企业的采购域。

上午 9:00

让 Coding Agent 开发采购审批 Agent 的核心逻辑。描述需求、审查生成的代码、跑测试。 四十分钟,代码完成 。

上午 10:00

接入 ERP。采购订单在 SAP 里,审批流在钉钉里,供应商评分在一个 Excel 里。 三个系统,三种接口 。配置 MCP Server,写适配层,联调。

下午 2:00

配置权限。 金额 5 万以下自动审批 ,5-20 万需要主管确认,20 万以上必须 VP 签字。Agent 能看供应商报价,但不能看其他部门的预算。

from dataclasses import dataclass

from enum import Enum

class ApprovalLevel(Enum):

 AUTO = "auto" # ≤5 万,Agent 直接批

 MANAGER = "manager" # 5-20 万,推给主管确认

 VP = "vp" # >20 万,必须 VP 签字

@dataclass

class ApprovalRule:

 """采购审批权限模型——Agent 应用工程师的核心产出之一。"""

 threshold_auto: float = 50_000

 threshold_manager: float = 200_000

 # Agent 可见范围:仅采购域数据,隔离其他部门预算

 visible_scopes: tuple[str, ...] = ("purchase_order", "supplier_score")

 denied_scopes: tuple[str, ...] = ("dept_budget", "salary")

 def route(self, amount: float) -> ApprovalLevel:

  if amount <= self.threshold_auto:

   return ApprovalLevel.AUTO

  if amount <= self.threshold_manager:

   return ApprovalLevel.MANAGER

  return ApprovalLevel.VP

# 紧急采购走独立分支——这是 Agent 跑飞后补的规则

EMERGENCY_RULE = ApprovalRule(

 threshold_auto=10_000, # 紧急采购自动审批额度更低

 threshold_manager=50_000,

)

这段代码不难写——Coding Agent 十分钟就能生成。但 决定 5 万和 20 万这两个阈值 、决定紧急采购要走独立分支、决定 Agent 不能看部门预算——这些判断 来自对采购业务的理解 ,不是来自编程能力。

下午 4:00

观察生产日志。昨天有 3 笔审批被 Agent 拒绝了,原因是供应商资质过期。但其中一笔是误杀——供应商刚续了资质,系统还没同步。 调整知识同步频率 ,加一条兜底规则。

晚上 7:00

分析本周的失败案例。发现 Agent 在处理「紧急采购」时经常卡住,因为紧急采购的审批流和常规不同。 补充 Workflow 分支 ,更新 Memory,部署新版。

一天下来,小林写了多少行代码? 大概 200 行 。剩下的全是 Coding Agent 写的。

但他做的最有价值的事,没有一件是写代码: 是理解采购业务、设计权限模型、接入三个异构系统、分析失败案例、持续优化 Agent 行为。

这就是 Agent 应用工程师的日常。不是坐在 IDE 前敲键盘,而是 像一个数字员工的直属主管一样工作 ——给它定职责、配工具、设权限、看绩效、纠偏差。

7、最强反方:这个岗位会不会也被 AI 替代?

写到这里,最聪明的读者一定在想: 如果 Coding Agent 能写代码,那它是不是也能设计权限、编排 Workflow、分析失败案例? Agent 应用工程师的护城河在哪里?

这是最有力的反驳,我必须正面回应。

短期内(3-5 年),有 三件事 AI 做不了 :

第一,跨系统的「脏活」

企业的真实系统不是 API 文档里写的那样。SAP 的采购订单接口返回的字段名和文档不一致,钉钉审批流在跨组织场景下有个已知 Bug,供应商评分的 Excel 里有三种日期格式。处理这些「脏活」需要的不是智能,而是 在现场、看日志、打电话、试错 的工程判断。

第二,权限和信任的边界设计

「金额 5 万以下自动审批」这句话看起来简单,但落到真实企业里:紧急采购算不算?跨部门代采算不算?供应商是老板亲戚怎么办?这些边界不是技术问题,是 组织政治问题 。AI 可以执行规则,但设计规则需要理解人。

第三,用户信任的建立

采购部的老张用了十年手工审批,你告诉他「以后 AI 帮你批了」,他的第一反应不是「太好了」,而是「批错了谁负责?」。让一个组织接受数字员工,需要 持续证明可靠性 ——分析每一个失败案例、优化每一条规则、用数据说服怀疑者。这是运营,不是开发。

「Agent 应用工程师的护城河不是技术,而是『在真实组织的混乱中让 Agent 靠谱地跑起来』的能力。」

当然,长期来看(5-10 年),上面三件事中的部分环节会被 AI 辅助甚至自动化。但那时 Agent 应用工程师的工作内容会再次迁移——就像今天的 SRE 和十年前的运维工程师做的事已经完全不同。 岗位名称可能不变,但核心技能会持续进化 。这恰恰说明它是一个「活」的岗位,而不是一个会被一次性替代的「死」技能。

8、 和 AI 算法工程师的本质区别

把这两个岗位放在一起对比:

维度AI 算法工程师Agent 应用工程师
核心产出模型能力(准确率、推理速度)生产型 Agent(能完成业务工作)
核心技能数学、算法、训练框架业务理解、系统设计、集成、运营
工作对象数据集、Loss 函数、GPU 集群企业流程、权限模型、MCP、日志
成功标准Benchmark 分数提升业务指标改善(效率、成本、错误率)
失败模式模型不收敛、过拟合Agent 跑飞、权限泄漏、用户不信任
迭代节奏周/月(训练周期)天/小时(Prompt、工具、Workflow)
需求规模全球几百个团队每家企业都需要

一个关键区别: 算法工程师优化的是模型,Agent 应用工程师优化的是业务结果 。

企业不会因为你的模型在 MMLU 上高了 2 个点就买单。企业会因为 「采购审批从 3 天变成 3 小时,错误率从 5% 降到 0.3%」 而买单。

9、给软件工程师的建议

如果你是一个传统的软件工程师,正在思考怎么转型,我的建议是:

第一,不要恐慌,但要清醒

Coding Agent 不会消灭工程师,但会消灭「只会写代码」的工程师。如果你的全部价值是「把需求翻译成代码」,那你的确会被替代——不是被 AI 替代,是 被「会用 AI 的人」替代 。

第二,往业务走,不要往算法走

很多人一听「AI 时代」就去学 PyTorch、学 Transformer 架构。除非你真的对数学有热情,否则这不是最优路径。模型训练是资本密集型游戏,全球只需要几百个团队。但 Agent 落地是劳动密集型游戏 ,每家企业都需要人。

你的行业经验、业务理解、系统集成能力, 在 Agent 时代反而更值钱了 。

第三,学会「管理 Agent」而不是「替代 Agent」

未来的工作模式是:你指挥 Coding Agent 写代码,你指挥业务 Agent 跑流程。你的角色更像是一个 技术管理者 ——定方向、配资源、看结果、纠偏差。

第四,从今天开始练手

找一个你熟悉的业务流程,用 Coding Agent 把它变成一个 Agent,然后部署到真实环境里跑。你会立刻发现: 写代码只占 20% 的时间 ,剩下 80% 是集成、权限、异常处理、用户信任、持续优化。

这 80%,就是你未来的 核心竞争力 。

未来三到五年

我的判断是:

2026-2027

Agent 应用工程师作为岗位名称开始出现在招聘市场。早期从业者来自 FDE、解决方案架构师、全栈工程师。

2027-2028

企业开始设立「数字员工运营团队」,Agent 应用工程师成为团队核心角色。每个团队管理 10-50 个生产型 Agent。

2028-2030

Agent 应用工程师成为软件行业人数最多的岗位,超过前端、后端、测试。不是因为技术门槛低,而是因为 每一个企业的每一个业务流程都需要有人把它变成数字员工,然后持续运营它 。

这不是一个「AI 取代人」的故事。这是一个 人管理 AI 完成工作 的故事。

而管理 AI 完成工作的人,就是 Agent 应用工程师。

「AI 时代最大的机会,不是造 AI,而是用 AI 把每一个业务流程变成数字员工。做这件事的人,就是下一个十年最稀缺的人才。」

大模型的知识又多又杂,到底怎么学?

做这行久了,被问最多的问题就一个:大模型的知识又多又杂,我到底先学啥?翻了一堆资料,看啥都像重点,结果啥都没学进去。今天把我自己一路摸出来的顺序捋一遍,零基础、应届生、转行的都适用。跟着走,至少方向不乱、不瞎忙,学完拿得出手。

第一阶段(10天):初阶应用

这一阶段就一个目标:把大模型真正"玩明白",不是只会聊天那种,而是能调教它、能用代码把大模型和业务接起来。

  • 大模型 AI 能干什么?
  • 大模型是怎样获得「智能」的?
  • 用好 AI 的核心心法
  • 大模型应用业务架构
  • 大模型应用技术架构
  • 代码示例:向 GPT-3.5 灌入新知识
  • 提示工程的意义和核心思想
  • Prompt 典型构成
  • 指令调优方法论
  • 思维链和思维树
  • Prompt 攻击和防范
  • …
第二阶段(30天):高阶应用

这阶段正式进实战,目标很实在:做出两个能拿出手的东西——一个私有知识库,一个 agent 对话机器人。

  • 为什么要做 RAG

  • 搭建一个简单的 ChatPDF

  • 检索的基础概念

  • 什么是向量表示(Embeddings)

  • 向量数据库与向量检索

  • 基于向量检索的 RAG

  • 搭建 RAG 系统的扩展知识

  • 混合检索与 RAG-Fusion 简介

  • 向量模型本地部署

  • …

走完这 30 天,Python 或 JavaScript 背景的基本能独立做一套 RAG 应用,简历上也敢写"大模型应用开发"了。

第三阶段(约20天):动手微调

学到这,你已经开始 “造” 模型了 —— 通过微调,搞出垂直领域的专用小模型。

  • 为什么要做 RAG
  • 什么是模型
  • 什么是模型训练
  • 求解器 & 损失函数简介
  • 小实验2:手写一个简单的神经网络并训练它
  • 什么是训练/预训练/微调/轻量化微调
  • Transformer结构简介
  • 轻量化微调
  • 实验数据集的构建
  • …

恭喜你,如果学到这里,你基本可以找到一份大模型 AI相关的工作,自己也能训练 GPT 了!通过微调,训练自己的垂直大模型,能独立训练开源多模态大模型,掌握更多技术方案。

到此为止,大概2个月的时间。你从 “只会用” 变成 “能造” 的 AI 小子。那么你还想往下探索吗?

想要入局AI大模型赛道、抢占行业红利的朋友,微信扫描下方CSDN官方认证二维码,即可100%免费领取全套学习资料!在这里插入图片描述

第四阶段(20天):商业闭环,部署落地

技术学完,落地才算数。这阶段带你搞明白大模型怎么真正跑起来、用起来。

  • 硬件选型
  • 带你了解全球大模型
  • 使用国产大模型服务
  • 搭建 OpenAI 代理
  • 热身:基于阿里云 PAI 部署 Stable Diffusion
  • 在本地计算机运行大模型
  • 大模型的私有化部署
  • 基于 vLLM 部署大模型
  • 案例:如何优雅地在阿里云私有部署开源大模型
  • 部署一套开源 LLM 项目
  • 内容安全
  • 互联网信息服务算法备案
  • …

想要入坑大模型的朋友,给大家准备了一份2026 年最新 AI 大模型全套学习资料:

1、大模型系统化学习路线

请添加图片描述

2、大模型学习视频教程

在这里插入图片描述

3、大模型学习书籍&电子文档

在这里插入图片描述

4、AI大模型最新行业报告

img

5、大模型项目实战&配套源码

img

6、2026大模型大厂面试真题

img

7、为什么要学习大模型?

我国在A大模型领域面临人才短缺,数量与质量均落后于发达国家。2023年,人才缺口已超百万,凸显培养不足。随着AI技术飞速发展,预计到2025年,这一缺口将急剧扩大至400万,严重制约我国AI产业的创新步伐。加强人才培养,优化教育体系,国际合作并进是破解困局、推动AI发展的关键。

在这里插入图片描述

在这里插入图片描述

8、适合谁学?
  • 传统后端 / Java / 前端开发,想转型 AI 应用
  • 大学生、应届生,想拿更好的 offer
  • 产品经理、运营,想武装职业竞争力
  • 技术负责人,想给团队落地提效

学习是反人性的,但回报是真金白银。技术会更新,赛道会切换,但只要你先动手,机会就永远站在你这边。

9、这些资料真的有用吗?

这份资料由我和鲁为民博士(北京清华大学学士和美国加州理工学院博士)共同整理,现任上海殷泊信息科技CEO,其创立的MoPaaS云平台获Forrester全球’强劲表现者’认证,服务航天科工、国家电网等1000+企业,以第一作者在IEEE Transactions发表论文50+篇,获NASA JPL火星探测系统强化学习专利等35项中美专利。本套AI大模型课程由清华大学-加州理工双料博士、吴文俊人工智能奖得主鲁为民教授领衔研发。

资料内容涵盖了从入门到进阶的各类视频教程和实战项目,无论你是小白还是有些技术基础的技术人员,这份资料都绝对能帮助你提升薪资待遇,转行大模型岗位。
在这里插入图片描述
在这里插入图片描述

想要入局AI大模型赛道、抢占行业红利的朋友,微信扫描下方CSDN官方认证二维码,即可100%免费领取全套学习资料!在这里插入图片描述

好了,就写到这。路线是死的,人是活的,卡住了随时来问我。觉得有用就点个收藏,别让它进收藏夹吃灰——动起来比啥都强。

Logo

有“AI”的1024 = 2048,欢迎大家加入2048 AI社区

更多推荐