AI Infra：从 ad‑hoc 到 just‑in‑time，是 Agent 发展的重要方向

○可规模化的企业落地○安全与合规○多 Agent 协作与动态编排。

小马不会过河

860人浏览 · 2026-01-08 14:59:33

小马不会过河 · 2026-01-08 14:59:33 发布

一、基本概念的阐述

1.1 ad‑hoc（临时型 Agent / 集成）

“ad‑hoc agents / ad‑hoc 集成”大致有几个典型特征：

●为某个具体任务/业务线 临时拼出来 的 Agent 或集成：

○手写 prompt + 若干工具调用

○写死调用某个 API、某个内部服务

●没有统一的身份、权限、审计和治理：

○谁能调？调了什么？改了什么？很难在全局追踪

○各团队各写各的，慢慢变成一堆“影子 IT”

●很难复用和扩展：

○要换一个流程，就得“再造一个 Agent”

○API 变动、权限策略调整时，维护成本极高

可以把它理解为：“脚本时代的 Agent”——能跑，但不成体系。

1.2 just‑in‑time app / on‑demand app / ephemeral UI

“just‑in‑time app”可以抽象成三个核心特征：

1.2.1. 按需生成（on‑demand / just‑in‑time）

○用户或上层 orchestrator 给出一个意图（intent），系统临时组合：

▪若干 Agent 能力

▪若干数据源

▪若干 UI 组件

○生成一个“微应用”/界面，服务于当下这一次任务

1.2.2. 生命周期短（临时性 / ephemeral）

○任务结束 → UI 消失、Agent 进程释放、临时身份和权限被回收

○Medium 等文章把这类界面称为 “Ephemeral UI（短暂 UI）”：

不是预先设计好的页面，而是由 Agent 在运行时为当前任务“现搭一个小工具”

1.2.3. 配合 JIT 身份 / 权限 / 资源

○安全和身份管理文章不断强调：对 Agent 应用，要从 ad‑hoc 访问转向 Just‑in‑Time 权限和身份：

▪调用某个系统之前临时发一个短期凭证（token）

▪权限严格限定在本次任务、本次调用

▪用完即吊销，以降低横向移动和越权风险

所以，“just‑in‑time app”在 Agent 世界里并不仅仅是“即时写代码生成一个 App”，更像是：

在某个具体意图触发时，系统自动、临时性地把合适的 Agent 能力 + 数据 + UI 拼成一个一次性的“小应用”，并配套临时身份/权限。

二、为什么说“从 ad‑hoc → just‑in‑time app”是主方向之一？

从技术演进、经济与安全、标准生态三个角度看。

2.1 技术演进：从单 Agent 到“按需组装的能力网络”

比较有代表性的阶段划分：

2.1.1 Phase 1：Agentic Assistants（2024–2025）

○主要是单个 Agent + 若干工具（通过 MCP 之类协议）完成一个相对固定的任务

○形态往往接近 ad‑hoc：

▪一个“旅行 Agent”、一个“代码 Agent”、一个“客服 Agent”，各自有自己的工具集和逻辑

2.1.2 Phase 2：Agentic Intranets（2025–2026）

○出现 Agent‑to‑Agent 协议（A2A），再加上 MCP 这类标准化工具协议，企业内部开始构建：

▪多 Agent 协作

▪动态路由和编排

○这时候，“应用”不再是预定义好的，而是：

▪根据任务临时选哪些 Agent 加入“团队”

▪临时暴露哪些 UI 片段，构成一个一次性“应用”界面

2.1.3 Phase 3：Internet of Agents（2027+，愿景阶段，仅是推测如此）

○可以跨组织、跨云地按意图 自动发现、组合 Agent

○“应用”的概念进一步变弱，变成：

▪用户给出一个高层意图

▪系统在背后拼出一组 Agent 协作流程

▪在本地浏览器/桌面/设备上生成必要的暂态 UI（just‑in‑time app），用完即弃

“从 ad‑hoc 升级到 just‑in‑time app”，本质就是从 Phase 1 的“一个个独立 Agent”向 Phase 2–3 的“按需组合的能力网络 + 暂态微应用”过渡——这在当前的路线图里，确实属于核心趋势而不是边角方向。

2.2 经济与工程现实：为什么 ad‑hoc 走不远，而 JIT 更有生命力？

ad‑hoc 模式的问题：

●每个 Agent 都是小项目：

○新需求 = 新 Agent

○跨部门协作 = 再堆一个 Agent

●维护地狱：

○API 改一处，要改一堆 prompt/脚本

○安全策略、审计要求一变，所有 ad‑hoc Agent 都得翻修

●在安全和合规部门眼里是“黑盒风险源”：

○权限怎么下发的不清楚

○哪个 Agent 在什么时候改了哪个系统，很难全局追踪

just‑in‑time app / on‑demand 模式的优势：

2.2.1 开发效率

○重复的是“能力”而不是“应用壳”：

▪把“查订单”“更新合同”“走审批”等封装为标准化工具/Agent 能力

▪具体长什么 UI、不同行业怎么拼，只在运行时按需组合

○有报告预测：在这种模式下，大量业务应用从“开发周期几个月”缩短到“几天甚至几小时”，特别是内部工具场景

2.2.2 运营与治理

○所有能力通过共同的协议层（如 MCP、A2A）暴露，便于集中治理：

▪统一日志

▪统一权限策略

▪统一审计与回滚

2.2.3 安全：JIT 身份 & 权限是从 ad‑hoc 走向规模化的前提

○多篇安全和 IAM 文章明确指出：

▪今天大量 Agent 身份管理是 ad‑hoc 的（临时 token、共享账号、写死的 API Key） → 不可接受

▪推荐模式是：

▫Just‑in‑Time 生成 Agent 身份和凭证

▫权限严格限定在当前任务/时间窗

▫用完销毁

○而 JIT app/ephemeral UI 的模式，天然就适合配合 JIT 身份/权限：

▪应用本身就是一次性的

▪不需要长期持有高权限

2.2.3 标准生态：从 ad‑hoc 集成到“协议 + 组件化能力”

2025–2026 这一波，有几个“拐点式”的事件：

●MCP（Model Context Protocol）

规范了“模型如何安全、标准地调用外部工具与资源”，从早期“各家 ad‑hoc 地给 LLM 挂工具”转向一个统一的“工具协议层”。

●A2A（Agent‑to‑Agent）协议

明确提出“Agent 不再只是和人对话，而是必须彼此通信”，进而需要标准化的交互方式——而非 ad‑hoc 的 HTTP+JSON 拼接。

●两者都被捐给开源基金会做标准化，这表明业界已经不满足于 ad‑hoc 拼接 Agent，而是要把 Agent 本身变成一个个可注册、可发现、可组合的“能力节点”。

在这种生态下，业务“应用”很自然就演化为：某一时刻对能力网络的一个“临时切片”，即你说的 just‑in‑time app。

三、如果你在做 Agent 产品 / 架构，应该怎么顺势演进？

3.1 不要再“造一个完整 Agent App”，而是“暴露能力 + 编排层”

建议的设计重心：

●把每个 Agent 能做的事抽象成：

○能力声明（schema）

○输入 / 输出约束

○所需权限范围

●让一个上层 orchestrator / workflow 引擎，按用户意图 动态选择和组合这些能力：

○有点像“微服务 + API Gateway”，但这里是“多 Agent + Orchestrator”

3.2 接受“App 是一次性快照”的思维：以 task 为中心，而不是以 App 为中心

如果我们在做的是前端 / 交互层：

●把 UI 视为 短暂的任务界面（ephemeral UI），而不是长期稳定的 App：

○“帮我生成一份合同比对视图”

○“给我一个一次性的审批界面”

○“帮我做一个临时的销售看板”

●让 Agent 在运行时生成这个界面的布局、字段、操作按钮：

○任务完成 → 界面销毁

○只保留数据与审计记录，而不是界面本身

这比去做一个“全功能 Agent App”更符合趋势，也更可扩展。

3.3 在安全/治理上，刻意从 ad‑hoc 转向 JIT

如果 Agent 在企业落地，这一步非常关键：

●禁止：

○Agent 共用高权限长周期 token

○在代码/Prompt 里硬编码凭证

●推荐：

○为每个 Agent/每次任务申请短效凭证（JIT token）

○所有凭证/调用流通过统一的身份网关

○全量日志：谁触发 → 哪个 Agent → 以谁的身份 → 调了哪个系统 → 做了什么修改

3.4 思考一个“演进路线图”而不是一次性重构

对于已经有一堆 ad‑hoc Agent 的团队，可以这样分阶段演进：

1.梳理存量 ad‑hoc Agent：

○抽出其中可复用的“能力”（工具、API、流程片段）

○统一收口到类似 MCP 的工具层或自己的能力注册中心

2.搭建简单的 orchestrator / workflow 层：

○先从少数典型任务入手，让这些任务可以按需组合能力，而不是直连具体 Agent

3.引入 JIT 身份 & 审计：

○所有新建的流程一律走 JIT 模式

○逐步把老的 ad‑hoc 流程迁到新模式下

4.最后再考虑 UI 的 Ephemeral 化：

○先做“Agent‑中心”的 JIT 能力

○再做“用户界面”的 JIT（just‑in‑time apps / ephemeral UI）

四、总结：从“做一个 Agent”到“做一个 JIT 能力网络 + 临时应用层”

4.1 在以下领域，just‑in‑time 是主流路线：

○可规模化的企业落地

○安全与合规

○多 Agent 协作与动态编排

4.2 其他趋势：

○多 Agent 编排与“Agent 团队”

○从单大模型到多模型/小模型混用（cost/perf FinOps）

○强治理、强 observability 的 Agent 平台化

○行业垂直化（vertical agents）

如何学习大模型 AI ？

由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

在这里插入图片描述