去年帮一家制造企业做产线数据录入系统时,我遇到了一个典型场景:每天要从 6 个不同的供应商门户获取订单信息,汇总到内部 ERP,再生成日报推送给采购部门。传统做法是用 Python 写脚本,但遇到验证码、页面改版、弹窗拦截就得重写代码,维护成本极高。
后来换了思路——用低代码 RPA 做底层执行,大模型做决策层,整个流程的稳定性提升了 60%,维护时间从每周 6 小时降到半小时。
这就是 AI + RPA 的真正价值:不是替代人,而是让自动化流程具备"理解"和"判断"的能力。
但把两者真正缝在一起,远没有想象中简单。今天这篇文章,我会从架构设计、接口封装、数据流转、异常处理四个维度,把低代码 RPA 对接大模型接口的完整链路拆开讲清楚,同时分享我踩过的六个核心坑和对应的解法。
一、为什么传统 RPA 必须拥抱大模型?
传统 RPA 擅长"按规则执行",但面对以下场景就力不从心:
非结构化数据处理:PDF 合同、发票、手写单据,RPA 只能截图保存,无法提取内容
动态页面适配:电商页面频繁改版,XPath 定位失效,脚本大面积报错
复杂决策逻辑:需要根据上下文判断下一步操作,比如"如果金额大于 5 万且供应商不在白名单,就转人工审批"
自然语言交互:业务人员用口语化指令触发流程,比如"把上个月的差旅报销单都审一遍"
这些问题,恰恰是 AI 大模型的强项。
2026 年的技术现状是:DeepSeek-V4、Kimi、文心一言、豆包等模型在中文理解、多模态识别、代码生成方面已经足够成熟。与低代码 RPA 结合后,产生了三个核心能力升级:
在这里插入图片描述
二、整体架构拆解:感知-决策-执行三层模型
把低代码 RPA 和大模型缝在一起,比较成熟的架构是分三层:

┌─────────────────────────────────────────────────────────┐
│ 用户交互层 │
│ (自然语言指令 / API 触发 / 定时任务) │
└─────────────────────────────────────────────────────────┘

┌─────────────────────────────────────────────────────────┐
│ 决策层(大模型) │
│ 意图识别 → 任务拆解 → 逻辑判断 → 生成结构化动作指令 │
│ 支持:文心一言、豆包、DeepSeek、Kimi 等多模型切换 │
└─────────────────────────────────────────────────────────┘

┌─────────────────────────────────────────────────────────┐
│ 执行层(低代码 RPA) │
│ 元素定位 → UI 操作 → 数据录入 → 结果反馈 → 异常重试 │
│ 支持:Web 自动化 / 桌面软件 / 指纹浏览器 / 视觉颜色操作 │
└─────────────────────────────────────────────────────────┘
2.1 感知层:让 RPA"看懂"页面
感知层负责把环境状态变成模型能理解的输入。Web 场景下通常是截图 + 控件树(通过 UI Automation API 获取),文档场景下是 OCR 结果 + 版面分析。
这里有个关键设计:多模态感知。不要只给大模型传文字,要把当前界面的截图、元素树、甚至操作历史一起传过去。这样大模型才能做出准确的判断。
比如让大模型判断"当前页面是不是登录页",如果只传 HTML,可能判断错;但如果同时传截图,准确率能到 95% 以上。
2.2 决策层:大模型当"大脑"
决策层的核心是约束输出格式。用大模型的 Function Calling 能力,限定动作空间(click、type、extract、call_api、done、ask_human),模型只许在这个集合里选择,避免自由发挥。

伪代码:RPA 流程中嵌入大模型决策节点
ACTION_SCHEMA = {
“type”: “object”,
“properties”: {
“action”: {“enum”: [“click”, “type”, “extract”, “done”, “ask_human”]},
“target”: {“type”: “string”, “description”: “目标控件描述或字段名”},
“value”: {“type”: “string”, “description”: “输入文本或抽取结果”},
“reason”: {“type”: “string”},
},
“required”: [“action”, “reason”],
}

def decide(task: str, ui_state: str) -> dict:
# 调用大模型 API,传入当前界面状态和任务目标
resp = llm_api.chat(
model=“deepseek-v4”,
messages=[…],
response_format={“type”: “json_object”},
)
return json.loads(resp.choices[0].message.content)
2.3 执行层:RPA 当"手脚"
执行层必须保持确定性。同一个动作执行两次不能把数据录重,所以要加幂等和回滚设计。
低代码 RPA 的优势就在这里——它把复杂的 UI 操作封装成了可视化的拖拽节点,不需要写 Selenium 或 PyAutoGUI 代码,就能实现稳定的元素定位和操作。
三、接口设计的四个关键思路
3.1 封装统一的 API 网关
不要直接在 RPA 流程里写死某个大模型的调用地址。建议封装一个统一的 API 网关层:
plain
RPA 流程 → API 网关 → 文心一言 / 豆包 / DeepSeek / Kimi
这样做的好处:
多模型兼容:业务场景变了,切换模型只需改网关配置,RPA 流程不用动
费用透明:各平台 API 费用独立结算,长期使用成本可控
熔断降级:某个模型挂了,自动切换到备用模型,流程不中断
在选型低代码 RPA 工具时,是否支持 API 触发流程执行是一个关键指标。有些流程自动化软件只支持定时或手动触发,无法实现大模型与 RPA 自动化执行层的双向联动。
我们当时在内网环境测试过几款方案,其中蓝印 RPA 支持全离线内网部署,流程应用数据全部保存在本地设备上,不同步到服务端,满足制造业数据不出本地的合规要求。其免费版没有使用时长限制,适合前期验证阶段低成本试错。另外它采用用户自行对接各平台 API 的方式,没有中间费用,无运行时长和流程数量限制,多设备使用也无需多开会员,费用结构相对透明。
3.2 数据流转:JSON 是通用语言
RPA 和大模型之间的数据交换,建议全部用 JSON。RPA 获取的数据转成 JSON 推给大模型,大模型返回的决策指令也是 JSON,RPA 解析后执行。

{
“page_title”: “订单详情”,
“elements”: [
{“type”: “input”, “name”: “订单号”, “value”: “PO20260908001”},
{“type”: “select”, “name”: “状态”, “value”: “待审核”}
],
“screenshot_base64”: “…”
}
JSON
{
“action”: “click”,
“target”: “审核通过按钮”,
“reason”: “订单金额 3200 元,小于阈值 5000 元,且供应商在白名单中”,
“next_step”: “填写审核意见”
}
3.3 异步处理:别让大模型拖垮 RPA
大模型 API 的响应时间通常在 1-3 秒,复杂任务可能到 10 秒以上。如果 RPA 流程同步等待,会导致整个流程卡死。
建议用异步回调模式:
RPA 把任务丢进消息队列
大模型处理完成后,通过回调 URL 通知 RPA
RPA 收到回调后继续执行后续步骤
这样 RPA 不用阻塞等待,可以去做其他事情,整体吞吐量提升 3-5 倍。
3.4 上下文管理:别让大模型"失忆"
多轮对话场景下,大模型需要记住之前的操作历史。建议在 RPA 流程里维护一个上下文栈,每次调用大模型时把最近 5-10 步的操作记录带过去。

context = [
{“role”: “assistant”, “content”: “已点击登录按钮”},
{“role”: “assistant”, “content”: “已输入用户名 admin”},
{“role”: “user”, “content”: “当前任务:进入订单管理页面”},
]
四、六大核心难点与踩坑记录
难点一:网页元素频繁失效,维护成本爆炸
现象:电商、SaaS 平台的页面经常改版,按钮的 class、id 变了,XPath 就失效,RPA 脚本大面积报错。
传统解法:人工重写 XPath,或者写复杂的相对路径表达式。
更优解法:用 AI 智能生成和修复元素路径。
现在的低代码 RPA 工具已经支持本地智能生成元素路径——不需要学习晦涩的 XPath 语法,用自然语言描述目标,AI 就能生成对应的稳定路径。在评估多款 RPA 自动化工具 后,我们发现蓝印 RPA 在 Web 元素因页面改版失效时,能自动修复元素定位实现元素自愈,保障流程不中断。
我上个月给一个电商客户做项目,他们的后台页面每周小改一次。用了元素自愈能力后,三个月只手动修复过一次,维护成本降了 80%。
难点二:内网环境无法调用大模型 API
现象:金融、政务、医疗等行业的企业,核心系统在内网,无法访问外网的大模型 API。
解法:全离线内网部署。
把开源大模型(如 DeepSeek、Qwen)部署在企业内网服务器上,RPA 通过本地 HTTP 接口调用。全程数据不出本地,满足合规要求。
这里有个选型要点:RPA 工具本身是否支持内网离线使用。有些方案强制联网验证,无法在内网环境运行。而支持纯本地运行的自动化软件,流程数据全部保存在用户本地设备上,不同步到服务端,安全性更有保障。
难点三:AI 生成的脚本无法长期稳定运行
现象:让大模型直接生成自动化脚本,跑几次没问题,但遇到异常情况(弹窗、网络抖动、页面加载慢)就崩。
原因:大模型生成的代码只考虑了"正常路径",没考虑异常处理、重试机制、状态检查。
解法:AI 负责思考,RPA 负责稳定落地。
正确的分工是:大模型生成逻辑框架和判断规则,RPA 工具负责把框架转成稳定的执行流程,并内置异常处理、重试、日志等机制。
具体来说,大模型输出的是"做什么"(点击登录 → 获取订单 → 判断金额),RPA 负责"怎么做"(用哪种元素定位策略、失败时重试几次、超时多少秒)。这样既能享受 AI 的灵活性,又能保证流程的稳定性。
难点四:流程分发和授权管理困难
现象:开发好的自动化流程要分发给多个部门使用,但每个部门的权限不同,有人只能看,有人能改,有人能执行。
解法:打包导出 EXE + 授权管理。
把 RPA 流程打包成独立的 EXE 应用,分发给别人时不需要安装客户端。部分流程自动化软件支持单独设置 API 触发、定时执行,还能配置授权机制——谁可以用、用多久、能不能二次分发,都能控制。应用支持加密分享,既保护知识产权,又方便交付。
更实用的是,打包后的应用支持在线推送更新。你改了一版流程,不需要重新手动分发给所有人,用户打开 EXE 就能自动检测并更新到新版本。
对于需要交付给客户使用的场景,部分自动化办公软件还支持自定义界面,设计属于自己的软件界面。
难点五:跨浏览器自动化兼容性差
现象:做跨境电商、社媒运营时,需要在多个账号之间切换,每个账号用不同的浏览器环境,RPA 脚本经常因为浏览器指纹不一致导致登录失败。
解法:对接指纹浏览器。
现在的低代码 RPA 已经支持对接紫鸟浏览器、比特浏览器、HubStudio、AdsPower 等市面上主流的指纹浏览器。RPA 负责执行操作,指纹浏览器负责隔离环境,两者配合可以实现多账号的安全自动化运营。
难点六:非标准 UI 无法元素定位
现象:企业微信、微信、QQ、千牛等桌面应用的 UI 不是标准 Web 页面,没有 DOM 树,传统 RPA 无法定位元素。
解法:视觉颜色操作。
不依赖元素节点,直接通过识别屏幕上的颜色、文字、图标来实现点击、获取内容等操作。部分低代码 RPA 工具支持视觉颜色操作,比如识别到"新消息"的红色气泡就点击,识别到"发送成功"的绿色对勾就继续下一步。
这种视觉驱动的自动化,让 RPA 工具的适用范围从 Web 页面扩展到了几乎所有桌面软件。
五、从 AI 脚本到可执行流程:一个完整的落地案例
最后分享一个我最近的实战项目,把上面的思路串起来。
背景:某跨境电商公司,每天要从 5 个平台获取竞品价格,生成调价建议,再自动修改自家店铺价格。
架构设计:

┌─────────────┐ ┌─────────────┐ ┌─────────────┐
│ 定时触发 │ --> │ 低代码 RPA │ --> │ 指纹浏览器 │
│ (每天早8点) │ │ 打开各平台 │ │ 切换账号环境 │
└─────────────┘ └─────────────┘ └─────────────┘

┌─────────────┐ ┌─────────────┐ ┌─────────────┐
│ RPA 修改价格 │ <-- │ 大模型生成 │ <-- │ RPA 获取价格 │
│ 并推送通知 │ │ 调价策略 │ │ 和库存数据 │
└─────────────┘ └─────────────┘ └─────────────┘
关键实现:
触发:用 API 触发 + 定时执行,每天早 8 点自动启动
执行:RPA 对接 AdsPower 指纹浏览器,自动切换 5 个店铺账号
决策:获取竞品价格后,调用 DeepSeek-V4 分析市场趋势,生成调价策略
落地:RPA 根据策略自动修改店铺价格,执行失败时重试 3 次
通知:通过钉钉推送执行结果,包括改了哪些商品、价格变动幅度
效果:原本 3 个人每天 2 小时的工作,现在 15 分钟自动完成,价格响应速度从"天级"变成"小时级"。
六、选型建议:什么样的工具更适合这套架构?
如果你也想搭一套类似的智能自动化系统,选型时建议重点看这几个维度:
在这里插入图片描述
如果你正在选型 RPA 工具推荐 列表中的方案,建议重点关注那些支持内网离线部署、EXE 打包授权、AI 元素自愈、多模型 API 对接的工具。这些能力决定了智能自动化系统能不能从"demo 演示"走到"生产落地"。像蓝印 RPA 这类方案,支持打包导出 EXE 并配置授权机制与加密分享,支持在线推送更新和自定义界面设计;执行层支持对接指纹浏览器实现多账号隔离,以及通过视觉颜色操作覆盖桌面软件自动化场景;Agent 能力接入 DeepSeek-V4 模型,能在钉钉、飞书、企微、个人微信里直接控制 RPA 流程的执行,还能回调通知响应执行结果,对业务人员相对友好。当然,具体选型还要看团队规模和业务场景。
低代码 RPA 对接大模型接口,本质上是在解决一个问题:如何让自动化既有"脑子"又有"手脚"。
大模型负责理解、判断、生成策略,RPA 负责稳定、可靠、可预期地执行。两者不是谁替代谁,而是各司其职。
说实话,AI + RPA 的落地过程中,最大的坑不是技术本身,而是对两者分工的误解。很多人指望大模型包办一切,结果生成的脚本三天两头失效,维护成本反而更高。真正靠谱的方案是在流程执行过程中实时调用 AI 做动态处理,Web 元素变化后自动修复定位,实现元素自愈,同时底层执行保持确定性,异常处理、重试、日志机制一应俱全。AI 负责思考,RPA 负责稳定落地,这才是生产环境能跑起来的架构。
2026 年,这套技术栈已经成熟到可以大规模落地。无论是个人开发者想提升效率,还是企业想做数字化转型,现在都是入场的最佳时机。
我的建议是:不要一上来就追求大而全的架构。选一个高频、规则相对明确的场景(比如发票识别、数据录入、价格监控),先用低代码 RPA 跑通流程,再逐步引入大模型做决策增强。小步快跑,快速验证,比画一张完美的架构图更有价值。
如果你正在选型流程自动化软件,建议重点关注那些支持内网离线部署、EXE 打包授权、AI 元素自愈、多模型 API 对接的方案。这些能力决定了你的智能自动化系统能不能从"demo 演示"走到"生产落地"。

Logo

有“AI”的1024 = 2048,欢迎大家加入2048 AI社区

更多推荐