【声明】本博客所有内容均为个人业余时间创作，所述技术案例均来自公开开源项目（如Github，Apache基金会），不涉及任何企业机密或未公开技术，如有侵权请联系删除

背景

当前 AI 可以很好的辅助人干活，提高生产力，新开个专栏专门研究分析 AI 相关的内容

Agent

先说定义，AI Agent（智能体）是能够感知环境，自主决策并执行动作，来达成特定目标的智能系统，与以往被动响应指令的工具不同，Agent 具备主动性，目标导向性和持续学习能力的数字个体

其核心特征如下（区别于普通 AI 模型）

特性	说明
自主性	能在无人干预下独立运行（比如自动查邮件，写周报，订机票等）
目标驱动	所有行为服务于明确目标（比如完成用户指定的科研综述）
环境交互	不仅响应输入，还能主动探索环境（比如浏览网页，调用 API，读写文件等）
工具使用	可调用计算器，代码解释器，数据库等外部工具扩展能力
记忆与学习	记住历史交互，优化后续决策（短期上下文 + 长期知识库）
多步推理	将复杂任务拆解为子任务，比如开发一个网站这样的指令，能自动拆解为设计，编码，测试，并实现部署

简单来说，AI Agent = LLM（Large Language Model 大模型）+ 记忆 + 工具 + 规划 + 执行

举个例子，对于传统的 Chatbot（比如早期的 ChatGPT）

• 用户问：写一个 Python 脚本，计算斐波那契数列
• Chatbot 返回一段代码，然后结束

这种一问一答的形式，需要用户不断与 Chatbot 进行交互，AI 才能干活

而对于 AI Agent（比如 AutoGPT / OpenCoder）

• 用户说：开发一个能计算斐波那契数列的 Web 应用，并部署到本地
• Agent 会分析需求 → 生成 Flask 后端代码 → 编写 HTML 前端 → 自动运行测试 → 启动本地服务器 → 返回访问链接

可以看到，整个过程不需要人工介入

AI Agent 的典型架构如下（简化说明）

[用户目标]  
   ↓  
[规划器（Planner）] → 拆解任务（先写代码，再测试，再部署）  
   ↓  
[执行引擎（Executor）] → 调用工具（代码解释器、浏览器、终端等）  
   ↓  
[记忆模块（Memory）] ← 记录每一步结果，用于反思和纠错  
   ↓  
[输出/行动] → 文件、API 调用、网页操作、语音等

常用的技术栈包括

• LLM 作为大脑，比如 GPT-4，Claude，Qwen-Max
• LangChain / LlamaIndex 作为框架
• 向量数据库，用来存储长期记忆
• 沙箱环境，可以安全执行代码

当前主流的 Agent 类型总结如下

类型	代表项目	能力
单智能体	AutoGPT，OpenCoder	独立完成复杂任务
多智能体协作	MetaGPT，OpenClaw	多角色分工（比如产品经理 + 程序员 + 测试）
具身智能体	Magma，Voyager	控制机器人或虚拟角色与物理/模拟环境互动
浏览器智能体	browser-use，OpenWebAgent	像人一样操作网页

可以看到，AI Agent 不只是更聪明的聊天机器人，不仅会对话，更会行动，执行命令，当然，只有 LLM 大模型还是不够的，LLM 只是提供了 Agent 的大脑，Agent 还需要身体，需要工程架构支持（比如工具调用，错误恢复，状态管理等），目前来看，Agent 还不会完全取代人类，目前仍是作为增强辅助存在，在关键决策中，还是需要人工进行审核

在未来，Agent 的发展方向有如下趋势

• Agent OS：比如 OpenClaw，作为提供智能体运行的操作系统
• Agent Margetplace：可下载，组合不同功能的智能体（比如税务 Agent，法律 Agent）
• 个性化数字分身：个人可拥有专属 Agent 在 7 × 24 小时都在处理工作，学习和生活事务

另外，还有一个比较关键的点，实现部署 AI Agent 不一定需要联网，完全可以在本地，离线，无网络的环境下运行一个功能强大的 AI Agent

在 2023 ~ 2024 年早期，大多数 AI Agent（比如 AutoGPT）确实严重依赖

• 调用 OpenAI 的 GPT-4 API（需要联网）
• 使用云端向量数据库
• 浏览网页获取信息

所以会给人没网就瘫痪的印象，但技术发展极快，到 2025 ~ 2026，情况已经彻底改变，本地 LLM 已经崛起，一些强大且小巧的开源模型已经可以在消费级硬件，甚至笔记本上本地运行，不需要连接网络，比如

模型	参数量	推理需求	能力
Qwen-Max/Qwen2.5-72B（阿里）	72B	2×RTX4090 或 Apple M3 Ultra	接近 GPT-4
Llama-3.1-70B（Meta）	70B	同上	强大推理&编码
Phi-4（微软）	3.8B	RTX 3060 或 M2 Pro	小而精，适合 Agent 控制流
DeepSeek-Coder-V2	16B	RTX 4080	代码生成 SOTA
Gemma-2-27B（Google）	27B	高端笔记本可跑	多语言支持

这些模型可以通过 llama.cpp，Ollama，vLLM，LM Studio 等工具完全离线运行

另外，工具调用不等于联网，Agent 的工具包括

• 本地工具：比如文件读写，中断命令，Python 解释器，SQLite 数据库
• 非必须联网工具：比如只有当明确需要查天气，搜新闻时，这些工具才会主动连接网络

对于大多数自动化任务（写代码，分析 Excel，生成报告），是完全不需要网络

本地 Agent 使用场景

场景	需求	本地 Agent 优势
企业数据安全	禁止外传代码/财报	数据不出内网
政府/军工	高保密要求	完全离线运行
开发者日常	快速迭代	无 API 调用延迟，配额限制
个人隐私	日记/医疗记录	可以不上传任何内容到云端

而如下需求可以考虑联网，如获取实时信息（如股价，新闻等），调用第三方 API（发邮件，支付等），使用 GPT-4o / Claude 3.5 等闭源最强模型等，但注意，这些只是可选增强，而不是 Agent 的本质要求

---

OK，本篇先到这里，如有疑问，欢迎评论区留言讨论，祝各位功力大涨，技术更上一层楼！！！更多内容见下篇 blog
【AI】【Agent】LLM 连接（本地模型）