想入门大模型应用开发，却被各种工具搞得眼花缭乱？不知道该选框架还是平台？担心成本太高？今天这篇文章就为你梳理清楚大模型应用开发平台的全貌，从框架到商用 SaaS，重点解析实操方法和付费模式。

一、大模型应用开发平台分类

1) 框架类（代码为核心）

代表产品：LangChain、LlamaIndex、Haystack

这类工具以代码为核心，是开发者构建大模型应用的基础框架。

特点：

• 适合工程师拼接智能体和工作流
• 灵活度高，能嵌进现有后端系统
• 没有可视化界面，主要靠 Python/JS 代码实现功能

实操案例：

用 LangChain + LangGraph 搭建电商报表 Agent 的流程：

1. 通过 RAG 技术检索库存和销售数据
2. 调用 LLM 生成数据总结
3. 利用 LangGraph 控制状态流转
4. 通过 LangServe 发布成 API 供前端调用

付费情况：

• 框架本身免费（基于 MIT/Apache 开源协议）
• 观测 / 评测平台（如 LangSmith）是收费的
• 需要额外支付大模型调用费（OpenAI/Claude/DeepSeek 等）

2) 可视化工作流 / 应用平台

代表产品：Dify、Flowise、PromptFlow（Azure）、LlamaIndex Studio

这类平台提供可视化界面，降低了大模型应用开发的门槛。

特点：

• 拖拽式节点编排，低代码开发
• 内置知识库、工具市场、日志监控等功能
• 面向 "快速上线内部应用" 的需求

实操案例：

在 Dify 中搭建客服知识库机器人工作流：

1. 上传数据集建立知识库
2. 配置检索器和 Rerank 优化检索结果
3. 添加工具节点对接 ERP/CRM API
4. 配置 LLM 生成回答
5. 设置失败分支和重试机制（无需写 if else 代码）

付费情况：

• Dify：有开源版本（可自托管），云端有免费层和企业版
• Flowise：完全开源，部署容易，但功能没有 Dify 全面
• 适合小团队先自建，等规模扩大再考虑付费版本

3) 智能体构建 / 分发平台

代表产品：Coze、Poe、Botpress、ChatGPT GPTs

这类平台专注于智能体（Bot）的构建和多渠道分发。

特点：

• 面向 "Bot + 渠道分发"，适合运营和客服场景
• 配置化上手快，能多平台发布（Discord、Telegram、网站等）

实操案例：

用 Coze Studio 快速搭建电商客服 Bot：

1. 上传商品 FAQ 建立知识库
2. 配置下单工具
3. 发布到 Telegram
4. 直接作为电商客服使用
5. 用 Coze Loop 在公司内网做评测与监控

付费情况：

• Coze：Studio 基础功能免费（功能有限），高级功能和大模型调用要付费；Loop 开源（Apache-2.0），但模型调用仍需付费
• Poe：纯商用，采用订阅制

4) 大厂生态平台

代表产品：Azure AI Studio（PromptFlow）、AWS Bedrock、Google Vertex AI、百度千帆、字节火山方舟

这类平台由云服务大厂提供，整合了其生态内的各种资源。

特点：

• 提供全栈服务：模型托管、数据管理、工作流、部署等
• 优势在于与云服务（数据库、消息队列、存储）深度集成

实操案例：

在 Azure AI Studio 用 PromptFlow 搭建报表生成应用：

1. 从 SQL 数据库获取数据
2. 用 PromptFlow 进行数据预处理
3. 调用 GPT-4o 生成报表
4. 对接 Power BI 实现可视化展示

付费情况：

• 全部按量付费，模型调用和云存储是主要成本
• 适合企业项目，不太适合学生个人学习使用

二、选择路径

• 要练工程功底：玩 LangChain/LlamaIndex，写 agent，把 Python 技能升级。

• 要出成果给老板看：Dify 自托管，快速拉一个电商运营助手/报表生成工作流。

• 要搞电商客服/营销：Coze，10 分钟出 Bot，上线多渠道。

• 要走企业实习路线：学会 Azure AI Studio 或 AWS Bedrock，用云厂商的生态，你的履历更加硬核。