第 7 篇 Dify 应用介绍 + 聊天助手&Agent 应用关键点说明
本文介绍了Dify应用的核心概念与使用方法。Dify是基于大模型构建的实际场景应用,提供API、WebApp和易用界面。包含5种应用类型:聊天助手、文本生成、Agent、对话流和工作流。创建方式有模板创建、空白应用和DSL文件三种。重点讲解了聊天助手和Agent应用的关键功能:聊天助手支持提示词优化、知识库引用、文件处理等;Agent应用则强调推理能力、工具调用和任务自动化。文章还详细介绍了应用的
文章目录
🚀 目标:
1、了解什么是 Dify 应用
2、Dify 应用有哪几种类型
3、创建 Dify 应用的几种方法
4、聊天助手 应用的关键点说明
5、Agent 应用的关键点说明
Dify 应用简介
Dify 应用是什么?
Dify 应用:指基于大模型构建的实际场景应用。
简而言之,一个应用为开发者交付了:
- 封装友好的 API,可由后端或前端应用直接调用,通过 Token 鉴权
- 开箱即用、美观且托管的 WebApp,可以基于 WebApp 的模板进行二次开发
- 一套包含提示词工程、上下文管理、日志分析和标注的易用界面
Dify 应用类型 - 5 种
1️⃣ 聊天助手:基于 LLM 构建对话式交互的助手。不支持工具调用(Function Calling)。
2️⃣ 文本生成应用:面向文本生成类任务的助手,比如撰写故事、文本分类、翻译等
3️⃣ Agent:能够分解任务、推理思考、调用工具的对话式智能助手
4️⃣ 对话流:适用于定义等复杂流程的多轮对话场景,具有记忆功能的应用编排方式
5️⃣ 工作流:适用于自动化、批处理等单轮生成类任务的场景的应用编排方式
创建应用 - 3 种方式
1️⃣ 基于应用模板创建 【新手推荐】:内置多场景、高质量的应用模板,可直接从模板创建
2️⃣ 创建一个空白应用:自行制定应用类型、应用名称、应用图标、并编辑。
3️⃣ 通过 DSL 文件(本地/在线):DSL 文件是由 Dify 定义的 AI 应用工程文件标准,格式为 YML,其标准涵盖应用在 Dify 内的基本描述、模型参数、编排配置等信息。
聊天助手 - 关键点说明
聊天助手:一问一答模式,与用户持续对话。
适用场景:客户服务、在线教育、医疗保障、金额服务等领域,可帮助组织提高工作效率、减少人工成本和提供更好的用户体验。
编排支持:支持对话前提示词、变量、上下文、开场白和下一步问题建议。
关键点 1:提示词生成器
提示词生成器用于生成/优化提示词,约束 AI 给出专业的回答,以获得更高的质量和更好的结构。提示词内支持插入表单变量,比如 {{input}}
,变量的值会替换成用户填写的值。
【提示词,不会被用户看到】
关键点 2 - 对话开场白
为了更好的用户体验,支持在对话时添加开场白,并且支持添加多个开场问题(便于用户快速体验)。
关键点 3 - 添加上下文:知识库
如果想要 AI 的对话范围局限在知识库内,可在上下文中引用知识库。
关键点 4 - 上传文件
部分多模块 LLM 已原生支持处理文件,可上传文件实现文件识别能力。.
关键点 5 - 调试与预览
可对应用进行调试与预览,如果 LLM 给出的回答结果不理想,可调整提示语或切换不同底层模型进行效果对比。可尝试使用多模型调试功能,同时查看多个模型的返回结果。
关键点 6 - 发布应用
发布应用,会生成独立的 AI 应用。
使用方式:支持通过 URL 链接、API、或内嵌到业务网站等方式。
关键点 7 - 应用工具箱
点击右下角“管理”,即可打开应用工具箱。
1️⃣ 对话开场白:支持设置开场白及开场问题。便于引导用户提问,交代应用背景,降低对话提问的使用门槛。
2️⃣ 下一步问题建议:在每次对话交互后,让 AI 根据之前的对话内容继续生成 3 个提问,引导下一轮对话。
3️⃣ 文字转语音【输出】:可将 AI 回复的内容转换成自然的语音播放。
4️⃣ 语音转文字【输入】:可在应用内录音并将语音自动转换为文本。
5️⃣ 引用与归属【知识库】:当 LLM 引用知识库内容来回答问题时,可以在回复内容下面查看到具体的应用段落信息,包括原始分段文本、分段序号、匹配度等。
6️⃣ 敏感内容审查
7️⃣ 标注回复:通过人工编辑标注为应用提供了可定制的高质量问答回复能力。相当于提供了另一套检索增强系统,可以跳过 LLM 的生成环境,规避 RAG 的生成幻觉问题。【对 LLM 回复的高质量答案进行标注,下次用户再问类似问题时,直接将问题向量化并查询与之类似的标注问题,如果找到了,则返回,如果没找到,则走常规的 LLM 或 RAG 流程】
Agent 应用 - 关键点说明
智能助手 Agent Assistant,利用 LLM 的推理能力,能够自主对复杂的人类任务进行目标规划、任务拆解、工具调用、过程迭代,并在没有人类干预的情况下完成任务。
注意事项:选择的模型需具备较好的推理能力,LLM 推理能力决定了 Agent 的任务完成能力。
关键点 1 - 提示词
提示词中可明确它的任务目标、工作流程、资源和限制等。
关键点 2 - 工具调用
工具的作用:扩展 LLM 的能力,比如联网搜索、科学计算、绘制图片、制作 PPT 等,赋予并增强了 LLM 连接外部世界的能力。
工具类型:
1️⃣ 第一方工具:使用 Dify 生态提供的第一方内置工具
2️⃣ 自定义工具:轻松导入自定义的 API 工具(目前支持 OpenAPI / Swagger 和 OpenAI Plugin 规范)【等于就是 HTTP API 接口,可以导入并使用】
如何使用工具?在对话框中谈及需要调用的某个工具的名字,即可自动调用该工具。
关键点 3 - Agent 设置
Dify 为 Agente 提供了两种推理模式:
- Function calling(函数调用):适合支持 Function Call 的模型
- ReAct:适合尚未支持 Function Call 的模型,使用 ReAct 推理框架实现类似的效果
同时,可以修改推理的最大迭代次数。
参考
相关博文
1.第 1 篇 Linux 下部署 Dify 1.7.1
2.第 2 篇 Dify 插件离线安装
3.第 3 篇 Dify 入门示例 - 聊天助手
4.第 4 篇 Dify 示例:数据库执行Agent
5.第 5 篇 Dify 报错解决:The length of output variable xxx
must be less than 30 elements
6.第 6 篇 Dify 接入大模型并使用
7.第 7 篇 Dify 应用介绍 + 聊天助手&Agent 应用关键点说明
更多推荐
所有评论(0)