🚀 目标:

1、了解什么是 Dify 应用

2、Dify 应用有哪几种类型

3、创建 Dify 应用的几种方法

4、聊天助手 应用的关键点说明

5、Agent 应用的关键点说明

Dify 应用简介

Dify 应用是什么?

Dify 应用:指基于大模型构建的实际场景应用。

简而言之,一个应用为开发者交付了:

  • 封装友好的 API,可由后端或前端应用直接调用,通过 Token 鉴权
  • 开箱即用、美观且托管的 WebApp,可以基于 WebApp 的模板进行二次开发
  • 一套包含提示词工程、上下文管理、日志分析和标注的易用界面

Dify 应用类型 - 5 种

1️⃣ 聊天助手:基于 LLM 构建对话式交互的助手。不支持工具调用(Function Calling)。

2️⃣ 文本生成应用:面向文本生成类任务的助手,比如撰写故事、文本分类、翻译等

3️⃣ Agent:能够分解任务、推理思考、调用工具的对话式智能助手

4️⃣ 对话流:适用于定义等复杂流程的多轮对话场景,具有记忆功能的应用编排方式

5️⃣ 工作流:适用于自动化、批处理等单轮生成类任务的场景的应用编排方式

创建应用 - 3 种方式

1️⃣ 基于应用模板创建 【新手推荐】:内置多场景、高质量的应用模板,可直接从模板创建

2️⃣ 创建一个空白应用:自行制定应用类型、应用名称、应用图标、并编辑。

3️⃣ 通过 DSL 文件(本地/在线):DSL 文件是由 Dify 定义的 AI 应用工程文件标准,格式为 YML,其标准涵盖应用在 Dify 内的基本描述、模型参数、编排配置等信息。

聊天助手 - 关键点说明

聊天助手:一问一答模式,与用户持续对话。

适用场景:客户服务、在线教育、医疗保障、金额服务等领域,可帮助组织提高工作效率、减少人工成本和提供更好的用户体验。

编排支持:支持对话前提示词、变量、上下文、开场白和下一步问题建议。

关键点 1:提示词生成器

提示词生成器用于生成/优化提示词,约束 AI 给出专业的回答,以获得更高的质量和更好的结构。提示词内支持插入表单变量,比如 {{input}},变量的值会替换成用户填写的值。

提示词,不会被用户看到

关键点 2 - 对话开场白

为了更好的用户体验,支持在对话时添加开场白,并且支持添加多个开场问题(便于用户快速体验)。

关键点 3 - 添加上下文:知识库

如果想要 AI 的对话范围局限在知识库内,可在上下文中引用知识库。

关键点 4 - 上传文件

部分多模块 LLM 已原生支持处理文件,可上传文件实现文件识别能力。.

关键点 5 - 调试与预览

可对应用进行调试与预览,如果 LLM 给出的回答结果不理想,可调整提示语或切换不同底层模型进行效果对比。可尝试使用多模型调试功能,同时查看多个模型的返回结果。

关键点 6 - 发布应用

发布应用,会生成独立的 AI 应用。

使用方式:支持通过 URL 链接、API、或内嵌到业务网站等方式。

关键点 7 - 应用工具箱

点击右下角“管理”,即可打开应用工具箱。

1️⃣ 对话开场白:支持设置开场白及开场问题。便于引导用户提问,交代应用背景,降低对话提问的使用门槛。

2️⃣ 下一步问题建议:在每次对话交互后,让 AI 根据之前的对话内容继续生成 3 个提问,引导下一轮对话。

3️⃣ 文字转语音【输出】:可将 AI 回复的内容转换成自然的语音播放。

4️⃣ 语音转文字【输入】:可在应用内录音并将语音自动转换为文本。

5️⃣ 引用与归属【知识库】:当 LLM 引用知识库内容来回答问题时,可以在回复内容下面查看到具体的应用段落信息,包括原始分段文本、分段序号、匹配度等。

6️⃣ 敏感内容审查

7️⃣ 标注回复:通过人工编辑标注为应用提供了可定制的高质量问答回复能力。相当于提供了另一套检索增强系统,可以跳过 LLM 的生成环境,规避 RAG 的生成幻觉问题。【对 LLM 回复的高质量答案进行标注,下次用户再问类似问题时,直接将问题向量化并查询与之类似的标注问题,如果找到了,则返回,如果没找到,则走常规的 LLM 或 RAG 流程

Agent 应用 - 关键点说明

智能助手 Agent Assistant,利用 LLM 的推理能力,能够自主对复杂的人类任务进行目标规划、任务拆解、工具调用、过程迭代,并在没有人类干预的情况下完成任务。

注意事项:选择的模型需具备较好的推理能力,LLM 推理能力决定了 Agent 的任务完成能力。

关键点 1 - 提示词

提示词中可明确它的任务目标、工作流程、资源和限制等。

关键点 2 - 工具调用

工具的作用扩展 LLM 的能力,比如联网搜索、科学计算、绘制图片、制作 PPT 等,赋予并增强了 LLM 连接外部世界的能力

工具类型:

1️⃣ 第一方工具:使用 Dify 生态提供的第一方内置工具

2️⃣ 自定义工具轻松导入自定义的 API 工具(目前支持 OpenAPI / Swagger 和 OpenAI Plugin 规范)【等于就是 HTTP API 接口,可以导入并使用】

如何使用工具?在对话框中谈及需要调用的某个工具的名字,即可自动调用该工具。

关键点 3 - Agent 设置

Dify 为 Agente 提供了两种推理模式:

  • Function calling(函数调用):适合支持 Function Call 的模型
  • ReAct:适合尚未支持 Function Call 的模型,使用 ReAct 推理框架实现类似的效果

同时,可以修改推理的最大迭代次数。

参考

1.构建应用 - Dify Docs

2.创建应用 - Dify Docs

3.聊天助手 - Dify Docs

4.Agent - Dify Docs

相关博文

1.第 1 篇 Linux 下部署 Dify 1.7.1
2.第 2 篇 Dify 插件离线安装
3.第 3 篇 Dify 入门示例 - 聊天助手
4.第 4 篇 Dify 示例:数据库执行Agent
5.第 5 篇 Dify 报错解决:The length of output variable xxx must be less than 30 elements
6.第 6 篇 Dify 接入大模型并使用
7.第 7 篇 Dify 应用介绍 + 聊天助手&Agent 应用关键点说明

Logo

有“AI”的1024 = 2048,欢迎大家加入2048 AI社区

更多推荐