AI大模型超详细教程：聊聊Dify如何集成Milvus向量库做RAG，看到就是赚到，建议收藏！！

在Dify集成Milvus向量库，做RAG知识库的存储与检索。**Dify**是一个开源平台，旨在通过将 Backend-as-a-Service 与 LLMOps 相结合来简化人工智能应用程序的构建。它支持主流 LLMs，提供直观的提示协调界面、高质量的 RAG 引擎和灵活的 AI Agents 框架。凭借低代码工作流、易用的界面和 API，Dify 使开发人员和非技术用户都能专注于创建创新的、

嘴巴吃糖了

693人浏览 · 2025-08-26 10:38:44

嘴巴吃糖了 · 2025-08-26 10:38:44 发布

概述

在Dify集成Milvus向量库，做RAG知识库的存储与检索。

Dify是一个开源平台，旨在通过将 Backend-as-a-Service 与 LLMOps 相结合来简化人工智能应用程序的构建。它支持主流 LLMs，提供直观的提示协调界面、高质量的 RAG 引擎和灵活的 AI Agents 框架。凭借低代码工作流、易用的界面和 API，Dify 使开发人员和非技术用户都能专注于创建创新的、真实世界的人工智能解决方案，而无需处理复杂的问题。简单来说，Dify就是另一个字节版本的扣子平台。

Milvus 是一款专为大规模向量搜索设计的开源向量数据库，由 Zilliz 公司开发并维护。它能高效处理海量（亿级以上）向量数据的存储和相似度检索，广泛应用于图像检索、推荐系统、自然语言处理等领域。

集成

Milvus该如何集成到Dify平台中做RAG呢？首先Milvus的设计就提供了多种其它中间件的集成，以向量存储来说，其环境配置文件.env.example中，就支持了多种向量库，默认是weaviate。

而且其docker-compose文件，就已经准备好了相应的中间件docker，只需要指定配置，即可完成安装部署。

下载Dify最新的源代码，执行如下命令：

cd docker
cp .env.example .env
docker compose --profile milvus up -d

如果docker的源没有什么问题，应该就会拉取对应的docker 镜像并部署：

Milvus校验配置

在.env文件中，配置登录的参数，因为默认的MILVUS_AUTHORIZATION_ENABLED为true，会启用权限校验；就需要在.env中配置账号信息，如此后面Dify才能读取到对应的账号登录Milvus。

Milvus默认的账号密码是：root、Milvus。因此我们配置账号：

Milvus UI安装

Attu[2]是 Milvus 的一体化开源管理工具。它具有直观的图形用户界面（GUI），可轻松与数据库交互。只需点击几下，就可以直观地查看集群状态、管理元数据、执行数据查询等。

基于docker一键安装：

docker run -itd --restart=always -p 8787:3000 -e HOST_URL=http://localhost:8787 -e MILVUS_URL=10.195.230.253:19530 --name attu zilliz/attu:latest

其中8787是我自己设置的本地端口号，你可以选一个没有被占用的本地端口即可。
MILVUS_URL需要修改为你的主机ip地址（或服务器ip地址）

这是第一种部署方式，我在自己的虚拟机是ok的，但是切换到公司内网的机器一直显示network error；后来转换了一下思路，直接在dify的docker-compose.yaml文件中，增加了attu docker容器的配置信息，如下：

直接在同一个docker-compose.yaml中管理attu与milvus的依赖关系。

最后打开的界面及登录信息如下：

按图上配置即可，地址信息自己指定milvus的url。

Dify知识库验证

在dify的知识库模块，配置知识库信息，如下：

都用默认的就行，分块长度，可以指定的小一点。我是自己在nvidia A10上部署了bge的embedding模型和reranker模型。

最后，Dify显示的知识库信息如下：

而Milvus中的向量存储信息如下：

原理

整个的逻辑其实就是基于docker安装部署编排中间件，Dify基于.env配置文件读取对应的权限信息，再基于其程序内置的驱动等连接到这些中间件（比如Milvus）。

最后

为什么要学AI大模型

当下，⼈⼯智能市场迎来了爆发期，并逐渐进⼊以⼈⼯通⽤智能（AGI）为主导的新时代。企业纷纷官宣“ AI+ ”战略，为新兴技术⼈才创造丰富的就业机会，⼈才缺⼝将达 400 万！

DeepSeek问世以来，生成式AI和大模型技术爆发式增长，让很多岗位重新成了炙手可热的新星，岗位薪资远超很多后端岗位，在程序员中稳居前列。

在这里插入图片描述

与此同时AI与各行各业深度融合，飞速发展，成为炙手可热的新风口，企业非常需要了解AI、懂AI、会用AI的员工，纷纷开出高薪招聘AI大模型相关岗位。
在这里插入图片描述
最近很多程序员朋友都已经学习或者准备学习 AI 大模型，后台也经常会有小伙伴咨询学习路线和学习资料，我特别拜托北京清华大学学士和美国加州理工学院博士学位的鲁为民老师给大家这里给大家准备了一份涵盖了AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频 全系列的学习资料，这些学习资料不仅深入浅出，而且非常实用，让大家系统而高效地掌握AI大模型的各个知识点。