系列文章目录

第一章 Dify部署篇
第二章 Dify使用篇

---

---

前言

Dify社区版简介

Dify社区版是一款开源的AI应用开发平台，旨在帮助开发者快速构建基于大语言模型（如GPT-4、Llama等）的应用程序。它提供可视化工作流、API管理、多模型支持等功能，支持从原型设计到生产部署的全流程。

核心功能

可视化编排：通过拖拽界面设计AI工作流，无需编写复杂代码。
多模型支持：兼容OpenAI、Anthropic、Llama等主流模型，支持自定义模型接入。
API部署：一键生成并托管API，方便集成到其他系统。
数据管理：支持上传文档、标注数据，优化模型输出效果。

适用场景

• 智能客服、内容生成等对话应用开发。
• 企业内部知识库问答系统搭建。
• 快速验证AI产品原型，降低试错成本。

技术架构

基于Python和Vue.js开发，后端采用FastAPI，支持Docker容器化部署。开源协议为Apache 2.0，允许商业用途。

社区资源

• GitHub仓库提供完整文档和示例代码。
• 活跃的开发者社区贡献插件和扩展功能。
• 定期更新模型适配和性能优化。

用户可通过官方GitHub仓库下载并自托管，或加入社区讨论获取技术支持。

---

配置大模型

第一次使用，首先注册一个账号，我已经注册过了，所以下图看不到注册按钮

1. 登录后，右上角点开，选择“设置”
   

2. 选择"模型供应商"，这里我已经加过一堆大模型了
   

3. 先说怎么加ollama，Ollama 是一个开源工具，支持在本地快速运行和部署大型语言模型（如 LLaMA 2、Mistral 等），简化模型的管理与交互。它可以安装一堆大模型到本地，如果想内网或者私有化大模型的就非常需要了。
   首先需要找一台高配电脑安装ollama，docker部署，linux环境，内存至少16GB，后续我出一篇ollama安装指导。
   假定已经装好ollama，地址一般是http://ip:11434
   登录ollama主机，进入容器

[root@localhost ~]# docker exec -it ollama /bin/bash
root@d7acb50f06c6:/#

查看大模型列表，此时我已经安装好了一堆大模型

root@d7acb50f06c6:/# ollama list
NAME                               ID              SIZE      MODIFIED
qwen2.5vl:latest                   5ced39dfa4ba    6.0 GB    2 days ago
xitao/bge-reranker-v2-m3:latest    c76d8249edc3    1.2 GB    4 days ago
epoch/rank-zephyr:Q5_K_M           81ae830d18af    5.1 GB    4 days ago
incept5/llama3.1-claude:latest     4ba850d59c62    4.7 GB    2 months ago
deepcoder:1.5b                     3bc49891ec47    1.1 GB    2 months ago
shaw/dmeta-embedding-zh:latest     41783961c26d    408 MB    2 months ago
nomic-embed-text:latest            0a109f422b47    274 MB    2 months ago
bge-m3:567m                        790764642607    1.2 GB    5 months ago
qwen2.5:3b                         357c53fb659c    1.9 GB    5 months ago
deepseek-r1:1.5b                   a42b25d8c10a    1.1 GB    5 months ago

如何安装大模型，登录ollama官网,在搜索框输入deepseek,选择deep seek r1

在刚才的命令行执行，再ollama list会看到你已经安装的deepseek r1

root@d7acb50f06c6:/# ollama run deepseek-r1
pulling manifest
pulling e6a7edc1a4d7:   3% ▕██                                                                                  ▏ 132 MB/5.2 GB   25 MB/s   3m22s^C
root@d7acb50f06c6:/# ollama list
NAME                               ID              SIZE      MODIFIED
qwen2.5vl:latest                   5ced39dfa4ba    6.0 GB    2 days ago
xitao/bge-reranker-v2-m3:latest    c76d8249edc3    1.2 GB    4 days ago
epoch/rank-zephyr:Q5_K_M           81ae830d18af    5.1 GB    4 days ago
incept5/llama3.1-claude:latest     4ba850d59c62    4.7 GB    2 months ago
deepcoder:1.5b                     3bc49891ec47    1.1 GB    2 months ago
shaw/dmeta-embedding-zh:latest     41783961c26d    408 MB    2 months ago
nomic-embed-text:latest            0a109f422b47    274 MB    2 months ago
bge-m3:567m                        790764642607    1.2 GB    5 months ago
qwen2.5:3b                         357c53fb659c    1.9 GB    5 months ago
deepseek-r1:1.5b                   a42b25d8c10a    1.1 GB    5 months ago

4. 进入Dify模型供应商页面配置，先安装ollama，如果安装失败，下载文件到本地，再导入
   

5. ollama添加大模型，deepseek r1是LLM，模型名称要从ollama list Limit完整复制过来，基础URL就是安装ip加上默认端口
   
   还有一点，需要去dify部署的.env默认加上一行配置，这个看第一章 Dify部署篇

6. 最终需要看到
   

7. 其他深度求索，火山大模型，智谱AI都很简单，找到官网，申请API key即可。如果不成功，一般是dify版本问题，必须升级版本，这个也坑了我多次。
   

工作室

1. 选择工作室，点击新建"测试"
   

2. 选择新手适用的"聊天助手"，右侧新建后预览效果图
   

3. 新建后看到列表多了一条数据
   

4. 双击进入，知识库可以选择或者新建，提问就会帮助你从知识库找到匹配的数据喂给大模型
   

5. 提示词：这里就是作为角色System，你可以自由定义，比如你定义这个工作室用来进行图书查阅的，就可以定义为"你是一个图书管理员"

6. 变量能使用户输入表单引入提示词或开场白，你可以试试在提示词中输入 {{input}}，点击右下角管理，可以录入变量，会自动添加当前输入框，可以设置必填或者选填
   
   

7. 发布更新：保存当前配置
8. 嵌入网站：生成3种网页嵌套代码
9. 运行和探索中打开功能类型，都是开一个窗口，可以开放给客户端使用
10.访问API：适用需要做定制类开发，比如dify作为后端，你开发前端应用
10. 选择发布左侧的大模型按钮，可以进行多个大模型对比调试，这会帮助你选择适合的大模型

这时你会发现哪种模型给出答案快速，相对准确。

后续

今天暂时到这里，后续推出知识库和工具介绍。