本文详细记录了Milvus容器反复重启、端口拒绝等问题的解决过程，并成功实现LangChain RAG检索系统。文章介绍了Milvus+LangChain+Ollama的完整架构配置，提供了从环境搭建到代码实现的详细步骤，解决了开发者在本地构建RAG系统时常见的典型问题。适用于本地RAG、私有大模型和知识库系统等场景，是开发者的实用参考资料。

---

本文记录一次从 Milvus 容器反复重启、端口拒绝，到最终稳定运行并实现 LangChain RAG 成功检索的完整实战过程。适用于本地 RAG、私有大模型、知识库系统等场景。

一、背景与问题

在本地构建 RAG（Retrieval-Augmented Generation）时，开发者常遇到以下典型问题：

• telnet 19530 连接被拒绝
• Milvus 容器反复 Restarting (1)
• pymilvus 能连上，但 LangChain 查不到数据
• 不清楚 Milvus 中的「tag / metadata」到底存在哪里

本文基于 Milvus 2.4 + LangChain + Ollama（Qwen + bge-m3），逐步解决上述问题。

二、整体架构

LangChain   │   ├─ Ollama Embedding (bge-m3)   │   ├─ Milvus Vector Store   │     ├─ etcd   │     ├─ minio   │     └─ standalone   │   └─ Ollama LLM (qwen2.5)

Python 3.9 / 3.10 / 3.11 均可支持。

pip install -U \  langchain \  langchain-core \  langchain-community \  langchain-text-splitters \  langchain-ollama \  pymilvus \  faiss-cpu

三、Milvus Docker Compose（稳定版）

注意：Milvus standalone 必须依赖 etcd + minio，不能直接使用 docker run milvusdb/milvus，否则 19530 端口不会监听。

docker-compose.yml

version: '3.5'services:  rag-etcd:    container_name: rag-milvus-etcd    image: quay.io/coreos/etcd:v3.5.5    volumes:      - ./rag-volumes/etcd:/etcd    command: >      etcd      -advertise-client-urls=http://127.0.0.1:2379      -listen-client-urls http://0.0.0.0:2379      --data-dir /etcd  rag-minio:    container_name: rag-milvus-minio    image: minio/minio:RELEASE.2023-03-20T20-16-18Z    environment:      MINIO_ACCESS_KEY: minioadmin      MINIO_SECRET_KEY: minioadmin    ports:      - "19000:9000"      - "19001:9001"    volumes:      - ./rag-volumes/minio:/minio_data    command: minio server /minio_data --console-address ":9001"  rag-milvus:    container_name: rag-milvus-standalone    image: milvusdb/milvus:v2.4.0    command: ["milvus", "run", "standalone"]    environment:      ETCD_ENDPOINTS: rag-etcd:2379      MINIO_ADDRESS: rag-minio:9000    volumes:      - ./rag-volumes/milvus:/var/lib/milvus    ports:      - "19530:19530"      - "9091:9091"    depends_on:      - rag-etcd      - rag-minionetworks:  default:    name: rag-milvus-net

启动命令：

docker compose up -d

四、验证 Milvus 是否正常

telnet 验证端口

telnet 127.0.0.1 19530

若看到如下输出：

Connected to 127.0.0.1.HTTP/1.1 400 Bad Request

这是正常现象，因为 19530 是 gRPC 端口，并非 HTTP 接口。

Python 连接 Milvus

from pymilvus import connections, utility, Collectionconnections.connect(    host="127.0.0.1",    port="19530")print("connected:", connections.has_connection("default"))print("collections:", utility.list_collections())

五、理解 Milvus 里的 “tag / metadata”

Milvus 没有内置 tag 概念。所谓的 tag，本质是 Collection schema 中的 scalar 字段。

查看 collection schema：

col = Collection("rag_qwen_prod")print(col.schema)

典型结构如下：

id (INT64, primary)vector (FLOAT_VECTOR)text (VARCHAR)source (VARCHAR)category (VARCHAR)

其中 source / category 即为 RAG 中的 tag。

六、LangChain + Ollama + Milvus 实战

Embedding（bge-m3）

from langchain_ollama import OllamaEmbeddingsembeddings = OllamaEmbeddings(    model="bge-m3",    base_url="http://192.168.31.161:11434")

构造文档

from langchain_core.documents import Documentdocs = [    Document(page_content="RAG 是检索增强生成"),    Document(page_content="Milvus 是生产级向量数据库"),    Document(page_content="Qwen2.5 是高质量中文大模型"),]

文本切分

from langchain_text_splitters import RecursiveCharacterTextSplittersplitter = RecursiveCharacterTextSplitter(    chunk_size=300,    chunk_overlap=50)docs = splitter.split_documents(docs)

写入 Milvus

from langchain_community.vectorstores import Milvusvectorstore = Milvus.from_documents(    docs,    embedding=embeddings,    collection_name="rag_qwen_prod",    connection_args={        "host": "localhost",        "port": "19530"    })

Retriever

retriever = vectorstore.as_retriever(    search_kwargs={"k": 3})

LLM（Qwen2.5）

from langchain_ollama import ChatOllamallm = ChatOllama(    model="qwen2.5:7b",    temperature=0)

Prompt & LCEL RAG Chain

from langchain_core.prompts import ChatPromptTemplatefrom langchain_core.runnables import RunnablePassthroughprompt = ChatPromptTemplate.from_messages([    ("system", "你只能基于上下文回答问题，不允许编造"),    ("human", "上下文：\n{context}\n\n问题：{question}")])rag_chain = (    {        "context": retriever,        "question": RunnablePassthrough()    }    | prompt    | llm)

查询验证

result = rag_chain.invoke("什么是 Milvus？")print(result.content)

输出示例：

Milvus 是一个生产级向量数据库，用于高效存储和检索向量数据。

RAG 生效。

七、完整代码与常见问题总结

from langchain_ollama import ChatOllama, OllamaEmbeddingsfrom langchain_community.vectorstores import Milvusfrom langchain_text_splitters import RecursiveCharacterTextSplitterfrom langchain_core.documents import Documentfrom langchain_core.prompts import ChatPromptTemplatefrom langchain_core.runnables import RunnablePassthrough# 1. Embeddingembeddings = OllamaEmbeddings(    model="bge-m3",    base_url="http://192.168.31.161:11434")# 2. 文档docs = [    Document(page_content="RAG 是检索增强生成"),    Document(page_content="Milvus 是生产级向量数据库"),    Document(page_content="Qwen2.5 是高质量中文大模型"),]# 3. 切分splitter = RecursiveCharacterTextSplitter(    chunk_size=300,    chunk_overlap=50)docs = splitter.split_documents(docs)# 4. Milvus Vector Storevectorstore = Milvus.from_documents(    docs,    embedding=embeddings,    collection_name="rag_qwen_prod",    connection_args={        "host": "localhost",        "port": "19530"    })retriever = vectorstore.as_retriever(search_kwargs={"k": 3})# 5. LLMllm = ChatOllama(    model="qwen2.5:7b",    temperature=0)# 6. Promptprompt = ChatPromptTemplate.from_messages([    ("system", "你只能基于上下文回答问题，不允许编造"),    ("human", "上下文：\n{context}\n\n问题：{question}")])# 7. LCEL RAG Chainrag_chain = (    {        "context": retriever,        "question": RunnablePassthrough()    }    | prompt    | llm)# 8. Queryresult = rag_chain.invoke("什么是 Milvus？")print(result.content)

问题	原因
19530 连接被拒绝	直接 docker run Milvus
容器重启	缺少 etcd / minio
telnet 返回 400	正常（gRPC）
查不到 tag	schema 没定义 metadata
LangChain 无结果	embedding 不一致

八、下一步可以做什么？

• 多 tag / 多租户 RAG
• expr 过滤（category == 'ops'）
• Milvus IVF / HNSW 调优
• Streaming RAG
• Web UI + API 服务化

九、结语

Milvus + LangChain + Ollama 是目前本地 RAG 的黄金组合：

• Milvus：性能与扩展性
• Ollama：本地模型自由
• LangChain：链路清晰、可组合

如果你已经走到这一步，说明你已经不是“入门玩家”了。

如何学习AI大模型？

如果你对AI大模型入门感兴趣，那么你需要的话可以点击这里大模型重磅福利：入门进阶全套104G学习资源包免费分享！

这份完整版的大模型 AI 学习和面试资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】

这是一份大模型从零基础到进阶的学习路线大纲全览，小伙伴们记得点个收藏！

第一阶段： 从大模型系统设计入手，讲解大模型的主要方法；

第二阶段： 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用；

第三阶段： 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统；

第四阶段： 大模型知识库应用开发以LangChain框架为例，构建物流行业咨询智能问答系统；

第五阶段： 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型；

第六阶段： 以SD多模态大模型为主，搭建了文生图小程序案例；

第七阶段： 以大模型平台应用与开发为主，通过星火大模型，文心大模型等成熟大模型构建大模型行业应用。

100套AI大模型商业化落地方案

大模型全套视频教程

200本大模型PDF书籍

👉学会后的收获：👈

• 基于大模型全栈工程实现（前端、后端、产品经理、设计、数据分析等），通过这门课可获得不同能力；

• 能够利用大模型解决相关实际项目需求： 大数据时代，越来越多的企业和机构需要处理海量数据，利用大模型技术可以更好地处理这些数据，提高数据分析和决策的准确性。因此，掌握大模型应用开发技能，可以让程序员更好地应对实际项目需求；

• 基于大模型和企业数据AI应用开发，实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能， 学会Fine-tuning垂直训练大模型（数据准备、数据蒸馏、大模型部署）一站式掌握；

• 能够完成时下热门大模型垂直领域模型训练能力，提高程序员的编码能力： 大模型应用开发需要掌握机器学习算法、深度学习框架等技术，这些技术的掌握可以提高程序员的编码能力和分析能力，让程序员更加熟练地编写高质量的代码。

LLM面试题合集

大模型产品经理资源合集

大模型项目实战合集

👉获取方式：
😝有需要的小伙伴，可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓