使用本地模型的 LangChain 教程

介绍

LangChain 是一个强大的框架，用于构建基于语言模型的应用程序。它支持多种模型和后端，包括本地模型。本教程将介绍如何使用 LangChain 与本地模型进行交互。

安装

首先，确保你已经安装了 langchain 和 langchain_openai 库。你可以使用以下命令进行安装：

pip install langchain langchain_openai

配置本地模型

LangChain 支持通过自定义 API 接口与本地模型进行交互。你需要确保本地模型已经部署并可以通过 HTTP 接口进行访问。

示例代码

以下是一个示例，展示如何配置 LangChain 以使用本地模型：

from langchain_openai import ChatOpenAI

# 配置本地模型的 API 地址和密钥
llm = ChatOpenAI(
    openai_api_base=f'https://.../deepseek-r1/v3',
    openai_api_key=f'ACCESSCODE ...',  # app_key
    model_name="DeepSeek-R1",   
)

# 调用模型并获取结果
result = llm.invoke("你好，怎么称呼？")
print(result)

运行代码

确保你的本地模型已经启动并监听请求。然后运行上述代码，你应该会看到模型返回的响应。

content=‘\n\n你好！我是DeepSeek-R1，一个由深度求索公司开发的智能助手。你可以直接叫我R1，或者任何你喜欢的称呼。有什么我可以帮你的吗？😊’ additional_kwargs={‘refusal’: None} response_metadata={‘token_usage’: {‘completion_tokens’: 163, ‘prompt_tokens’: 10, ‘total_tokens’: 173, ‘completion_tokens_details’: {‘accepted_prediction_tokens’: None, ‘audio_tokens’: None, ‘reasoning_tokens’: 123, ‘rejected_prediction_tokens’: None}, ‘prompt_tokens_details’: {‘audio_tokens’: None, ‘cached_tokens’: 0}}, ‘model_name’: ‘deepseek-r1-250120’, ‘system_fingerprint’: None, ‘id’: ‘02176110996472001fd5fdd4a9586a81a38861506549a40246997’, ‘service_tier’: ‘default’, ‘finish_reason’: ‘stop’, ‘logprobs’: None} id=‘lc_run–391ffaba-f911-4852-ae8f-f18cebfa46b8-0’ usage_metadata={‘input_tokens’: 10, ‘output_tokens’: 163, ‘total_tokens’: 173, ‘input_token_details’: {‘cache_read’: 0}, ‘output_token_details’: {‘reasoning’: 123}}

结论

本教程介绍了如何使用 LangChain 与本地模型进行交互。通过简单的配置，你可以将 LangChain 集成到你的本地模型环境中，从而利用其强大的功能来构建应用程序。