这两年大模型卷得飞起：ChatGPT、通义千问、文心一言层出不穷。对普通用户来说，在网页上聊两句就够了；但对开发者 / 研究者 / 数据分析党来说，真正有用的是三件事：

• • 在本地跑起来
• • 用 API 把模型接进自己的业务
• • 在开发工具里无缝用上“会写代码的 AI”

这篇推文，就带你用 Ollama + 本地/云端 API + + LLM封装打通这条链路，做一套「自己的 AI 工作流」。

一、本地部署：为什么越来越多人选择 Ollama？

很多人第一反应：
“我直接用在线大模型不香吗？为什么还要折腾本地部署？”
本地部署有几大优势：

1. 1. 隐私&安全：代码、数据不出本机，对企业 / 研究来说很关键
2. 2. 可控成本：不用担心 API token 一不小心跑爆预算
3. 3. 可定制：可以下载特定领域模型（代码、金融、法律等），甚至做 LoRA 微调
4. 4. 离线可用：断网的时候，它还在
      而在一众本地部署方案里，Ollama 的优点是：

• • 跨平台（Windows / macOS / Linux）

• • 一行命令拉模型、一行命令跑起来

• • 自带 HTTP API，很适合接前端、后端、脚本

二、Ollama 安装 & 跑通第一个本地模型

1. 安装 Ollama

🔍 可以去官网搜索 “Ollama”，根据系统下载对应安装包，直接默认路径下载即可。https://ollama.com/download
安装完成后，命令行终端里可以输入ollama看到帮助信息。输入ollama -v查看安装版本。
安装好后，打开https://ollama.com/library随便找一个模型下载，例如deepseek-r1。
打开Ollama，第一种是直接打开下载好的APP。安装后，Ollama 的图标会显示在桌面右下角的系统托盘区域。也可以直接在这里面对话。
第二种是终端启动。打开终端，试试直接跑一个模型。例如：
```plaintext
ollama serve #启动（如果APP启动了本命令忽略）ollama run deepseek-r1:1.5b #下载模型到本地，后面可替换为其它模型

终端会自动帮你：

1. 下载对应模型（第一次会稍微久一点），显示即下载成功。
2. 下载完后进入对话模式，你可以直接在命令行里和本地模型聊天

到这里，你的 “本地 ChatGPT” 已经跑起来了。

三、把本地模型当作 API 用：Ollama HTTP 调用示例

---

1. Ollama 默认的 API 地址

安装并启动 Ollama 后，一般会默认在本机开一个 HTTP 服务：

http://127.0.0.1:11434

我们调用的核心接口通常是：

POST /api/generatePOST /api/chat

2. 用 curl 发一个最小请求

先在终端试一下最小 demo（以 chat 接口为例）：

curl.exe -X POST http://127.0.0.1:11434/api/chat `  -H "Content-Type: application/json" `  -d '{\"model\": \"deepseek-r1:1.5b\",        \"messages\": [{\"role\": \"user\",        \"content\": \"用三句话介绍一下你自己\"}]}'

如果一切正常，你会看到模型返回的 JSON，包括生成的内容。可以看到输出有点混乱，所以这种调用方式不常用。

3. Python 调用Ollama API 示例

下面是一个最简 Python 示例脚本，你可以放在自己项目里：

import requestsimport jsonOLLAMA_URL = "http://127.0.0.1:11434/api/chat"defchat_with_ollama(prompt, model="deepseek-r1:1.5b"):    payload = {        "model": model,        "messages": [            {"role": "user", "content": prompt}        ],        "stream": False# 如果想要流式输出，可以改为 True    }    resp = requests.post(OLLAMA_URL, json=payload)    resp.raise_for_status()    data = resp.json()    # Ollama 的 chat 返回里一般有 "message" 字段    return data.get("message", {}).get("content", "")if __name__ == "__main__":    answer = chat_with_ollama("帮我写一段 50 字以内的大模型介绍")    print(answer)

大模型能够理解、创作并处理文字、图像、视频等复杂信息，展现出强大的认知能力和广泛的应用场景，适用于人工智能领域中的多任务协同和数据驱动决策。

4. Ollama包调用方法（两者选其一）

! pip install ollama  #下载ollama包

from ollama import Client# 关键步骤：创建Client时指定明确的hostclient = Client(host='http://127.0.0.1:11434')  # 然后使用client进行对话response = client.chat(    model='deepseek-r1:1.5b',    messages=[        {            'role': 'user',            'content': '用三句话介绍一下你自己',        },    ])print(response['message']['content'])

我是人工智能助手DeepSeek-R1，专注于理解、分析和解答复杂的查询。我擅长提供深入的解析和详细的信息解释，并能够快速响应用户的问题。我的独特服务是提供高效的解决方案，帮助用户在复杂的信息中快速找到所需答案。

有了这个模板，你可以很容易把本地模型：

• • 接到自己的 后端服务（Flask / FastAPI / Django）
• • 接到 桌面工具 / 自动脚本
• • 接入你正在写的量化回测、数据清洗、报告生成等工作流

四、 除了本地模型，还可以调用各种云端 API

虽然本地模型（例如 Ollama + DeepSeek-R1 本地版）能够实现“离线可用”“数据不出本机”等优势，但在很多实际场景中，云端 API 依然不可替代：

• • 需要高推理能力（如 GPT-4.1、Claude 3.7、DeepSeek V3）
• • 对稳定性、速度要求更高
• • 属于大规模在线业务，而非个人电脑部署
• • 多模型混合调用（翻译用 Qwen、推理用 GPT、编程用 DeepSeek）

因此，本章补充如何调用主流云端大模型 API，让读者可以完成：

“本地 + 云端”混合式 LLM 工作流。

1. 主流云端 API 模型一览

下面是目前开发者最常用的几类云端大模型：

类型	代表模型	特点
国际强模型	GPT-4.1 / o1 / Claude 3.7	推理最强、稳定性最高
国内旗舰模型	通义千问 Qwen-Max / Qwen-Plus	中文任务强、成本适中
国内高性价比模型	DeepSeek V3 / R1 / Chat	性价比极高、推理能力强
其他云厂商模型	文心 4.0 / 讯飞星火 / 腾讯混元	SDK 完备、适合集成到企业系统

2. API key（必备）

申请API接口的流程通常包括以下步骤：

选择合适的API平台、

注册并获取API密钥、

阅读文档和示例代码、

测试和集成。

其中，选择合适的API平台是最关键的一步，因为不同的平台提供的API功能和支持可能有所不同。选择一个符合你需求的平台能大大提高开发效率和效果。

获取方法:

1. 1. 访问 ChatGPT 官方接口平台：https://platform.openai.com

   较为麻烦且，费用高，支付方式不友好（如果你本身就有就直接用）

2. 2. 用国内模型的官方接口，便宜好用，充值方便。如（deepseek，通义千问等）

3. DeepSeek

   https://platform.deepseek.com/usage

4. 3. **用第三方接口平台：**https://sg.uiuiapi.com（推荐使用！注册免费送0.3美元的额度，能 调用好几百次，且聚合了多种模型，足够测试使用）

3. 云端 API 调用示例：OpenAI

安装 SDK：

! pip install openai #安装openai包! pip install dotenv #安装读取环境变量的包

从环境变量读取API KEY和BASE：

OPENAI_API_KEY=sk-J #换成你的API KEYOPENAI_API_BASE=https://sg.uiuiapi.com/v1 #用uiuiapi这行可以不用修改
``````plaintext
import os# 加载 .env 文件load_dotenv('你的openai.env的绝对路径', override=True)# 定义环境变量API_KEY = os.getenv("OPENAI_API_KEY"))API_BASE = os.getenv("OPENAI_API_BASE"))

调用示例（最新版用法）：

from openai import OpenAI# 初始化 OpenAI 服务。client = OpenAI(    api_key = API_KEY, # 换成你的API KEY    base_url = API_BASE # API 请求地址，可以是 OpenAI 官网，也可以是代理地址)# 调用 GPT-4o-mini 模型response = client.chat.completions.create(    model = "gpt-4o-mini",    messages = [{"role": "system", "content": "用三句话介绍一下你自己"}])print(response.choices[0].message.content)
``````plaintext
我是一个人工智能助手，专注于提供信息和解决问题。我的目标是帮助用户找到所需的答案，并提供有用的建议。无论你有什么问题，我都会尽力为你提供支持。

其它云端API的调用方法一样，只需要替换.env文件里的API key 和URL即可。

五、本地 + 云端：用统一的“LLM 封装层”管理多个模型

现实中，我们经常会有这种需求：

• • 日常小任务、本地模型够用
• • 关键任务、追求效果时，用 GPT-4 / 更强的云端模型
• • 甚至根据任务自动选择：翻译 → 某模型，写代码 → 另一个模型

这个时候比较推荐的做法是：在自己项目里写一层统一的 LLM 封装，对外只暴露一个方法：

def llm_chat(provider, prompt, **kwargs):    ...

比如简单示意：

# 定义chat_with_ollamadef chat_with_ollama(prompt, model="deepseek-r1:1.5b"):    response = client.chat(        model=model,        messages=[            {"role": "user", "content": prompt}        ]    )    return response['message']['content']#定义chat_with_openaidef chat_with_openai(prompt, model="gpt-4.1-mini"):    client = OpenAI(api_key=API_KEY,                     base_url=API_BASE")    r = client.chat.completions.create(        model=model,        messages=[{"role": "user", "content": prompt}]    )    return r.choices[0].message.content#封装def llm_chat(provider, prompt, **kwargs):    if provider == "ollama":        return chat_with_ollama(prompt, model=kwargs.get("model", "deepseek-r1:1.5b"))    elif provider == "openai":        return chat_with_openai(prompt, model=kwargs.get("model", "gpt-4.1-mini"))    else:        raise ValueError("未知 provider，请使用 ollama/openai/qwen/deepseek")

这样，你只需要在任务代码里写：

text = llm_chat("ollama", "用三句话介绍一下你自己")code = llm_chat("openai", "写一段 Python 代码计算1-100的和")print("文本回答：", text)print("代码回答：", code)

输出结果

文本回答： 我是一个人工智能助手，旨在帮助用户解答问题和提供信息。我的知识覆盖广泛，从科学和技术到文化和历史。虽然我没有情感，但我可以根据用户的需求提供有用的建议和支持。代码回答： ```pythontotal = sum(range(1, 101))print(f"1 到 100 的和是: {total}")
``````plaintext
就完成了 **“本地 + 云端混合大模型架构”**。

---

总结一下：

• 本地部署（Ollama）让我们可以在自己的电脑上跑大模型，数据不出本机；
• 通过 HTTP API，我们可以像调 OpenAI 一样调本地模型，接入任何应用；

想入门 AI 大模型却找不到清晰方向？备考大厂 AI 岗还在四处搜集零散资料？别再浪费时间啦！2025 年 AI 大模型全套学习资料已整理完毕，从学习路线到面试真题，从工具教程到行业报告，一站式覆盖你的所有需求，现在全部免费分享！

👇👇扫码免费领取全部内容👇👇

​

一、学习必备：100+本大模型电子书+26 份行业报告 + 600+ 套技术PPT，帮你看透 AI 趋势

想了解大模型的行业动态、商业落地案例？大模型电子书？这份资料帮你站在 “行业高度” 学 AI：

1. 100+本大模型方向电子书

2. 26 份行业研究报告：覆盖多领域实践与趋势

报告包含阿里、DeepSeek 等权威机构发布的核心内容，涵盖：

• 职业趋势：《AI + 职业趋势报告》《中国 AI 人才粮仓模型解析》；
• 商业落地：《生成式 AI 商业落地白皮书》《AI Agent 应用落地技术白皮书》；
• 领域细分：《AGI 在金融领域的应用报告》《AI GC 实践案例集》；
• 行业监测：《2024 年中国大模型季度监测报告》《2025 年中国技术市场发展趋势》。

3. 600+套技术大会 PPT：听行业大咖讲实战

PPT 整理自 2024-2025 年热门技术大会，包含百度、腾讯、字节等企业的一线实践：

• 安全方向：《端侧大模型的安全建设》《大模型驱动安全升级（腾讯代码安全实践）》；
• 产品与创新：《大模型产品如何创新与创收》《AI 时代的新范式：构建 AI 产品》；
• 多模态与 Agent：《Step-Video 开源模型（视频生成进展）》《Agentic RAG 的现在与未来》；
• 工程落地：《从原型到生产：AgentOps 加速字节 AI 应用落地》《智能代码助手 CodeFuse 的架构设计》。

二、求职必看：大厂 AI 岗面试 “弹药库”，300 + 真题 + 107 道面经直接抱走

想冲字节、腾讯、阿里、蔚来等大厂 AI 岗？这份面试资料帮你提前 “押题”，拒绝临场慌！

1. 107 道大厂面经：覆盖 Prompt、RAG、大模型应用工程师等热门岗位

面经整理自 2021-2025 年真实面试场景，包含 TPlink、字节、腾讯、蔚来、虾皮、中兴、科大讯飞、京东等企业的高频考题，每道题都附带思路解析：

2. 102 道 AI 大模型真题：直击大模型核心考点

针对大模型专属考题，从概念到实践全面覆盖，帮你理清底层逻辑：

3. 97 道 LLMs 真题：聚焦大型语言模型高频问题

专门拆解 LLMs 的核心痛点与解决方案，比如让很多人头疼的 “复读机问题”：

三、路线必明： AI 大模型学习路线图，1 张图理清核心内容

刚接触 AI 大模型，不知道该从哪学起？这份「AI大模型 学习路线图」直接帮你划重点，不用再盲目摸索！

路线图涵盖 5 大核心板块，从基础到进阶层层递进：一步步带你从入门到进阶，从理论到实战。

L1阶段:启航篇丨极速破界AI新时代

L1阶段：了解大模型的基础知识，以及大模型在各个行业的应用和分析，学习理解大模型的核心原理、关键技术以及大模型应用场景。

L2阶段：攻坚篇丨RAG开发实战工坊

L2阶段：AI大模型RAG应用开发工程，主要学习RAG检索增强生成：包括Naive RAG、Advanced-RAG以及RAG性能评估，还有GraphRAG在内的多个RAG热门项目的分析。

L3阶段：跃迁篇丨Agent智能体架构设计

L3阶段：大模型Agent应用架构进阶实现，主要学习LangChain、 LIamaIndex框架，也会学习到AutoGPT、 MetaGPT等多Agent系统，打造Agent智能体。

L4阶段：精进篇丨模型微调与私有化部署

L4阶段：大模型的微调和私有化部署，更加深入的探讨Transformer架构，学习大模型的微调技术，利用DeepSpeed、Lamam Factory等工具快速进行模型微调，并通过Ollama、vLLM等推理部署框架，实现模型的快速部署。

L5阶段：专题集丨特训篇 【录播课】

四、资料领取：全套内容免费抱走，学 AI 不用再找第二份

不管你是 0 基础想入门 AI 大模型，还是有基础想冲刺大厂、了解行业趋势，这份资料都能满足你！
现在只需按照提示操作，就能免费领取：

👇👇扫码免费领取全部内容👇👇

​

2025 年想抓住 AI 大模型的风口？别犹豫，这份免费资料就是你的 “起跑线”！