ollama 部署 deepseek

准备

配置环境变量

1. 运行sysdm.cpl

2. 环境变量

   OLLAMA_HOST=0.0.0.0
   OLLAMA_ORIGINS=*
   OLLAMA_MODELS=D:\ollama\models
   

   

下载ollama

官网：https://olama.com/

安装ollama

控制台进入ollama安装包所在目录
将ollama安装到指定目录

OllamaSetup.exe /DIR="D:\ollama"

部署deepseek

ollama run deepseek-r1:1.5b

部署qwen

ollama run qwen3:1.7b

ollama常用命令

# 1. 列出所有的模型
ollama list
NAME                ID              SIZE      MODIFIED
deepseek-r1:8b      28f8fd6cdc67    4.9 GB    46 hours ago
deepseek-r1:1.5b    a42b25d8c10a    1.1 GB    46 hours ago
qwen3:1.7b          458ce03a2187    1.4 GB    2 weeks ago
qwen3:32b           e1c9f234c6eb    20 GB     2 weeks ago
qwen3:8b            e4b5fd7f8af0    5.2 GB    2 weeks ago
qwen3:14b           7d7da67570e2    9.3 GB    2 weeks ago
deepseek-r1:32b     38056bbcbb2d    19 GB     6 weeks ago
glm4:9b             5b699761eca5    5.5 GB    2 months ago
deepseek-r1:14b     ea35dfe18182    9.0 GB    2 months ago
deepseek-r1:7b      0a8c26691023    4.7 GB    2 months ago

# 2. 显示模型详细信息
ollama show deepseek-r1:1.5b
  Model
    architecture        qwen2
    parameters          1.8B
    context length      131072
    embedding length    1536
    quantization        Q4_K_M

  Parameters
    stop    "<｜begin▁of▁sentence｜>"
    stop    "<｜end▁of▁sentence｜>"
    stop    "<｜User｜>"
    stop    "<｜Assistant｜>"

  License
    MIT License
    Copyright (c) 2023 DeepSeek


# 3. 复制一个模型
ollama cp deepseek-r1:1.5b new-deepseek-r1:1.5b
copied 'deepseek-r1:1.5b' to 'new-deepseek-r1:1.5b'

# 4. 列出正在运行的模型
ollama ps
NAME                ID              SIZE      PROCESSOR    UNTIL
deepseek-r1:1.5b    a42b25d8c10a    2.2 GB    100% GPU     4 minutes from now

# 5. 删除一个模型
ollama rm new-deepseek-r1:1.5b
deleted 'new-deepseek-r1:1.5b'

# 6. 从模型注册表中拉取一个模型
ollama pull deepseek-r1:7b

# 7. 运行一个模型
ollama run deepseek-r1:7b

# 8. 停止运行的模型
ollama stop deepseek-r1:7b

# 9. 启动 Ollama 的 API 服务
# set OLLAMA_HOST="0.0.0.0:19988" 设置绑定IP和端口
ollama serve