3. 大模型对比

• 指令模型VS推理模型

3.1 指令模型

指令模型（通用模型、传统模型，Instruct model）: 依赖用户指令来生成内容或执行任务。

• 代表：DeepSeek-V3、GPT-4o、豆包、Qwen2.5、Llama-3.1
• 特点：就像刚毕业的实习生、领导说一步做一步
• 提示词(promptp)：你是xxx，我的任务是xxx、你要按照1、2、3步骤来执行

3.2 推理模型

推理模型（reasoning model）:专注于逻辑推理，问题解决模型，能够自主处理需要多步骤分析、因果推断或复杂决策任务。比如，数学、编程、科学问题。

• 代表：DeepSeek-R1、OpenAI-o1、OpenAI-o3-mini
• 特点：大模型更像是一个“职场精英”，给出明确的目的，提供丰富的上下文，剩下的让模型自行发挥（向模型索要结果）。

访问地址：https://github.com/deepseek-ai/DeepSeek-R1?tab=readme-ov-file

• AIME：专注于高级数学竞赛问题。
• Codeforce：衡量编程竞赛技能。
• GPQA Diamond：GPQA全称是Graduate-Level Google-ProofQ&A Benchmark，由448个困难的多项选择题组成，这些问题无法通过Google搜索轻松回答，且由生物学、物理学和化学等各个领域的主题专家精心设计。
• MATH-500：测试数学推理和问题解决能力。
• MMLU： MMLU，全称Massive Multitask Language Understanding（大规模多任务语言理解）是人工智能领域最有影响力的大模型测评基准之一。
• SWE-bench Verified：测试软件工程任务解决的准确性。

4. 四大部署方案

4.1 调用API+DeepSeek服务器

4.1.1 客户端调用

github-很好的客户端集成工具，这里选择Cherry studio，下载并安装

点击进入后：Releases · CherryHQ/cherry-studio (github.com)，下载这个安装包

也可以直接通过https://cherry-ai.com/下载安装包

然后安装打开：

4.1.1.1 示例1：配置DeepSeek

配置好后，调用如下：

4.1.1.2 示例2：配置siliconflow

在硅基流动中选择模型并创建API KEY
进入网址 点击模型/API 文档 / 页面找到 your api key，

点击进入并创建api key，如下：

复制上面api key , 进入客户端cherry stdio工具，选择 硅基流动。配置密钥。如下：

在访问时，切换为 硅基流动的模型，

然后去使用提问，如下：

4.1.2 API代码调用

如果你是开发者调用deepSeek的api，收费便宜：

要有API KEY，在https://platform.deepseek.com/api_keys中购买，如下：

根据api 文档调用https://api-docs.deepseek.com/zh-cn/，有3种代码调用示例

先放到APIPOST，中调用如下：

4.2 第三方平台

推荐：密塔搜索、硅基流动

4.2.1 密塔搜索

https://metaso.cn/

4.2.2 硅基流动

点击进去，进行【在线体验】

4.3 本地算力部署

4.3.1 版本选择

使用蒸馏模型
https://github.com/deepseek-ai/DeepSeek-R1?tab=readme-ov-file

开源蒸馏模型下载地址：https://huggingface.co/deepseek-ai 这里可以先不下载

4.3.2 部署过程

下载并安装ollama

下载ollama(下载地址：https://ollama.com/)

点击【download】选择对应系统的版本，进行下载。我这里用window的
下载到ollama安装包，进行傻瓜式安装，安装完成，进行如下测试，说明安装成功

注意：
直接安装ollama的话，会安装到C盘去，我们要给它指定安装目录，如下图，可以不用配置环境变量（先用ollama list试下，不行再配置环境变量）

选择模型版本
在https://ollama.com/页面，可以发现ollama支持多种模型，如下:

这里我们点击DeepSeek-R1后页面如下，可以选择要运行的模型版本

本地运行DeepSeek模型

ollama run deepseek-r1:1.5b

首次运行会下载相应模型文件

来测试下
提问：小明用10元钱买了5角邮票和2角邮票共23张，两种邮票各有多少张？

常用命令

//  获取帮助
/？

// 退出对话
/bye

// 启动运行模型
ollama run deepseek-r1:1.5b

// 查询已有模型
ollama list

4.3.3 使用客户端工具访问

上面测试都是使用cmd窗口进行，不够方便，现在我们使用客户端工具Cherry Studio(通过https://cherry-ai.com/ 下载) 去访问。

打开cherry Studio，找到ollama模型配置页面，注意API密钥不用填写，全部默认

点击管理，发现我们本地的模型 deepseek-r1:1.5b存在，点击页面上的“+”号，关闭该弹框

回到聊天页面，切换使用 Ollama下的deepseek-r1:1.5模型

接下来开始提问

4.3.4 修改模型的位置

模型默认下载到”C:\Users\你的用户名.ollama“的models文件夹下，可以把models迁移到其他文件夹下，例如：E:\ollama文件下，

配置环境变量

左键右下角的ollama图标退出， 重启ollama客户端生效
执行命令：ollama list。若有模型展示说明正常，无则确认上述步骤。

4.4 服务器部署（了解）