本文基于 PPT《大模型本地部署与 Prompt》内容整理而成，系统介绍了 DeepSeek 的技术演进、本地部署工具链（Ollama、Anything LLM）以及 Prompt 工程实战体系。
（适合 AI 学习者、开发者、技术博主参考）

---

🧩 一、DeepSeek-R1 模型：国产长思维链推理的突破

DeepSeek-R1 于 2025 年 1 月 20 日 正式发布，并且 完全开源、免费商用，在国产大模型中属于里程碑级事件。

1️⃣ 研发背景与核心定位

• 隶属幻方量化旗下团队
• 主打 长思维链推理能力（数万字级别）
• 聚焦数学、代码、复杂逻辑推理
• 在多个任务上对标 OpenAI 顶级模型（如 o1）

2️⃣ 技术亮点

文档（第 4–5 页） 总结了 R1 的技术亮点：

（1）强化学习驱动，无需监督微调

• 自建反思与验证机制
• 训练方式更加接近 AGI 的“自主进化”
• AIME2024 数学竞赛得分 79.8%，逼近 OpenAI o1

（2）MLA + MoE 架构，低成本推理

• 内存占用仅为传统注意力机制的 5–13%
• 6710 亿参数中只激活 37 亿 → 减少计算量
• 适合中小机构进行 本地化部署

（3）多模态能力增强

• 文本 + 图像 + 音频
• 支持金融场景（财报 + K 线 + 会议录音）联合分析

3️⃣ 性能表现

来自文档第 6 页显示：

• Chatbot Arena：全球大模型 NO.3
• 与 OpenAI o1 并列“风格可控型”第一
• Codeforces 排名 96.3 百分位

更关键的是：

• 开源 6 个小模型（1.5B–70B）
• 32B/70B 对标 o1-mini

国产模型第一次在推理任务上全面对齐国际最强。

---

🖥️ 二、Ollama：本地部署大模型的黄金工具

文档第 8–9 页详细介绍了 Ollama 的能力与使用方法。

1️⃣ Ollama 是什么？

• 开源 LLM 本地运行框架

• 支持数十种主流模型（LLaMA、Qwen、Phi、DeepSeek）

• 自动处理：

  • 模型下载
  • GPU 调用
  • 权重调度
  • 启动服务

2️⃣ 安装配置

Ollama 默认安装到 C 盘，可通过：

OllamaSetup.exe /DIR=D:\ollama

来变更路径。

模型存储位置可通过环境变量设定：

OLLAMA_MODELS=D:\ollama\models

3️⃣ 常见命令（文档第 9 页）

▶️ 创建模型

ollama create mymodel -f ./Modelfile

▶️ 拉取最新模型

ollama pull llama3.2

▶️ 查看模型

ollama list
ollama show llama3.2

▶️ 运行模型（含多模态）

ollama run llava "What's in this image? /path/to/img.png"

Ollama 的价值：最简单的本地大模型启动方式，适合开发者与实验室。

---

🧪 三、Anything LLM：你的本地 AI 操作系统

文档第 11 页提到：

Anything LLM 是一个更完整的桌面 / Web 端 AI 产品，具备：

1️⃣ 功能特性

• 文本、图片、音频多模态对话

• 文档自动向量化 → 实现知识库能力（RAG）

• 自带多个模型后端支持：

  • Ollama
  • OpenAI
  • Azure
  • 本地 Embedding

• 多用户、多工作区

2️⃣ 隐私与企业级能力

• 数据 全部本地存储
• 可独立部署
• 适合企业内网环境

3️⃣ 应用场景

• 知识库助手
• 内部智能客服
• 文档整理
• 企业自动化问答系统

一句话：Anything LLM 是更强的本地版 ChatGPT + 企业知识库解决方案。

---

🎯 四、Prompt 工程：从概念到工程化

Prompt 系统提示词。

1️⃣ Prompt 定义与核心原理

Prompt 是“引导模型行为的输入文本”，其作用来自：

• 语言模型的条件概率生成机制
• 上下文学习能力
• 指令跟随能力

2️⃣ Prompt 工程的重要性

好的 Prompt 可以显著增强：

• 准确性
• 生成质量
• 可控性
• 可复现性

---

🧱 五、Prompt 工程的六大核心要素

来自文档第 17 页：

1. 目标导向性：清楚告诉模型要达成什么
2. 领域适配性：任务背景一致，避免废话
3. 简洁性：越简洁越有效
4. 一致性：不要前后冲突
5. 引导性：告诉模型重点是什么
6. 可控性：避免脏输出和离题

---

🧰 六、Prompt 工程的三大实践原则

来自文档第 18 页：

• 可重复性：不同场景下得到类似结果
• 可验证性：能通过实验证明有效
• 可拓展性：能迁移到其他任务

---

🔧 七、Prompt 工程的工程化流程

文档第 19 页总结了完整生命周期：

Prompt 全生命周期 5 步法：

1. 需求分析
2. 设计开发（结构、框架、示例）
3. 实现评估
4. 迭代优化
5. 部署应用

这意味着：Prompt 工程并不是随便写几句，而是一套完整的产品工程方法论。
以下是示例：

---

🏁 写在最后：如何利用这些内容？

如果你是：

✔ AI 学习者

→ 可以从 DeepSeek-R1 理解国产模型的技术趋势

✔ 开发者

→ 可搭建 Ollama + AnythingLLM 的私有 AI 环境

✔ 提示词工程师

→ 可以用文档里的六要素与三原则优化 Prompt