1. 什么是 Ollama

Ollama 是一款开源的本地大语言模型运行工具，支持在个人电脑上便捷地下载、运行和管理各类开源大模型，如 Llama、Qwen、Mistral 等。它通过简洁的命令行和 REST API，让开发者无需深厚的技术背景即可在本地环境中完成模型的部署与调用。

2. 安装与配置

Ollama 支持 Windows、macOS 和 Linux 三大主流平台。用户可前往官网下载对应安装包，安装完成后通过终端执行 ollama --version 验证是否安装成功。对于 Linux 服务器，也可使用官方提供的安装脚本一键完成部署。

3. 常用模型下载与运行

安装完成后，可通过以下命令拉取并运行模型：

# 拉取模型
ollama pull qwen2.5
运行模型并进入交互对话
ollama run qwen2.5

Ollama 内置了模型仓库，支持按名称和标签拉取不同参数规模的版本，例如 qwen2.5:7b 或 llama3.1:8b。

4. 通过 API 调用模型

Ollama 默认在本地 11434 端口提供 REST API 服务，开发者可通过 HTTP 请求与模型交互：

curl http://localhost:11434/api/generate -d '{
  "model": "qwen2.5",
  "prompt": "你好，请介绍一下你自己"
}'

该接口返回流式响应，便于集成到各类应用中，实现本地化的智能问答、文本生成等功能。

5. 自定义模型与参数调优

Ollama 支持通过 Modelfile 自定义模型行为，例如调整温度参数、设置系统提示词等。用户可创建 Modelfile 文件并执行 ollama create 命令生成定制模型，从而更好地适配特定业务场景。

6. 总结

Ollama 降低了本地大模型的使用门槛，适合个人开发者、中小企业以及数据敏感型场景。通过简单的命令行和 API，即可快速搭建私有化的智能应用，兼顾性能、成本与数据安全。