一、Ollama简介
Ollama现在作为原生Windows应用程序运行,支持NVIDIA和AMD的Radeon GPU。安装olama for Windows后,Ollama将在后台运行,Ollama命令行可以在cmd、powershell或您喜欢的终端应用程序中使用。

二、安装环境

Windows 11 Pro 24H2

三、Ollama对硬盘空间的要求

Ollama安装不需要管理员,默认安装在当前用户的主目录中,需要至少4GB的空间来安装二进制文件。安装好Ollama后,我们需要额外的空间来存储大型语言模型,这些模型的大小可以达到数十GB到数百GB。如果我们的主目录没有足够的空间,我们就需要更改安装位置和模型的存储位置。

修改安装位置,只需要执行安装文件的时候添加如下的参数即可;

OllamaSetup.exe /DIR="d:\program\Ollama"

修改模型存放位置,只需要添加OLLAMA_MODELS环境变量指定对应的目录即可;

四、拉取大模型

ollama run deepseek-r1

五、通过power shell访问大模型的API

$body = @'
{
	"model": "deepseek-r1", 
	"prompt": "why the sky is blue", 
	"stream": false
}
'@

(Invoke-WebRequest -method POST -Body $body   -uri http://localhost:11434/api/generate ).Content | ConvertFrom-json
PS C:\Users\houyingshi> $body = @'                                              {
 "model": "deepseek-r1",
 "prompt": "天空为什么是蓝色的",
 "stream": false
}
'@

PS C:\Users\houyingshi> (Invoke-WebRequest -method POST -Body $body  -ContentType "application/json; charset=utf-8"   -uri http://localhost:11434/api/generate ).Content | ConvertFrom-json

六、ollama的几个重要文件目录

日志目录 %LOCALAPPDATA%\Ollama
模型和配置目录 %HOMEPATH%.ollama
安装目录 %LOCALAPPDATA%\Programs\Ollama

Logo

有“AI”的1024 = 2048,欢迎大家加入2048 AI社区

更多推荐