在windows上安装Ollama和Deepseek
Ollama安装不需要管理员,默认安装在当前用户的主目录中,需要至少4GB的空间来安装二进制文件。安装好Ollama后,我们需要额外的空间来存储大型语言模型,这些模型的大小可以达到数十GB到数百GB。如果我们的主目录没有足够的空间,我们就需要更改安装位置和模型的存储位置。安装olama for Windows后,Ollama将在后台运行,Ollama命令行可以在cmd、powershell或您喜欢
一、Ollama简介
Ollama现在作为原生Windows应用程序运行,支持NVIDIA和AMD的Radeon GPU。安装olama for Windows后,Ollama将在后台运行,Ollama命令行可以在cmd、powershell或您喜欢的终端应用程序中使用。
二、安装环境
Windows 11 Pro 24H2
三、Ollama对硬盘空间的要求
Ollama安装不需要管理员,默认安装在当前用户的主目录中,需要至少4GB的空间来安装二进制文件。安装好Ollama后,我们需要额外的空间来存储大型语言模型,这些模型的大小可以达到数十GB到数百GB。如果我们的主目录没有足够的空间,我们就需要更改安装位置和模型的存储位置。
修改安装位置,只需要执行安装文件的时候添加如下的参数即可;
OllamaSetup.exe /DIR="d:\program\Ollama"
修改模型存放位置,只需要添加OLLAMA_MODELS环境变量指定对应的目录即可;
四、拉取大模型
ollama run deepseek-r1
五、通过power shell访问大模型的API
$body = @'
{
"model": "deepseek-r1",
"prompt": "why the sky is blue",
"stream": false
}
'@
(Invoke-WebRequest -method POST -Body $body -uri http://localhost:11434/api/generate ).Content | ConvertFrom-json
PS C:\Users\houyingshi> $body = @' {
"model": "deepseek-r1",
"prompt": "天空为什么是蓝色的",
"stream": false
}
'@
PS C:\Users\houyingshi> (Invoke-WebRequest -method POST -Body $body -ContentType "application/json; charset=utf-8" -uri http://localhost:11434/api/generate ).Content | ConvertFrom-json
六、ollama的几个重要文件目录
日志目录 %LOCALAPPDATA%\Ollama
模型和配置目录 %HOMEPATH%.ollama
安装目录 %LOCALAPPDATA%\Programs\Ollama
更多推荐
所有评论(0)