方法1:下载ollama安装包

第一步:从ollama下载ollama的网址下载到本地,约1.2G;

第二步:通过sftp上载到服务器/user/local 目录,并解压缩:

tar -xzf ollama-linux-amd64.tgz

第三步:ollama --version,查看ollama是否安装成功,但是报错如下:

可以看到ollama要求 glibc_2.27库,如果采用这个方法 就需要安装这个库

方法2:利用docker安装ollama

第一步:拉取ollama镜像:docker pull ollama/ollama

第二步:运行:docker run -d  -v ollama-data:/root/.ollama -p 11434:11434 --name ollama ollama/ollama

第三步:docker exec -it ollama ollama run deepseek-r1:7b(首次运行会自动拉取模型)

第四步:测试:curl http://localhost:11434/api/generate -d '{
  "model": "deepseek-r1:7b",
  "prompt": "为什么天空是蓝色的?",
  "stream": false
}'

Logo

有“AI”的1024 = 2048,欢迎大家加入2048 AI社区

更多推荐