一、下载镜像包

由于服务器在docker pull ollama/ollama时会卡住,首先通过wsl下载并导出ollama的docker镜像包

二、安装ollama的服务器部署镜像包

1.上传tar包到指定服务器
2.进入tar包所在文件夹
3.在终端运行以下命令加载镜像

docker load -i ollama053.tar

在这里插入图片描述
4.加载镜像成功后,输入如下命令进行查看

docker images

在这里插入图片描述

三、基于镜像包构建ollama镜像

1.由于服务器本身有非docker版的ollama,因此先用命令停止

sudo systemctl stop ollama

注:如果原服务器已配置低版本的docker版本ollama,请先删除
2.使用docker镜像构建容器

docker run -d --gpus '"device=1"' -v /usr/share/ollama/.ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama:0.5.3

此处-v后面紧跟的路径需要根据实际路径地址来进行映射

无报错信息表示构建成功
在这里插入图片描述

Logo

有“AI”的1024 = 2048,欢迎大家加入2048 AI社区

更多推荐