安装docker版本ollama
·
一、下载镜像包
由于服务器在docker pull ollama/ollama时会卡住,首先通过wsl下载并导出ollama的docker镜像包
二、安装ollama的服务器部署镜像包
1.上传tar包到指定服务器
2.进入tar包所在文件夹
3.在终端运行以下命令加载镜像
docker load -i ollama053.tar

4.加载镜像成功后,输入如下命令进行查看
docker images

三、基于镜像包构建ollama镜像
1.由于服务器本身有非docker版的ollama,因此先用命令停止
sudo systemctl stop ollama
注:如果原服务器已配置低版本的docker版本ollama,请先删除
2.使用docker镜像构建容器
docker run -d --gpus '"device=1"' -v /usr/share/ollama/.ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama:0.5.3
此处-v后面紧跟的路径需要根据实际路径地址来进行映射
无报错信息表示构建成功
更多推荐

所有评论(0)