数字人全量服务部署手册(Nvidia版)
摘要:本文介绍数字人服务的部署流程,包括镜像传输、Docker安装配置、镜像加载和容器启动等步骤。通过百度网盘获取镜像文件后,需在目标服务器安装Docker并加载镜像。重点说明GPU支持所需的nvidia-container-toolkit安装方法(使用USTC镜像源),最后给出容器启动命令和日志查看方法。部署过程涵盖镜像传输、环境配置、服务验证等完整环节,确保数字人服务正常运行。
1.安装服务镜像
- 使用U盘或SCP方式将tar镜像文件传输到目标服务器指定目录
百度网盘链接:https://pan.baidu.com/s/wrh1RMsWFrHkzIR8JzemzdRZYw?pwd=ci3h 提取码: ci3h

scp jyddigital_v1.0.tar wzhpc@188.18.18.169:/opt/jyd01/wangruihua/

通过网盘分享的文件:jyd_digital_v1.0.tar
链接: https://pan.baidu.com/s/wrh1aWvKG6xqjN-HIvgAUS-NXA?pwd=kaqn 提取码: kaqn
2.在目标服务器上加载镜像
SSH 登录到目标服务器,并运行以下命令以加载镜像:
docker load -i /opt/jyd01/wangruihua/jyd_digital_v1.0.tar

如果不成功需要验证服务器是否安装docker:
docker --version

2. 安装 Docker
(1)更新软件包索引
sudo apt update

(2)通过 apt 安装 Docker 社区版:
sudo apt install docker.io -y

(3)验证安装
安装完成后,检查 Docker 版本以确认安装成功:
docker --version

(4)启动并设置 Docker 开机自启
sudo systemctl start docker
sudo systemctl enable docker
3. 检查docker服务状态:
sudo systemctl status docker
如果服务未运行,则重新启动 Docker:
sudo systemctl start docker
4. 加载 Docker 镜像
安装 Docker 后,以管理员权限加载 .tar 文件:
sudo docker load -i jyd_digital_v1.0.tar

如果不成功需要开启管理员权限
sudo -s
5. 测试 Docker 镜像
加载镜像后,检查是否成功:
docker images
如果镜像加载成功,将会看到 jyd_digital:v1.0。
- 安装 nvidia-container-toolkit 工具
使用 docker 运行该程序需要用到GPU, 需要使用 nvidia-container-toolkit 工具。需要使用国内镜像源安装,流程:
① 先下载镜像 gpgkey
curl -fsSL https://mirrors.ustc.edu.cn/libnvidia-container/gpgkey | sudo gpg --dearmor -o /usr/share/keyrings/nvidia-container-toolkit-keyring.gpg
②配置中国科技大学(USTC) 镜像 APT 源
curl -s -L https://mirrors.ustc.edu.cn/libnvidia-container/stable/deb/nvidia-container-toolkit.list | \
sed 's#deb https://nvidia.github.io#deb [signed-by=/usr/share/keyrings/nvidia-container-toolkit-keyring.gpg] https://mirrors.ustc.edu.cn#g' | \
sudo tee /etc/apt/sources.list.d/nvidia-container-toolkit.list

③ 更新 APT 包列表
sudo apt-get update

④ 安装 NVIDIA Container Toolkit
sudo apt-get install -y nvidia-container-toolkit

⑤ 验证安装
nvidia-container-cli --version

⑥ 重启docker
sudo systemctl restart docker
- 启动容器
创建目录/opt/jyd01/wangruihua/api_docker/jyd_digital
运行docker启动命令:
docker run -d \
--name jyd_digital_container \
--restart always \
-p 8000:8000 \
-p 8001:8001 \
-p 8002:8002 \
-p 8004:8004 \
-v $(pwd)/heygem/data:/code/data \
-v $(pwd)/logs:/app/logs \
-v $(pwd)/index-tts/data/outputs:/app/index-tts/data/outputs \
--gpus all \
--runtime=nvidia \
--shm-size=8g \
jyd_digital:v1.0
查看是否启动:docker ps
docker ps
查看容器日志:docker logs jyd_digital_container
进入容器,检查日志情况:docker exec -it jyd_digital_container bash
docker exec -it jyd_digital_container bash
进入日志目录:
cd logs/
查看日志详情:tail -f nohup_8002.log
tail -f nohup_8002.log

更多推荐


所有评论(0)