跑大模型内存不足
RAGFlow服务器使用的内存是宿主机（即运行RAGFlow的物理机或虚拟机）的内存。当您在Docker中运行RAGFlow时，您可以通过设置Docker容器的内存限制来调整RAGFlow使用的内存。这个内存限制是在Docker容器的配置中设置的，通常是在docker-compose.yml文件或者.env文件中指定的。MEM_LIMIT=34359738368（即32GB）1、修改.env文件M
·
RAGFlow服务器使用的内存是宿主机（即运行RAGFlow的物理机或虚拟机）的内存。当您在Docker中运行RAGFlow时，您可以通过设置Docker容器的内存限制来调整RAGFlow使用的内存。这个内存限制是在Docker容器的配置中设置的，通常是在docker-compose.yml文件或者.env文件中指定的
1、修改.env文件MEM_LIMIT值
MEM_LIMIT=34359738368（即32GB）
2、重新启动RAGFlow服务
docker compose stop
docker compose up -d
3、查看宿主机还有多少可用内存
有“AI”的1024 = 2048，欢迎大家加入2048 AI社区
更多推荐
3
0- 0
已为社区贡献2条内容
所有评论(0)