简述

查了很久,还是没找到我对应的问题的解决方案。最后还是大佬给来一个可行的代码,我才找到的。

  1. batch size 太大了。(最大可能问题)
  2. cude和cudnn版本之间冲突。(很少见,一般都可以,我给一个可行版本,我的是cude11,cudnn8)
  3. amp(fp16)tf32 的选择问题。(我遇到的就是这个,这个其实是这个报错的本来含义emmmm)

解决方案

选一个执行即可,第二个大概率不用(作为最后方案)

  1. batch size 设置的小一点
  2. 重装cuda或者cudnn
  3. fp16设置为tf32

参考:

  • https://developer.nvidia.com/zh-cn/blog/accelerating-tensorflow-on-a100-gpus/
Logo

有“AI”的1024 = 2048,欢迎大家加入2048 AI社区

更多推荐