Pytorch 释放 GPU 显存

1、torch.cuda.empty_cache() 释放GPU显存空间torch.cuda.empty_cache()2、torch.cuda.memory_summary() 查看显存信息print(torch.cuda.memory_summary())

清纯世纪

8760人浏览 · 2021-12-19 16:01:13

清纯世纪 · 2021-12-19 16:01:13 发布

1、torch.cuda.empty_cache() 释放GPU显存空间

torch.cuda.empty_cache()

2、torch.cuda.memory_summary() 查看显存信息

print(torch.cuda.memory_summary())

2048 AI社区

有“AI”的1024 = 2048，欢迎大家加入2048 AI社区

更多推荐

langchain4j-(9)-RAG

2048 AI社区

【大白话】浅析Transformer的自注意力机制：从“小纸条”到改变AI的核心魔法

在Transformer模型诞生之前，自然语言处理（NLP）领域主要由循环神经网络（RNN）及其变体（如LSTM）主导。顺序处理，难以并行：必须一个字一个字地处理序列，计算速度慢。长距离依赖问题：当句子很长时，模型容易“忘记”开头的信息。比如在句子“我出生在法国，……，所以我流利地说法语”中，RNN很难建立“法国”和“法语”之间的遥远联系。Attention机制的初衷，就是解决“长距离依赖”问题。