问题描述 :使用LLAMA-Factory 进行qlora微调训练时,在推理测试阶段报错cuDNN Frontend error: [cudnn_frontend] Error: No execution plans support the graph.

问题原因:torch 2.5版本存在bug,需要重新 回退torch版本

具体做法:

# conda
conda install pytorch==2.4.1 torchvision==0.19.1 torchaudio==2.4.1 -c pytorch
# pip
pip install torch==2.4.1 torchvision==0.19.1 torchaudio==2.4.1


 

Logo

有“AI”的1024 = 2048,欢迎大家加入2048 AI社区

更多推荐