问题:运行Llama3-Chinese-8B-Instruct微调后的模型,出现Unsloth: Input IDs of length 10201 > the model's max sequence length of 8192.问题。

解决办法:

将max_seq_length = 2048 修改为 max_seq_length = 20402

# 原语句
max_seq_length = 2048
# 修改为下列语句
max_seq_length = 20402

Logo

有“AI”的1024 = 2048,欢迎大家加入2048 AI社区

更多推荐