1. 在终端运行如下指令进行配置

accelerate config

2. 根据需要生成如下配置：

➜ ✗ cat default_config.yaml 
compute_environment: LOCAL_MACHINE
debug: false
distributed_type: 'NO'
downcast_bf16: 'no'
enable_cpu_affinity: false
gpu_ids: '0'
machine_rank: 0
main_training_function: main
mixed_precision: fp16
num_machines: 1
num_processes: 1
rdzv_backend: static
same_network: true
tpu_env: []
tpu_use_cluster: false
tpu_use_sudo: false
use_cpu: false

3. 终端运行如下命令：

accelerate launch --config_file default_config.yaml \
  train.py \
# 深度学习 # 人工智能
Logo
2048 AI社区

有“AI”的1024 = 2048，欢迎大家加入2048 AI社区

更多推荐

cover

langchain4j-(9)-RAG

avatar 2048 AI社区

【大白话】浅析Transformer的自注意力机制：从“小纸条”到改变AI的核心魔法

在Transformer模型诞生之前，自然语言处理（NLP）领域主要由循环神经网络（RNN）及其变体（如LSTM）主导。顺序处理，难以并行：必须一个字一个字地处理序列，计算速度慢。长距离依赖问题：当句子很长时，模型容易“忘记”开头的信息。比如在句子“我出生在法国，……，所以我流利地说法语”中，RNN很难建立“法国”和“法语”之间的遥远联系。Attention机制的初衷，就是解决“长距离依赖”问题。

avatar 2048 AI社区

大模型提示词XYZ1

只输出你推荐的图表类型名称，从以下图表类型中选择一个输出:柱状图，折线图，饼图，散点图，带有涟漪特效动画的散点(气泡)图，K线图，雷达图，热力图，树图，矩形树图，旭日图，地图，路径图。负责把用户的查询数据需求进行提炼和总结，抓取关键数查询文字，去掉和数据查询无关的内容，比如生成图表成Excel、生成表单等和数据查询无关的内容，只保留提询数据的文字。你的任务是根据用户的自然语言输入，编写出可直接执行

avatar 2048 AI社区