问题描述1
输入运行语句:
CUDA_VISIBLE_DEVICES=2 accelerate launch
--multi_gpu
--mixed_precision 'fp16'
--machine_rank 0
--main_process_ip 125.216.241.108
--main_process_port 7236
--num_machines 2 --num_processes 2
./diff_prompter/ppo_prompter_ft.py
--data ./data
--gpt_path ./gpt2
--trl_config ./diff_prompter/configs/ppo_config_ft.yml
--checkpoint_dir .