Paddle 如何使用多块GPU 并行训练

Nova_新星

已于 2023-03-21 10:35:53 修改

阅读量6k

点赞数 16

分类专栏： Paddle

于 2021-06-22 08:25:35 首次发布

本文链接：https://blog.csdn.net/weixin_46400740/article/details/118098937

版权

PaddlePaddle 多卡训练 GPU 分布式 Python

关键词由CSDN通过智能技术生成

Paddle 专栏收录该内容

2 篇文章

订阅专栏

来自官方的教程

  #单机单卡启动，默认使用第0号卡
  $ python train.py
  
  #单机多卡启动，默认使用当前可见的所有卡
  $ python -m paddle.distributed.launch train.py

  #单机多卡启动，设置当前使用的第0号和第1号卡
  $ python -m paddle.distributed.launch --selected_gpus='0,1' train.py

  #单机多卡启动，设置当前使用第0号和第1号卡
  $ export CUDA_VISIABLE_DEVICES='0,1'
  $ python -m paddle.distributed.launch train.py