pytorch 提高GPU利用率 TensorFlow可参考

torch.utils.data.DataLoader(image_datasets[x],
                            batch_size=batch_size, 
                            shuffle=True,
                            num_workers=8,
                            pin_memory=True)

1. 将num_workers调大，尽量大，多进程调用
2. 设置pin_memory为 True ，由CPU传输的数据不需要经过RAM，直接映射到GPU上
3. batch_size 尽量大