提供一个检查方向:dataload 过程中 num_workers的设置是否太大,内存、cpu跟不上。附上此问题总结:
1、在dataloader过程中,会开启numworkers个进程来进行数据采集工作。每个workers去读取一个batchsize的数据存放在内存中
2、主进程会从workers中读取需要的batch,读取完成后,worker会去采集下一个batch。如果workers中没有主进程需要的batch,主进程会暂停,等待workers采集完成。【此处体现为numworkers和batchsize都很小,显卡每次处理数据量很少,造成数据提供跟不上显卡需求,训练速度降低】
问题展示:
训练模型过程中报错:ConnectionRefusefError:[Erroe 111]connection refused
最新推荐文章于 2023-07-16 22:59:31 发布