今天用秋葉大佬的Lora训练器训练模型时出现了这样一个问题:
网上查询资料可能原因如下:
就像在 CUDA 张量上进行多线程处理一样无法成功,有两种方法可供选择:
1. 不要使用多线程处理。将 DataLoader 的 num_worker 设置为零。
2. 改为 CPU 共享张量。确保您的自定义 DataSet 数据集返回CPU张量。
今天用秋葉大佬的Lora训练器训练模型时出现了这样一个问题:
网上查询资料可能原因如下:
就像在 CUDA 张量上进行多线程处理一样无法成功,有两种方法可供选择:
1. 不要使用多线程处理。将 DataLoader 的 num_worker 设置为零。
2. 改为 CPU 共享张量。确保您的自定义 DataSet 数据集返回CPU张量。