Cannot re-initialize CUDA in forked subprocess.

最新推荐文章于 2024-08-12 23:18:14 发布
最新推荐文章于 2024-08-12 23:18:14 发布
阅读量689 收藏 9
点赞数 7
文章标签： 深度学习 python 人工智能 pytorch 计算机视觉
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/yang332233/article/details/135524629
版权

"Cannot re-initialize CUDA in forked subprocess. " + msg)
RuntimeError: Cannot re-initialize CUDA in forked subprocess. To use CUDA with multiprocessing, you must use the 'spawn' start method

anconda_install/envs/pytorch1.7/lib/python3.7/site-packages/torch/_utils.py", line 428, in reraise
    raise self.exc_type(msg)
RuntimeError: Caught RuntimeError in DataLoader worker process 0.
Original Traceback (most recent call last):
  File "/anconda_install/envs/pytorch1.7/lib/python3.7/site-packages/torch/utils/data/_utils/worker.py", line 198, in _worker_loop
    data = fetcher.fetch(index)
  File "/anconda_install/envs/pytorch1.7/lib/python3.7/site-packages/torch/utils/data/_utils/fetch.py", line 44, in fetch
    data = [self.dataset[idx] for idx in possibly_batched_index]
  File "/anconda_install/envs/pytor
最低0.47元/天 解锁文章
无左无右
关注
RuntimeError: Cannot re-initialize CUDA in forked subprocess. To use CUDA with multiprocessing, you
福尔摩斯帅双的博客
03-30 1952
报错如下: Traceback (most recent call last): File “E2Capsnet.py”, line 777, in main() File “E2Capsnet.py”, line 619, in main train(epoch) File “E2Capsnet.py”, line 470, in train for batch_id, (data, label) in enumerate(raf.train_loader): File “/home/nuaa301/a
关于RuntimeError: Cannot re-initialize CUDA in forked subprocess和CUDA error: initialization error的解决
狂小虎/Anthony Dave的博客 KuangXiaoHu's Blogs
09-27 2892
最近小虎在cpu上试跑了detection任务的程序没什么问题，但是在gpu上运行时发生了关于cuda的一些报错，发现解决问题的精华就一句话。下面给出问题解决的例子和代码。
cannot re-initialize CUDA in forked subproess
chumingqian的博客
04-02 2047
该问题描述了pytorch 中使用cuda 初始化时，　与DataLoader中使用num_worker 多进程，　这两者之间发生了冲突，根据错误提示，　在DataLoader 中使用该参数，并设置为spawn，　由于平时创建时，使用fork 创建的是子线程，　所以没有注意。
RuntimeError: Cannot re-initialize CUDA in forked subprocess.
u013409979的博客
05-07 2864
分析：multiprocessing启动方式有误。2、直接设置num_workers=0。
多进程的子进程cuda使用报错: Cannot re-initialize CUDA in forked subprocess
qq_43199876的博客
12-13 1万+
这个错误表明在使用CUDA时，你的代码在一个使用fork启动方法的多进程环境中，而CUDA不支持在fork的子进程中重新初始化。为了解决这个问题，你可以将多进程的启动方法改为使用spawn，这样就可以在子进程中重新初始化CUDA。在Python中，你可以使用multiprocessing模块中的Manager对象来共享资源，或者使用Pool对象来处理进程池中的任务。如果你仍然遇到问题，可能需要考虑其他方法，例如在主进程中初始化CUDA，并将相应的资源传递给子进程，以避免CUDA的重新初始化问题。
Cannot re-initialize CUDA in forked subprocess. To use CUDA with multiprocessing 问题解决
zwhszdx的博客
08-12 2261
使用FastChat框架中的vllm_work部署DeepSeek-Coder-V2时遇到Cannot re-initialize CUDA in forked subprocess. To use CUDA with multiprocessing 问题解决
RuntimeError: Cannot re-initialize CUDA in forked subprocess. To use CUDA with multiprocessing
最新发布
04-03
综上所述，要防止出现 “Cannot re-initialize CUDA in forked subprocess.” 的异常情况，最直接有效的办法就是改变默认使用的进程创建机制至支持更好隔离特性的选项如 `'spawn'` ，或者干脆停用那些可能会间接触发...
RuntimeError: Cannot re-initialize CUDA in forked subprocess. To use CUDA with multiprocessing, you must use the 'spawn' start method
08-30
当您在使用CUDA进行多进程编程时，如果出现"RuntimeError: Cannot re-initialize CUDA in forked subprocess. To use CUDA with multiprocessing, you must use the 'spawn' start method"的错误提示，这是因为在...
cannot re-initialize CUDA in forked subprocess.To use CUDA with multiprocessing,you must use the ‘sp
weixin_39663060的博客
10-17 3210
cannot re-initialize CUDA in forked subprocess.To use CUDA with multiprocessing,you must use the 'spawn' start method.
cuda检测工具 devicequery.exe
08-03
deviceQuery.exe Starting... CUDA Device Query (Runtime API) version (CUDART static linking) Detected 1 CUDA Capable device(s) Device 0: "GeForce GTX 650" CUDA Driver Version / Runtime Version 9.1 / 8.0 CUDA Capability Major/Minor version number: 3.0 Total amount of global memory: 2048 MBytes (2147483648 bytes) ( 2) Multiprocessors, (192) CUDA Cores/MP: 384 CUDA Cores GPU Max Clock rate: 1072 MHz (1.07 GHz) Memory Clock rate: 2500 Mhz Memory Bus Width: 128-bit L2 Cache Size: 262144 bytes Maximum Texture Dimension Size (x,y,z) 1D=(65536), 2D=(65536, 65536), 3D=(4096, 4096, 4096) Maximum Layered 1D Texture Size, (num) layers 1D=(16384), 2048 layers Maximum Layered 2D Texture Size, (num) layers 2D=(16384, 16384), 2048 layers Total amount of constant memory: 65536 bytes Total amount of shared memory per block: 49152 bytes Total number of registers available per block: 65536 Warp size: 32 Maximum number of threads per multiprocessor: 2048 Maximum number of threads per block: 1024 Max dimension size of a thread block (x,y,z): (1024, 1024, 64) Max dimension size of a grid size (x,y,z): (2147483647, 65535, 65535) Maximum memory pitch: 2147483647 bytes Texture alignment: 512 bytes Concurrent copy and kernel execution: Yes with 1 copy engine(s) Run time limit on kernels: Yes Integrated GPU sharing Host Memory: No Support host page-locked memory mapping: Yes Alignment requirement for Surfaces: Yes Device has ECC support: Disabled CUDA Device Driver Mode (TCC or WDDM): WDDM (Windows Display Driver Model) Device supports Unified Addressing (UVA): Yes Device PCI Domain ID / Bus ID / location ID: 0 / 1 / 0 Compute Mode: deviceQuery, CUDA Driver = CUDART, CUDA Driver Version = 9.1, CUDA Runtime Version = 8.0, NumDevs = 1, Device0 = GeForce GTX 650 Result = PASS
Cannot re-initialize CUDA in forked subprocess. To use CUDA with multiprocessing, you
m0_52280920的博客
01-12 1971
当然，在定义dataset，方法__getitem__ 里把张量放到device里也会产生同样的错误。但是gpu会卡住不运行数据加载。
RuntimeError: Cannot re-initialize CUDA in forked subprocess解决方法之一
热门推荐
NLOS的博客
05-14 2万+
在程序最开始的地方加上： torch.multiprocessing.set_start_method(‘spawn’) 即可解决，如下第二行所示： if __name__=='__main__': torch.multiprocessing.set_start_method('spawn') args = config_parser().parse_args() data_loader = CreateDataLoader(args) train() 其他详细的解释和
解决Cannot re-initialize CUDA in forked subprocess，实现cuda多进程任务
方温热的博客
03-22 601
现在遇到一个需求，当我训练好一个神经网络，需要将推理的结果保存在本地，那么一个一个有点浪费时间，如果推理一个batch，然后对这一个batch使用多线程同时保存到本地，那岂不是快的飞起！说干就干，我加载进程池，运行函数，还没怎么高兴，不出意外的出现了意外。但是processes不易设置过大，根据自己性能进行设置。多进程可以加速任务的进行。不牵扯cuda的多进程可以使用。使用，具体的网上很多了就不再一一介绍。接着就正常使用pool的api，
pythonRuntimeError: Cannot re-initialize CUDA in forked subprocess. To use CUDA with multiprocessing
ResumeProject的博客
06-24 6433
fork spawn
完美解决pytorch多线程问题：Cannot re-initialize CUDA in forked subprocess. To use CUDA with multiprocessing
slamdunkofkd的博客
08-13 1万+
在pytorch，dataloader里设置了num_workers > 1的时候, 会出现这个错误。 一般网上https://blog.csdn.net/qazwsxrx/article/details/116806358解决方法，加上一行设定。 然而，我这里如果加上这行代码，会导致代码卡死在dataloader里面。 后面发现，代码里面设定了这样的几行。 if cuda: torch.set_default_tensor_type('torch.cuda.FloatTen.
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值