win上ray多节点并行python程序踩坑记录

有一较耗时的python程序,需要压缩计算时间,但由于内部数据量比较少,循环次数较多,GPU不容易使上力气,还得看CPU。内部优化太头疼了,然后就寄希望与多机器并行。

由于内部有类似于寻找最优点算法,每次运行耗时都会有不同,现在给出十次计算在我笔记本上耗时。

单纯for循环,三四百秒

在这里插入图片描述
在这里插入图片描述

multiprocessing 一百来秒

在这里插入图片描述
在这里插入图片描述

ray 也100来秒

在这里插入图片描述
在这里插入图片描述

现考虑如何利用ray进行多节点运算

在这里插入图片描述

查教程,给出下列命令

head 节点上
ray start --head --node-ip-address 192.168.20.178

worker节点上
ray start --address 192.168.20.178:6379

在这里插入图片描述
windows上第一次部署worker会有个报错,需要添加一个环境变量
在这里插入图片描述
head端没有问题了,但是worker node 出错
在这里插入图片描述
然后我把head与worker两台机器换了一下,报错变了,worker端需要用管理员身份运行cmd.
在这里插入图片描述
这就很明晰了,需要统一版本
在这里插入图片描述

看到这,很是激动,成功了?并没有,显示有两个节点了,但是当运行任务的时候worker node总会莫名的死掉,先记录到这,后面继续踩坑。

  • 7
    点赞
  • 4
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

小小鹅卵石

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值