Cannot run program "/home/qel/miniconda3/envs/Spark/bin/python": error=2, No such file or directory

本文探讨了在PySpark中设置Python环境时遇到的常见错误“Cannot run program”,并分析了两种可能的原因:一是Python执行文件权限不足,二是未正确提交Python环境导致在slave节点上运行失败。文中还提到了使用conda打包Python环境的方法。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

在环境变量里设置了

PYSPARK_PYTHON = /home/qel/miniconda3/envs/Spark/bin/python

 但是运行出错 Cannot run program "/home/qel/miniconda3/envs/Spark/bin/python": error=2, No such file or directory

在master上运行这个路径也是没问题;后来查询发现有两种可能:

https://stackoverflow.com/questions/45498049/encountered-a-error-that-cant-run-program-on-pyspark

1.路径下的python没有给所有用户权限

2.没有提交python 环境,这样在slave上没跑;

conda 打包环境:

 

还有一个问题:

 

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值