在环境变量里设置了
PYSPARK_PYTHON = /home/qel/miniconda3/envs/Spark/bin/python
但是运行出错 Cannot run program "/home/qel/miniconda3/envs/Spark/bin/python": error=2, No such file or directory
在master上运行这个路径也是没问题;后来查询发现有两种可能:
https://stackoverflow.com/questions/45498049/encountered-a-error-that-cant-run-program-on-pyspark
1.路径下的python没有给所有用户权限
2.没有提交python 环境,这样在slave上没跑;
conda 打包环境:
还有一个问题: