问题描述:
spark2 中python 版本为2.6,当执行操作的时候会报错,如下提示
step1:下载anaconda3 wget https://repo.continuum.io/archive/Anaconda3-5.0.1-Linux-x86_64.sh
并进如下载目录执行bash Anaconda3-5.0.1-Linux-x86_64.sh 进行安装
step2: 配置zeppelin UI 中配置spark 中python的位置,如下图
step3: 如果直接运行会提示
Exception:
Python in worker has different version 2.7 than that in driver 3.5, PySpark cannot run with different minor versions,
后面还会提示你说请确保正确设置PYSPARK_PYTHON and PYSPARK_DRIVER_PYTHON