在pycharm中使用PySpark第三方包时出现环境变量错误

项目场景:

使用python的第三方库pyspark,运行时出现环境变量错误


问题描述

问题如下:

Missing Python executable 'python3', defaulting to 'E:\python\Lib\site-packages\pyspark\bin\..' for SPARK_HOME environment variable. Please install Python or specify the correct Python executable in PYSPARK_DRIVER_PYTHON or PYSPARK_PYTHON environment variable to detect SPARK_HOME safely.

大概意思就是缺少SPARK_HOME的环境变量和PYSPARK_PYTHON的变量,需要在环境变量中配置

注意:使用pyspark算子的时候,可能会提示“找不到python解释器”的错误,那么配置PYSPARK_PYTHON同样可以解决这个问题


解决方案:

SPARK_HOME=E:\python\Lib\site-packages\pyspark
PYSPARK_PYTHON=E:\python\python.exe
%SPARK_HOME%\bin…

  1. 第一步:

在环境变量里面新建一个SPARK_HOME变量,值就是你pyspark安装的地方,我安装到下面的路径了,找自己pyspark安装的路径

E:\python\Lib\site-packages\pyspark

在这里插入图片描述

  1. 第二步:

然后在添加一个变量PYSPARK_PYTHON,变量值填上自己的python解释器的路径,我的路径是

E:\python\python.exe

在这里插入图片描述

  1. 第三步:

在path路径中添加SPARK_HOMEbin路径
在这里插入图片描述
重启pycharm,再次运行项目,发现成功运行成功


拓展:

刚才提到,使用pyspark算子的时候,可能会报错,提示找不到python解释器,这个一般不是我们代码逻辑的问题,而需要我们做一些配置

  1. 第一种方法:

    按照上面的步骤配置PYSPARK_PYTHON到环境变量,可以解决这个问题

  2. 在pycharm中手动配置python解释器

import os
os.environ['PYSPARK_PYTHON'] = "E:/python/python.exe"

environ本质就是一个字典,添加一个键值对,就是配置python的解释器

  • 4
    点赞
  • 11
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 3
    评论
评论 3
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Liminous..

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值