PysparkNote002---Win下JupyterNoteBook配置pyspark

找到来填坑,安装的真费劲//发现只需要改一点点就可以了

环境

  • 环境:windows10
  • python :Anaconda
  • spark:spark-2.4.4-bin-hadoop2.7.tgz
  • hadoop:hadoop-2.7.0.tar
  • scala:scala-2.11.12

添加kernel

  • 路径:D:\code\anaconda\share\jupyter\kernels
  • 参考python3,新建pyspark文件夹和kernel.json文件
  • json文件配置如下
{
 "argv": [
  "D:\\code\\anaconda\\python.exe",
  "-m",
  "ipykernel_launcher",
  "-f",
  "{connection_file}"
 ],
 "display_name": "PySpark3",
 "language": "python",
 "env": {
  "SPARK_HOME": "D:\\code\\spark",
  "PYTHONPATH": "D:\\code\\spark\\python;D:\\code\\spark\\python\\lib\\py4j-0.10.7-src.zip",
  "PYTHONSTARTUP": "D:\\code\\spark\\python\\pyspark\\shell.py ",
  "PYSPARK_SUBMIT_ARGS": "pyspark-shell"
 }
}

之前一直参考mac的配置方法,结果PYTHONPATH设置的有问题。mac里两个路径之间是冒号:,window是分号:

                             2019-12-06 于南京市江宁区九龙湖

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值