Spark2.0.1 + scala2.11.8 + hadoop2.7 + IDEA开发环境搭建

本文详细介绍了如何搭建Spark2.0.1、Scala2.11.8和Hadoop2.7的开发环境。首先,下载并解压Spark,配置环境变量;接着,安装Scala并验证安装成功;然后,集成Scala到IDEA中创建项目;再安装Hadoop,并解决winutils.exe相关问题;最后,通过maven创建Spark项目并编写WordCount程序,验证环境配置正确。
摘要由CSDN通过智能技术生成

注意:spark scala  hadoop直接的版本匹配非常重要!

一、Spark2.0.1安装

https://archive.apache.org/dist/spark/spark-2.0.1/中下载编译好的spark包,选择

因为已经编译好了,直接解压即可。但是注意:解压的路径中不能有空格。比如解压到D盘 :  D:\spark-2.0.1-bin-hadoop2.7

解压完成后,配置环境变量,path路径

然后在cmd中运行spark-shell

会提示没有hadoop环境,接下来会讲hadoop环境的安装!

二、scala 2.11.8 安装

https://downloads.lightbend.com/scala/2.11.8/scala-2.11.8.msi 下载scala

下载完成后,直接安装,安装完成后程序会自动在环境变量里添加path

在cmd中运行scala version 命令:

表示安装成功。

三、IDEA集成scala开发环境

可以参考:http://dblab.xmu.edu.cn/blog/1327/

首先下载IDEA的scala插件,在plugin插件商店安装

此处我已安装好,因为下载慢的原因,也可以直接从https://confluence.jetbrains.com/display/SCA/Scala+Plugin+for+IntelliJ+IDEA 去下载插件包,然后本地安装

安装完成重启IDEA后,创建scala projecr

选择IDEA,适合初学者,点击下一步,选择SDK,没有SDK可选,点击create,就可以看到之前安装好的scala2.11.8

然后新建个 scala object类,因为只有object才有main方法

  • 2
    点赞
  • 10
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值