0070 IntelliJ IDEA+Scala+Hadoop +Spark的开发环境搭建

本文介绍了如何在Windows7环境下,利用IntelliJ IDEA搭建Scala 2.10.6、Hadoop 2.7.x和Spark 1.5.1的开发环境。详细讲解了Scala、Hadoop的环境配置,包括添加系统变量、验证安装,以及Spark的jar包导入。同时,文章提供了解决Hadoop winutils.exe缺失的问题,并展示了如何设置Spark日志信息级别以减少INFO输出。
摘要由CSDN通过智能技术生成

一、准备

必备环境:Windows7+JDK8.0,并已经安装了IntelliJ IDEA。

1、下载scala 2.10.6

http://www.scala-lang.org/download/all.html

2、下载spark-1.5.1-bin-hadoop2.3

http://spark.apache.org/downloads.html

选择对应版本。

3、下载hadoop-2.7.x

http://hadoop.apache.org/releases.html

选择binary下载。


二、环境配置

1、Scala环境配置

       解压安装包,假设放置于:D:\OpenSourceLab\TestProject\scala

系统变量添加:

变量名:SCALA_HOME

变量值:D:\OpenSourceLab\TestProject\scala

点击Path变量,在最末端添加D:\OpenSourceLab\TestProject\scala\bin;

注意以英文的分号结尾。

在cmd中输入:scala –version

若打印出类似以下的信息则环境配置完成。


2、hadoop环境配置

解压安装包,假设放在:D:\appForWork\hadoop-2.8.1

和步骤1类似的操作

       设置hadoop变量名为HADOOP_HOME,变量值为:

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值