Spark客户端安装

本文档详细介绍了如何在Linux环境中进行Spark客户端的安装,包括解压安装包、配置环境变量、拷贝hive-site.xml、启动及测试Spark-SQL。通过kinit或keytab两种方式验证Spark连接YARN客户端,并提供了相关SQL查询示例。
摘要由CSDN通过智能技术生成

1、减压安装包tar -zxvf spark-1.6.2-bin-hadoop2.6.tgz

2、到解压包下的conf下spark-env.sh下设置环境变量(根据自己的安装目录设置

export JAVA_HOME=/usr/java/openjdk1.8.0

export SPARK_HOME=/home/bdp/zminer/spark-1.6.2-bin-hadoop2.6

export HADOOP_CONF_DIR=/home/bdp/zminer/spark-1.6.2-bin-hadoop2.6/conf

export SPARK_LOCAL_DIRS=/home/bdp/zminer/sparkTmp/pid/tmp

export SPARK_PID_DIR=/home/bdp/zminer/sparkTmp/pid

3、spark-default.conf:文件配置可以不设置

4、把cdh集群里的hive 客户端的hive-site.xml文件拷贝到spark的conf目录下

5、启动如果主机环境已经默认了cloudera自带的spark环境变量,可以通过设置临时环境变量覆盖
export SPARK_HOME=/home/bdp/zminer/spark-1.6.2-bin-hadoop2.6

6、spark测试,转到spark的bin目录下:

方式一:

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值