高可用spark安装与配置

本文详细介绍了如何在多节点环境中进行Spark的高可用安装和配置,包括设置JAVA_HOME、HADOOP_CONF_DIR、SPARK_MASTER_IP等环境变量,配置slaves和spark-defaults.conf文件,以及启动和关闭Spark服务的步骤。同时,强调了检查Hadoop集群状态和验证监控功能的重要性。
摘要由CSDN通过智能技术生成

(1)解压安装包到/usr/local下。

tar -zxf /opt/spark-1.6.3-bin-hadoop2.6.tgz -C /usr/local

(2)进入/usr/local/spark-1.6.3-bin-hadoop2.6/conf。

cd /usr/local/spark-1.6.3-bin-hadoop2.6/conf

3)配置spark-env.sh文件,复制spark-env.sh.template文件,重命名为spark-env.sh。

配置spark-env.sh文件

Java的路径:

JAVA_HOME=/usr/java/jdk1.8.0_151

hadoop的路径:

HADOOP_CONF_DIR=/usr/local/hadoop-2.6.5/etc/hadoop

spark主节点的ip:

SPA

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值