后来我使用了CM5.13.3spark2kafka3.1.1解决了很多疑难杂症——hue增加spark交互式

需要准备

安装包
livy-0.5.0-incubating-bin.tar.gz
hue.ini配置

[desktop]
app_blacklist=

[spark]
livy_server_host=master.dffl.com
livy_server_port=8998
livy_server_session_kind=yarn

[notebook]
show_notebooks=true
enable_external_statements=true
enable_batch_execute=true

注意
目前livy只有单机选择安装于master主机

解压配置更名

[root@centos ~]# tar -zxf livy-0.5.0-incubating-bin.tar.gz -C /opt/modules/
[root@centos ~]# mv /opt/modules/livy-0.5.0-incubating-bin /opt/modules/livy-0.5.0

配置环境变量
[root@centos ~]# vim /etc/profile

export LIVY_HOME=/opt/modules/livy-0.5.0
export PATH=$LIVY_HOME/bin:$PATH

立即生效
[root@centos ~]# source /etc/profile

配置启动livy
livy-env.sh

export JAVA_HOME=/usr/local/java/latest/jdk1.8.0_191
export SPARK_HOME=/opt/cloudera/parcels/SPARK2/lib/spark2
export SPARK_CONF_DIR=/etc/spark2/conf
export HADOOP_CONF_DIR=/etc/hadoop/conf

livy.conf

livy.spark.master = yarn

切换hdfs用户
[root@centos ~]# su - hdfs
后台运行
[hdfs@centos ~]$ nohup ./livy-server > livy.out 2>&1 &
查看运行日志
[hdfs@centos ~]$ cat livy.out

最后重启hue安装完成出现spark交互式界面snippet

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值