livy安装部署有两种方式:直接下载Apache社区编译好的zip包安装部署,或者下载源码进行编译安装;本文采用Apache社区编译好的zip进行安装部署。
前提: 已经安装部署好CDH集群,版本为5.14.0
- 将livy安装包解压到/opt/cloudera目录下
[root@cdh001 ~]# ls /opt/cloudera/
apache-livy-0.7.0-incubating-bin csd parcel-cache parcel-repo parcels
- 创建livy用户、log目录并将livy的home目录属主修改为livy:hadoop
useradd livy -g hadoop
mkdir /var/log/livy
mkdir /var/run/livy
chown livy:hadoop /var/log/livy
chown livy:hadoop /var/run/livy
chown -R livy:hadoop /opt/cloudera/apache-livy-0.7.0-incubating-bin/
- 进入livy home目录,在conf目录下创建livy.conf、livy-env.sh、spark-blacklist.conf配置文件
livy.conf、livy-env.sh、spark-blacklist.conf
- 修改配置文件livy.conf,添加如下内容
livy.spark.master = yarn
livy.spark.deployMode = cluster
livy.environment = production