CDH Oozie 安装,使用,优化小技巧

前言

突然想用oozie管理任务就安装了一个,把一些东西记录下来。在这之前的cdh我没有写,话不多说开干。

介绍

Oozie是一个基于工作流引擎的服务器,可以在上面运行Hadoop的Map Reduce和Pig任务。它其实就是一个运行在Java Servlet容器(比如Tomcat)中的Javas Web应用。

对于Oozie来说,工作流就是一系列的操作(比如Hadoop的MR,以及Pig的任务),这些操作通过有向无环图的机制控制。这种控制依赖是说,一个操作的输入依赖于前一个任务的输出,只有前一个操作完全完成后,才能开始第二个。

Oozie工作流通过hPDL定义(hPDL是一种XML的流程定义语言)。工作流操作通过远程系统启动任务。当任务完成后,远程系统会进行回调来通知任务已经结束,然后再开始下一个操作。

Oozie工作流包含控制流节点以及操作节点

控制流节点定义了工作流的开始和结束(start,end以及fail的节点),并控制工作流执行路径(decision,fork,join节点)。操作节点是工作流触发计算\处理任务的执行,Oozie支持不同的任务类型——hadoop map reduce任务,hdfs,Pig,SSH,eMail,Oozie子工作流等等。Oozie可以自定义扩展任务类型。

Oozie工作流可以参数化的方式执行(使用变量${inputDir}定义)。当提交工作流任务的时候就需要同时提供参数。如果参数合适的话(使用不同的目录)就可以定义并行的工作流任务。

1,安装

这个安装还是很简单的只要把mysql数据库驱动包拷贝到安装oozie服务的机器上的/var/lib/oozie 目录下,即可!
还有就是注意要安装在有spark的机器上,然后点击继续就安装好了。
cdh安装完了之后会出现
这里写图片描述
补充:oozie页面的配置
CDH刚配置好的时候,oozie页面会报错:
Oozie web console is disabled.
To enable Oozie web console install the Ext JS library.
Refer to Oozie Quick Start documentation for details.

安装这个操作即可:
http://archive.cloudera.com/gplextras/misc/
下载
mv ext-2.2.zip /var/lib/oozie/
cd /var/lib/oozie
unzip ext-2.2.zip
chown -R oozie:oozie ext-2.2

刷新页面:http://192.168.1.207:11000/oozie/
果然ok了!

使用

弄好之后
需要将 jar 包放到hdfs上 然后执行
oozie job -oozie http://ip:11000/oozie/ -config /user/example/examples/apps/map-reduce/job.properties -run
job.properties 也在hdfs上
可以去官网了解详细

  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
CDH,即Cloudera Distribution for Hadoop,是一个基于Hadoop的大数据分析平台。下面是CDH安装使用的简要教程。 1. 准备工作:确保你有一台运行Linux系统的机器作为服务器,确保能够访问互联网和安装软件的权限。 2. 下载CDH:访问Cloudera官方网站,注册并下载CDH的软件包,选择适合你系统的版本。 3. 安装Java:CDH依赖Java运行,确保在服务器上安装了Java并配置好环境变量。 4. 安装CDH:解压下载的CDH软件包,并按照Cloudera提供的文档进行安装步骤。 5. 配置CDH:通过编辑配置文件,根据自己的需求设置CDH的相关参数,如内存分配、存储路径等。 6. 启动CDH:运行启动命令,启动CDH的各个组件,如HDFS、YARN等。 7. 使用CDH使用CDH的各个组件进行数据管理和分析。例如,使用HDFS进行数据存储和管理,使用YARN进行任务调度和资源管理。 8. 监控CDH:Cloudera提供了Web界面,可用于监控CDH的运行状态和性能指标。通过访问这个界面,你可以查看集群中各个组件的运行情况,及时发现和解决问题。 9. 维护CDH:根据需要进行集群的升级和维护。Cloudera提供了升级和维护文档,你可以按照文档进行相关操作。 以上是CDH安装使用教程的基本步骤。由于CDH是一个较为复杂的分布式系统,还有很多细节需要根据实际情况进行配置和调整。因此,在进行CDH安装使用时,建议参考Cloudera官方文档,以获得更详细的指导和帮助。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值