oozie
RayBreslin
大数据开发、设计企业应用
展开
-
oozie(3):oozie配置Shell脚本调度
【参考官网:http://archive.cloudera.com/cdh5/cdh/5/oozie-4.1.0-cdh5.7.0/DG_ShellActionExtension.html】一、实现功能使用oozie调度运行本地shell脚本,实现脚本shell脚本自动化执行。二、步骤1.拷贝官方自带实例模板cp -r examples/apps/shell/ oozie-a...原创 2018-12-08 09:08:26 · 2267 阅读 · 2 评论 -
oozie(4):coordinator调度
一、实现功能定时任务执行。二、步骤1.配置统一系统时区(1)确认东八区date -R(2)不是的话修改,并且重启系统rm -rf /etc/localtime ln -s /usr/share/zoneinfo/Asia/Shanghai /etc/localtime2.修改oozie-site.xml(1)添加<property> ...原创 2018-12-08 09:17:53 · 571 阅读 · 0 评论 -
oozie(5):oozie配置调度HDFS 多action顺序执行
一、实现功能多个action联合操作,实现复杂功能。二、步骤1.复制shell实例,这里直接复制之前做的shell,只留下job.properties和workflow.xmlcp -r oozie-apps/shell oozie-apps/hdfs2.修改job.propertiesnameNode=hdfs://hadoop:8020jobTracker=ha...原创 2018-12-08 09:30:02 · 710 阅读 · 0 评论 -
oozie错误:job一直在running或者SUSPENDED,但是就是不执行。任务单独执行是可以的。
1.问题描述一个简单的mapreduce的wordcount任务,单独使用yarn调用时没有任何问题,可以跑出来。但是,放入yarn的时候,就会出现问题。一直时Running的状态,而且hadoop对应目录下也没有输出结果的目录,很是头痛。2.原因:经过百般查找和无限次尝试,发现是job.properties的jobTracker属性端口配置错误导致。因为Oozie去调用Ha...原创 2018-12-06 00:43:58 · 3921 阅读 · 0 评论 -
oozie(2):oozie配置调度MapReduce简单实例wordcount
一、实现功能使用oozie实现简单的wordcount的mapreduce实例任务调用。二、步骤1.在oozie根目录下创建目录mkdir oozie-apps2.解压缩根目录下原有的实例包tar -zxf oozie-examples.tar.gz3.把需要的模板复制到oozie-apps,并改名字cp -ra examples/apps/map-reduc...原创 2018-12-06 07:27:08 · 667 阅读 · 0 评论 -
oozie(1):oozie安装步骤
一、准备工作1.准备软件oozie和ext2.22.Hadoop3.mysql建数据库mysql> create database oozie;二、安装和配置1.上传解压oozie安装包tar -zxvf oozie-4.1.0-cdh5.7.0.tar.gz -C /opt/modules/2.修改hadoop里面的core-site.xml...原创 2018-12-04 07:48:53 · 721 阅读 · 0 评论