Linux编写执行程序脚本案例

1,执行hive语句

案例:hive导入数据

#!/bin/bash
HIVE_HOME=/opt/apps/hive-3.1.2/


DT=`date -d'-1 day' +%Y-%m-%d`

if [ $1 ]
then
DT=$1
fi

${HIVE_HOME}/bin/hive -e "
load data inpath '/eventlog/app/${DT}' into table ods.event_app_log partition(dt='${DT}')

"

if [ $? -eq 0 ]
then
echo "Congratulation! 任务执行成功"
else
echo "What a pity! The job is failed!执行失败"
fi

 

2,提交spark任务

#!/bin/bash

export SPARK_HOME=/opt/apps/spark-2.4.4

DT1=`date -d'-1 day' +%Y-%m-%d`
DT2=`date -d'-2 day' +%Y-%m-%d`

if [[ $1 && $2 ]] 
then
DT1=$1
DT2=$2
fi


${SPARK_HOME}/bin/spark-submit  --class cn.doitedu.dw_etl.utils.IdMappingGenRealData \
    --master yarn \
    --deploy-mode cluster \
    --driver-memory 1g \
    --executor-memory 2g \
    --executor-cores 1 \
	--num-executors  1 \
    /root/dw_etl.jar  yarn ${DT1} ${DT2}

if [ $? -eq 0 ]
then
echo "Congratulation! 任务执行成功"
else
echo "What a pity! The job is failed!执行失败"
fi

 

 

 

 

 

 

 

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值