关于Sqoop同步数据的问题【已解决】

1. 问题描述

      最近某个表没有增量的数据,出现了问题,  于是调出日志,定位问题,结果是临时表中增量条件多了个and(大意多填了),

      

后来在拼接sql的时候,多一个and,导致增量sql没有执行成功,报了如下异常:   

java.sql.SQLSyntaxErrorException: ORA-00936: missing expression

最致命的是  这里没有邮件通知到,之前考虑到这部分是手动配置,插入临时表的,配完之后,跑一下没问题就行。就没有考虑容错。现在必须要考虑了,人都有犯错误的时候,在不知不觉中。

2.解决方案

    之前想用正则匹配一下,拼接好的Sql,不符合标准,就发邮件通知。后来就投机取巧用了现在的方法,先解决问题。就是在Sql执行的时候,判断执行完的状态,0为成功,其他为失败,发送邮件通知。部分代码如下:

######SQOOP数据采集异常邮件
if [ $v_state -eq 0 ];
  then
    echo "Sqoop数据采集成功"
else

sh /home/tomcat/script/oracle_ods/job_kettle_send_mail.sh "SQOOP数据采集异常:$V_SHELL_NAME" "表名:$V_MBBM"

fi

   后续数据也会搬到基于DataX二次开发的数据开发平台,现在这个平台确实有些地方还是不够完善。

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值