Hive问题

1、hivemta库有问题。如果确定元数据可以删除的话,按照以下步骤处理
方案1:重建

  1. 在mysql或rds中 drop hivemeta库
  2. 在header机器上执行命令 schematool -initSchema -dbType mysql
  3. 在emr控制台页面重启hive metastore组件
    方案2:
    按顺序执行下面语句
    配置独立RDS,作为Hive的元数据管理,需要注意,RDS有没有对EMR 集群开通了安全组白名单

2、hive使用时用户使用自带的第三方jar
需要在hive_aux_jars_path添加jar包路径,或者将jar包放入/opt/apps/hive-delta

3、hive作业运行卡住原因:
①yarn运行资源不够
②磁盘满了
③作业依赖的外部数据网络不通

4、hive作业的case when 操作时报错:Internal error: Cannot add expression of different type to set
在这里插入图片描述
原因:这是calcite的bug,建议把CBO关掉,set hive.cbo.enable=false;

5、emr中hdfs的flow-agent的资源文件修复
hdfs dfs -rm -r -f /emr-flow
ps aux | grep flow | grep -v grep | grep flow-agentd | awk -F ’ ’ ‘{print $2}’ | xargs kill -9

6、emr集群使用统一元数据库报错
Caused by: com.mysql.jdbc.exceptions.jdbc4.MySQLSyntaxErrorException: User ‘53969d972bd6e888’ has exceeded the ‘max_questions’ resource (current value: 720000)
at sun.reflect.GeneratedConstructorAccessor8365.newInstance(Unknown Source) ~[?:?]
at sun.reflect.DelegatingConstructorAccessorImpl.newInstance(DelegatingConstructorAccessorImpl.java:45) ~[?:1.8.0_151]
at java.lang.reflect.Constructor.newIn

  • 2
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值